Código HTML do Conteúdo

Post: IA no governo - Schneier sobre segurança - Against Invaders - Notícias de CyberSecurity para humanos.

<article id="post-70667"> <div> <h2>IA no governo</h2> Apenas alguns meses após a retirada de Elon Musk de seu papel não oficial de liderança do Departamento de Eficiência Governamental (DOGE), temos uma imagem mais clara de sua visão de governo alimentado por inteligência artificial, e tem muito mais a ver com consolidar o poder do que beneficiar o público. Mesmo assim, não devemos perder de vista o fato de que um governo diferente poderia usar a mesma tecnologia para promover um futuro mais positivo para a IA no governo. Para a maioria da esquerda americana, o jogo final do DOGE é uma visão distópica de um governo dirigido por máquinas que beneficia uma pequena elite às custas do povo. Inclui IA <a href="https://www.washingtonpost.com/business/2025/07/26/doge-ai-tool-cut-regulations-trump/" target="_blank">Reescrever</a> governo governa em grande escala, bots sem salário <a href="https://www.theatlantic.com/technology/archive/2025/03/gsa-chat-doge-ai/681987/" target="_blank">Substituir</a> funções humanas e serviço público apartidário <a href="https://www.wired.com/story/white-house-elon-musk-xai-grok/" target="_blank">forçado</a> adotar uma abordagem alarmante <a href="https://www.npr.org/2025/07/09/nx-s1-5462609/grok-elon-musk-antisemitic-racist-content" target="_blank">racista e antissemita</a> Chatbot Grok AI construído por Musk <a href="https://www.nytimes.com/2025/09/02/technology/elon-musk-grok-conservative-chatbot.html" target="_blank">à sua própria imagem</a>. E, no entanto, apesar das proclamações de Musk sobre impulsionar a eficiência, pouca economia de custos se materializou e poucos exemplos bem-sucedidos de automação foram realizados. Do <a href="https://www.whitehouse.gov/presidential-actions/2025/01/establishing-and-implementing-the-presidents-department-of-government-efficiency/" target="_blank">princípio</a> da segunda administração Trump, o DOGE foi um substituto do Serviço Digital dos EUA. Essa organização, fundada durante o governo Obama para capacitar agências em todo o governo executivo com suporte técnico, foi substituída por uma supostamente encarregada de <a href="https://www.theguardian.com/us-news/2025/feb/10/who-is-russell-vought-trump-office-of-management-and-budget" target="_blank">Traumatizante</a> sua equipe e cortando seus recursos. O problema nesta distopia em particular não são as máquinas e suas capacidades sobre-humanas (ou a falta delas), mas sim os objetivos das pessoas por trás delas. Um dos maiores impactos dos esforços do governo Trump e do DOGE tem sido polarizar politicamente o discurso em torno da IA. Apesar da administração <a href="https://www.whitehouse.gov/presidential-actions/2025/07/preventing-woke-ai-in-the-federal-government/" target="_blank">protestando contra</a> “IA acordada” e o suposto viés liberal da Big Tech, algumas pesquisas sugerem que a esquerda americana agora é mensuravelmente mais <a href="https://jasonjones.ninja/social-science-dashboard-inator/jjjp-ai-daily-dashboard/ai-polarization.html" target="_blank">resistente</a> para desenvolver a tecnologia e pessimista sobre sua provável <a href="https://www.nbcnews.com/politics/nbc-news-polls/poll-americans-form-views-ai-divided-role-school-everyday-life-rcna212782" target="_blank">Impactos</a> em seu futuro do que seus colegas de direita. Isso segue um padrão familiar da política dos EUA, é claro, e ainda aponta para um potencial realinhamento político com consequências massivas. As pessoas estão moral e estrategicamente justificadas em pressionar o Partido Democrata a reduzir sua <a href="https://jacobin.com/2022/02/dems-gop-super-pacs-pelosi-bloomberg-warren" target="_blank">dependência</a> sobre financiamento de bilionários e corporações, particularmente no setor de tecnologia. Mas esse movimento deve dissociar as tecnologias defendidas pela Big Tech desses interesses corporativos. O otimismo sobre os potenciais usos benéficos da IA não precisa implicar apoio às grandes empresas de tecnologia que atualmente dominam o desenvolvimento da IA. Ver a tecnologia como inseparável das corporações é arriscar o desarmamento unilateral à medida que a IA muda os equilíbrios de poder em toda a democracia. A IA pode ser uma ferramenta legítima para construir o poder dos trabalhadores, operar o governo e promover o interesse público, e pode ser que mesmo quando seja explorada como um mecanismo para os oligarcas enriquecerem e promoverem seus interesses. Uma versão construtiva do DOGE poderia ter redirecionado o Serviço Digital para coordenar e avançar o <a href="https://www.cio.gov/policies-and-priorities/Executive-Order-13960-AI-Use-Case-Inventories-Reference/" target="_blank">milhares de casos de uso de IA</a> já sendo explorado em todo o governo dos EUA. Seguindo o exemplo de países como <a href="https://www.tbs-sct.canada.ca/pol/doc-eng.aspx?id=32592" target="_blank">Canadá</a>, cada instância poderia ter sido obrigada a fazer uma divulgação pública detalhada sobre como seguiria um conjunto unificado de princípios para uso responsável que preserva os direitos civis e promove a eficiência do governo. Aplicada a diferentes fins, a IA poderia ter produzido histórias de sucesso célebres em vez de nacionais <a href="https://www.washingtonpost.com/opinions/2025/03/21/doge-government-efficiency-federal-workers/" target="_blank">Embaraços</a>. Um governo diferente poderia ter disponibilizado amplamente os serviços de tradução de IA em serviços governamentais para eliminar as barreiras linguísticas para cidadãos, residentes e visitantes dos EUA, em vez de <a href="https://www.vorys.com/publication-what-president-trumps-english-only-executive-orders-mean-for-employers-nationwide" target="_blank">Revogando</a> alguns dos modestos requisitos de tradução anteriormente em vigor. A IA poderia ter sido usada para acelerar as decisões de elegibilidade para benefícios de invalidez da Previdência Social, realizando revisões preliminares de documentos, reduzindo significativamente o infame acúmulo de 30.000 americanos que morrem anualmente aguardando revisão. Em vez disso, as mortes de pessoas que aguardam benefícios podem agora <a href="https://www.sanders.senate.gov/wp-content/uploads/SSA-DOGE-Impact-Report.pdf" target="_blank">dobrar</a> devido a cortes do DOGE. A tecnologia poderia ter ajudado a acelerar o trabalho ministerial dos juízes federais de imigração, ajudando-os a reduzir o acúmulo de milhões de casos em espera. Em vez disso, os sistemas judiciais deve enfrentar esse acúmulo em meio <a href="https://www.npr.org/2025/07/15/nx-s1-5467710/immigration-judges-are-being-fired-despite-backlog-of-immigration-cases" target="_blank">Acendimentos</a> de juízes de imigração, apesar do atraso. Para alcançar esses resultados construtivos, muita coisa precisa mudar. Eleger líderes comprometidos em alavancar a IA de forma mais responsável no governo ajudaria, mas a solução tem muito mais a ver com princípios e valores do que com tecnologia. Como o historiador Melvin Kranzberg <a href="https://www.jstor.org/stable/3105385?seq=1&cid=pdf-reference#references_tab_contents" target="_blank">dito</a>, a tecnologia nunca é neutra: seus efeitos dependem dos contextos em que é usada e dos objetivos para os quais é aplicada. Em outras palavras, a valência positiva ou negativa da tecnologia depende das escolhas das pessoas que a exercem. O plano do governo Trump de usar a IA para promover sua reversão regulatória é um exemplo disso. DOGE tem <a href="https://www.washingtonpost.com/business/2025/07/26/doge-ai-tool-cut-regulations-trump/" target="_blank">Introduzido</a> uma “Ferramenta de Decisão de Desregulamentação de IA” que pretende usar por meio de tomada de decisão automatizada para eliminar cerca de metade de um catálogo de quase 200.000 regras federais. Isso segue propostas semelhantes de usar IA para revisões em larga escala do código administrativo em <a href="https://www.axios.com/local/columbus/2024/04/29/artificial-intelligence-ai-ohio-state-administrative-code-husted" target="_blank">Ohio</a>, <a href="https://statescoop.com/virginia-agentic-gen-ai-pilot-regulations/#:~:text=The%20initiative%2C%20which%20will%20make,transparency%20to%20reduce%20regulatory%20burden" target="_blank">Virgínia</a> e <a href="https://www.husted.senate.gov/press-releases/husted-introduces-bill-leveraging-ai-to-increase-efficiency-within-federal-code/" target="_blank">o Congresso dos EUA</a>. Esse tipo de revisão legal poderia ser perseguido de forma apartidária e não ideológica, pelo menos em teoria. Poderia ser encarregado de remover regras desatualizadas de séculos passados, simplificar disposições redundantes e modernizar e alinhar a linguagem jurídica. Essa revisão estatutária apartidária e não ideológica foi realizada em <a href="https://en.wikipedia.org/wiki/Statute_Law_Revision_Act_2007" target="_blank">Irlanda</a>– por pessoas, não por IA – e outras jurisdições. A IA é adequada para esse tipo de análise linguística em grande escala e em um ritmo furioso. Mas nunca devemos descansar em garantias de que a IA será implantada nesse tipo de maneira objetiva. Os proponentes dos esforços de Ohio, Virgínia, Congresso e DOGE são explicitamente ideológicos em seus objetivos. Eles veem “a IA como uma força para <a href="https://www.wsj.com/opinion/ai-can-be-a-force-for-deregulation-technology-government-ohio-federal-365ed0d4" target="_blank">desregulamentação</a>“, como disse um senador dos EUA que é um proponente, liberando as corporações de regras que, segundo eles, restringem o crescimento econômico. Nesse cenário, a IA não tem esperança de ser um analista objetivo desempenhando um papel funcional de forma independente; é um agente de proponentes humanos com uma agenda partidária. A moral dessa história é que podemos alcançar resultados positivos para os trabalhadores e o interesse público à medida que a IA transforma a governança, mas isso requer duas coisas: eleger líderes que representem e ajam legitimamente em nome do interesse público e aumentar a transparência na forma como o governo implanta a tecnologia. As agências precisam implementar tecnologias sob estruturas éticas, aplicadas por inspetores independentes e respaldadas por lei. O escrutínio público ajuda a vincular os governos atuais e futuros à sua aplicação no interesse público e à proteção contra a corrupção. Essas não são ideias novas e são as mesmas proteções que Trump, Musk e DOGE atropelaram nos últimos seis meses. <a href="https://www.axios.com/2025/05/21/musk-doge-supreme-court-transparency-lawsuit" target="_blank">Transparência</a> e <a href="https://cyberscoop.com/lawmakers-fear-elon-musk-doge-not-adhering-to-privacy-rules/" target="_blank">privacidade</a> requisitos foram evitados ou ignorados, os inspetores gerais de agências independentes foram <a href="https://campaignlegal.org/update/significance-firing-inspectors-general-explained" target="_blank">Despedido</a> e os ditames orçamentários do Congresso foram <a href="https://www.cbpp.org/research/federal-budget/trump-rescission-proposal-builds-on-illegal-impoundments-would-undermine" target="_blank">Interrompido</a>. Durante meses, nem ficou claro <a href="https://www.lawfaremedia.org/article/the-witaod-chronicles" target="_blank">quem está no comando</a> e responsável pelas ações do DOGE. Nessas condições, o público deve desconfiar do uso da IA por qualquer executivo. Achamos que todos devem ser céticos em relação ao ecossistema de IA de hoje e às elites influentes que o estão direcionando para seus próprios interesses. Mas também devemos reconhecer que a tecnologia é separável dos humanos que a desenvolvem, a exercem e lucram com ela, e que os usos positivos da IA são possíveis e alcançáveis. Este ensaio foi escrito com Nathan E. Sanders e publicado originalmente em <a href="https://www.techpolicy.press/doges-flops-shouldnt-spell-doom-for-ai-in-government/" target="_blank">Imprensa de Política Técnica</a>. Tags: <a href="https://www.schneier.com/tag/ai/" rel="tag" target="_blank">IA</a>, <a href="https://www.schneier.com/tag/llm/" rel="tag" target="_blank">LLM</a> <a href="https://www.schneier.com/blog/archives/2025/09/ai-in-government.html" rel="bookmark" target="_blank">Postado em 8 de setembro de 2025 às 7:05 AM</a> • <a href="https://www.schneier.com/blog/archives/2025/09/ai-in-government.html#respond" target="_blank">0 Comentários</a> </div> </article> Foto da barra lateral de Bruce Schneier por Joe MacInnis.