Os membros do chamado Departamento de Eficiência Governamental (DOGE) que estavam trabalhando no Departamento de Habitação e Desenvolvimento Urbano (HUD) usou inteligência artificial para informar decisões políticas. Agora, a agência parece estar a negar pedidos de informação da Lei da Liberdade de Informação sobre o desenvolvimento e utilização de ferramentas de IA, e a forma como estas informaram as decisões políticas, de acordo com documentos obtidos por um pedido FOIA da Democracy Forward, uma organização jurídica sem fins lucrativos.
Ano passado, WIRED relatado que Christopher Sweet, que era então um estudante do terceiro ano da Universidade de Chicago, se juntou à equipe DOGE no HUD, junto com Scott Langmackque veio para o DOGE vindo de uma startup de tecnologia imobiliária chamada Kukun. O foco principal da Sweet, de acordo com funcionários do HUD que conversaram com a WIRED na época, era usar inteligência artificial para identificar regras da agência para possíveis rescisões ou cancelamentos de contratos, bem como parte de um esforço semelhante em todo o governo.
Na época, os funcionários do HUD disseram à WIRED que os funcionários estavam sendo envolvidos para fornecer feedback sobre os regulamentos que foram sinalizados pela IA para rescisão. Outros funcionários, porém, descreveram o esforço como redundante.
Sweet se formou em economia pela Universidade de Chicago em junho; Langmack é agora o diretor executivo de IA de desregulamentação do Escritório de Gestão e Orçamento (OMB), subordinado ao Gabinete Executivo do Presidente, de acordo com seu LinkedIn.
Mais de 100 documentos solicitados pelo Democracy Forward sobre o uso de IA do HUD para tomada de decisões foram retidos. Entre as razões citadas pelo HUD para não divulgar documentos estavam um privilégio inexistente de IA e um privilégio para comunicações presidenciais que é real, mas geralmente aplicado apenas ao presidente e aos seus conselheiros imediatos. Vários dos documentos retidos, cujos nomes são partilhados na FOIA, mas cujo conteúdo permanece desconhecido, parecem indicar que a equipa DOGE do HUD estava a utilizar ferramentas de IA para ajudar a tomar decisões políticas.
Sweet, Langmack, HUD, OMB e a Casa Branca responderam aos pedidos de comentários.
Um documento, denominado “Abordagem de análise econômica definida pela GPT 11 10 25.docx”, que pertencia a Langmack, foi isento da FOIA porque foi rotulado como “contribuição deliberativa de IA”. Outro documento, intitulado “RegulatoryAnalysisPrompt.pdf”, também pertencente a Langmack, parece indicar que a equipe DOGE estava pensando em criar prompts para conduzir análises regulatórias. Vários dos outros documentos que foram retidos por fazerem parte do processo deliberativo foram rotulados como alguma forma de “análise regulatória” para diferentes programas do HUD, embora não esteja claro se a IA foi utilizada na sua criação.
Tori Noble, advogada da Electronic Frontier Foundation, diz que a falta de transparência sobre como as ferramentas de IA podem ser usadas na criação ou alteração de políticas é particularmente preocupante, porque sabe-se que as ferramentas alucinar, show biasou simplesmente entender as coisas erradas. “Não necessariamente saberíamos sempre como as ferramentas estão sendo usadas”, diz ela. “Portanto, ter acesso às instruções é realmente a melhor maneira de saber para que os funcionários estão usando essas ferramentas e quão prejudiciais esses usos podem ser.”
Atualmente não existem leis nos EUA que exijam que o governo divulgue se a IA foi utilizada na criação de regras, políticas ou regulamentos.
“Se a IA está a ser utilizada para avaliar políticas como uma das ferramentas do conjunto de ferramentas, penso que nesta fase do desenvolvimento e utilização da IA é um bom protocolo indicar isso”, afirma Mark Fagan, professor da Harvard Kennedy School. “Em parte para tentar construir confiança no uso da IA no governo.”
