As pessoas que estudar Guerra nuclear Para viver, tem certeza de que a inteligência artificial em breve poderá alimentar as armas mortais. Nenhum deles tem certeza do que exatamente isso significa.
Em meados de julho, o Nobel Laureates se reuniu na Universidade de Chicago para ouvir especialistas em guerra nuclear falar sobre o fim do mundo. Em sessões fechadas ao longo de dois dias, cientistas, ex -funcionários do governo e militares aposentados iluminaram os laureados sobre as armas mais devastadoras já criadas. O objetivo era educar algumas das pessoas mais respeitadas do mundo sobre uma das armas mais horríveis já feitas e, no final, fazer com que os laureados façam recomendações de políticas aos líderes mundiais sobre como evitar a guerra nuclear.
Ai estava na mente de todos. “Estamos entrando em um novo mundo de inteligência artificial e tecnologias emergentes que influenciam nossa vida diária, mas também influenciando o mundo nuclear em que vivemos”. Scott Saganum professor de Stanford conhecido por sua pesquisa sobre desarmamento nuclear, disse durante uma conferência de imprensa no final das negociações.
É uma declaração que considera a inevitabilidade dos governos que misturam a IA e as armas nucleares – algo com que todos com quem falei em Chicago acreditavam.
“É como eletricidade”, diz Bob Latiffum geral aposentado da Força Aérea dos EUA e membro do Boletim do Conselho de Ciência e Segurança dos Cientistas Atômicos. “Vai encontrar seu caminho para tudo.” Latiff é uma das pessoas que ajuda a definir o relógio do dia do juízo final todos os anos.
“A conversa sobre IA e armas nucleares é dificultada por alguns problemas importantes. A primeira é que ninguém sabe o que é a IA”, diz Jon Wolfsthal, um especialista em proliferação que é diretor de risco global na Federação de Cientistas Americanos e anteriormente era assistente especial de Barack Obama.
“O que significa dar ao controle da IA de uma arma nuclear? O que significa dar um controle (chip de computador) de uma arma nuclear?” pergunta Erva linum professor de Stanford e ex -alúmen do relógio do dia do juízo final. “Parte do problema é que grandes modelos de idiomas assumiram o debate.”
Primeiro, as boas notícias. Ninguém acha que o ChatGPT ou Grok receberão códigos nucleares em breve. Wolfsthal me diz que existem muitas diferenças “teológicas” entre especialistas nucleares, mas que estão unidos nessa frente. “Nesse reino, quase todo mundo diz que queremos controle humano eficaz sobre a tomada de decisões de armas nucleares”, diz ele.
Ainda assim, Wolfsthal ouviu sussurros de outros usos do LLMS no coração do poder americano. “Várias pessoas disseram: ‘Bem, veja, tudo o que quero fazer é ter um computador interativo disponível para o presidente para que ele possa descobrir o que Putin ou Xi farão e posso produzir esse conjunto de dados de maneira muito confiável. Eu posso obter tudo o que Xi ou Putin já disse e escreveu sobre qualquer coisa e ter uma probabilidade estatisticamente alta para refletir o que Putin disse’”, diz ele.
