Aqueles que estudam guerra nuclear para viver estão convencidos de que a inteligência artificial em breve fortalecerá armas mortais. Nenhum deles tem certeza do que exatamente isso significa.
Em meados de julho, o Nobel Laureates se reuniu na Universidade de Chicago para ouvir especialistas em guerra nuclear falar sobre o fim do mundo. Durante a sessão de fechamento de dois dias, cientistas, ex-funcionários do governo e membros aposentados elogios esclarecidos pelas armas mais devastadoras já criadas. O objetivo era educar algumas das pessoas mais respeitadas do mundo sobre uma das armas mais horripilantes já criadas e, como resultado, para incentivar os louvores a polir os líderes mundiais sobre como evitar a guerra nuclear.
O olho estava no coração de todos. “Estamos entrando em um novo mundo de inteligência artificial e tecnologias emergentes que afetam a vida cotidiana, mas afetam o mundo nuclear em que vivemos”, disse Scott Sagan, professor da Universidade de Stanford, conhecido por pesquisas sobre desarmamento nuclear, em conferência de imprensa no final de seu discurso.
Esta é uma afirmação de que considera a inevitabilidade do governo misturar IA e armas nucleares. Todo mundo com quem falei em Chicago acreditava nisso.
“É como eletricidade”, diz Bob Latif, um general da Força Aérea dos EUA aposentado e membro do boletim do Comitê de Ciência e Segurança dos Cientistas Atômicos. “Vai encontrar um caminho para tudo.” Latif é uma das pessoas que ajudam a montar o relógio final todos os anos.
“A conversa sobre IA e armas nucleares é dificultada por algumas questões importantes. A primeira é que ninguém realmente sabe o que é IA”, diz Jon Wolfsthal, diretor de risco global da Federação Americana de Cientistas e um especialista em proliferação que anteriormente era assistente especial de Barack Obama.
“O que significa dar ao controle da IA das armas nucleares? O que significa dar controle de armas nucleares (chip de computador)?” Pergunta a Herb Lynn, Professor Stanford e Alum of the Apocalypse. “Parte do problema é que os modelos de idiomas em larga escala assumiram o debate”.
Primeiro, boas notícias. Ninguém acha que o ChatGPT ou Grok receberão o código nuclear em breve. Wolfsthal diz que existem muitas diferenças “teológicas” entre especialistas nucleares, mas eles estão unidos nesse aspecto. “Nesse reino, quase todo mundo diz que deseja um controle humano eficaz sobre as decisões de armas nucleares”, diz ele.
Ainda assim, Wolfsthal ouviu outros sussurros sobre o uso do LLM, que está no coração do poder americano. “Muitas pessoas disseram: ‘Bem, veja, tudo o que quero fazer é garantir que ele saiba o que Putin e Xi fazem, e tudo o que quero fazer é garantir que eu possa criar esse conjunto de dados com grande confiança.
