Em 2 de novembro de 2022, participei de um evento do Google AI na cidade de Nova York. Um dos temas foi ai. Quando ouvi a gerência falar sobre como combinar sua tecnologia com os valores humanos, percebi que o fechamento dos modelos de IA é uma faca de dois gumes. Os modelos podem ser ajustados para implementar uma perspectiva específica, por exemplo, não apenas minimizar o viés. O governo pode censurar fatos indesejados e solicitar manipulação para promover a propaganda. Imaginei isso como algo um regime autoritário como a China poderia adotar. Nos Estados Unidos, é claro, a Constituição impede que os governos mexam com a produção de modelos de IA criados por empresas privadas.
Nesta quarta-feira, o governo Trump anunciou um manifesto de IA, uma das questões mais importantes que o país enfrenta e até a humanidade, um amplo plano de ação. O plano geralmente se concentra em vencer a China na corrida pela hegemonia da AI. No entanto, parte disso parece estar mais sincronizada com o manual chinês. Em nome da verdade, o governo dos EUA agora quer que o modelo de IA siga a definição de Donald Trump desse termo.
Nenhuma intenção é encontrada como claramente declarado no plano de 28 páginas. Em vez disso, “é essencial que esses sistemas sejam construídos do arranhão com a liberdade de expressão e expressão em mente, e que as políticas do governo dos EUA não prejudiquem seus objetivos. Precisamos garantir que a liberdade de expressão floresça na era da IA e que a IA fornecida pelo federalmente reflita a verdade mais objetivamente do que a agenda da engenharia social”.
Tudo bem até a última frase. Isso levanta questões. Com quem você concorda? E o que exatamente é uma “agenda de engenharia social”? O próximo parágrafo dá pistas sobre isso. Isso instrui o departamento de comércio a analisar as regras da IA da era Biden e “eliminar desinformação, diversidade, equidade, inclusão e referências de mudanças climáticas”. (Cartas maiúsculas estranhas escritas em planos publicados.) É engenharia social reconhecer as mudanças climáticas? Quanto à verdade, em sua planilha de planejamento, a Casa Branca afirma que “o LLM é verdadeiro e prioriza a precisão histórica, a pesquisa científica e a objetividade”. Parece bom, mas isso vem de uma administração que restringe a história americana a uma interpretação de “emoção”. Enquanto isso, nesta semana, o relato social da verdade de Trump repositou o vídeo de IA de Obama na prisão.
Em um discurso promovendo o plano em Washington na quarta -feira, Trump explicou a lógica por trás da ordem: “Os americanos não querem despertar a loucura marxista com os modelos de IA”, disse ele. Mais tarde, ele assinou uma ordem executiva intitulada “Prevenção da IA despertada no governo federal”. Embora especifique que “o governo federal deve hesitar em regular a funcionalidade dos modelos de IA no mercado privado”, declara que “o contexto federal de compras tem a obrigação de não adquirir modelos que sacrifiquem a veracidade e a precisão na agenda ideológica”. Com todas as grandes empresas de IA que buscam contratos governamentais, a ordem parece ser um esforço de backdoor para garantir que o LLM geralmente seja fiel à história da Casa Branca, identidade sexual e outras interpretações dos problemas de botão quente. Se duvidarmos do que o governo considera uma violação, a ordem gasta vários parágrafos demonizando a IA que apóia a diversidade, evoca viés racial ou valoriza a igualdade de gênero. Alerta de Pogo-a ordem executiva de Trump proibindo o viés ideológico de cima para baixo é um exercício flagrante para o viés ideológico de cima para baixo.
Marx Madness
Cabe à empresa decidir como essas solicitações são tratadas. Conversei com um engenheiro do Openai nesta semana que está trabalhando na ação do modelo. O comportamento do modelo me disse que a empresa já queria neutralidade. No sentido técnico, eles disseram que atender aos padrões do governo como se estivessem acordando não deveriam ser um grande obstáculo. Mas isso não é uma controvérsia técnica. É uma controvérsia constitucional. Se empresas como antropia, OpenAI ou Google tentam minimizar o viés racial no LLM ou fazer escolhas conscientes para refletir os riscos das mudanças climáticas, as decisões que parecem exercer “liberdade de expressão e expressão” para exercer “liberdade de expressão e expressão” declaradas no plano de ação da IA provavelmente os protegerão. A obrigação do governo é negar um contrato governamental com a corporação que exerce seus direitos, que é a essência da interferência.
Você pode pensar que as empresas que construem a IA revidarão citando seus direitos constitucionais sobre o assunto. Mas até agora, nenhuma grande empresa de tecnologia se opôs publicamente aos planos do governo Trump. O Google comemorou seu apoio aos problemas de animais de estimação da Casa Branca, incluindo a melhoria da infraestrutura. A Humanity publicou um post positivo sobre o plano, mas reclamou no início deste mês que a Casa Branca estava repentinamente renunciando ao seu forte abandono de controle de exportação. O Openai diz que já está perto de alcançar objetividade. Não há nada em afirmar sua própria liberdade de expressão.
Sobre ações
No geral, os planos de ação da IA são um grande sucesso para as empresas de IA. O governo Biden exigiu o escrutínio da grande tecnologia, mas os planos de Trump são uma enorme luz verde gorda para a indústria e serão vistos como parceiros na luta nacional para derrotar a China. Isso permite que a autoridade de IA sopra essencialmente as objeções ambientais ao criar grandes data centers. Ele se promete apoiar a pesquisa de IA que flui para o setor privado. Também existem disposições que limitam os fundos federais nos estados que tentam regular a IA por conta própria. Este é um prêmio de conforto para a parte fracassada da conta do orçamento recente que teria proibido os regulamentos estaduais por uma década.
Mas para o resto de nós, o comando “Wake” não é tão facilmente descartado. A IA é um meio de notícias e informações cada vez mais. O princípio do estabelecimento dos EUA foi a independência de tais canais da interferência do governo. O governo atual viu como as empresas -mãe gigantes da mídia como a CBS comprometiam claramente os princípios dos jornalistas que apóiam os objetivos da empresa. Se estendermos essa agenda de “despertar” a um modelo de IA, não é irracional esperar acomodações semelhantes. O senador Edward Markey escreveu diretamente para CEOs da Alphabet, Anthropic, Openai, Microsoft e Meta. “Detalhes desta ordem executiva e planejam implementá -la permanecem desconhecidos”, escreveu ele. Em um comunicado para mim, ele disse: “Os republicanos querem usar o poder do governo para fazer bate -papo como Fox & Friends”.
Como você pode imaginar, essa visão não é compartilhada pela equipe da Casa Branca trabalhando no plano de IA. Eles acreditam que seu objetivo é a verdadeira neutralidade e que os contribuintes não precisam pagar pelos modelos de IA que não refletem verdades imparciais. De fato, o próprio plano aponta para a China como um exemplo do que acontece quando a verdade é manipulada. Ele instrui o governo a analisar o modelo de fronteira da República da China e determinar “a conformidade entre os pontos da conversa e censura do Partido Comunista da China”. A menos que os senhores corporativos da IA adquiram a espinha dorsal, as futuras avaliações do modelo de fronteira americana podem revelar um alinhamento de bloqueio entre tópicos da Casa Branca e censura. No entanto, mesmo se você consultar o modelo de IA, talvez não consiga encontrá -lo. acorde.
Esta é a edição do boletim informativo do Back Channel de Steven Levy. Leia relatórios anteriores de Steven Levy aqui.
