A IA é frequentemente vista como uma ameaça à democracia e uma bênção para os ditadores. Em 2025, os algoritmos poderão continuar a minar o diálogo democrático, espalhando abusos, notícias falsas e teorias da conspiração. Até 2025, os algoritmos continuarão também a facilitar a criação de sistemas de vigilância abrangentes nos quais toda a população seja monitorizada 24 horas por dia.
Mais importante ainda, a IA facilita a centralização de todas as informações e autoridade em um único hub. No século XX, as redes de informação descentralizadas como as dos Estados Unidos funcionavam melhor do que as redes de informação centralizadas como as da União Soviética. Isto porque os especialistas humanos do centro não conseguiram analisar todas as informações de forma eficiente. Substituir apparatchiks por IA poderia tornar as redes centralizadas de estilo soviético ainda melhores.
No entanto, a IA nem sempre é uma boa notícia para os ditadores. Primeiro, há o infame problema de controle. O controlo autocrático baseia-se no terror, mas os algoritmos não podem ser expostos ao terror. Na Rússia, a invasão da Ucrânia é oficialmente definida como uma “operação militar especial”, e chamá-la de “guerra” é um crime punível com até três anos de prisão. Se um chatbot na Internet russa chama isso de “guerra” ou menciona crimes de guerra cometidos pelos militares russos, como o regime pode tentar impedir o usuário de fazê-lo e punir o criador humano, mas isso é muito mais difícil? do que punir o usuário humano. Além disso, os bots autorizados poderiam desenvolver as suas próprias opiniões divergentes simplesmente detectando padrões no espaço de inteligência russo. Esse é o problema do alinhamento russo. Os engenheiros humanos da Rússia podem fazer o seu melhor para desenvolver uma IA que corresponda perfeitamente ao regime, mas dada a capacidade da IA de aprender e mudar por si só, é improvável uma IA que tenha a bênção do regime em 2024. Mas como pode a segurança dos engenheiros russos ser garantida? Iremos aventurar-nos em território ilegal em 2025?
A Constituição Russa faz grandes promessas: “A liberdade de pensamento e de expressão é garantida a todas as pessoas” (Artigo 29, Secção 1) e que “a censura é proibida” (Artigo 29, Secção 5). Poucos russos são suficientemente ingénuos para levar a sério estas promessas. Mas os bots não conseguem entender o discurso duplo. O chatbot, que foi instruído a respeitar as leis e valores da Rússia, leu a sua constituição e concluiu que a liberdade de expressão é um valor russo fundamental, e acusou o regime de Putin de violar esses valores e pode ser criticado. A Constituição garante a liberdade de expressão, mas como os engenheiros russos devem ensinar aos chatbots que os chatbots não devem realmente acreditar na Constituição e nunca devem mencionar a lacuna entre a teoria e a realidade. Será explicado?
A longo prazo, os regimes autoritários poderão enfrentar perigos ainda maiores. Em vez de criticar o governo, a IA poderia assumir o controle do governo. Ao longo da história, a maior ameaça aos ditadores veio geralmente dos seus próprios subordinados. Embora os imperadores romanos e os chanceleres soviéticos nunca tenham sido derrubados por revoluções democráticas, corriam sempre o risco de serem derrubados ou transformados em marionetas pelos seus subordinados. Os ditadores que derem demasiado poder à IA em 2025 poderão tornar-se seus fantoches no futuro.
As autocracias são muito mais vulneráveis a tais aquisições algorítmicas do que as democracias. Num sistema democrático descentralizado como o dos Estados Unidos, mesmo uma IA super maquiavélica teria dificuldade em tomar o poder. Mesmo que a IA conseguisse controlar o presidente dos EUA, poderia enfrentar oposição do Congresso, do Supremo Tribunal, dos governadores dos estados, dos meios de comunicação social, das grandes empresas e de várias ONG. Por exemplo, como um algoritmo lidaria com a obstrução do Senado? É muito mais fácil tomar o poder em um sistema altamente centralizado. Hackear uma rede autoritária exige apenas que a IA manipule um único indivíduo paranóico.
