Grande parte do conteúdo gerado pela IA foi usado para expressar apoio ou admiração por um determinado candidato. Por exemplo, um vídeo gerado por IA de Donald Trump e Elon Musk dançando a música “Staying Alive” dos Bee Gees foi compartilhado milhões de vezes nas redes sociais, inclusive pelo senador Mike Lee, R-Utah.
“É tudo uma questão de sinalização social. Essa é a razão pela qual as pessoas estão compartilhando essas coisas. Não é IA. Estamos vendo os efeitos da polarização eleitoral”, disse Bruce Schneier, professor da Harvard Kennedy School e engenheiro de interesse público. “Ao longo da história não tivemos eleições perfeitas e agora, de repente, temos IA e tudo é desinformação.”
Mas não interprete mal. Deepfakes enganosos circularam durante esta eleição. Por exemplo, nos dias anteriores às eleições no Bangladesh, circulou online um deepfake instando os apoiantes dos partidos políticos do país a boicotarem a votação. Sam Gregory, diretor de programa da organização sem fins lucrativos Witness, que ajuda as pessoas a usar a tecnologia para apoiar os direitos humanos e administra um programa de detecção de resposta rápida para organizações da sociedade civil e jornalistas, disse que sua equipe viu um aumento em incidentes deepfake este ano.
“Em vários contextos eleitorais, tem havido exemplos de utilização de meios de comunicação sintéticos na forma de áudio, vídeo e imagens, na prática, para serem enganosos ou perturbadores, para constranger jornalistas ou para serem incapazes de verificá-los ou refutá-los adequadamente”. Não houve”, diz ele. «O que isto mostra, diz ele, é que as ferramentas e sistemas actualmente em vigor para detectar meios gerados por IA ainda estão atrasados em relação ao ritmo de desenvolvimento tecnológico. Fora dos Estados Unidos e da Europa Ocidental, estas ferramentas de detecção são ainda menos confiáveis.
“Felizmente, a IA de forma enganosa não foi usada em grande escala na maioria das eleições ou de qualquer forma altamente consequente, mas melhorou as ferramentas de detecção e as das pessoas que mais precisam delas.” no acesso”, disse Gregory. “Agora não é hora de ser complacente.”
A própria existência de meios de comunicação sintéticos significa que os políticos podem alegar que os meios de comunicação reais são falsos, diz ele. Este é um fenômeno conhecido como “dividendo do mentiroso”. Em agosto, Donald Trump afirmou que a imagem de uma multidão reunida em um comício pela vice-presidente Kamala Harris foi gerada pela IA. (Esse não foi o caso.) Gregory disse que uma análise de todos os relatórios enviados à Unidade de Resposta Rápida Deepfake da Witness descobriu que em cerca de um terço dos incidentes, os políticos usam IA para disfarçar eventos reais, muitos dos quais continham conversas vazadas.
