Em 2025, será comum conversar com um agente pessoal de IA que conheça sua agenda, seu círculo de amigos e os lugares que você frequenta. Isso é vendido como uma conveniência equivalente à contratação de um assistente pessoal não remunerado. Estes agentes antropomórficos são concebidos para nos apoiar e fascinar, incorporando-os em todas as partes das nossas vidas e dando-lhes acesso profundo aos nossos pensamentos e ações. As interações habilitadas por voz tornam essa intimidade ainda mais próxima.
Essa sensação de segurança vem da ilusão de que estamos envolvidos com algo verdadeiramente humano: um agente que está ao nosso lado. É claro que esta fachada esconde um tipo de sistema completamente diferente em funcionamento, que atende às prioridades da indústria que não necessariamente se alinham com as nossas. Os novos agentes de IA terão muito mais poder para direcionar sutilmente o que compramos, aonde vamos e o que lemos. Esse é um poder extraordinário. Os agentes de IA são projetados para nos fazer esquecer nossas verdadeiras lealdades, sussurrando para nós em tons humanos. Esses são motores operacionais e vendem conveniência perfeita.
É muito mais provável que as pessoas concedam acesso total a um agente de IA útil que se sinta um amigo. Isto deixa os humanos suscetíveis à manipulação por máquinas que se aproveitam da necessidade humana de ligação social em tempos de solidão e isolamento crónicos. Cada tela se torna um teatro privado algorítmico, projetando uma realidade projetada para ser tão atraente quanto possível para um único público.
Este é o momento sobre o qual os filósofos nos alertam há anos. O filósofo e neurocientista Daniel Dennett escreveu antes de sua morte que enfrentamos um grave perigo com os sistemas de IA que imitam os humanos. Isso nos levará à tentação, da qual concordaremos com a nossa própria conquista. ”
O surgimento de agentes pessoais de IA representa uma forma de controle cognitivo que vai além dos instrumentos contundentes de rastreamento de cookies e publicidade comportamental para uma forma mais sutil de poder: a manipulação da própria perspectiva. O poder já não precisa de exercer a sua autoridade com uma mão visível que controla o fluxo de informação. É exercido através de mecanismos invisíveis de assistência algorítmica, moldando a realidade de acordo com os desejos de cada indivíduo. Trata-se de moldar os contornos da realidade em que vivemos.
Essa influência sobre a psique é um regime psicopolítico que determina o ambiente em que nossas ideias nascem, se desenvolvem e se expressam. Seu poder está em sua intimidade. Embora mantenha a ilusão de escolha e liberdade, penetra no âmago da nossa subjetividade e distorce a nossa paisagem interior sem que percebamos. Afinal, somos nós que pedimos à IA para resumir aquele artigo ou criar aquela imagem. Podemos ter o poder de instigar, mas a verdadeira acção está noutro lado: na concepção do próprio sistema. E quanto mais personalizado for o conteúdo, mais eficazmente o sistema poderá predeterminar os resultados.
Consideremos as implicações ideológicas desta psicopolítica. O controle ideológico tradicional dependia de mecanismos abertos como censura, propaganda e repressão. Em contraste, a governação algorítmica de hoje opera furtivamente e permeia a psique. É uma mudança da imposição externa de autoridade para a internalização da sua lógica. O campo aberto da tela de alerta é uma câmara de eco para um membro da tripulação.
Isso nos leva ao lado mais pervertido. Os agentes de IA criam uma tal sensação de segurança que fazer perguntas parece tolice. Quem ousaria criticar um sistema que tem tudo ao nosso alcance e atende a todos os nossos caprichos e necessidades? Como você pode ser contra a remixagem interminável de conteúdo? Mas essa chamada conveniência é o locus de nossa alienação mais profunda. Os sistemas de IA parecem atender a todos os nossos desejos, desde os dados usados para treiná-los, até as decisões sobre como são projetados, até os imperativos comerciais e publicitários que moldam seus resultados. Acabamos jogando o jogo da imitação em que jogamos nós mesmos.
