Recentemente passei férias na Itália. Como costuma acontecer hoje em dia, passei meu itinerário pelo GPT-5 em busca de recomendações de atrações e restaurantes. Bott relatou que a melhor opção para jantar perto de hotéis em Roma fica a uma curta caminhada pela Via Margutta. Acabou sendo uma das melhores refeições de que me lembro. Em casa, perguntei à modelo como ela escolheu aquele restaurante, que hesito em divulgar aqui caso precise de mesa no futuro (caramba, quem sabe se algum dia voltarei? Meu nome é Babette. Ligue antes para fazer uma reserva.) A resposta foi complexa e impressionante. Entre os fatores estavam ótimas críticas dos moradores locais, atenção em blogs gourmet e na imprensa italiana, e a famosa combinação de cozinha romana e moderna do restaurante. Ah, e uma curta caminhada.
Eu também precisava de algo, e isso era confiança. Tive que aceitar a ideia de que o GPT-5 era um corretor honesto e escolheria meu restaurante sem preconceitos. O restaurante não me apareceu como conteúdo patrocinado e não recebi nenhuma parte do cheque. Eu poderia ter feito uma pesquisa mais detalhada para verificar as recomendações (dei uma olhada no site), mas o objetivo de usar IA é evitar esse atrito.
Esta experiência fortaleceu a minha confiança nos resultados da IA, mas também me fez questionar. À medida que empresas como a OpenAI se tornam mais poderosas e procuram reembolsar os investidores, será que a IA é susceptível ao tipo de erosão de valor característico das aplicações tecnológicas que utilizamos hoje?
jogo de palavras
O autor e crítico de tecnologia Cory Doctorow chama essa erosão de “encitização”. Sua premissa é que plataformas como Google, Amazon, Facebook e TikTok visam inicialmente agradar os usuários, mas uma vez que derrotam seus concorrentes, tornam-se intencionalmente inúteis para gerar maiores lucros. Depois que a WIRED republicou o ensaio pioneiro de Doctorow de 2022 sobre o fenômeno, o termo se tornou um termo familiar, principalmente porque as pessoas perceberam que era totalmente correto. A enshittificação foi nomeada a Palavra do Ano de 2023 da American Dialect Association. Além de seus palavrões, o conceito é frequentemente citado e tem aparecido em locais que normalmente fariam ouvidos moucos a ele. O Sr. Doctorow acaba de publicar um livro de mesmo nome sobre o assunto. A imagem da capa é um emoji de…
Chatbots poderosos e agentes de IA podem ser piores do que tornar a pesquisa do Google inútil, enchendo os resultados de pesquisa da Amazon com anúncios e até mesmo fazendo com que o Facebook mostre menos conteúdo social em favor de clickbait indutor de indignação.
A IA está no caminho certo para se tornar nossa companheira constante, respondendo a muitas de nossas solicitações de uma só vez. As pessoas já contam com esta ferramenta para interpretar acontecimentos atuais e obter conselhos sobre todos os tipos de escolhas de compra e até mesmo escolhas de vida. Como os custos de criação de um modelo de IA completo são proibitivos, é razoável supor que apenas algumas empresas dominarão este campo. Todos eles planejam gastar centenas de bilhões de dólares nos próximos anos para melhorar seus modelos e colocá-los nas mãos do maior número de pessoas possível. Acho que a IA está atualmente no que Doctorow chama de estágio “bom para os usuários”. Mas a pressão para recuperar grandes investimentos de capital será imensa, especialmente para empresas com bases de utilizadores consolidadas. Essas situações, escreve Doctorow, permitem que as empresas explorem usuários e clientes empresariais para “recuperar todo o valor para si mesmas”.
Quando imaginamos o poder da IA, a primeira coisa que vem à mente é a publicidade. O pesadelo é que o modelo de IA faz recomendações com base nas empresas que pagaram taxas de referência. Embora este não seja o caso atualmente, as empresas de IA estão ativamente à procura de espaço publicitário. Em uma entrevista recente, o CEO da OpenAI, Sam Altman, disse: “Acreditamos que poderemos criar um excelente produto publicitário que seja benéfico para nossos usuários e que seja positivo para nosso relacionamento com nossos usuários”. Enquanto isso, a OpenAI acaba de anunciar um acordo com o Walmart para permitir que os clientes do varejista façam compras no aplicativo ChatGPT. Não consigo imaginar nenhum conflito acontecendo lá! A plataforma de pesquisa de IA Perplexity tem um programa onde os resultados patrocinados aparecem em acompanhamentos claramente identificados. No entanto, promete que “estes anúncios não alteram o nosso compromisso em manter um serviço confiável que forneça respostas diretas e imparciais às suas perguntas”.
