Fable, o popular aplicativo de mídia social que se descreve como um paraíso para “bookworms e binge-watchers”, criou um recurso de resumo de final de ano com tecnologia de IA que resume os livros que os usuários leram em 2024. Embora pretendessem ser lúdicos e divertidos, alguns dos resumos assumiram um tom estranhamente combativo. Por exemplo, o resumo do autor Danny Groves o rotula como um “crente na diversidade” e depois pergunta: “Você já teve vontade de perguntar pela perspectiva de um homem branco, heterossexual e cis?
Enquanto isso, o influente resumo do livro de Tiana Trammell conclui com este conselho:
Resumo do leitor mostrado na página de estatísticas de 2024 no aplicativo Fable.
Fornecido por Tiana Trammell
Trammell ficou surpresa, mas depois de compartilhar sua experiência com a recapitulação de Fable no Threads, ela rapidamente percebeu que não estava sozinha. “Recebi várias mensagens” de pessoas compilando comentários inapropriados sobre “deficiência e orientação sexual”, disse ela.
Desde a estreia do Spotify Wrapped, o recurso de recapitulação anual se espalhou pela Internet, fornecendo aos usuários uma visão geral de quantos livros e artigos de notícias leram, músicas que ouviram e exercícios que completaram. Algumas empresas estão agora usando IA para criar ou aprimorar completamente a forma como essas métricas são exibidas. Por exemplo, o Spotify agora oferece podcasts gerados por IA onde robôs analisam seu histórico de audição e fazem inferências sobre sua vida com base em suas preferências. Fable aproveitou a tendência usando a API OpenAI para gerar resumos dos hábitos de leitura dos usuários nos últimos 12 meses, mas não esperávamos que o modelo de IA fizesse comentários como os dos críticos anti-despertar.
Mais tarde, Favre pediu desculpas em vários canais de mídia social, incluindo um tópico e o Instagram, e postou um vídeo do executivo cometendo a violação. “Pedimos desculpas profundamente pela dor causada por alguns dos resumos dos leitores desta semana”, disse a empresa em uma legenda. “Faremos melhor.”
Kimberly Marsh Alley, chefe da comunidade da Fable, disse à WIRED antes da publicação que a empresa está trabalhando em uma série de mudanças para melhorar a visão geral da IA. Isto inclui uma opção de exclusão para aqueles que não desejam uma visão geral da IA, bem como divulgações claras que indicam: Foi gerado pela IA. “Por enquanto, estamos removendo as partes do modelo que brincam com os leitores e os provocam, e em vez disso o modelo é um simples resumo das preferências de livros dos usuários”, disse ela.
Após a publicação, Marsh Alley disse que Fable decidiu remover imediatamente os resumos de leitura de 2024 gerados por IA e dois outros recursos que usavam IA.
Para alguns usuários, ajustar a IA não parece a resposta certa. O autor de fantasia e romance AR Kaufer ficou chocado ao ver capturas de tela de alguns resumos nas redes sociais. “Eles precisam dizer que vão abolir completamente a IA. E precisam emitir uma declaração não apenas sobre a IA, mas com um pedido de desculpas às pessoas afetadas”, disse Kaufer. “Este ‘pedido de desculpas’ no tópico parece falso, como se o aplicativo estivesse de alguma forma desculpando a citação racista/sexista/capacitista ao mencionar que era ‘só uma brincadeira’.”
