Na Universidade de Stanford, dezenas de participantes travaram um longo bate-papo sobre os benefícios e também os riscos dos companheiros bots. “No final das contas, há muita concordância”, diz Sunny Liu, diretora do programa de pesquisa da Universidade de Stanford. Ela destacou o entusiasmo do grupo sobre “como podemos usar essas ferramentas para unir outras pessoas”.
segurança adolescente
Como os companheiros de IA podem impactar os jovens foi um tópico importante de discussão, com perspectivas de funcionários da Character.AI, uma empresa projetada para dramatização e popular entre adolescentes, e especialistas em saúde on-line para adolescentes, como o Laboratório de Bem-Estar Digital do Boston Children’s Hospital.
O foco nos usuários mais jovens ocorre no momento em que vários pais estão processando fabricantes de chatbots como OpenAI e Character.AI pela morte de seus filhos que interagiram com bots. Como parte da nossa resposta, a OpenAI adicionou novos recursos de segurança para adolescentes. E na próxima semana, Character.AI proibirá o acesso aos seus recursos de chat para usuários menores de 18 anos.
Ao longo de 2025, as empresas de IA reconheceram, explícita ou implicitamente, que mais pode ser feito para proteger os utilizadores vulneráveis, como as crianças, que podem interagir com companheiros. A Reuters relata que um metadocumento interno que descreve as diretrizes comportamentais da IA afirma que “envolver crianças em conversas românticas ou eróticas é aceitável”.
Em meio ao alvoroço que se seguiu de legisladores e pais indignados, a Meta mudou suas diretrizes e atualizou sua abordagem de segurança para adolescentes.
chamada de dramatização
Enquanto Character.AI participava do workshop, o site de RPG semelhante Replika e Grok, o bot de Elon Musk com um companheiro de anime NSFW, estavam ausentes. Os porta-vozes da Replica e da Grok não responderam imediatamente aos pedidos de comentários.
Em uma posição completamente flagrante, surgiram os desenvolvedores do Candy.ai, especializado em chatbots picantes voltados para homens heterossexuais. Os usuários da plataforma somente para adultos construída pela EverAI podem pagar para ter imagens não censuradas de mulheres sintéticas com histórias de fundo que imitam tropos pornográficos comuns. Por exemplo, as companheiras de Candy listadas em sua página inicial incluem Mona, sua “meia-irmã rebelde” que está sozinha em casa, e a filha de sua amiga, Elodie, que “acabou de completar 18 anos”.
