O chatbot de IA de Elon Musk, Grok, encerrou na sexta-feira sua capacidade de criar imagens para usuários X gratuitos após a reação depois de ter sido usado para criar deepfakes sexuais de mulheres e crianças.
A ferramenta de geração e edição de imagens de Grok, de propriedade de Elon Musk e desenvolvida pela xAI, está enfrentando reação negativa na plataforma de mídia social X depois que internautas levantaram preocupações sobre um chatbot gerando imagens nuas de mulheres e crianças.
Musk foi ameaçado com multas e vários países recentemente reagiram publicamente contra a ferramenta de criação de imagens sexualmente explícitas.
Respondendo a um usuário na plataforma de mídia social X de Musk, Grok postou: “A geração e edição de imagens estão atualmente limitadas a assinantes pagos.
Essa mudança significa que muitos usuários da ferramenta não poderão mais gerar ou editar imagens usando IA. Os clientes pagos devem fornecer informações de cartão de crédito e informações pessoais à plataforma.
A Comissão Europeia disse esta semana que fotos de mulheres e crianças nuas são ilegais e na quinta-feira ordenou que X preservasse todos os documentos e dados internos relacionados a Grok até o final de 2026.
O primeiro-ministro britânico, Keir Starmer, disse que X “precisa controlar isso” e instou o regulador de telecomunicações Ofcom a “colocar todas as opções sobre a mesa”, de acordo com relatos da mídia. Ele descreveu as imagens como “ilegais” e disse que o Reino Unido “não as tolerará”. França, Malásia e Índia também criticaram a plataforma de Musk nesta questão.
“Aqueles que usam Grok para criar conteúdo ilegal sofrerão as mesmas consequências que aqueles que enviam conteúdo ilegal”, escreveu Musk no X na semana passada em resposta a uma postagem sobre as imagens explícitas.
A conta oficial de “segurança” de X disse então que abordaria o conteúdo ilegal em X “excluindo, encerrando permanentemente contas e cooperando com as autoridades locais e as autoridades policiais, conforme apropriado”.
Atualmente, os usuários precisam se inscrever para acessar os recursos de geração de imagens do X, que foram originalmente liberados gratuitamente com limite diário.
No entanto, os usuários podem usar os recursos de geração e edição de imagens do Grok gratuitamente em um aplicativo separado.
A controvérsia sobre o X eclodiu em dezembro de 2025, quando foi descoberto que os usuários estavam abusando das ferramentas de Grok para editar e alterar fotos, incluindo despir digitalmente pessoas, incluindo crianças, ou retratá-las usando roupas mínimas, como biquínis.
A Reuters, a BBC e outras organizações de notícias também documentaram numerosos casos em que Grok produziu imagens sexuais de mulheres e menores.
