O Ministério da Justiça da Alemanha apresentará em breve medidas para ajudar as autoridades a combater de forma mais eficaz o uso de inteligência artificial para manipular imagens de formas que violam os direitos individuais, disse um porta-voz na sexta-feira.
Grok, o chatbot de IA integrado no site de mídia social X do bilionário Elon Musk, está sob investigação na Europa por seu chamado “modo picante”, que permite aos usuários gerar imagens sexualmente explícitas.
Uma investigação da Reuters descobriu que a geração de imagens por chatbot foi usada para criar imagens de mulheres e crianças minimamente vestidas, muitas vezes sem o consentimento dos indivíduos retratados.
No início desta semana, o ministro da comunicação social da Alemanha apelou à Comissão Europeia para que tomasse medidas legais para impedir o que chamou de “industrialização do assédio sexual” contra X.
Respondendo a perguntas sobre a controvérsia numa conferência de imprensa regular realizada pelo governo, a porta-voz do Ministério da Justiça, Anna Lena Beckfeld, disse que a Alemanha estava a preparar-se para levar o assunto aos tribunais nacionais.
“É inaceitável que operações em grande escala sejam utilizadas para violar sistematicamente os direitos individuais”, disse ela. “Queremos, portanto, poder usar o direito penal de forma mais eficaz para combater isso.” O ministério está trabalhando para fortalecer a regulamentação dos deepfakes e planeja promulgar legislação contra a violência digital para apoiar as vítimas, disse ele aos repórteres.
“Queremos tornar mais fácil para eles tomarem medidas diretas contra violações de direitos na Internet”, disse Beckfeld.
O ministério planeia apresentar propostas concretas num futuro próximo, mas acrescentou que não pode comentar detalhadamente os seus planos neste momento.
A xAI inicialmente ignorou as preocupações sobre a geração de imagens do Grok, mas agora restringiu esse recurso a assinantes pagos.
Musk disse na semana passada que qualquer pessoa que use chatbots para criar conteúdo ilegal enfrentará as mesmas consequências que se carregasse tal conteúdo diretamente.
