“Quando você olha para o abuso de imagens íntimas, a maior parte do seu uso como ferramentas e armas vem do espaço de código aberto”, diz Ajdel. Mas muitas vezes começam com desenvolvedores bem-intencionados, diz ele. “Alguém faz algo que considera interessante ou legal, e alguém com intenções maliciosas reconhece seu potencial malicioso e o transforma em uma arma.”
Alguns, como os repositórios que foram desativados em agosto, possuem comunidades dedicadas para uso explícito. Ajdel afirma que a modelo está se posicionando como uma ferramenta para pornografia deepfake, tornando-se um “funil” para abusos que atingem principalmente as mulheres.
Outros vídeos enviados ao site de streaming pornográfico por contas que creditam modelos de IA baixados do GitHub incluem os das celebridades Emma Watson, Taylor Swift, Anya Taylor-Joy e outros alvos menos conhecidos de deepfakes populares. , sobreposto a situações sexuais.
Os autores descreveram livremente as ferramentas utilizadas. Isso inclui duas ferramentas que foram limpas pelo GitHub, mas cujo código permanece em outros repositórios existentes.
Os perpetradores em busca de deepfakes se reúnem em vários locais on-line, desde fóruns comunitários secretos no Discord até locais visíveis no Reddit, complicando os esforços de prevenção de deepfakes. Um Redditor forneceu o serviço usando software de um repositório arquivado em 29 de setembro. Outro Redditor perguntou: “Alguém pode fazer isso com meu primo?”
Torrents do repositório principal que foram banidos pelo GitHub em agosto também estão disponíveis em outros lugares da web, demonstrando como é difícil reprimir software deepfake de código aberto em todos os níveis. Outras ferramentas pornográficas deepfake, como o aplicativo DeepNude, foram removidas de forma semelhante antes do lançamento de novas versões.
“Existem tantos modelos, tantas ramificações diferentes desse modelo, tantas versões diferentes”, disse Elizabeth Seeger, diretora de política digital do Demos, um think tank apartidário do Reino Unido. .” “Uma vez que um modelo está disponível para download público como código aberto, não há como devolvê-lo ao público”, acrescentou ela.
Um criador de pornografia deepfake que criou 13 vídeos adulterados e explícitos de celebridades femininas rotulou outro projeto de “NSFW”, incentivando o uso responsável e pedindo explicitamente aos usuários que não o usem para nudez. Creditado como um dos repositórios GitHub proeminentes onde a versão é vendida. Seu perfil no site de tubo afirma descaradamente: “Aprendemos todos os Face Swap AI disponíveis no GitHUB, sem usar nenhum serviço online”.
No momento em que a WIRED identificou o vídeo deepfake, o GitHub já havia desativado a versão NSFW. No entanto, outros repositórios marcados como versões “desbloqueadas” do modelo foram disponibilizados na plataforma em 10 de janeiro, incluindo um com 2.500 “estrelas”.
“É tecnicamente verdade que uma vez que[um modelo]é lançado, você não pode retirá-lo, mas ainda pode dificultar o acesso das pessoas”, disse Masu.
Se não forem controlados, os danos potenciais da “pornografia” deepfake não são apenas psicológicos, acrescentou ela. As ramificações incluem intimidação e manipulação de mulheres, minorias e políticos, como pode ser visto nos deepfakes políticos que estão a afetar mulheres políticas em todo o mundo.
Mas nunca é tarde para controlar o problema, e plataformas como o GitHub têm opções, como intervir no momento do upload, disse Seger. “Se você colocar um modelo no GitHub e o GitHub disser não e todas as plataformas de hospedagem disserem não, será difícil para uma pessoa comum obter esse modelo.”
A regulamentação da pornografia deepfake criada sob um modelo de código aberto depende dos legisladores, das empresas de tecnologia, dos desenvolvedores e, claro, dos próprios criadores de conteúdo abusivo.
Pelo menos 30 estados dos EUA também promulgaram algumas leis que abordam a pornografia deepfake, incluindo proibições, mas as definições e políticas variam, de acordo com um rastreador de leis da organização sem fins lucrativos Public Citizen. Os deepfakes no Reino Unido poderão em breve sentir toda a força da lei, depois que o governo do Reino Unido anunciou em 7 de janeiro que criminalizaria a criação e o compartilhamento de deepfakes sexualmente explícitos.
