No início de agosto passado, o Point De Contact disse à Wired que apenas duas imagens de quatro servidores diferentes da Microsoft permaneciam. “Lamentamos profundamente essa questão como uma ONG por resolver quase 10 meses de comunicação entre as vítimas, a Microsoft e nós”, disse a ONG em um email na época.
O chefe de segurança digital da Microsoft, Gregoire, diz que a situação de Li estimulou sua equipe a tentar melhorar o processo de relatório e o relacionamento com os grupos de ajuda às vítimas. Segundo Gregoire, o Point de Contact sinalizou inicialmente os links que a empresa não tinha controle. Ela se recusou a elaborar a situação. Dilani diz que essa explicação nunca foi repassada a ele, e ainda não está claro por que o link não era “executável”.
Somente depois que Powell encurralou Thomas no caso da Liu poderia a Microsoft conseguir um URL onde poderia tomar medidas. “Somos gratos pela conexão voluntária do TrustCon, para ser completamente honesto”, diz Gregoire. Mas isso não deve ser necessário novamente: o ponto de contato agora tem uma maneira mais direta de manter contato, diz ela.
Outros grupos de ajuda à vítima dizem que os relacionamentos com os gigantes da tecnologia permanecem difíceis. No ano passado, uma investigação com fio revelou que os executivos do Google rejeitaram muitas idéias levantadas por funcionários e apoiadores externos que visavam ativamente o acesso a imagens problemáticas dos resultados da pesquisa. Alguns sobreviventes descobriram que a maneira mais rápida de remover o conteúdo é registrar uma reivindicação de direitos autorais.
Políticas e processos inconsistentes entre as empresas de tecnologia contribuem para atrasar a garantia de quedas, de acordo com Emma Pickering, diretora de tecnologia que promoveu o abuso em abrigos, a maior organização de abuso doméstico do Reino Unido. “Eles apenas respondem, mas fazem uma escolha, e a resposta geralmente é incrivelmente pobre”, diz ela. (O Google introduziu uma nova política em julho de 2024 para acelerar as remoções.)
Em particular, a Microsoft afirma que a Microsoft está fazendo o caso. “Recentemente, me disseram que queria estar envolvido com eles. Precisamos usar a plataforma deles e fornecer evidências de que os promovemos”, diz ela.
Gregoire, da Microsoft, diz que está investigando essas preocupações e adotando o diálogo. A empresa espera interromper a necessidade de quedas, em parte, assustando os autores. Em dezembro passado, a Microsoft processou um grupo de 10 indivíduos desconhecidos, supostamente contornando as salvaguardas do Azure, usando ferramentas de IA para atacar, incluindo Gregoire, que foi descrito como sexualmente prejudicial. “Não queremos abusar de nossos serviços para causar danos”, diz ela.
Para Li, a tarefa não acabou. De acordo com um link revisado pela Wired, os vídeos e imagens que representam seu nu permanecerão disponíveis em pelo menos um site “pornô grátis” auto-denominado. Ela também teve que colocar sua economia no desenvolvimento da Alecto AI devido ao apoio inativo para investidores. Dizem que alguns investidores disseram a ela para não usar sua própria experiência em seu campo. Liu diz que quando ele lançou um par homem-mulher, pensando em investir, eles riram da idéia de construir um negócio em torno da IA usar para detectar o abuso de imagem on-line. Depois de ser sacrificada, ela quase se matou, raramente os sacudiu, diz Li.
Em dezembro de 2024, mais de quatro anos e meio após o início do pesadelo, Liu encontrou uma fraca esperança. A proposta que ela propôs solicitar ao site remover imagens explícitas indesejadas dentro de 48 horas foi quase na mesa de Joe Biden na época. Eventualmente, ficou arquivado, mas o progresso real não estava muito perto. Liu e o grupo bipartidário de mais de 20 legisladores não desistiram. Em janeiro, eles reintroduziram a proposta, ameaçando possíveis penalidades de até US $ 50.000 por cada violação. O projeto aprovou o Senado na semana passada, apesar das objeções de grupos de direitos preocupados com a sobrecensoria. Até a Microsoft voltou para trás.
Se você ou alguém que você conhece precisar de ajuda, apoie 1-800-273-8255 por 24 horas gratuitas e 24 horas da linha de vida nacional de prevenção do suicídio. Para linhas de texto em crise, você também pode enviar mensagens de texto para a casa 741-741. Fora dos EUA, visite a crise da Associação Internacional de Prevenção de Suicídio em todo o mundo.
