Até agora, essas atividades não parecem ser a norma para todo o ecossistema de ransomware, mas os resultados representam um aviso severo.
“Definitivamente, existem grupos usando a IA para ajudar a desenvolver módulos de ransomware e malware, mas, na medida em que os futuros registrados sabem, a maioria não é”, diz Aranliska, analista de uma empresa de segurança gravada para uma empresa de segurança especializada em ransomware. “É a primeira vez que vejo mais IA sendo amplamente utilizada”.
Separadamente, os pesquisadores da empresa de segurança cibernética Eset alegaram nesta semana que descobriram “o primeiro ransomware conhecido pela IA”. Os pesquisadores dizem que o malware, que é executado principalmente localmente em máquinas e usa o modelo de IA de código aberto do OpenAI, pode “gerar scripts maliciosos da Lua no local”, que podem ser usados por hackers para segmentar metas, roubar dados e inspecionar arquivos que possam potencialmente implantar a criptografia. Embora o ESET considere esse código uma prova de conceito que parece não ter sido implantado nas vítimas, os pesquisadores enfatizam que mostra que os cibercriminosos estão começando a usar o LLM como parte de seu conjunto de ferramentas.
“A implantação do Ransomware de assistência de IA apresenta desafios específicos, principalmente devido ao tamanho do modelo de IA e seus altos requisitos computacionais. No entanto, os cibercriminosos podem encontrar maneiras de ignorar essas restrições”. “Quando se trata de desenvolvimento, é quase certo que os atores de ameaças estão explorando ativamente essa área, e existe a possibilidade de haver cada vez mais tentativas de criar ameaças mais sofisticadas”.
Embora o PromptLock não seja usado no mundo real, as descobertas humanas destacam ainda mais a velocidade na qual os cibercriminosos criam LLMs em suas operações e infraestrutura. A empresa de IA também encontrou outro grupo cibernético para rastrear como o GTG-2002. Usando o código Claude, ele ataca automaticamente alvos, acessa redes de vítimas, desenvolve malware, analisa dados, analisa itens roubados e desenvolve notas de resgate.
No mês passado, o ataque afetou “pelo menos” 17 organizações em governo, saúde, serviços de emergência e instituições religiosas sem nomear as organizações afetadas. “A cirurgia ilustra preocupações sobre a evolução do cibercrime suportado pela IA”, escreveu um pesquisador humano no relatório.
