A IA generativa está aumentando a velocidade do desenvolvimento de software, ao mesmo tempo que aumenta a capacidade dos invasores digitais de realizar hacks motivados financeiramente ou patrocinados pelo Estado. Isso significa que as equipes de segurança das empresas de tecnologia devem revisar mais códigos do que nunca, enquanto lidam com a pressão adicional de malfeitores. Na segunda-feira, a Amazon divulgará pela primeira vez detalhes sobre seu sistema interno, conhecido como Autonomous Threat Analysis (ATA). A empresa o utiliza para ajudar as equipes de segurança a identificar proativamente os pontos fracos da plataforma, realizar análises de variantes para procurar rapidamente outras falhas semelhantes e desenvolver correções e recursos de detecção que fecham as brechas antes que os invasores as encontrem.
O ATA nasceu de um hackathon interno da Amazon em agosto de 2024 e desde então se tornou uma ferramenta importante, disseram membros da equipe de segurança. Um conceito-chave subjacente ao ATA é que o ATA não é um único agente de IA desenvolvido para realizar testes de segurança e análises de ameaças de forma abrangente. Em vez disso, a Amazon desenvolveu vários agentes especializados de IA e competiu entre si em duas equipes para pesquisar rapidamente técnicas de ataque do mundo real e diferentes métodos que poderiam ser usados contra os sistemas da Amazon e recomendar controles de segurança para revisão humana.
“O conceito original pretendia abordar limitações significativas nos testes de segurança: cobertura limitada e o desafio de manter os recursos de detecção atualizados em um ambiente de ameaças em rápida evolução”, disse Steve Schmidt, diretor de segurança da Amazon, à WIRED. “Cobertura limitada significa que você não tem acesso a todo o software ou não tem pessoal suficiente para acessar todos os aplicativos. E embora seja ótimo analisar um conjunto de software, se você não mantiver os próprios sistemas de detecção atualizados à medida que o cenário de ameaças muda, você estará perdendo metade do cenário.”
Como parte da expansão do uso do ATA, a Amazon desenvolveu um ambiente de teste especial de “alta fidelidade” que reflete de forma muito realista os sistemas de produção da Amazon. Isto permite que o ATA ingira e gere telemetria real para análise.
A equipe de segurança da empresa também se concentra em projetar o ATA para que todas as técnicas que emprega e as detecções que gera sejam validadas com testes automatizados do mundo real e dados do sistema. Os agentes do Red Team que trabalham para descobrir ataques que poderiam ser usados contra os sistemas da Amazon executam comandos reais no ambiente de teste especial do ATA e geram logs verificáveis. As equipes azuis, ou agentes focados na defesa, usam telemetria do mundo real para confirmar se a proteção que propõem é eficaz. Ele também captura registros com registro de data e hora sempre que um agente desenvolve uma nova tecnologia para provar que suas afirmações são precisas.
Essa verificabilidade reduz falsos positivos e atua como “controle de alucinações”, disse Schmidt. Como o sistema está estruturado para exigir certos padrões de evidências observáveis, Schmidt argumenta que “as alucinações são estruturalmente impossíveis”.
