Como IA generativa Ao mesmo tempo que acelera o desenvolvimento de software, também melhora a capacidade dos atacantes digitais de realizar hacks motivados financeiramente ou patrocinados pelo Estado. Isso significa que as equipes de segurança das empresas de tecnologia têm mais códigos para revisar do que nunca, ao mesmo tempo em que lidam com mais pressão de atores mal-intencionados. Na segunda-feira, a Amazon revelará pela primeira vez detalhes de um sistema interno chamado Autonomous Threat Analysis (ATA), que suas equipes de segurança estão usando para identificar proativamente pontos fracos na plataforma, realizar análises de anomalias para detectar rapidamente outras falhas semelhantes e, em seguida, desenvolver capacidades de remediação e detecção para tapar falhas antes que os invasores as descubram.
O ATA surgiu de um hackathon interno da Amazon em agosto de 2024, e os membros da equipe de segurança dizem que desde então ele se tornou uma ferramenta importante. A ideia por trás do ATA é que ele não seja um único agente de IA desenvolvido para realizar testes de segurança e análises de ameaças de forma abrangente. Em vez disso, a Amazon desenvolveu vários agentes especialistas em IA que competem entre si em equipes de dois para pesquisar rapidamente técnicas de ataque do mundo real e os vários métodos que poderiam ser usados contra os sistemas da Amazon e, em seguida, sugerir controles de segurança para revisão humana.
“O conceito inicial visava abordar limitações importantes dos testes de segurança, incluindo a cobertura limitada e o desafio de manter os recursos de detecção atualizados em um ambiente de ameaças em rápida evolução”, disse Steve Schmidt, diretor de segurança da Amazon, à WIRED. “Cobertura limitada significa que você não pode acessar todos os softwares ou acessar todos os aplicativos porque não tem pessoal suficiente. E embora seja ótimo analisar um conjunto de software, se você não mantiver o próprio sistema de detecção atualizado à medida que o cenário de ameaças muda, você estará perdendo metade do cenário.”
Como parte do uso expandido do ATA, a Amazon desenvolveu um ambiente de teste especial de “alta fidelidade” que reflete de forma muito realista os sistemas de produção da Amazon. Isto permite que o ATA colete e gere telemetria real para análise.
A equipe de segurança da empresa também projetou o ATA para garantir que todas as tecnologias que utiliza e as detecções que gera sejam validadas por meio de testes automatizados do mundo real e dados do sistema. Os agentes da equipe vermelha, trabalhando para encontrar ataques que possam ser usados contra sistemas Amazon, executam comandos reais no ambiente de teste especial do ATA, que gera logs verificáveis. As equipes azuis, ou agentes focados na defesa, usam a telemetria do mundo real para determinar se a proteção que propõem é eficaz. E cada vez que um agente desenvolve uma nova tecnologia, ele extrai registros com carimbo de data e hora para provar que suas afirmações são precisas.
Essa verificabilidade reduz falsos positivos e atua como “gerenciamento de ilusões”, diz Schmidt. Como o sistema é construído para exigir um certo padrão de evidência observável, Schmidt argumenta que “as alucinações são estruturalmente impossíveis”.
