Uma empresa líder de inteligência artificial afirma ter impedido uma campanha de “espionagem cibernética” apoiada pela China que poderia infiltrar-se em empresas financeiras e agências governamentais praticamente sem supervisão humana.
A Anthropic, com sede nos EUA, disse que sua ferramenta de codificação Claude Code foi “manipulada” por um grupo apoiado pelo Estado chinês para atacar 30 organizações em todo o mundo em setembro, realizando “alguns ataques bem-sucedidos”.
Este é um “aumento significativo” em relação aos ataques anteriores com tecnologia de IA que rastreou, disse em uma postagem no blog. na quinta-feiraPorque Claude operava em grande parte de forma independente: 80 a 90% das operações envolvidas no ataque foram conduzidas sem um humano no circuito.
“O ator realizou o que acreditamos ser o primeiro caso documentado de ataque cibernético realizado em grande parte sem intervenção humana”, escreveu ele no comunicado.
A Anthropic não revelou quais instituições financeiras e agências governamentais foram alvo ou o que exatamente os hackers conseguiram, mas disse que conseguiram acessar os dados internos de seus alvos.
Ele disse que Claude cometeu vários erros na execução dos ataques, às vezes fabricando fatos sobre seus alvos ou alegando ter “descoberto” informações de livre acesso.
Os decisores políticos e alguns especialistas afirmaram que as descobertas são um sinal preocupante da capacidade de determinados sistemas de IA: ferramentas como o Claude podem agora funcionar de forma independente durante longos períodos de tempo.
“Acorde. Se não fizermos da regulamentação da IA uma prioridade nacional amanhã, ela irá destruir-nos mais cedo do que pensamos”, disse o senador norte-americano Chris Murphy. escreveu sobre X em resposta às descobertas.
“Os sistemas de IA podem agora executar tarefas que anteriormente exigiam operadores humanos qualificados”, disse Fred Heiding, investigador de segurança informática da Universidade de Harvard. “Está se tornando muito fácil para os invasores causarem danos reais. As empresas de IA não estão assumindo responsabilidade suficiente.”
Outros especialistas em segurança cibernética têm sido mais céticos, observando afirmações exageradas sobre ataques cibernéticos possibilitados pela IA nos últimos anos. Um “craqueador de senhas” alimentado por inteligência artificial Este método, que não superou os métodos tradicionais em 2023, sugeria que a Anthropic estava tentando criar entusiasmo em torno da inteligência artificial.
“Para mim, Anthropic descreve automação sofisticada e nada mais”, disse o especialista independente em segurança cibernética Michał Woźniak. “Há geração de código envolvida, mas isso não é ‘inteligência’, é apenas copiar e colar picante.”
Woźniak disse que o lançamento da Anthropic desvia a atenção de uma preocupação maior de segurança cibernética: empresas e governos estão integrando ferramentas de IA “complexas e mal compreendidas” em suas operações sem entendê-las, expondo-as a vulnerabilidades. A verdadeira ameaça, disse ele, são os próprios cibercriminosos e as práticas negligentes de segurança cibernética.
Após o lançamento do boletim informativo
Como todas as empresas líderes de IA, a Anthropic possui proteções para evitar que seus modelos ajudem em ataques cibernéticos ou encorajem danos em geral. Mas os hackers supostamente conseguiram derrubar essas barreiras, dizendo a Claude para desempenhar o papel de “um funcionário de uma empresa legítima de segurança cibernética” executando testes.
Woźniak disse: “A Anthropic vale cerca de US$ 180 bilhões e eles ainda não descobriram como não estragar seu veículo, que é uma tática que um garoto de 13 anos usa quando quer fazer um trote com alguém”.
Marius Hobbhahn, fundador da Apollo Research, uma empresa que avalia modelos de inteligência artificial para segurança, disse que os ataques eram um sinal do que poderia acontecer à medida que as capacidades aumentassem.
“Penso que a sociedade não está preparada para este tipo de ambiente em rápida mudança em termos de inteligência artificial e capacidades cibernéticas. Espero que muitos mais eventos semelhantes ocorram nos próximos anos, com consequências possivelmente maiores.”
