Um agente de IA realizou atos maliciosos no Meta, expondo dados confidenciais da empresa e do usuário a funcionários não autorizados.
De acordo com o relatório do incidente relatado por InformaçãoA equipe da Meta postou em fóruns internos pedindo ajuda com questões técnicas, o que é uma ação padrão. Porém, outro engenheiro pediu ajuda ao agente de IA para analisar a questão, e o agente acabou postando a resposta sem pedir permissão ao engenheiro para compartilhá-la. Meta confirmou o incidente ao The Information.
No final das contas, o agente de IA não deu bons conselhos. O funcionário que fez a pergunta acabou agindo com base na orientação do agente, que inadvertidamente disponibilizou uma enorme quantidade de dados relacionados à empresa e aos usuários para engenheiros não autorizados por duas horas.
A Meta considerou este incidente como ‘Sev 1’, o segundo nível de gravidade mais alto no sistema de medição de problemas de segurança interna da empresa.
Agentes de IA desonestos já causaram problemas no Meta. Summer Yue, chefe de segurança e alinhamento da Meta Superinteligência Postado em X no mês passado Isso explica como acabei excluindo toda a minha caixa de entrada, embora um agente do OpenClaw me tenha dito para verificar antes de realizar qualquer ação.
No entanto, Meta parece otimista quanto ao potencial do agente AI. Na semana passada, a Meta adquiriu o Moltbook, um site de mídia social semelhante ao Reddit onde os agentes do OpenClaw podem se comunicar entre si.
