DR;TL
Os hackers enganaram o chatbot habilitado para IA da Meta para que adicionasse um e-mail à conta do Instagram da vítima e redefinisse sua senha. Não há necessidade de acessar o e-mail da vítima.
Hackers sequestraram contas do Instagram no fim de semana.Ele engana o chatbot de suporte com tecnologia de IA do próprio Meta para lhe dar acesso. O ataque não exigiu acesso ao e-mail da vítima, link de phishing ou qualquer malware. O hacker simplesmente pediu ao chatbot para adicionar um novo endereço de e-mail à conta de alguém.
Um vídeo postado no X mostrou o processo passo a passo. Os hackers usaram VPNs para falsificar as supostas localizações de seus alvos para escapar da proteção automática de contas do Instagram. Em seguida, abrimos um bate-papo com o Meta AI Support Assistant e pedimos ao bot para adicionar um novo endereço de e-mail à conta de destino.
O chatbot enviou um código de verificação para o endereço de e-mail do hacker. O hacker compartilhou o código com o chatbot. O bot então exibiu um botão “Redefinir senha”. O hacker digitou uma nova senha e assumiu o controle da conta.
💜 da tecnologia da UE
As últimas novidades do cenário tecnológico da UE, a história do sábio fundador Boris e a questionável arte de IA. Receba-o em sua caixa de entrada gratuitamente todas as semanas. Cadastre-se agora!
Os hackers nunca precisaram de acesso ao endereço de e-mail legítimo associado à conta do Instagram da vítima. O TechCrunch confirmou que a caixa de correio pública do hacker mostrada no vídeo recebeu o código de verificação. Este ataque explorou uma falha fundamental. O chatbot de IA tratava a pessoa com quem estava conversando como titular da conta, sem verificar sua identidade.
As contas comprometidas incluíam a conta do Instagram da Casa Branca da era Obama, que está inativa desde 2017, e a conta do Comandante da Força Espacial dos EUA, John Bentivegna. A pesquisadora de segurança Jane Wong disse que sua conta também foi comprometida.
“Minha senha foi alterada sem meu conhecimento e ontem houve várias tentativas de redefini-la.“Disse Wong.”Estou bastante preocupado.”Vários usuários do Reddit e do X relataram sequestros semelhantes no mesmo fim de semana.
O porta-voz do Instagram, Andy Stone, disse na segunda-feira que o problema foi resolvido. Não está claro quantas contas foram comprometidas. Meta não respondeu ao pedido de comentário do TechCrunch.
Este ataque é um exemplo clássico de por que a implantação de chatbots de IA com permissões em nível de conta é arriscada. Os clientes Agentforce da Salesforce têm relutado em permitir que seus agentes de IA tomem ações financeiramente significativas devido a esses riscos. A analista Rebecca Wettemann explicou os temores:A IA funciona no meio da noite e reembolsa muitas transações.” Meta deu a uma IA a capacidade de redefinir senhas, e a IA fez exatamente o que foi solicitado pela pessoa errada.
O cenário de segurança dos agentes de IA está criando novas categorias de vulnerabilidades mais rapidamente do que as empresas conseguem resolvê-las. A exploração Claw Chain do OpenClaw transformou os privilégios de sandbox do agente em uma arma. Este ataque ao Instagram transformou em arma os direitos de gerenciamento de contas de um bot habilitado para IA. O que eles têm em comum: se um agente de IA estiver autorizado a realizar uma ação, a segurança do sistema depende inteiramente de o agente poder verificar quem está solicitando a ação.
O Meta AI Support Assistant foi projetado para reduzir o custo do atendimento humano ao cliente. Foi um sucesso. Também cria uma superfície de ataque que os agentes de suporte humanos não possuem. Um agente humano teria verificado a identidade do remetente antes de adicionar um novo email à conta. Os chatbots não eram assim.
Esta é a terceira falha de implantação de IA de alto perfil em uma semana. A Starbucks descartou um sistema de inventário de IA que calculava erros há nove meses. O recall de inundação do Waymo falha após duas semanas. O chatbot AI da Meta deu aos hackers as chaves de sua conta do Instagram. O padrão é consistente. Os sistemas de IA implantados em grande escala falham de maneiras que seus projetistas não previram, e as falhas têm consequências maiores do que a eficiência para a qual foram construídos.
