Um hacker enganou uma popular ferramenta de codificação de IA para instalar o OpenClaw – o agente de IA viral e de código aberto do OpenClaw que “realmente faz coisas” – em qualquer lugar. É engraçado, mas é um sinal do que está por vir à medida que mais e mais pessoas permitem que softwares autônomos usem seus computadores em seu nome.
Os hackers exploraram uma vulnerabilidade no Cline, um agente de codificação de IA de código aberto popular entre os desenvolvedores, de propriedade do pesquisador de segurança Adnan Khan. emergir à superfície apenas alguns dias antes como prova de conceito. Simplificando, o fluxo de trabalho de Klein usa Claude da Anthropic, que pode receber instruções sorrateiras e ser obrigado a fazer coisas que não deveria, uma técnica conhecida como injeção rápida.
Os hackers usam seu acesso para obter instruções de instalação automática de software nos computadores dos usuários. Eles poderiam ter instalado qualquer coisa, mas escolheram o OpenClaw. Felizmente, o agente não foi habilitado durante a instalação, ou a história teria sido muito diferente.
É um sinal da rapidez com que as coisas podem se desenrolar quando os agentes de IA recebem o controle de nossos computadores. Isto pode parecer um jogo de palavras inteligente – um grupo convence um chatbot a cometer um crime com poesia – mas num mundo de software cada vez mais autónomo, a injeção rápida é um grande risco de segurança que é muito difícil de combater. Percebendo isso, algumas empresas estão, na verdade, limitando os recursos das ferramentas de IA caso sejam hackeadas. OpenAI, por exemplo, introduziu recentemente um novo modo de bloqueio para ChatGPT que impede a divulgação de seus dados.
É claro que será mais difícil proteger-se de injeções imediatas se você ignorar os pesquisadores que relatam pessoalmente sua fraqueza. Khan disse que alertou Klein sobre a vulnerabilidade semanas antes de publicar suas descobertas. A exploração só foi corrigida depois que ele a anunciou publicamente.
