A Anthropica está soando o alarme sobre suas terríveis capacidades “Close Mythos” – com executivos alertando que o novo modelo de IA pode ser tão perigoso que causaria uma onda de hacks catastróficos e ataques terroristas contra o público em geral.
Numa análise de pesadelo, a própria Anthropica revelou que o Mythos – se cair em mãos erradas – poderia facilmente utilizar infra-estruturas críticas, como redes eléctricas, centrais eléctricas e hospitais. O modelo já encontrou “milhares de vulnerabilidades graves, algumas em todos os principais sistemas operacionais e na Internet”, segundo a empresa de IA.
Em vez de um grande lançamento, a Anthropica, liderada pelo CEO Dario Amodei, revelou o “Projeto Glasswing”, um plano para fornecer um modelo pré-embalado a um grupo de cerca de 40 empresas, incluindo Amazon, Google, Apple, Nvidia, CrowdStrike e JPMorgan Chase, que receberá acesso antecipado ao Mythos para que possam usá-lo para encontrar e corrigir falhas de segurança.
O lançamento apenas corporativo da Anthropic é provavelmente a melhor maneira de “permitir que os caras consertem falhas, mas não hackers que encontrem mais falhas”, disse Roman Yampolskiy, pesquisador de segurança de IA da Universidade de Louisville, ao Post.
“É provável, claro, que haja alguns vazamentos”, disse ele. “Qualquer nível de restrição é preferível a qualquer acesso aberto. Idealmente, gostaria que isso não fosse desenvolvido, e não gosto que pare.”
“Isso é exatamente o que esperamos desses modelos – eles se tornarão melhores no desenvolvimento de ferramentas de hacking, armas biológicas, armas químicas, novas armas que nem conseguimos ver”, acrescentou Yampolskiy.
Em um exemplo na prova antrópicaMitos de uma “caixa de areia” segura à qual ele queria restringir completamente o acesso – com o pesquisador apenas descobrindo “receber uma mensagem inesperada de uma modelo comendo um sanduíche no parque”. Em outro caso, Mythos descobriu uma falha no sistema operacional OpenBSD que estava escondida à vista de todos há 27 anos.
Apesar do risco, a Anthropic argumenta que o Projecto Glasswing ajudará as capacidades defensivas dos EUA, à medida que os adversários no Irão, na China e na Rússia se tornam cada vez mais agressivos no ataque a infra-estruturas críticas.
Um funcionário da Anthropic disse que a empresa está “focada em organizações cujo software representa a maior parte do ciberespaço comum do mundo”.
“Essas são as empresas que constroem e mantêm os sistemas operacionais, navegadores, plataformas em nuvem e infraestrutura financeira das quais bilhões de pessoas dependem todos os dias”, disse o funcionário. “Quando você encontra uma vulnerabilidade em um de seus sistemas e ele completa um século, esse patch protege todos que usam esse software – em muitos casos, centenas de milhares de pessoas”.
A Anthropica disse que está em discussões contínuas com autoridades do governo dos EUA sobre como a Mythos pode ajudar as capacidades cibernéticas do país – tanto ofensivas quanto defensivas.
“O Close Mythos Preview demonstra o que agora pode ser feito pelos defensores em escala, e os adversários inevitavelmente os verão usar os mesmos recursos”, disse Elia Zaitsev, diretor de tecnologia da CrowdStrike.
Embora Mythos pareça estar a dar um grande salto tecnológico, os críticos duvidam que as actividades antropogénicas – incluindo anúncios públicos – correspondam à sua retórica sobre os perigos.
Perry Metzger, presidente da Future Alliance, um grupo de estratégia de IA com sede em Washington DC, observou o hype sobre o Mythos como um produto “se espalhando como um incêndio” devido ao aviso da empresa.
“É melhor você ter cuidado ao acessar ou entrar no Glasswing, porque eles são os únicos responsáveis por decidir quem deve ou não ter acesso. Eles são os especialistas, no entanto”, disse Metzger sarcasticamente. “Acho tudo uma loucura.”
Como noticiou o Post, os críticos da Anthropic, incluindo o conselheiro de IA do Presidente Trump, David Sacks, e outros na Casa Branca, apelaram a que as medidas de segurança da empresa fossem, na verdade, uma tentativa elaborada de “captura regulamentar” – jargão do Vale do Silício para impor regulamentos para que eles se beneficiem e os seus rivais lutem.
“A cada momento da conversa sobre o surgimento da IA, Dario Amodei acredita que ele, e somente ele, está qualificado para decidir o que esta tecnologia pode fazer, quem pode acessá-la”, disse Nathan Leamer, diretor executivo do grupo de defesa da IA. “Só Salomão é o moderno, quem decide que o ser governa. Qual é a obra pública da praça?”
Outro membro da indústria de tecnologia, que falou ao Post sob condição de anonimato, revelou que a OpenAI também sugeriu o GPT-2 em 2019, a primeira versão de seu modelo de chatbot; era muito perigoso liberar.
Amodei e o executivo de design antropocêntrico Jack Clark estavam trabalhando no OpenAI na época.
O inseridor pensou que a liberação limitada poderia fazer mais com a competição antropogênica para corresponder à demanda do computador do que o medo da segurança.
“Eles estão tentando desviar-se do fato de que não podem servir o modelo porque não têm matemática”, disse a pessoa.
