EUEm junho de 2024, um ataque cibernético a uma empresa de serviços de patologia causou caos em hospitais de Londres. Mais de 10.000 compromissos foram cancelados. Seguiu-se escassez de sangue e atrasos nos exames de sangue morte do paciente.
Felizmente, ataques cibernéticos mortais como este são raros. Mas uma nova versão da IA poderia mudar isso; Poderia mergulhar-nos num mundo novo e aterrador de caos e perturbação nos sistemas digitais em que confiamos.
Esta semana, a Anthropic, uma das principais empresas de inteligência artificial de São Francisco, anunciado “Claude Mythos Preview”, um modelo de inteligência artificial que a startup diz ser perigoso demais para ser divulgado publicamente, graças às suas excepcionais capacidades de segurança cibernética e ataques cibernéticos. Empresa afirma que Mythos encontrou vulnerabilidades de segurança todos os principais navegadores e sistemas operacionais. Em outras palavras, este novo modelo de IA poderia ajudar os hackers a quebrar muitos dos softwares mais importantes do mundo.
“Isso é alarmante no nível do ano 2000”, disse um especialista em segurança em questão. A Mythos já encontrou um bug de 27 anos em uma peça crítica da infraestrutura de segurança e Múltiplas vulnerabilidades no kernel LinuxÉ essencial para sistemas de computador em todo o mundo. Essas vulnerabilidades podem ameaçar quase tudo na Internet, desde os serviços de streaming dos quais você confia até os sistemas bancários em que você confia.
Se tal tecnologia estivesse amplamente disponível e fosse tão capaz como as reivindicações antrópicas, as consequências poderiam ser desastrosas. Os ataques cibernéticos não são mais apenas um problema digital. Quase tudo em que confiamos no mundo físico envolve software. Nos últimos anos, aeroportos, hospitais e redes de transporte foram paralisados por ataques cibernéticos. Até agora, ataques desta escala exigiam conhecimentos especializados significativos. Mythos tornará essa habilidade acessível aos amadores e fortalecerá a capacidade dos profissionais de causar estragos.
Especialistas em segurança cibernética estão soando o alarme. Anthony Grieco, da empresa de redes e segurança cibernética Cisco, disse: “As capacidades de IA ultrapassaram um limite que mudou fundamentalmente a urgência necessária para proteger a infraestrutura crítica… e não há como voltar atrás”. Lee Klarich, chefe de gerenciamento de produtos da Palo Alto Networks, disse que o modelo “sinaliza uma mudança perigosa” e alertou que “todos precisam se preparar para invasores alimentados por IA”.
“Haverá mais ataques, ataques mais rápidos e ataques mais sofisticados”, disse Klarich em questão.
Felizmente, ainda não estamos completamente condenados. Em vez de divulgar o Mythos publicamente, a Anthropic primeiro o disponibiliza para empresas que administram grande parte de nossa infraestrutura crítica. Apple, Microsoft e Google. A esperança é que eles possam usar o Mythos para encontrar vulnerabilidades em sua segurança e corrigi-las antes que os malfeitores adquiram capacidades semelhantes.
Isso significa que agora estamos correndo contra o tempo. Devido à falta de regulamentação em nível nacional e internacional, nada obriga outras empresas a seguirem a estratégia de distribuição da Anthropic. Provavelmente será apenas uma questão de meses até que intervenientes menos responsáveis nos EUA ou noutros países introduzam um modelo com capacidades semelhantes. Quando fazem isso, só podemos esperar que o software em que confiamos esteja adequadamente protegido.
“Em tempos mais cooperativos, estaria optimista de que os Estados Unidos poderiam montar um esforço de toda a sociedade para se preparar para esta situação que se aproxima.”VulnpocalipseMas a administração Trump declarou guerra à Anthropic, proibindo agências governamentais e militares de usarem a sua tecnologia e chamando-a publicamente de “empresa de esquerda radical e acordada” por se recusar a permitir que os militares usassem as suas ferramentas para espionar em massa os americanos. Esta hostilidade significa que o governo não trabalhará com a Antrópico para fortalecer os seus próprios sistemas notoriamente desanimadores, um dos sistemas mais importantes a proteger.
Existem alguns motivos para otimismo. pode ser antrópico exagero Habilidades de Mythos: Afinal, ele tem interesse em promover seus próprios produtos. Mas as vulnerabilidades documentadas dos concorrentes e a vontade de fazer parceria com a Anthropic sugerem que a ameaça é real. Enquanto isso, algumas partes do governo estão prestando atenção: na terça-feira, o secretário do Tesouro dos EUA, Scott Bessent, e o presidente do Federal Reserve, Jerome Powell, teriam dito: coletado Os executivos de Wall Street estarão preparados para os riscos representados pela Mythos e pelos futuros modelos de inteligência artificial focados na segurança cibernética.
Mas o quadro geral é sombrio. Mythos não é apenas um problema de segurança cibernética, mas também uma solução alarmantemente boa. ajudando as pessoas a projetar armas biológicase às vezes conscientemente truques Abrange usuários e seus rastros. Isto é uma indicação dos riscos da IA “superinteligente” que a Antrópica e os seus rivais querem libertar na sociedade; Danem-se as consequências. Talvez tenhamos tempo para evitar riscos com o Mythos. Mas se os governos continuarem a permitir que estas empresas operem sem regulamentação, poderemos não ter tanta sorte no futuro.
-
Shakeel Hashim é o editor TransformadorUma publicação sobre o poder e a política da IA transformadora
