A Anthropic está lançando novos modelos de IA como parte de parcerias de segurança cibernética com Nvidia, Google, Amazon Web Services, Apple, Microsoft e outras empresas. O Projeto Glasswing é anunciado como uma forma de grandes corporações e até governos sinalizarem vulnerabilidades em seus sistemas praticamente sem intervenção humana.
A Anthropic está fornecendo aos parceiros de lançamento acesso ao Claude Mythos Preview, um novo modelo de uso geral que atualmente não tem planos de lançamento público devido a questões de segurança. Newton Cheng, líder cibernético da Anthropic Frontier Red Team, disse: A beira Idealmente, este modelo daria aos defensores cibernéticos uma “vantagem” sobre os seus adversários. Os parceiros usam esse modelo para analisar sistemas, identificar vulnerabilidades de alto risco e ajudar a corrigi-las. O acesso é restrito para evitar que os mesmos invasores o utilizem para encontrar pontos fracos e realizar ataques.
Claude Mythos Preview não é treinado especificamente para fins de segurança cibernética, mas a Anthropic disse em um comunicado que a “poderosa tecnologia de codificação e inferência de agente” do modelo está por trás dos avanços na segurança cibernética. Em entrevista com A beiraNewton Cheng, líder cibernético do Frontier Red Team da Anthropic, recusou-se a compartilhar detalhes específicos sobre o sucesso da segurança cibernética do modelo fora da empresa. Exemplos publicados publicamenteMas nas últimas semanas, o Mythos Preview sinalizou “milhares de vulnerabilidades de alta gravidade, incluindo algumas em todos os principais sistemas operacionais e navegadores da web”, de acordo com a postagem do blog da Anthropic. A postagem no blog da Anthropic não faz menção à vigilância contínua de humanos para rastrear a segurança cibernética dos modelos. Ressaltam que, de fato, o modelo identificou vulnerabilidades e “desenvolveu (desenvolveu) muitos ataques relevantes de forma totalmente autônoma e sem intervenção humana”.
A existência do Claude Mythos Preview foi relatada pela primeira vez. transmissão Antrópico em violação de dados causada por erro humano. Dianne Penn, Diretora de Gerenciamento de Produto da Anthropic, disse: A beira Em entrevista, a empresa disse que estava “tomando medidas para fortalecer nossos processos. Isso não está de forma alguma relacionado a vulnerabilidades de software”.
O Mythos Preview está disponível de forma privada para parceiros da Glasswing, empresas como JPMorgan Chase, Broadcom, Cisco, CrowdStrike, Linux Foundation e Palo Alto Networks, bem como para aproximadamente 40 organizações que mantêm ou constroem infraestrutura de software. Neste momento, a Antrópica ajudará a subsidiar o custo de utilização. A empresa fornecerá até US$ 100 milhões em créditos de uso e doará US$ 4 milhões diretamente à Linux Foundation e à Apache Software Foundation, disse Cheng. A longo prazo, à medida que a Anthropic e outras empresas de IA enfrentam pressões de geração de receitas, o programa poderá evoluir para um serviço pago que forneça novos fluxos de receitas se funcionar suficientemente bem para que as empresas continuem a utilizá-lo.
Apesar de seu recente confronto de alto nível com a administração Trump, a Anthropic disse em um comunicado à imprensa que está “em discussões contínuas com funcionários do governo dos EUA sobre o Claude Mythos Preview e suas capacidades cibernéticas ofensivas e defensivas”. quando A beira Quando questionado sobre o que isso significa, Penn confirmou que a empresa “informou os altos funcionários do governo dos EUA sobre a Mythos e o que ela pode fazer” e que a empresa continua “comprometida em trabalhar em estreita colaboração com todos os diferentes níveis de governo”. Cheng disse que a Anthropic tem um “relacionamento” com o governo, mas se recusou a falar especificamente com qualquer pessoa informada pela empresa.
