Os problemas da Antrópico com o governo dos EUA não parecem estar diminuindo. A empresa foi agora ordenada a: Suspende o acesso ao Fable 5 e Mythos 5. Aberto a todos os estrangeiros, incluindo funcionários estrangeiros da Antrópico que trabalham nos Estados Unidos.
A Antrópico informou que recebeu a orientação no dia 12 de junho e está desativando dois modelos para garantir a conformidade de todos os clientes. Outros modelos humanos não são afetados. O governo não descreveu publicamente todas as preocupações de segurança nacional, mas a Anthropic disse que entende que a ordem está ligada a métodos relatados para contornar ou desbloquear as salvaguardas do Fable 5.
Novos confrontos após luta no Pentágono
Este não é o primeiro confronto sério da Antrópico com Washington. No início deste ano, a empresa se envolveu em uma disputa com o Departamento de Defesa depois de se recusar a remover as restrições que impediam o uso total do Claude. armas autônomas Vigilância doméstica em grande escala. A luta levou a reivindicações de lista negra e ações legais, colocando a postura de segurança em primeiro lugar da Anthropic em conflito direto com alguns membros do governo dos EUA.
A orientação mais recente coloca a Anthropic de volta em uma posição familiar. Embora as autoridades estejam preocupadas com o acesso a poderosos sistemas de IA, a Anthropic afirma que as suas salvaguardas estão a ser mal compreendidas ou julgadas por padrões irrealistas.
Por que Fable 5 é uma preocupação
As preocupações sobre o Fable 5 têm a ver com os recursos avançados de segurança cibernética do Mythos 5. A Anthropic afirma que seus modelos da classe Mythos podem descobrir e explorar vulnerabilidades de software, e o Mythos 5 teria sido testado pela NSA e outros avaliadores relacionados ao governo antes de ser lançado de forma mais ampla. Estas capacidades podem ajudar as equipas de segurança a identificar e remediar pontos fracos, mas também podem representar preocupações de segurança nacional se utilizadas para fins ofensivos ou maliciosos.
Fable 5 foi lançado há poucos dias como uma versão pública do Mythos 5 com proteções mais rígidas. A Anthropic disse que foi projetado para bloquear ou redirecionar consultas confidenciais relacionadas à segurança cibernética e à biologia para o Opus 4.8.
antropologia diz Desvio relatado Apenas vulnerabilidades menores e já conhecidas foram descobertas, e outros modelos de divulgação podem fazer coisas semelhantes. No entanto, para um tema tão sensível como a segurança cibernética, a cautela é razoável. Se o Mythos 5 consegue identificar vulnerabilidades de software em alto nível, suas proteções por si só não são suficientes. Deve ser hermético. A Antrópica poderia argumentar que: Os jailbreaks relatados foram limitadosMas as preocupações do governo desta vez são fáceis de compreender. Neste caso, “melhor prevenir do que remediar” pode ser a posição mais defensiva do governo.
