A Anthropic PBC desativou o acesso aos seus modelos de IA mais avançados, incluindo o Mythos, seguindo uma ordem sem precedentes da administração Trump para manter a tecnologia fora do alcance de todos os cidadãos estrangeiros.
No comunicado da empresa, afirma-se que o governo dos EUA disse à Anthropic para suspender o acesso aos modelos Fable 5 e Mythos 5 por qualquer cidadão estrangeiro “dentro ou fora dos Estados Unidos”, alegando preocupações de segurança nacional.
Uma autoridade dos EUA confirmou que o Departamento de Comércio enviou a carta. Desde então, o desenvolvedor do modelo desligou o acesso de todos os clientes a ambos os sistemas para garantir a compatibilidade.
Nunca antes o governo dos EUA tomou medidas tão abrangentes para restringir o acesso estrangeiro aos modelos de IA de fronteira desenvolvidos por uma empresa americana. As administrações Trump e Biden limitaram o acesso a outras tecnologias importantes, como semicondutores e supercomputadores no estrangeiro, e alguns debateram os méritos de bloquear o acesso a modelos de inteligência artificial. Mas as restrições ao próprio software levantaram preocupações constitucionais e comerciais.
A Anthropic disse acreditar que o governo dos EUA emitiu a ordem depois de descobrir que era possível fazer o “jailbreak”, ou contornar as grades de proteção, do Fable 5, uma versão lançada recentemente do Mythos que impedia a empresa de realizar tarefas de segurança cibernética.
“Discordamos que uma pequena descoberta de potencial jailbreak deva ser um motivo para revogar um modelo comercial que foi aplicado a centenas de milhões de pessoas”, disse a Anthropic em um post em seu site. “Acreditamos que se este padrão fosse implementado em todo o setor, basicamente interromperia todas as implantações de novos modelos para todos os fornecedores líderes de modelos.”
De acordo com uma reportagem do Wall Street Journal, pesquisadores da Amazon.com Inc. conduziram um estudo de jailbreak que revelou algumas vulnerabilidades no modelo da Anthropic.
A Amazon e o governo dos EUA entraram em contato sobre a vulnerabilidade antes da implementação dos controles, disseram pessoas familiarizadas com o assunto, que receberam anonimato para discutir conversas delicadas. O CEO da Amazon, Andy Jassy, esteve envolvido nessas compras, disse uma das fontes. A informação havia relatado anteriormente que Jassy havia levantado preocupações a altos funcionários dos EUA.
Um porta-voz da Amazon disse que não é incomum que os governos consultem a empresa sobre riscos de segurança, mas se recusou a compartilhar detalhes de tais discussões.
A decisão do governo de restringir tão amplamente o acesso a uma série de modelos de IA em nome da segurança nacional ameaça estabelecer um precedente para todos os principais desenvolvedores de modelos de IA, incluindo OpenAI, Google da Alphabet Inc. e Meta Platforms Inc. Nvidia Corp.
Nvidia Corp. “Este é um grande alerta para qualquer um que fosse ingênuo e talvez esperasse que esse poder não fosse usado”, disse Aidan Gomez, cofundador da startup de inteligência artificial Cohere Inc., em entrevista no sábado. “Ninguém pode negar isso agora.”
A Antrópica disse que recebeu a ordem do governo às 17h21. Horário de Nova York na sexta-feira. A orientação final contradiz declarações anteriores, bem como uma ordem executiva recentemente assinada pelo Presidente Trump que sugeria que a administração não iria prosseguir um regime de licenciamento para análises de modelos.
A diretriz de sexta-feira também ameaça aumentar as tensões de longa data entre a Anthropic e alguns membros da administração Trump. No início deste ano, o desenvolvedor de inteligência artificial entrou em conflito com o Pentágono sobre o uso da sua tecnologia para fins militares e de vigilância. Como resultado da explosão, a administração declarou a empresa um risco para a cadeia de abastecimento dos EUA e ordenou às agências dos EUA que eliminassem gradualmente a utilização dos seus produtos.
A empresa privada Anthropic, que há muito se posiciona como um desenvolvedor de IA mais responsável, lançou pela primeira vez o seu modelo Mythos a um grupo muito limitado de empresas e instituições em Abril, alertando que a sua capacidade de encontrar vulnerabilidades de segurança cibernética tornava demasiado arriscado implementá-lo de forma mais ampla.
Houve sinais de que a divulgação limitada foi uma tentativa de aliviar as tensões entre a Anthropic e a administração Trump: Em abril, o governo dos EUA estava se preparando para disponibilizar uma versão do Mythos às principais agências federais, informou a Bloomberg anteriormente.
A Mythos também intensificou os esforços da administração Trump na política de IA, que inclui uma recente ordem executiva pedindo uma revisão voluntária do modelo. Este despacho dizia claramente que nada nele deveria ser interpretado como a criação de um regime de licenciamento compulsório.
David Sacks, ex-czar da IA de Trump e atual copresidente do Conselho Presidencial de Consultores de Ciência e Tecnologia, disse que a Anthropic se recusou a consertar a fuga dos guardas no modelo Fable.
“A esperança do administrador é que a Anthropic resolva o problema de segurança, o controle de exportação seja removido e o Fable volte ao lançamento geral”, escreveu ele em um post no X. “O executivo quer que tudo isso aconteça o mais rápido possível. Francamente, é surpreendente que a Anthropic não queira atender às solicitações de segurança que ele disse anteriormente serem sua maior prioridade.
A última repressão do governo entra em conflito com uma corrida entre os desenvolvedores dos EUA para fornecer os modelos de IA mais avançados e provar aos investidores que a tecnologia pode gerar lucro. Tanto a OpenAI quanto a Anthropic pretendem abrir o capital ainda este ano, após o histórico IPO da própria SpaceX.
A pressa em fornecer modelos de IA de ponta estimulou a Anthropic a publicar um longo blog no início deste mês; Ele pediu a criação de um sistema onde os governos e os desenvolvedores de inteligência artificial decidiriam coletivamente quando desacelerar o trabalho na tecnologia para eliminar os riscos que ela poderia representar.
“Ter a opção de mostrar ou pausar temporariamente o trabalho de IA potencialmente perigoso seria bom para o mundo”, disse a empresa em um post na época. A empresa disse que a inteligência artificial está avançando ao ponto em que a tecnologia poderá tornar o trabalho humano milhares de vezes mais eficiente ou até mesmo substituí-lo, criando um novo conjunto de riscos.
O braço executivo da União Europeia disse que estava avaliando a declaração da Anthropic e continua a conversar com aliados sobre riscos potenciais e preocupações de segurança cibernética relacionadas a novos e poderosos modelos de inteligência artificial. A Comissão Europeia acrescentou que os desenvolvimentos recentes sublinham a necessidade da Europa de soberania tecnológica.
“Como alguém que trabalha na área, não fiquei muito animado em ver isso”, disse Gomez, da Cohere. “Não creio que seja uma parceria, não creio que seja a coisa certa a fazer para as alianças tecnológicas mais amplas que se desenvolveram nos últimos 80 anos.”
Eastland e Lowenkron escrevem para a Bloomberg. Com a ajuda de Shirin Ghaffary, Yi Wei Wong, Gian Volpicelli, Spencer Soper e Thomas Seal.
