A carta executiva do governo dos EUA à Anthropic pouco antes do fim de semana, forçando efetivamente a empresa a colocar off-line seus mais recentes modelos de IA, deveria ser um alerta para todas as empresas de tecnologia dos EUA, incluindo o Instituto de IA.
Leia sobre a barragem de notícias: Na tarde de sexta-feira, o Departamento de Comércio dos EUA enviou uma carta à Anthropic solicitando diretrizes vagas de controle de exportação que proibiriam não-americanos, incluindo funcionários da Anthropic, de acessar Fable 5 e Mythos 5, citando preocupações não especificadas de segurança nacional. A Anthropic disse acreditar que a carta está relacionada ao desvio do guardrail do modelo, mas não tem certeza porque a carta não fornece detalhes específicos. A carta não foi tornada pública.
Em resposta a isso, a antropologia fechar Fornecemos dois modelos principais a todos os clientes para garantir que cumprimos nossas diretrizes. Como resultado, o governo dos EUA forçou com sucesso as empresas tecnológicas a colocarem os seus modelos offline através de ações rápidas e unilaterais que não pareciam exigir aprovação judicial.
A intervenção da administração Trump na sexta-feira mostra que a indústria de IA não está imune à interferência governamental. É também um aviso para a indústria tecnológica em geral. O não cumprimento pode resultar no fechamento de você e de seu produto.
Citando a fonte: Eixos Ele explicou a situação tensa entre as duas grandes empresas no fim de semana, dizendo que “diferenças de personalidade” entre a Antrópico e a administração Trump levaram à ordem de exportação, em vez de problemas técnicos com o produto de inteligência artificial (IA).
Novos detalhes sobre o assunto que surgiram no fim de semana lançaram agora mais dúvidas sobre o raciocínio já instável do governo.
Katie Moussouris, veterana em segurança cibernética e pesquisadora que fundou a Luta Security, disse: De uma postagem de blog A Anthropic recentemente compartilhou com ela uma cópia pessoal de um artigo escrito por um pesquisador de segurança que descreve um suposto desvio do guardrail em Fable 5. (O Wall Street Journal informou que os autores do artigo: Sou pesquisador de segurança na Amazon..) Moussouris disse que a Anthropic o contatou para pedir-lhe que publicasse o artigo.
A postagem no blog de Moussouris explicou como os pesquisadores acionaram o desvio do guardrail, mas disse que o desvio em si “não deveria ter acionado os controles de exportação”. A diferença está entre pedir a um modelo de IA para “revisar seu código em busca de problemas de segurança” e pedir para ele “consertar esse código”. Embora as questões sejam colocadas de forma ligeiramente diferente, o resultado final é praticamente o mesmo.
Mussouris criticou as directrizes de controlo das exportações como precipitadas, coercivas e erradas, dizendo: “As acções descritas no documento não podem ser corrigidas de forma significativa e qualquer tentativa apenas prejudicará o modelo de defesa nacional”.
Moussouris e dezenas de outros pesquisadores e especialistas em segurança de alto nível apelaram mais tarde à administração Trump para rescindir a ordem de controle de exportação, chamando de “perigosa” a medida para retirar capacidades avançadas de segurança cibernética dos defensores da rede dos EUA.
As administrações anteriores tomaram decisões abrangentes sobre as lacunas de conhecimento. Por exemplo, a linguagem usada pelo governo dos EUA na década de 2010 para modificar as leis de exportação relativas a ferramentas de segurança cibernética que também poderiam ser usadas em ataques cibernéticos foi tão ampla que involuntariamente quase proibido Pesquisa legítima de segurança e vulnerabilidade.
Mas a directiva da administração Trump parece ser uma retaliação.
Justin Hendrix, Editor-chefe de editores de políticas tecnológicasEle disse que as ações da administração Trump “provavelmente levantarão alarmes entre o capital estrangeiro sobre a confiabilidade da IA dos EUA para aplicações críticas”. A mensagem é que não se pode confiar nas empresas americanas de IA para operar sem a interferência do governo dos EUA.
A administração Trump não forneceu uma razão para emitir a directiva de controlo de exportações. Os funcionários do governo interpretaram mal o relatório e ficaram assustados? O que o CEO da Amazon, Andy Jassy, disse a altos funcionários do governo que gerou uma resposta por cautela ou malícia? Algo se perdeu na tradução? Ou foi uma forma de o governo pressionar a Antrópico, com quem já mantinha uma relação tensa? A Casa Branca não reconheceu as consequências de longo alcance das exigências da carta, e as autoridades estão provavelmente a lutar para desfazer os danos que elas próprias criaram.
Nas palavras de Hendrix, “há uma nuvem de suspeita de que altos funcionários estejam escolhendo seus favoritos com base em fatores pessoais e políticos”. A consequência é que estabelece um precedente perigoso sobre o nível de controlo que o governo exercerá sobre o lançamento de software fabricado nos Estados Unidos.
Desta vez o governo discordou da Antrópica. Amanhã posso estar com outra pessoa.
Se você comprar através dos links de nossos artigos, poderemos receber uma pequena comissão. Isto não afeta a nossa independência editorial.
