A Antrópica está liderando o caminho. Pelo menos por enquanto.
O Departamento de Defesa dos EUA abordou a Anthropic esta semana exigindo que ela removesse as proteções de seu modelo de IA Claude para proibir a vigilância doméstica em massa e armas totalmente autônomas. No entanto, diz-se que a Anthropic nega isso. nova declaração Do CEO Dário Amodei, “Não podemos, em sã consciência, aceder ao seu pedido”, escreveu ele.
Muito dinheiro está em jogo. E o que acontece a seguir ninguém sabe.
No início desta semana, o secretário de Defesa Pete Hegseth deu à Antrópica sexta-feira às 17h01 horário do leste dos EUA para concordar em remover todas as salvaguardas, ameaçando remover Claude dos sistemas militares dos EUA ou designar a empresa como um “risco da cadeia de suprimentos”.
Hegseth, que chama o Pentágono de Departamento de Guerra, ameaçou invocar a Lei de Produção de Defesa, que teoricamente permitiria ao Pentágono exigir da humanidade tudo o que Hegseth quisesse.
Armoday “Estas duas últimas ameaças são inerentemente contraditórias: uma classifica-nos como um risco para a segurança, enquanto a outra classifica Claude como essencial para a segurança nacional”, observou Claude numa carta publicada online. Os especialistas chamam a mensagem contraditória de Hegseth de “inconsistente”, o rótulo também poderia ser aplicado de forma mais ampla à administração Trump.
Antrópico Contrato de 200 milhões de dólares conversou com o Ministério da Defesa Notícias da CBS A “melhor e última proposta” do Pentágono enviada na quarta-feira parecia conter lacunas que teriam permitido aos militares ignorar as salvaguardas em vigor.
“A nova linguagem, enquadrada como um compromisso, está associada a um jargão jurídico que permite que estas salvaguardas sejam anuladas à vontade. Apesar das recentes declarações públicas da DOW, estas salvaguardas estreitas têm estado no centro das nossas negociações durante meses”, disse a Anthropic.
Uma nova carta divulgada por Antropologia de THersday foi claro ao apontar que a empresa de IA está trabalhando com a comunidade militar e de inteligência e “está pronta para continuar trabalhando para apoiar a segurança nacional da América”. Mas pedir a remoção de todas as salvaguardas seria longe demais.
“A Antrópica entende que as decisões militares são tomadas pelo Departamento de Guerra, e não por empresas privadas. Nunca contestamos operações militares específicas, nem tentamos limitar o uso de nossa tecnologia em operações militares específicas. por esta método”, escreveu a empresa.
“Mas, numa gama restrita de casos, acreditamos que a IA pode minar os valores democráticos em vez de defendê-los. Alguns usos estão além do que as tecnologias atuais podem realizar de forma segura e confiável.”
A empresa listou dois casos de uso em que acredita que são necessárias salvaguardas para proteger os interesses dos EUA. Na seção sobre vigilância doméstica em grande escala, Armoday coloque palavras doméstico Os itálicos, como se estivessem tentando alertar os americanos de forma mais ampla sobre o que estava acontecendo bem debaixo de seus narizes.
A carta afirma que o governo pode adquirir registos detalhados dos movimentos, navegação na Internet e associações dos americanos a partir de fontes públicas sem um mandado, uma clara violação dos direitos dos americanos. O Pentágono disse à CNN que o conflito com a Antrópica “não está relacionado com a vigilância em massa e o uso de armas autónomas”, sugerindo que não há planos para vigilância em massa dos americanos.
segunda seção ArmodayAbordando as armas autónomas, a carta reconhece que as armas assistidas por IA já estão a ser utilizadas hoje em campos de batalha em locais como a Ucrânia. No entanto, alerta ele, “os sistemas de IA de fronteira não são suficientemente fiáveis para alimentar armas totalmente autónomas”. “Oferecemos trabalhar diretamente com o Departamento de Guerra em pesquisa e desenvolvimento para melhorar a confiabilidade desses sistemas, mas eles não aceitaram a oferta”, dizia a carta.
Armoday A CNN se reuniu com Hegseth na terça-feira em uma reunião descrita como “amigável”, mas será definitivamente interessante ver até onde isso vai dar.
Hegseth não é conhecido por ser um cara particularmente inteligente ou sensato, então provavelmente é muito importante para ele rotular a Anthropic como uma ameaça à segurança nacional e parte da máquina de guerra da América, essencialmente convocando a empresa para fazer o que ele quiser. Acho que todos descobriremos até o final de sexta-feira.
