Sam Altman, da OpenAI, disse que os funcionários queriam “ajudar a diminuir” a distância entre o Pentágono e seu líder antropomórfico rival de IA – algo que ele observou quando disse que não removeria as proteções militares antes do prazo final de sexta-feira.
Altman disse que os funcionários num memorando recente de quinta-feira partilhavam a mesma “linha vermelha” de segurança da OpenAI para o antropomorfismo – nomeadamente, que as suas ferramentas de IA não deveriam ser usadas para monitorizar as massas de americanos ou para disparar armas que podem ser disparadas sem supervisão humana.
A OpenAI está em conversações com o Pentágono sobre o potencial dos seus modelos de IA serem classificados em ambientes militares, de acordo com Altman – que escreveu que as discussões são importantes para chegar a um consenso e evitar um exemplo perigoso para a indústria em geral.
“Não importa quão longe tenhamos chegado, isto já não é apenas uma questão entre a humanidade e (o Pentágono): trata-se de um fluxo total de energia e de interesse em esclarecer a nossa substância”, escreveu Altman num memorando. de acordo com Axios.
Ao mesmo tempo, Altman sugeriu que a OpenAI poderia chegar a um consenso com o Pentágono sobre como usar modelos sem violar as linhas vermelhas.
“Acreditamos que esta controvérsia não é sobre como a IA será usada, mas sobre o poder. Acreditamos que as empresas privadas dos EUA não podem ter precedência sobre o governo dos EUA democraticamente eleito, mesmo que as empresas possam ter muita participação e poder. A democracia é uma mensagem, mas estamos comprometidos com ela”, escreveu Altman.
O Wall Street Journal foi o primeiro a relatar no memorando.
A Anthropic, cujo chatbot Claude é o único modelo atualmente usado pelos militares dos EUA em ambientes confidenciais, tem até às 17h (horário do leste dos EUA) de sexta-feira para remover as proteções. Defesa etc. Pete Hegseth disse que dirá à Anthropic para “submeter a cadeia de risco” ou invocará a Lei de Defesa da Produção para forçar o alfaiate a usar os modelos de marco se ele não cumprir.
O memorial de Altman ocorreu horas depois de o CEO Dario Amodei ter se levantado para dizer que a sua “empresa obcecada pela segurança” não poderia, em sã consciência, abordar as exigências do Pentágono.
Amodei disse que a última oferta nas negociações do Pentágono “não progrediu quase nada, exceto no uso de Claudius na vigilância em massa dos americanos ou em armas totalmente autônomas”.
Emil Michael, o subsecretário de defesa para investigação e engenharia, atacou Amodei, escrevendo em X que o chefe antropomórfico tem um “complexo de Deus” e “não quer nada mais do que testar pessoalmente o poder dos militares dos EUA e pôr em perigo a nossa segurança”.
A intervenção potencial da OpenAI ocorre em meio a um relacionamento tenso entre Altman e Amodei – que recentemente se recusou a apertar a mão no palco durante uma sessão de fotos virais na principal IA da Índia.
No início desta semana, um alto funcionário da defesa disse ao Post que o Grok de Elon Musk havia recebido aprovação para uso em ambientes confidenciais, enquanto OpenAI e Google estavam “próximos”.
