Início ESPECIAIS Sam Altman, da OpenAI, evita reação ‘dolorosa’ ao acordo de IA do...

Sam Altman, da OpenAI, evita reação ‘dolorosa’ ao acordo de IA do Pentágono – entre ativistas usando giz

18
0

O CEO da OpenAI, Sam Altman, está correndo para se defender de uma reação negativa sobre o acordo da gigante da tecnologia com o Pentágono – defendendo-se antes que os trabalhadores se reunissem temporariamente na terça-feira, depois que manifestantes do lado de fora de sua sede em São Francisco pediram aos trabalhadores que saíssem, descobriu o Post.

A empresa de IA anunciou o acordo na sexta-feira – poucas horas depois que o presidente Trump criticou os “malucos esquerdistas” antropogênicos e ordenou que todas as agências federais parassem de trabalhar com eles. O negócio foi feito tão rapidamente – e com apenas detalhes obscuros de sua estrutura inicialmente revelados – que o próprio Altman admitiu que estava apressado.

Do lado de fora dos escritórios da empresa em São Francisco, na segunda-feira, um grupo de ativistas escreveu mensagens com giz na calçada do Pentágono, destruindo tudo. O Observe letras incluídas Frases como “é hora de descansar?” e Orwell alertou.

O CEO da OpenAI, Sam Altman, fala à mídia em Abilene, Texas, em 23 de setembro. REUTERS

Outro e-mail endereçado aos funcionários da OpenAI dizia: “Você está espionando seus vizinhos?” e, “A América confia em você?” de acordo com 10.

Uma fonte próxima da situação perguntou se o protesto foi organizado por um rival.

“Acontece que havia artistas que escreviam mensagens em seus celulares”, disse uma fonte ao Post. “Não foram ativistas de verdade.”

Em uma reunião geral na terça-feira, Altman confirmou que a OpenAI tomou a decisão certa ao concordar em trabalhar com o Pentágono, ao mesmo tempo que admitiu que foi errado vazar o primeiro relatório, disse uma segunda fonte.

“Experimentar algo tão bom e ter algo tão absolutamente parecido, estou pessoalmente impressionado com isso – o que sei que acontece com todos vocês também, então me sinto péssimo por fazer vocês passarem por tudo isso – realmente dói”, disse Altman na reunião, segundo fontes.

A certa altura da reunião, um funcionário brincou dizendo que estava feliz em assinar o contrato da OpenAI e não o chatbot Grok de Elon Musk, arrancando risadas da multidão, disse a fonte.

O CEO da Anthropica, Dario Amodei, pretende participar de uma sessão sobre IA na reunião anual do Fórum Econômico Mundial em Davos, em 23 de janeiro de 2025. AFP via Getty Images

Altman acrescentou que o Departamento de Guerra “tem a nossa experiência em conhecer os limites da tecnologia e onde precisamos de restrições”, ao mesmo tempo que esclareceu que as empresas não devem pesar como a tecnologia é implementada em operações específicas.

“O que está mais claro sobre nós é que obteremos um entendimento geral de todos vocês e de seus conhecimentos sobre qual tecnologia é adequada e onde não é”, disse Altman. “Você não tem um plano para concluí-lo. Isso tem a ver com (o secretário da Guerra, Pete Hegseth).”

Foi descrito o método observado na reunião, com os trabalhadores engajados nos aspectos técnicos do contrato na tentativa de entender como exatamente a empresa irá funcionar.

O anúncio inicial de sexta-feira forneceu alimento para críticos internos e externos, que há muito acusam a OpenAI de estar mais preocupada com os lucros do que com a segurança. como terça-feira mais de 100 funcionários atuais da OpenAI Ele assinou uma carta aberta instando os executivos da empresa a “rejeitar as atuais demandas do Departamento de Guerra”.

Alguns funcionários da OpenAI também expressaram publicamente suas preocupações, com o cientista pesquisador Aidan McLaughlin escrevendo em 10: “Eu pessoalmente não acho que vale a pena o esforço”.

Uma fonte próxima da situação afirmou que a reação dentro da empresa tem sido amplamente positiva – com exceção de um pequeno grupo de funcionários que questionaram por que a OpenAI deveria estar envolvida.

“A partir de relatórios internos, as pessoas são pragmáticas e concordam que a noite de sexta-feira talvez tenha sido um pouco apressada e não a melhor comunicação”, disse a pessoa.

“Mas agora que há informação, parece que quase todos estão positivos, exceto estas 30 pessoas que estão sempre a fazer perguntas”.

O secretário de Defesa Pete Hegseth fala durante um breve briefing no Pentágono na segunda-feira. PA

A Anthropica irritou Hegseth e outros oficiais depois que eles se recusaram a remover os escudos protetores dos militares dos EUA, usando seus modelos de IA para atingir tropas americanas ou armas poderosas que podem ser disparadas sem supervisão humana.

O protocolo OpenAI inclui linguagem para garantir proteção em torno das mesmas linhas vermelhas. Na noite de sexta-feira, a OpenAI e o Pentágono acrescentaram texto ao contrato em um acordo extraordinário destinado a fortalecer as salvaguardas em torno do uso militar.

Em um memorando interno que ele compartilhou mais tarde no X, Altman disse que entrou nas negociações da OpenAI porque “realmente tentou quebrar as coisas e evitar um resultado muito pior, mas acho que parecia oportunista e desleixado”.

“É uma boa experiência de aprendizado para mim, pois teremos que tomar decisões mais importantes no futuro”, acrescentou.

Altman disse ter reiterado à liderança do Pentágono que a ameaça antropogénica não deveria ser designada como “a base da cadeia de ameaças” – um rótulo normalmente reservado a entidades estrangeiras que ameaçam a segurança nacional.

“Esperamos que o (Departamento de Guerra) atenda às mesmas condições”, escreveu Altman.

Source link

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui