Início ANDROID Musk v. Altman prova que a IA é liderada pelas pessoas erradas

Musk v. Altman prova que a IA é liderada pelas pessoas erradas

31
0

Os testes de tecnologia deste ano, Musk x Altmanem última análise, é uma luta pelo controle. Elon Musk argumenta que Sam Altman, com quem ajudou a fundar a agora enorme empresa OpenAI, não deveria dirigir o futuro da IA. Os advogados de Altman, por sua vez, atacaram a credibilidade do próprio Musk. O júri tomou a sua decisão na segunda-feira, após apenas duas horas de deliberações, rejeitando as alegações de Musk devido ao prazo de prescrição.

Em termos legais, três semanas de depoimento não significam nada. Mas o julgamento oferece uma conclusão mais ampla: quase ninguém nesta história vale a pena confiar. Algumas das pessoas mais poderosas em tecnologia parecem temperamentalmente incapazes de lidar umas com as outras honestamente. E se isso for verdade, levanta uma questão maior: por que eles controlam um trilhões de dólares uma indústria projetada para virar a vida das pessoas de cabeça para baixo?

A OpenAI, de acordo com o testemunho de Musk e Altman, foi fundada para impedir que uma IA poderosa pertencesse e fosse desenvolvida por pessoas erradas. Testemunhos e evidências sugerem que a equipe fundadora estava preocupada com quem controlaria a inteligência artificial geral (AGI), um termo para IA que geralmente iguala ou supera o conhecimento e as capacidades humanas. Eles têm muito medo do Google DeepMind e de seu líder, Demis Hassabis. Em 2015, Altman disse que tinha considerado se havia algo que pudesse “impedir a humanidade de desenvolver IA” – e depois de concluir que era impossível, queria que “alguém que não fosse o Google o fizesse primeiro”.

Os co-fundadores Greg Brockman e Ilya Sutskever opõem-se tanto ao controlo individual que parecem dispostos a frustrar um acordo lucrativo que – nas suas palavras – poderia dar a Musk uma “ditadura de IA”. Na mesma parte do e-mail endereçado a Altman, Brockman e Sutskever questionaram as suas motivações, escrevendo: “Não fomos capazes de confiar totalmente no seu julgamento ao longo deste processo… A AGI é realmente a sua principal motivação? Como é que ela se conecta aos seus objetivos políticos?”

Esses medos logo serão realizados. O foco principal Musk x Altman foi o “erro”, o período de cinco dias em novembro de 2023, quando o conselho da OpenAI demitiu Altman do cargo de CEO. Sutskever passou mais de um ano a planear a sua destituição, redigindo um memorando de 52 páginas que afirmava “um padrão consistente de mentir, menosprezar os seus executivos e colocá-los uns contra os outros”. As implicações são mais amplas do que as lutas internas entre executivos e podem potencialmente impactar a implementação pública de sistemas de IA. A então CTO Mira Murati, por exemplo, testemunhou no tribunal que Altman disse a ela que a equipe jurídica da OpenAI não se importava em pular uma revisão de segurança de um de seus modelos – uma declaração, disse ela, que se revelou falsa.

Nos argumentos finais, o advogado de Musk, Steven Molo, enfatizou a longa lista de pessoas que testemunharam sob juramento que Altman é, de uma forma ou de outra, um mentiroso – todas as quais trabalharam com Altman durante anos. “Os réus realmente querem que você acredite em Sam Altman”, disse Molo ao júri. “Se você não consegue acreditar, se não confia, eles não podem vencer. É simples assim.”

Mas durante o processo judicial, Musk – que agora dirige laboratórios rivais xAI, sob a empresa espacial SpaceX – não se saiu muito melhor. Joshua Achiam, agora futurista-chefe da OpenAI, testemunhou que a competição de Musk contra o Google o levou a adotar uma abordagem “claramente insegura e imprudente” para alcançar AGI. Quando ele e outros levantaram preocupações, disse ele, Musk argumentou que as mudanças orientadas para o lucro da OpenAI criaram incentivos para ignorar a segurança, mas a sua própria xAI tinha fins lucrativos e, na melhor das hipóteses, tinha uma abordagem aleatória à segurança. E para garantir que a OpenAI permaneça aberta, Musk está obcecado com a necessidade de controlar a OpenAI. Nos argumentos finais, Sarah Eddy, uma das advogadas da OpenAI, disse ao júri que Musk “quer dominar a AGI”.

Como um dos usuários do X coloque-o no chão“Se a desconfiança aumentar, colocar Musk e Altman muito próximos um do outro fará com que o tribunal e o mundo inteiro desmoronem num buraco negro.”

OpenAI e Musk não responderam imediatamente aos pedidos de comentários.

Não são apenas Musk e Altman. As evidências do julgamento mostraram que Murati ajudou a destituir Altman, depois mudou de lado em apoio à sua reintegração, mas parecia “completamente desinteressado” em revelar o papel que uma vez desempenhou. Shivon Zilis, um colaborador próximo de Musk que atuou no conselho de administração da OpenAI, perguntou a Musk se ele “preferia que eu permanecesse próximo e amigável com a OpenAI para manter o fluxo de informações” durante sua ausência – evitando revelar que ele tinha dois filhos com ele na época. As anotações do diário de Brockman desempenharam um papel importante no caso de Musk; A certa altura, ele reconheceu que Musk poderia alegar “corretamente” que “não fomos honestos com ele” se a OpenAI fizesse alterações com fins lucrativos sem o seu envolvimento.

Musk x Altman dando a todos a chance de fazer acusações uns aos outros e, em teoria, tornar-se um guardião mais consciente da IA. Mas a conclusão mais óbvia é que alguns dos maiores nomes da indústria da IA ​​são ingénuos – e, o pior de tudo, hipócritas que prestam pouca atenção às consequências das suas ações.

O sentimento público em relação à IA está no nível mais baixo de todos os tempos. Em uma pesquisa da Pew Research no verão passado, metade dos adultos na América disseram que “o uso crescente da IA ​​na vida cotidiana faz com que se sintam mais preocupados do que entusiasmados” – e apenas 10% disseram que se sentiram mais entusiasmados do que preocupados. Muitas destas preocupações estão relacionadas com a perda de empregos, mas também crescem os protestos contra a construção em massa de centros de dados. cruzar Que país. Parte da resistência tornou-se potencialmente violenta, com indivíduos supostamente tentando atacar a casa de Altman duas vezes. E muitos CEOs de tecnologia guarda que eles tenham um bunker ou outro plano de preparação para o fim do mundo, caso algo dê terrivelmente errado.

Estas empresas estão a transmitir a mensagem pública de que a IA capacita os seus utilizadores. Mas um estudo da Pew Research de 2025 descobriu que quase 60 por cento Os adultos norte-americanos sentem que não têm controlo sobre a utilização da IA ​​nas suas vidas. Nos EUA, as perspectivas de uma regulamentação governamental significativa – que poderia pelo menos proporcionar algum nível de supervisão externa – continuam fracas. E agora está cada vez mais claro até onde irão os maiores players de IA do mundo para manter o controle.

Em meio às crescentes evidências do julgamento, um documento fornece um raro exemplo de Altman e Musk se oferecendo para entregar o poder. Em março de 2015, Altman enviou um e-mail ao CEO da Microsoft, Satya Nadella, com um pedido simples: assinar uma carta que ele e Musk estavam redigindo, pedindo ao governo dos EUA que criasse “uma nova agência reguladora para a segurança da IA” e abordasse “os maiores riscos para a sobrevivência da humanidade que a maioria das pessoas ignora”. Algumas semanas depois, Nadella respondeu encerrando a ideia. “Questões de segurança humana e questões de controle serão problemas reais”, disse ele. Mas os executivos, sublinhou ele, deveriam apelar ao “financiamento federal e ao incentivo à investigação”, e não à supervisão. Altman concordou imediatamente. A carta, prometeu ele, seria alterada – deixando a opção de regulamentar a indústria de IA “se e quando”.

Siga tópicos e autores desta história para ver mais coisas semelhantes em seu feed inicial personalizado e para receber atualizações por e-mail.


Source link

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui