Por que o fundador da Anthropic sentou-se ao lado do papa durante um alerta sobre inteligência artificial?
O Papa Leão XIV incluiu a inteligência artificial no primeiro grande ensinamento escrito do seu papado. O Papa listou as ameaças mais preocupantes da tecnologia para a humanidade da seguinte forma: mudança de trabalhadores, acelerando a guerra e exploramos o meio ambiente. Na cerimônia que comemorou o dia em que o ensinamento sagrado foi publicado no Vaticano, o papa foi acompanhado por um orador convidado incomum: o cofundador da Anthropic, Chris Olah, uma das pessoas por trás do boom da inteligência artificial que preocupa Leo.
A existência de Olah levanta uma questão importante: como podem a Igreja Católica e a startup de IA mais valiosa do mundo trabalhar juntas quando a tecnologia da Antrópica pode trazer o futuro sobre o qual Leo adverte?
A encíclica de Leo discute longamente a proteção da dignidade do trabalho das pessoas sob ameaça da inteligência artificial; Mas as grandes empresas de IA, incluindo a Anthropic, não estão a dar prioridade a estas preocupações, afirma Pete Furlong, diretor sénior de políticas e investigação do Center for Humane Technology, uma organização sem fins lucrativos que defende a responsabilização na IA.
“Todas essas empresas…estão produzindo tecnologias projetadas para substituir os humanos”, diz Furlong. “Isto é muito contraditório com as palavras do Papa. Não se pode ter dignidade num mundo onde se cria tecnologia para substituir os humanos”.
Algumas ocupações, como codificadores, representantes de atendimento ao cliente e trabalhadores de entrada de dados especialmente vulnerável A capacidade da IA de automatizar tarefas, de acordo com a análise do mercado de trabalho da própria Anthropic publicada em março. Uma pesquisa divulgada no mês passado pelo centro de pesquisa de inteligência artificial sem fins lucrativos Epoch AI descobriu que 20% dos trabalhadores em tempo integral nos EUA afirmam usar IA. Eles assumiram alguns de seus negócios. Dario Amodei, CEO da Anthropic, alertou sobre uma perda apocalíptica de empregos de colarinho branco nos próximos anos.
‘O Vaticano está sendo lavado’
Paolo Carozza, professor de direito na Faculdade de Direito de Notre Dame e copresidente do Meta Oversight Board, diz que o relacionamento da Anthropic com o Vaticano corre o risco de permanecer superficial e dar lugar a uma retórica de “bem-estar” sem um auto-exame crítico de ambos os lados. “Essa é a marca da Anthropic, certo? É assim que eles se diferenciam, alinhando-se com vozes mais focadas em segurança e responsabilidade. Há algo a ganhar dizendo: ‘Olha, até o papa está disposto a falar conosco por causa de (nossa marca pró-segurança). O Google não estava em cena, e a OpenAI não estava em cena”, diz Carozza.
Embora inicialmente cético quanto à presença de Olah na cerimônia, Carozza continua esperançoso. “É preciso haver diálogo entre todos os intervenientes aqui e esta não pode ser uma questão de nós contra eles”, acrescentou.
Furlong, do Center for Humane Technology, concorda amplamente. “O que o Papa escreveu contradiz o que Antropik disse. Na minha opinião, este é um bom sinal”, diz ele. Furlong acredita que os esforços da Anthropic devem ser considerados pelo seu valor nominal por enquanto, e ele acha que é importante se envolver com os pioneiros da IA, mantendo-se cauteloso sobre o quanto as pressões financeiras estão aumentando. tornar público podem mudar sua postura futura.
Olah observou em seu discurso que todo laboratório líder de IA “trabalha dentro de um conjunto de incentivos e restrições que às vezes podem entrar em conflito com fazer a coisa certa”.
“Não importa quão sinceramente qualquer um de nós pretenda fazer a coisa certa – e acredito que a maioria de nós o faz – seremos sempre influenciados por estes incentivos”, disse ele.
Alguns defensores da segurança da IA pensam que o papa não é forte o suficiente para conter os danos da IA. Timnit Gebru, fundador do Distributed Artificial Intelligence Research Institute, escreveu: postagem no LinkedIn Ele disse que a aliança estava efetivamente “lavando o Vaticano” e que a Igreja deveria fazer parceria com “trabalhadores de dados explorados que lutam por seus direitos, pessoas com água poluída que lutam contra centros de dados ou muitas outras vítimas ao redor do mundo”.
A Antropik não comentou o assunto.
Anthropic e Leo concordam sobre preocupações sobre IA e guerra
Church e Antropik concordam em outras questões, como linhas vermelhas em relação ao uso de IA na guerra. Leo escreveu sobre como a IA poderia “reduzir o limiar para o uso da força, proteger as pessoas de responsabilidades e promover uma cultura em que o inimigo é reduzido a uma estatística e a vítima a ‘danos colaterais’”.
Amodei desencadeou uma briga acirrada com o presidente no início deste ano, quando ele se recusou a permitir que o governo dos EUA usasse os modelos de IA de sua empresa em armas totalmente autônomas e vigilância em massa. A administração Trump posteriormente colocou a Anthropic na lista negra e designou a empresa de IA como uma ameaça à cadeia de suprimentos; Isso levou a litígios contínuos.
A Anthropic alinhou sua marca com: Ser pró-segurança da IA Reconhecendo os riscos dos sistemas de IA e incentivando medidas para o uso responsável da IA, ao contrário do seu rival OpenAI, onde Amodei já trabalhou. empresa um Recorde de US$ 1,6 milhão no lobby no primeiro trimestre de 2026 – ultrapassando a rival OpenAI. A maior parte de sua defesa ocorre em Washington e legislaturas estaduais incentiva regulamentação de inteligência artificial.
Leo pede data centers mais sustentáveis à medida que a Anthropic continua a construir
escondido em um parágrafo enciclopédica de aproximadamente 42.000 palavras É uma crítica suave aos centros de dados que impulsionam o boom da IA e um apelo à redução do seu impacto ambiental. “Os atuais sistemas de IA requerem enormes quantidades de energia e água, impactando significativamente as emissões de dióxido de carbono e colocando grandes demandas nos recursos naturais”, escreveu Leo. “É por isso que é tão importante desenvolver soluções tecnológicas mais sustentáveis que reduzam o impacto ambiental e ajudem a proteger a nossa casa comum.”
Os data centers geraram protestos em todo o país por parte das comunidades preocupadas com os impactos negativos nos Estados Unidos, que abriga o maior número de data centers do mundo. emissões industriais contas de energia disparadas. Esses clusters de computadores que consomem muita energia são o núcleo dos negócios da Anthropic; Eles precisam de poder computacional para suportar modelos de IA cada vez mais poderosos. Em resposta, muitas agências federais e as maiores empresas do mundo confiam nos modelos de IA da Anthropic para fluxos de trabalho e análises complexos; Se o objetivo é obter lucro ou escolher uma empresa. alvo militar.
As ambições da Antrópica podem colidir com os apelos de Leão por um crescimento mais sustentável. Promessas de inicialização de IA Investir US$ 50 bilhões no ano passado sobre infraestrutura de IA, incluindo data centers. No entanto, a empresa comprometeu-se a cobrir os aumentos dos preços da electricidade dos consumidores resultantes destas instalações e sistemas que reduzem o consumo de energia durante os picos de procura.
