O Papa Leão XIV soou o alarme sobre a IA numa carta aberta publicada na segunda-feira e, mais tarde naquele dia, o cofundador da Anthropic, Chris Olah, agradeceu-lhe por o ter feito. De acordo com o cientista da computação, a IA forneceu descobertas “perturbadoras” e pode precisar ser mantida sob escrutínio.
Numa resposta publicada no site Anthropic, que Olah também apresentou na Cidade do Vaticano, ele começou por admitir que todos os laboratórios de IA, incluindo o seu, não funcionam apenas para ajudar os humanos. Ele até notou que poderia parecer “estranho” se admitisse isso.
“Todos os principais laboratórios de IA – incluindo a Anthropic – operam dentro de um conjunto de incentivos e restrições que às vezes podem funcionar contra fazer a coisa certa”, disse ele. “A pressão para permanecer comercialmente viável e permanecer na vanguarda da investigação. As pressões geopolíticas. E as pressões mais antigas e mais óbvias de orgulho e ambição. Não importa quão sinceramente pretendamos fazer a coisa certa – e tenho a certeza que muitos de nós fazemos a coisa certa – seremos sempre influenciados por esses incentivos.”
Assim, segundo Olah, é responsabilidade de outros, como o Papa, criticar abertamente estas empresas. E é por isso que Olah está “grato” ao Papa Leão por ter apelado a esta tecnologia.
Ele então explicou como os sistemas de IA são construídos e acrescentou que mesmo as pessoas que os constroem ainda estão aprendendo e compartilhando: “E sejamos honestos: continuamos descobrindo coisas que são misteriosas, até mesmo perturbadoras”.
Olah então explicou três problemas que deveriam ser resolvidos por outras partes, não por aqueles que criaram a IA. Entre eles estão “a necessidade de imaginação moral e ambição em relação ao progresso humano” e “as nossas obrigações para com os pobres do mundo”.
O cofundador da Anthropic não forneceu quaisquer soluções potenciais, mas observou que os pais estão preocupados com a mente dos seus filhos graças à IA e que os criativos estão preocupados com os seus empregos. Ele reconheceu ainda que os trabalhadores serão substituídos pela IA e que “apoiar aqueles que perdem os seus empregos será um imperativo moral de importância histórica”.
“Precisamos de críticos experientes que digam aos laboratórios quando estamos falhando”, disse ele. “Precisamos de uma voz moral que não possa ser influenciada por incentivos.”
