Demis Hassabis, CEO do Google DeepMind e um Vencedor do prêmio Nobel por seu papel no desenvolvimento do algoritmo AlphaFold AI para prever a estrutura de proteínas, fez uma afirmação surpreendente 60 minutos exibido em abril. Com a ajuda de IA como AlphaFold, disse ele, o fim de todas as doenças poderia ser alcançado, “provavelmente na próxima década ou mais”. Com isso, a entrevista continuou.
Para aqueles que realmente trabalham no desenvolvimento de medicamentos e na cura de doenças, esta afirmação é ridícula. De acordo com Para o químico medicinal Derek Lowe, que trabalhou durante décadas na descoberta de medicamentos, a declaração de Hassabis “me faz querer passar o tempo olhando pela janela em silêncio, murmurando palavras ininteligíveis para mim mesmo”. Mas não é preciso ser um especialista para reconhecer a hipérbole: a ideia de que todas as doenças acabarão em cerca de uma década é absurda.
Alguns argumentaram que as declarações de Hassabis são apenas mais um exemplo de promessas exageradas dos líderes tecnológicos, talvez para atrair investidores e financiamento. Não é como Elon Musk fazendo previsões ridículas sobre as colônias de Marte, ou Sam Altman da OpenAI alegando que a inteligência artificial geral (AGI) está chegando? Embora possa haver alguma verdade nesta visão cínica, ela deixa os especialistas fora de perigo e minimiza o problema em questão.
Não é incomum que as autoridades façam grandes afirmações fora das suas áreas de especialização (ver Stephen Hawking sobre IA, extraterrestres e viagens espaciais). Mas parece que Hassabis está mantendo o rumo aqui. A citação do Nobel citou novos medicamentos como benefícios potenciais das previsões do AlphaFold, e o lançamento do algoritmo foi acompanhado por intermináveis manchetes na mídia sobre a revolução na descoberta de medicamentos.
Da mesma forma, quando o colega ganhador do Nobel de 2024, Geoffrey Hinton, ex-conselheiro de IA do Google, reivindicado que o grande modelo de linguagem (LLM) que ele ajudou a criar funciona de uma forma que se assemelha ao aprendizado humano, como se ele estivesse falando a partir de um conhecimento profundo. Então não importa chorar protestos daqueles que pesquisam a cognição humana – e, em alguns casos, além IA Também.
O que o incidente parece revelar é que, curiosamente, alguns destes especialistas em IA parecem espelhar os seus produtos: são capazes de fornecer resultados extraordinários ao mesmo tempo que têm uma compreensão do produto que é, na melhor das hipóteses, superficial e frágil.
Aqui está outro exemplo: Daniel Kokotajlo, um pesquisador que deixou a OpenAI devido a preocupações sobre seus esforços em direção à AGI e agora é o diretor executivo do AI Futures Project na Califórnia, disse: “Sabemos que nossa IA está mentindo e temos certeza de que eles sabem que o que estão dizendo é falso”. Sua linguagem antropomórfica sobre conhecimento, intenção e engano sugere que Kokotajlo perdeu de vista o que realmente é um LLM.
O perigo de presumir que os especialistas sabem o que é melhor foi exemplificado no comentário de Hinton em 2016 de que, graças à IA, “as pessoas deveriam parar de treinar radiologistas agora”. Felizmente, os radiologistas não acreditaram, embora haja quem desconfie UM conectando suas palavras e preocupações crescentes dos estudantes de medicina sobre as perspectivas de emprego em radiologia. Hinton tem desde então, revisou essa afirmação – mas imagine quanto poder ele teria se tivesse recebido o Nobel. O mesmo se aplica aos comentários de Hassabis sobre as doenças: a ideia de que a IA fará o trabalho pesado pode levar à complacência, quando precisamos do oposto, tanto científica como politicamente.
Estes profetas “especialistas” tendem a não receber muita resistência por parte dos meios de comunicação social, e posso atestar pessoalmente que até mesmo alguns cientistas inteligentes acreditam neles. Muitos líderes governamentais também dão a impressão de que engoliram a saliva de CEOs de tecnologia e especialistas do Vale do Silício. Mas sugiro que comecemos a tratar as suas declarações como as próprias declarações do LLM, enfrentando as suas crenças superficiais com cepticismo até que os factos sejam verificados.
Philip Ball é um escritor científico que mora em Londres. Seu último livro é Como funciona a vida
Tópico:
- inteligência artificial/
- tecnologia
