Hannah Fry: ‘A IA pode fazer coisas incríveis – e as empilhadeiras também’

Hoje, você provavelmente pensa mais sobre inteligência artificial do que há cinco anos. Desde o lançamento do ChatGPT em novembro de 2022, nos acostumamos a interagir com IA na maioria das áreas da vida, desde chatbots e tecnologia doméstica inteligente até bancos e saúde.

Mas uma mudança tão rápida traz problemas inesperados – como revela a matemática e radialista Hannah Fry Segredos de IA com Hannah Fryum novo documentário da BBC em três partes conta histórias de pessoas cujas vidas foram mudadas pela tecnologia. Ele falou com Novo Cientista sobre como devemos encarar a IA, o seu papel na matemática moderna – e por que razão a IA terá um impacto devastador na economia global.

Bethan Ackerley: Na série, você explora o que a IA está fazendo com nossos relacionamentos e senso de realidade. Parte disso decorre da “bajulação da IA” – a ideia de que essas ferramentas estão nos dando o que queremos ouvir, não o que precisamos ouvir. Como isso pôde acontecer?

Hannah Fry: O modelo anterior era muito bajulador. O que quer que você escreva, eles dirão: “Oh meu Deus, você é incrível, você é o melhor escritor que já experimentei”. Hoje as condições são ligeiramente melhores, mas existe uma contradição fundamental. Queremos que eles nos ajudem, nos encorajem e nos façam sentir importantes, que são as coisas que você obtém de excelentes relacionamentos humanos.

Ao mesmo tempo, relações humanas verdadeiramente boas falarão em voz alta coisas difíceis. Se você investir demais na IA, ela deixa de ser útil e passa a ser argumentativa e desagradável. Também há um grande número de pessoas que romperam com o parceiro porque o usaram como terapeuta e a IA disse: “Livre-se dele”.

Há pessoas que desistem de seus empregos. Há pessoas que tentam usar a IA para ganhar dinheiro e perder fortunas porque confiam demais nas suas capacidades. Depois que você começa a incluir todas essas pessoas, forma-se um grupo muito grande. Acho que todos conhecemos alguém que foi impactado pelas bolhas e pela radicalização das redes sociais. Acho que esta é a nova versão.

Testemunhar esse problema mudou a maneira como você usa a IA?

O que mudou foi a forma como eu pedi. Então agora peço rotineiramente a ele que me diga coisas que não estou vendo, para descobrir meus preconceitos. Não seja bajulador, conte coisas difíceis.

Se não queremos que a IA seja assim, como queremos que seja?

A resposta provavelmente depende da situação. No espaço científico, há ótimos exemplos – penso no AlphaFold (uma IA que prevê a estrutura das proteínas). Na matemática, estão sendo feitos progressos extraordinários, onde os algoritmos têm inteligência diferente dos humanos. Mas não creio que seja possível ter um bom modelo de raciocínio a menos que tenha uma sobreposição conceptual com o que os humanos entendem sobre o mundo. Então acho que deveria ser mais humano.

Parece que todos os dias há notícias sobre um problema matemático que ficou sem solução durante anos, mas que agora foi resolvido com IA. Isso te deixa animado?

Gosto de pensar nisso como se houvesse um grande mapa matemático e os matemáticos humanos estivessem em uma determinada área e o cercassem. Eles nem sempre veem conexões com coisas próximas. Matemáticos incríveis encontraram uma ponte entre duas regiões no mapa, como conjecturou Taniyama-Shimura, onde matemáticos japoneses descobriram uma ponte entre duas regiões matemáticas que não estavam realmente conectadas. Então, tudo o que sabemos daqui é aplicado ali e vice-versa.

Acho que a IA é muito boa em dizer: “Dê uma olhada aqui, parece que há uma área útil que não foi muito explorada”, e isso é realmente interessante. O que a IA não faz tão bem é ampliar ainda mais os limites. E o que realmente não é bom nisso… é a abstração completa, teorias cada vez mais amplas. Uma coisa que as pessoas sempre dizem é que se você desse tudo para a IA até 1900, a relatividade geral não teria surgido. Portanto, continuo entusiasmado por estarmos no ponto certo em que a IA tornará a matemática humana mais rápida, mais eficiente e mais interessante, mas a IA ainda precisará de nós.

Existem muitos conceitos errados sobre IA. Qual você eliminaria, se pudesse?

As pessoas o imaginam como algo onipotente, quase onipotente. “A IA disse isso; a IA me disse para comprar essas ações.” Existem certas situações em que a IA pode fazer coisas incríveis, e as empilhadeiras não são diferentes. Criamos ferramentas que podem fazer coisas que os humanos não conseguem fazer há muito tempo. Isso não significa que eles sejam semelhantes a deuses ou tenham conhecimento intocável.

Você não daria a uma empilhadeira acesso à sua conta bancária…

NÃO! Apropriado. Acho que é só isso – o enquadramento dessas coisas. Porque falam uma língua e falam connosco, sentem-se como criaturas. Não temos problemas com a Wikipédia. Seria melhor pensar nisso como uma planilha Excel verdadeiramente capaz, em vez de uma criatura.

Por que tendemos a antropomorfizar a IA?

Nossos corpos estão adaptados para relações sociais cognitivas. Somos uma espécie social inteligente. E é uma entidade social aparentemente inteligente. Claro que colocamos personagens nele. Não há nada em nosso passado, em nossos planos, que nos leve a fazer outra coisa.

Não existe uma maneira de prevenir esses impulsos antropomórficos?

Não acho justo colocar isso nas mãos de indivíduos. Isso é como dizer que junk food está disponível gratuitamente e que você é responsável por não consumir muito. A forma como essas interfaces são projetadas, as conversas com vocês, agora temos evidências muito boas de que tudo isso está fazendo com que as pessoas caiam cada vez mais nessa armadilha. E acho que só projetando esses sistemas é que podemos evitar que as pessoas caiam nessa toca do coelho.

Existem muitos problemas sociais que a IA destaca, como o fato de a sociedade ser muito isolada e solitária. Mas a IA não pode ajudar a resolver este problema?

Se você disser: “Ok, você não pode falar com nenhum chatbot se se sentir sozinho, vamos proibir isso”, então você ainda terá pessoas solitárias. E, claro, seria ótimo se houvesse muita conexão humana para todos, mas isso simplesmente não está acontecendo. Portanto, dado o mundo em que vivemos, penso que há algumas situações em que falar com um chatbot pode aliviar alguns dos piores problemas relacionados com a solidão. Mas este é um tema delicado. Quando você começa a usar a tecnologia para responder a questões verdadeiramente humanas, há uma fragilidade incrível em tudo isso.

Vamos falar sobre o futuro distante. Muitas vezes pensamos em cenários extremos com IA – por exemplo, uma IA superinteligente concebida para fazer clipes de papel transforma-nos a todos em clipes de papel. Quão útil é pensar sobre esse cenário apocalíptico?

Chegou um ponto em que pensei que esse cenário maluco e implausível era uma distração do que realmente importa, que é que as decisões são tomadas com base em algoritmos que impactam a vida das pessoas. Mudei de ideia nos últimos anos, porque acho que só nos preocupando com coisas assim é que podemos construir mecanismos técnicos de segurança para evitar que aconteçam.

Portanto, preocupar-se não é inútil; preocupar-se tem poder. Existem potenciais impactos adversos da IA, e quanto mais honestos formos sobre eles, maior será a probabilidade de conseguirmos mitigá-los. Eu quero que seja como o Y2K, sabe? Quero que isso seja algo com que nos preocupemos e nos preocupemos, para que trabalhemos para impedir que isso aconteça.

Você acha que alcançaremos inteligência artificial geral?

Não temos uma definição clara do que é AGI. Mas se definirmos a AGI como sendo pelo menos tão boa quanto a maioria dos humanos em qualquer tarefa que envolva computadores, então, sim, estamos quase lá, na verdade. Algumas pessoas pensam que AGI significa superar as habilidades humanas em todas as tarefas possíveis. Isso eu não sei. Mas acho que a AGI não está muito longe. Acredito que nos próximos cinco a 10 anos veremos mudanças sísmicas.

Que tipo de mudança?

Penso que haverá grandes mudanças no modelo económico a que nos habituámos ao longo da história humana. Acho que haverá grandes avanços na ciência, da qual gosto muito, assim como no design médico. Toda a estrutura da nossa sociedade se baseia na ideia de que trocamos trabalho humano, conhecimento e inteligência por dinheiro que usamos para comprar coisas – penso que há uma fragilidade nisso.