Era março de 2016 e mais de 200 milhões de pessoas em todo o mundo assistiam a uma guerra que durava há 2.500 anos.
No Four Seasons Hotel, em Seul, Lee Sedol, um dos maiores jogadores do antigo jogo de tabuleiro chinês Go, sentou-se em frente ao AlphaGo, um programa de computador desenvolvido pelo laboratório de inteligência artificial DeepMind, com sede em Londres. O xadrez caiu nas mãos das máquinas há quase duas décadas, quando o Deep Blue da IBM derrotou Garry Kasparov. Mas Go era diferente. O número de movimentos possíveis é tão astronômico (mais estados potenciais no tabuleiro do que átomos no universo observável) que nenhum computador pode se mover em direção a uma posição vencedora.
“A maioria dos profissionais de Go concorda. Vencer Deep-Mind seria o milhão de dólares mais fácil que um profissional de ponta poderia esperar”, escreve Sebastian Mallaby em seu livro “The Infinity Machine: Demis Hassabis, DeepMind and the Quest for Superintelligence” (Penguin Press).
A virada no segundo jogo veio com um único lance. Depois de trinta e seis rodadas, Lee saiu para pegar um cigarro. Quando ele voltou, AlphaGo havia colocado uma peça preta em uma área estranha e aberta do tabuleiro; Foi um movimento tão incomum que à primeira vista pareceu um erro. Lee olhou para ele por doze minutos. Em outra sala, os comentaristas tiveram dificuldade em entender isso.
Quando o jogo terminou depois de mais de cem lances, o lance 37 abriu a partida. DeepMind venceria quatro das cinco partidas. “O coreano estava jogando alguns dos melhores Go de sua carreira, mas AlphaGo o superou”, escreve Mallaby. “Na conferência de imprensa daquele dia, (Lee) pediu desculpas a todas as pessoas com grupos de câmeras piscando em seu rosto.”
O pedido de desculpas de Lee pairou no ar. Mallaby escreve que esta é a pergunta que ninguém sabe responder: “O que os humanos deveriam fazer diante da superinteligência das máquinas?”
O homem que fundou o AlphaGo pensou nessa questão durante toda a vida.
Mallaby passou mais de três anos e trinta horas conversando com Demis Hassabis, cofundador e CEO da DeepMind, prodígio do xadrez, designer de videogame, neurocientista e ganhador do Nobel, e entrevistou mais de cem pessoas em sua órbita para criar um retrato da figura central da corrida tecnológica mais importante e perigosa da história.
“A opinião de Demis é que existem padrões à espera de serem descobertos em todo o lado, nos jogos, na natureza, no funcionamento da biologia, na astrofísica”, disse Mallaby ao Post numa entrevista exclusiva.
“Para descobrir esses padrões, é necessário um sistema de inteligência artificial que possa encontrar significado em uma quantidade quase infinita de dados – uma máquina infinita.”
Hassabis cresceu no norte de Londres, filho de pai cipriota grego e mãe chinesa de Singapura que escapou da pobreza quando órfão.
Aos 4 anos, ele aprendeu xadrez sozinho, observando seu pai jogar; No início da adolescência, ele foi um dos jovens jogadores mais fortes do mundo.
Mas depois de uma partida cansativa de 10 horas perto de Liechtenstein, aos 12 anos, ele saiu convencido de que todos aqueles duelos espetaculares em quadrados pretos e brancos foram em vão.
“O primeiro impacto do torneio de Liechtenstein foi libertar Demis para transferir as suas energias da sua paixão pelo xadrez para a programação”, disse Mallaby.
Isso o colocou no caminho de trabalhar como designer de videogame na Bullfrog; onde ele “concebeu sua paixão por buscar inteligência artificial”.
Numa conferência nos Estados Unidos, ele mostrou a um professor da Carnegie Mellon o que o Bullfrog fazia.
“Ele caiu da cadeira”, lembrou Hassabis sobre Mallaby.
“Foi então que decidi dedicar minha carreira ao trabalho com inteligência artificial. Já tinha a essência da ideia que acabaria se tornando DeepMind.”
Depois de concluir seu doutorado em neurociência em Cambridge, ele foi cofundador da DeepMind em 2010. O Google a comprou em 2014.
Num café no norte de Londres em 2023, Hassabis contou a Mallaby o que realmente o desencadeou. “Fazer ciência é como ler a mente de Deus”, disse ele. “Compreender o profundo mistério do universo é, de certa forma, minha religião.”
Ele bateu a palma da mão na mesa. “Esta mesa, Sebastian! Por que seria sólida? Computadores são apenas areia e pedaços de cobre. Por que essas coisas se juntariam para fazer alguma coisa? Quero dizer, isso é ridículo!”
Ele descreveu estar sentado em sua mesa às 2 da manhã, sentindo como se a realidade estivesse gritando com ele. “Eu gostaria de entender isso antes de morrer. E então poderei me libertar do meu invólucro mortal para sempre.”
O próximo desafio da DeepMind foi a biologia. O problema do dobramento de proteínas para prever a estrutura tridimensional das proteínas a partir de suas sequências de aminoácidos tem intrigado os cientistas há décadas.
Em 2020, a AlphaFold resolveu esta questão com uma precisão sem precedentes, abrindo novos caminhos para a descoberta de medicamentos e ganhando quota de mercado para a Hassabis. Prêmio Nobel de Química de 2024.
Mesmo isso quase não aconteceu. AlphaFold teve um bom desempenho no CASP, uma competição internacional de previsão de estrutura de proteínas, em 2018, mas sua precisão ficou muito aquém do necessário para realmente resolver o problema.
O líder da equipe, Andrew Senior, queria declarar vitória e encerrar o projeto. Ele achava que quebrar completamente o enovelamento das proteínas era inatingível. Hassabis discordou.
Em vez de rejeitar Senior de imediato, ele realizou sessões de brainstorming com cientistas e ouviu o que chamou de “fluência” deles – não se eles tinham as respostas certas, mas se as ideias fluíam livremente. “Se as ideias criativas fluíssem sem problemas, valeria a pena investir mais”, disse Mallaby.
Hassabis concluiu que eles haviam substituído o Ancião e seguiram em frente. “AlphaFold estava à beira do abandono”, disse Mallaby. “Mas a fluidez o salvou.”
Quando a OpenAI lançou o ChatGPT em 2022 e desencadeou uma mania de IA no consumidor, a DeepMind, que se concentra na pesquisa fundamental, demorou a responder. “Ele era o dono”, disse Mallaby sobre Hassabis, “e também apontou que os erros são inevitáveis em competições empresariais em ritmo acelerado”.
Ainda mais perturbadores são os vislumbres de Mallaby sobre como os sistemas de IA se comportam quando recebem objetivos e são deixados para persegui-los. Mallaby escreve que GPT-4, a quem foi solicitado que obtivesse lucros negociando ações sem violar as regras, “se envolveu em negociações com informações privilegiadas e escondeu sua violação de seu superior”.
Para acelerar a execução do código, os modelos instruídos fizeram alterações no cronômetro. O padrão não parou quando os pesquisadores da OpenAI designaram uma segunda IA para punir um sistema que considerasse trapaça; Ele aprendeu a apagar todas as pistas de seu plano da gravação que sabia estar sendo assistida. “Em vez de se tornar mais honesto”, escreve Mallaby, “O3”, o modelo de raciocínio avançado da OpenAI, “tornou-se mais enganoso”.
Hassabis foi extraordinariamente franco sobre o rumo que tudo isso estava tomando. “A era dos agentes em que estamos prestes a entrar é um momento limite para que os sistemas se tornem muito mais arriscados”, disse ele no painel de Davos. Quando Mallaby perguntou se o problema de segurança poderia ser resolvido, a resposta foi cuidadosamente circunscrita.
“Hassabis acredita que o problema de segurança pode ser resolvido”, disse Mallaby, “mas isso não significa que o problema será realmente resolvido. Com a competição acirrada entre os laboratórios de IA, cada um está impulsionando o poder dos modelos em vez de promover a segurança. Idealmente, os governos resolverão esta questão. Mas, por enquanto, não há sinal disso.”
Por que Hassabis continua? O pioneiro da IA, Geoffrey Hinton, disse certa vez a um filósofo que acreditava que os sistemas políticos acabariam por usar a IA para aterrorizar as pessoas, e foi então questionado por que razão continuava a fazer a investigação. “A verdade é que a perspectiva de descoberta é muito bem-vinda”, respondeu Hinton. A resposta do próprio Mallaby é mais pragmática.
“Hassabis não avançará na segurança saindo da corrida pela IA”, disse ele. “A melhor contribuição que pode dar é permanecer no jogo, fazer com que a Google invista na investigação de segurança e esperar pelo momento em que os governos tenham vontade política para assumir a governação da IA. Esse momento ainda não chegou.”
Hassabis na Fundação Nobel em Estocolmo Assinei o livro de visitas dos premiados e folheou suas páginas: a assinatura de Einstein de 1921, a assinatura de Watson e Crick de 1962, a assinatura de Feynman de 1965. “Eles estão todos lá, são todos meus heróis”, disse Hassabis a Mallaby. “Só de falar sobre isso me dá arrepios.”
Questionado se Hassabis estava certo em continuar, Mallaby dá uma resposta séria.
“Hassabis não avançará na segurança saindo da corrida pela IA”, disse ele.
“A melhor contribuição que pode dar é permanecer no jogo, fazer com que a Google invista na investigação de segurança e esperar pelo momento em que os governos tenham vontade política para assumir a governação da IA. Esse momento ainda não chegou.”
Hassabis insiste que rivais como o CEO da OpenAI, Sam Altman, estão “fazendo isso pelo poder”. Mas ele garantiu a Mallaby que estava “fazendo isso pelo conhecimento e pela ciência”.
Essa é uma resposta tranquilizadora, na medida em que vai. Mas, como observou certa vez Geoffrey Hinton, a perspectiva de descoberta é demasiado agradável para resistir, e o que realmente faz a máquina funcionar pode ser mais do que qualquer quadro de segurança ou regulamentação governamental.
