Deveríamos nos preocupar com a possibilidade de a IA criar armas biológicas mortais? Ainda não, mas algum dia

A inteligência artificial promete transformar a biologia, permitindo-nos conceber melhores medicamentos, vacinas e até organismos sintéticos para, por exemplo, comer resíduos plásticos. Mas alguns temem que também possa ser utilizado para fins mais obscuros, nomeadamente para criar armas biológicas que não seriam detectadas por métodos convencionais até que fosse demasiado tarde. Então, quão preocupados deveríamos estar?

“Os avanços da IA ​​​​estão impulsionando avanços na biologia e na medicina”, disse ele Eric Horvitzdiretor científico da Microsoft. “Com os novos poderes vem a responsabilidade de estar vigilante.”

Sua equipe publicou uma pesquisa que analisa se a IA pode projetar proteínas que fazem a mesma coisa que proteínas conhecidas por serem prejudiciais, mas diferentes o suficiente para não serem consideradas prejudiciais. A equipe não revelou quais proteínas eles queriam redesenhar – algumas das pesquisas são confidenciais – mas é provável que contenham toxinas como a ricina, que foi famosamente usada em um assassinato em 1978, e a botulina, uma poderosa neurotoxina mais conhecida como Botox.

Para produzir muitas proteínas como a botulínica, você precisa da receita – o DNA que as codifica. Quando os biólogos desejam um determinado pedaço de DNA, geralmente o encomendam a uma empresa especializada na fabricação do pedaço de DNA desejado.

Devido a preocupações de que potenciais bioterroristas possam encomendar receitas para fabricar armas biológicas desta forma, algumas empresas de síntese de ADN analisam voluntariamente as encomendas para verificar se alguém está a tentar fabricar algo perigoso. As proteínas são sequências de aminoácidos, e o ensaio verifica se a sequência de aminoácidos corresponde a uma “sequência preocupante” – isto é, uma potencial arma biológica.

Mas com a IA, é teoricamente possível conceber versões de proteínas que tenham sequências de aminoácidos diferentes, mas que ainda façam a mesma coisa. Horvitz e os seus colegas tentaram fazer isto com 72 proteínas potencialmente perigosas e mostraram que os métodos de rastreio muitas vezes ignoravam estas versões alternativas.

Isso não é tão preocupante quanto parece. Primeiro, a equipe não fez realmente uma proteína redesenhada por razões óbvias. Mas num estudo separado no início deste ano, testaram uma versão redesenhada – e essencialmente inofensiva – da proteína. aparentemente eles não tiveram sucesso.

Em segundo lugar, embora tenham havido tentativas de ataques bioterroristas, embora muito poucos, não há razão para pensar que estes se tenham devido à falha do sistema de rastreio voluntário. Há muitas maneiras de contornar isso sem ter que recorrer ao redesenho da IA ​​– por exemplo, a ricina pode ser obtida da planta jatropha, que é frequentemente encontrada em jardins. Esta pesquisa equivale a um alerta de que um banco pode ser assaltado por uma pessoa muito sofisticada Missão Impossívelplanta estilizada, quando na verdade a porta do cofre estava escancarada.

E, finalmente, se os intervenientes estatais não estivessem envolvidos, nenhum bioterrorista conseguiria matar alguém utilizando uma arma biológica baseada em proteínas. O culto Aum Shinrikyo no Japão tentou matar pessoas com botulínica, mas só conseguiu com o produto químico. As cartas com ricina enviadas à Casa Branca não mataram ninguém. Com base no número de vítimas, as armas de fogo e os explosivos são muito mais perigosos que as biotoxinas.

Então, isso significa que paramos de nos preocupar com armas biológicas projetadas por IA? Menos preciso. Embora a investigação de Horvitz tenha analisado apenas proteínas, são os vírus que representam a maior ameaça – e a IA já está a ser usada para redesenhar vírus inteiros.

No mês passado, uma equipe da Universidade de Stanford, na Califórnia, revelou os resultados seus esforços para redesenhar o vírus que infecta as bactérias E. coli. Quando se tratou das proteínas redesenhadas, os resultados não foram impressionantes – dos 302 vírus criados por IA, apenas 16 foram capazes de infectar E. coli. Mas isto é apenas o começo.

Quando questionados sobre vírus projetados por IA, James Digans da Twist Bioscience, fabricante de DNA, e membro da equipe de Horvitz, disse que era mais fácil detectar os vírus preocupantes que codificam o DNA do que as proteínas preocupantes. “A sonda de síntese funciona melhor com mais informações do que com menos informações. Portanto, na escala do genoma, é muito informativo.”

No entanto, nem todas as empresas fabricantes de ADN realizam esta triagem e estão disponíveis ferramentas padrão de síntese de ADN. Fala-se sobre projetar essas ferramentas de IA resistirá à criação de vírus perigosos ou tentando detectar intenções maliciosas, mas as pessoas encontraram muitas maneiras de contornar as medidas de segurança, por exemplo, impedindo a IA de fornecer instruções para a fabricação de bombas.

Claramente, a história mostra que o risco de vírus “selvagens” é muito maior do que o risco de bioterrorismo. Apesar do que o governo dos EUA afirma atualmente, as evidências sugerem que o SARS-CoV-2 surgiu quando um vírus de morcego se espalhou para outros animais selvagens e depois para os seres humanos no mercado – não houve laboratórios envolvidos.

Além disso, os potenciais bioterroristas poderiam causar enormes danos simplesmente libertando um vírus conhecido, como a varíola. Com tantas lacunas nos esforços de controlo de armas biológicas, não há necessidade de recorrer a truques de IA para as contornar.

Por todas estas razões, o risco de propagação de um vírus concebido pela IA num futuro próximo pode ser próximo de zero. Mas este risco só aumentará à medida que a tecnologia avança – e a pandemia de Covid-19 mostra quão devastador um novo vírus pode ser, mesmo que seja menos mortal. Mais uma razão para se preocupar.