A alegada utilização de inteligência artificial para selecionar alvos e lançar um ataque ao Irão levanta muitas questões e levanta receios de que o controlo humano sobre a máquina de guerra esteja a ser desgastado, de acordo com um especialista em inteligência artificial.
Os Estados Unidos e Israel realizaram milhares de ataques desde que lançaram um ataque ao Irão em 28 de Fevereiro.
Peter Asaro, que estuda inteligência artificial e robótica em particular, disse à AFP esta semana que parece provável que estes dois países tenham usado inteligência artificial para identificar alvos no Irão.
Mas se a IA ajudar a acelerar as coisas, também levantará uma série de questões morais e jurídicas, disse este professor da The New School, em Nova Iorque.
Com a inteligência artificial, “é possível preparar longas listas de alvos muito mais rapidamente do que os humanos”, disse Asaro, que dirige o Comité Internacional para o Controlo de Armas Robóticas, uma ONG.
Desde janeiro, ele também presidiu a campanha “Stop Killer Robots”, um grupo global de mais de 250 organizações que lutam há anos para impedir que “robôs assassinos” cheguem ao campo de batalha.
Na sua opinião, surge uma questão ética e legal central: “Até que ponto as pessoas realmente examinam os alvos designados, verificando a sua legalidade e valor militar antes de autorizar um ataque?”
Perda de controle?
O objetivo da IA é “ser capaz de tomar decisões e se mover mais rápido que seu inimigo”, mas “ainda estamos realmente no controle?” » ele pergunta.
As discussões têm estado em curso em Genebra há quase uma década na ONU para desenvolver regulamentos para estes sistemas de armas autónomos letais (LAWS), os chamados “robôs assassinos”, mas os países nunca conseguiram chegar a um consenso para iniciar negociações reais.
Estas discussões continuam, desta vez com a esperança de chegar a um acordo ainda este ano.
Embora não exista atualmente nenhum acordo específico sobre inteligência artificial e armas autónomas, isso não significa que estes sistemas possam funcionar num vazio jurídico: aplica-se o direito internacional existente, incluindo uma melhor proteção de escolas e hospitais.
Falando à margem das conversações da ONU em Genebra, Asaro enfatizou que o foco do debate estava especificamente na selecção de alvos e no medo de perder o controlo humano real.
Embora o argumento apresentado para a utilização da inteligência artificial em conflitos seja geralmente o de que “estes sistemas são muito precisos e cometem menos erros do que os humanos”, o especialista insistiu que “não sabemos como estes sistemas realmente funcionam”.
Segundo ele, a IA é baseada em sistemas opacos e classificados que dão poucos insights sobre como funcionam e como alcançam resultados.
Asaro disse que “não há uma maneira simples de avaliar o resultado desses sistemas ou de determinar o que deu errado quando os erros foram cometidos”.
“Quem é o responsável?”
“Quem é o responsável se algo der errado?” ele perguntou.
Ele abordou as alegações de que, segundo autoridades iranianas, uma escola na cidade iraniana de Minab foi bombardeada e 150 pessoas morreram.
Nem os EUA nem Israel reconheceram a realização de tal ataque. A AFP não conseguiu aceder a este local para verificar de forma independente esta acusação ou as circunstâncias em que esta tragédia ocorreu.
A AFP descobriu que o edifício ficava perto de duas áreas controladas pelo Corpo da Guarda Revolucionária Islâmica, o poderoso guardião ideológico do regime.
Segundo Asaro, se for cometido um erro, não é fácil descobrir o motivo.
“Eles não separaram a escola da base militar como deveriam (…), mas quem +são+?” ele perguntou. Humano ou máquina?
Se a IA fosse usada, as principais questões que ele diz seriam “quantos anos têm os dados” e se é um “erro de banco de dados”. Ele acrescentou que o alvo poderia ser identificado com precisão, mas o tiro não teria precisão.
Uma hipótese mais preocupante, observa Asaro, poderia ser a de que “o sistema realmente conclui que a escola representa uma ameaça”.
