Drones totalmente autônomos mataram soldados humanos pela primeira vez

Drones totalmente autônomos sem supervisão humana mataram soldados no campo de batalha pela primeira vez. Isto, segundo uma importante figura da indústria de defesa da Ucrânia, marca um momento chave na guerra.

Este teste envolveu 10 drones “Terminator” controlados por IA nas linhas de frente da guerra ucraniana. Soldados russos mortos.

“Nós tentamos”, disse o fabricante de drones Alexander Kokhanovskyy, que forneceu a tecnologia e conversou com ele Novo Cientista em um evento de imprensa organizado pela embaixada ucraniana. “Este foi um teste. Nunca o implementamos (de forma mais ampla).”

O teste foi realizado há dois anos e envolveu um drone quadricóptero programado para voar em direção à linha de frente, percorrendo uma distância entre 3 e 5 quilômetros por cerca de 10 minutos e depois ativando o “modo Terminator”, no qual o modelo de IA procura e intercepta alvos.

“Acabamos de lançá-lo e sabíamos que tudo iria morrer – tudo o que fosse encontrado em uma determinada região iria morrer”, disse Kokhanovskyy. “Não há nenhuma conexão com o drone, você não consegue ver o vídeo, nada… Tudo o que ele vê será desligado.”

Como não há como saber o que os drones automatizados viram ou visaram, drones pilotados por humanos são enviados para a área após testes para verificar manualmente os resultados. As vítimas incluíam “alguns soldados, um caminhão”, disse Kokhanovskyy. Embora não houvesse imagens do drone automatizado atacando o alvo, concluiu-se que o drone os havia matado.

Kokhanovskyy disse que não esteve pessoalmente presente nos testes, mas que foram realizados por unidades militares não identificadas perto das cidades de Bakhmut e Chasiv Yar como parte da contra-ofensiva da Ucrânia. O Ministério da Defesa da Ucrânia não respondeu a perguntas sobre o teste ou sobre a atual posição legal em relação ao uso de armas totalmente autônomas.

O uso da IA ​​é comum nas forças armadas de todo o mundo, ajudando a selecionar alvos entre vastas montanhas de dados de inteligência e automatizando certas funções de armas, mas os humanos estão sempre envolvidos nisso. A confissão de Kokhanovskyy é a prova mais definitiva de que as mortes ocorreram em combate exclusivamente pelas mãos da IA.

O governo ucraniano proíbe atualmente a utilização de IA nas fases finais da interceção de alvos, de acordo com uma fonte da empresa de defesa que falou numa conferência de imprensa da embaixada, embora a IA tenha sido utilizada em muitas partes do processo por muitos dispositivos até então. Kokhanovskyy disse que o governo está ciente das capacidades crescentes da IA ​​e está em negociações com empresas de defesa sobre se as regulamentações deveriam ser mais brandas.

Relatórios de 2023 indicaram que drones de ataque ucranianos equipados com inteligência artificial encontraram e atacaram alvos sem assistência humana – mas foram implantados contra veículos como tanques, não contra infantaria. Naquela época, não houve mortes confirmadas.

Embora não exista uma proibição internacional oficial de armas autónomas que possam matar sem intervenção humana, o secretário-geral da ONU, António Guterres, apelou a essa proibição, dizendo ano passado que “não há lugar para sistemas de armas letais autónomos no nosso mundo”.

A ONU afirma que há preocupações de que tais armas possam violar o direito humanitário internacional e os direitos humanos, ao remover o julgamento humano na guerra. Existe também o risco de os sistemas autónomos cometerem erros, atacando soldados ou equipamentos do mesmo grupo ou atacando civis.

A maioria das forças armadas desenvolve dispositivos que automatizam pelo menos parte do processo de engajamento de alvos. Os EUA possuem software que recolhe e analisa grandes quantidades de dados diferentes e seleciona alvos no campo de batalha que podem então ser atacados por drones, mas, em teoria, isto requer confirmação humana. Há alegações de que os EUA também estão a desenvolver os chamados drones voadores Goalkeeper e drones navais Whiplash, que são capazes de encontrar alvos por si próprios e destruí-los.

Um relatório da ONU de 2021 chegou a afirmar que o quadricóptero Kargu-2 produzido por uma empresa turca pode ter sido usado para atacar humanos de forma autônoma no ano anterior. Que relatório Não forneceu detalhes específicos sobre a origem da reclamação ou se algum ser humano foi ferido ou morto, mas afirmou que o Governo de Acordo Nacional (GNA) da Líbia utilizou os drones contra as forças de Haftar em retirada.

O major Danylo Polozhukhno, uma figura sênior do 21º Regimento Separado de Sistemas Não Tripulados do 3º Corpo de Exército da Ucrânia, que não estava ciente ou envolvido no teste, disse Novo Cientista que seus soldados usam sistemas de controle semiautônomos, mas sempre há humanos envolvidos.

“Esses sistemas e plataformas de drones são capazes de adquirir e rastrear alvos automaticamente, bem como de se orientar de forma autônoma durante as medições de aproximação final, ajudando assim a simplificar o trabalho do operador. No entanto, não usamos sistemas de drones totalmente autônomos que selecionam e atacam alvos de forma independente, sem qualquer envolvimento do operador”, disse Polozhukhno. “A Ucrânia cumpre o direito humanitário internacional e leva a sério a sua responsabilidade de defender os direitos de todos os combatentes. A Ucrânia também é muito cuidadosa na sua tomada de decisões para evitar vítimas civis.”

Mariarosaria Taddeo da Universidade de Oxford disse que a morte por IA rouba a dignidade dos soldados, retira a responsabilidade dos agressores e deveria ser banida. “Isso não é apenas problemático, é muito ruim”, disse ele. “Queremos ser uma sociedade que mata outras pessoas, que permite que o seu governo mate outras pessoas, sem envolvimento humano?”

Antônio Rei da Universidade de Exeter, no Reino Unido, disse que embora ataques completamente autónomos sem envolvimento humano sejam tecnologicamente possíveis, podem ser menos decisivos do que muitas pessoas pensam.

“Há certamente a possibilidade de os governos permitirem isto se isso lhes der uma vantagem militar”, disse ele. “No entanto, permanece o facto de que muito poucos, mesmo milhões de drones usados ​​na guerra da Ucrânia pelas forças russas e ucranianas, são (totalmente) autónomos.”

“Portanto, manter os humanos atualizados eticamente não é apenas a coisa certa a fazer, mas, neste ponto, é mais eficaz militarmente”, disse King.

Kokhanovskyy disse que o projeto Terminator não progrediu desde os testes devido às regulamentações ucranianas. Ele agora é CEO da fabricante de drones Aero Center, que, segundo ele, não esteve envolvida nos testes porque a empresa ainda não havia sido fundada na época, uma empresa ucraniana que trabalha em drones interceptadores autônomos. Ele foi projetado para atingir drones kamikaze russos Shahed e eliminá-los antes que cheguem a cidades cheias de civis ou infraestrutura crítica.

O sistema ALITA da empresa será composto por 16 plataformas de lançamento, equipadas com 64 drones. A aeronave estará pronta em outubro e será capaz de monitorar drones que chegam, lançando-se e viajando automaticamente em direção aos alvos a uma velocidade de 450 quilômetros por hora antes de destruir tudo, desde pequenos drones até helicópteros.

Mas os actuais regulamentos ucranianos proibiriam operações totalmente autónomas e exigiriam que humanos verificassem os alvos nas fases finais da intercepção. Mesmo nesse modo, toda a bateria de 64 drones requer apenas dois operadores humanos, o que significa uma redução drástica de pessoal.

“Cada passo pode ser feito manualmente ou automaticamente. Não temos permissão para fazer o estágio final automaticamente”, disse Kokhanovskyy, que acredita que as regras deveriam ser alteradas. “Eu adoraria fazer isso”, disse ele.