Como o uso da IA ​​pelo governo pode prejudicar a democracia

Muitos países estão a explorar como a inteligência artificial pode ajudar em tudo, desde o processamento de impostos até à determinação de benefícios sociais. Mas uma pesquisa mostra que o público não está tão entusiasmado quanto o governo – e isso pode representar um risco real para a democracia.

“Focar apenas em ganhos de eficiência de curto prazo e em tecnologias chamativas corre o risco de desencadear uma reação pública e contribuir para um declínio de longo prazo na confiança e legitimidade democrática”, afirmou. Alexandre Wuttke na Universidade Ludwig Maximilian de Munique, na Alemanha.

Wuttke e seus colegas pediram a cerca de 1.200 pessoas no Reino Unido que compartilhassem seus sentimentos sobre o tratamento da tarefa pelo governo, seja por humanos ou por IA. Estes cenários hipotéticos incluem o processamento de declarações fiscais, a aprovação ou negação de pedidos de assistência social e a realização de avaliações de risco relativamente à elegibilidade do arguido para fiança.

Algumas pessoas são simplesmente informadas sobre como a IA pode melhorar a eficiência do governo – mas outras conhecem os benefícios e riscos associados à IA. Estes riscos incluem dificuldades na compreensão de como as decisões sobre IA são tomadas, o aumento da confiança dos governos na IA, que está a tornar-se cada vez menos comum, e a falta de caminhos claros para a sociedade desafiar e corrigir as decisões sobre IA.

À medida que os cidadãos tomam consciência dos riscos associados à IA, relatam um declínio significativo na sua confiança no governo e uma sensação de perda de controlo. Por exemplo, a percentagem de participantes que relataram uma perda de controlo democrático no seu governo aumentou de 45% para mais de 81% num cenário em que o governo se tornou cada vez mais dependente da IA ​​para realizar determinadas tarefas.

A proporção do público que exige menos IA no governo também aumentou acentuadamente depois de os participantes tomarem conhecimento dos riscos – passando de menos de 20 por cento no cenário de base para mais de 65 por cento em qualquer cenário em que conhecessem os benefícios e riscos da utilização da IA ​​pelo governo.

Apesar destes resultados, os governos democráticos podem aproveitar a IA de forma responsável e manter a confiança dos seus cidadãos, disse ele. Hannah Quay-de la Vallee no Centro para Democracia e Tecnologia em Washington DC. Mas ele disse que até agora houve poucas histórias de sucesso de IA no governo. Entretanto, tem havido “um grande número de casos de falha” – e os riscos nestes casos podem ser muito elevados.

Por exemplo, os esforços dos estados dos EUA para automatizar o processamento de pedidos de benefícios públicos resultaram em dezenas de milhares de pessoas que se tornaram vítimas cobrado indevidamente por fraude. Algumas dessas pessoas acabam falindo ou perdendo suas casas. “Os erros do governo tiveram impactos enormes e de longo prazo”, disse Quay-de la Vallee.