O rápido desenvolvimento da tecnologia de inteligência artificial (IA) desencadeou discussões urgentes sobre a necessidade de uma regulamentação forte. O professor Paul Dumouchel, da Universidade de Quebec, em Montreal, acredita que os mal-entendidos generalizados sobre a natureza da inteligência artificial têm um impacto significativo na forma como ela é regulamentada. Seu artigo, “Inteligência Artificial e Regulamentação”, publicado na revista Artificial Intelligence, detalha essa análise.
O professor Dumouchel enfatizou que a inteligência artificial não deve ser vista como uma entidade monolítica única. Pelo contrário, abrange uma variedade de tecnologias cognitivas com diferentes características e aplicações. Este mal-entendido conduz frequentemente a abordagens regulamentares ineficazes. Ele disse que “tratar a IA como algo que existe por si só, e não como um conjunto de tecnologias cognitivas… pode levar a uma abordagem regulatória ineficaz”. Esta visão destaca a importância de compreender a natureza multifacetada da IA, a fim de desenvolver mecanismos de supervisão eficazes.
Com o surgimento de modelos avançados de inteligência artificial, como o ChatGPT, a urgência da regulamentação da inteligência artificial também aumentou. Surge a questão: a IA deve ser regulamentada? Se sim, como e por quem? O Professor Dumouchel explora estas questões, observando que a diversidade das tecnologias de IA complica o ambiente regulatório. Explicou que a inteligência artificial abrange uma vasta gama de dispositivos, algoritmos e aplicações, cada um dos quais requer uma abordagem regulamentar personalizada.
O professor Dumouchel traçou as raízes históricas da regulamentação da IA, observando que as primeiras pesquisas em IA se baseavam na suposição de que o pensamento humano poderia ser replicado com precisão por máquinas. Isto levou à crença de que os humanos e a IA são fundamentalmente semelhantes, o que afecta o pensamento regulamentar. No entanto, o professor Dumoucher acredita que esta visão é falha. “A afirmação de que não há diferença entre o desempenho da mente humana e dos sistemas cognitivos artificiais baseia-se, portanto, na possibilidade de criar uma máquina capaz de replicar os resultados de diferentes operações intelectuais”, escreve ele.
Ele criticou duas abordagens populares para regular a IA. A primeira é uma proposta de suspensão da investigação em inteligência artificial, que considera uma medida contraditória e, em última análise, ineficaz. O Professor Dumoucher afirma: “No entanto, uma moratória não é uma forma de regulação. É mais como um duplo vínculo, uma injunção contraditória que está fadada ao fracasso.” A segunda abordagem é incorporar considerações éticas nos sistemas de IA, que ele acredita ignorarem a diferença fundamental entre humanos e IA.
Em vez disso, o Professor Dumouchel defende um quadro regulamentar que se concentre nas características únicas dos sistemas de IA. Ele enfatizou a importância de compreender os domínios cognitivos específicos e as limitações dos agentes de IA. Ao contrário dos humanos, os sistemas de IA estão limitados aos dados e algoritmos que definem a sua funcionalidade. Esta distinção é fundamental para o desenvolvimento de regulamentações que abordem as capacidades e riscos reais da IA.
Ele também enfatizou a importância da transparência e da responsabilização nos sistemas de IA. Como os agentes de IA operam de forma invisível e onipresente, seu comportamento deve ser garantido para ser rastreável e compreensível. O professor Dumoucher salienta: “Nunca encontramos o agente em si, porque, em última análise, é apenas uma função matemática. Enfrentamos apenas algumas das consequências da sua operação.” Portanto, os regulamentos devem prever mecanismos claros de comunicação e responsabilização para os sistemas de IA.
O Professor Dumouchel concluiu sublinhando que os principais desafios na regulação da IA são políticos, não morais ou metafísicos. A implantação de tecnologias de IA altera a dinâmica de poder entre os diferentes intervenientes sociais, necessitando de abordagens regulamentares que tenham em conta estas mudanças. “Os sistemas cognitivos artificiais e as tecnologias de informação e comunicação relacionadas desempenharam um papel central na concentração sem precedentes de riqueza e poder que estamos a testemunhar”, escreveu ele.
No geral, a investigação do Professor Dumouchel destaca a necessidade de uma abordagem matizada e informada para a regulamentação da IA. Ao reconhecer que a IA é um conjunto diversificado de tecnologias cognitivas, os decisores políticos podem desenvolver mecanismos de supervisão mais eficazes para abordar os riscos e capacidades específicos dos sistemas de IA. A transparência, a responsabilização e a compreensão das limitações da IA são componentes importantes de um quadro regulamentar forte.
Referência do diário
Dumoucher, Paulo. “Inteligência Artificial e Regulamentação.” Inteligência Artificial, vol. 4. Nº 4, 2023, pp. Número digital: https://doi.org/10.3390/ai4040052
Sobre o autor
Paulo Dumoucher Canadense, ele foi até recentemente professor na Escola de Pós-Graduação em Ética Central e Ciências de Fronteira da Universidade Ritsumeikan em Kyoto, Japão, onde pensou sobre filosofia política e filosofia da ciência. ele é humor (Limiar, 1999) A ambivalência da escassez e outros ensaios (2014) e sacrifício estéril (2015) ambos da Michigan State University Press. Ele editou com Reiko Gotoh Combatendo a injustiça: a nova economia de Amartya Sen (Cambridge University Press, 2009) e como um vínculo social de liberdade (Livros Bergham, 2015). Seu último livro, com Luisa Damiano, é Vivendo com robôs (Seuil, 2016) Tradução para o inglês Vivendo com robôs (Imprensa da Universidade de Harvard) Publicado em 2017 e traduzido para italiano e coreano em 2019. Atualmente é professor associado do Departamento de Filosofia da Universidade de Quebec em Montreal, Canadá.
Paul Dumouchel é um canadense que atuou como professor de filosofia política e filosofia da ciência na Escola de Pós-Graduação em Ética Central e Ciências de Fronteira da Universidade Ritsumeikan, Kyoto, Japão, de 2003 a 2021. Ele foi coautor com Jean-Pierre Dupuy inferno de coisas (Limiar, 1979). Ele também humor (Seuil, 1999) e sacrifício inútil (Flammarion, 2011) e A ambivalência da escassez e outros ensaios (2014). Ele atua como codiretor da série com Reiko Gotoh Combatendo a injustiça: a nova economia de Amartya Sen (Cambridge University Press, 2009) e como um vínculo social de liberdade (Livros Bergham, 2015). Seu último livro, com Luisa Damiano, é Vivendo com robôs (Seuil, 2016) foi traduzido para inglês, italiano e coreano. Atualmente é professor associado do Departamento de Filosofia da Universidade de Quebec em Montreal, Canadá.
