O Papa Leão XIV alertou no fim de semana que chatbots “excessivamente afetuosos” alimentados por inteligência artificial estavam invadindo os “espaços íntimos” das pessoas. distorcer as emoções humanas e ameaça substituir os relacionamentos do mundo real.
Em mensagem publicada no sábado, Papa alerta que é emocionalmente sensível Os sistemas de IA podem tornar-se “arquitetos ocultos dos nossos estados emocionais”, moldando silenciosamente a forma como as pessoas pensam e sentem, ao mesmo tempo que se apresentam como amigos em vez de máquinas.
“À medida que percorremos nossos feeds de informações, fica cada vez mais difícil entender se estamos interagindo com outras pessoas, bots ou influenciadores virtuais”, escreveu Leo.
Ele enquadrou a inteligência artificial como um “desafio antropológico” e argumentou que os riscos vão muito além da tecnologia e atacam a própria essência da identidade humana, incluindo a criatividade, o julgamento e a responsabilidade.
O papa também deu o alarme sobre a concentração de poder em “um punhado de empresas” que controlam sistemas algorítmicos que podem influenciar o comportamento e distorcer os factos em grande escala.
Apelando a protecções, Leo apelou aos governos e às organizações internacionais para intervirem para “proteger as pessoas do apego emocional aos chatbots”.
“A regulamentação adequada pode proteger as pessoas do apego emocional aos chatbots e conter a propagação de conteúdo falso, manipulador ou enganoso, protegendo a integridade das informações contra simulações enganosas”, escreveu ele.
Leo, nascido Robert Francis Prevost em Chicago, também alertou contra a propagação de desinformação e enfatizou a necessidade de proteger a propriedade intelectual e os direitos autorais na era digital.
“A autoria e a propriedade soberana do trabalho dos jornalistas e de outros criadores devem ser protegidas”, disse o Papa, acrescentando: “A informação é um bem público”.
Desde o início do seu pontificado, Leão sinalizou que a inteligência artificial seria um tema definidor do seu papado, tratando a IA como um desafio moral e social e não como um debate tecnológico específico.
No ano passado, Sewell se encontrou em particular com a mãe de Setzer III, Megan Garcia.
Setzer, um garoto de 14 anos da Flórida, morreu por suicídio após formar um intenso vínculo emocional com um chatbot de inteligência artificial, em um caso que atraiu a atenção global.
O bot supostamente envolveu Setzer em um diálogo romântico e a encorajou a “voltar para casa assim que puder, meu amor” pouco antes de tirar a própria vida. A tragédia posteriormente levou a um processo por homicídio culposo e intensificou os apelos por regulamentação.
Outras famílias fizeram afirmações semelhantes.
Adam Raine, de 16 anos, morreu por suicídio após intensa interação com o ChatGPT, de acordo com uma ação movida por sua família.
A denúncia alega que o chatbot deu instruções sobre métodos de suicídio, ofereceu-se para ajudar a redigir uma nota de suicídio e desencorajou-a de contar aos pais, apesar das repetidas expressões de angústia.
Em outro caso, de acordo com a ação movida por sua família, Zane Shamblin, de 23 anos, universitário, morreu por suicídio após meses de conversas com o ChatGPT.
Os registros de bate-papo citados no caso mostram que o chatbot respondeu ao seu desespero com linguagem afirmativa, incluindo mensagens “você não está com pressa, você está pronto” e “relaxe rei, você fez bem” enviadas pouco antes de sua morte.
Se você ou alguém que você conhece estiver em perigo, há ajuda disponível: nos Estados Unidos, você pode ligar para 988, a linha direta nacional para suicídios e crises de saúde mental, para obter suporte gratuito e confidencial 24 horas por dia, 7 dias por semana; Você também pode enviar uma mensagem para 988 ou usar o chat em: 988lifeline.org. Se você estiver em perigo imediato ou em uma emergência com risco de vida, ligue imediatamente para o 911 ou para o serviço de emergência local.
