O CEO da OpenAI, Sam Altman, pediu desculpas a uma comunidade canadense por não ter alertado a polícia sobre as conversas do atirador em massa com seu chatbot.
As autoridades dizem que Jesse Van Rootselaar, de 18 anos, matou oito pessoas, incluindo crianças em idade escolar, em Tumbler Ridge, na Colúmbia Britânica, antes de cometer suicídio em fevereiro.
“Lamento profundamente que não tenhamos alertado as autoridades sobre a conta banida em junho”, disse Altman em carta na quinta-feira. “Embora eu saiba que palavras nunca serão suficientes, acredito que um pedido de desculpas é necessário para reconhecer o dano e a perda irreversível que sua comunidade sofreu.”
Na sexta-feira, o primeiro-ministro da Colúmbia Britânica, David Eby, postou a carta nas redes sociais.
A carta veio depois Jornal de Wall StreetCitando pessoas familiarizadas com o assunto, Van Rootselaar teria falado ao ChatGPT sobre violência armada este ano, gerando um debate entre os funcionários da OpenAI sobre a possibilidade de alertar as autoridades canadenses.
A OpenAI baniu a conta do usuário, mas decidiu não denunciar à polícia após verificar se a atividade seria considerada um risco iminente e grave de danos físicos a terceiros.
As empresas de tecnologia têm enfrentado um escrutínio cada vez maior após os tiroteios em massa sobre como os criminosos usam suas ferramentas para planejar ataques ou transmitir assassinatos. Mas a ascensão dos chatbots de IA que respondem rapidamente a perguntas e produzem conteúdo também significa que as pessoas estão compartilhando seus pensamentos mais sombrios online. Embora as empresas de IA estejam agora envolvidas em debates sobre o equilíbrio entre a segurança pública e a privacidade, também se debatem com novos processos judiciais e investigações.
Em março, a família de uma vítima hospitalizada do ataque em Tumbler Ridge processou a OpenAI, alegando que a empresa sabia que o invasor estava planejando um ataque em massa, mas não avisou as autoridades.
Em postagem publicada na sexta-feira
Na carta, Altman disse que conversou com o prefeito de Tumbler Ridge, Darryl Krakowka, e Eby sobre o tiroteio e concordou com um pedido público de desculpas. Altman disse que está empenhado em encontrar formas de prevenir tais tragédias.
“No futuro, nos concentraremos em trabalhar com todos os níveis de governo para garantir que algo assim nunca aconteça novamente”, disse Altman em sua carta.
A OpenAI também enfrenta reações adversas sobre se está fazendo o suficiente para proteger a segurança pública nos Estados Unidos.
Na semana passada, o procurador-geral da Flórida lançou uma investigação criminal sobre ChatGPT e OpenAI para determinar se a empresa de IA de São Francisco é “criminalmente responsável” pelas ações do chatbot em um tiroteio na Florida State University no ano passado que deixou duas pessoas mortas. Os promotores estavam examinando as conversas entre o suspeito Phoenix Ikner e o ChatGPT.
