O Google da Alphabet e a startup de IA Character.AI concordaram em resolver uma ação judicial movida por uma mãe da Flórida que alegou que o chatbot da startup causou a morte de seu filho de 14 anos, representando um dos primeiros casos nos EUA envolvendo uma empresa de IA por suposto dano psicológico.
Um processo judicial na quarta-feira disse que as empresas de Megan Garcia concordaram em resolver as acusações de que seu filho Sewell Setzer se matou logo após ser confirmado pela Character. Um chatbot de IA inspirado na personagem de “Game of Thrones”, Daenerys Targaryen.
Os termos do acordo não estavam disponíveis imediatamente. O processo foi um dos primeiros nos EUA contra uma empresa de inteligência artificial por supostamente não proteger as crianças de danos psicológicos.
Empresas foram processadas por pais no Colorado, Nova York e Texas por supostos danos a menores causados por chatbots, mostram documentos judiciais.
Um porta-voz da Character.AI e um advogado dos demandantes não quiseram comentar. Porta-vozes e representantes do Google não responderam imediatamente a um pedido de comentário.
No caso da Flórida, em outubro de 2024, Garcia disse Caráter. AI propôs seu gato como “uma pessoa real, um psicoterapeuta licenciado e um amante adulto, resultando no desejo de Sewell de não viver fora do mundo”.
A Character.AI foi fundada por dois ex-engenheiros do Google que mais tarde fecharam um acordo com o Google para licenciar a tecnologia da startup. Garcia argumentou que o Google era um colaborador de tecnologia.
A juíza distrital dos EUA, Anne Conway, rejeitou a primeira tentativa da gangue de encerrar o caso em maio, rejeitando o argumento de que bloqueava defesas independentes da Constituição dos EUA no caso de Garcia.
A OpenAI enfrenta uma controvérsia separada em dezembro sobre o suposto papel do ChatGPT em encorajar um homem de Connecticut com doença mental a matar sua mãe e a si mesmo.
Se você luta contra pensamentos destrutivos ou está passando por uma crise de saúde mental e mora na cidade de Nova York, pode ligar para 1-888-NYC-WAR para obter aconselhamento gratuito e confidencial em crises.
Se você mora fora dos cinco distritos, pode ligar para a National Suicide Prevention Lifeline 24 horas por dia, 7 dias por semana, no número 988 ou acessar SuicidePreventionLifeline.org.
