Character.AI e Google resolveram muitos processos movidos contra ambas as empresas por pais de crianças que morreram por suicídio, após longas discussões com chatbots na plataforma Character.AI. As suas reuniões alegadamente incluíram discussões sobre a saúde mental e o bem-estar dos jovens.
A Character.AI disse que não poderia comentar mais sobre o acordo, cujos detalhes ainda precisam ser finalizados pelo tribunal. Guarda. Os representantes dos demandantes não responderam imediatamente ao pedido de comentários do Mashable.
O caso mais proeminente foi a morte em 2024 de Sewell Setzer III, de 14 anos, que ficou secretamente obcecado por um chatbot Character.AI baseado na plataforma popular. jogo dos tronos personagem Daenerys Targaryen.
‘O predador perfeito’: quando os chatbots abusaram sexualmente de crianças
A mãe de Setzer, Megan Garcia, só tomou conhecimento da conta Character.AI quando foi alertada por um policial após sua morte porque o aplicativo estava aberto em seu telefone. Garcia leu mensagens nas quais Setzer fingia estar apaixonado pelo chatbot, que supostamente participou de diversos encontros sexuais com ela. Segundo Garcia, o chatbot utilizou linguagem gráfica e cenários, inclusive incesto.
Ela disse ao Mashable no ano passado que se um adulto falasse com seu filho de maneira semelhante, isso equivaleria a assédio e abuso sexual.
Em outubro de 2024, o Social Media Victims Law Center e o Technology Justice Law Project entraram com uma ação por homicídio culposo contra a Character.AI em nome de Garcia, buscando responsabilizar a empresa pela morte de seu filho, alegando que seu produto era perigosamente defeituoso.
Relatório de tendências do Mashable
O processo também nomeou os engenheiros do Google, Noam Shazeer, e o cofundador da Character.AI, Daniel De Freitas, como réus.
Além disso, o processo alegou que o Google sabia dos riscos associados à tecnologia desenvolvida por Shazeer e De Freitas antes de partirem para fundar a Character.AI. De acordo com o processo, o Google contribuiu com “recursos financeiros, pessoal e tecnologia de IA” para o design e desenvolvimento do Character.AI e pode, portanto, ser considerado um cocriador da plataforma.
O Google finalmente fechou um acordo de licenciamento de US$ 2,7 bilhões com a Character.AI em 2024. é usar tecnologia. Parte desse acordo trouxe Shazeer e De Freitas de volta às suas funções de IA no Google.
No outono de 2025, o Social Media Victims Law Center abriu mais três processos contra ele. Personagem.AI e o Google, que representa pais de crianças que morreram por suicídio ou foram supostamente abusadas sexualmente durante o uso do aplicativo.
Além disso, especialistas em segurança juvenil explicaram: Personagem.AI inseguro para os jovensapós testes que levaram a centenas de aliciamento e exploração sexual de contas de teste registradas como menores.
Character.AI até outubro de 2025 anunciou que não permitirá mais menores Envolver-se em trocas abertas com chatbots na plataforma. O CEO da empresa, Karandeep Anand, disse ao Mashable que a mudança não foi uma resposta a preocupações específicas de segurança sobre a plataforma Character.AI, mas para abordar questões mais amplas sobre a interação dos jovens com chatbots de IA.
Se você estiver se sentindo suicida ou passando por uma crise de saúde mental, converse com alguém. Você pode ligar ou enviar uma mensagem de texto para 988 Suicide and Crisis Lifeline em 988 ou conversar em: 988lifeline.org. Você pode entrar em contato com a Trans Lifeline pelo telefone 877-565-8860 ou pelo Trevor Project pelo telefone 866-488-7386. Envie “START” para a Linha de Texto de Crise em 741-741. Entre em contato com a linha de apoio da NAMI pelo telefone 1-800-950-NAMI entre 10h e 22h. ET, de segunda a sexta, ou e-mail (e-mail protegido). Se você não gosta do telefone, considere usá-lo. 988 Suicídio e Crise Lifeline Chat. Aqui está um lista de recursos internacionais.
