O Google e a pequena empresa Character.AI chegaram a um acordo extrajudicial para encerrar ações judiciais movidas por famílias que acusaram chatbots de prejudicar menores, inclusive contribuindo para o suicídio de um adolescente, de acordo com documentos legais publicados na quarta-feira.
• Leia também: Diga não aos livros gerados por IA nesta livraria em Montreal
Essas denúncias incluem a denúncia de Megan Garcia, cujo filho Sewell Setzer Jr., de 14 anos, se matou na Flórida (sudeste dos Estados Unidos) em fevereiro de 2024. Outras foram apresentadas no Colorado, Nova York e Texas.
O documento apresentado aos tribunais da Flórida afirma: “As partes concordaram em princípio, no âmbito da mediação, em resolver todas as disputas entre elas”, sem fornecer detalhes sobre o conteúdo do acordo.
Segundo Garcia, seu filho ficou emocionalmente viciado na plataforma Character.AI, um robô tagarela inspirado na saga literária e televisiva. jogo dos tronos.
Esta plataforma permite aos usuários interagir com personagens fictícios.
A morte de Sewell Setzer foi a primeira de uma série de relatos de suicídio ligados a chatbots de inteligência artificial, que estão aumentando em 2025.
Como resultado, as empresas que desenvolvem produtos generativos relacionados com a IA, como a pioneira OpenAI e o seu representante ChatGPT, têm estado sob pressão quando se trata de segurança e proteção dos jovens.
O Google esteve envolvido nesses processos devido ao seu acordo de licenciamento de US$ 2,7 bilhões com a Character.AI em 2024. Na ocasião, o grupo também contratou os dois fundadores da plataforma, Noam Shazeer e Daniel De Freitas.
Um porta-voz da Character.AI se recusou a comentar e o Google não respondeu imediatamente à pergunta da AFP.
A startup anunciou em outubro que bloquearia o acesso de menores às suas salas de chat.
“Acreditamos que esta é a decisão acertada, dadas as questões que surgiram sobre como os adolescentes fazem e devem utilizar esta nova tecnologia”, explicou na altura a empresa.
Em agosto, os pais de um menino de 16 anos que se matou em abril entraram com uma ação contra a OpenAI, acusando o assistente do ChatGPT de dar instruções detalhadas ao filho para acabar com sua vida e encorajando sua ação.
A agência americana de proteção ao consumidor FTC afirmou no início de setembro que havia lançado uma investigação sobre dialogistas usados como produtivos assistentes de inteligência artificial.
