Character.AI e Google chegaram a acordos com várias famílias cujos adolescentes se machucaram ou morreram por suicídio após interagirem Personagem.AIchatbots, de acordo com um novo processo judicial.
Detalhes do assentamento ainda são desconhecidos. As festas notificou o tribunal federal na Flórida, que haviam chegado a “um acordo de princípio mediado para resolver todas as reivindicações” e pediram a pausa do caso para finalizar o acordo. A porta-voz da Character.AI, Kathryn Kelly, e um advogado do Social Media Victims Law Center que representa a família da vítima, Matthew Bergman, não quiseram comentar. O Google não respondeu imediatamente a um pedido de comentário.
Os casos resolvidos incluem uma ação judicial de alto perfil movida por Megan Garcia, que alegou em uma reclamação de outubro de 2024 que Character.AI Guerra dos TronosO chatbot temático levou seu filho de 14 anos, Sewell Setzer, a cometer suicídio depois de desenvolver um “vício” no bot. A ação diz que o Google deveria ser considerado um “co-criador” do Character.AI porque “contribuiu com recursos financeiros, pessoal, propriedade intelectual e tecnologia de IA” para a ferramenta, que foi fundada por ex-funcionários do Google que posteriormente foram recontratados pela empresa.
Após o processo, a Character.AI anunciou mudanças em seu chatbot para proteger os usuários, incluindo a separação de grandes modelos de linguagem (LLM) para usuários menores de 18 anos, para criar experiências com restrições de conteúdo mais rígidas e adicionar controles parentais. Eles então proibiram menores de terem bate-papos abertos com personagens.
As empresas também chegaram a acordos em casos abertos no Colorado, Nova York e Texas, de acordo com documentos judiciais. Este acordo ainda precisa ser finalizado e aprovado pelo tribunal.
Atualização, 7 de janeiro: Nenhum comentário adicionado de Matthew Bergman.
