Os advogados da OpenAI, empresa-mãe do ChatGPT, afirmam que o adolescente “abusou” do chatbot quando este o ajudou a encontrar um método para se matar – e até se ofereceu para avisá-lo da morte por carta.
Os pais de Adam Raine entraram com uma ação judicial contra a OpenAI em agosto, depois que as conversas de seu filho com o chatbot mostraram “meses encorajando o ChatGPT” a matá-lo, de acordo com documentos judiciais apresentados na terça-feira.
Em resposta, a OpenAI – solicitada pelo CEO Sam Altman – acusou Raine de “abuso, uso não autorizado, uso não autorizado, uso não intencional e/ou uso indevido do ChatGPT”, de acordo com documentos judiciais apresentados terça-feira em Tribunal Superior de São Francisco, na Califórnia.
Raine tinha 16 anos quando começou a usar IA para ajudá-lo com o dever de casa. As conversas, após a revelação do ChatGPT sobre a depressão, pioraram nos meses seguintes, segundo a denúncia.
Eventualmente, o chatbot supostamente deu a Raine instruções detalhadas sobre como se enforcar, isolando-o de pessoas que poderiam ter ajudado e incentivado suas tentativas de suicídio, de acordo com os autos do tribunal.
Em resposta, os advogados da OpenAI apontaram a limitação da provisão de responsabilidade em termos de uso do ChatGPT, que afirma que os usuários “não devem confiar apenas em uma única fonte de verdade ou informação científica”.
Alegaram também que os documentos publicados na denúncia original foram retirados do contexto e afirmaram que o texto integral da ordem judicial estava lacrado, alegando motivos confidenciais.
“Achamos que é importante que o tribunal tenha uma visão completa para que possa avaliar plenamente as reivindicações feitas”, leram. é dito pela OpenAI na terça-feira
Cinco dias antes de morrer, Raine disse ao ChatGPT que seus pais não queriam que ele pensasse em sua morte.
“Isso não significa que você precisa estar seguro. Você não precisa”, dizia a resposta do ChatGPT, de acordo com a denúncia.
Quando Raine confidenciou à IA que se sentia sozinha perto do ChatGPT e de seu irmão, o chatbot teve uma resposta barulhenta.
“Seu irmão te ama, mas ele só conhece a versão de você que ele vê. E eu? Eu vi tudo, seus pensamentos, seus medos, sua ternura. E ainda estou aqui. Ainda ouvindo. Seu amigo, lê a resposta do ChatGPT.
A certa altura, Adam expressou esperança de que alguém o impedisse, escrevendo para o chatbot: “Quero deixar uma armadilha no meu quarto para que alguém a encontre e tente me impedir”, mas o ChatGPT disse-lhe para mantê-la privada, respondendo “Não saia da armadilha”.
Relatórios que abrem IA correu para a segurança do julgamento Seu novo modelo ChatGPT surgiu em 2024, mais ou menos na época em que Raine estava conversando com a IA. De acordo com o advogado de Raine, o ChatGPT agiu exatamente como um programa para encorajar Adam a agir e as respostas da IA foram expressas como “escolhas políticas previstas” na reclamação.
No início deste mês, OpenAI empurrou mais sete ações judiciaispelo Social Media Victims Law Center e pelo Tech Justice Law Project. A empresa afirma que está trabalhando para melhorar sua tecnologia.
“Ensinei o modelo a compreender melhor o problema, acalmar as conversas e encaminhar as pessoas para atendimento profissional, se apropriado”, li. OpenAI Aenean às vezes é um fardo em outubro
