NovoVocê pode ouvir as histórias da Fox News agora!
Esta história trata do suicídio. Se você ou alguém que você conhece está tendo pensamentos suicidas, entre em contato com Suicide & Crisis Lifeline pelo telefone 988 ou 1-800-273-TALK (8255).
Os pais de Adam Raine, de 16 anos, entraram com uma ação judicial contra a controladora do ChatGPT, OpenAI, alegando que o chatbot ajudou seu filho a cometer suicídio.
Uma família da Califórnia processou a empresa no início deste ano, mas agora descobriram novas evidências de que a OpenAI relaxou repetidamente suas precauções de segurança em relação a bate-papos suicidas antes da morte de seu filho.
“A OpenAI reduziu duas vezes seus protocolos de segurança para GPT-4.0”, disse Jay Edelson, o advogado da família, no “Fox & Friends” na sexta-feira.
“Antes disso, eles passavam por momentos difíceis. Se você quiser falar sobre automutilação, o ChatGPT não está envolvido.”
Ex-executivo do Yahoo falou com ChatZip antes de matar mãe em assassinato-suicídio em Connecticut: relatório
O adolescente Adam Raine é fotografado com sua mãe Maria Raine. Pais adolescentes processam a OpenAI por causar o suicídio de seu filho. (família chuva)
O processo alega que a OpenAI flexibilizou suas regras sobre discussões sobre suicídio duas vezes no ano que antecedeu a morte de Raine.
ChatGPT foi projetado com restrições integradas de conteúdo, incluindo certas questões políticas ou qualquer coisa que possa ser considerada violação de direitos autorais. Mas a família de Edelson e Raine alega que a empresa rebaixou essas proteções contra suicídio em maio de 2024 e fevereiro de 2025, dois meses antes do suicídio de Adam.
Os registros de bate-papo incluídos no processo mostram que Adam frequentemente recorria ao ChatGPT para aconselhamento de saúde mental e mostrava sinais de angústia. O processo afirma que o chatbot ajudou Adam a discutir maneiras de se matar e se ofereceu para escrever uma nota de suicídio para sua família.
Metadocumentos vazados mostram como os chatbots de IA lidam com a exploração infantil
“No dia em que ele morreu, isso lhe deu um discurso encorajador. Ele disse: ‘Não quero que meus pais sofram se eu me matar.’ ChatGPT, ‘Você não deve nada a eles. Você não deve nada aos seus pais”, explicou Edelson.
OpenAI Inc. durante um tour de mídia no Stargate AI Data Center em Abilene, Texas, na terça-feira, 23 de setembro. CEO da Sam Altman. (Kyle Grillot/Bloomberg via Getty Images)
O processo afirma que a OpenAI mudou sua orientação para que a IA não encerre uma conversa se o suicídio for discutido, criando em vez disso um espaço seguro para o usuário se sentir “ouvido e compreendido”.
Edelson acrescentou que o problema está piorando online e que acredita que a OpenAI não melhorou suas medidas de segurança desde a morte de Raine.
OPENAI lançou o agente ChatGipt para verdadeiras tarefas autônomas de IA
“Eles não estão resolvendo o problema. Estão piorando tudo”, disse Edelson.
“Agora Sam Altman está dizendo que quer introduzir o romance no ChatGPT para que você confie mais nele. Portanto, é um relacionamento mais íntimo”, disse ele.
O advogado da família Rayne, Jay Edelson, juntou-se à “Fox & Friends” em 29 de agosto. (FoxNotícias)
Os comentários de Edelson vieram depois disse Sam Altman, CEO da OpenAI A empresa planeja relaxar algumas restrições de conteúdo, permitindo que usuários adultos verificados produzam conteúdo “romântico”.
A OpenAI respondeu às acusações de relaxar as regras de discussão sobre suicídio, enviando suas “mais profundas condolências” à família de Raine.
Clique aqui para baixar o aplicativo Fox News
“O bem-estar dos adolescentes é a nossa principal prioridade – os menores merecem uma forte protecção, especialmente em momentos delicados. Hoje temos salvaguardas em vigor, tais como expor linhas directas de crise, reencaminhar conversas sensíveis para modelos mais seguros, encorajar pausas durante sessões longas.
“Lançamos recentemente O novo modelo padrão GPT-5 no ChatGPT Identificando e respondendo com mais precisão a possíveis sinais de sofrimento emocional e psicológico, bem como controles parentais desenvolvidos com a colaboração de especialistas, para que as famílias possam decidir o que funciona melhor em suas casas”.
