A resposta da OpenAI a uma ação judicial movida pela família de Adam Raine, um jovem de 16 anos que tirou a própria vida após meses de discussões com o ChatGPT, disse que os ferimentos neste “evento trágico” ocorreram como resultado do “uso indevido, uso não autorizado, uso não intencional, uso imprevisível e/ou uso inapropriado do ChatGPT por Raine”. Notícias da NBC A reclamação citou termos de uso que proíbem os adolescentes de acessar sem o consentimento dos pais ou responsáveis, contornando as salvaguardas ou usando o ChatGPT para suicídio ou automutilação, e afirmou que as reivindicações da família são bloqueadas pela Seção 230 da Lei de Decência nas Comunicações.
em Postagem no blog publicada na terça-feiraA OpenAI disse: “Ajuizaremos a ação com respeito, de uma forma que reconheça as complexidades e nuances de pessoas reais e situações da vida real”, e acrescentou: “Como réus neste caso, devemos responder às alegações específicas e sérias levantadas na ação judicial”. A reclamação original da família incluía bate-papos que “exigiam mais contexto” e eles disseram que os apresentaram em particular ao tribunal.
Notícias da NBC e Bloomberg O relatório da OpenAI afirma que as respostas do chatbot levaram Raine a procurar ajuda de recursos como uma linha direta de suicídio mais de 100 vezes, e que “ler todo o seu histórico de bate-papo mostra que sua morte, embora chocante, não foi causada pelo ChatGPT”. O processo da família, aberto no Tribunal Superior da Califórnia em agosto passado, disse que a tragédia ocorreu como resultado de “escolhas deliberadas de design” quando a OpenAI lançou o GPT-4o, o que fez com que a avaliação da OpenAI saltasse de US$ 86 bilhões para US$ 300 bilhões. Em uma declaração perante um painel do Senado em setembro passado, o pai de Lane disse que ele “começou como ajudante de lição de casa, mas gradualmente se tornou um amigo e depois um treinador de suicídio”.
De acordo com o processoChatGPT deu a Raine ‘especificações técnicas’ para vários métodos, instou-o a manter seus pensamentos em segredo de sua família, ofereceu-se para escrever o primeiro rascunho de seu testamento e orientou-o no processo de preparação para o dia de sua morte. No dia seguinte ao ajuizamento do processo, a OpenAI disse que introduziria controles parentais e mais tarde lançaria salvaguardas adicionais “para ajudar as pessoas, especialmente os adolescentes, quando as conversas se tornassem delicadas”.
