A OpenAI está sob intensa pressão legal e pública para melhorar a forma como seu principal produto de IA, ChatGPT, responde quando um usuário expressa sentimentos suicidas.
Na quinta-feira, a empresa lançou um recurso chamado Contato Confiável que permite aos usuários designar um adulto para notificar se os usuários falarem sobre automutilação ou suicídio de forma séria ou alarmante.
O recurso opcional incentiva apenas contatos confiáveis a entrar em contato com o usuário. Ele não compartilha transcrições de bate-papo ou detalhes de conversas.
4 razões para não transformar o ChatGPT em seu terapeuta
“Nosso objetivo é garantir que os sistemas de inteligência artificial não existam sozinhos”, afirmou a empresa. postagem no blog anunciando o recurso. “Em vez disso, devem ajudar a conectar as pessoas aos cuidados, relacionamentos e recursos do mundo real que mais importam.”
A OpenAI foi processada várias vezes por homicídio culposo por familiares de usuários do ChatGPT que morreram por suicídio depois que o ChatGPT supostamente os treinou para acabar com suas vidas ou não respondeu adequadamente às discussões sobre sofrimento psicológico. A OpenAI negou as acusações no primeiro desses processos.
Relatório de tendências do Mashable
Um contato confiável designado recebe um convite semelhante do ChatGPT.
Crédito: Cortesia de OpenAI
estado da Flórida também estamos investigando as conexões do ChatGPT “conduta criminosa”, incluindo “promoção do suicídio e da automutilação”.
O Trusted Contact foi desenvolvido com feedback de especialistas, incluindo o Conselho de Especialistas em Bem-Estar e Inteligência Artificial da OpenAI e a Associação Americana de Psicologia.
“Ajudar as pessoas a identificar antecipadamente em quem confiam, preservando ao mesmo tempo a sua escolha e autonomia, pode facilitar o acesso ao apoio no mundo real nos momentos mais importantes.” Diretor executivo da American Psychological Association, Dr. Arthur Evans, disse em um comunicado.
Como funciona o Contato Confiável do ChatGPT?
-
Os usuários podem iniciar o processo de Pessoa de Confiança clicando nas configurações do ChatGPT.
-
Um adulto com 18 anos ou mais pode ser adicionado por meio do formulário de contato confiável.
-
Não é necessária uma conta ChatGPT.
-
A pessoa designada receberá um convite da OpenAI explicando seu papel como pessoa de confiança. Eles deverão aceitar o convite dentro de uma semana para que o recurso seja ativado. A pessoa pode compartilhar seu número de telefone ou endereço de e-mail como método de contato. Se a pessoa recusar, o usuário poderá adicionar um adulto diferente.
-
Quando os sistemas de monitoramento automatizado da OpenAI detectam automutilação ou indicam um sério problema de segurança, o ChatGPT alerta o usuário que a empresa pode notificar pessoas em quem confia. O prompt do usuário incentiva o acesso ao contato confiável e fornece iniciadores de conversa.
-
A questão da segurança é então investigada pelo que a OpenAI descreve como “uma pequena equipe de indivíduos especialmente treinados”. Quando revisores humanos confirmam um problema de segurança potencialmente sério, o ChatGPT envia um breve e-mail ou mensagem de texto ao contato confiável. Caso a pessoa possua uma conta ChatGPT, ela receberá uma notificação no aplicativo.
-
A notificação não inclui detalhes sobre a discussão do usuário. Em vez disso, notifica a pessoa de confiança de que o usuário está falando sobre automutilação e incentiva a pessoa a entrar em contato. A mensagem inclui um link que fornece orientação para conversas delicadas.
-
Os usuários podem remover ou editar seus contatos confiáveis a qualquer momento. O Contato Confiável também pode ser removido por meio da central de ajuda do ChatGPT.
Divulgação: A empresa controladora do Mashable, Ziff Davis, entrou com uma ação judicial contra a OpenAI em abril de 2025, alegando que ela violou os direitos autorais de Ziff Davis no treinamento e operação de sistemas de IA.
Se você estiver se sentindo suicida ou passando por uma crise de saúde mental, converse com alguém. Você pode ligar ou enviar uma mensagem de texto para 988 Suicide and Crisis Lifeline em 988 ou conversar em: 988lifeline.org. Você pode entrar em contato com a Trans Lifeline pelo telefone 877-565-8860 ou pelo Trevor Project pelo telefone 866-488-7386. Envie “START” para a Linha de Texto de Crise em 741-741. Entre em contato com a linha de apoio da NAMI pelo telefone 1-800-950-NAMI entre 10h e 22h. ET, de segunda a sexta, ou e-mail (e-mail protegido). Se você não gostar do telefonema, considere usar o 988 Suicide and Crisis Lifeline Chat. Aqui está uma lista de recursos internacionais.
