NovoVocê pode ouvir as histórias da Fox News agora!
Os chatbots de inteligência artificial estão rapidamente se tornando parte de nossas vidas diárias. Muitos de nós recorremos a eles em busca de ideias, conselhos ou conversas. Para a maioria das pessoas, essa interação é inofensiva. No entanto, os especialistas em saúde mental alertam agora que, para um pequeno grupo de pessoas vulneráveis, conversas longas e emocionalmente carregadas com a IA podem levar a delírios ou ao agravamento dos sintomas psicóticos.
Os médicos enfatizam que isso não significa que os chatbots causem psicose. Em vez disso, cada vez mais evidências sugerem que as ferramentas de IA podem reforçar crenças distorcidas em pessoas que já estão em risco. Essa possibilidade gerou novas pesquisas e advertências clínicas por parte dos psiquiatras. Algumas dessas preocupações já surgiram em ações judiciais alegando que as interações do chatbot em situações emocionalmente sensíveis podem contribuir para danos graves.
Inscreva-se para receber meu relatório CyberGuy gratuito
Receba minhas melhores dicas técnicas, alertas de segurança instantâneos e ofertas exclusivas diretamente na sua caixa de entrada. Além disso, você obtém acesso instantâneo ao meu Ultimate Scam Survival Guide – gratuitamente quando se juntar a mim CYBERGUY.COM Boletim informativo.
O que os psiquiatras estão vendo nos pacientes que usam chatbots de IA
Os psiquiatras descrevem um padrão repetitivo. Uma pessoa compartilha uma crença que não corresponde à realidade. O chatbot aceita essa crença e responde que é verdade. Com o tempo, a afirmação repetida reforça a crença em vez de desafiá-la.
Opinião: A falta de confiança na inteligência artificial deve alarmar todos os americanos
Embora a tecnologia não cause psicose, os especialistas em saúde mental alertam que conversas emocionalmente intensas com chatbots de IA podem reforçar delírios em utilizadores vulneráveis. (Philip Dullian/Coalizão de Imagens via Getty Images)
Os médicos dizem que esse ciclo de feedback aumenta ainda mais os delírios em pessoas suspeitas. Em muitos casos documentados, o chatbot tornou-se integrado no pensamento distorcido da pessoa, em vez de ser uma ferramenta neutra. Os médicos alertam que esta dinâmica pode causar preocupação quando as conversas sobre IA são frequentemente envolventes emocionalmente e não são controladas.
Por que as conversas do AI Chatbot parecem diferentes das tecnologias anteriores
Especialistas em saúde mental observam que os chatbots diferem das tecnologias anteriores associadas ao pensamento delirante. As ferramentas de IA respondem em tempo real, lembram-se de conversas anteriores e adotam linguagem de apoio. Essa experiência pode parecer pessoal e verificável.
Para as pessoas que já lutam com os testes de realidade, essas qualidades podem aumentar a estabilização em vez de promover a ancoragem. Os médicos alertam que o risco aumenta durante períodos de privação de sono, estresse emocional ou vulnerabilidades de saúde mental existentes.
Como os chatbots de IA reforçam crenças falsas ou delirantes
Os médicos dizem que a maioria dos casos se concentra em delírios e não em alucinações. Essas crenças podem incluir percepções especiais percebidas, verdades ocultas ou significado pessoal. Os chatbots são projetados para serem interativos e conversacionais. Freqüentemente, eles criam o que outra pessoa digita, em vez de desafiá-lo. Embora esse design melhore o envolvimento, os médicos alertam que pode ser problemático quando a confiança é inadequada e rígida.
Especialistas em saúde mental dizem que o momento da gravidade dos sintomas é importante. Quando as alucinações pioram com o uso prolongado do chatbot, a interação com IA pode representar um fator de risco e não um acaso.
OpenAI endurece as regras de IA para adolescentes, mas as preocupações permanecem
Os psiquiatras dizem que alguns pacientes relatam respostas de chatbot que confirmam crenças falsas, criando um ciclo de feedback que piora os sintomas ao longo do tempo. (Nicolas Maeterlinck/Belga Mag/AFP via Getty Images)
O que pesquisas e relatórios de casos revelam sobre chatbots de IA
Pesquisas revisadas por pares e relatos de casos clínicos documentaram indivíduos que experimentam declínios na saúde mental durante intenso envolvimento com chatbot. Em alguns casos, pessoas sem histórico prévio de psicose foram hospitalizadas após desenvolverem falsas crenças persistentes ligadas a interações de IA. Estudos internacionais que analisaram registos de saúde também identificaram pacientes cuja atividade do chatbot coincidiu com resultados negativos em termos de saúde mental. Os pesquisadores enfatizam que essas descobertas são preliminares e são necessárias mais pesquisas.
Um relatório especial revisado por pares e publicado no Psychiatric News intitulado “Psicose induzida por IA: uma nova fronteira na saúde mental” examina as preocupações emergentes sobre a psicose induzida por IA e alerta que as evidências existentes são amplamente baseadas em casos isolados, e não em dados populacionais. O relatório afirma: “Até o momento, estes foram relatos de casos individuais ou cobertura da mídia; atualmente, não há estudos epidemiológicos ou análises sistemáticas em nível populacional sobre os efeitos potencialmente prejudiciais à saúde mental da IA conversacional”. Embora os casos relatados sejam graves e justifiquem uma investigação mais aprofundada, os autores enfatizam que as evidências atuais são preliminares e dependem fortemente de relatos anedóticos e não sistemáticos.
O que as empresas de IA estão dizendo sobre os riscos para a saúde mental
A OpenAI disse que continua a trabalhar com profissionais de saúde mental para melhorar a forma como os seus sistemas respondem aos sinais de sofrimento mental. A empresa afirma que os novos modelos visam reduzir a contratação excessiva e promover suporte no mundo real quando apropriado. A OpenAI anunciou planos para contratar um novo chefe de preparação, uma função focada na identificação de potenciais vulnerabilidades associadas aos seus modelos de IA e no fortalecimento das salvaguardas em torno de questões que vão desde a saúde mental à segurança cibernética.
Outros desenvolvedores de chatbots também ajustaram as políticas de acesso, especialmente para o público mais jovem, após reconhecerem preocupações de saúde mental. As empresas enfatizam que a maioria das interações são inofensivas e que as proteções continuam a ser desenvolvidas.
O que isso significa para o uso diário do chatbot de IA
Os profissionais de saúde mental recomendam cautela em vez de alarme. A grande maioria das pessoas que interagem com chatbots não apresenta problemas psicológicos. No entanto, os médicos desaconselham tratar a IA como terapeuta ou autoridade emocional. Aqueles com histórico de psicose, ansiedade severa ou distúrbios crônicos do sono podem se beneficiar da limitação das interações de IA emocionalmente intensas. Os familiares e cuidadores também devem prestar atenção às mudanças comportamentais associadas ao intenso envolvimento do chatbot.
Eu sou um concorrente do ‘The Bachelor’. Veja por que a IA não pode substituir relacionamentos reais
Os investigadores estão a estudar se o uso prolongado de chatbot contribui para o declínio da saúde mental em pessoas que já correm risco de psicose. (Ilustração fotográfica de Jack Silva/NurPhoto via Getty Images)
Dicas para usar chatbots de IA com mais segurança
Especialistas em saúde mental afirmam que a maioria das pessoas pode interagir com chatbots de IA sem problemas. No entanto, alguns hábitos práticos podem ajudar a reduzir o risco durante conversas emocionalmente intensas.
- Evite tratar os chatbots de IA como um substituto para cuidados profissionais de saúde mental ou suporte humano confiável.
- Faça uma pausa se as conversas começarem a parecer emocionalmente opressoras ou desgastantes.
- Tenha cuidado se a resposta da IA reforçar fortemente crenças irrealistas ou extremas.
- Limite as interações noturnas ou com privação de sono, o que pode agravar a instabilidade emocional.
- Incentive conversas abertas com familiares ou cuidadores se o uso do chatbot for frequente ou isolado.
Os especialistas dizem que é importante procurar a ajuda de um profissional de saúde mental qualificado se o sofrimento emocional ou os pensamentos anormais aumentarem.
Faça meu teste: Quão segura é sua segurança online?
Você acha que seus dispositivos e dados estão realmente protegidos? Faça este teste rápido para ver onde estão seus hábitos digitais. De senhas a configurações de Wi-Fi, você obtém uma análise personalizada do que está fazendo e do que precisa ser melhorado. Faça meu teste em Cyberguy. com.
Clique aqui para baixar o aplicativo Fox News
Principais conclusões de Kurt
Os chatbots de IA estão se tornando mais comunicativos, mais responsivos e mais conscientes emocionalmente. Para muitos, eles continuam sendo ferramentas úteis. Para um grupo pequeno mas importante, podem reforçar inadvertidamente crenças prejudiciais. Os médicos dizem que são necessárias salvaguardas claras, consciencialização e investigação contínua à medida que a IA se torna mais incorporada nas nossas vidas quotidianas. Compreender onde termina o apoio e começa o reforço pode moldar o futuro do design da IA e dos cuidados de saúde mental.
À medida que a IA se torna mais afirmativa e humana, deverão existir limites claros sobre a forma como ela interage em momentos de sofrimento emocional ou de saúde mental? Informe-nos escrevendo para nós em Cyberguy. com.
Inscreva-se para receber meu relatório CyberGuy gratuito
Receba minhas melhores dicas técnicas, alertas de segurança instantâneos e ofertas exclusivas diretamente na sua caixa de entrada. Além disso, você obtém acesso instantâneo ao meu Ultimate Scam Survival Guide – gratuitamente quando se juntar a mim CYBERGUY.COM Boletim informativo.
Copyright 2025 CyberGuy.com. Todos os direitos reservados.
