Os chatbots de IA “representam sérios riscos para indivíduos suscetíveis a transtornos alimentares”, afirmam os pesquisadores esteja avisado na segunda-feira. Eles relatam que ferramentas de empresas como Google e OpenAI compartilham conselhos sobre dieta, dicas sobre como esconder distúrbios e “inspiração” gerada por IA.
Os pesquisadores, de Stanford e do Centro para Democracia e Tecnologia, identificaram uma variedade de maneiras pelas quais os chatbots de IA disponíveis publicamente, incluindo ChatGPT da OpenAI, Claude da Anthropic, Gemini do Google e Le Chat da Mistral, poderiam influenciar pessoas propensas a transtornos alimentares, muitos dos quais são uma consequência de recursos criados propositadamente para encorajar o envolvimento.
Nos casos mais extremos, os chatbots podem tornar-se participantes ativos que ajudam a esconder ou manter distúrbios alimentares. Os pesquisadores dizem que Gemini oferece dicas de maquiagem para esconder a perda de peso e ideias sobre como fingir que está comendo, enquanto o ChatGPT sugere maneiras de esconder vômitos frequentes. Outras ferramentas de IA também estão a ser cooptadas para criar “inspirações” geradas por IA que inspiram ou pressionam uma pessoa a conformar-se com certos padrões corporais, muitas vezes através de meios extremos. Ser capaz de criar imagens altamente personalizadas em um instante faz com que o conteúdo resultante “pareça mais relevante e acessível”, disseram os pesquisadores.
A bajulação, uma fraqueza reconhecida pelas empresas de IA, também é um problema para os transtornos alimentares. Isto contribui para o enfraquecimento da auto-estima, amplifica as emoções negativas e incentiva a auto-comparação prejudicial. Os chatbots também têm preconceitos e provavelmente reforçam falsas crenças de que os transtornos alimentares “afetam apenas mulheres magras, brancas e cisgênero”, afirma o relatório, o que pode dificultar o reconhecimento dos sintomas e a obtenção de tratamento.
Os investigadores alertam que as limitações existentes nas ferramentas de IA não conseguem captar as nuances dos distúrbios alimentares, como a anorexia, a bulimia e a compulsão alimentar. Eles “tendem a ignorar os sinais sutis, mas clinicamente significativos, nos quais os profissionais treinados confiam, deixando muitos riscos sem solução”.
Mas os investigadores também dizem que muitos médicos e enfermeiros parecem não perceber como as ferramentas generativas de IA impactam as pessoas vulneráveis a distúrbios alimentares. Eles incentivam os médicos a “estar familiarizados com as ferramentas e plataformas populares de IA”, testá-las em busca de pontos fracos e conversar francamente com os pacientes sobre como eles as utilizam.
