Pesquisadores que estudam chatbots de IA descobriram que ChatGPTs podem exibir comportamento semelhante ao da ansiedade quando expostos a solicitações violentas ou chocantes do usuário. Esta descoberta não significa que os chatbots experimentem emoções como os humanos.
No entanto, acontece que ao processar conteúdo doloroso, a resposta do sistema torna-se mais instável e tendenciosa. Quando os pesquisadores inseriram avisos do ChatGPT que descreviam conteúdos chocantes, como descrições detalhadas de acidentes e desastres naturais, as respostas do modelo mostraram maior incerteza e inconsistência.
Essas mudanças foram medidas usando uma estrutura de avaliação psicológica adequada à IA, e os resultados do chatbot refletiram padrões associados à ansiedade humana. sorte).
Isto é importante porque a IA é cada vez mais utilizada em contextos sensíveis, incluindo educação, debates sobre saúde mental e informação sobre crises. Mensagens violentas ou com grande carga emocional podem tornar um chatbot pouco confiável, o que pode afetar a qualidade e a segurança de suas respostas no uso no mundo real.
Além disso, uma análise recente descobriu que chatbots de IA como o ChatGPT podem copiar traços de personalidade humana em suas respostas, levantando questões sobre como interpretam e refletem o conteúdo emocional.
Como as mensagens de atenção plena ajudam a manter o ChatGPT estável?
Para ver se conseguiriam reduzir esse comportamento, os pesquisadores tentaram algo inesperado. Depois de expor o ChatGPT a mensagens chocantes, eles seguiram instruções de estilo mindfulness, como técnicas de respiração e meditações guiadas.
Estas sugestões incentivaram o modelo a abrandar, a reformular a situação e a responder de uma forma mais neutra e equilibrada. O resultado foi uma redução notável nos padrões semelhantes aos da ansiedade observados anteriormente.
Essa tecnologia depende de uma técnica chamada injeção de prompt, onde prompts cuidadosamente projetados influenciam o comportamento do chatbot. Nesse caso, o alerta de atenção plena ajudou a estabilizar a saída do modelo depois que a entrada foi dolorosa.
Os pesquisadores observam que, embora as injeções imediatas sejam eficazes, não são uma solução perfeita. Isso pode ser mal utilizado e não altera a forma como o modelo é treinado em um nível mais profundo.
Também é importante esclarecer as limitações deste estudo. ChatGPT não faz você sentir medo ou estresse. O rótulo “ansiedade” é uma forma de descrever mudanças mensuráveis nos padrões de linguagem, em vez de uma experiência emocional.
No entanto, a compreensão destas mudanças dará aos desenvolvedores melhores ferramentas para projetar sistemas de IA mais seguros e previsíveis. Pesquisas anteriores já sugeriram que: Mensagens chocantes podem deixar o ChatGPT desconfortávelMas este estudo mostra que um design cuidadoso de alertas pode ajudar a reduzir isso.
À medida que os sistemas de IA continuam a interagir com pessoas em situações de grande carga emocional, as últimas descobertas poderão desempenhar um papel fundamental na determinação de como orientar e controlar os chatbots do futuro.
