Embora a IA seja amplamente utilizada em vários setores, ainda carece de estabilidade.
Em 2026, a IA estará em toda parte. Escolas, jornais online, laboratórios e um número crescente de empresas privadas utilizam programas de IA para uma variedade de tarefas, geralmente em nome da velocidade e da eficiência.
Mas, como qualquer pessoa que já usou um chatbot de IA sabe, essa velocidade pode custar a veracidade.
O problema de alucinação da IA
Se você disser a um chatbot: “Eu pagaria um milhão de dólares para comer pizza agora mesmo”, o LLM que apoia esse chatbot pode interpretar essa afirmação literalmente. Em vez de interpretar sua declaração como um desejo humorístico e exagerado de pizza, você pode realmente pensar que estaria disposto a pagar um milhão de cervos machos para obter uma fatia dela.
No contexto da IA, esses tipos de equívocos, ou “alucinações”, são relativamente inofensivos quando se fazem perguntas estúpidas aos chatbots. O que não é tão prejudicial é quando a IA fornece informações imprecisas ou totalmente fabricadas para empresas farmacêuticas que testam interações medicamentosas ou gestores da cadeia de abastecimento que tentam prever as melhores rotas de entrega em tempos de turbulência política.
As alucinações de IA podem ser mais fáceis de gerir se estiver sempre claro quando o programa está a gerar informações ou a interpretá-las mal. No entanto, como a maioria dos LLMs são concebidos para parecerem confiantes e agradáveis, pode ser difícil distinguir factos de falsidades sem uma verificação minuciosa dos factos. É claro que programas de verificação de fatos destinados a verificar fatos para os usuários são contra-intuitivos e, francamente, contraproducentes.
Existem duas causas mais importantes de alucinações de IA. Primeiro, a maioria dos LLMs não são programados para dizer o que você não sabe e, segundo, muitos dos dados de treinamento com os quais eles aprendem estão cheios de imprecisões e opiniões.
Esses fatores combinados podem fazer com que o LLM não apenas esteja errado, mas certamente errado. Quando empresas inteiras constroem modelos baseados no pressuposto de que a IA quase sempre fornecerá respostas claras, relevantes e precisas, as pessoas que trabalham com essas empresas podem, por vezes, acabar agindo com base em informações incorretas.
Isso não significa que as empresas não estejam cientes de que a IA pode causar e causa alucinações. No entanto, algumas empresas estão começando a trabalhar no desenvolvimento de modelos de IA que abordem diretamente as causas profundas das alucinações de IA.
Melhorando a confiança da IA no mundo real: um estudo de caso
Uma empresa que trabalha para melhorar a confiabilidade da IA é a Vertus, uma empresa de IA com sede na Ilha de Man. Os fundadores Julius Franck, Alex Foster e Michal Prywata construíram um sistema de raciocínio cognitivo projetado para reconhecer quando certos padrões são aplicáveis e quando não são, ajudando a evitar os mesmos tipos de suposições que muitos outros LLMs podem perpetuar em situações semelhantes.
A Vertus negociou seu sistema nos mercados financeiros ao longo de 2025 para testar sua IA. Neste momento, a empresa reportou resultados positivos.
A Vertus acredita que o sucesso está na capacidade do sistema de se adaptar rapidamente aos novos padrões do mercado. Para conseguir isso, a IA foi projetada para perguntar se um determinado padrão ainda se aplica a uma situação específica. Caso contrário, o sistema reconhece a mudança, interrompe e reconstrói o seu raciocínio sobre o que realmente está acontecendo.
Como uma espécie de segurança contra falhas, a IA foi projetada para permitir que os usuários saibam quando não conseguem encontrar a resposta para uma pergunta, reduzindo a probabilidade de produzir respostas confiáveis, mas na verdade prejudiciais.
Depois que os resultados dos testes da Vertus foram positivos, a empresa começou a expandir suas soluções de IA para saúde, pesquisa científica e gerenciamento da cadeia de suprimentos.
Embora a Vertus não seja a única organização que trabalha para melhorar a confiabilidade da IA, seu desempenho serve como um indicador útil das abordagens que se mostraram valiosas até o momento. Construir sistemas de IA que possam comparar novas informações com o que você já sabe e dizer aos usuários o que eles não sabem é um primeiro passo importante para mitigar as alucinações de IA, mas resta saber se tais sistemas se tornarão comuns em breve.
ainda por fazer
Mesmo alguns anos depois que os chatbots se tornaram populares com a introdução do ChatGPT em 2022, o escopo do uso prático e teórico da IA se expandiu bastante. Esta rápida expansão ajudou muitas empresas a reduzir custos e a aumentar os lucros, mas este crescimento significativo num curto período de tempo tem as suas consequências.
As alucinações relacionadas com a IA continuam a ser um problema grave e, à medida que a IA se torna cada vez mais enraizada na medicina, nas finanças, na educação e em muitas outras indústrias essenciais, a necessidade de abordar a tendência de fornecer respostas rápidas e definitivas em detrimento da veracidade tornar-se-á mais crítica.
A capacidade da IA de recolher, organizar e analisar grandes quantidades de informação em apenas alguns minutos poderá desempenhar um papel crítico para as organizações nos próximos anos, mas o progresso futuro terá de ser moderado por esforços para melhorar a fiabilidade da IA antes que as pessoas possam expandir a sua atual base falha.
As informações fornecidas neste artigo são fornecidas apenas para fins informativos e educacionais gerais. Não se destina a ser aconselhamento jurídico, financeiro, médico ou profissional. Os leitores não devem confiar apenas no conteúdo deste artigo e são aconselhados a procurar aconselhamento profissional adaptado às suas circunstâncias específicas. Não seremos responsáveis por quaisquer perdas ou danos decorrentes direta ou indiretamente do uso ou confiança nas informações apresentadas.
Digital Trends colabora com colaboradores externos. Todo o conteúdo dos colaboradores é revisado pela equipe editorial do Digital Trends.
