‘8AM’ ‘The Pit’ revela o que há de certo e errado na IA na medicina

As pessoas continuam me dizendo para assistir os pésE agora que o programa cobre IA generativa na área da saúde, é obrigatório. Como editor de tecnologia do Mashable, faço muitas perguntas sobre IA generativa e também passo muito tempo conversando com pessoas que: extremamente Pessoas que são loucas por inteligência artificial e pessoas extremamente apaixonadas. inimigo Para IA.

Então, qual é o último episódio? os pés 2ª temporada Sabemos tudo certo sobre IA na medicina, então o que há de errado?

Como a IA leva os fatores em consideração os pés Episódio “8h00”.

A IA não foi o foco total da segunda temporada, episódio 2, “8 da manhã”. Vemos também uma freira com gonorréia no olho, um morador de rua com um enxame de vermes dentro do braço mofado e uma imagem vívida de uma ereção que durou mais de quatro horas.

No entanto, uma das tramas se concentra nas tentativas do recém-chegado Dr. Baran Al-Hashimi (Sepideh Moafi) de modernizar o pronto-socorro e integrar a IA ao atendimento ao paciente. Ela apresenta um aplicativo de IA que escuta automaticamente as visitas dos pacientes e resume detalhes relevantes no gráfico.

Quando um aluno entusiasmado diz: “Meu Deus, você sabe quanto tempo isso vai economizar?”, o Dr. Al-Hashimi responde: O novo aplicativo de IA reduz em 80% o tempo que os médicos do pronto-socorro gastam fazendo gráficos. Mais tarde no episódio, o bom médico diz ao Dr. Robbie (Noah Wyle) que isso permitirá que o médico passe 20% mais tempo com seus pacientes.

Até aí tudo bem, mas o aplicativo comete um erro imediatamente. Registre o medicamento incorreto no prontuário do paciente e substitua-o por um medicamento semelhante.

Isto não diminui em nada o entusiasmo do Dr. Al-Hashimi. “A IA generativa é atualmente 98% precisa”, diz ela. “Você sempre tem que revisar cuidadosamente e corrigir até mesmo os menores erros. É bom, mas não é perfeito.”

Guerreiro IA é É muito bom (e ainda cometo erros).

Al-Hashimi diz que a IA generativa é 98% precisa. Mas isso é realmente verdade?

Verificar os fatos das afirmações da Dra. Al-Hashimi é realmente complicado porque não está totalmente claro o que ela quer dizer. Estaria mais perto da verdade se você estivesse se referindo apenas aos lutadores de IA. É nisso que a IA generativa se destaca.

No ano passado, um grupo de investigadores conduziu uma revisão sistemática de 29 estudos que mediram a precisão da transcrição da IA ​​especificamente em ambientes de saúde. (Você pode conferir a resenha completa publicada. BMC Informática Médica e Tomada de Decisão jornal.)

Alguns estudos encontraram precisão superior a 98% e outros mostraram economia significativa de tempo para os médicos. No entanto, esses estudos envolveram ambientes controlados e silenciosos. Em ambientes com vários alto-falantes com muito crosstalk e jargão médico, como um pronto-socorro lotado, a precisão era muito menor, às vezes tão baixa quanto 50%.

No entanto, a transcrição da IA ​​está a melhorar constantemente devido aos rápidos avanços nos modelos de linguagem em grande escala. Portanto, podemos dizer generosamente que as afirmações do Dr. Al-Hashimi estão próximas da verdade para modelos de LLM de última geração em determinadas circunstâncias.

A IA generativa definitivamente não é 98% precisa.

Vamos pegar a versão mais recente do ChatGPT como exemplo. Quando o modelo GPT-5.2 foi lançado há alguns meses, Documentação publicada OpenAI O modelo tende a ter alucinações e fornecer informações incorretas.

De acordo com OpenAI, o modelo de pensamento GPT-5.2 é Taxa média de alucinação 10,9%. que realmente Especialmente considerando que a OpenAI deseja que o ChatGPT ajude com questões relacionadas à saúde. (A empresa foi lançada recentemente. Saúde do ChatGPT“Experiência exclusiva do ChatGPT projetada para saúde e bem-estar.”)

Agora, quando o acesso à Internet é permitido para o pensamento GPT-5.2, a taxa de alucinações é reduzida para 5,8%. Mas você confiaria em um médico que comete 5,8% dos erros? E isso só é possível se eles puderem usar a internet para conferir o seu próprio trabalho? E você deseja que seu aplicativo de saúde com IA se conecte à Internet?

Um dia, a IA generativa poderá ter 98% de precisão. Mas ainda não chegamos lá.

A IA generativa não pode substituir os médicos.

Fonte: Warwick Page/HBO Max

Dr. Robbie e outros personagens conversam sobre “intuições” neste episódio. Isto é algo que a IA generativa não pode replicar e uma das razões pelas quais muitas pessoas não querem que as ferramentas de IA substituam completamente os trabalhadores humanos nas artes ou na medicina.

O episódio também passa muito tempo mostrando exemplos de empatia. Os melhores médicos não possuem apenas conhecimento enciclopédico de sua especialidade. Eles não têm apenas boa intuição. São verdadeiros terapeutas que sabem que segurar a mão do paciente no momento certo é tão importante quanto um diagnóstico correto.

Para ser justo, a maioria das ferramentas médicas de IA que vi não se destinam a substituir os médicos. Em vez disso, pretendem dar aos profissionais de saúde mais ferramentas de diagnóstico e poupar tempo. Como a Dra. Al-Hashimi diz repetidamente no episódio, ela deseja que os médicos possam passar mais tempo ao lado dos leitos de seus pacientes.

A IA pode ajudar a economizar tempo dos médicos.

A radiologia, ou imagens médicas, é uma das aplicações mais promissoras da IA ​​generativa no ambiente de saúde. quando Radiologista da Universidade Northwestern A implementação de uma ferramenta de IA personalizada para ajudar a analisar raios X e tomografias computadorizadas aumentou a produtividade em 40% sem comprometer a precisão.

Acho que até mesmo muitos céticos da IA ​​concordariam que este é um resultado positivo para pacientes e médicos.

os pés Embora pareça estabelecer o Dr. Al-Hashimi como o vilão, ou pelo menos o Dr. Robby como o contraponto, o bom remédio e a IA generativa não estão necessariamente em conflito. Como todas as ferramentas, pode ser muito útil ou muito perigoso.

os pés A 2ª temporada está sendo transmitida pela HBO Max, com novos episódios sendo lançados todas as quintas-feiras às 21h (horário do leste dos EUA).

Divulgação: A empresa-mãe da Mashable, Ziff Davis, entrou com uma ação judicial contra a OpenAI em abril de 2025, alegando que a OpenAI violou os direitos autorais de Ziff Davis no treinamento e operação de seus sistemas de IA.