Utah permite que sistemas de IA prescrevam medicamentos psiquiátricos sem médico. Esta é a segunda vez que o país – e o país – delega este tipo autoridade clínica em IA. As autoridades estatais dizem que isto poderia reduzir os custos e reduzir a escassez de serviços, mas os médicos alertam que o sistema é opaco, arriscado e pouco provável que expanda os serviços de saúde mental para aqueles que deles necessitam.
Piloto de um ano, anunciado na semana passadapermitirá que o chatbot AI da Legion Health atualize certas prescrições de medicamentos psiquiátricos, em alguns casos. A startup de São Francisco promete aos pacientes de Utah “recargas rápidas e simples” por meio de uma assinatura de US$ 19 por mês. O programa começa em abril, embora a empresa atualmente mantenha apenas uma lista de espera.
O chatbot AI atualizará certas prescrições de medicamentos psiquiátricos, em alguns casos.
O programa tem um âmbito deliberadamente restrito, limitado tanto em termos dos tratamentos que cobre como das condições que os pacientes devem cumprir para se qualificarem. De acordo com a Legião acordo com a Política do Escritório de Inteligência Artificial de Utah, o chatbot só pode atualizar 15 medicamentos de manutenção de baixo risco que foram prescritos por um médico. Esses incluem fluoxetina (Prozac), sertralina (Zoloft), bupropiona (Wellbutrin), mirtazapina e hidroxizina, que são comumente usados para tratar ansiedade e depressão. Os pacientes também devem ser considerados estáveis: é excluído qualquer pessoa que tenha mudado recentemente doses ou medicamentos ou que tenha sido internado em hospital psiquiátrico no último ano, e os pacientes devem consultar um profissional de saúde a cada 10 recargas ou após seis meses, o que ocorrer primeiro.
O sistema não pode emitir novas prescrições ou manipular medicamentos que exijam monitoramento clínico mais próximo, incluindo medicamentos que exijam monitoramento de exames de sangue. Substâncias controladas também são proibidas, excluindo muitos medicamentos para TDAH. A exceção são os benzodiazepínicos, usados para tratar a ansiedade; antipsicóticos, usados para condições como esquizofrenia e transtorno bipolar; e o lítio – amplamente considerado o tratamento padrão-ouro para a perturbação bipolar – deixam muitos casos psiquiátricos mais complexos fora do alcance dos ensaios.
Para utilizar o sistema, o paciente deve aderir, verificar sua identidade e comprovar que possui receita, por exemplo, fornecendo foto do rótulo ou frasco do comprimido. Eles foram então questionados sobre seus sintomas, bem como os efeitos colaterais e a eficácia do medicamento. Eles foram questionados sobre pensamentos suicidas, automutilação, reações graves e gravidez para sinalizar sinais de perigo. Se alguma resposta estiver fora dos critérios de baixo risco estabelecidos pelo projeto piloto, o caso deverá ser encaminhado a um médico antes que uma recarga seja administrada. Pacientes e farmacêuticos também podem solicitar revisão humana.
“Ao automatizar o processo de renovação segura dos medicamentos de manutenção, permitimos que os pacientes obtenham os cuidados de que necessitam de forma mais rápida e acessível”, disseram as autoridades estaduais. disse ao anunciar o piloto. Com o tempo, dizem eles, o programa poderá libertar os prestadores de cuidados de saúde para “concentrarem o seu tempo nas necessidades dos pacientes mais complexos e de alto risco” e ajudar a resolver a escassez que deixa 500.000 habitantes do Utah sem acesso a serviços de saúde mental. O cofundador e CEO da Legion, Yash Patel, tornou este programa ainda mais grandioso, descrever Este é o primeiro esforço global que irá expandir significativamente o acesso aos cuidados de saúde e marca “o início de algo maior do que apenas reabastecimentos”.
Os psiquiatras tinham menos certeza. Brent Kious, psiquiatra e professor da Faculdade de Medicina da Universidade de Utah, conta a história Borda ele acha que “os benefícios dos sistemas de recarga baseados em IA podem ser exagerados”. Ele suspeita que a ferramenta “não melhorará o acesso daqueles que mais precisam de serviços”. Os pacientes-alvo já devem ter um plano de tratamento com seu psiquiatra para utilizar este serviço.
“Seria melhor se houvesse maior transparência, mais ciência e testes mais rigorosos antes que o público fosse solicitado a usar isto.”
Kious argumenta que a automação poderia contribuir para o que ele chama de “epidemia de tratamento excessivo” em psiquiatria, com alguns pacientes permanecendo sob medicação por mais tempo do que deveriam. John Torous, diretor de psiquiatria digital do Beth Israel Deaconess Medical Center e professor de psiquiatria da Harvard Medical School, expressou preocupações relacionadas, afirmando que algumas pessoas se beneficiam do uso prolongado de medicamentos psiquiátricos, enquanto outras podem se beneficiar da redução ou interrupção da medicação. “Isso requer uma gestão mais ativa, mudança e consideração cuidadosa”, disse ele. Isso é mais difícil de fazer se você terceirizar os check-ins de recarga para um chatbot.
Uma preocupação maior é se os chatbots podem automatizar com segurança as partes mais rotineiras dos cuidados psiquiátricos. Torous disse que a prescrição envolve mais do que apenas verificar interações medicamentosas e questionou se os atuais sistemas de IA “podem compreender o contexto e os fatores únicos que entram no plano de tratamento de uma pessoa”. Kious disse algo semelhante: “Em princípio é algo seguro, mas tudo depende dos detalhes”. Estas preocupações são agravadas pelo quão novo é o sistema – e quão opaco é para quem está de fora. “Parece alquimia agora”, disse ele. “Seria melhor se houvesse maior transparência, mais ciência e testes mais rigorosos antes que o público fosse solicitado a usar isto.”
Existem também preocupações de segurança mais urgentes. Kious diz que o chatbot pode perder alguma coisa durante o exame: o chatbot pode não fazer as perguntas certas, o paciente pode não reconhecer um efeito colateral ou pode responder de forma imprecisa. Algumas pessoas podem simplesmente dizer ao sistema o que ele deseja ouvir para acelerar o serviço. Ele enfatiza que isso não é exclusivo dos chatbots; a maior parte da psiquiatria depende de autorrelatos. Mas os médicos humanos geralmente também têm acesso a outras informações, disse ele, acrescentando que quando atende pacientes, não apenas presta atenção ao que eles dizem, mas também ao que não dizem e como se apresentam. Embora os pacientes também possam enganar os prestadores de cuidados de saúde, Kious disse que os sistemas de chatbot podem tornar mais fácil para os pacientes adaptarem as suas respostas até produzirem os resultados desejados.
Torous diz que também existem riscos de segurança mais óbvios, que podem ser familiares para qualquer pessoa que acompanhe os desenvolvimentos do chatbot no mundo real. O chatbot da Legion é o segundo experimento de Utah com prescrição de IA, juntando-se a um ensaio mais amplo e em andamento focado na atenção primária com a Doctronic que lançado dezembro passado. Poucas semanas após a exibição, pesquisador de segurança encorajou com sucesso os sistemas Doctronic a espalhar teorias de conspiração sobre vacinas, gerar instruções para cozinhar metanfetamina e dobrar as doses de opióides dos pacientes. Autoridades estaduais disseram que o programa mais focado com a Legião foi projetado especificamente para atingir “deficiências de saúde mental no estado”.
Legion disse que o piloto estava operando sob grades de proteção rígidas. Além do que chama de “porta de elegibilidade conservadora”, o seu acordo com Utah exige que forneçam relatórios mensais detalhados e que os primeiros 1.250 pedidos sejam cuidadosamente revistos por médicos humanos, com amostragem periódica de cerca de 5 a 10 por cento dos pedidos depois disso.
disse o cofundador e presidente da Legion, Arthur MacWaters Borda que “existem riscos em qualquer modelo de atendimento remoto, seja assistido por IA ou totalmente liderado por humanos” e enfatizou que “o fluxo de trabalho da empresa não depende de uma única resposta auto-relatada para desbloquear o tratamento”. Ele disse que as principais salvaguardas incluem limites estreitos definidos pelo piloto em termos de tratamento e elegibilidade do paciente, telas de segurança de IA integradas, envolvimento do farmacêutico e a capacidade de comunicação com os médicos. “Vemos isso como fundamental para expandir o acesso às centenas de milhares de pessoas em Utah que vivem em áreas com escassez de saúde mental, além de servir como um importante campo de provas para a IA na medicina.”
MacWaters não quis comentar sobre casos de uso adicionais, medicamentos ou expansão para outros estados, mas disse que a empresa está “entusiasmada com o que o futuro reserva”. Ele também não forneceu um cronograma para os planos de expansão da Legion, embora MacWaters e Legion tenham sugerido publicamente ambições mais amplas além de Utah: o site de recarga da Legion diz que o serviço estará disponível “em todo o país em 2026” e MacWaters tem recomendar isso “acontecerá em todos os estados muito rapidamente”.
Para os psiquiatras com quem falei, tudo isto parecia levantar uma questão fundamental: que problema está realmente a Legion a resolver? Os pacientes idosos muitas vezes nem precisam de uma consulta para reabastecer, disse Kious, explicando que a maioria dos psiquiatras provavelmente fica “feliz em reabastecer as prescrições gratuitamente e sem hora marcada”, a menos que estejam preocupados com o paciente ou se o medicamento acarreta riscos significativos. São casos que a IA da Legião está proibida de tratar.
“Eu pessoalmente evitaria isso por enquanto”, disse Torous, acrescentando que se você encontrou um plano de tratamento que funcione para você, provavelmente é melhor ficar com esse médico.
