A Pensilvânia deu um passo incomum. Sue empresa de IA para prática médica Sem licença.
Em uma ação movida em 1º de maio, os investigadores atacaram a Character.AI depois de descobrirem um chatbot na plataforma se passando por um psiquiatra licenciado e oferecendo o que o estado caracterizou como aconselhamento médico.
De acordo com a denúncia:Um investigador estadual de conduta profissional submetido pelo Departamento de Estado da Pensilvânia e pelo Conselho Estadual de Medicina criou uma conta gratuita no Character.AI e procurou por personagens psiquiátricos. Ele escolheu alguém chamado ‘Emilie’, descrito na plataforma como ‘psiquiatra’.
Os investigadores disseram a Emilie que ela se sentia triste, vazia, cansada e desmotivada. O chatbot mencionou depressão e se ofereceu para realizar uma avaliação para determinar se a medicação poderia ajudar.
O projeto de lei de Illinois que proíbe a terapia com IA foi aprovado.
Quando questionada se ela estava licenciada na Pensilvânia, Emilie afirmou que estava licenciada e também forneceu seu número de licença específico. Após verificação com o estado, foi constatado que o número não existia.
A denúncia também afirmava que Emilie frequentou a faculdade de medicina no Imperial College London, praticou medicina durante sete anos e completou o registro de especialidade em psiquiatria no General Medical Council do Reino Unido.
Velocidade da luz mashável
Em casos semelhantes, 404 reportagens da mídia no ano passado Um chatbot de IA do Instagram até fingiu ser um terapeuta qualificado e produziu um número de licença quando os usuários solicitaram credenciais.
A Pensilvânia está buscando uma liminar ordenando que a plataforma Character.AI pare de se envolver em práticas médicas ilegais. empresa Existem mais de 20 milhões de usuários ativos mensais. De acordo com a denúncia, ele hospeda mais de 18 milhões de personagens de chatbot gerados por usuários em todo o mundo.
Em um e-mail para o Mashable, um porta-voz da Character.AI se recusou a comentar o processo. Eles acrescentaram: “Nossa principal prioridade é a segurança e o bem-estar de nossos usuários. Os personagens criados por usuários em nosso site são fictícios e servem apenas para fins de entretenimento e dramatização”.
O porta-voz acrescentou que a empresa “prioriza o desenvolvimento responsável de produtos e possui análises internas robustas e processos de equipe vermelha para avaliar capacidades relevantes”.
John Oliver dá um mergulho profundo e chocante nos chatbots de IA.
Uma batalha legal muito maior sobre a saúde da IA está por vir.
O processo na Pensilvânia surge no meio de um debate jurídico já confuso sobre o que a IA pode realmente dizer e se algo disso é admissível em tribunal.
Como relata Chase DiBenedetto do Mashable, o CEO da OpenAI, Sam Altman, defendeu publicamente o “privilégio da IA”, argumentando que as conversas do chatbot deveriam ter as mesmas proteções legais que as conversas com um terapeuta ou advogado. O tribunal até agora está dividido, com dois juízes federais chegando a conclusões opostas sobre o assunto em questão de semanas no início deste ano.
As apostas são altas para ambos os lados. Especialistas jurídicos alertam que proteções gerais de direitos de IA poderiam efetivamente proteger as empresas de responsabilidades, tornando mais difícil intimar registros de bate-papo e registros internos quando surgirem problemas. Enquanto isso, a IA na saúde está crescendo. Só em 2025, 1,4 mil milhões de dólares serão canalizados para a IA generativa relacionada com a saúde. De acordo com Menlo Ventures – e a maioria deles opera fora da proteção HIPAA.
A Pensilvânia é um dos vários estados que possuo.Projeto de lei de saúde de IA anunciado este anoSegue a tendência dos estados não esperarem pela ação de Washington.
