A Flórida abriu um processo na segunda-feira contra a OpenAI e seu presidente-executivo, Sam Altman, alegando que a empresa de tecnologia de São Francisco não informou as pessoas sobre os perigos representados por seu popular chatbot de inteligência artificial.
A OpenAI desenvolveu o ChatGPT, um chatbot usado por mais de 900 milhões de pessoas por semana para responder perguntas, redigir textos e realizar outras tarefas. Mas as pessoas também usam o ChatGPT para planejar assassinatos em massa, obter informações sobre automutilação e praticar outros atos prejudiciais, de acordo com o processo de 83 páginas.
A ação, movida no 10º Circuito Judicial da Flórida, ocorre no momento em que a OpenAI enfrenta preocupações crescentes de que a IA esteja prejudicando pessoas, incluindo crianças e adolescentes, e de que carece de proteções adequadas. A Flórida se tornou o primeiro estado a processar a OpenAI por riscos de segurança, abrindo caminho para outros.
“As pessoas estão se machucando, os pais estão sendo enganados e precisam pagar por isso”, disse Florida Lawyer. O general James Uthmeier disse em uma entrevista coletiva na segunda-feira. “Eles precisam pagar por isso abrindo seus talões de cheques e alterando os horários para garantir que haja controle dos pais e que não coloquemos nossos filhos em perigo.”
A OpenAI disse em comunicado que está trabalhando para melhorar a segurança do ChatGPT, citando esforços como novos controles parentais e estimativa de idade.
“Perder um filho é a tragédia mais devastadora que pode acontecer a uma família, e sabemos que nenhuma palavra pode chegar perto de aliviar a dor de tal perda”, disse um porta-voz da empresa em comunicado. ele disse. “A IA é uma nova tecnologia poderosa e acreditamos que os menores precisam de proteção significativa, e é por isso que implementamos proteções e políticas líderes do setor.”
Recursos de prevenção de suicídio e aconselhamento em crises
Se você ou alguém que você conhece está lutando contra pensamentos suicidas, procure a ajuda de um profissional ou ligue para 988. A linha direta nacional de três dígitos para crises de saúde mental conectará os chamadores a conselheiros de saúde mental treinados. Ou para entrar em contato com a Crisis Text Line nos EUA e Canadá, envie “HOME” para 741741.
Durante anos, as empresas tecnológicas enfrentaram processos judiciais sobre se deveriam ser responsabilizadas por danos resultantes da concepção e utilização dos seus produtos. Mas a crescente popularidade dos chatbots alimentados por IA levanta preocupações de segurança, especialmente à medida que os jovens adoptam estas ferramentas nas suas escolas e casas.
As preocupações com os riscos da inteligência artificial aumentaram na Califórnia. Em 2025, a família de um adolescente da Califórnia que morreu por suicídio após falar com o ChatGPT entrou com uma ação contra a OpenAI por alegações de que o chatbot encorajou o jovem de 16 anos a tirar a própria vida. Este caso está incluído no caso da Flórida.
Outras empresas de tecnologia, incluindo o Google, enfrentaram ações judiciais sobre o suposto papel que os chatbots desempenham em alimentar os delírios ou encorajar a automutilação.
Os legisladores da Califórnia aprovaram uma nova legislação destinada a tornar a inteligência artificial mais segura, mas as empresas de tecnologia dizem que a nova regulamentação pode sufocar a inovação. Os procuradores-gerais da Califórnia e de Delaware expressaram no ano passado preocupações sobre as alegações de que os chatbots de inteligência artificial estavam prejudicando crianças.
Em uma coletiva de imprensa sobre o último processo, Uthmeier acusou OpenAI e Altman de priorizar os lucros em detrimento da segurança pública à medida que a empresa de IA avança. Este ano, o gabinete do procurador-geral da Flórida anunciou que estava investigando a OpenAI pelo papel do ChatGPT no tiroteio na Universidade Estadual da Flórida em 2025, que deixou duas pessoas mortas.
A OpenAI já havia dito que o tiroteio na universidade foi uma tragédia, mas que “o ChatGPT não é responsável por este crime terrível”. A empresa compartilhou proativamente informações com as autoridades policiais após identificar uma conta que acreditava estar vinculada ao suspeito.
De acordo com o processo, OpenAI e Altman enganaram os pais fazendo-os pensar que o ChatGPT era seguro quando não era, violando a lei da Flórida.
Uthmeier descreveu vários casos em vários estados onde pessoas usaram ChatGPT em tiroteios, suicídios e outros tipos de mortes; um dos quais envolveu uma overdose de drogas. Ele disse que o ChatGPT pode ser “viciante” porque imita a empatia humana e engana os usuários para que forneçam mais informações ao chatbot de IA.
“Hoje enviaremos uma mensagem à OpenAI: prepare-se para um desafio, e não há nada mais importante do que isso neste momento”, disse Uthmeier.
