A Califórnia promulgou na segunda-feira uma legislação que regulamenta os agentes conversacionais de inteligência artificial (IA), ou “chatbots”, pela primeira vez nos Estados Unidos, após uma série de suicídios de jovens que formaram relacionamentos íntimos imaginários com essas ferramentas, anunciou o governador Gavin Newsom.
Desafiando a pressão da Casa Branca contra a regulamentação da IA, o governador democrata assinou na segunda-feira uma série de projetos de lei que exigem que os utilizadores verifiquem a sua idade, exibam mensagens de aviso regulares e forneçam protocolos de prevenção do suicídio, entre outras coisas.
“Temos visto exemplos verdadeiramente horríveis e trágicos de jovens que foram vítimas de tecnologia mal regulamentada e não ficaremos parados enquanto as empresas operam sem fronteiras e sem responsabilização”, disse Gavin Newson num comunicado divulgado depois de o pacote legislativo ter sido sancionado.
Uma das principais peças legislativas, a SB243, trata da regulamentação de chatbots que possam desempenhar o papel de assistentes ou confidentes, como os desenvolvidos por plataformas como Replika ou Character.AI.
Esta última foi uma das primeiras pessoas a ser processada pelos pais de Sewell, uma adolescente americana de 14 anos que se matou em 2024 após estabelecer um relacionamento amoroso com um chatbot inspirado na série de TV Game of Thrones, que é suspeito de amplificar seus pensamentos suicidas.
“Podemos continuar a ser líderes no domínio da inteligência artificial (…), mas devemos agir de forma responsável, protegendo os nossos filhos ao longo do caminho”, acrescentou o governador da Califórnia, onde se situa Silicon Valley e os principais gigantes no desenvolvimento de modelos de IA como OpenAI (ChatGPT), Google (Gemini) ou xAI (Grok).
Esta lei exige a verificação da idade, bem como a exibição de mensagens regulares lembrando ao usuário que a pessoa com quem está conversando é uma máquina (a cada 3 horas para menores). Exige que as empresas detectem pensamentos suicidas, forneçam acesso a programas de prevenção e forneçam estatísticas relevantes às autoridades.
“A indústria tecnológica é incentivada a captar a atenção dos jovens e mantê-la em detrimento das suas relações no mundo real”, disse o senador da Califórnia Steve Padilla, que redigiu o texto, durante o debate.
“Tecnologias emergentes como chatbots e redes sociais podem inspirar, educar e conectar pessoas, mas sem proteções reais podem explorar, enganar e pôr em perigo as nossas crianças”, disse também o governador.
Não existem regras nacionais nos Estados Unidos para limitar os riscos relacionados com a inteligência artificial, e a Casa Branca está a tentar impedir que os estados produzam as suas próprias regras.
