Depois de receber gritos de defensores da segurança infantil, famílias e políticos, o governador Gavin Newsom assinou uma lei que visa limitar o comportamento do AI Chatbot que os especialistas dizem ser incerto ou perigoso, especialmente para adolescentes.
Lei conhecido como SB 243Exige que os operadores de chatbot evitem que seus produtos exponham menores a conteúdo sexual, ao mesmo tempo que lembram consistentemente a esses usuários que os chatbots não são humanos. Além disso, as empresas abrangidas pela lei devem implementar um protocolo para lidar com situações em que um usuário discuta pensamentos suicidas, suicídio e automutilação.
O senador estadual Steve Padilla, um democrata que representa San Diego, redigiu e apresentou o projeto no início deste ano. Em fevereiro, ele disse ao Mashable que o SB 243 deveria lidar com novos problemas urgentes de segurança com AI Chatbots. Dado o rápido desenvolvimento e distribuição da tecnologia, Padilla disse que “a proteção regulatória está muito atrasada”.
As faculdades oferecem aos alunos chatgpt. É seguro?
Common Sense Media, um grupo sem fins lucrativos que apoia crianças e pais quando eles navegam na mídia e na tecnologia, explicou o seguidor do AI Chatbot como incerto para adolescentes menores de 18 anos no início deste ano.
A Comissão Federal de Comércio lançou recentemente um Solicitação de chatbots que atuem como companheiros. No mês passado, a agência informou a grandes empresas com produtos de chatbot, incluindo Openai, Alphabet, Meta e Character Technologies, que buscava informações sobre como elas ganham dinheiro com o comprometimento do usuário, geram saídas e desenvolvem os chamados personagens.
Antes da passagem do SB 243, Padilla lamentou como o AI Chatbot acompanha Pode prejudicar os jovens usuários: “Essa tecnologia pode ser uma poderosa ferramenta educacional e de pesquisa, mas deixada por conta própria, a indústria de tecnologia tem estimulado a captar a atenção dos jovens e mantê-la às custas de seus relacionamentos no mundo real”.
Relatório de tendências do Mashable
Califórnia dá luz verde para segurança de IA, proteção de dados e Netflix silenciosa
No ano passado, a enlutada mãe Megan Garcia entrou com um processo de morte ilegal contra a personagem. Seu filho, Sewell Setzer III, morreu por suicídio após forte compromisso com um personagem. O processo afirma que o personagem.AA foi projetado para “manipular Sewell – e milhões de outros jovens clientes – em conflitos entre realidade e ficção”, incluindo defeitos perigosos.
Garcia, que faz lobby em nome do SB 243, aplaudiu a assinatura de Newsom.
“Hoje, a Califórnia garantiu que um chatbot complementar não será capaz de falar com uma criança ou um indivíduo vulnerável sobre suicídio, e um chatbot também não será capaz de ajudar uma pessoa a planejar seu próprio suicídio”, Disse Garcia em comunicado.
O SB 243 também exige que as plataformas Companion Chatbot produzam um relatório anual sobre a relação entre o uso de seu produto e pensamentos suicidas. Ele permite que as famílias conduzam medidas legais privadas contra “descumpridores e desenvolvedores negligentes”.
A Califórnia rapidamente se torna líder quando se trata de regulamentar a tecnologia de IA. Na semana passada, o governador assinou uma notícia que exigia que os laboratórios de IA revelassem possíveis danos à sua tecnologia, bem como informações sobre seus protocolos de segurança.
Como relatou Mashables Chase Dibenedetto, o projeto de lei tem como objetivo “responsabilizar os desenvolvedores de IA pelos padrões de segurança, mesmo quando enfrentam pressão competitiva, e incluir proteção para possíveis denúncias”.
Na segunda-feira, Newsom também sancionou duas propostas legislativas distintas destinadas a melhorar a segurança infantil online. AB 56 Exige rótulos de advertência para plataformas de mídia social e destaca o impacto que as mídias sociais viciantes podem ter na saúde mental e no bem-estar das crianças. O segundo projeto de lei, AB 1043implementar um requisito de verificação de idade que entrará em vigor em 2027.
