As empresas de tecnologia da Califórnia, o epicentro da economia do estado, enviaram uma mensagem forte aos políticos este ano: recuem nas regras restritivas sobre inteligência artificial ou eles irão embora.
A tática parece ter funcionado, disseram os ativistas, já que alguns políticos enfraqueceram ou desmantelaram as barreiras de proteção para mitigar os maiores riscos da IA.
O governador da Califórnia, Gavin Newsom, rejeitou um projeto de lei que visava tornar os chatbots complementares mais seguros para as crianças depois que a indústria de tecnologia o combateu. Na sua mensagem de veto, o governador abordou preocupações sobre a definição de limites amplos à IA, o que desencadeou uma enorme ronda de investimentos e criou novos bilionários da noite para o dia na área da Baía de São Francisco.
O Assembly Bill 1064 teria impedido que operadores de chatbots complementares disponibilizassem esses sistemas de IA para menores, a menos que os chatbots fossem “previsivelmente capazes” de determinado comportamento, incluindo encorajar uma criança a se automutilação. Newsom disse que apoiava a meta, mas temia que isso impedisse inadvertidamente que menores de idade usassem ferramentas de IA e aprendessem como usar a tecnologia com segurança.
“Não podemos preparar os nossos jovens para um futuro onde a IA seja omnipresente, impedindo totalmente a utilização destas ferramentas”, escreveu ele na sua mensagem de veto.
O veto ao projeto de lei foi um golpe para os defensores da segurança infantil, que o aprovaram na legislatura estadual, e uma vitória para os grupos da indústria de tecnologia que o combateram. Em anúncios nas redes sociais, grupos como o TechNet instaram o público a dizer ao governador para vetar o projeto de lei porque prejudicaria a inovação e faria com que os alunos ficassem para trás na escola.
As organizações que tentam controlar as maiores empresas tecnológicas do mundo à medida que desenvolvem a poderosa tecnologia dizem que a indústria tecnológica se tornou mais capacitada a nível nacional e estatal.
Meta, Google, OpenAI, Apple e outras grandes empresas tecnológicas reforçaram as suas relações com a administração Trump. As empresas estão a financiar novas organizações e comités de ação política para reagir às políticas governamentais de IA, ao mesmo tempo que investem dinheiro em lobbying.
Em Sacramento, as empresas de IA têm feito lobby nos bastidores por mais liberdade. O enorme conjunto de talentos de engenharia, investidores tecnológicos e empresas da Califórnia tornam-na num local atraente para a indústria tecnológica, mas as empresas estão a informar os decisores políticos que outros estados também estão interessados em atrair esses investimentos e empregos. A Big Tech é particularmente sensível à regulamentação no Golden State porque muitas empresas estão sediadas lá e devem cumprir as suas regras.
“Acreditamos que a Califórnia pode encontrar um melhor equilíbrio entre proteger os consumidores e permitir o crescimento tecnológico responsável”, disse Robert Boykin, diretor executivo da TechNet para a Califórnia e o Sudoeste, em um comunicado.
O fundador e CEO da Common Sense Media, Jim Steyer, disse que os lobistas de tecnologia estão exercendo enorme pressão sobre Newsom para vetar o AB 1064. A Common Sense Media, uma organização sem fins lucrativos que avalia e analisa tecnologia e entretenimento para famílias, patrocinou o projeto.
“Eles ameaçam prejudicar a economia da Califórnia”, disse ele. “Essa é a mensagem básica das empresas de tecnologia.”
A publicidade é uma das táticas que as empresas de tecnologia com grandes recursos usam para convencer os políticos a eliminar ou enfraquecer a legislação. Mesmo que o governador sancione um projeto de lei, as empresas às vezes processam para impedir que novas leis entrem em vigor.
“Se você está realmente tentando fazer algo ousado com a política tecnológica, você tem que superar muitos obstáculos”, disse David Evan Harris, consultor político sênior da Iniciativa para Tecnologia e Democracia da Califórnia, que apoiou o AB 1064. O grupo se concentra em encontrar soluções em nível estadual para ameaças representadas pela IA, desinformação e tecnologias emergentes à democracia.
As empresas tecnológicas ameaçaram transferir as suas sedes e empregos para outros estados ou países, um risco que está além dos políticos e reguladores.
A Câmara de Comércio da Califórnia, um amplo grupo empresarial que inclui gigantes da tecnologia, lançou este ano uma campanha alertando que o excesso de regulamentação poderia sufocar a inovação e prejudicar a Califórnia.
“O acirramento da concorrência poderia fazer com que as empresas da Califórnia se expandissem para outros lugares, custando bilhões à economia do estado”, disse o grupo em seu comunicado. site.
De janeiro a setembro, a Câmara de Comércio da Califórnia gastou US$ 11,48 milhões fazendo lobby junto aos legisladores e reguladores da Califórnia em uma variedade de projetos de lei, mostram os registros apresentados ao Secretário de Estado da Califórnia. Durante esse período, a Meta gastou US$ 4,13 milhões. Um relatório de lobby mostra que a Meta pagou US$ 3,1 milhões à Câmara de Comércio da Califórnia, constituindo a maior parte de suas despesas. O Google, que também pagou ao TechNet e à Câmara de Comércio da Califórnia, gastou US$ 2,39 milhões.
Amazon, Uber, DoorDash e outras empresas de tecnologia gastaram mais de US$ 1 milhão cada. A TechNet gastou cerca de US$ 800 mil.
A ameaça de que as empresas da Califórnia pudessem se mudar chamou a atenção de alguns políticos.
Califórnia Atty. O general Rob Bonta, que investigou empresas de tecnologia por questões de segurança infantil, indicou que, apesar das preocupações iniciais, seu gabinete não se oporia aos planos de reestruturação do fabricante do ChatGPT, OpenAI. A nova estrutura dá à controladora sem fins lucrativos da OpenAI uma participação em sua empresa com fins lucrativos e abre caminho para que a OpenAI liste suas ações.
Bonta abençoou a reestruturação em parte devido à promessa da OpenAI de permanecer nos Estados Unidos.
“A segurança será uma prioridade, assim como o compromisso de que a OpenAI permanecerá aqui na Califórnia”, disse ele em comunicado na semana passada. O escritório do AG, que supervisiona fundos de caridade e garante que esses ativos sejam usados para o bem público, vinha investigando o plano de reestruturação da OpenAI há um ano e meio.
O CEO da OpenAI, Sam Altman, disse que está feliz por ficar na Califórnia.
“A Califórnia é a minha casa e adoro aqui, e quando falei com o procurador-geral Bonta há duas semanas, deixei claro que não vamos fazer o que as outras empresas estão a fazer e ameacei sair se formos processados”, escreveu ele no X.
Os críticos – que incluíam alguns líderes tecnológicos como Elon Musk, Meta e ex-executivos da OpenAI, bem como organizações sem fins lucrativos e fundações – expressaram preocupação com o plano de reestruturação da OpenAI. Alguns alertaram que isso permitiria às start-ups tirar partido de incentivos fiscais para fins de caridade e permitiria à OpenAI dar prioridade ao lucro económico em detrimento do bem público.
Legisladores e grupos de defesa dizem que foi um ano misto para a regulamentação tecnológica. O governador assinou o Projeto de Lei 56 da Assembleia, que exige que as plataformas exibam rótulos aos menores alertando sobre os danos psicológicos das redes sociais. Outra peça legislativa assinada, o Projeto de Lei 53 do Senado, visa tornar os desenvolvedores de IA mais transparentes sobre os riscos de segurança e oferecer mais proteção aos denunciantes.
O governador também assinou um projeto de lei exigindo que os operadores de chatbot tenham procedimentos em vigor para evitar a produção de conteúdo suicida ou de automutilação. Mas grupos de defesa, incluindo a Common Sense Media, retiraram o seu apoio ao projeto de lei 243 do Senado porque afirmaram que a indústria tecnológica estava a pressionar por mudanças que enfraqueciam as suas proteções.
Newsom vetou outra legislação contestada pela indústria de tecnologia, incluindo o Projeto de Lei 7 do Senado, que exigiria que os empregadores notificassem os trabalhadores antes de ativar um “sistema de decisão automatizado” na contratação, promoção e outras decisões de emprego.
Chamada de “Lei No Robo Bosses”, a legislação não foi aprovada pelo governador, que a considerou muito ampla.
“Muitas nuances surgiram no processo legislativo sobre o equilíbrio entre garantir proteções significativas e ao mesmo tempo incentivar a inovação”, disse Julia Powles, professora e diretora executiva do Instituto de Tecnologia, Direito e Política da UCLA.
A batalha pela segurança da IA está longe de terminar. A deputada Rebecca Bauer-Kahan (D-Orinda), co-autora do AB 1064, disse que planeja reviver a legislação.
A segurança infantil é uma questão que democratas e republicanos estão investigando depois que pais processaram empresas de IA como OpenAI e Character.AI por supostamente terem contribuído para o suicídio de seus filhos.
“O dano que esses chatbots estão causando parece tão rápido e furioso, público e real, que pensei que teríamos um resultado diferente”, disse Bauer-Kahan. “É sempre fascinante para mim quando o resultado da política parece desconectado do que penso que o público deseja.”
Steyer, da Common Sense Media, disse que uma nova iniciativa eleitoral inclui as proteções de segurança de IA que Newsom vetou.
“Foi um revés, mas não uma derrota total”, disse ele sobre o veto do AB 1064. “Esta é uma situação de David e Golias, e nós somos David”.
