Os fabricantes de chatbots de IA que colocam crianças em risco enfrentarão multas pesadas e até terão seus serviços bloqueados no Reino Unido devido às mudanças na lei que Keir Starmer anunciará na segunda-feira.
Os ministros estão planejando uma “repressão ao nojento conteúdo ilegal gerado por IA”, encorajado pela indignação pública no mês passado porque Elon Musk impediu a ferramenta Grok AI de X de criar imagens sexualizadas de pessoas reais no Reino Unido.
À medida que cresce o número de crianças que utilizam chatbots para tudo, desde ajuda nos trabalhos de casa a apoio à saúde mental, o governo disse que irá “agir rapidamente para colmatar uma lacuna legal e forçar todos os fornecedores de chatbots de IA a cumprirem os deveres de conteúdo ilegal da Lei de Segurança Online ou serão forçados a enfrentar as consequências de infringir a lei”.
Starmer também planeja intensificar novas restrições ao uso de mídias sociais por crianças se uma possível proibição de menores de 16 anos for acordada pelos parlamentares após consulta pública. Isto significa que quaisquer mudanças no uso das redes sociais pelas crianças, que incluiriam outras medidas, como a restrição da rolagem interminável, poderiam acontecer já neste verão.
Mas os Conservadores rejeitaram a alegação do governo de que estava a agir rapidamente porque as consultas ainda não tinham começado como “mais fumo e espelhos”.
A secretária de educação paralela, Laura Trott, disse: “Simplesmente não é credível afirmar que eles estão tomando ‘ações urgentes’ quando as chamadas consultas urgentes não estão disponíveis.” “O Partido Trabalhista afirmou repetidamente que não tem opinião sobre se os menores de 16 anos devem ser impedidos de aceder às redes sociais. Isto não é suficiente. Tenho certeza de que devemos impedir que os menores de 16 anos tenham acesso a estas plataformas.”
As medidas ocorrem depois que o regulador online Ofcom admitiu que não tinha poder para agir contra Grok porque imagens e vídeos criados por um chatbot sem pesquisar na Internet não são cobertos pelas leis existentes, a menos que constituam pornografia. A mudança para trazer os chatbots de IA sob a Lei de Segurança Online pode acontecer dentro de semanas, mas a brecha é conhecida há mais de dois anos.
“A tecnologia está avançando muito rápido e a lei precisa acompanhar”, disse Starmer. “Nossa ação contra Grok enviou uma mensagem clara de que nenhuma plataforma tem passe livre. Hoje estamos fechando brechas que colocam crianças em risco e lançando as bases para novas ações.”
As empresas que violarem a Lei de Segurança Online poderão enfrentar multas de até 10% das suas receitas globais, e os reguladores poderão recorrer aos tribunais para bloquear as suas ligações ao Reino Unido.
Se os chatbots de IA forem utilizados especificamente como motores de busca, para produzir pornografia ou para operar em contextos de utilizador para utilizador, já estão abrangidos pela lei. Mas podem ser utilizados para criar material que incentive as pessoas a auto-agressão ou a cometer suicídio, ou mesmo para criar material de abuso sexual infantil, sem enfrentar quaisquer sanções. Esta é a lacuna que o governo diz querer colmatar.
Chris Sherwood, executivo-chefe da NSPCC, disse que os jovens estavam contatando a linha de apoio para relatar danos causados por chatbots de IA e não confiavam nas empresas de tecnologia para projetá-los com segurança.
Num caso, uma menina de 14 anos que conversou com um chatbot de IA sobre seus hábitos alimentares e dismorfia corporal recebeu informações falsas. Em outros, eles viram “jovens se machucando mesmo quando apresentados a conteúdos autolesivos”.
“As redes sociais trouxeram grandes benefícios aos jovens, mas também causaram muitos danos”, disse Sherwood. “Se não tomarmos cuidado, a IA será assim com esteróides.”
A OpenAI, startup de US$ 500 bilhões de São Francisco por trás do ChatGPT, um dos chatbots mais populares do Reino Unido, e da xAI, que produz o Grok, foram procuradas para comentar.
Desde que Adam Raine, um jovem de 16 anos da Califórnia, suicidou-se depois do que a sua família afirma ter sido “meses de incentivo do ChatGPT”, a OpenAI introduziu controlos parentais e está a implementar tecnologia de estimativa de idade para restringir o acesso a conteúdos potencialmente prejudiciais.
O governo também realizará consultas sobre como forçar as plataformas de redes sociais a impossibilitar que os utilizadores enviem ou recebam imagens de crianças nuas; Esta é uma prática atualmente ilegal.
A secretária de tecnologia, Liz Kendall, disse: “Não vamos esperar para tomar as medidas que as famílias precisam, por isso vamos reforçar as regras sobre chatbots de IA e lançar as bases para que possamos agir rapidamente com base nos resultados das consultas com os jovens e nas redes sociais”.
A Fundação Molly Rose, fundada pelo pai de Molly Russell, de 14 anos, que cometeu suicídio depois de ver conteúdo prejudicial online, descreveu as medidas como uma “entrada de boas-vindas”. Mas ele apelou ao primeiro-ministro para apresentar uma nova Lei de Segurança Online que “fortaleça a regulamentação e deixe claro que a segurança dos produtos e o bem-estar das crianças são o custo de fazer negócios no Reino Unido”.
