T.A publicação no X (antigo Twitter) de uma série de imagens geradas por IA de mulheres e crianças usando biquínis, algumas em poses sexualizadas ou com lesões, provocou, com razão, uma forte reação por parte dos políticos e reguladores do Reino Unido. O anúncio de segunda-feira de que X estava sendo investigado foi a medida mais combativa do Ofcom desde que as principais disposições da Lei de Segurança Online entraram em vigor. Nenhuma das outras empresas que ele desafiou ou multou tem o alcance global ou a influência política do gigante das redes sociais de Elon Musk. Aconteça o que acontecer a seguir, este é um momento decisivo. O que está a ser definido é até que ponto algumas das empresas mais ricas do planeta estão sob controlo democrático.
Mas o anúncio é apenas um primeiro passo. O Ofcom não forneceu nenhuma informação sobre quanto tempo levaria a investigação. Downing Street descreveu na sexta-feira a decisão de restringir o uso do chatbot Grok AI gerador de imagens para assinantes pagantes do X como um insulto. O governo disse que isso significava transformar a criação de deepfakes maliciosos em um “serviço premium”.
Essa linguagem forte foi bem-vinda. O mesmo aconteceu com o anúncio da secretária de tecnologia, Liz Kendall, de que uma proibição prometida à criação de imagens íntimas não consensuais entraria em vigor esta semana e que os aplicativos de nudez seriam rapidamente proibidos. No fim de semana, David Lammy afirmou que JD Vance compartilhou a objeção do governo do Reino Unido às ferramentas que permitem aos usuários despir crianças em fotos. Os ministros claramente não querem lutar contra Donald Trump e prefeririam que os políticos dos EUA se juntassem ao desafio das grandes tecnologias em vez do abuso baseado na imagem. Mas a oposição agressiva de Musk às regulamentações poderá tornar inevitável uma luta pública. Ele quer que Grok rivalize com o ChatGPT da OpenAI. E sexo vende.
O Reino Unido não está sozinho na tomada de posição. A Indonésia e a Malásia restringiram o acesso ao Grok em resposta a um número crescente de deepfakes sinceros. O Ministro da Comunicação Social alemão, Wolfram Weimer, apelou à Comissão Europeia para que tome medidas contra a “industrialização do assédio sexual”. Mas como se espera que a OpenAI torne possível em breve a criação de material erótico usando ChatGPT, há temores de que as comportas da pornografia deepfake estejam prestes a se abrir. As sérias preocupações sobre esta questão não se limitam à necessidade de verificação da idade para proteger as crianças. No Reino Unido, a maioria dos jovens de 18 anos ainda está na escola. Eles e os adultos mais velhos também têm o direito de ser protegidos dos danos causados por deepfakes sinceros. Os riscos da pornografia violenta em linha também podem ser aumentados pela inteligência artificial, se esta tornar esse material mais facilmente acessível.
As empresas tecnológicas nunca deveriam ter sido autorizadas a ditar o ritmo da mudança a tal ponto, introduzindo novas ferramentas sem que o seu impacto fosse discutido ou avaliado de forma independente. As leis de segurança online do Reino Unido estão entre as mais avançadas do mundo. Mas a mania de fotografar biquínis expôs uma lacuna numa lei que é mais restritiva às imagens de pessoas em roupa interior do que em fatos de banho, mesmo que o nível de cobertura seja o mesmo.
Embora o acesso das crianças às aplicações das redes sociais seja uma questão distinta da concepção de ferramentas de inteligência artificial, não é surpreendente que a questão dos limites de idade tenha sido levantada por políticos seniores à direita e à esquerda nos últimos dias. Os ministros deveriam dar um passo à frente e decidir o que pensam sobre as crianças que utilizam inteligência artificial. Mas a prioridade imediata é Grok. O Ofcom latiu e deve mostrar que também pode morder.
-
Você tem uma opinião sobre as questões levantadas neste artigo? Se desejar enviar por e-mail uma resposta de até 300 palavras para publicação em nossa seção de cartas, clique aqui.
