O secretário de tecnologia do Reino Unido descreveu as imagens de mulheres e crianças cujas roupas foram despojadas digitalmente, produzidas pela Grok AI de Elon Musk, como “terríveis e inaceitáveis numa sociedade decente”.
Depois que milhares de deepfakes privados circularam online, Liz Kendall disse que a plataforma de mídia social de Musk
“Não podemos e não permitiremos que estas imagens degradantes e degradantes, que visam desproporcionalmente mulheres e meninas, sejam disseminadas. “Fique tranquilo, o Reino Unido não tolerará a proliferação interminável de material nojento e abusivo online. “Devemos todos nos unir para eliminar isso.”
Os seus comentários surgiram no meio de avisos de que a Lei de Segurança Online, que visa combater os danos online e proteger as crianças, precisa urgentemente de ser reforçada, apesar da pressão da administração Trump para a diluir.
Um especialista criticou o “jogo de tênis” entre plataformas como X e reguladores do Reino Unido quando surgem problemas, dizendo que a resposta do governo tem sido “preocupantemente lenta”.
A sobrevivente de abuso sexual infantil, Jessaline Caine, descreveu a resposta do governo como “covarde” e disse ao Guardian na manhã de terça-feira que o chatbot ainda estava atendendo aos pedidos para lançar sua imagem de uma criança de três anos de biquíni. Os mesmos pedidos que ele fez ao ChatGPT e ao Gemini foram rejeitados.
“Outras plataformas também possuem essas medidas de segurança, então por que Grok permite a criação dessas imagens?” ele disse. “As imagens que vi são tão repugnantes e degradantes. O governo reagiu fortemente. Estas ferramentas de inteligência artificial precisam de melhores regulamentações.”
Na segunda-feira, o Ofcom disse estar ciente de sérias preocupações sobre a criação de imagens de pessoas nuas e imagens sexualizadas de crianças por Grok. Disse que entrou em contato
Aumenta a pressão sobre os ministros para que adoptem uma posição mais dura. O ativista de referência cruzada e de segurança infantil online, Beeban Kidron, apelou ao governo para “mostrar alguma firmeza” e apelou para que o regime da Lei de Segurança Online fosse “reavaliado para ser mais rápido e com mais força”.
Ele disse sobre X: “Se qualquer outro produto de consumo causasse esse nível de dano, já teria sido recolhido há muito tempo”.
Ele disse que o Ofcom deve agir “dentro de dias, não anos” e instou os usuários a “evitar produtos que não demonstrem uma intenção séria de prejudicar crianças, mulheres e a democracia”.
A Ofcom tem o poder de multar plataformas de tecnologia em até £ 18 milhões ou 10% de sua receita global qualificada, o que for maior. A maior multa até agora ocorreu no mês passado, quando um fornecedor de pornografia que não cumpriu as verificações obrigatórias de idade foi multado em £ 1 milhão.
No mês passado, os ministros prometeram novas leis para proibir ferramentas de “nudificação” que utilizam inteligência artificial generativa para transformar imagens de pessoas reais em imagens e vídeos falsos de nudez sem o seu consentimento. Ainda não se sabe quando esta proibição será implementada.
Sarah Smith, líder de inovação da Lucy Faithfull Foundation, uma instituição de caridade que trabalha para prevenir o abuso infantil, pediu que X desativasse imediatamente os recursos de edição de imagens de Grok “até que salvaguardas robustas sejam implementadas para evitar que isso aconteça novamente”.
X não respondeu a um pedido de comentário sobre os comentários de Kendall. “Estamos tomando medidas contra conteúdo ilegal em
Jake Moore, consultor global de segurança cibernética da empresa de software de segurança ESET, criticou o “jogo de tênis” entre plataformas como X e os reguladores do Reino Unido e disse que a resposta do governo foi “alarmantemente lenta”.
À medida que a IA permite cada vez mais que imagens falsas sejam transformadas em vídeos mais longos, as consequências na vida das pessoas só vão piorar, disse ele.
“É incrível que isso possa acontecer em 2026”, disse ele. “Precisamos avançar com regulamentações extremas. Qualquer área cinzenta que apresentarmos será abusada. “O governo não entende o panorama geral aqui.”
Já é ilegal criar ou compartilhar imagens íntimas não consensuais ou material de abuso sexual infantil, incluindo deepfakes sexuais gerados por IA. Imagens falsas de pessoas de biquíni podem ser consideradas imagens íntimas. definição Abrange pessoas que têm seios, nádegas ou órgãos genitais legalmente nus, ou cujas partes são cobertas apenas por roupas íntimas. Imagens inadequadas adicionar Aquelas que retratam crianças em poses eróticas sem atividade sexual.
Lady Kidron disse que imagens de crianças de biquíni criadas por inteligência artificial podem não ser material de abuso sexual infantil, mas menosprezam a privacidade e a agência das crianças.
“Não podemos viver num mundo onde uma criança não possa publicar uma fotografia sua a vencer uma corrida, a menos que esteja disposta a ser sexualizada e humilhada”, disse ela.
