A União Europeia lançou formalmente uma investigação sobre a empresa de mídia social X de Elon Musk sobre o que descreveu como falsificações de mulheres e meninos geradas pelo chatbot Grok.
O braço executivo europeu, a Comissão Europeia, Ele disse na segunda-feira que analisará se A empresa de tecnologia de Moschi violou a Lei de Serviços Digitais, que exige que plataformas como X impeçam a publicação de imagens sexualmente manipuladas que incluam material de abuso sexual infantil.
“A exploração sexual de mulheres e crianças é uma forma violenta e aceitável de deformidade”, afirmou Henna Virkkunen, vice-presidente executiva da Comissão Europeia para supervisão técnica, num comunicado.
“Com esta investigação determinaremos se X foi vinculado pelos seus direitos ao abrigo do DSA, ou se tratou os direitos dos cidadãos europeus, incluindo mulheres e crianças, como danos colaterais à sua escravatura”.
A Comissão foi citada como tendo dito “a disseminação de conteúdo ilegal, efeitos negativos em relação à geração de energia e graves consequências negativas para a saúde mental e o bem-estar físico decorrentes das atividades de Groko em sua plataforma” na investigação.
Autoridades da UE alertaram que poderiam ser impostas 10 penalidades, que vão de até 6% da receita anual global, se as violações forem confirmadas.
O bot Grok AI de Musk foi lançado recentemente no ano passado, depois que o aplicativo X foi inundado com imagens de mulheres cujas aparências foram alteradas digitalmente para parecerem que estavam de biquíni ou lingerie, embora as imagens originais as mostrassem totalmente vestidas.
Mudanças foram feitas com os usuários Eles poderiam procurar por Grok ele deporia sem seu consentimento prévio.
Uma análise da pesquisadora Genovefa O gerou recentemente as descobertas de Grok 7.750 imagens sexualmente sugestivas ou “nuas” por hora.
Ashley St. Clair, uma influenciadora de mídia social que foi pai de um filho de Musk, entrou com uma ação contra a startup bilionária de IA, xAI, que criou a Grok.
Ela alegou em um processo judicial que Musk gerou imagens falsas de si mesma quando era um menino nu e retaliou contra ela – desativando sua conta X – quando ela exigiu o fim do assédio.
No início deste mês, a empresa de Musk caiu no esquecimento. Grok disse aos usuários no início de janeiro que “a geração e edição de imagens estão sendo feitas atualmente para assinantes pagantes”.
Musk também postou que usar Grok era conteúdo ilegal “Patter o mesmo” você aprende como se fossem esses conteúdos.
Os reguladores fora da UE agiram rapidamente para reprimir Grok à medida que a reação generalizada se aprofundava.
na Grã-Bretanha A polícia do Ofcom lançou uma investigação formal num chatbot, citando preocupações semelhantes às levantadas na Europa sobre a criação e disseminação de imagens sexualmente explícitas e potencialmente ilegais.
Autoridades na Austrália, França e Alemanha e eles abriram investigações em Grok sobre a controvérsia sexual falsa, parte de uma resposta mais ampla e de orientação internacional.
Embora os órgãos reguladores específicos e os mecanismos de aplicação variem, as autoridades de cada país citaram a mesma preocupação central: Grok criou uma imagem não consensual da sexualidade de pessoas reais, incluindo menores, em grande escala.
Nos Estados Unidos, a ação chegou ao nível estadual, com Rob Bonta, procurador-geral da Califórnia, anunciando uma investigação.
Os governantes avançaram ainda mais para a Ásia.
A Indonésia e a Malásia impuseram proibições temporárias ao Grok, embora a Malásia posteriormente tenha levantado a restrição.
Um representante de Musk não estava imediatamente disponível para comentar.
