Malásia e Indonésia foram os primeiros países a bloquear Grok, alegando que os chatbots de X não tinham salvaguardas suficientes para impedir que deepfakes flagrantes gerados por IA fossem criados e distribuídos por X. A Indonésia bloqueou temporariamente o acesso a Grok no sábado, assim como a Malásia no domingo. Imprensa associada relatório. Enquanto isso, o regulador de mídia britânico Ofcom Uma investigação oficial foi lançada Alterado para X de acordo com as leis de segurança online.
“O governo vê os deepfakes sexuais não consensuais como uma violação grave dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital”, disse a ministra indonésia das Comunicações e Digital, Meutya Hafid, num comunicado. Autoridades indonésias disseram que as descobertas iniciais mostraram que Grok não tinha controles eficazes para impedir que usuários criassem e compartilhassem deepfakes sexualmente explícitos com base em fotos de residentes indonésios. Alexander Sabar, Diretor de Supervisão do Espaço Digital da China, acrescentou que compartilhar ou manipular fotos sem consentimento para criar deepfakes pode violar a imagem e os direitos de privacidade dos indivíduos e causar danos à reputação, sociais e psicológicos.
A Comissão de Comunicações e Multimídia da Malásia citou o “uso indevido repetido” de Grok. Criando deepfakes flagrantes e não consensuaisAlguns deles incluíam mulheres e crianças. Os reguladores disseram que Grok permaneceria bloqueado no país até que a X Corp e a controladora xAI implementassem salvaguardas suficientemente fortes.
A investigação do Ofcom se concentrará em saber se X “cumpriu suas obrigações de proteger o povo britânico de conteúdo ilegal no Reino Unido”. Isso inclui se X está tomando as medidas apropriadas para evitar que usuários do Reino Unido vejam conteúdo ilegal “prioritário”, como CSAM e imagens íntimas não consensuais. Se a plataforma remover conteúdo ilegal rapidamente após tomar conhecimento dele, se X conduziu uma avaliação de risco atualizada antes de fazer “alterações materiais” na plataforma. A investigação também considerará se
O regulador disse que contatou X em 5 de janeiro e recebeu uma resposta até o prazo final de 9 de janeiro. Ofcom acrescentou que estava realizando uma “avaliação rápida das evidências disponíveis com urgência” e solicitou “esclarecimentos urgentes” da xAI sobre as medidas que estava tomando para proteger os usuários do Reino Unido.
Um porta-voz do Ofcom disse: “Relatos de que Grok foi usado por X para criar e compartilhar imagens íntimas ilegais e não consensuais e material de abuso sexual infantil são extremamente preocupantes”. “As plataformas devem proteger o público britânico de conteúdos ilegais no Reino Unido e não hesitaremos em investigar onde suspeitamos que uma empresa está a falhar nas suas obrigações, especialmente quando existe um risco de danos às crianças. Faremos disto uma prioridade máxima, ao mesmo tempo que seguimos o devido processo. Como agência independente de aplicação da segurança online do Reino Unido, é importante garantir que as nossas investigações sejam juridicamente sólidas e justas.”
Se o Ofcom determinar que uma empresa violou a lei, “pode exigir que a plataforma tome certas medidas para colocá-la em conformidade ou para remediar os danos causados pela violação”. Os reguladores poderiam adicionalmente impor multas de até 18 milhões de libras (24,3 milhões de dólares) ou 10% das receitas globais “elegíveis”, o que for maior. Eles também podem solicitar ordens judiciais para impedir que provedores de pagamento ou anunciantes trabalhem com a plataforma, ou exigir que provedores de serviços de Internet bloqueiem o site no Reino Unido. O governo britânico disse que o fará. Por favor, retorne qualquer ação O que o Ofcom assume no X
De acordo com relatos do fim de semana, o Reino Unido abrir uma discussão Trabalhe com aliados para responder conjuntamente aos deepfakes criados por Grok. Reguladores de outras regiões, incluindo a Índia e a União Europeia, também inspeção X.
Registro da semana passada Comecei a conversar com usuários X. As ferramentas de criação e edição de imagens eram limitadas apenas a assinantes pagos. Mas a partir de segunda-feira, até mesmo usuários gratuitos poderão criar imagens por meio da guia Grok no site e aplicativo X.
