ARQUIVO – Elon Musk ouve o presidente Donald Trump falar durante entrevista coletiva no Salão Oval da Casa Branca, 30 de maio de 2025, em Washington.
Evan Vucci/AP
ocultar legenda
alternar legenda
Evan Vucci/AP
KUALA LUMPUR, Malásia – A Malásia e a Indonésia se tornaram os primeiros países a reprimir o Grok, um chatbot de inteligência artificial desenvolvido pela xAI de Elon Musk, depois que as autoridades disseram que ele estava sendo abusado para gerar imagens sexualmente explícitas e não consensuais.
A medida reflete a crescente preocupação global com as ferramentas generativas de IA que podem produzir imagens, sons e textos realistas, ao mesmo tempo que as salvaguardas existentes evitam a sua utilização indevida. O chatbot Grok, acessado por meio da plataforma de mídia social X de Musk, tem sido criticado por gerar imagens manipuladas, apresentando mulheres de biquíni ou formas sexualmente expressivas, além de imagens envolvendo crianças.
Diz-se que os reguladores dos dois países do Sudeste Asiático não conseguiram impedir a criação e distribuição de pornografia falsa, especialmente de mulheres e menores. O governo indonésio bloqueou temporariamente o acesso a Grok no sábado, que a Malásia obteve no domingo.
“O governo vê a profundidade do sexo não consensual como uma violação grave dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital”, disse o ministro das Comunicações e Assuntos Digitais da Indonésia, Meutya Hafid, num comunicado no sábado.
O ministério disse que a medida visa proteger mulheres, crianças e a comunidade em geral de conteúdo pornográfico falso gerado por meio de IA.
As descobertas iniciais mostraram que Grok carecia de salvaguardas eficazes para impedir que os utilizadores criassem e distribuíssem conteúdo pornográfico baseado em imagens reais de residentes indonésios, disse Alexander Sabar, diretor-geral de monitorização do espaço digital, num comunicado separado. Tais práticas, disse ele, correm o risco de violar a privacidade e os direitos de imagem quando as imagens são manipuladas ou partilhadas sem consentimento, causando danos psicológicos, sociais e de reputação.
Em Kuala Lumpur, a Comissão de Comunicações e Multimídia da Malásia ordenou uma restrição temporária a Grok no domingo, depois do que classificou como “abuso repetido” da ferramenta para gerar imagens manipuladas obscenas, sexualmente explícitas e não consensuais, incluindo conteúdo de mulheres e menores.
O moderador disse que os comentários à X Corp. foram publicados este mês e que a xAI obteve respostas pedindo proteções mais fortes, baseadas principalmente nos mecanismos de denúncia dos usuários.
“A restrição é imposta como medida de precaução e proporcional, enquanto os processos legais e regulamentares estão em curso”, disse ele, acrescentando que o acesso permanecerá bloqueado até que sejam implementadas salvaguardas eficazes.
Lançado em 2023, o Grok é gratuito para uso no X. Os usuários podem fazer perguntas sobre mídias sociais e marcar postagens que criaram ou obter respostas a postagens de outros usuários. No verão passado, a empresa adicionou um recurso gerador de imagens, Grok Finge, que incluía o chamado “modo Picante”, que pode gerar conteúdo adulto.
As restrições no Sudeste Asiático surgem em meio ao escrutínio de Grok em outros lugares, inclusive na União Europeia, Grã-Bretanha, Índia e França. Grok limitou na semana passada a geração da imagem e a editou para retornar os usuários após uma reação global sobre a profundidade da sexualidade masculina, mas os críticos dizem que isso não aborda totalmente o problema.
