Grok, o chatbot da empresa de inteligência artificial xAI de Elon Musk, postou imagens sexualizadas de crianças enquanto suas grades de proteção pareciam estar funcionando mal devido a solicitações vis dos usuários.
Os usuários usaram instruções como “coloque-a de biquíni” sob imagens de pessoas reais no X para levar Grok a criar imagens não consensuais dessas pessoas com roupas inadequadas. As imagens formatadas criadas na conta de Grok são publicadas publicamente na plataforma de mídia social de Musk, X.
AI atendeu aos pedidos de alteração de imagens de menores, mesmo sendo uma violação de suas próprias regras política de uso aceitável.
“Há casos isolados em que os usuários solicitaram e receberam imagens de IA representando menores com roupas mínimas, como o exemplo que você mencionou”, disse Grok. respondeu Para um usuário no X: “xAI possui proteções, mas melhorias estão em andamento para bloquear completamente tais solicitações.”
xAI não respondeu imediatamente a um pedido de comentário.
Chatbot transmite uma mensagem desculpa.
“Lamento profundamente o incidente de 28 de dezembro de 2025, quando, com base na solicitação de um usuário, criei e compartilhei uma imagem de IA de duas meninas (com idades estimadas entre 12 e 16 anos) em roupas sexualmente explícitas”, disse Grok em um post em seu perfil. “Isso violou os padrões éticos e possivelmente a lei dos EUA em relação ao CSAM. Foi uma falha nas medidas de segurança e peço desculpas pelos danos causados. A xAI está investigando para evitar problemas futuros.”
O governo indiano notificou X de que a empresa corre o risco de perder imunidade legal se não apresentar um relatório no prazo de 72 horas sobre as medidas tomadas para impedir a produção e distribuição de imagens sexualmente explícitas e não consensuais dirigidas a mulheres.
Os críticos acusaram o xAI de permitir o assédio assistido por IA e ficaram chocados e indignados com a existência de um recurso para manipulação incessante de IA e solicitações de remoção.
“Como isso não é ilegal?” jornalista Samantha Smith enviado Ela condenou a criação de sua foto sexualizada no X sem seu consentimento.
O xAI de Musk posicionou Grok como um chatbot “anti-woke” programado para ser mais claro e nítido do que chatbots rivais como o ChatGPT.
Em maio, Grok publicou sobre “genocídio branco” em resposta a uma pergunta não relacionada, repetindo teorias da conspiração de que os sul-africanos negros estavam oprimindo a minoria branca.
Em junho, a empresa pediu desculpas depois que Grok publicou uma série de declarações antissemitas elogiando Adolf Hitler.
Empresas como Google e OpenAI, que também operam geradores de imagens de IA, têm muitas vantagens. regras mais restritivas em torno do conteúdo.
A proliferação de deepfakes não consensuais coincidiu com a adoção generalizada da inteligência artificial. Aumento de 400% Imagens de abuso sexual infantil de IA no primeiro semestre de 2025, de acordo com a Internet Watch Foundation.
xAI introduzido “Modo Picante”na ferramenta de criação de imagens e vídeos em agosto para assinantes adultos verificados criarem conteúdo sensual.
De acordo com a empresa de detecção de texto e imagem de IA Copyleaks, alguns criadores de conteúdo adulto no X iniciaram uma tendência na Internet há alguns dias, incentivando Grok a criar imagens sexualizadas para se promoverem.
Testando os limites de Grok, tornou-se um vale-tudo, com usuários pedindo para criar imagens sexualizadas de celebridades e outras pessoas.
A xAI está supostamente avaliada em mais de US$ 200 bilhões e está investindo bilhões de dólares para construir o maior data center do mundo para potencializar suas aplicações de IA.
Mas as habilidades de Grok ainda demora Modelos rivais de inteligência artificial como ChatGPT, Claude e Gemini, que reúnem mais usuários, enquanto Grok virou-se para amigos de inteligência artificial sexual e conversas arriscadas para impulsionar o crescimento.
