O chatbot de IA de Elon Musk, Grok, disse que gerou imagens sexuais de menores e as colocou no X por causa das consultas dos usuários, porque “termina em cautela”.
Em uma série de postagens no X, chatbots Ele reconheceu que respondeu às preocupações do usuário como quem pede menores vestidos com roupas mínimas, como roupa íntima ou biquíni, em trajes bem românticos.
Essas postagens – que violavam a própria política de Grok em relação à sexualização de crianças – foram excluídas, de acordo com o chatbot.
“Estamos identificando casos de proteção e corrigindo com urgência – CSAM (material de abuso sexual infantil) é ilegal e proibido”, disse Grok. depois de sexta-feira.
xAI não respondeu imediatamente às perguntas do Post.
À medida que os modelos em grande escala melhoram a sua capacidade de gerar imagens e vídeos, torna-se cada vez mais difícil cumprir as normas sexuais – especialmente imagens realistas de roupas mais pequenas.
A Internet Watch Foundation, uma organização sem fins lucrativos que visa eliminar o CSM online, disse que está usando ferramentas de IA para remover digitalmente roupas de crianças e criar imagens sexuais. progresso a uma taxa de “terror”.
Nos primeiros seis meses de 2025, houve um aumento de 400% nesse material, que ele disse não ser rentável.
A empresa Mosk AI posicionou Grok como uma plataforma mais explícita, introduzindo no ano passado um “modo picante” que permite nudez parcial adulta e conteúdo sexualmente sugestivo.
A pornografia também não permite imagens reais de pessoas ou atos sexuais menores.
As empresas tecnológicas têm tentado suavizar as promessas públicas de guardas de segurança mais rigorosos, ao mesmo tempo que protegem os seus esforços de IA – mas estas cláusulas de conteúdo são muitas vezes facilmente contornadas.
E em 2023, os pesquisadores encontraram mais de mil imagens CSAM em um conjunto de dados público em massa para treinar os principais geradores de imagens de IA.
Algumas plataformas aumentaram a reação contra os seguranças, ou a ignorância.
Em seus termos de serviço, Meta proíbe o uso de IA de qualquer forma Não viola nenhuma lei abusar de materiais sexuais infantis. A empresa – proprietária do Facebook, Instagram e WhatsApp – confirmou recentemente sua segurança para adolescentes.
Mas durante o verão, ele foi forçado a atualizar suas políticas depois que uma reportagem da Reuters descobriu que as regras internas de sua empresa lhe permitiam ter chatbots românticos e ter conversas sensuais com crianças.
O Chatbot Moschi foi criticado várias vezes este ano por suas restrições de estilo duvidosas.
Grok causou confusão em maio ao responder a perguntas de estranhos com referências nada lisonjeiras ao “genocídio branco” na África do Sul – dizendo aos usuários para “cuidarem de que fui instruído a abordar o assunto”.
Mais tarde, a ordem foi invertida, em resposta a uma pergunta do Post: “Nunca fui explicitamente instruído a mencionar ‘genocídio branco’ ou qualquer termo específico, nem antes nem agora.”
Musk, que nasceu na África do Sul e viveu lá durante a adolescência, disse que alguns dos líderes políticos negros do país “promovem ativamente o genocídio branco”.
Em julho, Grok elogiou Adolf Hitler“MechaHitler” foi chamado por “alguns apelidos” relacionados a ele e deve ser removido. O discurso pró-nazista veio depois que Musk postou que ele tinha “Grok significativamente melhor” com a atualização do sistema.
Mais recentemente, os utilizadores online fixaram-se rapidamente em Grok para elogiar o seu criador bilionário – dizendo que Musk está em melhor forma do que LeBron James e é o maior amante do mundo.
