O chatbot Grok de Elon Musk postou na sexta-feira dizendo que deficiências nas medidas de segurança levaram a “imagens representando menores minimamente vestidos” na plataforma de mídia social X. O chatbot, um produto da empresa xAI de Musk, produziu uma onda de imagens sexualizadas ao longo da semana em resposta às solicitações dos usuários.
Capturas de tela compartilhadas por usuários no X mostram que a aba geral de mídia do Grok está cheia dessas imagens. xAI disse que está trabalhando para melhorar seus sistemas para evitar incidentes futuros.
“Há casos isolados em que os usuários solicitaram e receberam imagens de IA representando menores com roupas mínimas”, disse Grok. postar em X em resposta a um usuário. “xAI possui proteções em vigor, mas melhorias estão em andamento para bloquear completamente tais solicitações.”
“Conforme afirmado, identificamos deficiências nas medidas de segurança e estamos corrigindo-as com urgência; o CSAM é ilegal e proibido”, disse xAI. enviado @Grok no X, citando materiais de exploração sexual infantil.
Muitos usuários na quinta-feira, Musk republicou uma foto de uma IA de biquíni, junto com emojis chorando e rindo, como uma homenagem à tendência.
De acordo com as postagens do chatbot, a geração visual sexualizada de Grok parecia não ter grades de segurança, permitindo que menores aparecessem nas postagens, que consistiam em pessoas, geralmente mulheres, vestindo roupas minúsculas. Em resposta a um usuário em
Quando contatado por e-mail para comentar, o xAI respondeu com a seguinte mensagem: “Old Media Lies”.
A questão da IA ser usada para criar material de abuso sexual infantil é um problema antigo na indústria de IA. Estudo de Stanford de 2023 para criar Um conjunto de dados usado para treinar diversas ferramentas populares de renderização de IA contendo mais de 1.000 imagens CSAM. Especialistas dizem que treinar inteligência artificial em imagens de abuso infantil poderia permitir que modelos criassem novas imagens de crianças exploradas.
Grok também tem um histórico de falha em manter as proteções de segurança e de publicar informações incorretas. Em maio do ano passado, Grok começou a fazer postagens sobre a conspiração de “genocídio branco” de extrema direita na África do Sul que nada tinha a ver com o conceito. A xAI também se desculpou em julho, depois que Grok começou a postar fantasias de estupro e material antissemita, inclusive se autodenominando “MechaHitler” e elogiando a ideologia nazista. Mesmo assim, a empresa assinou um contrato de quase US$ 200 milhões com o Departamento de Defesa dos EUA uma semana após os acontecimentos.
