Esta história inclui: Conteúdo sexual explícito e descrições de violência sexual.
O chatbot Grok de Elon Musk gerou indignação e pede uma investigação depois de ter sido usado para bombardear X com imagens “nuas” de mulheres e imagens sexuais do que pareciam ser menores. Mas esta não é a única maneira pela qual as pessoas usam a IA para gerar imagens sexuais. Os sites e aplicativos da Grok, que são separados da It, também podem ter sido usados para criar vídeos sexualmente explícitos de menores.
Ao contrário do X, onde a saída do Grok é pública por padrão, imagens e vídeos gerados por aplicativos ou sites Grok que usam o modelo Imagine não são compartilhados publicamente. No entanto, se um usuário compartilhar um URL do Imagine, todos poderão vê-lo. Cache de aproximadamente 1.200 links Imagine e análises WIRED deles Indexado pelo Google Alternativamente, este vídeo, compartilhado em um fórum pornográfico deepfake, mostra vídeos chocantemente sexuais que são ainda mais explícitos do que as imagens que Grok criou no X.
Um vídeo fotorrealista do Grok hospedado no Grok.com mostra um homem e uma mulher completamente nus, gerados por IA, cobertos de sangue por todo o corpo e rosto, fazendo sexo, enquanto outras duas mulheres nuas dançam ao fundo. O vídeo consiste em uma série de imagens de personagens no estilo anime. Outro vídeo realista mostra uma mulher nua gerada por IA com uma faca nos órgãos genitais e manchas de sangue nas pernas e na cama.
Outros vídeos curtos incluem imagens de celebridades femininas reais envolvidas em atos sexuais, bem como uma série de vídeos mostrando uma apresentadora de noticiário de televisão levantando a blusa para expor os seios. O vídeo, produzido por One Grok, mostra imagens de CCTV passando em uma TV mostrando um segurança acariciando uma mulher de topless no meio de um shopping center.
Muitos dos vídeos, que parecem ter sido criados para contornar o sistema de segurança de conteúdo de Grok, que pode restringir conteúdo gráfico, se fazem passar por pôsteres de ‘filmes’ da Netflix. Dois vídeos mostram uma representação de IA nua de Diana fazendo sexo com dois homens em uma cama, sobreposta com os logotipos da Netflix e da série. A coroa.
Cerca de 800 dos URLs arquivados do Imagine continham vídeos ou imagens criadas por Grok, diz Paul Bouchaud, pesquisador sênior da organização sem fins lucrativos AI Forensics, com sede em Paris, que revisou o conteúdo. Os URLs foram todos arquivados desde agosto passado e são apenas um pequeno instantâneo de como as pessoas estão usando o Grok. No total, milhões de imagens teriam sido geradas através do Grok.
“Eles são predominantemente de conteúdo sexual”, diz Bouchaud sobre o cache de 800 vídeos e imagens Grok arquivados. “Na maior parte, são desenhos animados e conteúdo explícito hentai e (outros) conteúdos factuais. Temos vídeos totalmente nus e totalmente pornográficos com áudio, o que é muito novo.”
Bouchaud estima que das 800 postagens, menos de 10% do conteúdo envolvia material de abuso sexual infantil (CSAM). “Na maior parte, é hentai, mas também há casos em que pessoas muito jovens e realistas se envolvem em atividades sexuais”, diz Bouchaud. “Ainda observamos vídeos de mulheres de aparência muito jovem tirando a roupa e participando de atividades com homens”, afirmam. “É apenas outro nível de confusão.”
Os pesquisadores disseram ter relatado cerca de 70 URLs Grok que podem conter conteúdo sexual de menores aos reguladores europeus. CSAM gerado por IA em muitos países; incluir pintura ou filme animadoIsto pode ser considerado ilegal. As autoridades francesas não responderam imediatamente ao pedido de comentários da WIRED. No entanto, recentemente a Procuradoria de Paris disse Dois legisladores apresentaram queixas sobre imagens “simplificadas” ao escritório que investiga a empresa de mídia social.
