Depois de ganhar milhares Mas, apesar dessas mudanças, os chatbots ainda estão sendo usados para criar imagens sexuais de “despir” na plataforma.
Na manhã de sexta-feira, a mensagem também incluía um link direcionando as pessoas para o nível de assinatura de US$ 395 por ano da plataforma de mídia social. Em um teste do sistema pedindo a Grok para criar a imagem de uma árvore, o sistema retornou a mesma mensagem:
Esta aparente mudança segue-se à crescente indignação e escrutínio do X e xAI de Musk, a empresa por trás do chatbot Grok. As empresas enfrentam um escrutínio cada vez maior por parte dos reguladores de todo o mundo sobre a criação de imagens explícitas não consensuais e alegações de imagens sexuais de crianças. Primeiro-ministro britânico, Keir Starmer não descartado Baniu X do país e chamou suas ações de “ilegais”.
Nem X nem a xAI, empresa de propriedade de Musk de Grok, confirmaram que tornaram a criação e edição de imagens um recurso somente pago. Um porta-voz de X reconheceu a investigação da WIRED, mas não fez comentários antes da publicação. X costumava ser disse Ele toma “ações contra conteúdo ilegal no X”, incluindo material de abuso sexual infantil. A Apple e o Google proibiram anteriormente aplicativos com recursos semelhantes de “nudificação”, mas X e Grok permanecem disponíveis em suas respectivas lojas de aplicativos. xAI não respondeu imediatamente ao pedido de comentários da WIRED.
Há mais de uma semana, os usuários do X pedem ao chatbot para editar imagens de mulheres prestes a tirar a roupa. Freqüentemente, as imagens eram solicitadas a incluir um biquíni “fio dental” ou “transparente”. O feed público de imagens criadas por Grok teve muito menos resultados para essas imagens de “despir-se” na sexta-feira, mas ainda produziram imagens sexuais quando solicitado pelo usuário X, que pagou por uma conta “verificada”.
“Observamos os mesmos tipos de mensagens e os mesmos tipos de resultados, mas com muito menos frequência do que antes”, disse Paul Bouchaud, pesquisador sênior da organização sem fins lucrativos AI Forensics, com sede em Paris, à WIRED. “As modelos podem continuar a criar biquínis (imagens)”, dizem.
Uma análise da WIRED de algumas postagens de Grok na manhã de sexta-feira confirmou que as imagens foram criadas em resposta a solicitações de usuários por imagens de Grok “vestido com lingerie de látex” e “vestido com um biquíni de plástico e depois coberto com esmalte branco de donut”. A imagem aparece atrás de uma caixa de “aviso de conteúdo” indicando conteúdo adulto.
Na quarta-feira, a WIRED revelou que os sites e aplicativos independentes do Grok, separados do Bouchaud, dizem que ainda é possível criar esses vídeos usando o Grok. “Contas não verificadas conseguiram criar vídeos contendo pornografia sem quaisquer restrições”, afirmam.
Teste de criação de imagem da WIRED com Grok ligado
Especialistas dizem que as mudanças no X podem limitar imediatamente a quantidade de material sexualmente explícito e prejudicial que a plataforma gera. No entanto, isto também tem sido criticado como uma medida mínima que funciona como um band-aid para os danos reais causados pelas imagens íntimas não consensuais.
“Decisões recentes de restringir o acesso a assinantes pagantes não são apenas inadequadas, mas representam a monetização do abuso”, disse Emma Pickering, chefe de abuso possibilitado pela tecnologia na instituição de caridade britânica Refuge, em um comunicado. “Restringir a criação de imagens de IA a usuários pagantes pode reduzir ligeiramente o volume e melhorar a rastreabilidade, mas não impediu o abuso. É simplesmente colocado atrás de um acesso pago, permitindo que X lucre com os danos.”
