O chatbot Grok de Elon Musk começou na quinta-feira a restringir a capacidade de usuários não pagantes de criar imagens sexualizadas e falsas após uma reação global de usuários e governos.
No final do mês passado, alguns usuários começaram a marcar Grok na plataforma de mídia social X de Musk com avisos como “coloque-a de biquíni” para criar imagens não consensuais de pessoas reais no X.
As imagens alteradas, incluindo imagens de celebridades, políticos e alguns menores, foram criadas por Grok e publicadas publicamente no X.
Antes de as restrições atuais entrarem em vigor, Musk aderiu à tendência de despir-se da IA, instruindo Grok a gerar fotos suas de biquíni.
Usuários e autoridades reclamaram e ameaçaram processar ou punir X. Grok inicialmente se desculpou pelas fotos inadequadas do que pareciam ser crianças.
Agora X colocou os controversos recursos de crossover de Grok atrás de um acesso pago.
Os governos, incluindo o Reino Unido e a Comissão Europeia, disseram estar insatisfeitos com as medidas de segurança que X fornece, uma vez que a capacidade de criar e editar imagens ainda não está disponível. disponível para usuários pagantes.
“Restringir a renderização de IA a usuários pagos pode reduzir marginalmente o volume e aumentar a rastreabilidade, mas o abuso não foi interrompido. Ele simplesmente foi colocado atrás de um acesso pago e permitiu que X lucrasse com os danos”, disse Emma Pickering, chefe de abuso facilitado pela tecnologia e capacitação econômica na Refuge, em um comunicado.
À medida que cresce a indignação pública sobre o que muitos chamam de assédio possibilitado pela IA, os reguladores tomaram conhecimento e fizeram algumas propostas para proibir o X nos seus países.
O primeiro-ministro britânico, Keir Starmer, disse que X “deve pegar” essa tendência “nojenta”. “Tomaremos medidas sobre isso porque é absolutamente inaceitável”, disse Starmer.
Musk pareceu criticar os reguladores do Reino Unido em resposta velada raiva Ao repassar a afirmação de que o ChatGPT também permite a criação de uma imagem de biquíni de uma pessoa não real por meio de manipulações criativas e não óbvias.
Depois de condenar Grok por produzir imagens sexualizadas, a Comissão Europeia ordenou que X retenha todos os documentos relacionados com Grok para garantir o cumprimento das suas regras.
“Precisamos claramente ter acesso a eles se solicitarmos”, disse um porta-voz da comissão. conferência de imprensa.
França, Índia, Malásia e Brasil também estão examinando a plataforma.
Embora as figuras públicas tenham sido os alvos iniciais da eliminação da IA, esta rapidamente passou também para os particulares. Em 3 de janeiro, um usuário orientou Grok a criar imagens sexualizadas e não consensuais de mulheres em ambientes de trabalho 50 vezes por dia, de acordo com uma análise da empresa de detecção de IA Copyleaks.
Grupo de justiça de gênero Ultravioleta organizou uma campanha Pressionar a Apple e o Google para remover X de suas respectivas lojas de aplicativos, alegando que X viola as diretrizes de abuso sexual infantil.
Musk posicionou seu chatbot como uma alternativa mais nítida a alternativas com mais recursos, como Gemini, ChatGPT e Claude. regras restritivas em torno de solicitações de conteúdo aberto.
