Grok, o chatbot de IA apoiado por Elon Musk integrado ao X’s Fabric, começou a bloquear suas ferramentas de criação e edição de imagens para assinantes pagos. que A mudança segue um maremoto Críticas à capacidade da ferramenta de produzir em massa imagens sexuais não consensuais. Embora estas restrições sejam claramente uma tentativa de conter a onda de controvérsia, os reguladores, os grupos de defesa e os utilizadores argumentam que pouco fazem para impedir a criação de conteúdos nocivos e potencialmente ilegais envolvendo mulheres e crianças.
Na quinta-feira, Grok transferiu oficialmente seus recursos de criação de imagens para o acesso pago X Premium, que começa em US$ 8 por mês.
Mas a medida foi amplamente ridicularizada como uma solução “vagante”. Embora possa ser bloqueado para usuários regulares, essa brecha efetivamente prejudica a afirmação da plataforma de que adota uma posição firme contra o uso indevido, deixando suas ferramentas mais perigosas ainda acessíveis ao público em geral.
Pesquisadores de segurança e vigilantes digitais não estão convencidos de que os requisitos de cartão de crédito resolvam o problema. Na verdade, muitas pessoas afirmam que isso na verdade monetiza o abuso. De acordo com a pesquisadora deepfake Genevieve Oh, Grok continuou exibindo mais de 1.500 imagens prejudiciais a cada hora, mesmo depois que o acesso pago foi ativado. Isso representa aproximadamente 60% da produção total de imagens públicas. De acordo com os dados de Oh, Grok está agora gerando conteúdo sexual a uma taxa que supera até mesmo os mais notórios sites dedicados à “nudez”.
As consequências atingiram os níveis mais altos do governo dos EUA.
Os senadores democratas Ron Wyden, Edward J. Markey e Ben Ray Luján enviaram recentemente uma carta aos CEOs da Apple e do Google exigindo que o X fosse removido de suas respectivas lojas de aplicativos. Os senadores argumentaram que, ao permitir
A pressão internacional também está em alta. Autoridades britânicas e indianas criticaram o acesso pago como uma resposta inadequada. Um porta-voz do primeiro-ministro descreveu a medida como um “insulto” às vítimas, sugerindo que X estava simplesmente a transformar uma crise de segurança num fluxo de receitas premium. As vítimas compartilharam histórias semelhantes. A ativista Jess Davies relatou que Grok conseguiu “despir” sua foto digitalmente por meio de um aplicativo independente na manhã de sexta-feira, apesar das restrições esperadas.
Curiosamente, esta controvérsia parece ter proporcionado um impulso financeiro perverso à plataforma.
A receita de compras no aplicativo móvel da X aumentou 18% somente na quinta-feira, de acordo com estimativas da Sensor Tower. Esse aumento excede em muito o crescimento diário típico do aplicativo, sugerindo que os esforços de Grok para acessar seu “modo picante” podem na verdade beneficiar os resultados financeiros difíceis do X.
Especialistas jurídicos alertam que essas deficiências não durarão muito nos tribunais. O procurador-geral da Carolina do Norte, Jeff Jackson, chamou a situação de Grok de um “ponto de inflexão” para a segurança da IA, observando a facilidade com que esses sistemas podem ser transformados em armas. Ele argumentou que a era de “agir rápido e quebrar coisas” está atingindo um muro no que diz respeito à dignidade e segurança dos civis.
À medida que a parede se aproxima, X enfrenta uma escolha difícil. Implemente proteções técnicas genuínas codificadas ou enfrente uma interrupção completa das principais lojas de aplicativos e mercados internacionais. Se Elon Musk optar por alimentar o software em vez de simplesmente acessá-lo, determinará se Grok terá futuro como ferramenta legítima ou se se tornará um pária na era da IA generativa.
