A rede social de Elon Musk teve que implementar um protocolo de emergência em resposta às solicitações dos usuários à sua ferramenta de inteligência artificial.
Depois da intensa campanha dos últimos dias.. A plataforma X de Elon Musk anunciou medidas para evitar que seu chatbot de inteligência artificial Grok transforme fotos de pessoas reais em imagens sexuais.
Clique aqui para entrar no canal WhatsApp do Diario Panorama e manter-se informado
O protocolo se aplica Após fortes críticas aos pedidos feitos pelos usuários ao GrokPrincipalmente por produzir esse tipo de conteúdo vindo de mulheres e crianças. Há também usos satíricos da ferramenta para mostrar figuras importantes da política e da indústria.
X disse Grok e X “bloqueiam geograficamente a capacidade” de todos os usuários de criar imagens de pessoas “de biquínis, roupas íntimas e roupas semelhantes”. Em jurisdições onde tais ações são consideradas ilegais.
“Implementamos medidas técnicas para evitar que a conta Grok permita a edição de imagens de pessoas reais em roupas reveladoras, como biquínis”, A equipe de segurança de X disse em um comunicado.
“Esta restrição se aplica a todos os usuários, incluindo assinantes pagos”, ele acrescentou.
O anúncio ocorre depois que promotores da Califórnia abriram uma investigação sobre a xAI, empresa de IA de Musk“Principalmente para facilitar a produção em massa de montagens íntimas não consensuais (deepfakes) usadas para assediar mulheres e meninas na Internet através de redes sociais O procurador-geral do estado, Rob Bonta, disse em um comunicado.
“Temos tolerância zero com a criação e divulgação de imagens íntimas não consensuais ou material pedopornográfico com IA”, Acrescentou o promotor. A investigação determinará “se e como a xAI violou a lei”.
“Ei, Grok, me coloque de biquíni”: a campanha que colocou X em apuros
Um movimento de indignação internacional se intensificou nas últimas semanas por causa de Grok e da oportunidade que ele oferece de editar imagens publicadas na rede social X.
A opção permite que os usuários criem ‘deepfakes’ sexualizados de mulheres e menores usando instruções como “colocá-la de biquíni” ou “tirá-la de roupa”.
Na semana passada, Grok tentou desviar as críticas com uma nova abordagem de monetização, anunciando que a produção e edição de imagens no X seriam “limitadas a assinantes pagantes”.
Mas o anúncio alimentou ainda mais indignação: o gabinete do primeiro-ministro britânico, Keir Starmer, condenou a medida como um insulto às vítimas e “não uma solução”, enquanto o regulador britânico dos meios de comunicação Ofcom disse na segunda-feira que estava a iniciar uma investigação para saber se violava a lei britânica sobre imagens sexuais.
A Indonésia e a Malásia bloquearam o acesso ao Grok, enquanto a Índia disse que X excluiu milhares de postagens e centenas de contas de usuários em resposta às suas reclamações.
A comissária francesa para a infância, Sarah El Hairy, disse na terça-feira que as imagens produzidas por Grok foram encaminhadas aos promotores franceses, ao regulador de mídia Arcam e à União Europeia. Este último solicitou a cessação total da produção deste tipo de conteúdo.
Uma análise realizada na semana passada pela ONG AI Forensics de mais de 20.000 imagens produzidas por Grok revelou que mais de metade representava pessoas seminuas, 81% das quais pareciam ser mulheres e 2% menores.
