“Exceto a própria imagem deepfake (uma vez que permanece selada), não há nada inerentemente estigmatizante em divulgar o fato de que uma imagem deepfake de South Carolina Doe foi criada sem divulgar a imagem em si”, escreveram os advogados em um dos registros de 15 de maio. “Como resultado, este caso não envolve o tipo de interesses convincentes de privacidade tradicionalmente reconhecidos como exigindo pseudonimato.”
Nem a xAI nem um advogado que representa a empresa responderam aos pedidos da WIRED para comentar o caso.
Daniel Citron, professor da Faculdade de Direito da Universidade da Virgínia especializado em questões de abuso digital, diz que ações civis que exigem que as pessoas entrem com uma ação judicial usando seu nome verdadeiro podem levar ao arquivamento da ação, criando uma situação que é “inaceitável e injusta”. “Forçar os demandantes em ações judiciais de privacidade a abrirem ações judiciais em seus próprios nomes contribui pouco para a transparência judicial e faz muito para impedir ações judiciais”, disse Citron à WIRED.
Todos os quatro requerentes pseudônimos no caso considerarão desistir do processo se seus nomes forem tornados públicos, de acordo com documentos legais apresentados em 29 de maio. No processo mais recente, o advogado do requerente disse: dizer O pedido da xAI deveria ser negado, disse, acrescentando que o caso dizia respeito a “um deepfake profundamente pessoal e embaraçoso representando o demandante que foi distribuído sem o consentimento do reclamante”.
The South Carolina Doe explicou como descobriu um suposto deepfake online mostrando-a “em um biquíni revelador” e como mostrava seu corpo “de uma forma que eu nunca compartilharia publicamente”. Eles afirmam que estavam preocupados com o que seus empregadores ou colegas pensariam se vissem as imagens e temiam ser ainda mais alvo de ataques online. “Também fiquei enojado ao pensar no que a pessoa que pediu a Grok para criar o deepfake estava fazendo com a foto”, escreveram eles.
“Se eu tivesse que divulgar publicamente meu nome como parte deste incidente, temeria que os apoiadores de Elon Musk, sua empresa e Grok, que são muito expressivos online, encontrassem meu nome em registro público e retaliassem contra mim, espalhando-o, atacando-o e criando deepfakes mais extremos sobre mim”, diz o processo.
Declarações semelhantes de outras vítimas de deepfake descrevem-nas experimentando “grave sofrimento emocional”, constrangimento e choque depois de verem imagens criadas sem o seu consentimento. Em geral, outras vítimas de abuso sexual deepfake e imagens não consensuais descreveram sentimentos semelhantes.
Um homem, nomeado no processo como New Jersey Doe, disse que viu pessoas usando Grok para criar imagens sexuais no dia seguinte, ele descobriu duas imagens falsas de si mesmo, uma das quais mostrava “nádegas abertas”, de acordo com os registros do tribunal. Ele disse que acreditou na mensagem pedindo a Grok para não criar deepfakes de si mesmo. “Grok atraiu a atenção de trolls online que o utilizam para assediar e atormentar.”
