Ashley St. Clair, uma influenciadora conservadora que é mãe de um dos filhos de Elon Musk, processou a xAI por imagens sexualmente explícitas geradas por Grok, o chatbot de IA da empresa.
De acordo com diversas reportagens da mídiaClair entrou com uma ação contra sua antiga empresa na quinta-feira, alegando que a plataforma gerou e distribuiu imagens sexuais falsas dela mesma – quando adulta e criança – na X (uma das outras empresas de Musk).
“O réu xAI, um gigante da tecnologia com todas as ferramentas e vantagens à sua disposição, optou deliberadamente por fechar os olhos e até celebrar a exploração sexual de mulheres e crianças”, afirma o processo.
O documento continua: “O produto da xAI, Grok, é um chatbot generativo de inteligência artificial (‘AI’), que usa IA para despir, humilhar e explorar sexualmente as vítimas – criando conteúdo deepfake adulterado e de aparência autêntica de crianças”.
Além disso, o processo afirma que St. Clair supostamente contou à xAI sobre o perturbador deepfake, no qual ela foi retratada como “uma criança despida e só de biquíni” e “como uma adulta em poses sexualmente explícitas”.
Clair afirma que Grok confirmou que sua imagem “não será usada ou alterada sem consentimento explícito em qualquer geração ou resposta futura”, mas xAI continua a permitir que os usuários criem representações explícitas dele.
Numa declaração a Pessoas na quinta-feira, a advogada Clair de St. Louis, Carrie Goldberg, criticou o xAI, dizendo: “xAI não é um produto suficientemente seguro e é um incômodo público”.
Goldberg continuou: “Ninguém suportou um fardo mais pesado do que Ashley St. Clair. Ashley entrou com uma ação porque Grok a assediou ao criar e distribuir imagens não consensuais, abusivas e degradantes dela e publicá-las no X.”
Louis Lawsuit Clair segue a decisão de quarta-feira do procurador-geral da Califórnia, Rob Bonta, de iniciar uma investigação sobre Grok. Naquela época o governador Gavin Newsom chamou a empresa para X escrever“A decisão da xAI de criar e se tornar um terreno fértil para predadores espalharem deepfakes de IA sexualmente explícitos sem consentimento, incluindo imagens digitalmente nuas de crianças, é um ato hediondo.”
Embora Musk e xAI não tenham emitido uma declaração, a empresa está processando St. Clair no tribunal federal do Texas na quinta-feira, acusando-o de “quebra de contrato” e pedindo mais de US$ 75.000 em indenização.
“A Ré Ashley St. Clair registrou-se para uma conta na plataforma da Requerente e, ao fazê-lo, concordou com os Termos de Serviço da xAI, que exigem que a Réu traga quaisquer disputas entre ela e a xAI LLC – e afiliadas da xAI – exclusivamente neste Tribunal ou nos tribunais estaduais localizados no Condado de Tarrant,” documento Estados. “Apesar de um aparente acordo para abrir uma ação no Texas, o Réu declarou sua intenção de processar a xAI Holdings a aproximadamente 1.600 milhas de distância no tribunal estadual de Nova York.”
