O procurador-geral da Califórnia, Rob Bonta, lançou uma investigação sobre a xAI, a empresa por trás do modelo de inteligência artificial Grok, devido a preocupações de que a ferramenta esteja sendo usada para criar e distribuir material sexualmente explícito não consensual online.
A investigação segue relatos de que Grok foi usado para criar imagens deepfake retratando mulheres e meninas em cenários sexualmente explícitos sem o seu consentimento, e que o conteúdo foi supostamente usado para assediar indivíduos na Internet, inclusive na plataforma de mídia social X.
“A avalanche de relatórios detalhando material não consensual e sexualmente explícito que a xAI produziu e postou online nas últimas semanas é chocante. Este material, retratando mulheres e crianças nuas e em situações sexualmente sugestivas, tem sido usado para assediar pessoas online. Apelo à xAI para tomar medidas imediatas para garantir que isso não vá mais longe. Temos tolerância zero para a criação e disseminação baseada em IA de imagens íntimas não consensuais ou material de abuso sexual infantil”, disse Bonta.
“Hoje, meu escritório anunciou formalmente uma investigação sobre xAI para determinar se e como o xAI violou a lei. Como principal autoridade responsável pela aplicação da lei da Califórnia encarregado de proteger nossos residentes, estou profundamente preocupado com este avanço na inteligência artificial e usarei todas as ferramentas à minha disposição para manter os residentes da Califórnia seguros”, acrescentou.
O Procurador-Geral Bonta reiterou a sua preocupação sobre os riscos mais amplos representados pelas ferramentas de IA e disse que o seu gabinete continua a concentrar-se na segurança da IA, particularmente na proteção das crianças. Anteriormente, ele apoiou legislação estadual para proteger crianças de chatbots alimentados por IA e se envolveu diretamente com empresas de IA em questões de segurança.
De acordo com notícias da CBS, a Indonésia tornou-se recentemente o primeiro país a suspender completamente o acesso ao Grok, o chatbot de inteligência artificial desenvolvido pela empresa xAI de Elon Musk.
Na Índia, o Ministério de Eletrônica e Tecnologia da Informação (MeitY) também tomou medidas escrevendo para X (anteriormente Twitter) sobre o que descreveu como uma falha no cumprimento das obrigações legais de devida diligência sob a Lei de Tecnologia da Informação de 2000. O Ministério solicitou um Relatório de Ações Tomadas da plataforma para garantir que medidas urgentes sejam tomadas para evitar a hospedagem, produção e distribuição de conteúdo obsceno e obsceno por meio de ferramentas de inteligência artificial, como Grok.
Elon Musk respondeu às críticas a Grok na semana passada, alertando os usuários contra atividades ilegais. Ele disse que qualquer pessoa que usar o chatbot “para criar conteúdo ilegal estará sujeita às mesmas consequências como se tivesse carregado conteúdo ilegal”.
Esta história foi importada de um feed de terceiros, agências. Midday não aceita nenhuma responsabilidade pela confiabilidade, confiabilidade, confiabilidade e dados do texto. Mid-day management/mid-day.com reserva-se o direito de alterar, excluir ou remover conteúdo (sem aviso prévio) por qualquer motivo, a seu exclusivo critério.
