O regulador de comunicações do Reino Unido, Ofcom, lançou uma investigação formal sobre a plataforma de mídia social X de Elon Musk em relação ao seu chatbot de IA, Grok, após relatos de Grok sendo usado para gerar insinuações sexuais não consensuais.
Leon Neal/Getty Images
ocultar legenda
alternar legenda
Leon Neal/Getty Images
Indonésia e o mundo o tempo do cerco foi encerrado 10, Grok, no fim de semana depois de ter feito uma série de imagens falsas sexualizadas publicamente, principalmente de mulheres e, em alguns casos, de crianças, no ano passado.
Governos de todo o mundo também estão realizando pesquisas. Na segunda-feira passada, ele abordou o regulador de mídia do Reino Unido, Ofcom. abaixe a sonda em plataformas de mídia social, resultando em banimento.
Grok já postou abertamente imagens de pessoas procriando sexualmente há algum tempo. Mas a questão ganhou ampla atenção em dezembro, quando as pessoas usaram o chatbot para editar um volume de imagens existentes, marcando-as nos comentários e pedindo-lhe para “colocá-la de biquíni”. Embora Grok não tenha respondido a todos os pedidos, ele atendeu em muitos casos. Em alguns casos, observou Kolina Koltai, pesquisadora sênior do Bellingcat, os usuários podem fazer com que o Grok gere frentes nuas.
Inúmeras mulheres e, em alguns casos, crianças, também Reuters foi relatado pela primeira vez que Grok tinha suas imagens sem permissão em um site de sexo online; incluindo uma das mães dos 10 filhos do Sr. Elon Musk.
É incomum que tantos governos atuem contra uma empresa de mídia social, mas este caso é diferente, disse Riana Pfefferkorn, consultora da Universidade de Stanford. “Tornar o abuso sexual infantil (materiais) flagrantemente ilegal, em praticamente todo o país.”
Na última sexta-feira, o Grok de 10ª geração ficou restrito a estar disponível apenas para assinantes pagantes. Usuários não pagantes ainda podem postar pessoas de biquíni publicamente com alguns cliques, mas apenas fazem algumas solicitações antes de serem solicitados a se inscrever para uma assinatura premium, que custa US$ 8 por mês.
A NPR revisou as fotos publicamente disponíveis de Grok no início deste mês e descobriu que ela parou de fazer fotos de mulheres seminuas por alguns dias em 2026, mas ocasionalmente também oferece homens de biquíni.
xAI, na companhia do pai X, Grok está contente desde o ano passado. Em maio Koltai é notado primeiro o chatbot geraria imagens sexualmente explícitas em resposta a uma solicitação do X, como “tire a roupa”. No verão passado, Grok introduziu um “modo picante” em seu menu stand-up, que permitia aos usuários colocar biquínis em personagens gerados por IA.
Ben Winters, diretor de IA e privacidade da organização de defesa Consumer Federation of America, disse que Grok agora não apenas permite editar imagens de coisas reais, mas também fornece distribuição fácil por meio da plataforma X. “É uma escalada adicional e significativa”, disse ele.
Os controles sobre o X movem-se para restringir o acesso à função de signatários de geração de imagens. A secretária de tecnologia da Grã-Bretanha, Liz Kendall, anunciou Notícias do céu “Vale a pena dizer que você pode conseguir esse emprego se pagar a si mesmo.”
O governo indonésio descobriu que Grok carecia de salvaguardas eficazes para impedir que os usuários visualizassem conteúdo pornográfico não consensual, de acordo com residentes reais da Indonésia, primeiro a Associated Press anunciado.
“O governo vê a penetração sexual não consensual como uma violação grave dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital”, disse o Ministério das Comunicações e Assuntos Digitais da Indonésia, Meutya Hafid, num comunicado.
A AP também disse a Grok que permanecerão fechados na Malásia até que sejam implementadas salvaguardas eficazes contra abusos.
Em resposta às perguntas da NPR, a porta-voz do X, Victoria Gillespie, apontou um é dito postado em 3 de janeiro disse que “qualquer pessoa que usar Grok ou usar suas instruções para criar conteúdo ilegal sofrerá as mesmas consequências como se você carregasse conteúdo ilegal”. Para a segunda resposta: o próprio Musk depois mais cedo naquele dia.
Tal abordagem é “uma tentativa de abdicar do cargo”, disse Winter.
“Definitivamente não é apenas o usuário que dirige sozinho”, disse ele. “Isso ocorre porque a imagem não teria sido criada se não fosse… pela ferramenta que eles criaram.”
Antes que a onda de falsificações de alto perfil sem consentimento gerada por Grok chegasse ao X, outros agentes de IA adicionaram recursos semelhantes aos seus chatbots. Em novembro, o Google lançou um novo modelo de geração de imagens, o Nano Banana Pro. Em dezembro, a OpenAI atualizou seu modelo de imagens ChatGPT. Ambos também podem editar as imagens para mostrar pessoas de biquíni, segundo a Wired anunciado No mês passado, um tópico no Reddit que distribuía essas imagens foi removido.
Em outro 10 postagensMoschus sugeriu que, uma vez que ferramentas de outras empresas de IA também desenvolverão esta função, a pressão será dirigida à gestão sob a forma de censura na sua plataforma.
Koltai observou que a tendência para ferramentas não consensuais geradas por IA está em formação há um ou dois anos. “Você também verá esses anúncios no Instagram – é como tirar uma foto da sua paixão e os caras podem se beijar”, diz ela. “Então ele beija e abraça, e então você vê esse espectro mais extremo.”
“Há um caso enorme e claro na indústria de tecnologia de que vimos isso em múltiplas plataformas e nem sempre há grandes estradas, limites ou regras”, disse Koltai.
As críticas nos EUA são muito mais discretas do que em outros países. Senador Ted Cruz, R-Tex. postado em X * As fotos de quarta-feira “devem ser retiradas e os guardas colocados”. Ele também disse que foi “encorajado a informar X que leva essas violações a sério e trabalhará para remover da plataforma quaisquer imagens ilegais e ofensivas aos usuários”.
Grok gerou inúmeras controvérsias no ano passado. No verão passado, um chatbot referiu-se a si mesmo como “MechaHitler” e divulgou teorias de conspiração anti-semitas.
Aplicativos com os chamados recursos de nudificação existem há anos, principalmente nas sombras da Internet. Winters disse que as autoridades precisam fazer mais para implementar alguns dos 10 recursos policiais. “Há calúnias sobre a segurança deles. Há violações da escravidão”, disse ele.
“Não vimos nenhuma ação significativa por parte de nenhuma agência dos EUA, seja estadual ou federal, que pudesse desafiar a autoridade das leis”, disse Winter.
