A Comissão Europeia lançou uma investigação sobre o caso de Elon Musk
A investigação oficial, lançada na segunda-feira, também expande a investigação sobre os sistemas de recomendação do X, algoritmos que ajudam os usuários a descobrir novos conteúdos.
Grok provocou indignação internacional ao permitir que os usuários despissem digitalmente mulheres e crianças e as colocassem em poses provocantes. De acordo com pesquisadores do Center for Countering Digital Hate, a Grok AI gerou quase 3 milhões de imagens sexualizadas em menos de duas semanas; 23.000 deles parecem representar crianças.
A comissão disse que a investigação “avaliará se a empresa avaliou ou mitigou corretamente os riscos” decorrentes das funções da Grok na UE, incluindo riscos associados ao compartilhamento de conteúdo ilegal, como imagens sexualmente explícitas manipuladas e “conteúdo” que poderia equivaler a material de exploração sexual infantil.
A investigação foi lançada ao abrigo da Lei dos Serviços Digitais (DSA) da UE, uma legislação relativamente nova que visa proteger os utilizadores da Internet de uma vasta gama de danos.
Um funcionário que falou aos jornalistas disse que a comissão não estava convencida sobre as medidas mitigadoras que X tinha posto em prática para resolver o problema.
Após uma reação inicial devido às imagens manipuladas, a empresa restringiu o acesso à ferramenta a assinantes pagos, mas mudou o método sob pressão dos reguladores europeus. No início deste mês, anunciou que Grok estava tomando medidas para evitar que imagens de pessoas reais em roupas reveladoras fossem editadas.
Um funcionário da comissão disse que as medidas não abordavam preocupações mais amplas sobre Grok. A investigação está a examinar os riscos sistémicos da produção de conteúdos ilegais, incluindo conteúdos que retratam violência contra mulheres e material de abuso sexual infantil. Eles disseram que X não tinha “mitigações eficazes para reduzir o risco em suas plataformas”.
Ao anunciar a investigação, Henna Virkkunen, oficial sênior da comissão para soberania tecnológica, segurança e democracia, disse: “Fakes sexuais não consensuais contra mulheres e crianças são uma forma violenta e inaceitável de humilhação.
Além da investigação sobre imagens sexualmente explícitas, a Comissão está a expandir a investigação lançada em dezembro de 2023 sobre os chamados sistemas de recomendação de X, tendo em conta o anúncio da empresa de mudar para um modelo baseado em Grok para filtrar informações e conteúdos para os utilizadores.
A mudança ocorre depois que o órgão de vigilância da mídia do Reino Unido, Ofcom, anunciou sua própria investigação sobre conteúdo “desprezível” e ilegal no X no início deste mês.
A Comissão tem sido amplamente criticada por ser demasiado lenta na implementação da ASD, especialmente em relação ao X.
“A investigação chega tarde demais, mas ainda pode enviar um sinal claro de que as plataformas devem cumprir a lei europeia”, disse a eurodeputada alemã dos Verdes Alexandra Geese. “Este caso é claro. Os danos sofridos por milhões de mulheres e muitas crianças são irreparáveis. Esperamos que a comissão utilize estes conhecimentos para agir mais rapidamente no futuro.”
As autoridades da UE rejeitaram tais críticas, apontando para 15 investigações em curso no âmbito da DSA aplicadas a empresas desde fevereiro de 2024.
Regina Doherty, vice-presidente irlandesa de centro-direita do Parlamento Europeu, disse que acolheu com satisfação a investigação oficial. “Quando surgem relatórios credíveis sobre a utilização de sistemas de IA para prejudicar mulheres e crianças, é vital que as leis da UE sejam examinadas e aplicadas sem demora”, disse Doherty.
Em resposta à investigação, X forneceu um link para uma declaração publicada em 14 de janeiro: “Estamos comprometidos em fazer
A Comissão foi multada em 120 milhões de euros no mês passado por violar a legislação da UE. “A plataforma enganou os usuários, obstruiu pesquisadores independentes e evitou a responsabilização”, disse ele.
O regulador da UE disse que X estava emitindo crachás de verificação azuis “enganosos” para contas não verificadas, potencialmente expondo os usuários a fraudes e enganos por parte de atores mal-intencionados. X também violou os requisitos legais da UE em matéria de transparência na publicidade, ao impedir que os investigadores investigassem anúncios falsos e campanhas de ameaças híbridas.
Musk respondeu a uma postagem da comissão anunciando a pena como “absurda” e mais tarde pediu a dissolução da UE.
A empresa teve três meses para pagar a multa. Um funcionário da UE disse estar confiante de que a multa seria paga.
