Crédito da foto: André Hunter
Extremistas de direita estão usando músicas cativantes geradas por IA para espalhar retórica de ódio no Spotify, no TikTok e onde quer que a música seja consumida online. Agora domina as paradas holandesas do Spotify.
Se você pensava que o ataque online do extremismo de direita gerado pela IA era quase inteiramente um problema dos EUA, você está completamente errado. Não são apenas memes. Música gerada por IA promove visões extremistas de direita está se espalhando como um incêndio em lugares como Holanda e França, em plataformas como Spotify e TikTok.
Durante meses, os europeus têm assistido a um aumento das opiniões de extrema-direita geradas pela IA – talvez mais evidente durante as eleições francesas do ano passado, mas não é tudo. Agora, os usuários do Reddit relataram uma “tendência perturbadora” de músicas de direita geradas por IA, espalhando discurso de ódio anti-imigrante e subindo nas paradas holandesas do Spotify.
“Atualmente, uma dessas canções xenófobas de IA está no top 5 holandês, e cerca de 8 em cada 10 nas paradas virais se enquadram na mesma categoria odiosa”, escreve o usuário do Reddit EuroMEK. “Estes não são músicos reais; são faixas geradas por IA que espalham mensagens extremistas”.
“O que realmente me preocupa é que o Spotify está permitindo que isso aconteça mesmo que essas músicas se tornem virais”, continua o post. “Como eles podem justificar a plataforma de discurso de ódio gerado por IA ou permitir que o conteúdo de IA supere artistas reais em suas paradas?”
Agora novo Pesquisar Um estudo da Universidade Cornell publicado durante o verão descobriu em “milhares de clipes de feeds TikTok alemães, britânicos e holandeses” que mais de três quartos dos vídeos contendo áudio extremista ainda estavam acessíveis quatro meses após terem sido publicados pela primeira vez. Mas o que torna esta tendência específica tão nefasta é a exploração do recurso “Use This Sound” do TikTok “como um cavalo de Tróia para discurso de ódio”.
Marcus Bösch, da Heinrich Heine University Düsseldorf, descreve “dezenas de tendências” nas quais memes aparentemente inofensivos, como usuários adivinhando o que vem a seguir em uma música, mascaram “letras brutais, racistas, misóginas e de fantasia mortal” nas músicas usadas nessas tendências. Embora nem todas essas faixas sejam geradas por IA, muitas delas têm “mensagens de ódio” anexadas a sucessos club dos anos 90 de Aqua ou Gigi D’Agostino.
“Existe techno nazista, pop nazista, folk nazista…”algo para todos” Explicou Bösch, acrescentando que o objetivo de incluir este conteúdo nos vídeos do TikTok era alertar os usuários sobre conteúdo fora da plataforma “que se destina a apresentá-los à ideologia nazista”.
O TikTok parece ter dificuldade em moderar conteúdo de ódio baseado em áudio, enquanto o discurso de ódio baseado em texto costuma ser removido imediatamente. Mesmo material flagrantemente ofensivo, disse Bösch – citando trechos de um discurso de Hitler que foram reutilizados em mais de 1.000 vídeos –pode evitar a detecção por meses.
“Você não pode dizer que isso é difícil de ver, ouvir ou sentir”, acrescentou. “Não deve ser muito difícil encontrá-los.”
Um porta-voz do TikTok disse na época que a empresa usa uma combinação de tecnologia e moderação humana para identificar e remover conteúdo que promova discurso de ódio ou ideologias de ódio. Eles acrescentaram que 94% desse conteúdo é removido antes mesmo de ser denunciado.
À medida que a inteligência artificial se torna mais sofisticada, os criminosos que a utilizam para espalhar retórica de ódio irão quase certamente tornar-se melhores a evitar a detecção. Mas será que as leis para combater a IA antiética podem realmente fazer alguma coisa para combater o surgimento e a propagação do discurso de ódio gerado pela IA? Infelizmente, provavelmente não. Embora a lei precise urgentemente acompanhar a tecnologia, Sementes ruins continuarão a se espalhar. Afinal, é a Internet.
