J.O famoso compositor e pianista de jazz Ason Moran recebeu um estranho telefonema de um amigo no mês passado. Seu amigo baixista Burniss Earl Travis estava curioso sobre o novo disco de Moran, que viu no serviço de streaming de música Spotify.
“Tem o seu nome”, Travis disse a ele. “Mas eu não acho que seja você.”
Moran disse que não usa Spotify nem coloca suas músicas na plataforma, preferindo apenas usar o site Bandcamp, então isso não é rastreado. Depois de alguma pesquisa, ele encontrou um perfil de artista autointitulado no Spotify; esse perfil estava repleto de álbuns de sua antiga gravadora, Blue Note Records, que detinha os direitos de suas músicas antigas. Lá ele viu um novo EP chamado For You. A capa do álbum foi feita em estilo anime japonês temperamental e retratava uma jovem sentada no chão na chuva. Ele me fez ouvir.
“Não há sequer um pianista neste maldito disco”, disse Moran rindo. Ele descreveu a música como indie pop, dizendo: “Não estava nem remotamente perto de qualquer coisa que eu faria.” Ele decidiu remover o álbum falso.
Moran está entre um número crescente de músicos que estão sendo alvo de bots de IA que se passam por artistas reais em plataformas de streaming de música. Isso aconteceu com pelo menos uma dúzia de músicos de jazz famosos, artistas de indie rock e até mesmo com o rapper Drake. Moran disse que é frustrante para os músicos ter que lidar com o dilúvio de lançamentos de IA. Esse sentimento também é surreal.
“É como o episódio de Black Mirror com Salma Hayek”, disse ele, referindo-se a um episódio da série de TV distópica de um futuro próximo, em que a versão do reality show de um personagem impacta negativamente a vida do original. “Ele nem precisa estar presente neste episódio, é como se eles estivessem apenas usando uma versão dele.”
Reconhecendo o problema e a extensão do declínio da IA em sua plataforma, o Spotify disse em setembro passado que havia removido mais de 75 milhões de “faixas com spam” nos 12 meses anteriores. Na época, a empresa também disse que estava fortalecendo a proteção aos músicos, incluindo regras mais rígidas em relação à falsificação de identidade.
A empresa fez uma declaração no mês passado postagem no blog Ele disse que estava trabalhando em uma nova ferramenta que “daria aos artistas mais controle sobre o que é apresentado em seus nomes” e que “proteger a identidade do artista” era uma prioridade. A ferramenta permitirá que os artistas revisem e aprovem ou rejeitem postagens antes de serem publicadas na plataforma.
“O Spotify usa uma série de medidas de segurança para proteger os artistas, incluindo sistemas projetados para detectar e prevenir conteúdo não autorizado, revisão humana, relatórios e processos de remoção”, disse um porta-voz da empresa, acrescentando que o Spotify foi o único serviço de streaming a oferecer algo parecido com sua nova ferramenta.
Mas para Moran, ex-diretor artístico de jazz do Kennedy Center, essas soluções não são suficientes; especificamente, o conteúdo de IA nem sempre é sinalizado internamente e o problema não parece estar diminuindo. Ele está preocupado com a criação de trabalhos adicionais para artistas como ele, que não colocam suas músicas no Spotify, e para músicos que não estão mais vivos.
“Como John Coltrane ou Billie Holiday verificam se este novo disco não é um falso ‘concerto de Paris de 1952’?” disse Moran. “Não há como eles fazerem isso… não há como eles se oporem.”
Um porta-voz do Spotify disse que o espólio ou beneficiários de um artista falecido poderão escolher a nova ferramenta da empresa se tiverem uma conta. Para artistas sem contas, vivos ou falecidos, o Spotify continuará a contar com seus sistemas internos de detecção e responsabilização, disse o porta-voz.
‘A inteligência artificial tornou-se um acelerador’
Depois que Travis avisou Moran sobre o álbum falso For You, Moran postou um vídeo do fiasco em seus feeds do Instagram e do Facebook. Ele disse que vários artistas o procuraram e disseram que também foram vítimas do que parece ser inteligência artificial. Alguns disseram que vinham lidando com esse problema há anos.
Moran disse que a imitação da AI afetou apenas o gênero jazz, incluindo o pianista Benny Green, o saxofonista Antonio Hart, o baterista Nate Smith, a banda australiana Hiatus Kaiyote e os cantores Dee Dee Bridgewater, Jazzmeia Horn e o irmão de Nat King Cole, Freddy Cole.
“Então essa coisa começou a copiar os nomes de muitos artistas importantes”, disse Moran. “Imagine se alguém lançasse um novo álbum com o nome de Frank Ocean. Acredite, as pessoas vão lançá-lo mesmo que não seja Frank Ocean.”
Outubro passado NPR relatado Os músicos de rock indie Luke Temple e Uncle Tupelo tiveram suas contas assumidas pela AI, assim como a já falecida artista eletro-pop Sophie e o cantor de música country Blaze Foley. Em um caso bizarro em dezembro, a banda australiana de rock psicológico King Gizzard and the Lizard Wizard removeu suas músicas do Spotify, apenas para descobrir que um imitador de IA chamado King Lizard Wizard havia preenchido o vazio com títulos de músicas idênticos e obras de arte de IA mal imitadas.
Morgan Hayduk, co-CEO da Beatdapp, que oferece detecção de fraudes especificamente para streaming de música, disse que o problema não é específico do Spotify; O mesmo acontece com Apple Music, YouTube e várias outras plataformas de streaming. A sua empresa estima que 5% a 10% de todos os fluxos na indústria são fraudulentos, valendo entre mil milhões e dois mil milhões de dólares por ano.
Hayduk disse que esse dinheiro não está fluindo para artistas legítimos: “Isso é uma questão financeira para a indústria e é importante para todos os artistas e para todos que apoiam artistas que ganham a vida com sua música”.
No mês passado, um homem chamado Michael Smith se declarou culpado de fraudar plataformas de streaming de música ao inundar os serviços com milhares de músicas geradas por IA e depois usar bots automatizados para aumentar artificialmente os fluxos para bilhões. De acordo com promotores federais, Smith arrecadou mais de US$ 10 milhões em pagamentos de royalties das plataformas durante seu esquema de sete anos.
Hayduk disse que os streams de música falsos têm sido um flagelo da indústria, mas a IA generativa está tornando-a ainda mais forte. Quando a música é reproduzida em serviços de streaming, o criador ganha alguns dólares. Mas esse dinheiro pode aumentar rapidamente com cliques suficientes em músicas suficientes. Hayduk disse que a IA ajuda atores mal-intencionados como Smith a criar conteúdo muito rapidamente e que as músicas removidas podem ser facilmente substituídas.
“A IA se tornou um acelerador”, disse ele.
fardo para os artistas
Quando Moran descobriu que a IA estava interferindo em sua conta, ela pediu ajuda ao Spotify. Inicialmente, isso significava ir e voltar com um chatbot, o que eventualmente o levou a conversar com um humano. Essa pessoa conseguiu verificar se Moran era o verdadeiro artista e registrar uma reclamação em seu nome.
Setenta e duas horas depois, Moran recebeu uma mensagem do Spotify: “Ótimas notícias! Removemos agora ‘For You’ do seu perfil de artista.”
Moran ficou aliviado porque o processo foi relativamente indolor, mas demorou.
“Eles simplesmente deixam o material ali, a menos que o artista o encontre e verifique”, disse Moran. “A exigência que nos impõe é injusta em muitos aspectos.”
Às vezes, músicas falsas de IA lembram vagamente as músicas do músico; às vezes não. Em outros casos, álbuns de vários artistas aparecem na página do músico; Isso também aconteceu com Moran, e ele diz que pode ser devido à confusão de metadados do Spotify. Poucos dias depois que o Spotify removeu For You, outro álbum que não foi disponibilizado ficou disponível para reprodução em seu perfil. Isto foi feito pela verdadeira banda belga de vanguarda Schntzl. Desde então, esta entrada desapareceu do perfil de Moran.
Mas há três semanas For You ressurgiu; desta vez no YouTube, apresentou-se como um álbum de Moran, com a mesma capa de anime temperamental, som indie pop e lista de faixas que apareceu no Spotify. Já foi transmitido cerca de 20 vezes, mas diferentemente do que acontece no Spotify, não aparece no perfil de artista de Moran no YouTube.
O YouTube não respondeu a um pedido de comentário.
Adam Berkowitz, doutorando na Universidade do Alabama que estuda inteligência artificial e leis de direitos autorais na indústria musical, disse que pode ser difícil para os serviços de streaming remover automaticamente álbuns de suas plataformas devido a possíveis problemas de direitos autorais ou falsificação de identidade.
“As coisas ficam um pouco complicadas porque, de repente, o setor privado começa a fazer cumprir a lei. E não é isso que deveria acontecer”, disse Berkowitz. “São os tribunais que fazem cumprir a lei.” Embora a maioria dos artistas, incluindo Moran, não tenha intenção de entrar com uma ação judicial, é claro que os tribunais terão dificuldade em acompanhar o ritmo destes problemas. Em última análise, a responsabilidade pela moderação dos seus perfis provavelmente permanecerá com os artistas, disse Berkowitz.
A única plataforma para a qual Moran envia suas músicas é o Bandcamp. Ele disse que o serviço lhe permite controlar rigorosamente o que está em seu perfil e os preços, dando-lhe mais liberdade como artista independente. Moran disse que a ideia de fazer música no mundo do jazz improvisado não é necessariamente descontar cheques da venda de discos, mas sim criar arte e apresentá-la às pessoas.
“Uma das coisas pelas quais (as pessoas) nunca podem ser culpadas é o poder das canções”, disse ele.
