É quase impossível evitar ver online conteúdo gerado por IA, mas não precisa ser assim. YouTube, Instagram, TikTok e outros intensificaram seus esforços de autenticação de conteúdo no ano passado, e muitos deles agora aplicam rótulos automaticamente para diferenciar imagens, vídeos e músicas gerados por IA de imagens, vídeos e músicas criadas por humanos reais.
Tudo bem se encontrarmos conteúdo rotulado aleatoriamente, mas você sabe o que é ainda melhor? Deixando-nos filtrar a água suja da IA.
Os atuais esforços de rotulagem não alteraram significativamente a forma como o conteúdo é apresentado online. Você pode notar que alguns vídeos do TikTok ou do YouTube em seu feed agora têm divulgações de IA em suas descrições ou rótulos de informações sobrepostos nos próprios clipes. Meta adota uma abordagem semelhante ao aplicar um rótulo de “informações de IA” a imagens no Facebook e Instagram que contenham metadados de identificação de IA ou divulgações voluntárias de seus criadores.
Mas se você realmente quiser evitar olhando para qualquer coisa rotulada como tal – justificadamente, dados os danos cerebrais que causa, além das questões éticas e ambientais que cercam a IA generativa – é na verdade muito difícil fazer isso. Os filtros resolverão facilmente esse problema. Tudo o que precisamos é da caixa de seleção “AI” para mudar.
Entrei em contato com Meta, Google, TikTok e Spotify para perguntar se eles planejavam permitir que os usuários filtrassem os vários conteúdos que autenticaram com sistemas de rotulagem de IA. O TikTok e o Spotify nunca responderam e o Google disse que não tinha nada para compartilhar. Meta não fornece comentários atribuíveis. Mas, em resumo, nenhuma destas empresas está a dizer “sim”.
A única plataforma online que vi com um filtro de conteúdo de IA é o DeviantArt, e sua implementação é perfeita. Em primeiro lugar, você não pode acessá-lo no seu feed ou na página da loja DeviantArt, então parece um pouco oculto. Em vez disso, você precisará criar uma conta e passar o mouse sobre o ícone do usuário no canto superior direito da página para encontrar o menu “Configurações de conteúdo de IA”. A partir daí, você só tem duas opções: a configuração padrão “Mostrar IA” ou a opção “Suprimir IA”, que afirma que você verá “menos exemplos” de imagens geradas ou manipuladas pela IA.
Depois de tentar as duas opções, infelizmente não vi nenhuma diferença perceptível. Hoje em dia sou bastante perspicaz em detectar “ilustrações digitais” geradas por IA, mas não preciso confiar apenas em minhas suspeitas – quase todas as imagens duvidosas que escolhi incluíam uma revelação do criador na descrição, confirmando que o trabalho foi cuspido por um robô. DeviantArt faz mal o seu trabalho aplica rótulos de IA automaticamente a imagens com metadados que indicam claramente a origem da IA.
Pinterest tem um sistema semelhante. Os usuários logados em suas contas do Pinterest podem clicar no ícone de configurações, selecionar “Refinar suas recomendações” e, em seguida, tocar na guia “Conteúdo de IA” para alternar categorias específicas, incluindo arte, beleza, moda e decoração. Desativar qualquer uma dessas opções mostrará “menos conteúdo modificado por IA” para determinadas categorias, de acordo com o Pinterest, mas na minha experiência, isso está longe de ser perfeito. As configurações também são indiscutivelmente mais difíceis de encontrar do que os filtros no feed do Pinterest. Ainda vi muitas imagens com IA suspeita (incluindo modelos fotográficos muito perfeitos e erros de ilustração inexplicáveis), mesmo com o filtro de IA no máximo.
E isso quase certamente acontecerá se outras plataformas como YouTube ou Instagram introduzirem filtros de conteúdo de IA: não funcionará bem. Mas tudo bem, porque isso revelará as “soluções” ineficazes implementadas pelos nossos imperadores de IA. Estas soluções existem, no papel, para agradar aos reguladores e críticos, mas pouco fazem para resolver o problema real de distinguir as falsificações de IA das fotografias genuínas e dos trabalhos criativos.
E plataformas Fazer sei que é um problema. O chefe do Instagram, Adam Mosseri, disse em dezembro que “a autenticidade está se tornando um recurso escasso” em meio ao aumento do conteúdo gerado por IA. E agora o CEO do Google, Sundar Pichai, admitiu isso recentemente Decodificador entrevista que “há muitos erros de IA por aí” e que os usuários online precisam “se adaptar a eles”. OK, dê-nos um filtro.
Sistemas baseados em origem, como C2PA e SynthID, funcionam incorporando metadados invisíveis ou marcas d’água no conteúdo no momento da criação. Mas existem muitos modelos de IA de código aberto que não fazem isso (especialmente se forem projetados para fins maliciosos) e, mesmo que o fizessem, os metadados poderiam ser removidos com muita facilidade para que isso fosse confiável. Existem também métodos baseados em detecção que analisam padrões em conteúdo digital e depois avaliam a probabilidade de usar IA para criá-los, mas esses métodos podem fornecer resultados falsos positivos. Atualmente, nenhum deles funciona de forma eficaz em grande escala.
No entanto, as empresas, incluindo fornecedores de IA como a OpenAI, estão agora a promover essas soluções de rotulagem de IA como algo que ajudará a evitar que as pessoas sejam enganadas por deepfakes e outras falsificações enganosas. Se os reguladores descobrirem quão ineficazes são, então as plataformas online e os fornecedores de IA poderão ter de encontrar soluções para superar esta situação. fazer trabalho, em vez do que atualmente parece uma cortina de fumaça.
As plataformas argumentarão que correm o risco de rotular incorretamente o conteúdo original se pressionarem demais as iniciativas de rotulagem. Tanto Meta quanto YouTube tiveram dificuldades após aplicar rótulos de IA a imagens e vídeos que seus criadores disseram ter sido produzidos sem a ajuda da ferramenta. Se esta é uma preocupação para o actual sistema de rotulagem, então procure uma solução melhor. Certamente, melhorar a experiência do usuário para seus milhões de usuários é um investimento que vale a pena para afastar a concorrência.
E enquanto pergunto, por que não posso simplesmente relatar toda a porcaria de IA sem rótulo que vejo todos os dias? Dada a dimensão do problema – com um estudo de Kapwing no ano passado descobriram que mais de 20% dos vídeos do YouTube mostrados a novos usuários eram vídeos obscenos de baixa qualidade, por exemplo – imagino que seriam necessários muitos moderadores humanos para examinar com eficácia cada denúncia.
E talvez esse seja o ponto. Numa altura em que as grandes tecnologias estão a substituir trabalhadores por IA supostamente capazes de os superar, poderão essas empresas recuar nas suas narrativas cuidadosamente construídas, recontratando-os para resolver os problemas da IA? Os humanos tendem a ter requisitos irritantes como salário e benefíciosem comparação com sistemas de moderação automatizados que carecem de diversas habilidades investigativas.
Uma alternativa à rotulagem de conteúdo gerado por IA é começar a rotular criadores humanos verificados. Não identifica necessariamente conteúdo sintético postado por criadores de conteúdo, mas isso pode nos ajudar a reduzir o impacto de coleções de conteúdo não verificadas que produzem água suja de baixa qualidade. Este é o futuro que Mosseri do Instagram propõe para a plataforma de compartilhamento de imagens Meta e algo que o Spotify já está fazendo com artistas verificados.
É claro que Meta, Spotify e Google não hospedam apenas imagens, anúncios e músicas gerados por IA; eles também são responsáveis por criar as ferramentas que os criam. É por isso que eles insistem em não fazer isso todos O conteúdo de IA é terrível e é mais uma questão de qualidade – se o conteúdo for convincente o suficiente, eles esperam que você não perceba e ficarão felizes em saboreá-lo de qualquer maneira. Permitir que os usuários os filtrem iria contra todos os esforços que essas plataformas têm feito para lucrar com a IA: Them quero Você abraça a fábrica de água suja.
Estou feliz por ter sido provado que estou errado. Na verdade estou sendo franco aplicativo para as plataformas online provarem que os esforços de rotulagem de IA não são uma perda de tempo. Mas neste momento, são eles que estão no controlo e só podemos esperar que os seus esforços de moderação da IA sejam bem sucedidos. Então, dê-nos um filtro básico de “sem IA” ou “criador humano verificado” e avaliaremos se isso funciona bem.
