A melhor maneira atual de detectar e rotular deepfakes online poderá em breve ser testada. A Índia emitiu na terça-feira uma ordem exigindo que as plataformas de mídia social removam material ilegal gerado por IA com muito mais rapidez e rotulem claramente todo o conteúdo sintético. As empresas de tecnologia afirmam há anos que querem conseguir isso por conta própria e agora estão a poucos dias de cumprir as suas obrigações legais. Esta regra será aplicada a partir de 20 de fevereiro.
A Índia tem 1 bilhão de usuários da Internet com tendência para os jovens, o que a torna um dos mercados de crescimento mais importantes para plataformas sociais. Portanto, qualquer mandato disponível poderia aprimorar as capacidades de detecção e impactar os esforços de coordenação de deepfakes em todo o mundo. na verdade Ou funciona ou obriga as empresas de tecnologia a admitir que são necessárias novas soluções.
As regras revisadas de tecnologia da informação da Índia exigem que as plataformas digitais implementem “medidas tecnológicas razoáveis e apropriadas” para impedir que os usuários criem ou compartilhem conteúdo áudio e visual gerado ilegalmente de forma sintética (também conhecidos como deepfakes). O conteúdo de IA gerado e desbloqueado deve incluir “metadados persistentes ou outros mecanismos de atribuição técnica apropriados”. Obrigações específicas também são exigidas para plataformas de mídia social, incluindo exigir que os usuários divulguem material gerado ou editado por IA, implantando ferramentas para verificar tais divulgações e rotulando de forma proeminente o conteúdo de IA de forma que as pessoas possam identificá-lo imediatamente como sintético, incluindo a adição de divulgações verbais ao áudio de IA.
É mais fácil falar do que fazer, considerando o quão subdesenvolvidos são os sistemas de detecção e rotulagem de IA hoje. C2PA (também conhecido como Credenciais de Conteúdo) é um dos melhores sistemas que temos para ambos no momento e funciona anexando metadados detalhados a imagens, vídeo e áudio no momento da criação ou edição, descrevendo de forma invisível como eles foram criados ou alterados.
Mas o problema é: Meta, Google, Microsoft e muitos outros gigantes da tecnologia já estão usando C2PA e definitivamente não funciona. Algumas plataformas, como Facebook, Instagram, YouTube e LinkedIn, adicionam rótulos ao conteúdo exibido pelo seu sistema C2PA, mas esses rótulos são difíceis de encontrar e alguns conteúdos sintéticos deve Comunique que os metadados estão escapando. As plataformas de redes sociais não podem rotular nada que não inclua inicialmente metadados de proveniência, como material gerado por modelos de IA de código aberto ou os chamados “aplicativos Nudeify” que se recusam a aceitar padrões voluntários C2PA.
De acordo com uma pesquisa da DataReportal, existem mais de 500 milhões de usuários de mídias sociais na Índia. Reuters. Resumindo, existem 500 milhões de usuários do YouTube, 481 milhões de usuários do Instagram, 430 milhões de usuários do Facebook e 213 milhões de usuários do Snapchat. Estima-se também que seja o terceiro maior mercado de X.
A interoperabilidade é um dos maiores problemas do C2PA e, embora as novas regras da Índia possam encorajar a adoção, os metadados do C2PA não são permanentes. Eles são tão fáceis de remover que algumas plataformas online podem removê-los acidentalmente durante o upload de arquivos. Nova plataforma de ordenação de regras ~ não Ele permite editar, ocultar ou remover metadados ou rótulos, mas não lhe dá muito tempo para descobrir como obedecer. Faltam apenas 9 dias para plataformas de mídia social como
Meta, Google e X não responderam aos nossos pedidos de comentários. A Adobe, que liderou o padrão C2PA, também não respondeu.
Na Índia, a exigência de que as empresas de redes sociais removam material ilegal no prazo de três horas após a sua descoberta ou denúncia também substituiu o prazo anterior de 36 horas, aumentando a pressão. Isso também se aplica a deepfakes e outros conteúdos prejudiciais de IA.
A Internet Freedom Foundation (IFF) alerta que essas mudanças correm o risco de transformar as plataformas em “censura rápida”. “Esses prazos impossivelmente curtos eliminam a revisão humana significativa, forçando as plataformas a automatizar a remoção do excesso.” A IFF disse em um comunicado:.
Dado que a alteração especifica mecanismos de proveniência a serem implementados “na medida em que seja tecnologicamente viável”, os responsáveis que apoiam a ordem de extradição estão provavelmente cientes de que a atual tecnologia de deteção e rotulagem por IA ainda não está pronta. As organizações que apoiam o C2PA há muito que prometem que o sistema funcionaria se um número suficiente de pessoas o utilizasse, por isso esta é a sua oportunidade de o provar.
