Os vídeos deepfake estão mais realistas do que nunca. Veja como saber se um vídeo é real ou IA:

Lembra quando “falso” na internet significava uma foto fortemente photoshopada? Ah, tempos mais simples. Agora estamos todos nadando no oceano. Vídeo gerado por IA De vídeos falsos de celebridades a transmissões falsas de desastres e deepfakes, está se tornando quase impossível saber o que é real.

E a situação só vai piorar. Sora, a ferramenta de vídeo de IA da OpenAI, já está revolucionando as coisas. Mas agora o Sora 2, um novo “aplicativo de mídia social” viral, tornou-se o ingresso mais popular da Internet. O problema é que é um feed estilo TikTok somente para convidados, onde tudo é 100% falso.

O autor já o chamou de “.sonho febril deepfake‘, e é isso. As plataformas que fazem a ficção parecer realidade estão se tornando mais avançadas a cada dia e os riscos são enormes. Se você está lutando para separar a realidade da IA, não está sozinho.

Aqui estão algumas dicas úteis para ajudá-lo a eliminar o ruído e chegar à verdade sobre cada situação inspirada na IA:

Não perca o conteúdo técnico imparcial e as análises baseadas em laboratório. CNET adicionado Usado como fonte preferencial do Google.

Do ponto de vista técnico, Sora Video impressiona em comparação com concorrentes como: V1 do meio da jornada e Google mostra 3. Possui áudio sincronizado de alta resolução e criatividade incrível. O recurso mais popular de Sora, chamado “Cameo”, permite que você use a imagem de outra pessoa para inseri-la em quase qualquer cena gerada por IA. Esta é uma ferramenta impressionante que cria vídeos muito realistas.

É por isso que muitos especialistas estão preocupados com Sora. O aplicativo torna mais fácil para qualquer pessoa criar deepfakes perigosos, espalhar informações erradas e confundir a linha entre o real e o falso. Figuras públicas e celebridades são particularmente vulneráveis ​​a esses deepfakes, e sindicatos como SAG-AFTRA fortalece guarda-corpos com OpenAI.

Identificar conteúdo de IA é um desafio constante para empresas de tecnologia, plataformas de mídia social e todos os demais. Mas não é completamente desesperador. Aqui estão algumas coisas que você deve ter em mente para determinar se você usou Sora para criar seu vídeo:

Procure a marca d’água Sora

Todos os vídeos criados no aplicativo Sora iOS incluirão uma marca d’água quando baixados. Saltando ao longo da borda do vídeo está o logotipo branco da Sora (ícone de nuvem). Isso é semelhante à forma como as marcas d’água aparecem nos vídeos do TikTok.

Marcar conteúdo com marca d’água é uma das principais maneiras pelas quais as empresas de IA podem ajudá-lo a identificar visualmente o conteúdo gerado por IA. Por exemplo, o modelo “nano banana” Gemini do Google marca automaticamente as imagens com marcas d’água. As marcas d’água são ótimas porque servem como uma indicação clara de que o conteúdo foi criado com a ajuda da IA.

Mas a marca d’água não é perfeita. Em primeiro lugar, se a marca d’água estiver fixa (sem movimento), ela poderá ser facilmente cortada. Mesmo marcas d’água em movimento, como a concha, não podem ser totalmente confiáveis ​​apenas por marcas d’água, pois existem aplicativos projetados especificamente para removê-las. Quando o CEO da OpenAI, Sam Altman, foi questionado sobre isso, ele disse: disse A sociedade terá que se adaptar a um mundo onde qualquer pessoa pode fazer um vídeo falso de qualquer pessoa. É claro que antes do Sora da OpenAI, não existia uma maneira popular, facilmente acessível e livre de tecnologia de produzir tais vídeos. No entanto, o seu argumento levanta uma questão válida sobre a necessidade de confiar em outros métodos para verificar a autenticidade.

Verifique os metadados

Eu sei, você provavelmente está pensando que não há como verificar os metadados de um vídeo para determinar se ele é real. Eu entendo de onde você vem. Esta é uma etapa extra, então você pode não saber por onde começar. Porém, é uma boa maneira de determinar se um vídeo foi feito com Sora e é mais fácil do que você pensa.

Metadados são uma coleção de informações que são anexadas automaticamente ao conteúdo quando ele é criado. Isso pode lhe dar mais informações sobre como a imagem ou vídeo foi criado. Isso pode incluir o tipo de câmera usada para tirar a foto, o local, a data e hora em que o vídeo foi capturado e o nome do arquivo. Todas as fotos e vídeos, sejam eles criados por humanos ou por IA, possuem metadados. E grande parte do conteúdo criado com IA também terá credenciais de conteúdo indicando a fonte da IA.

OpenAI faz parte da Aliança de Proveniência e Autenticidade de Conteúdo. Esse é o vídeo da Sora incluir Metadados C2PA. você pode usar Ferramentas de verificação da Content Authenticity Initiative Verifique os metadados do seu vídeo, imagem ou documento. Veja como: (A Iniciativa de Autenticidade de Conteúdo faz parte do C2PA.)

Como verificar os metadados de uma foto, vídeo ou documento:

1. Acesse o seguinte URL: https://verify.contentauthenticity.org/
2. Carregue o arquivo que deseja verificar.
3. Clique em Abrir.
4. Verifique as informações no painel direito. Se for gerado por IA, você deve incluir isso na seção de resumo do conteúdo.

Quando você executa um vídeo Sora por meio desta ferramenta, ele diz que o vídeo é “publicado pela OpenAI” e inclui o fato de ter sido gerado pela IA. Todos os vídeos Sora devem incluir credenciais que verifiquem se o vídeo foi criado com Sora.

Como todos os detectores de IA, esta ferramenta não é perfeita. Há muitas maneiras pelas quais o vídeo AI pode evitar a detecção. Se você tiver um vídeo diferente do Sora, os metadados podem não conter os sinais necessários para que a ferramenta determine se ele foi criado com IA ou não. Por exemplo, os vídeos de IA criados com Midjourney não são sinalizados, como vimos em nossos testes. Mesmo que Sora tenha produzido o vídeo, você o executa por meio de um aplicativo de terceiros (por exemplo, um aplicativo de remoção de marca d’água) e baixa-o novamente, o que reduz as chances de a ferramenta sinalizá-lo como IA.

Encontre outros rótulos de IA e inclua o seu próprio.

Se você usa uma das plataformas de mídia social da Meta, como Instagram ou Facebook, poderá obter ajuda para determinar qual delas é IA. meta é Existe um sistema interno em funcionamento. Ajuda você a sinalizar e rotular conteúdo de IA. Embora esses sistemas não sejam perfeitos, você pode ver claramente os rótulos nas postagens sinalizadas. TikTok e YouTube Temos políticas semelhantes para rotular conteúdo de IA.

A única maneira verdadeiramente confiável de saber se algo foi criado com IA é se o criador o tornar público. Muitas plataformas de mídia social agora oferecem uma configuração que permite aos usuários anexar rótulos gerados por IA às suas postagens. Mesmo uma simples atribuição ou divulgação na legenda pode ajudar muito a ajudar todos a entender como algo foi criado.

Ao percorrer Sora, você notará que nada é real. Mas assim que saímos do aplicativo e compartilhamos um vídeo gerado por IA, é nossa responsabilidade coletiva divulgar como o vídeo foi criado. À medida que modelos de IA como Sora continuam a confundir a linha entre a realidade e a IA, cabe a todos nós deixar o mais claro possível o que é real e o que é IA.

O mais importante é permanecer alerta.

Não existe uma maneira perfeita de saber com precisão se um vídeo é real ou IA. A melhor coisa que você pode fazer para evitar ser enganado é não acreditar automática e cegamente em tudo que vê online. Siga sua intuição. Se algo parece irreal, provavelmente é. Em uma era de sobrecarga de IA sem precedentes, sua melhor defesa é examinar mais de perto o vídeo que você está assistindo. Não folheie e role sem pensar. Fique atento a textos corrompidos, objetos desaparecidos e comportamentos que desafiam a física. E não se culpe se você for enganado às vezes. Até os especialistas estavam errados.

(Divulgação: a empresa controladora da CNET, Ziff Davis, entrou com uma ação judicial contra a OpenAI em abril, alegando que a OpenAI violou os direitos autorais de Ziff Davis no treinamento e operação de seus sistemas de IA.)