Um vídeo viral mostra o que parecem ser quatro tubarões nadando na piscina de um hotel jamaicano enquanto as enchentes supostamente causadas pelo furacão Melissa inundam a área. Outro supostamente retrata o aeroporto da Jamaica em Kingston completamente devastado pela tempestade. Mas nenhum desses eventos aconteceu, apenas informações erradas geradas pela IA circularam nas redes sociais enquanto a tempestade se agitava nas Caraíbas esta semana.
Esses vídeos e outros receberam milhões de visualizações em plataformas de mídia social, incluindo X, TikTok e Instagram.
Alguns dos clipes parecem ser unidos ou baseados em imagens de desastres antigos. Outros parecem ter sido criados inteiramente por geradores de vídeo de IA.
“Estou em muitos grupos de WhatsApp e vejo todos esses vídeos chegando. Muitos deles são falsos”, disse a ministra da Educação da Jamaica, Dana Morris Dixon, na segunda-feira. “E por isso pedimos que você ouça os canais oficiais.”
Embora seja comum o aparecimento de fotos, vídeos e desinformação fraudulentos durante desastres naturais, eles geralmente são rapidamente desmascarados. Mas os vídeos gerados por novas ferramentas de inteligência artificial levaram o problema a um novo nível, facilitando a criação e distribuição de clipes realistas.
Neste caso, o conteúdo apareceu nas redes sociais ao lado de fotos genuínas tiradas por residentes locais e organizações de notícias, criando confusão entre os utilizadores das redes sociais.
Aqui estão algumas etapas que você pode seguir para reduzir suas chances de ser enganado.
Verifique se há marcas d’água
Procure um logotipo de marca d’água que indique que o vídeo foi criado por Sora, uma ferramenta de conversão de texto em vídeo lançada pelo fabricante do ChatGPT OpenAI ou outros geradores de vídeo de IA. Geralmente aparecem em um dos cantos de um vídeo ou foto.
É muito fácil remover esses logotipos usando ferramentas de terceiros, então você também pode verificar se há desfoques, pixels ou descoloração onde deveria estar uma marca d’água.
Dê uma olhada mais de perto
Dê uma olhada nos vídeos para obter detalhes pouco claros. Embora o vídeo dos tubarões na piscina pareça realista à primeira vista, parece menos verossímil após uma inspeção mais detalhada, pois um dos tubarões tem um formato estranho.
Você pode ver objetos que se misturam ou detalhes como letras distorcidas em uma placa, que são sinais de imagens geradas por IA. A marca também é algo a ser observado, já que muitas plataformas têm receio de reproduzir logotipos de empresas específicas.
Especialistas dizem que será cada vez mais difícil diferenciar entre realidade e deepfakes à medida que a tecnologia melhora.
Especialistas observaram que Melissa é o primeiro grande desastre natural desde que a OpenAI lançou a versão mais recente de sua ferramenta de geração de vídeo Sora no mês passado.
“Agora, com o surgimento de ferramentas poderosas e prontamente disponíveis como o Sora, tornou-se ainda mais fácil para os malfeitores criarem e distribuírem vídeos sintéticos altamente convincentes”, disse Sofia Rubinson, editora sênior da NewsGuard, que analisa a desinformação online.
“No passado, as pessoas muitas vezes conseguiam identificar falsificações através de sinais como movimentos não naturais, texto ilegível ou falta de dedos. Mas à medida que estes sistemas melhoram, muitas destas falhas desaparecem, tornando cada vez mais difícil para o espectador médio distinguir o conteúdo gerado pela IA do material autêntico.”
Por que criar deepfakes em torno de uma crise?
O especialista em IA Henry Ajder disse que a maioria das falsificações de profundidade de furacão que ele viu não são inerentemente políticas. Ele suspeita que esteja “muito mais próximo do tipo mais tradicional de conteúdo baseado em cliques, que tenta obter engajamento, tentando obter cliques”.
No X, os usuários podem ser pagos com base no engajamento que suas postagens obtêm. YouTubers podem ganhar dinheiro com anúncios.
Um vídeo que obtém milhões de visualizações pode render ao criador alguns milhares de dólares, disse Ajder, nada mal para a quantidade de esforço necessária.
As contas de mídia social também usam vídeos para expandir sua base de seguidores e promover projetos, produtos ou serviços, disse Ajder.
Então verifique quem está postando o vídeo. Se a conta tiver um histórico de conteúdo do tipo clickbait, seja cético.
Mas lembre-se de que as pessoas por trás dos vídeos deepfake nem sempre tentam se esconder.
“Alguns criadores estão apenas tentando fazer coisas interessantes com IA que acham que chamarão a atenção das pessoas”, disse ele.
Então, quem está por trás da conta?
Embora não esteja claro quem exatamente criou o vídeo do tubarão na piscina, uma versão encontrada no Instagram traz a marca d’água de uma conta do TikTok, Yulian_Studios. O perfil TikTok dessa conta se descreve, em espanhol, como um “criador de conteúdo com efeitos visuais de IA na República Dominicana”.
O vídeo do tubarão não pode ser encontrado na página da conta, mas tem outro clipe gerado por IA de um homem acima do peso agarrado a uma palmeira enquanto ventos com força de furacão sopram na Jamaica.
Confie no seu instinto
O contexto é importante. Faça uma tentativa para considerar se o que você vê é razoável. O site de jornalismo de Poynter informa que se você vir uma situação que parece “exagerada, irreal ou fora do personagem”, considere que pode ser uma farsa profunda.
Isso inclui o som. Os vídeos de IA costumavam vir com narrações sintéticas com cadência ou tom incomum, mas ferramentas mais recentes podem criar áudio sincronizado que parece realista.
E se você o encontrou no X, certifique-se de verificar se há uma Nota da Comunidade anexada, que é a ferramenta de verificação de fatos da plataforma orientada pelo usuário.
Uma versão do vídeo da piscina de tubarões no X vem com uma nota da comunidade que diz: “Este vídeo e a voz usada foram criados por inteligência artificial, não são imagens reais do furacão Melissa na Jamaica”.
Vá para uma fonte oficial
Não confie apenas em estranhos aleatórios na Internet para obter informações. O governo jamaicano publicou atualizações sobre tempestades, assim como o Centro Nacional de Furacões.
