Uma foto de uma grande explosão em um aeroporto iraquiano; Imagens de satélite mostrando danos a uma base naval dos EUA no Catar; Vídeo de mísseis balísticos iranianos atingindo o centro de Tel Aviv. Todas estas são imagens que circularam na semana passada desde o ataque da administração Trump ao Irão. E nenhum deles é real.
Criadas ou manipuladas pela IA, estas imagens – e muitas outras – espalham desinformação sobre o que realmente está a acontecer no Irão e à sua volta, e estão a tornar-se cada vez mais um problema para aqueles que tentam distinguir a verdade e a realidade das mentiras e da propaganda.
A propagação de desinformação sempre fez parte da guerra, à medida que as partes em conflito lutam pelo apoio público enquanto lançam as suas bombas. Mas agora, graças à IA generativa, é mais fácil do que nunca falsificar imagens e vídeos. Já se foi o tempo em que você precisava de conhecimentos de Photoshop para criar uma narrativa falsa. E com as redes sociais, estas imagens manipuladas podem ser espalhadas pelos países numa questão de segundos. Embora os maus atores possam tentar intencionalmente semear a discórdia, há um número exponencialmente maior de pessoas que a compartilham sem saber. Combinado com a intenção da Casa Branca de espalhar propaganda, cria um ecossistema de informação que pode parecer esmagador e confuso.
“Alcançamos um nível de realismo em deepfakes de vídeo, áudio e imagem que não é mais reconhecível pela maioria das pessoas”, diz Rumman Chowdhury, um proeminente pesquisador de IA e ex-chefe de ética da X (quando a empresa ainda era conhecida como Twitter). “Embora as empresas de IA tenham concordado com marcas d’água e outros métodos de verificação, elas não levam em consideração como os usuários interagem com as mídias sociais ao desenvolvê-las.”
“Isto é particularmente perigoso quando se consideram situações como a guerra no Irão”, acrescentou Chowdhury. “A maioria dos americanos provavelmente vem com pouca informação e provavelmente com informações tendenciosas e tendenciosas. A mídia falsa apenas confundirá e reforçará esses preconceitos.”
“Falsões superficiais”
O jornal afiliado ao Estado iraniano apareceu em 28 de fevereiro Teerã Times dividido Imagens de satélite supostamente mostraram a destruição deixada para trás depois que um drone iraniano atingiu radares americanos em uma base naval dos EUA no Catar.
A BBC Verify, uma equipe de jornalistas dedicada a verificar imagens, rastreou e mapeou ataques relacionados à guerra dos EUA e de Israel contra o Irã e rotulou essas imagens de satélite como ataques. Falsificação gerada por IA. A equipe explicou que a imagem alterada foi baseada em imagens reais de satélite de uma base dos EUA, mas foi editada usando a IA do Google para deturpar os danos.
Hoje em dia não é tão fácil alimentar as pessoas com deepfakes e ser enganado. O cientista político Steven Feldstein diz que à medida que as pessoas se tornam mais informadas sobre a IA, os criadores de conteúdos de desinformação também se tornam mais sofisticados na forma como apresentam as coisas, levando a um “superficial“, que é uma manipulação mais sutil.
“Em vez de apresentar algo que pareceria completamente falso, eles apresentam nuances da verdade e manipulam o que está ali”, diz Feldstein. Isso significa que os criadores de conteúdo fornecem detalhes e nuances bons o suficiente para contornar os detectores de besteira das pessoas, mas ainda podem interpretar mal a realidade para representar um ponto de vista específico. Isso pode ser feito manipulando apenas ligeiramente as imagens, como uma foto real de um aeroporto iraquiano. fumaça mostrada sobre uma base militar dos EUA no Iraque, mas foi alterado usando IA em 1º de março para mostrar uma explosão gigante de bola de fogo. Ou pode ser tirar uma imagem fora do contexto, como usar uma foto antiga e dizer que simplesmente aconteceu.
“Você pode ver que isso está acontecendo cada vez mais”, diz o autor Feldstein de A ascensão da opressão digital: como a tecnologia está transformando o poder, a política e a resistência. “Tornou-se muito sofisticado e também uma parte crítica da geopolítica.”
Feldstein diz que a Guerra dos 12 Dias, quando Israel e os EUA atacaram o Irão em Junho de 2025, mostrou a rapidez com que o conteúdo gerado pela IA pode espalhar-se. Shayan Sardarizadeh da BBC Verify contado O ataque à Rede Global de Jornalismo Investigativo foi o “primeiro exemplo de um grande conflito global onde vimos mais desinformação sendo produzida usando IA do que por meios tradicionais”. Isso marcou uma “nova era na forma como o conteúdo gerado por IA é usado após uma grande notícia de última hora”, disse Sardarizadeh, cuja equipe viu vários vídeos e imagens gerados por IA enganando as pessoas com “milhões e milhões de visualizações”.
Chowdhury, o ex- Comissário Científico dos EUA para IAdiz que já estamos vendo “agentes de desinformação em todas as redes sociais promovendo agendas específicas”. Ela aponta para X lançou um recurso de localização novembro passado, que usa endereços IP para mostrar onde as contas estão localizadas. “Acontece que há muitos influenciadores de direita norte-americanos em África, no Bangladesh, na Rússia e na Ucrânia.”
Tanto Chowdhury quanto Feldstein dizem que a confusão entre ficção e realidade pode levar as pessoas, quando veem um vídeo real, a afirmar que é falso. Quando você não consegue acreditar em seus próprios olhos, fica mais difícil questionar suas próprias crenças fortes.
“Chegou-se agora a um ponto em que nada além da sua própria narrativa pré-existente é aceite como verdadeiro”, diz Feldstein, “e isso é igualmente prejudicial”.
“A guerra não é um videogame”
A desinformação nem sempre se baseia apenas na IA. Por exemplo, às vezes uma captura de tela de um videogame pode ser divulgada e compartilhada como se fosse uma foto real de destruição. E depois há a propaganda aberta, que aumentou exponencialmente sob Trump. Durante os ataques do ICE em Minnesota, a administração Trump confiou em memes cruéis e em imagens geradas por IA para influenciar a opinião pública. Eles até fizeram sua própria versão de uma falsificação superficial, mudar digitalmente uma foto de uma mulher sendo presa para fazer parecer que ela estava chorando, quando na verdade não estava.
Depois veio o Irã. 4 de março na Casa Branca publicou um vídeo em sua conta oficial no X, que mescla clipes reais de ataques de mísseis iranianos com imagens de dentro do Irã Chamada à ação Videogame. No meio, uma narração entrecortada diz: “Estamos vencendo essa luta”.
No dia 5 de março, a Casa Branca divulgou outro vídeo, desta vez celebrando “Justice the American Way” com clipes de filmes e séries de televisão Coração Valente, liberando o mal, Homem de Ferro, E gladiador.
A guerra já custou a vida a mais de 1.000 pessoas, incluindo mais de 100 estudantes iranianasde acordo com a mídia estatal iraniana, e pelo menos seis Militares americanos.
“A guerra não é um videogame” twittou Veterano militar e podcaster de Barstool Sports Connor Crehan. “As consequências da guerra são definitivas. Gostaria que não fôssemos tão imprudentes com ela.”
Feldstein diz que vê cada vez mais informação e imagens a serem usadas para mobilizar ações, e que as redes sociais permitiram que a retórica se espalhasse extremamente rapidamente antes que alguém pudesse parar e descobrir a fonte original do conteúdo. A menos que se saiba quem está a fazer estas afirmações, e se for uma fonte de notícias credível, é difícil dizer se a narrativa que está a ser divulgada é unilateral e assume um ponto de vista particular que possa ser contestado. Ele acrescenta que o Presidente dos Estados Unidos e de Israel primeiro-ministro Usei fotos e motivos para experimentar chamar Os cidadãos iranianos estão a levantar-se contra o seu governo. “Os EUA não estão (atualmente) a enviar tropas para o terreno, mas dependem da partilha de informações como meio de mobilizar mudanças no terreno em relação ao governo iraniano”, disse Feldstein. “Você pode ver o quanto está em jogo no que diz respeito à rapidez com que a informação é processada e como ela estimula a ação.”
E, claro, salienta ele, informações falsas representam enormes riscos humanitários que vão além da manipulação política. As pessoas que vivem em zonas de conflito armado precisam de saber onde podem procurar abrigo em segurança, onde os drones irão atacar e se precisam de evacuar. É importante ter informações em que você possa confiar.
