Não, os jamaicanos não festejam ou fazem cruzeiros enquanto esperam pela chuva. Estão a preparar-se ansiosamente para a passagem devastadora do furacão Melissa pelas Caraíbas, onde proliferam quantidades perigosas de desinformação gerada pela IA.
• Leia também: Ouagan “Melissa”: Três pessoas já morreram na Jamaica
• Leia também: EM VÍDEO | Através dos olhos de “Melissa”: é assim que se parece o maior furacão de 2025
• Leia também: Jamaica, Cuba, República Dominicana: é assim que muitos países caribenhos serão afetados pelo furacão Melissa
Enquanto as autoridades políticas e os serviços de emergência organizam e transmitem mensagens adequadas às populações em risco, a AFP identificou dezenas de conteúdos falsos nas redes sociais; A maioria deles vem do Sora, o modelo de renderização de vídeo OpenAI.
O grupo OpenAI contactado pela AFP não respondeu.
O furacão, que pode ser o furacão mais severo a atingir a Jamaica e já causou muitas mortes, corre o risco de causar grandes inundações e deslizamentos de terra.
Na segunda-feira, o ministro da Informação e senador jamaicano Dana Morris Dixon disse que ele e outros ministros participaram numa conferência de imprensa para fornecer “informações precisas” sobre a terrível tempestade.
“Estou em muitos grupos de WhatsApp e vejo todos esses vídeos chegando. Muitos deles estão errados”, lamentou. “Pedimos que você ouça os canais oficiais.”
Os vídeos mostraram uma variedade de cenários inventados, desde notícias falsas até imagens de graves inundações, tubarões saqueadores e cenas angustiantes de sofrimento humano.
Outros mostraram moradores festejando, navegando, embarcando em uma moto aquática ou nadando alegremente antes da chegada do furacão – muitas vezes com forte sotaque jamaicano e aparentemente com a intenção de reforçar estereótipos.
Conteúdo falso que abafa avisos de segurança importantes e faz com que os usuários subestimem o perigo.
Errado, mas convincente
“Conteúdo falso prejudica o trabalho sério do governo”, diz Amy McGovern, professora de meteorologia na Universidade de Oklahoma e especialista no uso de inteligência artificial para prever condições meteorológicas extremas. “Eles causarão perdas de vidas humanas e materiais.”
Os clipes identificados pela AFP são postados principalmente no TikTok. E se a plataforma exigisse que o conteúdo gerado por IA fosse identificado como tal, apenas parte dele teria o rótulo exigido.
De acordo com um relatório da AFP, o TikTok pareceu excluir mais de duas dúzias desses vídeos na terça-feira, bem como várias contas dedicadas a compartilhá-los. Porém, outros exemplos foram encontrados no Facebook e no Instagram onde a regra deveria ser a mesma.
O furacão Melissa mostra que novos modelos de texto e vídeo estão “acelerando a disseminação de conteúdo falso e persuasivo”, segundo Hany Farid, cofundador da empresa de segurança cibernética GetReal Security e professor da Universidade da Califórnia em Berkeley.
Novas aplicações permitem assim criar avatares humanos hiper-realistas. Nos comentários aos vídeos, a AFP afirmou que muitos utilizadores não sabiam que as imagens em questão eram falsas, apesar das marcas de água.
É como se um velho gritasse em um vídeo do TikTok AI que “não vai se mover nem um pouco”. “Deus, por favor, proteja a casa e a mangueira do seu avô”, escreveu um comentarista na legenda, enquanto outro pedia mais atualizações sobre as condições de sua propriedade.
Orações semelhantes apareceram em outro vídeo que mostrava uma mulher chorando por ajuda com seus bebês nos braços, sob uma casa sem telhado.
“O paradoxo da era da informação é que, enquanto a quantidade de informação aumenta, nós, como povo, sabemos menos”, disse Hany Farid à AFP.
