- Quase 100 mil pessoas assistiram à transmissão ao vivo manipulada, acreditando que era real.
- O algoritmo do YouTube promoveu fraudes nas transmissões verificadas da Nvidia.
- Os espectadores foram convidados a escanear um código QR para obter prêmios em criptomoedas.
Em um lembrete claro de quão facilmente a manipulação digital pode se espalhar, uma palestra falsa do Nvidia GTC apresentando uma versão de Jensen Huang gerada por IA atraiu quase 100.000 espectadores no YouTube.
A transmissão ao vivo fraudulenta promoveu o que se acreditava ser um “evento de adoção em massa de criptomoeda” e foi hospedada por um canal aleatório chamado Offxbeatz.
No entanto, ele apareceu sob o título “Nvidia Live”, fazendo com que parecesse oficial para usuários desavisados.
Como as palestras falsas superaram as palestras reais
Descoberto pela primeira vez por um jornalista de tecnologia Dylan MartinA verdadeira palestra da Nvidia GTC DC tinha acabado de começar quando a transmissão falsa chegou ao topo dos resultados de pesquisa do YouTube.
Quando Huang começou a falar no evento legítimo, quase 95 mil pessoas seguiam o fluxo manipulado, enquanto apenas cerca de 12 mil assistiam.
O “Jensen” gerado por IA cumprimentou o público e prometeu um anúncio exclusivo sobre criptomoedas em linha com a “missão da Nvidia de acelerar o progresso humano”.
Isso foi seguido por uma narrativa roteirizada elogiando as GPUs da Nvidia por oferecerem suporte a redes blockchain e pagamentos digitais.
Toda a configuração terminou com um código QR convidando os espectadores a participar de um esquema de distribuição de criptomoedas, um exemplo clássico de fraude financeira online.
Apesar da apresentação engenhosa, alguns sinais tornam o engano bastante óbvio.
Os padrões de áudio do deepfake eram um pouco antinaturais, e suas afirmações exageradas sobre a adoção de criptomoedas deveriam ter levantado suspeitas entre os telespectadores cautelosos.
No entanto, dezenas de milhares de pessoas continuaram a assistir, demonstrando quão facilmente recursos visuais poderosos podem superar o ceticismo básico.
O YouTube acabou removendo o stream, mas seu breve sucesso mostra como a promoção algorítmica pode elevar o conteúdo fraudulento acima das fontes verificadas.
Descrito como produto de truques modernos de IA, o vídeo foi convincente o suficiente para enganar milhares de espectadores que procuravam o evento.
Isso mostra até que ponto a tecnologia deepfake ultrapassou os atuais sistemas de moderação de muitas plataformas.
Sem métodos de verificação mais fortes, estas personificações sintéticas provavelmente continuarão a proliferar.
As medidas tradicionais de cibersegurança, como software antivírus e firewalls, continuam importantes para a proteção ao nível do dispositivo.
Infelizmente, há pouca defesa contra a manipulação em grande escala que depende da engenharia social e do engano em tempo real.
As plataformas devem, portanto, investir em melhores ferramentas de verificação de identidade que possam autenticar as transmissões ao vivo antes de serem tornadas públicas.
Além da responsabilidade da plataforma, os usuários também exigem maior ceticismo ao participar de eventos online, especialmente aqueles que envolvem negociação de criptomoedas.
No momento em que este livro foi escrito, não há evidências de que alguém tenha perdido dinheiro devido a este esquema.
No entanto, este incidente mostra que a maioria dos telespectadores não pode garantir a autenticidade.
Siga o TechRadar no Google Notícias e Adicione-nos como fonte preferencial Receba notícias, análises e opiniões de especialistas em seu feed. Certifique-se de clicar no botão seguir!
Claro que você também pode Siga o TechRadar no TikTok Confira novidades, análises, unboxings em formato de vídeo e receba atualizações regulares. WhatsApp fazer.
