Dica profissional: se você estiver desenvolvendo uma operação de influência secreta na China, não coloque toda a sua pesquisa no ChatGPT. Num novo relatório, a OpenAI conclui que o governo chinês Eu usei um chatbot Como parte de um plano coordenado para perseguir e intimidar dissidentes políticos que vivem no estrangeiro, inadvertidamente deu às empresas americanas uma visão dos seus esforços para silenciar os seus críticos.
Os pesquisadores da empresa usaram ferramentas de IA para compilar relatórios sobre “operações especiais cibernéticas” e identificar contas que se acredita estarem baseadas na China continental que forneceram informações detalhadas e solicitaram aconselhamento.
Por exemplo, os utilizadores chineses tentaram desacreditar Sanae Takaichi, a primeira mulher primeira-ministra do Japão. criticar Opressão dos direitos humanos na Mongólia Interior. O esquema consistia basicamente em formas de difamar os políticos através de publicações online falsas e num esforço para amplificar questões que poderiam ser politicamente prejudiciais. De acordo com a OpenAI, o ChatGPT recusou-se a ajudar os usuários chineses a editar seus planos, mas seu conteúdo apareceu posteriormente online.
O plano também incluía o contato direto com os alvos. Por exemplo, agentes chineses disseram ao ChatGPT que as autoridades chinesas parecem ter falsificado documentos dos tribunais dos EUA e planeiam usá-los para enganar as plataformas de redes sociais para que removam conteúdo anti-Partido Comunista (PCC). Noutros casos, as autoridades chinesas fizeram-se passar por funcionários da imigração dos EUA e disseram aos dissidentes baseados nos EUA que os seus comentários violavam a lei.
Alguns desses esforços funcionaram. Os usuários do ChatGPT na China relataram que as contas-alvo perderam seguidores ou fecharam totalmente suas lojas. Outros esforços tiveram pouco impacto. “Um usuário do ChatGPT registrou que seu departamento criou mais de 50.000 postagens em mais de 200 plataformas ocidentais, com menos de 150 postagens recebendo mais de 300 compartilhamentos ou comentários.”
A personificação era outra tática comum entre os agentes chineses. Ele usou cinco contas falsas do Bluesky criadas para um homem chamado Hui Bo, um proeminente dissidente chinês que mora na Califórnia. Também foi criada uma conta falsa para o Sr. Li, uma figura-chave nos protestos anti-bloqueio de 2022 e que atualmente vive em Itália.
Escolhas do Editor
Numa campanha, os agentes criaram um obituário falso e publicaram uma fotografia falsa de uma lápide nas redes sociais, alegando que o dissidente político Jie Lijian tinha morrido. Em outro exemplo, a IA foi usada para gerar “evidências” falsas para apoiar reivindicações de remoção contra uma conta X pró-Taiwan.
OpenAI disse que a empresa chinesa parece ter experimentado outra IA, incluindo IA desenvolvida na China como DeepSeek. Afirmou também que algumas das atividades eram consistentes com uma operação secreta de influência conhecida como ‘Spamouflage’, uma grande operação de desinformação chinesa identificada pela Meta em 2023.
Receba as melhores histórias direto na sua caixa de entrada!
Sua dose diária das melhores notícias de tecnologia
Ao clicar em inscrever-se, você confirma que tem 16 anos ou mais e concorda com nossos Termos de Uso e Política de Privacidade.
Obrigado por se inscrever!
Sua assinatura foi confirmada. Observe sua caixa de entrada com atenção!
Introdução aos especialistas
experiência
Sou um repórter que cobre notícias de fim de semana. Antes de ingressar na Garon em 2024, ele escreveu para BBC News, The Guardian, The Times of London, The Daily Beast, Vice, Slate, Fast Company, The Evening Standard, The i, TechRadar e Decrypt Media.
Eu era um jogador de PC porque precisava instalar jogos diretamente de vários CD-ROMs. Como jornalista, sou apaixonado pela interseção entre tecnologia e vida humana. Cobrimos tudo, desde escândalos de criptomoedas ao mundo da arte, teorias da conspiração, política britânica, Rússia e diplomacia.
Leia a biografia completa
