A Meta, a maior empresa de mídia social do mundo, ganhou conscientemente bilhões de dólares com publicidade fraudulenta, de acordo com o último relatório da empresa. De acordo com documentos internos expresso por ReutersUsuários do Facebook, Instagram e WhatsApp viram 15 bilhão anúncios todos os dias promovem golpes, desde falsos cheques de estímulo de Trump até golpes de Elon Musk que vendem criptomoedas. A empresa supostamente sabe disso; Reuters disse que sua própria equipe de confiança e segurança esperava que um terço fraude nos EUA envolvendo a plataforma Meta. Então, por que Meta não fez mais? Talvez seja porque esses anúncios parecem ser muito lucrativos, no valor de US$ 7 bilhões ou mais por ano.
A fraude não é pouca coisa. Somente americanos relataram isso uma perda de US$ 16 bilhões ao FBI no ano passado, e esse número é provavelmente menor do que o número real porque a fraude é raramente relatada. (As vítimas de fraude muitas vezes sentem imensa vergonha por terem sido enganadas.) Globalmente, os números são enormes: Estimativas da Aliança Global Antifraude que os fraudadores roubarão mais de US$ 1 trilhão de pessoas em todo o mundo até 2024.
E as pessoas que perdem dinheiro com fraudes mal podem pagar por isso. Muitas vezes, as vítimas de fraude são idosos com rendimentos fixos, jovens à procura de trabalho, imigrantes e outras pessoas que atravessam momentos de transição ou difíceis. São pessoas altamente motivadas pela promessa de benefícios adicionais do governo ou de emprego estável. Perder algumas centenas de dólares para um golpista pode ser devastador.
Mas não para meta. Reuters relata que documentos internos da empresa mostram que a Meta gera US$ 16 bilhões – 10% de sua receita anual geral – a cada ano com publicidade fraudulenta e publicidade de produtos proibidos. Desse total, US$ 7 bilhões vieram de anúncios que exibiam sinais de fraude, como alegações falsas representando figuras públicas ou marcas. Mesmo as multas elevadas não são páreo para estes enormes lucros.
Como pesquisador que vem escrito sobre IA e fraudeMuitas vezes somos questionados sobre o que pode ser feito a respeito. Em vez de campanhas de literacia financeira e antifraude pressionarem os indivíduos – o que muitas vezes aumenta a vergonha que as pessoas sentem quando são vítimas de fraude – deveríamos responsabilizar a Meta pelo seu papel neste vergonhoso ciclo de perdas.
A solução para a fraude não é colocar sobre os indivíduos o ônus de evitá-la
Meta parece ser capaz de identificar facilmente muitos anúncios fraudulentos. Mas de acordo com Reuterso próprio sistema exige 95% de certeza de que um anúncio é fraudulento antes de ser removido. E quando um anúncio é identificado como fraudulento, Jornal de Wall Street relatório que Meta dá entre oito e trinta e dois “ataque” antes que a conta que o postou seja bloqueada. Como resultado, mesmo anunciantes fraudulentos com anúncios sinalizados e removidos podem veicular outros anúncios durante meses – ou até mesmo outras versões do mesmo anúncio – e ganhar milhares de dólares com vítimas inocentes. Plataforma de pagamento online Zelle conta Jornal de Wall Street Que metade das fraudes denunciadas por seus usuários envolvem Meta.
Infelizmente, o ecossistema de publicidade online agrava este problema. Alguém que clica num anúncio fraudulento verá mais anúncios fraudulentos, uma vez que os sistemas de recomendação algorítmica estão integrados em quase todas as plataformas sociais. Isto significa que as pessoas mais vulneráveis à publicidade enganosa, nomeadamente aquelas que têm interesse suficiente para clicar no anúncio, receberão ainda mais.
O porta-voz da Meta, Andy Stone, negou isso Reuters relatório. “Os documentos vazados apresentam uma visão seletiva que distorce a abordagem da Meta em relação à fraude e à fraude, concentrando-se em nossos esforços para avaliar a escala do desafio, em vez de em toda a gama de ações que tomamos para resolver o problema”, disse Stone em um e-mail para Borda. “Este número é uma estimativa aproximada e excessivamente inclusiva, não um número exato ou final; na verdade, uma análise subsequente revelou que muitos dos anúncios não estavam violando de forma alguma”. Stone enfatizou a crescente escala e sofisticação dos esforços de fraude e disse que os relatos de usuários sobre anúncios fraudulentos diminuíram mais de 50% nos últimos 15 meses.
A fraude é uma indústria global, alimentada pelo crescimento de grupos fraudulentos no Sudeste Asiático dirigidos por organizações criminosas transnacionais com laços estreitos com jogos de azar online. Estes complexos fraudulentos são geridos por vítimas de tráfico de seres humanos, que são atraídas por promessas de empregos de colarinho branco em condições semelhantes à escravatura. Ameaçados pela violência, os jovens são forçados a passar longos dias em romances e fraudes em investimentos. Esse As empresas criminosas estão adotando rapidamente a automação e a inteligência artificial melhorar a sua fraude, aumentar o seu âmbito e escala e continuar a diversificar as suas técnicas. Os tipos de anúncios executados pela plataforma Meta geralmente usam tecnologia de IA aprimorada deepfake de um empresário famoso promover falsas oportunidades de investimento e vídeo sintético de políticos americanos elogiando a ausência de verificações de estímulo. À medida que a tecnologia avança e os sindicatos criminosos continuam a crescer, este problema tende a piorar.
Se as pequenas organizações sem fins lucrativos conseguem identificar fraudes melhor do que as empresas de bilhões de dólares, então as empresas são culpadas
Meta tem a responsabilidade de agir. Primeiro, deveria diminuir as barreiras à remoção de anúncios fraudulentos. Depois que um anunciante remove um anúncio fraudulento, todos os outros anúncios também devem ser removidos. Em segundo lugar, a Meta deve expandir a sofisticação das táticas utilizadas para identificar anúncios falsos. Grupo de vigilância investigativa Projeto de Transparência Tecnológica pode facilmente detectar anúncios fraudulentos usando um conjunto simples de critérios: o anúncio está vendendo benefícios governamentais falsos, o anúncio está usando táticas fraudulentas identificadas pela FTC, a vítima reclamou ao Better Business Bureau sobre o golpe ou, simplesmente, a Meta removeu os anúncios anteriores do anunciante por cometer fraude. (Se uma pequena organização sem fins lucrativos consegue identificar melhor anúncios falsos do que uma empresa multimilionária, então a empresa é claramente culpada.) Terceiro, a Meta deveria implementar um requisito de anunciante verificado, onde apenas anunciantes que usam “nomes reais” podem comprar anúncios. Isso também reduzirá o uso de publicidade deepfake e fornecerá um caminho para reguladores e autoridades policiais.
É claro que também são necessárias regulamentações mais rigorosas em relação à publicidade online. O governo deve tratar as grandes plataformas tecnológicas como a Meta como actores cúmplices no ecossistema da fraude, reconhecendo que estas empresas geram milhares de milhões de dólares em lucros anualmente a partir de publicidade falsa, ao mesmo tempo que empregam deliberadamente padrões de detecção frouxos que permitem aos fraudadores operar com impunidade.
Os governos devem fazer da prevenção da fraude uma prioridade nacional e colocar plataformas como a Meta no centro desses esforços. A FTC reserva-se o direito de regular “atos ou práticas injustas ou enganosas”, incluindo publicidade falsa. Eles podem exigir que as plataformas verifiquem as identidades dos anunciantes e revisem os anúncios antes de serem veiculados e permitirem auditorias independentes de terceiros nos sistemas de publicidade online. Os reguladores também deveriam aumentar as multas impostas às plataformas por publicidade fraudulenta para valores que realmente os dissuadissem de as gerir. Os fundos de compensação às vítimas de fraude podem ser financiados por estas multas.
As legislaturas estaduais poderiam aprovar leis que exijam requisitos semelhantes se o governo federal não estiver disposto a tomar medidas. Os procuradores-gerais estaduais podem abrir ações judiciais de proteção ao consumidor de acordo com as leis estaduais sobre fraude ao consumidor e práticas comerciais enganosas. Esta não é uma questão partidária. A fraude afeta a todos.
A Meta demonstrou repetidamente que a saúde e o bem-estar dos seus utilizadores são menos importantes do que os seus lucros. Em 2018, a empresa, então conhecida como Facebook, admitiu que não tinha feito o suficiente para evitar que a sua plataforma fosse usada para alimentar o genocídio em Mianmar – agora um estado falido e lar de grupos fraudulentos cuja publicidade rende muito dinheiro à Meta. Se as suas ações passadas não foram suficientes para levar os legisladores e decisores políticos a tomar medidas relativamente à negligência da empresa, talvez os milhares de milhões de dólares desviados dos bolsos dos utilizadores vulneráveis o sejam.
