No topo da Meta, um investigador alertou os executivos da empresa que poderia haver até 500 mil casos de exploração sexual online por dia no Facebook e Instagram, de acordo com documentos explosivos que foram assinados na véspera do julgamento histórico.
Os argumentos de abertura começam na segunda-feira no caso do procurador-geral do Novo México, Raul Torrez, em tribunal público, que acusa o gigante das redes sociais Mark Zuckerberg de expor as crianças aos “perigos duplos do abuso sexual e dos danos à saúde mental” através de mensagens assustadoras, esquemas de “extorsão” e tráfico de seres humanos.
O resultado, afirma o estado, é uma crise nas redes sociais para os adolescentes que levou ao aumento da ansiedade, depressão, automutilação e morte.
Antes do julgamento, os advogados do estado citaram um e-mail interno no qual Malia Andrus, que ocupou funções infantis relacionadas ao Meta de agosto de 2017 a outubro de 2024, escreveu que tinha como alvo “500 mil vítimas por DIA apenas nos mercados ingleses” com mensagens obscenas.
“Esperamos que a situação real seja pior”, disse Andrus numa carta de junho de 2019, de acordo com os registos reais.
Em outras notícias assustadoras, Andrus observou que as grandes bases de usuários do Facebook e do Instagram deram efetivamente aos predadores uma ferramenta para atingir crianças em uma escala que antes era inimaginável.
“Só acho que em nenhum momento da história da humanidade consegui ter uma conversa privada com 1.000 pessoas”, escreveu ele. “Eu realmente vou correr até aqui.”
O novo processo do México é uma das várias batalhas legais que Meta enfrenta este ano – e eles procuram lançar luz sobre os lapsos de saúde que chamaram a atenção dos legisladores dos EUA no Capitólio.
Na semana passada, um julgamento pioneiro do Meta e do YouTube, de propriedade do Google, sobre o fomento do vício em mídias sociais entre jovens usuários começou na Califórnia, com centenas de famílias de vítimas e funcionários do distrito escolar. Em outros lugares, a FTC recorreu no mês passado de sua perda no maior caso antitruste que buscava a dissolução da Meta.
Os vários testes que acusam Meta de prejudicar crianças são “uma cópia dos sonhos de Mark Zuckerberg”, de acordo com Sacha Haworth, diretor executivo do Project Oversight Tech, um grupo de vigilância.
“Estes são os julgamentos de uma geração, enquanto o mundo observava os tribunais responsabilizarem as grandes empresas do tabaco e as grandes farmacêuticas, veremos pela primeira vez CEOs de grandes empresas de tecnologia como Zuck se levantarem”, disse Haworth.
O caso do Novo México foi mantido em segredo em parte por causa dos detalhes que surgiram durante os exercícios de espionagem da Meta.
Depoimento fornecido por investigadores estaduais supostamente exibiu conteúdo sexual com adultos e supostos predadores de crianças, incluindo “imagens e vídeos genitais” e a oferta da estrela de um pagamento de seis dígitos em um vídeo pornô, afirma o processo.
Em outros e-mails detalhados no processo pré-julgamento, Andrus supostamente roubou a garantia constante da mídia de que queria manter os usuários do Instagram, alertando-os de que eles seriam facilmente enganados.
“Nossos pesquisadores nos deram feedback de que quase todas as vezes no IG (no contexto da segurança infantil) a previsão de idade é falsa (quando a idade é declarada falsamente)”, escreveu Andrus, de acordo com documentos reais.
Um porta-voz da Meta disse que as discussões internas sobre os recados citados faziam parte de um esforço ativo da organização para proteger as crianças.
“Embora as políticas do Novo México sejam sensacionalistas, irrelevantes e perturbadoras, vocês estão demonstrando o nosso compromisso de longa data em apoiar os jovens”, disse um porta-voz num comunicado. “Durante uma década, ouvimos os pais, trabalhámos com especialistas e autoridades e conduzimos extensas pesquisas para identificar as questões que mais importam.
Andrus, que deixou a Meta em 2024 e agora trabalha em uma função de segurança na OpenAI, não retornou um pedido de comentário.
O estado argumentou que Andrus tem profundo conhecimento da forma como Meta lida com o problema de abuso interno, tendo trabalhado extensivamente em investigações internas, inclusive atuando como membro da Força-Tarefa de Groomers, que investigou abusadores adultos que molestaram menores.
“A Sra. Andrus também comentou sobre a falha da Meta em investir adequadamente na segurança infantil, a natureza errônea de algumas das medidas de segurança pública relatadas à criança e a imaturidade dos Instagrams da criança em medidas de segurança”, disse o documento público.
Antes do julgamento, os gestores da Meta tentaram evitar qualquer menção a vários tópicos sensíveis – incluindo o chatbot de IA da empresa, pesquisas que explicam os efeitos nocivos dos efeitos na saúde mental e detalhes sobre o material secreto da bomba, que levou os investigadores do Novo México a revelar exemplos de abuso sexual.
O juiz Biedscheid acabou negando os pedidos de audiências pré-julgamento.
Em outros lugares, documentos internos mostraram que Zuckerberg concordou se menores usariam o chatbot de IA da Meta, mesmo depois que funcionários de segurança alertaram que ele poderia ser usado para conversas românticas ou sexualizadas. A Reuters foi a primeira a reportar nos documentos.
Torrez criticou Zuckerberg com raiva antes do julgamento. Como noticiou o Post em dezembro, o Instagram pediu a implementação de uma classificação PG-13 para proteger as crianças de conteúdo ilegal como “uma promoção perigosa que induz os pais a uma falsa sensação de segurança”.
Meta respondeu, acusando Torrez de fazer afirmações “impregnadas de erros científicos e falácias” e de ignorar o progresso da empresa na melhoria da custódia das crianças.
