O procurador-geral do Novo México, Raúl Torrez, ganhou históricos de US$ 375 milhões em um caso histórico de segurança infantil contra Meta no início deste ano. Mas a próxima fase da luta poderá ser ainda mais importante para a Meta e para a indústria das redes sociais em geral.
A partir de segunda-feira, os advogados de Meta e do Novo México retornarão ao tribunal de Santa Fé para uma audiência de três semanas sobre incômodo público, onde discutirão a questão. as mudanças que o Procurador-Geral quer que o juiz ordene Meta está integrado ao Facebook, Instagram e WhatsApp. As mudanças incluem adicionar verificação de idade para usuários no Novo México, proibir a criptografia ponta a ponta para usuários menores de 18 anos e limitar seu uso a 90 horas por mês, limitar recursos de aprimoramento de engajamento, como rolagem infinita e reprodução automática, e exigir que o Meta detecte 99% de novos materiais de abuso sexual infantil (CSAM).
“Desde o início, nosso objetivo era tentar mudar a forma como as empresas fazem negócios”, disse Torrez Borda numa recente visita a Washington, DC, para defender novas leis de segurança infantil. “Percebi que mesmo com US$ 375 milhões para uma empresa tão grande e lucrativa, não era suficiente para mudar a maneira como eles faziam negócios. Na verdade, provavelmente havia algumas pessoas na empresa que consideravam isso um custo para fazer negócios.”
“Mesmo US$ 375 milhões para uma empresa tão grande e lucrativa não são suficientes para mudar a forma como fazem negócios”
Embora quaisquer alterações ordenadas pelo juiz se aplicassem apenas à Meta e às suas operações no Novo México, a empresa poderia implementar as alterações em outros estados por uma questão de simplicidade. Ou, como ameaça acontecer, as coisas podem escurecer no estado. A ordem judicial pode enviar uma mensagem a outras empresas de tecnologia de que os tribunais podem estar dispostos a mudar os seus negócios se forem considerados responsáveis.
Durante o julgamento, o Novo México argumentará que Meta se tornou um incômodo público porque representa um risco à saúde pública no estado. A Procuradoria-Geral da República deverá convocar cerca de 15 testemunhas, incluindo peritos que deporão sobre a viabilidade da solução proposta, e testemunhas de factos que deporão sobre os alegados prejuízos sofridos pela Meta. Depois que Meta apresentar sua defesa, o juiz Bryan Biedscheid avaliará quais propostas são relevantes e viáveis – um processo que pode levar tempo, em comparação com a rápida resolução do veredicto pelo júri em março.
Uma grande vitória para o Novo México poderia ser encorajadora para Torrez e os milhares de outros demandantes que atualmente instauram processos contra empresas de tecnologia. Por outro lado, as ordens limitadas podem ser um grande golpe. O resultado não terá um impacto directo noutros casos, mas quase certamente influenciará as negociações sobre possíveis acordos.
Algumas das solicitações de Torrez são questões importantes de política tecnológica. A verificação da idade quase certamente exigiria que a Meta ou seus fornecedores terceirizados coletassem mais informações pessoais sobre adultos e menores, o que os defensores da privacidade alertam consistentemente que poderia tornar os usuários menos seguros. Don McGowan, que anteriormente atuou no conselho do Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC), disse que proibir comunicações criptografadas em plataformas como o Facebook “é a melhor maneira de garantir que ninguém mais use o Facebook Messenger e transfira suas atividades para outras plataformas que não sejam afetadas por este processo”.
O mandato pode fazer pouco para mudar a realidade de certas partes do negócio – a Meta anunciou recentemente que removeria mensagens criptografadas de ponta a ponta no Instagram que, segundo ela, “muito poucas pessoas” realmente usam.
Peter Chapman, diretor associado do Instituto Knight-Georgetown, que trabalha para conectar legisladores e outros com pesquisas independentes sobre políticas tecnológicas, disse que pode haver “compensações significativas” na proibição da criptografia e que outras mudanças podem ser mais eficazes. Por exemplo, evidências apresentado pelo estado apontou que as recomendações de perfil do próprio Meta vinculam adultos e menores, um recurso que representa danos mais óbvios sem muitos benefícios, e Torrez também pediu ao tribunal que o impedisse. “Há uma oportunidade de intervir nesse nível e tentar impedir a ocorrência de mais interações maliciosas sem ter que abordar a criptografia”, disse Chapman.
Nenhuma mudança de recurso provavelmente resolverá todo o problema de segurança de crianças e jovens, disse Chapman, e é por isso que Torrez planeja exigir várias camadas de mudança. Contudo, a eficácia global de qualquer esforço de melhoria dependerá também da forma como for implementado e monitorizado. Por exemplo, qual metodologia a Meta usa para relatar uma nova taxa de detecção de CSAM de 99%? Como ele calcula ou adivinha o que não pegou? O mesmo se aplica à precisão e confiabilidade da verificação de idade exigida.
Meta aponta este problema potencial no seu argumento contra a solução proposta por Torrez. “Independentemente de onde o limite de precisão seja definido, a Meta nunca será capaz de provar que o sistema atende a esses padrões, porque a realização dos cálculos exige que a Meta detecte 100% de CSAM para usar como denominador”, escreveu a empresa em um documento legal. O co-presidente da Torrez, James Grayson, disse em teleconferência que o tribunal e o monitor independente nomeado teriam poder discricionário na condução do rastreamento; O escritório não identificou quem é esse monitor.
“A ação movida no Novo México erra o alvo e oferece exposição adicional substancial a outros tipos de exploração”
Meta e outros grupos que se opõem à abordagem do Procurador-Geral dizem que o resultado desejado é contraproducente. “As acusações feitas no Novo México erram o alvo e proporcionam uma enorme exposição adicional a outros tipos de exploração”, disse Maureen Flatley, presidente do Stop Child Predators, um grupo que defende mais financiamento para a aplicação da lei criminal contra crianças predadoras, e tem receber fundos de Grupo comercial meta-apoiado NetChoice. “A ideia de que as plataformas deveriam ser responsáveis por expulsar todas essas pessoas é como dizer à Associação de Banqueiros dos EUA: ‘A propósito, você é responsável por todos os assaltos a bancos de agora em diante’, e isso é ridículo.”
“O foco do procurador-geral do Novo México em uma plataforma é uma estratégia equivocada que ignora as centenas de outros aplicativos que os adolescentes usam todos os dias”, disse o porta-voz da Meta, Chris Sgro, em comunicado. “O mandato proposto pelo estado viola os direitos dos pais e inibe a liberdade de expressão de todos os novos mexicanos. Apesar disso, continuamos comprometidos em fornecer uma experiência segura e adequada à idade, e implementamos muitas das proteções desejadas pelo estado, incluindo 13 medidas de segurança no ano passado”.
Mas Torrez também tem como alvo a indústria tecnológica mais ampla. Recentemente, ele visitou Washington, D.C., para defender novas proteções para crianças online e revisar a Seção 230, a lei que protege as plataformas de tecnologia de serem responsabilizadas pelas postagens de seus usuários. “Embora tenhamos conseguido vencer no tribunal distrital de Santa Fé, ainda acho que a lei atual cria muita ambiguidade”, disse ele. Borda naquela visita. “Se a Seção 230 não for algo atrás do qual essas empresas possam se esconder, isso aumentará suas chances de realmente apresentarem seu caso a um júri.”
Mas Chapman disse que a regulamentação através de ações judiciais não é uma “história incomum” nos EUA. “Seja tabaco, opioides, cigarros eletrónicos, há precedentes para ações legais que impulsionam discussões políticas mais amplas.”
