um dia depois jornal de Wall Street Depois de publicar uma história de grande sucesso no Instagram sobre as descobertas sombrias da Meta sobre a saúde mental das adolescentes, o CEO Mark Zuckerberg questionou se a Meta deveria mudar a forma como estuda danos potenciais em sua plataforma.
“Acontecimentos recentes me levaram a considerar se precisaríamos mudar nossa abordagem de pesquisa e análise de questões sociais”, escreveu Zuckerberg em um e-mail de 15 de setembro de 2021 para altos executivos, incluindo a então COO Sheryl Sandberg e o chefe de assuntos globais Nick Clegg. No dia anterior jornal publicou a história De acordo com documentos obtidos de uma denunciante posteriormente identificada como Frances Haugen, a própria pesquisa da empresa descobriu que “32% das adolescentes disseram que quando se sentiam mal com seus corpos, o Instagram as fazia se sentir pior”. O assunto do e-mail de Zuckerberg é: “Pesquisa e Análise de Questões Sociais – Privilegiadas e Confidenciais”.
Os e-mails de 2021 foram tornados públicos na quinta-feira, depois que o procurador-geral do Novo México, Raúl Torrez, os encontrou como parte de um caso alegando que a Meta posicionou enganosamente seus produtos como seguros para adolescentes depois que o estado reconheceu escolhas de design prejudiciais que alegavam crianças viciadas e permitiam que crianças predadoras prosperassem. Na reclamação, o escritório do AG argumentou que a divulgação da Meta sobre os danos identificados em sua plataforma teria “corrigido a natureza enganosa e enganosa de suas declarações públicas declarando a plataforma ‘segura'”. O porta-voz da Meta, Andy Stone, disse: A beira A empresa disse: “Estamos orgulhosos de nosso compromisso contínuo em conduzir pesquisas transparentes e líderes do setor. Como temos feito há anos, continuamos a usar esses insights para fazer melhorias significativas, incluindo a introdução de contas para adolescentes com proteções integradas e o fornecimento de ferramentas aos pais para gerenciar suas experiências adolescentes”.
Os e-mails são apenas um exemplo dos tipos de conversas internas que devem vir à tona durante o julgamento e em uma série de casos alegados de forma semelhante na Califórnia. Espera-se que as declarações de abertura do caso do Novo México comecem na próxima semana.
Num e-mail, Zuckerberg escreveu que os seus colegas da Meta pareciam ter conseguido evitar críticas públicas sobre questões sociais, conduzindo pesquisas muito menos agressivas sobre os danos da plataforma. “A Apple, por exemplo, parece não estudar essas coisas”, escreveu ele. “Pelo que entendi, eles não têm ninguém moderando ou moderando conteúdo e não há fluxo de relatórios no iMessage. Eles adotaram a abordagem de que o que fazem na plataforma é de sua própria responsabilidade e não criaram uma infinidade de pesquisas ou equipe para analisar os prós e os contras da abordagem porque a Apple não assume a responsabilidade.
“(Quando) a Apple tentou fazer algo em relação ao CSAM, eles receberam muitas críticas por isso.”
A Apple parecia evitar críticas, mas na opinião de Zuckerberg, Meta na verdade “enfrentou mais críticas”. Denuncie mais material de abuso sexual infantil (CSAM).“Parece que estamos vendo mais desse comportamento em nossa plataforma”. Por outro lado, ele ressalta que “quando a Apple tentou fazer algo em relação ao CSAM, eles receberam muitas críticas, o que pode encorajá-los a dobrar sua abordagem original”. Zuckerberg pode estar se referindo ao anúncio da Apple no início deste ano sobre novos recursos para proteger crianças, incluindo a verificação de fotos do iCloud dos usuários em busca de CSAM. Mas os defensores da privacidade temiam que a medida criasse um enorme backdoor para espionar contas de usuários. Posteriormente, a Apple retirou sua oferta. A Apple não respondeu imediatamente a um pedido de comentário enviado por e-mail.
A Apple e a Meta há muito discutem pública e privadamente sobre suas diferentes abordagens em questões políticas, como privacidade e verificação de idade. Mas Zuckerberg fez observações semelhantes sobre outros colegas da Meta. “YouTube, Twitter e Snap adotam uma abordagem semelhante, embora em menor grau”, escreveu ele. “O YouTube parece estar enterrando intencionalmente a cabeça na areia para evitar ser o centro das atenções e ficar fora do radar. O Twitter e o Snap podem não ter recursos para conduzir esse tipo de pesquisa.” Muitas plataformas têm partilhado publicamente pesquisas e iniciativas que estudam a segurança das suas plataformas há vários anos, incluindo: Conselho Consultivo para Jovens e Famílias do YouTube Composto por especialistas independentes Orientando o bem-estar dos adolescentes Não só a plataforma Índice de bem-estar digital do Snap (a partir de 2022).
“Acho que os esforços que fazemos para pesquisar, compreender e melhorar as questões sociais na nossa plataforma devem ser elogiados.”
Zuckerberg parecia acreditar que a reação do público à investigação interna foi injusta. “Acho que devemos ser elogiados pelos esforços que fazemos para pesquisar, compreender e melhorar as questões sociais em nossa plataforma”, escreveu ele. “Infelizmente, é mais provável que os meios de comunicação social utilizem estudos ou recomendações feitas para dizer que não estamos a fazer tudo o que podemos do que para dizer que estamos a levar estes problemas mais a sério do que qualquer outra pessoa na indústria, pesquisando-os e encontrando soluções. Nem tudo faz sentido implementar, porque tudo tem prós e contras.”
Em resposta aos e-mails, pelo menos dois altos executivos aprovaram a continuação de algum nível de investigação sobre questões sociais, apesar dos riscos para a percepção pública. “Os vazamentos são irritantes e continuarão a acontecer, a menos que encontremos uma maneira de erradicá-los”, escreveu Javier Olivan, então vice-presidente de produtos centrais. “Dado isto, ainda vale a pena tentar compreender estas questões? Penso que é a atitude responsável a fazer. Quero continuar a tentar compreender como podemos tornar os produtos melhores para todos. Mas talvez tenhamos de limitar a superfície a áreas onde existe pelo menos alguma correlação clara entre a utilização do produto e problemas específicos.” David Ginsberg, então vice-presidente de produto, escolha e concorrência, disse que concordou amplamente com os comentários de Olivan depois de “lutar muito com isso nos últimos dias”. “Além dos objetivos de questões sociais, acho que o trabalho interno é importante para entregar um bom produto e uma boa experiência do usuário.”
Poucos dias depois, Guy Rosen, executivo de produto que lidera o esforço de integridade, compartilhou diversas opções potenciais sobre como transformar a organização da empresa em torno de pesquisas internas e externas, incluindo os prós e os contras de cada uma. Rosen escreveu que este era apenas um “exercício preliminar/discricionário” para compreender o “espectro de opções”. Estas vão desde a centralização de equipas que pesquisam temas altamente sensíveis para controlar melhor o acesso aos materiais, até às opções mais extremas de dissolução de equipas que pesquisam temas sensíveis e subcontratação do trabalho quando necessário. Em última análise, os executivos recomendaram uma opção menos extrema de centralizar a equipe de pesquisa, que planejavam anunciar logo após o próximo depoimento do CEO do Instagram, Adam Mosseri, no Congresso. Em uma nova adição ao tópico de e-mail, Mosseri disse: “Publicar isso depois do meu testemunho (sic) é pior do que antes e já conversamos sobre isso. Vai vazar e vai fazer parecer que estou escondendo alguma coisa.” a meta acabou Anuncie mudanças Antes do depoimento de Mosseri, ele disse: continuar estudando Tópicos delicados, como o bem-estar dos adolescentes.
Num e-mail inicial, Zuckerberg lamentou que os vazamentos de documentos internos estivessem dificultando a realização desse trabalho. “Esta pode ser uma das razões pelas quais o resto da indústria escolheu uma abordagem diferente para estes problemas.”
Editado em 5 de fevereiro: Uma versão anterior escrevia incorretamente Frances Haugen.
