Uma lei que exige que as redes sociais removam rapidamente deepfakes sexuais e outras imagens não consensuais está agora totalmente aplicada. Mas os especialistas alertam que a política pouco faz para ajudar as vítimas e, na pior das hipóteses, poderia encorajar a censura online.
Em maio passado, o presidente Donald Trump assinou o Take It Down Act, uma lei que trata de imagens íntimas não consensuais (NCII). A lei imediatamente tornou crime a distribuição de NCII, seja real ou gerado por IA. muitos estados Já estamos fazendo isso, pelo menos em parte. Mas a cláusula de retirada homônima é mais ampla. Ela entrará em vigor em 19 de maio de 2026, um ano após a aprovação do projeto de lei, e as plataformas online terão que remover o NCII dentro de 48 horas ou enfrentarão multas.
Andrew Ferguson, presidente da Comissão Federal de Comércio Enviamos cartas para mais de uma dúzia de empresas de tecnologia. Antes do prazo, a FTC divulgou uma lista que incluía Amazon, Alphabet, Apple, Automattic, Bumble, Discord, Match Group, Meta, Microsoft, Pinterest, Reddit, SmugMug, Snapchat, TikTok e X. Ela direcionou as plataformas para fornecer aos usuários um processo fácil de solicitação de remoção e para remover conteúdo ofensivo, bem como “cópias idênticas conhecidas” dentro de 48 horas. A agência responsável pela aplicação da lei lembrou às empresas que a violação da lei poderia resultar em penalidades civis de mais de US$ 53.000 por violação.
Principais plataformas como Meta, Microsoft, Google, TikTok, Snap, etc. apoiou o projeto de leiEle expressou confiança de que poderia obedecer. Snap disse. postagem no blog Afirmou no ano passado que isto era “consistente e complementa os nossos esforços contínuos”. A porta-voz Monique Bellamy disse: A beira Continuamos a “evoluir” os nossos sistemas de segurança, incluindo investimentos em ferramentas e tecnologia para detectar e agir proativamente em relação a nus indesejados e imagens semelhantes.
Cindy Southworth, diretora de segurança feminina da Meta, disse que a empresa “luta há muito tempo para remover o abuso de imagens íntimas de nossas plataformas, inclusive ajudando a desenvolver ferramentas para detectá-lo”. Desenvolvedor de aplicativo de ‘nudez’ de IA é processado Está quebrando as regras. Southworth acrescentou que as ferramentas da empresa são treinadas para não atender pedidos de nudez. “Continuamos a apoiar a Lei TAKE IT DOWN, que é um passo importante na abordagem desses abusos na Internet, e já a acompanhamos há vários meses.” O porta-voz da TikTok nos EUA, Mahsau Cullinane, disse que a empresa tem uma política de tolerância zero em relação ao NCII e apontou suas parcerias com NCMEC e StopNCII.org. A empresa oferece atualmente comida Ferramentas no aplicativo para relatórios.
Até o X, que tem uma história muito complicada com imagens sexuais de IA, apoiou esta lei. A empresa permitiu a disseminação de um deepfake de IA sexualmente explícito de Taylor Swift em 2024, seguido semanas depois por um vídeo que os usuários supostamente mostravam o rapper Drake realizando um ato sexual. Recentemente, houve muitos casos em que os usuários chamaram o chatbot de IA integrado Grok para tirar a roupa do usuário sem consentimento. tempos de Nova York analisar Grok compartilhou “pelo menos 1,8 milhão de imagens sexuais femininas” em apenas nove dias, embora algumas estimativas sejam muito mais altas.
O presidente foi sarcástico em suas palavras. Discurso sobre o Estado da União de 2025 “Eu pagarei essa conta.”
Mas as disposições de remoção da lei surpreenderam tanto os defensores da liberdade de expressão como os opositores ao abuso online, incluindo aqueles que apoiam largamente a parte da lei sobre a criminalização. Mesmo quando implementadas de boa fé, as leis de remoção podem encorajar as empresas a moderar excessivamente o conteúdo não ofensivo para reduzir o risco. Sob a administração Trump, a Lei Take It Down poderia tanto dar um passe livre às plataformas amigas de Trump como tornar-se uma arma contra os inimigos políticos. O presidente foi sarcástico em suas palavras. Discurso sobre o Estado da União de 2025 “Vou usar essa conta para mim.” Porque “ninguém é tratado pior do que eu sou tratado online”. Linda Yaccarino, então CEO do X participou da cerimônia de assinaturaO presidente Trump, que contratou o então proprietário Elon Musk, elogiou-a, dizendo que ela estava “fazendo um excelente trabalho”.
Mary Anne Franks, diretora executiva da Cyber Civil Rights Initiative, que defende políticas para combater o abuso sexual baseado em imagens, disse que os comentários de Trump eram “exatamente o oposto da verdade”. Ela estava cética quanto à possibilidade de a lei ser aplicada de forma justa, como Trump mencionou no seu discurso sobre o Estado da União. “É estranho dizer isso, mas este é um anúncio do mais alto nível de que esta lei não será usada de forma baseada em princípios, mas para acertar contas pessoais”, diz ela.
Franks “suspeita” do motivo pelo qual as principais plataformas tecnológicas, que normalmente protestam contra as novas regulamentações como um fardo para a liberdade de expressão, apoiaram a lei. “Meu medo sobre isso, e espero estar errado, é que a razão pela qual as empresas não estão chateadas com isso é porque elas sabem que isso não será realmente usado contra elas”, diz ela. Só isso poderia fazer com que a lei proporcionasse falsas esperanças às vítimas do NCII.
“Esta é uma declaração do mais alto nível de que esta lei não será usada em princípio.”
Mas Franks também teme que a lei possa ser aplicada contra plataformas que a administração considera visíveis, como a Wikipédia. “Acho que a pior coisa que pode acontecer é que se transforme num tigre de papel para empresas que estão a fazer as piores coisas, a distribuir punições e a perseguir plataformas impopulares e a censurar o seu discurso”, diz Franks. O discurso pode incluir especificamente linguagem LGBTQ+. Cuidados de confirmação de gênero Os crimes contra jovens transgénero já estão a ser alvo da FTC. “Estou muito preocupado que o acordo esteja a ser usado como desculpa para reprimir ainda mais o material sexualmente explícito ou o material educativo, especialmente para crianças que exploram a sua identidade de género ou orientação sexual”, afirma Franks. Mesmo que um tribunal decida que não se enquadra no âmbito da lei, enviaria uma mensagem clara às plataformas sobre como a arbitragem será conduzida.
Outros grupos incluindo Fundação Fronteira Eletrônica (EFF), Instituto Katoe conhecimento públicoA EFF chamou isso de método de “exagero e censura” e alertou que as disposições de notificação e remoção poderiam ter sérias consequências para o discurso.
Enquanto isso, a lei pode não cobrir nem mesmo o que parecem ser violações digitais fragmentadas do consentimento. Por exemplo, algumas das imagens sexuais não consensuais de Grok podem não ser consideradas sexualmente explícitas. Não está claro se ferramentas de IA como Grok seriam consideradas “criadores” sob o NCII, o que poderia sujeitar seus proprietários a responsabilidade criminal, e também não está claro se as imagens estariam sujeitas a disposições de remoção se fossem criadas de forma privada.
No primeiro ano de sua promulgação, o Ministério da Justiça Eles disseram que usaram É uma disposição criminal da Lei Take It Down que levou à condenação de um homem de Ohio que criou deepfakes de IA sexualmente explícitos para assediar as vítimas. O impacto das disposições de remoção poderá ser sentido mais imediatamente. Mas a questão é se estes resultados tornarão a Internet mais segura.
