O Discord forçará algumas pessoas que usam seu aplicativo de mensagens a fazer uma escolha: usar uma plataforma com recursos limitados ou provar sua idade. É um movimento que a plataforma vem fazendo lentamente, mas o lançamento do Discord por padrão é um movimento ousado que pode fornecer um vislumbre do futuro da web mundial.
A partir do próximo mês, os usuários que não verificarem sua idade usando varreduras faciais ou identidade governamental não poderão mais acessar servidores e canais com restrição de idade, não poderão falar em canais de “palco” do Discord e verão filtros para qualquer conteúdo considerado vulgar ou sensível, bem como outras restrições. Eles só poderão passar na verificação de idade se o próximo modelo de inferência de idade do Discord determinar que eles são adultos. As regras são versões mais extremas de políticas implementadas por muitos serviços, muitas vezes em resposta a ações judiciais e pressões governamentais – mesmo que a tecnologia ainda não esteja pronta.
Meta, Reddit, Bluesky e Xbox, por exemplo, implementaram requisitos de verificação de idade em resposta às leis de segurança infantil em outros países, incluindo o Reino Unido e a Austrália. Em nível global, o Instagram fez um grande avanço em 2022 ao pedir aos usuários menores de idade que fizessem vídeos de selfie depois de mudarem sua idade para maiores de 18 anos e, em seguida, intensificou os esforços para identificar e atribuir adolescentes a contas mais privadas em 2024. Isso começou usa IA para digitalizar para sinalizar que o usuário pode estar mentindo sobre sua idade, como outras pessoas na plataforma desejando-lhe um feliz aniversário de 14 anos.
Em resposta às preocupações com a segurança infantil, o Google anunciou no ano passado que começaria a usar aprendizado de máquina para estimar a idade de seus usuários nos EUA com base nas informações que pesquisavam ou nos vídeos do YouTube que assistiam. Semelhante ao Instagram, o Google coloca usuários identificados como menores de 18 anos em contas mais restritivas criadas para adolescentes.
A OpenAI também lançou um modelo de previsão de idade baseado em IA no ChatGPT para identificar usuários menores de 18 anos e limitar o acesso a certos tipos de conteúdo, incluindo violência gráfica, dramatização sexual ou desafios virais perigosos. Este modelo funciona analisando o comportamento e os sinais no nível da conta, como idade do usuário, idade da conta e quando os usuários estão ativos. Outras plataformas de IA, incluindo Antrópica e Personagem.AItambém usa garantia de idade para detectar usuários menores de idade. E Roblox começou a forçar os usuários a passar por verificações de idade para conversar com outros jogadores em janeiro.
Mas como o Roblox é tão voltado para as crianças, o Discord é popular entre pessoas de todas as idades. E isso está aberto a todos os usuários, não apenas aos menores suspeitos, que estão potencialmente sujeitos a verificações de idade. Sua implementação global também impedirá que os usuários contornem as restrições acessando sites de outras regiões usando uma rede privada virtual (VPN). Muitos usuários do Discord responderam às mudanças recebidas com chamadas boicotar o aplicativocom alguns escolhem para sair da plataforma nem cancelou seu Nitro assinante.
O lançamento em março será um teste mais claro de quão bem o público aceita a ideia de ter seus rostos escaneados por seguranças de clubes de IA ou de fazer upload de identidades para coleta online, e se eles aceitarão os riscos que isso representa. No ano passado, um fornecedor terceirizado usado pelo Discord se envolveu em uma violação de dados, expondo informações do usuário e um “pequeno número” de imagens de identificação usadas para verificação de idade. Discord disse que “parou imediatamente” de trabalhar com o fornecedor para verificação após a violação.
Suzanne Bernstein, advogada do Electronic Privacy Information Center, conta Borda que impor restrições de idade a determinados recursos ou conteúdos não é uma “solução mágica” para a segurança. “A maneira de proteger não apenas as crianças, mas a segurança de todos online, é projetar produtos que sejam menos manipuladores e que apresentem menos risco de danos”, disse Bernstein.
Mas a verificação da idade, e não o design cuidadoso, tornou-se a resposta padrão da plataforma à pressão de todo o mundo. Eles operaram em países individuais ou nos bastidores por meio de IA – agora, estão na frente e no centro dos principais aplicativos sociais.
