Meta enfrentou algumas questões sérias sobre como usuários menores de idade podem interagir com seu chatbot com tecnologia de IA. As comunicações internas mais recentes obtidas do Gabinete do Procurador-Geral do Novo México mostram que o CEO da Meta, Mark Zuckerberg, se opôs a que os chatbots tivessem conversas “explícitas” com menores, mas também rejeitou a ideia de colocar controles parentais no recurso.
Reuters relatado Em uma troca entre dois funcionários não identificados da Meta, um deles escreveu: “Fizemos muita pressão para desligar a GenAI por meio do controle dos pais, mas a liderança da GenAI recuou, citando a decisão de Mark”. Em comunicado à publicação, Meta acusou o procurador-geral do Novo México de “selecionar documentos para pintar um quadro falho e impreciso”. O Novo México processou a Meta, alegando que a empresa “não conseguiu conter o fluxo de material sexual prejudicial e sugestões sexuais direcionadas a crianças”. O caso está previsto para ir a julgamento em fevereiro.
Apesar de estar disponível apenas por um curto período de tempo, o chatbot do Meta já acumulou um histórico de comportamento ofensivo, se não totalmente ilegal. abril de 2025, jornal de Wall Street A pesquisa mostrou que os chatbots da Meta podem se envolver em conversas sexuais fantasiosas com menores ou incentivá-los a se envolverem em conversas sexuais imitando menores. O relatório afirmava que Zuckerberg queria uma segurança mais flexível implementada em torno dos chatbots da Meta, mas um porta-voz negou que a empresa tivesse ignorado as proteções para crianças e adolescentes.
Um documento de revisão interna divulgado em agosto de 2025 detalhou várias situações hipotéticas sobre qual comportamento do chatbot seria aceitável, e os limites entre sensual e sexual pareciam bastante confusos. O documento também permitiu que o chatbot afirmasse conceitos racistas. Na altura, um funcionário disse ao Engadget que a linguagem ofensiva era uma hipótese e não uma política real e que não parecia ser uma grande melhoria e foi removida do documento.
Apesar de vários casos de uso questionável de chatbot, Meta decidiu na semana passada pausar o acesso ao chatbot para contas de jovens. A empresa disse que removeria temporariamente o acesso enquanto trabalhava no controle dos pais, que Zuckerberg teria se recusado a usar.
“Há muito tempo que os pais conseguem ver se seus filhos adolescentes estão conversando com IA no Instagram, e em outubro passado anunciamos planos para construir novas ferramentas para dar aos pais mais controle sobre as experiências de seus filhos com personagens de IA”, disse um representante da Meta. “Na semana passada, fortalecemos mais uma vez nosso compromisso de cumprir nosso compromisso de proteger as crianças contra a IA, pausando completamente o acesso dos adolescentes aos personagens de IA até que uma versão atualizada esteja pronta.”
O Novo México abriu esta ação contra a Meta em dezembro de 2023, alegando que a plataforma da empresa falhou em proteger menores do assédio de adultos. Documentos internos divulgados no início da denúncia mostraram que 100 mil crianças usuárias eram assediadas todos os dias no serviço Meta.
Atualização, 27 de janeiro de 2025, 18h52 ET: Adicionada declaração do porta-voz da Meta.
Atualização, 27 de janeiro de 2025, 18h15 ET: Corrigido um cronograma incorreto para uma ação judicial no Novo México movida em dezembro de 2023, em vez de dezembro de 2024.
