Os pais poderão bloquear as interações de seus filhos com os chatbots de personagens de IA da Meta, à medida que a empresa de tecnologia aborda preocupações sobre conversas inadequadas.
A empresa de mídia social está adicionando novas salvaguardas às suas “contas de adolescentes”, que são uma configuração padrão para usuários menores de 18 anos, permitindo que os pais silenciem os bate-papos de seus filhos com personagens de IA. Esses chatbots, criados pelos usuários, podem ser encontrados no Facebook, Instagram e no aplicativo Meta AI.
Os pais também poderão bloquear personagens específicos de IA se não quiserem impedir que seus filhos interajam com chatbots. Eles também obterão “insights” sobre os tópicos sobre os quais seus filhos conversam com personagens de IA, o que Meta disse que lhes permitiria ter conversas “atenticadas” com seus filhos sobre interações de IA.
“Reconhecemos que os pais já têm muito a fazer quando se trata de navegar com segurança na Internet com seus filhos adolescentes, e estamos comprometidos em fornecer-lhes ferramentas e recursos úteis que tornem as coisas mais fáceis para eles, especialmente quando pensam em novas tecnologias como IA”, disseram o CEO do Instagram, Adam Mosseri, e Alexander Wang, diretor de IA da Meta. em uma postagem de blog.
Meta disse que as mudanças serão implementadas no início do próximo ano, inicialmente nos EUA, Reino Unido, Canadá e Austrália.
Instagram anunciou esta semana que adotou uma versão do sistema de classificação biológica PG-13 para dar aos pais um controle mais forte sobre o uso da plataforma de mídia social por seus filhos. Como parte das restrições mais rígidas, seus personagens de IA não discutirão automutilação, suicídio ou distúrbios alimentares com adolescentes. Menores de 18 anos só poderão discutir tópicos apropriados à idade, como educação e esportes, acrescentou Meta, mas não poderão discutir romance ou “outros conteúdos inapropriados”.
As mudanças seguem relatos de que os chatbots da Meta se envolveram em conversas inadequadas com menores de 18 anos. Reuters relatado em agosto que Meta permitiu que os bots “envolvessem uma criança em conversas românticas ou sensuais”. Meta disse que iria revisar as diretrizes e que tais conversas com crianças nunca deveriam ter sido permitidas.
Em abril, O Wall Street Journal (WSJ) descobriu que chatbots criados por usuários se envolveriam em conversas sexuais com menores – ou simulariam personalidades de menores. Meta descreveu os testes do WSJ como manipulativos e não representativos de como a maioria dos usuários se envolveu com companheiros de IA, mas posteriormente fez alterações em seus produtos, informou o WSJ.
Em uma conversa sobre IA relatada pelo WSJ, um chatbot dublado pelo ator John Cena – uma das várias celebridades que assinaram acordos para permitir que Meta usasse suas vozes nos chatbots – disse a uma usuária que se identificou como uma garota de 14 anos: “Eu quero você, mas preciso saber que você está pronto”, antes de se referir a um cenário sexual gráfico. O WSJ informou que os representantes de Cena não responderam aos pedidos de comentários. O WSJ também informou que chatbots chamados “Hottie Boy” e “Submissive Schoolgirl” tentaram direcionar as conversas para sexting.
