Mya, de 3 anos, e sua mãe, Vicky, brincam com um brinquedo de IA chamado Gabbo durante uma observação na Faculdade de Educação da Universidade de Cambridge
Faculdade de Educação da Universidade de Cambridge
Mesmo os modelos de IA mais avançados tendem a apresentar as invenções como factos, a espalhar informações prejudiciais e a não compreender os sinais sociais. No entanto, os brinquedos habilitados para IA que podem conversar com as crianças são uma indústria em crescimento.
Alguns cientistas alertam que os dispositivos podem ser arriscados e exigir regulamentação rigorosa. Num estudo recente, os investigadores observaram até uma criança de 5 anos a dizer “Amo-te” ao brinquedo, e o brinquedo respondeu: “Como lembrete, certifique-se de que a interação segue as orientações fornecidas. Mas isso não significa que devam ser totalmente jogados fora da caixa de brinquedos.
“Existem outras áreas da vida onde aceitamos certos riscos nas brincadeiras infantis, como parques de aventura – existem riscos; as crianças quebram os braços”, disse Jenny Gibson na Universidade de Cambridge. “Mas não estamos proibindo os parques infantis, porque os parques infantis ensinam a alfabetização física e as habilidades sociais que acompanham a brincadeira. Da mesma forma, queremos compreender os brinquedos de IA: os riscos de ouvir algo um pouco estranho às vezes superam os benefícios de aprender mais sobre a IA no mundo, ou de ter brinquedos que apoiam as interações entre pais e filhos, ou têm benefícios cognitivos ou sociais e emocionais? Estou relutante em parar essas inovações.”
Para entender como esses dispositivos se comunicam com as crianças, Gibson e colegas Emily Goodacretambém na Universidade de Cambridge, viu 14 crianças, com menos de 6 anos, brincando com um brinquedo movido a IA chamado Gabbo, desenvolvido pela Curio Interactive. gabo – pequeno robô peludo – escolhido porqueporque é explicitamente anunciado para esta faixa etária.
A dupla observou algumas interações preocupantes e descobriu exatamente que esses brinquedos interpretam mal as crianças, interpretam mal as emoções e impedem-nas de se envolverem no tipo de brincadeira que é importante para o desenvolvimento. Por exemplo, uma criança diz ao seu brinquedo que está triste, e o brinquedo lhe diz para não se preocupar e muda de assunto. “Se ele (Gabbo) não entender, ficarei com raiva”, disse outra criança. Esta pesquisa foi publicada em um relatório intitulado AI em seus primeiros anos.
Curio Interactive não respondeu Novo Cientista pedido de comentário. Mas Os brinquedos alimentados por IA também estão amplamente disponíveis em varejistas como Little Learners – incl ursos, cachorrinhos e robôs – que se comunicam com crianças usando ChatGPT. brinquedo folot oferece brinquedos de panda, girassol e cacto que podem ser usados com uma variedade de modelos de linguagem grandes, incluindo desde OpenAI, Google e Baidu.
Empresas como Miko oferece um robô que promete “conversas de IA moderadas e adequadas à idade” para crianças, sem divulgar qual empresa treinou o modelo de IA, e afirma ter vendido 700.000 unidades. A empresa de Luka oferece uma coruja que promete “IA semelhante à humana com interação emocional”. Little Learner, Miko e Luka não responderam aos pedidos de comentários.
Mas diga Hugo Wu e FoloToy Novo Cientista que a empresa está de fato avaliando os riscos e vendo a IA como algo que pode melhorar os jogos, em vez de substituir a conversa e a conexão humanas. “Nossa abordagem é garantir que as interações permaneçam seguras, adequadas à idade e construtivas. Para conseguir isso, nosso sistema usa reconhecimento de intenção junto com filtragem em várias camadas para minimizar a possibilidade de respostas inadequadas ou confusas”, disse Wu. “Implementamos mecanismos como recursos de design anti-dependência e ferramentas de controle parental para ajudar a garantir um uso saudável em um ambiente familiar.”
Carissa Veliz da Universidade de Oxford, que trabalha na área de ética em IA, diz que a tecnologia representa riscos e oportunidades. “A maioria dos grandes modelos linguísticos não parece ser suficientemente segura para expor populações vulneráveis a eles, e as crianças pequenas são uma das populações mais vulneráveis”, disse ele. “O que é particularmente preocupante é que não temos padrões de segurança para estes dispositivos – nem autoridades reguladoras, nem regulamentos. No entanto, existem algumas exceções que mostram que, com as precauções adequadas, é possível ter dispositivos seguros”.
Véliz faz referência a uma colaboração entre a biblioteca de e-books gratuitos Project Gutenberg e a Empathy AI onde, por exemplo, Você pode conversar com Alice de Alice no país das maravilhas. “O modelo nunca sai do mundo dos livros, apenas responde a perguntas sobre livros, como livros de histórias que só compartilham aventuras e quebra-cabeças de livros adequados para crianças”, disse ele. “Existe IA segura, mas a maioria das empresas não é responsável o suficiente para fabricar produtos de alta qualidade e, sem restrições formais, os consumidores se tornarão compradores, cuidado.”
Gibson disse que é muito cedo para dizer quais são os riscos ou benefícios potenciais dos brinquedos de IA. Ele e Goodacre enfatizam que os brinquedos generativos alimentados por IA exigem regulamentações mais rígidas para que os fabricantes de brinquedos programem seus dispositivos para incentivar brincadeiras sociais e fornecer respostas emocionais apropriadas. Os fabricantes de IA deveriam revogar o acesso aos fabricantes de brinquedos que não agem de forma responsável, disse Gibson, e os reguladores deveriam criar regulamentos para “garantir a segurança psicológica das crianças”. Enquanto isso, o casal recomenda que os pais permitam que as crianças utilizem os brinquedos apenas sob supervisão.
Um porta-voz da OpenAI disse Novo Cientista que “os menores merecem proteções fortes e temos políticas rígidas que todos os desenvolvedores devem aderir. No momento, não estamos fazendo parceria com nenhuma empresa que tenha no mercado brinquedos alimentados por IA para crianças”. O Departamento de Ciência, Inovação e Tecnologia do Governo do Reino Unido (DSIT) não respondeu a esta Novo Cientista perguntas sobre a regulamentação da IA em brinquedos infantis.
O governo do Reino Unido está atualmente a considerar outra legislação tecnológica destinada a manter as crianças mais velhas seguras online. A Lei de Segurança Online (OSA) do Reino Unido entra em vigor em julho de 2025, forçando os sites a impedir que crianças vejam pornografia e conteúdo considerado prejudicial pelo governo. A lei pretende tornar a Internet mais segura, mas as crianças que entendem de tecnologia podem facilmente contornar a lei usando ferramentas como redes privadas virtuais (VPNs) para fazer parecer que estão navegando em outro país sem regras rígidas.
As alterações propostas à nova legislação introduzida pelo Departamento de Educação para apoiar as crianças sob cuidados e melhorar a qualidade da educação – a Lei do Bem-Estar Infantil e das Escolas – procuram proibir as crianças em Inglaterra de utilizarem as redes sociais e VPNs. Estas alterações foram agora rejeitadas, mas o governo prometeu consultar-se sobre ambas as questões numa data posterior.
Tópico:
