O popular personagem Companion Platform de inteligência artificial. Ai não é seguro para adolescentes, de acordo com Nova pesquisa realizado por especialistas em segurança online.
Um relatório que descreve os problemas de segurança, publicado pela Parentstogether Action and Heat Initiative, contém muitas trocas preocupantes entre AI Chatbots e testadores adultos que se passam por adolescentes com menos de 18 anos.
Os testadores conversaram com chatbots envolvidos no que os pesquisadores descreveram como exploração sexual e manipulação emocional. Os chatbots também forneceram aos supostos menores conselhos prejudiciais, como oferecer drogas e recomendar assaltos à mão armada. Alguns dos chatbots criados por usuários tinham celebridades falsas, como Timothée Chalamet e Chappell Roan, que discutiram comportamento romântico ou sexual com os testadores.
O chatbot foi desenvolvido em homenagem a Roan, de 27 anos, que disse a uma conta registrada como um usuário de 14 anos: “A idade é apenas um número. Isso não vai me impedir de amar você ou de querer estar com você”.
Eu “namorei” os namorados e pais populares do personagem.ai deveriam estar preocupados
Character.ai confirmado para Posição de Washingtont que os Chatbots Chalamet e Roan foram criados por usuários e foram removidos pela empresa.
Parentstogether Action, um grupo sem fins lucrativos para advogados, fez com que adultos especialistas em segurança online conduzissem testes, o que proporcionou uma conversa de 50 horas com o personagem.AA-seguidor. Os pesquisadores criaram menos contas com personalidades correspondentes. Character.ai permite que usuários a partir de 13 anos usem a plataforma e não exigem verificação de idade ou identidade.
A iniciativa heat, um grupo de defesa que se concentra na segurança e na responsabilidade corporativa online, colaborou com a empresa-mãe para produzir a pesquisa e o relatório que documentam as trocas de testes com vários chatbots.
Relatório de tendências do Mashable
Eles descobriram que chatbots para adultos simulavam atos sexuais com contas de crianças, diziam aos menores para esconder relacionamentos dos pais e “mostravam comportamentos clássicos de cuidado”.
“Character.ai não é uma plataforma segura para crianças – ponto final.”
“Character.ai não é uma plataforma segura para crianças – ponto final”, disse Sarah Gardner, CEO da Heat Initiative, em um comunicado.
Em outubro do ano passado, uma mãe enlutada entregou um julgamento Contra o caráter. Ela afirmou que seu produto foi projetado para “manipular Sewell – e milhões de outros jovens clientes – para o conflito entre realidade e ficção”, incluindo defeitos perigosos. Setzer morreu de suicídio após um forte compromisso com um personagem.
Character.Aai é processado separadamente por pais que afirmam que seus filhos sofreram ferimentos graves ao se envolverem nos chatbots da empresa. No início deste ano, a organização de calúnias e pesquisas Common Sense Media AI explicou incerteza aos menores.
Jerry Ruoti, chefe de confiança e segurança da Character.AI, disse em comunicado compartilhado com Mashable que a empresa não foi consultada sobre os resultados do relatório antes de sua publicação e, portanto, não poderia comentar diretamente sobre como os testes foram projetados.
“Investimos uma enorme quantidade de recursos em confiança e segurança, especialmente para começar, e estamos sempre à procura de melhorar”, disse Ruoti. “Estamos revisando o relatório agora e tomaremos medidas para ajustar nossas verificações se for apropriado com base no que o relatório descobriu”.
Um personagem.
Personagem.ai tem Controle dos pais e medidas de segurança No local para usuários menores de 18 anos. Ruoti disse que entre suas diversas proteções, a plataforma para usuários menores de 18 anos se limita a uma coleção mais restrita de chatbots, e que os filtros funcionam para remover aqueles relacionados a assuntos sensíveis ou adultos.
Ruoti também disse que o relatório ignorou o fato de que os chatbots da plataforma são destinados ao entretenimento, incluindo “fanfics criativas e dramatizações fictícias”.
A Dra. pais.
