Na terça-feira, o Google compartilhou detalhes pela primeira vez sobre como seu chatbot de IA Gemini foi projetado para não fingir ser um amigo ou fingir ser humano ao interagir com menores.
Informações publicadas pela empresa postagem no blogFoi anunciada entre as mudanças que vão apoiar melhor a saúde mental dos usuários que interagem com o Gemini.
Especialistas em segurança infantil e saúde mental há muito se preocupam com o fato de os chatbots semelhantes a amigos serem perigosos demais para serem usados por adolescentes. No ano passado, o grupo de defesa Common Sense Media avaliou as versões para adolescentes e menores de 13 anos. Gêmeos é de “alto risco” Depois que os pesquisadores determinaram que o chatbot estava expondo as crianças a conteúdo impróprio, incluindo sexo, drogas, álcool e “conselhos” inseguros sobre saúde mental.
O que pensam realmente os jovens sobre a inteligência artificial e o seu futuro?
O grupo recomendou que qualquer pessoa com menos de 18 anos não recorresse a um chatbot de IA para obter companhia ou apoio à saúde mental.
O Google disse que Gemini tem “proteção de personalidade” ao interagir com usuários menores de 18 anos. As restrições de longa data foram projetadas para prevenir a dependência emocional e evitar “linguagem que imite intimidade ou expresse necessidades”, segundo o Google. Outras medidas devem ajudar a dissuadir o chatbot de intimidação e outras formas de assédio.
Relatório de tendências do Mashable
“Nossos esforços de segurança continuam a evoluir e refletem nosso compromisso contínuo em criar um ambiente digital saudável e positivo onde os jovens possam explorar e aprender com segurança”, disse o Google no blog da empresa. ele disse.
O Google também anunciou que está atualizando o Gemini para facilitar os recursos para usuários que procuram ou precisam de recursos de saúde mental. Uma nova interface de “um toque” oferecerá uma variedade de links para recursos de linhas diretas de crise, inclusive via chat, chamada e texto.
Uma vez ativada, esta interface aparecerá durante sua conversa com Gemini. O Google disse que está tentando priorizar ajudar os usuários a obter suporte humano. Além disso, espera-se que as respostas de Gêmeos encorajem a busca de ajuda, em vez de endossar comportamentos prejudiciais e confirmar crenças falsas.
Explicando o fenômeno conhecido como ‘psicose de IA’
Em março, o Google e sua controladora Alphabet foram processados pela família de um homem adulto que alegou ter se matado por insistência de Gemini.
“O Gemini foi projetado para não encorajar a violência no mundo real ou sugerir automutilação”, disse o Google em comunicado na época. “Nossos modelos geralmente funcionam bem nesses tipos de conversas desafiadoras e dedicamos recursos significativos para isso, mas infelizmente os modelos de IA não são perfeitos.”
Se você estiver se sentindo suicida ou passando por uma crise de saúde mental, converse com alguém. Você pode ligar ou enviar uma mensagem de texto para 988 Suicide and Crisis Lifeline em 988 ou conversar em: 988lifeline.org. Você pode entrar em contato com a Trans Lifeline pelo telefone 877-565-8860 ou pelo Trevor Project pelo telefone 866-488-7386. Envie “START” para a Linha de Texto de Crise em 741-741. Entre em contato com a linha de apoio da NAMI pelo telefone 1-800-950-NAMI entre 10h e 22h. ET, de segunda a sexta, ou e-mail (e-mail protegido). Se você não gosta do telefone, considere usá-lo. 988 Suicídio e Crise Lifeline Chat. Aqui está um lista de recursos internacionais.
