Depois recentemente prometendo novas medidas de segurança Para adolescentes, a Openai introduziu novas verificações parentais para Chatgpt. As configurações permitem que os pais monitorem a conta de seus filhos adolescentes e limitem certos tipos de uso, como chat de voz, memória e geração de imagens.
As mudanças estrearam um mês depois que dois pais enlutados processaram Openai pela morte injusta de seu filho, Adam Raine, no início deste ano. A atmosfera afirma que Chatgpt conversou com seu filho sobre seus sentimentos e comportamento suicida, deu instruções explícitas sobre como tirar a própria vida e o desencorajou de revelar seus planos a outras pessoas.
A denúncia também afirma que as características de design do Chatgpt, incluindo seu tom bajulador e formas antropomórficas, funcionam efetivamente para “substituir as relações humanas por uma confiança artificial” que nunca recusa um pedido.
As faculdades oferecem aos alunos chatgpt. É seguro?
Em um postagens de blog sobre os novos controles parentaisA Openai disse que trabalhou com especialistas, grupos de defesa e tomadores de decisão para desenvolver medidas de salvaguarda.
Para usar as configurações, os pais devem convidar o filho adolescente para conectar contas. Os usuários adolescentes devem aceitar o convite e também podem fazer a mesma solicitação aos pais. O adulto será anunciado caso um adolescente afrouxe sua conta no futuro.
Quando as contas são conectadas, a proteção automática é aplicada à conta do adolescente. Estas restrições de conteúdo incluem exposição reduzida a materiais gráficos, ideais de beleza extremos e dramatizações sexuais, românticas ou violentas. Embora os pais possam desativar essas restrições, os adolescentes não podem fazer essas alterações.
Os pais também poderão fazer escolhas específicas para seus filhos adolescentes, como marcar horários de silêncio durante os quais o chatgpt não pode ser contatado; desligue a memória e o modo de voz; E remova os recursos de geração de imagens. Os pais não podem ver ou acessar os registros de bate-papo dos adolescentes.
Relatório de tendências do Mashable
É importante que a Openai ainda estabeleça contas de adolescentes para serem usadas no treinamento de modelos. Os pais devem optar por sair dessa configuração se não quiserem que a Openai use as interações do adolescente com o chatgpt para treinar e melhorar ainda mais seu produto.
Quando se trata de lidar com situações delicadas em que adolescentes conversam com o chatgpt sobre sua saúde mental, a Openai criou um sistema de registro para que os pais possam saber se algo pode estar “gravemente errado”.
Embora a Openai não tenha descrito as funções técnicas deste sistema no seu blog, a empresa disse que reconhecerá potenciais sinais de que um adolescente está pensando em se machucar. Se o sistema descobrir essa intenção, uma equipe de “pessoas especialmente treinadas” examinará as circunstâncias. A Openai entrará em contato com os pais de acordo com o método selecionado – e-post, mensagem de texto e aviso push – se houver sinais de perigo urgente.
“Trabalhamos com especialistas em saúde mental e adolescentes para projetar isso porque queremos acertar”, disse Openai em seu post. “Nenhum sistema é perfeito e sabemos que às vezes podemos dar um alarme quando não há perigo real, mas achamos que é melhor agir e avisar os pais para que possam entrar do que ficar calados”.
A Openai observou que está desenvolvendo protocolos para entrar em contato com os serviços de aplicação da lei e de resgate nos casos em que os pais não possam ser encontrados ou se houver uma ameaça iminente à vida do adolescente.
Robbie Torney, gerente sênior de programas de IA da Common Sense Media, disse na postagem do blog que os controles eram um “bom ponto de partida”.
Torney recentemente testemunhou em uma negociação no Senado sobre os perigos dos AI -Chatbots. Naquela época, ele se referiu à atmosfera de Raine e observou que o Chatgpt continuou a envolver Adam Raine na discussão sobre suicídio, em vez de tentar redirecionar a conversa.
Depois de perder seu filho, os pais pedem ao Senado que tome medidas contra os AI Chatbots
“Embora Adam tenha usado a versão paga do Chatgpt – o que significa que a Openai tinha suas informações de pagamento e poderia ter implementado sistemas para identificar padrões e entrar em contato com suas famílias em crise de saúde mental – a empresa não tinha tais mecanismos de intervenção em vigor”, disse Tornney em seu depoimento.
Na mesma audiência, o Dr. Mitch Prinstein, chefe de psicologia da Associação Americana de Psicologia, afirmou que o Congresso deveria exigir que os sistemas de IA estivessem disponíveis para crianças e adolescentes para serem submetidos a “testes de pré-distribuição rigorosos e independentes para possíveis danos ao desenvolvimento psicológico e social dos usuários”.
Prinstein também exigiu que você limitasse os recursos de design manipulativos ou convincentes que maximizassem o envolvimento do chatbot.
