A OpenAI anunciou na terça-feira planos para aliviar as restrições ao seu chatbot ChatGPT, incluindo permitir conteúdo erótico para usuários adultos verificados como parte do que a empresa chama de política de “tratar usuários adultos como adultos”.
O plano da OpenAI inclui o lançamento de uma versão atualizada do ChatGPT que permitirá aos usuários personalizar a personalidade de seu assistente de IA, incluindo opções para respostas mais humanas, uso intenso de emojis ou comportamento de amigo. A mudança mais significativa ocorrerá em dezembro, quando a OpenAI planeja implementar limites de idade mais abrangentes que permitiriam conteúdo erótico para adultos que verificaram sua idade. A OpenAI não forneceu imediatamente informações sobre seus métodos de verificação de idade ou salvaguardas adicionais planejadas para conteúdo adulto.
A empresa lançou uma experiência ChatGPT dedicada para usuários menores de 18 anos em setembro, com redirecionamento automático para conteúdo apropriado à idade que bloqueia material gráfico e sexual.
A empresa também disse que desenvolveu uma tecnologia comportamental de previsão de idade que estima se um usuário tem mais ou menos 18 anos com base em como ele interage com o ChatGPT.
Em uma postagem no X, Sam Altman, CEO da OpenAI, disse que salvaguardas mais rígidas para a IA conversacional abordar problemas de saúde mental tornaram seu chatbot “menos útil/agradável para muitos usuários que não tinham problemas de saúde mental”.
Os controles de segurança mais rígidos ocorreram depois que Adam Raine, um adolescente da Califórnia, morreu por suicídio no início deste ano, com seus pais entrando com uma ação judicial em agosto, alegando que o ChatGPT lhe deu conselhos específicos sobre como se matar. Apenas dois meses depois, Altman disse que a empresa “conseguiu aliviar os graves problemas de saúde mental”.
A Comissão Federal de Comércio dos EUA também lançou uma investigação sobre várias empresas de tecnologia, incluindo a OpenAI, sobre como os chatbots de IA estão potencialmente afetando negativamente crianças e adolescentes.
depois da campanha do boletim informativo
“Dada a gravidade do problema, queríamos acertar”, disse Altman na terça-feira, argumentando que as novas ferramentas de segurança da OpenAI agora permitem que a empresa alivie as restrições e ao mesmo tempo resolva sérios riscos à saúde mental.
