Espera-se que o “modo adulto” pendente da OpenAI para ChatGPT suporte conversas de texto envolventes no lançamento, mas não suportará a capacidade do chatbot de gerar imagens, som ou vídeo. Falar com Jornal de Wall Streetum porta-voz anônimo da OpenAI descreveu o conteúdo que o próximo recurso fornecerá como obsceno e não pornográfico, permitindo que os usuários do ChatGPT gerem bate-papos textuais com temas adultos.
O atraso também foi causado por preocupações internas e desafios técnicos em torno da proteção do recurso, de acordo com Jornal de Wall Streetrelatório. Um conselho consultivo selecionado pela OpenAI alertou a empresa em janeiro que o modo adulto do ChatGPT poderia ser acessível para crianças e promover uma dependência emocional prejudicial ao chatbot, com um membro não identificado do conselho dizendo que a OpenAI corria o risco de criar um “treinador suicida sexy”.
Problemas de moderação de conteúdo também contribuíram para o atraso. Uma fonte familiarizada com o assunto disse Jornal que a OpenAI está lutando para suspender as restrições do ChatGPT ao conteúdo NSFW e, ao mesmo tempo, limitar cenários mais perigosos, como aqueles que retratam comportamento não consensual ou abuso sexual de crianças.
O sistema de previsão de idade que a OpenAI desenvolveu para afastar as crianças do erotismo também, a certa altura, classificou erroneamente os menores como adultos em cerca de 12% das vezes. Considerando que o ChatGPT atrai aproximadamente 100 milhões de usuários menores de 18 anos a cada semana, essa taxa de erro poderia permitir que milhões de menores tivessem conversas sexuais com o chatbot. O algoritmo de previsão de idade da OpenAI teve desempenho semelhante ao resto da indústria, disse um porta-voz não identificado Jornalmas “nunca será completamente seguro”.
Manter conversas baseadas em texto pode tornar mais fácil para os criadores do ChatGPT navegar por regulamentações como a Lei de Segurança Online do Reino Unido, que exige que as plataformas online implementem a verificação de idade para imagens pornográficas, mas não para textos eróticos. Também contrasta com as experiências NSFW mais visualmente de fornecedores rivais de IA, como a contraparte “picante” Grok, com Elon Musk da xAI anunciando na semana passada que o gerador de imagem e vídeo de Grok pode produzir qualquer coisa “permitido em filmes com classificação R.”
