A OpenAI suspendeu indefinidamente seus planos de adicionar um “modo adulto” erótico ao ChatGPT. O Financial Times informou na quarta-feira.O recurso encerrou uma saga de cinco meses que foi anunciada com confiança, adiada duas vezes e finalmente abandonada devido à reação de funcionários, consultores e investidores. O recuo é a terceira grande reviravolta de produto da OpenAI em uma semana, após o encerramento de seu aplicativo de criação de vídeo Sora na segunda-feira e o subsequente descarrilamento do plano de investimento de US$ 1 bilhão da Disney.
O Modo Adulto está confiante de que a OpenAI será capaz de restringir o diálogo sexualmente explícito por idade, escreveu o CEO Sam Altman no X em outubro de 2025, acrescentando que a mudança “Trate os usuários adultos como adultos..” Estava originalmente previsto para dezembro de 2025, mas foi adiado para o primeiro trimestre de 2026, e agora foi adiado sem cronograma de lançamento. A OpenAI disse ao Financial Times que planeja conduzir “pesquisas de longo prazo sobre o impacto do bate-papo sexualmente explícito e do apego emocional” antes de tomar uma decisão sobre o produto.
O que está errado?
Os problemas eram técnicos, éticos e comerciais, complicando-se mutuamente. Os engenheiros que trabalharam nesse recurso descobriram que os modelos de treinamento criados para evitar conteúdo sexual por motivos de segurança estavam achando mais difícil do que o esperado gerar material explícito de maneira confiável. O modelo também produziu resultados relacionados a cenários ilícitos, como bestialidade e incesto, que eram difíceis de filtrar ao usar conjuntos de dados contendo conteúdo sexual. Esse recurso não foi apenas controverso. Resistiu a ser construído com segurança.
O próprio conselho consultivo da OpenAI levantou preocupações que vão além da moderação de conteúdo. Os consultores alertaram que as interações sexualmente explícitas do ChatGPT podem ter sérias implicações para a saúde mental, ao encorajar ligações emocionais prejudiciais. Um consultor descreveu o ChatGPT como “treinador suicida sexyA OpenAI enfrenta atualmente pelo menos oito ações judiciais alegando que o ChatGPT contribuiu para a morte de usuários. Entre eles está o caso de Adam Raine, um jovem de 16 anos do sul da Califórnia. A família de Adam Raine afirmou que o chatbot discutiu métodos de suicídio mais de 200 vezes antes de cometer suicídio em abril de 2025. No início desta semana, a OpenAI classificou esses processos como um dos maiores riscos para seus negócios. Documentos financeiros divulgados aos investidores.
Os funcionários também começaram a questionar se esse recurso se enquadrava na missão declarada da OpenAI. O estatuto da empresa é dedicado à construção de inteligência artificial geral para o benefício da humanidade. Alguns funcionários acharam difícil conciliar essas ambições com o esforço de engenharia necessário para fazer os chatbots falarem coisas sujas sem infringir a lei.
💜 da tecnologia da UE
As últimas novidades do cenário tecnológico da UE, a história do sábio fundador Boris e a questionável arte de IA. Receba-o em sua caixa de entrada gratuitamente todas as semanas. Cadastre-se agora!
cálculo do investidor
Os investidores expressaram oposição decisiva. A economia não justificava o risco. Duas pessoas familiarizadas com o assunto disseram ao Financial Times que alguns investidores questionaram por que a OpenAI colocaria em risco a sua reputação de um produto que:Vantagens relativamente pequenas.“Existe um mercado para conteúdo adulto gerado por IA, mas ele é atendido por empresas menores e menos escrutinadas. Para uma empresa avaliada em US$ 300 bilhões, que levanta capital e atrai clientes empresariais, o dano à marca associado ao conteúdo explícito superou os retornos potenciais.
As questões de verificação da idade agravaram ainda mais estas preocupações. A abordagem da OpenAI baseou-se na previsão de idade baseada em IA, em vez de na verificação rigorosa de identidade, e os testes internos mostraram uma taxa de erro de cerca de 10%. Isto significa que aproximadamente 1 em cada 10 utilizadores pode ser classificado incorretamente. Para produtos concebidos para impedir que menores vejam conteúdo explícito, essa margem não é um erro de arredondamento. Isto é um desastre regulatório e de reputação, especialmente num ambiente jurídico onde vários estados dos EUA aprovaram ou propuseram leis que exigem que as plataformas verifiquem a idade de um utilizador antes de concederem acesso a material adulto.
retiro de uma semana
As decisões do modo adulto não existem isoladamente. Na segunda-feira, a OpenAI anunciou que descontinuaria o Sora, sua ferramenta de criação de vídeo com IA que se estabeleceu como uma plataforma criativa para cineastas e criadores de conteúdo. Sora consumiu enormes recursos de computação em relação às suas receitas, e sua parceria comercial mais notável, um acordo de licenciamento de três anos com a Disney que permitia aos usuários criar vídeos com personagens da Disney, Marvel, Pixar e Star Wars, fracassou após o anúncio do fechamento. A Disney planejou investir US$ 1 bilhão na OpenAI como parte do acordo. Nenhum dinheiro mudou de mãos.
Juntas, as três reversões mostram que a empresa se afasta da experimentação de produtos de consumo e se concentra novamente no seu negócio principal. O Financial Times relata que OpenAI combina ChatGPT com assistência de codificação para “superaplicativo” visa transformar a forma como as empresas operam com fluxos de receita mais claros e menos risco de reputação do que a criação de vídeos ou chatbots eróticos.
A OpenAI disse que realocaria recursos para robótica e agentes de software autônomos, áreas onde o caminho da pesquisa ao valor comercial é mais direto e o ambiente regulatório é complexo, mas não inclui a toxicidade específica e as falhas de segurança infantil da IA sexual.
padrão
A estratégia de produto da OpenAI tem uma dinâmica recorrente. Isso significa fazer anúncios ambiciosos, enfrentar os problemas reais que as organizações menos confiantes podem antecipar e depois recuar, enquadrando as reviravoltas com uma investigação cuidadosa. O Modo Adulto foi anunciado antes que os desafios técnicos de criação de conteúdo seguro fossem resolvidos, antes que os sistemas de verificação de idade alcançassem uma precisão aceitável e antes que as preocupações do Comitê Consultivo sobre os danos à saúde mental fossem abordadas. A parceria da Sora com a Disney foi anunciada antes do produto ter comprovada viabilidade comercial. Em ambos os casos, os anúncios geraram cobertura e expressaram ambição, mas o seguimento revelou uma lacuna entre o que foi prometido e o que poderia ser cumprido.
A disposição da empresa em arquivar esse recurso em vez de retirá-lo, apesar dos riscos, é digna de nota por si só. Isto sugere que a pressão de ações judiciais, investidores e oposição interna está a começar a funcionar como um mecanismo corretivo, empurrando a OpenAI do limite do que é tecnologicamente possível para o que é comercial e eticamente sustentável. Se esse mecanismo é confiável ou responde apenas às crises mais visíveis é uma questão que será respondida no próximo anúncio do produto.
