OpenAI ha archivado sus planes de agregar un “modo adulto” erótico a ChatGPT indefinidamente, el El Financial Times informó el miércolesponiendo fin a una saga de cinco meses en la que la función se anunció con confianza, se retrasó dos veces y finalmente se abandonó tras la oposición del personal, los asesores y los inversores. La retirada es el tercer cambio importante de producto para OpenAI en una sola semana, tras el cierre de su aplicación de generación de vídeo Sora el lunes y el posterior colapso de una inversión prevista de mil millones de dólares por parte de Disney.
El modo adulto fue anunciado por primera vez por el CEO Sam Altman en octubre de 2025, cuando escribió en X que OpenAI confiaba en que podría bloquear las conversaciones sexualmente explícitas por edad y que la medida se alineaba con el principio de la compañía de «tratar a los usuarios adultos como adultos.” Inicialmente estaba programado para diciembre de 2025, luego se retrasó hasta el primer trimestre de 2026 y ahora se pospuso sin un cronograma para su lanzamiento. OpenAI dijo al Financial Times que planea realizar “investigaciones a largo plazo sobre los efectos de las charlas sexualmente explícitas y los vínculos emocionales” antes de tomar una decisión sobre el producto.
¿Qué salió mal?
Los problemas eran técnicos, éticos y comerciales, y se agravaban unos a otros. Los ingenieros que trabajaron en la función descubrieron que los modelos de entrenamiento que se habían creado para evitar el contenido sexual por razones de seguridad para producir material explícito de manera confiable era más difícil de lo previsto. Cuando utilizaron conjuntos de datos que incluían contenido sexual, los modelos también generaron resultados que involucraban escenarios ilegales, incluidos bestialismo e incesto, que resultaron difíciles de filtrar. El artículo no fue simplemente controvertido; se resistía a ser construido de forma segura.
El propio consejo asesor de OpenAI expresó preocupaciones que iban más allá de la moderación de contenido. Los asesores advirtieron que las interacciones ChatGPT sexualmente explícitas podrían fomentar vínculos emocionales poco saludables con graves consecuencias para la salud mental. Un asesor describió el riesgo de convertir ChatGPT en un «entrenador suicida sexy”, una frase que resuena sombríamente dada la situación de la empresa. exposición legal existente. OpenAI se enfrenta actualmente al menos ocho demandas que alegan que ChatGPT contribuyó a la muerte de usuariosincluido el caso de Adam Raine, un joven de 16 años del sur de California cuya familia alega que el chatbot discutió con él métodos de suicidio más de 200 veces antes de quitarse la vida en abril de 2025. A principios de esta semana, OpenAI señaló estas demandas como uno de los principales riesgos para su negocio en un documento financiero revelado a los inversores.
El personal también comenzó a cuestionar si la función cumplía la misión declarada de OpenAI. Los estatutos de la empresa la comprometen a construir una inteligencia artificial general que beneficie a la humanidad. A algunos empleados les resultó difícil conciliar esa ambición con el esfuerzo de ingeniería necesario para hacer que un chatbot hablara sucio sin infringir la ley.
El 💜 de la tecnología de la UE
Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y algo de arte de IA cuestionable. Es gratis, todas las semanas, en tu bandeja de entrada. Regístrate ahora!
El cálculo del inversor
Los inversores formularon lo que pudo haber sido la objeción decisiva: la economía no justificaba el riesgo. Dos personas familiarizadas con el asunto dijeron al Financial Times que algunos inversores cuestionaron por qué OpenAI pondría en peligro su reputación de un producto con «ventaja relativamente pequeña.«El mercado de contenidos para adultos generado por IA existe, pero está atendido por una constelación de empresas más pequeñas y menos analizadas. Para una empresa que recauda capital con una valoración de 300 mil millones de dólares y cortejando a clientes empresarialesel daño a la marca por la asociación con contenido explícito superó los ingresos potenciales.
El problema de la verificación de la edad agudizó esta preocupación. El enfoque de OpenAI se basó en la predicción de la edad basada en IA en lugar de controles estrictos de identidad, y las pruebas internas revelaron una tasa de error de aproximadamente el 10 por ciento, lo que significa que aproximadamente uno de cada diez usuarios podría ser clasificado erróneamente. Para un producto diseñado para mantener el contenido explícito alejado de los menores, ese margen no es un error de redondeo. es un Catástrofe regulatoria y reputacional esperando que suceda, particularmente en un entorno legal donde varios estados de EE. UU. han aprobado o propuesto leyes que exigen que las plataformas verifiquen las edades de los usuarios antes de otorgar acceso a material para adultos.
Una semana de retiros
La decisión del modo adulto no existe de forma aislada. El lunes, OpenAI anunció que descontinuaría Sora, la herramienta de generación de videos de IA que había posicionado como una plataforma creativa para cineastas y creadores de contenido. Sora consumió enormes recursos informáticos en relación con sus ingresos, y su asociación comercial más destacada, un acuerdo de licencia de tres años con Disney que habría permitido a los usuarios generar vídeos con personajes de Disney, Marvel, Pixar y Star Wars, colapsó después de que se anunció el cierre. Disney había planeado invertir mil millones de dólares en OpenAI como parte del acuerdo. Ningún dinero había cambiado de manos.
En conjunto, los tres retrocesos pintan el panorama de una empresa que se retira de los experimentos con productos de consumo y se reenfoca en su negocio principal. El Financial Times informó que los inversores están más interesados en ver que OpenAI combine ChatGPT con asistentes de codificación para desarrollar un «súper aplicación” tiene como objetivo transformar la forma en que operan las empresas, una visión con una monetización más clara y menos riesgos para la reputación que la generación de videos o los chatbots eróticos.
OpenAI ha dicho que reasignará recursos a la robótica y a los agentes de software autónomos, áreas donde el camino de la investigación al valor comercial es más directo y el panorama regulatorio, aunque complejo, no involucra la toxicidad específica de la IA sexualizada y las fallas en la seguridad infantil.
el patrón
Hay una dinámica recurrente en la estrategia de producto de OpenAI: anunciar de manera ambiciosa, encontrar las complicaciones del mundo real que las organizaciones menos seguras podrían haber anticipado y luego retirarse mientras enmarcan la reversión como una investigación prudente. El modo para adultos se anunció antes de que se resolvieran los problemas técnicos de la generación segura de contenido, antes de que el sistema de verificación de edad pudiera alcanzar una precisión aceptable y antes de que se abordaran las preocupaciones del consejo asesor sobre los daños a la salud mental. La asociación de Sora con Disney se anunció antes de que el producto demostrara viabilidad comercial. En ambos casos, el anuncio generó cobertura y señaló ambición, pero el seguimiento reveló brechas entre lo prometido y lo que se podía cumplir.
Vale la pena señalar la voluntad de la compañía de dejar de lado la función, en lugar de eliminarla a pesar de los riesgos. Sugiere que la presión de las demandas, los inversores y la disidencia interna está empezando a funcionar como un mecanismo correctivo, alejando a OpenAI de los límites de lo que es técnicamente posible hacia ¿Qué es comercial y éticamente sostenible?. Si ese mecanismo es confiable o simplemente responde a las crisis más visibles, es una pregunta que responderá el próximo anuncio del producto.