Cuando Operai lanzó su nueva aplicación de video generada por IA Sora La semana pasada, se lanzó con una política de exclusión para los titulares de derechos de autor: las compañías de medios necesitarían indicar expresamente que no querían que sus personajes generados por IA se rampan en la aplicación. Pero después de días de Bob Esponja nazi, Pikachu criminal y Sora-Philosofing Rick and Morty, CEO de Operai, Sam Altman, anunciado La compañía revertiría el curso y «dejaría que los sholders de derecha decidan cómo proceder».
En respuesta a una pregunta sobre por qué Operai cambió su política, Altman dijo que vino de hablar con las partes interesadas y sugirió que no había esperado la protesta.
«Creo que la teoría de lo que iba a sentir para la gente, y luego ver la cosa, la gente tenía diferentes respuestas», dijo Altman. «Se sentía más diferente a las imágenes de lo que la gente esperaba».
La aplicación Sora tipo Tiktok ofrece un desplazamiento interminable y la capacidad de crear videos de 10 segundos, con audio incluidos, de prácticamente cualquier cosa, incluido su propio yo generado por IA (denominado «cameo») y cualquier persona que haya dado su consentimiento para que use su semejanza. Si bien trata de restringir las representaciones de personas que no están en la aplicación, sus indicaciones de texto han demostrado ser más que capaces de generar personajes con derechos de autor.
Altman dijo que muchos de los derechistas están emocionados, pero quieren «muchos más controles», y agregó que Sora «se hizo muy popular muy rápidamente … pensamos que podríamos reducir la rampa; eso no sucedió».
«Obviamente, realmente nos importan los derechistas y las personas», dijo. «Queremos construir estos controles adicionales, pero creo que verá muchas piezas importantes de contenido disponibles con restricciones sobre lo que pueden hacer y no hacer».
Entre los primeros usuarios del sistema, Altman dijo que estaba sorprendido de que la gente tuviera sentimientos de «intermedio» sobre permitir que las personas hagan videos generados por IA utilizando sus semejanzas en Sora. Dijo que esperaba que la gente quisiera intentar hacer pública su cameo o no, pero no que hubiera tantos matices, y por eso la compañía recientemente introdujo más restricciones. Mucha gente ha cambiado de opinión sobre si les gustaría o no que sus cameos sean públicos, dijo Altman, pero que «no quieren que su cameo diga cosas ofensivas o cosas que encuentran profundamente problemáticas».
Bill Peebles, jefe de Sora de OpenAi, Publicado en x El domingo que el equipo había «escuchado de muchas personas que desean hacer que sus cameos estén disponibles para todos, pero retengan el control sobre cómo se usan», y agregó que ahora los usuarios pueden especificar cómo se usa su cameo a través de instrucciones de texto a Sora, como «No me pongas en videos que involucran comentarios políticos» o «no me dejen decir esta palabra».
Los sholders de derecha quieren ‘muchos más controles’ en Sora
Peebles también dijo que el equipo está trabajando en formas de hacer la marca de agua Sora en videos descargados «más claros y más visibles». Muchas personas han expresado preocupaciones sobre el crisis de desinformación Eso naturalmente podría provenir de videos hiperrealistas generados por la IA, especialmente cuando la marca de agua que denotalos como generada por IA no es muy grande y se puede eliminar fácilmente, de acuerdo con los tutoriales de video que proliferan en línea.
«También sé que la gente ya está encontrando formas de eliminarlo», dijo Altman sobre la marca de agua durante el lunes de preguntas y respuestas.
Durante el discurso de apertura de Altman en Devday, dijo que la compañía lanzó inmediatamente una vista previa de Sora 2 en API de Openaipermitiendo a los desarrolladores acceder al mismo modelo que alimenta a Sora 2 y crear videos ultra realistas generados por IA para sus propios fines, aparentemente sin ningún tipo de marca de agua. Durante las preguntas y respuestas con los reporteros, cuando se le preguntó cómo la compañía implementaría salvaguardas para Sora 2 en la API, Altman no respondió específicamente a la pregunta.
Altman dijo que estaba sorprendido por la cantidad de demanda de generar videos únicamente para chats grupales, es decir, para compartir con solo otra persona o un puñado de personas, pero no más ampliamente que eso. Aunque eso ha sido popular, dijo: «No es una gran opción para cómo funciona la aplicación actual».
Posicionó los golpes de velocidad del lanzamiento como oportunidades de aprendizaje. «No por mucho más tiempo tendremos el único buen modelo de video, y habrá un montón de videos sin ninguno de nuestros salvaguardas, y eso está bien, esa es la forma en que funciona el mundo», dijo Altman, y agregó: «Podemos usar esta ventana para que la sociedad realmente entienda» Hey, el campo de juego cambió, podemos generar un video casi indistinguible en algunos casos ahora, y tienes que estar listo para eso para eso «.»
Altman dijo que siente que las personas no prestan atención a la tecnología de OpenAi cuando las personas de la compañía hablan sobre ella, solo cuando la liberan. «Tenemos que tener … este tipo de coevolución tecnológica y social», dijo Altman. «Creo que eso funciona, y en realidad no sé nada más que funcione. Claramente habrá desafíos para la sociedad que contiende con esta calidad, y lo que mejorará mucho, con la generación de videos. Pero la única forma en que sabemos para ayudar a mitigarlo es lograr que el mundo lo experimente y descubrir cómo va a ir».
«Claramente habrá desafíos para la sociedad que contiende con esta calidad»
Es una versión controvertida, especialmente para un CEO de AI. Mientras la IA haya existido, se ha utilizado de manera que afectan desproporcionadamente a las minorías y las poblaciones vulnerables, que van desde ilegal arrestos a Generado por IA venganza porno. Operai tiene algunas barandillas para Sora en su lugar, pero si la historia, y la última semana, es una guía, la gente encontrará formas de evitarlos. Los removedores de marcas de agua ya están proliferando en línea, con algunas personas que usan herramientas de tipo «borrador mágico» y otras codificando sus propias formas de eliminar la marca de agua de manera convincente. Por ahora, las indicaciones de texto no permiten generar una cara específica sin permiso, pero las personas tienen supuestamente ya dio la vuelta a esa regla generar aproximaciones lo suficientemente cercanas de alguien para infundir miedo o amenazas, y para hacer videos sugestivos, incluidos videos de mujeres que tienen objetos como un consolador.
Cuando se le preguntó si los planes de OpenAi se traducen en un enfoque de «mover rápido y romper las cosas», Altman dijo: «En absoluto», y agregó que las críticas de los usuarios a Sora en este momento se inclina hacia decir que la compañía es «demasiado restrictiva» y «censura». Dijo que la compañía estaba comenzando el lanzamiento de forma conservadora y «encontrará formas de permitir más con el tiempo».
Altman dijo que obtener ganancias en Sora «no estaba en mis 10 principales preocupaciones, pero … obviamente algún día tenemos que ser muy rentables, y estamos seguros y pacientes de que llegaremos allí». Dijo que en este momento la compañía está en una fase de «inversión agresivamente».
Cualesquiera que sean las dificultades iniciales, Greg Brockman, presidente de OpenAi, dijo que fue golpeado por la curva de adopción de Sora, y que era aún más intenso que el de ChatGPT. Se mantiene constante en la parte superior de la lista de aplicaciones gratuitas en la App Store de Apple. «Creo que esto apunta un poco al futuro, a esto a lo que seguimos volviendo: vamos a necesitar más cómputo», dijo. «Hasta cierto punto, esa es la lección número uno del [Sora] lanzamiento hasta ahora «.
Fue esencialmente un lanzamiento para Stargate, la empresa conjunta de OpenAI con SoftBank y Oracle para reforzar la infraestructura de IA en los EE. UU., Comenzando con una inversión de $ 100 mil millones y suma $ 500 mil millones en cuatro años. El presidente Donald Trump ha defendido la empresa, y OpenAi ha anunciado Un puñado de nuevos sitios de centros de datos en Texas, Ohio y Nuevo México. El proyectos hambrientos de energía han sido controvertidos, y a menudo pueden correr con el personal de un un par de cientos de personas Después de la construcción inicial, a pesar de las promesas de creación de empleo a gran escala.
Pero Operai es a toda velocidad por delante. El lunes, llegó a un acuerdo con el fabricante de chips AMD que podría permitir que OpenAi tome un 10 por ciento de estaca. Horas después, en las preguntas y respuestas con los periodistas, se le preguntó a Altman cuán interesada está la compañía en la construcción de su propio chip. «Estamos interesados en la pila completa de la infraestructura de IA», respondió. En otro momento, les dijo a los periodistas que deberían «esperar escuchar mucho más» de Operai en la pila de infraestructura.
Durante la sesión, los ejecutivos de Openai una y otra vez enfatizaron la falta de cómputo y cuánto puede bloquear a OpenAi y sus competidores para poder ofrecer servicios a escala.
«Preguntando, ‘¿Cuánto cómputo quieres?’ es un poco como preguntar: «¿Cuánto de la fuerza laboral quieres?», Dijo Brockman. «La respuesta es que siempre puedes obtener más de más». Y en este momento, más capacidad para profundizar a sus amigos es el último punto de venta.