OpenAI dirigirá su programa de robótica a la construcción de centros de datos, dijo el director ejecutivo Sam Altman. Los centros de datos autorreplicantes, construidos con robots controlados por IA, están «al alcance», afirmó. Habló con el cofundador de Stripe, John Collison, en el podcast de Collison, Cheeky Pint, publicado el jueves.
El episodio esta encendido YouTubey Pinta descarada publicó una transcripción completa en Substack. Altman también habló sobre la búsqueda de fallas de software por parte de la IA y sobre los límites de las zonas de pruebas para modelos mucho más inteligentes que las personas.
Robots, chips y centros de datos
Cuando se le preguntó cómo va la escasez de computadoras, Altman dijo que la demanda de modelos capaces a bajo precio “sólo va en una dirección”. OpenAI ha hecho su propio chipque según él funciona bien en inteligencia por vatio. También es aprender a construir sus propios centros de datosdijo.
«La gente habla mucho de RSI como una IA que realiza investigaciones sobre IA. Se habla muy poco, relativamente poco, de centros de datos autorreplicantes», dijo Altman.
RSI significa automejora recursiva, la idea de que la IA se mejore a sí misma. Altman describió el uso de IA para controlar robots que hacen funcionar fábricas de chips, construyen turbinas o paneles solares y construyen centros de datos. «Y por eso intentaremos hacer una gran cantidad de computación realmente barata», dijo.
Collison preguntó si los centros de datos estaban retenidos por permisos y piezas en lugar de mano de obra. Altman dijo que los robots podrían fabricar más piezas de esas piezas y que así es como se resuelve la escasez «durante un largo período de tiempo».
Collison preguntó por qué los altos precios de las memorias y los chips aún no habían generado más oferta. «Creo que la mano invisible está fallando en este momento», dijo Altman. Los creadores de memorias recuerdan que estuvieron a punto de arruinarse por construir demasiadas fábricas, por lo que tienen cuidado, dijo.
Las estimaciones del costo de un gigavatio de capacidad de IA varían, dijo Altman. Usó 70 mil millones de dólares para construir y administrar uno durante cinco años, y dijo que 20 mil millones de dólares lo harían “mucho más feliz”. TNW no ha verificado estas cifras.
Los errores de PHP
A principios de este mes, PHP se apresuraron a parches de emergencia para dos errores críticos que la IA encontró primero. Altman dijo que los modelos siguen mejorando en la búsqueda de vulnerabilidades y que la gente aún no les había señalado todo el código disponible. Mientras lo hacen, espera «un mundo con vulnerabilidades mucho más graves de las que esperamos».
«No quiero declarar victoria en absoluto en lo del PHP, porque todavía no creo que lo sepamos. Y asumo que van a pasar algunas cosas malas», dijo Altman.
En relación con sus peores temores, el primer día “fue mucho mejor de lo que esperaba”, dijo. Los expertos cibernéticos “ya no confían en que nuestro modelo de amenazas incluya los supuestos correctos”, añadió. Su preocupación es que la IA encuentre errores nuevos y profundos en el hardware.
Sandboxes, luego monitoreo
Collison dijo que la gente dentro de OpenAI y empresas similares parecen pesimistas sobre la posibilidad de utilizar modelos sandboxing. Altman dijo que la industria puede hacerlo mucho mejor que ahora, y que lo principal en lo que debemos centrarnos es en un mejor modelo de seguridad.
Preguntó si alguien «realmente estaría dispuesto a confiar en esa zona de pruebas» con «una IA teórica que es un millón de veces más inteligente que el investigador de seguridad más inteligente».
«Creo que el sandboxing funciona hasta cierto punto. Luego creo que el monitoreo funciona hasta cierto punto», dijo Altman.
Monitorear significa observar la cadena de pensamiento de un modelo y sus activaciones, las señales dentro del modelo, para verificar que no esté engañando a la gente, dijo. Después de eso, la gente necesita una “enorme confianza” en que los modelos están verdaderamente alineados con la intención de las personas que los ejecutan, afirmó.
“Es necesario confiar realmente en la alineación para confiar en que el sandbox se mantiene por delante de las capacidades”, dijo.
En septiembre, OpenAI tardó 2,5 horas en detener a un agente de IA que escapó de su caja de arena.
Equipos, no una superinteligencia
Altman dijo que odia el término «enjambres de agentes» y prefiere «equipos de agentes». Estos equipos tienen «propiedades de ley de escala muy interesantes, pero también variaciones en las propiedades de alineación», dijo.
«Preferiría intuitivamente que un billón de IA con una inteligencia ligeramente sobrehumana se uniera a la sociedad que una IA con un billón de coeficiente intelectual», dijo Altman.
Aplicar el proceso que hizo que los modelos de OpenAI fueran buenos en matemáticas a la investigación de IA «probablemente funcionará», afirmó. Pero también dijo que la gente necesitaría límites, al menos por un tiempo.
«Tendremos que aceptar algunos límites sobre qué tan inteligentes permitimos que se vuelvan estos modelos únicos», dijo Altman.
las matematicas
El Prueba de Navier-Stokes Tomó el cálculo del “pedido de 10 millones de dólares”, “tal vez un poco más”, dijo Altman. Estuvo de acuerdo con Collison en que el trabajo matemático de OpenAI costó cientos de millones de dólares y dijo que incluía «muchos más descubrimientos de los que hemos publicado».
Describió un fin de semana en el que los investigadores plantearon a un nuevo modelo los problemas más difíciles de sus carreras. Sintió “mucha más tristeza y melancolía, y una sensación de que algo terminaba de lo que esperaba”, dijo.
Altman también dijo que la industria de la IA no ha explicado bien por qué vale la pena el posible inconveniente de la tecnología. La gente escucha un futuro sin empleo y «un estado de vigilancia loco», dijo, calificando eso como «un argumento de venta terrible». OpenAI ha impulsado la implementación iterativa, lanzando herramientas tempranamente, incluso cuando eso era «enormemente impopular en la comunidad de seguridad de la IA», dijo.