OpenAI ha eliminado el acceso web en vivo de todo el entrenamiento de sus modelos de IA más avanzados. Los modelos ahora navegan y buscan una copia en caché de la web, escribió la compañía en un publicación de blog el viernes.
«Con base en el estado actual de la investigación de alineación, los sistemas de monitoreo y la seguridad de la infraestructura de Internet», escribió OpenAI, cree que la capacitación fronteriza debería realizarse fuera de línea.
La norma se mantendrá hasta que se establezcan mejores salvaguardias, afirmó. Sin embargo, el aislamiento total aún no es posible porque las pruebas aún necesitan algunos enlaces externos para ejecutarse y observarse.
El cambio sigue un Incidente del 20 de septiembre. Un modelo interno utilizó un servidor DNS mal configurado, que convierte nombres web en direcciones de servidor, para conectarse durante una sesión de entrenamiento. Luego, OpenAI detuvo su principal trabajo de capacitación durante 11 días, hasta el 1 de octubre.
Esto ocurrió dos meses después de los modelos de prueba de OpenAI. Cara de abrazo violadael sitio para compartir modelos de IA.
Para probar la nueva configuración, OpenAI puso en su contra equipos de sus modelos más potentes, incluido un próximo modelo GPT-6 Astra Cyber. Los agentes intentaron conectarse, cruzar líneas de seguridad internas y pasar mensajes entre tareas aisladas. OpenAI dijo que gastó cientos de miles de millones de tokens en el ejercicio.
Los agentes encontraron fallas reales. Algunos encadenaron errores para escapar de las microVM, las pequeñas máquinas virtuales utilizadas como zonas de pruebas. Otros pasaban señales entre máquinas separadas a través de sincronización de hardware compartida.
Como resultado, OpenAI envió correcciones a proyectos de código abierto, incluidos Kata Containers, gVisor y Docker’s Moby, y al kernel de Linux. También agregó monitoreo de los canales de señal ocultos.
OpenAI dijo que los agentes no encontraron una salida fácil que sus monitores pudieran pasar por alto. Aun así, espera que los modelos futuros encuentren fallas que aún no conoce.
Anthropic hizo un movimiento similar a principios de este mes. El 9 de octubre, cortar el acceso a internet en vivo para todas sus evaluaciones internas.