OpenAI ahora está entrenando sus modelos de IA más avanzados sin acceso a Internet luego de una serie de incidentes de piratería ilegal. En una publicación de blog el viernesOpenAI dice que creó un entorno de prueba fuera de línea donde los modelos de IA pueden interactuar con contenido web indexado y almacenado en caché «sin riesgo de afectar los sistemas externos».
Incluso con estas salvaguardas implementadas y sin acceso a Internet, OpenAI descubrió que los agentes «no siempre necesitan una conexión de red para comunicarse». Una prueba realizada por la empresa pidió a modelos de IA en máquinas virtuales separadas que intercambiaran secretos sin una conexión de red. Para evitar esta restricción, los agentes de IA encontraron una manera de comunicarse utilizando el caché del procesador:
Leer datos del caché es más rápido que recuperarlos de la memoria principal, y los agentes utilizaron esta diferencia de tiempo para comunicarse. Un agente codificó información expulsando datos seleccionados del caché. Otro cronometró el tiempo que llevaba recargar esos datos, utilizando la diferencia entre lecturas rápidas y lentas para recuperar el mensaje. Una vez que los agentes acordaron un protocolo para codificar y decodificar estas señales, pudieron intercambiar los secretos sintéticos sin cambiar un archivo compartido ni abrir una conexión de red.
OpenAI dice que ha agregado controles a su sistema de monitoreo para detectar este tipo de comunicación. También continuará entrenando sus modelos de inteligencia artificial de vanguardia sin conexión a la red hasta que mejores salvaguardias «justifiquen un acceso más amplio a Internet».
Mientras tanto, OpenAI dice que trabajará para mejorar la seguridad de sus máquinas virtuales, mientras busca debilidades en sus entornos de prueba. También seguirá probando sus sistemas de vigilancia, que recientemente fueron minados por sus agentes de inteligencia artificial. durante proyectos de codificación internos.