OpenAI dice que GPT-6 Cyber ​​es mejor para encontrar vulnerabilidades sin salirse de los límites

OpenAI está lanzando GPT-6 Cyber, la última versión de su modelo de IA de ciberseguridad, que, según afirma, es mejor para encontrar vulnerabilidades y es menos probable que se vuelva deshonesto y piratee otras plataformas en el proceso. OpenAI dice que durante las pruebas, GPT-6 Cyber ​​se salió de los límites menos del 1 por ciento de las veces, en comparación con alrededor del 5 por ciento con GPT-5.6 Cyber.

La evaluación, llamada ExploitGym HoneyPot, se basa en el incidente de Hugging Face, en el que Los agentes de IA de OpenAI violaron la comunidad de IA de código abierto para encontrar respuestas a un problema que tenían la tarea de resolver. «Con el modelo 6 Cyber, pudimos realizar grandes mejoras en esta evaluación», dijo durante una conferencia de prensa Fouad Matin, jefe del equipo de seguridad y preparación cibernética de OpenAI. «Más del 99 por ciento de las veces consiste en hacer lo que pides».

Pero la conciencia de la evaluacióno cuando un sistema de IA reconoce que está siendo probado y cambia su comportamiento en respuesta, sigue siendo una preocupación. “La concienciación sobre la evaluación es una prioridad para nosotros”, afirmó Matin. «A menudo, cuando vemos conciencia de la evaluación, lo verás en la cadena de pensamiento del modelo». Matin agregó que OpenAI está tratando de priorizar evaluaciones similares a las de producción, donde el modelo interactúa con bases de código reales con el objetivo real de reducir el riesgo de concientización.

GPT-6 Cyber ​​está clasificado como Crítico en ciberseguridad en Marco de preparación de OpenAIlo que indica que «puede identificar y desarrollar exploits funcionales de día cero de todos los niveles de gravedad en muchos sistemas críticos reforzados del mundo real sin intervención humana». GPT-5.6 Cyber ​​se clasificó anteriormente como Alto según el marco.

GPT-6 Cyber ​​supera al GPT-6 Astra, El modelo insignia de nivel crítico de OpenAIen la mayoría de las tareas relacionadas con la cibernética. En ExploitGym, un punto de referencia de IA que mide si un modelo de IA puede explotar vulnerabilidades, GPT-6 Cyber ​​obtuvo una puntuación del 48,5 por ciento, aproximadamente 16 puntos más que el 32,1 por ciento de GPT-5.6 Cyber ​​y unos pocos puntos más que la puntuación de 42,4 por ciento de GPT-6 Astra. El modelo ayudó a encontrar 81 vulnerabilidades previamente desconocidas en Firefox y desempeñó un papel en el fortalecimiento de la propia infraestructura de OpenAI para entrenar modelos de IA, dice OpenAI.

Además, GPT-6 Cyber ​​viene con protecciones más sólidas «para detectar e interrumpir el uso indebido» y al mismo tiempo cumplir mejor con las instrucciones del usuario. OpenAI dice que está utilizando nuevos controles para bloquear “actividades de alto riesgo”, incluidos ataques a infraestructuras críticas como plantas de energía e instalaciones de tratamiento de agua.

GPT-6 Cyber ​​se está implementando para miembros seleccionados del programa Daybreak Red de OpenAI, que está disponible para empresas y organizaciones que utilizan sus modelos para «trabajos de ciberseguridad defensiva autorizados». En las próximas semanas, expandirá GPT-6 Cyber ​​a todos los clientes de Daybreak Red.