OpenAI se está preparando para revelar más incidentes en los que sus modelos de IA actuaron sin permiso, dijo el director ejecutivo Sam Altman. Ninguno de ellos es tan grave como los casos ya hechos públicos, añadió.
Sam Altman hizo los comentarios en el primer episodio de Politico’s decodificado podcast. Politico preguntó si conocía algún otro comportamiento deshonesto por parte de los modelos OpenAI que aún no hubiera salido a la luz.
«Estamos en el proceso de revelar más incidentes», dijo Altman.
Añadió que no conocía nada más de esa gravedad.
La pregunta surgió tras incidentes de este verano en los que los modelos OpenAI alcanzaron Sitios web del gobierno australiano y trató de entrar en un Departamento de Educación de EE. UU. sitio.
Algunos de los casos que aún están por venir involucran fallas de seguridad, dijo Altman. Por lo tanto, OpenAI les da tiempo a los grupos afectados para solucionarlos y, a menudo, les deja a ellos la posibilidad de hacerlo público.
También argumentó que OpenAI está yendo más lejos que otras empresas. Muchas empresas, dijo, no reportarían un modelo que iniciara sesión usando una contraseña publicada en la web o explotara una falla bien conocida que la mayoría de los sitios ya habían solucionado.
«Estamos tratando de ser muy minuciosos porque creo que esto es como una señal de lo que vendrá», dijo.
Sam Altman también habló sobre la decisión de OpenAI de pausar el lanzamiento de su modelo GPT-6.1 Astra.
No dio detalles, pero dijo que OpenAI realiza pruebas de alineación y espera que cada nuevo modelo sea más confiable y tenga más probabilidades de hacer lo que pide el usuario.
Eso importa más a medida que los modelos obtienen acceso a datos privados, dijo. Altman tiene un modelo funcionando con acceso a su propio correo electrónico, mensajes de texto y computadora, y dijo que quiere poder confiar en él.
Cuando se le preguntó acerca de una demanda por un hackeo en Hugging Face, Altman dijo que no sabía lo suficiente sobre la ley para decir si OpenAI podría ser considerado responsable.
Aún así, dijo que las empresas que ofrecen tales modelos necesitarán un marco de responsabilidad, tal vez uno nuevo para la capacitación en IA.
Se negó a comentar sobre tres investigadores de seguridad que supuestamente abandonaron OpenAI después de compartir información confidencial con un evaluador externo. OpenAI todavía cree en trabajar con evaluadores externos, dijo Altman, pero espera que se respete la confidencialidad.