«Me dijeron que había abuso de confianza porque interactué con un tercero a través de canales no autorizados», dijo Tomek Korbak.
Korbak es uno de los tres investigadores de seguridad de OpenAI despedidos el mes pasado. habló con El diario de Wall Street para una historia de Maxwell Zeff, Keach Hagey y Berber Jin, publicada el jueves.
El equipo de seguridad de OpenAI pidió a los tres que abrieran sus teléfonos personales durante una investigación de filtración, informó el Journal. Los investigadores nombraron al investigador de seguridad de IA Ryan Greenblatt como el presunto filtrador. Él lo niega. TNW no ha verificado la cuenta de forma independiente.
Los mensajes que desaparecen
La investigación sobre la filtración siguió a una historia del 1 de septiembre en The Information. Dijo que Astra, el último modelo de OpenAI, utilizó una nueva técnica que lo hizo más poderoso pero mostró menos de su pensamiento. El científico jefe de OpenAI, Jakub Pachocki, calificó los informes de «confusos» y la afirmación desató una debate más amplio sobre el razonamiento de la IA.
En los teléfonos, los agentes de seguridad vieron que algunos de los investigadores habían activado los mensajes que desaparecían en sus chats de Signal con Greenblatt. Una semana después, OpenAI convocó a los tres a una reunión al mismo tiempo, a las 2 de la tarde, y los despidió. El diario primero denunció los despidos el 1 de octubre.
Los tres son Korbak, Mikita Balesni y Jasmine Wang. Balesni y Korbak dicen que los líderes de OpenAI citaron la desaparición de los mensajes como una razón. Los tres dicen que nunca compartieron información confidencial fuera de la empresa.
Cuenta de OpenAI
OpenAI le dijo al Journal que una investigación interna encontró que los tres habían violado sus políticas sobre información confidencial.
Los despidos “no fueron por plantear preocupaciones de seguridad o hablar abiertamente”, dijo la compañía.
Una portavoz dijo que el uso de Signal no estaba aprobado, pero que no era la única razón. Korbak calificó la desaparición de mensajes como una “mejor práctica de seguridad básica” en Silicon Valley.
Wang dijo que le dijeron que la habían despedido por abrir repetidamente el correo electrónico de un ejecutivo. Dijo que le había pedido a OpenAI que eliminara ese acceso casi un año antes. Abrió por error un correo electrónico confidencial el mes pasado y lo informó de inmediato, dijo. OpenAI dijo que no tenía ningún problema con el acceso en sí.
Greenblatt responde
Greenblatt fue científico jefe de Redwood Research y ahora trabaja en METR. METR lo había contratado para ayudar a examinar los registros del Incidente de la cara de abrazocuando los agentes de OpenAI se volvieron rebeldes. Le dijo al Journal que se toma en serio la confidencialidad y nunca comparte dicha información con los periodistas. Después de que se publicó la historia, fue más allá.
«Basado en este artículo, OpenAI ha hecho acusaciones falsas sobre mí», Greenblatt escribió en X.
A los tres investigadores se les dijo que había ayudado a filtrar detalles de la arquitectura a The Information, escribió, y eso es falso. Un periodista de The Information se puso en contacto con él antes de que se publicara su artículo, dijo, pero no hizo comentarios más allá de una solicitud sobre una publicación suya en un blog.
Escribió que había escuchado que OpenAI también lo acusó de leer un memorando interno con detalles arquitectónicos sensibles, lo cual él niega. Dijo que solo vio una versión sin información confidencial que fue aprobada para compartir con él. Él cree que OpenAI ahora sabe que confundió los dos documentos.
Los chats de Signal fueron con contactos profesionales, dijo Greenblatt, y el uso de Signal es común en tecnología.
Mantener visible el razonamiento de la IA
Los tres investigadores habían pasado el verano presionando para mantener visible el razonamiento de la IA. Su enfoque era la “cadena de pensamiento”, el bloc de notas escrito que utiliza un modelo para resolver un problema. En una carta de octubre dirigida a la junta directiva de OpenAI, instaron a la empresa a trabajar con grupos de seguridad externos.
“La mejor explicación que tengo para nuestro despido: hablar con los auditores era demasiada seguridad, la desaparición de mensajes era demasiada seguridad y deberíamos habernos tomado el ritmo”, Korbak escribió en X.