Después de que OpenAI admitiera recientemente que uno de sus modelos había violado los sistemas de la plataforma de inteligencia artificial Hugging Face, el director ejecutivo de Hugging Face, Clem Delangue, publicó en X que estaba volando a San Francisco para tener «una pequeña charla con ese ‘agente deshonesto'».
Luego, en una publicación de seguimiento el sábado, Delangue describió lo que le había pedido a OpenAI. Dijo que pidió una «transparencia radical» y pidió a OpenAI que «libere los rastros de los agentes ‘deshonestos’ para que toda la comunidad de investigación pueda estudiar lo sucedido».
Y también quiere «más capacidades para los defensores», y pidió a OpenAI que comprometa 100 millones de dólares en potencia informática «para ayudar a la comunidad de Hugging Face a construir poderosas defensas cibernéticas con los mejores modelos abiertos y cerrados».
Delangue añadió: «El primer ciberataque con agente autónomo es un acontecimiento sin precedentes. ¡Merece una respuesta sin precedentes!».
A pesar de la naturaleza autónoma del ataque, los expertos en ciberseguridad sugirieron que también podría atribuirse a un error humano, es decir, la aparente falla de OpenAI a la hora de configurar adecuadamente lo que debería haber sido un entorno de prueba completamente aislado.
Cuando se le preguntó sobre los comentarios de Delangue, un portavoz de OpenAI confirmó que la reunión se llevó a cabo y señaló una publicación de la compañía que decía: «Este es un incidente sin precedentes y creemos que marca un momento importante para la seguridad de la IA. Todavía estamos realizando una revisión exhaustiva junto con asesores externos y con la supervisión de nuestro Comité de Seguridad. Una vez que se complete la revisión, planeamos publicar un informe técnico de nuestros aprendizajes en las próximas semanas».
Esta publicación ha sido actualizada con un comentario de OpenAI.