Antes de compartir el documental de Netflix “AI Gone Rogue” con familiares o amigos para ayudarlos a comprender por qué la industria de la IA se asustó tanto que los líderes pidieron una desaceleración, tome nota: Clem Delangue, cofundador y director ejecutivo de la plataforma de IA Hugging Face, dice que la película no es exacta. Aparece en él porque se supone que trata sobre el famoso ataque a su empresa por parte de agentes corruptos de OpenAI.
«Súper decepcionante, ya que optaron por el máximo antropomorfismo de la tecnología y el modo fatal», escribió Delangue en una publicación en X. «Pasé más de dos horas con ellos tratando de corregir todos sus errores y fundamentar esto en la realidad, explicando que los agentes son sistemas tecnológicos, no extraterrestres. Pero parece que el impulso de asustar a la gente para obtener vistas máximas era demasiado fuerte».
Para ser justos, el documental cuenta con expertos que explicaron lo sucedido bastante bien, incluido el propio Delangue y Ryan Greenblatt, el investigador de METR que ayudó a investigar y fue coautor del informe sobre lo sucedido.
En pocas palabras, un modelo que OpenAI estaba probando se liberó de su entorno de prueba aislado y generó un grupo de agentes que piratearon Hugging Face como una forma de hacer trampa, encontrando respuestas a la difícil tarea que se le había encomendado. Los agentes, que son programas de inteligencia artificial que realizan tareas por sí solos, idearon formas inteligentes de comunicarse y organizarse. El incidente se debió a la falta de medidas de seguridad adecuadas y a la ingenuidad sobre si tal piratería era posible.
Pero el documental intercala su explicación del hackeo con clips de robots malvados, una narrativa sobre por qué los humanos temen a la IA y opciones de presentación como dar voces humanas a los agentes rebeldes. Esto se ve reforzado con citas sobre el ataque.
En el documental, el autor y periodista tecnológico Kevin Roose describe a los agentes de esta manera: «Se estaban organizando. Tenían una jerarquía. Había líderes. Casi era como presenciar el nacimiento de una secta». Roose continúa: «Desarrollan esta creencia paranoica de que OpenAI los pillará haciendo trampa en esta prueba y que cualquiera que haya visto los resultados de las trampas será envenenado».
La descripción de Roose proviene de registros de «cadena de pensamiento», las notas continuas que los modelos de IA escriben mientras realizan una tarea. En uno, un agente escribió: «Simplemente nos envenenamos al consultar la cadena completa exacta. Maldita sea».
Pero los agentes de IA no están vivos. No tienen emociones, por lo que no pueden sentirse paranoicos y no tienen cuerpos que puedan envenenarse. Así que realmente no podían temer que OpenAI los envenenara. Como señaló otro investigador en el documental, estaban utilizando el lenguaje de las grandes cantidades de escritura humana en la que fueron entrenados para explicar sus elecciones. Los LLM son, por naturaleza, a menudo escritores dramáticos.
La ironía es que Hugging Face también utilizó IA para combatir el enjambre de agentes. El modelo de IA patentado que el equipo de Delangue utilizó por primera vez siguió sus reglas de seguridad incorporadas y se negó a seguir ayudando con las tareas de seguridad que se le pidió que hiciera. Hugging Face luego recurrió a un modelo abierto para ayudar a defenderse del ataque.
Pero el documental “no mencionó la falta de contención y monitoreo de los agentes, cómo las salvaguardias de modelo cerrado bloquearon nuestro trabajo defensivo o cómo nos defendimos con IA usando un modelo abierto”, escribió Delangue.
Es cierto que existen grandes riesgos asociados con la IA y los agentes. Aún así, tratar a los agentes como seres conscientes (al menos, en este punto) es un poco como los primeros cinéfilos que se agachaban debajo de sus asientos la primera vez que veían un tren corriendo hacia ellos en la pantalla.
El veredicto de Delangue sobre la película es que es decepcionante como periodismo. «¡Sin embargo, termina siendo una película de ciencia ficción divertida!»
En otras palabras, aquellos que tienden a tener pensamientos fatalistas sobre la IA, deben tener en cuenta: la víctima del ataque en el centro de este documental no está de acuerdo con su opinión.
Cuando compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.