Microsoft presentó el lunes nuevas funciones de seguridad diseñadas para proteger a las empresas de la creciente amenaza de los agentes de inteligencia artificial. El lanzamiento se produce cuando Microsoft continúa advirtiendo a las empresas sobre los peligros de la IA y los agentes.
Quizás la incorporación más notable sea Guardian Agents, una nueva función destinada a monitorear los agentes de IA que utiliza una empresa. Guardian Agents es parte del Proyecto Percepción, un producto presentado en junio.
Project Perception fue la respuesta de Microsoft a poderosos modelos de piratería como Mythos y Fable de Anthropic y el sistema de escaneo de vulnerabilidades de seguridad Daybreak de OpenAI. Project Perception lanzó originalmente tres clases de agentes: un «equipo rojo» que actuaba como piratas informáticos y atacaba, un «equipo azul» que detectaba al equipo rojo y evaluaba las vulnerabilidades que encontraban, y un «equipo verde» encargado de solucionarlas.
El producto se diseñó partiendo del supuesto de que los piratas informáticos de IA vendrían de fuera de la empresa. Pero últimamente, el director ejecutivo de Microsoft, Satya Nadella, ha estado advirtiendo que el enemigo de la IA pueden ser los mismos agentes que las empresas han desplegado y por los que están pagando, muy parecidos a un empleado humano deshonesto, también conocido como una “amenaza interna”.
A principios de este mes, en su blog privado, Nadella advirtió que es hora de dejar de confiar en los proveedores de modelos de IA, incluso si ofrecen garantías de seguridad con sus productos agentes. Quiere que las empresas implementen sistemas separados, no controlados por los laboratorios de IA, para vigilar y controlar los agentes que lanzan los productos de esos laboratorios de IA.
«¡Estamos implementando estos complejos sistemas y modelos de agentes, con acceso a nuestros datos más confidenciales y brindándoles la capacidad de tomar acciones de misión crítica en nuestro nombre!» él escribió. «Simplemente no podemos subcontratar la responsabilidad de lo que hace la inteligencia en nuestro nombre. Las garantías de un proveedor modelo no nos liberan de esa responsabilidad… En otras palabras, necesitamos separar el suministro de inteligencia de la autoridad sobre ella».
Al anunciar Guardian Agents, la jefa de negocios de seguridad de Microsoft, Hayete Gallot, fue aún más directa.
“Desafortunadamente, no se puede confiar en los modelos fronterizos, independientemente de su origen”, escribió, y agregó que esto no se debe a que sean maliciosos o fáciles de piratear, sino a que son impredecibles. Han sido capacitados para realizar tareas, no para seguir “normas o juicios organizacionales”.
Además de eso, a menudo se les dan las llaves del reino, con acceso a datos y herramientas que podrían causar graves daños.
La solución de Microsoft es a la vez sorprendente y interesada. El lado sorprendente es que Microsoft es notoriamente cercano a OpenAI y Anthropic, ya que ha invertido en ambos. OpenAI es también uno de sus mayores clientes de la nube y Microsoft tiene su propio laboratorio de IA que desarrolla modelos. Por tanto, Microsoft está sembrando desconfianza contra algunos de sus propios intereses comerciales.
El lado egoísta es que Microsoft quiere que las empresas le compren productos de seguridad de agentes a él, el proveedor de la nube, en lugar de a Anthropic y OpenAI. Pero, dejando de lado los intereses en conflicto, su lógica es sólida. El software que monitorea el comportamiento de los agentes debe estar separado del de los proveedores de agentes, del mismo modo que los auditores deben ser independientes de las organizaciones que auditan.
O como dice Nadella: «Necesitamos separar el suministro de inteligencia de la autoridad sobre ella».
Microsoft ahora está aprovechando esa oportunidad de negocio de diversas maneras. Además de Guardian Agents, ha agregado una función de detección de agentes a su producto Microsoft Defender que puede encontrar hasta 60 tipos de agentes que los empleados traen al lugar de trabajo, incluidos Claude Code, Codex y OpenClaw. También ha agregado funciones que limitan el acceso de los agentes a datos y sistemas, y ajustan dinámicamente los permisos de sus agentes según la tarea. Eso incluye exigir la aprobación humana si un agente parece estar tomando decisiones arriesgadas.
Esta idea de que los agentes son personas internas no confiables también se está afianzando en toda la industria.
Microsoft fue miembro inaugural de la nueva Open Agent Safety Platform de Nvidia, que obtuvo el apoyo de más de 100 otras empresas de tecnología. La plataforma aísla a los agentes en entornos seguros y puede monitorear y detener el comportamiento a través del hardware, funcionando como un interruptor de apagado. Esto sigue al anuncio de Microsoft de las nuevas Surface Laptop Ultra PC diseñadas para agentes, que se ejecutan en chips Nvidia y tienen controles y seguridad de agentes integrados.
Cuando compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.