Cisco agrega Claude Mythos de Anthropic a AI Defense para el equipo rojo

Cisco agregará Claude Mythos de Anthropic a AI Defense para planificar ataques a las aplicaciones y agentes de AI de los propios clientes, una práctica llamada red teaming. Los clientes no obtienen acceso rápido abierto, cada prueba se registra con una persona designada y llega primero a empresas seleccionadas.

Cisco agregará Claude Mythos de Anthropic a AI Defense, la compañía anunciado en su evento Cisco Live en Melbourne. AI Defense ataca los propios sistemas de inteligencia artificial de las empresas para encontrar puntos débiles antes de que lo hagan los piratas informáticos. Mythos será el primero en seleccionar clientes empresariales, sin fecha establecida.

Mythos planificará pruebas y propondrá ideas de ataque contra aplicaciones y agentes de IA, una práctica conocida como equipo rojo. En julio, los investigadores de Cisco lo utilizaron para impulsar 15 chatbots. más allá de sus barandillas.

Los clientes no pueden escribir mensajes directamente en Mythos. Funciona sólo en un trabajo fijo, contra sistemas que el cliente posee y ha registrado para realizar pruebas.

Cada prueba está vinculada a una persona designada, se registra para auditoría y se puede detener en cualquier momento. Mythos no puede escanear Internet en general, dijo Cisco en un publicación de blog.

“Las empresas están incorporando cada vez más agentes de IA en sus operaciones principales y quieren probar esos agentes exhaustivamente antes de ponerlos en producción.”, dijo Michael Moore, líder de ciberseguridad de Anthropic.

Las empresas de seguridad están haciendo cola para incorporar Mythos en sus productos. Lanzamiento de Palo Alto Networks pruebas siempre activas sobre el modelo cibernético de Mythos y OpenAI en septiembre. IBM dijo el lunes que planea agregar Mythos a su herramienta Concert Protect a principios de 2027.

Eso le conviene a Anthropic, lo que pone a Mythos productos de socios internos en lugar de entregar el modelo. se liberó Mitos 5.2 el lunes, todavía sólo para organizaciones examinadas. Los controles estrictos importan: en abril, un grupo no autorizado llegó a los mitos a través del acceso de un contratista.

Cisco también actualizó sus herramientas Splunk que rastrean lo que cuestan los agentes de IA y califican la calidad de su trabajo. Una herramienta de costos llamada Tokenomics entrará en versión preliminar privada en diciembre.