Pregúntele a cualquiera que haya trabajado en un operaciones de seguridad Centra lo que realmente implica el trabajo y escucharás mucho sobre las alertas. Miles de ellos, la mayoría de los cuales resultan ser nada. Durante la última década, el papel de la IA ha sido ayudar con ese montón: detectar algo extraño, marcarlo y dejar la decisión a una persona. Ese acuerdo está empezando a desmoronarse.
La nueva generación de herramientas de inteligencia artificial, generalmente llamada sistemas agentesno se detiene en la bandera. Imagínese un inicio de sesión extraño a las 3 am. Un modelo más antiguo generaría una alerta. Un agente puede buscar el dispositivo, verificar desde dónde inició sesión anteriormente, compararlo con fuentes de inteligencia de amenazas, concluir que la cuenta ha sido comprometida y suspenderla, todo antes de que un analista haya abierto el ticket. En ese punto, es justo preguntar si todavía estás usando una herramienta o supervisando a un colega.
A nuevo informe de CertiK defiende el segundo. Una vez que un sistema de IA pueda investigar, decidir y actuar, sostiene el informe, si el modelo “obras» es sólo una parte del panorama. Las empresas también tienen que decidir qué puede hacer el agente, cuándo interviene un humano y quién asume la culpa cuando algo sale mal.
De copiloto a operador
No es difícil ver por qué los equipos de seguridad quieren esto. Los ataques se mueven a la velocidad de las máquinas, la escasez de talento no ha desaparecido y la contratación de más analistas para aclarar los falsos positivos nunca iba a escalar.
Los agentes pueden dar el primer paso en una investigación, reuniendo datos de diferentes herramientas de seguridad y escalando solo los casos que necesitan un ser humano. Las configuraciones más agresivas van más allá, aislando una computadora portátil infectada o eliminando un token de sesión y dejando la revisión humana para más adelante.
Cumplimiento Los equipos están pasando por algo similar. La debida diligencia sobre un nuevo cliente solía significar que un analista verificaba manualmente las listas de sanciones, los registros corporativos y los archivos de noticias. Un agente ahora puede ejecutar esas comprobaciones en paralelo, determinar cómo se conectan entre sí las cuentas sospechosas y entregar un expediente del caso ya preparado. Algunos sistemas incluso redactan informes de actividades sospechosas, por lo que el trabajo del responsable de cumplimiento consiste en revisar y firmar en lugar de escribir desde una página en blanco. Dado que las sanciones contra el lavado de dinero superaron los 900 millones de dólares solo en el primer semestre de 2025, según la investigación de CertiK, la presión para hacerlo bien en volumen es real.
Entonces hay criptodonde el problema de velocidad se vuelve extremo. Las transacciones de blockchain no se pueden revertir una vez confirmadas, y un ataque de préstamo rápido puede agotar un protocolo en una sola transacción. Una investigación anterior de CertiK encontró que los piratas informáticos vinculados a Corea del Norte convirtieron el 86,29% del ETH robado en el exploit Bybit en Bitcoin en un mes, enviándolo a través de mezcladores, puentes y corredores OTC. Ningún equipo humano puede seguir ese rastro en tiempo real.
Entonces, algunos protocolos conectan la detección directamente a una respuesta. Si un agente detecta la firma de una manipulación de Oracle o una fuga inusual de liquidez, puede pausar la función vulnerable o activar un disyuntor dentro del mismo bloque. Cuando una persona ve la alerta, ya ha terminado, de una forma u otra.
¿Quién vigila la IA?
Aquí está el truco. Dale a un agente las claves de tus sistemas y permiso para actuar por sí solo y habrás creado un objetivo muy atractivo. CertiK señala que una inyección rápida o entradas manipuladas podrían engañar a un agente para que apruebe una transacción fraudulenta o desactive un control de seguridad legítimo.
Incluso sin un atacante, la IA hace las cosas mal. Un agente podría detectar una intrusión real porque se parece a un falso positivo que ha visto cientos de veces. Un sistema AML podría producir un relato ordenado y confiable de un rastro de transacción que simplemente sea incorrecto. Un agente de auditoría de contratos inteligente podría aprobar una propiedad de seguridad que el contrato en realidad no tiene, y el contrato se envía con el error.
El mayor riesgo puede ser lo que les suceda a los humanos. Cuando un sistema acierta 99 veces seguidas, los revisores dejan de comprobar la centésima con tanta atención. Esto es un sesgo de automatización, y tiende a aparecer justo cuando es más probable que se escape el raro y costoso error.
Auditando al auditor
Las cosas se vuelven más extrañas a medida que los agentes de IA comienzan a operar directamente en la economía: comerciando con activos, administrando tesorerías e interactuando con protocolos DeFi en nombre de personas y empresas. Esto plantea una pregunta que los reguladores aún no han respondido. ¿Cómo se audita al propio agente? CertiK enmarca esto como una nueva categoría: cumplimiento por parte de la fuerza laboral de IA en lugar de cumplimiento realizado por ella misma. En la práctica, eso significa mantener registros de los datos que vio un agente, cómo llegó a su decisión y qué hizo.
Esos registros son más importantes cuando algo sale mal. Si un agente congela por error la cuenta de un cliente, presenta un informe inexacto contra alguien inocente o pausa un protocolo sin una buena razón”,el algoritmo lo hizo» no satisfará a un regulador ni a un tribunal. La organización que implementó el sistema y las personas que lo configuraron y supervisaron todavía están en apuros. Y debido a que las reglas de responsabilidad para los sistemas autónomos están lejos de estar establecidas en todas las jurisdicciones, una empresa que no puede demostrar quién aprobó qué está en una posición débil.
Administrar software como personal
El resultado es que las empresas pueden terminar gestionando agentes de IA de forma muy parecida a como gestionan a las personas. CertiK recomienda que cada agente tenga un alcance de autoridad definido, un punto claro en el que se la traspase a un humano, un registro completo de sus decisiones consiguientes, un equipo rojo regular contra la manipulación (no solo puntos de referencia de precisión) y una persona designada responsable de su desempeño.
Para los profesionales de la seguridad, eso apunta a un tipo diferente de trabajo: menos tiempo trabajando en cada alerta o ejecutando cada respuesta, y más tiempo supervisando sistemas que se mueven más rápido que cualquier persona.
¿Cuánto trabajo de seguridad puede automatizar la IA se está convirtiendo en la pregunta menos interesante? La más difícil es cuánta autoridad empresas están dispuestos a ceder el mando y si pueden crear una supervisión adecuada antes de que algo salga mal.