La autonomía de los agentes de IA exige replantear la ciberseguridad

A medida que los agentes de IA ganan autonomía y acceden a recursos críticos, su seguridad se convierte en una prioridad para las empresas. Estas nuevas entidades digitales deben contar con una identidad propia y estar sujetas al modelo de confianza cero —Zero Trust—, al principio de mínimo privilegio y a una supervisión continua. Steve Riley, Field CTO de Netskope, explica por qué estas medidas son necesarias.

La IA agéntica se está consolidando como un importante motor de transformación empresarial. Capaces de actuar de forma autónoma y de complementar los sistemas de información, estos agentes se multiplicarán con rapidez. Según Gartner, en 2028 una empresa media de la lista Fortune 500 utilizará más de 150.000 agentes de IA, frente a menos de 15 en 2025. Su expansión aumentará la complejidad de los entornos informáticos y planteará nuevos desafíos de ciberseguridad.

Para proteger a estos sistemas, que actúan de forma autónoma, acceden a recursos críticos y tratan datos sensibles, es necesario adaptar las estrategias de protección: los enfoques tradicionales no bastan por sí solos. Esa adaptación exige reconocer a cada agente como una entidad independiente, asignarle una identidad propia, controlar estrictamente sus permisos y supervisarlo de forma permanente. Estas medidas permitirán aprovechar sus ventajas y limitar los riesgos derivados de los ciberataques, las vulnerabilidades de los modelos y los usos malintencionados.

La IA agéntica: nuevos actores con vulnerabilidades específicas

Los agentes suelen recurrir a cuentas de servicio existentes o actuar bajo la identidad de usuarios humanos para ejecutar tareas en entornos de nube o bases de datos. Esta forma de operar los sitúa en zonas grises de la gobernanza informática y compromete la trazabilidad de las responsabilidades, uno de los principales desafíos de la IA agéntica.

Cada agente debe disponer de una identidad propia e inmutable, sustentada en un identificador de seguridad único —SID—. Para integrarlo de forma segura, el sistema ha de reconocerlo como un «sujeto de seguridad» —security principal—. Este concepto comprende a las personas, los dispositivos y los servicios cuya identidad puede verificarse de manera unívoca y es fundamental para establecer la confianza en una arquitectura informática.

Una gestión adecuada de identidades no elimina las vulnerabilidades de la tecnología subyacente, en particular las de los grandes modelos de lenguaje —LLM—. Una de las principales amenazas es el jailbreaking: la manipulación deliberada de instrucciones o prompts para eludir las protecciones internas del modelo. Esta técnica aprovecha una tensión inherente a la IA: los modelos necesitan flexibilidad para comprender el lenguaje natural y rigor para cumplir las políticas de seguridad. Los atacantes explotan esa flexibilidad para modificar su comportamiento.

Los ataques indirectos manipulan al modelo a través de los datos que procesa, no directamente mediante las instrucciones del usuario. Por ejemplo, al resumir debates de foros públicos o analizar sitios web externos, un agente puede encontrar código malicioso oculto, como enlaces a descargas que se realizan sin que el usuario lo advierta. Si reproduce ese contenido en sus resultados al tratarlo como legítimo, puede convertirse en un vector de ciberataque.

Una misma entrada puede generar resultados distintos en los modelos de IA según el contexto o el momento, por lo que una evaluación puntual resulta insuficiente. Su comportamiento no se ajusta al marco preestablecido con el que se analizan los fallos deterministas del software convencional; esta diferencia marca los límites de los métodos tradicionales de seguridad. Para identificar patrones de fallo, es necesario realizar simulaciones continuas de ataques. Marcos de referencia como MITRE ATLAS o el Top 10 de OWASP sobre riesgos asociados a los LLM proporcionan, además, una estructura para integrar la seguridad de la IA en los procesos de defensa existentes.

Fundamentos para proteger eficazmente a los agentes de IA

La respuesta no exige reinventar la ciberseguridad, sino aplicar con rigor principios contrastados: confianza cero, gestión de identidades y supervisión continua. Una vez establecida la identidad de cada agente, la empresa debe definir sus permisos de forma detallada y conceder únicamente los necesarios, conforme al principio de mínimo privilegio. También debe limitar su duración y adaptarlos al contexto para reducir el riesgo de movimiento lateral en caso de que se produzca una vulneración de la seguridad.

Junto con el control de acceso, es esencial mantener un registro continuo de actividad. Las decisiones y acciones de cada agente deben quedar documentadas para asegurar una trazabilidad completa y en tiempo real, que permita analizar los fallos e investigar los incidentes en profundidad.

Para coordinar estas medidas, cada organización ha de designar a una persona responsable de supervisar a los agentes e implantar un mecanismo centralizado que permita detener su actividad ante comportamientos sospechosos. Esa supervisión debe incluir la restricción sistemática de permisos, la revisión periódica de las autorizaciones y el uso de modelos de confianza adaptativos que ajusten dinámicamente el nivel de confianza concedido a cada agente.

Proteger los datos exige controlar las interacciones en tiempo real y supervisar los flujos de información dentro de los procesos gestionados por la IA. Los datos son el principal objetivo de los intentos de jailbreaking y están expuestos a los comportamientos autónomos inadecuados. Considerar a los agentes como entidades propias dentro de una arquitectura de confianza cero —Zero Trust— permite aprovechar su autonomía sin renunciar al control de la información sensible.

La relativa facilidad con que los atacantes pueden ejecutar técnicas como el jailbreaking refuerza la necesidad de una seguridad integral y una gobernanza rigurosa. El despliegue de la IA agéntica exige, por tanto, incorporar la asignación de identidades propias a los agentes y la evaluación continua de los modelos a las estrategias de ciberseguridad. Un enfoque que se anticipe a las amenazas y se adapte a su evolución contribuirá a desplegar estos sistemas de forma segura y a proteger los datos y recursos críticos de las empresas.

Steve Riley, vicepresidente y Field CTO, Netskope

La entrada La autonomía de los agentes de IA exige replantear la ciberseguridad se publicó primero en Ciberseguridadtic.