El 65% de las empresas ya ha registrado comportamientos no previstos de sus agentes de IA
Los agentes de IA empiezan a incorporarse a procesos empresariales con capacidad para acceder a datos, utilizar herramientas y ejecutar acciones de forma autónoma. Sin embargo, los controles de seguridad no parecen evolucionar al mismo ritmo.
Así lo señala el informe Agents Without Guardrails: The Agentic AI Governance Gap in the Enterprise, elaborado por EMA a partir de una encuesta a 202 responsables empresariales, principalmente de TI y seguridad, de organizaciones de Norteamérica y EMEA.
El 46 % de las organizaciones ya está escalando la IA agéntica en varios departamentos y entornos de producción, mientras que otro 30,7 % está trasladando prototipos a producción. Los principales casos de uso se encuentran en help desk y service desk (56,4 %), desarrollo de software (37,6 %), operaciones de seguridad (29,2 %) y atención al cliente (25,2 %).
Agentes que exceden sus permisos
El dato más significativo desde el punto de vista de la ciberseguridad es que el 29,2 % ha sufrido algún incidente en el que un agente actuó fuera de su ámbito previsto o de los accesos autorizados y provocó un impacto medible, como exposición de datos, consecuencias económicas, interrupciones operativas o daños reputacionales. Otro 35,6% registró situaciones similares que pudieron detenerse antes de causar daños.
En conjunto, cerca del 65 % ha experimentado algún comportamiento fuera de los límites previstos. Además, solo el 32,2 % asegura poder detectar y contener estos casos en cuestión de minutos mediante mecanismos automatizados. Para un 54, 5%, la respuesta requiere horas y pasos manuales.
También existen carencias de trazabilidad: el 46% no puede generar fácilmente un registro completo de las acciones realizadas por un agente durante los 30 días anteriores, lo que complica determinar qué sistemas o datos se han visto afectados después de un incidente.
El mínimo privilegio sigue siendo una asignatura pendiente
El informe señala la gestión de identidades y accesos como uno de los principales problemas. Aunque el 94% confía en que sus agentes no disponen de más privilegios de los necesarios, solo el 32,7% aplica el principio de mínimo privilegio desde el diseño.
Además, únicamente el 34,2 % comprueba la autorización en el momento en que el agente intenta ejecutar una acción concreta. En muchos casos se mantienen permisos permanentes concedidos previamente, aunque no sean necesarios para la tarea que el agente está realizando.
La misma brecha aparece en la identidad: el 54,5 % exige y aplica identidades únicas para cada agente, mientras que otro 32,2 % dispone de este requisito, pero reconoce que no siempre se cumple.
Controlar las acciones, no solo los agentes
EMA también advierte sobre los proyectos abandonados. Cerca del 3 0% de los pilotos se ha detenido indefinidamente o se ha abandonado formalmente, y algunos pueden conservar credenciales, permisos o conexiones con sistemas empresariales si no se realiza correctamente su retirada.
Por ello, el informe plantea tres prioridades: controlar en tiempo real qué acciones puede realizar cada agente, disponer de capacidades automatizadas de detección y contención antes de escalar los despliegues y tratar la retirada de los agentes como un proceso de seguridad, con la correspondiente revocación de credenciales y permisos.
La conclusión apunta a una brecha entre la adopción y el control: las empresas están llevando agentes de IA a procesos críticos con mayor rapidez de la que están desarrollando los mecanismos necesarios para conocer qué hacen, limitar sus permisos y reaccionar cuando actúan fuera de los límites establecidos.
La entrada El 65% de las empresas ya ha registrado comportamientos no previstos de sus agentes de IA se publicó primero en Ciberseguridadtic.