Microsoft plantea un nuevo modelo de seguridad para controlar los agentes de IA dentro de las empresas
Microsoft ha ampliado su estrategia de seguridad para agentes de IA con una idea de fondo: no basta con proteger a las organizaciones frente a los atacantes externos, también hay que controlar lo que hacen los agentes que operan dentro de ellas, lo que ha venido en denominar agentic insider, una especie de usuario interno digital que puede acceder a datos, utilizar herramientas y ejecutar acciones sin intervención humana constante.
Hayete Gallot, vicepresidenta ejecutiva de Microsoft Security, advierte de que los modelos avanzados de IA no pueden considerarse completamente fiables. No necesariamente porque tengan intenciones maliciosas, sino porque pueden alcanzar sus objetivos de formas que no coincidan con las políticas de una organización.
Permisos que cambian según el riesgo
Para responder a esta situación, Microsoft está ampliando las capacidades de Project Perception, su sistema de seguridad para entornos de IA agéntica, con mecanismos que permiten evaluar continuamente el comportamiento de los agentes.
Una de las novedades es Dynamic Agent Risk, que analiza señales procedentes de diferentes herramientas de seguridad para determinar el riesgo asociado a cada agente. A partir de esa evaluación, Dynamic Conditional Access puede modificar automáticamente sus permisos.
Por ejemplo, un agente que muestra comportamientos anómalos podría perder los permisos de escritura y conservar únicamente los de lectura. Si el riesgo aumenta, determinadas operaciones podrían requerir autorización humana o incluso provocar su aislamiento.
Microsoft también introduce Dynamic Permissions, para que los agentes reciban únicamente los permisos necesarios para realizar una tarea y durante el tiempo imprescindible. Se trata de trasladar principios de Zero Trust, como el mínimo privilegio y la verificación continua, a sistemas capaces de actuar por su cuenta.
Identificar y controlar a los agentes
Otro problema que Microsoft quiere resolver es la falta de visibilidad. Los empleados pueden utilizar agentes de IA sin que los equipos de seguridad tengan constancia de su existencia, especialmente cuando se ejecutan localmente o mediante herramientas de terceros.
La compañía ha ampliado sus capacidades de descubrimiento para reconocer 60 tipos de agentes locales, entre ellos Claude Code, OpenAI Codex y GitHub Copilot.
Además, está extendiendo Microsoft Entra Agent ID para proporcionar a estos agentes una identidad propia, diferenciada de la del usuario que los utiliza. Esto permitiría establecer permisos específicos, identificar a sus responsables y registrar sus actividades.
La estrategia incluye también nuevos Guardian Agents, especializados en supervisar el comportamiento de otros agentes, investigar situaciones de riesgo y aplicar medidas de contención siguiendo las políticas de seguridad de cada organización.
Una nueva superficie de riesgo
El anuncio refleja cómo está cambiando la seguridad de la IA. Hasta ahora, buena parte de la atención se había centrado en la protección de los modelos, la fuga de información o los ataques mediante prompt injection. La llegada de agentes autónomos añade otra preocupación: las consecuencias de permitir que un sistema de IA actúe directamente sobre los recursos corporativos.
El riesgo ya no se limita a que un agente proporcione una respuesta incorrecta. También puede modificar información, ejecutar operaciones o interactuar con otros sistemas sin la autorización adecuada, incluso aunque no haya sido comprometido por un atacante.
Microsoft aún no ha concretado la disponibilidad general ni los precios de todas las nuevas capacidades y prevé ofrecer más detalles durante Microsoft Ignite, que comenzará el 17 de noviembre.
La entrada Microsoft plantea un nuevo modelo de seguridad para controlar los agentes de IA dentro de las empresas se publicó primero en Ciberseguridadtic.