Las empresas aceleran el despliegue de agentes de IA sin resolver cómo supervisarlos
El despliegue de agentes de inteligencia artificial está poniendo a prueba la capacidad de las empresas para controlar su funcionamiento. Aunque su utilización se está extendiendo, muchas organizaciones todavía tienen dificultades para supervisar sus actividades, detectar comportamientos incorrectos y determinar quién debe responsabilizarse de su gestión. Así lo refleja el informe State of Observability 2026, elaborado por Splunk, compañía de Cisco.
El estudio, basado en las respuestas de 2.050 profesionales de operaciones TI e ingeniería de diez países, muestra que el 38 % de las organizaciones encuestadas no tiene claramente definidas las responsabilidades de supervisión de la IA. Además, el 42 % de los participantes identifica como principal dificultad que la supervisión dependa de equipos distintos.
Esta fragmentación complica la gestión de unos sistemas que intervienen en procesos cada vez más importantes para las empresas. Su funcionamiento afecta a diferentes áreas, desde el desarrollo de software y la infraestructura hasta la seguridad, por lo que no siempre está claro quién debe detectar un problema o intervenir cuando algo falla.
Dificultades para detectar los errores de la IA
La falta de visibilidad también afecta a la capacidad para identificar comportamientos incorrectos. Aunque el 85 % de los encuestados considera importante detectar las alucinaciones de la IA, sólo el 58 % asegura que su organización puede supervisarlas eficazmente.
El problema adquiere especial relevancia cuando un agente utiliza información errónea para ejecutar una operación. Un fallo que en un asistente convencional podría limitarse a una respuesta incorrecta puede tener consecuencias mayores cuando el sistema está conectado a aplicaciones y procesos empresariales.
De hecho, el 83 % de los participantes expresa preocupación por las consecuencias imprevistas de los agentes de IA. Además, el 56 % reconoce que no puede medir adecuadamente indicadores como la calidad de las respuestas de los modelos.
Estas dificultades también tienen implicaciones para la ciberseguridad. Sin una supervisión adecuada, resulta más complicado identificar si un agente ha sido manipulado, está utilizando indebidamente sus permisos o está realizando operaciones que no debería ejecutar.
La IA también mejora la detección de incidentes
El informe no se limita a señalar los problemas. El 86 % de los encuestados afirma que la IA ha mejorado la rapidez con la que sus equipos detectan incidencias tecnológicas o de seguridad, y un 36 % considera que esa mejora ha sido significativa.
Sin embargo, un 14 % señala que los agentes han complicado la detección y resolución de problemas, entre otras razones por el tiempo necesario para comprobar que sus respuestas son correctas.
El estudio también refleja una mayor colaboración entre los equipos de operaciones y seguridad. El 81 % afirma que la supervisión de las cargas de IA ha favorecido el trabajo conjunto entre ambas áreas, mientras que el intercambio de información entre equipos ha pasado del 74 % al 84 %.
Para Splunk, estos resultados ponen de manifiesto la necesidad de abordar conjuntamente la observabilidad y la seguridad. La cuestión no es únicamente comprobar que los agentes funcionan correctamente, sino disponer de información suficiente para conocer qué están haciendo, detectar posibles desviaciones e intervenir cuando sea necesario.
La entrada Las empresas aceleran el despliegue de agentes de IA sin resolver cómo supervisarlos se publicó primero en Ciberseguridadtic.