Andre Troskie, Veeam: “Si no podemos confiar en los datos, tampoco podemos confiar en los resultados de la IA”

La inteligencia artificial está ampliando rápidamente el terreno que deben proteger los responsables de seguridad. A los usuarios, dispositivos y aplicaciones se suman ahora agentes capaces de acceder a información, tomar decisiones y ejecutar acciones de forma autónoma. Un escenario que, para Andre Troskie, Field CISO de EMEA en Veeam, obliga a replantear la relación entre seguridad, datos y resiliencia.

Asegurando que la adopción de la inteligencia artificial está corriendo por delante de la capacidad de muchas empresas para controlar cómo se utiliza, advierte el directivo que el problema no se limita a las aplicaciones que incorporan IA, sino que alcanza también a los agentes que empiezan a interactuar directamente con información corporativa.

“El CISO ya no es sólo el guardián de los sistemas”

“El principal riesgo es que la adopción de la IA avanza mucho más rápido que nuestra propia capacidad para regularla”, señala. Según datos manejados por Veeam, el 88 % de las organizaciones ya utiliza o está probando agentes de IA, aunque únicamente el 7 % estaría realmente preparado para gestionarlos. En EMEA, además, un 70 % reconoce que los flujos automatizados de IA interactúan ya con información sensible sin una supervisión completa.

Para Andre Troskie, esto vuelve a colocar al dato en el centro de la estrategia de seguridad. Tratar de controlar individualmente miles de agentes difícilmente será escalable, y la alternativa pasa por conocer qué información utilizan, quién puede acceder a ella y cómo se protege durante todo su ciclo de vida. “Si no podemos confiar en los datos, tampoco podemos confiar en los resultados de las herramientas y soluciones de IA”, asegura el directivo.

Cuando las máquinas también tienen identidad

La aparición de agentes autónomos introduce, además, una diferencia importante respecto a otras tecnologías: no sólo consultan información, sino que pueden actuar sobre ella. Para Troskie, estamos pasando progresivamente de un escenario en el que “el ser humano forma parte del proceso” a otro en el que lo controla y, finalmente, a situaciones en las que puede llegar a quedar fuera de él.

Esto obliga al CISO a unir ámbitos que tradicionalmente podían gestionarse por separado. “Los datos, la identidad, los derechos de acceso, la seguridad y la resiliencia están convergiendo”, asegura Andre Troskie, añadiendo que saber qué agentes existen y qué permisos tienen será tan importante como detectar comportamientos anómalos y disponer de mecanismos para revertir sus acciones cuando algo salga mal.

“En la era de los agentes, la seguridad empieza por los datos”

Tener backup ya no significa estar preparado

Ese cambio enlaza con otra evolución que Troskie considera fundamental: pasar de intentar evitar cualquier incidente a asumir que algunos acabarán produciéndose y prepararse para recuperar el negocio. Aunque el 90 % de las organizaciones confía en poder recuperarse de un ciberincidente, menos de una de cada tres víctimas de ransomware consiguió recuperar todos sus datos durante el último año. Eso, sí, lo que tiene claro es que “la resiliencia no se puede dar por sentada, sino que debe demostrarse”.

La diferencia está también en cómo se entiende el backup. Los repositorios de copias de seguridad son ya un objetivo directo de los atacantes, por lo que disponer simplemente de una copia deja de ser suficiente. Inmutabilidad, aislamiento, comprobación de la integridad y detección de malware antes de restaurar forman parte de una estrategia que debe demostrar periódicamente que la recuperación funciona.

La regulación europea está empujando en esa misma dirección, aunque también puede generar una falsa sensación de seguridad. Advierte Troskie de que “el cumplimiento normativo puede convertirse en el trabajo en sí mismo” si las organizaciones concentran sus esfuerzos en políticas, registros y certificaciones mientras dejan sin probar procesos esenciales de recuperación y continuidad.

La cuestión, por tanto, no es únicamente demostrar que existen controles, sino comprobar que funcionan cuando son necesarios. El directivo lo resume con una pregunta especialmente gráfica: si mañana el consejo exigiera saber si la compañía puede recuperar sus servicios críticos a partir de datos limpios y aportar las pruebas que reclamaría un regulador, ¿la respuesta procedería de un ejercicio reciente o simplemente de “un cuestionario cumplimentado”?

“La resiliencia no se puede dar por sentada, debe demostrarse”

Hasta dónde dejar actuar a la IA

Troskie no plantea, sin embargo, frenar la autonomía de la IA. Considera razonable permitir que actúe por sí misma cuando se trate de operaciones bien definidas y reversibles, pero establece una frontera cuando las decisiones afectan a producción, identidades, clientes o pueden tener consecuencias legales.

En opinión del Field CISO para EMEA de Veeam “la autonomía es un privilegio que se gana mediante límites de alcance, registros de auditoría y una función de deshacer probada. No es una opción que simplemente se active”. La regla que propone es sencilla: cuanto mayor sea la autonomía, mayor debe ser también la capacidad para saber qué ha hecho el sistema, detenerlo y revertir únicamente los cambios afectados. “Si no es así, la herramienta debería recomendar, no ejecutar”.

Todo ello está modificando también el propio papel del responsable de seguridad. A las redes, endpoints, identidades humanas y respuesta ante incidentes se han añadido las identidades de máquina, los agentes de IA, el riesgo de terceros, una regulación creciente y la necesidad de demostrar capacidad de recuperación. Y esa transformación acerca al CISO al negocio y al consejo de administración. “El CISO ya no es solo el guardián de los sistemas. Su función se sitúa ahora en la encrucijada entre la seguridad, la gobernanza, el cumplimiento normativo y la resiliencia”, concluye Troskie, añadiendo que el reto pasa por convertir riesgos que evolucionan a velocidad de máquina en decisiones que la organización pueda entender y asumir.

La entrada Andre Troskie, Veeam: “Si no podemos confiar en los datos, tampoco podemos confiar en los resultados de la IA” se publicó primero en Ciberseguridadtic.