IA y ciberseguridad, binomio clave para innovar sin perder el control
La inteligencia artificial está transformando las empresas a una velocidad sin precedentes. En poco tiempo, hemos pasado de experimentar con herramientas generativas a incorporarlas en nuestro trabajo cotidiano. El siguiente paso viene de la mano de los agentes, sistemas capaces de generar contenido, acceder a información, interactuar con aplicaciones, tomar decisiones y ejecutar acciones con creciente autonomía.
Ante esta realidad, debemos plantearnos un cambio de enfoque en la aplicación de la IA y determinar hasta dónde estamos dispuestos a delegar en ella, y bajo qué condiciones. Y ahí la ciberseguridad tiene un papel fundamental.
Durante años hemos construido nuestros modelos de seguridad alrededor de sistemas, identidades y datos. Pero la IA introduce una dimensión adicional que nos obliga a proteger cómo se utiliza la información, cómo la interpretan los modelos y qué decisiones o acciones pueden derivarse de ella.
Pensemos en un comercial que utiliza una herramienta de IA para preparar una propuesta e introduce información sobre clientes, precios, márgenes o estrategia competitiva. No estamos ante un ataque. Estamos ante un profesional intentando ser más productivo. Sin embargo, puede estar compartiendo información sensible con un servicio externo sin las garantías necesarias.
Este ejemplo refleja uno de los desafíos actuales: el Shadow AI, la utilización de herramientas de IA fuera del gobierno corporativo. El riesgo ya no procede únicamente de quién intenta acceder a nuestros sistemas, sino también de cómo utilizamos legítimamente la tecnología. Un desafío que aumenta con la llegada de la IA agéntica.
Hasta ahora interactuábamos con sistemas que proporcionaban información para que una persona tomara la decisión final. Ahora comenzamos a delegar parte de esa capacidad. Si un agente recibe instrucciones manipuladas, accede a información indebida o ejecuta acciones no autorizadas, las consecuencias pueden convertirse en incidentes operativos, económicos o reputacionales. En decir, cuanta mayor autonomía concedamos a la IA, mayor deberá ser nuestra capacidad para gobernarla.
Por eso, debemos tener en cuenta tres conceptos que deberían acompañar cualquier estrategia empresarial de inteligencia artificial: confianza, responsabilidad y control.
Confianza significa utilizar la IA sabiendo que protegemos nuestros datos, sistemas y procesos críticos. Responsabilidad implica establecer quién responde por las decisiones y acciones realizadas mediante IA. Debemos definir qué puede decidir una máquina, cuándo debe intervenir una persona y quién responde por el resultado. Por último, control supone disponer de visibilidad sobre qué modelos utilizamos, qué información procesan, a qué recursos acceden nuestros agentes y qué acciones están autorizados a realizar. Sin esa visibilidad, difícilmente podremos hablar de gobierno.
Por eso necesitamos evolucionar hacia un modelo de AI Security by Design, donde la seguridad forme parte del diseño y de todo el ciclo de vida de las soluciones. Esto exige combinar capacidades tradicionales, como protección de datos, gestión de identidades y monitorización, con controles específicos frente a amenazas como el prompt injection, la manipulación de modelos o el uso indebido de permisos por agentes autónomos.
En Europa, además, este desafío adquiere una dimensión regulatoria con el EU AI Act, que establece un marco basado en el riesgo y refuerza las exigencias de seguridad, transparencia y supervisión humana. A ello se suma la importancia de la soberanía digital, que exige conocer dónde se procesan los datos, bajo qué jurisdicción operan los servicios y quién mantiene su control efectivo. Porque una IA confiable no solo debe ser segura y cumplir la normativa, sino también garantizar que las organizaciones mantienen el control sobre su información y sus procesos.
Ante este escenario, la respuesta requiere colaboración entre negocio, tecnología, legal, cumplimiento y ciberseguridad. Y exige evolucionar también el papel del CISO. Nuestra responsabilidad no debería ser frenar la adopción de IA, sino ayudar al negocio a comprender sus riesgos y establecer las condiciones para gestionarlos.
Ahí radica el verdadero desafío, en saber combinar innovación con seguridad para impulsar la competitividad de nuestras empresas. Estamos entrando en una etapa en la que confiaremos a la IA más información, procesos y capacidad de actuación. Nuestra responsabilidad es asegurar que esa autonomía crezca al mismo ritmo que nuestra capacidad para gobernarla. Porque securizar la inteligencia artificial no consiste en poner límites a la innovación, sino en generar la confianza necesaria para llevarla más lejos sin perder el control.
Laura Hernández Ardura, Head of Cybersecurity de T-Systems Iberia
La entrada IA y ciberseguridad, binomio clave para innovar sin perder el control se publicó primero en Ciberseguridadtic.