La protección de los sistemas de IA se convierte en una nueva prioridad de ciberseguridad
Los ataques dirigidos contra sistemas de IA se han convertido en la amenaza para la que las empresas se sienten menos preparadas. Así lo recoge el 2027 Global Digital Trust Insights elaborado por PwC.
Según datos del informe, el 50 % de los responsables de seguridad sitúa los ataques contra sistemas de IA entre sus principales preocupaciones. Se colocan así por delante de las amenazas relacionadas con la nube, mencionadas por el 40 %; los ataques a través de terceros, con un 34 %; y el ransomware, con un 33 %.
Entre las amenazas habilitadas por IA que generan mayor inquietud aparecen tres especialmente. El 53 % de los responsables de seguridad y riesgo señala el compromiso mediante botnets autónomos, capaces de utilizar IA para coordinar ataques a escala, seguidos de los ataques adversariales, con un 52 %, y el envenenamiento de datos, también con un 52 %.
Los ataques adversariales buscan manipular las entradas que recibe un sistema de IA para alterar su comportamiento o provocar respuestas incorrectas. El envenenamiento de datos actúa en otra fase: introduce información manipulada en los conjuntos de datos utilizados por los modelos, con el objetivo de condicionar posteriormente sus resultados.
Este escenario está llevando a las empresas a aumentar sus inversiones. Así, el 84 % de los responsables de seguridad y finanzas espera incrementar su presupuesto de ciberseguridad durante los próximos doce meses, frente al 78 % registrado un año antes. Además, el 58 % de los responsables de seguridad sitúa la IA entre sus principales prioridades presupuestarias.
La protección del dato y la confianza influyen en las decisiones de inversión del 51 % de los encuestados, mientras que el 46 % señala la necesidad de protegerse frente a ataques habilitados por IA y el 45 % menciona específicamente la seguridad de los sistemas de IA y los agentes autónomos.
Más inversión, pero todavía importantes carencias
El aumento del gasto no significa, sin embargo, que las organizaciones estén preparadas para responder a un incidente. Sólo el 39 % de los responsables de seguridad, riesgo y operaciones afirma disponer de planes de continuidad plenamente formalizados e integrados que contemplen específicamente los ciberiesgos cibernéticos.
También existen carencias en la protección de los datos sobre los que se apoyan los nuevos sistemas de IA. De las siete medidas de gestión del riesgo del dato analizadas por PwC, las empresas han implantado de media únicamente tres en toda la organización. Sólo el 5 % dispone de las siete, mientras que aproximadamente la mitad cuenta con políticas de clasificación de datos o mecanismos de prevención de pérdida de información plenamente implantados.
La IA presenta, además, una paradoja para los responsables de seguridad: es al mismo tiempo una nueva superficie de ataque y una herramienta con la que intentar responder a amenazas que operan cada vez a mayor velocidad.
Las empresas muestran interés por utilizar agentes de IA en tareas defensivas, especialmente para la detección de amenazas y alertas, señalada por el 50 %, y para la detección y respuesta frente al phishing, mencionada por el 42 %. Sin embargo, sólo el 22 % permitiría que estos agentes ejecutaran acciones de defensa de forma completamente autónoma.
Las dudas se concentran principalmente en la fiabilidad y madurez de la tecnología, citadas por el 55 % como uno de los principales obstáculos para ampliar la autonomía de los agentes. Otro 46 % señala cuestiones relacionadas con la responsabilidad y la explicabilidad de sus decisiones, mientras que el 44 % de los CISO identifica también la falta de capacidades para supervisar y gobernar estos sistemas.
La entrada La protección de los sistemas de IA se convierte en una nueva prioridad de ciberseguridad se publicó primero en Ciberseguridadtic.