Cuando los modelos de IA de vanguardia empezaron a ser noticia, la mayor parte del debate se centró en una pregunta: ¿qué pasaría si los atacantes lograran acceder a ellos? Es una pregunta lógica. Los modelos capaces de detectar vulnerabilidades más rápido, encadenar exploits y funcionar a una velocidad sin precedentes, lógicamente, preocupan a cualquier CISO.
Pero tras haber pasado un tiempo hablando con los clientes durante los últimos meses —y en mi conversación con Tim Zonca, vicepresidente de marketing de cartera de Commvault, en este episodio de STRIVE—, creo que está surgiendo una pregunta aún más importante.
¿Qué ocurre con la propia resiliencia? Porque, aunque la IA de vanguardia acelerará sin duda las ciberamenazas, también está acelerando otra cosa: la complejidad empresarial. Mira el episodio completo.
Puntos clave
- La IA de vanguardia no solo está acelerando los ciberataques, sino que también está aumentando la complejidad de las empresas.
- La gestión de vulnerabilidades no va a desaparecer, pero la velocidad y la magnitud con las que se detectan están cambiando de forma espectacular.
- Los sistemas de IA traen consigo nuevas dependencias de recuperación, como agentes, bases de datos vectoriales, representaciones y estado distribuido.
- Las organizaciones necesitan tener una visión clara de su entorno antes de poder recuperarse.
- La próxima generación de resiliencia dependerá de sistemas de registro fiables que expliquen qué ha ocurrido, por qué ha ocurrido y cómo recuperarse con confianza.
El debate ha cambiado
Una de las cosas de las que Tim y yo hablamos al principio del episodio es lo diferente que están reaccionando las organizaciones ante la IA de vanguardia.
- Hay quien ve aquí un tipo de reto de ciberseguridad totalmente nuevo.
- Hay quien lo ve simplemente como la siguiente etapa en la evolución de la gestión de vulnerabilidades.
Lo curioso es que ninguna de las dos perspectivas está necesariamente equivocada. Los procesos que utilizan las empresas para identificar, priorizar y solucionar las vulnerabilidades siguen siendo los de siempre. Pero la rapidez con la que la IA puede descubrir esas vulnerabilidades —y sacar a la luz cadenas de ataque totalmente nuevas— no se parece a nada de lo que hayamos visto antes. Ese es el cambio.
El trabajo no es muy diferente. Lo que cambia es la velocidad.
Cuando la IA cambia el panorama de Recovery
La mayoría de las conversaciones sobre la IA se centran en la seguridad y la prevención:
- ¿Cómo protegemos los modelos?
- ¿Cómo protegemos las instrucciones?
- ¿Cómo nos defendemos de los ataques asistidos por IA?
Son preguntas importantes. Pero la resiliencia plantea otra diferente: ¿qué es exactamente lo que estamos recuperando? Las aplicaciones empresariales tradicionales ya implican relaciones complejas entre la infraestructura, las aplicaciones y los datos. La IA amplía considerablemente ese panorama. Ahora hay agentes que operan en múltiples sistemas. Bases de datos vectoriales. Incrustaciones. Modelos que interactúan simultáneamente con diferentes fuentes de datos. Se ha convertido en algo mucho más amplio que una pila de aplicaciones tradicional. La recuperación ya no consiste en restaurar una aplicación. Se trata de restaurar todo un ecosistema.
Avance: Echa un vistazo a esto
En esta sesión de nuestro STRIVE, Tim y yo hablamos de la creciente complejidad de las pilas de IA, qué es la recuperación coherente (y por qué es importante) y cómo Commvault está ayudando a nuestros clientes con la recuperación completa de la pila de IA.
Por qué es importante la coherencia
Una idea que no deja de surgir a lo largo de nuestra conversación es la coherencia. Durante años, las organizaciones se han esforzado por mapear las dependencias de las aplicaciones, comprender las relaciones entre los componentes de la infraestructura e identificar los servicios críticos. La IA complica mucho más ese reto. Las aplicaciones ya no interactúan con una sola base de datos o servicio. Pueden depender de múltiples modelos, agentes, almacenes de datos y capas de orquestación, todos ellos en constante cambio.
Entender esas relaciones ya no es solo un ejercicio de arquitectura. Es un requisito para la Recovery. Porque si no entiendes en qué consiste el sistema, es difícil saber si realmente lo has recuperado.
Un nuevo sistema de registro
Otro concepto de Tim que me ha parecido convincente es la idea de un sistema de registro para la era de la IA. Históricamente, los sistemas de registro proporcionaban a las organizaciones confianza en los datos empresariales. Los registros de clientes se almacenaban en plataformas CRM. Los registros financieros, en sistemas ERP.
La IA cambia esa expectativa.
Las organizaciones necesitan cada vez más disponer de una visión fiable de cómo se utilizan los datos, qué agentes interactúan con ellos, por qué se toman las decisiones y si los entornos restaurados se encuentran en un estado que se sabe que es correcto. Eso no sustituye a la resiliencia. La refuerza. Porque la confianza en la recuperación depende de la confianza en lo que se está recuperando.
La IA también puede ayudar a resolver el problema
Mientras las organizaciones se esfuerzan por comprender entornos cada vez más distribuidos, la IA se convierte en una herramienta muy útil para la detección, la clasificación y la recomendación de políticas. En lugar de identificar manualmente las relaciones entre entornos cada vez más extensos, las organizaciones pueden utilizar la IA para ayudar a identificar dependencias, recomendar políticas de protección y actualizar continuamente esas relaciones a medida que los entornos evolucionan. Se trata de un cambio importante.
La misma tecnología que está aumentando la complejidad de las organizaciones también puede convertirse en una de las mejores herramientas para gestionarla.
¿Por qué es importante este debate?
Frontier AI no se limita a plantear un reto más en materia de ciberseguridad. Está obligando a las organizaciones a replantearse el concepto mismo de resiliencia. La recuperación ya no se centra tanto en los sistemas individuales como en restablecer operaciones empresariales fiables en entornos cada vez más inteligentes. Eso significa que las estrategias de resiliencia deben evolucionar al mismo ritmo que las tecnologías que protegen.
Las organizaciones que se preparen para ese cambio no solo se recuperarán más rápido. Lo harán con más confianza.
Mira el episodio completo
En esta conversación, Tim y yo analizamos:
- Cómo la IA de vanguardia está transformando el riesgo empresarial.
- Por qué la gestión de vulnerabilidades está entrando en una nueva fase.
- Qué supone la IA para las arquitecturas de recuperación modernas.
- El papel de una recuperación coherente en entornos basados en la inteligencia artificial.
- Por qué los sistemas de registro fiables van a cobrar cada vez más importancia.
Preguntas frecuentes
P: ¿Qué son los modelos de IA de vanguardia? R: Los modelos de Frontier AI son la última generación de sistemas de IA de gran capacidad, diseñados para resolver tareas cada vez más complejas de razonamiento y ciberseguridad. P: ¿Por qué preocupan a las organizaciones? R: Aceleran enormemente la detección de vulnerabilidades, la concatenación de exploits y la investigación en seguridad, lo que mejora tanto las capacidades defensivas como las ofensivas.
P: ¿Cómo cambia la IA la ciberresiliencia? R: La IA introduce nuevas dependencias —como agentes, modelos, bases de datos vectoriales y estados distribuidos— que hacen que la recuperación sea más compleja. P: ¿Qué es una estrategia de recuperación coherente?
R: Es un enfoque que restaura no solo los datos, sino también las aplicaciones, la infraestructura, las dependencias y los componentes de IA necesarios para que el negocio funcione de forma fiable. P: ¿Qué es un sistema de registro en la era de la IA? R: Es una fuente fiable que ayuda a las organizaciones a comprender qué ha ocurrido, por qué ha ocurrido y si los sistemas recuperados se encuentran en un estado que se sabe que es correcto.
P: ¿Qué deberían hacer ahora las organizaciones? R: Empezar a identificar las dependencias de la IA, comprender cómo la IA cambia los requisitos de recuperación y desarrollar estrategias de resiliencia que tengan en cuenta los entornos de aplicaciones cada vez más inteligentes. Chris Mierzwa es director sénior de marketing de cartera en Commvault.
