Qu’est-ce que « Protéger et tirer parti de l’IA » ?

L’IA générative peut être appliquée tout au long du cycle de vie de la cybersécurité de cinq manières particulièrement efficaces :

1. Synthèse des renseignements sur les menaces : mise en corrélation des signaux provenant de multiples sources de données de sécurité pour produire des synthèses prêtes à l’emploi par les analystes, ce qui accélère considérablement le délai entre la détection et la prise de décision.
2. Détection du phishing par l’IA : utilisation d’analyses comportementales et linguistiques pour aider à identifier les tentatives de phishing et de spear-phishing qui échappent aux filtres basés sur les signatures, y compris les contenus d’ingénierie sociale générés par l’IA.
3. Réponse automatisée aux incidents : orchestrer des mesures de confinement (isolement des systèmes, réinitialisation des identifiants compromis, blocage des adresses IP malveillantes) plus rapidement que ne le permettent les workflows de réponse humains.
4. Opérations informatiques prédictives : identification des dérives de configuration, des lacunes dans la couverture de protection et des schémas d’accès anormaux avant qu’ils ne dégénèrent en incidents.
5. Workflows de Recovery par agent : orchestration de séquences complexes de Recovery informatique via des interfaces conversationnelles, avec confirmation par un intervenant humain pour les actions critiques.

Commvault Cloud peut fournir ces cinq fonctionnalités grâce à Metallic AI et à la bibliothèque d’agents Arlie, qui comprend Arlie Data Sense (analyse des menaces et synthèse des journaux), Arlie Recovery (orchestration de la reprise assistée par agent) et Arlie Advisor (conseils contextuels en matière de sécurité et de résilience).

L’IA améliore la détection des menaces de trois manières fondamentales par rapport aux approches traditionnelles basées sur des règles. Premièrement, l’échelle et la vitesse : les modèles optimisés par l’IA analysent simultanément et en temps réel des millions de signaux comportementaux — activité réseau, accès des utilisateurs, anomalies des tâches de sauvegarde et mouvements de données — là où les analystes humains ne peuvent qu’effectuer un échantillonnage.

Deuxièmement, la détection des menaces « zero-day » et inconnues : la détection d’anomalies assistée par l’IA identifie les écarts par rapport aux références établies sans s’appuyer sur des signatures d’attaque connues, ce qui permet de repérer des menaces que les outils traditionnels laissent passer jusqu’à ce qu’elles causent des dommages.

Troisièmement, la réduction des faux positifs : l’apprentissage adaptatif permet aux modèles de distinguer les véritables anomalies des variations normales au fil du temps, réduisant ainsi la « fatigue des alertes » qui conduit les analystes à passer à côté de menaces réelles. En matière de protection des données plus précisément, la détection des anomalies optimisée par l’IA identifie les premiers signes de préparation d’un rançongiciel — schémas de chiffrement inhabituels, tentatives de suppression de sauvegardes, escalades de privilèges — avant que la charge utile principale de l’attaque ne soit exécutée. Commvault Cloud intègre la détection des anomalies optimisée par l’IA dans ses workflows de protection des données, de résilience des identités et de cyber-Recovery.

La sécurité des données de l’IA consiste à mettre à profit les capacités de l’IA pour protéger les données d’entreprise — en utilisant l’apprentissage automatique pour la détection des menaces, la gouvernance des accès, la classification des données sensibles, la détection des anomalies et la conformité pour tous les types de données.

La protection des données de l’IA consiste à sécuriser les données dont dépendent les systèmes d’IA : ensembles de données d’entraînement, paramètres de modèles, pipelines d’inférence, bases de données vectorielles et infrastructure de calcul exécutant les charges de travail d’IA.

Ces deux aspects sont indispensables à une stratégie complète de sécurité de l’IA en entreprise. Les organisations qui investissent dans la sécurité des données d’IA mais négligent leur infrastructure d’IA exposent leurs modèles au « poisoning », aux attaques malveillantes et à la corruption. Celles qui protègent les données d’IA mais n’appliquent pas l’IA à leurs opérations de sécurité des données se défendent contre les menaces modernes avec des outils obsolètes.

Commvault Cloud est conçu pour répondre à ces deux besoins au sein d’une seule et même plateforme : il assure une protection complète des charges de travail d’IA, tout en intégrant à l’ensemble des opérations des capacités de détection améliorées par l’IA, de détection des anomalies et d’intelligence de restauration autonome.

Principaux vecteurs de menaces ciblant l’infrastructure d’IA :

1. Empoisonnement et manipulation des données : les attaquants injectent des données malveillantes dans les ensembles d’entraînement afin de corrompre le comportement des modèles, provoquant ainsi des résultats erronés ou créant des portes dérobées exploitables.
2. Attaques adversaires : des manipulations subtiles des données d’entrée induisent les modèles en erreur et entraînent des classifications erronées, en exploitant la manière dont les réseaux neuronaux traitent l’information.
3. Attaques par inversion de modèle : les attaquants extraient des données d’entraînement sensibles en analysant les résultats des modèles et leurs schémas comportementaux, exposant ainsi des informations confidentielles.
4. Injection de prompts : des entrées malveillantes manipulent le comportement des grands modèles linguistiques au-delà de leurs paramètres prévus — ce qui concerne toute entreprise utilisant l’IA générative (GenAI) ou des workflows agents.
5. Compromission de l’identité des machines : les attaquants détournent les comptes de services d’IA ou les identifiants d’API pour obtenir un accès privilégié aux systèmes d’IA et aux données qu’ils traitent.
6. Attaques de la chaîne d’approvisionnement de l’IA : des failles dans l’approvisionnement en données, les composants de modèles tiers ou les pipelines de déploiement qui compromettent l’intégrité de l’IA à grande échelle.

La solution de défense contre les menaces liées à l’IA de Commvault Cloud aide à se protéger contre l’injection de prompts, les modèles empoisonnés et les attaques ciblant l’identité des machines. La détection d’anomalies assistée par l’IA surveille les schémas d’accès et les signaux comportementaux pouvant indiquer des menaces actives pesant sur l’infrastructure d’IA.

La gestion traditionnelle des sauvegardes exige des administrateurs qu’ils configurent manuellement les politiques, surveillent la réussite des tâches, identifient les lacunes de couverture et exécutent les procédures de Recovery, ce qui engendre une charge opérationnelle difficilement évolutive. L’automatisation par l’IA peut améliorer cette situation dans trois domaines spécifiques. En matière de gestion de la protection : les recommandations de politiques basées sur l’IA analysent les métadonnées des charges de travail et les modèles d’utilisation afin d’optimiser la configuration des sauvegardes et de surveiller en continu les écarts de configuration, contribuant ainsi à éliminer les cycles de vérification manuelle.

En matière d’intelligence opérationnelle : l’analyse des journaux assistée par l’IA met en avant l’analyse des causes profondes et des recommandations exploitables plutôt que les données d’alerte brutes, réduisant ainsi le délai de résolution des problèmes opérationnels et de réponse aux incidents. En matière d’orchestration de la Recovery : l’automatisation par agent guide les équipes à travers des workflows de Recovery complexes — confinement des menaces, identification des points de Recovery sûrs, Recovery validée — grâce à une aide à la décision structurée plutôt qu’à une exécution entièrement manuelle.

La différence fondamentale par rapport à la gestion traditionnelle des sauvegardes : l’automatisation par l’IA permet de gérer la complexité à grande échelle, en identifiant les charges de travail qui semblent insuffisamment protégées, les points de restauration « propres » et les actions à prioriser ensuite. Commvault Cloud peut offrir ces trois fonctionnalités grâce à Metallic AI, à la bibliothèque d’agents Arlie et au framework MCP Server.

Commvault Cloud est conçu pour répondre aux deux aspects de la sécurité des données d’IA à partir d’une plateforme unique et unifiée. Pour la protection des données : sauvegarde complète, stockage immuable et restauration rapide pour la pile d’applications d’IA — lacs de données, bases de données vectorielles, registres de modèles et infrastructure de calcul sur AWS, Azure et Google Cloud — avec une défense basée sur l’IA contre l’empoisonnement des données, l’injection de prompts et les attaques par usurpation d’identité des machines.

En matière de résilience : Metallic AI et la bibliothèque d’agents Arlie intègrent une détection des menaces améliorée par l’IA, une détection des anomalies et une orchestration de la Recovery à l’échelle des opérations de la plateforme, notamment des capacités de détection du hameçonnage, des analyses prédictives des opérations informatiques et une réponse automatisée aux incidents. En matière d’extension : Data Activate rend accessibles les données de sauvegarde gérées dans des formats ouverts (Parquet, Iceberg) à des fins d’analyse, d’entraînement de modèles et de conformité ; et le serveur MCP permet aux agents d’IA d’entreprise d’interroger, d’automatiser et d’interagir avec Commvault Cloud de manière sécurisée via des interfaces conversationnelles.

Commvault opère dans le cadre d’une IA responsable axée sur la fiabilité, la transparence et la supervision humaine, ce qui le distingue des fournisseurs de sécurité des données dans le cloud qui exigent des couches d’IA propriétaires ou des plans de contrôle distincts. Priorité à l’intégration : connexion native à Databricks, CrowdStrike, AWS et d’autres écosystèmes d’IA et de sécurité des données.