Qu’est-ce que « Protéger et tirer parti de l’IA » ?

L’IA générative peut être mise à profit tout au long du cycle de vie de la cybersécurité de cinq manières particulièrement efficaces :

1. Synthèse des renseignements sur les menaces : mise en corrélation des signaux provenant de multiples sources de données de sécurité afin de produire des synthèses prêtes à l’emploi par les analystes, ce qui accélère considérablement le délai entre la détection et la prise de décision.
2. Détection du phishing par l’IA : utilisation d’analyses comportementales et linguistiques pour identifier les tentatives de phishing et de spear-phishing qui échappent aux filtres basés sur les signatures, y compris les contenus de « social engineering » générés par l’IA.
3. Réponse automatisée aux incidents : mettre en œuvre des mesures de confinement (isolation des systèmes, réinitialisation des identifiants compromis, blocage des adresses IP malveillantes) plus rapidement que ne le permettent les processus d’intervention manuels.
4. Opérations informatiques prédictives : identification des écarts de configuration, des lacunes dans la couverture de protection et des schémas d’accès anormaux avant qu’ils ne dégénèrent en incidents.
5. Workflows de Recovery par agent : orchestration de séquences complexes de Recovery informatique via des interfaces conversationnelles, avec confirmation par un intervenant humain pour les actions critiques.

Commvault Cloud peut offrir ces cinq fonctionnalités grâce à Metallic AI et à la bibliothèque d’agents Arlie, qui comprend Arlie Data Sense (analyse des menaces et synthèse des journaux), Arlie Recover (orchestration de la reprise via un agent) et Arlie Advisor (conseils contextuels en matière de sécurité et de résilience).

L’IA améliore la détection des menaces de trois manières fondamentales par rapport aux approches traditionnelles basées sur des règles. Premièrement, l’échelle et la vitesse : les modèles optimisés par l’IA analysent simultanément et en temps réel des millions de signaux comportementaux (activité réseau, accès des utilisateurs, anomalies dans les tâches de sauvegarde et mouvements de données), alors que les analystes humains ne peuvent se contenter que d’un échantillonnage.

Deuxièmement, la détection des menaces « zero-day » et inconnues : la détection des anomalies assistée par l’IA identifie les écarts par rapport aux références établies sans s’appuyer sur des signatures d’attaques connues, ce qui permet de repérer des menaces que les outils traditionnels laissent passer jusqu’à ce qu’elles causent des dommages.

Troisièmement, la réduction des faux positifs : l’apprentissage adaptatif permet aux modèles de distinguer les véritables anomalies des variations normales au fil du temps, réduisant ainsi la « fatigue des alertes » qui conduit les analystes à passer à côté de menaces réelles. En matière de protection des données plus précisément, la détection des anomalies optimisée par l’IA identifie les premiers signes de préparation d’un rançongiciel — schémas de chiffrement inhabituels, tentatives de suppression de sauvegardes, élévations de privilèges — avant même que la charge utile principale de l’attaque ne soit exécutée. Commvault Cloud intègre la détection d’anomalies optimisée par l’IA dans ses workflows de protection des données, de résilience des identités et de reprise après incident informatique.

La sécurité des données d’IAconsiste à tirer parti des capacités de l’IA pour protéger les données d’entreprise, en utilisant l’apprentissage automatique pour la détection des menaces, la gouvernance des accès, la classification des données sensibles, la détection des anomalies et le respect de la conformité pour tous les types de données.

Protéger les données d’IA signifie sécuriser les données dont dépendent les systèmes d’IA : ensembles de données d’entraînement, paramètres de modèles, pipelines d’inférence, bases de données vectorielles et infrastructure de calcul exécutant les charges de travail d’IA.

Ces deux aspects sont indispensables à une stratégie complète de sécurité de l’IA en entreprise. Les organisations qui investissent dans la sécurité des données d’IA mais négligent leur infrastructure d’IA exposent leurs modèles à l’empoisonnement, aux attaques adverses et à la corruption. Celles qui protègent les données d’IA mais n’appliquent pas l’IA à leurs opérations de sécurité des données se défendent contre les menaces modernes avec des outils obsolètes.

Commvault Cloud est conçu pour répondre à ces deux besoins au sein d’une seule et même plateforme : il assure une protection complète des charges de travail deIA, tout en intégrant à l’ensemble des opérations des capacités de détection améliorées par l’IA, de détection des anomalies et d’intelligence de restauration automatisée.

Principaux vecteurs de menaces visant les infrastructures d’IA :

1. Empoisonnement et manipulation des données : les attaquants injectent des données malveillantes dans les ensembles d’entraînement afin de corrompre le comportement des modèles, ce qui entraîne des résultats erronés ou crée des portes dérobées exploitables.
2. Attaques adversaires : des manipulations subtiles des données d’entrée induisent les modèles en erreur et les poussent à effectuer des classifications erronées, en exploitant la manière dont les réseaux neuronaux traitent l’information.
3. Attaques par inversion de modèle : les attaquants extraient des données d’entraînement sensibles en analysant les résultats et les schémas comportementaux des modèles, exposant ainsi des informations confidentielles.
4. Injection de prompts : des entrées malveillantes manipulent le comportement des grands modèles linguistiques au-delà de leurs paramètres prévus — ce qui concerne toute entreprise utilisant l’IA générative (GenAI) ou des flux de travail agentiques.
5. Compromission de l’identité des machines : les pirates détournent des comptes de services d’IA ou des identifiants d’API pour obtenir un accès privilégié aux systèmes d’IA et aux données qu’ils traitent.
6. Attaques visant la chaîne d’approvisionnement de l’IA : des failles dans l’approvisionnement en données, les composants de modèles tiers ou les pipelines de déploiement qui compromettent l’intégrité de l’IA à grande échelle.

La protection contre les menaces liées à l’IA de Commvault Cloud permet de se prémunir contre l’injection de prompts, les modèles empoisonnés et les attaques visant l’identité des machines. La détection d’anomalies assistée par l’IA surveille les schémas d’accès et les signaux comportementaux pouvant indiquer des menaces actives pesant sur l’infrastructure d’IA.

La gestion traditionnelle des sauvegardes oblige les administrateurs à configurer manuellement les politiques, à surveiller la réussite des tâches, à identifier les lacunes de couverture et à exécuter les procédures de Recovery, ce qui engendre une charge opérationnelle difficilement évolutive. L’automatisation par l’IA peut améliorer cette situation dans trois domaines spécifiques. En matière de gestion de la protection : les recommandations de politiques basées sur l’IA analysent les métadonnées des charges de travail et les modèles d’utilisation afin d’optimiser la configuration des sauvegardes et de surveiller en continu les écarts de configuration, contribuant ainsi à supprimer les cycles de vérification manuels.

En matière d’intelligence opérationnelle : l’analyse des journaux assistée par l’IA met en évidence les causes profondes et fournit des recommandations exploitables plutôt que de simples données d’alerte brutes, ce qui réduit les délais de résolution des problèmes opérationnels et de réponse aux incidents. En matière d’orchestration de la Recovery : l’automatisation par agent guide les équipes à travers des workflows de Recovery complexes — confinement des menaces, identification des points de Recovery sûrs, Recovery validée —” grâce à une aide à la décision structurée plutôt qu’à une exécution entièrement manuelle.

La différence fondamentale par rapport à la gestion traditionnelle des sauvegardes : l’automatisation par l’IA permet de gérer la complexité à grande échelle, en identifiant les charges de travail qui semblent insuffisamment protégées, les points de restauration « propres » et les actions à prioriser ensuite. Commvault Cloud peut offrir ces trois fonctionnalités grâce à Metallic AI, à la bibliothèque d’agents Arlie et au framework MCP Server.

Commvault Cloud est conçu pour répondre aux deux aspects de la sécurité des données liées à l’IA à partir d’une plateforme unique et unifiée. Pour la protection des données : sauvegarde complète, stockage immuable et restauration rapide pour la pile d’applications d’IA (lacs de données, bases de données vectorielles, registres de modèles et infrastructure de calcul sur AWS, Azure et Google Cloud), avec une défense contre les menaces liées à l’IA, notamment l’empoisonnement des données, l’injection de prompts et les attaques par usurpation d’identité des machines.

En matière de résilience : Metallic AI et la bibliothèque d’agents Arlie intègrent une détection des menaces améliorée par l’IA, une détection des anomalies et une orchestration de la Recovery à travers toutes les opérations de la plateforme, y compris des capacités de détection du hameçonnage, des analyses prédictives des opérations informatiques et une réponse automatisée aux incidents. Pour l’extension : Data Activate rend accessibles les données de sauvegarde gérées dans des formats ouverts (Parquet, Iceberg) à des fins d’analyse, d’entraînement de modèles et de conformité ; et le serveur MCP permet aux agents d’IA d’entreprise d’interroger, d’automatiser et d’interagir avec Commvault Cloud de manière sécurisée via des interfaces conversationnelles.

Commvault opère selon un cadre d’IA responsable axé sur la fiabilité, la transparence et la supervision humaine, ce qui le distingue des fournisseurs de sécurité des données dans le cloud qui imposent des couches d’IA propriétaires ou des plans de contrôle distincts. Priorité à l’intégration : connexion native à Databricks, CrowdStrike, AWS et d’autres écosystèmes d’IA et de sécurité des données.