Depuis des années, les progrès de l’IA ont révolutionné divers aspects de la vie quotidienne et des industries. L’IA est devenue une force omniprésente dans la façon dont nous communiquons et dans les services que nous utilisons.
L’intelligence artificielle s’est imposée comme un outil puissant pour renforcer les défenses en matière de cyber-résilience. Elle permet de réduire les délais de réaction, de mieux cibler les ressources, de limiter la « fatigue des alertes » et de consacrer davantage de temps à l’élaboration de stratégies efficaces d’atténuation des menaces.
Cependant, parallèlement à son potentiel indéniable, l’adoption rapide de l’IA générative et l’engouement qu’elle suscite ont déclenché une vague d’inquiétudes concernant la vie privée, la transparence et les considérations éthiques – et ce, à juste titre. L’opacité de certains algorithmes d’IA, le risque de partialité et de discrimination, ainsi que l’utilisation abusive de l’IA à des fins malveillantes ont soulevé des questions légitimes quant à la fiabilité de cette technologie.
Les entreprises à la pointe de l’IA doivent adopter des stratégies mûrement réfléchies et délibérées en matière de développement de cette technologie. C’est pourquoi Commvault a défini des principes qui incarnent notre engagement en faveur d’un développement et d’un déploiement éthiques de l’IA.
L’IA chez Commvault
L’IA n’est pas une nouveauté chez Commvault. Depuis plus d’une décennie, nous tirons parti des dernières avancées en matière d’intelligence artificielle, d’apprentissage automatique et d’automatisation intelligente pour améliorer les capacités de notre plateforme. Cette IA optimise les opérations de protection et de Recovery des données, et aide nos clients à gérer les risques, à localiser les données sensibles, et bien plus encore.
Metallic AI est notre couche de contrôle intelligente qui est au cœur de Commvault Cloud. De l’automatisation à l’apprentissage automatique en passant par l’IA avancée, Metallic AI apporte une performance et une efficacité accrues à chaque aspect de Commvault Cloud.
Construire une IA digne de confiance
Alors que nous exploitons la puissance de l’IA dans nos produits et services, nous nous engageons à respecter des normes éthiques et à garantir un déploiement responsable de l’IA. C’est pourquoi nous avons intégré les meilleures pratiques définies par le cadre NIST AI RMF 1.0. Ces mesures contribuent à rendre notre déploiement de l’IA responsable, sûr et sécurisé, afin que nos clients puissent tirer pleinement parti des avantages de l’IA.
Validité et fiabilité : des résultats prévisibles et précis
Nous accordons la priorité à la fiabilité de notre IA en mettant en œuvre des tests, des contrôles qualité et des mesures de sécurité. Nous nous efforçons de fournir des réponses et des recommandations prédictibles et précises grâce à l’utilisation de données non biaisées pour l’entraînement et à la collecte des retours d’expérience des utilisateurs humains. Ces retours, recueillis via une fonctionnalité simple « J’aime / Je n’aime pas » intégrée à notre produit et une option permettant aux utilisateurs de laisser des commentaires plus détaillés, sont essentiels à l’amélioration continue de notre IA et à la précision de ses résultats.
Sécurité : une IA centrée sur l’humain
Une seule décision peut avoir un impact significatif sur l’issue de n’importe quel scénario. Malgré sa puissance, l’IA a souvent besoin d’aide pour appréhender le contexte comme le font les humains, car elle ne saisit pas les nuances inhérentes à la prise de décision complexe. Par conséquent, on ne peut faire confiance à l’IA qu’en tant que l’un des décideurs, et non comme seul décideur. Les humains doivent toujours garder le contrôle, en assurant la supervision et la responsabilité des actions entreprises sur la base des réponses ou des recommandations générées par l’IA.
Notre IA est dotée de mécanismes de sécurité qui permettent de réagir rapidement à tout comportement imprévu, tout en préservant à tout moment le contrôle humain.
Grâce à cette approche, nous développons une intelligence artificielle qui renforce l’efficacité et le potentiel humain, tout en améliorant l’expérience utilisateur.
Sécurité et résilience : empêcher tout accès non autorisé
Nos fonctionnalités d’IA sont étroitement intégrées à la plateforme Commvault® Cloud, ce qui limite l’accès à ses fonctionnalités depuis l’extérieur de la plateforme. Cela signifie que Commvault Cloud dispose de fonctionnalités de sécurité de pointe, notamment des contrôles d’accès basés sur les rôles, qui contribuent à empêcher tout accès non autorisé et à garantir la sécurité et la résilience des systèmes.
Nous respectons les critères de référence du niveau 1 du CIS afin de renforcer la sécurité de l’infrastructure et de réduire au minimum les vulnérabilités. De plus, nous mettons en œuvre des communications sécurisées grâce au chiffrement, au mode « loopback » et à l’application de l’authentification par certificat client.
Explicable et interprétable : comprendre le « quoi », le « comment » et le « pourquoi »
L’IA ne doit pas être une « boîte noire » énigmatique. Elle doit au contraire être transparente et compréhensible pour tous les utilisateurs et toutes les parties prenantes. Cela implique de fournir des explications claires concernant les réponses et les recommandations générées par l’IA chaque fois que cela s’avère nécessaire.
Nous alimentons l’IA avec des données contrôlées et conservons des journaux répertoriant les sources de données à partir desquelles les réponses et les analyses sont générées. Pour certaines fonctionnalités de l’IA générative, notamment le chatbot Arlie™ et l’API Code Assist, nous fournissons aux utilisateurs des références aux sources d’où provient la réponse.
Confidentialité renforcée : protection des données des clients
Les débats sur les risques liés à l’IA soulèvent des questions relatives à la vie privée. L’IA s’appuie sur l’accès aux données pour fournir des recommandations et des prévisions éclairées ; il est donc essentiel de bien saisir les nuances des mesures relatives à la vie privée et à la sécurité des données. Les utilisateurs doivent comprendre quelles données sont utilisées pour entraîner l’IA ou sont susceptibles d’être partagées avec des tiers.
Chez Commvault, la protection de la vie privée et la sécurité des données à caractère personnel et des informations sensibles sont une priorité absolue. Nous intégrons les principes de « privacy by design » (respect de la vie privée dès la conception) et de « security by design » (sécurité dès la conception) dans notre cycle de vie du développement logiciel et respectons des mesures rigoureuses de protection des données, conformes aux normes du secteur en matière de sécurité des données, tout au long du cycle de vie de l’IA.
Contrairement à d’autres fournisseurs, nous veillons à ce que les données de nos clients ne soient jamais utilisées pour entraîner nos Features d’IA générative, en maintenant une barrière stricte afin de protéger toutes les informations de nos clients.
Nous utilisons des modèles de langage à grande échelle (LLM) pré-entraînés par OpenAI, dans lesquels nous intégrons des données pertinentes en guise de contexte afin d’obtenir des réponses et des recommandations. Par exemple, Arlie utilise un LLM pré-entraîné en combinaison avec le contexte issu de la documentation des produits et des API de Commvault, des requêtes des utilisateurs, des codes d’erreur, des descriptions d’erreurs et des résolutions anonymisées du service client. Un contrôle humain est effectué sur les résultats générés par l’IA afin de vérifier l’anonymisation.
Équitable : indépendant de l’utilisateur et impartial
Conscients que l’IA peut involontairement perpétuer des préjugés et des discriminations, nous veillons tout particulièrement à concevoir notre IA de manière à minimiser ces préjugés et à éviter toute pratique discriminatoire. Pour ce faire, nous entraînons et testons notre IA à l’aide d’ensembles de données variés, qui ne se réfèrent à aucun utilisateur en particulier et ne contiennent aucune caractéristique protégée telle que l’origine ethnique, l’âge ou le genre.
Responsabilité et transparence : renforcer la confiance des utilisateurs
Les informations relatives à l’IA et à ses résultats devraient être accessibles à ceux qui l’utilisent. Cette transparence et cette compréhension renforcent la confiance des utilisateurs dans l’IA.
Nous proposons des points d’accès clairs à l’IA afin de garantir que les utilisateurs soient bien informés de l’intervention de l’IA. Nous mettons également en place une boucle de rétroaction, permettant aux utilisateurs de donner leur avis et de contribuer à l’amélioration continue de notre IA.
Offrir aux clients la possibilité de s’inscrire
Supposons que votre organisation soit encore en train d’élaborer une stratégie en matière d’IA responsable et ne soit pas prête à mettre en œuvre des fonctionnalités d’IA générative. Dans ce cas, nous vous offrons la possibilité de laisser Arlie, l’assistant IA de Commvault Cloud, désactivé. Pour les logiciels installés, Arlie n’est pas activé par défaut, ce qui laisse aux clients la possibilité de l’activer ou de le désactiver à tout moment. Dans Commvault Cloud SaaS, bien qu’Arlie soit activée par défaut pour améliorer l’expérience utilisateur, elle n’effectue aucune collecte de données en arrière-plan, ce qui garantit la confidentialité des données des clients. Les clients SaaS peuvent choisir de ne pas utiliser Arlie du tout s’ils le souhaitent.
Certaines fonctionnalités d’IA, telles que l’apprentissage automatique s’exécutant en arrière-plan et servant à signaler les anomalies, ne peuvent pas être désactivées. Ces fonctionnalités d’IA sont propres à chaque client et n’interagissent pas avec les données des clients.
Consultez notre politique en matière d’IA responsable : commvault.com/legal/responsible-ai
Pour en savoir plus sur Metallic AI : commvault.com/platform/metallic-ai
