Points clés à retenir
- Commvault a rejoint l’Open Secure AI Alliance afin de contribuer à faire progresser des approches ouvertes, sécurisées et collaboratives en matière d’IA.
- Les outils d’IA open source offrent aux organisations une visibilité et un contrôle accrus, permettant ainsi aux experts d’inspecter, d’adapter et de renforcer les systèmes à mesure que les menaces et les exigences évoluent.
- Une sécurité efficace en matière d’IA va au-delà des modèles pour inclure l’identité, les autorisations, les garde-fous, la journalisation, l’évaluation et l’environnement plus large dans lequel opèrent les agents d’IA.
- La collaboration intersectorielle et la recherche partagée peuvent aider les organisations à réagir plus rapidement aux défis en constante évolution posés par une IA agentique de plus en plus performante.
- Commvault mettra à la disposition de l’Alliance son expertise en matière de cyber-résilience et de données, en s’appuyant sur le principe selon lequel les organisations peuvent mieux protéger les systèmes et les données qu’elles comprennent pleinement.
La collaboration est depuis longtemps l’un des moyens les plus efficaces dont dispose le secteur technologique pour relever de nouveaux défis. Ces derniers mois ont encore davantage mis en évidence cette réalité dans le domaine de l’IA. Les systèmes agents deviennent plus performants, plus indépendants et plus étroitement liés aux technologies que nous utilisons au quotidien.
Les événements récents ont également montré à quelle vitesse ce paysage peut évoluer. Lorsqu’un système d’IA avancé a posé un problème de sécurité inattendu chez Hugging Face, l’organisation a utilisé un modèle à poids ouverts sur sa propre infrastructure pour comprendre et maîtriser la situation. Cette expérience a démontré la valeur des outils d’IA open source que les organisations peuvent inspecter, adapter et contrôler en cas de besoin.
De tels moments ne doivent pas entamer notre optimisme vis-à-vis de l’IA. Ils doivent au contraire
renforcer notre engagement à façonner ensemble son avenir. C’est
pourquoi Commvault est fier de rejoindre l’Open Secure
AI Alliance, une communauté d’organisations de premier plan qui font progresser l’IA grâce à la recherche ouverte, au partage des connaissances et à des outils pratiques.
L’IA continuera d’évoluer, et aucune organisation ne détiendra à elle seule toutes les réponses. En réunissant l’expertise approfondie de l’ensemble du secteur, la communauté a davantage de chances de comprendre les changements en cours et d’y répondre avec la rapidité qu’exige cette nouvelle ère.
L’open source est au cœur de cet effort. Il permet aux experts d’examiner le fonctionnement des systèmes et d’améliorer ce que d’autres ont commencé. Pour les défenseurs, il offre également un élément essentiel : la liberté de choisir et d’adapter la technologie la mieux adaptée à la situation, plutôt que de dépendre d’un seul système ou fournisseur.
NVIDIA décrit cela comme une base de défense ouverte, fondée sur des modèles, des frameworks et des outils que la communauté peut étudier et renforcer.
L’Alliance reconnaît également que la sécurité de l’IA s’étend bien au-delà du modèle. L’identité, les autorisations, les garde-fous, les journaux et l’évaluation façonnent tous le comportement d’un agent. Comprendre cet environnement dans son intégralité nécessitera de nouvelles recherches et une volonté de partager les enseignements tirés par le secteur au fil du temps.
Le point de vue de Commvault s’appuie sur des années passées à relever des défis complexes en matière de cyber-résilience : aider les organisations à comprendre leurs données, à garantir leur fiabilité et à les restaurer en toute confiance en cas de perturbation.
Une grande partie de ce travail repose sur la même idée que celle défendue par l’Alliance : on ne peut protéger que ce que l’on comprend pleinement. C’est cette expérience que nous espérons apporter, ainsi que notre volonté d’apprendre des autres qui s’attaquent à ces défis sous différents angles.
Les perspectives d’avenir de l’IA sont immenses. Leur concrétisation dépendra non seulement de la rapidité avec laquelle la technologie progressera, mais aussi de l’ouverture d’esprit avec laquelle le secteur collaborera. Commvault est heureux de participer à cet effort et se réjouit de contribuer à la construction de l’avenir.
Lisez l’annonce de NVIDIA ici : Des
leaders du secteur rejoignent l’Open Secure AI Alliance
.
FAQ
Q : Qu’est-ce que l’Open Secure AI Alliance ?
R : L’Open Secure AI Alliance est une communauté d’organisations qui œuvrent à faire progresser la sécurité de l’IA grâce à la recherche ouverte, au partage des connaissances, des modèles, des frameworks et d’outils pratiques. Son approche collaborative offre aux participants l’opportunité d’étudier les défis émergents et de renforcer ensemble les défenses en matière d’IA.
Q : Pourquoi Commvault a-t-il rejoint l’Open Secure AI Alliance ?
R : Commvault a rejoint l’Alliance afin d’apporter son expertise en matière de cyber-résilience, de compréhension des données, de confiance et de Recovery. Cela permet également à Commvault d’apprendre aux côtés d’autres leaders du secteur qui abordent la sécurité de l’IA sous différents angles.
Q : Pourquoi l’open source est-il important pour la sécurité de l’IA ?
R : L’open source permet aux experts d’examiner le fonctionnement des systèmes d’IA, de s’appuyer sur les technologies existantes et d’adapter les outils à des situations de sécurité spécifiques. Il offre également aux défenseurs une plus grande liberté pour sélectionner et modifier les technologies, plutôt que de dépendre d’un seul système ou fournisseur.
Q : En quoi la sécurité de l’IA va-t-elle au-delà de la protection du modèle ?
R :
La sécurité de l’IA englobe l’environnement plus large dans lequel un système d’IA opère, notamment l’identité, les autorisations, les garde-fous, les journaux et l’évaluation. Comprendre ces éléments interdépendants peut aider les organisations à mieux évaluer et gérer le comportement des agents d’IA.
Q : En quoi l’expertise de Commvault en matière de cyber-résilience est-elle liée à la sécurité de l’IA ? R :
Les travaux de Commvault en matière de cyber-résilience visent à aider les organisations à comprendre leurs données, à préserver leur fiabilité et à regagner la confiance après une perturbation. Cette perspective s’inscrit naturellement dans la démarche de l’Alliance, qui privilégie des approches ouvertes et vérifiables en matière de sécurité de l’IA.
Q : Pourquoi la collaboration au sein du secteur est-elle importante pour l’avenir de l’IA ?
R : L’IA évolue trop rapidement et à une échelle trop vaste pour qu’une seule organisation puisse détenir toutes les réponses. La mise en commun de l’expertise, de la recherche et des connaissances pratiques à l’échelle du secteur peut aider la communauté à comprendre les défis émergents et à y répondre à la vitesse exigée par le développement de l’IA.
Alexander Coombes est vice-président adjoint chargé du développement des partenariats stratégiques chez Commvault.
