Points clés à retenir
- À l’ère de l’IA, la confiance ne disparaît pas : elle évolue.
- Les organisations doivent vérifier en permanence le fonctionnement de l’IA plutôt que de s’y fier aveuglément.
- L’adoption de l’IA devrait donner plus d’autonomie aux employés, et non les pousser vers une « IA fantôme ».
- Le modèle « zero trust » ne consiste pas à se méfier des gens. Il s’agit de vérifier en permanence les identités, les appareils et les actions.
- Pour une adoption responsable de l’IA, la technologie, la gouvernance et les personnes doivent travailler main dans la main.
Lorsque nous avons lancé « Ready. Or Not. », notre objectif était de créer une série permettant de mieux comprendre certains des grands débats actuels autour de l’IA. En réunissant l’humoriste Nathan Macintosh et des experts du secteur, nous abordons des thèmes aussi variés que l’IA agentique, la cyber-résilience ou encore la gestion des données, le tout avec une touche d’humour.
Si vous avez écouté notre premier épisode consacré aux opportunités et aux risques liés à l’IA agentique, je pense que celui-ci vous plaira également. Cette fois-ci, nous abordons un sujet qui est au cœur de tous les débats sur l’IA : la confiance.
Nathan s’entretient avec Diana Kelley, responsable de la sécurité des systèmes d’information chez Protect AI, pour discuter de ce que signifie faire confiance à la technologie à une époque où l’IA est capable de générer des contenus falsifiés convaincants, de prendre des décisions et même d’imiter des personnes. Des « deepfakes » et des « hallucinations » au modèle « zero trust » et à l’« IA fantôme », ils examinent comment les organisations peuvent adopter l’IA sans perdre confiance en leurs collaborateurs et leurs systèmes.
Regardez l’épisode dans son intégralité sur Readiverse. À l’issue de cet épisode, je me suis senti plus optimiste que je ne l’aurais imaginé. Non pas parce que l’IA est soudainement devenue plus fiable, mais parce que Diana nous montre que la confiance s’installe lorsque les organisations mettent en place les politiques, les garde-fous et les technologies adéquats. Voici quelques thèmes abordés au cours de cette conversation qui jettent un nouvel éclairage sur l’IA.
La confiance et la technologie peuvent coexister
Diana estime que la confiance est possible à l’ère de l’IA, mais qu’elle prendra une forme différente. Nous avons toujours construit la confiance à travers nos relations avec les autres. Aujourd’hui, nous apprenons à étendre cette confiance aux systèmes. Cela ne signifie pas pour autant qu’il faille faire aveuglément confiance à la technologie. Il s’agit plutôt de comprendre le fonctionnement de l’IA, d’en reconnaître les limites et de mettre en place les mesures de protection adéquates afin que les personnes et la technologie puissent collaborer en toute confiance.
« La confiance doit évoluer pour s’adapter à ce nouveau monde. » – Diana Kelley
Ce qui m’a particulièrement marqué, c’est l’idée que la confiance et la technologie ne sont pas nécessairement incompatibles. Avec une approche adaptée, elles peuvent se renforcer mutuellement.
Nous progressons dans notre compréhension de l’IA
Les deepfakes sont devenus l’un des risques liés à l’IA dont on parle le plus, et on comprend aisément pourquoi. L’IA est désormais capable de générer des voix, des images et des vidéos convaincantes qui nous amènent à nous interroger sur ce qui est réel. Mais Diana a souligné que si l’IA gagne en sophistication, les gens deviennent eux aussi plus avisés. Nous sommes davantage enclins à nous interroger sur un appel téléphonique inattendu, à examiner de plus près une publication sur les réseaux sociaux ou à nous poser des questions face à quelque chose qui ne nous semble pas tout à fait normal.
Les organisations deviennent elles aussi plus avisées. À mesure que l’IA perfectionne ses capacités d’usurpation d’identité, les entreprises investissent dans de nouveaux moyens permettant de vérifier en permanence les identités et de valider les informations. Ce que j’en retiens, c’est que la technologie continuera à s’améliorer, mais qu’il en sera de même pour notre capacité à la reconnaître et à y répondre de manière responsable.
« Est-ce un bon jour pour se lancer dans le deepfake ? » – Nathan Macintosh
Une IA responsable est bénéfique pour les entreprises
Diana a donné un exemple qui semblera sans doute familier à de nombreuses entreprises. Une employée qu’elle appelle « Karen, du service financier », commence à utiliser l’IA car cela lui permet d’accomplir une tâche en quelques minutes au lieu de plusieurs heures. Karen ne cherche pas à contourner la politique de l’entreprise : elle essaie simplement d’être plus productive.
Les collaborateurs utilisent l’IA parce qu’ils y voient une réelle valeur ajoutée, ce qui représente une opportunité pour les entreprises. Lorsqu’ils ont accès à des outils d’IA approuvés, accompagnés de politiques claires et de conseils pratiques, ils peuvent travailler plus efficacement tout en contribuant à la protection des données et des systèmes de l’entreprise.
Aperçu : une adoption plus intelligente de l’IA
L’objectif n’est pas d’empêcher les employés d’utiliser l’IA, mais de s’assurer qu’ils l’utilisent correctement. Diana explique comment les entreprises peuvent encourager l’adoption de l’IA sans créer de risques inutiles.
Le modèle « Zero Trust » est plus important que jamais
« Quand on comprend comment les choses fonctionnent, on peut alors commencer à comprendre comment les gérer. » – Diana Kelley
Le « zero trust » fait partie de ces concepts qu’il est beaucoup plus facile de comprendre à l’aide d’une analogie. Diana en propose une excellente. Elle le décrit comme le fait de se déplacer dans un bâtiment. Ce n’est pas parce qu’on vous a autorisé à franchir la porte d’entrée que toutes les autres portes s’ouvrent automatiquement pour vous. Chaque fois que vous accédez à une nouvelle pièce, un nouveau contrôle rapide est effectué pour confirmer que vous êtes bien autorisé à vous y trouver.
C’est essentiellement ainsi que fonctionne le « zero trust ». C’est en substance ainsi que fonctionne le modèle « zero trust ». Au lieu de considérer qu’une personne ou un appareil est digne de confiance après une simple connexion, les entreprises vérifient en permanence les identités, les appareils et les actions, à mesure que les technologies deviennent de plus en plus interconnectées. La plupart de ces vérifications s’effectuent discrètement en arrière-plan. L’un des aspects que j’ai particulièrement appréciés dans l’explication de Diana, c’est que le « zero trust » ne donne pas l’impression d’être un simple mot à la mode dans le domaine de la sécurité. Il apparaît plutôt comme une approche concrète de la confiance dans un monde où l’IA et les identités numériques font désormais partie intégrante du quotidien des entreprises.
La confiance, c’est avant tout une question de personnes
En fin de compte, ce n’est pas la technologie qui instaure la confiance, mais les personnes. Ce sont elles qui définissent les politiques, les processus et les limites éthiques qui régissent l’utilisation de l’IA, tandis que la technologie permet de vérifier que ces garde-fous fonctionnent comme prévu. C’est ce partenariat entre les personnes et la technologie qui rend possible une IA responsable.
La confiance dépasse le cadre de nos propres organisations. Les entreprises doivent pouvoir faire confiance aux partenaires avec lesquels elles travaillent, aux systèmes auxquels elles se connectent et aux technologies qu’elles adoptent. C’est pourquoi la transparence, les normes communes et la vérification continue deviennent tout aussi importantes que l’innovation elle-même. Plus l’IA s’intègre dans le quotidien des entreprises, plus la confiance devient la responsabilité de chacun.
Perspectives d’avenir
L’IA continuera d’évoluer, tout comme la manière dont nous interagissons avec elle. Les organisations qui réussiront ne seront pas celles qui font aveuglément confiance à l’IA ou qui l’évitent complètement. Ce seront celles qui mettront en place des politiques solides, adopteront les technologies adaptées et vérifieront en permanence les systèmes sur lesquels elles s’appuient.
La confiance n’est pas quelque chose que l’on perd à mesure que la technologie progresse. C’est quelque chose que l’on construit et que l’on fait évoluer de manière intentionnelle. C’est exactement le genre de discussion que nous espérons poursuivre à chaque épisode de Ready. Or Not. Regardez l’épisode dans son intégralité sur Readiverse.
FAQ
Q : Qu’est-ce que la confiance numérique ?
R : La confiance numérique, c’est la certitude que les personnes, les systèmes et les organisations sont bien ceux qu’ils prétendent être et qu’ils agissent de manière conforme aux attentes et sécurisée. Elle associe technologie, gouvernance et vérification pour aider les organisations à interagir en toute sécurité.
Q : Qu’est-ce que les « deepfakes » ?
R : Les « deepfakes » sont des images, des vidéos ou des enregistrements audio générés par l’intelligence artificielle et conçus pour imiter fidèlement des personnes réelles. Bien qu’ils aient des utilisations légitimes, ils peuvent également servir à usurper l’identité de personnes ou à commettre des fraudes.
Q : Qu’est-ce que le « zero trust » ?
R : Le « zero trust » est un modèle de sécurité fondé sur une vérification continue plutôt que sur une confiance automatique. Au lieu de considérer qu’un utilisateur ou un appareil est digne de confiance dès sa première connexion, les entreprises vérifient en permanence les identités et les actions.
Q : Qu’est-ce que l’IA « fantôme » ?
R : Le terme « IA fantôme » désigne l’utilisation par les employés d’outils d’IA qui n’ont pas été approuvés ni réglementés par leur entreprise. Bien que souvent motivée par de bonnes intentions, cette pratique peut entraîner des risques en matière de sécurité, de confidentialité et de conformité.
Q : Pourquoi les entreprises ne devraient-elles pas simplement bloquer les outils d’IA ?
R : Les employés adoptent généralement l’IA car celle-ci les aide à travailler plus efficacement. Plutôt que d’interdire purement et simplement l’IA, les entreprises devraient mettre à disposition des outils approuvés, établir des politiques claires et sensibiliser leurs employés à une utilisation responsable.
Q : Quel est le principal enseignement à retenir de cet épisode ?
R : La confiance ne disparaît pas à cause de l’IA : elle évolue. Les organisations qui associent les ressources humaines, les politiques et les technologies à un processus de vérification continue seront mieux à même d’adopter l’IA en toute confiance et de manière responsable.
Katherine Demacopoulos est directrice principale de la stratégie et des programmes de contenu mondiaux chez Commvault.
