On a tendance à parler de l’IA comme si l’avenir était déjà tout tracé. L’IA va transformer le monde du travail. L’IA va remplacer des emplois. L’IA va redéfinir les secteurs d’activité. On part du principe que la technologie ne fait que progresser, et que nous ne sommes là que pour suivre le mouvement. Mais et si…l’avenir de l’IAn’était-il pas aussi prédéterminé qu’il n’y paraît ?
Dans cet épisode de« Prêt. Ou pas. »» (S2:E3), Nathan Macintosh s’entretient avec Camille Stewart Gloster, stratège en cybersécurité et en IA, dont l’expérience s’étend à la Maison Blanche, au Département de la Sécurité intérieure, à Google et à la politique nationale en matière de cybersécurité. Ensemble, ils explorent un point de vue différent, qui remet en question certaines des hypothèses les plus répandues concernant l’IA aujourd’hui.
Regardez l’épisode dans son intégralité sur Readiverse.
Points clés à retenir
- Les organisations ont plus d’influence sur l’avenir de l’IA qu’elles ne le pensent.
- L’IA progresse rapidement, mais les organisations ont toujours leur mot à dire sur la manière dont elle est mise en œuvre, régie et considérée comme fiable.
- La sécurité est indissociable d’une stratégie en matière d’IA. C’est elle qui contribue à rendre l’IA fiable, maîtrisable et efficace.
- Les agents IA devraient être considérés davantage comme des collaborateurs numériques que comme de simples outils logiciels.
- De nombreuses entreprises ont du mal à obtenir des résultats significatifs grâce à l’IA, car elles l’intègrent à des processus existants au lieu de les repenser.
Repenser le débat sur l’IA
Camille fait valoir que, même si les technologies d’IA continueront à progresser, les résultats qu’elles produisent sont loin d’être prédéterminés. Les choix que feront les organisations en matière degouvernance,de sécurité etderesponsabilitécontribueront à façonner l’avenir.
Comme le souligne Nathan au début de la conversation :
« Vous êtes la seule personne, jusqu’à présent, dans toute cette série à avoir utilisé l’expression “l’IA n’est pas inévitable” ».✴ Nathan Macintosh
C’est une observation simple, mais elle remet le débat sur l’avenir de l’IA dans son contexte. Au lieu de se demander ce que l’IA va nous faire, Camille s’interroge sur le rôle que nous voulons jouer pour façonner ce qui va suivre.
Vos décisions comptent
Au cœur de cette conversation se trouve la conviction de Camille selon laquelle L’IA n’est pas inévitable. Son argument n’est pas que les technologies d’IA risquent de disparaître. En réalité, de nombreuses capacités d’IA sont déjà intégrées dans les logiciels et les services que nous utilisons au quotidien.
Ce qui n’est pas inévitable, affirme-t-elle, ce sont les hypothèses que nous avons déjà commencé à formuler sur l’avenir.
« Vous avez bien plus de contrôle que vous ne le pensez. »
– Camille Stewart Gloster
Les discussions sur l’IA portent souvent sur ce que la technologie est capable de faire, tout en accordant bien moins d’attention aux choix que peuvent faire les individus, les organisations et les gouvernements. Pour les responsables de la sécurité et des technologies, cela implique de faire évoluer le débat de la prédiction vers la responsabilité. Au lieu de se demander ce que deviendra l’IA, les organisations devraient se concentrer sur les systèmes qu’elles mettent en place, les risques qu’elles introduisent et qui sera tenu pour responsable en cas de problème.
Le point de vue de Camille nous rappelle que les décisions les plus importantes en matière d’IA dépendent peut-être moins des algorithmes que des personnes chargées de les mettre en œuvre.
C’est grâce à la sécurité que l’IA est possible
Camille souligne que la sécurité et la stratégie en matière d’IA sont étroitement liées. Non seulement au sens traditionnel du terme, c’est-à-dire protéger les systèmes contre les pirates informatiques ou prévenir les fuites de données, mais aussi pour comprendre comment les agents se comportent, quelles informations ils utilisent et quelles actions ils sont autorisés à entreprendre.
Le déploiement de l’IA ne se résume pas à l’ajout d’une nouvelle fonctionnalité. Il s’agit de comprendre en quoi cette fonctionnalité modifie le profil de risque de l’organisation.
« Toute organisation qui souhaite optimiser son investissement dans l’IA doit investir dans son équipe de sécurité. »
– Camille Stewart Gloster
Comme l’explique Camille, les organisations intègrent de nouveaux acteurs dans leurs environnements, et elles devraient considérer ces agents IA davantage comme des employés que comme des logiciels. Lorsqu’une entreprise embauche une personne, elle définit ses responsabilités, met en place un contrôle et établit des mesures de responsabilisation. Il devrait en aller de même pour les agents IA.
Tout au long de la conversation, Camille ne présente pas la sécurité comme un frein à l’innovation. Au contraire, elle la considère comme le garant de la pérennité de l’innovation. À mesure que les agents assument davantage de responsabilités, les organisations ont besoin d’un moyen de les comprendre et de les réguler. En ce sens, la sécurité ne se résume pas à la réduction des risques. C’est ce qui donne aux organisations la confiance nécessaire pour adopter l’IA à grande échelle.
Aperçu : la nouvelle approche en matière de sécurité
Camille souhaite élargir la portée de la sécurité au-delà de la simple prévention des failles. Dans cet extrait, elle explique pourquoi il est tout aussi important de contrôler et de comprendre les systèmes d’IA que de les déployer.
L’IA n’est pas une solution miracle
De nombreuses organisations investissent massivement dans l’IA, mais cet investissement ne se traduit pas automatiquement par des résultats. Selon Camille, l’une des raisons est que les entreprises superposent souvent les nouvelles technologies aux anciennes méthodes de travail au lieu d’adopter une approche plus réfléchie.
« La meilleure façon de tirer parti d’un investissement dans l’IA est sans doute de repenser un processus. »
– Camille Stewart Gloster
Camille souligne que l’IA est plus efficace lorsqu’elle s’inscrit dans une démarche de transformation plus large. Plutôt que de chercher des occasions d’intégrer l’IA dans des tâches individuelles, les entreprises devraient examiner le déroulement du travail et identifier les points où le processus lui-même peut être repensé et amélioré.
Elle souligne également que les entreprises sous-estiment souvent l’ampleur du travail nécessaire pour réussir la mise en œuvre de l’IA. La véritable valeur ne réside pas seulement dans la technologie elle-même, mais aussi dans les changements opérationnels qui la sous-tendent.
La principale leçon à retenir est peut-être que l’IA est rarement une solution toute faite. La véritable opportunité réside dans l’association de cette nouvelle technologie à des changements mûrement réfléchis des processus et des flux de travail, afin que l’IA puisse s’inscrire dans un ensemble plus vaste qu’elle-même.
Prêts pour un peu d’optimisme ?
Les débats sur l’IA oscillent souvent entre deux extrêmes. Soit l’IA va tout résoudre, soit elle va bouleverser complètement notre façon de vivre et de travailler. Camille propose une perspective positive.
Tout au long de l’épisode, elle souligne que les organisations ont plus d’influence sur l’avenir de l’IA qu’elles ne le pensent. L’avenir de l’IA sera façonné par les décisions que prendront les organisations en matière de sécurité, de gouvernance, de responsabilité et de confiance. L’avenir de l’IA sera façonné par les décisions que prendront les organisations en matière de sécurité, de gouvernance, de responsabilité et de confiance.
Cela rejoint également un thème récurrent de « Prêt. Ou pas. »Être prêt ne signifie pas prédire l’avenir. Il s’agit de prendre des décisions mûrement réfléchies qui vous aident à y faire face.
L’IA continuera à progresser, et de nouvelles opportunités ainsi que de nouveaux risques apparaîtront. Mais comme nous le rappelle Camille, les organisations ont plus d’influence sur ce qui va se passer qu’elles ne le pensent parfois. Et c’est une façon bien plus stimulante d’envisager l’avenir de l’IA.
Regardez l’épisode dans son intégralité sur Readiverse.
FAQ
Q : Que veut dire Camille lorsqu’elle affirme que « l’IA n’est pas inévitable » ?
R :Camille souligne que, même si les technologies d’IA continueront de progresser, les conséquences sociales, économiques et organisationnelles liées à l’IA ne sont pas prédéterminées. Les dirigeants, les décideurs politiques et les entreprises continuent d’exercer une influence significative sur la manière dont l’IA est déployée, gérée et réglementée. L’avenir est façonné par les décisions humaines, et non par la technologie seule.
Q : Pourquoi Camille compare-t-elle les agents d’IA à des employés ?
R : Les agents d’IA mènent de plus en plus d’actions, accèdent à des systèmes, traitent des informations et prennent des décisions au nom des organisations. De ce fait, ils nécessitent bon nombre des mêmes mesures de protection que celles que les entreprises appliquent à leurs collaborateurs humains, notamment la définition des rôles, la supervision, la gestion des autorisations, la responsabilité et la surveillance continue.
Q : Pourquoi la sécurité prend-elle de plus en plus d’importance à mesure que l’IA se généralise ?
R :À mesure que les systèmes d’IA accèdent aux données, aux applications et aux processus métier, les organisations doivent trouver des moyens de contrôler et de surveiller leur comportement. Les équipes de sécurité contribuent à mettre en place une gouvernance, à déployer des mesures de protection, à assurer la visibilité sur l’activité des agents et à vérifier que les systèmes d’IA fonctionnent dans les limites définies. Sans ces contrôles, les risques associés aux systèmes autonomes peuvent augmenter considérablement.
Q : Pourquoi certaines organisations ne parviennent-elles pas à obtenir des résultats significatifs grâce à l’IA ?
R :Selon Camille, de nombreuses entreprises se contentent d’intégrer l’IA aux processus existants plutôt que de repenser leurs flux de travail en fonction des nouvelles capacités. La véritable valeur réside souvent dans une réflexion sur la manière dont le travail est effectué, dans l’identification des opportunités permettant de déployer à grande échelle les pratiques efficaces basées sur l’IA, et dans l’investissement dans les changements opérationnels nécessaires pour soutenir une adoption à long terme.
Q : Que sont les garde-fous d’exécution, et pourquoi sont-ils importants ?
R : Les garde-fous d’exécution sont des contrôles qui permettent aux organisations de surveiller et d’évaluer le comportement des agents au fur et à mesure que les actions se déroulent. Plutôt que de s’appuyer uniquement sur des règles statiques, ces garde-fous offrent la possibilité de revoir les décisions, d’intervenir si nécessaire et de renvoyer les actions vers des humains avant que des problèmes ne surviennent. Ils aident les organisations à trouver un équilibre entre autonomie et responsabilité.
Q : Quelle est la principale leçon à retenir de cet épisode ?
R : La stratégie en matière d’IA et la stratégie de sécurité ne peuvent plus être considérées comme deux domaines distincts. Les organisations qui tirent pleinement parti de l’IA sont souvent celles qui allient innovation et gouvernance, en donnant aux collaborateurs les moyens de créer de la valeur tout en veillant à ce que les humains restent responsables des résultats. Ce n’est pas seulement ainsi que l’on réduit les risques. C’est ainsi que l’on instaure la confiance dans la technologie elle-même.
Katherine Demacopoulos est directrice principale de la stratégie et des programmes de contenu mondiaux chez Commvault.