Tout au long de la série « Ready. Or Not. », nous avons abordé des thèmes tels que l’IA agentique, la confiance numérique, le facteur humain et le « vibe coding ». Dans ce cinquième et dernier épisode de la saison 1, la discussion s’oriente vers la seule constante qui sous-tend tous les débats sur l’IA : les données.
Nathan Macintosh s’entretient avec Ben Lorica, ancien directeur scientifique des données chez O’Reilly Media et fondateur de Gradient Flow, pour discuter de ce que signifie réellement être prêt pour l’IA. Leur conversation va au-delà des algorithmes et des applications pour aborder le travail que les organisations doivent accomplir avant que l’IA ne puisse porter ses fruits. Ils examinent pourquoi l’IA modifie notre façon d’envisager la gouvernance, pourquoi la collecte de données supplémentaires n’est pas toujours la solution, et pourquoi la préparation est tout aussi importante que l’adoption. Regardez l’épisode dans son intégralité sur Readiverse.
Points clés à retenir
- La Readiness à l’IA commence par la compréhension et l’organisation des données dont vous disposez déjà.
- La gouvernance s’applique désormais aux systèmes d’IA, et pas seulement aux personnes.
- Disposer de plus de données n’est pas toujours synonyme de progrès. Efforcez-vous d’obtenir de meilleures données.
- L’IA introduit de nouveaux risques qui nécessitent de nouveaux processus, et pas seulement de nouvelles technologies.
- Les organisations les mieux préparées à l’IA construisent dès aujourd’hui des bases de données solides.
Les organisations génèrent et gèrent plus de données que jamais. On pourrait facilement penser que la prochaine étape consiste simplement à collecter davantage de données. Ben explique pourquoi la préparation et la gouvernance des données dont vous disposez déjà peuvent constituer une base bien plus solide pour l’IA.
Ce que j’ai particulièrement apprécié dans le point de vue de Ben, c’est qu’il ne présente jamais la « Readiness » à l’IA comme un simple problème technologique. Il s’agit d’un défi organisationnel qui commence bien avant que les équipes ne se mettent à utiliser l’IA.
Voici quelques idées qui m’ont marqué.
La qualité de l’IA dépend de celle des données sur lesquelles elle repose
« Concentrez-vous sur les données dont vous disposez… et préparez-les pour l’IA. »
– Ben Lorica
L’un des premiers arguments de Ben remet en cause une idée reçue. Lorsque les organisations parlent de se « préparer à l’IA », leur réflexe est souvent de collecter davantage de données. Ben voit les choses différemment. Plutôt que de privilégier la quantité, il encourage les organisations à se concentrer sur la qualité et à préparer leurs données existantes pour l’IA.
Cela commence par comprendre quelles données vous possédez, les organiser et s’assurer qu’elles sont exactes et bien gérées. À mesure que l’IA s’intègre à davantage de processus métier, les entreprises s’appuieront sur de nombreux types d’informations, allant des feuilles de calcul aux textes, en passant par les images, les fichiers audio et les vidéos. Si ces données ne sont pas fiables, l’IA ne résoudra pas le problème – et elle pourrait même le rendre encore plus difficile à détecter.
La pression pour passer rapidement à l’IA est compréhensible. Cette conversation m’a rappelé que prendre le temps de construire une base de données solide pourrait bien être l’un des investissements les plus judicieux que nous puissions faire. Des données propres et bien gérées aident les organisations à prendre de meilleures décisions aujourd’hui, tout en les préparant à tout ce qui pourrait arriver demain.
L’IA modifie le rôle de la gouvernance
Ben souligne que la gouvernance a désormais un rôle plus large à jouer. Il ne s’agit plus seulement de gérer la manière dont les personnes accèdent aux informations et les utilisent. Les organisations doivent également réfléchir à la façon dont l’IA interagit avec ces informations et aux actions qu’elle entreprend.
À mesure que l’IA s’intègre au travail quotidien, elle peut accéder aux informations, les analyser et agir en conséquence à une échelle et à une vitesse difficiles à égaler par les humains. Cela signifie que les organisations doivent comprendre à quoi l’IA a accès, comment elle utilise ces informations et quelles mesures de protection doivent être mises en place pour protéger les données sensibles.
Ce qui est intéressant, c’est que les principes fondamentaux de la gouvernance n’ont pas changé. Des politiques claires en matière d’accès, de sécurité et de responsabilité sont tout aussi importantes qu’elles l’ont toujours été. Ce qui change, c’est le nombre de systèmes interagissant avec les données de l’organisation et la vitesse à laquelle l’information circule au sein de l’entreprise.
Pour moi, c’est l’un des enseignements les plus importants à retenir de cet épisode. L’IA ne remplace pas une bonne gouvernance. Elle la rend encore plus importante.
Aperçu : quand les données commencent à se multiplier
Que se passe-t-il lorsque l’IA permet à cinq personnes d’accomplir le travail de 100 ? Ben explique pourquoi le véritable défi n’est pas la productivité, mais l’explosion des données qui l’accompagne.
Une IA responsable commence par des personnes responsables
Tout au long de la conversation, Ben insiste sur le fait que les organisations ne peuvent pas compter uniquement sur la technologie pour rendre l’IA responsable. Les personnes qui utilisent l’IA jouent également un rôle important.
Que les employés saisissent des instructions, téléchargent des documents ou affinent des modèles, ils doivent comprendre quelles informations ils partagent et comment celles-ci pourraient être utilisées. Les garde-fous ne servent pas uniquement à restreindre l’accès. Ils visent également à aider les personnes à prendre des décisions éclairées lorsqu’elles travaillent avec l’IA.
Ben souligne que les organisations doivent voir plus loin que ce qui est intégré dans un système d’IA. Elles doivent également prêter attention à ce qui en ressort. L’IA peut générer involontairement des informations sensibles, ce qui rend l’examen et la supervision des résultats tout aussi importants que les instructions qui ont déclenché l’interaction.
Cela nous rappelle une fois de plus qu’une IA responsable n’est pas seulement un défi technologique. C’est une responsabilité partagée entre les personnes qui utilisent l’IA et les politiques qui les guident.
Se préparer à l’inconnu
La pression pour adopter rapidement l’IA est compréhensible. De nouveaux outils apparaissent presque quotidiennement, et les organisations ne veulent pas se laisser distancer. Mais Ben fait valoir que la « Readiness » ne se résume pas à agir rapidement. Il s’agit de mettre en place les bons processus avant même qu’ils ne soient nécessaires.
Vers la fin de la conversation, Ben souligne que de nombreuses équipes spécialisées dans l’IA n’ont pas pleinement réfléchi à ce qu’elles feraient si les choses tournaient mal. J’adore la réponse de Nathan, car c’est exactement ce que je pensais :
« Pourquoi n’y penseraient-elles pas ? Je ne pense qu’à ça. » – Nathan Macintosh
En matière de cybersécurité, les organisations résilientes n’attendent pas qu’un incident se produise pour décider de la manière dont elles vont réagir. Elles établissent les rôles, définissent les processus et se préparent à différents scénarios bien avant que ceux-ci ne deviennent nécessaires. Ben estime que l’IA mérite le même niveau de préparation.
Cela implique de se poser des questions auxquelles de nombreuses organisations n’ont pas encore pleinement réfléchi, telles que :
- À quelles données l’IA devrait-elle avoir accès ?
- Qui devrait intervenir si un résultat généré par l’IA posait problème ?
- Comment les décisions seront-elles prises si un imprévu survient ?
Ces discussions ne sont peut-être pas aussi passionnantes que le lancement d’une initiative d’IA, mais elles sont tout aussi importantes.
Une dernière réflexion
Alors que cette saison de « Ready. Or Not. » touche à sa fin, une chose m’est apparue clairement. Chaque épisode a exploré un concept ou une tendance différente en matière d’IA, mais tous ont renforcé la même idée : la réussite de l’adoption de l’IA ne repose pas uniquement sur la technologie. Elle dépend des personnes, des processus et de la préparation qui la rendent possible.
Les organisations n’ont pas besoin d’avoir toutes les réponses avant de se lancer dans l’IA. Mais plus elles s’attachent dès aujourd’hui à poser des bases solides, mieux elles seront préparées à affronter ce que l’avenir leur réserve. Regardez l’épisode dans son intégralité sur Readiverse.
FAQ
Q : Que signifie « Readiness pour l’IA » ?
R :
La « Readiness pour l’IA » commence par la compréhension, l’organisation, la gouvernance et la protection des données dont votre organisation dispose déjà. Des pratiques solides en matière de données constituent les fondements sur lesquels repose l’IA.
Q : Les organisations doivent-elles collecter davantage de données pour l’IA ?
R : Pas nécessairement. Ben recommande de se concentrer d’abord sur l’amélioration de la qualité et de l’organisation des données existantes avant d’étendre les efforts de collecte de données.
Q : Quel est le rôle des employés dans une utilisation responsable de l’IA ?
R : Les employés jouent un rôle important dans la gouvernance de l’IA. Ils doivent comprendre quelles informations il est approprié de partager avec l’IA, examiner attentivement les résultats générés par l’IA et respecter les politiques de l’entreprise en matière d’utilisation responsable de l’IA.
Q : Pourquoi l’IA modifie-t-elle la gouvernance des données ?
R : Les systèmes d’IA accèdent, analysent et agissent de plus en plus sur les données de l’entreprise. Cela signifie que les politiques de gouvernance doivent s’appliquer aussi bien aux machines qu’aux personnes.
Q : Pourquoi les entreprises devraient-elles se préparer à des problèmes imprévus liés à l’IA ?
R : L’IA peut introduire de nouveaux risques, allant de la divulgation d’informations sensibles à la production de résultats inattendus. Se préparer à l’avance en définissant les responsabilités et les processus d’intervention aide les entreprises à faire face à ces situations avec davantage d’assurance.
Q : Quel est le principal enseignement à retenir de cet épisode ? R : La « Readiness » à l’IA ne se résume pas à l’adoption d’une nouvelle technologie. Il s’agit de mettre en place une gouvernance solide, de bonnes pratiques en matière de données et des processus organisationnels résilients qui permettent d’utiliser l’IA de manière responsable et efficace. Katherine Demacopoulos est directrice principale de la stratégie et des programmes de contenu mondiaux chez Commvault.
