Skip to content

Conférence plénière

La résilience commence par nous : des voies éthiques vers l’innovation et la confiance dans l’IA

L’intelligence artificielle est en train de redéfinir les fondements du monde des affaires, des pouvoirs publics et de la société               ce qui s’accompagne d’opportunités et de responsabilités sans précédent. Dans ce discours d’ouverture de SHIFT 2025, le Dr Rumman Chowdhury explique pourquoi l’IA éthique, le jugement humain et la conception responsable sont essentiels pour instaurer la confiance et la résilience à l’ère de l’automatisation. 

Video thumbnail

Points clés à retenir

  • Le jugement humain est irremplaçable 
    Même si les systèmes d’intelligence artificielle gagnent en puissance, le raisonnement humain, l’éthique et le contexte restent essentiels. 
  • L’automatisation a besoin de contexte 
    L’incident de Stanislav Petrov montre pourquoi les systèmes automatisés doivent être complétés par l’esprit critique humain. 
  • L’angoisse liée à l’IA n’est pas un phénomène nouveau 
    Concerns about automation replacing humanexpertisehave existed long before generative AI. 
  • Une IA responsable passe par une gouvernance adéquate 
    La surveillance éthique, la transparence et la responsabilité sont des principes fondamentaux               Ce n’est pas facultatif. 
  • L’intervention humaine est un gage de sécurité 
    La conception « Human-in-the-loop » est un élément central de contrôle qui permet une innovation fiable. 
  • L’équilibre favorise la confiance 
    Ethical AI depends on balancing automation withde manière uniquehuman capabilities. 

entreprises clientes font état d’une réduction des risques, d’une baisse des coûts et d’une amélioration de l’efficacité opérationnelle.

Découvrez pourquoi l’innovation éthique nécessite un jugement humain solide, en complément des systèmes d’IA avancés, en s’appuyant sur les analyses du Dr RummunChowdhury, PDG de Humane Intelligence et ancien envoyé scientifique américain pour l’IA. Cette session montre comment la pensée critique renforce la prise de décision  

Éthique et jugement humain 
Le Dr Rumman Chowdhury explique pourquoi l’innovation éthique nécessite un jugement humain solide, en complément des systèmes d’IA avancés. La prise de décision automatisée ne peut à elle seule rendre compte des nuances, des valeurs et de la compréhension du contexte. 

Analyser l’incident de Stanislav Petrov comme un exemple emblématique de la prise de décision impliquant l’intervention humaine,démontranthow contextual reasoning and situational analysis prevent catastrophic outcomes when automatedavertissementsmisfire.  

Les leçons de l’histoire 
L’incident de Stanislav Petrov constitue un exemple emblématique de prise de décision impliquant l’intervention humaine, dans laquelle le raisonnement contextuel a permis d’éviter des conséquences catastrophiques malgré des alertes automatisées. 

Uncover long-standing societal concerns about AI replacing humanexpertise, montrant comment l’angoisse face à l’automatisation et les idées fausses concernant les capacités de l’IA façonnent les attentes du public, et ce avant même l’essor de l’IA générative.  

Comprendre l’angoisse liée à l’IA 
Long-standing societal fears about automation replacing humanexpertiseshape expectations around AI today. These concerns predate generative AI and reveal common misconceptions about AI capabilities. 

Principes d’une IA responsable 
Cette session présente les principes d’une IA responsable ainsi que les cadres de gouvernance qui mettent l’accent sur le contrôle éthique, la transparence et la responsabilité tout au long du cycle de vie de l’IA. 

Pourquoi l’intervention humaine est-elle essentielle ? 
Human-in-the-loop design anchors trustworthy AI byconfirmant queethical reasoning, situational awareness, and judgment remain integral to decision-making. 

Démonstration video

Protection des données grâce à l’IA conversationnelle MCP

Découvrez comment Commvault utilise l’IA conversationnelle et MCP pour transformer la protection des données. 

Regardez la vidéo de démonstration sur «la protection des données grâce à l’IA conversationnelle MCP
Blog

Principes directeurs pour une intelligence artificielle responsable

Découvrez comment les pratiques responsables en matière d’IA favorisent la confiance, l’innovation et la gouvernance. 

Lire l’article de blog surles principes directeurs pour une intelligence artificielle responsable
Livre blanc

L’IA chez Commvault : Secure Innovaation, Intelligent Resilience

Comment Commvault assure la résilience à l’ère de l’IA grâce à une innovation sécurisée et responsable. 

Lire le livre blanc «L’IA chez Commvault : innovation sécurisée, résilience intelligente »

Questions fréquemment posées:

Quel est le principal défi lié à la mise en œuvre d'une IA responsable ?

Une IA responsable ne se limite pas à des contrôles techniques. Elle nécessite des cadres éthiques, une gouvernance transparente et l'intégration du jugement humain aux moments décisifs pour gérer les risques et garantir la responsabilité. 

Pourquoi la conception intégrant l'intervention humaine est-elle essentielle pour garantir la fiabilité de l'IA ?

Les êtres humains apportent une dimension éthique, un contexte et un raisonnement que les machines ne peuvent reproduire. La supervision humaine permet un déploiement de l’IA plus sûr, plus fiable et plus digne de confiance. 

Qu'est-ce qui caractérise un cadre de gouvernance responsable en matière d'IA ?

Parmi les cadres efficaces, on peut citer la gouvernance des données, la validation des modèles, la détection des biais, l'explicabilité, la surveillance continue, les points de contrôle impliquant une intervention humaine et les procédures d'escalade fondées sur les risques. 

Les systèmes d'IA peuvent-ils fonctionner en toute sécurité sans surveillance humaine ?  

Les systèmes entièrement autonomes augmentent les risques dans des situations complexes ou à enjeux élevés. La supervision humaine reste indispensable pour éviter les erreurs, les utilisations abusives ou les conséquences imprévues.   

En quoi l'IA éthique favorise-t-elle l'innovation à long terme ?  

Une IA éthique instaure un climat de confiance auprès des utilisateurs, des autorités de régulation et de la société dans son ensemble, favorisant ainsi une innovation durable plutôt que des gains à court terme qui engendrent des risques à long terme. 

Transcription

Voir la Transcription

Veuillez visionner la vidéo ici pour consulter la transcription avec les timestamps


00:12 – 00:15

Notre invité a un parcours exceptionnel.

00:15 – 00:19

Euh… Elle est PDG de Humane Intelligence.

00:19 – 00:26

Elle a également été envoyée spéciale des États-Unis pour l’intelligence artificielle, nommée par le président Biden.

00:26 – 00:30

Et j’ai hâte de vous la présenter et de l’accueillir parmi nous, le Dr…

00:30 – 00:32

Ruman Chowdhary.

00:42 – 00:44

Bonjour, bonne journée.

00:44 – 00:45

Je suis ravi de vous voir tous.

00:45 – 00:47

J'espère que vous avez apprécié vos bretzels.

00:47 – 00:48

Je m’appelle Dr.

00:48 – 00:56

Aman Chowdhury, et c’était formidable d’écouter toutes ces interventions et toutes ces conversations, et de reconnaître quelques visages familiers dans le public.

00:56 – 00:57

Bonjour.

00:58 – 01:03

Je suis donc ici aujourd’hui pour vous parler des voies éthiques vers l’innovation et la confiance.

01:04 – 01:08

Combien d’entre vous savent qui est cet homme ?

01:09 – 01:18

D'habitude, je constate que dans le public, il y en a peut-être une qui le connaît, mais souvent, je suis confronté à des regards très perplexes quand je dis que c’est grâce à lui que nous sommes tous en vie aujourd’hui.

01:21 – 01:22

C'est vrai.

01:22 – 01:23

Bon, je vais vous expliquer.

01:23 – 01:25

Je m’appelle Stanislav Petrov.

01:25 – 01:31

Et en 1983, il était ce qu’on appellerait aujourd’hui « l’humain dans la boucle ».

01:31 – 01:38

Il était aux commandes d’un système technique chargé de déterminer si les États-Unis avaient lancé ou non une arme nucléaire.

01:38 – 01:39

Il se trouvait du côté russe.

01:39 – 01:51

Et son travail consistait, depuis son bunker, à recevoir la confirmation qu’un missile avait été lancé, puis à appuyer sur le bouton pour… si vous vous souvenez de vos cours d’histoire ou d’éducation civique, ce qui est…

01:51 – 01:51

appelée « riposte mutuelle »

01:51 – 01:52

destruction mutuelle assurée.

01:52 – 01:56

Et nous avons tous beaucoup, beaucoup de chance qu’il ne l’ait pas fait.

01:56 – 02:02

Et j’adore cette histoire, car lorsque nous réfléchissons à la place de l’humain dans la boucle technologique, nous n’y pensons pas de manière très approfondie.

02:02 – 02:05

On se dit simplement : « Il y a quelqu’un à la fin de la chaîne qui va juste… faire quelque chose. »

02:05 – 02:07

Eh bien, c'était lui, l'humain dans la boucle.

02:07 – 02:10

Et c’est une bonne chose qu’il ne se soit pas contenté d’appuyer sur le bouton.

02:10 – 02:17

Et il a eu recours à quelque chose de tout à fait unique aux êtres humains : les indices contextuels et la réflexion critique.

02:17 – 02:20

Il s’est alors assis et s’est dit : « Eh bien, la Guerre froide dure depuis des décennies. »

02:20 – 02:21

Et il ne s’est pas passé grand-chose

02:21 – 02:25

d’escalade, pourquoi les États-Unis déclencheraient-ils une arme nucléaire ?

02:25 – 02:27

Et il a choisi de ne pas appuyer sur le bouton.

02:27 – 02:31

Et c’est la raison pour laquelle nous n’avons finalement pas basculé dans une guerre nucléaire.

02:31 – 02:32

C’est extrêmement important.

02:32 – 02:37

Et ce qui est absolument incroyable, c’est que très peu de gens savent qui est cet homme.

02:37 – 02:48

Et j’adore cette histoire, encore une fois, car elle montre vraiment que la pensée critique humaine ne peut être remplacée, même par la technologie la plus avancée.

02:49 – 02:52

Alors, quand on parle d’intelligence artificielle, qu’entend-on exactement ?

02:52 – 02:53

À son époque, M.

02:53 – 02:59

Petrov a donc eu accès à certaines des technologies les plus avancées.

02:59 – 03:08

Et peut-être que cela semblait intimidant, voire effrayant, qu’un être humain puisse se lever et défier les résultats d’un outil technologique aussi sophistiqué.

03:08 – 03:11

Et c’est parfois ainsi que nous percevons l’intelligence artificielle.

03:11 – 03:16

Et voici le genre de titres que vous avez peut-être consultés aujourd’hui dans votre application d’actualités.

03:16 – 03:19

La solution à notre crise de l’éducation pourrait bien être…

03:19 – 03:31

l’IA. Les enseignants seront-ils les prochains à voir leur métier pris en charge par des robots ? Les avocats seront-ils la prochaine profession remplacée par des ordinateurs ? Et l’IA omniprésente est-elle aussi efficace que n’importe quel autre système pour diagnostiquer la maladie X ?

03:31 – 03:33

un être humain ou un médecin.

03:33 – 03:36

Et il y a deux ou trois choses que je voudrais souligner à propos de ces gros titres.

03:36 – 03:37

Premièrement.

03:37 – 03:42

On dirait qu’ils datent des trois dernières années, celles de la révolution de l’IA générative.

03:42 – 03:45

En réalité, ils datent tous de 2018 à 2020.

03:45 – 03:49

Je travaille dans ce domaine depuis près d'une décennie maintenant, plus précisément dans le domaine de l'IA responsable.

03:49 – 03:52

Je travaille dans le secteur des technologies depuis plus de 15 ans.

03:52 – 03:56

Et on dirait qu’à chaque nouvelle itération, on voit ces gros titres revenir sans cesse.

03:56 – 04:00

Et bien sûr, à chaque nouvelle version, la technologie devient de plus en plus sophistiquée.

04:00 – 04:04

Mais il y a ici deux ou trois points que je trouve assez problématiques.

04:04 – 04:07

Premièrement, il y a cette tendance à anthropomorphiser la technologie.

04:07 – 04:20

Si vous lisez ces phrases, on dirait qu’il y a une sorte de « personne IA » dans une machine qui veut vraiment devenir médecin, enseignant ou avocat, et qui va jusqu’à entraîner votre enfant…

04:20 – 04:21

professeur de votre enfant, qui se débat et hurle.

04:21 – 04:24

Je veux dire, une prise de pouvoir par les robots, mon Dieu.

04:24 – 04:25

Tu exagères un peu.

04:25 – 04:29

Mais surtout, où est la personne dans cette phrase ?

04:29 – 04:37

Dans tous ces titres – et encore une fois, ce sont des titres très courants que vous voyez probablement tous les jours –, l’être humain n’est qu’un élément passif.

04:37 – 04:41

destinataire de ce que la technologie a décidé de faire.

04:41 – 04:44

Et cela ne pourrait pas être plus éloigné de la vérité.

04:44 – 04:50

Ce qui s’est donc passé, c’est que les gens pensent que l’IA est une sorte de horde de robots.

04:50 – 04:51

Or, ce n’est pas le cas.

04:51 – 04:55

C’est quelque chose qui a l’air tout à fait normal.

04:55 – 04:56

Je peux revenir en arrière, s’il vous plaît ?

04:56 – 04:56

Désolé.

04:58 – 04:59

Voyons si ça marche.

04:59 – 05:00

Voilà, merci.

05:00 – 05:11

Les gens pensent que l’IA, ce sont ces hordes de robots qui débarquent pour changer nos vies, nous prendre nos emplois et peut-être même enseigner à nos enfants, mais la réalité, c’est que si vous êtes développeur comme moi, ça…

05:11 – 05:13

ça ressemble un peu plus à ça.

05:13 – 05:22

Et en réalité, ces gros titres hyperboliques ne reflètent pas la vérité, à savoir qu’il faut beaucoup d’efforts et de travail humain pour tout, de la collecte des données à leur organisation,

05:22 – 05:29

au nettoyage, à la sécurité, euh, à la programmation, au débogage, puis au lancement du produit, à sa mise à l'échelle et à sa livraison,

05:30 – 05:49

et le déploiement : tout cela nécessite en réalité des personnes.

05:49 – 05:50

Nous ne nous adressons donc pas aux enseignants en attendant que les robots prennent le relais.

05:50 – 05:52

Il y a beaucoup d’étapes humaines qui se déroulent entre-temps.

05:52 – 05:58

On discute, et quand on discute, quand on aborde des sujets humains,

05:58 – 06:04

nous interagissons directement avec cette technologie qui semble si futuriste et si performante.

06:04 – 06:11

Eh bien, ce qui se passe, c’est que nous commençons à faire progresser une technologie qui ne tient pas réellement compte de ce dont les êtres humains pourraient avoir besoin.

06:11 – 06:22

Et puis, plus précisément, lorsque la technologie ne tient pas réellement les promesses fantastiques qui ont pu être faites lors d’une présentation, ce qui se passe alors, c’est que nous…

06:22 – 06:28

partons du principe que ce sont les êtres humains et la société qui doivent s’adapter aux limites de la technologie,

06:28 – 06:34

plutôt que de réfléchir à la manière dont nous pourrions développer la technologie pour qu’elle s’adapte aux besoins de la société.

06:34 – 06:37

Et c’est ce que j’appelle « l’humain réadapté ».

06:37 – 06:44

Donc, quand on réfléchit à cet « humain réadapté », l’une des façons d’aborder la technologie de l’IA est de se demander : en quoi est-elle douée ?

06:44 – 06:46

De quoi est-elle capable ?

06:46 – 06:50

Et il y a plusieurs domaines dans lesquels l’apprentissage automatique et l’IA excellent particulièrement.

06:50 – 06:55

Tout ce préambule ne vise donc pas à dire que l’IA n’en est pas capable ou que l’apprentissage automatique ne peut pas faire certaines choses.

06:55 – 06:57

En réalité, ils peuvent accomplir des choses tout à fait étonnantes.

06:57 – 07:02

Mais ce qui importe ici, c’est de faire la distinction entre ce pour quoi les humains sont vraiment doués et ce pour quoi la technologie est vraiment douée.

07:02 – 07:03

Alors, en quoi la technologie excelle-t-elle vraiment ?

07:03 – 07:06

Elle est douée pour identifier des tendances générales.

07:06 – 07:08

Elle est douée pour analyser

07:08 – 07:10

et d’identifier les éléments qui se ressemblent.

07:10 – 07:13

C’est en gros l’essentiel de la vision par ordinateur.

07:13 – 07:17

Et cela est généralement cohérent, en fonction du taux d’erreur.

07:17 – 07:27

Donc, lorsque nous développons une IA – et, je le répète, je fais cela depuis un certain temps –, on peut résumer la démarche en disant que nous collectons beaucoup de données pour créer un modèle adapté à la personne moyenne d’un…

07:27 – 07:29

type particulier.

07:29 – 07:32

Et nous pouvons collecter des données extrêmement spécifiques.

07:32 – 07:35

Et cela ne veut pas dire que nous le faisons pour le grand public en général.

07:35 – 07:37

Mais nous définissons qui vous êtes, qui je suis et qui sont les…

07:37 – 07:41

personne assise à côté de vous comme faisant partie d’un profil client ou d’une communauté.

07:41 – 07:45

Et cela repose peut-être sur 10, 20 ou 100 points de données différents.

07:45 – 07:50

Et ensuite, on part en quelque sorte du principe qu’il y a des hypothèses formulées concernant les données manquantes.

07:50 – 07:50

Très bien.

07 h 50 – 07 h 55

Eh bien, je vais vous raconter une histoire qui illustre ce que signifie concevoir pour le grand public.

07:55 – 08:04

Et qu’entend-on exactement par « personne lambda », même si l’on se base sur un sous-groupe très spécifique de personnes que l’on pourrait croire très, très prévisibles ?

08 h 04 – 08 h 07

D’ailleurs, j’adore partager des anecdotes, des histoires et animer des discussions.

08:07 – 08:07

sur ce sujet.

08:07 – 08:07

ça.

08:07 – 08:07

ça.

08 h 07 – 08 h 11

l'intelligence artificielle, alors ça n'a rien à voir avec l'intelligence artificielle.

08:11 – 08:19

L’une de nos plus grandes erreurs est de penser que cette technologie est nouvelle et que tous les problèmes auxquels nous sommes confrontés sont des choses que nous ne verrons jamais, que nous n’avons jamais vues auparavant.

08:19 – 08:21

Nous ne nous sommes jamais posé ces questions.

08:21 – 08:31

Et bien que l’IA introduise de nouveaux paradigmes, de nouvelles questions et de nouveaux enjeux, les problèmes que nous cherchons à résoudre ne sont pas, à proprement parler, des questions inédites.

08:31 – 08:32

C'est donc l'une de mes anecdotes préférées.

08:32 – 08:37

Dans les années 1940, les accidents d’avions de ligne atteignaient un niveau record.

08:53 – 09:07

L’armée de l’air américaine s’est donc tournée vers les fabricants de sièges d’avion et leur a dit : « Écoutez, nous avons besoin que vous repensiez la conception de ces sièges, car le profil moyen des… »

09:07 – 09:08

de nos pilotes a changé.

09:08 – 09:13

Bien sûr, si l’on réfléchit à qui sont ces pilotes, ils constituent en réalité un sous-ensemble assez restreint de personnes.

09:13 – 09:17

Ce sont des jeunes hommes âgés probablement de 18 à 30 ans maximum.

09 h 19 – 09 h 20

Ils sont en très bonne santé.

09:20 – 09:22

Ils sont valides, etc.

09 h 22 – 09 h 24

Et à cette époque, il n’y avait pas de femmes pilotes.

09 h 24 – 09 h 26

Ce serait assez standardisé.

09:26 – 09:33

Ils ont donc fait dans les années 1940 ce qu’ils avaient fait dans les années 1920, c’est-à-dire qu’ils ont recruté plus de 4 000 de ces pilotes.

09:33 – 09:36

Ils les ont évalués selon 10 critères différents.

09:36 – 09:37

Cela vous dit quelque chose ?

09:37 – 09:43

Si vous êtes data scientist dans cette salle, cela vous semble sans doute être une approche tout à fait raisonnable pour concevoir un bon siège.

09 h 43 – 09 h 48

Donc, plus de 4 000 hommes, 10 points de données différents : ils ont calculé la moyenne et ont conçu un siège.

09:49 – 09:59

Et cela n’a convenu à personne : pas un seul de ces quelque 4 000 pilotes ne s’est assis dans ce siège en disant : « Oui, je le trouve confortable. »

09:59 – 10:04

Et la raison, c’est que cette notion de moyenne correspond à la personne du 50e centile.

10 h 04 – 10 h 07

Si vous connaissez la courbe en cloche, c’est la partie la plus large de cette courbe.

10 h 07 – 10 h 11

courbe, euh… mais ce n’est pas forcément une personne qui existe réellement.

10:11 – 10:20

C’est un personnage imaginaire qui est un amalgame de tous les autres points de données que vous avez recueillis sur les personnes qui lui ressemblent.

10 h 20 – 10 h 22

Ils ont donc réduit cela à trois dimensions.

10 h 22 – 10 h 26

Et si on se contentait de prendre trois données, pour avoir davantage de données globales, n’est-ce pas ?

10 h 26 – 10 h 29

Cela ne correspondait qu’à environ 13 % des pilotes.

10 h 29 – 10 h 34

Eh bien, l’Armée de l’air est alors revenue vers les constructeurs aéronautiques en leur disant : « Bon, ça ne fonctionne pas pour nous. »

10 h 34 – 10 h 36

Car bien sûr, c’est une question de vie ou de mort.

10 h 36 – 10 h 41

Ces sièges doivent être réellement fonctionnels et utiles, car les pilotes se retrouvent dans des situations extrêmes.

10 h 41 – 10 h 43

Ce n’est donc pas une réflexion après coup.

10 h 43 – 10 h 50

Ils sont donc revenus vers nous et nous ont dit : « En réalité, plutôt que de concevoir un siège adapté à la personne du 50e centile, c'est-à-dire la personne moyenne, ce que je veux que vous fassiez, c'est de créer

10 h 50 – 10 h 53

que les sièges conviennent à 95 % de tous les pilotes.

10 h 54 – 10 h 57

Ce qui représente un changement radical dans la façon dont on mesure le succès, n’est-ce pas ?

10 h 57 – 11 h 02

Car ce que vous créez repose en grande partie sur la façon dont vous définissez ce qu’est la réussite et à quoi ressemble le « bien ».

11 h 02 – 11 h 09

Ils ont donc redéfini la notion de « bien » en se disant : plutôt que de concevoir un siège pour le pilote moyen, pourquoi ne pas créer un siège qui convienne à 95 % de tous les pilotes ?

11 h 09 – 11 h 13

Et encore une fois, il s’agit là d’un petit sous-ensemble de personnes présentant peu de variations.

11:13 – 11:19

Tous les constructeurs aéronautiques ont donc réagi en disant : « C’est impossible, on ne peut pas le faire, on ne l’a jamais fait auparavant, ça va nous mener à la faillite. »

11 h 19 – 11 h 21

C’est une idée absolument farfelue.

11 h 21 – 11 h 24

Et bien sûr, c’est l’armée de l’air, donc elle peut faire ce qu’elle veut.

11 h 24 – 11 h 27

Du genre : « Bon, d’accord, on ira chercher quelqu’un d’autre pour le faire. »

11 h 27 – 11 h 28

Et c’est ce qu’ils ont fait.

11 h 29 – 11 h 31

C'est qu'ils ont simplement fabriqué des sièges réglables.

11 h 31 – 11 h 42

Donc, chaque fois que vous montez dans votre voiture, dans un bus ou dans un avion et que vous pouvez faire des choses comme déplacer l’accoudoir, relever l’appuie-tête ou incliner le siège à votre guise, c’est l’une des raisons pour lesquelles quelqu’un

11 h 42 – 11 h 49

qui mesure 5’3 comme moi et un homme de taille moyenne de 5’10 puissent effectivement prendre place dans la même voiture et la conduire.

11:49 – 11:56

C’est parce que l’armée a fait pression et a clairement déclaré : « Nous voulons que vous repensiez votre conception. »

11 h 56 – 11 h 59

Nous voulons que vous repensiez la façon dont vous fabriquez cet outil technologique.

11 h 59 – 12 h 06

Encore une fois, plutôt que de dire que nous concevons pour un profil moyen, nous allons dire que nous voulons que cet outil s’adresse à un public plus large.

12 h 06 – 12 h 12

Un changement radical qui, en réalité, a conduit à des produits mieux conçus et de meilleure qualité.

12 h 12 – 12 h 13

Quels sont donc vos principaux enseignements ?

12 h 13 – 12 h 22

Tout d’abord, pour que l’IA fonctionne, nous devons adopter une réflexion radicale et sortir des sentiers battus quant à la manière de personnaliser et de concevoir nos solutions pour nos utilisateurs.

12 h 22 – 12 h 26

Le deuxième point concerne un changement clair en matière de responsabilité et d’obligation de rendre des comptes.

12 h 26 – 12 h 29

J’ai inventé le terme « externalisation morale », qui est lié à…

12:29 – 12:38

à cette anthropomorphisation de l’intelligence artificielle, à la façon dont nous utilisons des expressions qui donnent l’impression que l’IA a une intention, une raison d’être, alors qu’en réalité, elle n’a rien de tout cela.

12:38 – 12:41

Ce sont les êtres humains qui conçoivent et déploient la technologie.

12:41 – 12:49

Plutôt que de dire que nous développons l’IA pour remplacer les avocats, ce qui se passe en réalité, c’est que quelqu’un crée une entreprise spécialisée dans les technologies juridiques.

12 h 49 – 12 h 56

Et on peut choisir de développer la technologie juridique de manière à soutenir l’humain, ou bien de manière à tenter délibérément de le remplacer.

12 h 56 – 12 h 59

Et c’est une décision prise par des humains, une décision prise par des humains sur la manière dont…

12:59 – 13:00

la manière dont la technologie est utilisée.

13 h 00 – 13 h 08

Enfin, pour tirer pleinement parti des avantages de l’intelligence artificielle, il faut investir autant dans le volet humain que dans le volet technique.

13 h 08 – 13 h 18

Ainsi, plutôt que de considérer le fait que nos corps ont tous des tailles, des formes et des hauteurs différentes comme un défaut, c'est en réalité une opportunité de concevoir mieux et de concevoir davantage

13 h 18 – 13 h 19

général.

13:20 – 13:22

Quel sera donc l’impact de l’IA sur notre société ?

13:22 – 13:33

Je dirais donc que le sujet sur lequel on me demande le plus souvent de m’exprimer – et cela a commencé cette année – c’est celui de l’IA éthique et responsable. J’ai donné de nombreuses conférences et j’ai beaucoup parlé de ce sujet, mais le…

13 h 33 – 13 h 37

avenir du travail en 2025 est vraiment devenu le sujet qui m’est le plus souvent demandé.

13:37 – 13:47

Ah, et je suis ravie de pouvoir dire qu’il existe en fait de nombreuses preuves empiriques, et que des travaux vraiment formidables sont en cours, dans lesquels les gens abordent, vous savez,

13:47 – 13:50

mesurent et étudient quantitativement l’impact de

13:50 – 13:51

IA sur le monde du travail.

13:51 – 13:59

Donc, d’un côté, encore une fois, ce que vous pouvez voir dans l’actualité lorsque vous ouvrez votre lecteur d’actualités, ce sont des gens qui réclament un revenu de base universel, des gens qui disent qu’il y aura

13 h 59 – 14 h 01

plus d’emplois pour personne.

14 h 01 – 14 h 07

Et ce que nous constatons à la place, c’est qu’il s’agit en réalité d’un débat bien plus nuancé.

14:07 – 14:10

Je vais donc vous parler de trois articles différents que j'apprécie particulièrement.

14 h 10 – 14 h 13

Il existe en réalité pas mal d’articles sur le sujet, mais il y en a trois que j’apprécie tout particulièrement.

14 h 13 – 14 h 18

Je voudrais commencer par une vue d'ensemble, comme l'impact macroéconomique à l'échelle mondiale au cours des dix prochaines années.

14 h 18 – 14 h 20

Une vue d'ensemble à moyenne échelle, qui est verticale

14 h 20 – 14 h 30

par secteur d’activité, ainsi que l’étude la plus détaillée et la plus expérimentale menée au sein d’une entreprise spécifique pour observer comment les employés ont réagi et comment ils se sont adaptés au fait de travailler avec l’IA, et comment…

14 h 30 – 14 h 31

cela les a affectés.

14 h 31 – 14 h 40

Je commencerai également par dire que j’interviens dans de nombreuses universités et qu’il existe en réalité beaucoup d’inquiétudes tout à fait justifiées parmi les jeunes.

14 h 40 – 14 h 50

Et ce que nous constatons – et c'est la première année que nous le voyons vraiment –, c'est que la génération Z, qui arrive sur le marché du travail pour trouver un emploi, en particulier des postes de débutants, rencontre davantage de difficultés parce que

14 h 50 – 14 h 53

l’intelligence artificielle est en effet capable d’effectuer certaines tâches de base.

14 h 53 – 14 h 56

Et cela ne se limite pas à la recherche et à la rédaction.

14:56 – 14:58

C'est en fait principalement dans le domaine de la programmation.

14 h 58 – 15 h 02

Ce pour quoi l’IA est vraiment, vraiment douée, c’est la programmation de niveau débutant.

15 h 02 – 15 h 07

Mais on a toujours besoin de développeurs expérimentés pour s’assurer que le code est robuste, qu’il fonctionne correctement, etc.

15 h 07 – 15 h 11

Mais bon nombre de postes de débutants ne sont tout simplement pas remplacés.

15:11 – 15:17

Ainsi, à mesure que les employés prennent de l’ancienneté et obtiennent des promotions, leurs postes de débutants ne sont tout simplement pas pourvus.

15 h 17 – 15 h 20

Et cela est préoccupant pour l’avenir.

15 h 20 – 15 h 27

Le premier article dont je souhaite parler a été rédigé par une économiste du travail, euh, la professeure Dara Nesemoglu du MIT.

15:27 – 15:32

Il a mené des recherches, et encore une fois, c’est quelqu’un qui travaille dans le domaine de l’économie depuis très, très longtemps.

15 h 32 – 15 h 37

Et il s’est véritablement lancé dans le domaine de l’IA en réfléchissant à son impact sur le travail et la productivité.

15:37 – 15:45

Il s’est donc penché sur ce qu’on appelle la productivité totale des facteurs (PTF) : en gros, si l’on additionnait le PIB de tous les pays, on obtiendrait en quelque sorte la PTF.

15:45 – 15:50

Ah ! Et d’après ses calculs, au cours des dix prochaines années, elle atteindra ce qu’il appelle…

15 h 50 – 16 h 01

Donc, un impact non négligeable mais modeste, c’est-à-dire inférieur à 1 %, ce qui peut sembler peu, mais qui représente tout de même moins de 1 % du PIB mondial total, ce qui est assez significatif.

16 h 01 – 16 h 03

Il s’agit donc d’un niveau d’automatisation assez important.

16:03 – 16:06

Mais il est allé encore plus loin en se demandant : qu’est-ce qui est automatisé ?

16 h 06 – 16 h 13

Et il souligne que, selon lui, ce sont en réalité davantage les emplois de cols blancs que ceux de cols bleus qui sont automatisés.

16:13 – 16:14

Et c'est intéressant.

16:14 – 16:19

Cela met vraiment en évidence l'un des aspects particulièrement révolutionnaires de l'IA générative.

16:32 – 16:33

Et voilà.

16 h 33 – 16 h 36

Et… Et… Et je pense que c’est un point important.

16:36 – 16:36

Et voilà.

16 h 36 – 16 h 38

Et c'est un point vraiment important.

16 h 38 – 16 h 50

Et c’est un point important. Et un point vraiment important.

16 h 50 – 16 h 50

Et

16 h 50 – 16 h 54

C’est vraiment le travail intellectuel, le travail intellectuel rudimentaire, qui est en train d’être automatisé.

16 h 54 – 16 h 56

Nous n’y avions pas vraiment réfléchi auparavant.

16 h 56 – 16 h 59

Nous n’avons pas eu à faire face à l’impact de ce phénomène.

16 h 59 – 17 h 08

Et d’ailleurs, pour en revenir à la génération Z, certains d’entre vous, si vous avez des enfants de cet âge, savent peut-être que vos enfants ou leurs amis envisagent en fait de se lancer dans des métiers manuels.

17 h 08 – 17 h 14

En effet, de plus en plus de jeunes ne voient pas l’intérêt des études supérieures si l’IA est réellement capable de faire ce travail.

17:14 – 17:20

Mais une IA ne sera jamais capable de tondre votre pelouse, de réparer votre plomberie ou d’aménager un

17:20 – 17:21

toiture.

17:21 – 17:32

Et ce qu’ils constatent, c’est que, pour de nombreuses raisons, un métier manuel leur semble, à beaucoup d’entre eux, bien plus, disons, prévisible et fiable que de viser très haut pour

17:32 – 17:40

un poste de vice-président senior qui pourrait se concrétiser ou non, car si vous ne décrochez pas votre premier emploi, vous n’obtiendrez jamais de promotion.

17:40 – 17:48

Donc, vous savez, il a fait remarquer que l’IA devrait creuser l’écart entre les revenus du capital et ceux du travail, mais aussi qu’il y aura cette valeur sociétale négative dont nous disposons réellement

17:48 – 17:50

prendre en compte.

17:50 – 18:02

chose la plus intéressante que je constate, c’est que, à mesure que nous continuons à évaluer la valeur de l’IA, les gens prennent de plus en plus en compte les externalités négatives sur la société comme un facteur à prendre en considération.

18 h 02 – 18 h 09

Car à quoi bon créer une machine à productivité si, au final, nous en sommes tous complètement incapables ?

18 h 09 – 18 h 14

Il existe de sérieuses inquiétudes concernant des phénomènes tels que la dépendance excessive, ou ce que l’on appelle parfois la « psychose de l’IA ».

18 h 14 – 18 h 20

Euh, on voit apparaître des technologies éducatives, et cela suscite des inquiétudes.

18 h 20 – 18 h 22

que les jeunes deviennent trop dépendants de la technologie.

18 h 22 – 18 h 28

Comment pouvons-nous prendre en compte ces considérations et y répondre tout en développant des technologies qui restent globalement bénéfiques ?

18 h 29 – 18 h 37

Le deuxième article dont j’aimerais parler date en fait de 2023 et a été rédigé par une équipe d’OpenAI qui a collaboré avec un autre groupe d’économistes.

18 h 37 – 18 h 41

Il s’intitule « GPTs » et examine différents secteurs d’activité.

18 h 41 – 18 h 49

Et plutôt que d’affirmer de manière générale que tous ces emplois vont être automatisés, l’étude s’est demandé, secteur par secteur, quels sont ceux qui sont les plus susceptibles d’être automatisés ?

18 h 49 – 18 h 59

En résumé, environ 80 % des actifs verraient environ 10 % de leurs tâches automatisées, et environ 19 % verraient environ la moitié de leurs tâches concernées.

18 h 59 – 19 h 04

Et cela correspond assez bien à la réalité ; cette étude date de quelques années, mais elle reflète en quelque sorte les tendances que nous observons aujourd’hui.

19 h 04 – 19 h 13

Je pense que nous sommes nombreux à utiliser des outils d’IA pour des tâches de productivité très basiques, comme vous aider à relire vos notes ou peut-être rédiger des comptes-rendus de réunion à votre place.

19 h 13 – 19 h 18

Cela ne remplace pas votre travail ; au contraire, cela vous fait probablement gagner un peu de temps.

19:18 – 19:22

La plupart d’entre nous dans cette salle faisons probablement partie de ces 80 %.

19 h 22 – 19 h 29

Ces 19 % de travailleurs dont 50 % des tâches sont automatisées concernent des professions telles que le journalisme ou les assistants juridiques.

19 h 29 – 19 h 35

Il s’agit plutôt de postes de recherche et de connaissances qui ne nécessitent peut-être pas une expertise approfondie.

19 h 36 – 19 h 37

Passons maintenant au troisième article.

19 h 37 – 19 h 46

Et là encore, l’une des principales questions que les gens se posent est de savoir ce que signifie l’intelligence artificielle pour mon personnel si je l’utilise, si mes employés l’utilisent, si mon…

19 h 46 – 19 h 47

entreprise l’adopte ?

19 h 47 – 19 h 56

Eh bien, dans leur grande majorité, ils vous diront que la réponse est la suivante : « l’humain associé à l’IA est plus performant que l’humain sans l’IA ou que l’IA seule ».

19:56 – 19:58

Et j’adore cette étude parce que, tout d’abord, elle porte un nom fabuleux.

19 h 58 – 20 h 00

Elle s’intitule « The Cybernetic Teammate ».

20 h 00 – 20 h 04

Il s’agit d’une étude de cas réalisée à la Harvard Business School en collaboration avec Procter & Gamble.

20 h 04 – 20 h 06

Ils ont mis en place une expérience contrôlée randomisée.

20 h 06 – 20 h 17

Dans le cadre de cette expérience, environ 800 employés de P&G ont participé à un hackathon de plusieurs jours. Ils ont réparti les participants en groupes, soit en équipes, soit individuellement, certains disposant d’une IA et d’autres non.

20:17 – 20:24

Et ce que j’apprécie dans cet article, c’est que souvent, la plupart des articles sur l’IA au travail portent sur la productivité.

20 h 24 – 20 h 30

Et je déteste vraiment, vraiment, vraiment cet indicateur, car il y a une chose que l’IA sait faire : produire.

20:30 – 20:31

C’est tout ce qu’elle fait.

20:31 – 20:34

Et en réalité, elle se trompe souvent avec assurance.

20 h 35 – 20 h 36

Il faut un être humain pour être…

20 h 36 – 20 h 38

pour comprendre si ce résultat…

20:38 – 20:43

Je veux dire, on a un mot pour ça maintenant : on appelle ça la « main-d’œuvre de seconde zone », l’IA de seconde zone, n’est-ce pas ?

20:43 – 20:45

C'est littéralement le terme qu'on utilise désormais.

20 h 45 – 20 h 50

Donc, se contenter de mesurer la production brute ne vous apporte pas vraiment de réponses.

20 h 50 – 20 h 57

Mais ce qu’ils ont évalué, ce sont des éléments tels que la qualité du travail, le temps nécessaire à sa réalisation et, surtout, la capacité à aider les travailleurs non experts.

20 h 57 – 21 h 05

Car, d’un autre côté, la crainte des personnes plus expérimentées – ou du moins l’un des discours courants – est que, peut-être, à l’avenir, l’expertise ne sera plus nécessaire.

21 h 05 – 21 h 06

Il suffira simplement de…

21 h 06 – 21 h 11

d’un humain inexpérimenté, on lui ajoute un peu d’IA, et voilà qu’il devient l’équivalent d’un développeur expérimenté.

21:11 – 21:13

Ils voulaient donc tester tout ça.

21 h 14 – 21 h 20

Alors, comment s’y prennent-ils pour que vous n’ayez pas à lire tout un tas de graphiques à barres compliqués ?

21 h 20 – 21 h 22

La première chose qu’ils ont examinée, c’était la qualité moyenne des solutions.

21 h 22 – 21 h 25

Rappelons donc qu’ils ont pris comme référence la personne n’utilisant pas d’IA.

21 h 25 – 21 h 27

Ils ont des équipes sans IA.

21 h 27 – 21 h 29

Ils ont des individus avec IA et des équipes avec IA.

21 h 29 – 21 h 33

Vous verrez donc que l’ajout de l’IA a été en quelque sorte un avantage.

21 h 33 – 21 h 38

Ainsi, le groupe individuel sans IA a clairement obtenu des résultats moins bons que tous les autres sous-groupes.

21 h 38 – 21 h 41

Et lorsqu’on leur a fourni une IA, ils ont eu tendance à obtenir de meilleurs résultats.

21 h 41 – 21 h 44

Mais en réalité, il n’y a pas vraiment de différence perceptible entre

21 h 44 – 21 h 46

un individu assisté par l’IA et une équipe assistée par l’IA.

21 h 46 – 21 h 50

Et n’oubliez pas, je vais vous parler un peu de statistiques pendant un instant.

21 h 50 – 21 h 53

La barre… Ne vous souciez pas de savoir où elle se trouve exactement.

21 h 53 – 22 h 00

En fait, c’est le terme d’erreur, cette ligne qui vous indique la limite supérieure, c’est-à-dire la zone prévue dans laquelle la valeur va se situer.

22 h 00 – 22 h 09

Tout cela pour dire que si les barres se chevauchent de manière significative, ce qui est le cas, les lignes noires indiquent que les chiffres sont probablement assez, assez similaires.

22 h 09 – 22 h 15

La deuxième chose qu’ils ont examinée, c’est de savoir si le fait qu’il s’agisse d’un emploi « de base » avait une importance ou non.

22 h 15 – 22 h 19

Et si l’on prenait une personne totalement inexpérimentée et qu’on lui confiait une tâche d’IA ?

22:19 – 22:23

Euh… Eh bien, en réalité, ça ne marche pas vraiment.

22 h 23 – 22 h 25

Et je pense qu’intuitivement, nous le savons tous.

22:25 – 22:27

Encore une fois, je viens de parler de « slop » en IA.

22 h 27 – 22 h 29

L’IA se trompe de manière très convaincante.

22 h 29 – 22 h 30

Ça a l'air plus ou moins intelligent.

22 h 30 – 22 h 39

On dirait un peu que vous avez donné à un enfant – si vous connaissez le syndrome de Dunning-Kruger – qui souffre vraiment du syndrome de Dunning-Kruger à son paroxysme.

22 h 39 – 22 h 47

C’est comme si on synthétisait tout un tas d’informations sans contexte et qu’on les diffusait, mais ce n’est pas forcément une bonne chose.

22 h 47 – 22 h 49

C’est juste une question de volume.

22:49 – 22:59

Et ce qu’ils ont constaté, c’est que, dans l’ensemble, les individus et les équipes sans expertise ou avec une expertise limitée ont bénéficié d’un certain coup de pouce, mais qu’en réalité, il fallait tout de même des personnes présentes dans la salle.

22:59 – 23:05

qui comprenaient les résultats et les besoins pour tirer pleinement parti de cette technologie.

23:05 – 23:07

Et enfin, bien sûr, le gain de temps.

23:07 – 23:09

C'est donc extrêmement intéressant, à savoir que

23:09 – 23:11

Et nous le savons intuitivement.

23 h 11 – 23 h 15

Les équipes sont peut-être moins efficaces pour faire avancer les choses rapidement.

23:15 – 23:19

C'est mieux, mais elles ne sont pas aussi efficaces.

23 h 19 – 23 h 22

Il faut beaucoup travailler à la recherche d’un consensus, en recueillant les contributions et les opinions de chacun.

23 h 22 – 23 h 28

Et l’IA a permis de gagner un peu de temps, mais bien sûr, s’ils travaillaient seuls avec l’IA, ils travailleraient plus vite.

23:28 – 23:32

Et le plus important, qui a obtenu les meilleurs résultats ?

23:32 – 23:39

Eh bien, il s’avère que les équipes utilisant l’IA, même si elles n’étaient pas nécessairement les plus rapides à produire quelque chose, en réalité…

23:39 – 23:43

ont eu tendance à proposer le plus grand nombre de solutions figurant dans les 10 % les plus performantes.

23 h 43 – 23 h 44

C'est donc une découverte vraiment fascinante.

23:44 – 23:45

Encore une fois, c'est très, très précoce.

23 h 45 – 23 h 49

Il y a un autre article vraiment excellent, que je n’ai pas sous la main, publié par Microsoft.

23 h 49 – 23 h 54

Et celui-ci porte en fait sur l’utilisation de Copilot, ce qui est formidable car il s’agissait en réalité d’une étude beaucoup plus vaste.

23 h 54 – 23 h 58

Je crois qu’elle portait sur 20 ou 30 secteurs d’activité différents, et qu’elle l’a examiné de manière beaucoup plus approfondie.

23 h 58 – 24 h 00

Il y a donc beaucoup d’excellentes recherches qui sortent de Stanford.

24:00 – 24:04

Si un sujet vous intéresse, sachez qu’il fait l’objet de nombreuses recherches.

24:04 – 24:08

Eric Ben-Yolson, à Stanford, mène une grande partie de ces travaux.

24:08 – 24:09

Et encore une fois, de nombreuses entreprises se lancent dans ce domaine.

24:09 – 24:12

se lancent également dans ce domaine, car c’est un sujet qui nous intrigue tous beaucoup.

24:12 – 24:14

Comment intégrer cette technologie ?

24:15 – 24:21

Eh bien, l’un des sujets dont nous parlons depuis un certain temps déjà, c’est ce terme, vous savez, la culture numérique.

24:21 – 24:23

Que signifie « maîtriser l’IA » ?

24:23 – 24:28

Et je pense que la version antérieure, plus naïve, était quelque chose comme : « Oh, tout le monde doit savoir programmer. »

24:28 – 24:30

Tout le monde doit simplement savoir coder.

24:30 – 24:31

Mais il n’y avait aucun contexte pour cela.

24:31 – 24:33

Genre, qu’est-ce que ça veut dire ?

24:33 – 24:39

Qu’est-ce que ça signifie quand un PDG, un vice-président senior ou un chef de produit

24:40 – 24:42

Ce n’est pas vraiment pertinent, n’est-ce pas ?

24:42 – 24:49

L’un de mes livres préférés sur la culture numérique, ou le concept de culture numérique, a en fait été écrit par un professeur d’anglais.

24:49 – 24:52

Et comme vous le savez sans doute déjà, j’aime bien utiliser des exemples un peu anciens.

24:52 – 25:01

Son livre a été écrit en 2003, à l’intention de ses étudiants en anglais qui devaient alors se familiariser avec la recherche sur cette nouvelle invention un peu folle qu’est Internet.

25:01 – 25:09

Quelles étaient les implications pour la recherche et la crédibilité de votre travail si vous n’alliez plus à la bibliothèque, n’interviewiez plus de personnes et disposiez d’une microfiche ?

25:09 – 25:19

et ces sources primaires ? Que se passe-t-il maintenant que vous utilisez un ordinateur pour faire ce travail, ou Internet, ou cette nouvelle chose peu fiable appelée Wikipédia pour vous aider dans votre

25:19 – 25:19

recherches ?

25:19 – 25:22

Il évoque donc trois niveaux d’alphabétisation.

25:22 – 25:24

Et cela s'applique parfaitement à l'IA.

25:24 – 25:32

Et j’apprécie vraiment cette grille d’évaluation, car elle aide vraiment à comprendre comment aborder la maîtrise de l’IA, quel que soit votre niveau d’utilisation de la

25:32 – 25:33

technologie.

25:33 – 25:34

Le niveau 1 correspond donc à la maîtrise fonctionnelle.

25:34 – 25:37

Ce niveau s'adresse aux personnes qui se contentent d'utiliser une technologie.

25:37 – 25:39

Et c’est votre client type.

25:39 – 25:42

La personne qui interagit avec le chatbot, c'est ça ?

25:42 – 25:46

La personne qui essaie d’utiliser l’agent IA pour faire ses achats à sa place.

25:46 – 25:48

Et en réalité, votre travail consiste à garantir un emploi efficace.

25:48 – 25:54

La culture numérique critique s'adresse aux personnes qui ne sont pas des programmeurs, mais qui sont celles qui permettent au projet de voir le jour.

25:54 – 25:55

Ce sont donc peut-être les chefs de produit.

25:55 – 25:58

Leur rôle consiste à formuler une critique éclairée.

25:58 – 26:03

Et puis, troisièmement, la maîtrise de la rhétorique, qui est indispensable pour les développeurs.

26:03 – 26:09

Ce qui est vraiment fascinant dans tout cela, c’est que plus on se rapproche du code, moins cela devient technique.

26:09 – 26:13

Ainsi, lorsque vous êtes programmeur ou développeur, votre travail consiste à adopter une pratique réflexive.

26:13 – 26:15

Nous allons donc parler un peu de ce que cela signifie.

26:15 – 26:17

Imaginons que vous soyez simplement le destinataire.

26:17 – 26:19

Vous êtes simplement la personne qui interagit avec le chatbot.

26:19 – 26:21

Vous voulez connaître le solde de votre compte bancaire.

26:21 – 26:22

Vous souhaitez effectuer un virement.

26:22 – 26:25

Et il y a cet agent IA qui va s’en charger pour vous.

26:25 – 26:29

Eh bien, comment faut-il envisager la maîtrise de ce domaine, et est-ce là votre rôle ?

26:29 – 26:37

Le plus important, c’est que cette partie du bas consiste à apprendre à interagir avec la technologie, plutôt qu’à se contenter d’en subir les conséquences.

26:37 – 26:38

C'est vraiment, vraiment important.

26:39 – 26:47

Vous voulez que vos utilisateurs et vos clients aient l'esprit critique pour comprendre les résultats et savoir comment ils peuvent agir, ou si la technologie devrait ou non prendre

26:47 – 26:48

agir à leur place.

26:48 – 26:54

Ainsi, plutôt que d’accepter aveuglément, ils devraient en réalité être capables d’interagir avec la technologie.

26:54 – 27:03

Et c’est en fait une bien meilleure expérience pour quelqu’un qui utilise quoi que ce soit : si vous vous impliquez et que vous voyez et comprenez réellement les avantages de travailler avec

27:03 – 27:03

celle-ci.

27:05 – 27:14

Et pour le deuxième niveau de personnes, les chefs de produit, les responsables d’équipe, les propriétaires de produit, le plus important est d’être capable de comprendre quand les choses tournent mal,

27:14 – 27:15

quand les choses ne fonctionnent pas bien.

27:15 – 27:18

C'est d'autant plus important à l'ère de l'IA générative.

27:18 – 27:20

N’oubliez pas : elle se trompe avec assurance.

27:20 – 27:21

Elle affichera le résultat.

27:21 – 27:28

Je crois que la semaine dernière, la grande polémique portait sur le nombre d’avocats qui utilisent désormais ChatGPT pour les aider à rédiger leurs mémoires juridiques.

27:28 – 27:30

Et devinez ce que fait ChatGPT ?

27:30 – 27:31

Il délire.

27:31 – 27:35

Il invente donc de toutes pièces des cas qui n’existent pas.

27:35 – 27:40

Encore une fois, il s’agit d’être suffisamment avisé pour remettre en question la technologie.

27:40 – 27:42

Regardez les sources qu’elle vous fournit.

27:42 – 27:43

Vérifiez-les attentivement.

27:43 – 27:46

Euh… Et pouvoir remettre le système en question.

27:47 – 27:52

Et puis, quand on est développeur, créateur, programmeur, la personne qui met les mains dans le code.

27:52 – 27:54

Ce sont les questions les plus rhétoriques.

27:54 – 27:57

Où réside le pouvoir dans le système ?

27:57 – 28:05

S’il y avait eu un être humain dans la chaîne de décision et que Stanislav Petrov avait dû décider de déclencher ou non une arme nucléaire, aurait-il pu réellement dire non ?

28:05 – 28:08

Ou devrait-il simplement se plier à la décision de l’IA ?

28:08 – 28:16

Alors, comment concevoir un système de manière à ce que l’intervention humaine soit bien réelle, que les personnes puissent réellement s’impliquer ?

28:16 – 28:22

Ma façon d’aborder cette question – et je sais qu’Anna l’a déjà évoquée – est la suivante : je dirige une organisation appelée Humane Intelligence.

28:22 – 28:34

Je suis statisticien de formation, spécialiste en sciences sociales, et ce qui m’intéresse dans l’IA générale, c’est le fait que chaque individu puisse avoir cette technologie à sa disposition.

28:34 – 28:42

Et pendant mon passage chez Accenture, je me suis vraiment penché sur cette question : qu’est-ce que cela signifie d’avoir l’humain dans la boucle, et qu’est-ce que cela signifie d’avoir une assurance en matière d’IA ?

28:42 – 28:50

La garantie de l’IA, c’est simplement la capacité à affirmer que ce produit ou cette technologie va se comporter, va faire ce que je pense, ce que j’ai promis qu’elle ferait.

28:50 – 28:51

Et avec Gen.

28:51 – 28:52

IA, c’est en réalité très, très difficile.

28:52 – 28:55

Alors, comment s’y prendre au sein d’une organisation ?

28:55 – 28:58

Voici un article que nous avons rédigé en 2020 à ce sujet.

28:58 – 29:09

En réalité, il s’agit de mettre en place des processus clairs et responsables, de répartir les responsabilités, mais aussi de faire preuve de transparence et d’assumer davantage ce que le système peut et ne peut pas faire.

29:10 – 29:16

Lorsque je travaillais chez Twitter, j’ai en fait pris une mesure assez radicale : j’ai ouvert notre code source à l’examen du public.

29:16 – 29:19

Le concept de « bug bounty » (prime aux bogues) n’est pas nouveau dans le domaine de la cybersécurité.

29:19 – 29:23

Mais un programme de prime aux bogues algorithmiques, c'était du jamais vu.

29:23 – 29:27

Nous avons donc ouvert notre code au monde entier et avons lancé ce défi : trouvez des failles, et nous vous récompenserons financièrement.

29:27 – 29:31

J’ai d’ailleurs fini par créer une association à but non lucratif, Human Intelligence, pour mener à bien cette mission.

29:31 – 29:40

Nous avons donc collaboré avec un large éventail d’organisations, de gouvernements, euh, d’associations de la société civile, etc., pour mettre en place ce genre de programmes de primes contre les biais.

29:41 – 29:44

Et ce pour quoi je suis désormais connu, c’est le « red teaming ».

29:44 – 29:48

Encore une fois, si vous venez du monde de la cybersécurité, le « red teaming » n’est pas un concept nouveau.

29:48 – 29:58

Mais il s’agit de comprendre l’utilité du « red teaming », non seulement pour cerner les acteurs malveillants, mais aussi pour anticiper les conséquences imprévues lorsque votre système présente des dysfonctionnements, même si celles-ci ne sont pas intentionnelles.

29:58 – 30:00

de la part de vos utilisateurs, est en réalité assez difficile à mettre en œuvre.

30:00 – 30:04

Et la manière dont j’ai abordé cette question, c’est ce que j’ai appelé le « retour d’information public structuré ».

30:04 – 30:10

Ce pour quoi je suis le plus connu, c’est cet événement où nous avons réuni plus de 3 000 personnes à la DEF CON, qui est le plus grand salon dédié à la cybersécurité

30:10 – 30:18

au monde, ont piraté et analysé, euh, huit modèles d’IA différents, en collaboration avec les propriétaires de ces modèles et les entreprises concernées.

30:18 – 30:20

Et cela va à l’encontre de la Charte des droits de l’IA.

30:20 – 30:26

Que ces modèles révèlent ou non des données personnelles, qu’ils présentent ou non des hallucinations.

30:26 – 30:30

Nous avons collaboré avec le gouvernement américain et l’administration Biden pour mener à bien ce travail.

30:30 – 30:32

Et nous continuons à le faire aujourd’hui.

30:33 – 30:40

Et ce qui est fascinant, c’est que le grand public, bien qu’il puisse disposer de cette technologie entre ses mains, s’en éloigne de plus en plus…

30:40 – 30:43

la capacité de donner son avis pour dire si ça fonctionne ou non.

30:43 – 30:46

L’un des projets que nous avons menés consistait donc à collaborer avec les Instituts nationaux des normes et de la technologie.

30:46 – 30:50

Et nous avons ouvert ce concept de « red teaming » à tout le monde aux États-Unis.

30:50 – 30:52

Et cela s’est effectivement produit l’année dernière.

30:52 – 31:00

Ainsi, n'importe qui aux États-Unis pouvait tester des modèles d'IA en mode « red teaming » et faire part de ses commentaires au NIST afin de définir de meilleures normes concernant le fonctionnement de cette technologie.

31:01 – 31:05

Et c’est vraiment ce pour quoi je me bats : j’ai donné une conférence TED l’année dernière sur ce concept de « droit à la réparation ».

31:05 – 31:12

Et le « red teaming » est un point de départ : cette idée de simplement construire cette base de connaissances et ce réflexe qui permet aux gens de dire : « Hé, il y a quelque chose qui cloche ici. »

31:12 – 31:13

Je veux lever la main.

31:13 – 31:15

Je veux pouvoir le signaler.

31:15 – 31:20

En fait, nous n’avons pas encore envisagé d’intégrer cette fonctionnalité à notre technologie actuelle.

31:20 – 31:27

Alors, comment peut-on utiliser l’IA pour résoudre des problèmes de manière positive et productive ?

31:28 – 31:30

Et quelle est la prochaine étape ?

31:30 – 31:31

L’IA est donc un outil de productivité, n’est-ce pas ?

31:31 – 31:32

Ce n’est donc pas de la magie.

31:32 – 31:33

Elle n'a pas d'intention.

31:33 – 31:36

Ce n’est pas comme si on sortait de force le professeur de votre enfant de la classe.

31:36 – 31:41

Donc, quand on envisage de développer et de déployer une IA, comment peut-on s’assurer de donner la priorité à l’utilisateur, n’est-ce pas ?

31:41 – 31:49

Comment abordez-vous les points sensibles liés à ce que l’IA sait bien faire et, surtout, à ce que les gens savent bien faire, et comment conciliez-vous les deux ?

31:49 – 31:53

Et enfin, comment pouvez-vous utiliser ce système pour résoudre des problèmes ?

31:53 – 31:57

Et encore une fois, quand on réfléchit à cette idée de « l’humain dans la boucle », ce n’est pas qu’une simple expression.

31:57 – 31:58

Ce n’est pas qu’un simple terme.

31:58 – 32:00

C’est ce que les gens attendent aujourd’hui.

32:01 – 32:05

Vous savez, la confiance envers les systèmes d’IA n’a jamais été aussi faible.

32:05 – 32:10

Au cours de mon mandat au sein de l’administration Biden en tant qu’envoyé scientifique, j’ai eu le privilège de parcourir le monde entier.

32:10 – 32:20

Et vous seriez surpris de voir que tout le monde, des anciens des tribus des Fidji aux jeunes les plus avertis travaillant avec Gen.

32:20 – 32:20

IA.

32:20 – 32:22

Ils se posent tous les mêmes questions.

32:22 – 32:28

Il y a des questions sur la confidentialité des données, la sécurité, et sur le fait de savoir si les algorithmes sont ou non utilisés, s’ils sont ou non manipulés par des algorithmes.

32:28 – 32:31

ou si cela est utilisé à leur encontre de manière malveillante.

32:31 – 32:33

Tout le monde se pose les mêmes questions.

32:33 – 32:39

Donc, si vous voulez instaurer la confiance dans les systèmes que vous créez, pensez d’abord à l’utilisateur, et non à la technologie.

32:39 – 32:41

Merci beaucoup de nous avoir accordé votre temps.

32:46 – 32:47

Merci, Docteur.

32:47 – 32:49

Chaldry, c’était absolument fantastique.

32:49 – 32:50

Nous vous remercions d’être parmi nous aujourd’hui.

32:50 – 32:51

Merci beaucoup.