La résilience commence par nous : voies éthiques vers l’innovation et la confiance dans l’IA

Une IA responsable ne se limite pas à des contrôles techniques. Elle nécessite des cadres éthiques, une gouvernance transparente et l’intégration du jugement humain aux moments décisifs pour gérer les risques et garantir la responsabilité. 

Les humains apportent une dimension éthique, une compréhension du contexte et un raisonnement que les machines ne peuvent reproduire. La supervision humaine permet un déploiement de l’IA plus sûr, plus fiable et plus digne de confiance. 

Les cadres efficaces incluent la gouvernance des données, la validation des modèles, la détection des biais, l’explicabilité, la surveillance continue, des points de contrôle impliquant l’intervention humaine et des procédures d’escalade basées sur les risques. 

Les systèmes entièrement autonomes augmentent les risques dans des scénarios complexes ou à enjeux élevés. La supervision humaine reste essentielle pour aider à prévenir les erreurs, les utilisations abusives ou les conséquences imprévues.   

Une IA éthique instaure la confiance auprès des utilisateurs, des régulateurs et de la société, favorisant ainsi une innovation durable plutôt que des gains à court terme qui engendrent des risques à long terme. 

Veuillez visionner la vidéo ici pour obtenir une transcription horodatée

00:12 – 00:15

Notre invité a un parcours exceptionnel.

00:15 – 00:19

Euh… Elle est PDG de Humane Intelligence.

00:19 – 00:26

Elle a également été envoyée spéciale des États-Unis pour l’intelligence artificielle, nommée par le président Biden.

00:26 – 00:30

Et j’ai hâte de vous la présenter et de l’accueillir parmi nous, le Dr…

00:30 – 00:32

Ruman Chowdhary.

00:42 – 00:44

Bonjour, bonne journée.

00:44 – 00:45

Je suis ravi de vous voir tous.

00:45 – 00:47

J’espère que vous avez apprécié vos bretzels.

00:47 – 00:48

Je m’appelle Dr.

00:48 – 00:56

Aman Chowdhury, et c’était formidable d’écouter toutes ces interventions et toutes ces conversations, et de voir quelques visages familiers dans le public.

00:56 – 00:57

Bonjour.

00:58 – 01:03

Je suis donc ici aujourd’hui pour vous parler des voies éthiques vers l’innovation et la confiance.

01:04 – 01:08

Combien d’entre vous savent qui est cet homme ?

01:09 – 01:18

D’habitude, je constate que dans le public, il y en a peut-être une qui le connaît, mais souvent, je vois beaucoup de regards perplexes quand je dis que c’est grâce à lui que nous sommes tous en vie aujourd’hui.

01:21 – 01:22

C’est vrai.

01:22 – 01:23

Bon, je vais vous expliquer.

01:23 – 01:25

Je m’appelle Stanislav Petrov.

01:25 – 01:31

Et en 1983, il était ce qu’on appellerait aujourd’hui « l’humain dans la boucle ».

01:31 – 01:38

Il était aux commandes d’un système technique chargé de déterminer si les États-Unis avaient ou non lancé une arme nucléaire.

01:38 – 01:39

Il se trouvait du côté russe.

01:39 – 01:51

Et son travail consistait, depuis son bunker, à recevoir la confirmation qu’un missile avait été lancé, puis à appuyer sur le bouton pour… si vous vous souvenez de vos cours d’histoire ou d’éducation civique, ce qui est…

01:51 – 01:51

appelée « riposte mutuelle »

01:51 – 01:52

destruction mutuelle assurée.

01:52 – 01:56

Et nous avons tous beaucoup, beaucoup de chance qu’il ne l’ait pas fait.

01:56 – 02:02

Et j’adore cette histoire, car lorsque nous réfléchissons à la place de l’humain dans la boucle technologique, nous n’y pensons pas de manière très approfondie.

02:02 – 02:05

On se dit simplement : « Il y a quelqu’un à la fin de la chaîne qui va juste… faire quelque chose. »

02:05 – 02:07

Eh bien, lui, c’était un « humain dans la boucle ».

02:07 – 02:10

Et c’est une bonne chose qu’il n’ait pas simplement appuyé sur le bouton.

02:10 – 02:17

Et il a eu recours à quelque chose de tout à fait unique chez les êtres humains : les indices contextuels et l’esprit critique.

02:17 – 02:20

Il s’est alors assis et s’est dit : « Eh bien, la Guerre froide dure depuis des décennies. »

02:20 – 02:21

Et il ne s’est pas passé grand-chose…

02:21 – 02:25

d’escalade, pourquoi les États-Unis feraient-ils exploser une arme nucléaire ?

02:25 – 02:27

Et il a choisi de ne pas appuyer sur le bouton.

02:27 – 02:31

Et c’est la raison pour laquelle nous n’avons finalement pas basculé dans une guerre nucléaire.

02:31 – 02:32

C’est extrêmement important.

02:32 – 02:37

Et ce qui est absolument incroyable, c’est que très peu de gens savent qui est cet homme.

02:37 – 02:48

Et j’adore cette histoire, encore une fois, car elle montre vraiment à quel point la pensée critique humaine ne peut être remplacée, même par la technologie la plus avancée.

02:49 – 02:52

Alors, quand on parle d’intelligence artificielle, qu’entend-on exactement ?

02:52 – 02:53

À son époque, M.

02:53 – 02:59

Petrov a donc eu accès à certaines des technologies les plus avancées de l’époque.

02:59 – 03:08

Et peut-être que cela semblait intimidant, voire effrayant, qu’un être humain puisse se dresser et défier les résultats d’un outil technologique aussi sophistiqué.

03:08 – 03:11

Et c’est parfois ainsi que nous percevons l’intelligence artificielle.

03:11 – 03:16

Et voici le genre de titres que vous avez peut-être vus aujourd’hui en ouvrant votre application d’actualités.

03:16 – 03:19

La solution à notre crise de l’éducation pourrait être…

03:19 – 03:31

l’IA. Les enseignants seront-ils les prochains à voir leur métier pris en charge par des robots ? Les avocats seront-ils la prochaine profession remplacée par des ordinateurs ? Et l’IA omniprésente est-elle aussi efficace que n’importe qui pour diagnostiquer la maladie X ?

03:31 – 03:33

un être humain ou un médecin.

03:33 – 03:36

Et il y a deux ou trois choses que je voudrais souligner à propos de ces gros titres.

03:36 – 03:37

Premièrement.

03:37 – 03:42

On dirait qu’ils datent des trois dernières années, celles de la révolution de l’IA générative.

03:42 – 03:45

En réalité, ils datent tous de la période 2018-2020.

03:45 – 03:49

Je travaille dans ce domaine depuis près d’une décennie maintenant, plus précisément dans le domaine de l’IA responsable.

03:49 – 03:52

Je travaille dans le secteur des technologies depuis plus de 15 ans.

03:52 – 03:56

Et on dirait qu’à chaque nouvelle itération, on voit ces gros titres revenir sans cesse.

03:56 – 04:00

Et bien sûr, à chaque nouvelle version, la technologie devient de plus en plus sophistiquée.

04:00 – 04:04

Mais il y a ici deux ou trois choses que je trouve assez problématiques.

04:04 – 04:07

Premièrement, il y a cette tendance à anthropomorphiser la technologie.

04:07 – 04:20

Si vous lisez ces phrases, on dirait qu’il y a une sorte de personne dotée d’IA dans une machine qui veut vraiment devenir médecin, enseignant ou avocat, et qui va chercher votre enfant…

04:20 – 04:21

professeur de votre enfant de force, alors qu’il se débat et hurle.

04:21 – 04:24

Je veux dire, une prise de pouvoir par les robots, mon Dieu.

04:24 – 04:25

Tu exagères un peu, non ?

04:25 – 04:29

Mais surtout, où est la personne dans cette phrase ?

04:29 – 04:37

Dans tous ces titres – et encore une fois, ce sont des titres très courants que vous voyez probablement tous les jours –, l’être humain n’est qu’un élément passif

04:37 – 04:41

destinataire de ce que la technologie a choisi de faire.

04:41 – 04:44

Et cela ne pourrait pas être plus éloigné de la vérité.

04:44 – 04:50

Ce qui s’est donc passé, c’est que les gens pensent que l’IA est une sorte de horde de robots.

04:50 – 04:51

Or, ce n’est pas du tout le cas.

04:51 – 04:55

C’est quelque chose qui a l’air tout à fait normal.

04:55 – 04:56

Je peux revenir en arrière, s’il vous plaît ?

04:56 – 04:56

Désolé.

04:58 – 04:59

Voyons si ça marche.

04:59 – 05:00

Voilà, merci.

05:00 – 05:11

Les gens pensent que l’IA, ce sont ces hordes de robots qui débarquent pour changer nos vies, nous prendre nos emplois et peut-être enseigner à nos enfants, mais la réalité, c’est que si vous êtes développeur comme moi, ça…

05:11 – 05:13

ça ressemble un peu plus à ça.

05:13 – 05:22

Et en réalité, ces gros titres hyperboliques ne reflètent pas la vérité, à savoir qu’un travail et des efforts humains considérables sont nécessaires pour tout, de la collecte des données à leur organisation,

05:22 – 05:29

au nettoyage, à la sécurité, euh, à la programmation, au débogage, puis au lancement, à la mise à l’échelle et à la livraison du produit,

05:30 – 05:49

et le déploiement : tout cela nécessite en réalité des personnes.

05:49 – 05:50

Nous ne nous adressons donc pas aux enseignants en attendant que les robots prennent le relais.

05:50 – 05:52

Il y a beaucoup d’étapes humaines qui se déroulent entre-temps.

05:52 – 05:58

On discute, et quand on discute, quand on aborde des sujets humains,

05:58 – 06:04

nous interagissons directement avec cette technologie qui semble si futuriste et si performante.

06:04 – 06:11

Eh bien, ce qui se passe, c’est que nous commençons à faire progresser une technologie qui ne tient pas réellement compte de ce dont les êtres humains pourraient avoir besoin.

06:11 – 06:22

Et puis, plus précisément, lorsque la technologie ne tient pas réellement les promesses fantastiques qui ont pu être faites lors d’une présentation, ce qui se passe alors, c’est que nous…

06:22 – 06:28

partons du principe que ce sont les êtres humains et la société qui doivent s’adapter aux limites de la technologie,

06:28 – 06:34

plutôt que de réfléchir à la manière dont nous pouvons développer la technologie pour qu’elle s’adapte aux besoins de la société.

06:34 – 06:37

Et c’est ce que j’appelle « l’humain réadapté ».

06:37 – 06:44

Donc, quand on réfléchit à cet « humain réadapté », l’une des façons dont on aborde la technologie de l’IA est de se demander : « En quoi est-elle douée ? »

06:44 – 06:46

De quoi est-elle capable ?

06:46 – 06:50

Et il y a plusieurs domaines dans lesquels l’apprentissage automatique et l’IA excellent réellement.

06:50 – 06:55

Tout ce préambule ne vise donc pas à dire que l’IA n’est pas capable de faire certaines choses ou que l’apprentissage automatique en est incapable.

06:55 – 06:57

En réalité, ils peuvent accomplir des choses tout à fait étonnantes.

06:57 – 07:02

Mais ce qui importe ici, c’est de faire la distinction entre ce pour quoi les humains sont vraiment doués et ce pour quoi la technologie est vraiment douée.

07:02 – 07:03

Alors, en quoi la technologie excelle-t-elle vraiment ?

07:03 – 07:06

Elle est douée pour identifier des tendances générales.

07:06 – 07:08

Elle est douée pour analyser

07:08 – 07:10

et d’identifier les éléments qui se ressemblent.

07:10 – 07:13

C’est en gros l’essentiel de la vision par ordinateur.

07:13 – 07:17

Et cela est généralement cohérent, en fonction du taux d’erreur.

07:17 – 07:27

Donc, lorsque nous développons une IA – et, je le répète, je fais cela depuis un certain temps –, on peut résumer la démarche en disant que nous collectons beaucoup de données pour créer un modèle adapté à la personne moyenne d’un…

07:27 – 07:29

type particulier.

07:29 – 07:32

Et nous pouvons collecter des données extrêmement spécifiques.

07:32 – 07:35

Et cela ne veut pas dire que nous le faisons pour le grand public en général.

07:35 – 07:37

Mais nous définissons qui vous êtes, qui je suis et qui sont les

07:37 – 07:41

personne assise à côté de vous comme faisant partie d’un profil client ou d’une communauté.

07:41 – 07:45

Et cela repose peut-être sur 10, 20 ou 100 points de données différents.

07:45 – 07:50

Et ensuite, on part en quelque sorte du principe que certaines hypothèses ont été formulées concernant les données manquantes.

07:50 – 07:50

Très bien.

07 h 50 – 07 h 55

Eh bien, je vais vous raconter une histoire qui illustre ce que signifie concevoir pour le grand public.

07:55 – 08:04

Et qu’entend-on exactement par « personne lambda », même si l’on se base sur un sous-ensemble ultra-spécifique de personnes que l’on pourrait croire très, très prévisibles ?

08 h 04 – 08 h 07

D’ailleurs, j’adore partager des anecdotes, des histoires et animer des discussions.

08:07 – 08:07

sur ce sujet.

08:07 – 08:07

ça.

08:07 – 08:07

ça.

08 h 07 – 08 h 11

l’intelligence artificielle, alors ça n’a rien à voir avec l’intelligence artificielle.

08:11 – 08:19

L’une de nos plus grandes erreurs est de penser que cette technologie est nouvelle et que tous les problèmes auxquels nous sommes confrontés sont des choses que nous ne verrons jamais, que nous n’avons jamais vues auparavant.

08:19 – 08:21

Nous ne nous sommes jamais posé ces questions.

08:21 – 08:31

Et bien que l’IA introduise de nouveaux paradigmes, de nouvelles questions et de nouveaux enjeux, les problèmes que nous cherchons à résoudre ne sont pas des questions fondamentalement nouvelles.

08:31 – 08:32

C’est donc l’une de mes anecdotes préférées.

08:32 – 08:37

Dans les années 1940, les accidents d’avions de ligne atteignaient un niveau record.

08:53 – 09:07

L’armée de l’air américaine s’est donc tournée vers les fabricants de sièges d’avion et leur a dit : « Écoutez, nous avons besoin que vous repensiez la conception de ces sièges, car le profil moyen des… »

09:07 – 09:08

de nos pilotes a changé.

09:08 – 09:13

Bien sûr, si l’on réfléchit à qui sont ces pilotes, ils constituent en réalité un sous-ensemble assez restreint de la population.

09:13 – 09:17

Ce sont des jeunes hommes âgés probablement de 18 à 30 ans maximum.

09 h 19 – 09 h 20

Ils sont en très bonne santé.

09:20 – 09:22

Ils sont valides, etc.

09 h 22 – 09 h 24

Et à cette époque, il n’y avait pas de femmes pilotes.

09 h 24 – 09 h 26

Ce serait assez standardisé.

09:26 – 09:33

Ils ont donc fait dans les années 1940 ce qu’ils avaient fait dans les années 1920, à savoir recruter plus de 4 000 de ces pilotes.

09:33 – 09:36

Ils les ont évalués selon 10 critères différents.

09:36 – 09:37

Cela vous dit quelque chose ?

09:37 – 09:43

Si vous êtes data scientist dans cette salle, cela vous semble sans doute être une approche tout à fait raisonnable pour concevoir un bon siège.

09 h 43 – 09 h 48

Donc, plus de 4 000 hommes, 10 points de données différents, et ils ont calculé la moyenne pour créer un siège.

09:49 – 09:59

Et cela n’a convenu à personne : pas un seul de ces quelque 4 000 pilotes ne s’est assis dans ce siège en disant : « Oui, je le trouve confortable. »

09:59 – 10:04

Et la raison, c’est que cette notion de moyenne correspond à la personne du 50e centile.

10 h 04 – 10 h 07

Si vous connaissez la courbe en cloche, c’est la partie la plus large de cette courbe.

10 h 07 – 10 h 11

courbe, euh… mais ce n’est pas forcément une personne qui existe réellement.

10:11 – 10:20

C’est un personnage imaginaire qui est un amalgame de tous les autres points de données que vous avez recueillis sur les personnes qui lui ressemblent.

10 h 20 – 10 h 22

Ils ont donc réduit cela à trois dimensions.

10 h 22 – 10 h 26

Et si on se contentait de prendre trois données, pour avoir davantage de données sur le parcours, n’est-ce pas ?

10 h 26 – 10 h 29

Cela ne correspondait qu’à environ 13 % des pilotes.

10 h 29 – 10 h 34

Eh bien, l’Armée de l’air est alors revenue vers les constructeurs aéronautiques en leur disant : « Bon, ça ne fonctionne pas pour nous. »

10 h 34 – 10 h 36

Car bien sûr, c’est une question de vie ou de mort.

10 h 36 – 10 h 41

Ces sièges doivent être réellement fonctionnels et utiles, et les pilotes se retrouvent dans des situations très extrêmes.

10 h 41 – 10 h 43

Ce n’est donc pas une réflexion après coup.

10 h 43 – 10 h 50

Ils sont donc revenus vers nous et nous ont dit : « En fait, plutôt que de concevoir un siège adapté à la personne du 50e centile, c’est-à-dire la personne moyenne, ce que je veux que vous fassiez, c’est de créer

10 h 50 – 10 h 53

que les sièges conviennent à 95 % de tous les pilotes.

10 h 54 – 10 h 57

Ce qui représente un changement radical dans la façon dont on mesure le succès, n’est-ce pas ?

10 h 57 – 11 h 02

Car ce que vous créez repose en grande partie sur la façon dont vous définissez ce qu’est le succès et ce à quoi ressemble la réussite.

11 h 02 – 11 h 09

Ils ont donc redéfini la notion de « bien » en se disant : plutôt que de concevoir un siège pour le pilote moyen, pourquoi ne pas créer un siège adapté à 95 % des pilotes ?

11 h 09 – 11 h 13

Et encore une fois, il s’agit là d’un petit sous-ensemble de personnes présentant peu de variations.

11:13 – 11:19

Tous les constructeurs aéronautiques ont donc réagi en disant : « C’est impossible, on ne peut pas le faire, on ne l’a jamais fait auparavant, ça va nous mener à la faillite. »

11 h 19 – 11 h 21

C’est une idée complètement farfelue.

11 h 21 – 11 h 24

Et bien sûr, c’est l’armée de l’air, donc elle peut faire ce qu’elle veut.

11 h 24 – 11 h 27

Du genre : « Bon, d’accord, on ira trouver quelqu’un d’autre pour le faire. »

11 h 27 – 11 h 28

Et c’est ce qu’ils ont fait.

11 h 29 – 11 h 31

C’est qu’ils ont simplement fabriqué des sièges réglables.

11 h 31 – 11 h 42

Donc, chaque fois que vous montez dans votre voiture, dans un bus ou dans un avion et que vous pouvez faire des choses comme déplacer l’accoudoir, relever l’appuie-tête et incliner le siège à votre guise, c’est une raison pour laquelle quelqu’un

11 h 42 – 11 h 49

qui mesure 5’3 comme moi et un homme de taille moyenne de 5’10 puissent effectivement prendre place dans la même voiture et la conduire.

11:49 – 11:56

C’est parce que l’armée a fait pression et a clairement déclaré : « Nous voulons que vous repensiez votre conception. »

11 h 56 – 11 h 59

Nous voulons que vous repensiez la façon dont vous fabriquez cet outil technologique.

11 h 59 – 12 h 06

Encore une fois, plutôt que de dire que nous concevons pour un profil moyen, nous allons dire que nous voulons que cet outil s’adresse à un public plus large.

12 h 06 – 12 h 12

Un changement radical qui, encore une fois, a conduit à des produits mieux conçus et de meilleure qualité.

12 h 12 – 12 h 13

Quels sont donc vos principaux enseignements ?

12 h 13 – 12 h 22

Tout d’abord, pour que l’IA fonctionne, nous devons adopter une réflexion radicale et sortir des sentiers battus quant à la manière de personnaliser et de concevoir nos solutions pour nos utilisateurs.

12 h 22 – 12 h 26

Le deuxième point concerne un changement clair en matière de responsabilité et d’obligation de rendre des comptes.

12 h 26 – 12 h 29

J’ai inventé le terme « externalisation morale », qui est lié à…

12:29 – 12:38

à cette anthropomorphisation de l’intelligence artificielle, à la façon dont nous utilisons des expressions qui donnent l’impression que l’IA a une intention, que l’IA a une raison, alors qu’en réalité, elle n’a rien de tout cela.

12:38 – 12:41

Ce sont les êtres humains qui conçoivent et déploient la technologie.

12:41 – 12:49

Plutôt que de dire que nous développons l’IA pour remplacer les avocats, ce qui se passe en réalité, c’est que quelqu’un crée une entreprise spécialisée dans les technologies juridiques.

12 h 49 – 12 h 56

Et on peut choisir de développer la technologie juridique de manière à renforcer les capacités humaines, ou bien de manière à tenter délibérément de les remplacer.

12 h 56 – 12 h 59

Et c’est une décision prise par des humains, une décision prise par des humains sur la manière dont…

12:59 – 13:00

la manière dont la technologie est utilisée.

13 h 00 – 13 h 08

Enfin, pour tirer pleinement parti des avantages de l’intelligence artificielle, il faut investir autant dans le volet humain que dans le volet technique.

13 h 08 – 13 h 18

Ainsi, plutôt que de considérer le fait que nos corps ont tous des tailles, des formes et des hauteurs différentes comme un défaut, c’est en réalité une opportunité de concevoir mieux et de concevoir davantage

13 h 18 – 13 h 19

général.

13:20 – 13:22

Quel sera donc l’impact de l’IA sur notre société ?

13:22 – 13:33

Je dirais donc que le sujet sur lequel on me demande le plus souvent de m’exprimer – et cela a commencé cette année – c’est celui de l’IA éthique et responsable. J’ai donné de nombreuses conférences et j’ai beaucoup parlé de ce sujet, mais le…

13 h 33 – 13 h 37

avenir du travail en 2025 est vraiment devenu le sujet qui m’est le plus souvent demandé.

13:37 – 13:47

Ah, et je suis ravie de pouvoir dire qu’il existe en fait de nombreuses preuves empiriques, et que des travaux vraiment formidables sont en cours, dans lesquels les gens abordent, vous savez,

13:47 – 13:50

mesurent et étudient de manière quantitative l’impact de

13:50 – 13:51

IA sur le monde du travail.

13:51 – 13:59

Donc, d’un côté, encore une fois, ce que vous pouvez voir dans l’actualité lorsque vous ouvrez votre lecteur d’actualités, ce sont des gens qui réclament un revenu de base universel, des gens qui disent qu’il y aura

13 h 59 – 14 h 01

plus d’emplois pour personne.

14 h 01 – 14 h 07

Et ce que nous constatons à la place, c’est qu’il s’agit en réalité d’un débat bien plus nuancé.

14:07 – 14:10

Je vais donc vous parler de trois articles différents que j’apprécie particulièrement.

14 h 10 – 14 h 13

Il existe en réalité pas mal d’articles sur le sujet, mais il y en a trois que j’apprécie particulièrement.

14 h 13 – 14 h 18

Je voudrais commencer par une vue d’ensemble, notamment l’impact macroéconomique à l’échelle mondiale au cours des dix prochaines années.

14 h 18 – 14 h 20

Une vue d’ensemble à moyenne échelle, qui est verticale

14 h 20 – 14 h 30

par secteur d’activité, ainsi que l’étude la plus détaillée et la plus expérimentale menée au sein d’une entreprise spécifique pour observer comment les employés ont réagi et comment ils se sont adaptés au fait de travailler avec l’IA, et comment

14 h 30 – 14 h 31

cela les a affectés.

14 h 31 – 14 h 40

Je commencerai également par dire que j’interviens dans de nombreuses universités et qu’il existe en réalité beaucoup d’inquiétudes tout à fait justifiées parmi les jeunes.

14 h 40 – 14 h 50

Et ce que nous constatons – et encore une fois, c’est la première année que nous le voyons vraiment –, c’est que la Génération Z qui arrive sur le marché du travail pour trouver un emploi, notamment des postes de débutants, rencontre davantage de difficultés parce que

14 h 50 – 14 h 53

l’intelligence artificielle est en effet capable d’effectuer certaines tâches de base.

14 h 53 – 14 h 56

Et cela ne se limite pas à la recherche et à la rédaction.

14:56 – 14:58

C’est en fait principalement dans le domaine de la programmation.

14 h 58 – 15 h 02

Ce pour quoi l’IA est vraiment, vraiment douée, c’est la programmation de niveau débutant.

15 h 02 – 15 h 07

Mais on a toujours besoin de développeurs expérimentés pour s’assurer que le code est robuste, qu’il fonctionne correctement, etc.

15 h 07 – 15 h 11

Mais bon nombre de postes de débutants ne sont tout simplement pas remplacés.

15:11 – 15:17

Ainsi, à mesure que les employés prennent de l’ancienneté et obtiennent des promotions, leurs postes de débutants ne sont tout simplement pas pourvus.

15 h 17 – 15 h 20

Et cela est préoccupant pour l’avenir.

15 h 20 – 15 h 27

Le premier article dont je souhaite parler a été rédigé par un économiste du travail, euh, le professeur Dara Nesemoglu du MIT.

15:27 – 15:32

Il a mené des recherches, et je le répète, c’est quelqu’un qui travaille dans le domaine de l’économie depuis très, très longtemps.

15 h 32 – 15 h 37

Et il s’est véritablement lancé dans le domaine de l’IA en s’intéressant à son impact sur le travail et la productivité.

15:37 – 15:45

Il s’est donc penché sur ce qu’on appelle la productivité totale des facteurs (PTF) : en gros, si l’on additionnait le PIB de tous les pays, on obtiendrait en quelque sorte la PTF.

15:45 – 15:50

Ah ! Et d’après ses calculs, au cours des dix prochaines années, elle atteindra ce qu’il appelle…

15 h 50 – 16 h 01

Donc, un impact non négligeable mais modeste, c’est-à-dire inférieur à 1 %, ce qui peut sembler peu, mais qui représente tout de même moins de 1 % du PIB mondial total, ce qui est donc assez significatif.

16 h 01 – 16 h 03

Il s’agit donc d’un niveau d’automatisation assez important.

16:03 – 16:06

Mais il est allé encore plus loin en se demandant : qu’est-ce qui est automatisé ?

16 h 06 – 16 h 13

Et il souligne que, pour beaucoup de gens, ce sont en réalité davantage les emplois de cols blancs que ceux de cols bleus qui sont automatisés.

16:13 – 16:14

Et c’est intéressant.

16:14 – 16:19

Cela met vraiment en évidence l’un des aspects particulièrement révolutionnaires de l’IA générative.

16:32 – 16:33

Et voilà.

16 h 33 – 16 h 36

Et… Et… Et je pense que c’est un point important.

16:36 – 16:36

Et voilà.

16 h 36 – 16 h 38

Et c’est un point vraiment important.

16 h 38 – 16 h 50

Et c’est un point important. Et un point vraiment important.

16 h 50 – 16 h 50

Et

16 h 50 – 16 h 54

C’est vraiment le travail intellectuel, le travail intellectuel rudimentaire, qui est en train d’être automatisé.

16 h 54 – 16 h 56

Nous n’y avions pas vraiment réfléchi auparavant.

16 h 56 – 16 h 59

Nous n’avons pas eu à faire face à l’impact de ce phénomène.

16 h 59 – 17 h 08

Et d’ailleurs, pour en revenir à la génération Z, certains d’entre vous, si vous avez des enfants de cet âge, savent peut-être que vos enfants ou leurs amis envisagent en fait de se lancer dans des métiers manuels.

17 h 08 – 17 h 14

En effet, de plus en plus de jeunes ne voient pas l’intérêt des études supérieures si l’IA est réellement capable d’effectuer ce travail.

17:14 – 17:20

Mais une IA ne sera jamais capable de tondre votre pelouse, de réparer votre plomberie ou d’aménager un

17:20 – 17:21

toiture.

17:21 – 17:32

Et ce qu’ils constatent, c’est que, pour de nombreuses raisons, un métier manuel leur semble, à beaucoup d’entre eux, bien plus, disons, prévisible et fiable que de viser très haut pour

17:32 – 17:40

un poste de vice-président senior qui pourrait se concrétiser ou non, car si vous ne décrochez pas votre premier emploi, vous n’obtiendrez jamais de promotion.

17:40 – 17:48

Donc, vous savez, il a fait remarquer que l’IA devrait creuser l’écart entre les revenus du capital et ceux du travail, mais aussi qu’il y aura cette valeur sociétale négative dont nous disposons réellement

17:48 – 17:50

prendre en compte.

17:50 – 18:02

chose la plus intéressante que je constate, c’est que, à mesure que nous continuons à mesurer la valeur de l’IA, les gens prennent de plus en plus en compte les externalités négatives sur la société comme un facteur à prendre en considération.

18 h 02 – 18 h 09

Car à quoi bon créer une machine à productivité si, au final, nous en devenons tous complètement incapables ?

18 h 09 – 18 h 14

Il existe de sérieuses inquiétudes concernant des phénomènes tels que la dépendance excessive, ou ce que l’on appelle parfois la « psychose de l’IA ».

18 h 14 – 18 h 20

Euh, on voit apparaître des technologies éducatives, et cela suscite des inquiétudes.

18 h 20 – 18 h 22

que les jeunes en deviennent trop dépendants.

18 h 22 – 18 h 28

Comment pouvons-nous prendre en compte et répondre à ces préoccupations tout en développant des technologies qui restent globalement bénéfiques ?

18 h 29 – 18 h 37

Le deuxième article dont j’aimerais parler date en fait de 2023, et il a été rédigé par une équipe d’OpenAI qui a collaboré avec un autre groupe d’économistes.

18 h 37 – 18 h 41

Il s’intitule « GPTs » et examine différents secteurs d’activité.

18 h 41 – 18 h 49

Et plutôt que d’affirmer de manière générale que tous ces emplois vont être automatisés, l’étude s’est demandé, secteur par secteur, quels emplois sont les plus susceptibles d’être automatisés ?

18 h 49 – 18 h 59

En résumé, environ 80 % des actifs verraient environ 10 % de leurs tâches automatisées, et environ 19 % verraient environ la moitié de leurs tâches concernées.

18 h 59 – 19 h 04

Et cela correspond assez bien à la réalité ; cette étude date de quelques années, mais elle reflète en quelque sorte les tendances que nous observons aujourd’hui.

19 h 04 – 19 h 13

Je pense que nous sommes nombreux à utiliser des outils d’IA pour des tâches de productivité très basiques, comme vous aider à relire vos notes ou peut-être rédiger des comptes-rendus de réunion à votre place.

19 h 13 – 19 h 18

Cela ne remplace pas votre travail ; au contraire, cela vous fait probablement gagner un peu de temps.

19:18 – 19:22

La plupart d’entre nous dans cette salle font probablement partie de ces 80 %.

19 h 22 – 19 h 29

Ces 19 % de travailleurs dont 50 % des tâches sont automatisées concernent des professions telles que le journalisme ou les assistants juridiques.

19 h 29 – 19 h 35

Il s’agit plutôt de postes de recherche et de connaissances qui ne nécessitent peut-être pas une expertise approfondie.

19 h 36 – 19 h 37

Passons maintenant au troisième article.

19 h 37 – 19 h 46

Et là encore, l’une des principales questions que les gens se posent est : qu’est-ce que l’intelligence artificielle signifie pour mon personnel si je l’utilise, si mes employés l’utilisent, si mon…

19 h 46 – 19 h 47

entreprise l’adopte ?

19 h 47 – 19 h 56

Eh bien, dans leur grande majorité, ils vous diront que la réponse est la suivante : l’association de l’humain et de l’IA est plus efficace que l’humain sans l’IA ou que l’IA seule.

19:56 – 19:58

Et j’adore cette étude parce que, tout d’abord, elle porte un nom fabuleux.

19 h 58 – 20 h 00

Elle s’intitule « The Cybernetic Teammate » (Le coéquipier cybernétique).

20 h 00 – 20 h 04

Il s’agit d’une étude de cas réalisée à la Harvard Business School en collaboration avec Procter & Gamble.

20 h 04 – 20 h 06

Ils ont mis en place une expérience contrôlée randomisée.

20 h 06 – 20 h 17

Dans le cadre de cette expérience, environ 800 employés de P&G ont participé à un hackathon de plusieurs jours. Ils ont réparti les participants en groupes, soit en équipes, soit individuellement, certains disposant d’une IA et d’autres non.

20:17 – 20:24

Et ce que j’apprécie dans cet article, c’est que souvent, la plupart des articles sur l’IA au travail traitent de la productivité.

20 h 24 – 20 h 30

Et je déteste vraiment, vraiment, vraiment cet indicateur, car il y a une chose que l’IA sait faire : c’est simplement produire.

20:30 – 20:31

C’est tout ce qu’elle fait.

20:31 – 20:34

Et en réalité, elle se trompe souvent avec assurance.

20 h 35 – 20 h 36

Il faut un être humain pour être

20 h 36 – 20 h 38

pour comprendre si ce résultat…

20:38 – 20:43

Je veux dire, on a un mot pour ça maintenant : on appelle ça la « main-d’œuvre de seconde zone », l’IA de seconde zone, n’est-ce pas ?

20:43 – 20:45

C’est littéralement le terme qu’on utilise désormais.

20 h 45 – 20 h 50

Donc, se contenter de mesurer la production brute ne vous apporte pas vraiment de réponses.

20 h 50 – 20 h 57

Mais ce qu’ils ont évalué, ce sont des éléments tels que la qualité du travail, le temps nécessaire à sa réalisation et, surtout, la capacité à aider les travailleurs non experts.

20 h 57 – 21 h 05

Car, d’un autre côté, la crainte des personnes plus expérimentées – ou du moins l’un des discours courants – est que, peut-être, à l’avenir, l’expertise ne sera plus nécessaire.

21 h 05 – 21 h 06

Il suffira simplement de…

21 h 06 – 21 h 11

d’un humain inexpérimenté, on lui ajoute un peu d’IA, et voilà qu’il devient l’équivalent d’un développeur expérimenté.

21 h 11 – 21 h 13

Ils voulaient donc tester tout ça.

21 h 14 – 21 h 20

Alors, comment s’y prennent-ils pour que vous n’ayez pas à lire tout un tas de graphiques à barres compliqués ?

21 h 20 – 21 h 22

La première chose qu’ils ont examinée, c’était la qualité moyenne des solutions.

21 h 22 – 21 h 25

Rappelons donc qu’ils ont pris comme référence la personne n’utilisant pas d’IA.

21 h 25 – 21 h 27

Ils ont des équipes sans IA.

21 h 27 – 21 h 29

Ils ont des individus avec IA et des équipes avec IA.

21 h 29 – 21 h 33

Vous verrez donc que l’ajout de l’IA a été en quelque sorte un avantage.

21 h 33 – 21 h 38

Ainsi, le groupe individuel sans IA n’a clairement pas obtenu d’aussi bons résultats que les autres sous-groupes.

21 h 38 – 21 h 41

Et lorsqu’on leur a fourni une IA, ils ont eu tendance à obtenir de meilleurs résultats.

21 h 41 – 21 h 44

Mais en réalité, il n’y a pas vraiment de différence perceptible entre

21 h 44 – 21 h 46

un individu assisté par l’IA et une équipe assistée par l’IA.

21 h 46 – 21 h 50

Et n’oubliez pas, je vais vous parler un peu de statistiques pendant un instant.

21 h 50 – 21 h 53

La barre… enfin, ne vous souciez pas de savoir où elle se trouve exactement.

21 h 53 – 22 h 00

En fait, c’est le terme d’erreur, cette ligne qui vous indique la limite supérieure, c’est-à-dire la zone prévue dans laquelle la valeur va se situer.

22 h 00 – 22 h 09

Tout cela pour dire que si les barres se chevauchent de manière significative, ce qui est le cas, les lignes noires indiquent que les chiffres sont probablement assez, assez similaires.

22 h 09 – 22 h 15

La deuxième chose qu’ils ont examinée, c’est de savoir si le fait qu’il s’agisse d’un emploi « de base » avait une importance ou non.

22 h 15 – 22 h 19

Et si l’on prenait une personne totalement inexpérimentée et qu’on lui confiait une tâche d’IA ?

22:19 – 22:23

Euh… Eh bien, en réalité, ça ne marche pas vraiment.

22 h 23 – 22 h 25

Et je pense qu’intuitivement, nous le savons tous.

22:25 – 22:27

Encore une fois, je viens de parler de « slop » en IA.

22:27 – 22:29

L’IA se trompe de manière très convaincante.

22 h 29 – 22 h 30

Ça a l’air plus ou moins intelligent.

22 h 30 – 22 h 39

On dirait un peu que vous avez donné à un enfant – si vous connaissez le syndrome de Dunning-Kruger – qui souffre vraiment du syndrome de Dunning-Kruger à son paroxysme.

22 h 39 – 22 h 47

C’est comme si on synthétisait tout un tas d’informations sans contexte et qu’on les diffusait, mais ce n’est pas forcément une bonne chose.

22 h 47 – 22 h 49

C’est juste une question de volume.

22 h 49 – 22 h 59

Et ce qu’ils ont constaté, c’est que, dans l’ensemble, les individus et les équipes sans expertise ou avec une expertise limitée ont bénéficié d’un petit coup de pouce, mais qu’en réalité, on avait toujours besoin de personnes présentes dans la pièce.

22:59 – 23:05

qui comprenaient les résultats et les besoins pour tirer pleinement parti de cette technologie.

23:05 – 23:07

Et enfin, bien sûr, le gain de temps.

23:07 – 23:09

C’est donc extrêmement intéressant, à savoir que

23:09 – 23:11

Et nous le savons intuitivement.

23 h 11 – 23 h 15

Les équipes sont peut-être moins efficaces pour faire avancer les choses rapidement.

23:15 – 23:19

C’est mieux, mais elles ne sont pas aussi efficaces.

23 h 19 – 23 h 22

Il faut beaucoup travailler à la recherche d’un consensus, en recueillant les contributions et les opinions de chacun.

23 h 22 – 23 h 28

Et l’IA a permis de gagner un peu de temps, mais bien sûr, s’ils travaillaient seuls avec l’IA, ils seraient plus rapides.

23:28 – 23:32

Et le plus important : qui a obtenu les meilleurs résultats ?

23:32 – 23:39

Eh bien, il s’avère que les équipes utilisant l’IA, même si elles n’étaient pas nécessairement les plus rapides à produire quelque chose, en réalité…

23:39 – 23:43

ont eu tendance à produire le plus grand nombre de solutions se classant dans les 10 % les plus performantes.

23:43 – 23:44

C’est donc une découverte vraiment fascinante.

23:44 – 23:45

Encore une fois, c’est très, très précoce.

23 h 45 – 23 h 49

Il y a un autre article vraiment excellent, que je n’ai pas sous la main, publié par Microsoft.

23 h 49 – 23 h 54

Et celui-ci porte en fait sur l’utilisation de Copilot, ce qui est formidable car il s’agissait en réalité d’une étude beaucoup plus vaste.

23 h 54 – 23 h 58

Je crois qu’elle portait sur 20 ou 30 secteurs d’activité différents, et qu’elle l’a examiné de manière beaucoup plus approfondie.

23 h 58 – 24 h 00

Il y a donc beaucoup d’excellentes recherches qui sortent de Stanford.

24:00 – 24:04

Si un sujet vous intéresse, sachez qu’il fait l’objet de nombreuses recherches.

24:04 – 24:08

Eric Ben-Yolson, à Stanford, mène une grande partie de ces travaux.

24:08 – 24:09

Et encore une fois, de nombreuses entreprises s’y mettent.

24:09 – 24:12

se lancent également dans ce domaine, car c’est un sujet qui nous intrigue tous beaucoup.

24:12 – 24:14

Comment intégrer cette technologie ?

24:15 – 24:21

Eh bien, l’une des choses dont nous parlons depuis un certain temps, c’est ce terme, vous savez, la culture numérique.

24:21 – 24:23

Que signifie « maîtriser l’IA » ?

24:23 – 24:28

Et je pense que la version antérieure, plus naïve, consistait à dire quelque chose comme : « Oh, tout le monde doit savoir programmer. »

24:28 – 24:30

Tout le monde doit simplement savoir coder.

24:30 – 24:31

Mais il n’y avait aucun contexte pour cela.

24:31 – 24:33

Genre, qu’est-ce que ça veut dire ?

24:33 – 24:39

Qu’est-ce que ça veut dire qu’un PDG, un vice-président senior ou un chef de produit

24:40 – 24:42

Ce n’est pas vraiment pertinent, n’est-ce pas ?

24:42 – 24:49

L’un de mes livres préférés sur la notion de culture numérique, ou le concept de culture numérique, a en fait été écrit par un professeur d’anglais.

24:49 – 24:52

Et comme vous le savez sans doute déjà, j’aime bien utiliser des exemples un peu anciens.

24:52 – 25:01

Son livre a été écrit en 2003, à l’intention de ses étudiants en anglais qui devaient alors se familiariser avec la recherche sur cette nouvelle chose un peu folle qu’est Internet.

25:01 – 25:09

Quelles étaient les implications pour la recherche et la crédibilité de votre travail si vous n’alliez plus à la bibliothèque, n’interrogiez plus de personnes et disposiez d’une microfiche ?

25:09 – 25:19

et ces sources primaires ? Que se passe-t-il maintenant que vous utilisez un ordinateur pour effectuer ce travail, ou Internet, ou cette nouvelle chose peu fiable appelée Wikipédia pour vous aider dans votre

25:19 – 25:19

recherches ?

25:19 – 25:22

Il évoque donc trois niveaux d’alphabétisation.

25:22 – 25:24

Et cela s’applique parfaitement à l’IA.

25:24 – 25:32

Et j’apprécie vraiment cette grille d’évaluation, car elle aide véritablement à comprendre comment aborder la maîtrise de l’IA, quel que soit votre niveau d’utilisation de la

25:32 – 25:33

technologie.

25:33 – 25:34

Le niveau 1 correspond donc à la maîtrise fonctionnelle.

25:34 – 25:37

Ce niveau s’adresse aux personnes qui se contentent d’utiliser une technologie.

25:37 – 25:39

Et c’est le client lambda.

25:39 – 25:42

La personne qui interagit avec le chatbot, c’est ça ?

25:42 – 25:46

La personne qui essaie d’utiliser l’agent IA pour faire ses achats à sa place.

25:46 – 25:48

Et en réalité, votre travail consiste à garantir un emploi efficace.

25:48 – 25:54

La culture numérique critique s’adresse aux personnes qui ne sont pas des programmeurs, mais qui sont celles qui permettent au projet de voir le jour.

25:54 – 25:55

Ce sont donc peut-être les responsables produit.

25:55 – 25:58

Leur rôle consiste à formuler une critique éclairée.

25:58 – 26:03

Et puis, troisièmement, la maîtrise de la rhétorique, qui est nécessaire pour les développeurs.

26:03 – 26:09

Ce qui est vraiment fascinant dans tout cela, c’est que plus on se rapproche du code, moins cela devient technique.

26:09 – 26:13

Ainsi, lorsque vous êtes programmeur ou développeur, votre travail consiste à adopter une pratique réflexive.

26:13 – 26:15

Nous allons donc parler un peu de ce que cela signifie.

26:15 – 26:17

Imaginons que vous ne soyez que le destinataire.

26:17 – 26:19

Vous êtes simplement la personne qui interagit avec le chatbot.

26:19 – 26:21

Vous souhaitez connaître le solde de votre compte bancaire.

26:21 – 26:22

Vous souhaitez effectuer un virement.

26:22 – 26:25

Et il y a cet agent IA qui va s’en charger pour vous.

26:25 – 26:29

Eh bien, comment faut-il envisager la maîtrise de ce domaine, et est-ce là votre rôle ?

26:29 – 26:37

Le plus important, c’est que la partie du bas consiste à apprendre à interagir avec la technologie, plutôt qu’à se contenter d’en subir les conséquences.

26:37 – 26:38

C’est vraiment, vraiment important.

26:39 – 26:47

Vous voulez que vos utilisateurs et vos clients aient l’esprit critique pour comprendre les résultats et savoir comment ils peuvent agir, ou si la technologie devrait ou non prendre

26:47 – 26:48

agir à leur place.

26:48 – 26:54

Ainsi, plutôt que d’accepter aveuglément, ils devraient en réalité être capables d’interagir avec la technologie.

26:54 – 27:03

Et c’est en fait une bien meilleure expérience pour l’utilisateur : quand on interagit avec un outil et qu’on en voit et en comprend réellement les avantages

27:03 – 27:03

celle-ci.

27:05 – 27:14

Et pour le deuxième niveau de personnes, les chefs de produit, les responsables d’équipe, les propriétaires de produit, le plus important est d’être capable de comprendre quand les choses tournent mal,

27:14 – 27:15

quand les choses ne fonctionnent pas bien.

27:15 – 27:18

C’est d’autant plus important à l’ère de l’IA générative.

27:18 – 27:20

N’oubliez pas : elle se trompe avec assurance.

27:20 – 27:21

Elle affichera le résultat.

27:21 – 27:28

Je crois que la grande polémique de la semaine dernière concernait le nombre d’avocats qui utilisent désormais ChatGPT pour les aider à rédiger leurs mémoires juridiques.

27:28 – 27:30

Et devinez ce que fait ChatGPT ?

27:30 – 27:31

Il délire.

27:31 – 27:35

Il invente donc de toutes pièces des cas qui n’existent pas.

27:35 – 27:40

Encore une fois, il s’agit d’être suffisamment avisé pour remettre en question la technologie.

27:40 – 27:42

Regardez les sources qu’elle vous fournit.

27:42 – 27:43

Vérifiez-les soigneusement.

27:43 – 27:46

Euh… Et pouvoir remettre le système en question.

27:47 – 27:52

Et puis, quand on est développeur, concepteur, programmeur, quand on met les mains dans le code.

27:52 – 27:54

Ce sont les questions les plus rhétoriques.

27:54 – 27:57

Où réside le pouvoir dans le système ?

27:57 – 28:05

S’il y avait eu un être humain dans la chaîne de décision et que Stanislav Petrov avait dû décider de déclencher ou non une arme nucléaire, aurait-il pu réellement dire non ?

28:05 – 28:08

Ou devrait-il simplement se plier à ce que lui dit l’IA ?

28:08 – 28:16

Alors, comment concevoir un système de manière à ce que l’intervention humaine soit bien réelle, que les personnes puissent réellement s’impliquer ?

28:16 – 28:22

Ma façon d’aborder cette question – et je sais qu’Anna en a fait la présentation – est la suivante : je dirige une organisation appelée Humane Intelligence.

28:22 – 28:34

Je suis statisticien de formation, spécialiste en sciences sociales, et ce qui m’intéresse dans l’IA générale, c’est le fait que chaque individu puisse avoir cette technologie à sa disposition.

28:34 – 28:42

Et pendant mon passage chez Accenture, je me suis vraiment penché sur cette question : qu’est-ce que cela signifie d’avoir l’humain dans la boucle, et qu’est-ce que cela signifie d’avoir une assurance en matière d’IA ?

28:42 – 28:50

La garantie de l’IA, c’est simplement la capacité à affirmer que ce produit ou cette technologie va se comporter, va faire ce que je pense, ce que j’ai promis qu’elle ferait.

28:50 – 28:51

Et avec Gen.

28:51 – 28:52

IA, c’est en réalité très, très difficile.

28:52 – 28:55

Alors, comment s’y prendre au sein d’une organisation ?

28:55 – 28:58

Voici un article que nous avons rédigé en 2020 à ce sujet.

28:58 – 29:09

En réalité, il s’agit de mettre en place des processus clairs et responsables, de répartir les responsabilités, mais aussi de faire preuve de transparence et d’assumer davantage ce que le système peut et ne peut pas faire.

29:10 – 29:16

Lorsque je travaillais chez Twitter, j’ai en fait pris une mesure assez radicale : j’ai ouvert notre code source à l’examen du public.

29:16 – 29:19

Le concept de « bug bounty » (prime aux bogues) n’est pas nouveau dans le domaine de la cybersécurité.

29:19 – 29:23

Mais un programme de prime aux bogues algorithmiques, c’était du jamais vu.

29:23 – 29:27

Nous avons donc ouvert notre code au monde entier en disant : « Trouvez des failles, et nous vous récompenserons financièrement. »

29:27 – 29:31

J’ai d’ailleurs fini par créer une association à but non lucratif, Human Intelligence, pour mener à bien cette mission.

29:31 – 29:40

Nous avons donc collaboré avec un large éventail d’organisations, de gouvernements, euh, d’associations de la société civile, etc., pour mettre en place ce genre de programmes de primes contre les biais.

29:41 – 29:44

Et ce pour quoi je suis désormais connu, c’est le « red teaming ».

29:44 – 29:48

Encore une fois, si vous venez du monde de la cybersécurité, le « red teaming » n’est pas un concept nouveau.

29:48 – 29:58

Mais il s’agit de comprendre l’utilité du « red teaming », non seulement pour cerner les acteurs malveillants, mais aussi pour anticiper les conséquences imprévues lorsque votre système présente des dysfonctionnements, même si ceux-ci ne sont pas intentionnels.

29:58 – 30:00

de la part de vos utilisateurs, est en réalité assez difficile à mettre en œuvre.

30:00 – 30:04

Et la manière dont j’ai abordé cette question est ce que j’ai appelé le « retour d’expérience public structuré ».

30:04 – 30:10

Ce pour quoi je suis le plus connu, c’est cet événement où nous avons accueilli plus de 3 000 personnes à la DEF CON, qui est la plus grande conférence sur la cybersécurité

30:10 – 30:18

au monde, ont piraté et analysé, euh, huit modèles d’IA différents, en collaboration avec les propriétaires de ces modèles et les entreprises concernées.

30:18 – 30:20

Et cela va à l’encontre de la Charte des droits de l’IA.

30:20 – 30:26

Que ces modèles révèlent ou non des données personnelles, qu’ils puissent ou non présenter des hallucinations.

30:26 – 30:30

Nous avons collaboré avec le gouvernement américain et l’administration Biden pour mener à bien ce travail.

30:30 – 30:32

Et nous continuons à le faire aujourd’hui.

30:33 – 30:40

Et ce qui est fascinant, c’est que le grand public, bien qu’il puisse avoir cette technologie à portée de main, s’en éloigne de plus en plus…

30:40 – 30:43

la capacité de donner son avis pour dire si ça fonctionne ou non.

30:43 – 30:46

L’un des projets sur lesquels nous avons travaillé consistait donc à collaborer avec les Instituts nationaux des normes et de la technologie.

30:46 – 30:50

Et nous avons ouvert ce concept de « red teaming » à tout le monde aux États-Unis.

30:50 – 30:52

Et cela s’est effectivement produit l’année dernière.

30:52 – 31:00

Ainsi, n’importe qui aux États-Unis pouvait tester des modèles d’IA en mode « red teaming » et faire part de ses commentaires au NIST afin de définir de meilleures normes concernant le fonctionnement de cette technologie.

31:01 – 31:05

Et c’est vraiment ce à quoi je travaille : j’ai donné une conférence TED l’année dernière sur ce concept de « droit à la réparation ».

31:05 – 31:12

Et le « red teaming » est un point de départ : cette idée de simplement construire cette base de connaissances et ce réflexe qui permet aux gens de dire : « Hé, il y a quelque chose qui cloche ici. »

31:12 – 31:13

Je veux lever la main.

31:13 – 31:15

Je veux pouvoir le signaler.

31:15 – 31:20

En fait, nous n’avons pas encore envisagé d’intégrer cette fonctionnalité à notre technologie actuelle.

31:20 – 31:27

Alors, comment peut-on utiliser l’IA pour résoudre des problèmes de manière positive et productive ?

31:28 – 31:30

Et quelle est la prochaine étape ?

31:30 – 31:31

L’IA est donc un outil de productivité, n’est-ce pas ?

31:31 – 31:32

Ce n’est donc pas de la magie.

31:32 – 31:33

Elle n’a pas d’intention.

31:33 – 31:36

Ce n’est pas comme si on sortait de force le professeur de votre enfant de la classe.

31:36 – 31:41

Donc, lorsque vous envisagez de développer et de déployer une IA, comment pouvez-vous vous assurer que l’utilisateur soit au centre de vos préoccupations, n’est-ce pas ?

31:41 – 31:49

Comment envisagez-vous les points sensibles liés à ce que l’IA sait bien faire et, surtout, à ce que les humains savent bien faire, et comment concilier les deux ?

31:49 – 31:53

Et enfin, comment pouvez-vous utiliser ce système pour résoudre des problèmes ?

31:53 – 31:57

Et encore une fois, quand on pense à cette notion d’« humain dans la boucle », ce n’est pas qu’une simple expression.

31:57 – 31:58

Ce n’est pas qu’un simple terme.

31:58 – 32:00

C’est ce que les gens attendent aujourd’hui.

32:01 – 32:05

Vous savez, la confiance envers les systèmes d’IA n’a jamais été aussi faible.

32:05 – 32:10

Au cours de mon mandat au sein de l’administration Biden en tant qu’envoyé scientifique, j’ai eu le privilège de parcourir le monde entier.

32:10 – 32:20

Et vous seriez surpris de voir que tout le monde, des anciens des tribus des Fidji aux jeunes les plus avertis travaillant avec Gen.

32:20 – 32:20

IA.

32:20 – 32:22

Ils se posent tous les mêmes questions.

32:22 – 32:28

Il y a des questions sur la confidentialité des données, la sécurité, et sur le fait de savoir si les algorithmes sont utilisés ou non, s’ils sont manipulés ou non par des algorithmes.

32:28 – 32:31

ou si ces données sont utilisées à des fins malveillantes à leur encontre.

32:31 – 32:33

Tout le monde se pose les mêmes questions.

32:33 – 32:39

Donc, si vous voulez instaurer la confiance dans les systèmes que vous créez, pensez d’abord à l’utilisateur, et non à la technologie.

32:39 – 32:41

Merci beaucoup de nous avoir accordé votre temps.

32:46 – 32:47

Merci, Docteur.

32:47 – 32:49

Chaldry, c’était absolument fantastique.

32:49 – 32:50

Nous vous remercions d’être parmi nous aujourd’hui.

32:50 – 32:51

Merci beaucoup.