Resilienz beginnt bei uns: Ethische Wege zu Innovation und Vertrauen in die KI

Verantwortungsvolle KI erfordert mehr als nur technische Kontrollmechanismen. Sie erfordert ethische Rahmenbedingungen, transparente Steuerung und die Einbeziehung menschlichen Urteilsvermögens an kritischen Entscheidungspunkten, um Risiken zu bewältigen und die Rechenschaftspflicht zu gewährleisten. 

Menschen bringen Ethik, Kontext und logisches Denken mit, die Maschinen nicht nachbilden können. Menschliche Aufsicht ermöglicht einen sichereren, zuverlässigeren und vertrauenswürdigeren Einsatz von KI. 

Wirksame Rahmenwerke umfassen Daten-Governance, Modellvalidierung, Erkennung von Verzerrungen, Erklärbarkeit, kontinuierliche Überwachung, „Human-in-the-Loop“-Kontrollpunkte und risikobasierte Eskalationsverfahren. 

Vollständig autonome Systeme erhöhen das Risk in komplexen oder risikoreichen Szenarien. Menschliche Aufsicht bleibt unerlässlich, um Fehler, Missbrauch oder unbeabsichtigte Folgen zu verhindern.   

Ethische KI schafft Vertrauen bei Nutzern, Regulierungsbehörden und der Gesellschaft – und ermöglicht so nachhaltige Innovation statt kurzfristiger Gewinne, die langfristige Risiken mit sich bringen. 

Bitte sehen Sie sich hier das Video an, um ein Transkript mit Zeitangaben zu erhalten

00:12 – 00:15

Unser Gast hat einen außergewöhnlichen Lebenslauf.

00:15 – 00:19

Äh, sie ist die Geschäftsführerin von Humane Intelligence.

00:19 – 00:26

Außerdem war sie die von Präsident Biden ernannte Wissenschaftsbeauftragte der Vereinigten Staaten für künstliche Intelligenz.

00:26 – 00:30

Und ich kann es kaum erwarten, sie vorzustellen und sie bei uns begrüßen zu dürfen: Dr.

00:30 – 00:32

Ruman Chowdhary.

00:42 – 00:44

Hallo, guten Morgen.

00:44 – 00:45

Es ist so schön, euch alle zu sehen.

00:45 – 00:47

Ich hoffe, euch haben die Brezeln geschmeckt.

00:47 – 00:48

Mein Name ist Dr.

00:48 – 00:56

Aman Chowdhury, und es war großartig, all die Vorträge und Gespräche zu hören und tatsächlich einige bekannte Gesichter im Publikum zu sehen.

00:56 – 00:57

Hallo.

00:58 – 01:03

Ich bin heute hier, um mit Ihnen über ethische Wege zu Innovation und Vertrauen zu sprechen.

01:04 – 01:08

Wie viele von euch wissen, wer dieser Mann ist?

01:09 – 01:18

Meistens stelle ich fest, dass vielleicht eine Person im Publikum ihn kennt, aber oft stoße ich auf sehr verwirrte Blicke, wenn ich sage, dass er der Grund dafür ist, dass wir alle heute noch am Leben sind.

01:21 – 01:22

Das stimmt.

01:22 – 01:23

Okay, dann werde ich das erklären.

01:23 – 01:25

Name ist Stanislav Petrov.

01:25 – 01:31

Und 1983 war er das, was wir heute als „Human in the Loop“ bezeichnen würden.

01:31 – 01:38

Er war der Empfänger eines technischen Systems, das anzeigen sollte, ob die Vereinigten Staaten eine Atomwaffe abgefeuert hatten oder nicht.

01:38 – 01:39

Er befand sich auf russischer Seite.

01:39 – 01:51

Und seine Aufgabe bestand darin, in seinem Bunker die Meldung über den Start einer Rakete zu empfangen und dann den Knopf zu drücken, um – wenn Sie sich an Ihren Weltgeschichts- oder Sozialkundeunterricht erinnern – was auch immer das bedeutet.

01:51 – 01:51

als gegenseitige

01:51 – 01:52

garantierte Zerstörung.

01:52 – 01:56

Und wir können uns alle sehr, sehr glücklich schätzen, dass er es nicht getan hat.

01:56 – 02:02

Und ich liebe diese Geschichte, denn wenn wir über den „Human-in-the-Loop“-Ansatz in der Technologie nachdenken, denken wir nicht besonders tief darüber nach.

02:02 – 02:05

Wir denken einfach nur: Da ist am Ende eine Person, und die wird dann einfach …, …, … irgendetwas tun.

02:05 – 02:07

Nun, er war ein „Human in the Loop“.

02:07 – 02:10

Und es ist gut, dass er nicht einfach losgelegt und den Knopf gedrückt hat.

02:10 – 02:17

Und er nutzte etwas, das für Menschen sehr, sehr einzigartig ist: kontextbezogene Hinweise und kritisches Denken.

02:17 – 02:20

Und er saß da und dachte: Nun, der Kalte Krieg dauert schon seit Jahrzehnten an.

02:20 – 02:21

Und es ist nicht viel passiert

02:21 – 02:25

Escalation gegeben, warum sollten die Vereinigten Staaten also eine Atomwaffe zünden?

02:25 – 02:27

Und er entschied sich, den Knopf nicht zu drücken.

02:27 – 02:31

Und das ist der Grund, warum es letztendlich nicht zu einem Atomkrieg gekommen ist.

02:31 – 02:32

Das ist unglaublich wichtig.

02:32 – 02:37

Und das Absurdeste daran ist, dass wirklich nur sehr wenige Menschen wissen, wer dieser Mann ist.

02:37 – 02:48

Und ich liebe diese Geschichte wieder einmal, weil sie wirklich verdeutlicht, dass menschliches kritisches Denken selbst durch die fortschrittlichste Technologie nicht ersetzt werden kann.

02:49 – 02:52

Wenn wir also von künstlicher Intelligenz sprechen, was meinen wir dann damit?

02:52 – 02:53

Zu seiner Zeit, Herr

02:53 – 02:59

Petrov war, äh, mit einigen der fortschrittlichsten Technologien konfrontiert.

02:59 – 03:08

Und vielleicht wirkte es einschüchternd oder beängstigend, dass ein Mensch sich erheben und sich den Ergebnissen eines so hochentwickelten technologischen Instruments widersetzen konnte.

03:08 – 03:11

Und genau so stellen wir uns künstliche Intelligenz manchmal vor.

03:11 – 03:16

Und das sind die Schlagzeilen, die Sie heute vielleicht in Ihrer Nachrichten-App aufgerufen und gesehen haben.

03:16 – 03:19

Die Lösung für unsere Bildungskrise könnte sein

03:19 – 03:31

KI: Sind Pädagogen die nächsten, die von Robotern verdrängt werden? Sind Anwälte der nächste Berufsstand, der durch Computer ersetzt wird? Und ist die allgegenwärtige KI bei der Diagnose von Krankheit X genauso gut wie jeder andere?

03:31 – 03:33

Mensch oder Arzt.

03:33 – 03:36

Und es gibt ein paar Dinge, die ich zu diesen Schlagzeilen anmerken möchte.

03:36 – 03:37

Also erstens.

03:37 – 03:42

Das klingt wahrscheinlich so, als stammten diese Schlagzeilen aus den letzten drei Jahren – einer Revolution durch generative KI.

03:42 – 03:45

Tatsächlich stammen sie alle aus den Jahren 2018 bis 2020.

03:45 – 03:49

Ich bin mittlerweile seit fast einem Jahrzehnt in diesem Bereich tätig, genauer gesagt im Bereich der verantwortungsvollen KI.

03:49 – 03:52

Ich bin seit über 15 Jahren in der Tech-Branche tätig.

03:52 – 03:56

Und es scheint, als würden wir bei jeder neuen Iteration immer wieder dieselben Schlagzeilen sehen.

03:56 – 04:00

Und natürlich wird die Technologie mit jeder neuen Version immer ausgefeilter.

04:00 – 04:04

Aber es gibt hier ein paar Dinge, die ich ziemlich problematisch finde.

04:04 – 04:07

Erstens gibt es diese Anthropomorphisierung der Technologie.

04:07 – 04:20

Wenn man diese Sätze liest, klingt es so, als gäbe es eine Art KI-Person in einer Maschine, die unbedingt Ärztin, Lehrerin oder Anwältin werden will, und die dann loszieht und das Kind

04:20 – 04:21

Lehrer mit, der sich sträubt und schreit.

04:21 – 04:24

Ich meine, eine Roboter-Machtübernahme, meine Güte.

04:24 – 04:25

Etwas übertrieben, oder?

04:25 – 04:29

Aber was noch wichtiger ist: Wo ist der Mensch in diesem Satz?

04:29 – 04:37

In all diesen Schlagzeilen – und noch einmal: Das sind wirklich ganz gewöhnliche Schlagzeilen, die man wahrscheinlich jeden Tag sieht – ist der Mensch nur ein passives Element.

04:37 – 04:41

Empfänger dessen, wozu sich die Technologie entschieden hat.

04:41 – 04:44

Und das könnte nicht weiter von der Wahrheit entfernt sein.

04:44 – 04:50

Was also passiert ist: Die Leute stellen sich KI als eine Art Heerschar von Robotern vor.

04:50 – 04:51

Aber das ist es nicht.

04:51 – 04:55

Es ist etwas, das ganz normal aussieht.

04:55 – 04:56

Kann ich bitte zurückgehen?

04:56 – 04:56

Entschuldigung.

04:58 – 04:59

Mal sehen, ob das klappt.

04:59 – 05:00

So, das war’s, danke.

05:00 – 05:11

Die Leute denken, KI sei diese Horde von Robotern, die kommen, um unser Leben zu verändern, uns die Arbeitsplätze wegzunehmen und vielleicht unsere Kinder zu unterrichten, aber in Wirklichkeit ist es so: Wenn man wie ich Entwickler ist, dann

05:11 – 05:13

sieht es eher so aus.

05:13 – 05:22

Und tatsächlich spiegeln diese übertriebenen Schlagzeilen nicht die Wahrheit wider, nämlich dass hinter allem – von der Datenerfassung über die Datenkuratierung bis hin zu

05:22 – 05:29

Bereinigung, Sicherheit, äh, Programmierung, Fehlerbehebung bis hin zur Produkteinführung, Skalierung und Bereitstellung,

05:30 – 05:49

und der Bereitstellung – all das erfordert tatsächlich Menschen.

05:49 – 05:50

Wir gehen also nicht einfach davon aus, dass Pädagogen vor einer Übernahme durch Roboter stehen.

05:50 – 05:52

In der Zwischenzeit sind viele menschliche Schritte erforderlich.

05:52 – 05:58

Wir besprechen Dinge, und wenn wir reden, wenn wir menschliche Dinge besprechen,

05:58 – 06:04

interagieren wir direkt mit dieser Technologie, die so futuristisch und so leistungsfähig wirkt.

06:04 – 06:11

Nun, was passiert, ist, dass wir anfangen, Technologien voranzutreiben, bei denen nicht wirklich darüber nachgedacht wird, was Menschen tatsächlich brauchen könnten.

06:11 – 06:22

Und gerade dann, wenn die Technologie nicht wirklich die fantastischen Visionen erfüllt, die vielleicht in einer Präsentation versprochen wurden, dann passiert es tatsächlich, dass wir

06:22 – 06:28

davon ausgehen, dass sich die Menschen und die Gesellschaft an die Grenzen der Technologie anpassen müssen,

06:28 – 06:34

anstatt darüber nachzudenken, wie wir die Technologie so gestalten können, dass sie sich an die Bedürfnisse der Gesellschaft anpasst.

06:34 – 06:37

Und das bezeichne ich als den „Retrofit-Menschen“.

06:37 – 06:44

Wenn wir also über diesen „Retrofit-Menschen“ nachdenken, ist eine der Fragen, die wir uns in Bezug auf KI-Technologie stellen: Wozu ist sie gut?

06:44 – 06:46

Wozu ist sie fähig?

06:46 – 06:50

Und es gibt einige Dinge, bei denen maschinelles Lernen und KI tatsächlich ziemlich gut sind.

06:50 – 06:55

Diese ganze Einleitung soll also nicht heißen, dass KI nicht fähig ist oder maschinelles Lernen bestimmte Dinge nicht leisten kann.

06:55 – 06:57

Tatsächlich können sie ziemlich erstaunliche Dinge leisten.

06:57 – 07:02

Wichtig ist hier jedoch, zu unterscheiden, worin Menschen wirklich gut sind und worin Technologie wirklich gut ist.

07:02 – 07:03

Wozu ist Technologie also wirklich gut?

07:03 – 07:06

Sie ist gut darin, übergreifende Muster zu erkennen.

07:06 – 07:08

Sie ist gut darin, Daten zu analysieren

07:08 – 07:10

und Dinge zu identifizieren, die einander ähnlich sind.

07:10 – 07:13

Das ist im Grunde genommen der Großteil der Grundlagen des Computer Vision.

07:13 – 07:17

Und das ist im Allgemeinen konsistent, abhängig von der Fehlerquote.

07:17 – 07:27

Wenn wir also KI entwickeln – und ich mache das, wie gesagt, schon seit geraumer Zeit –, lässt sich das kurz so zusammenfassen: Wir sammeln eine Menge Daten, um ein Modell für den Durchschnittsmenschen einer

07:27 – 07:29

bestimmten Typs zu entwickeln.

07:29 – 07:32

Und wir können sehr hochspezifische Daten sammeln.

07:32 – 07:35

Das soll nicht heißen, dass wir das für den Durchschnittsbürger im Allgemeinen tun.

07:35 – 07:37

Aber wir definieren dich und mich und die

07:37 – 07:41

Person, die neben dir sitzt, als Teil eines Kundenprofils oder einer Community.

07:41 – 07:45

Und vielleicht basiert das auf 10, 20 oder 100 verschiedenen Datenpunkten.

07:45 – 07:50

Und dann geht man gewissermaßen davon aus, dass einige Annahmen über die fehlenden Daten getroffen werden.

07:50 – 07:50

In Ordnung.

07:50 – 07:55

Nun, ich werde Ihnen eine Geschichte erzählen, was es bedeutet, für den Durchschnittsmenschen zu entwickeln.

07:55 – 08:04

Und was bedeutet „Durchschnittsbürger“ überhaupt, selbst wenn man eine hochspezifische Untergruppe von Menschen betrachtet, von der man annehmen könnte, dass sie sehr, sehr vorhersehbar ist?

08:04 – 08:07

Eine Sache, die ich übrigens liebe, ist, Anekdoten und Geschichten zu erzählen und einen Vortrag zu halten

08:07 – 08:07

.

08:07 – 08:07

das.

08:07 – 08:07

das.

08:07 – 08:11

künstliche Intelligenz, dann hat das nichts mit künstlicher Intelligenz zu tun.

08:11 – 08:19

Einer der größten Fehler, den wir machen, ist, dass wir glauben, diese Technologie sei neu und dass alle Probleme, mit denen wir konfrontiert sind, Dinge sind, die wir nie erleben werden, die wir noch nie zuvor gesehen haben.

08:19 – 08:21

Wir haben diese Fragen noch nie gestellt.

08:21 – 08:31

Und obwohl KI neue Paradigmen, neue Fragen und neue Probleme mit sich bringt, sind die Probleme, die wir lösen, keine völlig neuen Fragen.

08:31 – 08:32

Das ist also eine meiner Lieblingsgeschichten, die ich gerne erzähle.

08:32 – 08:37

In den 1940er Jahren erreichten die Flugzeugabstürze einen historischen Höchststand.

08:53 – 09:07

Also wandte sich die US-Luftwaffe an die Hersteller von Flugzeugsitzen und sagte: „Hört mal, ihr müsst diese Sitze neu konstruieren, denn das durchschnittliche Profil der…“

09:07 – 09:08

unserer Piloten hat sich verändert.“

09:08 – 09:13

Wenn wir uns überlegen, wer diese Piloten sind, handelt es sich natürlich um eine ziemlich kleine Gruppe von Menschen.

09:13 – 09:17

Es handelt sich um junge Männer im Alter von wahrscheinlich 18 bis höchstens 30 Jahren.

09:19 – 09:20

Sie sind ziemlich gesund.

09:20 – 09:22

Sie sind körperlich fit und so weiter.

09:22 – 09:24

Und zu dieser Zeit gab es noch keine Pilotinnen.

09:24 – 09:26

Es wäre ziemlich standardisiert.

09:26 – 09:33

Also taten sie in den 1940er Jahren das Gleiche wie in den 1920er Jahren, nämlich dass sie über 4.000 dieser Piloten einstellten.

09:33 – 09:36

Sie haben sie anhand von 10 verschiedenen Messpunkten untersucht.

09:36 – 09:37

Kommt Ihnen das bekannt vor?

09:37 – 09:43

Wenn ein Datenwissenschaftler im Raum ist, klingt das nach einer ziemlich vernünftigen Methode, um einen guten Sitz zu entwerfen.

09:43 – 09:48

Also: über 4.000 Männer, 10 verschiedene Datenpunkte – daraus haben sie den Durchschnitt ermittelt und einen Sitz entwickelt.

09:49 – 09:59

Und er hat keinem einzigen Menschen gedient – kein einziger dieser rund 4.000 Piloten hat auf diesem Sitz gesessen und gesagt: „Ja, der ist bequem für mich.“

09:59 – 10:04

Und der Grund dafür ist, dass diese Vorstellung vom Durchschnitt einer Person entspricht, die zum 50. Perzentil gehört.

10:04 – 10:07

Wenn Sie die Glockenkurve kennen, dann ist das der größte Teil der Glockenkurve.

10:07 – 10:11

Kurve, äh, aber das ist nicht unbedingt eine reale Person, die es tatsächlich gibt.

10:11 – 10:20

Es ist eine fiktive Person, die eine Zusammenfassung aller anderen Datenpunkte darstellt, die man über Menschen wie sie gesammelt hat.

10:20 – 10:22

Also haben sie es auf drei Dimensionen reduziert.

10:22 – 10:26

Was wäre also, wenn wir einfach drei Datenpunkte nehmen und mehr Kursdaten haben, oder?

10:26 – 10:29

Das traf nur auf etwa 13 % der Piloten zu.

10:29 – 10:34

Nun, dann hat die Luftwaffe nachgehakt und gesagt: „Okay, Flugzeughersteller, das funktioniert für uns nicht.“

10:34 – 10:36

Denn natürlich geht es hier um Leben und Tod.

10:36 – 10:41

Diese Sitze müssen tatsächlich funktionsfähig und nützlich sein, und Piloten befinden sich in sehr extremen Situationen.

10:41 – 10:43

Das ist also kein nachträglicher Einfall.

10:43 – 10:50

Also gingen sie zurück und sagten: „Eigentlich solltet ihr, anstatt den Sitz für die Person im 50. Perzentil, also die durchschnittliche Person, anzupassen, vielmehr Folgendes tun:

10:50 – 10:53

die Sitze so zu gestalten, dass sie für 95 % aller Piloten geeignet sind.

10:54 – 10:57

Das ist eine radikale Abkehr von der bisherigen Art, Erfolg zu messen, oder?

10:57 – 11:02

Denn ein Großteil dessen, was man schafft, besteht darin, zu definieren, was Erfolg ist und wie das Gute aussieht.

11:02 – 11:09

Also haben sie den Begriff „gut“ neu definiert und gesagt: Anstatt einen Sitz für den durchschnittlichen Piloten zu entwickeln, warum stellen wir nicht einen Sitz her, der zu 95 % aller Piloten passt?

11:09 – 11:13

Und auch hier handelt es sich immer noch um eine kleine Gruppe von Menschen mit geringen Unterschieden.

11:13 – 11:19

Also meldeten sich alle Flugzeughersteller zurück und sagten: „Unmöglich, das geht nicht, das haben wir noch nie gemacht, wir werden pleitegehen.“

11:19 – 11:21

Das ist eine absolut verrückte Idee.

11:21 – 11:24

Und natürlich ist es die Luftwaffe – die kann tun, was sie will.

11:24 – 11:27

So nach dem Motto: Na gut, dann suchen wir eben jemand anderen, der das macht.

11:27 – 11:28

Und genau das haben sie dann auch getan.

11:29 – 11:31

Sie haben einfach verstellbare Sitze gebaut.

11:31 – 11:42

Wenn man also in sein Auto, in einen Bus oder in ein Flugzeug steigt und Dinge tun kann wie die Armlehne verstellen, die Kopfstütze anheben und den Sitz anders neigen, ist das ein Grund, warum jemand

11:42 – 11:49

wie ich 5’3 groß ist und ein durchschnittlich 5’10 großer Mann tatsächlich in dasselbe Auto steigen und es fahren können.

11:49 – 11:56

Das liegt daran, dass das Militär sich gewehrt und tatsächlich gesagt hat: „Wir wollen, dass ihr eure Konstruktionsweise überdenkt.“

11:56 – 11:59

Wir wollen, dass ihr überdenkt, wie ihr dieses technologische Werkzeug herstellt.

11:59 – 12:06

Noch einmal: Anstatt zu sagen, wir entwickeln für den Durchschnitt, werden wir sagen, dass wir damit ein breiteres Spektrum an Menschen ansprechen wollen.

12:06 – 12:12

Eine radikale Abkehr, die tatsächlich – noch einmal – zu besser gestalteten Produkten und besseren Ergebnissen geführt hat.

12:12 – 12:13

Was sind also Ihre wichtigsten Erkenntnisse?

12:13 – 12:22

Erstens: Damit KI funktioniert, müssen wir radikal und anders darüber nachdenken, wie wir Lösungen für unsere Nutzer individuell anpassen und entwickeln können.

12:22 – 12:26

Zweitens geht es um eine klare Neudefinition von Rechenschaftspflicht und Verantwortung.

12:26 – 12:29

Ich habe den Begriff „moralisches Outsourcing“ geprägt, und er steht in Zusammenhang mit

12:29 – 12:38

mit dieser Anthropomorphisierung der künstlichen Intelligenz zusammen, damit, wie wir Formulierungen verwenden, die den Anschein erwecken, als habe KI Absichten, als habe KI Vernunft – dabei hat sie tatsächlich nichts davon.

12:38 – 12:41

Es sind Menschen, die Technologie entwickeln und einsetzen.

12:41 – 12:49

Anstatt zu sagen, wir würden KI entwickeln, um Anwälte zu ersetzen, sieht die Realität so aus, dass jemand ein Legal-Tech-Unternehmen gründet.

12:49 – 12:56

Und man kann sich dafür entscheiden, Legal-Tech so zu gestalten, dass sie den Menschen unterstützt, oder man kann sich dafür entscheiden, Legal-Tech so zu gestalten, dass sie bewusst versucht, den Menschen zu ersetzen.

12:56 – 12:59

Und es ist eine von Menschen getroffene Entscheidung, eine von Menschen getroffene Entscheidung darüber, wie

12:59 – 13:00

wie die Technologie eingesetzt wird.

13:00 – 13:08

Und schließlich erfordert die Nutzung der Vorteile künstlicher Intelligenz ebenso viele Investitionen in die menschliche Seite wie in die technische Seite.

13:08 – 13:18

Anstatt also die Tatsache, dass alle unsere Körper unterschiedliche Größen, Formen und Höhen haben, als Mangel zu betrachten, ist dies vielmehr eine Chance, besser und vielfältiger zu gestalten.

13:18 – 13:19

umfassend zu gestalten.

13:20 – 13:22

Wie wird sich KI also auf unsere Gesellschaft auswirken?

13:22 – 13:33

Ich würde also sagen, das ist das Thema Nummer eins, um das ich am häufigsten gebeten werde – und das hat dieses Jahr angefangen. Ich habe schon so viele Vorträge gehalten und viel über ethisch verantwortungsvolle KI gesprochen, aber die

13:33 – 13:37

Zukunft der Arbeit im Jahr 2025 ist mittlerweile wirklich mein am häufigsten nachgefragtes Thema geworden.

13:37 – 13:47

Ah, und ich freue mich, berichten zu können, dass es tatsächlich viele empirische Belege gibt und dass wirklich großartige Arbeit geleistet wird, bei der die Leute darüber sprechen, wissen Sie,

13:47 – 13:50

die Auswirkungen quantitativ messen und untersuchen.

13:50 – 13:51

KI auf die Belegschaft untersucht.

13:51 – 13:59

Einerseits sieht man also – wie bereits erwähnt – in den Nachrichten, wenn man seinen Newsreader öffnet, Meldungen darüber, dass Menschen ein bedingungsloses Grundeinkommen fordern und sagen, dass es

13:59 – 14:01

keine Arbeitsplätze mehr für irgendjemanden geben wird.

14:01 – 14:07

Was wir stattdessen feststellen, ist, dass es sich tatsächlich um eine ziemlich detaillierte, differenziertere Diskussion handelt.

14:07 – 14:10

Deshalb werde ich euch von drei verschiedenen Artikeln erzählen, die mir wirklich sehr gut gefallen.

14:10 – 14:13

Es gibt zwar eine ganze Reihe von Artikeln zu diesem Thema, aber diese drei gefallen mir besonders gut.

14:13 – 14:18

Ich möchte mit einem großen Überblick beginnen, etwa den makroökonomischen Auswirkungen weltweit in den nächsten 10 Jahren.

14:18 – 14:20

Ein mittelfristiger Überblick, der vertikal ausgerichtet ist

14:20 – 14:30

nach Branchen gegliedert ist, sowie die detaillierteste und experimentellste Studie, die in einem bestimmten Unternehmen durchgeführt wurde, um zu untersuchen, wie die Mitarbeiter reagierten und wie sie auf die Zusammenarbeit mit KI reagierten und wie

14:30 – 14:31

sich dies auf sie auswirkte.

14:31 – 14:40

Ich möchte auch gleich zu Beginn sagen, dass ich an vielen Universitäten Vorträge halte und dass es unter jungen Menschen tatsächlich eine Menge sehr berechtigter Bedenken gibt.

14:40 – 14:50

Und was wir feststellen – und das ist, wie gesagt, das erste Jahr, in dem wir das wirklich beobachten –, ist, dass die Generation Z, die auf den Arbeitsmarkt drängt, um einen Job zu finden, es bei Einstiegsjobs schwerer hat, weil

14:50 – 14:53

künstliche Intelligenz tatsächlich in der Lage ist, einige der einfachen Aufgaben zu übernehmen.

14:53 – 14:56

Und das betrifft nicht nur Recherche und das Verfassen von Texten.

14:56 – 14:58

Es geht dabei vor allem um die Programmierung.

14:58 – 15:02

Womit KI also wirklich, wirklich gut ist, ist das Programmieren auf Einsteiger-Niveau.

15:02 – 15:07

Man braucht aber nach wie vor erfahrene Entwickler, um sicherzustellen, dass der Code robust und funktionsfähig ist und so weiter.

15:07 – 15:11

Aber viele der Einsteigerpositionen werden einfach nicht ersetzt.

15:11 – 15:17

Wenn die Mitarbeiter also älter werden und befördert werden, werden ihre Junior-Stellen einfach nicht neu besetzt.

15:17 – 15:20

Und das gibt Anlass zur Sorge für die Zukunft.

15:20 – 15:27

Die erste Studie, über die ich sprechen möchte, stammt von einem Arbeitsökonomen, äh, Professor Dara Nesemoglu vom MIT.

15:27 – 15:32

Er hat untersucht – und noch einmal: Er ist jemand, der sich schon sehr, sehr lange mit Wirtschaftswissenschaften beschäftigt.

15:32 – 15:37

Und er hat sich wirklich mit dem Thema KI beschäftigt, um die Auswirkungen auf Arbeit und Produktivität zu untersuchen.

15:37 – 15:45

Also hat er sich die sogenannte Gesamtfaktorproduktivität (TFP) angesehen – das entspricht im Grunde genommen der Summe des BIP aller Länder.

15:45 – 15:50

Ah, und er hat berechnet, dass es in den nächsten 10 Jahren das sein wird, was er als

15:50 – 16:01

Also eine nicht unerhebliche, aber moderate Auswirkung, also unter 1 %, was vielleicht nicht nach viel klingt, aber übrigens unter 1 % des gesamten BIP der ganzen Welt, also ziemlich bedeutend.

16:01 – 16:03

Das ist also ein ziemlich erheblicher Automatisierungsgrad.

16:03 – 16:06

Aber er ging noch einen Schritt weiter und fragte: Was wird eigentlich automatisiert?

16:06 – 16:13

Und er weist darauf hin, dass bei vielen Menschen tatsächlich eher Büroberufe als handwerkliche Berufe automatisiert werden.

16:13 – 16:14

Und das ist interessant.

16:14 – 16:19

Das verdeutlicht wirklich einen der besonders radikalen Aspekte generativer KI.

16:32 – 16:33

Und genau das.

16:33 – 16:36

Und und und ich denke, das ist ein wichtiger Punkt.

16:36 – 16:36

Und der Punkt.

16:36 – 16:38

Und ein wirklich wichtiger Punkt.

16:38 – 16:50

Und ein wichtiger und wirklich wichtiger Punkt.

16:50 – 16:50

Und

16:50 – 16:54

Es ist wirklich Wissensarbeit, einfache Wissensarbeit, die automatisiert wird.

16:54 – 16:56

Darüber haben wir bisher noch nicht wirklich nachgedacht.

16:56 – 16:59

Wir mussten uns noch nicht mit den Auswirkungen davon auseinandersetzen.

16:59 – 17:08

Und übrigens, um noch einmal auf die Generation Z zurückzukommen: Einige von Ihnen, die Kinder in diesem Alter haben, wissen vielleicht, dass Ihre Kinder oder deren Freunde tatsächlich darüber nachdenken, einen Beruf im gewerblichen Bereich zu ergreifen.

17:08 – 17:14

Denn immer mehr junge Menschen wissen nicht, welchen Wert ein Hochschulstudium hat, wenn KI diese Arbeit tatsächlich übernehmen kann.

17:14 – 17:20

Aber eine KI wird niemals in der Lage sein, euren Rasen zu mähen, eure Wasserleitungen zu reparieren oder einen

17:20 – 17:21

Dach zu decken.

17:21 – 17:32

Und was sie feststellen, ist, dass ein Arbeiterberuf aus vielen Gründen für viele von ihnen viel, nun ja, vorhersehbarer und verlässlicher erscheint, als zu versuchen, wirklich hoch hinauszukommen, um

17:32 – 17:40

eine Art leitende Vizepräsidentenposition anzustreben, die vielleicht zustande kommt oder auch nicht – denn wenn man den ersten Job nicht bekommt, wird man niemals befördert.

17:40 – 17:48

Er wies also darauf hin, dass KI voraussichtlich die Kluft zwischen Kapital- und Arbeitseinkommen vergrößern wird, aber auch, dass es diesen negativen gesellschaftlichen Wert geben wird, den wir wirklich haben

17:48 – 17:50

berücksichtigen müssen.

17:50 – 18:02

interessantsten Dinge, die ich beobachte, ist, dass bei der Bewertung des Nutzens von KI die negativen externen Effekte auf die Gesellschaft zunehmend als zu berücksichtigender Faktor einbezogen werden.

18:02 – 18:09

Denn was bringt es, eine Produktivitätsmaschine zu entwickeln, wenn wir am Ende alle völlig handlungsunfähig sind?

18:09 – 18:14

Es gibt ernsthafte Bedenken hinsichtlich einer übermäßigen Abhängigkeit und – wie manche es nennen – einer „KI-Psychose“.

18:14 – 18:20

Ähm, wir sehen, dass Bildungstechnologie auf den Markt kommt, und es gibt Bedenken

18:20 – 18:22

dass junge Menschen sich zu sehr auf die Technologie verlassen könnten.

18:22 – 18:28

Wie können wir diese Bedenken berücksichtigen und angehen, während wir gleichzeitig Technologien entwickeln, die insgesamt einen Nutzen bringen?

18:29 – 18:37

Der zweite Artikel, über den ich sprechen möchte, stammt aus dem Jahr 2023 und wurde von einem Team bei OpenAI verfasst, das mit einer anderen Gruppe von Ökonomen zusammengearbeitet hat.

18:37 – 18:41

Es trägt den Titel „GPTs“ und befasst sich mit verschiedenen Branchen.

18:41 – 18:49

Anstatt pauschal zu sagen, dass all diese Arbeitsplätze automatisiert werden, wurde untersucht, welche Berufe in den einzelnen Branchen mit größerer Wahrscheinlichkeit automatisiert werden.

18:49 – 18:59

Die wichtigste Erkenntnis daraus ist, dass bei etwa 80 % der Beschäftigten etwa 10 % ihrer Aufgaben automatisiert werden und bei etwa 19 % etwa die Hälfte der Aufgaben davon betroffen sein wird.

18:59 – 19:04

Und das trifft ziemlich genau zu – das war vor einigen Jahren – und es entspricht in etwa den Trends, die wir derzeit beobachten.

19:04 – 19:13

Ich denke, viele von uns nutzen KI-Tools für ganz grundlegende Produktivitätszwecke, zum Beispiel, um Notizen zu überprüfen oder vielleicht Zusammenfassungen von Besprechungen zu erstellen.

19:13 – 19:18

Es übernimmt nicht deinen Job, und tatsächlich verschafft es dir wahrscheinlich sogar ein bisschen mehr Zeit.

19:18 – 19:22

Die meisten von uns hier im Raum gehören wahrscheinlich zu diesen 80 %.

19:22 – 19:29

Die 19 % der Arbeitnehmer, bei denen 50 % der Aufgaben automatisiert werden, nannten Berufe wie Journalismus und Rechtsassistenz.

19:29 – 19:35

Eher um wissensbasierte Forschungsaufgaben, die vielleicht keine tiefgreifende Fachkompetenz erfordern.

19:36 – 19:37

Nun also zur dritten Studie.

19:37 – 19:46

Und wieder ist eines der wichtigsten Themen, das die Menschen verstehen wollen: Was bedeutet künstliche Intelligenz für meine Belegschaft, wenn ich sie nutze, wenn meine Mitarbeiter sie nutzen, wenn meine

19:46 – 19:47

Unternehmen sie einführt?

19:47 – 19:56

Nun, die überwiegende Mehrheit wird Ihnen sagen, dass die Antwort lautet: „Mensch plus KI ist mehr als Mensch ohne KI oder KI allein.“

19:56 – 19:58

Und ich liebe diese Studie, weil sie erstens einen fantastischen Namen hat.

19:58 – 20:00

Sie heißt „The Cybernetic Teammate“.

20:00 – 20:04

Es handelt sich um eine Fallstudie, die an der Harvard Business School in Zusammenarbeit mit Procter & Gamble durchgeführt wurde.

20:04 – 20:06

Dort wurde ein randomisiertes kontrolliertes Experiment durchgeführt.

20:06 – 20:17

Im Rahmen des Experiments nahmen etwa 800 P&G-Mitarbeiter an einem mehrtägigen Hackathon teil, bei dem die Teilnehmer in Gruppen eingeteilt wurden – entweder in Teams oder als Einzelpersonen –, wobei einige mit KI arbeiteten und andere nicht.

20:17 – 20:24

Und was mir an dieser Studie gefällt: Oft geht es in vielen Studien über KI am Arbeitsplatz um Produktivität.

20:24 – 20:30

Und ich hasse diese Messgröße wirklich, wirklich, wirklich, denn es gibt eine Sache, die KI kann: einfach nur produzieren.

20:30 – 20:31

Das ist alles, was sie tut.

20:31 – 20:34

Und tatsächlich ist sie oft selbstbewusst falsch.

20:35 – 20:36

Es braucht den Menschen, um

20:36 – 20:38

um zu verstehen, ob diese Ausgabe

20:38 – 20:43

Ich meine, wir haben jetzt einen Begriff dafür: Wir nennen es „Slop-Workforce“, „Slop-AI“, richtig?

20:43 – 20:45

Das ist jetzt buchstäblich der Begriff dafür.

20:45 – 20:50

Die reine Produktionsmessung liefert also keine wirklichen Antworten.

20:50 – 20:57

Was sie jedoch getestet haben, waren Aspekte wie die Qualität der Arbeit, die Zeit bis zur Fertigstellung und vor allem die Fähigkeit, nicht fachkundige Mitarbeiter zu unterstützen.

20:57 – 21:05

Denn auf der anderen Seite besteht bei erfahrenen Mitarbeitern die Sorge – oder zumindest ist das eine der gängigen Sichtweisen –, dass Fachwissen in Zukunft vielleicht nicht mehr benötigt wird.

21:05 – 21:06

Man braucht einfach nur

21:06 – 21:11

einen unerfahrenen Menschen, man setzt ihm etwas KI auf, und schon ist er genauso gut wie ein erfahrener Entwickler.

21:11 – 21:13

Also wollten sie das alles testen.

21:14 – 21:20

Wie machen sie das also, damit man nicht jede Menge komplizierter, äh, Balkendiagramme lesen muss?

21:20 – 21:22

Als Erstes haben sie sich die durchschnittliche Lösungsqualität angesehen.

21:22 – 21:25

Denkt also daran: Als Vergleichsbasis diente die Person ohne KI.

21:25 – 21:27

Sie haben die Teams ohne KI.

21:27 – 21:29

Es gibt Einzelpersonen mit KI und Teams mit KI.

21:29 – 21:33

Man sieht also, dass das Hinzufügen der KI einen gewissen Vorteil gebracht hat.

21:33 – 21:38

Die Einzelperson ohne KI schnitt also deutlich schlechter ab als jede der anderen Untergruppen.

21:38 – 21:41

Und wenn ihnen KI zur Verfügung gestellt wurde, schnitten sie tendenziell besser ab.

21:41 – 21:44

Aber eigentlich gibt es keinen nennenswerten Unterschied zwischen

21:44 – 21:46

Einzelperson plus KI und Team plus KI.

21:46 – 21:50

Und denkt daran, ich werde jetzt kurz ein bisschen auf die Statistiken eingehen.

21:50 – 21:53

Der Balken – macht euch keine Gedanken darüber, wo der Balken genau steht.

21:53 – 22:00

Es ist eigentlich der Fehlerterm, diese Linie, die euch die Obergrenze angibt – das ist der erwartete Bereich, in den der Wert fallen wird.

22:00 – 22:09

Das alles bedeutet also: Wenn sich die Balken deutlich überlappen – was sie tun –, dann sind die Zahlen, die die schwarzen Linien darstellen, wahrscheinlich ziemlich, ziemlich ähnlich.

22:09 – 22:15

Als Zweites haben sie also untersucht, ob es eine Rolle spielt, ob es sich um eine Kernaufgabe handelt oder nicht.

22:15 – 22:19

Was wäre also, wenn man eine völlig unerfahrene Person nehmen und ihr KI zur Verfügung stellen würde?

22:19 – 22:23

Ähm, nun ja, in der Realität funktioniert das nicht so recht.

22:23 – 22:25

Und ich glaube, intuitiv wissen wir das alle.

22:25 – 22:27

Ich habe gerade noch einmal auf den „AI-Schlamassel“ hingewiesen.

22:27 – 22:29

KI ist auf sehr überzeugende Weise falsch.

22:29 – 22:30

Es klingt irgendwie schlau.

22:30 – 22:39

Es klingt irgendwie so, als hättest du einem Kind – falls du den Begriff „Dunning-Kruger-Syndrom“ kennst – das Dunning-Kruger-Syndrom in seiner schlimmsten Form verpasst.

22:39 – 22:47

Es werden eine Menge Informationen ohne Kontext zusammengefasst und dann irgendwie in die Welt gesetzt, aber das ist nicht unbedingt gut.

22:47 – 22:49

Es ist einfach nur quantitativ.

22:49 – 22:59

Und überwiegend stellten sie fest, dass Einzelpersonen und Teams ohne oder mit nur begrenztem Fachwissen zwar einen gewissen Schub erhielten, man aber im Grunde immer noch Leute im Raum brauchte.

22:59 – 23:05

die die Ergebnisse verstanden und wussten, was erforderlich war, um die Vorteile dieser Technologie wirklich zu nutzen.

23:05 – 23:07

Und schließlich natürlich die Zeitersparnis.

23:07 – 23:09

Das ist also super interessant, nämlich dass

23:09 – 23:11

Und das wissen wir intuitiv.

23:11 – 23:15

Teams sind vielleicht weniger gut darin, Dinge schnell zu erledigen.

23:15 – 23:19

ist besser, aber sie sind nicht so gut.

23:19 – 23:22

Man muss viel Konsensarbeit leisten und die Beiträge und Meinungen der Leute einholen.

23:22 – 23:28

Und die KI hat zwar etwas Zeit gespart, aber natürlich arbeiten sie am schnellsten, wenn sie ganz allein mit der KI arbeiten.

23:28 – 23:32

Und das Wichtigste: Wer hat am besten abgeschnitten?

23:32 – 23:39

Nun, es hat sich herausgestellt, dass Teams, die KI einsetzten – auch wenn sie nicht unbedingt am schnellsten bei der Erstellung eines Ergebnisses waren –, tatsächlich

23:39 – 23:43

tendenziell die meisten Lösungen in den besten 10 % hervorbrachten.

23:43 – 23:44

Das ist also eine wirklich faszinierende Erkenntnis.

23:44 – 23:45

Noch einmal: Das ist noch sehr, sehr früh.

23:45 – 23:49

Es gibt noch eine weitere wirklich großartige Veröffentlichung von Microsoft, die ich hier allerdings nicht zur Hand habe.

23:49 – 23:54

Und darin geht es tatsächlich um die Nutzung von Copilot, was toll ist, denn das war tatsächlich eine viel umfangreichere Studie.

23:54 – 23:58

Ich glaube, es waren 20 oder 30 verschiedene Branchen, die sich wirklich viel eingehender damit befasst haben.

23:58 – 24:00

Es gibt also jede Menge großartige Forschungsergebnisse aus Stanford.

24:00 – 24:04

Wenn Sie sich für ein bestimmtes Thema interessieren, gibt es dazu bereits umfangreiche Forschungsarbeiten.

24:04 – 24:08

Eric Ben-Yolson von der Stanford-Universität leistet einen großen Teil dieser Arbeit.

24:08 – 24:09

Und auch hier kommen wieder viele Unternehmen hinzu

24:09 – 24:12

mit entsprechenden Angeboten auf den Markt, denn das ist etwas, worauf wir alle ziemlich neugierig sind.

24:12 – 24:14

Wie integrieren wir diese Technologie?

24:15 – 24:21

Nun, eines der Themen, über die wir schon seit geraumer Zeit sprechen, ist dieser Begriff, nämlich digitale Kompetenz.

24:21 – 24:23

Was bedeutet es, KI-kompetent zu sein?

24:23 – 24:28

Und ich glaube, die frühere, etwas naivere Version davon lautete in etwa: „Oh, jeder muss programmieren können.“

24:28 – 24:30

Jeder muss einfach programmieren können.

24:30 – 24:31

Aber es fehlte der Kontext dafür.

24:31 – 24:33

Was soll das denn bedeuten?

24:33 – 24:39

Was bedeutet es, wenn ein CEO, ein Senior Vice President oder ein Produktmanager programmiert?

24:40 – 24:42

Das ist doch eigentlich nicht relevant, oder?

24:42 – 24:49

Eines meiner Lieblingsbücher über das Thema digitale Kompetenz – oder das Konzept der digitalen Kompetenz – wurde tatsächlich von einem Anglistikprofessor geschrieben.

24:49 – 24:52

Und wie ihr wahrscheinlich inzwischen wisst, greife ich gerne auf ältere Beispiele zurück.

24:52 – 25:01

Sein Buch entstand im Jahr 2003 und richtete sich an seine Englischstudierenden, die sich damals gerade erst daran gewöhnen mussten, Recherchen zu diesem verrückten neuen Ding namens Internet durchzuführen.

25:01 – 25:09

Was bedeutete es für die Recherche und die Glaubwürdigkeit der eigenen Arbeit, wenn man nicht mehr in eine Bibliothek ging oder Leute interviewte, sondern eine Mikrofiche hatte?

25:09 – 25:19

und diese Primärquellen – was passiert nun, da man einen Computer nutzt, um diese Arbeit zu erledigen, oder das Internet oder dieses neue, unzuverlässige Ding namens Wikipedia, das einem bei der

25:19 – 25:19

Recherche?

25:19 – 25:22

Er spricht also von drei Ebenen der Lese- und Schreibkompetenz.

25:22 – 25:24

Und das ist für die KI so relevant.

25:24 – 25:32

Und diese Bewertungsrubrik gefällt mir sehr gut, weil sie einem wirklich hilft, sich klar zu machen, wie man über KI-Kompetenz nachdenken sollte – ganz gleich, auf welcher Stufe der Nutzung der

25:32 – 25:33

Technologie.

25:33 – 25:34

Stufe eins ist also die funktionale Kompetenz.

25:34 – 25:37

Diese Stufe richtet sich an Menschen, die eine Technologie lediglich nutzen.

25:37 – 25:39

Und das ist Ihr durchschnittlicher Kunde.

25:39 – 25:42

Die Person, die mit dem Chatbot interagiert, richtig?

25:42 – 25:46

Die Person, die versucht, den KI-Agenten zu nutzen, um für sie einzukaufen.

25:46 – 25:48

Und eigentlich geht es bei Ihrer Arbeit um effektive Beschäftigung.

25:48 – 25:54

Kritische Medienkompetenz ist für Menschen gedacht, die keine Programmierer sind, aber dennoch dafür sorgen, dass das Projekt umgesetzt wird.

25:54 – 25:55

Das sind also vielleicht die Product Owner.

25:55 – 25:58

Ihre Aufgabe ist es, fundierte Kritik zu üben.

25:58 – 26:03

Und drittens rhetorische Kompetenz, die für Entwickler notwendig ist.

26:03 – 26:09

Das Faszinierende daran ist, dass es immer weniger technisch wird, je näher man am Code ist.

26:09 – 26:13

Wenn man also Programmierer oder Entwickler ist, besteht die Aufgabe darin, reflexiv zu arbeiten.

26:13 – 26:15

Wir werden also ein wenig darüber sprechen, was das bedeutet.

26:15 – 26:17

Nehmen wir also an, du bist nur der Empfänger.

26:17 – 26:19

Sie sind die Person, die einfach nur mit dem Chatbot interagiert.

26:19 – 26:21

Sie möchten wissen, wie hoch Ihr Kontostand ist.

26:21 – 26:22

Du möchtest etwas Geld überweisen.

26:22 – 26:25

Und es gibt diesen KI-Agenten, der das für dich erledigt.

26:25 – 26:29

Nun, wie sollte man sich in dieser Welt als kompetent verstehen, und ist das überhaupt Ihre Rolle?

26:29 – 26:37

Das Wichtigste ist, dass es im unteren Bereich darum geht, zu lernen, mit der Technologie umzugehen, anstatt nur eine Folge der Technologie zu sein.

26:37 – 26:38

Das ist wirklich, wirklich wichtig.

26:39 – 26:47

Man möchte, dass die Nutzer und Kunden über kritisches Verständnis verfügen, um die Ergebnisse zu verstehen und zu erkennen, wie sie selbst Maßnahmen ergreifen können oder ob die Technologie diese Aufgaben übernehmen sollte.

26:47 – 26:48

Maßnahmen für sie ergreifen sollte.

26:48 – 26:54

Anstatt also blind zu akzeptieren, sollten sie tatsächlich in der Lage sein, sich mit der Technologie auseinanderzusetzen.

26:54 – 27:03

Und das ist tatsächlich eine viel bessere Erfahrung für jeden Nutzer, wenn man sich damit auseinandersetzt und die Vorteile der Arbeit damit tatsächlich sieht und versteht.

27:03 – 27:03

ihr.

27:05 – 27:14

Und für die zweite Ebene von Personen – die Produktmanager, die Führungskräfte und die Product Owner – ist es am wichtigsten, erkennen zu können, wann etwas schiefläuft,

27:14 – 27:15

wenn etwas nicht gut läuft.

27:15 – 27:18

Das ist im Zeitalter der generativen KI sogar noch wichtiger.

27:18 – 27:20

Denkt daran: Sie ist selbstbewusst falsch.

27:20 – 27:21

Es wird „Ausgabe“ sagen.

27:21 – 27:28

Ich glaube, letzte Woche war das große Thema, wie viele Anwälte mittlerweile ChatGPT nutzen, um sich beim Verfassen ihrer Schriftsätze helfen zu lassen.

27:28 – 27:30

Und ratet mal, was ChatGPT macht?

27:30 – 27:31

Es halluziniert.

27:31 – 27:35

Es erfindet also regelrecht Fälle, die gar nicht existieren.

27:35 – 27:40

Es geht also wieder einmal darum, klug genug zu sein, die Technologie zu hinterfragen.

27:40 – 27:42

Schauen Sie sich die Quellen an, die Ihnen die Technologie liefert.

27:42 – 27:43

Überprüfen Sie diese noch einmal.

27:43 – 27:46

Äh, und die Fähigkeit, das System in Frage zu stellen.

27:47 – 27:52

Und dann, wenn man der Entwickler, der Ersteller, der Programmierer ist – also die Person, die sich direkt mit dem Code beschäftigt.

27:52 – 27:54

sind die Fragen am rhetorischsten.

27:54 – 27:57

Wo liegt die Macht im System?

27:57 – 28:05

Wenn ein Mensch in den Entscheidungsprozess eingebunden wäre und Stanislav Petrov entscheiden müsste, ob er eine Atomwaffe zünden soll oder nicht, wäre er dann tatsächlich in der Lage, Nein zu sagen?

28:05 – 28:08

Oder müsste er sich einfach an die Anweisungen der KI halten?

28:08 – 28:16

Wie entwirft man also ein System, bei dem der Mensch tatsächlich in den Entscheidungsprozess eingebunden ist, sodass Menschen aktiv mitwirken können?

28:16 – 28:22

Mein Ansatz dazu – und ich weiß, dass Anna bereits eine Einführung gegeben hat – ist, dass ich eine Organisation namens „Humane Intelligence“ leite.

28:22 – 28:34

Ich bin von Haus aus Statistiker und Sozialwissenschaftler, und was mich an der generativen KI interessiert, ist die Tatsache, dass jeder Einzelne diese Technologie in die Hand nehmen kann.

28:34 – 28:42

Und während meiner Zeit bei Accenture habe ich mich intensiv mit der Frage beschäftigt, was es bedeutet, den Menschen in den Prozess einzubeziehen („Human in the Loop“), und was es bedeutet, KI-Sicherheit zu gewährleisten.

28:42 – 28:50

KI-Sicherheit ist einfach die Fähigkeit, sagen zu können, dass dieses Produkt oder diese Technologie so funktionieren wird, wie ich es mir vorstelle und wie ich es versprochen habe.

28:50 – 28:51

Und bei Gen.

28:51 – 28:52

KI ist das tatsächlich wirklich, wirklich schwierig.

28:52 – 28:55

Wie setzt man das also innerhalb einer Organisation um?

28:55 – 28:58

Das ist ein Artikel, den wir 2020 zu diesem Thema verfasst haben.

28:58 – 29:09

Im Grunde geht es darum, klare und nachvollziehbare Prozesse zu haben, die Verantwortung zu verteilen sowie transparent zu sein und tatsächlich verantwortungsbewusster damit umzugehen, was das System leisten kann und was nicht.

29:10 – 29:16

Während meiner Zeit bei Twitter habe ich tatsächlich etwas ziemlich Radikales getan: Ich habe unseren Code zur öffentlichen Überprüfung freigegeben.

29:16 – 29:19

Nun ist das Konzept eines Bug-Bounty-Programms hier in der Cybersicherheit nichts Neues.

29:19 – 29:23

Aber ein algorithmisches Bug-Bounty-Programm gab es so noch nie zuvor.

29:23 – 29:27

Also haben wir unseren Code für die ganze Welt zugänglich gemacht und gesagt: Findet Probleme, und wir zahlen euch Geld.

29:27 – 29:31

Ich habe schließlich eine gemeinnützige Organisation gegründet – „Human Intelligence“ –, um diese Arbeit tatsächlich zu leisten.

29:31 – 29:40

Wir haben also mit einer Vielzahl von Organisationen, Regierungen, zivilgesellschaftlichen Gruppen und so weiter zusammengearbeitet, um solche „Bias-Bounty“-Programme durchzuführen.

29:41 – 29:44

Und das Neue, wofür ich bekannt bin, ist „Red Teaming“.

29:44 – 29:48

Also noch einmal: Wenn Sie aus dem Bereich Cybersicherheit kommen, ist „Red Teaming“ kein neues Konzept.

29:48 – 29:58

Aber das Verständnis für den Einsatz von „Red Teaming“ – nicht nur, um böswillige Akteure zu verstehen, sondern auch, um unbeabsichtigte Folgen zu erkennen, wenn sich Ihr System fehlerhaft verhält, obwohl dies nicht absichtlich geschehen ist –

29:58 – 30:00

Handlung eines Benutzers, ist tatsächlich ziemlich schwierig.

30:00 – 30:04

Und ich habe dieses Problem mit einer Methode angegangen, die ich als „strukturiertes öffentliches Feedback“ bezeichne.

30:04 – 30:10

Am bekanntesten bin ich wohl für diese Veranstaltung, bei der wir über 3.000 Teilnehmer auf der DEF CON hatten, der größten Cybersicherheitskonferenz

30:10 – 30:18

Konferenz der Welt, tatsächlich acht verschiedene KI-Modelle gehackt und analysiert haben und dabei eng mit den Modellbesitzern und den Unternehmen zusammengearbeitet haben.

30:18 – 30:20

Und das verstößt gegen die KI-Grundrechtecharta.

30:20 – 30:26

Ob diese Modelle nun personenbezogene Daten preisgeben würden oder nicht, ob sie Halluzinationen zeigen würden.

30:26 – 30:30

Wir haben bei dieser Arbeit mit der US-Regierung und der Biden-Regierung zusammengearbeitet.

30:30 – 30:32

Und das tun wir auch heute noch.

30:33 – 30:40

Und das Faszinierende daran ist, dass der Durchschnittsbürger – obwohl er diese Technologie in der Hand halten kann – immer weiter davon entfernt ist,

30:40 – 30:43

der Möglichkeit, Feedback darüber zu geben, ob sie funktioniert oder nicht.

30:43 – 30:46

Eines der Projekte, an denen wir gearbeitet haben, war die Zusammenarbeit mit den National Institutes of Standards and Technology.

30:46 – 30:50

Und wir haben dieses Konzept des „Red Teaming“ für jedermann in Amerika zugänglich gemacht.

30:50 – 30:52

Und das geschah tatsächlich im letzten Jahr.

30:52 – 31:00

So konnte eigentlich jeder in Amerika KI-Modelle einem „Red-Teaming“ unterziehen und dem NIST Feedback geben, um bessere Standards dafür zu schaffen, wie diese Technologie funktionieren sollte.

31:01 – 31:05

Und genau dafür setze ich mich ein – ich habe letztes Jahr einen TED-Vortrag über dieses Konzept des „Rechts auf Reparatur“ gehalten.

31:05 – 31:12

Und das „Red-Teaming“ ist ein Ausgangspunkt – diese Idee, einfach diese Wissensbasis und diesen Reflex bei den Menschen aufzubauen, damit sie sagen: „Hey, hier stimmt etwas nicht.“

31:12 – 31:13

Ich möchte mich melden.

31:13 – 31:15

Ich möchte darauf hinweisen können.

31:15 – 31:20

Das ist eigentlich nichts, worüber wir nachgedacht haben, es in unsere Technologie zu integrieren.

31:20 – 31:27

Wie kann man also KI nutzen, um Probleme positiv und produktiv zu lösen?

31:28 – 31:30

Und wie geht es nun weiter?

31:30 – 31:31

KI ist also ein Produktivitätswerkzeug, richtig?

31:31 – 31:32

Es ist also keine Zauberei.

31:32 – 31:33

Sie hat keine Absicht.

31:33 – 31:36

Es geht nicht darum, den Lehrer Ihres Kindes aus dem Klassenzimmer zu zerren.

31:36 – 31:41

Wenn man also darüber nachdenkt, KI zu entwickeln und einzusetzen, wie kann man dabei den Nutzer in den Mittelpunkt stellen, oder?

31:41 – 31:49

Wie gehen Sie also mit den Schwachstellen um – also damit, was KI gut kann und, was ebenso wichtig ist, was Menschen gut können – und wie lassen sich diese beiden Aspekte miteinander verbinden?

31:49 – 31:53

Und schließlich: Wie können Sie dieses System nutzen, um Probleme zu lösen?

31:53 – 31:57

Und noch einmal: Wenn wir über dieses Konzept des „Human in the Loop“ nachdenken, ist das nicht nur eine Floskel.

31:57 – 31:58

Es ist nicht nur ein Begriff.

31:58 – 32:00

Es ist das, was die Menschen heute fordern.

32:01 – 32:05

Wissen Sie, das Vertrauen in KI-Systeme ist auf einem Allzeittief.

32:05 – 32:10

Während meiner Zeit in der Biden-Regierung als Wissenschaftsbeauftragter hatte ich das Privileg, die ganze Welt zu bereisen.

32:10 – 32:20

Und Sie würden staunen, wie alle – von Stammesältesten in Fidschi bis hin zu den anspruchsvollsten jungen Menschen, die mit Gen. arbeiten –

32:20 – 32:20

KI arbeiten.

32:20 – 32:22

Sie alle haben dieselben Fragen.

32:22 – 32:28

Es gibt Fragen zum Datenschutz, zur Sicherheit und dazu, ob sie von Algorithmen beeinflusst oder manipuliert werden.

32:28 – 32:31

und ob sie böswillig gegen sie eingesetzt werden.

32:31 – 32:33

Jeder hat dieselben Fragen.

32:33 – 32:39

Wenn Sie also Vertrauen in die von Ihnen entwickelten Systeme aufbauen wollen, denken Sie zuerst an den Nutzer, nicht an die Technologie.

32:39 – 32:41

Vielen Dank für Ihre Zeit.

32:46 – 32:47

Vielen Dank, Herr Dr.

32:47 – 32:49

Chaldry, das war absolut fantastisch.

32:49 – 32:50

Wir freuen uns, dass Sie heute hier sind.

32:50 – 32:51

Vielen Dank.