Vertrauen – Der große Verschwindetrick (oder auch nicht)

Die wichtigsten Erkenntnisse

• Das Vertrauen verschwindet im Zeitalter der KI nicht – es entwickelt sich weiter.
• Unternehmen müssen KI kontinuierlich überprüfen, anstatt ihr standardmäßig zu vertrauen.
• Der Einsatz von KI sollte die Mitarbeiter stärken und nicht dazu führen, dass sie sich in die „Schatten-KI“ zurückziehen.
• Bei „Zero Trust“ geht es nicht darum, Menschen zu misstrauen. Es geht darum, Identitäten, Geräte und Handlungen kontinuierlich zu überprüfen.
• Eine verantwortungsvolle Einführung von KI erfordert die Zusammenarbeit von Technologie, Governance und Menschen.

Als wir „Ready. Or Not.“ ins Leben riefen, wollten wir eine Serie schaffen, die einige der derzeit wichtigsten Diskussionen rund um KI verständlicher macht. Indem wir den Komiker Nathan Macintosh mit Branchenexperten zusammenbringen, beleuchten wir Themen von agentischer KI über Cyber-Resilienz bis hin zum Datenmanagement – und würzen das Ganze dabei mit einer Prise Humor.

Wenn Sie unsere erste Folge über die Chancen und Risiken agentischer KI gesehen haben, wird Ihnen diese Folge sicher auch gefallen. Dieses Mal beschäftigen wir uns mit einem Thema, das im Mittelpunkt jeder Diskussion über KI steht: Vertrauen.

Nathan unterhält sich mit Diana Kelley, Chief Information Security Officer bei Protect AI, darüber, was es bedeutet, der Technologie zu vertrauen, wenn KI überzeugende gefälschte Inhalte erzeugen, Entscheidungen treffen und sogar Menschen imitieren kann. Von Deepfakes und Halluzinationen bis hin zu Zero-Trust und Shadow-AI erörtern sie, wie Unternehmen KI nutzen können, ohne das Vertrauen in ihre Mitarbeiter und Systeme zu verlieren.

Sehen Sie sich die gesamte Folge auf Readiverse an. Nach dieser Folge war ich optimistischer, als ich erwartet hatte. Nicht, weil KI plötzlich vertrauenswürdiger geworden wäre, sondern weil Diana uns zeigt, dass Vertrauen wächst, wenn Unternehmen die richtigen Richtlinien, Sicherheitsvorkehrungen und Technologien einführen. Hier sind einige Themen aus dem Gespräch, die KI in ein neues Licht rücken.

Vertrauen und Technologie können nebeneinander bestehen

Diana glaubt, dass Vertrauen im Zeitalter der KI möglich ist, aber anders aussehen wird. Wir haben Vertrauen schon immer durch Beziehungen zu Menschen aufgebaut. Jetzt lernen wir, wie wir dieses Vertrauen auf Systeme ausweiten können. Das bedeutet nicht, der Technologie blind zu vertrauen. Es bedeutet vielmehr, zu verstehen, wie KI funktioniert, ihre Grenzen zu erkennen und die richtigen Sicherheitsvorkehrungen zu treffen, damit Menschen und Technologie vertrauensvoll zusammenarbeiten können.

„Vertrauen muss sich an die neue Welt anpassen.“ – Diana Kelley

Was mich besonders angesprochen hat, war die Vorstellung, dass Vertrauen und Technologie nicht unbedingt im Widerspruch zueinander stehen müssen. Mit dem richtigen Ansatz können sie sich gegenseitig stärken.

Wir werden immer versierter im Umgang mit KI

Deepfakes sind zu einem der meistdiskutierten KI-Risiken geworden, und es ist leicht zu verstehen, warum. KI kann mittlerweile überzeugende Stimmen, Bilder und Videos erzeugen, die uns daran zweifeln lassen, was echt ist. Aber Diana wies darauf hin, dass KI zwar immer ausgefeilter wird, die Menschen aber auch klüger werden. Wir hinterfragen eher einen unerwarteten Anruf, schauen uns einen Social-Media-Beitrag genauer an oder halten inne, wenn uns etwas nicht ganz richtig erscheint.

Auch Unternehmen werden immer versierter. Da KI immer besser darin wird, sich als jemand anderes auszugeben, investieren Unternehmen in neue Methoden, um Identitäten kontinuierlich zu überprüfen und Informationen zu validieren. Meine Schlussfolgerung lautet: Die Technologie wird sich weiter verbessern, aber ebenso wird sich unsere Fähigkeit verbessern, sie zu erkennen und verantwortungsbewusst darauf zu reagieren.

„Ist heute ein guter Tag, um mit einem Deepfake anzufangen?“ – Nathan Macintosh

Verantwortungsbewusste KI ist gut fürs Geschäft

Diana nannte ein Beispiel, das vielen Unternehmen wahrscheinlich bekannt vorkommen wird. Eine Mitarbeiterin, die sie „Karen aus der Finanzabteilung“ nennt, beginnt, KI zu nutzen, weil sie ihr dabei hilft, eine Aufgabe in wenigen Minuten statt in mehreren Stunden zu erledigen. Karen versucht nicht, die Unternehmensrichtlinien zu umgehen – sie möchte lediglich produktiver arbeiten.

Mitarbeiter nutzen KI, weil sie darin einen echten Mehrwert sehen, und das ist eine Chance für Unternehmen. Wenn Mitarbeiter Zugang zu zugelassenen KI-Tools haben, die durch klare Richtlinien und praktische Anleitungen unterstützt werden, können sie effizienter arbeiten und gleichzeitig zum Schutz der Unternehmensdaten und -systeme beitragen.

Vorschau: Intelligentere Nutzung von KI

Das Ziel besteht nicht darin, Mitarbeiter davon abzuhalten, KI zu nutzen. Vielmehr soll sichergestellt werden, dass sie diese richtig einsetzen. Diana erläutert, wie Unternehmen den Einsatz von KI fördern können, ohne dabei unnötige Risiken einzugehen.

Zero Trust ist wichtiger denn je

„Wenn man versteht, wie die Dinge funktionieren, kann man anfangen zu verstehen, wie man sie steuert.“ – Diana Kelley

„Zero Trust“ ist eines jener Konzepte, die sich anhand einer Analogie viel leichter verstehen lassen. Diana hat dafür ein großartiges Beispiel. Sie beschreibt es als den Weg durch ein Gebäude. Nur weil man durch die Eingangstür gelassen wurde, heißt das noch lange nicht, dass sich jede weitere Tür automatisch für einen öffnet. Jedes Mal, wenn man einen neuen Raum betritt, gibt es eine weitere kurze Überprüfung, um sicherzustellen, dass man sich dort auch wirklich aufhalten darf.

So funktioniert „Zero Trust“ im Wesentlichen. Anstatt davon auszugehen, dass eine Person oder ein Gerät nach einer einmaligen Anmeldung vertrauenswürdig ist, überprüfen Unternehmen Identitäten, Geräte und Aktionen kontinuierlich, da die Technologien immer stärker vernetzt sind. Die meisten dieser Überprüfungen finden unbemerkt im Hintergrund statt. Was mir an Dianas Erklärung besonders gefallen hat, ist, dass „Zero Trust“ nicht wie ein weiteres Sicherheits-Schlagwort wirkt. Es erscheint mir vielmehr als ein praktischer Ansatz, um über Vertrauen in einer Welt nachzudenken, in der KI und digitale Identitäten zunehmend Teil des geschäftlichen Alltags werden.

Bei Vertrauen geht es um Menschen

Letztendlich schafft nicht die Technologie Vertrauen – sondern die Menschen. Menschen legen die Richtlinien, Prozesse und ethischen Grenzen fest, die den Einsatz von KI regeln, während die Technologie dabei hilft, zu überprüfen, ob diese Schutzmechanismen wie vorgesehen funktionieren. Es ist diese Partnerschaft zwischen Menschen und Technologie, die eine verantwortungsvolle KI erst möglich macht.

Vertrauen geht über unsere eigenen Organisationen hinaus. Unternehmen müssen Vertrauen in die Partner haben, mit denen sie zusammenarbeiten, in die Systeme, mit denen sie sich vernetzen, und in die Technologien, die sie einsetzen. Deshalb gewinnen Transparenz, gemeinsame Standards und kontinuierliche Überprüfung zunehmend an Bedeutung – ebenso wie die Innovation selbst. Je mehr KI zum Alltag in der Geschäftswelt wird, desto mehr wird Vertrauen zur Verantwortung aller.

Ausblick

Die KI wird sich weiterentwickeln, ebenso wie die Art und Weise, wie wir mit ihr interagieren. Erfolgreich werden nicht jene Unternehmen sein, die der KI blind vertrauen oder sie gänzlich meiden. Erfolgreich werden vielmehr jene sein, die solide Richtlinien festlegen, die richtigen Technologien einsetzen und die Systeme, auf die sie sich verlassen, kontinuierlich überprüfen.

Vertrauen ist nichts, was wir mit dem technologischen Fortschritt verlieren. Es ist etwas, das wir bewusst aufbauen und weiterentwickeln. Genau diese Art von Diskussion möchten wir mit jeder Folge von „Ready. Or Not.“ fortsetzen. Sehen Sie sich die gesamte Folge auf Readiverse an.

FAQs

F: Was versteht man unter digitalem Vertrauen?

A: Digitales Vertrauen ist die Gewissheit, dass Personen, Systeme und Organisationen tatsächlich die sind, für die sie sich ausgeben, und dass sie sich wie erwartet und auf sichere Weise verhalten. Es verbindet Technologie, Governance und Verifizierung, um Organisationen dabei zu unterstützen, sicher miteinander zu interagieren.

F: Was sind Deepfakes?

A: Deepfakes sind durch künstliche Intelligenz erzeugte Bilder, Videos oder Tonaufnahmen, die darauf ausgelegt sind, echte Personen originalgetreu nachzuahmen. Zwar gibt es legitime Anwendungsbereiche dafür, doch können sie auch dazu missbraucht werden, sich als andere Personen auszugeben oder Betrug zu begehen.

F: Was ist „Zero Trust“?

A: „Zero Trust“ ist ein Sicherheitsmodell, das auf kontinuierlicher Überprüfung statt auf automatischem Vertrauen basiert. Anstatt davon auszugehen, dass ein Nutzer oder ein Gerät nach einer einmaligen Anmeldung vertrauenswürdig ist, überprüfen Unternehmen Identitäten und Handlungen kontinuierlich.

F: Was ist „Shadow AI“?

A: Der Begriff „Shadow AI“ bezeichnet die Nutzung von KI-Tools durch Mitarbeiter, die von ihrem Unternehmen weder genehmigt noch reguliert wurden. Auch wenn dies oft in guter Absicht geschieht, kann dies zu Risiken in Bezug auf Sicherheit, Datenschutz und Compliance führen.

F: Warum sollten Unternehmen KI-Tools nicht einfach blockieren?

A: Mitarbeiter setzen KI in der Regel ein, weil sie ihnen hilft, effizienter zu arbeiten. Anstatt KI pauschal zu verbieten, sollten Unternehmen zugelassene Tools bereitstellen, klare Richtlinien festlegen und die Mitarbeiter im verantwortungsvollen Umgang damit schulen.

F: Was ist die wichtigste Erkenntnis aus dieser Folge?

A: Das Vertrauen verschwindet nicht wegen der KI – es entwickelt sich weiter. Unternehmen, die Menschen, Richtlinien und Technologie mit kontinuierlicher Überprüfung kombinieren, sind besser aufgestellt, um KI selbstbewusst und verantwortungsvoll einzusetzen.

Katherine Demacopoulos ist Senior Director für globale Inhaltsstrategie und Programme bei Commvault.