Es ist leicht, über KI so zu sprechen, als sei die Zukunft bereits vorbestimmt. KI wird die Arbeitswelt verändern. KI wird Arbeitsplätze ersetzen. KI wird ganze Branchen umgestalten. Dabei wird davon ausgegangen, dass sich die Technologie einfach weiterentwickelt und wir anderen nur mitlaufen. Aber was, wennDie Zukunft der KIvielleicht gar nicht so vorbestimmt ist, wie es scheint?
In dieser Folge vonâBereit. Oder nicht.â(S2:E3) Unterhält sich Nathan Macintosh mit der Cybersicherheits- und KI-Strategin Camille Stewart Gloster, deren Erfahrung vom Weißen Haus über das Ministerium für Innere Sicherheit und Google bis hin zur nationalen Cybersicherheitspolitik reicht. Gemeinsam beleuchten sie eine andere Perspektive, die einige der gängigsten Annahmen in Bezug auf KI heute in Frage stellt.
Sehen Sie sich die gesamte Folge auf Readiverse an.
Die wichtigsten Erkenntnisse
- Unternehmen haben mehr Einfluss auf die Zukunft der KI, als ihnen vielleicht bewusst ist.
- KI entwickelt sich rasant weiter, doch Organisationen haben nach wie vor ein Mitspracherecht dabei, wie sie eingesetzt, gesteuert und als vertrauenswürdig eingestuft wird.
- Sicherheit ist untrennbar mit einer KI-Strategie verbunden. Sie trägt dazu bei, KI zuverlässig, kontrollierbar und effektiv zu gestalten.
- KI-Agentensollten eher wie digitale Mitarbeiter denn wie Software-Tools verwaltet werden.
- Viele Unternehmen haben Schwierigkeiten, mit KI aussagekräftige Ergebnisse zu erzielen, weil sie diese lediglich in bestehende Prozesse integrieren, anstatt diese neu zu gestalten.
Die Diskussion um KI neu gestalten
Camille argumentiert, dass KI-Technologien zwar weiter voranschreiten werden, die Ergebnisse, die sie hervorbringen, jedoch keineswegs vorbestimmt sind. Die Entscheidungen, die Unternehmen in Bezug aufSteuerung, Sicherheit und Verantwortung treffen, werden maßgeblich darüber mitentscheiden, wie es weitergeht.
Wie Nathan zu Beginn des Gesprächs anmerkt:
„Du bist bisher die einzige Person in dieser ganzen Serie, die den Satz ‚KI ist nicht unvermeidlich‘ verwendet hat.“– Nathan Macintosh
Es ist eine einfache Feststellung, doch sie rückt die Diskussion über die Zukunft der KI in einen neuen Rahmen. Anstatt zu fragen, was die KI mit uns machen wird, fragt Camille, welche Rolle wir bei der Gestaltung der Zukunft spielen wollen.
Ihre Entscheidungen sind entscheidend
Im Mittelpunkt dieses Gesprächs steht Camilles Überzeugung, dass KI ist nicht unvermeidlich. Ihr Argument lautet nicht, dass KI-Technologien verschwinden könnten. Tatsächlich sind viele KI-Fähigkeiten bereits in die Software und Dienste integriert, die wir täglich nutzen.
Was nicht unvermeidlich ist, so argumentiert sie, sind die Annahmen, die wir bereits über die Zukunft treffen.
„Ihr habt viel mehr Kontrolle, als euch bewusst ist.“
– Camille Stewart Gloster
Diskussionen über KI konzentrieren sich oft darauf, was die Technologie leisten kann, während den Entscheidungen, die Menschen, Organisationen und Regierungen treffen können, weitaus weniger Aufmerksamkeit geschenkt wird. Für Führungskräfte in den Bereichen Sicherheit und Technologie bedeutet dies, den Schwerpunkt der Diskussion von Vorhersagen auf Verantwortung zu verlagern. Anstatt sich zu fragen, wie sich KI entwickeln wird, sollten sich Organisationen auf die Systeme konzentrieren, die sie aufbauen, auf die Risiken, die sie damit einführen, und darauf, wer zur Rechenschaft gezogen wird, wenn etwas schiefgeht.
Camilles Sichtweise macht deutlich, dass die wichtigsten Entscheidungen im Bereich der KI möglicherweise weniger mit Algorithmen zu tun haben als vielmehr mit den Menschen, die für deren Umsetzung verantwortlich sind.
Sicherheit macht KI möglich
Camille weist darauf hin, dass Sicherheit und KI-Strategie eng miteinander verbunden sind. Nicht nur im herkömmlichen Sinne, nämlich Systeme vor Hackern zu schützen oder Datenlecks zu verhindern, sondern auch im Hinblick darauf, zu verstehen, wie sich Agenten verhalten, welche Informationen sie nutzen und welche Aktionen sie ausführen dürfen.
Beim Einsatz von KI geht es nicht nur darum, eine neue Funktion hinzuzufügen. Es geht darum, zu verstehen, wie diese Funktion das Risikoprofil des Unternehmens verändert.
„Jedes Unternehmen, das darüber nachdenkt, wie es seine Investitionen in KI optimieren kann, muss in sein Sicherheitsteam investieren.“
– Camille Stewart Gloster
Wie Camille erklärt, führen Unternehmen neue Akteure in ihre Umgebungen ein und sollten diese KI-Agenten eher als Mitarbeiter denn als Software betrachten. Wenn ein Unternehmen eine Person einstellt, definiert es Verantwortlichkeiten, richtet Kontrollmechanismen ein und schafft Maßnahmen zur Rechenschaftspflicht. Das Gleiche sollte für KI-Agenten gelten.
Während des gesamten Gesprächs stellt Camille Sicherheit nicht als etwas dar, das Innovation bremst. Stattdessen sieht sie darin den Faktor, der Innovation nachhaltig macht. Da Agenten immer mehr Verantwortung übernehmen, benötigen Unternehmen eine Möglichkeit, sie zu verstehen und zu steuern. In diesem Sinne geht es bei Sicherheit nicht nur um Risikominderung. Sie gibt Unternehmen das Vertrauen, KI in großem Maßstab einzuführen.
Vorschau: Die neue Sicherheitsphilosophie
Camille möchte den Fokus der Sicherheit über die bloße Verhinderung von Sicherheitsverletzungen hinaus erweitern. In diesem Clip erklärt sie, warum die Kontrolle und das Verständnis von KI-Systemen genauso wichtig sind wie deren Einsatz an sich.
KI ist keine schnelle Lösung
Viele Unternehmen investieren massiv in KI, doch diese Investitionen führen nicht automatisch zu Ergebnissen. Laut Camille liegt ein Grund dafür darin, dass Unternehmen neue Technologien oft einfach auf alte Arbeitsweisen aufsetzen, anstatt einen durchdachteren Ansatz zu verfolgen.
„Der beste Weg, um aus Investitionen in KI einen Mehrwert zu erzielen, ist wahrscheinlich die Neugestaltung eines Prozesses.“
– Camille Stewart Gloster
Camille betont, dass KI am effektivsten ist, wenn sie Teil einer umfassenderen Transformationsinitiative ist. Anstatt nach Möglichkeiten zu suchen, KI in einzelne Aufgaben zu integrieren, sollten Unternehmen die Arbeitsabläufe untersuchen und ermitteln, wo der Prozess selbst neu gestaltet und verbessert werden kann.
Sie merkt außerdem an, dass Unternehmen häufig den Aufwand unterschätzen, der für eine erfolgreiche Einführung von KI erforderlich ist. Der wahre Mehrwert entsteht nicht nur durch die Technologie selbst, sondern durch die betrieblichen Veränderungen, die sie unterstützt.
Die vielleicht wichtigste Erkenntnis ist, dass KI selten die alleinige Lösung ist. Die wahre Chance liegt darin, neue Technologien mit durchdachten Änderungen an Prozessen und Arbeitsabläufen zu kombinieren, damit KI Teil von etwas Größerem werden kann als KI selbst. als KI selbst.
Bereit für ein bisschen Optimismus?
Diskussionen über KI schwanken oft zwischen zwei Extremen. Entweder wird KI alle Probleme lösen, oder sie wird unsere Lebens- und Arbeitsweise komplett auf den Kopf stellen. Camille bietet eine positive Perspektive.
Im Laufe der Folge betont sie, dass Unternehmen mehr Einfluss auf die Zukunft der KI haben, als ihnen vielleicht bewusst ist. Die Zukunft der KI wird von den Entscheidungen geprägt, die Unternehmen in Bezug auf Sicherheit, Governance, Verantwortlichkeit und Vertrauen treffen. Die Zukunft der KI wird von den Entscheidungen geprägt, die Unternehmen in Bezug auf Sicherheit, Governance, Verantwortlichkeit und Vertrauen treffen.
Das deckt sich auch mit einem immer wiederkehrenden Thema vonâBereit. Oder nicht.âBereit zu sein bedeutet nicht, die Zukunft vorherzusagen. Es geht darum, wohlüberlegte Entscheidungen zu treffen, die einem helfen, sich darin zurechtzufinden.
Die KI wird sich weiterentwickeln, und es werden neue Chancen und Risiken entstehen. Doch wie Camille uns in Erinnerung ruft, haben Unternehmen mehr Einfluss auf die Zukunft der KI, als ihnen manchmal bewusst ist. Und das ist eine viel konstruktivere Art, über die Zukunft der KI nachzudenken.
Sehen Sie sich die gesamte Folge auf Readiverse an.
FAQs
F: Was meint Camille, wenn sie sagt: „KI ist nicht unvermeidlich“?
A:Camille will damit sagen, dass sich KI-Technologien zwar weiterentwickeln werden, die damit verbundenen sozialen, wirtschaftlichen und organisatorischen Folgen jedoch nicht vorbestimmt sind. Führungskräfte, politische Entscheidungsträger und Unternehmen haben nach wie vor erheblichen Einfluss darauf, wie KI eingesetzt, gesteuert und reguliert wird. Die Zukunft wird durch menschliche Entscheidungen geprägt, nicht allein durch Technologie.
F: Warum vergleicht Camille KI-Agenten mit Mitarbeitern?
A:KI-Agenten führen zunehmend Handlungen aus, greifen auf Systeme zu, verarbeiten Informationen und treffen Entscheidungen im Namen von Organisationen. Aus diesem Grund benötigen sie viele der gleichen Schutzmaßnahmen, die Unternehmen auch für menschliche Mitarbeiter anwenden, darunter Rollendefinition, Aufsicht, Berechtigungsmanagement, Rechenschaftspflicht und kontinuierliche Überwachung.
F: Warum gewinnt Sicherheit mit zunehmendem Einsatz von KI an Bedeutung?
A:Da KI-Systeme Zugriff auf Daten, Anwendungen und Geschäftsprozesse erhalten, benötigen Unternehmen Möglichkeiten, deren Verhalten zu kontrollieren und zu überwachen. Sicherheitsteams helfen dabei, Governance-Regeln festzulegen, Schutzmaßnahmen zu implementieren, Transparenz über die Aktivitäten der Agenten zu schaffen und sicherzustellen, dass KI-Systeme innerhalb definierter Grenzen arbeiten. Ohne diese Kontrollen können die mit autonomen Systemen verbundenen Risiken erheblich steigen.
F: Warum erzielen manche Unternehmen keine nennenswerten Ergebnisse mit KI?
A:Laut Camille fügen viele Unternehmen KI lediglich in bestehende Prozesse ein, anstatt Arbeitsabläufe im Hinblick auf neue Fähigkeiten neu zu gestalten. Echter Mehrwert entsteht oft dadurch, dass man die Art und Weise, wie Arbeit erledigt wird, überdenkt, Möglichkeiten zur Skalierung erfolgreicher KI-gestützter Praktiken identifiziert und in die betrieblichen Veränderungen investiert, die für eine langfristige Einführung erforderlich sind.
F: Was sind Laufzeit-Sicherheitsmaßnahmen und warum sind sie wichtig?
A:Laufzeit-Sicherheitsmaßnahmen sind Kontrollmechanismen, die es Unternehmen ermöglichen, das Verhalten von Agenten während der Ausführung von Aktionen zu überwachen und zu bewerten. Anstatt sich ausschließlich auf statische Regeln zu verlassen, bieten diese Sicherheitsmaßnahmen die Möglichkeit, Entscheidungen zu überprüfen, bei Bedarf einzugreifen und Aktionen an Menschen weiterzuleiten, bevor Probleme auftreten. Sie helfen Unternehmen dabei, Autonomie und Verantwortlichkeit in Einklang zu bringen.
F: Was ist die wichtigste Erkenntnis aus dieser Folge?
A:KI-Strategie und Sicherheitsstrategie können nicht länger als getrennte Themen behandelt werden. Die Unternehmen, die mit KI erfolgreich sind, sind oft diejenigen, die Innovation mit Governance verbinden und es den Akteuren ermöglichen, Mehrwert zu schaffen, während gleichzeitig sichergestellt wird, dass Menschen für die Ergebnisse verantwortlich bleiben. So lassen sich nicht nur Risiken reduzieren. So schafft man Vertrauen in die Technologie selbst.
Katherine Demacopoulos istSenior Director für globale Inhaltsstrategie und Programme bei Commvault.