Der Sturm ist bereits da: Was „Mythos“ für Ihre Resilienzstrategie bedeutet | Blog

Die wichtigsten Erkenntnisse

Mythos wird die Erkennung von Sicherheitslücken wahrscheinlich in einem Ausmaß und mit einer Geschwindigkeit beschleunigen, die herkömmliche, von Menschen gesteuerte Behebungsabläufe übertreffen.
Grundlegende Sicherheitsmaßnahmen wie das Installieren von Patches, Backups in isolierten Netzwerken und ein konsequentes Schwachstellenmanagement sind nach wie vor von entscheidender Bedeutung, reichen jedoch allein möglicherweise nicht mehr aus.
Die größte Herausforderung besteht darin, den Schwerpunkt von der Erkennung auf die Handlungsfähigkeit zu verlagern, da das Ausmaß der Sicherheitslücken die derzeitigen operativen Grenzen sprengt.
Die Ausfallsicherheit von KI hängt von der Fähigkeit ab, kohärente Systeme – und nicht nur Daten – über Modelle, Pipelines und Berechtigungen hinweg wiederherzustellen.
Unternehmen, die sich in dieser frühen Phase proaktiv anpassen, dürften deutlich besser aufgestellt sein als solche, die mit Maßnahmen zögern.

Vor einigen Wochen befand ich mich in einem Raum mit einer Gruppe von CIOs und CISOs, als das Gespräch auf Mythos und Project Glasswing kam. Die Begeisterung war sofort spürbar – das sind Leute, die schon viele Hype-Zyklen miterlebt haben, und dieses Thema weckte ihr Interesse. Die Reaktionen teilten sich in zwei Lager. Erstens: Die Bedrohungskategorien sind nicht neu – Unternehmen mit einem soliden Schwachstellenmanagement und vertrauenswürdigen, isolierten Backups werden besser aufgestellt sein als solche ohne. Zweitens: Die Geschwindigkeit ist anders – nicht nur, was Mythos aufspüren kann, sondern auch, wie schnell böswillige Akteure KI für Angriffe in Maschinen Geschwindigkeit nutzen könnten und wie sich das auf die Berechnungen auswirkt, auf denen die meisten Schwachstellenmanagement-Programme basieren. Beide hatten recht. Genau das machte das Gespräch so interessant, dass es sich lohnte, darüber zu schreiben.

Was sich bei Mythos ändert – und was nicht

Mythos ist das KI-Modell von Anthropic zur autonomen Erkennung von Sicherheitslücken. Es kann kritische Exploits auf allen gängigen Betriebssystemen aufspüren und miteinander verknüpfen – und das mit einer Erfolgsquote, die in diesem Bereich bislang wohl beispiellos ist.

Das Projekt Glasswing – ein Konsortium von Unternehmen, das ins Leben gerufen wurde, um ihre Systeme zu testen und abzusichern, bevor „Mythos“ oder ähnliche Fähigkeiten in die Hände von Gegnern gelangen – ist das Signal dafür, dass dies Realität ist, dass es bereits da ist und dass das Zeitfenster, um dem einen Schritt voraus zu sein, klein ist. Die „Fundamentals-first“-Sichtweise gilt nach wie vor: Patches sind wichtig, praktisch isolierte Backups sind wichtig, Disziplin beim Schwachstellenmanagement ist wichtig. Nichts davon ändert sich mit Mythos. Was sich ändert, ist die Produktionsrate auf der anderen Seite dieser Programme. Nach dem Fall „Glasswing“ geht es nicht mehr darum, ob Sie über ein Schwachstellenmanagement-Programm verfügen. Die Frage ist vielmehr, ob dieses Programm für vereinzelte Befunde – oder für eine Flutwelle – ausgelegt ist. Die meisten Programme wurden für den tröpfchenweisen Zustrom entwickelt. Regelmäßige Bewertungen, CVSS-basierte Priorisierungswarteschlangen, Patch- und Testzyklen, die in Wochen gemessen werden. Dieser Rhythmus war sinnvoll, als das Tempo der Entdeckung noch mit dem Tempo menschengesteuerter Prozesse übereinstimmte. Fähigkeiten der Mythos-Klasse widerlegen diese Annahme – das Volumen ausnutzbarer Befunde kann das übersteigen, was die meisten Unternehmen mit ihren heutigen Workflows verarbeiten können. Das Problem ist nicht die Erkennung. Es geht um die Handlungsfähigkeit – und darum, was passiert, wenn sich die Lücke zwischen Entdeckung und Behebung schneller vergrößert, als man sie schließen kann.

Wenn Prävention in den Hintergrund rückt, gewinnt Resilienz an Bedeutung

Wenn die Zeitfenster für Präventionsmaßnahmen immer knapper werden, rückt die Frage nach der Widerstandsfähigkeit in den Vordergrund. Wenn man nicht garantieren kann, dass alle Sicherheitslücken geschlossen sind, bevor sie ausgenutzt werden – und das ist zunehmend der Fall –, verschieben sich die entscheidenden Fragen: Wie schnell erkennt man einen Angriff? Wie grenzt man ihn ein? Und wenn man den Normalzustand wiederherstellt: Wie sieht dieser Zustand genau aus?

Diese letzte Frage ist schwieriger, als es klingt, insbesondere für Unternehmen mit progressiven agentenbasierten Interaktionen. Ein KI-System besteht nicht nur aus Daten. Es ist eine Modellversion, eine Trainingspipeline, eine Vektordatenbank, eine Reihe von Agentenidentitäten und Berechtigungen – all dies muss denselben Betriebszustand widerspiegeln, um etwas zu bilden, dem man tatsächlich vertrauen kann. Die meisten Organisationen sind in der Lage, einzelne Komponenten wiederherzustellen. Nur sehr wenige können jedoch nachweisen, dass das, was sie wiederhergestellt haben, ein zusammenhängendes Ganzes bildet.

Die Wiederherstellung eines KI-Systems ist kein Problem der Datenwiederherstellung. Es ist ein Problem der Kohärenz – und genau in dieser Kluft zwischen beiden Aspekten liegen derzeit die größten Risiken für die meisten Unternehmen. Dies ist der rote Faden, der Mythos mit der breiteren Debatte über die Widerstandsfähigkeit von KI verbindet. Es ist nicht so, dass Mythos eine neue Art von Risiko mit sich bringt, die einen neuen Rahmen erfordert.

Mythos verkürzt die Zeitachse derart, dass bestehende Lücken schneller zutage treten und weniger Zeit bleibt, diese zu schließen, bevor etwas schiefgeht. Dadurch steigt die Wahrscheinlichkeit, dass etwas schiefgeht, bevor eine Organisation Schwachstellen angemessen beheben kann.

Das Fenster ist offen. Das wird nicht so bleiben.

Glasswing wurde entwickelt, um den Verteidigern einen Vorsprung zu verschaffen. Die Organisationen, die dieses Zeitfenster bewusst nutzen – indem sie ihre Schwachstellenprogramme auf ihre Belastbarkeit hin testen, ihre KI-Resilienz-Infrastruktur so weit ausbauen, dass sie verteidigungsfähig ist, und die Wiederherstellung als etwas betrachten, das bereits vor einem Vorfall nachweisbar sein muss und nicht erst währenddessen aufgebaut wird –, werden sich in einer wesentlich besseren Position befinden als diejenigen, die abwarten. Die grundlegenden Fakten gelten nach wie vor. Neu ist jedoch die Dringlichkeit.

„The Agentic Enterprise: Warum KI-Resilienz ein System of Record erfordert“ – der neueste Readiness-Bericht von Commvault – untersucht die Lücken in der Infrastruktur für KI-Resilienz, die darüber entscheiden, ob Unternehmen die schwierigen Fragen zur Wiederherstellung beantworten können, wenn das Tempo der Bedrohungen dies erfordert.

FAQs

F: Was ist Mythos und warum ist es von Bedeutung?

A: Mythos ist ein KI-Modell, das für die autonome Erkennung von Sicherheitslücken entwickelt wurde und in der Lage ist, Exploits systemübergreifend mit beispielloser Geschwindigkeit zu identifizieren und miteinander zu verknüpfen. Seine Bedeutung liegt darin, dass es den Zeitrahmen zwischen der Entdeckung einer Sicherheitslücke und ihrer potenziellen Ausnutzung verkürzt und damit den Druck auf die Verteidiger erhöht.

Frage: Verändert Mythos die Grundlagen der Cybersicherheit?

A: Nein, grundlegende Maßnahmen wie das Installieren von Patches, Backups und das Schwachstellenmanagement sind nach wie vor wichtig. Was sich ändert, sind das Ausmaß und die Geschwindigkeit der Bedrohungen, was die bestehenden Prozesse unter Druck setzt, die für langsamere, besser vorhersehbare Arbeitsabläufe konzipiert wurden.

F: Warum könnten aktuelle Programme zum Schwachstellenmanagement Schwierigkeiten bereiten?

A: Viele Programme wurden für einen stetigen Strom an Befunden konzipiert, nicht für den durch KI-gestützte Erkennung ermöglichten sprunghaften Anstieg. Infolgedessen sehen sich Unternehmen mit einer wachsenden Lücke zwischen der Identifizierung von Schwachstellen und deren tatsächlicher Behebung konfrontiert.

F: Was bedeutet „Resilienz“ im Zusammenhang mit KI-Systemen?

A: Resilienz geht über die Wiederherstellung von Daten hinaus – sie umfasst die Wiederherstellung eines gesamten KI-Systems in einem kohärenten, vertrauenswürdigen Zustand. Dazu gehört, dass Modelle, Trainingspipelines, Vektordatenbanken und Zugriffskontrollen korrekt aufeinander abgestimmt sind.

Frage: Warum gewinnt die Genesung gegenüber der Prävention zunehmend an Bedeutung?

A: Da sich die Zeitfenster für Präventionsmaßnahmen aufgrund schnellerer Ausnutzung von Sicherheitslücken verkürzen, wird es zunehmend unrealistisch, alle Schwachstellen rechtzeitig zu beheben. Daher verlagert sich der Fokus darauf, wie schnell Unternehmen Vorfälle erkennen, eindämmen und die Folgen beheben können.

F: Wie können sich Organisationen darauf vorbereiten?

A: Unternehmen können ihre Prozesse zum Schwachstellenmanagement einem Stresstest unterziehen, ihre Resilienz-Infrastruktur modernisieren und ihre Wiederherstellungsfähigkeiten überprüfen. Ein frühzeitiges Handeln verschafft einen bedeutenden strategischen Vorteil.

Tim Zonca ist Vizepräsident für Portfoliomanagement bei Commvault.

More related posts

Thumbnail_Blog-Anthropic-Project-ResOps-2026

Die wichtigsten Erkenntnisse

Agentische KI birgt neue Sicherheitsrisiken, da sie systemübergreifend plant, sich Dinge merkt und handelt, anstatt nach einem einzigen Prompt-Antwort-Zyklus aufzuhören.
Verfälschte Trainingsdaten können das Modellverhalten im großen Maßstab unbemerkt beeinflussen, selbst wenn das Modell bei Standardtests noch eine normale Leistung zu erbringen scheint.
Kompromittierte Vektordatenbanken können die Entscheidungen von Agenten beeinflussen, indem sie den Kontext verfälschen, auf den sich das Modell stützt, wodurch unerwünschtes Verhalten als legitim erscheint.
Die Identität unkontrollierter Agenten führt zu einem Problem bei der Zugriffskontrolle in Maschinen-Geschwindigkeit, für dessen Bewältigung herkömmliche, auf den Menschen ausgerichtete Identitätssysteme nicht ausgelegt sind.
Auf fehlerhaften Zuständen basierende, aufeinander aufbauende Entscheidungen können zu Fehlern in mehreren Agenten und Arbeitsabläufen führen, was ein Zurücksetzen und die Wiederherstellung erheblich erschwert.

Die Tools, Kontrollmechanismen und Governance-Richtlinien, über die die meisten Unternehmen verfügen, wurden für Systeme entwickelt, die Fragen beantworten – Abruf-Tools, Copiloten, generative Assistenten. Systeme, die auf eine Eingabe reagieren und dann aufhören. Wenn etwas schiefging, war der Fehler isoliert. Man korrigierte die Eingabe, passte die Konfiguration an und machte weiter.

Agentische KI funktioniert nicht auf diese Weise. Diese Systeme planen, merken sich und führen Aufgaben unternehmensweit aus, ohne schrittweise Anweisungen durch Menschen zu benötigen. Sie behalten den Systemzustand bei. Sie koordinieren sich mit anderen Agenten. Sie agieren in Produktionssystemen – schreiben in Datenbanken, lösen Workflows aus, treffen Entscheidungen mit maschineller Geschwindigkeit. Dieser architektonische Wandel bringt vier Bedrohungsvektoren mit sich, für deren Abwehr bestehende Sicherheitskonzepte nie ausgelegt waren. Wenn Ihre KI-Governance-Strategie diese nicht berücksichtigt, bestehen bei Ihnen wahrscheinlich Sicherheitslücken, die Sie möglicherweise gar nicht erkennen.

1. Verfälschte Trainingsdaten

Ein KI-System ist nur so vertrauenswürdig wie die Daten, mit denen es trainiert wurde. Diese Aussage war schon immer wahr. Was sich geändert hat, ist die Angriffsfläche.

Bei agentenbasierten KI-Implementierungen sind die Trainingspipelines umfangreicher, komplexer und häufig aus mehreren Quellen zusammengesetzt – interne Daten, Feeds von Drittanbietern, von Anbietern bereitgestellte Datensätze. Jede Abhängigkeit in dieser Kette ist ein potenzieller Einbruchspunkt. Ein böswilliger Akteur, der Trainingsdaten beeinflussen kann – durch Kompromittierung der Lieferkette, Insiderzugriff oder Verunreinigung einer gemeinsam genutzten Datenquelle –, kann das Modellverhalten in großem Maßstab steuern. Was dies besonders gefährlich macht, ist die Tatsache, dass manipulierte Modelle bei Standard-Benchmarks oft normale Ergebnisse liefern. Die Manipulation kann äußerst präzise sein: Sie zielt darauf ab, in bestimmten Kontexten bestimmte Ergebnisse zu erzeugen, während sich das Modell ansonsten korrekt verhält.

Wenn der Effekt erst in der Produktion zutage tritt, ist das Modell bereits seit Wochen oder Monaten im Einsatz, und um die Verunreinigung bis zu ihrer Quelle zurückzuverfolgen, bedarf es genau jener relationalen Datenherkunftsdaten, über die die meisten Unternehmen nicht verfügen. Die Frage, die man sich stellen muss: Können Sie eine vollständige, überprüfbare Aufzeichnung darüber vorlegen, mit welchen Daten Ihre Modelle zu einem bestimmten Zeitpunkt trainiert wurden?

2. Kompromittierte Vektordatenbanken

Vektordatenbanken bilden die Speicherebene agentenbasierter Systeme. Bevor ein Agent handelt, fragt er einen Vektorspeicher ab, um relevante Kontextinformationen – vergangene Interaktionen, Fachwissen, Referenzdaten – abzurufen, die sein weiteres Vorgehen bestimmen. Die meisten Sicherheitsteams betrachten Vektordatenbanken nicht auf dieselbe Weise wie andere Speicherorte für sensible Daten. Das sollten sie aber tun. Eine kompromittierte Vektordatenbank liefert nicht nur falsche Antworten. Sie beeinflusst auch die darauf folgenden Entscheidungen. Eingeschleuste Embeddings – bösartige Inhalte, die in den Vektorspeicher eingefügt wurden – können das Verhalten des Agenten so umleiten, dass es von außen betrachtet völlig legitim erscheint.

Ein Agent, der aufgefordert wird, eine Transaktion zu genehmigen, ruft Kontext ab, der die Genehmigungskriterien subtil umdeutet. Ein Agent, der die Kundenkommunikation verwaltet, ruft Kontext ab, der die Antworten in die vom Angreifer bevorzugte Richtung lenkt. Die Aktion sieht korrekt aus. Die Argumentation wirkt stichhaltig. Aber der zugrunde liegende Kontext wurde manipuliert.

Dieser Angriffsvektor ist besonders schwer zu erkennen, da er unterhalb der Modellebene abläuft. Eine standardmäßige Modellüberwachung kann ihn nicht aufdecken. Das Modell verhält sich genau so, wie es trainiert wurde – nur der Kontext, auf dessen Grundlage es seine Schlussfolgerungen zieht, wurde verfälscht. Die Frage, die Sie sich stellen sollten: Wird Ihre Vektordatenbank als sensible, regulierte Datenressource behandelt – mit Zugriffskontrollen, Integritätsüberwachung und Protokollierung von Prüfungen, die mit denen Ihrer wichtigsten Produktionsdatenbanken vergleichbar sind?

3. Identität eines nicht regulierten Akteurs

In einer Multi-Agenten-Architektur interagieren Agenten nicht nur mit Daten – sie interagieren auch miteinander. Sie erzeugen Unteragenten, delegieren Aufgaben, fordern Ergebnisse an und führen Ergebnisse von Agenten zusammen, mit denen sie nie explizit verbunden waren. Dazu authentifizieren sie sich, legen Berechtigungsnachweise vor und bauen Vertrauen auf.

Die Agentenidentität ist die Zugriffskontrollschicht für das autonome Unternehmen – und sie stellt eine Lücke dar, die Anbieter von Identitätssicherheit und Identitätsanbieter (IDPs) nicht schließen. Ihre Governance-Rahmenwerke sind auf die Identität von Menschen ausgelegt.

Agentenidentitäten, die im Rahmen derselben Regeln erstellt wurden, erscheinen völlig legitim: Sie wurden korrekt bereitgestellt und entsprechen den Richtlinien. Das IDP versagt nicht – es verfügt lediglich über kein Rahmenwerk, um festzustellen, ob ein Agent außerhalb des Kontexts handelt, für den er erstellt wurde, ob seine Berechtigungen unbemerkt erweitert wurden oder ob er sich an Stellen einbringt, an denen er nichts zu suchen hat.

Diese Sicherheitslücke unterscheidet sich qualitativ von herkömmlichen Angriffen auf Anmeldedaten. Wenn die Anmeldedaten eines menschlichen Nutzers gestohlen werden, agiert der Angreifer im Rahmen der Berechtigungen dieses Nutzers und in menschlichem Tempo. Wenn die Identität eines Agenten kompromittiert wird, erhält der Angreifer Zugriff auf die autonome Entscheidungsebene – die Fähigkeit, Arbeitsabläufe auszulösen, Aktionen zu genehmigen, sich mit anderen Agenten abzustimmen und Daten in maschineller Geschwindigkeit und in großem Umfang über Kanäle zu exfiltrieren, die völlig normal erscheinen.

Ausfälle auf der Identitätsebene gehören zudem zu denjenigen, die im Nachhinein am schwersten zu erkennen sind. Aktionen eines Agenten, die unter einer kompromittierten Identität ausgeführt werden, wirken nicht anomal – sie sehen aus wie legitimes Agentenverhalten. Und da sie von einem System und nicht von einem Menschen generiert werden, kann das Ausmaß enorm sein, bevor es jemand bemerkt.

Die Recovery verschärft das Problem noch. Die meisten KI-Recovery-Szenarien konzentrieren sich auf die Wiederherstellung von Daten: Trainingsdatensätze, Modellgewichte, Pipeline-Konfigurationen. Die Identität steht selten auf der Liste. Ein System, das mit sauberen Daten, aber falsch ausgerichteten Identitätskonfigurationen wiederhergestellt wird, ist eigentlich nicht wiederhergestellt. Es ist ein sauberes System mit einer kompromittierten Zugriffsebene. Die Frage, die man sich stellen muss: Wird die Identität von Agenten mit derselben Sorgfalt verwaltet wie die Identität von Menschen – mit Lebenszyklusmanagement, Zugriff nach dem Prinzip der geringsten Berechtigungen und Einbeziehung in Wiederherstellungsszenarien?

4. Kaskadierende Entscheidungen, die auf einer falschen Zustandsangabe beruhen

Die ersten drei Angriffsvektoren sind punktuell. Dieser hier ist systemisch – und in vielerlei Hinsicht möglicherweise am schwierigsten einzudämmen. Multi-Agenten-Architekturen sind auf Koordination ausgelegt. Agenten teilen den Kontext, geben Ergebnisse untereinander weiter und bauen auf der Arbeit der anderen auf. Diese Koordination macht sie so leistungsfähig. Sie ist aber auch der Grund dafür, dass sich Fehler ausbreiten.

Ein Agent, der mit beschädigtem Speicher arbeitet, fällt nicht sauber aus. Er erzeugt Ergebnisse – Entscheidungen, Aktionen, Daten –, die von anderen Agenten verarbeitet werden. Diese Agenten erzeugen wiederum ihre eigenen Ergebnisse. Bis die ursprüngliche Beschädigung als etwas Beobachtbares zutage tritt, hat der fehlerhafte Zustand möglicherweise bereits Dutzende nachgelagerter Prozesse über mehrere Agenten hinweg beeinflusst, ohne dass es einen sauberen Rollback-Pfad gibt.

Genau das macht die Kontextlücke so bedeutsam. Zu jedem beliebigen Zeitpunkt besteht Ihr KI-System aus einer Modellversion, einem Satz von Trainingsdaten, einem Artefakt-Speicher, einer Pipeline-Konfiguration und einer Reihe aktiver Agenteninteraktionen – all diese Komponenten müssen denselben Betriebszustand widerspiegeln, um ein vertrauenswürdiges, wiederherstellbares System zu bilden. Ist dies nicht der Fall, liegt nicht einfach nur ein Fehler vor. Sie haben ein System, das in seinen Einzelteilen kohärent, als Ganzes jedoch inkohärent ist. Einzelne Tools können jeweils ihren eigenen Ausschnitt überprüfen. Keines kann jedoch bestätigen, dass die einzelnen Teile zusammenpassen. Das ist kein Überwachungsproblem, das sich durch Hinzufügen eines weiteren Tools lösen lässt. Es handelt sich um eine strukturelle Lücke – und die einzige Möglichkeit, diese zu schließen, ist ein System, das den Zustand der KI relational erfasst: Was lief, mit welchen Daten, in welcher Konfiguration und zu welchem Zeitpunkt?

Die Frage, die Sie sich stellen sollten: Wenn Ihre KI-Infrastruktur heute kompromittiert würde, könnten Sie dann genau feststellen, in welchem Zustand sich jede Komponente vor dem Vorfall befand – und dies auch nachweisen?

Was dies für Ihre Sicherheitsstrategie bedeutet

Jeder dieser vier Vektoren erfordert eine andere defensive Reaktion. Sie haben jedoch eine gemeinsame Konsequenz: Die für die bisherige Ära der KI konzipierten Rahmenbedingungen für Governance und Resilienz decken die Fehlermodi der agentischen Ära nicht ab. Um eine agentische KI zu gewährleisten, muss Ihr Framework in drei Richtungen erweitert werden:

Tiefer, in die Daten- und Identitätsschichten, die unterhalb des Modells liegen.
Umfassender, um Interaktionen zwischen Agenten abzudecken, die von den bestehenden Überwachungsmaßnahmen nicht erfasst werden.
In relationaler Hinsicht geht es darum, nicht nur den Zustand einzelner Komponenten zu erfassen, sondern auch, wie diese zu jedem beliebigen Zeitpunkt zusammenwirken.

Diese letzte Anforderung ist diejenige, mit der sich die meisten Organisationen noch nicht auseinandergesetzt haben. Und genau sie entscheidet darüber, ob Sie – wenn etwas schiefgeht – über ein wiederherstellbares System verfügen oder nur über eine Sammlung von auf den ersten Blick korrekten Berichten, die etwas beschreiben, das nicht mehr existiert. Lesen Sie den Artikel „The Agentic Blind Spot: Why AI Resilience Demands a System of Record“, um zu erfahren, warum Sie ein SOR benötigen, um die Konsistenz und Genauigkeit Ihrer KI-Daten zu gewährleisten.

FAQs

F: Warum sind agentische KI-Systeme riskanter als herkömmliche generative KI-Tools?

A: Agentenbasierte Systeme können mehr als nur auf Eingabeaufforderungen reagieren. Sie verwalten den Systemzustand, koordinieren sich mit anderen Agenten und führen Aktionen in Produktionsumgebungen durch, wodurch sich die Angriffsfläche weit über die einfache Manipulation von Eingabeaufforderungen hinaus erweitert.

F: Warum sind „vergiftete“ Trainingsdaten so schwer zu erkennen?

A: Die Manipulation kann sehr gezielt erfolgen und nur bestimmte Situationen betreffen, während normale Referenzwerte unberührt bleiben. Das bedeutet, dass ein Modell auf den ersten Blick einwandfrei erscheint, bis das manipulierte Verhalten im tatsächlichen Einsatz zutage tritt.

F: Inwiefern kann eine Vektordatenbank zu einem Sicherheitsproblem werden?

A: Eine Vektordatenbank prägt den Kontext, auf den sich ein Agent stützt, bevor er handelt. Wird dieser Kontext verändert, trifft der Agent möglicherweise Entscheidungen, die auf den ersten Blick vernünftig erscheinen, in Wirklichkeit jedoch von böswilligen Daten geleitet werden.

F: Warum unterscheidet sich die Identität eines Agenten von der Identität eines Menschen?

A: Die Identität eines Agenten ist untrennbar mit autonomen Handlungen, der Delegation von Aufgaben und der Ausführung in Maschinen-Geschwindigkeit verbunden. Herkömmliche Identitätsverwaltung ist auf Menschen ausgelegt, sodass oft übersehen wird, ob ein Agent außerhalb seines vorgesehenen Kontexts handelt.

F: Warum ist die Ausbreitung von Fehlzuständen in Multi-Agenten-Systemen ein so ernstes Problem?

A: Sobald ein Agent fehlerhafte Daten verarbeitet, kann sich dieser Fehler auf nachgelagerte Agenten und Workflows ausbreiten. Die Folge ist nicht nur eine einzige Fehlentscheidung, sondern eine Kette miteinander verbundener Fehler.

F: Wie können Unternehmen die Sicherheit im Bereich der KI verbessern?

A: Die Governance tiefer in die Daten- und Identitätsschichten ausweiten, die Interaktionen zwischen den Agenten überwachen und den Zustand der KI relational nachverfolgen, damit im Falle eines Vorfalls rekonstruiert werden kann, was genau geschehen ist.

Michael Thelander ist Senior Director für Produktmarketing bei Commvault.