KI-Agenten sind überall. Wissen Sie, was sie tun?

Die wichtigsten Erkenntnisse

• Die zunehmende Verbreitung von Agenten stellt ein Governance-Risiko dar. Angesichts der zunehmenden Verbreitung von KI-Agenten können lückenhafte Transparenz und unzusammenhängende Wiederherstellungsabläufe zu erheblichen operativen Risiken führen.
• AI Protect vereint die Erkennung, Überwachung und schrittweise Wiederherstellung von Agenten und deren Abhängigkeiten plattformübergreifend in einer einzigen, agentenorientierten Oberfläche.
• AI Protect wird so konzipiert sein, dass es nicht nur prüft, ob Ressourcen geschützt sind, sondern auch dazu beiträgt, den Agenten-Stack zu schützen und Risiken zu identifizieren, je nachdem, auf welche Ressourcen die Agenten zugreifen und welche Aktionen sie ausführen.
• AI Protect wird auf der „Resilience“-Plattform von Commvault aufbauen – das bedeutet, dass die Wiederherstellung direkt mit den durch den Agenten ausgelösten Auswirkungen sowohl auf die Daten als auch auf die Umgebungen verknüpft werden kann.
• AI Protect wird Teil einer umfassenderen Plattform sein, die den gesamten Lebenszyklus der KI-Resilienz unterstützt – von der sicheren Aktivierung von Daten bis hin zur Steuerung, Erstellung und Wiederherstellung agentengesteuerter Workflows.

KI-Agenten sind längst kein Zukunftsexperiment mehr. Sie kommen bereits heute in Produktionsumgebungen zum Einsatz – sie greifen auf Daten zu, lösen Arbeitsabläufe aus und treffen Entscheidungen in Echtzeit. Für die meisten Unternehmen geschieht dies schneller, als Governance-Rahmenwerke damit Schritt halten können.

Das Problem ist nicht die Begeisterung für KI. Es ist die Kluft zwischen dem Einsatz von Agenten und dem tatsächlichen Wissen darüber, was diese Agenten tun, auf welche Daten sie zugreifen und was zu tun ist, wenn etwas schiefgeht. Genau diese Kluft soll Commvault AI Protect schließen.

Das Governance-Problem im Kern der agentenbasierten KI

Während Unternehmen ihre KI-Investitionen ausweiten, entsteht eine neue Klasse operativer Risiken. KI-Agenten sind nicht nur Werkzeuge – sie sind autonome Akteure, die auf sensible Daten zugreifen, mit kritischen Systemen interagieren und kaskadierende Veränderungen auslösen können. Ohne eine klare Methode, sie zu identifizieren, zu überwachen und zu steuern, agieren IT- und Sicherheitsteams möglicherweise im Blindflug. Die Symptome sind bekannt:

• Lückenhafte Transparenz: Die APIs von Hyperscalern und Observability-Tools bieten nur partielle, isolierte Einblicke in die Aktivitäten der Agenten. Es gibt keine einheitliche Übersicht, die das Verhalten der Agenten plattformübergreifend mit Datensicherheit, Risiken und Wiederherstellung verknüpft.
• Fehlender Schutzkontext: Datenschutzteams können nicht ohne Weiteres feststellen, ob die von KI-Agenten verarbeiteten Daten ausreichend geschützt oder wiederherstellbar sind.
• Schwache Risikosignale: Die Aktivitäten von Agenten können enorme Mengen an Telemetriedaten erzeugen, doch ohne eine Verknüpfung zwischen Identität, Zugriff und Auswirkungen bleibt die Unterscheidung zwischen harmloser Automatisierung und risikoreichem Verhalten eine manuelle Aufgabe.
• Wiederherstellung ohne Zusammenhang: Wenn von Agenten ausgelöste Änderungen zu Problemen führen, kann die Ermittlung der Auswirkungen und die Einleitung der Wiederherstellung eine manuelle Korrelation zwischen verschiedenen Tools erfordern, was die Zeit bis zur Lösung verlängert.

Wir stellen vor: Commvault AI Protect

AI Protect wird so konzipiert sein, dass es eine zentralisierte Übersicht, Schutzkontext, Risikobewertung und geführte Wiederherstellung für KI-Agenten bietet – und zwar in Unternehmens-, SaaS- und Cloud-Umgebungen. Es wird die bestehenden Erkennungs-, Schutz- und Wiederherstellungsfunktionen von Commvault um agentenbezogene Kontextinformationen erweitern und Teams dabei unterstützen, KI-Agenten sicher zu betreiben und bei auftretenden Problemen eine schnelle Wiederherstellung durchzuführen.

Entdecken Sie: Eine zentrale, zuverlässige Übersicht über alle Agenten

AI Protect wird so konzipiert sein, dass es regelmäßig KI-Agenten (und deren Abhängigkeiten) in vernetzten Umgebungen ermittelt und so dazu beiträgt, ein einheitliches, aktuelles Inventar auf der Grundlage einer konfigurierbaren Erfassungshäufigkeit zu pflegen. Jeder Agenteneintrag erfasst die jeweilige Ausführungsumgebung sowie die Datenquellen, Modelle, Konfigurationen, Anwendungen und die Infrastruktur, mit denen der Agent interagiert. Auf diese Weise entsteht ein vollständiges, umgebungsübergreifendes Bild davon, was gerade ausgeführt wird und mit welchen Komponenten es in Verbindung steht.

Schützen: Sicherheitslücken schließen, bevor sie zu Vorfällen führen

KI-Agenten interagieren mit sensiblen Daten und Systemen, doch herkömmliche Schutztools bewerten den Schutzumfang nicht im Kontext des Agentverhaltens. AI Protect wird so konzipiert sein, dass es den Schutzstatus für jede von einem Agenten betroffene Ressource anzeigt – geschützt, teilweise geschützt oder ungeschützt – und dabei hilft, durch Agentenaktivitäten entstandene Lücken zu identifizieren. Wo Lücken bestehen, wird es empfohlene Maßnahmen und Schutz-Workflows vorschlagen, damit Teams diese schließen können.

Monitor: Telemetriedaten in umsetzbare Risikosignale umwandeln

AI Protect erfasst die Aktivitäten der Agenten aus bestehenden Audit-, Ereignis- und Telemetriequellen und stellt sie in einem agentenorientierten Kontext dar – nicht als reine Protokolle. Eine chronologisch geordnete Aktivitätszeitleiste zeigt, was jeder Agent wann getan hat, und Risikosignale werden automatisch markiert und kategorisiert, wenn Agenten auf sensible Daten zugreifen, mit ungeschützten Ressourcen interagieren oder ungewöhnliche Verhaltensmuster zeigen. Dies hilft Teams dabei, von einer reaktiven Fehlerbehebung zu einer proaktiven Überwachung überzugehen.

Wiederherstellung: Geführte Wiederherstellung, direkt mit dem Einfluss des Agenten verknüpft

Wenn eine vom Agenten ausgelöste Änderung ein Problem verursacht, zeigt AI Protect die Verfügbarkeit von Wiederherstellungspunkten für die betroffenen Ressourcen an und führt die Teams durch die entsprechenden Wiederherstellungsmaßnahmen – sei es die Wiederherstellung von Daten, Anwendungen oder Konfigurationen. Die Wiederherstellung ist direkt auf die Auswirkungen des Agenten ausgerichtet, nicht auf allgemeine Vorfälle, und jede Aktion wird mit einem Zeitstempel versehen.

Darüber hinaus können Teams den gesamten KI-Stack wiederherstellen – nicht nur das Modell, sondern auch die damit verbundenen Daten, Konfigurationen und zugrunde liegenden Systeme –, wodurch die gesamte Umgebung mit einem einzigen, schrittweisen Vorgang in einen bekanntermaßen fehlerfreien Zustand zurückversetzt werden kann.

Teil einer umfassenderen Vision für die Widerstandsfähigkeit künstlicher Intelligenz

AI Protect wird eine von drei Funktionen sein, die Commvault als Teil einer umfassenderen Plattform angekündigt hat. Data Activate ermöglicht es Unternehmen, Daten aus geschützten Sicherungskopien zu klassifizieren und zu kuratieren sowie regulierte Datensätze für die Verwendung mit LLMs und KI-Pipelines vorzubereiten – wobei Aktualisierungen nach einem wiederkehrenden Zeitplan veröffentlicht werden, der auf die Sicherungsrichtlinien abgestimmt ist, in Formaten wie Apache Iceberg und Parquet, wobei sensible Daten vor der Aktivierung herausgefiltert werden.

AI Studio ermöglicht es Unternehmen, vorgefertigte Agenten einzusetzen und eigene Agenten zu erstellen – ganz ohne Programmieraufwand. Mithilfe eines auf natürlicher Sprache basierenden Agent Builders können Administratoren die beabsichtigte Vorgehensweise in einfacher Sprache beschreiben, den vorgeschlagenen Workflow überprüfen, verfeinern und ihn als regulierten, benutzerdefinierten Agenten über eine einzige Schnittstelle bereitstellen. AI Studio wird so konzipiert sein, dass es den MCP-Server von Commvault nutzt und sich über MCP in andere Unternehmensanwendungen integrieren lässt, wodurch sich Workflows nahtlos über verschiedene Systeme hinweg erstrecken können.

Zusammen decken diese drei Funktionen den gesamten Bereich der KI-Ausfallsicherheit ab: Sie ermöglichen die sichere Nutzung vertrauenswürdiger Daten, die Steuerung und Wiederherstellung von Agenten in der Produktion sowie die Erstellung der agentenbasierten Workflows, die im Betrieb tatsächlich benötigt werden.

FAQs

F: Was ist Commvault AI Protect? A: AI Protect soll eine Lösung für die Verwaltung und Ausfallsicherheit von KI-Agenten sein, die in Unternehmens-, SaaS- und Cloud-Umgebungen eingesetzt werden. Die Lösung wird so konzipiert sein, dass sie Agenten und Abhängigkeiten automatisch erkennt, Sicherheitslücken bei den von ihnen betroffenen Ressourcen aufdeckt, diese überwacht und geführte Wiederherstellungsabläufe bereitstellt, wenn von Agenten ausgelöste Änderungen zu Problemen führen.

F: Inwiefern unterscheidet sich dies von allgemeinen Tools zur Beobachtbarkeit oder Überwachung von KI? A: Die meisten Observability-Tools liefern zwar Telemetriedaten, versäumen es jedoch, die Aktivitäten der Agenten mit dem Datenschutz und der Wiederherstellung zu verknüpfen. AI Protect wird so konzipiert sein, dass es das Verhalten der Agenten mit dem Schutzumfang und der Wiederherstellungsbereitschaft in Zusammenhang bringt und im Falle eines Problems eine schrittweise Anleitung bereitstellt, um die von den Agentenaktivitäten betroffenen Daten, Konfigurationen oder Systeme wiederherzustellen.

F: Welche Umgebungen wird AI Protect unterstützen? A: AI Protect wird so konzipiert sein, dass es in Hyperscaler-Umgebungen (AWS, Azure, Google Cloud), bei SaaS und in internen Unternehmenssystemen eingesetzt werden kann – und bietet einen einheitlichen, umgebungsübergreifenden Überblick über die Aktivitäten und Auswirkungen der Agenten.

F: Wie erkennt AI Protect Risiken? A: Risikosignale werden durch die Korrelation der Agentenaktivitäten mit Datenzugriffsmustern, der Sensibilität der betroffenen Ressourcen und dem Umfang der Schutzmaßnahmen ermittelt. Anstelle einer reinen Protokollanalyse stellt AI Protect Risiken in einem agentenorientierten Kontext dar – dabei werden bestimmte Agenten und Interaktionen, die besondere Aufmerksamkeit erfordern, zusammen mit dem Grund für die Markierung hervorgehoben. F: Wie läuft die Wiederherstellung ab?

A: AI Protect zeigt die Verfügbarkeit von Wiederherstellungspunkten für Ressourcen an, die von Agentenaktivitäten betroffen sind, und führt die Teams durch die entsprechenden Wiederherstellungsmaßnahmen – sei es die Wiederherstellung von Daten, Anwendungen oder Konfigurationen. Die Wiederherstellungsmaßnahmen beschränken sich auf die durch den Agenten verursachten Auswirkungen und sind vollständig nachverfolgbar. F: In welcher Beziehung steht AI Protect zu AI Studio und Data Activate? A: Alle drei sind Teil der KI-Funktionen der nächsten Generation von Commvault. Data Activate steuert, wie Daten für den KI-Einsatz aufbereitet und aktiviert werden. AI Protect steuert die in der Produktion tätigen Agenten. AI Studio ermöglicht es Teams, benutzerdefinierte, agentenbasierte Workflows zu erstellen und zu verwalten. Zusammen bilden sie einen durchgängigen Lebenszyklus für KI-Resilienz. Teja Medasani ist Principal Product Manager bei Commvault und Vir Choksi ist Principal Product Marketing Manager bei Commvault.