Seit Jahren revolutionieren die Fortschritte in der KI verschiedene Aspekte des täglichen Lebens und der Industrie. KI ist zu einer allgegenwärtigen Kraft in unserer Kommunikation und in den von uns genutzten Diensten geworden.
KI hat sich als leistungsstarkes Instrument zur Stärkung der Abwehrmaßnahmen im Bereich der Cyber-Resilienz etabliert. Sie ermöglicht schnellere Reaktionszeiten, einen gezielteren Einsatz von Ressourcen, eine Verringerung der Alarmmüdigkeit und mehr Zeit, um sich auf wirksame Strategien zur Bedrohungsabwehr zu konzentrieren.
Doch neben ihrem unbestreitbaren Potenzial haben die rasante Verbreitung und der Hype um generative KI eine Flut von Bedenken hinsichtlich Datenschutz, Transparenz und ethischer Aspekte ausgelöst – und das aus gutem Grund. Die Undurchsichtigkeit einiger KI-Algorithmen, das Potenzial für Voreingenommenheit und Diskriminierung sowie der Missbrauch von KI für böswillige Zwecke haben berechtigte Fragen hinsichtlich der Vertrauenswürdigkeit dieser Technologie aufgeworfen.
Unternehmen, die im Bereich der KI eine Vorreiterrolle einnehmen, müssen bei deren Entwicklung umsichtige und zielgerichtete Strategien verfolgen. Aus diesem Grund hat Commvault Grundsätze festgelegt, die unser Engagement für eine ethische Entwicklung und den ethischen Einsatz von KI verkörpern.
KI bei Commvault
KI ist für Commvault nichts Neues. Seit über einem Jahrzehnt nutzen wir neue Entwicklungen in den Bereichen künstliche Intelligenz, maschinelles Lernen und intelligente Automatisierung, um die Funktionen unserer Plattform zu verbessern. Diese KI optimiert die Datensicherung und Recovery und unterstützt Kunden unter anderem beim Risk-Management und beim Auffinden sensibler Daten.
Metallic AI ist unsere intelligente Steuerungsebene, die die Commvault Cloud antreibt. Von Automatisierung und maschinellem Lernen bis hin zu fortschrittlicher KI sorgt Metallic AI für mehr Leistung und Effizienz in jedem Aspekt der Commvault Cloud.
Aufbau vertrauenswürdiger KI
Bei der Nutzung der Möglichkeiten der KI in unseren Produkten und Dienstleistungen legen wir großen Wert darauf, ethische Standards einzuhalten und einen verantwortungsvollen Einsatz der KI zu gewährleisten. Aus diesem Grund haben wir die im NIST AI RMF 1.0 beschriebenen Best Practices umgesetzt. Diese Maßnahmen tragen dazu bei, dass der Einsatz unserer KI verantwortungsvoll, sicher und geschützt erfolgt, sodass unsere Kunden die Vorteile der KI nutzen können.
Gültig und zuverlässig: Vorhersehbare und genaue Ergebnisse
Wir legen großen Wert auf die Zuverlässigkeit unserer KI und setzen daher Tests, Qualitätssicherungs- und Sicherheitsmaßnahmen um. Wir sind bestrebt, vorhersehbare und präzise KI-Antworten und -Empfehlungen zu liefern, indem wir unvoreingenommene Daten für das Training verwenden und Feedback von menschlichen Nutzern einholen. Dieses Feedback, das über ein einfaches „Gefällt mir/Gefällt mir nicht“-Feature in unserem Produkt sowie über eine Option für detailliertere Nutzerkommentare gesammelt wird, ist entscheidend für die kontinuierliche Verbesserung unserer KI und die Genauigkeit ihrer Ergebnisse.
Sicher: Menschzentrierte KI
Eine einzige Entscheidung kann den Ausgang eines jeden Szenarios erheblich beeinflussen. Trotz ihrer Leistungsfähigkeit benötigt KI oft Unterstützung dabei, den Kontext so zu erfassen wie Menschen, da ihr die Nuancen entgehen, die bei komplexen Entscheidungsprozessen eine Rolle spielen. Daher kann KI nur als einer der Entscheidungsträger, nicht jedoch als alleiniger Entscheidungsträger angesehen werden. Menschen sollten stets die Kontrolle behalten und die Aufsicht sowie die Verantwortung für Maßnahmen übernehmen, die auf der Grundlage von KI-generierten Antworten oder Empfehlungen getroffen werden.
Unsere KI ist mit Sicherheitsmechanismen ausgestattet, die eine schnelle Reaktion auf unerwartetes Verhalten ermöglichen, wobei die menschliche Kontrolle stets gewahrt bleibt.
Mit diesem Ansatz entwickeln wir KI, die die Effizienz und das menschliche Potenzial steigert und das Nutzererlebnis verbessert.
Sicher und widerstandsfähig: Unbefugten Zugriff verhindern
Unsere KI-Features sind fest in die Commvault Cloud Platform integriert, wodurch der Zugriff auf diese Features von außerhalb der Plattform eingeschränkt ist. Das bedeutet, dass die branchenführenden Sicherheitsfunktionen von Commvault Cloud zum Einsatz kommen, darunter rollenbasierte Zugriffskontrollen, die dazu beitragen, unbefugten Zugriff zu verhindern und die Sicherheit sowie Ausfallsicherheit der Systeme zu gewährleisten.
Wir halten uns an die CIS-Level-1-Richtlinien, um die Infrastruktur abzusichern und Schwachstellen zu minimieren. Darüber hinaus sorgen wir für sichere Kommunikation durch Verschlüsselung, den Loopback-Modus und die Durchsetzung der Authentifizierung mittels Client-Zertifikaten.
Erklärbar und interpretierbar: Das Was, Wie und Warum verstehen
KI sollte keine rätselhaften „Black Boxes“ sein. Stattdessen sollte sie für alle Nutzer und Beteiligten transparent und nachvollziehbar sein. Das bedeutet, dass für KI-generierte Antworten und Empfehlungen, wann immer dies angebracht ist, klare Erklärungen bereitgestellt werden sollten.
Wir speisen kontrollierte Daten in die KI ein und führen Protokolle über die Datenquellen, aus denen Antworten und Erkenntnisse abgeleitet werden. Bei bestimmten Features der generativen KI, darunter der Arlie™-Chatbot und der API Code Assist, stellen wir den Nutzern Verweise auf die Quellen zur Verfügung, aus denen die Antwort stammt.
Verbesserter Datenschutz: Schutz von Kundendaten
Diskussionen über die Risiken der KI gehen mit Datenschutzbedenken einher. KI ist auf den Zugriff auf Daten angewiesen, um fundierte Empfehlungen und Vorhersagen zu liefern. Daher ist es von entscheidender Bedeutung, die Feinheiten der Datenschutz- und Datensicherheitsmaßnahmen zu verstehen. Nutzer sollten wissen, welche Daten zum Trainieren der KI verwendet werden oder möglicherweise an Dritte weitergegeben werden.
Bei Commvault haben der Schutz der Privatsphäre sowie die Sicherheit personenbezogener Daten und sensibler Informationen oberste Priorität. Wir integrieren die Prinzipien von „Privacy by Design“ und „Security by Design“ in unseren Softwareentwicklungszyklus und halten uns während des gesamten KI-Lebenszyklus an strenge Datenschutzmaßnahmen, die den branchenüblichen Datensicherheitsstandards entsprechen.
Im Gegensatz zu anderen Anbietern stellen wir sicher, dass Kundendaten niemals zum Trainieren unserer generativen KI-Features verwendet werden, und wahren so eine strenge Trennung zum Schutz aller Kundendaten.
Wir nutzen vortrainierte LLMs von OpenAI und geben relevante Daten als Kontext ein, um Antworten und Empfehlungen zu generieren. So nutzt Arlie beispielsweise vortrainierte LLMs in Verbindung mit Kontextinformationen aus der Commvault-Produkt- und API-Dokumentation, Benutzeranfragen, Fehlercodes, Fehlerbeschreibungen sowie anonymisierten Lösungen aus dem Kundensupport. Die von der generativen KI erzeugten Ergebnisse werden von Menschen überprüft, um die Anonymisierung sicherzustellen.
Fair: Nutzerunabhängig und unvoreingenommen
Da wir uns bewusst sind, dass KI unbeabsichtigt Vorurteile und Diskriminierung verfestigen kann, legen wir großen Wert darauf, unsere KI so zu gestalten, dass Vorurteile minimiert und diskriminierende Praktiken vermieden werden. Dies erreichen wir, indem wir unsere KI mit vielfältigen Datensätzen trainieren und testen, die unabhängig von bestimmten Nutzern sind und keine geschützten Merkmale wie ethnische Herkunft, Alter oder Geschlecht enthalten.
Verantwortungsbewusst und transparent: Das Vertrauen der Nutzer stärken
Informationen über KI und ihre Ergebnisse sollten für diejenigen zugänglich sein, die sie nutzen. Diese Transparenz und dieses Verständnis stärken das Vertrauen der Nutzer in die KI.
Wir stellen explizite KI-Zugänge bereit, um sicherzustellen, dass die Nutzer umfassend über KI-Eingriffe informiert sind. Zudem richten wir eine Feedbackschleife ein, über die Nutzer Anregungen geben und zur kontinuierlichen Verbesserung unserer KI beitragen können.
Dem Kunden die Möglichkeit
bieten, sich anzumelden
Angenommen, Ihr Unternehmen arbeitet noch an einer Strategie für verantwortungsvolle KI und ist noch nicht bereit, Features der generativen KI zu implementieren. In diesem Fall bieten wir die Möglichkeit, Arlie, den KI-Assistenten für Commvault Cloud, deaktiviert zu lassen. Bei installierter Software ist Arlie standardmäßig nicht aktiviert, sodass Kunden die Wahl haben, ihn jederzeit zu aktivieren oder zu deaktivieren. In Commvault Cloud SaaS ist Arlie zwar standardmäßig aktiviert, um die Benutzererfahrung zu verbessern, führt jedoch keine Datenerfassung im Hintergrund durch, wodurch der Datenschutz der Kunden gewahrt bleibt. SaaS-Kunden können die Nutzung von Arlie auf Wunsch vollständig deaktivieren.
Bestimmte KI-Features, wie beispielsweise im Hintergrund laufende maschinelle Lernprozesse zur Erkennung von Anomalien, können nicht deaktiviert werden. Diese KI-Features sind kundenspezifisch und greifen nicht auf Kundendaten zu.
Lesen Sie unsere Richtlinien zur verantwortungsvollen KI: commvault.com/legal/responsible-ai
Erfahren Sie mehr über Metallic AI: commvault.com/platform/metallic-ai
