Da anni, i progressi dell’IA hanno rivoluzionato vari aspetti della vita quotidiana e delle industrie. L’IA è diventata una forza onnipresente nel modo in cui comunichiamo e nei servizi che utilizziamo.
L’intelligenza artificiale è emersa come un potente strumento per rafforzare le difese nella cyber resilience. Consente tempi di risposta più rapidi, risorse più mirate, riduzione dell’affaticamento da allerta e più tempo per concentrarsi su strategie efficaci di mitigazione delle minacce.
Tuttavia, accanto al suo innegabile potenziale, la rapida diffusione e il clamore suscitato dall’IA generativa hanno dato vita a una serie di preoccupazioni relative alla privacy, alla trasparenza e alle considerazioni etiche – e a ragione. L’opacità di alcuni algoritmi di IA, il rischio di pregiudizi e discriminazioni e l’uso improprio dell’IA per scopi dannosi hanno sollevato legittime domande sull’affidabilità di questa tecnologia.
Le aziende all’avanguardia nel campo dell’intelligenza artificiale devono adottare strategie attente e mirate per il suo sviluppo. Ecco perché Commvault ha definito una serie di principi che incarnano il nostro impegno a favore di uno sviluppo e un’implementazione etici dell’intelligenza artificiale.
L’intelligenza artificiale in Commvault
L’intelligenza artificiale non è una novità per Commvault. Per oltre un decennio, abbiamo sfruttato l’intelligenza artificiale emergente, l’apprendimento automatico e l’automazione intelligente per migliorare le capacità della nostra platform. L’intelligenza artificiale migliora le operazioni di protezione e ripristino dei dati, e assiste i clienti nella gestione dei rischi, nell’individuazione dei dati sensibili e altro ancora.
Metallic AI è il nostro livello di controllo intelligente che alimenta Commvault Cloud. Dall’automazione all’apprendimento automatico all’intelligenza artificiale avanzata, Metallic AI offre maggiori prestazioni ed efficienza a ogni aspetto di Commvault Cloud.
Costruire un’IA affidabile
Nel momento in cui sfruttiamo il potenziale dell’IA nei nostri prodotti e servizi, ci impegniamo a rispettare gli standard etici e a garantire un’implementazione responsabile dell’IA. Per questo motivo abbiamo integrato le migliori pratiche delineate dal NIST AI RMF 1.0. Queste misure contribuiscono a rendere la nostra implementazione dell’IA responsabile, sicura e protetta, affinché i nostri clienti possano trarne il massimo vantaggio.
Validi e affidabili: risultati prevedibili e accurati
Diamo priorità all’affidabilità della nostra IA attuando test, controlli di qualità e misure di sicurezza. Ci impegniamo a fornire risposte e raccomandazioni prevedibili e accurate da parte dell’IA, utilizzando dati imparziali per l’addestramento e raccogliendo feedback dagli utenti umani. Questo feedback, raccolto tramite una semplice funzione “mi piace/non mi piace” all’interno del nostro prodotto e un’opzione per commenti più dettagliati da parte degli utenti, è fondamentale per il miglioramento continuo della nostra IA e per l’accuratezza dei suoi risultati.
Sicuro: IA incentrata sull’uomo
Una singola decisione può influire in modo significativo sull’esito di qualsiasi scenario. Nonostante la sua potenza, l’IA spesso ha bisogno di aiuto per cogliere il contesto come fanno gli esseri umani, poiché non riesce a cogliere le sfumature implicite in processi decisionali complessi. Pertanto, ci si può affidare all’IA solo come uno dei soggetti coinvolti nel processo decisionale, non come unico decisore. Gli esseri umani dovrebbero sempre mantenere il controllo, con la supervisione e la responsabilità delle azioni intraprese sulla base delle risposte o delle raccomandazioni generate dall’IA.
La nostra intelligenza artificiale è dotata di meccanismi di sicurezza che consentono di reagire rapidamente a comportamenti imprevisti, garantendo sempre il controllo da parte dell’uomo.
Con questo approccio, sviluppiamo soluzioni di intelligenza artificiale che aumentano l’efficienza e valorizzano il potenziale umano, migliorando al contempo l’esperienza degli utenti.
Sicurezza e resilienza: prevenzione degli accessi non autorizzati
Le nostre funzionalità di intelligenza artificiale sono strettamente integrate nella piattaforma Commvault® Cloud, che limita l’accesso alle proprie funzionalità dall’esterno della piattaforma stessa. Ciò significa che Commvault Cloud dispone di funzionalità di sicurezza all’avanguardia nel settore, tra cui i controlli di accesso basati sui ruoli, che contribuiscono a impedire accessi non autorizzati e a garantire la sicurezza e la resilienza dei sistemi.
Ci atteniamo agli standard CIS di Livello 1 per rafforzare l’infrastruttura e ridurre al minimo le vulnerabilità. Inoltre, garantiamo comunicazioni sicure tramite crittografia, modalità loopback e applicazione dell’autenticazione tramite certificato client.
Spiegabile e interpretabile: comprendere il cosa, il come e il perché
L’intelligenza artificiale non dovrebbe essere una “scatola nera” enigmatica. Dovrebbe invece essere trasparente e comprensibile per tutti gli utenti e le parti interessate. Ciò significa fornire spiegazioni chiare delle risposte e delle raccomandazioni generate dall’intelligenza artificiale ogni volta che sia opportuno.
Inseriamo dati controllati nell’IA e teniamo un registro delle fonti da cui derivano le risposte e le analisi. Per alcune features dell’IA generativa, tra cui il chatbot Arlie™ e l’API Code Assist, forniamo agli utenti i riferimenti alle fonti da cui è stata estratta la risposta.
Privacy Enhanced: Protezione dei dati dei clienti
Le discussioni sui rischi legati all’intelligenza artificiale sono accompagnate da preoccupazioni relative alla privacy. L’intelligenza artificiale si basa sull’accesso ai dati per fornire raccomandazioni e previsioni fondate, rendendo fondamentale comprendere le sfumature delle misure relative alla privacy e alla sicurezza dei dati. Gli utenti dovrebbero capire quali dati vengono utilizzati per addestrare l’intelligenza artificiale o potrebbero essere condivisi con terze parti.
Per Commvault, la tutela della privacy e della sicurezza dei dati personali e delle informazioni sensibili è di fondamentale importanza. Integriamo i principi di “privacy by design” e “security by design” nel nostro ciclo di vita dello sviluppo del software e adottiamo rigorose misure di protezione dei dati, in linea con gli standard di sicurezza del settore, durante l’intero ciclo di vita dell’intelligenza artificiale.
A differenza di altri fornitori, ci assicuriamo che i dati dei clienti non vengano mai utilizzati per addestrare le nostre Features di IA generativa, mantenendo una rigorosa barriera a tutela di tutte le informazioni dei clienti.
Utilizziamo modelli LLM pre-addestrati di OpenAI, inserendo al loro interno dati rilevanti come contesto per estrarre risposte e raccomandazioni. Ad esempio, Arlie utilizza modelli LLM pre-addestrati insieme al contesto tratto dalla documentazione dei prodotti e delle API di Commvault, dalle query degli utenti, dai codici di errore, dalle descrizioni degli errori e dalle soluzioni fornite dall’assistenza clienti in forma anonima. I risultati generati dall’IA sono sottoposti a supervisione umana per verificare l’anonimizzazione.
Equo: indipendente dall’utente e imparziale
Consapevoli del fatto che l’intelligenza artificiale possa inavvertitamente perpetuare pregiudizi e discriminazioni, prestiamo grande attenzione alla progettazione dei nostri sistemi di intelligenza artificiale al fine di ridurre al minimo i pregiudizi ed evitare pratiche discriminatorie. Raggiungiamo questo obiettivo addestrando e testando i nostri sistemi di intelligenza artificiale utilizzando set di dati diversificati, indipendenti da qualsiasi utente specifico e privi di caratteristiche protette quali razza, età o genere.
Responsabilità e trasparenza: rafforzare la fiducia degli utenti
Le informazioni relative all’IA e ai suoi risultati dovrebbero essere accessibili a chi la utilizza. Questa trasparenza e comprensione rafforzano la fiducia degli utenti nell’IA.
Forniamo punti di accesso chiari all’IA per garantire che gli utenti siano ben informati sull’intervento dell’IA. Inoltre, creiamo un ciclo di feedback che consente agli utenti di fornire suggerimenti e contribuire al miglioramento continuo della nostra IA.
Offrire ai clienti la possibilità di acconsentire
Supponiamo che la vostra organizzazione stia ancora elaborando una strategia per un’IA responsabile e non sia ancora pronta a implementare funzionalità di IA generativa. In tal caso, offriamo la possibilità di mantenere inattivo Arlie, l’assistente IA per Commvault Cloud. Per il software installato, Arlie non è attivato di default, offrendo ai clienti la possibilità di attivarlo o disattivarlo in qualsiasi momento. In Commvault Cloud SaaS, sebbene Arlie sia abilitato di default per migliorare l’esperienza utente, non esegue alcuna raccolta di dati in background, garantendo così la privacy dei dati dei clienti. I clienti SaaS possono scegliere di disattivare completamente Arlie, se lo preferiscono.
Alcune funzionalità di intelligenza artificiale, come l’apprendimento automatico in esecuzione in background utilizzato per individuare anomalie, non possono essere disattivate. Queste funzionalità di intelligenza artificiale sono specifiche per ciascun cliente e non interagiscono con i dati dei clienti.
Leggi la nostra politica sull’IA responsabile: commvault.com/legal/responsible-ai
Scopri di più su Metallic AI: commvault.com/platform/metallic-ai
