Che cos’è “Proteggere e sfruttare l’IA”?

L’intelligenza artificiale generativa può essere applicata in tutte le fasi del ciclo di vita della sicurezza informatica in cinque modi di grande impatto:

1. Sintesi delle informazioni sulle minacce: correlazione dei segnali provenienti da più fonti di sicurezza dei dati in riepiloghi pronti per gli analisti, accelerando in modo significativo i tempi che intercorrono tra il rilevamento e la decisione.
2. Rilevamento del phishing tramite IA: utilizzo dell’analisi comportamentale e linguistica per identificare i tentativi di phishing e spear-phishing che eludono i filtri basati sulle firme, compresi i contenuti di ingegneria sociale generati dall’IA.
3. Risposta automatizzata agli incidenti: coordinamento delle azioni di contenimento — isolamento dei sistemi, reimpostazione delle credenziali compromesse, blocco degli indirizzi IP dannosi — in tempi più rapidi rispetto ai flussi di lavoro basati sull’intervento umano.
4. Operazioni IT predittive: identificazione di scostamenti nella configurazione, lacune nella copertura di protezione e modelli di accesso anomali prima che si trasformino in incidenti.
5. Flussi di lavoro di Recovery basati su agenti: orchestrazione di sequenze complesse di Recovery informatico tramite interfacce conversazionali, con conferma da parte di un operatore umano per le azioni critiche.

Commvault Cloud è in grado di fornire tutte e cinque queste funzionalità grazie a Metallic AI e alla libreria di agenti Arlie, che include Arlie Data Sense (analisi delle minacce e sintesi dei log), Arlie Recovery (orchestrazione del ripristino basata su agenti) e Arlie Advisor (consulenza contestuale in materia di sicurezza e resilienza).

L’IA migliora il rilevamento delle minacce in tre modi fondamentali rispetto agli approcci tradizionali basati su regole. In primo luogo, scalabilità e velocità: i modelli potenziati dall’IA analizzano milioni di segnali comportamentali — attività di rete, accessi degli utenti, anomalie nei processi di backup e movimenti di dati — simultaneamente e in tempo reale, mentre gli analisti umani possono solo effettuare un campionamento.

In secondo luogo, il rilevamento delle minacce zero-day e sconosciute: il rilevamento delle anomalie assistito dall’IA identifica le deviazioni rispetto alle linee di base stabilite senza fare affidamento su firme di attacco note, individuando minacce che gli strumenti tradizionali non rilevano finché non causano danni.

In terzo luogo, la riduzione dei falsi positivi: l’apprendimento adattivo consente ai modelli di distinguere le anomalie reali dalle normali variazioni nel tempo, riducendo il “sovraccarico di allarmi” che porta gli analisti a trascurare le minacce reali. Nello specifico della protezione dei dati, il rilevamento delle anomalie potenziato dall’IA identifica i primi segnali della preparazione di un attacco ransomware — modelli di crittografia insoliti, tentativi di cancellazione dei backup, escalation di privilegi — prima che venga eseguito il payload principale dell’attacco. Commvault Cloud integra il rilevamento delle anomalie potenziato dall’IA nei flussi di lavoro relativi alla protezione dei dati, alla resilienza delle identità e al Recovery.

La sicurezza dei dati nel campo dell’intelligenza artificialeconsiste nell’applicare le funzionalità dell’IA per proteggere i dati aziendali, utilizzando l’apprendimento automatico per il rilevamento delle minacce, la governance degli accessi, la classificazione dei dati sensibili, il rilevamento delle anomalie e l’applicazione della conformità su tutti i tipi di dati.

Proteggere i dati dell’IA significa mettere al sicuro i dati da cui dipendono i sistemi di IA: set di dati di addestramento, parametri dei modelli, pipeline di inferenza, database vettoriali e l’infrastruttura di calcolo che esegue i carichi di lavoro di IA.

Entrambi questi aspetti sono fondamentali per una strategia completa di sicurezza dell’IA aziendale. Le organizzazioni che investono nella sicurezza dei dati dell’IA ma trascurano la propria infrastruttura di IA espongono i propri modelli ad attacchi di avvelenamento, attacchi malevoli e corruzione dei dati. Le organizzazioni che proteggono i dati dell’IA ma non applicano l’IA nelle proprie operazioni di sicurezza dei dati si difendono dalle minacce moderne con strumenti obsoleti.

Commvault Cloud è progettato per soddisfare entrambe le esigenze in un’unica piattaforma: proteggendo in modo completo i carichi di lavoro di IA e integrando al contempo il rilevamento potenziato dall’IA, il rilevamento delle anomalie e l’intelligenza di ripristino basata su agenti in tutte le operazioni.

Principali fonti di minaccia per le infrastrutture di IA:

1. Avvelenamento e manipolazione dei dati: gli aggressori inseriscono dati dannosi nei set di addestramento per alterare il comportamento dei modelli, causando output errati o creando backdoor sfruttabili.
2. Attacchi avversari: sottili manipolazioni dei dati in ingresso inducono i modelli a effettuare classificazioni errate, sfruttando il modo in cui le reti neurali elaborano le informazioni.
3. Attacchi di inversione del modello: gli aggressori estraggono dati sensibili utilizzati per l’addestramento analizzando i risultati del modello e i modelli comportamentali, rendendo così pubbliche informazioni riservate.
4. Iniezione di prompt: gli input dannosi manipolano il comportamento dei modelli linguistici su larga scala al di là dei parametri previsti — un aspetto rilevante per qualsiasi azienda che utilizzi la GenAI o flussi di lavoro basati su agenti.
5. Compromissione dell’identità dei dispositivi: gli aggressori dirottano gli account dei servizi di IA o le credenziali API per ottenere un accesso privilegiato ai sistemi di IA e ai dati che questi elaborano.
6. Attacchi alla catena di fornitura dell’IA: violazioni nell’approvvigionamento dei dati, nei componenti dei modelli di terze parti o nelle pipeline di distribuzione che compromettono l’integrità dell’IA su larga scala.

La difesa dalle minacce all’IA di Commvault Cloud aiuta a proteggersi dall’iniezione di prompt, dai modelli compromessi e dagli attacchi all’identità delle macchine. Il rilevamento delle anomalie assistito dall’IA monitora i modelli di accesso e i segnali comportamentali che possono indicare minacce attive all’infrastruttura di IA.

La gestione tradizionale dei backup richiede agli amministratori di configurare manualmente le politiche, monitorare l’esito dei processi, identificare le lacune di copertura ed eseguire le procedure di Recovery, creando un sovraccarico operativo che non si adatta bene alla scalabilità. L’automazione basata sull’intelligenza artificiale può migliorare questa situazione in tre aree specifiche. Nella gestione della protezione: i suggerimenti sulle politiche basati sull’IA analizzano i metadati dei carichi di lavoro e i modelli di utilizzo per ottimizzare la configurazione dei backup e monitorare continuamente eventuali scostamenti dalla configurazione, contribuendo a eliminare i cicli di revisione manuale.

Nell’ambito dell’intelligenza operativa: l’analisi dei log assistita dall’IA mette in evidenza le analisi delle cause alla radice e i consigli attuabili anziché i dati grezzi degli avvisi, riducendo i tempi di risoluzione dei problemi operativi e di risposta agli incidenti. Nell’orchestrazione del ripristino: l’automazione basata su agenti guida i team attraverso flussi di lavoro di ripristino complessi — contenimento delle minacce, identificazione dei punti puliti, ripristino convalidato — con un supporto decisionale strutturato anziché un’esecuzione completamente manuale.

La differenza fondamentale rispetto alla gestione tradizionale dei backup: l’automazione basata sull’IA è in grado di gestire la complessità su larga scala, identificando quali carichi di lavoro risultano insufficientemente protetti, quali punti di ripristino sono “puliti” e a quali azioni dare priorità in seguito. Commvault Cloud è in grado di fornire tutte e tre queste funzionalità tramite Metallic AI, la libreria di agenti Arlie e il framework MCP Server.

Commvault Cloud è progettato per gestire entrambi gli aspetti della sicurezza dei dati nel contesto dell’IA da un’unica piattaforma unificata. Per la protezione dei dati: backup completo, archiviazione immutabile e ripristino rapido per lo stack di applicazioni di IA — data lake, database vettoriali, registri dei modelli e infrastruttura di calcolo su AWS, Azure e Google Cloud — con difesa dalle minacce di IA contro il data poisoning, l’iniezione di prompt e gli attacchi alle identità delle macchine.

Per la resilienza: Metallic AI e la libreria di agenti Arlie integrano il rilevamento delle minacce potenziato dall’IA, il rilevamento delle anomalie e l’orchestrazione della Recovery tramite agenti in tutte le operazioni della piattaforma, comprese le funzionalità di intelligence per il rilevamento del phishing, le analisi predittive delle operazioni IT e la risposta automatizzata agli incidenti. Per l’estensione: Data Activate rende disponibili i dati di backup gestiti in formati aperti (Parquet, Iceberg) per analisi, addestramento dei modelli e conformità; inoltre, MCP Server consente agli agenti di IA aziendali di interrogare, automatizzare e interagire con Commvault Cloud in modo sicuro tramite interfacce conversazionali.

Commvault opera secondo un quadro di riferimento per un’IA responsabile incentrato su affidabilità, trasparenza e supervisione umana, distinguendosi così dai fornitori di soluzioni di sicurezza dei dati nel cloud che richiedono livelli di IA proprietari o piani di controllo separati. L’integrazione è una priorità assoluta: si collega in modo nativo a Databricks, CrowdStrike, AWS e altri ecosistemi di IA e sicurezza dei dati.