Punti di forza
- Commvault ha aderito all’Open Secure AI Alliance per contribuire a promuovere approcci aperti, sicuri e collaborativi all’IA.
- Gli strumenti di IA open source offrono alle organizzazioni maggiore visibilità e controllo, consentendo agli esperti di ispezionare, adattare e rafforzare i sistemi man mano che le minacce e i requisiti si evolvono.
- Una sicurezza efficace nell'ambito dell'IA va oltre i modelli per includere identità, autorizzazioni, misure di protezione, registrazione degli eventi, valutazione e l'ambiente più ampio in cui operano gli agenti di IA.
- La collaborazione intersettoriale e la ricerca condivisa possono aiutare le organizzazioni a rispondere più rapidamente alle sfide in rapida evoluzione poste da un’IA agentica sempre più capace.
- Commvault condividerà con l’Alleanza la propria esperienza in materia di resilienza informatica e dei dati, basata sul principio secondo cui le organizzazioni possono proteggere meglio i sistemi e i dati di cui hanno piena comprensione.
La collaborazione è da tempo uno dei modi più efficaci con cui il settore tecnologico affronta le nuove sfide. Gli ultimi mesi hanno messo ancora più in evidenza questa lezione per quanto riguarda l’IA. I sistemi agenti stanno diventando più capaci, più indipendenti e più profondamente connessi alla tecnologia che utilizziamo ogni giorno.
Gli eventi recenti hanno anche dimostrato quanto rapidamente questo panorama possa cambiare. Quando un sistema di IA avanzato ha creato una sfida di sicurezza inaspettata per Hugging Face, l’organizzazione ha utilizzato un modello open-weight sulla propria infrastruttura per comprendere e contenere la situazione. L’esperienza ha dimostrato il valore degli strumenti di IA open source che le organizzazioni possono esaminare, adattare e controllare quando necessario.
Momenti come questo non dovrebbero sminuire il nostro ottimismo riguardo all’IA. Dovrebbero invece rafforzare il nostro impegno a plasmarne insieme il futuro.
Ecco perché Commvault è orgogliosa di aderire all’Open Secure AI Alliance, una comunità di organizzazioni leader che promuovono l’IA attraverso la ricerca aperta, la condivisione delle conoscenze e strumenti pratici.
L’IA continuerà a evolversi e nessuna singola organizzazione avrà tutte le risposte. Mettere insieme le competenze approfondite provenienti da tutto il settore offre alla comunità una migliore opportunità di comprendere cosa sta cambiando e di rispondere con la rapidità richiesta da questa nuova era.
L’open source è fondamentale in questo sforzo. Offre agli esperti la possibilità di esaminare il funzionamento dei sistemi e migliorare ciò che altri hanno iniziato. Per i difensori, fornisce inoltre qualcosa di essenziale: la libertà di scegliere e adattare la tecnologia più adatta alla situazione, anziché dipendere da un unico sistema o fornitore.
NVIDIA descrive questo approccio come una base di difesa aperta, costruita su modelli, framework e strumenti che la comunità può studiare e potenziare.
L’Alleanza riconosce inoltre che la sicurezza dell’IA si estende ben oltre il modello. Identità, autorizzazioni, misure di protezione, registri e valutazione influenzano il comportamento di un agente. Comprendere quell’ambiente nel suo complesso richiederà nuove ricerche e la volontà di condividere ciò che il settore apprende lungo il percorso.
La prospettiva di Commvault si basa su anni di esperienza nella risoluzione di complesse sfide di resilienza informatica, aiutando le organizzazioni a comprendere i propri dati, a garantirne l’affidabilità e a ripristinarli in modo sicuro in caso di interruzioni.
Gran parte di questo lavoro si riduce alla stessa idea perseguita dall’Alleanza: si può proteggere solo ciò che si comprende appieno. Questa è l’esperienza che speriamo di apportare, insieme alla volontà di imparare da chi affronta queste sfide da diverse angolazioni.
Le opportunità future per l’IA sono enormi. La loro realizzazione dipenderà non solo dalla rapidità con cui la tecnologia avanza, ma anche dall’apertura con cui il settore collaborerà in tal senso. Commvault è lieta di far parte di questo lavoro ed è entusiasta di contribuire a costruire ciò che verrà dopo.
Leggi qui l’annuncio di NVIDIA:
I leader del settore aderiscono all’Open Secure AI Alliance
.
Domande frequenti
D: Che cos’è l’Open Secure AI Alliance?
R: L’Open Secure AI Alliance è una comunità di organizzazioni che lavorano per promuovere la sicurezza dell’IA attraverso la ricerca aperta, la condivisione di conoscenze, modelli, framework e strumenti pratici. Il suo approccio collaborativo offre ai partecipanti l’opportunità di studiare le sfide emergenti e rafforzare insieme le difese dell’IA.
D: Perché Commvault ha aderito all’Open Secure AI Alliance?
R: Commvault ha aderito all’Alleanza per contribuire con la propria esperienza in materia di resilienza informatica, comprensione dei dati, affidabilità e Recovery. Ciò offre inoltre a Commvault l’opportunità di imparare da altri leader del settore che affrontano la sicurezza dell’IA da prospettive diverse.
D: Perché l’open source è importante per la sicurezza dell’IA?
R: L’open source consente agli esperti di esaminare il funzionamento dei sistemi di IA, di basarsi sulle tecnologie esistenti e di adattare gli strumenti a specifiche situazioni di sicurezza. Offre inoltre ai responsabili della sicurezza maggiore libertà di selezionare e modificare le tecnologie, anziché fare affidamento su un unico sistema o fornitore.
D: Cosa comporta la sicurezza dell’IA oltre alla protezione del modello?
R:
La sicurezza dell’IA abbraccia l’ambiente più ampio in cui opera un sistema di IA, incluse identità, autorizzazioni, misure di protezione, registri e valutazione. Comprendere questi elementi interconnessi può aiutare le organizzazioni a valutare e gestire meglio il comportamento degli agenti di IA.
D: In che modo l’esperienza di Commvault in materia di resilienza informatica si collega alla sicurezza dell’IA?
R:
Il lavoro di Commvault sulla resilienza informatica si concentra sull’aiutare le organizzazioni a comprendere i propri dati, a garantirne l’affidabilità e a ripristinarli in modo sicuro dopo un’interruzione. Questa prospettiva si integra naturalmente con l’attenzione dell’Alleanza verso approcci aperti e verificabili alla sicurezza dell’IA.
D: Perché la collaborazione nel settore è importante per il futuro dell’IA?
R: L’IA si sta evolvendo troppo rapidamente e su una scala troppo ampia perché una singola organizzazione possa avere tutte le risposte. Unire competenze, ricerca e intuizioni pratiche provenienti da tutto il settore può aiutare la comunità a comprendere le sfide emergenti e a rispondere alla velocità richiesta dallo sviluppo dell’IA.
Alexander Coombes è AVP, Strategic Partner Development, presso Commvault.
