Punti di forza
- La fiducia nell’era dell’intelligenza artificiale non sta scomparendo, ma si sta evolvendo.
- Le organizzazioni devono verificare costantemente l’intelligenza artificiale, anziché fidarsi di essa di default.
- L’adozione dell’IA dovrebbe garantire maggiore autonomia ai dipendenti, non spingerli verso l’IA “ombra”.
- Il modello “zero trust” non significa diffidare delle persone. Significa verificare costantemente identità, dispositivi e azioni.
- L’adozione responsabile dell’IA richiede la collaborazione tra tecnologia, governance e persone.
Quando abbiamo lanciato “Ready. Or Not.”, volevamo creare una serie che rendesse più accessibili alcuni dei temi più importanti del momento in materia di intelligenza artificiale. Grazie alla collaborazione tra il comico Nathan Macintosh ed esperti del settore, stiamo esplorando argomenti che spaziano dall’intelligenza artificiale agente alla resilienza informatica, fino alla gestione dei dati – il tutto con un pizzico di umorismo.
Se avete seguito la nostra prima puntata sulle opportunità e i rischi dell’IA agente, penso che anche questa vi piacerà. Questa volta affrontiamo un argomento che è al centro di ogni discussione sull’IA: la fiducia.
Nathan incontra Diana Kelley, responsabile della sicurezza informatica presso Protect AI, per una conversazione su cosa significhi riporre fiducia nella tecnologia in un’epoca in cui l’intelligenza artificiale è in grado di generare contenuti falsi convincenti, prendere decisioni e persino imitare le persone. Dai deepfake alle allucinazioni, passando per il modello “zero trust” e la “shadow AI”, i due approfondiscono come le organizzazioni possano adottare l’intelligenza artificiale senza perdere la fiducia nelle proprie persone e nei propri sistemi.
Guarda l’episodio completo su Readiverse. Dopo aver visto questa puntata, mi sono sentito più ottimista di quanto mi aspettassi. Non perché l’IA sia improvvisamente diventata più affidabile, ma perché Diana ci dimostra che la fiducia cresce quando le organizzazioni mettono in atto le giuste politiche, le misure di sicurezza e la tecnologia adeguata. Ecco alcuni spunti emersi dalla conversazione che offrono una nuova prospettiva sull’IA.
Fiducia e tecnologia possono coesistere
Diana ritiene che la fiducia sia possibile nell’era dell’IA, ma assumerà una forma diversa. Abbiamo sempre costruito la fiducia attraverso le relazioni con le persone. Ora stiamo imparando come estendere quella fiducia ai sistemi. Questo non significa affidarsi ciecamente alla tecnologia. Significa capire come funziona l’intelligenza artificiale, riconoscerne i limiti e mettere in atto le giuste misure di sicurezza affinché le persone e la tecnologia possano collaborare in tutta fiducia.
«La fiducia deve evolversi per adattarsi al nuovo mondo.» – Diana Kelley
Ciò che mi ha colpito è stata l’idea che fiducia e tecnologia non debbano necessariamente essere in contrasto tra loro. Con il giusto approccio, possono rafforzarsi a vicenda.
Stiamo acquisendo una maggiore comprensione dell’IA
I deepfake sono diventati uno dei rischi legati all’IA di cui si parla di più, ed è facile capire perché. L’IA è ora in grado di generare voci, immagini e video convincenti che ci fanno mettere in discussione ciò che è reale. Ma Diana ha sottolineato che, mentre l’IA diventa sempre più sofisticata, anche le persone stanno diventando più consapevoli. Siamo più propensi a mettere in discussione una telefonata inaspettata, a esaminare più attentamente un post sui social media o a soffermarci su qualcosa che non ci convince del tutto.
Anche le organizzazioni stanno acquisendo maggiore esperienza. Man mano che l’intelligenza artificiale migliora nella sua capacità di simulare identità, le aziende stanno investendo in nuovi metodi per verificare costantemente le identità e convalidare le informazioni. La mia conclusione è questa: la tecnologia continuerà a migliorare, ma lo stesso vale per la nostra capacità di riconoscerla e di reagire in modo responsabile.
«Oggi è una buona giornata per creare un deepfake?» – Nathan Macintosh
Un’IA responsabile fa bene agli affari
Diana ha citato un esempio che probabilmente risulterà familiare a molte organizzazioni. Una dipendente che lei chiama “Karen della contabilità” inizia a utilizzare l’intelligenza artificiale perché le permette di portare a termine un’attività in pochi minuti anziché in ore. Karen non sta cercando di aggirare la politica aziendale, ma solo di essere più produttiva.
I dipendenti utilizzano l’intelligenza artificiale perché ne riconoscono il valore concreto, e questo rappresenta un’opportunità per le organizzazioni. Quando i dipendenti hanno accesso a strumenti di intelligenza artificiale approvati, supportati da politiche chiare e linee guida pratiche, possono lavorare in modo più efficiente, contribuendo al contempo a proteggere i dati e i sistemi aziendali.
Anteprima: un’adozione più intelligente dell’IA
L’obiettivo non è impedire ai dipendenti di utilizzare l’IA, ma assicurarsi che la utilizzino nel modo corretto. Diana spiega come le organizzazioni possano incoraggiare l’adozione dell’IA senza creare rischi inutili.
Il modello Zero Trust è più importante che mai
«Quando capisci come funzionano le cose, allora puoi iniziare a capire come gestirle.» – Diana Kelley
Lo Zero Trust è uno di quei concetti che risultano molto più facili da comprendere con un’analogia. Diana ne ha una eccellente. Lo descrive come muoversi all’interno di un edificio. Solo perché ti è stato permesso di entrare dalla porta principale non significa che tutte le altre porte si aprano automaticamente per te. Ogni volta che accedi a una nuova stanza, viene effettuato un altro rapido controllo per confermare che tu debba trovarti lì.
È essenzialmente così che funziona lo Zero Trust. È sostanzialmente così che funziona il modello “zero trust”. Anziché dare per scontato che una persona o un dispositivo sia affidabile dopo un singolo accesso, le organizzazioni verificano costantemente identità, dispositivi e azioni, man mano che la tecnologia diventa sempre più interconnessa. La maggior parte di questi controlli avviene in modo discreto, dietro le quinte. Una delle cose che ho apprezzato della spiegazione di Diana è che lo “zero trust” non sembra l’ennesima parola d’ordine nel campo della sicurezza. Sembra piuttosto un modo pratico di concepire la fiducia in un mondo in cui l’intelligenza artificiale e le identità digitali stanno diventando parte integrante dell’attività aziendale quotidiana.
La fiducia riguarda le persone
In fin dei conti, non è la tecnologia a creare fiducia, ma le persone. Sono le persone a definire le politiche, i processi e i limiti etici che guidano l’uso dell’IA, mentre la tecnologia contribuisce a verificare che tali misure di sicurezza funzionino come previsto. È proprio questa collaborazione tra persone e tecnologia a rendere possibile un’IA responsabile.
La fiducia va oltre i confini delle nostre organizzazioni. Le aziende devono poter contare sui partner con cui collaborano, sui sistemi a cui si collegano e sulle tecnologie che adottano. Ecco perché la trasparenza, gli standard condivisi e la verifica continua stanno diventando importanti tanto quanto l’innovazione stessa. Più l’intelligenza artificiale entra a far parte della quotidianità aziendale, più la fiducia diventa una responsabilità di tutti.
Guardare al futuro
L’intelligenza artificiale continuerà a evolversi, così come il modo in cui interagiamo con essa. Le organizzazioni di successo non saranno quelle che si affidano ciecamente all’intelligenza artificiale o che la evitano del tutto. Saranno invece quelle che definiscono politiche solide, adottano le tecnologie giuste e verificano costantemente i sistemi su cui fanno affidamento.
La fiducia non è qualcosa che perdiamo con il progredire della tecnologia. È qualcosa che costruiamo e sviluppiamo intenzionalmente. Questo è esattamente il tipo di discussione che speriamo di continuare con ogni episodio di Ready. Or Not. Guarda l’episodio completo su Readiverse.
Domande frequenti
D: Che cos’è la fiducia digitale?
R: La fiducia digitale è la certezza che le persone, i sistemi e le organizzazioni siano effettivamente chi dichiarano di essere e agiscano nel modo previsto e in modo sicuro. Essa combina tecnologia, governance e verifica per aiutare le organizzazioni a interagire in modo sicuro.
D: Cosa sono i deepfake?
R: I deepfake sono immagini, video o registrazioni audio generati dall’intelligenza artificiale e progettati per imitare fedelmente persone reali. Sebbene abbiano usi legittimi, possono anche essere utilizzati per spacciarsi per altre persone o commettere frodi.
D: Che cos’è lo “zero trust”?
A: Il modello “zero trust” è un modello di sicurezza basato sulla verifica continua anziché sulla fiducia automatica. Anziché dare per scontato che un utente o un dispositivo sia affidabile dopo un unico accesso, le organizzazioni verificano costantemente le identità e le azioni.
D: Che cos’è l’intelligenza artificiale “ombra”?
R: Il termine “Shadow AI” si riferisce all’utilizzo, da parte dei dipendenti, di strumenti di intelligenza artificiale che non sono stati approvati né regolamentati dalla loro organizzazione. Sebbene spesso sia motivato da buone intenzioni, tale comportamento può comportare rischi in termini di sicurezza, privacy e conformità.
D: Perché le organizzazioni non dovrebbero semplicemente bloccare gli strumenti di intelligenza artificiale?
R: In genere, i dipendenti adottano l’IA perché li aiuta a lavorare in modo più efficiente. Anziché vietarne del tutto l’uso, le organizzazioni dovrebbero fornire strumenti approvati, stabilire politiche chiare e istruire i dipendenti su come utilizzarla in modo responsabile.
D: Qual è il messaggio più importante di questa puntata?
R: La fiducia non sta scomparendo a causa dell’IA, ma si sta evolvendo. Le organizzazioni che combinano risorse umane, politiche e tecnologia con un monitoraggio continuo saranno in una posizione migliore per adottare l’IA in modo sicuro e responsabile.
Katherine Demacopoulos è direttrice senior della strategia e dei programmi globali relativi ai contenuti presso Commvault.
