Skip to content
AI & Innovation

Welcome to the Messy Middle

How the choices organizations make today will shape AI’s future.


È facile parlare di IA come se il futuro fosse già scritto. L’IA trasformerà il mondo del lavoro. L’IA sostituirà i posti di lavoro. L’IA ridisegnerà i settori industriali. Si parte dal presupposto che la tecnologia stia semplicemente avanzando e che noi non facciamo altro che seguirne il corso. Ma seil futuro dell’IAE se non fosse così prestabilito come sembra? 

In questa puntata diPronti. O no.(S2:E3), Nathan Macintosh intervista Camille Stewart Gloster, esperta di sicurezza informatica e stratega nel campo dell’intelligenza artificiale, la cui esperienza spazia dalla Casa Bianca al Dipartimento per la Sicurezza Interna, da Google alle politiche nazionali in materia di sicurezza informatica. Insieme, esplorano una prospettiva diversa, che mette in discussione alcune delle principali convinzioni diffuse oggi sull’intelligenza artificiale. 

Guarda l’episodio completo su Readiverse.  

Punti di forza 

  • Le organizzazioni hanno più influenza sul futuro dell’IA di quanto possano immaginare. 
  • L’intelligenza artificiale sta avanzando rapidamente, ma le organizzazioni hanno ancora voce in capitolo su come viene implementata, gestita e considerata affidabile. 
  • La sicurezza non è un elemento separato da una strategia di IA. È proprio ciò che contribuisce a rendere l’IA affidabile, gestibile ed efficace. 
  • Gli agenti di IA dovrebbero essere gestiti più come “dipendenti digitali” che come strumenti software. 
  • Molte organizzazioni faticano a ottenere risultati significativi dall’IA perché la integrano nei processi esistenti invece di riprogettarli. 

Riformulare il dibattito sull’intelligenza artificiale 

Camille sostiene che, sebbene le tecnologie di intelligenza artificiale continueranno a progredire, i risultati che producono sono tutt’altro che predeterminati. Le scelte che le organizzazioni compiono in materia digovernance, sicurezza e responsabilitàcontribuiranno a plasmare ciò che verrà dopo.

Come osserva Nathan all’inizio della conversazione: 

«Finora sei l’unica persona in tutta questa serie ad aver usato la frase “l’IA non è inevitabile”».✧ Nathan Macintosh 

È un’osservazione semplice, ma ridefinisce il dibattito sul futuro dell’IA. Anziché chiedersi cosa ci riserverà l’IA, Camille si chiede quale ruolo vogliamo svolgere nel plasmare ciò che verrà. 

 Le tue decisioni contano 

Al centro di questa conversazione c’è la convinzione di Camille che l’IA non sia inevitabile. Il suo punto non è che le tecnologie di IA possano scomparire. Infatti, molte funzionalità di IA sono già integrate nel software e nei servizi che utilizziamo ogni giorno.

Ciò che non è inevitabile, sostiene, sono le ipotesi che abbiamo già iniziato a formulare sul futuro. 

«Avete molto più controllo di quanto pensiate.»
– Camille Stewart Gloster 

Le discussioni sull’IA si concentrano spesso su ciò che la tecnologia è in grado di fare, prestando invece molta meno attenzione alle scelte che le persone, le organizzazioni e i governi possono compiere. Per i responsabili della sicurezza e della tecnologia, ciò significa spostare il fulcro della discussione dalle previsioni alla responsabilità. Anziché chiedersi cosa diventerà l’IA, le organizzazioni dovrebbero concentrarsi sui sistemi che stanno costruendo, sui rischi che stanno introducendo e su chi sarà ritenuto responsabile quando qualcosa andrà storto. 

Il punto di vista di Camille ci ricorda che le decisioni più importanti in materia di IA potrebbero avere meno a che fare con gli algoritmi e più con le persone responsabili della loro attuazione. 

 La sicurezza rende possibile l’intelligenza artificiale

Camille sottolinea che la sicurezza e la strategia relativa all’IA sono profondamente interconnesse. Non solo nel senso tradizionale di proteggere i sistemi dagli hacker o prevenire fughe di dati, ma anche nel comprendere come si comportano gli agenti, quali informazioni utilizzano e quali azioni sono autorizzati a compiere.
Implementare l’IA non significa solo aggiungere una nuova funzionalità. Significa comprendere in che modo tale funzionalità modifica il profilo di rischio dell’organizzazione. 

«Qualsiasi organizzazione che stia valutando come massimizzare il proprio investimento nell’IA deve investire nel proprio team di sicurezza.» 

– Camille Stewart Gloster 

 Come spiega Camille, le organizzazioni stanno introducendo nuovi attori nei propri ambienti e dovrebbero considerare questi agenti di IA più come dipendenti che come software. Quando un’azienda assume una persona, definisce le responsabilità, stabilisce un sistema di supervisione e crea misure di rendicontazione. Lo stesso dovrebbe valere per gli agenti di IA.  

Nel corso della conversazione, Camille non descrive la sicurezza come un ostacolo all’innovazione. Al contrario, la considera il fattore che rende l’innovazione sostenibile. Man mano che gli agenti assumono maggiori responsabilità, le organizzazioni hanno bisogno di un modo per comprenderli e gestirli. In questo senso, la sicurezza non riguarda solo la riduzione del rischio. È ciò che dà alle organizzazioni la fiducia necessaria per adottare l’IA su larga scala. 

Anteprima: La nuova mentalità in materia di sicurezza

Camille intende estendere l’ambito della sicurezza oltre la semplice prevenzione delle violazioni. In questo video spiega perché controllare e comprendere i sistemi di intelligenza artificiale è importante tanto quanto implementarli. 

L’intelligenza artificiale non è una soluzione rapida

Molte organizzazioni stanno investendo massicciamente nell’intelligenza artificiale, ma tale investimento non si traduce automaticamente in risultati. Secondo Camille, uno dei motivi è che le aziende spesso applicano la nuova tecnologia ai vecchi metodi di lavoro, invece di adottare un approccio più ponderato.

«Il modo migliore per trarre valore dall’investimento nell’IA è probabilmente quello di riprogettare un processo.»
– Camille Stewart Gloster 

Camille sottolinea che l’IA è più efficace quando si inserisce in un processo di trasformazione più ampio. Anziché cercare opportunità per integrare l’IA in singole attività, le organizzazioni dovrebbero analizzare come si svolgono i flussi di lavoro e individuare dove il processo stesso possa essere riprogettato e migliorato.

Sottolinea inoltre che le organizzazioni spesso sottovalutano il lavoro necessario per adottare con successo l’IA. Il vero valore deriva non solo dalla tecnologia in sé, ma dai cambiamenti operativi che la sostengono. 

Forse la lezione più importante è che l’IA raramente rappresenta la soluzione completa. La vera opportunità deriva dall’integrazione delle nuove tecnologie con cambiamenti ben ponderati nei processi e nei flussi di lavoro, in modo che l’IA possa diventare parte di qualcosa di più ampio di sé stessa. 

Pronti per un po’ di ottimismo? 

Le discussioni sull’intelligenza artificiale oscillano spesso tra due estremi: o l’intelligenza artificiale risolverà ogni problema, oppure stravolgerà completamente il nostro modo di vivere e lavorare. Camille offre una prospettiva positiva. 

Nel corso della puntata, sottolinea che le organizzazioni hanno più influenza sul futuro dell’IA di quanto possano immaginare. Il futuro dell’IA sarà determinato dalle decisioni che le organizzazioni prenderanno in materia di sicurezza, governance, responsabilità e fiducia. Il futuro dell’IA sarà determinato dalle decisioni che le organizzazioni prenderanno in materia di sicurezza, governance, responsabilità e fiducia. 

Questo concetto è in linea anche con un tema ricorrente di“Pronti. O no.”Essere pronti non significa prevedere il futuro, ma prendere decisioni ponderate che aiutino ad affrontarlo.

L’IA continuerà a evolversi e emergeranno nuove opportunità e nuovi rischi. Ma, come ci ricorda Camille, le organizzazioni hanno più influenza su ciò che accadrà di quanto a volte credano. E questo è un modo molto più incoraggiante di pensare al futuro dell’IA. 

Guarda l’episodio completo su Readiverse. 


Domande frequenti 

D: Cosa intende Camille quando afferma che “l’IA non è inevitabile”?

R: Il punto di Camille è che, sebbene le tecnologie di intelligenza artificiale continueranno a progredire, le conseguenze sociali, economiche e organizzative associate all’IA non sono predeterminate. I leader, i responsabili politici e le imprese hanno ancora un’influenza significativa sul modo in cui l’IA viene implementata, gestita e regolamentata. Il futuro è plasmato dalle decisioni umane, non solo dalla tecnologia. 

D: Perché Camille paragona gli agenti di IA ai dipendenti?

R: Gli agenti di intelligenza artificiale (IA) compiono sempre più spesso azioni, accedono ai sistemi, elaborano informazioni e prendono decisioni per conto delle organizzazioni. Per questo motivo, richiedono molte delle stesse misure di controllo che le aziende applicano ai lavoratori umani, tra cui la definizione dei ruoli, la supervisione, la gestione delle autorizzazioni, la responsabilità e il monitoraggio continuo.

D: Perché la sicurezza assume maggiore importanza con la crescente diffusione dell’IA? 

R:Man mano che i sistemi di intelligenza artificiale ottengono accesso a dati, applicazioni e processi aziendali, le organizzazioni hanno bisogno di strumenti per controllarne e monitorarne il comportamento. I team di sicurezza contribuiscono a definire la governance, implementare misure di protezione, garantire la visibilità sulle attività degli agenti e verificare che i sistemi di intelligenza artificiale operino entro i limiti definiti. Senza tali controlli, i rischi associati ai sistemi autonomi possono aumentare in modo significativo.

D: Perché alcune organizzazioni non ottengono risultati significativi dall’IA? 

R:Secondo Camille, molte aziende si limitano a integrare l’IA nei processi esistenti, anziché riprogettare i flussi di lavoro in base alle nuove funzionalità. Il vero valore deriva spesso dal ripensare il modo in cui viene svolto il lavoro, dall’individuare opportunità per estendere le pratiche di successo basate sull’IA e dall’investire nei cambiamenti operativi necessari a sostenerne l’adozione a lungo termine.

D: Cosa sono i “guardrail” di runtime e perché sono importanti? 

R:I “runtime guardrails” sono controlli che consentono alle organizzazioni di monitorare e valutare il comportamento degli agenti mentre le azioni sono in corso. Anziché affidarsi esclusivamente a regole statiche, questi controlli offrono l’opportunità di riesaminare le decisioni, intervenire quando necessario e trasferire le azioni agli esseri umani prima che si verifichino problemi. Aiutano le organizzazioni a trovare un equilibrio tra autonomia e responsabilità.

D: Qual è la lezione più importante di questo episodio? 

R: La strategia relativa all’IA e quella relativa alla sicurezza non possono più essere considerate come temi distinti. Le organizzazioni che ottengono risultati positivi con l’IA sono spesso quelle che combinano innovazione e governance, consentendo agli agenti di creare valore e garantendo al contempo che gli esseri umani rimangano responsabili dei risultati. Non si tratta solo di ridurre il rischio. È il modo in cui si costruisce la fiducia nella tecnologia stessa. 

 

Katherine Demacopoulos è direttrice senior della strategia e dei programmi globali relativi ai contenuti presso Commvault. 

More related posts


Thumbnail_Blog-ServiceNow-2026

Protect Your ServiceNow Operational Data With Commvault

Read more about Protect Your ServiceNow Operational Data With Commvault
Thumbnail_Blog-Multicloud-Recovery-2026

Your Next Backup Refresh Does Not Need Another Box 

Read more about Your Next Backup Refresh Does Not Need Another Box 
Thumbnail_Blog-AI-Recovery-Decisions-2026 (1)

AI Won’t Make the Recovery Decision for Us. But It Should Help Us Make a Better One.

Read more about AI Won’t Make the Recovery Decision for Us. But It Should Help Us Make a Better One.