Il dibattito sull’intelligenza artificiale sta evolvendo rapidamente. Ecco perché sono così entusiasta di presentarvi la nostra serie di podcast “Ready. Or Not”. Abbiamo affiancato il comico Nathan Macintosh a ospiti esperti per parlare di agenti di intelligenza artificiale, resilienza informatica, fiducia, gestione dei dati e molto altro ancora.
Nella nostra prima puntata, Nathan incontra il dottor Reid Blackman, fondatore e amministratore delegato di Virtue Consultants, per affrontare uno dei temi più importanti dell’intelligenza artificiale di oggi: l’IA agente. Dalle sfide etiche ai rischi per la sicurezza, la loro conversazione esplora cosa succede quando l’IA va oltre la semplice creazione di contenuti per arrivare a prendere decisioni e ad agire.
Una cosa è chiara: l’IA agente non è solo l’ennesima tendenza tecnologica. Sta cambiando il nostro modo di concepire il processo decisionale e il ruolo che l’IA ricoprirà nelle nostre organizzazioni. Se vi state chiedendo cosa significhi l’IA agente per la vostra azienda, questo podcast è un ottimo punto di partenza. Guarda l’episodio completo su Readiverse.
Punti chiave del blog
- La maggior parte dei fallimenti dell’intelligenza artificiale è causata da conseguenze indesiderate, non da intenzioni malevole.
- L’IA agente è in grado di accedere a sistemi, strumenti e dati per svolgere il proprio lavoro, il che la rende al tempo stesso incredibilmente utile e intrinsecamente rischiosa.
- Gli agenti basati sull’intelligenza artificiale possono creare nuove sfide in materia di sicurezza, dagli attacchi basati sui prompt all’ampliamento delle superfici di attacco.
- I sistemi multi-agente possono aumentare l’efficienza, ma possono anche amplificare gli errori quando i sistemi sono interconnessi.
- Le organizzazioni hanno bisogno di modelli pratici per gestire i rischi legati all’intelligenza artificiale prima che questi si trasformino in problemi concreti.
Innanzitutto, non nuocere
Una delle conclusioni che si possono trarre da questo episodio è che la maggior parte dei fallimenti dell’intelligenza artificiale non deriva da cattive intenzioni. Molti hanno origine dal tentativo delle organizzazioni di risolvere problemi aziendali legittimi. Il dottor Blackman cita come esempio uno strumento di reclutamento basato sull’IA di Amazon che ha fallito. L’algoritmo era stato addestrato su curriculum e dati di assunzione passati per orientare le future decisioni di assunzione. L’IA ha finito per apprendere modelli che favorivano i candidati di sesso maschile proprio perché tali modelli erano presenti nei dati.
Il risultato non era quello che Amazon si aspettava, ma è proprio questo il punto. I sistemi di intelligenza artificiale possono imparare cose che non avevamo mai avuto intenzione di insegnare loro. Quello che è successo in seguito è stato incoraggiante: Amazon ha testato il sistema, ha individuato il problema, ha cercato di risolverlo e, alla fine, ha interrotto il progetto quando non è stato possibile risolvere il problema.
Tendiamo a considerare i fallimenti dell’IA come la prova che non ci si può fidare della tecnologia, ma il dottor Blackman sostiene una tesi diversa. Un’IA responsabile non significa fingere che gli errori non accadranno mai. Significa testare, imparare ed essere disposti a fermarsi quando qualcosa non funziona come previsto.
Quando l’intelligenza artificiale diventa una tua collega
L’esempio di Amazon mette in luce anche un aspetto più ampio. L’IA è in grado di fornire valore, ma può anche produrre risultati indesiderati quando non comprendiamo appieno come apprenda o prenda decisioni. L’IA generativa ci ha mostrato ciò che l’IA può creare. L’IA agentica ci sta mostrando ciò che l’IA può effettivamente fare quando è collegata ai sistemi aziendali.
Un paragone che mi ha colpito è che i sistemi agentici, in un certo senso, stanno iniziando ad assomigliare a dei dipendenti. Per essere utili, hanno bisogno di accedere agli stessi strumenti, database e software utilizzati dalle persone. Se si concede a un agente di IA l’accesso a un sistema, può svolgere un compito. Se gli si concede l’accesso a decine di sistemi, diventa più potente.
«Un accesso più ampio comporta maggiori possibilità, ma aumenta anche notevolmente i rischi.» – Dott. Reid Blackman
Anteprima: tenere sotto controllo l’IA
Cosa succede quando il proprio agente di intelligenza artificiale inizia a interagire con gli agenti di altre persone? In questo video, il dottor Blackman spiega perché il monitoraggio dei sistemi multi-agente diventerà una delle nostre sfide più grandi.
Una nuova sfida in materia di sicurezza
L’IA agentica non cambia solo il modo in cui si svolge il lavoro, ma anche il nostro approccio alla sicurezza. Anziché seguire flussi di lavoro predefiniti, gli utenti interagiscono con l’IA attraverso il linguaggio naturale. Ciò rende questi sistemi più intuitivi, ma crea anche nuove sfide che il software tradizionale non presenta.
Come ha spiegato il dottor Blackman, gli hacker non devono necessariamente violare un sistema di intelligenza artificiale come farebbero con un software tradizionale. Possono invece cercare di manipolarlo tramite prompt accuratamente studiati che ne influenzano il comportamento, aggirano le misure di sicurezza o espongono informazioni a cui non dovrebbe avere accesso. Ciò ci ricorda che, man mano che l’intelligenza artificiale diventa più potente, anche la sicurezza deve evolversi di pari passo.
«Abbiamo bisogno che l’intelligenza artificiale controlli l’intelligenza artificiale?» – Nathan Macintosh
I rischi dei sistemi multi-agente
Se un singolo agente di intelligenza artificiale può commettere un errore, immaginate cosa succede quando più agenti di intelligenza artificiale iniziano a lavorare insieme. Sebbene la connessione tra i sistemi possa risultare più efficiente, essa crea anche maggiori possibilità di errore.
Se un agente commette un errore, può innescare un effetto a catena. Un piccolo problema può trasformarsi in uno molto più grave se le organizzazioni non comprendono come funzionano tali interazioni. Ciò non significa che i sistemi multi-agente siano intrinsecamente rischiosi. Significa semplicemente che richiedono lo stesso livello di pianificazione e supervisione che le organizzazioni applicherebbero a qualsiasi processo aziendale complesso.
«Oggi ho scoperto l’IA a agenti e mi sono già spaventato. E ora mi dici che gli agenti di IA comunicano tra loro?» – Nathan Macintosh
Sai con chi sta parlando la tua IA?
Se gestire i propri agenti di IA sembra già una sfida, pensate a cosa succede quando iniziano a interagire con l’IA di qualcun altro. Potreste conoscere le vostre misure di sicurezza e le vostre politiche, ma i sistemi di IA esterni potrebbero essere diversi. Potreste non sapere come sono stati addestrati, a cosa possono accedere e se dispongono delle stesse misure di sicurezza.
Preparatevi
L’IA agentica sta avanzando rapidamente e la tecnologia continuerà a evolversi. Le organizzazioni che avranno successo potrebbero non essere necessariamente quelle che adottano per prime l’IA. Saranno quelle che sapranno come governarla, testarla e costruire fiducia attorno ad essa.
Uno degli obiettivi di “Ready. Or Not.” è quello di andare oltre il clamore mediatico e analizzare come si concretizzi, in realtà, un’adozione responsabile della tecnologia. Il punto di vista del dottor Blackman ci ricorda che un’adozione di successo dell’IA non consiste nello scegliere tra innovazione e cautela, ma nel trovare un equilibrio tra le due. È esattamente il tipo di discussione che siamo entusiasti di portare avanti nel corso della nostra serie. Guarda l’episodio completo su Readiverse.
Domande frequenti
D: Che cos’è l’IA agentica?
R: Per “IA agentica” si intendono quei sistemi di intelligenza artificiale in grado di compiere azioni, accedere a strumenti, interagire con le applicazioni e portare a termine attività articolate in più fasi con diversi livelli di autonomia. Anziché limitarsi a generare risposte, questi sistemi sono in grado di svolgere attivamente attività su sistemi interconnessi.
D: Perché l’IA agentica comporta nuovi rischi?
R: L’intelligenza artificiale agentica richiede spesso l’accesso a più sistemi, applicazioni e fonti di dati. Sebbene tale accesso ne aumenti l’utilità, può anche ampliare il potenziale impatto di errori, usi impropri o violazioni della sicurezza.
D: Cosa sono gli attacchi “prompt”?
R: Gli attacchi di tipo “prompt” consistono nell’utilizzare input accuratamente elaborati per manipolare il comportamento di un sistema di intelligenza artificiale, aggirare le misure di sicurezza o rendere pubbliche informazioni che dovrebbero rimanere protette.
D: Perché il monitoraggio sta assumendo un’importanza sempre maggiore?
R: Man mano che gli agenti di IA diventano più autonomi e si collegano a un numero sempre maggiore di sistemi, diventano anche meno prevedibili. Il monitoraggio aiuta le organizzazioni a individuare tempestivamente comportamenti inaspettati e a comprendere in che modo i sistemi di IA interagiscono con le persone, i dati e altri agenti di IA.
D: Cosa sono i sistemi multi-agente?
R: I sistemi multi-agente sono costituiti da più agenti di intelligenza artificiale che comunicano e collaborano tra loro per portare a termine determinati compiti. Sebbene possano migliorare l’efficienza, possono anche introdurre un’ulteriore complessità che le organizzazioni devono gestire con attenzione.
D: Qual è il messaggio più importante di questa puntata?
R: Il rischio legato all’intelligenza artificiale non riguarda solo ciò che la tecnologia è in grado di fare. Si tratta piuttosto di comprendere come i sistemi si comportano quando interagiscono con le persone, i dati, le applicazioni e tra di loro – e di mettere in atto le giuste misure di sicurezza prima che insorgano problemi.
Katherine Demacopoulos è direttrice senior della strategia e dei programmi globali relativi ai contenuti presso Commvault.
