Quando si parla di intelligenza artificiale e sicurezza informatica, i titoli dei giornali non mancano certo. Ogni settimana sembra arrivare una nuova previsione, un avvertimento o un’affermazione audace su ciò che ci aspetta. Alcune di queste notizie riguardano progressi davvero significativi, mentre altre non sono altro che sensazionalismo. La sfida sta nel distinguere le une dalle altre: è proprio da qui che parte questa puntata di“Pronti. O no”.”.
Quella che segue è una conversazione sullo scetticismo, sul pensiero critico e sul motivo per cui, per comprendere la tecnologia, spesso è necessario andare oltre i titoli dei giornali. Guarda l’episodio completo su Readiverse.
Punti di forza
- Non tutti gli articoli relativi all’intelligenza artificiale o alla sicurezza informatica meritano la stessa attenzione.
- L’intelligenza artificiale sta accelerando sia la difesa informatica che gli attacchi informatici, rendendo il pensiero critico più importante che mai.
- Gli hacker hanno contribuito a plasmare la sicurezza informatica moderna mettendo in luce i punti deboli che altri avevano trascurato.
- I principi fondamentali della sicurezza rimangono importanti, anche seL’intelligenza artificiale sta cambiando il panorama.
- Le organizzazioni devono trovare un equilibrio tra urgenza e scetticismo nell’affrontare i rapidi cambiamenti tecnologici.
Al passo con l’IA
In questa puntata (S2:E2), il conduttore Nathan Macintosh intervista Joseph Menn, giornalista investigativo specializzato in sicurezza informatica e autore, la cui carriera giornalistica ha spaziato dalle campagne di hacking condotte dagli Stati-nazione alla criminalità informatica organizzata, fino all’evoluzione della cultura hacker. Insieme, approfondiscono una questione sempre più importante: come distinguere i rischi reali per la sicurezza informatica legati all’intelligenza artificiale dal clamore che li circonda?
Uno dei primi argomenti sollevati da Nathan è il flusso costante di notizie sull’IA. Con nuovi modelli e previsioni, può sembrare che il panorama cambi ogni settimana.
Per Joseph, la sfida non consiste semplicemente nel tenersi al passo con le notizie, ma nel stare al passo con la tecnologia stessa. Mentre le organizzazioni investono massicciamente nell’IA, nuove funzionalità stanno emergendo più rapidamente di quanto molte aziende, autorità di regolamentazione e persino sviluppatori riescano a comprendere appieno.
Allo stesso tempo, la pressione competitiva sta alimentando una corsa agli armamenti nel campo dell’IA, con le aziende che si affrettano a costruire modelli più grandi e a implementare nuove funzionalità prima ancora di comprenderne appieno le implicazioni.
Ciò non significa che le organizzazioni debbano rallentare o evitare del tutto l’IA. Ma evidenzia perché i responsabili della sicurezza debbano guardare oltre l’entusiasmo e porsi domande più impegnative. Quale problema sta risolvendo questa tecnologia? Quali rischi comporta? E ne comprendiamo i limiti così come il potenziale?
Cosa conta in questo momento
Con l’intelligenza artificiale al centro del dibattito, Nathan affronta una domanda che molti leader si stanno ponendo:
Joseph sottolinea il ritmo serrato disviluppo dell’IA e il suo crescente impatto su entrambi gli aspetti della sicurezza informatica. Nuovi strumenti stanno aiutando i difensori a lavorare in modo più efficiente, mentre gli aggressori stanno utilizzando capacità simili per aumentare la velocità e la portata delle loro operazioni.
Un esempio è l’affermarsi di agenti di intelligenza artificiale sempre più autonomi, un tema che abbiamo trattato nel“Episodio 1” dellastagione 2. Man mano che questi sistemi assumono maggiori responsabilità, sollevano anche importanti interrogativi in materia di vigilanza, responsabilità e controllo.
La mia conclusione è che la notizia più importante sull’intelligenza artificiale potrebbe non essere un modello rivoluzionario o una previsione che fa il giro del web. È la costante trasformazione della sicurezza informatica che sta già avvenendo intorno a noi.
Anteprima: Risk e ritorsione
Dopo aver trascorso anni a occuparsi di criminali informatici, hacker al servizio di Stati nazionali e gruppi di hacktivisti, Joseph spiega perché diventare un bersaglio non è mai stata la sua preoccupazione principale.
Cosa può insegnarci la cultura hacker
Gli hacker vengono spesso descritti come piantagrane, ma Joseph sostiene che la cultura hacker sia spesso fraintesa. Contrariamente agli stereotipi diffusi, questi primi innovatori erano spinti dalla curiosità, dalla creatività e dal desiderio di migliorare la tecnologia.
Gruppi come Cult of the Dead Cow sono nati da adolescenti che esploravano la tecnologia e imparavano come funzionavano i sistemi. Con l’espansione di Internet, molti di loro sono diventati difensori della sicurezza, della privacy e dei diritti digitali.
Secondo Joseph, hanno contribuito a gettare le basi del moderno settore della sicurezza informatica. Ciò che li rendeva preziosi non era solo la competenza tecnica, ma la loro disponibilità a mettere in discussione i preconcetti e a sfidare la saggezza convenzionale.
Agli albori di Internet, gli hacker segnalavano spesso falle nella sicurezza e contestavano affermazioni esagerate. Anziché accettare le cose per buone, mettevano alla prova i sistemi, cercavano i punti deboli ed esaminavano come funzionassero realmente.
Quella mentalità è rilevante anche oggi. Man mano che l’intelligenza artificiale assume un ruolo sempre più centrale nel modo in cui lavoriamo e prendiamo decisioni, il pensiero critico sta diventando più importante che mai. Stiamo forse sviluppando tecnologie più intelligenti, ma non possiamo permetterci di smettere di pensare con la nostra testa.
Come prepararsi alla Readiness
In questa puntata, Joseph ci ricorda che la tecnologia da sola non determina i risultati. Sono le persone a farlo.
L’intelligenza artificiale continuerà a offrire nuove opportunità e nuovi rischi, e di certo non mancheranno i titoli sui giornali. Le organizzazioni che avranno successo saranno quelle che porranno le domande migliori, manterranno viva la curiosità e metteranno in discussione i preconcetti. Per molti versi, il nostro vantaggio più prezioso potrebbe essere ancora il giudizio umano.
Continua a seguire“Pronti. O no.”per altre discussioni che aiutano a dare un senso a ciò che sta cambiando, a ciò a cui vale la pena prestare attenzione e a come le organizzazioni possano prepararsi per il futuro.
Domande frequenti
D: Perché sta diventando sempre più difficile stare al passo con l’IA?
R:Il ritmo dell’innovazione sta accelerando rapidamente. Nuovi modelli, strumenti e funzionalità stanno emergendo più velocemente di quanto le organizzazioni riescano a valutarli appieno. Di conseguenza, molti leader si trovano a dover prendere decisioni tecnologiche prima che le best practice, le normative e i quadri di riferimento per la sicurezza abbiano completato il loro adeguamento.
D: A quali sviluppi nel campo dell’intelligenza artificiale dovrebbero prestare particolare attenzione i responsabili della sicurezza?
R:Anziché concentrarsi su previsioni speculative, i responsabili dovrebbero prestare attenzione agli sviluppi che stanno cambiando il panorama della sicurezza informatica oggi, tra cui l’individuazione delle vulnerabilità basata sull’intelligenza artificiale, gli agenti autonomi, l’automazione della sicurezza e il crescente ricorso all’intelligenza artificiale sia da parte degli aggressori che dei difensori.
D: Cosa intende Joseph Menn quando afferma che l’IA è a “doppio uso”?
R:Molte funzionalità dell’IA possono essere utilizzate sia a fini offensivi che difensivi. Ad esempio, l’IA può aiutare i team di sicurezza a identificare le vulnerabilità del software e a correggerle più rapidamente, ma gli aggressori possono utilizzare tecniche simili per individuare e sfruttare quelle stesse vulnerabilità prima che vengano risolte.
D: Cosa possono imparare le organizzazioni moderne dalla cultura hacker?
R: La cultura hacker ha contribuito a plasmare il settore della sicurezza informatica incoraggiando la curiosità, la sperimentazione e la messa in discussione dei preconcetti. Molti dei primi hacker si concentravano sull’individuazione dei punti deboli per consentire il miglioramento dei sistemi, una mentalità che rimane preziosa ora che le organizzazioni si stanno orientando verso nuove tecnologie come l’intelligenza artificiale.
D: Perché il pensiero critico è più importante che mai?
R:L’intelligenza artificiale sta rendendo più facile la creazione di contenuti, l’automazione delle attività e la diffusione di informazioni su larga scala. Di conseguenza, le organizzazioni hanno bisogno di leader e dipendenti in grado di valutare le affermazioni, verificare le informazioni, mettere in discussione i presupposti e distinguere le intuizioni basate su prove concrete dal clamore mediatico o dalla disinformazione.
D: Qual è il messaggio più positivo che si può trarre da questo episodio?
R:L’IA non sta solo creando nuovi rischi. Sta anche creando grandi opportunità per chi si occupa di sicurezza. I team di sicurezza stanno già utilizzando l’IA per identificare le vulnerabilità, automatizzare le misure di protezione e migliorare la resilienza. Mentre il panorama delle minacce continua a evolversi, le organizzazioni hanno anche accesso a capacità che erano inimmaginabili solo pochi anni fa. Katherine Demacopoulos è direttrice senior della strategia e dei programmi globali relativi ai contenuti presso Commvault.
