En matière d’IA et de cybersécurité, les gros titres ne manquent pas. Chaque semaine semble apporter son lot de prédictions, d’avertissements ou d’affirmations audacieuses sur ce que l’avenir nous réserve. Certaines de ces informations font état de progrès réellement significatifs, tandis que d’autres ne sont guère plus qu’un coup de pub. Le défi consiste à faire la part des choses – c’est là que commence cet épisode de « Prêt. Ou pas. ».
Ce qui suit est une conversation sur le scepticisme, l’esprit critique et les raisons pour lesquelles, pour bien comprendre la technologie, il faut souvent aller au-delà des gros titres. Regardez l’épisode dans son intégralité sur Readiverse.
Points clés à retenir
- Tous les articles consacrés à l’IA ou à la cybersécurité ne méritent pas la même attention.
- L’IA accélère à la fois la cyberdéfense et les cyberattaques, ce qui rend l’esprit critique plus important que jamais.
- Les hackers ont contribué à façonner la cybersécurité moderne en mettant en lumière des failles que d’autres avaient négligées.
- Les principes fondamentaux de la sécurité restent essentiels, même siL’IA bouleverse le paysage.
- Les organisations doivent trouver un juste milieu entre le sentiment d’urgence et le scepticisme face à l’évolution rapide des technologies.
Suivre le rythme de l’IA
Dans cet épisode (S2:E2), l’animateur Nathan Macintosh s’entretient avec Joseph Menn, journaliste d’investigation spécialisé dans la cybersécurité et auteur, dont la carrière journalistique couvre aussi bien les campagnes de piratage menées par des États que la cybercriminalité organisée et l’évolution de la culture hacker. Ensemble, ils explorent une question qui prend de plus en plus d’importance : comment distinguer les véritables risques de cybersécurité liés à l’IA du battage médiatique qui les entoure ?
L’un des premiers sujets abordés par Nathan est le flot incessant de gros titres consacrés à l’IA. Avec l’apparition de nouveaux modèles et de nouvelles prévisions, on a parfois l’impression que le paysage change chaque semaine.
Pour Joseph, le défi ne consiste pas simplement à suivre l’actualité. Il s’agit de suivre le rythme de la technologie elle-même. Alors que les organisations investissent massivement dans l’IA, de nouvelles capacités apparaissent plus rapidement que ne peuvent le comprendre pleinement de nombreuses entreprises, les régulateurs et même les développeurs.
Dans le même temps, la pression concurrentielle alimente une course à l’armement en matière d’IA, les entreprises se précipitant pour construire des modèles plus puissants et déployer de nouvelles fonctionnalités avant même d’en mesurer pleinement les implications.
Cela ne signifie pas que les organisations doivent ralentir leurs efforts ou éviter complètement l’IA. Mais cela met en évidence pourquoi les responsables de la sécurité doivent voir au-delà de l’engouement et poser des questions plus précises. Quel problème cette technologie permet-elle de résoudre ? Quels risques entraîne-t-elle ? Et comprenons-nous aussi bien ses limites que son potentiel ?
Ce qui compte aujourd’hui
Alors que l’IA fait l’objet de tous les débats, Nathan aborde une question que se posent de nombreux dirigeants :
Joseph souligne le rythme effréné des progrès réalisés dans le domainel’IA et son impact croissant sur les deux aspects de la cybersécurité. De nouveaux outils aident les défenseurs à travailler plus efficacement, tandis que les attaquants utilisent des capacités similaires pour accroître la vitesse et l’ampleur de leurs opérations.
On peut citer, par exemple, l’essor d’agents IA de plus en plus autonomes, un sujet que nous avons abordé dans l’épisode 1 de la saison 2. À mesure que ces systèmes assument davantage de responsabilités, ils soulèvent également d’importantes questions concernant la supervision, la responsabilité et le contrôle.
Ce que je retiens, c’est que le sujet le plus marquant en matière d’IA n’est peut-être pas un modèle révolutionnaire ou une prédiction qui fait le buzz. C’est la transformation progressive de la cybersécurité qui s’opère déjà autour de nous.
Aperçu : Risques et représailles
Après avoir passé des années à enquêter sur les cybercriminels, les pirates informatiques au service d’États et les groupes de hacktivistes, Joseph explique pourquoi devenir une cible n’a jamais été sa principale préoccupation.
Ce que la culture hacker peut nous apprendre
Les hackers sont souvent présentés comme des fauteurs de troubles, mais Joseph affirme que la culture hacker est souvent mal comprise. Contrairement aux stéréotypes courants, ces pionniers étaient animés par la curiosité, la créativité et le désir d’améliorer la technologie.
Des groupes tels que Cult of the Dead Cow ont vu le jour lorsque des adolescents ont commencé à explorer la technologie et à comprendre le fonctionnement des systèmes. Au fur et à mesure que l’Internet s’est développé, bon nombre d’entre eux sont devenus des défenseurs de la sécurité, de la vie privée et des droits numériques.
Selon Joseph, ils ont contribué à jeter les bases du secteur moderne de la cybersécurité. Ce qui faisait leur force, ce n’était pas seulement leur expertise technique, mais aussi leur volonté de remettre en question les idées reçues et de contester les lieux communs.
Aux débuts d’Internet, les hackers signalaient souvent des failles de sécurité et remettaient en cause les affirmations exagérées. Plutôt que de prendre les choses pour argent comptant, ils testaient les systèmes, recherchaient leurs faiblesses et examinaient leur fonctionnement réel.
Cet état d’esprit reste tout aussi pertinent aujourd’hui. À mesure que l’IA occupe une place de plus en plus importante dans notre façon de travailler et de prendre des décisions, l’esprit critique devient plus important que jamais. Nous développons peut-être des technologies plus intelligentes, mais nous ne pouvons pas nous permettre de cesser de penser par nous-mêmes.
Comment rester vigilant en matière de « Readiness »
Tout au long de cet épisode, Joseph nous rappelle que la technologie ne détermine pas à elle seule les résultats. Ce sont les personnes qui en sont à l’origine.
L’IA continuera d’ouvrir de nouvelles perspectives, d’engendrer de nouveaux risques et ne manquera pas de faire la une des journaux. Les organisations qui prospéreront seront celles qui poseront les meilleures questions, resteront curieuses et remettront en question les idées reçues. À bien des égards, notre atout le plus précieux reste peut-être encore le jugement humain.
Continuez à suivre « Prêt. Ou pas. » pour découvrir d’autres débats qui vous aideront à comprendre ce qui change, ce qui mérite votre attention et comment les organisations peuvent se préparer à l’avenir.
FAQ
Q : Pourquoi est-il de plus en plus difficile de suivre le rythme de l’IA ?
R :Le rythme de l’innovation s’accélère rapidement. De nouveaux modèles, outils et capacités apparaissent plus vite que les organisations ne peuvent les évaluer pleinement. En conséquence, de nombreux dirigeants sont amenés à prendre des décisions technologiques avant que les bonnes pratiques, les réglementations et les cadres de sécurité n’aient complètement rattrapé leur retard.
Q : À quelles évolutions de l’IA les responsables de la sécurité doivent-ils accorder une attention particulière ?
R :Plutôt que de se concentrer sur des prévisions spéculatives, les responsables devraient s’intéresser aux évolutions qui transforment aujourd’hui la cybersécurité, notamment la détection des vulnérabilités grâce à l’IA, les agents autonomes, l’automatisation de la sécurité et le recours croissant à l’IA tant par les attaquants que par les défenseurs.
Q : Que veut dire Joseph Menn lorsqu’il affirme que l’IA est « à double usage » ?
R :De nombreuses capacités de l’IA peuvent être utilisées à des fins tant offensives que défensives. Par exemple, l’IA peut aider les équipes de sécurité à identifier les vulnérabilités logicielles et à les corriger plus rapidement, mais les attaquants peuvent utiliser des techniques similaires pour découvrir et exploiter ces mêmes vulnérabilités avant qu’elles ne soient corrigées.
Q : Que peuvent apprendre les organisations modernes de la culture hacker ?
R : La culture hacker a contribué à façonner le secteur de la cybersécurité en encourageant la curiosité, l’expérimentation et la remise en question des idées reçues. De nombreux hackers de la première heure s’attachaient à mettre en évidence les faiblesses afin que les systèmes puissent être améliorés, un état d’esprit qui reste précieux alors que les organisations s’adaptent à de nouvelles technologies telles que l’IA.
Q : Pourquoi l’esprit critique est-il plus important que jamais ?
R :L’IA facilite la création de contenu, l’automatisation des tâches et la diffusion d’informations à grande échelle. Par conséquent, les organisations ont besoin de dirigeants et d’employés capables d’évaluer les affirmations, de vérifier les informations, de remettre en question les idées reçues et de distinguer les analyses fondées sur des preuves du battage médiatique ou de la désinformation.
Q : Quel est le principal enseignement positif à tirer de cet épisode ?
R :L’IA ne se contente pas de créer de nouveaux risques. Elle offre également de formidables opportunités aux défenseurs. Les équipes de sécurité utilisent déjà l’IA pour identifier les vulnérabilités, automatiser les mesures de protection et améliorer la résilience. Alors que le paysage des menaces continue d’évoluer, les organisations ont également accès à des capacités qui étaient inimaginables il y a encore quelques années. Katherine Demacopoulos est directrice principale de la stratégie et des programmes de contenu mondiaux chez Commvault.
