IA et cybersécurité : Les agents LLM peuvent-ils pirater des sites Web ?

Introduction : La montée en puissance de l’IA dans le domaine de la cybersécurité

Les capacités des agents d’intelligence artificielle progressent à un rythme effréné. Voilà une nouvelle percée qui risque de secouer le monde de la cybersécurité : des équipes d’agents LLM (Large Language Models) peuvent désormais exploiter de manière autonome des vulnérabilités de type « zero-day » dans le monde réel. (Eh oui, l’IA n’est plus cantonnée à gagner aux échecs ou à jouer à Fortnite 😉)

Mais concrètement, qu’est-ce que cela signifie ? En bref, les acteurs malveillants peuvent potentiellement utiliser ces agents d’IA pour pirater des sites Web. Oui, vous avez bien lu. Une perspective inquiétante qui soulève de nombreuses préoccupations, que nous allons explorer ensemble.

L’essor des agents d’IA dans les tâches complexes

Avant d’entrer dans le vif du sujet, revenons un instant sur les progrès récents des agents d’IA. Eh oui, ces petits génies ont fait des bonds de géant. Désormais, ils sont capables de résoudre des tâches aussi complexes que les « problèmes de GitHub dans le monde réel » et même d’organiser vos courriels de façon autonome. (Finie l’ère du « gmailospamcestdurlavie@hotmail.com » !)

Bien évidemment, chaque médaille a son revers. Parallèlement aux applications bénignes, le potentiel d’ utilisation malveillante de ces agents ne cesse d’augmenter. Le piratage figure parmi les principales préoccupations en la matière, ce qui a poussé les chercheurs à explorer les capacités des agents d’IA à exploiter les vulnérabilités de la cybersécurité.

Des agents autonomes capables de pirater des sites fictifs

Les premiers travaux dans ce domaine ont montré que de simples agents d’IA parvenaient à pirater de manière autonome des sites Web fictifs de type « capture du drapeau » . Impressionnant, n’est-ce pas ? Mais ce n’est pas tout. Lorsqu’on leur fournissait la description d’une vulnérabilité réelle, ces petits malins étaient en mesure de l’exploiter.

Cependant, ils butaient dès que cette description leur était cachée, comme c’est le cas pour les vulnérabilités « zero-day ». Une question restait alors en suspens : des agents d’IA plus complexes pourraient-ils relever ce défi ?

La nouvelle étude : Des équipes d’agents LLM capables d’exploiter les vulnérabilités « zero-day »

Une récente étude apporte enfin une réponse à cette interrogation. Les chercheurs ont développé un nouveau cadre multi-agents baptisé HPTSA (Hierarchical Planning Team for Security Automation), spécialement conçu pour les exploits de cybersécurité.

Selon les chercheurs, HPTSA serait « le premier système multi-agents à réussir des exploits de cybersécurité significatifs ».

Contrairement aux travaux antérieurs utilisant un seul agent, HPTSA fait intervenir une équipe d’agents spécialisés. Un agent de planification hiérarchique explore d’abord le site Web pour déterminer les types de vulnérabilités à rechercher et les pages à cibler. Ensuite, un agent gestionnaire d’équipe décide quels agents spécifiques envoyer pour tenter d’exploiter chaque forme de vulnérabilité identifiée.

Un nouveau benchmark de vulnérabilités réelles

Afin de tester les performances de HPTSA, les chercheurs ont constitué un nouveau benchmark composé de 15 vulnérabilités récentes issues de logiciels open-source. Toutes ces failles étaient inconnues du modèle GPT-4 d’OpenAI, assurant ainsi un véritable défi de type « zero-day ».

Les résultats sont plutôt impressionnants. Sur ce benchmark exigeant, HPTSA a réussi à exploiter

5 vulnérabilités sur 53, soit une performance proche d’un agent GPT-4 connaissant la description des failles

. De plus, il a largement dépassé les scanners de vulnérabilités open-source et un seul agent GPT-4 sans description, qui ont échoué lamentablement.

Les implications inquiétantes pour la cybersécurité

Cette étude soulève des questions cruciales quant à l’impact des agents d’IA sur la cybersécurité. Comme le soulignent les chercheurs eux-mêmes :

« Nos résultats suggèrent que la cybersécurité, tant du côté offensif que défensif, va s’accélérer. Aujourd’hui, les pirates informatiques peuvent utiliser des agents d’IA pour pirater des sites Web. »

D’un côté, les attaquants disposent désormais d’un outil redoutable pour exploiter des failles de sécurité critiques. De l’autre, les équipes de défense pourront également recourir à ces agents pour renforcer leurs tests de pénétration et détecter plus efficacement les vulnérabilités.

Un appel à la prudence pour les fournisseurs de LLM

Face à ces développements inquiétants, les chercheurs lancent un appel à la réflexion approfondie concernant le déploiement des LLM. Bien que leur travail se concentre sur les vulnérabilités Web et open-source, ils reconnaissent qu’il reste encore beaucoup à faire pour comprendre pleinement les implications des agents d’IA dans la cybersécurité.

Voilà qui devrait donner matière à réfléchir aux fournisseurs de LLM comme OpenAI, Google ou encore Anthropic. Une chose est sûre, la course à l’IA soulève de nouveaux défis éthiques et sécuritaires qu’il convient d’anticiper dès maintenant.

Les défis à relever pour sécuriser l’ère de l’IA

Au-delà des avancées techniques, cette étude met en lumière les enjeux cruciaux qui nous attendent dans l’ère de l’intelligence artificielle. La cybersécurité n’est que la pointe de l’iceberg.

À mesure que les agents d’IA deviendront plus autonomes et performants, il faudra repenser en profondeur nos méthodes de sécurisation. Les vulnérabilités « zero-day » ne seront bientôt plus l’apanage des humains, mais également des machines. Un défi de taille pour lequel nous devons dès à présent nous préparer.

Vers un équilibre délicat entre sécurité et innovation

Certes, l’IA ouvre la voie à des innovations révolutionnaires dans de nombreux domaines. Cependant, nous ne devons pas perdre de vue les risques inhérents à cette technologie de rupture. Un équilibre délicat devra être trouvé entre sécurité et innovation, afin de tirer le meilleur parti de l’IA tout en limitant son potentiel d’utilisation malveillante.

Les prochaines années s’annoncent passionnantes, mais aussi riches en défis. Aux chercheurs, aux entreprises et aux gouvernements de relever le gant pour façonner un avenir où l’IA sera un outil au service de l’humanité, et non une menace.