fr.wedoany.com Rapport : Une équipe de recherche de l’Académie chinoise des sciences (Chinese Academy of Sciences) a proposé le concept de « scientifique en cybersécurité basé sur l’intelligence artificielle » (Cybersecurity AI Scientist) et a conçu un système multi-agents modulaire nommé Héphaïstos (Hephaestus), visant à automatiser l’ensemble du processus de recherche en cybersécurité. Dans un article récemment publié, l’équipe décrit ce système de recherche capable d’accomplir de manière autonome toutes les étapes, de la formulation des questions à la conception expérimentale, la construction d’outils, l’exécution contrôlée, l’évaluation et la production de résultats écrits.
Les agents d’intelligence artificielle autonomes commencent déjà à effectuer des tâches de sécurité réelles, telles que la détection de vulnérabilités logicielles, l’exécution de tests d’intrusion et l’enchaînement d’étapes d’attaque. Cependant, la recherche en cybersécurité progresse lentement et dépend fortement du travail humain, limitée par la rareté des experts et des expériences conçues manuellement. L’équipe espère combler cet écart.
Héphaïstos est un système multi-agents modulaire comprenant des agents spécialisés dans la structuration des problèmes, la modélisation des menaces, la génération d’outils et la rédaction de rapports. Son nom est tiré de l’épopée d’Homère, le dieu forgeron des lances et des boucliers, symbolisant la capacité du système à produire à la fois des travaux offensifs et défensifs.
Les auteurs estiment que les systèmes de recherche automatisés existants, tels que AI Scientist et ses versions ultérieures pour l’apprentissage automatique, ainsi que Co-Scientist et Robin pour la biologie et la biomédecine, ne peuvent pas être directement transposés à la cybersécurité. En effet, les objets de recherche en cybersécurité s’adaptent de manière dynamique à l’étude, les mises à jour des plateformes de modèles, des garde-fous et des accès aux outils sont plus rapides qu’un cycle de recherche unique, et la confiance repose sur des méthodes telles que les jumeaux numériques, les cyber-ranges et les chaînes de preuves.
L’équipe a proposé le « cadre des quatre zéros » (four-zeros frame), définissant quatre types d’échecs que le système doit traiter : le risque (risk), la confiance (trust), l’incident (incident) et l’énergie (energy). Le risque désigne les défauts cachés dans les logiciels ; la confiance implique que les actions auxiliaires doivent rester calibrées pour garantir que l’opérateur humain conserve le contrôle ; l’incident concerne les erreurs opérationnelles et les besoins en environnements de test ; l’énergie renvoie aux conséquences organisationnelles et éthiques accumulées à long terme. Le système doit étudier et réduire chaque type d’échec.
Sur l’axe du risque, l’article mentionne les sauts de capacité des modèles de pointe. Par exemple, la version préliminaire de Claude Mythos publiée par Anthropic (relevant du projet Project Glasswing) a vu son accès public restreint en raison de ses capacités trop élevées en matière de cyberattaques, et n’est accessible que via un programme de partenariat soumis à un examen strict ; des rapports indiquent que ce modèle a déjà été utilisé pour découvrir à grande échelle des vulnérabilités dans des logiciels largement utilisés, y compris des défauts persistants. Le benchmark CyberGym cité dans l’article teste les agents sur plus d’un millier de vulnérabilités réelles (provenant de nombreux projets open source), avec un taux de succès unique des modèles de pointe se situant entre quelques dizaines de pour cent, et une capacité à découvrir de manière autonome des vulnérabilités zero-day inédites.
L’article propose également le concept de « légions d’agents résilientes » (resilient agent legions), bouleversant le modèle de défense traditionnel. Il imagine un grand nombre d’agents défensifs redondants dispersés en périphérie du réseau, surveillant chaque couche, coordonnant les canaux et les tâches de récupération, chaque agent transportant une « capsule d’événement et de défense », un ensemble compact associant un type d’événement de sécurité à sa routine de réponse. Le concept traditionnel de sécurité des terminaux se transforme ainsi en sécurité des agents, le travail consistant à gérer des groupes d’agents, la protection reposant sur un comportement collectif.
Le co-auteur Lidong Zhai (翟立东) a expliqué la méthode d’évaluation du système. Il considère le benchmark à long terme comme un protocole longitudinal, fixant les cibles et perturbant au fil du temps la pile de modèles, les outils, les garde-fous et l’environnement de menace. La sortie est une matrice de profil, rapportant la production de recherche, la qualité des preuves, la charge de calibrage, la robustesse face au renouvellement des modèles et des outils, la conformité en matière de gouvernance et le traitement des conséquences. Il souligne que le benchmark doit être pondéré par les conséquences, les événements à forte propagation et à forte perte devant recevoir un poids plus élevé, car la priorisation elle-même fait partie de la capacité scientifique.
Lidong Zhai indique que les mécanismes de confinement contrôlent à quatre niveaux : capacité, rôle, environnement et artefact. L’exploration offensive, l’analyse défensive, l’évaluation et les décisions de publication suivent des voies d’autorisation indépendantes, les travaux sensibles étant isolés dans des jumeaux numériques et des cyber-ranges distincts. L’article n’a pas encore construit un système complet, faisant face à des défis ouverts tels que des objectifs de défense hétérogènes et la difficulté de distinguer au niveau du code les usages offensifs des usages défensifs. Lidong Zhai estime que le critère ultime d’évaluation du scientifique en cybersécurité basé sur l’intelligence artificielle ne réside pas seulement dans l’accélération de la recherche, mais aussi dans l’amélioration de la sérénité stratégique, une priorisation plus précise et une conception de défense plus durable.
