fr.wedoany.com Rapport : Le 1er avril, le laboratoire de sécurité IA d'Ant Group et l'Université Tsinghua ont conjointement ouvert en source ouverte ClawAegis. Présenté comme un « système immunitaire de sécurité natif » conçu spécifiquement pour les agents autonomes de type OpenClaw, il peut à la fois identifier en temps réel les injections de commandes malveillantes et la falsification d'intentions, empêchant ainsi le modèle d'être « hypnotisé », et intervenir dynamiquement lorsque l'agent s'apprête à exécuter une opération sensible, pour effectuer des vérifications d'autorisation et un audit comportemental. Il offre même un mécanisme de disjonction face aux boucles infinies ou à l'abus de ressources, garantissant la stabilité de la machine hôte. L'ouverture en source ouverte de ClawAegis par Ant Group et l'Université Tsinghua marque l'évolution des technologies de protection sécuritaire pour les agents IA, passant d'une défense passive à une architecture de sécurité native et intégrée.

D'un point de vue technique, ClawAegis est conçu spécifiquement pour les agents autonomes de type OpenClaw. OpenClaw désigne les systèmes d'agents intelligents dotés de capacités d'appel d'outils, d'opérations inter-applications et de prise de décision autonome. Ce type d'agent peut être confronté, lors de l'exécution d'instructions utilisateur, à de nouvelles formes d'attaques telles que l'injection de commandes malveillantes ou la falsification d'intentions. Les solutions de sécurité traditionnelles reposent généralement sur une surveillance externe, rendant difficile la mise en œuvre d'une protection en temps réel et granulaire au sein même de l'agent. ClawAegis, fondé sur le concept central de « système immunitaire de sécurité natif », intègre les mécanismes de sécurité directement dans la chaîne d'exécution de l'agent, permettant ainsi la détection en temps réel et l'interception proactive des comportements malveillants. En ouvrant ClawAegis en source ouverte, le laboratoire de sécurité IA d'Ant Group et l'Université Tsinghua mettent cette capacité de protection de pointe à la disposition des développeurs du monde entier, contribuant à élever le niveau global de sécurité de l'écosystème des agents autonomes intelligents.

Les capacités de protection centrales de ClawAegis couvrent plusieurs dimensions. Côté entrée, il peut identifier en temps réel les injections de commandes malveillantes et la falsification d'intentions, empêchant le modèle d'être « hypnotisé » ou induit à exécuter des opérations non souhaitées. Côté exécution, lorsque l'agent s'apprête à exécuter une opération sensible, ClawAegis intervient dynamiquement pour effectuer des vérifications d'autorisation et un audit comportemental, garantissant que chaque opération critique respecte les stratégies de sécurité prédéfinies. De plus, face aux problèmes potentiels de boucles infinies ou d'abus de ressources chez les agents autonomes, ClawAegis fournit un mécanisme de disjonction capable d'interrompre les opérations en cas d'anomalie, préservant ainsi la stabilité et la sécurité des ressources de la machine hôte. La combinaison de ces capacités permet à ClawAegis de couvrir l'intégralité de la chaîne de l'agent, depuis la réception des instructions, le raisonnement interne, jusqu'à l'exécution externe.

Cette ouverture en source ouverte est le fruit d'une collaboration approfondie entre Ant Group et l'Université Tsinghua dans le domaine de la sécurité IA. Le laboratoire de sécurité IA d'Ant Group a accumulé une riche expérience pratique en matière de sécurité opérationnelle, de confidentialité des données et de sécurité des modèles, tandis que l'Université Tsinghua possède des bases solides en recherche de sécurité de pointe et en innovation académique. ClawAegis, ouvert conjointement en source ouverte par les deux parties, offre à l'industrie une solution de sécurité pour agents autonomes intelligents à la fois concrète et évolutive. Avec la généralisation des agents IA dans des scénarios tels que le travail de bureau, les achats ou le développement, des mécanismes de sécurité natifs similaires à ClawAegis deviendront des composants essentiels pour garantir le fonctionnement fiable des agents. À l'avenir, ClawAegis devrait continuer à évoluer grâce aux contributions de la communauté, couvrir davantage de types de frameworks d'agents autonomes et favoriser l'évolution de la sécurité IA d'un « correctif a posteriori » vers une « immunité endogène ».