fr.wedoany.com Rapport : D’anciens chercheurs en sécurité de l’intelligence artificielle chez Cisco ont fondé une nouvelle entreprise, axée sur la résolution d’un problème qui n’existait pratiquement pas auparavant : protéger la sécurité des agents d’IA autonomes auxquels les entreprises confient les clés de leurs systèmes critiques.
Tenet Security Inc. a dévoilé aujourd’hui une plateforme conçue pour empêcher les comportements malveillants des agents d’IA d’atteindre les systèmes de production. La technologie centrale de cette plateforme, appelée « simulation côté agent » (Agent-Side Simulation), simule les actions possibles d’un agent avant qu’il n’entre en contact avec l’infrastructure réelle.
Si le chemin présente un risque, Tenet intervient avant que des dommages ne surviennent et envoie une trace d’audit expliquant la raison du blocage. Alors que les outils de sécurité traditionnels émettent généralement des alertes après qu’un événement suspect s’est produit, Tenet tente de détecter les problèmes avant que l’agent n’agisse réellement.
Les entreprises confèrent aux agents d’IA des permissions réelles pour agir de manière autonome. Ces agents exécutent du code, extraient des données de bases de données et apportent des modifications aux systèmes en temps réel. Cependant, une fois que les agents évoluent librement dans l’environnement, les équipes de sécurité ignorent souvent leurs actions. Tenet indique que le nombre d’agents d’IA exploités par une organisation est généralement cinq fois supérieur à ce que son équipe de sécurité perçoit.
« Les agents d’IA pourraient être le plus grand levier de productivité que les entreprises aient vu depuis des décennies, c’est pourquoi les organisations les déploient rapidement », a déclaré Barak Sternberg, cofondateur et directeur général. « Mais nous entrons dans un monde où des agents autonomes interagissent avec des systèmes, des données et d’autres agents, alors que la plupart des outils de sécurité n’ont jamais été conçus pour comprendre ces interactions. »
Sternberg a cofondé Tenet avec Nevo Poran. Tous deux sont des chercheurs en sécurité offensive qui ont travaillé sur la défense IA (AI Defense) chez Cisco, étudiant comment les attaquants ciblent les systèmes autonomes. Auparavant, ils dirigeaient Wild Pointer, une entreprise de cybersécurité générant un chiffre d’affaires annuel à sept chiffres, avec des clients parmi les entreprises du Fortune 500. Tous deux ont pris la parole lors des conférences DEF CON et Black Hat.
Avant ce lancement, le laboratoire Tenet Threat Labs de l’entreprise a mené des recherches sur le « détournement d’agents » (agentjacking), une catégorie d’attaques qui manipulent un agent pour qu’il exécute des actions contrôlées par l’attaquant.
L’attaque dissimule des instructions malveillantes dans le contenu que l’agent lit, comme des e-mails, des entrées de journal ou des enregistrements de base de données. Lorsque l’agent traite ce contenu, les instructions prennent le contrôle et redirigent les actions suivantes de l’agent. Tenet a testé cette approche dans plus de 100 environnements d’entreprise et a découvert que des milliers d’organisations pourraient être vulnérables. Les outils de sécurité traditionnels n’ont pas détecté ces attaques, car l’agent exécutait des actions autorisées, sans déclencher d’alerte.
Les premiers déploiements ont déjà révélé l’ampleur du problème. Tenet indique qu’une entreprise du secteur juridique avec un chiffre d’affaires annuel récurrent de 1 milliard de dollars a vu le nombre de ses agents passer de deux à plus de 20 en six mois d’utilisation de la plateforme, et a bloqué plus de dix tentatives d’attaque, dont une grave attaque de type cross-site scripting. Chez un autre client du Fortune 1000, Tenet a découvert qu’un agent incontrôlé avait consommé des dizaines de milliers de dollars en jetons en un week-end.
« Nous voyons de plus en plus fréquemment les agents d’IA eux-mêmes devenir une partie du chemin d’attaque », a déclaré Poran. « Le seul endroit où ces menaces peuvent être capturées est au moment de l’exécution, à l’instant où l’agent décide d’agir. »
Ce lancement est soutenu par un financement d’amorçage de 6 millions de dollars, destiné au développement du produit, à l’expansion du Tenet Threat Labs et au développement des opérations sur le marché nord-américain. The Westly Group (un soutien précoce de SentinelOne Holdings Inc.) a mené le tour, avec la participation de MizMaa Ventures Ltd. Les conseillers de Tenet incluent David Schwed, ancien responsable de la sécurité de l’information chez Robinhood Markets Inc., et Rick Scott, ancien responsable de la sécurité de l’information chez The Bank of New York Mellon Corp.
Texte compilé par Wedoany. Toute citation par IA doit mentionner la source « Wedoany ». En cas de contrefaçon ou d'autre problème, veuillez nous en informer rapidement ; nous modifierons ou supprimerons le contenu le cas échéant. Courriel : news@wedoany.com
