fr.wedoany.com Rapport : Trust3 AI a annoncé son intention d'étendre sa couche de confiance unifiée (Unified Trust Layer) à la plateforme NVIDIA NeMo, une solution de bout en bout dédiée au développement de modèles d'IA générative et d'agents personnalisés. Membre du programme NVIDIA Inception, Trust3 AI progresse dans cette intégration, visant à permettre aux entreprises de gérer les agents et applications fonctionnant sur NeMo sans avoir à mettre en place de systèmes de contrôle indépendants supplémentaires.
Lorsque les organisations passent de la phase pilote à la phase de production, les principaux obstacles ne sont plus les capacités des modèles, mais les questions de gouvernance. Les équipes opérationnelles peinent à répondre aux questions fondamentales de contrôle des agents : quels agents sont en cours d'exécution, à quelles données et outils ont-ils accès, quelles actions ont-elles réellement effectuées, et ces informations peuvent-elles être vérifiées par un audit ? L'intégration prévue de NeMo par Trust3 AI vise à établir une boucle de gouvernance fermée au niveau opérationnel.
Une fois l'intégration terminée, elle offrira aux équipes construites sur NeMo des fonctionnalités de découverte et d'inventaire des agents, couvrant les agents potentiellement non enregistrés dans le déploiement NeMo ; un contrôle d'accès lié à l'objectif, liant les droits d'accès des agents à leur objectif déclaré plutôt qu'à des rôles statiques, avec une expiration automatique des autorisations ; une application des politiques au moment de l'exécution des opérations, chaque requête transportant l'identité de l'agent, son objectif déclaré et les informations de traçabilité des données avant le déclenchement d'un outil ou le déplacement de données ; une observabilité haute fidélité, capturant les invites, les recherches, les appels d'outils et les accès aux données, permettant la relecture et l'examen du comportement des agents ; et la génération d'une chaîne de preuves d'audit, pouvant être mappée à des normes telles que la loi européenne sur l'IA et le cadre de gestion des risques liés à l'IA du NIST.
Cette approche complète les mécanismes de contrôle de NeMo (y compris NeMo Guardrails) en superposant une couche de confiance indépendante et neutre vis-à-vis du fournisseur. Cette couche de confiance se situe sous les agents, et non en parallèle.
Neeraj Sabharwal, cofondateur de Trust3 AI, a déclaré que le principal goulot d'étranglement pour les entreprises passant de l'expérimentation à la production sur NVIDIA NeMo est la sécurité et la gouvernance. Cette intégration place la couche de confiance sous les agents basés sur NeMo, permettant aux équipes de sécurité et de conformité d'observer chaque agent, de protéger et de gérer chaque opération, tout en garantissant que les équipes de livraison d'IA ne soient pas perturbées. Fondée par les principaux ingénieurs d'Apache Ranger et d'Apache Atlas, Trust3 AI, avec son architecture de plan de contrôle unique et sa couche de confiance unifiée, vise à gérer les agents sur n'importe quel framework, cloud ou source de données.
