Microsoft lance une initiative sur la transparence de l'IA avec plus de 40 organisations

2026-11-18 10:12
Favoris

fr.wedoany.com Rapport : Le 17 novembre, lors de la conférence Ignite 2026 qui s'est tenue à San Francisco, Microsoft a lancé l'« Initiative pour la transparence de l'IA », en collaboration avec plus de 40 organisations, dont Accenture, Adobe, KPMG, Mastercard et Volvo Cars, afin d'élaborer des normes ouvertes de transparence, de sécurité et de gouvernance applicables à différents modèles d'intelligence artificielle et fournisseurs. Microsoft prévoit d'élargir sa coopération avec le National Institute of Standards and Technology (NIST) des États-Unis et d'intégrer les résultats techniques concernés dans ses produits et services d'intelligence artificielle.

Microsoft participera davantage à l'initiative du NIST sur les normes relatives aux agents intelligents et utilisera les résultats de recherche concernés pour faire avancer l'élaboration de normes sectorielles en matière de transparence, de sécurité et de gouvernance de l'IA. Les organisations partenaires étudieront conjointement les mécanismes d'enregistrement du comportement des systèmes d'IA, de vérification indépendante et de contrôle des autorisations ; les normes couvriront les modèles à code fermé et les modèles à poids ouverts, et s'appliqueront aux produits fournis par différents fournisseurs de modèles.

Les normes concernées seront progressivement intégrées aux produits et services Microsoft AI, Microsoft Foundry et Microsoft Copilot. Les clients entreprises pourront, via Microsoft ou des outils tiers de sécurité et de conformité, obtenir des preuves du comportement des modèles d'IA et des agents intelligents, et mener des examens de sécurité indépendants ainsi que des vérifications de conformité.

Les mécanismes techniques proposés par Microsoft comprennent trois volets : l'observabilité, la vérifiabilité et la contrôlabilité du comportement de l'IA. L'enregistrement des comportements couvrira les tâches reçues par les agents intelligents, les modèles utilisés et l'environnement d'exécution, les données et outils auxquels ils accèdent, les opérations effectuées, ainsi que les autorisations et signaux de risque associés. Le mécanisme de vérification distinguera les enregistrements de comportement générés par le modèle lui-même des preuves indépendantes formées par l'environnement d'exécution, la gestion des identités et les systèmes de politiques, afin de permettre aux entreprises de vérifier les opérations réelles des agents intelligents.

Le mécanisme de contrôle des autorisations enregistrera l'objectif des tâches, les entités responsables, la portée de l'utilisation des données et les autorisations accordées dans les flux de travail de l'IA, afin de permettre aux entreprises de mettre en œuvre des politiques de sécurité avant l'exécution d'opérations critiques et de retracer les enregistrements des opérations des agents intelligents lors d'enquêtes de sécurité, de traitement d'incidents et d'audits. Les preuves de comportement concernées pourront continuer à être utilisées pour la gestion de la sécurité et les examens de conformité après le changement de modèle ou de fournisseur par l'entreprise.

Ce texte est rédigé, traduit et republié à partir des informations de l'Internet mondial et de partenaires stratégiques, uniquement pour la communication entre lecteurs. En cas d'infraction au droit d'auteur ou d'autres problèmes, veuillez nous en informer à temps pour la modification ou la suppression. La reproduction de cet article est strictement interdite sans autorisation formelle. Mail : news@wedoany.com