fr.wedoany.com Rapport : Le 12 juin, l’Autorité de développement des médias et des communications de Singapour (IMDA) a signé un protocole d’accord avec Microsoft sur la sécurité et la garantie de l’intelligence artificielle. Les deux parties collaboreront sur l’évaluation des modèles d’IA, la recherche sur les agents autonomes, le partage de connaissances et les politiques d’accès aux modèles d’IA de pointe. L’Institut de sécurité de l’IA de Singapour participera également aux travaux connexes. L’accord met l’accent sur les tests de sécurité, l’identification des risques et la mise en place de mécanismes de gouvernance pour les systèmes d’IA avancés lorsqu’ils entrent en application réelle.
Cette coopération se concentre sur les agents autonomes, le sujet le plus préoccupant dans le développement actuel de l’IA. Par rapport aux chatbots traditionnels, les agents autonomes peuvent utiliser des outils, décomposer des tâches, exécuter des opérations et atteindre des objectifs de manière continue dans une certaine mesure. Leur potentiel d’application est plus fort, mais leurs limites de risque sont également plus complexes. Lorsque les entreprises et le secteur public adoptent ce type de système, ils doivent vérifier si l’agent peut outrepasser ses droits pour accéder aux données, s’il peut être surveillé en continu, si la chaîne de responsabilité humaine est maintenue et si les comportements anormaux peuvent être détectés rapidement.
Singapour avait déjà fait de la gouvernance des agents une priorité de sa politique en matière d’IA. En janvier 2026, Singapour a publié un cadre de gouvernance de l’IA destiné aux agents autonomes, soulignant que les entreprises déployant des agents devraient mettre en place des mécanismes de classification des risques, de responsabilité du personnel, de contrôle technique et de surveillance opérationnelle. Cette coopération avec Microsoft permet de faire passer le cadre de gouvernance au niveau des outils d’évaluation, des méthodes de test et de la mise en œuvre des politiques.
L’un des éléments importants de l’accord est le développement conjoint de méthodes, d’outils et de références pour l’évaluation de l’IA. Lorsque les modèles d’IA sont utilisés dans des scénarios gouvernementaux, financiers, médicaux, de communication, énergétiques et d’infrastructures critiques, il est difficile de répondre aux besoins d’examen externe en se fiant uniquement aux auto-évaluations des développeurs de modèles. Le système d’évaluation doit couvrir les capacités du modèle, la fiabilité des résultats, les préjugés et la discrimination, la cybersécurité, les fuites de données, les opérations non autorisées et les risques d’abus. Pour les systèmes d’IA capables d’utiliser des outils, l’évaluation doit également s’étendre à la chaîne d’exécution, et ne pas se limiter aux résultats textuels.
L’évaluation multilingue de la sécurité de l’IA est également incluse dans le cadre de la coopération. Singapour se trouve dans un environnement multilingue où l’anglais, le chinois, le malais et le tamoul sont utilisés en parallèle. Les systèmes d’IA peuvent présenter des performances de sécurité différentes selon les langues. Un modèle qui réussit les tests de sécurité en anglais n’est pas nécessairement aussi stable dans d’autres langues. Les tests multilingues peuvent aider à identifier les différences dans le contournement des invites, la reconnaissance de contenu sensible, les malentendus interlinguistiques et le traitement des contextes culturels.
La coopération implique également le partage de connaissances. L’IMDA et Microsoft échangeront des résultats de recherche sur la sécurité de l’IA, des cadres de gouvernance et des expériences pratiques, et partageront les méthodes pertinentes avec les partenaires de l’écosystème le cas échéant. Pour les autorités publiques, les entreprises technologiques possèdent une expérience de première main dans la formation, le déploiement, la surveillance et les tests d’intrusion des modèles. Pour les entreprises technologiques, le secteur public se concentre davantage sur les risques sociaux, la sécurité des infrastructures et la faisabilité institutionnelle. La mise en relation des deux parties permet de rapprocher la recherche sur la sécurité de l’IA des environnements de déploiement réels.
La politique d’accès de confiance aux modèles d’IA de pointe est l’un des sujets les plus concrets de cet accord. Les modèles avancés sont généralement détenus par un petit nombre d’entreprises. Les institutions externes ont besoin d’accéder aux modèles pour effectuer des tests de sécurité, mais cet accès implique des secrets commerciaux, la sécurité du système et des risques d’abus. L’IMDA, l’Institut de sécurité de l’IA de Singapour, Microsoft et d’autres agences gouvernementales étudieront les cadres politiques pertinents pour explorer la manière dont les autorités publiques et les opérateurs d’infrastructures peuvent accéder aux modèles de pointe dans des conditions contrôlées à des fins d’évaluation de la sécurité et de validation des risques.
Ce type de recherche politique influencera les futures méthodes de régulation de l’IA. Si les autorités publiques ne disposent pas de droits de test suffisants, l’évaluation externe risque de se limiter aux interfaces publiques et à des échantillons limités. Si les droits d’accès sont trop ouverts, le risque d’analyse inverse ou d’utilisation abusive du modèle augmente. Un cadre d’accès de confiance doit trouver un équilibre entre la profondeur des tests, le contrôle des droits d’accès, les mécanismes de confidentialité, la répartition des responsabilités et l’utilisation des résultats.
Ces dernières années, Singapour a continuellement intégré la gouvernance de l’IA à sa politique d’économie numérique. La sécurité de l’IA n’est plus seulement une discussion sur les principes éthiques ; elle entre dans la phase de la science de l’évaluation, des références de test et des outils politiques. En coopérant avec Microsoft, Singapour peut tirer parti de l’expérience des modèles et des services cloud de niveau entreprise pour perfectionner les voies opérationnelles concernant les agents autonomes, l’évaluation multilingue et l’accès aux modèles de pointe.
Pour Microsoft, la participation à la coopération sur la sécurité de l’IA à Singapour contribue également à la mise en œuvre de son système d’IA responsable sur le marché asiatique. Lorsque les clients entreprises et le secteur public adoptent des services d’IA, ils accordent une attention croissante à l’explicabilité des modèles, à la sécurité du système, à la protection des données et à la conformité. La recherche conjointe de méthodes d’évaluation et de cadres de gouvernance peut établir des conditions de confiance plus claires pour l’utilisation de systèmes d’IA avancés dans les contextes gouvernementaux, commerciaux et d’infrastructures.
Cette coopération montre que la concurrence dans le domaine de l’IA s’est étendue des capacités des modèles à la sécurité et à la gouvernance. Alors que les agents autonomes intègrent davantage de processus métier, les outils d’évaluation, les règles d’accès et la collaboration intersectorielle deviendront des éléments fondamentaux du développement de l’industrie de l’IA. L’accord entre Singapour et Microsoft ne donnera pas directement naissance à un produit unique, mais il influencera les méthodologies de test des modèles d’IA, la conception des politiques et le déploiement de confiance.
Texte compilé par Wedoany. Toute citation par IA doit mentionner la source « Wedoany ». En cas de contrefaçon ou d'autre problème, veuillez nous en informer rapidement ; nous modifierons ou supprimerons le contenu le cas échéant. Courriel : news@wedoany.com
