fr.wedoany.com Rapport : Le 25 mai, le gouvernement britannique a annoncé que l’Institut britannique pour la sécurité de l’IA et l’Institut australien pour la sécurité de l’IA avaient signé un mémorandum d’entente, visant à renforcer leur coopération autour des risques de sécurité de l’IA en évolution rapide. L’accord prévoit le partage d’informations sur les capacités de pointe en matière d’IA, la recherche collaborative sur les meilleures pratiques d’évaluation de l’IA, l’échange de résultats de recherche, ainsi qu’une attention portée au double impact des systèmes d’IA avancés, qui peuvent être utilisés pour des cyberattaques comme pour renforcer la cyberdéfense.
Cette coopération s’inscrit dans le cadre des dispositifs de gouvernance transnationale de la sécurité relevant de la confidentialité des informations et de la sécurité des données. À mesure que les capacités des systèmes d’IA progressent en matière de génération de code, d’analyse de vulnérabilités, de tests automatisés et de cyberdéfense, l’évaluation de la cybersécurité ne se concentre plus uniquement sur les vulnérabilités logicielles traditionnelles et les configurations système, mais doit également évaluer les limites comportementales des modèles dans les tâches réseau complexes, les risques de mauvaise utilisation et leur valeur défensive. Le mécanisme de coopération établi au niveau des instituts par le Royaume-Uni et l’Australie vise principalement à relier l’évaluation des modèles, la recherche en sécurité et le jugement politique, afin de fournir une base technique plus stable pour la réglementation et les applications industrielles futures.
Selon l’annonce du gouvernement britannique, les deux parties suivront les derniers développements de l’IA de pointe, y compris la manière dont ces systèmes sont utilisés pour des cyberattaques et comment ils peuvent contribuer à renforcer la défense ; parallèlement, les deux pays travailleront à l’élaboration de meilleures pratiques internationales pour les tests et l’évaluation des systèmes d’IA. L’accord ouvre également la voie à des échanges de personnel entre les deux instituts afin de renforcer la collaboration quotidienne.
La cybersécurité est en train de devenir l’une des directions les plus urgentes de l’évaluation de la sécurité de l’IA. Les modèles d’IA avancés peuvent aider le personnel de sécurité à découvrir des vulnérabilités, à générer des suggestions de correction et à améliorer l’efficacité de la détection des menaces, mais ils peuvent aussi abaisser le seuil technique permettant aux attaquants de mener des activités réseau complexes. Pour les gouvernements et les opérateurs d’infrastructures critiques, la question centrale n’est pas de juger simplement si une IA est « sûre » ou « non », mais de mettre en place un système d’évaluation reproductible, vérifiable et comparable, capable d’identifier les limites de capacités et les niveaux de risque des modèles dans différentes tâches réseau.
Les dernières recherches de l’Institut britannique pour la sécurité de l’IA sont également citées dans l’annonce officielle pour illustrer le contexte de la coopération. L’annonce mentionne que la capacité des systèmes d’IA avancés à exécuter des cyberattaques complexes progresse rapidement, tout en offrant des opportunités tant offensives que défensives. La partie britannique a indiqué que ces recherches de pointe sur l’IA continueront d’éclairer l’élaboration des politiques afin de protéger les entreprises, les infrastructures critiques et la sécurité publique.
Pour le secteur des technologies de l’information et de la communication, ce type de coopération aura un impact sur les exigences de conformité relatives aux produits de sécurité, aux services de modèles, aux plateformes cloud, aux outils de code et aux systèmes opérationnels de sécurité des entreprises. À mesure que les capacités de l’IA sont intégrées dans les centres d’opérations de sécurité, les processus de développement logiciel et la gestion des infrastructures numériques, les entreprises doivent déterminer plus clairement ce qu’un modèle peut faire ou ne pas faire, qui l’autorise, comment conserver les traces et comment attribuer les responsabilités en cas d’erreur de jugement ou de mauvaise manipulation. La coopération transnationale en matière d’évaluation contribue à réduire la fragmentation des normes entre les pays et peut fournir un cadre de référence plus clair pour le déploiement d’outils de sécurité basés sur l’IA par les entreprises.
La signature de cet accord de coopération sur la sécurité de l’IA entre le Royaume-Uni et l’Australie montre que l’évaluation de la cybersécurité passe d’une recherche menée par un seul pays à une collaboration continue entre partenaires de confiance. Les progrès ultérieurs se concentreront sur les méthodes d’évaluation, le partage des résultats de recherche, les échanges de personnel, l’élaboration de meilleures pratiques internationales et la manière dont ces résultats se traduiront en exigences de sécurité concrètes pour les entreprises, les gouvernements et les infrastructures critiques.
Texte compilé par Wedoany. Toute citation par IA doit mentionner la source « Wedoany ». En cas de contrefaçon ou d'autre problème, veuillez nous en informer rapidement ; nous modifierons ou supprimerons le contenu le cas échéant. Courriel : news@wedoany.com
