L’Institut de stratégie de sécurité nationale de Corée du Sud recommande la mise en place d’un système d’évaluation des risques pour l’IA de pointe

fr.wedoany.com Rapport : L’Institut national de stratégie de sécurité (INSS) de Corée du Sud a publié un rapport estimant que, dans le contexte où les États-Unis ont inclus l’intelligence artificielle (IA) de pointe dans le champ du contrôle de la sécurité nationale, la Corée du Sud doit également établir un système national d’évaluation des risques pour l’IA de pointe et repenser sa stratégie souveraine en matière d’IA.

Dans un document d’analyse publié début juillet, l’Institut indique que les mesures de contrôle des exportations du gouvernement américain ont conduit à l’interruption du service du modèle Anthropic, connue sous le nom d’« incident Mitose », faisant de l’accès à l’IA de pointe à l’étranger une variable centrale de la sécurité nationale. Le président américain Donald Trump a signé le 2 du mois dernier un décret intitulé « Promouvoir l’innovation et la sécurité de l’IA avancée », ciblant les modèles d’IA de pointe, avec des mesures incluant un examen préalable autonome dans les 30 jours, des tests de référence confidentiels menés par l’Agence de sécurité nationale, et la création d’un centre d’échange d’informations sur la cybersécurité de l’IA. Le rapport souligne que l’administration Trump, qui maintenait une position de déréglementation technologique, a clairement désigné l’IA de pointe comme un objet de contrôle de la sécurité nationale, marquant un tournant de sa politique de gestion de l’IA, passant d’une politique industrielle à une gouvernance de sécurité nationale.

Le changement de position du gouvernement américain est lié à l’incident Mitose. En avril dernier, Anthropic a annoncé que son modèle « Claude Mitose Preview » avait acquis la capacité de détecter de manière autonome des vulnérabilités zero-day et de générer des codes d’attaque. En conséquence, le ministère américain du Commerce a exigé le 12 du mois dernier, pour des raisons de sécurité nationale, de restreindre l’accès à « Mitose5 » et à « Fable5 », destiné au grand public. Anthropic a complètement interrompu le service, invoquant la difficulté de distinguer les utilisateurs étrangers des utilisateurs américains à l’étranger. Après 18 jours de contrôle, Fable5 a officiellement repris son service le 1er de ce mois.

Le rapport cite l’exemple d’Anthropic, qui a choisi une interruption de service plus large que celle exigée par le gouvernement, pour souligner que l’effet réel de la régulation peut varier en fonction des décisions autonomes des entreprises. Il analyse également que, peu après cette interruption, l’entreprise chinoise Zhipu AI a lancé « GLM-5.2 », et que les lacunes dans certains modèles pourraient offrir des opportunités aux pays concurrents.

Le rapport propose des mesures de réponse pour la Corée du Sud, notamment la mise en place d’un système national d’évaluation des risques centré sur les capacités réseau, distinct de la « Loi fondamentale sur l’IA » basée sur la puissance de calcul ; la création d’une gouvernance de sécurité de l’IA centrée sur le Service national de renseignement ; et la refonte d’une stratégie souveraine en matière d’IA définissant la souveraineté comme incluant la continuité de l’accès. Yang Jisoo, chercheur à l’INSS, a déclaré qu’à l’avenir, la politique en matière d’IA devra non seulement prendre en compte ce qu’il faut développer, mais aussi comment garantir la continuité de l’accès à l’IA de pointe.