fr.wedoany.com Rapport : Naver étend le champ de la gestion de la sécurité de l’IA, passant du modèle lui-même aux services d’IA réellement utilisés par les utilisateurs. L’essentiel est de passer de la gestion des risques liés aux modèles d’IA à une gestion de la sécurité couvrant l’ensemble du processus, de la planification du service à sa mise en exploitation.
Le 8, lors du « Forum de Séoul sur la Sécurité de l’Intelligence Artificielle (SFASS) » tenu dans le district de Gangnam à Séoul, Naver a dévoilé son système de gestion de la sécurité de l’IA, « ASF (AI Safety Framework) 2.0 ».
L’ASF 2.0 est une révision de l’ASF que Naver avait présenté lors du Sommet de Séoul sur l’IA (AI Seoul Summit) en 2024. La version précédente se concentrait sur les performances et la gestion des risques des modèles d’IA eux-mêmes. Cette mise à jour intègre désormais dans le périmètre de gestion l’ensemble du processus, de la fourniture du service d’IA à son utilisation par l’utilisateur, ainsi que l’environnement d’utilisation réel.
Cette révision reflète l’évolution de la stratégie de Naver en matière de services d’IA. L’entreprise a restructuré son système de gestion en fonction des changements technologiques et réglementaires, notamment la stratégie « On-Service AI » qui applique l’IA à l’ensemble des services (recherche IA, agent IA pour le shopping, etc.), l’environnement multi-modèles utilisant une combinaison de plusieurs modèles d’IA, et la mise en œuvre de la loi-cadre sur l’intelligence artificielle. L’objet de la gestion de la sécurité n’est plus un modèle d’IA unique, mais l’ensemble du service d’IA résultant de la combinaison de plusieurs modèles d’IA.
L’ASF 2.0 catégorise les risques potentiels dans les services d’IA via une « Taxonomie des Risques de l’IA (AI Risk Taxonomy) », et évalue le domaine d’application du service, son périmètre d’utilisation ainsi que son impact sur les utilisateurs et la société à l’aide d’une « Matrice d’Évaluation de l’Impact de l’IA (AI Impact Assessment Matrix) ». Sur cette base, les mesures de sécurité nécessaires sont mises en œuvre, et les risques sont gérés en continu après la mise en service via des évaluations de sécurité et les retours des utilisateurs.
Naver opère également un système d’exécution à l’échelle de l’entreprise, « CHEC 2.0 (Système d’Exécution pour la Consultation sur l’Éthique et la Sécurité de l’IA de Naver) », qui applique ces normes au processus de développement des services réels. Il s’agit d’un processus qui vérifie la sécurité de l’IA selon les mêmes critères, de la planification du service à sa mise en exploitation. L’« AI Tab », dévoilé en juin dernier, a également fait l’objet de vérifications de sécurité via CHEC 2.0, de la phase de conception à la mise en service. À l’avenir, Naver prévoit d’appliquer progressivement ce système aux services basés sur l’IA qui seront lancés ou sont déjà en exploitation.
En mars dernier, Naver a créé une organisation spécialisée dans la sécurité de l’IA, le « Centre de Sécurité de l’IA (AI Safety Center) », sous l’autorité du Chief Responsibility Officer (CRO). L’entreprise gère la sécurité de l’IA via un système de gestion à trois niveaux : les départements de service assurent l’exécution, le Centre de Sécurité de l’IA la gestion, et le conseil d’administration la supervision.
Song Dae-seop, responsable de la politique de sécurité de l’IA (Safety Policy) chez Naver, a déclaré qu’avec l’évolution de l’environnement technologique, des services et des politiques autour de l’IA, il devient de plus en plus important, au-delà de la sécurisation d’un modèle unique, de concevoir et d’exploiter en toute sécurité des services combinant plusieurs modèles d’IA. Il a ajouté que Naver continuera à accumuler expérience et savoir-faire en matière de sécurité de l’IA, et à partager et développer ce système en collaboration avec divers acteurs tels que le monde académique, les institutions politiques et les experts externes.
