fr.wedoany.com Rapport : Sam Altman, PDG d'OpenAI, a publié un article d'opinion intitulé « Voici comment nous rendons l'IA sûre pour tous », proposant un cadre de gouvernance de l'intelligence artificielle centré sur des normes de sécurité mondiales, une supervision indépendante et une coopération entre les nations.
Cet article paraît dans un contexte de débats de plus en plus vifs sur le contrôle de l'IA de pointe. Ces derniers mois, les États-Unis ont renforcé leurs restrictions sur l'accès international aux modèles avancés, y compris en Europe. Début juin, Anthropic a limité la disponibilité des modèles Mythos 5 et Fable 5 en dehors des États-Unis, mais cette semaine, la société a annoncé avoir conclu un accord avec le gouvernement américain et réactivé Fable 5. La proposition d'Altman introduit une tension notable dans ce contexte : tout en prônant la démocratisation des bénéfices de l'IA, elle confère aux États-Unis un rôle central dans la gouvernance technologique. La solution consiste à créer un forum international dirigé par Washington, chargé d'élaborer des normes reconnues internationalement, de fournir des analyses impartiales sur les capacités et les risques de l'IA, et d'offrir l'accès à cette technologie aux pays et aux entreprises qui participent et respectent ces règles.
Altman estime que cette architecture de gouvernance est une condition nécessaire à une large diffusion de la technologie. « Si nous ne prenons pas de mesures face aux menaces réelles pour la sécurité qui se présentent à nous, le monde ne pourra pas profiter des avantages de l'intelligence artificielle », écrit-il, ajoutant que « l'établissement de normes de sécurité est une exigence fondamentale pour que cette technologie puisse être largement déployée ». Ce forum pourrait rassembler des représentants gouvernementaux, des experts techniques indépendants et d'autres parties prenantes, tout en agissant comme un superviseur pour les régulateurs et les laboratoires d'IA, afin de prévenir une course au développement technologique dangereuse et non sécurisée sous la pression commerciale.
L'idée centrale de l'article est que l'élaboration de normes de sécurité internationales doit précéder le déploiement des systèmes les plus avancés. Altman estime que tous les pays, entreprises et citoyens devraient bénéficier de l'IA, mais à condition qu'il existe des règles communes et des mécanismes de certification pour garantir une utilisation sûre. Selon lui, les pays respecteraient les normes établies par le forum international et obtiendraient ainsi un accès stable aux modèles les plus avancés. Cette proposition tente de répondre simultanément à deux préoccupations du débat international : éviter une concentration excessive du pouvoir technologique et réduire les risques posés par des systèmes de plus en plus puissants. « Cette coopération internationale semble être un moyen judicieux d'éviter une concentration excessive du pouvoir et de garantir la démocratisation des bénéfices de l'IA », déclare le dirigeant.
Cette approche marque un changement par rapport aux axes de débat des dernières années. Altman ne prône plus simplement une régulation nationale ou une autorégulation des entreprises technologiques, mais propose un modèle de gouvernance internationale inspiré d'autres domaines stratégiques, citant la sécurité aérienne, les normes financières internationales et l'Agence internationale de l'énergie atomique (AIEA) comme exemples, plaidant pour que l'IA se développe sous un mécanisme de coopération similaire. Parallèlement, il cherche à écarter l'idée que les grandes entreprises technologiques devraient jouer un rôle régulateur. « Les laboratoires développent la technologie, mais ce sont les citoyens et leurs représentants élus qui doivent établir les règles », écrit-il, soulignant : « Les décisions les plus importantes concernant l'utilisation de cette technologie doivent être prises par des processus démocratiques, et non par quelques entreprises de San Francisco. »
L'article reflète l'optimisme d'Altman quant à l'impact futur de l'IA. Il affirme que d'ici un à deux ans, des systèmes aux capacités bien supérieures à celles des systèmes actuels pourraient voir le jour, capables d'accélérer les découvertes scientifiques, de stimuler la croissance économique et de transformer profondément la société. « L'IA changera les conditions matérielles de la vie humaine à une échelle qu'aucune technologie n'a atteinte depuis l'exploitation de l'électricité – peut-être même à une échelle encore plus grande », prédit-il. Néanmoins, il estime que ce scénario dépend de la mise en place d'un cadre de confiance international ; sinon, les pays auront tendance à réagir en limitant nationalement le développement et la distribution de l'IA, conduisant à un écosystème plus fragmenté. Altman appelle ainsi à une coopération internationale : « Nous devons trouver un moyen d'établir une confiance mondiale dans cette technologie afin que nous puissions tous partager ces bénéfices. »
