Des chercheurs d'OpenAI et d'ailleurs alertent sur l'accélération de l'automatisation de la R&D en IA

fr.wedoany.com Rapport : Le 28 septembre, le projet de science et de politique de l'intelligence artificielle de l'Université de Cambridge a publié un rapport de recherche intitulé « Et si l'automatisation de la R&D en IA déclenchait une “explosion d'intelligence” ? ». Plus de 20 chercheurs en intelligence artificielle ont participé à ce rapport, dont Jakub Pachocki, scientifique en chef d'OpenAI, Jack Clark, cofondateur d'Anthropic, Eric Horvitz, scientifique en chef de Microsoft, ainsi que Dawn Song, associée à la recherche en intelligence artificielle de Meta ; Geoffrey Hinton et Yoshua Bengio figurent également parmi les auteurs. Les chercheurs des entreprises concernées ont tous participé à titre personnel.

Le rapport utilise le degré d'automatisation de la R&D en IA comme indicateur de suivi central. L'étude cite des données internes d'Anthropic selon lesquelles, de janvier 2025 à mai 2026, la proportion de code généré par l'IA dans le code approuvé de l'entreprise est passée d'un chiffre à un seul chiffre faible à plus de 80 % ; de mars à août 2026, la proportion de travaux de R&D réalisés par l'IA ne nécessitant qu'une faible supervision humaine est passée d'environ 1 % à 26 %. Sur cette base, le rapport avance que, dans les années à venir, les systèmes d'IA pourraient prendre en charge la majeure partie du processus de R&D en IA, et que la vitesse d'automatisation de certaines tâches de R&D pourrait continuer à augmenter.

Le rapport examine un scénario de R&D récursive : des systèmes d'IA participent à la recherche sur les modèles, à l'ingénierie logicielle, aux expériences et à l'évaluation, puis utilisent les résultats de la R&D pour développer une nouvelle génération de systèmes d'IA aux capacités plus puissantes. Si ce cycle s'accélère continuellement, les auteurs qualifient la croissance rapide des capacités qui en résulte d'« explosion d'intelligence », définie comme la compression en quelques mois, voire moins, de progrès des capacités d'IA qui auraient normalement nécessité des années. Le rapport précise toutefois que ce scénario comporte encore une grande incertitude : l'approvisionnement en puissance de calcul et en données, les rendements marginaux des capacités des modèles, les tâches de R&D difficiles à automatiser ainsi que les longs cycles d'entraînement des modèles pourraient tous limiter l'ampleur de l'accélération de la R&D.

Les recommandations politiques énumérées dans le rapport comprennent la mise en place d'un mécanisme de reporting standardisé sur le degré d'automatisation de la R&D en IA, afin d'améliorer la visibilité des gouvernements sur le niveau d'automatisation des processus de R&D des entreprises d'IA de pointe ; l'étude de mécanismes techniques et institutionnels visant à contrôler la vitesse de la R&D lors des phases de croissance rapide des capacités ; l'établissement de plans de réponse d'urgence face à une croissance rapide des capacités, ainsi que l'étude de mécanismes de coordination transnationale. Les auteurs proposent également que la préparation politique couvre des scénarios tels qu'une vitesse de croissance des capacités d'IA dépassant la capacité d'adaptation de la société, une baisse de la capacité humaine à superviser des systèmes d'IA hautement autonomes, et une forte concentration des capacités d'IA avancées.