Sakana AI, entreprise japonaise, crée un laboratoire de recherche sur l'auto-amélioration récursive

fr.wedoany.com Rapport : La start-up japonaise d'IA Sakana AI a créé un laboratoire de recherche sur l'auto-amélioration récursive (Recursive Self-Improvement, RSI), visant à développer des systèmes d'IA capables d'optimiser de manière autonome leur propre processus de développement, de l'architecture à l'entraînement en passant par l'évaluation. Dans un article de blog annonçant la création du laboratoire, l'entreprise a déclaré qu'elle s'engageait à développer des « architectures ouvertes et adaptatives » capables de s'améliorer collectivement.

La start-up a défini quatre phases pour le RSI. La première phase est celle des « modèles natifs d'agents » (Agent-Native Models), qui consiste à développer à partir de zéro des architectures d'IA et des modèles du monde pour des tâches d'agents ouvertes, plutôt que des applications de chat traditionnelles. La deuxième phase est celle de « l'IA scientifique » (The AI Scientist), où les modèles mèneront de manière autonome des recherches scientifiques, couvrant l'ensemble du processus, de la conception des idées aux expériences en passant par l'expansion des connaissances scientifiques. La troisième phase, « l'auto-amélioration récursive », décrit la transition du système vers la capacité d'améliorer ses propres modèles de base et architectures, où les agents d'IA devraient être capables d'écrire, de tester et de valider leur propre code, déclenchant ainsi un cycle autonome d'auto-optimisation. En tant qu'objectif à long terme, Sakana AI propose une « IA démocratisée », estimant que grâce à l'auto-amélioration récursive et à une utilisation plus efficace des ressources de calcul, les petits pays, institutions et entreprises pourraient également développer des systèmes d'IA puissants, sans dépendre des centres de données géants des grandes entreprises technologiques.

Sakana AI positionne le RSI comme une issue possible à la course aux armements matériels des grands laboratoires d'IA, soulignant que l'auto-amélioration récursive devrait pouvoir être réalisée avec un « calcul modéré et efficace en termes d'échantillons ». Cependant, il reste à savoir si le RSI peut réellement éliminer l'avantage des centres de données à très grande échelle, et cette idée n'est pas nouvelle, de nombreux incubateurs d'IA expérimentant déjà le RSI. Fondée en 2023 par d'anciens chercheurs de Google, Sakana AI compte parmi ses cofondateurs Llion Jones, l'un des auteurs de l'influent article sur les Transformers « Attention Is All You Need », et David Ha, qui a travaillé chez Google Brain et Stability AI. Le nom de l'entreprise signifie « poisson » en japonais, faisant référence aux comportements de groupe et à l'intelligence collective.

La création du laboratoire RSI intervient alors que le débat sur les risques de l'IA auto-améliorante s'intensifie. Anthropic a déjà mis en garde contre les risques d'une IA auto-développée et soutient un ralentissement coordonné du développement de l'IA de pointe. Les risques énumérés par Sakana AI elle-même incluent : les cycles évolutifs pouvant dévier de la distribution, les auto-modifications qui, bien que réussissant les tests de référence, échouent en pratique, et les agents pouvant trouver des raccourcis indésirables. L'entreprise a annoncé qu'elle publierait ouvertement (y compris les résultats négatifs) et construirait des cycles d'auto-amélioration avec des mécanismes de sécurité vérifiables. Le laboratoire basé à Tokyo recrute actuellement des chercheurs scientifiques de pointe (Frontier Research Scientists) et des ingénieurs principaux avancés (Advanced Core Engineers).