fr.wedoany.com Rapport : La mission principale de l’infrastructure IA est passée du soutien à l’inférence des grands modèles à celui du déploiement à grande échelle d’agents intelligents et de la production continue de tokens de haute qualité. Selon les données d’IDC, le marché chinois des agents IA en entreprise atteindra environ 19 milliards de yuans en 2025, avec un taux de croissance annuel composé estimé à plus de 110 % entre 2025 et 2028. Le jugement de Gartner est encore plus direct : en 2026, 40 % des applications d’entreprise intégreront des agents IA orientés tâches. Lors de la phase d’inférence des grands modèles, l’infrastructure IA ne devait gérer qu’une seule entrée et une seule sortie. En entrant dans la phase des agents, l’infrastructure doit désormais prendre en charge la décomposition des tâches, l’appel d’outils, la collaboration multi-tours et l’exécution continue, ce qui impose des exigences radicalement différentes en matière de puissance de calcul. Derrière cela se cachent en réalité deux lacunes de capacité : d’une part, la capacité à faire fonctionner massivement et de manière stable un grand nombre d’agents, et d’autre part, la capacité à faire collaborer plusieurs modèles pour rendre les agents plus intelligents. Lors de la conférence Open Computing 2026, Inspur Information a présenté de nouvelles solutions produits pour combler ces deux lacunes.

À l’ère des agents, l’infrastructure IA doit répondre à de nouvelles exigences. Auparavant, le déploiement de l’IA en entreprise se limitait souvent à intégrer un ou deux modèles pour traiter des tâches relativement indépendantes : un appel, une réponse, et l’affaire était close. Ce n’est pas le cas des agents. Une application agent doit d’abord décomposer la tâche, puis appeler des outils étape par étape, collaborer en va-et-vient, et en arrière-plan, tout un groupe de sous-agents peut être en fonctionnement simultané.

Une fois déployés en entreprise, le nombre d’agents peut atteindre des dizaines de milliers. Comment faire fonctionner de manière stable et coordonnée une telle masse d’agents devient un nouveau problème incontournable. Outre l’augmentation du nombre d’agents, la pression sur un seul modèle s’accroît également. Certains modèles excellent dans le raisonnement logique, d’autres dans la rédaction de textes ; cette spécialisation ne peut être résolue en augmentant simplement le nombre de paramètres. Mais les tâches réelles deviennent de plus en plus complexes, et il est difficile d’attendre d’un seul modèle qu’il sache tout faire. Ainsi, comment faire collaborer plusieurs modèles en se répartissant les tâches et en se complétant mutuellement devient un autre problème à résoudre. Pour que ces deux aspects se concrétisent, une infrastructure de calcul sous-jacente est indispensable. Avec l’émergence de ces nouveaux besoins, le premier changement dans l’infrastructure est que le CPU devient plus important et joue un rôle accru. Dans le modèle questions-réponses précédent, l’inférence des grands modèles était une entrée unique pour une sortie unique, reposant davantage sur le GPU. Mais les agents sont différents : ils doivent décomposer les tâches, appeler des outils, collaborer en plusieurs tours et synthétiser les résultats, autant d’opérations de calcul entier et de raisonnement logique qui s’exécutent sur le CPU. De plus, les agents ne s’arrêtent pas après une seule exécution ; beaucoup doivent être en ligne en permanence, ce qui allonge considérablement leur temps de fonctionnement. Ainsi, dans le secteur de l’infrastructure IA, la répartition de la puissance de calcul évolue également, passant d’un modèle centré sur le GPU à une collaboration de systèmes de calcul multiples. Une fois que l’importance du CPU est établie, le problème de la densité de puissance se pose immédiatement. Zhao Shuai, directeur général adjoint d’Inspur Information, a expliqué que la puissance des racks IA en Chine devrait atteindre 300 kilowatts cette année, et que certains racks mondiaux sont déjà entrés dans la gamme des mégawatts. Si la densité du côté CPU reste à quelques kilowatts par rack, il sera impossible de s’aligner sur la nouvelle infrastructure électrique des centres de données. Avec l’augmentation continue de la puissance des racks, la dissipation thermique devient un problème ; la limite supérieure de 40 à 50 kilowatts par rack pour le refroidissement par air traditionnel est déjà dépassée, et les solutions de refroidissement liquide deviennent une option incontournable.

Un rack unique prend en charge plus de 40 000 agents. Pour permettre le déploiement à grande échelle des agents, Inspur Information a lancé le premier serveur rack refroidi par liquide natif CPU de l’industrie. Ce serveur peut prendre en charge jusqu’à 384 processeurs CPU basés sur l’architecture OCM (Open Computing Module) ouverte, compatible x86 et ARM, et peut soutenir la collaboration de plus de 40 000 agents.

Cette échelle est 40 fois supérieure à celle de la solution « Qi Qian Xia » lancée par Inspur Information en avril de cette année. À l’époque, Qi Qian Xia déployait 1 000 OpenClaw sur un seul serveur 2U ; cette fois, Inspur Information a directement rempli un rack entier d’agents. De plus, ce rack utilise l’architecture OCM, qui est compatible avec des processeurs de différentes générations et architectures, évitant ainsi de devoir reconcevoir l’ensemble du système pour chaque nouvelle génération de puce, ce qui réduit considérablement le cycle de développement. Pour intégrer 384 CPU dans un seul rack, la dissipation thermique est un obstacle incontournable. Inspur Information a proposé un concept de refroidissement entièrement nouveau : le refroidissement liquide natif. Cette idée bouleverse complètement la logique traditionnelle de refroidissement mixte air-liquide. Auparavant, la conception des serveurs à refroidissement liquide par plaque froide consistait à appliquer une plaque froide sur les composants de calcul, tandis que la mémoire, les cartes réseau et les disques durs devaient encore être refroidis par des ventilateurs pour évacuer la chaleur générée.

Cette fois, l’approche est totalement révolutionnée : la conception du calcul et du refroidissement est coordonnée, dépassant la limitation traditionnelle du refroidissement liquide qui ne couvrait que le CPU. Tous les composants générant de la chaleur, y compris la mémoire, les cartes réseau, les modules optiques et les SSD, sont intégrés dans le système de refroidissement liquide, reconstruisant ainsi l’ensemble du système de calcul. La méthode concrète d’Inspur Information consiste à réaliser les unités de calcul sous une forme ultra-mince 2U, chaque nœud intégrant 16 CPU, tout en disposant à plat sur la carte mère la mémoire, les cartes réseau et les modules optiques, qui étaient auparavant refroidis et connectés par des ventilateurs et des câbles. Une seule plaque froide assure alors la dissipation thermique, éliminant même le besoin de supports de serveur. Ainsi, l’espace auparavant occupé par les ventilateurs, les conduits de refroidissement et les câbles est libéré pour les ressources de calcul et d’E/S, ce qui permet au rack d’être conçu sans câbles, de prendre en charge la maintenance à chaud, de garantir une interruption nulle des opérations, et d’améliorer l’efficacité de la maintenance du rack de plus de 100 %.

Plusieurs grands modèles collaborent pour accomplir une seule tâche. Pour rendre les agents plus intelligents, Inspur Information a également lancé l’API de fusion multi-modèles sur la plateforme YuanBrain EPAI, et a simultanément publié la version entreprise du serveur IA YuanBrain SD200 SuperNode. La fusion multi-modèles consiste à soumettre une même tâche à plusieurs modèles candidats, à les laisser générer indépendamment des réponses, puis à faire intervenir un modèle d’évaluation et de fusion pour comparer les consensus, les divergences, les omissions et les points de vue uniques dans ces réponses, afin de produire une sortie unifiée. Ce processus n’est pas appliqué à toutes les tâches ; pour les tâches courtes comme les questions-réponses simples, les appels d’outils ou les conversions de format, le système les achemine directement vers un modèle unique plus léger. Seules les tâches complexes à longue chaîne déclenchent la coordination de plusieurs modèles candidats, évitant ainsi de faire une montagne d’un rien. Ce mécanisme a obtenu un score de 53,9 % dans le test DRACO, supérieur à celui de tout modèle unique dans le même pool de candidats. Actuellement, cette capacité est disponible sous forme d’API de fusion multi-modèles, pouvant être intégrée directement dans des applications comme un service de modèle ordinaire, ou configurée dans des agents et des frameworks de développement, en conservant les flux de dialogue, de raisonnement et d’appel d’outils existants. Cependant, un problème se pose : la participation simultanée de plusieurs grands modèles à une même tâche impose des exigences plus élevées en matière de puissance de calcul sous-jacente, nécessitant à la fois de pouvoir charger plusieurs modèles à des billions de paramètres en même temps, sans sacrifier la vitesse de sortie. C’est précisément ce que le YuanBrain SD200 SuperNode doit assumer. Lors de son lancement l’année dernière, le YuanBrain SD200 SuperNode pouvait déjà déployer simultanément 4 grands modèles à des billions de paramètres, avec un temps de génération de token de 8,9 millisecondes, devenant ainsi le premier produit en Chine à franchir la barre des 10 millisecondes. Cette année, ce chiffre a été réduit à 4,77 millisecondes, faisant de lui la première solution en Chine à passer sous les 5 millisecondes, avec une réduction de 35 % du délai du premier token.

Ces améliorations sont dues à des optimisations logicielles et matérielles coordonnées telles que la prédiction multi-token, le schéma de précision W4A8 et la compilation JIT (Just-In-Time). La prédiction multi-token permet de générer plusieurs tokens candidats en une seule fois lors de la phase de décodage, puis de les valider, réduisant ainsi le nombre d’itérations de génération mot par mot. Le schéma W4A8 réduit la précision de calcul des modules MoE dans les modèles à des billions de paramètres de BF16 à INT8, diminuant ainsi la pression sur la bande passante mémoire. La compilation JIT génère dynamiquement des noyaux GPU spécialisés en fonction de la forme des tenseurs lors de l’exécution, rendant la puissance de calcul plus proche des caractéristiques matérielles. Actuellement, le YuanBrain SD200 SuperNode a été adapté aux principaux modèles open source tels que Kimi K2.6, DeepSeek V4, GLM 5.2 et MiniMax M3. Cependant, le seuil d’entrée de cette architecture reste élevé pour de nombreuses PME. C’est pourquoi Inspur Information a également lancé la version entreprise du YuanBrain SD200 SuperNode, qui peut être considérée comme une version réduite du YuanBrain SD200.

Elle réduit le domaine de calcul Scale Up de 64 cartes à 16 cartes, diminuant de plus de 40 % le délai du premier token pour les modèles à des billions de paramètres, offrant ainsi aux entreprises une option à moindre coût de migration et d’adaptation. Ainsi, les entreprises qui ne pouvaient auparavant déployer que des modèles à des centaines de milliards de paramètres en tant qu’auxiliaires peuvent désormais utiliser des modèles à des billions de paramètres dans leur environnement de production.

La concurrence dans l’infrastructure des agents a déjà changé. Aujourd’hui, la répartition des rôles entre CPU, GPU et plateformes logicielles devient plus étroite. La plateforme logicielle est responsable de l’intégration des modèles, de l’orchestration des tâches, de la gestion des ressources, de la gouvernance des autorisations et de la fusion des résultats. Le CPU prend en charge les instances d’agents, les appels d’outils, l’exécution en bac à sable et les interactions avec les systèmes métier. Le GPU est chargé de l’inférence des modèles et de la génération de tokens. Ce n’est que par la coordination des trois que l’on peut soutenir le fonctionnement stable d’un grand nombre d’agents et l’exécution efficace de tâches complexes. Dans cette chaîne, si un maillon fait défaut, l’ensemble de l’application agent ne fonctionnera pas correctement. Cela a également modifié les priorités de la concurrence dans l’infrastructure à l’ère des agents. Auparavant, l’accent était mis sur la capacité à prendre en charge un seul modèle ; désormais, il s’agit de savoir qui réalise la meilleure coordination au niveau du système. La performance individuelle ne suffit plus ; ce qui compte, c’est la fluidité et la coordination de l’ensemble de la chaîne. C’est précisément la réponse qu’Inspur Information souhaite apporter à l’infrastructure des agents.