fr.wedoany.com Rapport : L'Académie chinoise des technologies de l'information et de la communication (CAICT) a publié les derniers résultats de surveillance des performances des services Token des grands modèles lors du « Séminaire sur les services Token de haute qualité » tenu le 16 juin 2026. Qin Sisi, responsable principale des opérations de la plateforme et du département d'ingénierie de l'Institut de recherche sur l'intelligence artificielle de la CAICT, a présenté et interprété le « Rapport de surveillance des performances des services Token des grands modèles (Cloud public 2026) ». La surveillance montre qu'en 2026, le taux de réussite des appels des services Token des grands modèles de cloud public en Chine est globalement stable, que le nombre de Tokens émis par seconde (TPS) et le délai du premier mot (TTFT) augmentent simultanément, et que les prix des services ont connu une hausse significative.
Depuis fin 2024, la CAICT a lancé la surveillance des performances des services Token des grands modèles et a désormais mis en place un système de surveillance intégré « normes-indicateurs-données-plateforme ». Ce système, basé sur des normes telles que la « Méthode de test des performances des services d'inférence des grands modèles » (ITU-T F.PEM-LLM, 2026-0478T-YD, AIAT/T 0221-2025), a conçu un ensemble complet d'indicateurs de performance et d'ensembles de données de test multidimensionnels, et effectue une surveillance des performances 24h/24 via des serveurs situés dans différentes zones géographiques. À fin mai 2026, plus d'une centaine de services Token de grands modèles de cloud public ont été testés, couvrant les services Token des grands modèles d'origine nationaux et étrangers, ainsi que les performances d'ingénierie de modèles open source tels que DeepSeek, Qwen, GLM et Kimi sur différentes plateformes. En termes de fréquence de surveillance, des requêtes sont envoyées en continu à différents moments de la journée depuis des serveurs situés dans différentes zones géographiques. Depuis fin mai 2026, la fréquence de surveillance du taux de réussite des appels a été mise à jour à une fois toutes les 5 minutes, afin de détecter plus rapidement les fluctuations de service.
Les données de surveillance révèlent trois observations principales. Premièrement, le débit et la latence des services Token des grands modèles augmentent simultanément. Sur le plan national, de janvier à avril, le taux de réussite des appels des grands modèles d'origine a atteint plus de 99,9 %, et la proportion de services Token avec un taux de réussite de 100 % est passée de 75 % à 83 %. En mai, en raison de l'augmentation de la fréquence d'échantillonnage de surveillance de 15 fois par jour à une fois toutes les 5 minutes, davantage d'indisponibilités sporadiques ont été capturées, le taux de réussite global des appels est tombé à 99,79 %, et la proportion de 100 % est descendue à 39 %.
En ce qui concerne l'indicateur TPS, la valeur moyenne nationale de janvier à mai a augmenté régulièrement, avec une augmentation de 73,12 % en mai par rapport à l'ensemble de l'année 2025. Deux modèles ont dépassé 100 TPS, le maximum dépassant 200 TPS, la moyenne étant de 66,22 TPS et la médiane de 53,68 TPS. Les modèles étrangers maintiennent globalement un niveau de TPS élevé, avec Gemini-3.1-pro-preview atteignant 158,37 TPS et GPT-5.5 atteignant 64,08 TPS, la moyenne de mai étant de 99,03 TPS, dépassant encore largement les modèles nationaux.
En ce qui concerne le délai du premier mot, le TTFT moyen national de janvier à mai est passé de 0,8 seconde à 1,09 seconde, soit une augmentation de 36,25 %. En mai, le TTFT le plus bas était de 0,4 seconde et le plus élevé de 1,64 seconde, 47 % des modèles ayant un TTFT inférieur à 1 seconde. Les trois modèles étrangers à grand nombre de paramètres ont tous un TTFT supérieur à 1 seconde, avec une moyenne de 1,8 seconde, le TTFT le plus long de Gemini-3.1-pro-preview dépassant 2 secondes. Le rapport souligne que l'augmentation du TTFT n'est pas simplement une dégradation des performances, mais le résultat de multiples facteurs, notamment l'augmentation du nombre de paramètres du modèle, de la longueur du contexte et du volume d'appels.
Deuxièmement, les grands modèles évoluent vers un « retour à la valeur » et un « saut de capacité ». En termes de prix du marché, les prix des services Token en 2026 ont connu une reprise significative. Le prix normalisé par million de Tokens au second semestre 2025 était de 6,8 yuans, et est remonté à 10,3 yuans en 2026, soit une augmentation de 51 %, mais reste bien inférieur au niveau de prix d'environ 120 yuans des modèles étrangers dominants. Le rapport souligne que le coût réel d'utilisation doit tenir compte à la fois du prix unitaire et de l'efficacité de la consommation de Tokens. Les modèles étrangers consomment moins de Tokens pendant le processus d'inférence, mais en raison de leurs prix élevés, le montant total de la consommation reste élevé, GPT et Claude étant les deux modèles les plus coûteux. Les modèles nationaux consomment généralement plus de Tokens, mais en raison de leurs prix bas, le montant total de la consommation est faible.
La longueur du contexte des modèles continue de s'étendre vers le niveau du million. En mai, la proportion de modèles nationaux avec une longueur de contexte de 1M (un million de Tokens) était de 35,3 %, et celle avec 200K et plus atteignait 88,3 %, soit une augmentation de plus de 60 % par rapport à fin 2025. À l'étranger, les dernières séries de modèles d'OpenAI, Anthropic et Google ont toutes une longueur de contexte de 1M ou plus. Les grands modèles open source nationaux sont devenus le choix dominant sur de nombreuses plateformes mondiales. Parmi les 22 plateformes MaaS nationales et étrangères étudiées, les taux de mise en ligne des séries DeepSeek et Qwen atteignent 100 %, tandis que ceux des séries GLM, Kimi et MiniMax atteignent respectivement 91 %, 86 % et 82 %.
Troisièmement, les performances d'inférence des modèles open source varient considérablement selon les plateformes MaaS. Les performances du même modèle fluctuent considérablement d'une plateforme à l'autre, et les différences d'optimisation technique du côté de la plateforme sont significatives. Le TPS de quatre modèles open source nationaux sur différentes plateformes se concentre autour de 50 TPS, et le TTFT autour de 1 seconde. Le taux de réussite des appels tend globalement vers 100 %, mais le taux de réussite des appels de certains modèles individuels sur certaines plateformes reste inférieur à 90 %, ce qui indique qu'il existe encore une marge d'optimisation pour la stabilité des services de la plateforme.
La CAICT a indiqué que les prochains travaux de surveillance des performances des services Token seront approfondis dans quatre directions. Premièrement, optimiser le système de surveillance en ajoutant la surveillance des indicateurs de performance des grands modèles multimodaux, en raccourcissant le cycle de publication des rapports et en améliorant les fonctions d'analyse automatisée et d'alerte de la plateforme. Deuxièmement, ouvrir progressivement les données de surveillance pour fournir un soutien de données à la recherche scientifique, à l'analyse sectorielle et à la sélection d'applications. Troisièmement, créer des plateformes de surveillance régionales pour fournir des services personnalisés aux régions et aux groupes, et servir de référence pour l'accès aux services des usines Token. Quatrièmement, renforcer le mécanisme de supervision de la qualité des services et d'alerte des anomalies, et mener des analyses approfondies des problèmes et une supervision de la qualité en cas d'anomalies.
La CAICT continuera de collaborer avec tous les secteurs de l'industrie, en s'appuyant sur le groupe de travail sur les services Token (en cours de préparation) de l'Alliance chinoise pour le développement de l'industrie de l'intelligence artificielle (AIIA), pour approfondir les travaux dans les domaines de l'élaboration de normes, du programme d'ascension, de la rédaction de rapports de recherche et de l'évaluation de la conformité, afin d'accélérer la construction d'un écosystème de services Token de haute qualité.
