fr.wedoany.com Rapport : Avec l'accélération itérative des technologies de grands modèles, le jeton (Token), en tant qu'unité d'information minimale pour l'entrée et la sortie des grands modèles, passe d'un terme technique en coulisses à un concept clé à l'ère de l'économie intelligente. Selon les données statistiques de l'Administration nationale des données, fin mars 2026, le volume quotidien d'appels de jetons en Chine a dépassé 140 000 milliards, soit une multiplication par plus de mille par rapport au début de l'année 2024. Les jetons deviennent de plus en plus une mesure centrale pour évaluer la capacité de service des modèles, l'efficacité d'utilisation de la puissance de calcul et la maturité industrielle. Un service de jetons de haute qualité, en aval, optimise l'entraînement et l'inférence des modèles, et en amont, permet le déploiement d'applications dans tous les secteurs, jouant un rôle important dans le renforcement de la base d'approvisionnement des grands modèles et la libération de la valeur des applications d'intelligence artificielle.

Pour promouvoir le développement de haute qualité des services de jetons en Chine, l'Académie chinoise des technologies de l'information et de la communication (CAICT), en collaboration avec Huawei Cloud, Ant Digital Technologies, Mobile Jiutian, Unicom Digital Intelligence, JD Cloud, Lenovo Baiying, Inspur Haiyue, Haowise Technology, Tianyun Data et Paiou Cloud, a lancé conjointement le « Programme d'ascension des capacités de service de jetons » (ci-après dénommé « Programme d'ascension ») et a élaboré et publié la « Ligne de base d'ascension des performances des services de jetons pour les scénarios génériques d'entreprise ».

Première ligne de base d'ascension des performances des services de jetons pour les entreprises (scénarios génériques)

Nombre de jetons de sortie par seconde (TPS) ≥ 55 jetons/seconde

Latence du premier jeton (TTFT) ≤ 0,9 seconde

Taux de succès des appels ≥ 99,9 %

Ce « Programme d'ascension » a pour axes principaux l'établissement de références, l'amélioration des performances, la stabilisation des services, la réduction des coûts et la consolidation de l'écosystème. Il se concentre sur les difficultés clés et les problèmes communs dans le processus de mise en œuvre technique des services de jetons. En s'appuyant sur les données de surveillance de la « Plateforme de surveillance des performances des services de jetons pour grands modèles » de la CAICT, il fournit des références de performances mises à jour trimestriellement pour le secteur et publie régulièrement la liste des entreprises ayant atteint le « Programme d'ascension », afin de faire passer les services de jetons du stade « utilisable » à celui de « pratique et accessible ».

L'Institut de recherche sur l'intelligence artificielle de la CAICT s'engage depuis longtemps dans la recherche politique, le développement technologique, l'élaboration de normes, la construction d'écosystèmes ainsi que les tests et évaluations dans le domaine de l'intelligence artificielle. À l'avenir, il continuera à promouvoir le « Programme d'ascension des capacités de service de jetons » afin d'accélérer le développement de haute qualité des services de jetons.

Premièrement, recruter en continu des entreprises participantes : nous invitons davantage d'entreprises à rejoindre et à relever le défi du « Programme d'ascension » pour améliorer ensemble les performances des services de jetons dans les scénarios génériques. Parallèlement, la CAICT optimisera les outils et méthodes de test d'ascension des capacités de service de jetons afin d'assurer le fonctionnement efficace du mécanisme de mise à jour dynamique des lignes de base.

Deuxièmement, co-construire des programmes d'ascension sectoriels : en collaboration avec les entreprises leaders de divers secteurs et les fournisseurs de technologies, élaborer des lignes de base d'ascension des capacités de service de jetons adaptées aux scénarios verticaux sectoriels et définir les parcours d'ascension.

Troisièmement, fournir une évaluation complète des capacités de la pile complète des services de jetons de haute qualité : d'une part, continuer à itérer et à améliorer la plateforme de test de performances (TokenBenchX) et les ensembles de données de test dédiés, afin d'offrir aux entreprises de services de jetons une évaluation professionnelle complète des performances ; d'autre part, autour de l'ensemble du processus de production et d'exploitation des services de jetons, ainsi que de la qualité et de la sécurité des services, fournir une évaluation des capacités de la pile complète des services de jetons.

Texte compilé par Wedoany. Toute citation par IA doit mentionner la source « Wedoany ». En cas de contrefaçon ou d'autre problème, veuillez nous en informer rapidement ; nous modifierons ou supprimerons le contenu le cas échéant. Courriel : news@wedoany.com