fr.wedoany.com Rapport : Le 6 juillet, Meituan a officiellement open-sourcé son nouveau modèle de grande taille à des milliards de paramètres, LongCat-2.0. Le même jour, Moores Threads, basé sur sa carte de calcul GPU tout-en-un pour l'IA, la MTT S5000, et la pile logicielle MUSA, a achevé une adaptation rapide de ce modèle. Les travaux d'adaptation couvrent l'ensemble de la chaîne, du chargement du modèle, au lancement du moteur d'inférence, en passant par l'optimisation des opérateurs clés, la validation du déploiement et la vérification de la précision, permettant à LongCat-2.0 de fonctionner de manière stable et efficace sur la MTT S5000, offrant ainsi aux développeurs et aux clients entreprises un chemin de déploiement de modèle plus pratique.
LongCat-2.0 est un nouveau modèle de grande taille MoE à des milliards de paramètres développé en interne par Meituan. Le nombre total de paramètres atteint 1,6T, le nombre moyen de paramètres activés est d'environ 48B, avec une plage dynamique comprise entre 33B et 56B. Ce modèle est spécialement conçu pour les scénarios Agentic Coding, prend en charge nativement un contexte ultra-long de 1M, et utilise un mécanisme d'attention sparse (LSA) développé en interne, une architecture de connexion rapide inter-couches ScMoE et un mécanisme d'activation dynamique des experts à zéro calcul pour réaliser une utilisation efficace des ressources et une collaboration multitâche. Les résultats d'évaluation complets montrent que LongCat-2.0 excelle dans les scénarios Code et General Agent, et est devenu l'un des modèles de base d'agent intelligent les plus populaires dans la communauté mondiale des développeurs.
L'équipe technique de Moores Threads, grâce au moteur d'inférence haute performance SGLang-MUSA et à l'écosystème logiciel MUSA, a réalisé une adaptation complète de la chaîne, de la compatibilité du framework à l'optimisation des performances, en se concentrant sur la structure du modèle et les caractéristiques d'inférence de LongCat-2.0.
En termes de support matériel, la MTT S5000 dispose d'une capacité d'accélération FP8 native au niveau matériel, offrant une puissance de calcul élevée, une mémoire vidéo de grande capacité et une bande passante élevée sur une seule carte, fournissant un support stable pour les entrées de contexte long, la lecture et l'écriture du cache KV et l'inférence à haute concurrence. Combinée à l'optimisation synergique du moteur d'inférence SGLang-MUSA et de la pile logicielle MUSA, LongCat-2.0 peut libérer plus pleinement ses performances d'inférence sur la MTT S5000, améliorant ainsi l'efficacité de réponse des services en ligne et la capacité de débit du système.
Moores Threads adopte une approche d'ingénierie standardisée, transformant l'analyse de la structure du modèle, le chargement des poids, la compatibilité du framework d'inférence, la validation des opérateurs et les tests de déploiement en un processus, permettant à LongCat-2.0 de terminer rapidement la validation de l'inférence sur la MTT S5000. Cette approche contribue à réduire le seuil de migration et de déploiement des modèles de pointe sur les plateformes de calcul chinoises.
Autour de scénarios tels que le codage IA, les workflows d'agents, les questions-réponses sur les bases de connaissances d'entreprise et l'analyse de longs documents, Moores Threads a effectué une validation au niveau du déploiement de la chaîne d'inférence de LongCat-2.0. Grâce à l'optimisation synergique au niveau du framework, des opérateurs et de l'ordonnancement, la MTT S5000 peut fournir une infrastructure d'inférence alliant performances, stabilité et évolutivité.
Cette réalisation du support Day-0 pour le modèle LongCat-2.0 est une pratique de collaboration approfondie entre les grands modèles chinois et les puces chinoises. Moores Threads a déclaré qu'à l'avenir, il continuera à s'appuyer sur la compatibilité écologique de la pile logicielle MUSA pour adapter les capacités des modèles de pointe, accélérant ainsi l'innovation et le déploiement des applications de grands modèles avec l'infrastructure GPU tout-en-un chinoise.
