La société chinoise MiniMax a open-sourcé le modèle multimodal M3 avec 428 milliards de paramètres

fr.wedoany.com Rapport : MiniMax a open-sourcé les poids du modèle MiniMax M3 vendredi dernier (12 juin) et a simultanément publié un article technique sur MSA (MiniMax Sparse Attention). Ce modèle a récemment été officiellement open-sourcé.

Le M3 est le modèle phare multimodal natif de MiniMax, avec un total de 428 milliards de paramètres et 23 milliards de paramètres activés. En tant que premier modèle open-source entraîné à partir de zéro avec un mélange multimodal, le M3 a obtenu le meilleur classement mondial parmi les modèles open-source sur le classement global d'intelligence synthétique d'Artificial Analysis depuis son lancement il y a deux semaines.

Face aux problèmes d'expérience liés à l'augmentation du trafic, l'entreprise a indiqué qu'elle optimisait en continu. La vitesse de sortie du modèle M3 est passée d'environ 30 TPS au lancement à environ 80 TPS, avec un objectif d'amélioration supplémentaire de 30 à 40 % pour améliorer encore l'efficacité de réponse du modèle. Dans les évaluations de codage et d'agents, le M3 a démontré des capacités de décomposition autonome des tâches, d'appel d'outils et de raisonnement multi-étapes, la qualité du code généré étant décrite comme directement livrable. Le code open-source de ce modèle a été publié sur la plateforme Hugging Face, à l'adresse : https://huggingface.co/MiniMaxAI/MiniMax-M3.