Meta (États-Unis) publie un modèle d'IA à poids ouverts de 816 milliards de paramètres capable de fonctionner localement sur un ordinateur Apple

fr.wedoany.com Rapport : Le 15 octobre, l'entreprise technologique américaine Meta a officiellement publié le modèle d'intelligence artificielle à poids ouverts Muse Spark Open, dont le nombre total de paramètres atteint 816 milliards, avec 42 milliards de paramètres activés, et prenant en charge une fenêtre de contexte de 1 million de tokens. Ce modèle est conçu pour le développement logiciel complexe, le raisonnement multi-étapes et les tâches d'agents d'intelligence artificielle, et il est optimisé pour la puce Apple M5 Ultra, permettant un déploiement local via deux stations de travail Mac Studio.

Muse Spark Open adopte une architecture multimodale native et peut exécuter de longues séquences de programmation, d'ingénierie logicielle et de traitement autonome de tâches. Meta a intégré ce modèle à son terminal de programmation par intelligence artificielle Muse Code et a réalisé plusieurs tests d'exécution locale, notamment la correction de bogues, le développement de nouvelles fonctionnalités et la compilation logicielle complète du client open source Mastodon Ice Cubes, ainsi que l'analyse image par image de séquences, la sélection de clips et le recadrage vertical via le logiciel de montage vidéo DaVinci Resolve.

En matière d'adaptation matérielle, le modèle s'exécute sur le framework d'apprentissage automatique Apple MLX. Un seul Mac Studio équipé de la puce M5 Ultra peut être configuré avec jusqu'à 512 Go de mémoire unifiée, et la combinaison de deux appareils offre une capacité de mémoire d'environ 1 To. La bande passante mémoire de la puce M5 Ultra atteint 1,2 To/s, ce qui permet de répondre aux besoins de lecture de données pendant l'inférence du modèle.

Meta a également optimisé l'inférence pour différentes architectures de puces, le modèle étant compatible avec les frameworks d'inférence SGLang, vLLM, TensorRT-LLM, Apple MLX, etc. Sur les processeurs graphiques NVIDIA et AMD, les noyaux GPU Helion personnalisés permettent une accélération au niveau des noyaux de 1,03 à 3,95 fois, avec une amélioration des performances d'inférence de bout en bout d'environ 3 % sur la plateforme AMD MI350.

Les poids du modèle Muse Spark Open sont disponibles en téléchargement via Hugging Face, Amazon SageMaker AI, Google Cloud Model Garden et Microsoft Foundry Models, et le modèle est également intégré aux plateformes de services d'inférence Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter et Together AI. Le modèle est distribué sous licence Muse Model License, qui autorise les développeurs à l'utiliser et à le personnaliser dans le cadre de conditions commerciales définies.