Modal, aux États-Unis, prévoit d'adopter les processeurs Nvidia Vera

fr.wedoany.com Rapport : Le 19 octobre, l'entreprise américaine de cloud computing pour l'intelligence artificielle Modal a annoncé son intention d'adopter le processeur central Nvidia Vera pour fournir la puissance de calcul nécessaire à son service d'informatique isolée dans le cloud Modal Sandboxes. L'entreprise a déjà reçu son premier serveur Vera et achevé les tests de performance préliminaires ; lors des tests de tâches d'intelligence artificielle à forte concurrence, le débit de tâches du processeur Vera a atteint jusqu'à deux fois celui d'un système équivalent équipé d'Intel Granite Rapids. Modal prévoit de l'intégrer à son infrastructure de calcul existante pour prendre en charge l'exécution des agents IA et les tâches d'apprentissage par renforcement.

Modal utilisait auparavant principalement des processeurs x86 d'Intel et d'AMD pour fournir des ressources de calcul cloud aux développeurs d'intelligence artificielle. Son service Sandboxes permet d'exécuter simultanément des centaines de conteneurs et de machines virtuelles sur un seul serveur, pour la compilation de code, la recherche de fichiers, les tests de programmes et les tâches automatisées. L'entreprise continuera de conserver les processeurs Intel et AMD et choisira la plateforme matérielle en fonction des différentes charges de calcul.

L'équipe d'ingénierie de Modal a développé l'outil de test Agentless Agent Bench, qui utilise 50 tâches issues de Terminal-Bench pour tester les processeurs Vera, Intel Granite Rapids, AMD Zen 5 et Amazon Graviton. Les tests couvrent des charges de travail telles que la compilation de code, les opérations Git, la recherche de fichiers et la simulation de périphériques. Les résultats montrent que Vera obtient une latence plus faible dans certains tests mono-tâche, et que son avantage en termes de débit de tâches s'accroît encore avec l'augmentation du nombre de conteneurs concurrents.

Le processeur Nvidia Vera adopte l'architecture de cœurs Olympus développée en interne, avec 88 cœurs CPU, prend en charge 176 threads et offre une bande passante mémoire LPDDR5X atteignant jusqu'à 1,2 To par seconde. Ce processeur peut être utilisé dans des serveurs CPU autonomes ou déployé conjointement avec les GPU Nvidia sur la plateforme de calcul Vera Rubin. L'infrastructure existante de Modal fonctionne principalement sur l'architecture x86 ; l'adoption de l'architecture compatible Arm utilisée par Vera nécessite l'adaptation de l'environnement d'exécution des serveurs, de la construction des images de conteneurs et des systèmes logiciels associés.

Modal a récemment bouclé un financement de 750 millions de dollars, portant sa valorisation à 15,75 milliards de dollars. L'entreprise collabore avec Nvidia et des fournisseurs de services cloud pour faire progresser le déploiement du processeur Vera, qu'elle prévoit d'utiliser pour les agents IA et les tâches d'apprentissage par renforcement. Vera a d'ores et déjà passé les tests internes de Modal, mais n'a pas encore été pleinement déployé dans ses clusters de calcul de production.