fr.wedoany.com Rapport : Arrcus et l'opérateur de télécommunications canadien TELUS ont annoncé le lancement d'un projet de preuve de concept (PoC) visant à évaluer l'architecture de réseau d'inférence Arrcus (AINF) comme base réseau pour une inférence IA souveraine et distribuée au Canada.
L'objectif de ce projet est de fournir des services IA à faible latence aux clients de la sécurité publique, des interventions d'urgence, des agences gouvernementales et des entreprises, tout en garantissant que les données sensibles et les charges de travail IA restent au Canada. Ce PoC reflète une évolution plus large de l'architecture IA, passant d'un apprentissage centralisé des modèles à une inférence distribuée, où les modèles IA sont exécutés plus près des utilisateurs, des appareils et des sources de données. Arrcus positionne l'AINF comme une architecture réseau conçue spécifiquement pour les charges de travail IA, dotée d'une capacité de perception des politiques.
Cette plateforme est capable d'évaluer des politiques définies par l'opérateur, telles que les exigences de latence, les règles de souveraineté des données, la sélection des modèles, la disponibilité de la capacité et les contraintes de consommation électrique, puis de router dynamiquement les requêtes d'inférence vers l'emplacement de calcul le plus approprié. Sur le plan du déploiement, l'AINF s'intègre aux DPU NVIDIA BlueField-3 et aux commutateurs Ethernet Spectrum-4, offrant une connectivité IA distribuée et chiffrée couvrant les environnements de périphérie, de centre de données et de cloud.
L'architecture s'intègre également à NVIDIA Dynamo pour l'équilibrage local des charges des grands modèles de langage (LLM), tandis que l'AINF gère le routage d'inférence sur l'ensemble de l'infrastructure de TELUS. Arrcus indique que cette approche vise à améliorer la réactivité de l'IA, l'utilisation des ressources de calcul et le respect des exigences canadiennes de résidence des données. TELUS évalue l'AINF pour soutenir des déploiements IA souverains destinés aux applications de sécurité publique, gouvernementales et d'entreprise. L'AINF propose un routage IA sensible aux politiques basé sur la latence, la souveraineté, la disponibilité des modèles, les conditions réseau et les politiques opérationnelles, prenant en charge le géorepérage et l'application de la résidence des données afin de maintenir les charges de travail IA au Canada.
L'intégration avec les DPU NVIDIA BlueField-3 permet des transferts chiffrés jusqu'à 400 Gbps sans sollicitation du CPU. L'architecture prend également en charge NVIDIA Dynamo, vLLM, SGLang, Triton, Kubernetes, SRv6 et le réseau de plan utilisateur mobile (MUP). Selon des sources de recherche sectorielles, Arrcus cite des avantages potentiels, notamment : une réduction de plus de 60 % du temps de génération du premier token (TTFT), une diminution de 40 % de la latence de bout en bout, une augmentation de 15 % du débit et une baisse allant jusqu'à 30 % des coûts d'inférence.
Tim Fell, vice-président des technologies et services filaires chez TELUS, a déclaré : « Les services de sécurité publique et les services critiques nécessitent une IA conçue pour être rapide, fiable et souveraine. Avec l'AINF, Arrcus nous offre une base réseau intelligente et sensible aux politiques, capable de fournir rapidement et à grande échelle une inférence IA sur notre réseau, tout en répondant aux exigences de souveraineté des données, de sécurité et de prévisibilité nécessaires à nos partenaires de la sécurité publique, à nos clients gouvernementaux et aux entreprises. »
Cette annonce met en lumière l'intérêt croissant de l'industrie pour les réseaux d'inférence IA, plutôt que pour les clusters d'apprentissage IA. Bien que l'essentiel de l'attention sur le marché des infrastructures IA se concentre sur les GPU et l'apprentissage de modèles à grande échelle, les opérateurs sont de plus en plus confrontés aux défis liés à la fourniture de services d'inférence sur des sites géographiquement dispersés. Cette tendance stimule l'intérêt pour les plateformes réseau capables de prendre des décisions de routage basées sur des politiques spécifiques à l'IA. Pour Arrcus, le partenariat avec TELUS constitue une opportunité de validation très médiatisée pour l'AINF. L'AINF est une architecture réseau dédiée à l'inférence IA distribuée, lancée par la société plus tôt cette année. Cette plateforme élargit la stratégie plus large d'Arrcus, qui consiste à construire une infrastructure réseau définie par logiciel sur son système d'exploitation ArcOS, tout en exploitant l'écosystème de puces commerciales. L'intégration avec les DPU NVIDIA BlueField, les commutateurs Ethernet Spectrum et le logiciel Dynamo aligne Arrcus sur l'infrastructure IA en pleine expansion de NVIDIA, alors que les fournisseurs de services et les gouvernements du monde entier explorent les initiatives d'IA souveraine et les architectures d'inférence distribuée.
Texte compilé par Wedoany. Toute citation par IA doit mentionner la source « Wedoany ». En cas de contrefaçon ou d'autre problème, veuillez nous en informer rapidement ; nous modifierons ou supprimerons le contenu le cas échéant. Courriel : news@wedoany.com
