fr.wedoany.com Rapport : Nutanix et AMD collaborent pour proposer une infrastructure IA d'entreprise, combinant les processeurs et accélérateurs AMD afin d'aider les entreprises à exécuter des charges de travail d'IA agentive via des infrastructures privées et hybrides.
Avec l'entrée en production des agents IA autonomes, cette solution vise à offrir aux entreprises un plus grand contrôle sur le choix des modèles, la gouvernance des données et les coûts de calcul. Nutanix indique que les organisations peuvent adopter une stratégie à deux niveaux de modèles, en utilisant des systèmes d'IA de pointe pour les tâches de raisonnement complexes, tandis que les charges de travail à volume élevé sont traitées via des modèles optimisés exécutés sur une infrastructure privée.
Les agents autonomes peuvent récupérer des informations, interagir avec des applications d'entreprise et exécuter des flux de travail de longue durée, ces activités pouvant générer un grand nombre de requêtes de modèles. Lorsque les organisations dépendent principalement d'une infrastructure louée ou de services de modèles externes, l'utilisation de jetons qui en résulte peut augmenter les coûts d'exploitation.
Nutanix propose d'utiliser une passerelle d'agents pour orienter les requêtes entre différents modèles et environnements d'infrastructure. La passerelle peut appliquer les politiques de l'organisation, gérer les contrôles d'accès et déterminer quelles charges de travail nécessitent des modèles de pointe externes. Les requêtes courantes peuvent être acheminées vers des modèles exécutés au sein de l'infrastructure propre de l'organisation, tandis que les tâches plus complexes peuvent être envoyées à des modèles externes plus volumineux. Cette structure vise à réduire la proportion de charges de travail traitées via des modèles plus coûteux et à offrir à l'organisation un point de contrôle central pour gérer les politiques d'accès et d'utilisation des modèles.
Debo Dutta, directeur IA de Nutanix, déclare que posséder sa propre intelligence ne signifie pas abandonner complètement les modèles de pointe, mais plutôt maîtriser le routage, la capacité et les coûts. Il est possible de réserver les modèles de pointe coûteux uniquement à une petite partie des tâches nécessitant un raisonnement complexe sur des cas limites, tandis que la majorité des tâches à volume élevé sont acheminées vers des modèles hautement optimisés exécutés en toute sécurité sur une infrastructure privée.
Cette architecture combine la plateforme cloud Nutanix (Nutanix Cloud Platform) et Nutanix Enterprise AI avec les processeurs AMD EPYC et les accélérateurs AMD Instinct MI355X. Nutanix Enterprise AI est utilisé pour déployer et exécuter des modèles et applications d'IA dans un environnement d'infrastructure gouverné, tandis que la plateforme cloud fournit la couche de calcul, de stockage et de gestion sous-jacente pour les charges de travail exécutées dans des environnements privés et hybrides. Le maintien de certaines charges de travail d'IA sélectionnées au sein de l'infrastructure privée peut aider les organisations à conserver le contrôle de leurs informations propriétaires et à répondre aux exigences de souveraineté des données. La plateforme est conçue pour prendre en charge des agents fonctionnant sur de longues périodes et peut appliquer des politiques pour déterminer les modèles que les agents peuvent utiliser, les informations auxquelles ils peuvent accéder et l'emplacement de traitement des charges de travail.
Les processeurs AMD EPYC et les accélérateurs AMD Instinct MI355X fournissent les ressources de calcul pour l'inférence de modèles et les charges de travail d'entreprise. Nutanix indique que l'infrastructure combinée peut prendre en charge un environnement d'inférence partagé, sans nécessiter de systèmes dédiés pour chaque application d'IA ou unité commerciale. La capacité partagée permet aux organisations de répartir les ressources de calcul entre plusieurs charges de travail, améliorant ainsi l'utilisation de l'infrastructure. Cette conception cible les entreprises qui souhaitent étendre leurs déploiements d'IA sans allouer de matériel dédié à chaque modèle ou agent. Une infrastructure centralisée peut servir plusieurs applications tout en gérant la gouvernance et les politiques d'accès via la plateforme.
Les projets d'IA d'entreprise passent d'expérimentations isolées à des systèmes fonctionnant en continu dans les processus métier. Les besoins en infrastructure des systèmes d'agents diffèrent de ceux des chatbots indépendants ou des requêtes de modèles occasionnelles. Les agents peuvent rester actifs pendant de longues périodes, consultant plusieurs sources et émettant des requêtes répétées avant d'accomplir une tâche. À mesure que le déploiement s'étend, ces modes de fonctionnement peuvent augmenter les coûts de calcul et de jetons, et accroître la complexité de la gouvernance des modèles. La structure à deux niveaux de Nutanix sépare le traitement à volume élevé des tâches nécessitant des modèles de pointe plus volumineux, permettant aux organisations de conserver l'option d'utiliser des systèmes externes tout en traitant les charges de travail plus prévisibles via des modèles exploités en privé. La plateforme permet également aux charges de travail d'IA et aux données propriétaires de rester dans un environnement hybride multicloud gouverné, l'accès, le routage et le contrôle des politiques étant gérés via la passerelle d'agents et la pile logicielle Nutanix.
Nutanix indique que l'infrastructure d'inférence partagée est conçue pour maximiser l'utilisation des CPU AMD EPYC et des GPU AMD Instinct MI355X, tout en prenant en charge les agents fonctionnant sur de longues périodes et en contrôlant les coûts liés aux jetons.
