Citrix introduit une fonctionnalité de gouvernance AI Gateway pour sa plateforme NetScaler afin de sécuriser la livraison d'applications d'IA

fr.wedoany.com Rapport : Citrix ajoute des fonctionnalités de gouvernance de sécurité pour la livraison d'applications d'IA à sa plateforme NetScaler. La nouvelle passerelle NetScaler AI Gateway permet de gérer les performances des grands modèles de langage et d'étendre les stratégies opérationnelles existantes ainsi que le contrôle de l'infrastructure aux systèmes d'IA. Cette mise à jour vise à fournir aux déploiements d'IA de niveau entreprise la visibilité de gouvernance et la confiance opérationnelle nécessaires pour les environnements de production.

Selon l'annonce de Citrix, l'AI Gateway comprend trois capacités principales. La limitation de débit basée sur les tokens sert à mesurer la consommation équitable entre les équipes et les applications. L'équilibrage de charge basé sur la latence des tokens optimise les performances et la fiabilité en acheminant les requêtes d'inférence vers plusieurs backends de LLM. La fonctionnalité de routage de débordement redirige les requêtes vers un modèle de secours lorsque le quota de tokens est épuisé. Steve Shah, directeur général de NetScaler, déclare que l'AI Gateway étend les avantages de l'entreprise dans le domaine de la livraison d'applications à l'ère de l'IA, permettant aux organisations d'exploiter des services d'IA selon des normes de déploiement critiques.

NetScaler publie simultanément la plateforme de protection de données natives IA Protecto. Cette plateforme ajoute des capacités de sécurité contextuelle aux charges de travail de type proxy et est conçue pour fonctionner avec l'AI Gateway. Amar Kanagaraj, fondateur et PDG de Protecto, explique que sa classification de données de type proxy capture les éléments manqués par les outils de sécurité IA traditionnels, bloquant ou masquant les données sensibles avant qu'elles n'atteignent les systèmes d'IA sans perdre le contexte nécessaire à leur fonctionnement.

L'AI Gateway sert de couche de contrôle en environnement de production pour l'assistant IA intégré de Citrix, Aidrien, prenant en charge l'exécution d'applications d'IA à l'échelle de l'entreprise. Une fois Protecto intégré à l'AI Gateway, les entreprises peuvent étendre leurs déploiements d'IA tout en s'assurant que les risques liés aux données sont maîtrisés.