fr.wedoany.com Rapport : L'éditeur russe de logiciels d'infrastructure, le groupe Astra (Группа Астра), lance la plateforme Botzman AI (Боцман AI), qui permet d'exécuter des modèles de langage et d'autres modèles d'intelligence artificielle au sein du réseau interne sécurisé des entreprises, garantissant ainsi que les données ne fuient pas vers des services cloud externes.
Botzman AI est l'extension logique de la plateforme Botzman (Боцман), une solution nationale d'orchestration de conteneurs basée sur Kubernetes, faisant partie d'Astra Dev Platform, et dédiée à la construction de plateformes de développement internes et à l'exécution d'applications dans des infrastructures isolées ou réglementées.
Les entreprises ont un fort besoin d'utiliser des modèles de langage, mais les exigences de sécurité de l'information, les contraintes réglementaires et les politiques internes interdisent souvent le transfert de données vers des services externes. Le déploiement de modèles en interne nécessite généralement de lancer des projets d'infrastructure distincts pour chaque tâche, incluant le choix du runtime, la configuration des GPU, le chargement des poids, la configuration des points de terminaison et la supervision. Botzman AI prend en charge ces tâches courantes.
L'équipe de la plateforme effectue la configuration via un modèle standard de description de ressources Kubernetes. Le système prépare automatiquement le stockage des poids et lance le runtime du moteur requis, notamment vLLM, Ollama, SGLang ou FasterWhisper, puis publie le modèle via une passerelle unifiée. Le mécanisme de mise à jour ne génère aucune fenêtre d'indisponibilité pendant la mise à jour, ce qui est particulièrement important pour la gestion d'une infrastructure GPU coûteuse.
Les développeurs d'applications obtiennent une API compatible OpenAI, sans avoir à réécrire le code existant : il suffit de modifier l'adresse du service pour que l'application continue de fonctionner avec les modèles déployés dans le réseau interne de l'entreprise. La plateforme propose également une gamme d'outils de niveau industriel, incluant la mise à l'échelle automatique de la charge intégrée, un système de facturation, une gestion des clés API avec contrôle budgétaire, afin de répartir les ressources de manière transparente entre les équipes et les projets. L'installation s'effectue via Botzman Apps & Marketplace sous forme de chart Helm.
Mikhaïl Kobik (Mikhail Kobik), directeur technique de la plateforme Botzman (relevant du groupe Astra), a déclaré que cette plateforme permet aux entreprises russes d'utiliser les modèles de langage modernes aussi facilement qu'avec un service cloud public, mais entièrement au sein de leur propre réseau interne, préservant ainsi la souveraineté des données, des coûts prévisibles et une indépendance vis-à-vis des fournisseurs étrangers. Sa particularité réside dans le fait qu'elle transforme le déploiement de modèles d'IA, passant d'un projet d'infrastructure complexe à une opération Kubernetes standardisée que toute équipe de plateforme peut exécuter.
