fr.wedoany.com Rapport : La société chinoise Transwarp lance la base de données cognitive native GPU (Transwarp Cognitive Database), qui intègre une base de données SQL, une base de connaissances et un système de mémoire, visant à fournir un support complet de données, de connaissances et de mémoire pour les agents d'IA (AI Agents), réduisant ainsi le coût et les barrières à l'adoption à grande échelle des applications natives d'IA.
L'IA d'entreprise évolue des grands modèles de questions-réponses vers les agents d'IA. Contrairement aux grands modèles de langage qui répondent en une seule fois, les agents d'IA exécutent des cycles multiples de « raisonnement-action-observation-correction » autour d'un objectif, accédant de manière répétée aux données, recherchant des connaissances, appelant des outils et mettant à jour l'état des tâches. Transwarp souligne que l'architecture CPU traditionnelle ne dispose que de quelques dizaines à centaines de cœurs de calcul généralistes, avec une bande passante mémoire d'environ 100 à 400 Go/s. Lors du traitement de tâches à haute fréquence, multi-tours et concurrentes, le transfert de données entre le CPU et le GPU devient un goulot d'étranglement critique. En recentrant l'architecture de calcul de la base de données autour du GPU, on peut exploiter ses dizaines de milliers de cœurs parallèles et sa mémoire vidéo à large bande passante de l'ordre du To/s pour prendre en charge des charges de travail hautement parallèles telles que l'analyse de données à grande échelle, les agrégations complexes, l'analyse de documents et le calcul vectoriel. Parallèlement, grâce à la technologie GPU-Initiated Direct Storage (GIDS), le GPU initie directement l'accès au stockage, réduisant ainsi le transfert de données et la copie mémoire.
Cette base de données réalise cinq avancées technologiques. Premièrement, l'accélération GPU de l'analyse des données structurées. Dans le test TPC-DS SF1000, elle a accompli 99 tâches de requête, avec des performances 70 fois supérieures à celles de la base de données CPU open source DuckDB ; par rapport à Snowflake et Databricks, les performances sont améliorées jusqu'à 66 fois, et le rapport performance/prix jusqu'à 14 fois. Deuxièmement, l'accélération GPU du traitement des documents et du rappel des connaissances. Basé sur le service d'analyse de documents COSMIC, les performances de traitement sur les documents complexes d'OmniDocBench sont améliorées de 10 fois ; la construction d'index vectoriels GPU est accélérée jusqu'à près de 50 fois, et le débit de recherche jusqu'à 238 fois. En matière d'adaptation aux capacités de calcul nationales, l'optimisation pour le DCU de Haiguang a été réalisée, réduisant la construction d'index vectoriels de plusieurs jours à quelques minutes, avec des performances de recherche jusqu'à 58 fois supérieures à celles du CPU. Troisièmement, l'utilisation de la mémoire vidéo est améliorée de 20 fois. Grâce à l'optimisation du déchargement des données et de la recherche d'index, la consommation de mémoire vidéo est réduite à environ 5 % ; même en déchargeant 95 % des données de calcul vers la mémoire ou le SSD, le débit de recherche peut encore atteindre 12 fois celui des index CPU traditionnels. Quatrièmement, la capacité de mémoire atteint des taux de précision globaux de 79,6 % et 92,8 % respectivement dans les tests de référence BEAM 500K pour la mémoire épisodique à long terme et LongMemEval-S pour la mémoire de dialogue longue. Cinquièmement, elle prend en charge le pilotage en langage naturel, transformant automatiquement les besoins des utilisateurs en flux de travail de données exécutables, couvrant l'ensemble du processus de développement, de gouvernance, d'analyse et de génération de rapports de données.
Dans la validation en conditions réelles, le test OfficeQA Pro pour les questions-réponses complexes en entreprise, comprenant près de 10 000 pages de bulletins du Trésor américain sur près d'un siècle et 133 tâches de raisonnement, a montré une amélioration des performances d'IA de bout en bout d'environ 6 fois, avec un taux de précision de 79,3 %. Dans le backtesting des facteurs quantitatifs financiers, les performances ont été améliorées jusqu'à 5 881 fois par rapport à la solution CPU. Dans l'analyse des opérations et des risques sur l'ensemble de la chaîne de crédit, face à 480 millions d'enregistrements de données détaillées, les performances globales ont été améliorées de 449 fois.
De plus, Transwarp lancera un service cloud de base de données cognitive, comprenant Data Factory et Token Factory. Data Factory permet d'améliorer les performances de plus de 10 fois à coût égal, avec un support de migration en un clic depuis des bases de données cloud comme Snowflake et Databricks. Token Factory permet d'augmenter le débit d'entrée de 10 fois et le débit de sortie de 20 % à 80 %, améliorant ainsi l'efficacité de l'inférence IA au niveau entreprise.
Remarque : Les données de performance et d'évaluation dans cet article proviennent des résultats de tests internes de Transwarp et de benchmarks publics. Les performances réelles peuvent varier en fonction de la configuration matérielle et logicielle, de l'échelle des données et des méthodes de test.
