Google lance deux systèmes de calcul d'intelligence artificielle TPU de huitième génération

fr.wedoany.com Rapport : Le 9 novembre, Google a dévoilé les TPU 8tx et TPU 8i Max, deux systèmes de calcul d'intelligence artificielle de huitième génération, destinés respectivement aux besoins d'inférence confidentielle et de traitement de contextes ultra-longs. Avec les TPU 8t et TPU 8i lancés en avril 2026, Google a publié quatre systèmes TPU de huitième génération au cours de l'année. Les nouveaux produits reprennent l'architecture de puce existante et, en ajustant le packaging des puces, la mémoire, le réseau et les configurations de sécurité, forment des plateformes de calcul dédiées à différentes charges de travail d'intelligence artificielle.

Le TPU 8tx utilise la même puce que le TPU 8t, associée à un processeur AMD EPYC de cinquième génération, et intègre des fonctions de calcul confidentiel au niveau matériel, permettant aux données sensibles et aux poids de modèles de rester isolés et protégés pendant le calcul. Ce système s'adresse principalement aux secteurs financier, gouvernemental et autres industries réglementées, et permet d'exécuter sur une même plateforme de calcul des tâches de fine-tuning de modèles privés, de distillation de modèles, d'apprentissage par renforcement et d'inférence sécurisée.

Google a doté le TPU 8tx d'un réseau Boardfly à faible latence destiné à l'inférence en temps réel. Les données de performance publiées par l'entreprise montrent que, par rapport au TPU 8t, la latence d'inférence du nouveau système peut être réduite jusqu'à 50 % tout en conservant essentiellement les performances de calcul d'origine. La combinaison des mécanismes de sécurité matérielle et du réseau haut débit permet aux entreprises de personnaliser des modèles et d'exécuter des opérations d'agents d'IA à plusieurs étapes tout en traitant des données sensibles.

Le TPU 8i Max intègre quant à lui deux puces TPU 8i dans un seul boîtier, sa puissance de calcul, sa capacité de mémoire statique à accès aléatoire (SRAM) sur puce ainsi que sa bande passante de mémoire à large bande passante (HBM) atteignant le double de celles du TPU 8i. Le nouveau système augmente le nombre de puces tout en conservant l'empreinte au sol des racks existants, et est principalement destiné aux tâches à forte demande en mémoire telles que le traitement de contextes de l'ordre du million de tokens, l'analyse de code à grande échelle et la compréhension de vidéos longues.

Google a également étendu sa chaîne d'outils logiciels TPU. TorchTPU, précédemment open source, permet au code PyTorch et aux modèles Hugging Face de s'exécuter directement sur la plateforme TPU. La nouvelle suite d'outils pour agents TPU est entrée en phase de prévisualisation et peut s'intégrer à des outils de développement tels que Claude Code, Cursor et Google Antigravity pour exécuter automatiquement l'adaptation à l'environnement TPU, le diagnostic des goulots d'étranglement de performance et l'optimisation des noyaux de calcul personnalisés.

Le nouveau Agent Compute Engine peut suspendre automatiquement les sessions inactives pendant qu'un agent d'IA attend une requête de base de données, un appel d'outil externe ou un retour humain, et migrer la mémoire de travail hors de la puce. Google a également open source la couche de gestion d'état de modèle TPU Sync, qui intègre la HBM des puces, la mémoire hôte, le stockage partagé et le réseau du centre de données en un système de stockage hiérarchisé. Les résultats de tests publiés par Google montrent que cette technologie peut réduire de plus de 90 % la latence de transfert du cache clé-valeur et le temps de réponse du premier token.

Cloud Pathways de Google Cloud est désormais officiellement disponible et permet de coordonner plusieurs partitions de calcul TPU via un contrôleur unique pour exécuter des tâches de pré-entraînement, d'apprentissage par renforcement et d'inférence multi-hôtes. La fonctionnalité de découpage dynamique de Google Kubernetes Engine est également officiellement disponible et permet de combiner ou de diviser dynamiquement les ressources de calcul TPU grâce à la technologie de commutation par circuits optiques. Les données de performance publiées par Google indiquent que cette fonctionnalité peut accélérer le démarrage des tâches jusqu'à 5 fois et la reprise après défaillance jusqu'à 4,5 fois.