fr.wedoany.com Rapport : ListenAI prévoit de lancer en fin d'année sa série de puces d'inférence IA pour grands modèles en périphérie, ciblant les besoins en puissance de calcul sous-jacents à l'explosion des terminaux intelligents. Conçues nativement pour les grands modèles de type Transformer, ces puces devraient offrir une accélération de calcul multipliée par 10 et une prise en charge de modèles avec 10 fois plus de paramètres, avec une vitesse d'inférence dépassant 100 tokens/s. Elles utilisent également la technologie d'empilement 3D-DRAM pour multiplier par 5 à 10 la bande passante mémoire par rapport à la LPDDR traditionnelle.
Lors de la Conférence mondiale sur l'intelligence artificielle 2026 (WAIC 2026) qui vient de s'achever, l'attention dans le domaine de l'IA se déplace des clusters de supercalculateurs cloud vers les terminaux généralisés tels que les smartphones, les PC IA, les robots humanoïdes, les cockpits intelligents et les contrôleurs domestiques. Cette tendance impose de nouvelles exigences aux puces de calcul sous-jacentes : elles doivent permettre une inférence locale efficace, stable et scalable des grands modèles, tout en respectant des contraintes de faible consommation, de miniaturisation et de faible coût.
Le développement des grands modèles en périphérie est passé de la validation de faisabilité (« peuvent-ils fonctionner ? ») à une phase pratique de déploiement axée sur la « réactivité en temps réel, la stabilité et la faible consommation ». Des scénarios comme la robotique et les cockpits intelligents nécessitent des réponses décisionnelles en millisecondes, sans dépendre durablement des réseaux cloud. La logique de la compétition en matière de puces passe des simples pics de performance TOPS à l'efficacité systémique globale, où des indicateurs composites comme la vitesse réelle de traitement en tokens/s, la latence du premier token, la consommation énergétique, la bande passante mémoire et la chaîne d'outils logiciels deviennent cruciaux.
Pour résoudre le problème d'efficacité d'utilisation de la puissance de calcul, la puce Nebula définit son architecture de calcul en partant des caractéristiques algorithmiques des grands modèles, en s'adaptant aux charges dynamiques des phases Prefill et Decode. En matière de bande passante mémoire, l'empilement 3D-DRAM réduit le chemin de données entre le stockage et le calcul. Cette série de puces prend également en charge différentes capacités de mémoire empilée pour s'adapter à diverses tailles de modèles, et permet une extension élastique de la puissance de calcul via la mise en cascade des puces. La chaîne d'outils, le SDK et les conceptions de référence associés visent à réduire les obstacles au passage des prototypes à la production en série pour les grands modèles en périphérie.
Han Chaoyang, vice-président marketing de ListenAI, a souligné lors de la WAIC 2026 que les puces d'inférence IA en périphérique, conçues nativement pour les algorithmes d'inférence des grands modèles, restent rares sur le marché.
ListenAI a déjà expédié plus de 100 millions de puces au total. Dans le domaine vocal, ses solutions sont entrées dans les chaînes d'approvisionnement de grands fabricants d'électroménager comme Haier et Midea (chaîne d'approvisionnement intelligente) ; dans le domaine visuel, elles apportent des capacités d'IA locale à des appareils comme les stylos scanneurs, les stabilisateurs portatifs et les serrures intelligentes. La série Nebula étend les capacités de perception existantes à la compréhension, la génération et le raisonnement. Han Chaoyang estime qu'à l'avenir, les puces de perception pour petits modèles en périphérie assureront une perception en temps réel à faible consommation, tandis que les puces pour grands modèles cognitifs prendront en charge la compréhension sémantique complexe, les deux collaborant pour améliorer l'expérience IA en périphérie.
En matière d'industrialisation des applications, ListenAI a lancé des pré-recherches conjointes avec des entreprises comme Lenovo, ListenRobot, Haier, Midea et Mianbei, afin de promouvoir le déploiement des puces d'inférence IA pour grands modèles en périphérie dans quatre domaines clés : PC IA, robots, foyers intelligents et cockpits intelligents, dans des scénarios terminaux réels.
