Test GPU Intel Arc B70 : débit de 2320,76 tokens/s

fr.wedoany.com Rapport : Lors d’un test de performance d’inférence du GPU Intel Arc Pro B70 sur le modèle DeepSeek R1, Intel (via GUNNIR) a montré qu’en situation de forte concurrence, le débit de tokens de cette carte graphique dépasse celui des NVIDIA RTX 5090D et RTX 4090D.

Le test a été réalisé avec une configuration de quatre cartes graphiques en parallèle, comparant les modèles Intel Arc Pro B70 32 Go, NVIDIA RTX 5090D 32 Go et RTX 4090D 24 Go. Le modèle testé est DeepSeek R1-Distill Qwen 32B FP16, avec une longueur d’entrée/sortie fixe de 128 tokens et une plage de concurrence de 1 à 512. L’indicateur clé est le débit en tokens/s, mesurant l’efficacité de sortie lors de l’inférence de grands modèles de langage.

Lorsque le nombre de requêtes simultanées est inférieur à 32, la RTX 5090D arrive en tête, suivie de la RTX 4090D, tandis que l’Arc Pro B70 affiche des performances comparables à celles de la RTX 4090D. À 32 et 64 requêtes simultanées, l’Arc Pro B70 rattrape puis dépasse la RTX 4090D. À 128 requêtes simultanées, le débit de tokens de l’Arc Pro B70 est supérieur de 8,6 % à celui de la RTX 5090D et de 34,2 % à celui de la RTX 4090D. À 256 requêtes simultanées, l’avance de l’Arc Pro B70 s’accroît encore, avec une supériorité de 7,5 % par rapport à la RTX 5090D et de 48,7 % par rapport à la RTX 4090D. À 512 requêtes simultanées, un avantage similaire est observé.

Dans ce test, le débit maximal de tokens du GPU Intel Arc Pro B70 atteint 2320,76 tokens par seconde.