La startup française d'IA ZML publie un logiciel LLM compatible avec plusieurs puces

fr.wedoany.com Rapport : La startup française d'IA ZML, soutenue par le lauréat du prix Turing Yann LeCun, a publié un logiciel nommé ZML/LLMD qui permet à plusieurs grands modèles de langage open source de fonctionner sur différentes puces, notamment celles de Nvidia, AMD, Google TPU, Apple Metal et Intel Arc, visant à briser la domination de Nvidia sur le marché des puces d'IA. Le fondateur de ZML, Steeve Morin, a déclaré à TechCrunch que ce logiciel, servant de serveur d'inférence LLM, a pour objectif de donner aux entreprises et aux fournisseurs de services cloud la possibilité d'utiliser un mélange de puces, y compris des puces moins chères ou plus économes en énergie, réduisant ainsi les coûts liés à l'IA et favorisant un déploiement à grande échelle.

Morin adopte une position neutre envers Nvidia, reconnaissant que ZML entretient de bonnes relations avec l'entreprise et soulignant que cette dernière se prépare à une demande croissante en matière d'inférence, une tendance appelée « ruée vers l'or de l'inférence ». ZML/LLMD n'est pas un produit open source, mais il est publié gratuitement dans le but d'étudier les modes d'utilisation. Morin prévoit d'abord d'évaluer le marché, puis de générer des revenus par les moyens les plus efficaces. Auparavant vice-président de l'ingénierie chez Zenly, rachetée par Snapchat en 2017 pour un montant à neuf chiffres en dollars, Morin a levé 20 millions de dollars auprès de plusieurs sociétés de capital-risque, dont Harry Stebbings’ 20VC, >commit, AALVC, Drysdale Ventures, Xavier Niel’s Kima Ventures, Kindred Capital, LocalGlobe et Puzzle Ventures. La liste des actionnaires comprend également d'autres fondateurs de startups, tels que Solomon Hykes, fondateur de Dagger et Docker, ainsi que Clément Delangue et Julien Chaumond de Hugging Face.

Basée à Paris, cette startup compte une équipe de 20 personnes, et Morin attribue sa rapidité d'exécution à une équipe réduite. Morin insiste sur le fait que les startups européennes d'IA peuvent prospérer localement, et mentionne particulièrement les fabricants émergents de puces d'IA, tels qu'Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud et VSORA. Il estime qu'en collaborant avec ces acteurs, ZML pourrait créer « quelque chose qui n'a jamais existé dans le monde ». Dans le domaine de l'inférence, ZML fait face à des concurrents comme Baseten, valorisé à 13 milliards de dollars, Inferact, fondé par les créateurs du projet open source vLLM, et RadixArk, la société commerciale derrière SGLang. Morin indique que les ambitions de ZML sont plus vastes, allant jusqu'à « co-concevoir des puces ».

Pour l'instant, le calendrier des produits payants de ZML/LLMD et leur adoption ultérieure ne sont pas encore clairs, mais grâce au soutien des investisseurs et à la base de l'équipe, ZML a le potentiel de modifier le paysage concurrentiel de l'industrie des puces d'IA.