In Breve
- Cosa è ZML LLMD?
- ZML LLMD è un server di inferenza per eseguire modelli di linguaggio su vari chip.
- Qual è l'obiettivo di ZML LLMD?
- L'obiettivo è superare i vincoli software e architetturali per massimizzare le prestazioni.
- Chi ha finanziato ZML?
- ZML ha raccolto 20 milioni di dollari da vari investitori, tra cui 20VC e Kima Ventures.
La startup francese ZML ha recentemente lanciato LLMD, un server di inferenza progettato per eseguire modelli di linguaggio open source su una vasta gamma di chip, tra cui Nvidia, AMD, Google TPU, Apple Metal e Intel Arc. Questo prodotto, disponibile gratuitamente al lancio ma non open source, si propone di superare i vincoli software e architetturali che spesso costringono gli utenti a rimanere legati a singoli fornitori.
Il fondatore di ZML, Steeve Morin, ha dichiarato: «L’idea è restituire alle persone il potere di creare il proprio sistema e ottenere reali guadagni di efficienza che permettano la diffusione dell’IA». L’obiettivo di LLMD è offrire a imprese e operatori cloud la possibilità di utilizzare una combinazione di chip, anche quelli meno costosi o più efficienti dal punto di vista energetico, per massimizzare le prestazioni e facilitare l’adozione dell’intelligenza artificiale.
ZML ha anche manifestato l’intenzione di collaborare con nuovi produttori di chip, molti dei quali sono europei. Tra i nomi citati ci sono Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud e VSORA. Morin ha aggiunto: «Siamo arrivati al punto in cui stiamo co-progettando il silicio», evidenziando il potenziale di innovazione nel settore.
Il lancio di LLMD avviene in un contesto competitivo, con altri operatori come Baseten, Inferact e RadixArk che offrono funzionalità simili, oltre a progetti open source come vLLM e SGLang. Nonostante la concorrenza, ZML ha mantenuto rapporti con Nvidia, un attore chiave nel mercato dei chip per l’IA.
Con sede a Parigi e un team di circa 20 persone, ZML ha raccolto 20 milioni di dollari da investitori come 20VC, >commit, AALVC, Drysdale Ventures, Kima Ventures, Kindred Capital, LocalGlobe e Puzzle Ventures. Morin, che in precedenza ha ricoperto il ruolo di VP of Engineering di Zenly, acquisita da Snapchat nel 2017, ha sottolineato che il rilascio gratuito di LLMD serve a misurare l’utilizzo prima di decidere eventuali politiche commerciali: «Preferisco misurare e poi generare ricavi dove è più efficace, senza ostacolare stupidamente la crescita perché sono stato troppo avido fin dall’inizio».
Tra i sostenitori di ZML figurano nomi noti come Solomon Hykes, Clément Delangue, Julien Chaumond e Yann LeCun, a conferma dell’interesse verso l’ecosistema europeo. Morin ha concluso affermando che non avrebbe potuto realizzare ZML se non fosse stato per il contesto innovativo di Parigi.
