Cum poate un software gratuit să accelereze inferența pe cipuri AI diverse? Startup-ul francez ZML a lansat ZML/LLMD, o soluție care optimizează performanța pe platforme precum Nvidia, AMD și Google TPU. Această inovație, prezentată în 2024 la Paris, promite să transforme modul în care companiile folosesc inteligența artificială.
Pe scurt:
- Startup-ul francez ZML a lansat un software gratuit care accelerează inferența AI pe cipuri diverse precum Nvidia, AMD, Google TPU și Apple Metal.
- Scopul este eliminarea silozurilor tehnologice și maximizarea performanței pe fiecare cip, facilitând rularea eficientă a modelelor lingvistice mari open-source.
- Software-ul oferă flexibilitate companiilor și cloud-urilor, combinând cipuri diferite pentru creșterea eficienței și reducerea costurilor în AI.
- ZML a strâns 20 milioane dolari, colaborează cu producători europeni și concurează cu firme importante pe piața inferenței AI.
ZML inferență AI și software inferență pentru cipuri AI diverse
Startup-ul francez ZML a lansat un software gratuit care accelerează inferența pe o gamă largă de cipuri AI, inclusiv Nvidia, AMD, Google TPU, Apple Metal și Intel Arc. Noua soluție, ZML/LLMD, permite rularea eficientă a modelelor lingvistice mari open-source pe diverse platforme hardware.
Fondatorul ZML, Steeve Morin, a explicat că scopul este eliminarea silozurilor tehnologice și maximizarea performanței pe fiecare cip, uneori chiar depășind viteza nativă. Această abordare facilitează utilizarea AI în multiple domenii, optimizând procesarea prompturilor, care devine esențială în fața creșterii utilizării inteligenței artificiale.
Avantajele software-ului ZML pentru cipuri AI
Software-ul ZML oferă companiilor și furnizorilor de cloud flexibilitatea de a combina cipuri diferite, inclusiv opțiuni mai accesibile sau cu consum redus de energie. Morin subliniază că această libertate tehnologică poate stimula adoptarea AI prin creșterea eficienței și reducerea costurilor.
De asemenea, ZML colaborează cu producători europeni de cipuri AI precum Axelera, Fractile, Kalray și alții, dezvoltând soluții unice la nivel global. Relația bună cu Nvidia rămâne un punct forte, iar compania pregătește creșterea capacităților de inferență pe termen lung.
Contextul pieței și perspectivele ZML inferență AI
Zona inferenței AI atrage investiții majore, iar ZML concurează cu firme ca Baseten, Inferact și RadixArk. Morin afirmă că startup-ul parizian avansează rapid datorită unei echipe restrânse și bine finanțate, cu 20 de milioane de dolari strânși de la investitori importanți.
Deși ZML/LLMD nu este open source, produsul este oferit gratuit pentru a acumula date de utilizare și a optimiza performanța. Morin evită monetizarea prematură pentru a nu limita creșterea, concentrându-se pe eficiență și scalabilitate.
Noa Insight
Startup-ul francez ZML a lansat un software gratuit, ZML/LLMD, care accelerează inferența pe diverse cipuri AI, inclusiv Nvidia, AMD și Google TPU. Soluția permite rularea eficientă a modelelor lingvistice mari open-source, facilitând utilizarea AI pe multiple platforme hardware și eliminând silozurile tehnologice.
Implicații
Software-ul oferă companiilor flexibilitatea de a combina cipuri diferite, inclusiv opțiuni cu consum redus de energie, ceea ce poate crește eficiența și reduce costurile în utilizarea inteligenței artificiale.
Elemente-cheie
- ZML/LLMD este un software care optimizează inferența AI pe o gamă largă de cipuri diverse, inclusiv cele de la Nvidia și Apple.
- Produsul este oferit gratuit pentru a acumula date de utilizare și a îmbunătăți performanța, fără a fi open source.
- ZML colaborează cu producători europeni de cipuri AI și menține o relație bună cu Nvidia pentru dezvoltarea viitoare.
Sursa originală a acestui articol este https://techcrunch.com/2026/07/08/hot-french-startup-zml-releases-free-product-to-speed-inference-across-lots-of-ai-chips/ (link)






