de.wedoany.com-Bericht: Das vom Turing-Preisträger Yann LeCun unterstützte französische KI-Startup ZML hat eine Software namens ZML/LLMD veröffentlicht, die es verschiedenen Open-Source-Großsprachmodellen ermöglicht, auf unterschiedlichen Chips zu laufen, darunter Nvidia, AMD, Google TPU, Apple Metal und Intel Arc. Ziel ist es, die Dominanz von Nvidia auf dem KI-Chipmarkt zu brechen. ZML-Gründer Steeve Morin erklärte gegenüber TechCrunch, dass die Software als LLM-Inferenzserver fungiert und Unternehmen sowie Cloud-Dienstleistern die Wahlmöglichkeit bieten soll, gemischte Chips einzusetzen, darunter günstigere oder energieeffizientere Varianten, um KI-bezogene Kosten zu senken und eine großflächige Bereitstellung zu fördern.

Morin steht Nvidia neutral gegenüber, räumt ein, dass ZML ein gutes Verhältnis zu Nvidia pflegt, und weist darauf hin, dass sich Nvidia auf den wachsenden Inferenzbedarf vorbereitet – ein Trend, der als „Inferenz-Goldrausch“ bezeichnet wird. ZML/LLMD ist kein Open-Source-Produkt, wird aber kostenlos veröffentlicht, um Nutzungsmuster zu untersuchen. Morin plant, zunächst den Markt zu messen und dann auf dem effektivsten Weg Einnahmen zu erzielen. Zuvor war Morin Vice President of Engineering bei Zenly, das 2017 für einen neunstelligen Dollarbetrag von Snapchat übernommen wurde. Mit diesem Hintergrund sammelte er 20 Millionen US-Dollar von mehreren Risikokapitalgesellschaften ein, darunter Harry Stebbings’ 20VC, >commit, AALVC, Drysdale Ventures, Xavier Niel’s Kima Ventures, Kindred Capital, LocalGlobe und Puzzle Ventures. Zur Aktionärsliste gehören auch andere Startup-Gründer wie Solomon Hykes, Gründer von Dagger und Docker, sowie Clément Delangue und Julien Chaumond von Hugging Face.

Das in Paris ansässige Startup hat ein Team von 20 Mitarbeitern, und Morin führt das schnelle Handeln auf das schlanke Team zurück. Morin betont, dass europäische KI-Startups in ihrer Heimat gedeihen können, und hebt insbesondere aufstrebende KI-Chip-Hersteller wie Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud und VSORA hervor. Er glaubt, dass ZML in Zusammenarbeit mit diesen Herstellern etwas schaffen könnte, „was es auf der Welt noch nie gegeben hat“. Im Inferenzbereich steht ZML vor Konkurrenten wie Baseten (bewertet mit 13 Milliarden US-Dollar), Inferact (gegründet vom Schöpfer des Open-Source-Projekts vLLM) und RadixArk (dem kommerziellen Unternehmen hinter SGLang). Morin sagt, die Ambitionen von ZML reichten weiter und hätten bereits das Niveau des „gemeinsamen Chip-Designs“ erreicht.

Derzeit sind der Zeitplan für das kostenpflichtige Produkt von ZML/LLMD und die anschließende Akzeptanz noch unklar, aber mit der Unterstützung der Investoren und der Team-Basis hat ZML das Potenzial, die Wettbewerbslandschaft der KI-Chip-Branche zu verändern.