de.wedoany.com-Bericht: Lingsi Technology plant, Ende dieses Jahres die Nebula-Serie von KI-Inferenzchips für große Modelle auf Endgeräten zu veröffentlichen, die auf den zugrunde liegenden Rechenleistungsbedarf hinter dem explosionsartigen Wachstum intelligenter Endgeräte abzielt. Diese Chips sind nativ für Transformer-basierte große Modelle konzipiert und sollen eine 10-fache Rechenbeschleunigung und eine 10-fache Unterstützung der Modellparametergröße bieten, mit einer Inferenzgeschwindigkeit von über 100 Tokens/s. Durch die 3D-DRAM-Stapeltechnologie wird die Speicherbandbreite auf das 5- bis 10-fache herkömmlicher LPDDR-Speicher erhöht.
Auf der kürzlich zu Ende gegangenen Weltkonferenz für Künstliche Intelligenz 2026 (WAIC 2026) verlagert sich der Fokus im KI-Bereich von Cloud-Supercomputing-Clustern hin zu universellen Endgeräten wie Smartphones, KI-PCs, humanoiden Robotern, intelligenten Cockpits und Haussteuerungen. Dieser Trend stellt neue Anforderungen an die zugrunde liegenden Rechenchips: Sie müssen unter den Einschränkungen von geringem Stromverbrauch, Miniaturisierung und niedrigen Kosten eine effiziente, stabile und skalierbare lokale Inferenz großer Modelle ermöglichen.
Die Entwicklung großer Modelle auf Endgeräten hat sich von der Machbarkeitsprüfung („Kann es laufen?") zur praktischen Umsetzung („Echtzeit, stabil, geringer Stromverbrauch") entwickelt. Szenarien wie Robotik und intelligente Cockpits erfordern Millisekunden-schnelle Entscheidungsreaktionen und können nicht langfristig auf Cloud-Netzwerke angewiesen sein. Die Logik des Chip-Wettbewerbs verlagert sich von reinen TOPS-Spitzenleistungswerten hin zur systemweiten Effizienz. Wichtige Kennzahlen sind die tatsächliche Tokens/s-Verarbeitungsgeschwindigkeit, die Latenz des ersten Tokens, der Betriebsstromverbrauch, die Speicherbandbreite und die Software-Toolchain.
Um die Recheneffizienz zu verbessern, definiert der Nebula-Chip die Rechnerarchitektur rückwärtsgerichtet aus den algorithmischen Eigenschaften großer Modelle und passt sich der dynamischen Last in den Prefill- und Decode-Phasen an. In Bezug auf die Speicherbandbreite verkürzt das 3D-DRAM-Stacking die Datenpfade zwischen Speicher und Recheneinheit. Die Chips unterstützen zudem die Kombination mit verschiedenen gestapelten Speicherkapazitäten, um verschiedene Modellspezifikationen abzudecken, und ermöglichen eine flexible Skalierung der Rechenleistung durch Chip-Kaskadierung. Die dazugehörige Toolchain, SDKs und Referenzdesigns sollen die Hürde für den Übergang großer Modelle auf Endgeräten vom Prototyp zur Massenproduktion senken.
Han Chaoyang, Vizepräsident für Marketing bei Lingsi Technology, wies auf der WAIC 2026 darauf hin, dass speziell für Inferenzalgorithmen großer Modelle nativ entwickelte KI-Chips für Endgeräte auf dem Markt nach wie vor rar seien.
Lingsi Technology hat bereits über 100 Millionen Chips ausgeliefert. Im Bereich Sprache sind ihre Lösungen in die Lieferketten führender Hersteller weißer Ware wie Haier und Midea integriert; im Bereich Vision bringen sie lokale KI-Fähigkeiten in Geräte wie Scan-Stifte, Handheld-Gimbals und intelligente Türschlösser. Die Nebula-Serie erweitert die ursprünglichen Wahrnehmungsfähigkeiten um Verständnis, Generierung und Inferenz. Han Chaoyang glaubt, dass in Zukunft kleine Wahrnehmungs-Chips auf Endgeräten für die Echtzeit-Wahrnehmung mit geringem Stromverbrauch zuständig sein werden, während kognitive große Modell-Chips komplexes semantisches Verständnis übernehmen – beide werden zusammenarbeiten, um das KI-Erlebnis auf Endgeräten zu verbessern.
Im Hinblick auf die industrielle Anwendung hat Lingsi Technology gemeinsam mit Unternehmen wie Lenovo, Lingdong Robotics, Haier, Midea und Mianbi eine gemeinsame Vorabforschung gestartet, um die Implementierung der KI-Inferenzchips für große Modelle auf Endgeräten in realen Endgeräteszenarien in den vier Bereichen KI-PC, Robotik, Smart Home und intelligentes Cockpit voranzutreiben.
