de.wedoany.com-Bericht: Am 18. Juli hat die Shenzhen Yuntian Lifei Technology Co., Ltd. (688343.SH) auf der Weltkonferenz für Künstliche Intelligenz 2026 (WAIC 2026) ihre Roadmap für KI-Inferenzchips der nächsten zwei Jahre vorgestellt. Das Unternehmen hat drei spezialisierte Chips und deren clusterweite Koordinationslösungen auf einmal bekannt gegeben und deutlich gemacht, dass die KI-Inferenz vom „Einzelchip-Wettbewerb“ zum „Inferenzfabrik-Wettbewerb“ übergeht.
Mit der Entwicklung großer Modelle vom Training zur skalierbaren Inferenzbereitstellung stoßen die traditionellen „Trainings- und Inferenz-integrierenden“ Universalchip-Architekturen hinsichtlich Effizienz und Kosten an ihre Grenzen. Die Inferenz großer Modelle unterteilt sich hauptsächlich in die Prefill-Phase zur Verarbeitung des Eingabekontexts und die Decode-Phase zur Token-für-Token-Generierung, die extrem hohe Anforderungen an Rechenleistung und Speicherbandbreite stellt – beide Phasen haben völlig unterschiedliche Anforderungen an die Hardware-Ressourcen.
Basierend auf dieser Erkenntnis entkoppelt die Lösung von Yuntian Lifei die Inferenzkette. Der DeepVerse100P ist für Prefill-Szenarien mit Millionen von Kontexten ausgelegt und soll das Problem der gegenseitigen Ressourcenverdrängung in traditionellen gemischten Architekturen lösen, bei denen Prefill und Decode Ressourcen teilen. Der DeepVerse100D ist für die Decode-Phase konzipiert und bietet eine um ein Vielfaches höhere Speicherbandbreite als gängige Chips, unterstützt eine 1024-Karten-Scale-up- und Glasfaser-Systemarchitektur und zielt darauf ab, Mehrknoten-Kommunikationsengpässe und Tail-Latenzen zu reduzieren. Der DeepVerse100L ist für die rechenintensive FFN-Phase (Feedforward Network) der Decode-Stufe konzipiert und nutzt eine 3D-Memory-Architektur, um die Speicherbandbreite drastisch zu erhöhen und die parallele Effizienz von Berechnung und Kommunikation zu verbessern.
Parallel zur Hardware-Vorstellung hat Yuntian Lifei eine noch zukunftsweisendere Systemkonzeption vorgeschlagen. Das Unternehmen plant, diese drei Chips in einem heterogenen Cluster mit Zehntausenden Karten getrennt zu deployen und koordiniert zu betreiben – das heißt, entsprechend den unterschiedlichen Lastprofilen von Prefill, Decode und Decode FFN werden jeweils die passenden Chips und Ressourcenpools zugewiesen, die über eine schnelle Vernetzung ein koordiniert arbeitendes heterogenes Rechenleistungssystem bilden. Chen Ning, Vorstandsvorsitzender und CEO von Yuntian Lifei, erklärte, dass nach der Skalierung der KI-Anwendungen der Wert der Rechenleistung stärker daran gemessen werden müsse, wie viele Token das System stabil und effizient produzieren könne. Diese Lösung erweitert die Chip-Optimierung von der Verbesserung der Einzelchip-Leistung auf die clusterweite Effizienzoptimierung, um die Kosten pro generiertem Token zu senken und dem langfristigen Ziel von „einem Cent für zehn Milliarden Token“ näher zu kommen.
Die zunehmende Heterogenität der Hardware und die steigende Clustergröße stellen höhere Anforderungen an den Software-Stack. Yuntian Lifei baut derzeit kontinuierlich den IFWA-Software-Stack aus, der die Entwicklung von KI-Modellen, die Programmierung und die Systemebene abdeckt, und verstärkt die Anpassung und Optimierung von PyTorch ATen-Operatoren sowie gängigen Inferenz-Frameworks wie vLLM und SGLang. Darüber hinaus hat das Unternehmen im Mai dieses Jahres gemeinsam mit mehreren Einrichtungen aus den Bereichen Chips, Software, Modelle und Anwendungen die „1001-Initiative“ ins Leben gerufen, um Anwendungsanforderungen früher in die Chip- und Systemdesign-Phase zurückzuspiegeln und die technische Validierung und Umsetzung zu beschleunigen.
