de.wedoany.com-Bericht: Das chinesische Unternehmen Shishi Technology hat auf der WAIC 2026 in Shanghai die inländische Token-Optimierungsfabrik „Tuoyuan (Vectron)" vorgestellt, die die Effizienz der Rechenleistungsnutzung von KI-Infrastrukturen verbessern soll. Der Gründer und Vorstandsvorsitzende des Unternehmens, Yan Bowen, wies auf der Pressekonferenz darauf hin, dass China bereits über 50 KI-Rechenzentren errichtet habe, mit einer gesamten intelligenten Rechenleistung von über 1000 EFLOPS. Die durchschnittliche Nutzungseffizienz biete jedoch noch enormes Verbesserungspotenzial, da große Mengen an Rechenleistung verschwendet würden und eine unzureichende Leistung bei langen Kontexten und multimodalen Antworten weit verbreitet sei.
Yan Bowen erklärte, dass die Gesamtinvestitionen in die chinesische Rechenleistungsindustrie während des „15. Fünfjahresplans" voraussichtlich 7 Billionen Yuan erreichen werden. Wenn die Effizienz der Rechenleistungsnutzung um 10 bis 20 Prozentpunkte gesteigert werde, könne ein Wertraum von Billionen Yuan freigesetzt werden. Er ist der Ansicht, dass sich der Wettbewerb bei KI-Infrastrukturen von einem „Wettlauf um die Größe der Rechenleistung" zu einem „Wettlauf um die Effizienz der Rechenleistung" verlagere.
Das Produkt „Tuoyuan" bildet ein vollständiges Optimierungssystem für KI-Infrastrukturen, das sich auf die Lösung von Problemen wie der einheitlichen Steuerung heterogener Rechenleistung, der tiefgreifenden Optimierung von Large-Model-Inferenzen, dem Speicherdruck bei langen Kontexten und der Anpassung an inländische Chip-Ökosysteme konzentriert. Die Plattform ist vollständig kompatibel mit über 10 inländischen Rechenleistungschips wie Ascend, Kunlunxin, Tianshu Zhixin, Taichu, Hanbo Semiconductor, Moore Threads, Muxi und Suiyuan und passt sich an über 20 gängige Modelle an. Sie ermöglicht die einheitliche Steuerung und Inferenzbeschleunigung inländischer heterogener Rechenleistungspools und erreicht einen täglichen Token-Durchsatz von Milliarden.
In Bezug auf die Kerntechnologie verwendet „Tuoyuan" eine ergebniswahrnehmungsgesteuerte KV-Cache-Komprimierungstechnologie, die den Speicherdruck reduzieren kann, ohne die Modellleistung zu beeinträchtigen. In vollständig multimodalen Inferenzszenarien verwendet es eine auf modalitätsadaptiver, trainingsfreier Token-Komprimierung basierende Methode, die Informationen für verschiedene Eingaben wie Text, Video und Sprache filtert. Für die Optimierung langer Kontexte verwendet „Tuoyuan" eine Trainingsmethode für lange Kontextpräferenzen, die auf der Synthese gemischter Positionsindizes basiert, sowie einen erinnerungsgesteuerten Wiederlesemechanismus, der mit weitaus weniger Trainingsdaten als ähnliche Methoden eine Leistungssteigerung erzielt. Darüber hinaus enthält das Produkt eine auf metabelohnungsbasierte, erweiterbare Belohnungsmodellierungsmethode, die die Selbstoptimierung des Inferenzsystems unterstützt, sowie eine zielorientierte Informationsspeicherstrategie, um die stabile Ausführung von Langzeitaufgaben von Agenten zu gewährleisten.
Shishi Technology wurde 2021 gegründet, und das Gründungsteam stammt aus der Fakultät für Informatik der Tsinghua-Universität. Die Kernmitglieder setzen sich aus Experten für Hochleistungsrechnen und Künstliche Intelligenz sowie Wissenschaftlern der Tsinghua-Universität, der Peking-Universität, der Universität für Luft- und Raumfahrt Peking und anderer Hochschulen zusammen. Das Unternehmen hat bereits über 200 Kunden bedient, darunter Unternehmen aus den Bereichen Internet, Large-Model-Unternehmen, Luft- und Raumfahrt, Biopharmazie und neue Energien.
