de.wedoany.com-Bericht: Suanmiao Technology hat bekannt gegeben, dass sein auf große Modelle ausgerichteter 3D TokenPU-Chip A4E am 15. Juni getaped out wurde. Der Chip basiert auf einer inländischen Lieferkette und verwendet eine 3D-Hybrid-Stapelarchitektur, um der großen Modellindustrie eine unabhängig kontrollierbare Rechenleistung zu bieten. Deloitte prognostiziert, dass in Zukunft über 80 % des Rechenleistungsbedarfs auf der Inferenzseite liegen werden.
Die Inferenz großer Modelle leidet seit langem unter dem häufigen Datentransfer zwischen Speicher und Prozessor, was zu bis zu 80 % Energieverbrauch und 70 % Kostendruck führt. Die von Suanmiao Technology eingeführte 3D-TokenPU-Architektur stapelt 8 Speicher-Wafer vertikal auf einem Logik-Wafer und realisiert durch Silizium-Durchkontaktierungen (TSV) und Bump-Technologie eine mikrometerfeine Verbindung, wodurch die traditionelle millimetergroße Übertragungsdistanz um zwei Größenordnungen reduziert wird und eine Speicherbandbreite von 16 TB/s bereitgestellt wird. Der Chip führt das Tile-Native-Konzept der Software-Hardware-Kooperation ein, wobei Tile als Basiseinheit für Datentransport, Speicherung und Berechnung dient und ein Modell des einmaligen Transports und der mehrfachen Wiederverwendung realisiert wird. Die Hardware unterstützt nativ die Tile-Level-Datenplanung und den dynamischen Wechsel der Mehrfachpräzision, während die Software einen Compiler-Toolstack aufbaut, der an Open-Source-Ökosysteme wie LLVM und Triton angepasst ist.
Dr. Wang Fuquan, Gründer und CEO von Suanmiao Technology, erklärte, dass der 3D TokenPU speziell für die Token-Verarbeitung großer Modelle entwickelt wurde und eine Steigerung der Rechenleistungsdichte und Energieeffizienz ermöglicht, ohne allein auf eine Verkleinerung des Fertigungsprozesses angewiesen zu sein.
Suanmiao Technology hat ein inländisches Lieferketten-System aufgebaut, das Chipdesign, Kern-IP, Fertigung und Verpackung umfasst. Der A4E-Chip basiert auf einer selbst entwickelten RISC-V-Architektur, selbst entwickelten IPs und einer eigenen Software-Plattform und wird in Zusammenarbeit mit inländischen Lieferkettenpartnern unter Verwendung ausgereifter inländischer Fertigungsprozesse hergestellt. Die Kernmitglieder des Teams haben in Projekten für Hochdurchsatz-Speicher-in-Rechner-Chips die Massenproduktion von zehntausenden 3D-Hybrid-Stapel-Wafern realisiert. Der Anteil der Forschungs- und Entwicklungsmitarbeiter des Unternehmens liegt bei über 80 %, und die Kernkräfte stammen von Einrichtungen wie der Chinesischen Akademie der Wissenschaften, der Tsinghua-Universität und der Peking-Universität.
Der 3D TokenPU richtet sich an führende Hersteller großer Modelle. Das Unternehmen hat bereits seit fast einem Jahr eine intensive Zusammenarbeit mit Kunden durchgeführt, in der Chipdefinitionsphase die Anforderungen der Inferenzszenarien verankert und die Architektur- sowie Basisalgorithmusoptimierung abgeschlossen. Das Unternehmen hat mehrere Finanzierungsrunden von staatlichen Kapitalplattformen, marktorientierten Fonds und Industriekapital erhalten. Zu den Investoren gehören unter anderem CDB Capital, Beijing Shunxi, Source Code Capital, Stone Capital, Lenovo Capital, Xianghe Capital und andere.
Dieser Artikel wurde von Wedoany übersetzt und bearbeitet. Bei jeglicher Zitierung oder Nutzung durch künstliche Intelligenz (KI) ist die Quellenangabe „Wedoany“ zwingend vorgeschrieben. Sollten Urheberrechtsverletzungen oder andere Probleme vorliegen, bitten wir Sie, uns unverzüglich zu benachrichtigen. Wir werden den entsprechenden Inhalt umgehend anpassen oder löschen.
E-Mail: news@wedoany.com
