de.wedoany.com-Bericht: Das chinesische Unternehmen Huawei hat den Atlas 950 SuperPoD, einen kommerziellen KI-Superknoten, vorgestellt. Er ist für das Training großer Modelle und hochdichte KI-Rechenumgebungen konzipiert, um groß angelegte Rechencluster aufzubauen. Das System verwendet einen einzelnen Schrank mit 64 Ascend 950DT NPU-Karten als kleinste Bereitstellungseinheit und kann auf bis zu 8192 vollständig vernetzte und zusammenarbeitende Ascend 950DT NPU-Karten erweitert werden. Dies bietet einen vollständigen Aufbaupfad von der Einzelschrank-Bereitstellung bis hin zu einem extrem großen Cluster. Huawei gibt an, dass der Atlas 950 SuperPoD derzeit der größte kommerzielle KI-Superknoten der Branche ist. Die entsprechende Lösung wurde bereits von führenden Kunden kommerziell validiert, und die ersten Bestellungen einiger führender Internetunternehmen befinden sich in der Auslieferungsphase.
Der technische Schwerpunkt des Atlas 950 SuperPoD liegt nicht nur auf der Erhöhung der Anzahl der Rechenkarten, sondern auch darauf, dass tausende NPU-Karten in einem einzigen System eine hohe Verbindungsgeschwindigkeit und koordinierte Arbeitsweise beibehalten können. Wenn die Clustergröße schrittweise von 64 Karten pro Schrank auf 8192 Karten erweitert wird, müssen Rechenaufgaben kontinuierlich Daten zwischen verschiedenen Geräten, Schränken und Knoten austauschen. Wenn die Verbindungsbandbreite unzureichend ist, können viele Recheneinheiten aufgrund von Datenwartezeiten ihre volle Leistung nicht entfalten. Daher hängt die tatsächliche Fähigkeit eines Superknotens nicht nur von der Rechenleistung einer einzelnen NPU-Karte ab, sondern auch davon, ob das Verbindungsnetzwerk, die Speicherorganisation und die Systemplanung groß angelegte parallele Berechnungen unterstützen können.
In Bezug auf die Kernrechenleistung erreicht der Atlas 950 SuperPoD eine Gesamtrechenleistung von 8 EFLOPS bei FP8-Genauigkeit und 16 EFLOPS bei FP4-Genauigkeit. Diese beiden Arten von Niedrigpräzisions-Rechenfähigkeiten dienen hauptsächlich dem Training großer Modelle und verwandten KI-Aufgaben, sodass das System die Verarbeitungskapazität pro Zeiteinheit bei Berechnungen mit einer großen Anzahl von Parametern verbessern kann. Für Modellaufgaben, die kontinuierliche Matrixoperationen und parallele Berechnungen erfordern, gilt: Je größer die Rechenleistung, desto höher die Anforderungen an Datenübertragung, Aufgabenaufteilung und Knotenkoordination. Daher wurde der Atlas 950 SuperPoD so konzipiert, dass Rechenleistung und Verbindungsarchitektur synchron entwickelt werden, anstatt unabhängige Geräte einfach zu einem Cluster zusammenzufassen.
Dieser Superknoten verwendet das selbst entwickelte Lingqu High-Speed-Interconnect-Protokoll und eine volle optische Verbindungsarchitektur von Huawei. Die Systemverbindungsbandbreite erreicht 16,3 PB/s. Das Hochgeschwindigkeits-Verbindungsnetzwerk verbindet verschiedene NPU-Karten und Rechenknoten, sodass Modellparameter, Trainingsdaten und Zwischenergebnisse schnell innerhalb des Clusters übertragen werden können. Die volle optische Verbindungsarchitektur übernimmt weiterhin die Datenübertragung zwischen Geräten und Knoten und bietet einen grundlegenden Kanal für die vollständige Vernetzung und Zusammenarbeit von 8192 Karten, wodurch Wartezeiten aufgrund von Datenbewegungen während des groß angelegten parallelen Trainings reduziert werden.
Aus Sicht der Bereitstellungsstruktur bietet die kleinste Einheit von 64 Karten pro Schrank die Möglichkeit einer schrittweisen Projektumsetzung. Benutzer können zunächst die Basiskonfiguration entsprechend dem tatsächlichen Rechenbedarf bereitstellen und dann je nach Anzahl der Modelle, Trainingsaufgaben und Arbeitslast schrittweise Schränke und Rechenkarten hinzufügen, ohne das maximal große System von Anfang an auf einmal bereitstellen zu müssen. Mit der Erweiterung des Clusters ist das Lingqu High-Speed-Interconnect-Protokoll für die Aufrechterhaltung der Verbindungen zwischen verschiedenen Einheiten verantwortlich, sodass neu hinzugefügte Rechenleistung in ein einheitliches Superknoten-System integriert wird, anstatt unabhängige Rechenressourcen zu bilden.
Die Koordination von Speicher und Datenspeicherung ist ein weiterer Kernbestandteil des Atlas 950 SuperPoD. Das System bildet über die EMS (Elastic Memory Storage)-Architektur einen gemeinsamen Speicherpool von 1152 TB, sodass verschiedene Rechenknoten Daten in einem einheitlichen Speicherraum abrufen und austauschen können. Für das Training großer Modelle benötigen Modellparameter, Datensätze und Zwischenergebnisse kontinuierlich großen Speicherplatz. Wenn die Speicherressourcen fest auf einzelne Geräte verteilt sind, kann es bei einigen Knoten zu Platzmangel kommen, während der Speicher anderer Knoten nicht vollständig genutzt werden kann.
Die Funktion des gemeinsamen Speicherpools besteht darin, die über verschiedene Knoten verteilten Speicherressourcen zentral zu verwalten, sodass Rechenaufgaben dynamisch auf den tatsächlichen Bedarf zugreifen können. Die gemeinsame Speicherkapazität von 1152 TB bietet mehr Datenaufnahmekapazität für das Training großer Modelle und reduziert gleichzeitig die doppelte Datenspeicherung zwischen verschiedenen Knoten. Die EMS-Architektur verbindet Speicher- und Datenspeicherressourcen weiter, sodass das System den Datenstandort basierend auf dem Aufgabenstatus anpassen und in Verbindung mit dem Hochgeschwindigkeits-Verbindungsnetzwerk das Lesen, Austauschen und Verarbeiten von Modelldaten durchführen kann.
Der Atlas 950 SuperPoD integriert Rechenkarten, Hochgeschwindigkeitsverbindungen, volle optische Netzwerke und einen gemeinsamen Speicherpool in einem einzigen Superknoten und bildet so eine systemweite Infrastruktur für das Training großer Modelle. Die Recheneinheiten führen die Modellaufgaben aus, das Lingqu-Protokoll und die volle optische Architektur übernehmen die Kommunikation zwischen den Knoten, und die EMS-Architektur organisiert die Speicherressourcen zentral. Alle Teile bestimmen gemeinsam, ob die 8192 NPU-Karten stabil zusammenarbeiten können. Huawei gibt an, dass diese Lösung die Gesamtkosten für das Training großer Modelle um über 30 % senken kann. Dieses Ergebnis muss durch mehrere Faktoren wie die Auslastung der Rechenleistung, die Verbindungseffizienz und die Konfiguration der Speicherressourcen gemeinsam erreicht werden.
Derzeit hat dieser Superknoten die kommerzielle Validierung durch führende Kunden abgeschlossen, was zeigt, dass das entsprechende System von der technischen Forschung und Entwicklung sowie dem Testen von Lösungen in die praktische Anwendungsphase übergegangen ist. Die ersten Bestellungen einiger führender Internetunternehmen befinden sich bereits in der Auslieferung. Der Schwerpunkt der nachfolgenden Projekte wird sich auf die Geräteinstallation, den Clusteraufbau, die Systemeinrichtung und die Inbetriebnahme der Rechenleistung verlagern, sodass der Superknoten von einer Hardwarelieferung schrittweise zu einer betriebsfähigen Infrastruktur für das Training großer Modelle wird.
Vom Einzelschrank mit 64 Karten bis zur vollständigen Vernetzung von 8192 Karten besteht die Aufbaulogik des Atlas 950 SuperPoD darin, die Rechenleistung durch standardisierte Bereitstellungseinheiten kontinuierlich zu erweitern und gleichzeitig durch Hochgeschwindigkeitsverbindungen und gemeinsamen Speicher die interne Koordination des Clusters aufrechtzuerhalten. Mit dem Eintritt der ersten Bestellungen in die Auslieferungsphase wird sich der tatsächliche Betrieb dieser Lösung hauptsächlich in den Bereichen groß angelegte Clusterbereitstellung, Stabilität der Knotenverbindungen, Planung des gemeinsamen Speichers und Effizienz des Modelltrainings zeigen. Der entsprechende technische Fortschritt wird auch zu einem wichtigen Indikator für die Beobachtung der großflächigen Anwendung nationaler KI-Superknoten.
