Erste Installation von AMDs Rack-Level-KI-System in den USA bei Meta abgeschlossen

de.wedoany.com-Bericht: Am 27. Oktober bestätigte AMD aus den USA, dass die ersten Helios-Rack-Level-KI-Computing-Systeme bei Meta installiert und in die Testphase eingetreten sind; beide Seiten treiben die anschließende skalierte Bereitstellung voran. Diese Zusammenarbeit umfasst EPYC-Serverprozessoren, Instinct-KI-Beschleuniger, Pensando-Netzwerktechnologie und die ROCm-Softwareplattform. Meta setzt AMD-Hardware bereits für das Training von KI-Modellen, die Inhaltssortierung, Empfehlungssysteme sowie den Betrieb des persönlichen KI-Agenten Muse ein und arbeitet parallel an der Anpassung neuer Generationen von Computing-Hardware und Software.

Bei der Bereitstellung von Serverprozessoren hat Meta insgesamt mehrere Millionen AMD EPYC Prozessoren verschiedener Generationen installiert, von denen ein Teil in dedizierten Computing-Umgebungen für den persönlichen KI-Agenten Muse eingesetzt wird. Meta ist zugleich Hauptkunde der EPYC Prozessoren der sechsten Generation, und beide Seiten entwickeln gemeinsam einen Nachfolgeprozessor mit dem Codenamen Verano.

Die GPU-Bereitstellung betrifft bestehende Produktionssysteme sowie die Entwicklung kundenspezifischer Chips. AMD Instinct Beschleuniger übernehmen in den Rechenzentren von Meta bereits Aufgaben des KI-Trainings, der Inhaltssortierung und der Empfehlung. Meta war zuvor an der frühen Produktdefinition der MI450-Architektur beteiligt und plant die Bereitstellung kundenspezifischer Instinct GPUs, die für die eigenen Computing-Lasten optimiert sind. Die Zusammenarbeit beider Seiten erstreckt sich zudem auf die MI500-Serie von Beschleunigern und die nächste Generation von Rack-Level-Systemen.

Die Softwareanpassung umfasst ROCm, PyTorch und Triton. AMD hat die Erstadaption der Instinct GPUs für das Meta Muse Spark Open Modell abgeschlossen und unterstützt den Betrieb des Muse Glimmer Modells auf Ryzen AI PCs und Radeon GPU Plattformen. Beide Seiten optimieren zudem das Training großer Empfehlungsmodelle für den Instinct MI350X Beschleuniger und haben entsprechende Softwareverbesserungen bei den Projekten PyTorch, Triton und ROCm eingereicht.