de.wedoany.com-Bericht: Samsung Electronics entwickelt einen speziellen Beschleuniger für KI-PCs namens GAIA und hat Prototypen an Lenovo und HP zur Leistungsüberprüfung übergeben. Die Massenproduktion ist frühestens für 2027 geplant. Der Chip wird in 4-Nanometer-Technologie gefertigt und ist um eine neuronale Verarbeitungseinheit optimiert, die hauptsächlich für generative künstliche Intelligenz und Edge-Inferenzaufgaben zuständig ist.
GAIA ist kein universeller Chip, der den Hauptprozessor ersetzt, sondern ein in PCs verbauter Beschleuniger, der speziell für KI-Berechnungen ausgelegt ist. Herkömmliche PCs verlassen sich hauptsächlich auf die CPU für Betriebssysteme, Bürosoftware und allgemeine Programmanwendungen, während Grafik- und parallele Aufgaben von der GPU übernommen werden. Mit der Integration einer dedizierten NPU können Aufgaben wie Spracherkennung, Bildverarbeitung, Videokonferenzoptimierung, Dokumentenzusammenfassung, Inhaltsgenerierung und persönliche KI-Assistenten vermehrt lokal ausgeführt werden, wodurch die ständige Abhängigkeit von Cloud-Servern verringert wird.
Die NPU ist hardwaretechnisch für Matrixmultiplikationen, neuronale Netzwerkinferenz und Berechnungen mit niedriger Präzision optimiert. Unter gleichen Leistungsbedingungen eignet sie sich daher besser für den dauerhaften Betrieb von KI-Modellen als ein Allzweckprozessor. Bei Laptops muss der Chip nicht nur Inferenzgeschwindigkeit bieten, sondern auch Wärmeentwicklung und Akkuverbrauch kontrollieren. GAIA wird im 4-Nanometer-Verfahren gefertigt, wodurch auf begrenzter Chipfläche mehr Recheneinheiten integriert werden können und PC-Herstellern Spielraum für die Optimierung von Kühlung, Akkulaufzeit und Gehäusedicke bleibt.
Der Chip soll zudem mit der PIM-Speichertechnologie (Processing-in-Memory) zusammenarbeiten. Beim Betrieb generativer KI müssen häufig Modellgewichte und Zwischendaten gelesen werden. Der Datentransfer zwischen Prozessor und Speicher beansprucht Bandbreite und verbraucht Strom. PIM verlagert einen Teil der Rechenleistung in den Speicher oder in die Nähe der Speichereinheiten, sodass Daten nicht wiederholt über weite Strecken zwischen Prozessor und Speicher übertragen werden müssen, wodurch der Engpass der Speicherbandbreite gemildert wird. Die zuvor von Samsung entwickelte PIM-Technologie zielt ebenfalls auf die Reduzierung von Datenbewegungen und die Verbesserung der KI-Rechenleistung und Energieeffizienz ab.
Die Beteiligung von Lenovo und HP an den Mustertests zeigt, dass GAIA bereits in die Phase der Systemintegration und Leistungsüberprüfung eingetreten ist. Bevor der Chip in KI-PCs zum Einsatz kommt, müssen Tests der Hauptplatinenschnittstellen, Betriebssysteme, Treiber, Modell-Frameworks, des Energiemanagements und der Kühlsysteme durchgeführt werden. Zudem wird die Leistung verschiedener Modelle hinsichtlich Startgeschwindigkeit, Token-Generierung, Bildverarbeitung, Multitasking und Offline-Inferenz überprüft. Die Testergebnisse beeinflussen die Anpassung der Chipspezifikationen, Softwareoptimierungen und die letztendlich verwendeten Computerproduktlinien.
Samsung hat bereits mit den Exynos-Mobilprozessoren Erfahrung im NPU-Design gesammelt. GAIA erweitert diese Edge-KI-Fähigkeiten nun auf PCs. Während Modelle auf Smartphones typischerweise durch Speicher, Stromverbrauch und Gerätegröße eingeschränkt sind, bieten PCs größere Akkus, mehr Kühlraum und Speicherkapazität, um lokale Modelle mit größeren Parameterzahlen und längeren Aufgabenketten auszuführen. In Kombination mit dem PIM-Speicher deckt die technologische Kette von GAIA die 4-Nanometer-Chipfertigung, NPU-Inferenz, Modell-Datenauslese, Edge-Speicherbandbreite und die Systemintegration von KI-PCs ab.
