de.wedoany.com-Bericht: Qualcomm hat kürzlich in seinem Technologie-Blog dargelegt, dass der Schlüssel zur Steigerung der KI-Leistung im nächsten Jahrzehnt nicht mehr die Prozessorgeschwindigkeit sein wird, sondern ein struktureller Wandel der Rechnerarchitektur. Der Artikel weist darauf hin, dass mit großen generativen Modellen als vorherrschende Arbeitslast der Leistungsengpass von KI-Systemen von der Rechengeschwindigkeit zur Datentransfereffizienz übergegangen ist – ein Trend, der als „Memory-Wall“-Problem bezeichnet wird.
Der Artikel argumentiert, dass moderne KI-Inferenzprozesse stark vom Speicher abhängen. Die Erzeugung jedes neuen Tokens erfordert das Lesen großer Mengen von Modellparametern und Kontextinformationen aus dem Speicher. Die eigentliche Herausforderung besteht darin, diese Daten schnell genug bereitzustellen, nicht in der Berechnung selbst. Schätzungen zufolge ist die Größe von Transformer-Modellen in den letzten zehn Jahren alle zwei Jahre um das 240-fache gewachsen, während die Speicherkapazität von KI-Hardware nur um das Zweifache zunahm, was dazu führt, dass Prozessoren einen Großteil ihrer Zeit im Wartezustand auf Daten verbringen.
Die traditionelle HBM- (High Bandwidth Memory) plus XPU-Architektur erweitert die Bandbreite durch Verbreiterung der Kanäle zwischen Speicher und Prozessor, stößt jedoch zunehmend an physikalische und wirtschaftliche Grenzen. Abnehmende Erträge bei Schnittstellen, Energie- und Zeitkosten durch Datenübertragungsdistanzen sowie die hohen Preise fortschrittlicher Verpackungstechniken machen den traditionellen Weg zunehmend eingeschränkt. Der Artikel betont, dass die Energie, die für die Übertragung von Operanden über Chip-Grenzen hinweg aufgewendet wird, die für die nach der Datenankunft ausgeführten arithmetischen Operationen übersteigen kann.
Um dieses Problem zu lösen, schlägt Qualcomm das Konzept des „Near-Memory Computing“ vor und bezeichnet dessen Implementierung als HBC-Technologie (High Bandwidth Computing). Dieser Ansatz platziert Recheneinheiten direkt in der Nähe des Speichers, sodass datenintensive Operationen dort ausgeführt werden, wo sich die Daten befinden. Der Hauptprozessor, wie der Qualcomm Dragonfly AI-Beschleuniger, übernimmt weiterhin komplexe, flexible Aufgaben, während HBC speziell für datenbewegungslimitierte Operationen zuständig ist. Der Artikel sieht in der Reife der 3D-Integrationstechnologie, insbesondere der Fähigkeit, DRAM direkt auf Logikschaltungen zu bonden, eine kommerzielle Grundlage für diesen Ansatz.
Die auf diesem Konzept basierende Dragonfly-Produktreihe zeigt bereits deutliche Leistungssteigerungen. Daten zufolge bietet der Dragonfly AI250 mit der ersten Generation der Qualcomm HBC-Technologie eine 18-fach höhere effektive Speicherbandbreite als der Dragonfly AI200 mit LPDDR5X; der Dragonfly AI300 mit der zweiten Generation der Qualcomm HBC-Technologie erreicht sogar eine 54-fach höhere effektive Speicherbandbreite als der Dragonfly AI200.
Der Artikel stellt fest, dass Near-Memory Computing vielfältige Auswirkungen auf die Branche haben wird. Leistungsbewertungsmetriken werden sich ändern; Käufer neigen dazu, Plattformen eher anhand ihrer tatsächlichen Leistung unter speicherintensiven Arbeitslasten sowie der Leistung pro Watt und pro Dollar zu bewerten, anstatt anhand des theoretischen Spitzendurchsatzes. Mit zunehmendem Einsatzumfang wird Energie zum primären Betriebskosten- und physikalischen Engpassfaktor; Architekturen, die den Datentransfer minimieren, werden strukturelle Vorteile haben. Darüber hinaus wird sich die Rolle des Speichers von einem passiven Speichermedium zu einem aktiven Teilnehmer der Berechnung wandeln – eine Veränderung, die alle Ebenen vom Chipdesign bis zur Datenzentrumsökonomie betrifft.
Qualcomm ist der Ansicht, dass im Zeitalter der künstlichen Intelligenz die knappe Ressource nicht mehr die Rechenleistung ist, sondern die Fähigkeit, Daten rechtzeitig und wirtschaftlich an den Ort zu bringen, wo sie benötigt werden. Der Schlüssel zum Systemdesign liegt darin, den Datentransfer intelligent zu begrenzen, anstatt lediglich die Prozessorgeschwindigkeit zu erhöhen.
