de.wedoany.com-Bericht: Angesichts des enormen Bedarfs der Künstlichen Intelligenz an energieintensiven Rechenzentren haben Forscher von Extropic Corp. und dem Massachusetts Institute of Technology (MIT) – darunter der Quanteninformationswissenschaftler Isaac Chuang – eine entrauschende thermodynamische Computerarchitektur (Denoising Thermodynamic Computer Architecture, DTCA) vorgeschlagen. Diese soll bestimmte KI-Aufgaben mit einem Bruchteil des Energieverbrauchs herkömmlicher Hardware ausführen. Die Ergebnisse wurden in npj Unconventional Computing veröffentlicht.
Die Studie zielt darauf ab, eine zentrale Herausforderung der KI-Branche zu bewältigen. Das Team weist darauf hin, dass Investitionen in groß angelegte KI-Systeme die globale Energieinfrastruktur enorm belasten. Prognosen zufolge könnten KI-fokussierte Rechenzentren bis 2030 etwa 10 % des gesamten US-Energieverbrauchs ausmachen. Herkömmliche GPU-Architekturen (Grafikprozessoren) bieten nur begrenzte Effizienzsteigerungen, und KI-Algorithmen selbst könnten durch die vorhandene Hardware eingeschränkt werden. Daher wird die Suche nach alternativen Rechenwegen entscheidend.
Der Vorschlag entwirft eine auf herkömmlichen CMOS-Transistoren basierende probabilistische Computerarchitektur, die mithilfe kontrollierter Zufälligkeit Wahrscheinlichkeitsberechnungen direkt in der Hardware durchführt. Das Prinzip lehnt sich an das Konzept von Diffusionsmodellen an: Komplexe Wahrscheinlichkeitsmodellierungsaufgaben werden in eine Reihe einfacher Entrauschungsschritte zerlegt, die schrittweise zufälliges Rauschen in strukturierte Daten umwandeln. Dadurch werden frühere Einschränkungen probabilistischer Hardware im sogenannten „Mischungs-Ausdrucksstärke-Kompromiss“ umgangen. Das Kernstück der Hardware sind speziell entwickelte Transistorschaltungen zur Erzeugung programmierbarer Zufallszahlen. Diese Zufallsbits bilden die Grundlage für probabilistische Berechnungen auf dem Chip und ermöglichen über modulare Arrays die Implementierung mehrerer in Reihe geschalteter spärlicher Boltzmann-Maschinen. Das modulare Design kann entweder durch mehrere dedizierte Hardwareblöcke auf einem einzigen Chip oder durch mehrere miteinander kommunizierende Chips realisiert werden, die verschiedene Phasen der Berechnung ausführen. Das Team hat bereits experimentelle transistorbasierte Zufallszahlengeneratoren hergestellt und getestet, die sich unter simulierten Fertigungsschwankungen als robust erwiesen.
Zur Leistungsvalidierung simulierten die Forscher die Architektur mittels GPU und bezogen Messdaten der physikalischen Zufallszahlengeneratoren ein. Benchmark-Tests am Fashion-MNIST-Bilddatensatz zeigten, dass die von der Architektur erzeugte Bildqualität mit GPU-Implementierungen vergleichbar ist, der geschätzte Energieverbrauch pro generiertem Sample jedoch nur ein Zehntausendstel des GPU-Werts beträgt. Darüber hinaus zeigte ein hybrider Ansatz, der traditionelle neuronale Netze mit thermodynamischer Hardware kombiniert, am CIFAR-10-Datensatz Potenzial. Dabei wird nur ein Zehntel der Parameteranzahl herkömmlicher generativer adversarialer Netze benötigt, was eine praktischere Aufgabenverteilung zwischen verschiedenen Subsystemen ermöglichen könnte.
Trotz der ermutigenden Ergebnisse weist das Forschungsteam auf Einschränkungen hin. Derzeit ist nur der transistorbasierte Zufallszahlengenerator physikalisch verifiziert; die vollständige Rechnerarchitektur befindet sich noch im theoretischen Simulationsstadium. Die für die Benchmarks verwendeten Bilddatensätze sind bei Weitem nicht so komplex wie moderne große Sprachmodelle oder fortschrittliche generative Modelle. Die effiziente Skalierung des Systems auf die Verarbeitung komplexerer Daten bleibt eine zentrale Herausforderung für probabilistisches Rechnen. Das Team ist der Ansicht, dass zukünftige Fortschritte eher von einer tiefen Integration probabilistischer Hardware mit traditionellen neuronalen Netzen abhängen werden, als von einer vollständigen Ablösung bestehender KI-Beschleuniger. Die Studie sollte als „erster Schritt“ betrachtet werden, der weitere Investitionen und Forschung verdient.
