de.wedoany.com-Bericht: Das britische Photonik-Startup Oriole Networks wird für das ARIA Scaling Inference Lab in Großbritannien das weltweit erste großflächige rein photonische KI-Netzwerk bereitstellen. Das System kombiniert die Photonik-Netzwerktechnologie von Oriole mit AMD Instinct GPUs und AMD EPYC CPUs, um die Fähigkeiten der nächsten Generation von KI-Infrastruktur in Bezug auf Inferenzdurchsatz, niedrige Latenz und Energieverbrauchskontrolle zu validieren.
Der Engpass von KI-Rechenzentren verlagert sich von der Leistung einzelner Chips hin zur Netzwerkverbindung innerhalb des Clusters. Inferenz und Training großer Modelle erfordern die koordinierte Zusammenarbeit einer Vielzahl von GPUs, CPUs, Arbeitsspeicher und Speichersystemen. Die Datenübertragungsgeschwindigkeit, Latenz und der Energieverbrauch zwischen den Knoten beeinflussen direkt die Gesamteffizienz. Herkömmliche Rechenzentrumsnetzwerke sind stark auf elektrische Vermittlungsgeräte angewiesen. Mit der Vergrößerung von KI-Clustern werden der Stromverbrauch der Vermittlungsebene, Leitungsüberlastungen und Wartezeiten der GPUs zu limitierenden Faktoren. Der Ansatz von Oriole ersetzt einen Teil der herkömmlichen elektrischen Vermittlungspfade durch ein rein photonisches Netzwerk mit dem Ziel, auf Systemebene die Netzwerklatenz und den Energieverbrauch zu senken, sodass mehr Rechenressourcen tatsächlich für KI-Aufgaben genutzt werden können.
Diese Bereitstellung im ARIA Scaling Inference Lab stellt einen wichtigen Meilenstein für die Kommerzialisierung des photonischen KI-Netzwerks von Oriole dar. Das Labor konzentriert sich auf Probleme der KI-Inferenzskalierung und untersucht, wie große Modelle in einer kostengünstigeren, effizienteren und interaktiveren Infrastruktur betrieben werden können.
Oriole hat zuvor die PRISM-Photonik-Routing-Infrastruktur vorgestellt, die für Rechenzentren, Hochleistungsrechnen und verteilte Deep-Learning-Workloads konzipiert ist. Die Idee von PRISM ist es, die Anforderungen an Hochgeschwindigkeitsverbindungen in KI-Clustern mit einem photonischen Vermittlungsnetzwerk zu bedienen und so den Energieverbrauch und die Latenzbelastung durch elektrische Vermittlung zu reduzieren. Sollte sich die Technologie in der Laborumgebung als wirksam erweisen, wird sie sich in Zukunft auf KI-Servernetzwerke, optische Verbindungsmodule, Rechenzentrums-Vermittlungsarchitekturen, GPU-Cluster-Bereitstellungen und Hochleistungsrechnernetzwerkdesigns auswirken. Die Beteiligung von AMD an dieser Bereitstellung zeigt auch, dass KI-Chip-Hersteller beginnen, sich auf systemweite Leistungsengpässe jenseits des Rechenchips zu konzentrieren. Ob die GPU-Rechenleistung voll ausgeschöpft werden kann, hängt zunehmend vom Zusammenspiel von Netzwerk, Speicher, Gehäuse, Kühlung und Software-Scheduling ab.
Diese Bereitstellung ist derzeit noch ein Demonstrations- und Validierungsprojekt für das ARIA-Labor und nicht gleichbedeutend mit einer umfassenden kommerziellen Einführung in großflächigen Rechenzentren. Oriole betrachtet dieses Projekt bereits als seine erste kommerzielle Bereitstellung und plant, bis 2027 breitere industrielle Anwendungen voranzutreiben. Der weitere Schwerpunkt wird auf der Validierung des tatsächlichen Durchsatzes, der Netzwerkstabilität, der Kompatibilität mit KI-Serverclustern, den Bereitstellungskosten, der Betriebskomplexität und der Energieeffizienz liegen.
