Deutsche Telekom plant Erweiterung der industriellen KI-Cloud auf 10.000 GPUs

de.wedoany.com-Bericht: Am 21. Oktober kündigte der Entwickler der deutschen Cloud-Computing-Plattform vCluster Labs an, dass die industrielle KI-Cloud-Plattform der Deutschen Telekom in München ihr automatisiertes Verwaltungssystem bereitgestellt und die Softwarekomponenten von NVIDIA DSX OS integriert hat, um die automatische Erstellung und Verwaltung unternehmenseigener KI-Cloud-Umgebungen zu ermöglichen. Derzeit verwaltet die Plattform über vCluster etwa 500 NVIDIA-GPUs, und die Deutsche Telekom plant, die Kapazität auf über 10.000 zu erweitern, wobei Beschleunigungskomponenten der Blackwell- und Rubin-Serie abgedeckt werden sollen.

Die zuvor von der Deutschen Telekom aufgebaute industrielle KI-Cloud ist bereits in München in Betrieb. Der Schwerpunkt der aktuellen Softwarebereitstellung liegt auf der Lösung von Problemen bei der Bereitstellung und Verwaltung unabhängiger Cloud-Umgebungen für Kunden. vCluster Labs hat gemeinsam mit NVIDIA und der Deutschen Telekom die zugrunde liegenden GPU-Server, die Netzwerkkonfiguration, die Zuweisung von Rechenressourcen und die Kundenverwaltungsplattform in einen einheitlichen Automatisierungsprozess integriert. Bereitstellungsarbeiten, die zuvor mehrere Tage für Netzwerk-, Plattform- und Infrastrukturteams in Anspruch nahmen, können nun innerhalb weniger Stunden abgeschlossen werden.

Jedes angebundene Unternehmen erhält eine unabhängige Cloud-Management-Kontrollplattform, eine dedizierte Zugriffsadresse und eine Betriebsüberwachungsschnittstelle sowie eine Isolierung auf Netzwerk-, Speicher- und Rechenressourcenebene. Über das dedizierte Portal oder die Programmierschnittstelle der Deutschen Telekom können Kunden die Bereitstellung von Kubernetes-Container-Clustern, Slurm-Aufgabenplanungsumgebungen, GPU-Virtualmaschinen auswählen oder direkt Bare-Metal-Server nutzen. Die entsprechenden Arbeitslasten und Industriedaten verbleiben in Deutschland, und die Plattform wird gemäß den Datensicherheits- und Souveränitätsanforderungen der Deutschen Telekom betrieben.

Die zugrunde liegende Infrastruktur nutzt mehrere Kernsoftwarekomponenten von NVIDIA DSX OS. Dabei ist NVSentinel für die GPU-Fehlererkennung und -wiederherstellung zuständig, der GPU Operator verwaltet GPU-Ressourcen in Containerumgebungen, und der Network Operator übernimmt die Netzwerkkonfigurationsverwaltung; vCluster koordiniert die oben genannten Komponenten und schließt automatisch die Ressourcenbereitstellung von physischen Rechengeräten bis hin zu kundenspezifischen Cloud-Umgebungen ab. Die Serverressourcen werden vom vMetal-System verwaltet, das derzeit NVIDIA RTX PRO-Server und DGX B200 unterstützt; künftig sollen DGX B300 aufgenommen und die Kompatibilität mit der Vera Rubin NVL72-Architektur geplant werden.

Die kommerzielle Bereitstellung ist bereits in die Kundennutzungsphase eingetreten. Ein großer deutscher Automobilhersteller ist der erste Industriekunde, der eine unabhängige private KI-Cloud auf dieser Plattform betreibt. Die Deutsche Telekom plant zudem, schrittweise die NVIDIA Omniverse-Softwarebibliothek sowie die Open-Source-Plattform Run:ai zur Verwaltung von Rechenressourcen einzuführen und Unternehmen die entsprechenden Softwareumgebungen über vCluster Stacks bereitzustellen. Mit der Anbindung zusätzlicher GPU-Ressourcen können bestehende Kunden weiterhin über die einheitliche Verwaltungsschnittstelle und Schnittstellen Rechengeräte verschiedener Generationen nutzen.