Cisco und Nvidia erweitern sichere KI-Fabrik auf Rack-Ebene mit über 200 Kilowatt pro Rack

de.wedoany.com-Bericht: Cisco und Nvidia erweitern ihre gemeinsame sichere KI-Fabrik (Cisco Secure AI Factory with Nvidia) auf Rack-Ebene und bieten Unternehmen damit eine umfassendere Full-Stack-Betriebsfähigkeit. Die Lösung basiert auf einem KI-Bereitstellungsrahmenwerk für die gesamte Kundeninfrastruktur und integriert nun Flüssigkühlsysteme vom Rack bis zum Netzwerk, die Lasten von über 200 Kilowatt pro Rack unterstützen – geeignet für Inferenz, agentische KI und das Training von Billionen-Parameter-Modellen. Zu den neuesten Erweiterungen gehört der Nvidia Spectrum-X-Switch in Kombination mit dem Cisco-Betriebssystem, sodass Kunden sowohl Referenzarchitekturen gemäß den Nvidia-Cloud-Partner-Spezifikationen als auch Architekturen auf Basis von Cisco Silicon One bereitstellen können.

Während KI von Forschungslaboren in Fertigungshallen und Einkaufsgänge vordringt, suchen Unternehmen nach Full-Stack-Architekturen, die autonome Technologien in hochwertigen Produktionsumgebungen bereitstellen können – ein Kernmerkmal der KI-Fabrik. Cisco und Nvidia positionieren ihr Produktportfolio darauf, die operative Grundlage für dieses Modell zu liefern.

Will Eatherton, Senior Vice President für Netzwerktechnik bei Cisco, erläuterte, dass Cisco im horizontal skalierenden Bereich der GPU-Anbindung einen Netzwerk-Stack mit Nvidia-Spectrum-Chips anbietet, der NX-OS oder SONiC ausführt und für die Frontend-GPU-Anbindung dient; gleichzeitig ermöglicht Cisco Silicon One mit derselben Software-Umgebung den Kunden eine leistungsstarke Speichernetzwerk-Anbindung.

Eatherton sprach auf der Veranstaltung „Cisco Secure AI Factory With Nvidia Expands to Rack Scale“ im exklusiven Live-Interview mit Moderator John Furrier bei theCUBE (dem Live-Studio von SiliconANGLE Media). An seiner Seite war Marc Hamilton, Vice President für Lösungsarchitektur und Engineering bei Nvidia. Die beiden diskutierten, wie sie die Bereitstellungslücke zwischen der Beschaffung von GPUs und dem Betrieb einer produktionsreifen KI-Fabrik schließen. Hamilton betonte, dass die Lösung weit über die Rack-Ebene hinausgehe und eine vollständige KI-Fabrik-Lösung darstelle. In generativen KI-Szenarien könnten Nutzer Agenten in Sandbox-Umgebungen aufrufen oder Tool-Aufrufe im Frontend-Netzwerk durchführen, was die Laufzeit beeinflussen könne – die Cisco-Referenzarchitektur biete jedoch die vollständige Fähigkeit, von einem zentralen Punkt aus in den gesamten Stack einzusteigen, ihn zu überwachen, zu debuggen und zu optimieren.

Die Referenzarchitektur integriert mehrere zuvor von Cisco entwickelte Tools und Dienste, darunter die offene einheitliche Netzwerkverwaltungsebene Cisco Nexus One (mit integrierten Chips, Systemen, Software und Betriebsmodellen sowie integrierter Sicherheit und Beobachtbarkeit) sowie die Betriebsplattform Cisco Cloud Control für agentische IT. Eatherton erklärte, dass Cisco über Nexus One den täglichen Betrieb, die Verwaltung und Überwachung durchführt und über Cloud Control AgenticOps in die gesamte Lösung einbringt, wodurch Software, Vertrieb und Support für den gesamten Cluster bereitgestellt werden. Die Partnerschaft mit Nvidia sei entscheidend, da beide gemeinsam die richtigen Technologiekomponenten für Kunden kombinieren und so eine Gesamtlösung parallel zum Stack bilden.