Saturn Cloud und Rafay arbeiten zusammen, um GPU-Cloud-Betreibern die Bereitstellung produktionsreifer KI-Dienste zu ermöglichen

de.wedoany.com-Bericht: Die GPU-Cloud-Infrastruktur-Orchestrierungsplattform Rafay Systems und das KI-Anwendungsplattform-Unternehmen Saturn Cloud haben eine Partnerschaft geschlossen. Gemeinsam werden sie einer neuen Generation von Cloud-Dienstanbietern, Telekommunikationsunternehmen, Anbietern souveräner KI und Betreibern von KI-Fabriken auf Unternehmensebene produktionsreife KI-Dienste anbieten, die auf bestehender Infrastruktur bereitgestellt werden können.

Mit dem wachsenden Bedarf an KI-Infrastruktur stehen GPU-Cloud-Betreiber unter Druck, sich von der reinen Bereitstellung von GPU-Zugang hin zur Lieferung vollständiger KI-Dienste zu wandeln. Kunden benötigen sofort nutzbare Funktionen wie gehostete Entwicklungsumgebungen, Feintuning-Workflows, Modell-Serving und Inferenz-Endpunkte. Der Aufbau dieser Plattformebene erfordert jedoch erhebliche Engineering-Ressourcen. Die integrierte Lösung von Saturn Cloud und Rafay zielt darauf ab, diesen Prozess zu vereinfachen.

Rafay bietet die Infrastruktur-Betriebsebene für GPU-Clouds und unterstützt die Orchestrierung von GPU-Infrastruktur in Rechenzentren, Clouds, Hybrid-Clouds und souveränen Umgebungen. Betreiber können damit sichere Multi-Tenancy, Self-Service-Zugriff, Kubernetes- und SLURM-Orchestrierung, Richtliniendurchsetzung, Nutzungsmessung und Kostenverteilung realisieren. Saturn Cloud legt eine KI-Anwendungsebene über die von Rafay verwaltete Infrastruktur und bietet gehostete Entwicklungsumgebungen, verteiltes Training, Modell-Feintuning, OpenAI-kompatible Inferenz-Endpunkte sowie tokenbasierte Abrechnung. Die Kombination beider Plattformen hilft Betreibern, ihre Infrastrukturkapazitäten in hochwertige KI-Dienste umzuwandeln.

Mohan Atreya, Chief Product Officer von Rafay Systems, erklärte, dass GPU-Cloud-Betreiber langfristig nicht allein durch den Verkauf von Rohkapazitäten konkurrieren könnten. Sie müssten mit produktionsreifen KI-Diensten gewinnen, die leicht konsumiert, verwaltet und monetarisiert werden können. Rafay biete die Infrastruktur-Kontrollebene, Saturn Cloud die KI-Workflows – gemeinsam böten sie Betreibern einen Weg von der GPU-Infrastruktur hin zu umsatzgenerierenden KI-Diensten. Sebastian Metti, Gründer von Saturn Cloud, wies darauf hin, dass die Partnerschaft Betreibern helfe, vom GPU-Zugang zu KI-Diensten aufzusteigen.

Die gemeinsame Lösung richtet sich an eine neue Generation von Cloud-Dienstanbietern, Telekommunikationsunternehmen, Anbietern souveräner KI und Betreibern von KI-Fabriken auf Unternehmensebene, die Feintuning, Modell-Serving und gehostete Inferenzdienste bereitstellen, OpenAI-kompatible Endpunkte auf eigener GPU-Infrastruktur anbieten, mandantenspezifische KI-Arbeitsbereiche und Entwicklungsumgebungen unterstützen, die Nutzung für Kostenverteilung oder tokenbasierte Monetarisierung verfolgen und gleichzeitig die Kontrolle über Sicherheit, Governance, Datenresidenz und Infrastrukturbetrieb behalten möchten. Saturn Cloud kann auf der von Rafay verwalteten Infrastruktur bereitgestellt werden. Interessenten können sich für eine Evaluierung an Saturn Cloud oder Rafay Systems wenden.