de.wedoany.com-Bericht: Am 11. August unterzeichnete IBM mit der KI-Cloud-Plattform Together AI eine mehrjährige Vereinbarung im Wert von 240 Millionen US-Dollar. IBM wird in den USA einen groß angelegten KI-Inferenzcluster auf Basis des NVIDIA HGX B300-Systems aufbauen, um Cloud-Rechenleistung für die Open-Model-Inferenzdienste von Together AI bereitzustellen. Der Cluster soll im ersten Quartal 2027 in Betrieb genommen werden.
Der Cluster wird in der IBM Cloud bereitgestellt. In der ersten Phase sind voraussichtlich etwa 2.000 NVIDIA Blackwell Ultra B300-Chips geplant, die über die NVIDIA Spectrum-X-Ethernet-Plattform miteinander verbunden werden. IBM erklärte, dies sei der erste Rechencluster seiner Cloud-Plattform, der auf HGX B300- und Spectrum-X-Technologie basiert und speziell für groß angelegte KI-Inferenz-Workloads entwickelt wurde.
Die HGX-B300-Plattform wird von Serverherstellern zum Aufbau hochdichter KI-Systeme verwendet. Jedes HGX-B300-System ist mit 8 Blackwell-Ultra-GPUs ausgestattet, mit einer Gesamtspeicherkapazität von 2,1 TB pro GPU-System. Die GPUs sind über NVLink der fünften Generation verbunden, mit einer Gesamt-Interconnect-Bandbreite von 14,4 TB/s zwischen den GPUs und einer Netzwerkbandbreite von 1,6 TB/s. Bei etwa 2.000 Chips entspricht die erste Ausbaustufe ungefähr 250 Acht-GPU-HGX-B300-Systemen; die tatsächliche Anzahl der Server und Rack-Konfigurationen richtet sich nach dem endgültigen technischen Plan.
Im Gegensatz zu Rechenclustern, die hauptsächlich für das Modelltraining genutzt werden, liegt der Schwerpunkt dieses Projekts auf der Modellinferenz, d. h. der Verarbeitung von Benutzeranfragen und der Erzeugung von Text, Code oder anderen Inhalten mithilfe bereits trainierter Modelle. Together AI wird über diesen Cluster offene Modelle wie DeepSeek, MiniMax und Kimi betreiben, um Unternehmenskunden Modellzugriff und produktionsreife Inferenzdienste bereitzustellen.
Kai Mak, Chief Revenue Officer von Together AI, erklärte, das Unternehmen erwarte, dass die entsprechende Rechenkapazität zwei bis drei Monate vor dem offiziellen Start vollständig reserviert sein werde. Together AI verarbeitet derzeit monatlich etwa 400 Billionen Tokens. Da Unternehmenskunden ihre Bereitstellung offener Modelle ausweiten, erhöht das Unternehmen seine GPU-Ressourcen durch eigene Aufbauten, Mietmodelle und langfristige Cloud-Computing-Vereinbarungen.
Im Juli 2026 schloss Together AI eine Finanzierungsrunde der Serie C über 800 Millionen US-Dollar ab, mit einer Post-Money-Bewertung von 8,3 Milliarden US-Dollar. Die Runde wurde von Prosperity7 Ventures, einer Tochtergesellschaft von Saudi Aramco, angeführt; NVIDIA, Vista Equity Partners, General Catalyst und andere Institutionen beteiligten sich. Das Unternehmen plant, die eingeworbenen Mittel zur Erweiterung seiner Produkt- und Recheninfrastruktur zu nutzen und die gesamte Infrastruktur in den nächsten fünf Jahren um etwa das 50-fache zu vergrößern.
Diese Vereinbarung wird auch die Bereitstellung von Blackwell-Ultra-Rechenleistung in der IBM Cloud ausweiten. IBM hatte zuvor bereits angekündigt, NVIDIA Blackwell Ultra GPUs in seiner Cloud-Plattform für das Training großer Modelle, Inferenz und komplexe Reasoning-Workloads anzubieten. Nach der Inbetriebnahme des neuen Clusters wird Together AI der Hauptnutzer dieser dedizierten Rechenleistung sein. Zu den weiteren Schritten beider Parteien gehören Serverbereitstellung, Aufbau des Spectrum-X-Netzwerks, Integration der Softwareplattform, Cluster-Inbetriebnahme sowie der kommerzielle Betrieb im ersten Quartal 2027.
