de.wedoany.com-Bericht: Die Kernaufgabe der KI-Infrastruktur hat sich von der Unterstützung großer Modell-Inferenzen hin zur Unterstützung des massiven Betriebs intelligenter Agents und der kontinuierlichen Produktion hochwertiger Tokens verlagert. Laut IDC-Daten beträgt der Markt für KI-Agenten auf Unternehmensebene in China im Jahr 2025 etwa 19 Milliarden Yuan, mit einer erwarteten durchschnittlichen jährlichen Wachstumsrate von über 110 % von 2025 bis 2028. Gartners Einschätzung ist noch direkter: Bis 2026 werden 40 % der Unternehmensanwendungen aufgabenorientierte KI-Agenten integrieren. In der Inferenzphase großer Modelle muss die KI-Infrastruktur nur eine Eingabe und eine Ausgabe unterstützen. In der Agentenphase muss die Infrastruktur Aufgabenzerlegung, Tool-Aufrufe, mehrstufige Kollaboration und kontinuierlichen Betrieb unterstützen, was völlig neue Anforderungen an die Rechenleistung stellt. Dahinter stehen eigentlich zwei Fähigkeitslücken: Zum einen, ob eine große Anzahl von Agents stabil und skalierbar betrieben werden kann, und zum anderen, ob mehrere Modelle zusammenarbeiten können, um die Agents intelligenter zu machen. Auf der Open Computing Conference 2026 präsentierte Inspur Information neue Produktlösungen für diese beiden Lücken.
Im Zeitalter der Agents haben die Menschen auch neue Anforderungen an die KI-Infrastruktur. Früher setzten Unternehmen KI meist ein, indem sie ein oder zwei Modelle für relativ unabhängige Aufgaben integrierten: einmal aufrufen, einmal zurückbekommen, und die Sache war erledigt. Bei Agents ist das anders. Eine Agent-Anwendung muss zuerst die Aufgabe zerlegen, dann Schritt für Schritt Tools aufrufen und hin und her kollaborieren, während im Hintergrund möglicherweise eine ganze Gruppe von Sub-Agents gleichzeitig läuft.
Nach der Bereitstellung in Unternehmen kann die Anzahl der Agents sogar in die Tausende gehen. Wie man eine so große Gruppe von Agents stabil und kollaborativ zum Laufen bringt, wird zu einem unvermeidlichen neuen Problem. Neben der steigenden Anzahl von Agents nimmt auch der Druck auf einzelne Modelle zu. Manche Modelle sind gut in logischem Denken, andere im Schreiben von Texten. Diese fachspezifischen Schwächen lassen sich nicht durch eine Erhöhung der Parameteranzahl beheben. Gleichzeitig werden die tatsächlichen Aufgaben immer komplexer, sodass man kaum erwarten kann, dass ein einziges Modell alles kann. Daher wird die Frage, wie mehrere Modelle arbeitsteilig zusammenarbeiten und sich gegenseitig ergänzen können, zu einem weiteren Problem, das gelöst werden muss. Damit diese beiden Dinge wirklich umgesetzt werden können, muss die zugrunde liegende Recheninfrastruktur den Weg ebnen. Mit den neuen Anforderungen ändert sich die Infrastruktur: Die CPU wird wichtiger und bekommt mehr Aufgaben. Im früheren Frage-Antwort-Modus lief die Inferenz großer Modelle mit einer Eingabe und einer Ausgabe, die stärker auf GPUs angewiesen war. Agents sind anders: Sie müssen Aufgaben zerlegen, Tools aufrufen, mehrstufig kollaborieren und Ergebnisse zusammenfassen – diese Ganzzahloperationen und logischen Schlussfolgerungen laufen auf der CPU. Außerdem sind Agents nicht nach einem Durchlauf „Feierabend"; viele Agents müssen das ganze Jahr über online sein, was die Laufzeit erheblich verlängert. Daher ändert sich auch das Verhältnis der Rechenleistung in der KI-Infrastrukturbranche, weg von einer GPU-zentrierten hin zu einer kollaborativen, vielfältigen Rechenleistungssystemen. Mit der gestiegenen Bedeutung der CPU kommt das Problem der Leistungsdichte. Zhao Shuai, stellvertretender General Manager von Inspur Information, erklärte, dass die Leistung von KI-Racks in China in diesem Jahr auf 300 Kilowatt steigen werde, während einige Racks weltweit bereits im Megawatt-Bereich angekommen seien. Wenn die CPU-Seite weiterhin bei einer Dichte von einigen Kilowatt pro Rack bleibe, könne sie nicht an die neue Strominfrastruktur der Rechenzentren angepasst werden. Mit steigender Rack-Leistung wird die Kühlung zum Problem. Die Obergrenze der traditionellen Luftkühlung von 40 bis 50 Kilowatt pro Rack ist längst überschritten, und Flüssigkeitskühlung wird zur Pflicht.
Ein Rack betreibt über 40.000 Agents. Um den skalierbaren Betrieb von Agents zu ermöglichen, veröffentlichte Inspur Information den branchenweit ersten CPU-nativen Flüssigkeitskühlungs-Rack-Server. Dieser Server unterstützt in einem Rack maximal 384 CPU-Prozessoren basierend auf der offenen OCM-Architektur (Open Computing Module), ist kompatibel mit x86 und ARM und kann den kollaborativen Betrieb von über 40.000 Agents unterstützen.
Dieser Umfang ist das 40-fache der im April dieses Jahres von Inspur Information veröffentlichten „Qi Qian Xia"-Lösung. Damals wurden mit einem einzelnen 2U-Server 1000 OpenClaw-Agents bereitgestellt. Dieses Mal füllt Inspur Information direkt ein ganzes Rack mit Agents. Das Rack verwendet die OCM-Architektur, die Prozessoren verschiedener Generationen und Architekturen kompatibel macht, ohne für jede neue Chip-Generation das gesamte System neu entwerfen zu müssen, wodurch der Entwicklungszyklus erheblich verkürzt wird. Um 384 CPUs in ein Rack zu packen, ist die Kühlung eine unvermeidliche Hürde. Inspur Information schlug ein völlig neues Kühlkonzept vor: native Flüssigkeitskühlung. Diese Idee stellt die traditionelle Logik der Luft-Flüssigkeits-Mischkühlung völlig auf den Kopf. Bisherige Cold-Plate-Flüssigkeitskühlungs-Server wurden so konstruiert, dass Kühlplatten an die Rechenkomponenten angebracht wurden, während für andere Komponenten wie Speicher, Netzwerkkarten und Festplatten noch überlegt werden musste, wie die erzeugte Wärme durch Lüfter abgeführt werden kann.
Dieses Mal wird der Ansatz völlig umgekehrt: Rechnen und Kühlung werden gemeinsam entwickelt, wodurch die Beschränkung der traditionellen Flüssigkeitskühlung, die nur die CPU abdeckt, durchbrochen wird. Alle wärmeerzeugenden Komponenten wie Speicher, Netzwerkkarten, optische Module und SSDs werden in das Flüssigkeitskühlungssystem einbezogen, und das gesamte Rechensystem wird neu strukturiert. Inspur Information setzt dies konkret um, indem die Recheneinheiten in einer 2U-Ultra-Slim-Form gestaltet werden. Ein Knoten enthält 16 CPUs, während Speicher, Netzwerkkarten und optische Module, die ursprünglich durch Lüfter und Kabel gekühlt und verbunden wurden, direkt auf dem Motherboard ausgelegt werden. Eine einzige Kühlplatte übernimmt die gesamte Kühlung, und sogar der Serverrahmen wird eingespart. Dadurch wird der Platz, der früher von Lüftern, Kühlrohren und Kabeln belegt wurde, für Rechen- und IO-Ressourcen freigegeben. Das gesamte Rack ist daher kabellos konzipiert, unterstützt Hot Maintenance, gewährleistet einen unterbrechungsfreien Betrieb und steigert die Wartungseffizienz des gesamten Racks um über 100 %.
Mehrere große Modelle arbeiten gemeinsam an einer Aufgabe. Um Agents intelligenter zu machen, hat Inspur Information auf der YuanBrain EZhi-Plattform (EPAI) eine Multi-Modell-Fusions-API eingeführt und gleichzeitig die Enterprise Edition des YuanBrain SD200 Supernode KI-Servers veröffentlicht. Die Multi-Modell-Fusion funktioniert so, dass dieselbe Aufgabe gleichzeitig mehreren Kandidatenmodellen zugewiesen wird, die unabhängig voneinander Antworten generieren. Ein Bewertungs- und Fusionsmodell vergleicht dann die Gemeinsamkeiten, Unterschiede, Auslassungen und einzigartigen Perspektiven dieser Antworten und erstellt letztendlich eine einheitliche Ausgabe. Dieser Prozess muss nicht für jede Aufgabe durchlaufen werden. Bei kurzen Aufgaben wie einfachen Frage-Antwort-Spielen, Tool-Aufrufen oder Formatkonvertierungen leitet das System die Aufgabe direkt an ein leichteres Einzelmodell weiter. Nur bei komplexen, langen Aufgabenketten werden mehrere Kandidatenmodelle zur gemeinsamen Verarbeitung herangezogen, um keine unnötigen Ressourcen zu verschwenden. Dieses System erzielte im DRACO-Test eine Punktzahl von 53,9 %, höher als die Leistung jedes einzelnen Modells im gleichen Testpool. Derzeit ist diese Fähigkeit als Multi-Modell-Fusions-API verfügbar. Sie kann entweder direkt wie ein normaler Modelldienst in Anwendungen integriert oder in Agenten- und Entwicklungsframeworks konfiguriert werden, wobei die bestehenden Dialog-, Inferenz- und Tool-Aufrufabläufe beibehalten werden. Allerdings bringt dies auch ein Problem mit sich: Die gleichzeitige Beteiligung mehrerer großer Modelle an einer Aufgabe stellt höhere Anforderungen an die zugrunde liegende Rechenleistung. Es müssen mehrere Billionen-Parameter-Modelle gleichzeitig geladen werden können, ohne die Ausgabegeschwindigkeit zu beeinträchtigen. Genau das soll der YuanBrain SD200 Supernode bewältigen. Als der YuanBrain SD200 Supernode im letzten Jahr veröffentlicht wurde, konnte er bereits vier Billionen-Parameter-Modelle gleichzeitig bereitstellen, mit einer Token-Generierungszeit von 8,9 Millisekunden – das erste Produkt in China, das die 10-Millisekunden-Marke durchbrach. In diesem Jahr wurde dieser Wert weiter auf 4,77 Millisekunden gesenkt, die erste Lösung in China, die unter 5 Millisekunden liegt, und die First-Token-Latenz wurde um 35 % reduziert.
Diese Verbesserungen sind auf Software-Hardware-Kooptimierungen wie Multi-Token-Vorhersage, das W4A8-Präzisionsschema und JIT-Kompilierung zurückzuführen. Die Multi-Token-Vorhersage generiert in der Dekodierungsphase mehrere Kandidaten-Tokens auf einmal und validiert sie dann, wodurch die Anzahl der tokenweisen Generierungsrunden reduziert wird. W4A8 senkt die Rechengenauigkeit des MoE-Moduls in Billionen-Parameter-Modellen von BF16 auf INT8, wodurch der Speicherbandbreitendruck verringert wird. JIT generiert zur Laufzeit dynamisch spezialisierte GPU-Kernel basierend auf der Tensorform, wodurch die Rechenleistung näher an die Hardware-Eigenschaften heranrückt. Derzeit ist der YuanBrain SD200 Supernode an gängige Open-Source-Modelle wie Kimi K2.6, DeepSeek V4, GLM 5.2 und MiniMax M3 angepasst. Allerdings ist die Einstiegshürde für diese Architektur für viele kleine und mittlere Unternehmen immer noch relativ hoch. Daher hat Inspur Information auch die Enterprise Edition des YuanBrain SD200 Supernode eingeführt, die als kleinere Version des YuanBrain SD200 betrachtet werden kann.
Sie reduziert die Scale-Up-Rechenleistung von 64 auf 16 Karten, senkt die First-Token-Latenz für Billionen-Parameter-Modelle um über 40 % und bietet Unternehmen eine Option mit geringeren Migrations- und Anpassungskosten. So können Unternehmen, die zuvor nur Hunderte-Milliarden-Parameter-Modelle als Hilfsmittel einsetzen konnten, jetzt auch Billionen-Parameter-Modelle tatsächlich in der Produktionsumgebung nutzen.
Der Wettbewerb in der Agent-Infrastruktur hat sich verändert. Heute werden die Aufgaben von CPU, GPU und Softwareplattform enger miteinander verknüpft. Die Softwareplattform ist für Modellintegration, Aufgabenplanung, Ressourcenverwaltung, Berechtigungssteuerung und Ergebnisintegration verantwortlich. Die CPU trägt Agent-Instanzen, Tool-Aufrufe, Sandbox-Betrieb und Interaktion mit Geschäftssystemen. Die GPU ist für Modellinferenz und Token-Generierung zuständig. Nur durch die Zusammenarbeit dieser drei Komponenten kann der stabile Betrieb einer großen Anzahl von Agents und die effiziente Ausführung komplexer Aufgaben gewährleistet werden. In dieser Kette führt ein schwaches Glied dazu, dass die gesamte Agent-Anwendung nicht reibungslos läuft. Dies hat auch den Schwerpunkt des Wettbewerbs in der Agent-Infrastruktur verändert. Früher ging es darum, wer ein einzelnes Modell besser unterstützen konnte. Heute geht es darum, wer die systemische Kollaboration besser beherrscht. Einzelne Stärken reichen nicht mehr aus; entscheidend ist, ob die gesamte Kette reibungslos und kollaborativ läuft. Genau das will Inspur Information mit seiner Antwort auf die Agent-Infrastruktur zeigen.
