de.wedoany.com-Bericht: Nutanix hat in Zusammenarbeit mit AMD eine Enterprise-KI-Infrastruktur vorgestellt, die AMD-Prozessoren und -Beschleuniger kombiniert, um Unternehmen bei der Ausführung agentischer KI-Workloads über private und hybride Infrastrukturen zu unterstützen.
Mit dem Einzug autonomer KI-Agenten in die Produktionsumgebung zielt diese Lösung darauf ab, Unternehmen mehr Kontrolle über Modellauswahl, Datenverwaltung und Rechenkosten zu geben. Nutanix erklärt, dass Organisationen eine zweistufige Modellstrategie anwenden können, bei der hochmoderne KI-Systeme für komplexe Reasoning-Aufgaben eingesetzt werden, während hochvolumige Workloads in optimierten Modellen verarbeitet werden, die auf privater Infrastruktur laufen.
Autonome Agenten können Informationen abrufen, mit Unternehmensanwendungen interagieren und langlaufende Workflows ausführen, was eine Vielzahl von Modellanfragen generieren kann. Wenn Organisationen hauptsächlich auf gemietete Infrastruktur oder externe Modelldienste angewiesen sind, können die daraus resultierenden Token-Nutzungskosten die Betriebskosten erhöhen.
Nutanix schlägt den Einsatz eines Agent-Gateways vor, das Anfragen zwischen verschiedenen Modellen und Infrastrukturumgebungen lenkt. Das Gateway kann Unternehmensrichtlinien anwenden, Zugriffskontrollen verwalten und festlegen, welche Workloads externe Spitzenmodelle benötigen. Routineanfragen können an Modelle weitergeleitet werden, die innerhalb der eigenen Infrastruktur der Organisation laufen, während komplexere Aufgaben an größere externe Modelle gesendet werden können. Diese Struktur zielt darauf ab, den Anteil der Workloads zu reduzieren, die über teurere Modelle verarbeitet werden, und bietet der Organisation einen zentralen Kontrollpunkt für die Verwaltung von Modellzugriff und Nutzungsrichtlinien.
Debo Dutta, Chief AI Officer bei Nutanix, erklärte, dass der Besitz eigener Intelligenz nicht bedeute, vollständig auf Spitzenmodelle zu verzichten, sondern die Kontrolle über Routing, Kapazität und Kosten zu behalten. Teure Spitzenmodelle könnten nur für einen kleinen Teil der Aufgaben eingesetzt werden, die komplexe Reasoning-Fälle erfordern, während die meisten hochvolumigen Aufgaben an hochoptimierte Modelle weitergeleitet werden, die sicher auf privater Infrastruktur laufen.
Die Architektur kombiniert die Nutanix Cloud Platform und Nutanix Enterprise AI mit AMD EPYC-Prozessoren und AMD Instinct MI355X-Beschleunigern. Nutanix Enterprise AI dient der Bereitstellung und dem Betrieb von KI-Modellen und -Anwendungen in einer regulierten Infrastrukturumgebung, während die Cloud Platform die zugrunde liegende Rechen-, Speicher- und Verwaltungsschicht für Workloads bereitstellt, die über private und hybride Umgebungen hinweg ausgeführt werden. Die Beibehaltung ausgewählter KI-Workloads innerhalb der privaten Infrastruktur kann Organisationen helfen, die Kontrolle über proprietäre Informationen zu behalten und Datenhoheitsanforderungen zu unterstützen. Die Plattform ist darauf ausgelegt, langlaufende Agenten zu unterstützen, und es können Richtlinien angewendet werden, um zu bestimmen, welche Modelle Agenten verwenden dürfen, auf welche Informationen sie zugreifen können und wo Workloads verarbeitet werden.
Die AMD EPYC-Prozessoren und AMD Instinct MI355X-Beschleuniger stellen Rechenressourcen für Modellinferenz und Enterprise-Workloads bereit. Nutanix gibt an, dass die kombinierte Infrastruktur eine gemeinsame Inferenzumgebung unterstützt, ohne dass für jede KI-Anwendung oder Geschäftseinheit separate Systeme erforderlich sind. Die gemeinsame Kapazität ermöglicht es Organisationen, Rechenressourcen über mehrere Workloads hinweg zu verteilen und so die Infrastrukturauslastung zu verbessern. Das Design richtet sich an Unternehmen, die ihre KI-Bereitstellungen ausweiten möchten, aber keine dedizierte Hardware für jedes Modell oder jeden Agenten bereitstellen wollen. Die zentralisierte Infrastruktur kann mehrere Anwendungen bedienen und gleichzeitig Governance- und Zugriffsrichtlinien über die Plattform verwalten.
Enterprise-KI-Projekte entwickeln sich von isolierten Experimenten hin zu Systemen, die kontinuierlich in Geschäftsprozessen laufen. Die Infrastrukturanforderungen von Agentensystemen unterscheiden sich von eigenständigen Chatbots oder gelegentlichen Modellabfragen. Agenten können über längere Zeiträume aktiv bleiben, mehrere Quellen konsultieren und wiederholt Anfragen stellen, bevor sie Aufgaben abschließen. Mit zunehmendem Bereitstellungsumfang können diese Betriebsmuster die Rechen- und Token-Kosten erhöhen und die Komplexität der Modell-Governance steigern. Die zweistufige Struktur von Nutanix trennt die hochvolumige Verarbeitung von Aufgaben, die größere Spitzenmodelle erfordern, und ermöglicht es Organisationen, die Option zur Nutzung externer Systeme beizubehalten, während vorhersehbare Workloads über privat betriebene Modelle verarbeitet werden. Die Plattform ermöglicht es auch, KI-Workloads und proprietäre Daten in einer regulierten hybriden Multi-Cloud-Umgebung zu belassen, wobei Zugriff, Routing und Richtlinienkontrolle über das Agent-Gateway und den Nutanix-Software-Stack verwaltet werden.
Nutanix erklärt, dass die gemeinsame Inferenzinfrastruktur darauf ausgelegt ist, die Nutzung von AMD EPYC-CPUs und AMD Instinct MI355X-GPUs zu maximieren, gleichzeitig langlaufende Agenten zu unterstützen und die mit Tokens verbundenen Kosten zu kontrollieren.
