Chinesisches Unternehmen Xiyu Technology plant für drittes Quartal großes KI-Modell mit 2,7 Billionen Parametern

de.wedoany.com-Bericht: Das Unternehmen Xiyu Technology (MiniMax) plant die Einführung einer neuen Generation von KI-Modellen mit dem internen Codenamen M3 Pro, das einen Parameterumfang von 2,7 Billionen aufweist. Das Modell soll voraussichtlich frühestens im dritten Quartal dieses Jahres veröffentlicht und als Open Source bereitgestellt werden. Die Fähigkeiten konzentrieren sich auf komplexes logisches Denken, mehrstufige Aufgabenverarbeitung, Ausführung intelligenter Agenten und Codegenerierung.

Der Parameterumfang des M3 Pro ist im Vergleich zum MiniMax M3 deutlich vergrößert. Das MiniMax M3 hat insgesamt 428 Milliarden Parameter, wobei die aktivierten Parameter 23 Milliarden betragen. Es verwendet eine spärlich aktivierte Struktur, bei der während der Inferenz nur ein Teil der Parameter zur Berechnung herangezogen wird. Wenn der M3 Pro die Größenordnung von 2,7 Billionen Parametern erreicht, liegt der Schwerpunkt nicht nur auf der „Vergrößerung des Modells", sondern vielmehr auf der Verbesserung der Fähigkeiten zur Zerlegung langer Aufgabenketten, zum Aufruf von Werkzeugen, zur Generierung von Code-Engineering, zur mehrstufigen Ausführung und zur Aufrechterhaltung des Aufgabenstatus durch größere Expertenkapazitäten, stärkere Aufgabenweiterleitung und komplexere logische Denkpfade. Für ein intelligentes Agentenmodell muss der Parameterumfang der Ausführungsfähigkeit dienen. Das Modell muss in der Lage sein, Benutzeranforderungen in Schritte zu zerlegen, Werkzeuge auszuwählen, Kontext zu lesen, Zwischenergebnisse zu generieren und dann basierend auf dem Feedback den Aufgabenpfad weiter zu korrigieren.

Das MiniMax M3 wurde am 15. Juni offiziell als Open Source veröffentlicht, mit insgesamt 428 Milliarden Parametern und 23 Milliarden aktivierten Parametern. Das Modell ist auf Codierungs- und Agentenaufgaben ausgerichtet und verfügt über die Fähigkeiten zur eigenständigen Aufgabenzerlegung, zum Aufruf von Werkzeugen, zum mehrstufigen logischen Denken und zur Verarbeitung langer Kontexte. Das Ziel der Codegenerierung hat sich von „lauffähig" zu „auslieferbar" gewandelt.

Die technische Ausrichtung des M3 Pro wird sich weiterhin auf Agentenaufgaben konzentrieren. Komplexes logisches Denken bedeutet nicht nur mathematische Probleme oder Frage-Antwort-Aufgaben, sondern die Verkettung von Code-Repository-Verständnis, Anforderungsanalyse, Fehlerlokalisierung, Dateimodifikation, Testdurchführung, Leistungsoptimierung und Ergebnisauslieferung zu einem kontinuierlichen Prozess. Mehrstufige Aufgaben bedeuten auch nicht nur einen einmaligen Aufruf des Modells zur Generierung einer Antwort, sondern eine Schleife des Modells zwischen Suchen, Lesen, Planen, Aufrufen von Werkzeugen, Ausführen von Operationen und Überprüfen von Ergebnissen. Wenn MiniMax den M3 Pro als Open Source bereitstellt, können Entwickler die Ausführungsfähigkeit des Modells mit größerem Parameterumfang in lokalen Bereitstellungen, privaten Cloud-Bereitstellungen, unternehmensinternen Agentenplattformen und Code-Workflows testen.

Xiyu Technology wurde Anfang 2022 gegründet und entwickelt multimodale Modelle sowie KI-native Anwendungen. Das Serviceangebot deckt bereits über 200 Länder und Regionen mit mehr als 300 Millionen einzelnen Nutzern ab und bedient über 100 Länder und Regionen mit mehr als einer Million Unternehmenskunden und Entwicklern. Das Produktportfolio umfasst multimodale große Modelle, KI-Anwendungen, offene Plattformen und Entwicklertools. Die Modellfähigkeiten erstrecken sich von Text, Bildern, Videos und Sprache bis hin zu Code- und Agentenaufgaben.

Wenn der M3 Pro wie geplant als Open Source veröffentlicht wird, wird er auf Basis des MiniMax M3 die Modellkapazität und die Agentenfähigkeiten weiter vergrößern. Die technische Kette wird sich auf die Modellstruktur mit 2,7 Billionen Parametern, die spärliche Aktivierungsstrategie, das lange Kontextfenster, die Schnittstelle zum Aufruf von Werkzeugen, die Bewertung von Codeaufgaben, die Stabilität des mehrstufigen logischen Denkens und die Kosten der Open-Source-Bereitstellung konzentrieren. Diese Faktoren entscheiden darüber, ob es von einem „größeren Modell" zu einem „stärkeren Ausführungsmodell für intelligente Agenten" werden kann.