de.wedoany.com-Bericht: Meituan hat am 6. Juli offiziell sein neues Billionen-Parameter-Modell der nächsten Generation, LongCat-2.0, als Open Source veröffentlicht. Am selben Tag hat Moore Threads auf Basis der KI-Trainings- und Inferenz-All-in-One-Allzweck-GPU-Rechenkarte MTT S5000 und des MUSA-Software-Stacks eine schnelle Anpassung des Modells durchgeführt. Die Anpassungsarbeiten umfassen die gesamte Kette von Modellladung, Inferenz-Engine-Start, Optimierung wichtiger Operatoren, Bereitstellungsvalidierung und Genauigkeitsprüfung, sodass LongCat-2.0 auf der MTT S5000 stabil und effizient inferieren kann, was Entwicklern und Unternehmenskunden einen bequemeren Weg zur Modellbereitstellung bietet.
LongCat-2.0 ist Meituans selbst entwickeltes Billionen-Parameter-MoE-Modell der nächsten Generation mit einer Gesamtparameterzahl von 1,6T, einer durchschnittlichen aktivierten Parameterzahl von etwa 48B und einem dynamischen Bereich zwischen 33B und 56B. Das Modell ist speziell für Agentic-Coding-Szenarien konzipiert, unterstützt nativ einen 1M langen Kontext und verwendet einen selbst entwickelten spärlichen Aufmerksamkeitsmechanismus (LSA), eine ScMoE-übergreifende Kurzschlussarchitektur und einen dynamischen Aktivierungsmechanismus für Null-Computing-Experten, um eine effiziente Ressourcennutzung und Multitasking-Koordination zu erreichen. Umfassende Evaluierungsergebnisse zeigen, dass LongCat-2.0 in Code- und General-Agent-Szenarien hervorragende Leistungen erbringt und zu einem der beliebtesten KI-Agent-Kernmodelle in der globalen Entwickler-Community geworden ist.
Das technische Team von Moore Threads hat mit der leistungsstarken SGLang-MUSA-Inferenz-Engine und dem MUSA-Software-Ökosystem, basierend auf der Modellstruktur und den Inferenzeigenschaften von LongCat-2.0, eine vollständige Kette von der Framework-Kompatibilität bis zur Leistungsoptimierung durchgeführt.
In Bezug auf die Hardware-Unterstützung verfügt die MTT S5000 über eine hardwarenative FP8-Beschleunigungsfähigkeit und bietet mit einer einzigen Karte hohe Rechenleistung, großen Videospeicher und hohe Bandbreite, was eine stabile Unterstützung für lange Kontexteingaben, KV-Cache-Lese-/Schreibvorgänge und hochparallele Inferenz bietet. In Kombination mit der koordinierten Optimierung der SGLang-MUSA-Inferenz-Engine und des MUSA-Software-Stacks kann LongCat-2.0 auf der MTT S5000 die Inferenzleistung besser ausschöpfen und die Antworteffizienz von Online-Diensten sowie den Systemdurchsatz verbessern.
Moore Threads verwendet einen standardisierten Engineering-Pfad, der die Schritte der Modellstrukturanalyse, des Gewichtsladens, der Inferenz-Framework-Kompatibilität, der Operatorvalidierung und der Bereitstellungstests in einen Prozess integriert, sodass LongCat-2.0 auf der MTT S5000 schnell inferenzvalidiert werden kann. Diese Vorgehensweise trägt dazu bei, die Hürden für die Migration und Bereitstellung moderner Modelle auf chinesischen Rechenplattformen zu senken.
In Szenarien wie KI-Coding, Agent-Workflows, Unternehmenswissensdatenbank-Fragen und -Antworten sowie Langdokumentanalyse hat Moore Threads die Inferenzkette von LongCat-2.0 auf Bereitstellungsebene validiert. Durch die koordinierte Optimierung auf Framework-, Operator- und Scheduling-Ebene kann die MTT S5000 eine Infrastruktur für die Inferenz bieten, die Leistung, Stabilität und Skalierbarkeit vereint.
Die Day-0-Unterstützung des LongCat-2.0-Modells ist eine praktische Umsetzung der tiefen Zusammenarbeit zwischen chinesischen großen Modellen und chinesischen Chips. Moore Threads erklärte, dass das Unternehmen auch in Zukunft auf die Ökosystemkompatibilität des MUSA-Software-Stacks setzen wird, um die Fähigkeiten moderner Modelle anzupassen und mit der chinesischen Allzweck-GPU-Infrastruktur die innovative Umsetzung von großen Modellanwendungen zu beschleunigen.
