US-Unternehmen Thinking Machines veröffentlicht KI-Modell Inkling 2 Small mit 594 Milliarden Parametern

de.wedoany.com-Bericht: Am 5. November hat das US-amerikanische KI-Unternehmen Thinking Machines Lab offiziell die zweite Generation des KI-Modells Inkling 2 Small vorgestellt. Das Modell verwendet eine Mixture-of-Experts-Architektur (MoE) mit insgesamt 594 Milliarden Parametern, wobei bei jeder Inferenz 17 Milliarden Parameter aktiviert werden. Es unterstützt Texteingabe, Bildeingabe sowie anpassbare Inferenzintensität. Das neue Modell ist bereits über die unternehmenseigene Tinker-Plattform für Inferenz- und Fine-Tuning-Dienste verfügbar. Die vollständigen Modellgewichte sollen nach Abschluss externer Sicherheitstests unter der Apache-2.0-Lizenz veröffentlicht werden.

Inkling 2 Small verwendet eine 48-schichtige Transformer-Architektur, bei der jedes Token 8 von 384 Expertennetzwerken aktiviert und lokale sowie globale Aufmerksamkeitsmechanismen kombiniert. Das Modell unterstützt ein Kontextfenster von bis zu 1 Million Token sowie die numerischen Formate MXFP8 und NVFP4 und kann für Softwareentwicklung, Agent-Tool-Aufrufe, Wissensabruf und komplexe Inferenzaufgaben eingesetzt werden.

Laut den von Thinking Machines veröffentlichten technischen Daten wurde das Modell in der ersten Vortrainingsphase mit 8,4 Billionen Token trainiert, wobei es auf dem NVIDIA GB300 NVL72-Computingsystem 68 Stunden lang lief und im nativen NVFP4-Format trainiert wurde. In der zweiten Phase wurden 3,8 Billionen Token hochwertiger Daten verwendet. In den nachfolgenden Phasen wurden weiterhin Langkontext-Inferenzdaten und Agent-Operationsverläufe eingeführt, wobei in der dritten Phase etwa 320 Milliarden Token und in der vierten Phase etwa 34 Milliarden Token an Daten verwendet wurden.

In der Phase des verstärkenden Lernens führte Thinking Machines mit 2048 GPUs ein 9-tägiges gemeinsames Training durch, absolvierte insgesamt 1075 Trainingsschritte und über 17 Millionen Aufgaben simulationen und verarbeitete mehr als 3 Billionen Token mit einem Rechenaufwand von über 4×10²³ FLOPs. Die Trainingsaufgaben umfassten Codeentwicklung, Terminaloperationen, Dokumentenerstellung, wissenschaftliche Inferenz, visuelles Verständnis und Tool-Aufrufe.

Die Leistungsbewertungsdaten zeigen, dass Inkling 2 Small im Artificial Analysis Intelligence Index v5.0 eine Punktzahl von 30,6 erreichte, die in der Unternehmenspressemitteilung auf 31 gerundet wurde. Im AA-Briefcase v1.1-Wissensarbeitstest erzielte das Modell 1527 Punkte; im JobBench-Test erreichte es 70,5 %. Die genannten Bewertungsergebnisse stammen aus den vom Unternehmen veröffentlichten Testtabellen.

Inkling 2 Small können Entwickler jetzt über den Tinker Playground testen sowie Modellinferenz und Fine-Tuning über Tinker durchführen. Thinking Machines plant, nach Abschluss externer Sicherheitstests und Red-Team-Bewertungen in der nächsten Woche die vollständigen Modellgewichte und Modell-Checkpoints freizugeben. Die aktuell veröffentlichte Version wird mit geschlossenen Gewichten bereitgestellt.