de.wedoany.com-Bericht: Das von der ehemaligen Chief Technology Officer von Open Künstliche Intelligenz (OpenAI), Mira Murati, gegründete Thinking Machines Lab hat das Open-Source-Gewichtsmodell Inkling veröffentlicht. Das Modell verfügt über insgesamt 975 Milliarden Parameter, basiert auf einer Mixed-Expert-Architektur, aktiviert für eine bestimmte Aufgabe nur etwa 41 Milliarden Parameter, unterstützt ein Kontextfenster von bis zu 1 Million Token und wurde mit 45 Billionen Token an Text-, Bild-, Audio- und Videodaten trainiert. Inkling kann Text, Bilder und Audio verarbeiten und Schlussfolgerungen ziehen, gibt aber derzeit nur Text aus, einschließlich Code und strukturierter Daten.
Thinking Machines Lab behauptet nicht, dass Inkling an der Spitze der Leistung steht. In eigenen Materialien wird es als „nicht das derzeit leistungsstärkste Modell, weder Closed-Source noch Open-Source“ beschrieben. Das Labor strebt nach Breite und Anpassungsfähigkeit und positioniert Inkling als ein Basismodell, das von Organisationen selbst feinabgestimmt werden kann, und nicht als fertigen Chatbot. Benutzer können durch Einstellung der „Denkintensität“ einen Kompromiss zwischen Genauigkeit und Geschwindigkeit erzielen. Das Unternehmen gibt an, dass Inkling in einem Codierungstest mit nur einem Drittel der Token von Nvidias Nemotron 3 Ultra das gleiche Niveau erreicht habe. Das Labor hat außerdem eine Vorschau auf die leichte Version Inkling-Small gegeben, die über 12 Milliarden aktive Parameter verfügt und für Aufgaben mit Priorität auf Kosten und Geschwindigkeit ausgelegt ist.
Die gesamte Veröffentlichung basiert auf einer grundlegenden Annahme: Künstliche Intelligenz, die an einem einzigen Ort trainiert und dann eingefroren wird, wird Modellen unterliegen, die jede Organisation entsprechend ihrem eigenen Fachwissen formen kann. Kunden feinabstimmen Inkling über die kundenspezifische Plattform Tinker des Labors, besitzen die Ergebnisse und tragen gleichzeitig das Sicherheitsrisiko für das, was sie erstellen. Das Labor führt als Beispiel ein Kooperationsprojekt mit dem Hedgefonds Bridgewater an, bei dem beide Seiten auf Basis des Finanzwissens von Bridgewater ein Open-Source-Modell trainierten, das bei Finanz-Schlussfolgerungstests eine Punktzahl von 84,7 % erreichte und damit mit sehr geringen Kosten führende proprietäre Modelle schlug. Diese Daten stammen aus den eigenen Bewertungen der beiden Unternehmen, nicht von unabhängigen Dritten.
Thinking Machines Lab betont seine Entwicklungsgeschwindigkeit. TechCrunch weist darauf hin, dass OpenAI etwa fünf Jahre für die Einführung und Rentabilität gebraucht habe, Anthropic etwa drei Jahre, während Muratis Labor angibt, etwa neun Monate gebraucht zu haben. Um diese Geschwindigkeit zu erreichen, hat das Labor einige Abkürzungen genommen: Um das Training von Inkling zu starten, war es auf andere Open-Source-Modelle angewiesen, darunter Kimi K2.5 von Moonshot, eine Praxis, die als Destillation bezeichnet wird. Das Labor gibt an, dass sein nächstes Modell vollständig selbstständig trainiert wird. Inkling läuft auf Nvidias GB300-System, das Teil eines Deals über 1 Gigawatt Nvidia-Rechenleistung aus dem März ist.
Derzeit ist Inkling von Thinking Machines Lab völlig kostenlos, die Einnahmen stammen von der kundenspezifischen Plattform Tinker. Die Finanzierung und das Personal des Labors haben Höhen und Tiefen erlebt: Im letzten Jahr wurden 2 Milliarden US-Dollar bei einer Bewertung von 12 Milliarden US-Dollar aufgenommen, während Berichten zufolge eine Finanzierungsrunde über 50 Milliarden US-Dollar gescheitert ist; Anfang dieses Jahres verließen zwei Mitgründer das Unternehmen, die aktuelle Mitarbeiterzahl hat sich wieder auf etwa 200 erholt. In seinem veröffentlichten Manifest schreibt das Labor: „Wir glauben daran, die Energie des Eigenartigen zu bewahren.“
