US-amerikanisches Unternehmen Meta veröffentlicht KI-Modell mit offenen Gewichten und 816 Milliarden Parametern, das lokalen Betrieb auf Apple-Computern unterstützt

de.wedoany.com-Bericht: Am 15. Oktober hat das US-amerikanische Technologieunternehmen Meta offiziell das KI-Modell mit offenen Gewichten Muse Spark Open veröffentlicht. Das Modell erreicht eine Gesamtparametergröße von 816 Milliarden, 42 Milliarden aktivierte Parameter und unterstützt ein Kontextfenster von 1 Million Token. Das Modell ist für komplexe Softwareentwicklung, mehrstufiges Reasoning und Aufgaben von KI-Agenten konzipiert und für den Apple M5 Ultra-Chip optimiert. Es kann über zwei Mac-Studio-Workstations lokal bereitgestellt werden.

Muse Spark Open verwendet eine native multimodale Architektur und kann langfristige Programmierabläufe, Software-Engineering und autonome Aufgabenverarbeitung ausführen. Meta hat das Modell in sein KI-Programmierterminal Muse Code integriert und mehrere lokale Betriebstests abgeschlossen, darunter die Fehlerbehebung im Programm des Open-Source-Mastodon-Clients Ice Cubes, die Entwicklung neuer Funktionen und einen vollständigen Software-Build sowie die Bild-für-Bild-Analyse von Material, die Auswahl von Ausschnitten und das Zuschneiden im Hochformat über die Videobearbeitungssoftware DaVinci Resolve.

Bei der Hardware-Anpassung läuft das Modell mit dem Apple-MLX-Framework für maschinelles Lernen. Ein einzelner Mac Studio mit M5 Ultra-Chip kann mit bis zu 512 GB Unified Memory konfiguriert werden; zwei Geräte zusammen bieten etwa 1 TB Speicherkapazität. Die Speicherbandbreite des M5 Ultra-Chips erreicht 1,2 TB/s und kann den Datenlesebedarf während der Modellinferenz unterstützen.

Meta hat zudem die Inferenz für verschiedene Chip-Architekturen optimiert. Das Modell ist mit Inferenz-Frameworks wie SGLang, vLLM, TensorRT-LLM und Apple MLX kompatibel. Auf NVIDIA- und AMD-Grafikprozessoren erreichen maßgeschneiderte Helion-GPU-Kernel eine Kernel-Beschleunigung um den Faktor 1,03 bis 3,95, wobei die End-to-End-Inferenzleistung auf der AMD-MI350-Plattform um etwa 3 % steigt.

Die Modellgewichte von Muse Spark Open sind über Hugging Face, Amazon SageMaker AI, Google Cloud Model Garden und Microsoft Foundry Models zum Download verfügbar und zugleich an Inferenzdienstplattformen wie Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter und Together AI angebunden. Das Modell verwendet die Lizenz Muse Model License und erlaubt Entwicklern die Nutzung und Anpassung unter eingeschränkten kommerziellen Bedingungen.