de.wedoany.com-Bericht: Das südkoreanische Unternehmen Rebellion hat auf seinem eigenen KI-Server 'RebelServer' erfolgreich das unabhängige Künstliche Intelligenz (KI)-Basis-Modell 'A.X K1 (K1)' von SK Telecom betrieben und darauf aufbauend einen KI-Agenten-Dienst realisiert, der den gleichzeitigen Zugriff mehrerer Nutzer unterstützt. Damit wurde die Betriebsfähigkeit großer KI-Dienste durch die Kombination eines heimischen großen KI-Modells mit einer Neural Processing Unit (NPU) validiert.
Rebellion gab am 23. bekannt, dass bei dieser Demonstration das K1-Modell mit über 500 Milliarden (500B) Parametern auf dem RebelServer ausgeführt wurde. Das Unternehmen erklärte, dass bereits mit einer Ein-Server-Konfiguration eine KI-Inferenzleistung erreicht werden könne, die dem Niveau globaler Hochleistungs-Grafikprozessor (GPU)-Server entspreche, wodurch die Effizienz von Rechenzentren bei Aufbau und Betrieb gesteigert werde.
Beide Seiten erzielten die Leistungssteigerung durch die Kombination der Mixture-of-Experts (MoE)-Struktur von K1 mit den Software-Optimierungstechnologien von Rebellion. Rebellion wandte Techniken an, die verschiedene Rechenoperationen effizient auf Halbleiterchips verteilen, sodass ein einzelner Server Anfragen mehrerer Nutzer ohne Engpässe verarbeiten kann. In der Demonstrationsphase wurde die Funktion eines 'Karten (Map)-basierten KI-Agenten' gezeigt: Mehrere Nutzer griffen gleichzeitig zu und gaben unterschiedliche Fragen wie 'Apotheken, die am Wochenende geöffnet haben' ein, woraufhin K1 in Echtzeit Antworten generierte und die Ergebnisse auf einer Karte anzeigte. Rebellion sieht darin die Bestätigung, dass allein mit einem heimischen KI-Modell und einer heimischen NPU ein stabiler Betrieb eines mehrnutzerfähigen KI-Dienstes möglich ist.
Rebellion-CEO Park Sung-hyun erklärte, diese Demonstration sei ein Beispiel für souveräne KI (Sovereign AI), bei dem der Betrieb eines großen KI-Dienstes allein mit einem heimischen Großmodell und einer heimischen NPU möglich sei, und beweise gleichzeitig die Effizienz und praktische Nutzbarkeit der Infrastruktur. Es ist bekannt, dass Rebellion im Rahmen des Projekts für unabhängige KI-Basismodelle des Ministeriums für Wissenschaft, ICT und Zukunftsplanung als Mitglied des SK Telecom-Konsortiums an der Validierung einer KI-Infrastruktur auf Basis heimischer NPUs arbeitet. Das Unternehmen plant zudem, aufbauend auf Erfahrungen mit dem Betrieb von Echtzeit-KI-Diensten wie 'A. Telefonanruf-Zusammenfassung', die Verbreitung heimischer KI-Infrastruktur voranzutreiben.
