de.wedoany.com-Bericht: Das südkoreanische Unternehmen Cafe24 hat kürzlich einen Large Language Model (LLM)-Router vorgestellt, der über 120 generative KI-Modelle verbindet und auf Basis der Benutzeranfrage automatisch das am besten geeignete Modell für Aufgaben wie Codierung, Übersetzung oder kreative Arbeiten auswählt.
Mit der zunehmenden Verbreitung des „Multihoming“-Phänomens bei generativen KI-Systemen wie ChatGPT, Claude, Gemini und DeepSeek müssen Benutzer Modelle selbst vergleichen und auswählen, was die Belastung erhöht. Der LLM-Router von Cafe24 bündelt diese Modelle über eine einzige Anwendungsprogrammierschnittstelle (API) und soll so die Entscheidungslast der Benutzer verringern.
Dienstanbieter können die verwendeten Modelle nach Kriterien wie Aufgabentyp, Kosten, Antwortgeschwindigkeit und Modellleistung festlegen. Zudem wird unterstützt, dass bei einem Ausfall eines bestimmten Modells automatisch auf ein zuvor festgelegtes Ersatzmodell umgeschaltet wird, um die Kontinuität der Aufgabenausführung zu gewährleisten.
Im Markt für generative KI zeigt sich ein „Paradox der Wahl“: Mehr Optionen können zu Entscheidungsverzögerungen oder geringerer Zufriedenheit nach der Wahl führen. Jede KI hat ihre eigenen Stärken, und Benutzer wechseln je nach Aufgaben wie Übersetzung, Suche oder Codierung zwischen verschiedenen Diensten. Der Prozess des Modellvergleichs und der wiederholten Eingabe derselben Frage verlängert jedoch die Entscheidungszeit. Cafe24 hat den LLM-Router genau zu dem Zweck entwickelt, dieses Problem zu lösen, damit sich Benutzer nicht mehr mit der Auswahl des richtigen Modells befassen müssen, sondern sich auf die eigentliche Aufgabe konzentrieren können.
Laut der „Umfrage zur tatsächlichen Situation der Mehrwertkommunikationsdienste 2025“ des südkoreanischen Ministeriums für Wissenschaft und IKT nutzen 53,2 % der Nutzer generativer KI gleichzeitig zwei oder mehr Dienste – das Multihoming-Modell hat sich bereits durchgesetzt. International haben sich Dienste zur Verbindung und Vermittlung von KI-Modellen bereits früh einen Markt geschaffen. So bietet beispielsweise das 2023 gegründete OpenRouter über eine einzige API mehr als 400 generative KI-Modelle von über 70 KI-Unternehmen an. Berichten zufolge verarbeitet es monatlich über 100 Billionen Token und hat weltweit mehr als 10 Millionen Nutzer.
Cafe24 tritt mit dem LLM-Router als Einstieg in den südkoreanischen Markt für generative KI-Vermittlung ein. Ziel ist es, eine Umgebung zu schaffen, in der Modelle automatisch nach Aufgabenart, Kosten, Geschwindigkeit und Leistung zugewiesen werden. Durch die automatische Modellauswahl und die automatische Umschaltung bei Ausfällen sollen die Betriebseffizienz und Stabilität generativer KI-Dienste verbessert werden, damit sich die Benutzer auf die auszuführende Aufgabe konzentrieren können.
