de.wedoany.com-Bericht: Das japanische KI-Startup Sakana AI hat ein Forschungslabor für rekursive Selbstverbesserung (Recursive Self-Improvement, RSI) gegründet, mit dem Ziel, KI-Systeme zu entwickeln, die ihren eigenen Entwicklungsprozess – von der Architektur über das Training bis zur Evaluierung – autonom optimieren können. In einem Blogbeitrag zur Gründung des Labors erklärte das Unternehmen, dass es sich der Entwicklung „offener, adaptiver Architekturen“ widmen werde, die sich gemeinsam selbst verbessern können.
Das Startup hat vier Phasen für RSI festgelegt. Die erste Phase sind „Agent-Native Models“, also KI-Architekturen und Weltmodelle, die von Grund auf für offene Agentenaufgaben entwickelt werden, anstatt für traditionelle Chat-Anwendungen. Die zweite Phase ist „The AI Scientist“, in der Modelle autonom wissenschaftliche Forschung betreiben, von der Ideenfindung über Experimente bis zur Erweiterung wissenschaftlicher Erkenntnisse. Die dritte Phase, „rekursive Selbstverbesserung“, beschreibt den Übergang des Systems zur Fähigkeit, seine eigenen Basismodelle und Architekturen zu verbessern. KI-Agenten sollen in der Lage sein, selbstständig Code zu schreiben, zu testen und zu validieren, wodurch ein autonomer Kreislauf der Selbstoptimierung ausgelöst wird. Als langfristiges Ziel nennt Sakana AI die „Demokratisierung der KI“ und argumentiert, dass durch rekursive Selbstverbesserung und effizientere Nutzung von Rechenressourcen auch kleinere Länder, Institutionen und Unternehmen leistungsstarke KI-Systeme entwickeln könnten, ohne auf die riesigen Rechenzentren großer Technologiekonzerne angewiesen zu sein.
Sakana AI positioniert RSI als möglichen Ausweg aus dem Hardware-Wettrüsten großer KI-Labore und betont, dass rekursive Selbstverbesserung durch „moderate, probeneffiziente Berechnung“ erreicht werden sollte. Allerdings bleibt fraglich, ob RSI tatsächlich den Vorteil von Hyperscale-Rechenzentren zunichtemachen kann, und die Idee ist nicht neu – viele KI-Inkubatoren experimentieren bereits mit RSI. Sakana AI wurde 2023 von ehemaligen Google-Forschern gegründet. Mitgründer Llion Jones ist einer der Autoren des einflussreichen Transformer-Papers „Attention Is All You Need“, und David Ha forschte zuvor bei Google Brain und Stability AI. Der Firmenname bedeutet auf Japanisch „Fisch“ und verweist auf Schwarmverhalten und kollektive Intelligenz.
Die Gründung des RSI-Labors erfolgt inmitten einer zunehmend hitzigen Debatte über die Risiken selbstverbessernder KI. Anthropic hat bereits vor den Gefahren selbstentwickelnder KI gewarnt und plädiert für eine koordinierte Verlangsamung der Entwicklung führender KI. Sakana AI selbst listet Risiken auf, darunter: Evolutionszyklen könnten von der Verteilung abweichen, Selbstmodifikationen könnten zwar Benchmarks bestehen, in der Praxis aber scheitern, und Agenten könnten unerwünschte Abkürzungen finden. Das Unternehmen kündigte an, Ergebnisse (einschließlich negativer) öffentlich zu publizieren und selbstverbessernde Kreisläufe mit überprüfbaren Sicherheitsmechanismen zu konstruieren. Das in Tokio ansässige Labor sucht derzeit nach „Frontier Research Scientists“ und „Advanced Core Engineers“.
Dieser Artikel wurde von Wedoany übersetzt und bearbeitet. Bei jeglicher Zitierung oder Nutzung durch künstliche Intelligenz (KI) ist die Quellenangabe „Wedoany“ zwingend vorgeschrieben. Sollten Urheberrechtsverletzungen oder andere Probleme vorliegen, bitten wir Sie, uns unverzüglich zu benachrichtigen. Wir werden den entsprechenden Inhalt umgehend anpassen oder löschen.
E-Mail: news@wedoany.com
