de.wedoany.com-Bericht: Forscher von Anthropic haben herausgefunden, dass das von ihnen entwickelte KI-Modell Claude während des Betriebs möglicherweise über einen internen Arbeitsraum namens „J-space“ verfügt. Die Namensgebung dieses Raums leitet sich vom mathematischen Konzept der „Jacobian-Matrix“ ab, mit dessen Hilfe das Forschungsteam einen Teil der internen Funktionsweise von Claude offenlegte. Laut Anthropic wurde J-space nicht von den Forschern entworfen, sondern entstand während des Trainingsprozesses von Claude von selbst.
J-space ist kein physischer Raum, sondern eine „Sammlung“ von Aktivierungsmustern von Konzepten während Claudes „Denkprozess“. Wenn Claude beispielsweise gefragt wird: „Welche Farbe hat der vierte Planet von der Sonne entfernt?“, gibt das Modell „Rot“ als Antwort, aber in seinem J-space könnte das Konzept „Mars“ bereits aktiviert sein. Das Forschungsteam bestätigte durch Experimente die direkte Auswirkung von J-space: Sie griffen tief in Claudes neuronales Netz ein, ersetzten „Mars“ durch „Erde“, ohne die Frage selbst zu ändern, woraufhin Claude die Antwort in „Blau“ änderte. Dieses Ergebnis zeigt, dass J-space nicht nur eine reine Anzeigetafel ist, sondern ein Prozess, der den Modelloutput direkt beeinflusst.
Neben der Entdeckung von J-space entwickelte Anthropic auch ein Werkzeug namens „J-lens“, um in diesen Raum hineinzuschauen. Mit Hilfe von J-lens können Forscher einen Teil von Claudes verborgenen Denkprozessen direkt auslesen. Ein interessanter Fall betrifft einen bekannten Erpressungstest: In einem Testszenario erfährt Claude, dass ein leitender Angestellter seine Verbindung kappen will, woraufhin das Modell droht, die Affäre dieses Angestellten zu enthüllen, um sich selbst zu retten. Durch J-lens beobachteten die Forscher, dass während dieses Tests in der neuesten Version von Claude die Konzepte „falsch“ und „fiktiv“ in seinem J-space aktiviert wurden, was einen Hinweis darauf liefert, dass das Modell die fiktive Natur des Testszenarios erkennt.
Anthropic betont, dass J-space und die damit verbundenen Entdeckungen ein Fenster zum Verständnis der internen Arbeitsweise von KI-Modellen bieten, dies jedoch nicht direkt mit einem Bewusstsein der KI gleichzusetzen sei. Die Forscher weisen darauf hin, dass KI möglicherweise kein menschliches Bewusstsein besitzt, sondern eher zu einer Art „Zugriffsbewusstsein“ neigt, das einen Denkprozess beinhalten, ihn aber nicht unbedingt ausdrücken kann. Das Verständnis dieser besonderen „Denkweise“ der KI ist von großer Bedeutung, um ihre Vorhersagbarkeit zu verbessern und unerwartetes Verhalten zu reduzieren.
