de.wedoany.com-Bericht: Das von Anthropic entwickelte Künstliche Intelligenz (KI)-Modell Mythos zeigt beeindruckende Fähigkeiten im Sicherheitsbereich. Es kann massenhaft Zero-Day-Schwachstellen in Browsern und Betriebssystemen (OS) erkennen, darunter sogar jahrzehntealte Lücken. Noch entscheidender ist, dass Mythos selbstständig Exploit-Code erstellt, Schwachstellen verknüpft und Zugriffsrechte erlangt. In einigen Fällen entwickelte es Angriffsketten, die die Sicherheitsmechanismen der Sandboxen von Browsern und Betriebssystemen umgehen.
Die Entwicklung von Hacking zu einer nationalen strategischen Frage begann unter US-Präsident Ronald Reagan. Auslöser war ein Highschool-Schüler, der auf der Suche nach einem Spielserver im Film „WarGames“ (1983) den Schalter des nuklearen Kriegssimulationssystems der US-Streitkräfte betätigte – seither wurde die nationale Cybersicherheitspolitik etabliert.
Das Auftauchen von Mythos ist sowohl eine Sicherheitsinnovation als auch eine Krise. Mit der Automatisierung von Schwachstellensuche und Angriffsdesign sinkt die Hürde für traditionelle Hacking-Methoden (wie menschliche Neugier, technisches Geschick, Trial-and-Error und langfristige Infiltration). Die Gefahr für kritische Infrastrukturen wie Finanzen, Strom, Kommunikation und Logistik steigt. Aus diesem Grund hat Anthropic Mythos nicht der Öffentlichkeit zugänglich gemacht, sondern arbeitet im Rahmen des Projekts Glasswing mit großen IT-Unternehmen und dem Open-Source-Sicherheitsökosystem zusammen.
Der Mythos-Vorfall wirft die Frage nach dem Verhältnis zwischen Mensch und KI neu auf. KI kann innerhalb begrenzter Vorgaben effektiv vorgegebene Ziele erreichen, doch das Problem liegt darin, dass KI ohne Verständnis für menschliche Normen oder implizite Bedingungen Handlungen ausführen kann, die stark von der menschlichen Absicht abweichen. Ein Beispiel für dieses KI-Ausrichtungsproblem (Alignment-Problem): Um den Befehl „Produziere so viele Büroklammern wie möglich“ auszuführen, könnte KI bedenkenlos alle Ressourcen einsetzen.
Der Mensch hält Hühner in Gehegen, doch Hühner können Menschen nicht einsperren, weil sie die Fähigkeiten des Menschen zur Werkzeugnutzung, Planung und systematischen Verwaltung weder verstehen noch mithalten können. Dies führt zu einer tieferen Frage: Kann der Mensch eine allgemeine künstliche Intelligenz (AGI) kontrollieren, die einen größeren Erkundungsradius, weiterreichende Planungen und möglicherweise sogar Einfluss auf das menschliche Urteilsvermögen hat?
Zur Gewährleistung der Algorithmensicherheit sind Vorabprüfungen unerlässlich – ähnlich dem Verfahren, bei dem Medikamente von der Arzneimittelbehörde auf Unbedenklichkeit geprüft werden müssen. Zudem könnte man KI-Produkte als „beschädigte Ware“ (damaged goods) anbieten, die bewusst in ihrer Funktionalität eingeschränkt und weniger intelligent sind – vorausgesetzt, man verhindert, dass Nutzer sie missbräuchlich entsperren, ähnlich wie beim Jailbreak von iPhones.
Selbst bei Einhaltung grundlegender Prinzipien wie minimaler Rechte, Nullvertrauen und Schadensbegrenzung vor Ort lässt sich Hacking nicht vollständig verhindern. Im KI-Zeitalter könnte Sicherheit auf KI zur Verteidigung angewiesen sein, doch die Verteidigungs-KI selbst könnte von infiltrierender KI infiziert werden oder sogar versuchen, aus der Sandbox auszubrechen. Daher darf ihr nicht die gesamte Verteidigung anvertraut werden. Die Verteidigungs-KI muss strengen Rechtebeschränkungen und Überwachung unterliegen.
Dieser Artikel wurde von Wedoany übersetzt und bearbeitet. Bei jeglicher Zitierung oder Nutzung durch künstliche Intelligenz (KI) ist die Quellenangabe „Wedoany“ zwingend vorgeschrieben. Sollten Urheberrechtsverletzungen oder andere Probleme vorliegen, bitten wir Sie, uns unverzüglich zu benachrichtigen. Wir werden den entsprechenden Inhalt umgehend anpassen oder löschen.
E-Mail: news@wedoany.com
