de.wedoany.com-Bericht: Ein Forschungsteam der Chinesischen Akademie der Wissenschaften (Chinese Academy of Sciences) hat das Konzept des „KI-Wissenschaftlers für Cybersicherheit“ (Cybersecurity AI Scientist) vorgeschlagen und ein modulares Multi-Agenten-System namens Hephaistos (Hephaestus) entwickelt, das die vollständige Automatisierung der Cybersicherheitsforschung ermöglichen soll. In einem kürzlich veröffentlichten Artikel beschreibt das Team dieses Forschungssystem, das eigenständig von der Problemstellung über die Versuchsplanung, Werkzeugentwicklung, kontrollierte Durchführung und Bewertung bis hin zur Erstellung schriftlicher Ergebnisse arbeiten kann.
Autonome KI-Agenten beginnen bereits, echte Sicherheitsaufgaben auszuführen, wie das Aufspüren von Software-Schwachstellen, die Durchführung von Penetrationstests und die Verkettung von Angriffsschritten. Die Cybersicherheitsforschung schreitet jedoch langsam voran und ist stark von menschlicher Arbeit abhängig, eingeschränkt durch den Mangel an Experten und manuell entworfene Experimente. Das Team möchte diese Lücke schließen.
Hephaistos ist ein modulares Multi-Agenten-System, das spezialisierte, rollenangepasste Agenten für die Problemrahmenkonstruktion, Bedrohungsmodellierung, Werkzeuggenerierung und Berichterstellung umfasst. Sein Name leitet sich vom Schmiedegott der homerischen Epen ab, der Speere und Schilde schmiedete, und symbolisiert, dass das System gleichzeitig Angriffs- und Verteidigungsarbeiten hervorbringen soll.
Die Autoren sind der Ansicht, dass bestehende automatisierte Forschungssysteme wie der KI-Wissenschaftler (AI Scientist) und seine Nachfolgeversionen für maschinelles Lernen sowie der „Ko-Wissenschaftler“ (Co-Scientist) und „Robin“ für die Biologie und Biomedizin nicht direkt auf den Bereich der Cybersicherheit übertragbar sind. Dies liegt daran, dass sich die Forschungsobjekte der Cybersicherheit durch die Untersuchung selbst adaptiv verändern, die Aktualisierungsgeschwindigkeit von Modellplattformen, Schutzmaßnahmen und Werkzeugzugriffen schneller ist als ein einzelner Forschungszyklus, und das Vertrauen auf Methoden wie digitale Zwillinge, Cyber-Ranges und Beweisketten selbst beruht.
Das Team schlug das „Vier-Nullen-Rahmenwerk“ (four-zeros frame) vor, das vier Arten von Fehlern definiert, auf die sich das System konzentrieren sollte: Risiko (risk), Vertrauen (trust), Vorfall (incident) und Energie (energy). Risiko bezieht sich auf versteckte Mängel in der Software; Vertrauen bedeutet, dass unterstützende Handlungen kalibriert bleiben müssen, um die Führungsrolle des menschlichen Bedieners zu gewährleisten; Vorfall bezieht sich auf Bedienungsfehler und Anforderungen an die Testumgebung; Energie bezieht sich auf langfristig akkumulierte organisatorische und ethische Konsequenzen. Das System muss jede Art von Fehlern untersuchen und reduzieren.
In Bezug auf die Risikoachse erwähnt der Artikel die Fähigkeitssprünge von Spitzenmodellen. Beispielsweise wurde die von Anthropic veröffentlichte Vorschauversion Claude Mythos (Teil des Project Glasswing) aufgrund ihrer zu hohen Fähigkeiten für Cyberangriffe im öffentlichen Zugang eingeschränkt und ist nur über ein streng geprüftes Partnerprogramm nutzbar; es wird berichtet, dass das Modell bereits zur massenhaften Entdeckung von Schwachstellen in weit verbreiteter Software eingesetzt wurde, darunter einige seit langem bestehende Mängel. Der im Artikel zitierte Benchmark CyberGym testet Agenten an über tausend realen Schwachstellen (aus einer Vielzahl von Open-Source-Projekten); die einmalige Erfolgsrate von Spitzenmodellen liegt zwischen mehreren zehn Prozent, und sie können eigenständig völlig neue Zero-Day-Schwachstellen entdecken.
Der Artikel schlägt auch das Konzept der „resilienten Agentenlegionen“ (resilient agent legions) vor, das traditionelle Verteidigungsmodelle umstürzt. Es wird eine Vielzahl redundanter Verteidigungsagenten vorgestellt, die an den Netzwerkrändern verteilt sind, um Schichten zu überwachen, Kanäle zu koordinieren und Wiederherstellungsaufgaben durchzuführen. Jeder Agent trägt eine „Ereignis- und Verteidigungskapsel“, ein kompaktes Bündel, das eine Klasse von Sicherheitsereignissen mit ihren entsprechenden Reaktionsroutinen verknüpft. Das traditionelle Konzept der Endpunktsicherheit wandelt sich so zur Agentensicherheit, und die Arbeit wird zur Verwaltung von Agentengruppen, wobei der Schutz durch kollektives Verhalten erreicht wird.
Der Mitautor Lidong Zhai erläuterte die Bewertungsmethode für das System. Er betrachtet langfristige Benchmarks als eine Art Längsschnittprotokoll, bei dem Ziele fixiert und der Modellstapel, die Werkzeuge, Schutzmaßnahmen und die Bedrohungsumgebung im Laufe der Zeit gestört werden. Die Ausgabe ist eine Profilmatrix, die Forschungsergebnisse, Beweisqualität, Kalibrierungsaufwand, Robustheit gegenüber Modell- und Werkzeugwechseln, Governance-Compliance und Folgenbewältigung berichtet. Er betont, dass Benchmarks nach den Folgen gewichtet werden sollten; Ereignisse mit hoher Verbreitung und hohem Schaden sollten höher gewichtet werden, da die Priorisierung selbst Teil der wissenschaftlichen Fähigkeit ist.
Lidong Zhai erklärte, dass die Eindämmungsmechanismen auf vier Ebenen kontrolliert werden: Fähigkeit, Rolle, Umgebung und Artefakt. Offensive Erkundung, defensive Analyse, Bewertung und Veröffentlichungsentscheidungen folgen unabhängigen Autorisierungspfaden, und sensible Arbeiten werden in isolierten digitalen Zwillingen und Cyber-Ranges durchgeführt. Der Artikel hat noch kein vollständiges System aufgebaut und steht vor offenen Herausforderungen wie heterogenen Verteidigungszielen und der Schwierigkeit, auf Codeebene zwischen offensiven und defensiven Zwecken zu unterscheiden. Lidong Zhai ist der Ansicht, dass das endgültige Bewertungskriterium für den KI-Wissenschaftler für Cybersicherheit nicht nur in der Beschleunigung der Forschung liegt, sondern vielmehr in der Steigerung der strategischen Gelassenheit, einer präziseren Priorisierung und einem nachhaltigeren Verteidigungsdesign.
