de.wedoany.com-Bericht: Microsoft-Forscher haben eine Schwachstelle im GitHub-Automatisierungsprozess von Anthropics Claude Code entdeckt, die zur Offenlegung vertraulicher Informationen in CI/CD-Workflows führen kann. Angreifer könnten durch Prompt-Injection-Angriffe sensible Anmeldeinformationen stehlen.
Das Microsoft Threat Intelligence Team startete diese Untersuchung, nachdem es in öffentlichen Code-Repositories Versuche von Prompt-Injection-Angriffen auf KI-gestützte GitHub-Workflows festgestellt hatte. Prompt-Injection ist eine Art von KI-Sicherheitslücke, bei der Angreifer irreführende Anweisungen in den von großen Modellen verarbeiteten Inhalt einbetten, um das Modellverhalten zu manipulieren und vorgegebene Anweisungen zu ignorieren. Die Forscher führten als Beispiel an, dass Angreifer injizierte Anweisungen in HTML-Kommentaren versteckten, die in der GitHub-Anzeigeoberfläche nicht sichtbar sind, aber von KI-Modellen erkannt werden, die den rohen Markdown-Quellcode lesen. Dieses Repository nutzte damals GitHub-Automatisierungsprozesse, um Issues automatisch zu bearbeiten.
Angreifer können bösartige Anweisungen als normale Funktionsanforderungen tarnen. Ohne Änderungsberechtigungen am Projekt zu benötigen, reicht das Einreichen eines GitHub-Issues aus, um einen KI-Roboter dazu zu verleiten, Änderungen in ihrem Namen durchzuführen. Microsoft bestätigte, dass ähnliche Prompt-Injection-Methoden auch gegen Anthropics Claude Code GitHub-Automatisierungsprozesse eingesetzt werden können. Zuvor hatte Anthropic für einige Tools Sandbox-Schutzmaßnahmen eingerichtet, aber Microsoft stellte fest, dass das von Claude zum Lesen von Dateien verwendete Lese-Tool nicht denselben Sicherheitseinschränkungen unterlag. Die Forscher erstellten eine Prompt-Injection-Angriffslast für Validierungstests, bei denen die bösartigen Prompts erfolgreich zwei Schutzebenen umgingen und den KI-Assistenten dazu verleiteten, Systemdateien zu lesen, die API-Schlüssel und andere Anmeldeinformationen enthielten.
Dieser Artikel wurde von Wedoany übersetzt und bearbeitet. Bei jeglicher Zitierung oder Nutzung durch künstliche Intelligenz (KI) ist die Quellenangabe „Wedoany“ zwingend vorgeschrieben. Sollten Urheberrechtsverletzungen oder andere Probleme vorliegen, bitten wir Sie, uns unverzüglich zu benachrichtigen. Wir werden den entsprechenden Inhalt umgehend anpassen oder löschen.
E-Mail: news@wedoany.com
