de.wedoany.com-Bericht: Das Sicherheits-Agenten-Framework NanoClaw hat eine Partnerschaft mit der Software-Lieferketten-Management-Plattform JFrog geschlossen, die es KI-Agenten ermöglicht, Ressourcen aus den geprüften Registern von JFrog zu beziehen.
Gavriel Cohen, Mitbegründer von NanoCo AI, gab diese Zusammenarbeit auf einer JFrog-Veranstaltung in San Francisco bekannt. Cohen erläuterte, dass eine der Hauptfunktionen der Claw-Agenten-Reihe darin besteht, sich durch den Bezug fehlender Tools und Ressourcen selbst zu verbessern.
Cohen erklärte, dass diese Methode gut funktioniert, wenn der Zugriff auf bekannte lokale Daten einen manuellen Genehmigungsprozess erfordert. Für npm-Pakete sei sie jedoch nicht ideal, da selbst bei sandboxierten und isolierten Agenten wie NanoClaw bösartiger Code im Container schädliche Aktionen ausführen könne.
Entwickler sind möglicherweise mit einem Paket nicht vertraut und benötigen Zeit, um dessen Legitimität und mögliche Manipulation umfassend zu bewerten. Aus diesem Grund wurde NanoClaw in die JFrog-Register integriert. Wenn Agenten neue Tools und Bibliotheken herunterladen, stammen die Ressourcen aus geprüften Quellen, wodurch der Kontakt der Agenten mit nicht vertrauenswürdigen Inhalten reduziert wird.
Cohen kündigte gleichzeitig die Verfügbarkeit des „Agenten-Fabrik“-Systems an. Dieses System wurde intern vom Unternehmen entwickelt und nutzt NanoClaw-Agenten zur Bearbeitung von Pull-Requests. Mit dem Aufkommen von KI-Codierungsagenten ist die Anzahl der Pull-Requests sprunghaft angestiegen, und die Agenten-Fabrik soll diese sortieren. Cohen wies darauf hin, dass es für Maintainer schwierig sei, qualitativ hochwertige Beiträge von solchen zu unterscheiden, die mit automatisierten Methoden zur Reputationsbildung erstellt werden.
Die Agenten-Fabrik wird mit NanoClaw erstellt und auf exe.dev gehostet, das persistente Speicher-VMs bereitstellt. Wenn ein Pull-Request geöffnet wird, startet die Fabrik einen dedizierten Arbeitsagenten, der einen Thread auf Slack veröffentlicht. Die Mitarbeiter klassifizieren die Änderungen, überprüfen die Diffs und schlagen Testpläne vor. Alle Aktionen werden erst nach einer manuellen Klick-Genehmigung ausgelöst.
Cohen ist der Ansicht, dass die Bearbeitung von Pull-Requests, die Prompt-Injection oder unsicheren Code enthalten, mit Risiken verbunden ist. Jeder, der KI-Agenten in einer Entwicklungsumgebung verwendet und konfiguriert, könnte in Konfigurationsdateien wie Claude.md Anweisungen sehen, die die Ausführung gefährlicher Operationen verbieten. Er betonte, dass Anweisungen zwar helfen, wertvolle Ergebnisse von Agenten zu erzielen, aber kein Sicherheitsmechanismus seien. Die einzige Möglichkeit, unerwünschtes Verhalten von Agenten zu verhindern, bestehe darin, ihnen die entsprechende Handlung zu verbieten, nicht nur Anweisungen zu geben.
Dieser Artikel wurde von Wedoany übersetzt und bearbeitet. Bei jeglicher Zitierung oder Nutzung durch künstliche Intelligenz (KI) ist die Quellenangabe „Wedoany“ zwingend vorgeschrieben. Sollten Urheberrechtsverletzungen oder andere Probleme vorliegen, bitten wir Sie, uns unverzüglich zu benachrichtigen. Wir werden den entsprechenden Inhalt umgehend anpassen oder löschen.
E-Mail: news@wedoany.com
