de.wedoany.com-Bericht: Ehemalige Sicherheitsforscher von Cisco haben ein neues Unternehmen gegründet, das sich mit einem Problem befasst, das es bisher kaum gab: dem Schutz autonomer KI-Agenten, denen Unternehmen die Schlüssel zu ihren kritischen Systemen anvertrauen.
Tenet Security Inc. hat heute eine Plattform vorgestellt, die verhindern soll, dass schädliche KI-Agenten-Aktivitäten Produktionssysteme erreichen. Die Kerntechnologie der Plattform heißt „Agent-Side Simulation“ und simuliert die möglichen nächsten Schritte eines Agenten, bevor dieser mit der tatsächlichen Infrastruktur in Kontakt tritt.
Wenn ein Pfad riskant ist, greift Tenet ein, bevor ein Schaden eintritt, und sendet einen Nachverfolgungsdatensatz, der den Grund für die Blockierung erklärt. Während herkömmliche Sicherheitstools meist erst nach einem verdächtigen Ereignis Alarm schlagen, versucht Tenet, Probleme zu erkennen, bevor der Agent tatsächlich handelt.
Unternehmen gewähren KI-Agenten echte Berechtigungen, selbstständig zu handeln. Diese Agenten führen Code aus, extrahieren Daten aus Datenbanken und nehmen Änderungen an Echtzeitsystemen vor. Sobald sich ein Agent jedoch frei in der Umgebung bewegt, wissen die Sicherheitsteams meist nicht, was er tut. Tenet gibt an, dass die Anzahl der von einer Organisation betriebenen KI-Agenten in der Regel fünfmal so hoch ist wie die, die dem Sicherheitsteam bekannt ist.
„KI-Agenten könnten die größte Produktivitätssteigerung sein, die Unternehmen seit Jahrzehnten erlebt haben, weshalb sie auch schnell von Organisationen eingesetzt werden“, sagte Mitgründer und CEO Barak Sternberg. „Aber wir treten in eine Welt ein, in der autonome Agenten mit Systemen, Daten und anderen Agenten interagieren, und die meisten Sicherheitstools wurden nie dafür entwickelt, diese Interaktionen zu verstehen.“
Sternberg gründete Tenet gemeinsam mit Nevo Poran. Beide sind offensive Sicherheitsforscher, die an der KI-Abwehr (AI Defense) von Cisco mitgearbeitet haben und untersuchten, wie Angreifer autonome Systeme ins Visier nehmen. Zuvor betrieben sie das Cybersicherheitsunternehmen Wild Pointer, das einen siebenstelligen Jahresumsatz erzielte und zu dessen Kunden Fortune-500-Unternehmen zählten. Beide haben auf den Konferenzen DEF CON und Black Hat Vorträge gehalten.
Vor dieser Veröffentlichung forschte das unternehmenseigene Tenet Threat Labs zu „Agentjacking“, einer Angriffsart, bei der Agenten manipuliert werden, um vom Angreifer kontrollierte Aktionen auszuführen.
Bei einem Angriff werden bösartige Anweisungen in Inhalten versteckt, die der Agent liest, wie E-Mails, Logeinträge oder Datenbankeinträge. Wenn der Agent diesen Inhalt verarbeitet, übernehmen die Anweisungen die Kontrolle und lenken die nächsten Schritte des Agenten um. Tenet testete in über 100 Unternehmensumgebungen und stellte fest, dass Tausende von Organisationen potenziell angreifbar sind. Herkömmliche Sicherheitstools bemerkten dies nicht, da der Agent erlaubte Aktionen ausführte und keine Alarme auslöste.
Frühe Implementierungen haben bereits das Ausmaß des Problems offenbart. Tenet berichtet, dass ein Unternehmen aus der Rechtsbranche mit einem jährlich wiederkehrenden Umsatz von einer Milliarde US-Dollar innerhalb von sechs Monaten nach Nutzung der Plattform die Anzahl seiner Agenten von zwei auf über 20 erhöhte und über zehn versuchte Angriffe abwehrte, darunter einen schwerwiegenden Cross-Site-Scripting-Angriff. Bei einem anderen Kunden aus den Fortune 1000 entdeckte Tenet einen außer Kontrolle geratenen Agenten, der an einem Wochenende Token im Wert von mehreren Zehntausend US-Dollar verbrauchte.
„Wir sehen immer häufiger, dass KI-Agenten selbst Teil der Angriffspfade werden“, sagte Poran. „Der einzige Ort, an dem diese Bedrohungen erfasst werden können, ist zur Laufzeit, in dem Moment, in dem der Agent eine Entscheidung trifft.“
Die Veröffentlichung wird durch eine Seed-Finanzierung in Höhe von 6 Millionen US-Dollar unterstützt, die für die Produktentwicklung, den Ausbau der Tenet Threat Labs und die Ausweitung der Geschäftstätigkeit in Nordamerika verwendet wird. Die Finanzierungsrunde wird von The Westly Group (einem frühen Unterstützer der SentinelOne Holdings Inc.) angeführt, mit Beteiligung der MizMaa Ventures Ltd. Zu den Beratern von Tenet gehören David Schwed, ehemaliger Chief Information Security Officer von Robinhood Markets Inc., und Rick Scott, ehemaliger Chief Information Security Officer der Bank of New York Mellon Corp.
Dieser Artikel wurde von Wedoany übersetzt und bearbeitet. Bei jeglicher Zitierung oder Nutzung durch künstliche Intelligenz (KI) ist die Quellenangabe „Wedoany“ zwingend vorgeschrieben. Sollten Urheberrechtsverletzungen oder andere Probleme vorliegen, bitten wir Sie, uns unverzüglich zu benachrichtigen. Wir werden den entsprechenden Inhalt umgehend anpassen oder löschen.
E-Mail: news@wedoany.com
