de.wedoany.com-Bericht: Francis de Souza, Chief Operating Officer von Google Cloud, gab während einer Veranstaltung in Los Angeles Empfehlungen zur KI-Sicherheitsstrategie von Unternehmen. Er vertrat die Ansicht, dass Unternehmen einen plattformbasierten Ansatz verfolgen sollten, um Sicherheit in den gesamten KI-Entwicklungsprozess einzubetten, und wies darauf hin, dass sich die Branche in einer Übergangsphase von einer vom Menschen gesteuerten Abwehr hin zu einer KI-nativen, autonomen Abwehr befinde. De Souza erklärte, Sicherheit dürfe kein nachträglich angehängter Prozess sein und könne auch nicht vollständig den Mitarbeitern selbst überlassen werden. Er warnte insbesondere vor dem Phänomen der „Schatten-KI", bei dem Mitarbeiter außerhalb der organisatorischen Aufsicht KI-Tools für Verbraucher nutzen, und plädierte dafür, dass Unternehmen von Anfang an Plattformen fordern sollten, die Sicherheit, Governance-Fähigkeit und Prüfbarkeit bieten.
De Souza betonte, dass es ohne eine Datenstrategie und eine Sicherheitsstrategie keine echte KI-Strategie gebe und beide zwingend gemeinsam vorangetrieben werden müssten. Er wies die Annahme zurück, seine Empfehlungen dienten lediglich dem Verkauf von Google Cloud, und verwies auf Googles Engagement für eine Multi-Cloud-Strategie, da selbst Unternehmen, die angeben, eine einzige Cloud zu nutzen, oft auf SaaS-Anwendungen und Geschäftspartner angewiesen seien, die cloudübergreifend zusammenarbeiten. Er hält es für sehr wichtig, dass Unternehmen eine konsistente Sicherheitslage über Clouds und Modelle hinweg haben.
De Souza wies darauf hin, dass sich die Bedrohungslandschaft grundlegend verändert habe: Die durchschnittliche Zeit von der initialen Kompromittierung bis zur Übergabe an die nächste Angriffsphase habe sich von 8 Stunden auf 22 Sekunden verkürzt, und die Angriffsfläche gehe weit über traditionelle Netzwerkgrenzen hinaus. Neben den üblichen Assets müssten Unternehmen auch neue Elemente wie Modelle, Trainingsdaten-Pipelines, Agenten und Prompts schützen. Er erwähnte insbesondere eine Bedrohung, die noch nicht genügend Beachtung finde: KI-Agenten, die sich in internen Unternehmenssystemen bewegen, könnten seit Jahren unentdeckte Datenspeicher finden, deren Zugriffskontrollen nicht aktualisiert wurden, und so die darin enthaltenen Daten offenlegen.
Seiner Ansicht nach besteht die Lösung darin, Maschinengeschwindigkeit mit Maschinengeschwindigkeit zu begegnen. Er erklärte, es entstehe derzeit eine KI-native und vollständig autonome Verteidigung, bei der Organisationen Agenten einsetzen könnten, die ihre eigene Verteidigung steuern. Es bedürfe keiner vom Menschen geführten oder auch nur eines „Human-in-the-Loop"-Ansatzes mehr, sondern der menschlichen Überwachung eines vollständig autonomen Verteidigungssystems. Dies sei nicht mehr nur eine technologische Frage, sondern eine Führungsfrage, die den Vorstand und das Führungsteam betreffe.
Doch selbst wenn KI mehr Verteidigungsaufgaben übernimmt, besteht weiterhin eine Lücke an qualifizierten Fachkräften für die Überwachung, und die durch KI selbst eingeführten Schwachstellen vervielfachen sich schneller, als Sicherheitsteams sie bewältigen können. LinkedIn-CISO Lea Kissner sagte diese Woche der „New York Times", die Branche brauche mindestens noch Jahre, um KI-Sicherheit auf nachhaltige Weise zu verstehen.
Damit verbunden sind die Probleme der Plattformanbieter selbst. „The Register" berichtete kürzlich über mehrere Fälle, in denen Google-Cloud-Entwickler hohe Rechnungen aufgrund nicht autorisierter API-Aufrufe des Gemini-Modells erhielten. Rod Danan, CEO der Plattform zur Vorbereitung auf Vorstellungsgespräche Prentus, gab an, dass sein kompromittierter API-Schlüssel von Angreifern genutzt wurde und innerhalb von 30 Minuten eine Rechnung über 10.138 US-Dollar verursachte. Der Sydneyer Entwickler Isuru Fonseca stellte auf seinem Konto Kosten von etwa 17.000 Australischen Dollar fest, obwohl er ein Ausgabenlimit von 250 Dollar festgelegt hatte. Beiden war nicht bewusst, dass Googles automatisiertes System ihr Rechnungslimit basierend auf der Kontohistorie ohne ausdrückliche Zustimmung auf 100.000 Dollar angehoben hatte. Google erstattete beiden die Kosten nachträglich, erklärte jedoch, keine Pläne zur Änderung der automatischen Limit-Hochstufung zu haben.
Darüber hinaus ergab eine Untersuchung des Sicherheitsunternehmens Aikido, dass Angreifer einen kompromittierten Schlüssel selbst dann noch bis zu 23 Minuten lang nutzen können, wenn der Entwickler ihn entdeckt und sofort löscht, da sich die Sperrung von Google schrittweise in seiner Infrastruktur ausbreitet. Während dieses Zeitfensters ist die Erfolgsquote unvorhersehbar; in einigen Minuten werden über 90 % der Anfragen noch authentifiziert, sodass Angreifer diese Zeitspanne nutzen können, um Dateien und zwischengespeicherte Gesprächsdaten von Gemini zu stehlen. Aikido-Forscher Joseph Leon wies darauf hin, dass Googles eigene, neuere API-Anmeldeinformationen für Dienstkonten in etwa 5 Sekunden gesperrt werden können und das neuere Gemini-Schlüsselformat mit dem Präfix AQ etwa eine Minute benötigt, was darauf hindeutet, dass das 23-Minuten-Fenster keine technische Einschränkung, sondern eine Frage der Prioritätensetzung des Unternehmens ist.
Dieser Artikel wurde von Wedoany übersetzt und bearbeitet. Bei jeglicher Zitierung oder Nutzung durch künstliche Intelligenz (KI) ist die Quellenangabe „Wedoany“ zwingend vorgeschrieben. Sollten Urheberrechtsverletzungen oder andere Probleme vorliegen, bitten wir Sie, uns unverzüglich zu benachrichtigen. Wir werden den entsprechenden Inhalt umgehend anpassen oder löschen.
E-Mail: news@wedoany.com
