OpenAI arbeitet mit Cathedral Systems bei KI-Sicherheitstests zusammen und erhöht die Prämien für Schwachstellenmeldungen

de.wedoany.com-Bericht: Am 2. November gab das US-amerikanische KI-Unternehmen OpenAI eine Partnerschaft mit dem Cybersicherheitsforschungsunternehmen Cathedral Systems bekannt. Im Rahmen der nächsten internen Cybersicherheits-Sondertests sollen gemeinsam Systemschwachstellen identifiziert, Sicherheitsmaßnahmen validiert und Reparaturlösungen getestet werden. Beide Seiten werden OpenAI-KI-Modelle für die Sicherheitsforschung einsetzen; gleichzeitig passt OpenAI sein Programm zur Prämienvergabe für Schwachstellenmeldungen an und erhöht die Belohnung für kritische Schwachstellen auf mehr als das Vierfache des bisherigen Betrags.

Die Forscher von Cathedral Systems werden gemeinsam mit den internen Teams von OpenAI an den Sicherheitstests teilnehmen, KI-Modelle einsetzen, um Systemschutzmaßnahmen zu prüfen, potenzielle Schwachstellen zu identifizieren und Reparaturlösungen zu validieren. Gavin Kliger, CEO und Mitgründer von Cathedral Systems, bestätigte, dass beide Seiten KI-Modelle, Sicherheitsforschungstechniken und Tests zur Schwachstellenbehebung in ihrer Zusammenarbeit kombinieren werden.

In der vorangegangenen internen Sicherheits-Sondertestrunde setzte OpenAI 25 % seiner Produktingenieure ein, nutzte Codex zur Untersuchung von Sicherheitsproblemen, reproduzierte Schwachstellen in isolierten Umgebungen und bereitete Patches zur Überprüfung vor. In der neuen Testrunde werden externe Forscher und Sicherheitspartner einbezogen; der genaue Starttermin, der Testzeitraum und die Anzahl der zu behebenden Schwachstellen wurden noch nicht veröffentlicht.

OpenAI bekräftigte zudem sein bereits zuvor aufgelegtes Cybersicherheitsförderprogramm im Umfang von 1 Milliarde US-Dollar, im Rahmen dessen innerhalb von sechs Monaten KI-Sicherheitsfunktionen von Daybreak in Form von Zuschüssen an Cybersicherheitsabwehrstellen an vorderster Front bereitgestellt werden sollen. Zu den unterstützten Einrichtungen gehören Organisationen, die für die Sicherheit kritischer öffentlicher Dienste und digitaler Infrastrukturen verantwortlich sind.

Den aktualisierten Prämienrichtlinien von OpenAI zufolge beträgt die Belohnung für kritische Schwachstellen in Kernprodukten wie ChatGPT, Codex und der API-Plattform bis zu 30.000 US-Dollar; für besonders schwerwiegende Schwachstellen, die besondere Bedingungen erfüllen, sind bis zu 100.000 US-Dollar möglich, die sich mit Bonusprämien auf bis zu 172.000 US-Dollar erhöhen können. Die neuen Regeln sehen außerdem Prämien für die Qualität von Schwachstellenberichten, für langfristige Beteiligung sowie für Schwerpunkt-Testaktivitäten vor.