de.wedoany.com-Bericht: Das Weiße Haus und das KI-Unternehmen Anthropic entwickeln gemeinsam eine Methodik zur Bewertung der Schwere von Schwachstellen in neuen KI-Modellen und zur Bestimmung des Zeitpunkts staatlicher Eingriffe. Laut einem Bericht von Politico unter Berufung auf zwei Regierungsbeamte entwickelt sich der Streit um die Sperrung der leistungsstärksten Modelle des Unternehmens von einem privaten Konflikt zu einem Versuch, allgemeine Regeln zu schaffen.
Der Auslöser war eine Exportkontrollmaßnahme. Diese zwang Anthropic, Fable 5 und Mythos 5 aufgrund eines sogenannten „Jailbreaks" (einer Methode zur Umgehung des Modellschutzes) für alle Nutzer zu sperren. Die Regierung und Anthropic-CEO Dario Amodei waren sich über die Schwere dieser Schwachstelle uneinig, und es stellte sich heraus, dass dem Staat die Instrumente zur Beilegung solcher Streitigkeiten fehlten. Die technologische Entwicklung hat die regulatorische Infrastruktur überholt.
Der neue Rahmen soll diese Lücke schließen. Beide Seiten arbeiten an einem einheitlichen Satz von Benchmark-Tests zur Bewertung zukünftiger Jailbreaks: der Tiefe der Schutzumgehung, der offengelegten Modellfähigkeiten und der tatsächlichen Folgen des Eindringens. Die Verhandlungen auf Seiten von Anthropic werden von der Leiterin der Regierungsbeziehungen, Sarah Heck, und dem Mitbegründer des Unternehmens, Tom Brown, geführt.
Die Methode integriert die ursprüngliche These von Anthropic in die Regeln: Es gibt kein Modell, das vollständig immun gegen Eindringlinge ist. Gleichzeitig erhält die Regierung das, was ihr bisher fehlte: eine standardisierte Skala und eine formale Grundlage für Eingriffe. Eine ähnliche Botschaft wurde diese Woche auf dem G7-Treffen in Frankreich vermittelt: Führende KI-Unternehmenschefs und Staats- und Regierungschefs waren sich einig, dass die Entwicklung von Risikobewertungsregeln vom Staat übernommen werden sollte.
Die Exportbeschränkungen sind derzeit noch nicht aufgehoben, aber Fortschritte sind sichtbar. Die Verhandlungen waren am vergangenen Freitag faktisch gescheitert: Anthropic weigerte sich, Fable 5 von der öffentlichen Plattform zu nehmen, und bestand darauf, dass die Schwachstelle begrenzt und keine vollständige Lücke sei. Als Reaktion verhängte das Weiße Haus Exportkontrollen. Am Wochenende folgten eine Reihe langer Telefonate – mit Tom Brown, Handelsminister Howard Lutnick und Cybersicherheitsdirektor Sean Cairncross – und anschließend fast eine Woche persönlicher Gespräche in Washington. Derzeit gibt es noch keinen Zeitplan für die Wiederaufnahme des Modells auf der Plattform.
Dieser Artikel wurde von Wedoany übersetzt und bearbeitet. Bei jeglicher Zitierung oder Nutzung durch künstliche Intelligenz (KI) ist die Quellenangabe „Wedoany“ zwingend vorgeschrieben. Sollten Urheberrechtsverletzungen oder andere Probleme vorliegen, bitten wir Sie, uns unverzüglich zu benachrichtigen. Wir werden den entsprechenden Inhalt umgehend anpassen oder löschen.
E-Mail: news@wedoany.com
