de.wedoany.com-Bericht: Das US-amerikanische KI-Unternehmen OpenAI hat eine neue Sicherheitsfunktion namens „Sperrmodus“ eingeführt, die den Schutz von Benutzern und Organisationen verbessern soll, die große Sprachmodelle für die Verarbeitung sensibler Informationen nutzen.
Dieser Modus wurde entwickelt, um Angriffe durch Prompt-Injection zu erkennen und abzuwehren, bei denen versucht wird, sensible Daten an unberechtigte Personen weiterzugeben. OpenAI erklärte, dass der Sperrmodus nicht für alle Benutzer gedacht sei, sondern für Personen und Organisationen, die mit sensiblen Daten umgehen und einen strengeren Schutz vor Datenlecks im Zusammenhang mit Prompt-Injection wünschen.
Prompt-Injection-Angriffe sind eine neue Methode von Hackern, bei der Angreifer Anweisungen wie Codedokumente in Webseiten verstecken und in große Sprachmodelle hochladen. Bei der Verarbeitung dieser Inhalte können die Angreifer das KI-System manipulieren, um an sensible Informationen zu gelangen. OpenAI hat diesen Modus vor dem Hintergrund des zunehmenden Trends dieser Angriffe eingeführt.
Nach Aktivierung des Sperrmodus schränkt ChatGPT mehrere Funktionen großer Sprachmodelle ein, darunter das Abrufen von Internetbildern oder das Generieren von Bildern. Auch das Herunterladen von Dateien zur Analyse durch Benutzer wird eingeschränkt. Benutzer können jedoch weiterhin Dateien, Bilder und Dokumente zur Analyse hochladen. OpenAI stellte klar, dass der Modus die Gesprächsspeicherung und die Einstellungen zum Teilen von Gesprächen nicht beeinträchtigt. In Unternehmensumgebungen haben Administratoren die volle Konfigurations- und Änderungsberechtigung.
Darüber hinaus hat ChatGPT ein neues Tool namens „Aktiver Sitzungsmanager“ hinzugefügt, mit dem Benutzer angemeldete Geräte und sogar Browser einsehen und sich aus der Ferne von nicht benötigten Geräten abmelden können.
Dieser Artikel wurde von Wedoany übersetzt und bearbeitet. Bei jeglicher Zitierung oder Nutzung durch künstliche Intelligenz (KI) ist die Quellenangabe „Wedoany“ zwingend vorgeschrieben. Sollten Urheberrechtsverletzungen oder andere Probleme vorliegen, bitten wir Sie, uns unverzüglich zu benachrichtigen. Wir werden den entsprechenden Inhalt umgehend anpassen oder löschen.
E-Mail: news@wedoany.com
