de.wedoany.com-Bericht: OpenAI hat die Einführung eines frühen KI-Erkennungstools angekündigt, das Benutzern helfen kann, zu überprüfen, ob Bilder von ChatGPT, der OpenAI-API oder Codex erstellt wurden, um das Engagement für Transparenz und die Kennzeichnung von Falschinhalten zu stärken.
Mit der steigenden Qualität von KI-generierten Inhalten wächst der Druck der Aufsichtsbehörden auf KI-Unternehmen hinsichtlich der Transparenz bei der Technologienutzung. Die häufige Verbreitung von Deepfake-Inhalten schlägt Alarm, insbesondere angesichts bevorstehender Wahlen, bei denen künstlich erstellte irreführende Werbung zunimmt. Das Tool verhält sich bei der Überprüfung vorsichtig: Wenn keine Metadaten erkannt werden, zieht der Chatbot keine eindeutigen Schlüsse, da Herkunftssignale (provenance signals) in bestimmten Fällen entfernt werden können. Derzeit kann das Tool nur von ChatGPT erstellte Bilder erkennen, ist für andere KI-Tools unwirksam und kann nicht feststellen, ob ein Bild korrekt ist oder im richtigen Kontext präsentiert wird. In den kommenden Monaten wird OpenAI voraussichtlich die branchenübergreifende Zusammenarbeit unterstützen, um plattformübergreifende Verifizierungsfähigkeiten zu ermöglichen.
In derselben Ankündigung erklärte OpenAI, dass es Herkunftssignale für andere Tools leichter erkennbar macht, indem es über SynthID plattformübergreifende, dauerhafte digitale Wasserzeichen zu Bildern hinzufügt. SynthID ist ein für das menschliche Auge unsichtbares digitales Wasserzeichen, das zuvor in Googles Gemini verfügbar war, aber nur von Google-eigenen Tools erstellte Bilder und Videos erkennen konnte. Im Mai dieses Jahres, auf der I/O-Entwicklerkonferenz 2026, kündigte Google an, dass mehr Unternehmen SynthID übernehmen würden, darunter OpenAI, Kakao und Eleven Labs. Das Unternehmen von OpenAI-CEO Sam Altman erklärte, dass diese Zusammenarbeit darauf abzielt, die Bildverifizierung durch mehrschichtige Herkunftssignale zu verstärken. In der Ankündigung wies das Unternehmen darauf hin, dass die Coalition for Content Provenance and Authenticity (C2PA) dabei hilft, dass Inhalte detaillierte Kontextinformationen tragen, während SynthID dazu beiträgt, Signale zu erhalten, wenn Metadaten verloren gehen. Digitale Wasserzeichen sind widerstandsfähiger gegenüber Transformationen wie Screenshots, während Metadaten umfangreichere Informationen bieten können als Wasserzeichen allein. In Kombination machen sie Herkunftssignale widerstandsfähiger als jede einzelne Schicht.
Nutzer können bereits direkt über die Google-Suche und die Circle to Search-Funktion erkennen, ob ein Bild von KI erstellt wurde. In den kommenden Wochen wird auch der Google Chrome-Browser diese Funktion erhalten. Microsoft erwägt ebenfalls, dem Beispiel von Google zu folgen und die Verifizierungsverantwortung an die Bildmetadaten zu übertragen. Auch X‘s KI Grok verfügt über ein Verifizierungssystem, das Informationen von anderen Websites sammeln kann, um die Authentizität nachzuweisen.
OpenAI hat seit 2024 sein Engagement für Transparenz verstärkt, als es begann, von DALL-E 3, ImageGen und Sora erstellten Bildern Inhaltsnachweise hinzuzufügen. Nach dem Beitritt zum Lenkungsausschuss der Coalition for Content Provenance and Authenticity (C2PA) begann der Technologieriese, der Plattform zuverlässigere Methoden zum Lesen, Speichern und Übertragen von Informationen bereitzustellen. Seit 2025 veröffentlicht OpenAI regelmäßig die Ergebnisse interner Sicherheitsbewertungen seiner KI-Modelle, um die Transparenz hinsichtlich der Leistung und Risiken seiner Technologie zu erhöhen.
Dieser Artikel wurde von Wedoany übersetzt und bearbeitet. Bei jeglicher Zitierung oder Nutzung durch künstliche Intelligenz (KI) ist die Quellenangabe „Wedoany“ zwingend vorgeschrieben. Sollten Urheberrechtsverletzungen oder andere Probleme vorliegen, bitten wir Sie, uns unverzüglich zu benachrichtigen. Wir werden den entsprechenden Inhalt umgehend anpassen oder löschen.
E-Mail: news@wedoany.com
