de.wedoany.com-Bericht: Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat gemeinsam mit dem Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung (Fraunhofer IOSB) eine Methode namens RealOrRender zur Erkennung von Deepfakes entwickelt, die darauf abzielt, KI-generierte Fälschungen zu identifizieren und den Erkennungsprozess nachvollziehbar zu machen. Die Realitätsnähe von KI-generierten Bildern und Videos nimmt stetig zu; große Sprachmodelle können bereits anatomisch korrekte Gliedmaßen, realistische Schattenwürfe und sogar simulierte Herzschläge darstellen, was die Unterscheidung zwischen echten Aufnahmen und Deepfakes erschwert. Geplante Verschärfungen der EU-Gesetze könnten diese Situation kaum grundlegend ändern, weshalb technische Lösungen im Fokus der Forschung stehen.
Das BSI weist darauf hin, dass automatisierte Erkennungsmethoden in der Regel nur unter bestimmten Bedingungen zuverlässig funktionieren. Aus diesem Grund hat das BSI gemeinsam mit dem Fraunhofer IOSB die RealOrRender-Methode entwickelt. Diese Methode verwendet einen zweiteiligen Prozess: Zunächst wird das eingegebene Bild mit einem KI-Bildgenerator rekonstruiert, anschließend wird es durch ein KI-Modell klassifiziert und der Rekonstruktionsfehler gemischt berechnet. Andreas Specker, Senior Scientist der Forschungsgruppe Videoüberwachungs- und Assistenzsysteme am Fraunhofer IOSB, erklärt, dass dieser Prozess erkennen kann, ob ein Bild ein Deepfake ist.
Der konkrete Mechanismus von RealOrRender ist: Nachdem das System ein Bild empfangen hat, verwendet es ein vortrainiertes Diffusionsmodell für eine Rückwärtsverarbeitung, um einen mathematischen Fingerabdruck (Rauschbild) des Bildes sowie ein Rekonstruktionsergebnis zu erzeugen, d. h. das Originalbild wird absichtlich erneut gefälscht. Anschließend scannt das System das Bild auf Fehler. Die Logik dieser Methode ist: Wenn das Originalbild ein Deepfake ist, ähneln sich sein mathematischer Fingerabdruck und das Rekonstruktionsergebnis von RealOrRender; handelt es sich um ein echtes Foto, entstehen mehr Rekonstruktionsfehler, da echte Fotos mehr Ungenauigkeiten und natürliches Rauschen enthalten. Das System berechnet mit Hilfe eines Trainingsdatensatzes mit etwa 120.000 Bildern aus 18 Bildgeneratoren die geschätzte Abweichung und gibt eine Bewertung ab, ob es sich um einen Deepfake handelt. Laut den Forschern liegt die Erkennungsleistung zwischen 85 % und 91 %.
RealOrRender integriert außerdem eine erklärbare KI-Komponente (XAI, explainable AI), die am Ende der Analyse eine Heatmap erstellt, die Details im Originalbild markiert, die auf eine Fälschung hindeuten, darunter Merkmale wie Gesichter, Haare, Hände sowie Objekte im Hintergrund. Dies hilft den Nutzern zu verstehen, welche Anzeichen von Deepfakes das System gefunden hat, und stärkt das Vertrauen in das Modell und die Ergebnisse. Berichten zufolge wird RealOrRender intern beim BSI bereits in Form eines Demonstrators eingesetzt.
