Wie Fraunhofer hilft, manipulierte Medien zu erkennen  

Videos, in denen Menschen Worte in den Mund gelegt werden, die sie so nie gesagt haben. Anrufe, in denen die vermeintliche Enkelin die Oma nach Geld für ein neues Handy fragt. Mittlerweile gibt es unendlich viele Möglichkeiten, Video-, Bild- oder Audiomaterial zu verfälschen oder komplett künstlich zu generieren.  Medienforensik ist die wissenschaftliche Antwort auf diese Entwicklungen. Sie untersucht digitale Medien mit technischen und analytischen Methoden, um deren Echtheit zu prüfen und Manipulationen aufzudecken. 

Forschende unterscheiden grundsätzlich drei Strategien der Desinformation. Das sind die Dekontextualisierung, wo echtes Material in einen irreführenden Zusammenhang gestellt wird, Manipulation, also die gezielte Veränderung vorhandenen Materials und Fabrikation, bei der Inhalte komplett neu erschaffen werden. 

In der Praxis dominieren bislang sogenannte Shallowfakes oder Cheapfakes – aus dem Kontext gerissene oder leicht bearbeitete Ausschnitte bestehender Aufnahmen. Sie sind einfach herzustellen, aber oft erstaunlich wirkungsvoll. Daneben gewinnen Deepfakes an Bedeutung: KI-generierte audiovisuelle Inhalte, die Personen Dinge sagen oder tun lassen, die nie stattgefunden haben. 

Die Gefahr ist längst nicht mehr diffus, sondern hat klare Akteure und Muster. Krisen wirken dabei als Katalysator: Die Corona-Pandemie und der russische Angriffskrieg gegen die Ukraine lösten Wellen von Kriegspropaganda und Verschwörungserzählungen aus. Das eigentliche Ziel dieser Angriffe ist oft nicht der einzelne Inhalt, sondern das Vertrauen in demokratische Institutionen, freie Medien und Wissenschaft selbst. 

Der Werkzeugkasten der Forensiker*innen 

Wie lässt sich eine Fälschung entlarven? Die Antwort liegt in der Kombination mehrerer Analysen. Die Textanalyse prüft den Schreibstil und die Grammatik, erkennt KI-generierte Texte und gleicht Aussagen mit bekannten Fakten ab. Die Bild- und Videoanalyse sucht nach Bearbeitungsspuren und Pixelfehlern, wertet Metadaten wie Aufnahmezeit oder Kameramodell aus und identifiziert künstlich erzeugte Gesichter. Die Netzwerkanalyse verfolgt letztlich, wie sich Informationen im Netz verbreiten, deckt Bot-Netzwerke auf und rekonstruiert den Ursprung einer Kampagne.  

Institute, wie das Fraunhofer-Institut für Digitale Medientechnologie IDMT, setzen dabei auch auf die Signalanalyse, also die Untersuchung charakteristischer »Footprints«, wie Kodierungsverfahren oder Mikrofoncharakteristik, um Herkunft und Bearbeitungsspuren von Audiodateien nachzuvollziehen. 

So leistungsfähig diese Methoden sind, sie haben ihre Tücken. Erkennungssysteme müssen erklärbar bleiben, damit Anwendende ihre Einschätzungen nachvollziehen und fundierte Entscheidungen treffen können. Ein »Sample Bias« bedeutet, dass bestimmte Gruppen oder Individuen eine höhere oder geringere Wahrscheinlichkeit besitzen, in eine Stichprobe aufgenommen zu werden als andere. Werden diese Trainingsdaten verzerrt, kann das die Zuverlässigkeit untergraben, ebenso wie die mangelnde Robustheit gegenüber gezielten Angriffen. Hinzu kommt, dass ein Bias kein rein technisches Problem ist und auch Menschen, die Inhalte prüfen, kognitiven Verzerrungen unterliegen. Nicht zuletzt bleibt die Fähigkeit der Rezipierenden zu kritischem Hinterfragen mindestens ebenso wichtig wie jede Software. 

Folgen für Journalismus, Recht und Sicherheit 

Die Auswirkungen sind längst spürbar. Redaktionen müssen erheblichen Aufwand betreiben, um Bild- und Videomaterial vor Veröffentlichung zu verifizieren. Auch, weil gefälschte Aufnahmen von Politiker*innen das Grundvertrauen in Nachrichten erschüttern und im Extremfall Wahlen beeinflussen können. Vor Gericht stellen manipulierte Videos oder Tonaufnahmen als vermeintliche Beweismittel Richter*innen und Staatsanwält*innen vor neue technische Herausforderungen. Und die Gesetzgebung hinkt noch hinterher. Insbesondere gegen nicht-einvernehmliche oder sexualisierte Deepfakes fehlen bislang wirksame rechtliche Instrumente. Das Bundesjustizministerium arbeitet an Gesetzentwürfen gegen digitale Gewalt. Diskutiert wird zudem, ob Sicherheitsbehörden selbst Deepfake-Technologien nutzen dürfen, etwa Stimmklone für verdeckte Ermittlungen – ein Vorhaben mit erheblichen rechtlichen und grundrechtlichen Fragezeichen. 

Medienforensik bleibt ein Katz-und-Maus-Spiel. Mit jeder neuen Erkennungsmethode entstehen neue Umgehungsstrategien. Das erfordert kontinuierliche Forschung, tragfähige Geschäftsmodelle und eine engere Verzahnung von Wirtschaft und Wissenschaft. Damit bleibt Medienforensik eine dauerhafte Herausforderung, bei der technologische Innovation und gesellschaftliche Verantwortung kontinuierlich weiterentwickelt werden müssen, um mit den zunehmend komplexen Formen digitaler Manipulation Schritt zu halten. 

(lna) 

---

Fraunhofer-Projekte zu Medienforensik

Eine Vielzahl von Fraunhofer-Instituten arbeiten stetig an neuen Methoden der Medienforensik. Im Folgenden haben wir eine Auswahl an Projekten zusammengestellt, die verschiedene Herangehensweisen an die Suche nach der Wahrheit anbieten: