Deepfakes fluten das Internet, besonders die sozialen Medien. Innerhalb von Sekunden lassen sich Bilder, Videos und Audiodateien von einer KI-Anwendung erstellen. Eingesetzt werden sie in allen möglichen Szenarien, von harmlosen Witze-Videos und grotesken Stunts bis hin zu Mobbing, Desinformationskampagnen, Betrugsmaschen.

Ein großes Problem sind KI-generierte Nacktbilder und -Videos, etwa als "Rachepornos" an Ex-Partnerinnen und -Partnern oder um Menschen auf Fotos "auszuziehen". Hier steht besonders der KI-Chatbot Grok der Social-Media-Plattform X in der Kritik. Der Fall der Schauspielerin und Moderatorin Collien Fernandes zeigt, was für drastische Auswirkungen digitale Gewalt in Form von künstlich generierten Deepfake-Pornos und gefälschten Nacktbildern haben kann.

Unser Media-Security-Wissenschaftler Prof. Martin Steinebach erklärt, was der Stand der Technik ist, was für technische Verfahren genutzt werden, um Deepfakes zu generieren und gibt Hinweise, wie man auch ohne technische Hilfsmittel und IT-forensische Werkzeuge in manchen Fällen Fehler in KI-generierten Bildern finden kann.

Es gibt grundsätzlich zwei Arten, Video-Deepfakes zu erstellen:

• Face Swap: Über das Original-Video eines Menschen wird ein anderes Gesicht gelegt, die Gesicher also ausgetauscht ("geswappt")
• Text-to-Video: Man gibt einen Text in eine videogenerierende KI-Anwendung ein, der beschreibt, was man für ein Video haben möchte. Die KI erstellt das Video innerhalb von Sekunden.

Wie kann man Deepfakes erkennen?

Vorab: Hochwertige Deepfakes wird man aber mit bloßem Auge nicht erkennen können. Möglicherweise findet man aber Fehler in Details. Diese zeigt Martin Steinebach hier anhand von Beispielen.