SecMedID

Abstrakte Grafik von sechs polygonalen Gesichtern in Rot- und Blautönen, die durch KI-Deepfakes erstellte, gefälschte Identitäten symbolisieren. Das Bild dient als visueller Header für das BSI-Projekt „SecMedID“ zur Erkennung medialer Fälschungen und Abwehr von Desinformation.

Mit Deepfake-Verfahren können in Videos die Gesichter oder die Stimmen von abgebildeten Personen automatisiert und oftmals täuschend echt ausgetauscht werden.

Auf diese Weise gefälschte Identitäten bedeuten eine Reihe von Risiken:

Neue Arten von Betrug und Erpressung von Personen und Organisationen
Vertrauensverlust in Presse und Rundfunk
Beeinflussung politischer Prozesse durch Fakenews und Desinformation
Diskreditierung von Personen durch verleumderische Videos
Fälschung von Beweisen in Straf- und Zivilprozessen
Bedrohung der inneren und äußeren Sicherheit durch gefälschte Mitteilungen an die Polizei, die allgemeine Bevölkerung oder Streitkräfte.

Dies macht es notwendig, die Echtheit von Personen in digitalen Medien (ihre „mediale Identität“), zuverlässig prüfen zu können. Hierzu soll das Projekt „SecMedID“ sowohl KI-gestützte Deepfake-Angriffstools zur Fälschung medialer Identitäten als auch Verteidigungsmaßnahmen dagegen behandeln.

Das Projekt „SecMedID“ wurde beauftragt durch das Bundesamt für Sicherheit in der Informationstechnik (BSI). Laufzeit: 06/2023 bis 02/2025.

Dr.-Ing. Sascha Zmudzinski

Media Security und IT Forensics
Telefon +49 6151 869-321
E-Mail senden

Im Projekt SecMEdID wird untersucht

Der Stand der Technik zu Deepfake-Methoden für Video und Audio
Die Weiterentwicklung der Deepfake-Methoden Face Swapping, Facial Reenactment, Voice Conversion und Text-to-Speech zur Abschätzung künftiger Gefährdungspotenziale
Forensische Erkennungsverfahren für Deepfakes in digitalen Bild- und Tondaten, auch bei Verschleierung durch Adversarial Attacks