Videokonferenzen erleichtern die Kommunikation über Standorte hinweg und ermöglichen es trotzdem, sich in die Augen zu schauen. Doch immer öfter darf man zweifeln, ob die Augen des Gegenübers echt sind. Denn Deepfake-Technologien können heute Stimmen und Bilder in Echtzeit so realistisch wie noch nie fälschen. Deshalb haben unsere IT-Forensik-Forschenden unter Leitung von Prof. Dr. Martin Steinebach einen Deepfake-Detektor für Videokonferenzen entwickelt, der Video- und Audio-Deepfake-Erkennung kombiniert. Die KI-basierte Software liefert Teilnehmenden bei sicherheitskritischen Videocalls kontinuierlich Hinweise, wie wahrscheinlich ein Deepfake ist.

Die Warnung erfolgt visuell: »Wenn ein Gespräch im Augenblick viele Indikatoren aufweist, gibt das System eine Wahrscheinlichkeit aus, ob es sich hier um Deepfake handeln könnte«, erklärt Steinebach. »Dann ist aber immer noch der Mensch gefragt, der mit gezielten Rückfragen oder auch einem Rückruf auf einem anderen Kanal die Echtheit seines Gegenübers verifizieren muss.«

Wie das Tool genau funktioniert, wird oben im Video gezeigt. 

Die Analyse kann lokal auf einem leistungsfähigen Laptop laufen, ohne dass Bild- oder Tondaten an einen externen Server übertragen werden müssen. Damit ist sie datenschutzkonform und für Unternehmen geeignet, die vertrauliche Gespräche führen, etwa mit Vorständen, Finanzabteilungen oder externen Partnern. Für die lokale Echtzeitanalyse der Lösung reicht ein Rechner mit moderner Grafikkarte und zwölf Gigabyte Grafikspeicher. Interessant dürfte die Lösung auch für Anbieter von Videokonferenzsystemen sein, die sie als Plugin oder fest eingebaute Sicherheitsfunktion in Systemen wie Teams, Zoom oder vergleichbaren Unternehmenslösungen integrieren könnten. Ebenso möglich wäre eine zentrale Unternehmensinfrastruktur: ein geschützter Serverbereich, über den besonders wichtige Gespräche analysiert werden.