DisCo - Disinformation and Corona

Fake News zur Pandemie besser erkennen

Über die Corona-Pandemie sind weltweit Desinformationen und Fake News im Umlauf. Vor allem auf Social-Media-Plattformen wie Facebook, Twitter und YouTube teilen Menschen ungeprüft Nachrichten, sodass diese sich rasant verbreiten. "Wir bekämpfen nicht nur eine Pandemie, sondern auch eine Info-Demie", sagte Tedros Adhanom Ghebreyesus, Generaldirektor der WHO. Forschende des Fraunhofer SIT wollen im Projekt DisCo dieser Herausforderung begegnen.

Methoden der Fake-News-Erstellung

Ein Ziel des Projekts ist es, zunächst einen Überblick über die aktuelle Situation zu Corona-Fake-News zu geben: Wie sehen typische Vorgehensweisen aus, mit denen Fake News im Kontext des Coronavirus produziert werden? Welche technischen Methoden nutzen Fake-News-Produzierende? Die Forschenden werden dann die aktuellsten technischen Lösungen aus dem Bereich Text- und Multimedia-Forensik prüfen und bewerten, welche dieser Methoden am besten Fakes in Texten, Bildern und Videos nachweisen können. Beispielsweise ist geplant, das Leistungsvermögen von inversen Bildersuchen unterschiedlicher Suchmaschinen zu testen, die oft bei der Analyse von verdächtigem Bildmaterial zum Einsatz kommen. Hiermit können Nutzerinnen und Nutzer nämlich Bilder erkennen, die (unverändert) aus ihrem ursprünglichen Kontext gerissen wurden.

Faktenchecker-Tool für Journalistinnen und Journalisten

Ein weiteres Ziel in DisCo ist es, mithilfe textforensischer Methoden einen Demonstrator für ein Annotationstool zu entwickeln, das Journalistinnen und Faktencheckern dabei helfen soll, Texte schnell zu erfassen und zu bewerten. Das Tool arbeitet mit einem von Fraunhofer-SIT-Forschenden trainierten ML-Algorithmus sowie Natural-Language-Processing-Techniken (NLP). Für die Faktenchecker und Journalistinnen werden Texte so aufbereitet, dass prüfwürdige Textpassagen farbig hervorgehoben werden. So werden Texte nicht automatisch in fake oder true kategorisiert, sondern die Textpassagen, die das Tool als prüfwürdig identifiziert, werden übersichtlich hervorgehoben. Der Journalist/die Faktencheckerin entscheidet selbst.