Social-Media-Kanäle und Videoplattformen wie TikTok sind bei Jugendlichen beliebt und deshalb ein attraktives Ziel für Desinformationskampagnen. Kurze TikTok-Videos verbreiten sich extrem schnell. So erreichen falsche oder irreführende Informationen innerhalb kürzester Zeit viele vor allem junge Menschen. Denn häufig nutzen gerade Jugendliche nicht mehr die traditionellen Nachrichtenkanäle, sondern Plattformen wie TikTok, was sie besonders anfällig macht für Fake News.

Interdisziplinäres Team

Im Projekt VAMPIR – Videonutzung in der Adoleszenz: Manipulation, Propaganda, Information und Resilienz – entwickelt ein interdisziplinäres Team Maßnahmen, um Desinformation auf TikTok zu erkennen und einzudämmen. Im Projekt vereint sind technische, medienpsychologische, kommunikationswissenschaftliche und juristische Perspektiven, um die Herausforderungen von Desinformationen in Videoinhalten umfassend zu adressieren:

Technisch analysieren die Forschenden des Fraunhofer SIT, wie sich Desinformationen und Deepfakes von Randplattformen wie Telegram auf Mainstream-Dienste wie TikTok ausbreiten. Über die Analyse großer Datenmengen aus den Plattformen sollen typische Verbreitungsmuster erkannt und automatisierte Erkennungsmethoden entwickelt werden. Darüber hinaus werden die Fraunhofer-SIT-Forschenden KI-gestützte Verfahren zur Erkennung von Deepfakes, manipulierten Videos und Bildern entwickeln. Hierfür untersuchen sie die Metadaten von Bild- und Audiodaten und analysieren Bilder, Videos und Audiodaten mithilfe datenbasierter und modellgestützter Verfahren aus dem Bereich Computervision und Audio-Processing (Bild- und Audioverarbeitung).

Forschende aus Medienpsychologie und Kommunikationswissenschaften untersuchen, wie sich bildgestützte Desinformation von textbasierter unterscheidet und welche spezifische Wirkung Fake-Bilder und -Videos auf Jugendliche haben. Darauf aufbauend entwickeln die Forschenden Strategien zur Stärkung der Medienkompetenz bei Jugendlichen, ohne pauschales Misstrauen gegenüber allen Medien zu erzeugen.

Schließlich ergänzt die rechtliche Perspektive das Projekt: Welche Regeln gelten bereits, etwa durch den Digital Services Act oder die KI-Verordnung der Europäischen Union? Wo bestehen Lücken beim Schutz junger Nutzerinnen und Nutzer?

Ziele in VAMPIR

Ziel des Projekts ist die Entwicklung eines umfassenden Werkzeugpakets: Technische Desinformations-Erkennungsmethoden können Plattformbetreibern zur Verfügung gestellt werden; die psychologischen Erkenntnisse und entwickelten pädagogischen Maßnahmen richten sich an Medienaufsichtsbehörden, Jugendschutzorganisationen, Schulen und andere Bildungseinrichtungen. Die rechtlichen Empfehlungen richten sich an politische Entscheidungsträger und sind auf weitere Bereiche digitaler Informationsverbreitung anwendbar. Geplant sind außerdem Workshops, etwa für Journalistinnen und Journalisten sowie Juristinnen und Juristen und Kooperationen mit zivilgesellschaftlichen Initiativen.

Projektpartner

Beteiligte Institutionen sind das Fraunhofer-Institut für Sichere Informationstechnologie SIT in Darmstadt, die Universität Kassel, die Technische Hochschule Köln, die Hochschule der Medien in Stuttgart und die Universität Duisburg-Essen. Assoziierte Partner sind die Stiftung Digitale Chancen, die Stadt Duisburg, die Vodafone Stiftung sowie die Bundeszentrale für politische Bildung (bpb).

Das Projekt läuft vom 1.4.2026 bis 31.03.2029 und wird vom Bundesministerium für Forschung, Technologie und Raumfahrt (BMFTR) gefördert.