Technische Aspekte der Desinformationserkennung

Im Vortrag zur technischen Erkennung von Desinformationen werden die verschiedenen Typen falscher Informationen – Misinformation, Desinformation und Malinformation – diskutiert. Es wird aufgezeigt, dass der Grad der Bekanntheit der betrachteten Desinformationen einen erheblichen Einfluss auf die Erkennung und das Verständnis von Desinformationen hat. Darüber hinaus werden konkrete Methoden und Technologien vorgestellt, die zur Identifizierung von Desinformationen eingesetzt werden können, einschließlich maschinellen Lernens, Textanalysen und Netzwerkanalysen. Der Vortrag beleuchtet die Chancen, die sich durch den Einsatz dieser Technologien ergeben, sowie die Herausforderungen, die es zu bewältigen gilt, um eine informierte und kritische Öffentlichkeit zu fördern. Ziel ist es, ein besseres Verständnis für die Mechanismen der Desinformation und mögliche Lösungsansätze zur Verbesserung der Informationssicherheit zu vermitteln.

Urheberschaft und Verantwortung für Nachrichten im Netz – Schöner lügen: Neues aus dem Desinformationsrecht

Die zunehmende Verbreitung von Desinformation im digitalen Raum stellt das Recht vor neue Herausforderungen bei der Zuordnung von Urheberschaft und Verantwortlichkeit auch für KI-generierten Content. Der Vortrag beleuchtet die rechtlichen Rahmenbedingungen im Spannungsfeld zwischen Meinungsfreiheit und dem Schutz vor manipulativer Information. Besondere Aufmerksamkeit erhalten die neuen Rechtsgrundlagen und Durchsetzungsmechanismen bei der Bekämpfung von Falschinformationen auf deutscher und europäischer Ebene. Der Vortrag analysiert die Auswirkungen dieser Rechtsentwicklungen auf Plattformbetreiber, Content-Ersteller und die Medienlandschaft und diskutiert offene Fragen der Rechtsdurchsetzung in der digitalen Informationsgesellschaft.

Detektion und Attribution von KI-generierten Bildern mittels statistischer Artefakte und Frequenzanalyse

Der rasante Fortschritt generativer Modelle wie GANs und Diffusionsmodellen stellt die multimediale Forensik vor neue Herausforderungen: Die sichere Unterscheidung synthetisch erzeugter von realen Bildern sowie die Generalisierung auf bislang unbekannte Generatoren und Nachbearbeitungsschritte. Während semantisch basierte Verfahren hierbei zunehmend an ihre Grenzen stoßen, zeigen statistische Ansätze deutliche Vorteile – insbesondere hinsichtlich Robustheit, regulatorischer Konformität (z. B. AI Act) und der Möglichkeit, den jeweiligen Generator eindeutig zu attribuieren.

In unserer Arbeit haben wir ein Bayes’sches Neuronales Netz (BNN) entwickelt, das neben der präzisen Erkennung auch ein Unsicherheitsmaß bereitstellt, um Analysten bei potenziell kritischen Entscheidungen zu unterstützen. Die Umsetzung als API erlaubt den unmittelbaren industriellen Einsatz, etwa in der Versicherungsbranche zur Betrugsprävention.

Im Vortrag gehen wir auf die zugrunde liegenden Ansätze und Verfahren im Detail ein und freuen uns auf einen fachlichen Austausch zu den Herausforderungen und Möglichkeiten moderner forensischer Bildanalyse.

Audio Deepfakes: Wie realistisch sind sie – und wie sicher ist ihre Erkennung?

Mit den Fortschritten im Bereich der Künstlichen Intelligenz lassen sich Stimmen heute täuschend echt imitieren. Ein bekanntes Beispiel dafür ist ein im Jahr 2022 verbreitetes Deepfake-Video, in dem Präsident Selenskyj fälschlicherweise zur Kapitulation der Ukraine aufgerufen haben soll. Der Vortrag gibt einen Überblick über den aktuellen Stand der Technik zur künstlichen Erzeugung und Manipulation von Stimmen. Darüber hinaus wird aufgezeigt, welche Methoden zur Erkennung solcher Fälschungen existieren, wie zuverlässig diese sind und wo ihre Grenzen liegen. Im Zentrum steht die Frage: Wie realistisch sind Audio-Deepfakes inzwischen – und wie gut können sie heute erkannt werden?

Finanzwirtschaftliche Bewertung von öffentlich zugänglichen Informationen im Finanzbereich

Die zunehmende Digitalisierung und Verbreitung sozialer Medien haben die Informationslandschaft der Finanzmärkte grundlegend verändert. Diese Präsentation untersucht, wie öffentlich zugängliche Informationen aus Plattformen wie X (ehemals Twitter), Reddit und TikTok die Aktienkurse beeinflussen und welche weitreichenden Auswirkungen dies auf verschiedene Akteure der Finanzmärkte hat.

Die Analyse zeigt auf, dass Social Media-Daten mittlerweile einen messbaren Einfluss auf Marktbewegungen ausüben und verschiedene Stakeholder unterschiedliche Strategien zur Nutzung dieser Informationsquellen entwickelt haben. Hedgefonds integrieren Social Media-Analytics zunehmend in ihre Handelsstrategien und Risikomanagement-Systeme, um frühzeitig Markttrends zu identifizieren und Verluste durch unvorhergesehene Kursbewegungen zu minimieren. Börsen und Regulierungsbehörden nutzen diese Datenströme hingegen zur Überwachung möglicher Marktmanipulationen, einschließlich Insiderhandel und Pump-and-Dump-Schemata.

Besondere Aufmerksamkeit erhält das Phänomen der Meme-Aktien, das die Macht sozialer Medien bei der Kursbeeinflussung eindrucksvoll demonstrierte und traditionelle Bewertungsmodelle herausforderte. Diese Entwicklungen haben die Erforschung des Einflusses öffentlich zugänglicher Informationen auf die Finanzmärkte zu einem kritischen Forschungsfeld gemacht. Die Präsentation diskutiert methodische Ansätze zur Quantifizierung dieser Einflüsse, die Herausforderungen bei der Datenverarbeitung und -interpretation sowie die Implikationen für Markteffizienzhypothesen.

Medienrechtliche Verstöße im Bereich Desinformation: What‘s fake and what now?

In einer Welt, in der wahr und falsch immer schwerer zu unterscheiden ist, wächst die Bedeutung der Medienaufsicht. Die Landesmedienanstalten sind in Zusammenhang mit ihren Aufgaben zur Vielfaltssicherung sowie der Kontrolle journalistischer Sorgfaltspflichten im privaten Rundfunk und in Telemedien zuständig für medienrechtliche Verstöße im Bereich Desinformation. Sie fokussieren, detektieren und sanktionieren Desinformation im Hinblick auf den Schutz der Meinungsfreiheit. Zu wirksamen Maßnahmen gegen falsche oder bewusst irreführende Informationen zählen neben der medienrechtlichen Aufsicht und Regulierung Mechanismen der Selbstkontrolle sowie die Förderung von Medien- und Digitalkompetenz. In Zusammenarbeit mit EU-Institutionen und den Veranstaltern bzw. Plattformbetreibern sind zunehmend durch Algorithmen und KI bestimmte Erscheinungsformen von Desinformation rechtsstaatlich einzuhegen.

Im Anschluss an eine Begriffsklärung in Abgrenzung zu Misinformation und Fake News geht es in dem Vortrag anhand von Beispielen aus der medienaufsichtlichen Praxis darum, Desinformationsphänomene und deren Wirkung aufzuzeigen sowie einen Einblick in die Regulierungstätigkeit zu geben. Gezielte Desinformationskampagnen und die rasante Entwicklung der Möglichkeiten, diese zu lancieren, gefährden die freie Meinungsbildung und die Demokratie. Ihre effektive Bekämpfung an der Nahtstelle von staatsferner Vielfaltssicherung und Schrankentrias stellt eine große Herausforderung dar. Klare Rechtsgrundlagen für die Entfernung oder Korrektur einer Äußerung, Transparenzpflichten und unabhängige Faktenchecks sind wesentliche Pfeiler, um den Erscheinungsformen von Desinformation zu begegnen.

„Information Overload“ ­– Implikationen von Fakenews und Desinformation für die kriminalpolizeiliche Praxis

Die zunehmende Bedeutung von Desinformation im digitalen Raum stellt auch die Arbeit der Strafverfolger vor neue Herausforderungen. Der Vortrag bietet einen Überblick über die kriminalpolizeiliche Sicht auf diese Phänomene und beleuchtet insbesondere die Relevanz von Falschinformationen im Kontext des polizeilichen Staatsschutzes.

Anhand von Beispielen aus der Praxis werden die Auswirkungen strafprozessualer Regelungen auf die Arbeit der Kriminalpolizei sowie die spezifische Rolle der Polizei als Ermittlungspersonen der Staatsanwaltschaft und Gefahrenabwehrbehörde herausgestellt. Zugleich wird auf das Spannungsfeld zur Zuständigkeit anderer Sicherheitsbehörden und die Interaktion mit Akteuren außerhalb der Behördenlandschaft eingegangen.

Darüber hinaus wird der Fokus auf die besonderen Anforderungen und Methoden polizeilicher Recherchen und Ermittlungen im Umgang mit Desinformation gelegt. Ein besonderes Augenmerk liegt auf dem Einsatz von Open Source Intelligence (OSINT), die bei der Aufgabenbewältigung des Staatsschutzes mittlerweile eine bedeutsame Relevanz aufweist. Dadurch wird ein vielschichtiges Bild der rechtlichen, organisatorischen und praktischen Dynamiken gezeichnet, die die kriminalpolizeiliche Arbeit in diesem Themenfeld prägen.