Technik für den digitalen Jugendschutz

Automatische Erkennung von Sexting und Cybergrooming

Online-Foren, Chat-Portale und Messenger-Apps eröffnen neue Kommunikationsmöglichkeiten, bieten neue Geschäftsmodelle und erlauben viele Freiheitsgrade zur Selbstdarstellung. Problematisch werden die neuen Möglichkeiten dann, wenn damit Persönlichkeitsrechte verletzt werden, Inhalte (wie z. B. Fotos) ohne Einverständnis weitergegeben werden und wenn die neuen Kommunikationsmöglichkeiten für die Vorbereitung oder Anbahnung von Verbrechen genutzt werden – insbesondere bei Kindern und Jugendlichen als Opfer. Mit dem Internet kommt eine neue Qualität hinsichtlich Reichweite und Dauerhaftigkeit hinzu. Texte und Bilder sind, sobald im Umlauf, kaum noch zu stoppen.

Die vorliegende Studie betrachtet und bewertet technische Möglichkeiten, mit denen vor dem unachtsamen Verschicken von Nacktfotos durch Minderjährige (sogenanntes »Sexting«) gewarnt werden kann und mit denen erwachsene Personen erkannt werden können, die sich in Online-Foren oder Chat-Portalen als Minderjährige ausgeben.

Die Studie wurde bereits 2018 im Auftrag des Hessischen Ministeriums des Innern und für Sport fertiggestellt und wird jetzt auch der Öffentlichkeit zur Verfügung gestellt.