SeGen: Help! My chatbot is refusing service – LLM-Security

Durch sogenannte Backdoors lassen sich KI-Systeme kompromittieren, wodurch sich ihr Verhalten schädlich verändern kann. Am Messestand können Sie mit kompromittierten und harmlosen Chatbots interagieren und so gängige Detektionsmechanismen für Backdoors kennenlernen.

Mehr Infos zum Projekt

SmartID – Fälschungssichere Produktidentifikation und Schutz vor Produktpiraterie

Produktfälschungen und Produktpiraterie gefährden den Ruf von Marken, verursachen erhebliche wirtschaftliche Schäden und beeinträchtigen die Sicherheit und Gesundheit von Verbraucherinnen und Verbrauchern. SmartID ermöglicht eine zuverlässige Echtheitsprüfung entlang der gesamten Lieferkette: Das System nutzt die einzigartigen Merkmale der physischen Produktoberfläche oder Verpackung, um einen individuellen, fälschungssicheren QR-Code zu erzeugen. Hersteller, Zwischenhändler und Endkundinnen und -kunden können damit schnell überprüfen, ob ein Produkt original oder gefälscht ist.

Weitere Informationen finden Sie hier

KI-basierte Pipeline zur Identifikation von Schwachstellen

Angriffe auf IT-Systeme waren bislang trotz stetig fortentwickelter Automatisierung primär von der Expertise und den Ressourcen des Angreifers abhängig. KI-Verfahren ermöglichen es nun, Angriffe nahezu vollständig zu automatisieren und massiv zu skalieren, wodurch bestehende Risikoabschätzungen nicht mehr greifen. Das Exponat demonstriert, wie ein KI-gestützter Angriff ein ganzes Netzwerk üblicher Büro-IT übernehmen kann, interessant für IT-Verantwortliche (z. B. CISOs), Pentester und Forschende.

Deep­fakes IT-forensisch erkennen: Schutz vor digitalem Betrug und Desinformation

Täuschend echte, KI-generierte Gesichter und Stimmen machen Deepfake-Angriffe zu einer wachsenden Gefahr für Unternehmen und Privatpersonen. Kriminelle nutzen manipulierte Videoanrufe und Telefonate für CEO-Fraud und Identitätsbetrug, für Verbreitung von Fake News, zur Desinformation der Bevölkerung und zur gezielten Schädigung der Unternehmensreputation. Erleben Sie live, wie sich derart manipulierte Medien mit modernen forensischen Analyseverfahren in Echtzeit identifizieren lassen – für Informationssicherheit, Betrugsprävention und Vertrauenswürdigkeit digitaler Kommunikation und Medien.

KI-Content kennzeichnen und transparent erkennbar machen

KI-generierte Bilder, Videos und Off-Sprecher sind allgegenwärtig – von Social Media über Werbeclips bis zu journalistischen Visualisierungen. Mit Artikel 50 der EU-KI-Verordnung gelten hierfür klare Transparenz- und Kennzeichnungspflichten. Unsere Forschenden zeigen, wie KI-Anbieter und -Betreiber synthetische Medien zuverlässig kennzeichnen und nachverfolgen können. Dafür werden bewährte Verfahren aus der Multimedia-Sicherheit, wie unsichtbare digitale Wasserzeichen (Watermarking) und robustes Perceptual Hashing, weiterentwickelt, um rechtskonformen KI-Betrieb zu gewährleisten.

Mehr Infos

Vorträge auf dem itsa-Forum:

Cybersicherheit durch, trotz und von KI – Forschung für mehr Sicherheit

Dr. Steven Arzt, ATHENE | Fraunhofer SIT
Di., 27.10. | 13:00 13:30 | Halle 6 - Forum A

Agentic AI and Cyber Security

Dr. Thorsten Henkel, ATHENE / Fraunhofer SIT
Do., 29.10. | 10:00 - 10:30 | Halle 6 - Forum A

Vorträge am ATHENE-Stand Halle 6 | 416:

Deepfake-Erkennung zur Echtheitsprüfung für digitale Medien
Sascha Zmudzinski

KI für Softwaresicherheit - Die Chancen hinter dem Hype
Steven Arzt

SmartID – Fälschungssichere QR-Codes zum Erkennen von Produktpiraterie
Waldemar Berchtold