Cybersicherheit stellt Unternehmen vor große Herausforderungen. Laut dem Versicherungskonzern Allianz stellen Cyberangriffe weltweit das größte Geschäftsrisiko für Unternehmen dar. Unternehmen müssen offen sein für die Digitalisierung, zugleich erhöht die Digitalisierung aber die Angriffsfläche und erfordert erhöhte Anstrengungen für Cybersicherheit und Schutz der Privatsphäre.

Das HNFIZ »Cybersicherheit« wird als neuer Institutsteil des Fraunhofer SIT aufgebaut, der mit den bestehenden Forschungsabteilungen des Fraunhofer SIT und dem Nationalen Forschungszentrum für angewandte Cybersicherheit ATHENE in seinen F&E-Arbeiten kooperiert. Die Arbeiten des HNFIZ »Cybersicherheit« mit dem übergeordneten Schwerpunkt »Enterprise Security« sind auf die Verbesserung der Sicherheit von Organisationen durch exzellente Forschung ausgerichtet, z.B. durch Entwicklung neuer Sicherheitslösungen, durch Analysen und Studien.

• Sicherheit und Robustheit von KI-Systemen: Erkennung manipulierter KI-Modelle (z. B. Backdoors), Analyse und Attribution von Safety-Mechanismen in Large Language Models (LLMs) sowie Abwehr gezielter Angriffe auf LLMs – darunter Penetrationstests, Prompt Injections und Resource Exhaustion Attacks.
• Cybersicherheit kritischer Infrastrukturen (KRITIS): Vorbereitung auf Zero-Day-Schwachstellen sowie Schutz vor Forever-Day-Bedrohungen in IT- und OT-Umgebungen kritischer Infrastrukturen.
• KI und Cybersicherheit: Abwehr von Cyberangriffen gegen KI (z.B. Schwachstellen in KI), KI zur Abwehr von Angriffen (z.B. Anomalie-Erkennung) und Abwehr von Angriffen mittels KI (z.B. Deepfake-Erkennung).
• Zero Trust: Stärkung der Cybersicherheit, selbst wenn Angreifer erste Verteidigungslinien überwunden haben.
• IT-Produkt- und Lieferkettensicherheit: Verbesserung der Softwaresicherheit in komplexen Entwicklungsprozessen.
• Rechtskonforme Technikgestaltung und Prozesse: Governance, Risikobehandlung und Compliance im Zusammenhang mit Cybersicherheit und Privatsphärenschutz.
• Cybertraining und Schulung: Stärkung der Cybersicherheit in Organisationen durch praxisbezogene Weiterbildung