Ob Bewerbungsanschreiben, Schulaufsätze oder Programmcodes – mit der Text-KI ChatGPT lassen sich Texte aller Art innerhalb von Sekunden automatisch generieren. Das Fraunhofer SIT forscht an Möglichkeiten, mit ChatGPT erstellte Texte erkennen zu helfen. Unsere textforensischen Expert*innen arbeiten dabei unter anderem mit einer selbst entwickelten Methode zur Autorschaftsverifikation, COAV.

ChatGPT, Voice Cloning und Co.: Unsere IT-Forensik-Expertin Inna Vogel sieht mit den unzähligen Möglichkeiten von maschinen-unterstützter Erstellung von Texten, Audiodateien, Bildern und Videos eine große Gefahr durch Betrugsmaschen. "Wir leben im Zeitalter der Scams", stellt sie fest. Denn Scams, also Betrügereien wie der Enkeltrick oder Anrufe des (vermeintlichen) Bundeskriminalamts gewinnen durch KI eine neue Dynamik.

Im neuen Forschungsprojekt MaLeFiz (Maschinelles Lernen zur Identifikation auffälliger Finanztransaktionen) arbeiten Forschende an einer Lösung, die mit maschinellem Lernen – eine Technik der künstlichen Intelligenz – die Suche nach illegalen Geldflüssen verbessern und präziser gestalten soll. Zusätzlich entwickeln die Projektpartner Kontrollmechanismen für KI-Lösungen, die in der Finanzwirtschaft eingesetzt werden.

Um die Sicherheit von IT-Systemen zu analysieren, betreiben Wissenschaftler*innen oft offensive Cybersicherheitsforschung. Oft gehen sie dabei ähnlich vor wie Cyberangreifer und testen, wo und wie ein IT-System verwundbar sein könnte. Doch wie weit dürfen die Forschenden dabei gehen? Antworten auf diese Frage liefert eine virtuelle Diskussionsreihe des Forschungszentrums ATHENE.

Unternehmen brauchen eine klare Vorgehensweise für den Umgang mit IT-Sicherheitsschwachstellen, die an sie gemeldet werden, sei es durch interne Mitarbeitende oder durch Externe. Hier unterstützt das Fraunhofer SIT Unternehmen bei Rechtsfragen, dem Aufsetzen und Etablieren von Melde-Prozessen sowie bei der Risikobewertung.

House of Nerds ist der IT-Podcast aus der Cybersicherheitshochburg Darmstadt. Ob Fake News, Darknet, Datenschutz, Krypto oder neue Hacker*innen-Angriffe - hier stellen Forschende ihre aktuellen Themen aus der IT-Sicherheit vor. Im House of Nerds gibt es fundierte Informationen zu Stand und Entwicklung von Technik und Wissenschaft.