Course Schedule

Course Schedule

Veranstaltungen von Dr. Christoph Martin

Lehrveranstaltungen

Chancen und Risiken für Cybersicherheit durch KI-Systeme (Seminar)

Dozent/in: Christoph Martin, Peter Niemeyer

Inhalt: Einführung in KI und Cybersicherheit - Überblick über KI-Technologien und ihre Bedeutung für die Cybersicherheit - Einführung in Schlüsselkonzepte und Terminologie - Wiederholung von ausgewählten Methoden des maschinellen Lernens - Untersuchung von Prinzipien der Cybersicherheit, Bedrohungen, Abwehrmaßnahmen sowie Übersicht zu neuen Bedrohungsszenarien durch den Einsatz von KI-Systemen Robustheit, Erklärbarkeit und ethische Fragestellungen - Diskussion ethischer Fragen und Herausforderungen beim Alignment von KI-Systemen an menschliche Ziele, Präferenzen oder ethische Grundsätze - Ansätze zur Erklärbarkeit von KI-Systemen - Diskussion von Problemen, wie Datenqualität, Bias, Datenschutz und deren Auswirkungen auf die Leistung und Zuverlässigkeit von KI-Systemen und Bezug zur Sicherheit von KI-Systemen Diskussion von Schwachstellen und Angriffen im Kontext von datengetriebenen Systemen - Untersuchung von spezifischen Schwachstellen in KI-Modellen mit Hinblick auf den Machine Learning Lifecycle (u. a. data poisoning, model stealing, adversarial attacks) - Analyse konkreter Angriffsmethode (z. B. Fast Gradient Sign Attack) - Diskussion von Gegenmaßnahmen Einfluss von KI auf die Cyberbedrohungslandschaft - Diskussion über den Einfluss von (generativer) KI auf existierende Angriffe, wie Social Engineering und Malwaregenerierung Chancen der KI in der Cybersicherheit - Diskussion darüber, wie KI die Cybersicherheit durch automatisierte Bedrohungserkennung, Reaktionssysteme und prädiktive Sicherheitsmaßnahmen verbessern kann