Course Schedule

Veranstaltungen von Dr. Christoph Martin


Lehrveranstaltungen

Chancen und Risiken für Cybersicherheit durch KI-Systeme (Seminar)

Dozent/in: Christoph Martin, Peter Niemeyer

Termin:
Einzeltermin | Fr, 25.10.2024, 12:15 - Fr, 25.10.2024, 19:45 | C 7.319 Seminarraum
Einzeltermin | Sa, 26.10.2024, 10:15 - Sa, 26.10.2024, 19:45 | C 7.319 Seminarraum
Einzeltermin | Sa, 09.11.2024, 10:15 - Sa, 09.11.2024, 17:45 | C 7.319 Seminarraum
Einzeltermin | Fr, 10.01.2025, 12:15 - Fr, 10.01.2025, 19:45 | C 7.319 Seminarraum
Einzeltermin | Sa, 11.01.2025, 10:15 - Sa, 11.01.2025, 17:45 | C 7.319 Seminarraum

Inhalt: • Einführung in KI und Cybersicherheit o Überblick über KI-Technologien und ihre Bedeutung für die Cybersicherheit o Einführung in Schlüsselkonzepte und Terminologie • Grundlagen der Cybersicherheit o Untersuchung von Prinzipien der Cybersicherheit, Bedrohungen, Abwehrmaßnahmen sowie Übersicht zu neuen Bedrohungsszenarien durch den Einsatz von KI-Systemen o Wiederholung von ausgewählten Methoden des maschinellen Lernens • AI-Alignment und andere ethische Fragestellungen o Diskussion ethischer Fragen und Herausforderungen beim Alignment von KI-Systemen an menschliche Ziele, Präferenzen oder ethische Grundsätze o Ansätze zur Erklärbarkeit von KI-Systemen • Modellunabhängige Probleme mit datengetriebenen Systemen o Diskussion von modellunabhängigen Angriffen (bspw. data poisoning, model stealing) o Diskussion von Problemen, wie Datenqualität, Bias, Datenschutz und deren Auswirkungen auf die Leistung und Zuverlässigkeit von KI-Systemen • Modellspezifische Schwachstellen o Untersuchung von spezifischen Schwachstellen in KI-Modellen (z.B. adversarial attacks, prompt injections) und Mitigation o Analyse konkreter Angriffsmethode (bswp. Fast Gradient Sign Attack) • Einfluss von KI auf die Cyberbedrohungslandschaft o Diskussion über den Einfluss von generativer KI auf existierende Angriffe, wie Social Engineering und Malwaregenerierung • Chancen der KI in der Cybersicherheit o Diskussion darüber, wie KI die Cybersicherheit durch automatisierte Bedrohungserkennung, Reaktionssysteme und prädiktive Sicherheitsmaßnahmen verbessern kann