Vorlesungsverzeichnis

Suchen Sie hier über ein Suchformular im Vorlesungsverzeichnis der Leuphana.

Veranstaltungen von Dr. Christoph Martin

Lehrveranstaltungen

Chancen und Risiken für Cybersicherheit durch KI-Systeme (Seminar)

Dozent/in: Christoph Martin, Peter Niemeyer

Inhalt: • Einführung in KI und Cybersicherheit o Überblick über KI-Technologien und ihre Bedeutung für die Cybersicherheit o Einführung in Schlüsselkonzepte und Terminologie • Grundlagen der Cybersicherheit o Untersuchung von Prinzipien der Cybersicherheit, Bedrohungen, Abwehrmaßnahmen sowie Übersicht zu neuen Bedrohungsszenarien durch den Einsatz von KI-Systemen o Wiederholung von ausgewählten Methoden des maschinellen Lernens • AI-Alignment und andere ethische Fragestellungen o Diskussion ethischer Fragen und Herausforderungen beim Alignment von KI-Systemen an menschliche Ziele, Präferenzen oder ethische Grundsätze o Ansätze zur Erklärbarkeit von KI-Systemen • Modellunabhängige Probleme mit datengetriebenen Systemen o Diskussion von modellunabhängigen Angriffen (bspw. data poisoning, model stealing) o Diskussion von Problemen, wie Datenqualität, Bias, Datenschutz und deren Auswirkungen auf die Leistung und Zuverlässigkeit von KI-Systemen • Modellspezifische Schwachstellen o Untersuchung von spezifischen Schwachstellen in KI-Modellen (z.B. adversarial attacks, prompt injections) und Mitigation o Analyse konkreter Angriffsmethode (bswp. Fast Gradient Sign Attack) • Einfluss von KI auf die Cyberbedrohungslandschaft o Diskussion über den Einfluss von generativer KI auf existierende Angriffe, wie Social Engineering und Malwaregenerierung • Chancen der KI in der Cybersicherheit o Diskussion darüber, wie KI die Cybersicherheit durch automatisierte Bedrohungserkennung, Reaktionssysteme und prädiktive Sicherheitsmaßnahmen verbessern kann