KI-Kennzeichnung

Um die Möglichkeiten und Bedingungen für eine freiwillige Nutzung von KI-Werkzeugen in der Prüfungsleistung durch Studierende transparent zu machen, wird Lehrpersonen empfohlen, mit ihren Studierenden zu Beginn der jeweiligen Lehrveranstaltung die Regelungen zur Verwendung von KI-basierten Anwendungen (kurz: KI-Regelungen für Prüfungen) in der zur Veranstaltung gehörenden Prüfung abzustimmen und transparent zu machen.

Ziel der KI-Regelungen ist es, bereits zu Beginn einer Lehrveranstaltung eine größtmögliche Transparenz und Klarheit für Lehrende wie Studierende hinsichtlich des Umgangs mit KI-basierten Anwendungen herzustellen.

Die Lehrenden beschreiben die von ihnen gewählten KI-Regelungen in Bezug auf die Lehr-Lernziele. Es wird empfohlen, die KI-Regelungen in der Lehrveranstaltung den Studierenden zu erläutern und den Studierenden Möglichkeiten zu Anmerkungen zu geben. Dies dient auch der gemeinsamen Übung und Kulturbildung von Lehrenden und Studierenden für einen verantwortungsvollen und redlichen Umgang mit KI in Lehre und Prüfungen.

Um Regelungen zur Anwendung von KI-Tools zu entwickeln, können folgende drei grundsätzliche Varianten genutzt werden. Bei diesen handelt es sich um Vorschläge, die ausgewählt und übernommen, aber auch auf die jeweilige Fachdisziplin bzw. die Lehrveranstaltung zugeschnitten, erweitert oder modifiziert werden können.

Variante 1 kann für Veranstaltungen genutzt werden, die keine Einschränkungen in der Nutzung KI-basierter Tools vornehmen.

→ Muster für Variante 1

Bei Variante 2 ist der Einsatz von KI-basierten Anwendungen für die Bewältigung bestimmter Teilaufgaben erlaubt oder ausgeschlossen. Um die Teilaufgaben zu definieren, können beispielsweise folgende Handlungen unterschieden werden:

• Wissensgenerierende Handlungen: Recherche, Lektüre, Themenfindung, Fragestellung entwickeln, Wissensaneignung und -konkretisierung
• Textstrukturierende Handlungen: Gliederung und Aufbau der Arbeit
• Sprachlich-orientierte Handlungen: Formulieren, Übersetzen und sprachliches Überarbeiten des eigenen Textes

→ Muster für Variante 2

In Variante 3 ist die Nutzung von KI-basierten Anwendungen prinzipiell nicht erlaubt, da sie dem Erreichen der Lehr-Lernziele entgegenwirken.

→ Muster für Variante 3

Mitarbeiter:innen des Institute of Management and Organization haben eine Zusammenfassung zum Umgang mit KI im Seminar und bei dem Verfassen von Studienleistungen ertellt. Die Vorlage kann gerne genutzt und ggf. an Ihre Lehrveranstaltung angepasst werden.

→ AI Statement for Responsible Use in Academic Work

Der KI-Policy-Generator, der von der Otto-Friedrich-Universität Bamberg entwickelt wurde, unterstützt Sie als Lehrende dabei, eine Policy zur Anwendung von KI für ihr Seminar zu erstellen. Sie können aus 50 Textbausteinen auswählen, diese bearbeiten und verändern. Die fertige individuell zusammengestelle Policy können Sie herunterladen oder herauskopieren und den Studierenden zur Verfügung stellen. 

Die Vorteile sind: Sie als Lehrende haben an die Regelungen gedacht, die Ihnen wichtig sind, und die Studierenden haben die Sicherheit von eindeutigen Bestimmungen, wie sie KI in Ihrer Lehrveranstaltung nutzen dürfen und wie nicht. Beachten Sie bitte, dass die in den Textbausteinen genannten KI-Tools nur als Beispiele zu verstehen sind. 

→ KI-Policy Generator der Universität Bamberg

Den Generator empfehlen wir als Ergänzung zu den Empfehlungen zur KI-Nutzung, die die Leuphana in Kooperation mit dem Datenschutzbeauftragten und dem Justiziariat entwickelt worden sind. 

Ergänzend zum KI-Policy-Generator bietet das Karlsruher Institut für Technologie (KIT) einen Formular-Generator an. Lehrende können damit ein an ihre Lehrveranstaltung angepasstes Formular erstellen, in dem Studierende angeben, für welche Arbeitsschritte und in welchem Umfang sie KI eingesetzt haben. Das Formular wird als interaktive HTML-Datei gespeichert und kann den Studierenden beispielsweise über Moodle zur Verfügung gestellt werden.

→ KI-Formular-Generator des KIT

Neben dem Referenzieren KI-generierter Ergebnisse im Sinne einer Quelle ist die Dokumentation der Verwendung KI-basierter Hilfsmittel eine Möglichkeit, den Anteil KI-basierter Unterstützung transparent und nachvollziehbar kenntlich zu machen. Da sich Anforderungen und Rahmenbedingungen je nach Fach, Veranstaltung und Lernziel unterscheiden können, werden im Folgenden mehrere Optionen zur Dokumentation der Verwendung KI-basierter Anwendungen vorgestellt, die jeweils unterschiedliche Schwerpunkte setzen. Entsprechende Vorgaben sollten stets klar formuliert sowie jederzeit gut zugänglich sein und den Studierenden transparent kommuniziert werden.

Falls nur ein begrenzter Umfang an Informationen zu dokumentieren ist, kann dies mittels einfacher Stichpunktlisten geschehen. Wird z. B. im Rahmen einer spezifischen Leistungserbringung nur ein einzelnes KI-Tool zur Verwendung zugelassen, oder soll für eine nicht prüfungsrelevante Aufgabe lediglich angegeben werden, welches Tool zu welchem Zweck verwendet wurde, reicht ggf. eine stichpunktartige Auflistung.

Beispiel 1: Stichpunktliste der Arbeitsschritte, in denen ein bestimmtes KI-Chatsystem verwendet wurde

• zur Ideenfindung,
• zur Verbesserung sprachlicher Formulierungen,
• um Beispiele zu generieren oder zur Übersetzung.

Beispiel 2: Stichpunktliste KI-basierter Tools einschließlich Verwendungszweck

• elicit.com zur Literaturrecherche,
• semanticscholar.org zur Recherche,
• gamma.app zur Präsentationserstellung

MIt holistischer Dokumentation ist die umfassende Reflexion des Gebrauchs gemeint.

• Der Prüfungsleistung wird ein Absatz angefügt, in dem die eigene Arbeitsweise in Bezug auf den Einsatz von digitalen Werkzeugen reflektiert wird.
• Die Werkzeuge werden im Text benannt, ihre Verwendung beschrieben, mögliche Einflüsse auf die Prüfungsleistung als Freitext skizziert
• Es wird versichert, dass Regeln der guten wissenschaftlichen Praxis in Bezug auf die Übernahme und Kontrolle von generierten Inhalten beachtet werden.
• Eine Auflistung von Prompts oder generierten Inhalten erfolgt in der Regel nicht.

Um einen größeren Umfang an Informationen zu dokumentieren, können werkzeug-, arbeitsphasen- oder reflexionsorientierte Tabellen verwendet werden, die jeweils auf unterschiedliche Anforderungen abzielen.  

Eine Übersicht zu Anwendungsmöglichkeiten der folgenden Templates finden Sie in dem Artikel KI-Gebrauch im Studienkontext dokumentieren (Baresel et al. 2024)

Einzelne Templates zu den Dokumentationsmöglichkeiten finden Sie unter den folgenden Links:

Seit dem 2. August 2026 gelten die Transparenzpflichten des Art. 50 der EU-KI-Verordnung. Aus Sicht des EU-Verordnungsgebers bergen KI-Systeme, die mit natürlichen Personen interagieren oder Inhalte erstellen, ein besonderes Risiko.

Die in Art. 50 KI-VO festgelegten Regelungen sollen sicherstellen, dass Personen erkennen können, wenn sie unmittelbar mit einem KI-System interagieren oder mit bestimmten KI-generierten beziehungsweise KI-manipulierten Inhalten konfrontiert sind. Die Kennzeichnungspflicht dient dem Schutz der Personen vor Manipulation und Täuschung und soll sie in ihrer freien Entscheidungsfindung unterstützen. Prüfen Sie in jedem Einzelfall, ob Sie KI-Inhalte als Lehrende oder Forschende kennzeichnen müssen.

Ein häufiger Anwendungsfall ist die Erstellung von so genannten Deepfakes. Bei einem Deepfake handelt es sich um einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten oder anderen Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde. 

Eine Kennzeichnung ist insbesondere verpflichtend, wenn beispielsweise realistisch wirkende KI-Videos, Bilder oder Tonaufnahmen verwendet werden, in z.B. denen reale Personen oder solche, die real wirken, scheinbar etwas sagen oder tun, das tatsächlich nicht stattgefunden hat (z.B. KI-generierte Podcasts). Ein geeigneter Hinweis zu Beginn des Videos lautet etwa: „Dieses Video/dieses Audio wurde mit KI erzeugt. Die dargestellte/zu hörende Person hat diese Aussage nicht tatsächlich gemacht.“ 

Auch bei Chatbots oder digitalen Avataren muss transparent sein, dass die Kommunikation mit einem KI-System erfolgt. Ein Hinweis wie „Sie kommunizieren mit einem KI-gestützten Assistenzsystem“ ist in der Regel ausreichend. 

Für übliche Lehrmaterialien oder Benachrichtigungen an Studierende besteht dagegen meist keine gesetzliche Kennzeichnungspflicht, wenn sich diese an einen überschaubaren und abgrenzbaren Personenkreis richten. Das gilt beispielsweise für sprachlich überarbeitete Texte (z.B. E-Mails), KI-generierte Übungsfragen, Gliederungen, Icons oder erkennbar illustrative Bilder. Eine freiwillige Angabe wie „Mit Unterstützung von KI erstellt“ kann aus Gründen der Transparenz von Fall zu Fall dennoch sinnvoll sein. 

Bei KI-generierten Texten für die Öffentlichkeit (z.B. Pressemitteilungen) kann eine Kennzeichnung erforderlich sein, wenn sie Themen von öffentlichem Interesse betreffen und ohne verantwortliche menschliche Kontrolle veröffentlicht werden. Werden Inhalte fachlich geprüft, überarbeitet und von einer Person oder Einrichtung redaktionell verantwortet, greift diese Pflicht in der Regel nicht.

Die EU-Kommission stellt Symbole zur Kennzeichnung bereit (Icons in Leuphana-Farben im Brand Portal verfügbar). Bei einem Video sollten diese Symbole dauerhaft sichtbar sein. 
Unabhängig von der Kennzeichnung bleiben Lehrende für die Eigenständigkeit und fachliche Richtigkeit sowie für die Einhaltung von Datenschutz, Urheberrecht und Persönlichkeitsrechten verantwortlich.

Bei Fragen wenden Sie sich gerne an lehrservice@leuphana.de.