KI und Autonomie: Forschungsgruppe AIX engagiert sich bei der Leuphana Opening Week

Opening Week IN::SECURITY

Die Opening Week bildet alljährlich den ereignisreichen Auftakt zum Studium an der Leuphana. Studierende lernen die Universität und den Campus kennen und gewinnen einen ersten Eindruck von wissenschaftlichem Arbeiten. Im Sinne der interdisziplinären Ausrichtung der Leuphana beschäftigen sie sich Studiengangs übergreifend mit den gesellschaftlichen Herausforderungen unserer Zeit und arbeiten gemeinsam an kreativen Lösungen in Form von kritischen Kommentaren und visionären Kurzfilmbeiträgen.

Das diesjährige Leitthema IN::SECURITY nahm gesellschaftliche Herausforderungen wie Krieg, Klima, Arbeit und Technologie in den Fokus, die nicht zuletzt in der jungen Bevölkerung zukunftsbezogene Unsicherheiten hervorrufen. In Talks, Interviews und gemeinsamer Projektarbeit wurde sich mit den vier Themenbereiche Eskalation & Konflikt, Klima & Resilienz, Arbeit & Gerechtigkeit sowie KI & Autonomie beschäftigt.
Der vierte Themenbereich rund um KI & Autonomie wurde von Ricardo Usbeck, Professor für Wirtschaftsinformatik, insbesondere Künstliche Intelligenz und Erklärbarkeit, angeleitet und von Mitgliedern der Forschungsgruppe „Artificial Intelligence and Explainability Group (AIX) des Instituts für Wirtschaftsinformatik (IIS) betreut.

AIX: KI & Autonomie

Auch in ihrer täglichen Arbeit begegnet die AIX-Forschungsgruppe der Schnittstelle zwischen KI und Mensch und somit dem Spannungsfeld zwischen maschineller und menschlicher Autonomie. Für möglichst umfassende Automatisierung verzichten viele Anbieter heute auf Kontrollierbarkeit als Design-Prinzip und gewähren Systemen damit teilautonome Kapazitäten. Währenddessen basieren menschliche Entscheidungen immer stärker auf algorithmisch vorstrukturierten Möglichkeitsräumen, wodurch menschlich imaginierte Autonomie zu erodieren scheint.

Das disruptive Potenzial von KI zwingt dazu, neu über Arbeit, Ausbildung und Gesellschaft nachzudenken. Zeitgleich werden zunehmend leistungsfähigere KI-Tools entwickelt und für die Öffentlichkeit bereitgestellt. 
“Fortschritt benötigt Unsicherheit als Triebfeder”, konstatierte Ricardo Usbeck in einem Expert:innen Input in der Opening Week, „KI durchbricht jedoch traditionelle Denkmuster, sodass wir als Menschheit jetzt herausfinden müssen, wie wir die Entwicklungsgeschwindigkeit von KI steuern wollen, können und müssen.” In dem von Prof. Usbeck geführten Interview mit dem Experten für hybride Kriegsführung Oberst Sönke Marahrens wurde den Studierenden ein Einblick in den Einfluss digitaler Medien auf Krieg und seine Wahrnehmung gewährt – gefolgt von kritischer Diskussion. 

Von Kontrollverlust über Selbstbestimmung zu einer besseren Zukunft: Akademische Projektgruppen

In den akademischen Projektgruppen, die sich mit KI und Autonomie auseinandersetzten, wurden die Studierenden von den Expert:innen aus AIX thematisch angeleitet und fachlich beraten. So vermittelten H. Marlene Schulz, Debayan Banerjee und Jannis Gries in Impuls-Vorträgen die Grundlagen ihrer Forschung:

H. Marlene Schulz führte ihre Gruppen zum Thema „Breaking Bad: AI Agents and the Problem of Autonomy“ an aktuelle Sicherheitsvorfälle durch agentische KI heran, um die philosophische Frage nach der Unterscheidung zwischen menschlicher und maschineller Autonomie und damit einhergehender Verantwortung zu beantworten. Debayan Banerjee beleuchtete mit seinen Projektgruppen „AI and Autonomy: An Opportunity for a Better Future for Germany“ das Potenzial von KI und Autonomie für den Standort Deutschland und diskutierte mit den Teilnehmenden Risiken und Chancen für die Gesellschaft. Die Gruppen von Jannis Gries („Whose Choices? How AI Architectures Shape Human Autonomy“) haben sich mit Entscheidungs-Architekturen in KI-Systemen auseinandergesetzt und dabei die demokratische Legitimität aktueller KI-Verfassungen diskutiert. 

Preisgekrönt: “The Alignment Problem”

Nach einer intensiven Woche angeleiteter Auseinandersetzung zu den oben genannten Themen wurde von den Projektgruppen jeweils ein kritischer Kommentar sowie ein visionärer Kurzfilmbeitrag eingereicht. Besonders gelungene Ergebnisse wurden auf der Schlussveranstaltung der Opening Week preisgekrönt.

Hier zeigte sich das Engagement der AIX-Gruppe erfolgreich: Im Themenbereich KI & Autonomie wurde eine von H. Marlene Schulz angeleitete Projektgruppe für ihr Kurzfilmprojekt “The Alignment Problem” ausgezeichnet und final im Auditorium präsentiert. Der Beitrag porträtierte auf humoristische Weise ein mit menschlichen Werten und Intentionen nicht-abgestimmten KI-Roboter, der auf menschliche Anweisung mit dystopisch anmutenden Handlungen reagiert. Der Beitrag endete mit der Botschaft, dass auch agentische KI-Systeme keine eigenen Absichten verfolgen, sondern lediglich innerhalb menschlich gesetzter Vorgaben operieren, deren Anpassung in der Verantwortung der Entwickler:innen liegt.