Beyond Scalable Diversity: Foundation Models and Epistemic Justice

• Dienstag, 1. Dezember / 14–16 Uhr / C40.530

• Diese Veranstaltung findet auf Englisch statt.
• Diese Veranstaltung findet vor Ort statt und bietet eine hybride Teilnahmemöglichkeit. Kontaktieren Sie uns, um den Link zum Teams-Meeting zu erhalten.
• Eine Anmeldung ist nicht erforderlich.

Grundlagenmodelle, darunter auch große Sprachmodelle, werden weithin als transformativer Durchbruch in der künstlichen Intelligenz gepriesen. Sie werden gemeinhin als skalierbare, multimodale Infrastrukturen dargestellt, die Wissen über Aufgaben und Domänen hinweg übertragen können. In diesem Beitrag hinterfrage ich ihre implizite Universalität, indem ich die Modellierung als performative Praxis betrachte: Modelle repräsentieren nicht lediglich eine bereits existierende Welt, sondern konfigurieren, was verständlich, umsetzbar und steuerbar wird. Anhand einer Untersuchung von Sprachmodellen, Text-zu-Bild-Systemen und einer neuen Generation von „Weltmodellen" des maschinellen Lernens zeige ich, wie ungleiche Datenressourcen und standardisierte Architekturen Heterogenität in vorherrschende epistemische Rahmen pressen. 

Sprachliche Vielfalt macht diese Dynamik besonders deutlich. Verzerrungen bei der Sprachmodellierung führen dazu, dass ressourcenarme Sprachen mit weniger Nuancen, Präzision und Effizienz dargestellt, interpretiert und verarbeitet werden, wodurch anglozentrische Referenzdaten lexikalische und kulturelle Unterschiede nivellieren. Entsprechende Verzerrungen erstrecken sich auch auf visuelle Modelle und ethnozentrische Darstellungen von Raum und Zeit. 

In Anlehnung an die Unterscheidung der Anthropologin Anna Tsing zwischen skalierbarer und bedeutungsvoller Vielfalt vertrete ich die Auffassung, dass das Hinzufügen von Sprachen, Identitäten, Modalitäten oder Daten zu vortrainierten Architekturen an sich die epistemische Ordnung, die sie vollziehen, nicht verändert. Epistemische Gerechtigkeit erfordert vielmehr, vielfältige Kommunikationssysteme und Wissenspraktiken als eigenständige Formen des Sehens, des Erkennens und der Weltgestaltung anzuerkennen und ihnen die Möglichkeit zu geben, die Gestaltung von Modellen und Evaluationsregimen grundlegend neu zu konfigurieren. 

Anhand anschaulicher Fallbeispiele, in denen Taxonomien pornografischer Plattformen in Grundlagenmodelle eingebettet werden und maschinelle Übersetzung Migrationsentscheidungen beeinflusst, zeige ich, dass es hier nicht nur um Repräsentation geht, sondern um soziomaterielle Konsequenzen: Wenn beispielsweise sprachliche Unterschiede in automatisierten Asylverfahren unterdrückt, verzerrt oder falsch übersetzt werden, kann dies dazu führen, dass den Menschen Glaubwürdigkeit, Fürsorge, Schutz, Ressourcen und Rechte verwehrt werden. 

Prof. Dr. Paula Helm hat den Lehrstuhl für Empirische Computerethik am Center for Critical Computational Studies (C3S) und am Institut für Soziologie der Goethe-Universität Frankfurt inne. An der Schnittstelle zwischen Science & Technology Studies (STS) und verantwortungsvoller KI befasst sich ihre Forschung mit Diversität und Sprachtechnologie, Plattformökonomien, Datenschutz, Internetsucht, der Infrastruktur-Ethik von Grundlagenmodellen sowie dem Einsatz von KI in sozialen Kontexten mit hohen Risiken. 

Ihr interdisziplinäres Profil spiegelt sich in ihrem aktiven Engagement in den deutschen und europäischen STS-Communities sowie in den internationalen FAccT- und AIES-Communities wider. Sie war Bereichsvorsitzende bei ACM/AAAI AIES, ist Mitglied von ELLIS Europe, Redaktionsmitglied des Cambridge Forum for AI und war Sprecherin des Gründungsvorstands von stsing e.V. Im Rahmen früherer und laufender Projekte arbeitet sie mit Gemeinschaften und zivilgesellschaftlichen Organisationen zusammen, darunter indigene Gemeinschaften im Amazonasgebiet sowie NGOs, die sich mit Migration, Sprachgerechtigkeit und digitalen Rechten befassen. 

cdcforum@leuphana.de