LIAS: Dr. Bruno Moreschi – Kreativer, weißer Fleck

Die Bilddatenbank ImageNet wurde an der Universität Stanford entwickelt und umfasst rund 14 Millionen Aufnahmen. Jedes Motiv sollte mit einem Stichwort beschrieben werden. „Die amerikanische Universität engagierte unterbezahlte Mikroarbeiter über die Crowdworking-Plattform von Amazon“, berichtet Bruno Moreschi. Die Beschäftigten wurden weder geschult, noch hatten sie ausreichend Zeit für die Beschreibung der Bilder.
Dennoch werden auf Basis dieser Datenbank Künstliche Intelligenzen geschult. Die inhaltliche Verkürzung sorgt für eine Schieflage, erklärt Bruno Moreschi: „Ein Bild ist mehr als ein Element.“ Der Künstler und Wissenschaftler zeigt ein Foto von einem kleinen Vogel an einem weiten Himmel. „Fast jeder würde dieses Motiv mit dem Wort „Vogel“ verschlagworten“, erklärt Bruno Moreschi. Der Kontext – also das Blau des Himmels und die Wolken – blieben ungenannt. Bei einem Tier-Foto führt diese Auslassung zu keinem großen Problem. Anders ergibt es sich, wenn auf dem Bild etwa ein weißer Mann zu sehen ist, der mit dem Stichwort „Mann“ getaggt wird. „Bilder von westlich aussehenden Menschen dominieren ImageNet“, erklärt Bruno Moreschi. Bei der Suchanfrage „Mann“ würde die KI also wahrscheinlich einen weißen Mann zeichnen und die Diversität der Hautfarben unterschlagen. „Wir wissen, dass die KI nicht neutral ist und kritisieren teils rassistische und sexistische Ergebnisse. Die Ursache liegt aber nicht nur in den Algorithmen, sondern auch in den Trainingsdaten“, sagt der Forscher. 
Als Künstler möchte Bruno Moreschi mit einem Kreativ-Experiment auf den Missstand aufmerksam machen: Er verdeckt den Teil des Bildes, der das Schlagwort lieferte mit einem weißen Quadrat - im Fall des Himmel-Fotos also den Vogel: „Ich fordere die Probanden auf, zu überlegen, was sich hinter dem Fleck befinden könnte, etwa ein Ballon, ein Flugzeug, ein Vogel oder eine Wolke. Mit diesem neuen, kreativeren Datensatz möchte Bruno Moreschi die KI –zumindest in Teilen - neu trainieren. „Ich nutze Kunst und künstlerische Praxis um besser zu verstehen, wie KI arbeitet“, erklärt der Forscher. 

Dr. Bruno Moreschi studierte Kunst an der Staatlichen Universität von Campinas (Unicamp, BR). Dort promovierte er in Bildender Kunst mit Studienaufenthalt an der Universität der Künste in Helsinki. Bruno Moreschi war ab September 2023 Forschungs-Stipendiat am Collegium Helveticum (ETH, Universität Zürich und ZHdK). Seit April 2024 ist Bruno Moreschi Fellow am LIAS der Leuphana Universität. Der Brasilianer arbeitet zudem als Autor, Künstler und Filmemacher.