Sozialkredit-System in China und Datenkapitalismus im Westen – Herrschaft durch Scoring und datengeschützte Simulation von Gesellschaft

Konferenz und Buchvorstellung // MECS | Lüneburg, online // 18.06.2021, 9:00 – 19.06.2021, ca. 18:00

Wir alle nutzen soziale Medien im Internet, lassen uns durch Karten-, Spiele- oder Wetter-Apps orten, mit Wearables vermessen und befragen Suchmaschinen nach allem, was wir wissen wollen. Wie weit sind wir bereits abhängig, werden manipuliert und kontrolliert? Welche Konzerne und politischen Interessengruppen nutzen die Einfluss-Möglichkeiten des Internets für kommerzielle oder politische Zwecke in liberalen Gesellschaften? Wie nutzen autoritäre Regierungen diese Einfluss-Möglichkeiten zum Machterhalt gegenüber ihren Bürger*innen? In welcher Art von Gesellschaft wollen wir leben?  Wie ist das enorme Machtgefälle zwischen betroffenen Usern und datenverarbeitenden Organisationen zu bewerten, vielleicht sogar zu ändern, zumal die städtische Lebensumgebung in Form von Smart Cities komplett datafiziert werden wird? Wie unterscheiden sich fernöstliche Indoktrination mittels ubiquitärer Überwachung und Steuerung vom datenbasierten Manipulationskapitalismus im Westen?

Chinas Sozialkredit-System erscheint als Realisierung dystopischer Simulationen, Prognosen oder als moderne staatliche Kybernetik. Wir untersuchen, was Kredit-Scoring, Schufa, Creditreform, Facebook, Bonussysteme von Krankenkassen, Payback-Systeme, Videoüberwachung, staatliche und private Datensammlungen in Europa voneinander unterscheidet und wie der Zusammenhang zwischen dem Internet als Kommunikations-Infrastruktur und als rezenter Herrschaftstechnik zu beschreiben ist. Die Tagung erörtert, welches Gewicht digitalisierte Systeme erlangen, wenn sie etwa in automatisierter Rechtsprechung eingesetzt werden

Auf der Konferenz erörtern Sinologen, Informatikerinnen, Kommunikations-, Medien-, Politik- und Kulturwissenschaftler und -wissenschaftlerinnen diese Fragen anhand von Beispielen innerhalb und außerhalb Chinas. Die Wissenschaftlerinnen bieten vielfältige Perspektiven auf ein globales Phänomen an, sie diskutieren auch Fragen um die sogenannte Smart-City als Ziel von (Alb-)Träumen digitalisierter Kontrolle.
        
Original-Texte der Konzeption und Ausgestaltung des Sozialkredit-Systems liegen jetzt in deutscher Übersetzung vor und werden in Buchform auf der Konferenz vorgestellt: M. Woesler und M. Warnke (Hg.) Sozialkybernetik in statu nascendi - Die Entstehungsgeschichte des chinesischen Sozialkreditsystems. Berlin: Matthes & Seitz 2021.

 

Zur Tagung wurde ein Reader mit den Beiträgen der Vortragenden bereit gestellt. Konferenz-Sprache war Deutsch.

Die Tagung fand online statt.

 

Kontakt

Martin Warnke
warnke@leuphana.de
 

Programm

Freitag, 18.06.2021

I
 

I Aspekte des Datenkapitalismus, Selbstdarstellung, Kontrolle und Widerstand 

9:00 Ankommen

9:20 Begrüßung
 

9:30-10:00 Andreas Bernard: Komplizen des Erkennungsdienstes: Das Selbst in der digitalen Kultur

  • 10:00-10:20 Uhr Rückfragen und Diskussion zum Vortrag
     

10:30-11:00 Wolfgang Coy: ›Wir schaffen Vertrauen!‹ Bewertung von Schuldfähigkeit durch die SCHUFA und ähnliche Einrichtungen 

  • 11:00-11:20 Uhr Rückfragen und Diskussion zum Vortrag
     

11:30 Kaffeepause
 

12:00-12:30 Andrea Knaut: Ich stimme zu & weiter – Probleme der „freiwilligen“ und „informierten" Zustimmung zu den Terms of Use der GAFAM

  • 12:30-12:50 Rückfragen und Diskussion zum Vortrag
     

13:00-13:30 Linus Neumann: Hacker-Ethik und gesellschaftliche Verantwortung

  • 13:30-13:50 Rückfragen und Diskussion zum Vortrag

 

14:00 Mittagspause

 

II Zum Stand des Sozialkredit-Systems in der VR China

15:00-15:30 Martin Warnke: Sozialkybernetik in statu nascendi. Die Entstehungsgeschichte des chinesischen Sozialkreditsystems – Quellentexte zum chinesischen SCS

  • 15:30-15:50 Rückfragen und Diskussion zum Vortrag
     

16:00-16:30 Antonia Hmaidi: „Das“ chinesische Sozialkreditsystem – Kann es Ressourcen fairer verteilen und Vertrauen wieder herstellen?

  • Rückfragen und Diskussion zum Vortrag 16:30-16:50
     

17:00-17:30 Martin Woesler: ‚Vermessene’ Menschen – An der Schwelle zur Kommunikationsepoche 5.0 und einer Smart Society zwischen Utopie und Dystopie

  • Rückfragen und Diskussion zum Vortrag 17:30-17:50

 

18:00 Schluss
 

 

Samstag, 19.06.2021

III

III Sozialkredit-System in der VR China in Wirtschaft und Recht  

9:30 Ankommen

10:00-10:30 Doris Fischer: SCS für Unternehmen – Macht das Sinn?

  • Rückfragen und Diskussion zum Vortrag 10:30-10:50
     

11:00-11:30 Marianne v. Blomberg: Regulierung durch Shaming – Das Sozialkreditsystem als Pranger für Umweltsünder, Steuerschuldner, Lockdown-Ignoranten und andere Gesetzesbrecher

  • Rückfragen und Diskussion zum Vortrag 11:30-11:50

 

12:00 Mittagspause

IV

IV Die Zukunft mit Sozialkredit-Systemen – Technologische Herrschaft

13:00-13:30 Rainer Rehak: Hongkong. Von der „City of Convenience“ zur „City of Control“

  • Rückfragen und Diskussion zum Vortrag 13:30-13:50
     

14:00-14:30 Thomas Winklmeier: California über allem. Die Smart City als kybernetisches Projekt

  • Rückfragen und Diskussion zum Vortrag 14:30-14:50
     

15:00 Kaffeepause 
 

15:30-16:00 Katika Kühnreich: Social Credit, Sicherheit und Freiheit. SCS, Kybernetik und Propaganda – Die Datafizierung von Menschen und Systemen

  • Rückfragen und Diskussion zum Vortrag 16:00-16:20
     

16:30-17:00 Ende des Vortragsprogramms. 
Möglichkeit zum Austausch zwischen ReferentInnen und TeilnehmerInnen (ggf. Gesprächsräume), Ende offen.
 

 

 

Abstracts der Vortragenden

Andreas Bernard

Andreas Bernard

Andreas Bernard
Komplizen des Erkennungsdienstes: Das Selbst in der digitalen Kultur

Der Vortrag geht von der Beobachtung aus, dass auffällig viele Verfahren der Selbstpräsentation und Selbsterkenntnis in der digitalen Kultur auf Methoden zurückgehen, die in der Kriminologie, Psychologie und Psychiatrie seit dem späten 19. Jahrhundert erdacht wurden. Das Format des „Profils“, in den Sozialen Netzwerken heute unbestrittener Ort der Selbstdarstellung, entstand als „psychiatrisches Profil“ von Internierten oder als „Täterprofil“ von Serienmördern. Die Selbstortung auf dem Smartphone, ohne die keine Registrierung bei Uber oder Lieferando möglich wäre, nutzt eine Navigationstechnologie, die bis vor zehn Jahren hauptsächlich im Zusammenhang mit dem Einsatz von Peilsendern in der Polizeifahndung oder mit der elektronischen Fußfessel bekannt war. Und die Vermessungen der „Quantified Self”-Bewegung zeichnen Körperströme auf, die einst die Entwicklung des Lügendetektors voranbrachten. Der Vortrag geht der irritierenden Frage nach, warum Geräte und Verfahren, die bis vor kurzem Verbrecher und Wahnsinnige dingfest machen sollten, heute als Vehikel der Selbstermächtigung gelten.

Wolfgang Coy

Wolfgang Coy

Wolfgang Coy
›Wir schaffen Vertrauen!‹ Bewertung von Schuldfähigkeit durch die SCHUFA und ähnliche Einrichtungen

Das Wort Schulden weist darauf hin, daß manche finanzielle Verpflichtungen neben ihrer ökonomischen Dimension auch eine moralische Komponente tragen: „Schulden müssen beglichen werden!“ Dabei ist die Monetarisierung von Schulden gerade umgekehrt der Transfer von letztlich nicht exakt bewertbarer Schuld in eine numerisch festgelegte Geldsumme mit Basiswert, Zins und Laufzeit, die Entlastung der moralischen Verpflichtung der Rückgabe auf die finanzielle Ebene der Rückzahlung jenseits persönlicher Beziehungen. Schulden könnten ja auch von Dritten beglichen werden. Ein Rest der persönlichen Schuld bleibt freilich trotz dieser historischen Wandlung von Ethik zu Wirtschaft: Der Gläubiger fühlt sich berechtigt, die finanzielle Leistungsfähigkeit des Schuldners so genau wie möglich zu erkunden und zu bewerten, am Besten mittels numerischer Vergleichswerte, sogenannten Scores. 

Seit Mitte der Zwanziger Jahre des letzten Jahrhunderts geschieht dies formell und rechtlich verankert über wirtschaftliche Auskunftsdateien, deren bekannteste Ausprägung in (West-)Deutschland die „Schutzgemeinschaft für allgemeine Kreditsicherung (SCHUFA)“ ist. Bei finanziellen Verträgen ist es fast zwanghaft üblich, daß Gläubiger (Banken, Versicherungen u.ä.) von prospektiven Schuldnern persönliche Daten mit dem Schwerpunkt finanziell relevanter Daten einsehen wollen, um daraus einen oder mehrere Scoring-Werte zu berechnen. An Hand dieser Daten und Werte wird die Kreditwürdigkeit des Schuldners und die konkrete Ausprägung eines Leihvertrages (heutzutage per Computerprogramm) festgelegt. Derzeit sind Datenbestände von knapp 70 Mio. natürlichen Personen und von über 6 Mio. Unternehmen von der SCHUFA erfasst. Firmenkunden im vertraglichen Sinne sind dabei nur etwa 10000 (weniger als 2‰) – ein beeindruckendes gesellschaftliches Überwachungssystem. 

Die Scoring-Verfahren sind nicht unproblematisch. So ist u.a. zu klären:  

  •      Kann Vertrauen mittels Scoring numerisch erfasst werden? 
  •      Welche Werte gehen berechtigter Weise in den Score ein? 
  •      Welche Werte dürfen nicht erhoben bzw. ausgewertet werden? 
  •      Wie wird der Score berechnet? 
  •      Wie wird gesichert, daß die Werte korrekt sind – und es über die Laufzeit bleiben (Updates)? 
  •      Wer hat Zugriff auf welche Daten? 
  •      Wie bleiben die Daten der Beteiligten geschützt?  

Die Macht über das Scoring-Verfahren ist ungleich verteilt. Die Gläubiger müssen nahezu keine Daten herausgeben, die Schuldner erfahren (in Deutschland) nicht einmal, wie der Score genau berechnet wird („Geschäftsgeheimis“). Die Gläubiger können ohne genaue Begründung ablehnen; die Schuldner müssen hoffen. Das geschaffene „Vertrauen“ aus dem Motto der SCHUFA bleibt ein Angebot an die Gläubiger-Seite. 

Im Lauf der Zeit hat die SCHUFA unter politischem Druck Angebote für die Gläubiger wie einen „Verbraucherbeirat” oder einen „Ombudsmann” etabliert. Trotzdem ist dies ein privatwirtschaftliches Verfahren und solche Veränderungen bleiben unter der Kontrolle der Organisation. Der Gesetzgeber kann freilich versuchen, die Ausprägungen steuern – was gelegentlich, wenngleich selten, geschieht. 

 

 

Andreas Knaut

Andrea Knaut

Andrea Knaut
Ich stimme zu & weiter

Die Praktiken und Regeln großer Tech-Unternehmen wie Apple, Amazon, Google oder Facebook sind in einer Palette von Vertragsdokumenten und Regelungen wie "Terms of Service", "Conditions of Use" oder "Privacy Policy" transparent für alle User einsehbar. Das akzeptierende Wegklicken dieser Regeln ist gängige Alltagsroutine beim Surfen durch das Netz. Ähnlich läuft es mit den Cookie-Einwilligungsbannern, die inbesondere mit den verschärften Anforderungen an eine aktive Einwilligung der User in personenbezogenes Tracking Einzug hielten. 

Betroffene User und datenverarbeitende Organisationen sind in einer derart unausgewogenen Machtbeziehung, dass eine Einwilligung seitens der Betroffenen nahezu ohne jede Alternative zu sein scheint. 

Dennoch inszenieren sich die übermächtigen datenverarbeitenden Unternehmen facettenreich: Pohle hat 2016 in einer Analyse dieser Regeln gezeigt, dass die genannten Unternehmen ihre Rolle als Datenverarbeitende und ihr Konzept Privatheit ("privacy") in Übereinstimmung mit ihren Geschäftsmodellen auf vielschichtige Weise rahmen: Sie treten gleichermaßen drohend, vermittelnd, als unbeteiligte Zuschauer*innen oder als die Privatsphäre ihrer User schützende Entitäten auf.

Der Vortrag soll sich damit auseinandersetzen, inwiefern gerade auch diese Inszenierung und Rahmung bei den Betroffenen trotz aller Datenschutzregelungen zu einer vermeintlich informierten und freiwilligen Zustimmung zu umfassender Datensammlung,  -erfassung und -auswertung führt.

Linus Neumann

Linus Neumann

Linus Neumann
Hacker-Ethik und gesellschaftliche Verantwortung

Schon lang bevor die „digitale Gesellschaft“ Realität wurde, hielten sich jene, die sie errichteten, an ein paar einfache ethische Prinzipien. Wie steht es heute um diese Säulen der Informationsgesellschaft? Konnten sie sich durchsetzen, oder wurden sie überrollt?

Martin Warnke

Martin Warnke

Martin Warnke
Sozialkybernetik in statu nascendi. Die Entstehungsgeschichte des chinesischen Sozialkreditsystems – Quellentexte zum chinesischen SCS

Seit den 1980er-Jahren erlebt China einen bemerkenswerten wirtschaftlichen Aufschwung. Im Zuge dessen wurden auch negative Erscheinungen wie Raubkopien und Produkt-Piraterie, Patentverletzungen und Trickbetrügereien festgestellt. Verschiedene Regierungsbehörden konstatierten ein Vertrauensdefizit in Bürger und Organisationen im Lande. Seit Anfang des 21. Jh. wurden daraufhin regionale Testläufe eines „gesellschaftlichen Vertrauenswürdigkeits-Systems“ mit punktebasierten Beurteilungen für Bürger und Organisationen durchgeführt. 2002 begründete Präsident Jiang Zemin in einer Plenumsrede des 16. Zentralkomitees dies mit einer Förderung des freien Flusses in der Wirtschaft. 2007 beschloss der Staatsrat offiziell die Einführung. Im anglophonen Kontext wurde der Begriff „Social Credit System“ (SCS) geprägt, hier mit „Sozialkredit-System“ wiedergegeben. Große IT-Unternehmen bewarben sich mit privaten kommerziellen Punktesystemen (z.B. Alibabas Sesame Credit-System) und unterschiedlichen Punktzahlen um den offiziellen Staatsauftrag. 2014 beschloss der Staatsrat, das SCS bis 2020 flächendeckend einzuführen. Im Laufe der Zeit wurde in offiziellen Texten stets behauptet, das SCS entspreche genau der jeweils gegenwärtigen politischen Ausrichtung oder Terminologie wie der „sozialistischen Marktwirtschaft chinesischer Prägung“ oder den Ideen Xi Jinpings, dabei geht es zurück bis auf das Jahr 2000 und früher.

Die vorliegende Materialsammlung legt erstmalig ausgewählte Original-Dokumente in deutscher Übersetzung vor,

  • die die Entstehung und Vorgeschichte seit 2002 chronologisch belegen, 
  • die systematische Ausweitung von ursprünglich rein auf die Wirtschaft bedachten auf gesamtgesellschaftliche Bewertungs- und Anwendungsfelder nachzeichnen, 
  • die Motivation und Zielsetzung des Systems beschreiben, 
  • die Bewertungskategorien und die bewerteten Handlungen, die beteiligten Behörden, die Zusammenarbeit mit globalen Unternehmen erörtern, 
  • die Ausrichtung auf Operationalisierbarkeit und informationstechnische Implementierung aufzeigen, 
  •  die Wirkung nach innen, auf den chinesischen Staat und seine Bevölkerung sowie seiner Wirkung nach außen auf internationale Handelspartner erörtern. 

Das zugehörige Buch wird 2021 bei Matthes & Seitz erscheinen:

Martin Woesler und Martin Warnke: Sozialkybernetik in statu nascendiDie Entstehungsgeschichte des chinesischen Sozialkreditsystems, Matthes & Seitz 2021

Über das chinesische Sozialkreditsystem wird viel und kritisch berichtet, dabei stammen die Vorbilder aus den USA, Japan – und auch aus Deutschland. Was der Westen zum Zweck der finanziellen Kreditsicherung in Form etwa der SCHUFA in die Welt gesetzt hat, soll nun im Osten zur Gesamtsteuerung eines Eineinhalb-Milliarden-Volkes dienen und wurde bereits weitgehend implementiert. Der atemberaubende Aufstieg eines Systems zum Schutz vor Kreditausfall hin zur kybernetischen Massenkontrolle mit Hilfe von Strafen und Anreizen, einem antiken Scherbengericht ähnlich, das sozialen Aus- oder Einschluss regelt, lässt sich hier erstmals anhand von ausführlich kommentierten chinesischen Quelltexten nachvollziehen. Dabei wird deutlich, dass durch das Sozialkreditsystem (Staats-)Kapitalismus und Kommunismus eine revolutionäre Verbindung eingehen können: auf Grundlage einer dem Anspruch nach informatischen Totalkontrolle und -bewertung eines ganzen Sozialwesens, ähnlich aufgebaut und wirkend wie die technischen Protokolle, die das Internet ermöglichten. Das hier dokumentierte System wirkt sowohl nach innen, ins ganze chinesische Volk mit allen seinen Institutionen, wie auch nach außen, als regulierende Schnittstelle zum globalen Kapitalismus. Auch westliche Unternehmen und Organisationen in China sind Teil des Sozialkreditsystems, das im Übrigen auch zum Export in westliche Länder gedacht war. Persönliches Vertrauen, einst die Basis allen Geldverkehrs, muss im Turbokapitalismus durch instantane binäre und informatisierte Entscheidungen ersetzt werden, wozu die bislang existierenden Wirtschaftssysteme noch unfähig waren. Wer die Entwicklungen in China – und auch die im Westen, der in Sachen Konsumentensteuerung auch nicht untätig ist – verstehen will, wird in diesem Buch überraschende neue Erkenntnisse erhalten.

 

 

 

 

Antonia Hmaidi

Antonia Hmaidi

Antonia Hmaidi
„Das“ chinesische Sozialkreditsystem – Kann es Ressourcen fairer verteilen und Vertrauen wieder herstellen?

„Das” chinesische Sozialkreditsystem (SCS) hat in den letzten Jahren viel Medienecho erfahren. Akademische Forschung zu SCS ist noch eher rar, auch, da es noch nicht national implementiert ist. Stattdessen gibt es eine Reihe von (bis zu 70) Pilotprojekten, die sich zum Teil deutlich unterscheiden. Manche, wie in Rongcheng, sind relativ weit fortgeschritten, und in bestehende Verwaltungseinheiten integriert. Andere, wie "honest Shanghai", sind mehr gamifiziert.

Alle diese Systeme haben gemeinsam, dass sie kein reines Kreditsystem wie z.B. das deutsche Schufa-System (oder der amerikanische FICO-Score) sein sollen, sondern umfassendere Projekte, die Menschen „vertrauenswürdiger” machen sollen. Die formulierten Ziele der Regierung sind zweifaltig: 1. Eine effizientere Verteilung von Ressourcen, auch dadurch, die Wirtschaft kreditbasierter zu machen und 2. die Erziehung der chinesischen Staatsbürger zu moralisch guten Menschen.

Es gibt noch keine Daten dazu, wie erfolgreich diese Programme darin sind, die von der Regierung formulierten Ziele zu erfüllen. Dieser Vortrag wird daher ein von mir aufgebautes Agenten-basiertes Modell vorstellen. Dieses Modell verwendet zur Kalibrierung Daten von den Pilotprojekten, soweit sie uns vorliegen. Durch die Verwendung von Erkenntnissen aus der Verhaltensökonomik generiert das Modell mögliche Ergebnisse eines solchen Systems.

Vorläufige Ergebnisse zeigen, dass der High-Level Blueprint der Zentralregierung nicht spezifisch genug ist. Daher ist damit zu rechnen, dass es weiterhin viel regionale Variation geben wird, was zu einem "race to the bottom" führen könnte. Insoweit Menschen viel Einfluss auf das Berichten der Daten haben, werden auch bestehende Herrschaftssysteme reproduziert, was zu weiter gehender Diskriminierung führen kann.

Durch das Zusammenfassen von disparaten Daten auf eine Kennzahl wird auch das „Freikaufen“ möglich, insbesondere, da alle bisher bekannten Systeme Punkte für Spenden vergeben. Das Ziel der effizienteren Verteilung von Ressourcen ist mit so einem breiten Punktesystem kaum möglich. In Simulationen funktionierte das System nicht besser als ein System, das nur das Einkommen zur Kreditvergabe berücksichtigt. Um die Performance zu verbessern, musste entweder eine extra Bewertung der Kreditwürdigkeit erfolgen, oder ökonomische Indikatoren für Kreditwürdigkeit sehr viel stärker gewichtet werden.

Verhaltensökonomik zeigt uns auch, dass das Bestrafen von unerwünschtem Verhalten dieses Verhalten ermutigen kann. Gleichzeitig kann das Belohnen von erwünschtem Verhalten die intrinsische Motivation für dieses Verhalten vermindern. Das Sozialkreditsystem kann so das Vertrauen der chinesischen Bevölkerung ineinander weiter verringern. Menschen mit sehr hohen und sehr niedrigen Punktzahlen könnten erwünschtes Verhalten auch nicht mehr als notwendig erachten.

Insgesamt erscheint das Sozialkreditsystem damit als ungeeignetes Instrument, um die erklärten Ziele durchzusetzen. Stephen Johnson argumentiert sogar, dass

“What China is doing here is selectively breeding its population to select against the trait of critical, independent thinking. This may not be the purpose, indeed I doubt it’s the primary purpose, but it’s nevertheless the effect of giving only obedient people the social ability to have children, not to mention successful children.”

(https://bigthink.com/stephen-johnson/a-look-at-chinas-orwellian-plan-to-give-every-citizen-a-social-credit-score)

Neben den von der Regierung formulierten Zielen gibt es aber sicherlich auch versteckte Ziele, u.a. die bessere Kontrolle der chinesischen Bevölkerung und letztendlich die Machterhaltung der Kommunistischen Partei.

 

 

Martin Woesler

Martin Woesler

Martin Woesler
‚Vermessene’ Menschen – An der Schwelle zur Kommunikationsepoche 5.0 und einer Smart Society zwischen Utopie und Dystopie

Die chinesische Gesellschaft ist nach Foucault eine Kontroll-Gesellschaft: Die Überwachung ist beinahe total, Algorithmen analysieren Big Data, es gibt kaum Schutz von Privatsphäre/Datenschutz, stattdessen disziplinarische Sanktionen. Die Kommunikation geht über Luhmanns Medienepoche 4.0 (1997) hinaus. Er beschrieb die Maschine durch Oberfläche und Tiefe. In China befinden wir uns im Inneren der Maschine, die Kommunikation verlagert sich von der zwischenmenschlichen auf die zwischen Maschinen, was uns in die Medienepoche 5.0 versetzt.

Das Individuum wird durch ein Social Credit System (SCS, bis 2020 weitgehend realisiert) digital gemessen, bewertet, gesteuert und von außen beeinflusst. Nach Warnke 2019 kann das SCS teilweise als Protokoll beschrieben werden (Galloway 2004). Es erfordert technisch die Einhaltung der Regeln, Nicht-Einhaltung führt zur Nicht-Teilnahme (Gamification-Logik). Da das SCS eine kreative und flexible Kombination von verschiedenen Datenquellen ist (die nicht immer verfügbar sind und sich widersprechen können), kann es teilweise auch als Plattform und Stack beschrieben werden (Bratton 2015).

Wie weit ist das Individuum steuerbar? Der Behaviorismus sagt weitgehend (Skinner 1974), totalitaristische Ideologien versuchen, die Gedanken mit verschiedenen Mitteln zu kontrollieren (siehe das "unbeschriebene Blatt" von Mao 1958). Das neoliberalistische Facebook kennt das Individuum besser als es sich selbst kennt und manipuliert das Individuum. Die SCS bekommt durch Gehirnwäsche, unfreies Setting von Umfragen und dem Glück der Einfältigen (mit Ausbrüchen von Kritik/Gewalt) ein positives Feedback. Die menschliche Hybris hat mit Kybernetik und Planwirtschaft experimentiert, um eine Utopie zu schaffen, ist aber gescheitert und in einer Dystopie gelandet. Der Cyber-Sozialismus startet einen weiteren Versuch. Der Neoliberalismus konzentriert sich auf wirtschaftliche Ausbeutung und weniger auf politische Manipulation. Die digitale Demokratie ist möglicherweise nicht in der Lage, die wachsenden zukünftigen Bedrohungen (manipulierte Viren etc.) durch einzelne Terroristen einzudämmen, und sucht nach einer Balance zwischen digitaler Überwachung und individueller Freiheit.

Das chinesische Individuum wird von der Vorschule bis nach der Pensionierung erzogen und gelenkt, wobei 10 Prozent des Schulunterrichts, der Hochschul-Curricula und der Ausbildung am Arbeitsplatz (ab Abteilungsleiter aufwärts) der ideologischen Indoktrination gewidmet sind, die durch persönliche Tutoren, psychologischen Druck und Gruppendynamik verstärkt wird. Um eine Universität besuchen zu können, muss man zuerst beim Militär dienen. Militärcamps befinden sich in Campus-Nähe.

 

 

Doris Fischer

Doris Fischer

Doris Fischer
SCS für Unternehmen – Macht das Sinn?

Das chinesische Sozialkreditsystem wird meist in seinen (möglichen) Auswirkungen auf Individuen diskutiert. Tatsächlich ist das SCS für Unternehmen weiter fortgeschritten. In diesem Bereich wird es auch aktiv von Marktteilnehmern genutzt und erfüllt Funktionen, die auch in anderen Wirtschaftsordnungen durchaus erwünscht sind. Worin aber liegen die Unterschiede im Detail und was bedeuten sie für ausländische Unternehmen in China?

Marianne von Blomberg

Marianne von Blomberg

Marianne von Blomberg
Regulierung durch Shaming – Das Sozialkreditsystem als Pranger für Umweltsünder, Steuerschuldner, Lockdownignoranten und andere Gesetzesbrecher

Das Sozialkreditsystem ist unter anderem eine Strategie zur systematischen Nutzung von Reputation in behördlicher Regulierungsarbeit. Um die Einhaltung von Vorschriften zu verbessern, kennzeichnet das System Individuen, Unternehmen und andere Organisationen, welche gegen Gesetze und Verordnungen verstoßen als „Vertrauensbrecher“ und treibt die Veröffentlichung und Verbreitung ihrer Namen auf „schwarzen Listen“ sowie als „negative Sozialkreditinformationen“ über offizielle Kanäle wie Onlineportale und öffentliche Aushänge, Funk und Fernsehen, Zeitungen und die eigens geschaffenen Apps voran. Gerahmt von der moralisch aufgeladenen Rhetorik um „Vertrauen“, unterstützt von einer zentralen politischen Strategie von höchster Priorität und ausgestattet mit einem noch fehlerhaften Reparaturmechanismus zur Berichtigung schafft China so ein Reputationsregulierungssystem von bisher nie gesehenem Umfang. Dieser Umfang und das autoritäre Umfeld des SKS erfordern ein Umdenken der konventionellen Theorie von reputationsbasierter Regulierung, um sie für die Beobachtung des SKS nutzbar zu machen: So sind öffentliche Gegenreaktionen seitens der Adressaten, welche die Legitimität der behördlichen Maßnahmen infrage stellen, unwahrscheinlich. Andere Fragen gewinnen an Relevanz: Wie nimmt die Öffentlichkeit die über staatlich dominierte Kanäle verbreiteten Informationen wahr, und kann das ehrgeizige „öffentliche Meinungsmanagement“ des Staates eine Überstigmatisierung verhindern? 

 

 

Katika Kühnreich

Katika Kühnreich

Katika Kühnreich
Social Credit, Sicherheit und Freiheit
SCS, Kybernetik und Propaganda – Die Datafizierung von Menschen und Systemen

Die chinesischen SCS werden sowohl in der wissenschaftlichen als auch der populären Debatte oft als Sonderfall betrachtet. Weniger Aufmerksamkeit erhält hingegen die Kybernetik als eine der Weltanschauungen hinter der Datafizierung von Menschen und Systemen sowie deren Einfluss auf politisches Denken und Handeln auch außerhalb Chinas. Weniger im Fokus stehen auch die Methoden, mit denen Menschen zur Partizipation an derartigen Systemen initiiert werden. Die Datenströme des 21. Jahrhunderts, ihre Beeinflussung und Regelung sowie das Menschenbild haben eine neue Art der Herrschaft möglich gemacht, an deren Anfang wir erst stehen. In quasi-religiöser Weise werden die Vorteile der Datafizierung beworben und gerne mit populären Themen wie dem Klima- und Umweltschutz verknüpft, die Nachteile der selben Technologien für Umwelt und Menschenrechte aber weniger beleuchtet.

Es existieren spannende und komplexe Analysen über die Formen und Funktionen der immer komplexer werdenden Datensysteme. Seltener wird Zukunft, in die sie uns führen oder die Notwendigkeit von Abschaltmöglichkeiten solcher Systeme diskutiert oder der enorme Energie- und Rohstoffverbrauch ebendieser. In welche Sozial- und Wirtschaftssysteme führen uns die datenbasierten Systeme des Überwachungs- und Manipulationskapitalismus?

Nach einer kurzen Betrachtung relevanter Aspekte der Kybernetik wird in dem Vortrag der aktuelle sowie angestrebte Stand der Datafizierung umrissen. Davon ausgehend werden die unglaublich passgenauen Möglichkeiten von Propaganda und Beeinflussungsmöglichkeiten, die sich daraus ergeben, betrachtet. Die Maschinenträume einer „smarten“ Zukunft werden der Idee eines freien Menschen entgegengestellt. Darauf aufbauend wird die Frage betrachtet, wie dieser mit den Möglichkeiten der Überwachung und Manipulation existieren kann. In einem weiteren Schritt wird die Vision einer technologisch-smarten Welt aus dem Blickwinkel des Rohstoffbedarfs betrachtet, um zum Ende des Vortrags auf die Problematik eines fehlenden Ausstiegsszenarios einer big-data-basierten Gesellschaftsregelung einzugehen.

 

 

Thomas Winklmeier

Thomas Winklmeier

Thomas Winklmeier
California über allem
Die Smart City als kybernetisches Projekt

Großstädte sind die paradigmatischen Orte der Moderne. Ihre Entstehung fällt zusammen mit gesellschaftlichen Umwälzungen, die mit den Begriffen Industrialisierung, Technisierung, Rationalisierung, Säkularisierung und Verwissenschaftlichung beschrieben werden. In den Großstädten veränderten sich auch die Lebensbedingungen der Menschen. Sie fanden sich wieder in einer Umgebung, die geprägt war von veränderten Produktionsweisen, Kaufhäusern als Waren- und Konsumstätten und urbaner Zeiterfahrung durch Elektrifizierung der Verkehrs- und Kommunikationsmittel. Aktuell erleben wir im Zuge der Digitalisierung erneut weitreichende gesellschaftliche Umwälzungen, die zum einen ihren Ausgang in den Großstädten dieser Welt nehmen als auch das Wesen der Großstadt sowie die Lebensbedingungen der Menschen in ihnen maßgeblich verändern. Zur Beschreibung der sich verändernden Städte hat sich der programmatische Begriff Smart City eingebürgert.

Wann aber eine City wirklich smart ist, dafür gibt es keine einheitliche Definition. Die Spanne reicht vom Vermarktungsslogan bis zur High-Tech-Wunderwelt, wie sie die Alphabet-Tochter Sidewalk Labs in einem gescheiterten Versuch in Toronto umsetzen wollte. Die aktuelle Realität liegt momentan irgendwo dazwischen. Der Begriff Smart City wird gerne dazu verwendet, sogenannte „smarte“ Innovationen und Produkte zu implementieren. Mit deren Hilfe und mittels digitaler Verarbeitung der auf verschiedenste Art gewonnenen Daten soll eine erleichterte, auf Feedback gestützte Steuerung der in einer Großstadt ablaufenden Prozesse erreicht werden. Die Produktpalette reicht dabei von der Steuerung des Verkehrs-, Waren- und Energieflusses, der Stadtverwaltung bis zur persönlichen Alltagsgestaltung. Beispiele sind das digitale Bürgeramt, smarte Ampeln oder Smart Meter zur Informationsgewinnung über den Verkehrs- und Energiefluss, aber auch individuelle Bewegungsprofile, die etwa aus Smartphone-Tracking gewonnen werden. Ziel ist es, die in einer Stadt ablaufenden Prozesse zu digitalisieren und damit auswert- und berechenbar zu machen und so Rückmeldung über Erfolg oder Misserfolg bei der Optimierung dieser Prozesse zu generieren. Damit verbirgt sich hinter dem Begriff der Smart City eigentlich die Stadt als kybernetisches Projekt.

Smart City und Kybernetik sind nicht voneinander zu trennen. Kybernetik ist die Blaupause, der Mythos und die Ideologie, die hinter der Umstrukturierung der Städte im Zuge der Digitalisierung steckt. Hinter dem Narrativ Smart City steht ein Denken, das Städte als Systeme begreift, in denen Prozesse ablaufen, die optimierbar sind. Der Antrieb der Optimierung ist die massenhafte Erhebung von immer mehr Daten über möglichst alles, um möglichst viel Input zur effizientesten Steuerung der Prozesse zu haben. 

Im Vortrag wird die Smart City als paradigmatischer Ort der Digitalisierung vor dem Hintergrund der Kybernetik als Leitidee behandelt. Nach einer kurzen Vorstellung der theoretischen Grundlinien der Kybernetik werden anhand konkreter Beispiele die kybernetischen Elemente im Smart City-Diskurs herausgearbeitet. Damit wird die These eingeführt, dass die Kybernetik das ideologische Grundgerüst zur digitalen Transformation der Städte ist.

Rainer Rehak

Rainer Rehak

Rainer Rehak
Von der „City of Convenience“ zur „City of Control“

Hongkong wurde lange als Hort der Freiheit gehandelt. Durch seine besondere Geschichte konnten die Bewohner*innen viele Freiheiten genießen, die in angrenzenden Jurisdiktionen nicht zu finden waren. Dies umfasste zwar auch kulturelle und politische, primär aber wirtschaftliche Freiheiten. Gerade in diesem Bereich blühte daher die kommerziell getriebene Digitalisierung auf und erzeugte in der Folge etwa eine ganze Reihe sehr bequemer Technologien für die Stadtbewohner*innen. Die „City of Convenience“ wurde also auch in dieser Hinsicht umgesetzt. Vom digitalen Kleingeld über digitale Fahrkarten, schon lange mögliche Online-Buchungen bis hin zum komfortablen Datenaustausch in Behörden. Auch im Namen der Sicherheit wurde Hongkong technisch aufgerüstet, von automatisierter Videoüberwachung öffentlicher Plätze bis hin zur Verbreitung von biometrischen Systemen zur Authentifizierung. Datenschutzbedenken bezüglich all dieser Systeme wurden stets mit Hinweis auf Bequemlichkeit und Effizient hintangestellt.

Die jüngsten politischen Entwicklungen in Hongkong in Form der Einverleibung ins chinesische Politiksystem lassen die technische Durchdringung der einst freien Stadt mit „Bequemlichkeitstechnik“ nun jedoch in einem anderen Lichte erscheinen. Auch wenn der Widerstand sich diverser technischer Methoden bedient, will der Vortrag am Beispiel Hongkong nachzeichnen, wie Digitaltechnik im aktuellen politischen Kontext analysiert werden muss und was daraus im Sinne des Datenschutzes gelernt werden muss.

Veranstalter

Gesellschaft für Informatik, FG "Internet und Gesellschaft"

Institute for Advanced Study "Medienkulturen der Computersimulation" (MECS) an der Leuphana Universität Lüneburg

Deutsche China-Gesellschaft

Programmausschuss

Wolfgang Coy
Andrea Knaut
Katika Kühnreich
Martin Warnke
Martin Woesler