ARCH+ 234 – Projekt Bauhaus 3: Datatopia
ARCH+ Special English Edition: Can Design Change Society?

Mit dem mehrjährigen projekt bauhaus hat ARCH+ die Ideen des Bauhauses einer grundlegenden Revision unterzogen. In diesem Zuge sind nicht weniger als drei ARCH+ Ausgaben entstanden. Fragte die erste von ihnen Kann Gestaltung Gesellschaft verändern?, bestimmte die zweite unter dem Titel Architekturen der Globalisierung einen neuralgischen Punkt zwischen Globalisierung und lokaler Selbstbestimmung als Schauplatz der Architektur von heute. Abschließend diskutiert das Heft Datatopia eine höchst dringliche Problematik: Stellt die umfassende Datafizierung unserer Gesellschaften die althergebrachten kulturellen und politischen, ökonomischen und ökologischen Systeme grundsätzlich infrage?

Die Englische Sonderedition unter dem dem Titel Can Design Change Society? stellt erstmals eine best-of Auswahl der drei Ausgaben für eine internationale Leserschaft zur Verfügung.

__

Aufgaben: Recherche, Konzepterstellung und -ausarbeitung, Vorbereitung der Textauswahl und Abstimmung mit dem Redaktionsteam, Koordination der Produktion mit Grafik und Druckerei, Betreuung der Bildredaktionen, Textredaktion
Dauer inkl. Recherchephase: 1 Jahr 6 Monate 
Team: Anh-Linh Ngo, Christian Hiller (ARCH+/Kuratorenteam projekt bauhaus), Angelika Hinterbrandner (Projektleitung, CvD), Alexander Stumm, Nora Dünser, Mirko Gatti, Max Kaldenhoff, Melissa Koch, Alexandra Nehmer, Christine Rüb, Jann Wiegand (Redaktion ARCH+) 

__

Die lange Recherchephase, die hervorzuheben ist, hat es mir ermöglicht mich intensiv in das Thema Digitalisierung in der Architektur einzuarbeiten und einen breiten Überblick über den wissenschaftlichen Diskurs von sowohl geisteswissenschaftlicher, als auch technologischer Seite zu bekommen.

Architektur der Überwachung

Katika Kühnreich im Gespräch mit Angelika Hinterbrandner, Alexander Stumm und Georg Vrachliotis

 

Alexander Stumm: Die chinesische Regierung begann 2014 mit der Testphase für sogenannte Sozialkreditsysteme (SkS). Dabei handelt es sich um nationale Bewertungssysteme, die relevante Daten wie die Kreditwürdigkeit, das Strafregister, aber auch soziale und politische Gesinnung von Unternehmen, Personen und Organisationen aus unterschiedlichsten Datenbanken zur Errechnung eines Sozialkredit-Punktestands heranziehen. Unternehmen mit einem negativen Rating können beispielsweise von öffentlichen Ausschreibungen, Personen von begehrten Beförderungen ausgeschlossen oder anderweitig benachteiligt werden. Wer sich hingegen systemkonform verhält, erhält Vergünstigungen und besseren Zugang zu staatlichen Leistungen. Allein schon die Idee hört sich an, als ob die schlimmsten orwellschen Albträume in China gerade Wirklichkeit würden. Wie ist der Stand der Dinge und wann werden die SkS in vollem Umfang in Kraft treten?

Katika Kühnreich: Die Informationen darüber überschlagen sich regelrecht, weshalb die Frage nicht einfach zu beantworten ist. Sicher ist: 2007 veröffentlichte die chinesische Regierung die Guiding Opinions Concerning the Construction of a Social Credit System und 2014 die erste Richtlinie zur Errichtung solcher Systeme für den Zeitraum von 2014 bis 2020. Im Vorfeld wurden zahlreiche Experimente durchgeführt. Vereinfacht gesagt existieren derzeit zwei Systeme, eines für Individuen und eines für Unternehmen und Organisa­tionen. Das System für Einzelpersonen wird landesweit momentan in etwa 70 verschiedenen Testgebieten erprobt. Durch – aus Sicht des Staates – negatives Verhalten können Individuen auf sogenannten „Schwarzen Listen“, durch vorbildliches Verhalten auf „Roten Listen“ landen und müssen in der Folge mit negativen oder positiven Konsequenzen rechnen. 

AS: In dem von Dir genannten Entwurfsleitfaden zum Aufbau eines Sozialkreditsystems von 2014 heißt es: „Die Beschleunigung des Aufbaus eines Sozialkreditsystems ist eine wichtige Grundlage für die umfassende Umsetzung der wissenschaftlichen Entwicklungsperspektive und den Aufbau einer harmonischen sozialistischen Gesellschaft, sie ist eine wichtige Methode zur Vervollkommnung des sozialistischen Marktwirtschaftssystems, zur Beschleunigung und Innovation der sozialen Governance, und sie hat eine wichtige Bedeutung für die Stärkung des Aufrichtigkeitsbewusstseins der Mitglieder der Gesellschaft, […] und die Förderung der Entwicklung der Gesellschaft und des Fortschritts der Zivilisation.“ Ist das Sozialkreditsystem in Wahrheit das ideale Kontrollinstrument für den sozialistischen Einparteienstaat?

KK: Sowohl in der Regierung Chinas als auch in denen westlicher Staaten besteht ein großer Wille sich der neuen Formen von Überwachung, Kontrolle und Verhaltens­beeinflussung zu bedienen. Ich würde China daher nicht unbedingt als Gegenpol zur westlichen Welt sehen: Die großflächige Überwachung öffent­licher Räume ist ein weltweit zu beobachtendes Phänomen. Aber die Anzahl der Überwachungskameras in China ist wesentlich höher als in Deutschland – zusätzlich sind diese oft mit sogenannten smarten Technologien ausgerüstet oder verbunden. Es existiert also immer mehr maschinell auswertbare Überwachung. Das Alltagsleben in China verändert sich etwa auch dadurch, dass die Möglichkeit des Bezahlens per Mobiltelefon allgegenwärtig ist. Die digitale Zahlungsweise, die das Bargeld weitgehend verdrängt hat, erzeugt dafür Daten. Generell haben sogenannte Smart­phones – ich sage lieber Smarps, da der andere Name sehr irreführend ist – unser Leben und unseren Alltag sehr stark verändert. Zudem hinterlassen wir durch die Nutzung von Smarps ständig auswertbare Datenspuren, die potentiell zur Überwachung dienen können.

GV: Es scheint, als würde sich die traditionelle Unterscheidung zwischen öffentlichen und privaten Räumen auflösen, wenn man an die Überwachbarkeit des Menschen durch Smartphones, Kameras, Computer und inzwischen im Alltag angekommene smarte Geräte wie Alexa von Amazon denkt. Droht uns hier nicht ein Social Credit Environment, das heißt ein gigantischer Innenraum der Daten, eine Welt ohne Außen? Was bedeutet das raumsoziologisch und raumpolitisch?

KK: In den Anfängen des kommerziellen Internets hatten einige Menschen die Vision, dass sich das Netz zu einer Art öffentlichem Marktplatz entwickeln würde, auf dem alle Menschen gleich­berechtigt Meinungen und auch Waren austauschen könnten. Das ist aber nicht eingetroffen. Stattdessen haben große Firmen das Netz erobert und prägen es heute in weiten Teilen. Ein Argument für die These einer Welt ohne Außen ist sicherlich nicht nur die weitgehende Möglichkeit der Überwachung nicht nur urbaner Zentren, sondern auch ländlicher Regionen durch Kameras in öffentlichen Verkehrsmitteln sowie die Überwachung von Verkehrswegen, auch durch immer mehr Drohnen im Luftraum. Aus besonders strikt überwachten Regionen in China – wie etwa der muslimisch geprägten Provinz Xinjiang – ist zu hören, dass das öffentliche Leben auf den Straßen dort zunehmend zum Erliegen kommt. Die Räume, in denen wir nicht überwacht und quantifiziert werden, verschwinden rapide, auch dadurch, dass wir Smarps mit uns führen. Die Auswirkungen auf die Gesellschaft lassen sich heute nicht seriös prognostizieren, aber für mich ist ein damit einhergehender Vertrauensverlust des Menschen zu seiner Umwelt verbunden.

AS: Wie ist der Diskurs zur Datensicherheit in China? Gibt es momentan eine Bewegung, die das Sozialkreditsystem verhindern will? Oder stößt es sogar auf Zustimmung in der Bevölkerung?

KK: Hier ist bei Bewertungen besondere Vorsicht geboten, welcher Akteur aus welcher sozialen Gruppe welche Informationen kommuniziert. Grundsätzlich möchte ich darauf hinweisen, dass präsentierte Daten geschönt sein können. Bei Umfragen kommt generell das Problem hinzu, dass Menschen oft nicht wahrheitsgemäß antworten. In meinen eigenen Auswertungen zeichnet sich momentan ein Bild ab, in dem die Regierung der Bevölkerung gegenüber die Hoffnung erweckt, soziale Probleme mittels Technologien lösen zu können. Etwas, was ich aufgrund der Erfahrungen der letzten Jahrzehnte nicht für möglich halte, weder in China noch anderswo. Zudem verspricht die Regierung, mit den Sozialkreditsystemen dringende Probleme Chinas wie zum Beispiel die Nahrungsmittelsicherheit anzugehen. Nach zahlreichen Skandalen, die zum Teil sogar Tote zur Folge hatten, ist dies ein wichtiges Thema. Außerdem sind die SkS noch jung und die Hoffnungen vieler Menschen dadurch noch nicht enttäuscht. In ihrer Kommunikation stellt die chinesische Regierung die Vorteile der Programme klar in den Vordergrund, ebenso verfahren die Regierungen anderer, auch westlicher Staaten, mit ihren eigenen Programmen. Die deutsche Regierung hat uns bei der Einführung von biometrischen Merkmalen und fernauslesbaren Chips in den Reisepässen auch nicht auf Nachteile wie Missbrauchsmöglichkeiten hingewiesen. Das haben gesellschaftliche Akteure wie der Chaos Computer Club getan. Es gibt aber sehr wohl Kritik an den Systemen. China ist kein ruhiges Land. Dass Unmut über die Systeme in China oft nicht über uns vertraute Weisen öffentlich artikuliert wird, bedeutet aber nicht, dass die Menschen innerhalb dieses Systems zufrieden sind. Es wurden andere Kanäle erarbeitet, über die Kritik geäußert und ausgetauscht werden kann. Beispielsweise Homofone, mehr oder minder gleich klingende Schriftzeichen oder Bilder, die Zensur erschweren.
Aufgrund der beschränkten Informationslage sollten wir mit einem vorschnellen Urteil vorsichtig sein. Und wir sollten auch die kritische Situation bei uns im Westen nicht ausblenden. Wir alle sind anfällig für Manipulation. Auch die deutsche Regierung spricht vor­wiegend von Vorteilen der Kamera­überwachung und verschärften Gesetzen, und der Schufa-Algorithmus ist nicht öffentlich. Wir könnten uns also vielleicht leichter darüber wundern, weshalb es in Deutschland so wenig Widerstand gegen Überwachungsmaßnahmen gibt.

GV: Welche Formen des Widerstands gibt es im chinesischen Datatopia? Oder konkret: Welche Möglichkeiten haben die Bürger*innen, dem Sozialkreditsystem zu entkommen oder sich zu wehren?

KK: Nach meinem aktuellen Kenntnisstand bestehen die staatlichen Testsysteme für Individuen momentan „nur“ in den bereits genannten etwa 70 Versuchsgebieten. Diese Gebiete unterscheiden sich voneinander: Sowohl was die Regeln als solche betrifft als auch wie genau die Bevölkerung über das lokale System informiert wird. Die nahezu unzählbaren Kameras sowie andere Überwachungstechnologien lassen sich als Einzelperson aber kaum umgehen. Und solange jemand ein Smarp mit sich herumträgt, können dessen viele Sensoren sehr viele Daten über das Individuum und dessen Umgebung sammeln und preisgeben. In den Testgebieten existieren aber zumindest teilweise noch menschliche Ansprechpartner*innen auf staatlicher Seite, welche die digitale Auswertung der eigenen Sozialkreditwürdigkeit bei möglichen Fehlberechnungen gegenprüfen. Die Systeme privater Unter­nehmen beziehungsweise Organisationen sind dagegen in ihrer Entwicklung sehr viel weiter.

GV: Das ist ein entscheidender Punkt: Der Mensch weiß gar nicht, welche Regeln innerhalb des Systems gelten, und verhält sich deshalb womöglich schon aus dieser Verunsicherung heraus vorsichtiger. Niemand kann sagen, welches Verhalten demnächst sanktioniert wird und welches belohnt – zumal niemand genau weiß, auf welche Daten das System zugreift und wie die Bewertungsskala konkret aufgebaut ist.

KK: In China existiert schon länger etwas, was die „Unsichtbare Rote Linie” genannt wird. Dadurch fehlt heute in vielen Bereichen die Klarheit darüber, was zulässig ist und was nicht. Das gilt für den kulturellen Bereich wie Film und Theater, aber auch in den Medien und sogar beim Microblogging, was bei uns oft „twittern“ genannt wird. Das bedeutet, es gibt nur noch wenige klare Verbote, die eindeutig vorgeben, was nicht geschrieben, gesungen oder getanzt werden darf. Stattdessen wird die Zensur in die Köpfe derer vorverlagert, die die Inhalte produzieren und ist dadurch oft viel weitreichender als jede externe Zensur, die das Werk von außen durchläuft. Die Menschen haben grobe Richtlinien und müssen selbst entscheiden, wie viel Risiko sie eingehen möchten und schrecken oft schon früh zurück.

Angelika Hinterbrandner: Sehr abstrakt wird immer über das System der Kontrolle gesprochen. Von wem werden die Parameter der Beurteilung festgelegt und nach welchen Mustern wird beurteilt? Welche unterschiedlichen Akteure gibt es auf ökonomischer und politischer Seite? Oder arbeiten diese bereits zusammen?

KK: Vielleicht liegt das auch an der sehr divergierenden Berichterstattung zum Thema. Zur Zeit existieren in China die erwähnten Testsysteme und es gab acht Privatfirmen, die eine Zeit lang die Erlaubnis hatten, Kreditwürdigkeit via Onlineverhalten zu ermitteln. Inzwischen handeln diese acht Firmen eingeschränkter, sammeln aber weiterhin Informationen und geben sie an eine staatliche Datenbank namens Baihang weiter. Leider sind digital versendete Daten generell sehr einfach von verschiedenen anderen staatlichen Institutionen und privaten Unternehmen abschöpfbar. Daher wird eine Unterscheidung manchmal schwierig. Spätestens seit den Snowden-Enthüllungen ist ja bekannt, dass Staaten ebenso nach Daten gieren wie viele Privatfirmen. In China sind die drei Internetgiganten Baidu, Alibaba und Tencent im privaten Bereich vorherrschend, deren Produkte und Dienstleistungen auch in westlichen Ländern immer mehr genutzt werden und somit an Einfluss gewinnen. So ist etwa Tencent Mitbesitzer von Snapchat, über AliExpress kann man bei Alibaba shoppen und Tencents WeChat Messenger wird auch im Westen als „Wunderapp aus China“ beworben.

GV: 2017 hast Du in einem Vortrag beim Chaos Communication Congress gesagt: „In 1984 ging es um Zwang. Hier geht es darum, sich kuschelig zu fühlen.“ Das System setzt immer wieder Anreize, sich auf gewisse Weise zu verhalten. Du hast in diesem Zusammenhang von Gamifizierung gesprochen.

KK: Genau, es gibt Techniken, die im Zusammenhang mit Computerspielen entwickelt wurden, um die Spieler*innen möglichst lange an das Spiel zu binden. Gamifizierung bezeichnet die Übertragung dieser Techniken auf spielfremde Umgebungen. Das meines Wissens erste gamifizierte System in Deutschland war Payback. Auch Facebook und Co. sind gamifiziert: das „Like“-Symbol zum Beispiel, sogenannte Badges, also Auszeichnungen, die es zu erreichen gilt, ermuntern uns dazu, ständig mehr Daten über uns und unsere Umgebung preiszugeben. Das Spannende ist, dass diese kleinen virtuellen Belohnungen ausreichen, Dopamin in unserem Gehirn auszuschütten, ein Botenstoff, von dem wir genauso abhängig werden können wie von anderen Drogen. Ein guter Text hierzu ist „Eine so schöne Entfremdung vom eigenen Körper! Eine Minute noch!” des italienischen Tech-Kollektivs Ippolita, als Übersetzung erschienen in Das Netz.

GV: Das chinesische Datatopia zeigt sich nicht nur als Belohnungs-, sondern auch als Bestrafungssystem. Das berührt nicht nur Theorien der Kontrolle, sondern auch der Erziehung, Belehrung, Instruktion und Unterweisung. Um welche Schlüsselkonzepte und -begriffe wird es in Zukunft gehen, wenn man sich theoretisch mit dem chinesischen Datatopia kritisch auseinandersetzen möchte?

KK: Mit den angekündigten Visionen der chinesischen Regierung, mit ihren Langzeitkonzepten und derzeit insbesondere mit dem Konzept des „Scharfen Auges“ Xueliang. Und generell mit dem Konzept der Kybernetik, dem Konzept der Privatheit und mit der sogenannten Künstlichen Intelligenz und ihren Nebenwirkungen. Bei dem Thema autonomes Fahren kommen viele Menschen ins Schwärmen, aber eng verbunden damit ist das Thema autonome Waffen. Wir müssen über die Nebennutzungen und Nebenwirkungen auch auf gesellschaftlicher Ebene dringend diskutieren. Und darüber, wie wir es schaffen können, diesen Planeten so zu erhalten, dass Menschen und andere Lebewesen weiter darauf leben können. Wir können nicht so weitermachen als hätten wir mehrere Ersatzplaneten im Kofferraum – wie es früher so passend hieß. Technologische Lösungen bedeuten nach dem Rebound-Effekt oder Jevons’ Paradoxon, dass sie eben keine Energie einsparen, sondern noch mehr davon verschwenden. Allein die Server, die für die Datenspeicherung genutzt werden, verbrauchen gigantische Mengen an Energie.

AH: Wie schätzt Du den Umgang und die Auswirkungen von Big Data in Europa ein? Wie können und müssen wir als Architekt*innen darauf in der Raumproduktion reagieren?

KK: Auch in Europa sehe ich die Lage kritisch. Datensammeln gehört auch hier zum Alltag und Algorithmen spielen dabei eine immer größere Rolle. Katharina Zweig und ihr Team vom Algorithm Accoun­t­ability Lab an der TU Kaiserslautern machen hierzu exzellente Forschung. Es gibt Meldungen, dass unter anderem Österreich Arbeitslose per Algorithmus auf ihre Verwertbarkeit für den Arbeitsmarkt beurteilen lassen will. Und gerade läuft auf EU-Ebene der Aufbau einer gigantischen Datenbank, über die Stefan Krempl unter anderem in der Technology Review unter dem Titel „Überfall auf den Datenschutz“ schrieb. Auch der Bereich des sogenannten „Predictive Policing“ – Polizeiarbeit auf der Basis von Vorhersagen – nimmt immer weiter zu. Interessant finde ich hier, dass diese Formen der technologischen Kontrolle vor allem in sogenannten sozial schwachen Gebieten und gegen Menschen mit niedrigen Einkommen eingesetzt werden, obwohl es genauso einfach wäre, Algorithmen zur Aufdeckung der Steuer­hinterziehung in den reichsten Gebieten, überhaupt zur Wirtschafts- und Umweltkriminalität, zu schreiben. Zusammen­fassend gesagt: Soziale Probleme lassen sich nicht technologisch lösen.

GV: In welche Richtung entwickelt sich das Verhältnis von technischer und gesellschaftlicher Transparenz momentan?

KK: Zurzeit sehe ich international die Tendenz, dass Privatpersonen immer transparenter werden, während das Erzeugen und Auswerten von Big Data dazu führt, dass Unternehmen und Staaten immer mehr Nutzen und auch Macht in Form von angeblichen Möglichkeiten der Berechnung des Individuums bekommen. Das Individuum verliert in diesem Prozess, in den es mit kleinen Bequemlichkeiten wie der Taschenlampenfunktion des Smarps gelockt wird. Ich warne vor einem unvorsichtigen Umgang mit Daten, denn sie können zur Über­wachungund Manipulation genutzt werden. Es gibt keine irrelevanten Daten mehr, Daten bedeuten heute Macht. Und digitale Daten sind tendenziell unsterblich. Welche Schlüsse Firmen und Regierungen aus diesen Daten über uns ziehen werden, davon haben wir keine Ahnung und eventuell auch keinen Einfluss mehr. Das halte ich für sehr gefährlich.

GV: Individuum, Staat und Technologieunternehmen hatten bisher unterschiedliche Interessen. Nun, so scheint es, folgen auch in der westlichen Welt alle mehr oder weniger diesem einzigen Ziel der Quantifizierung: Payback wertet unser Konsumverhalten aus, Fitnessarmbänder stehen im Dienste der Selbstoptimierung und des Gesundheitswesens, Dating-Apps kennen unsere sexuellen Vorlieben und so weiter. Wir erleben eine monströse Aufblähung staatlicher Erfassung und kommerziellen Trackings.

KK: Eine interessante Frage hinter all dem finde ich immer: Wer profitiert von der Daten­sammelwut? Inzwischen gibt es ganze Industrien, die vom Auswerten unserer Daten leben. Im Englischen werden diese Firmen als Data-Miner und Data-Broker bezeichnet, sie durchsuchen das Internet nach unseren Daten, kategorisieren und verkaufen sie. Zudem werden wir permanent zur Datenproduktion angehalten, etwa über Plattformen, die sich selbst den sympathisch wirkenden Namen „Soziale Netzwerke“ gegeben haben. Wir sind dadurch so beschäftigt, dass vielen Menschen Zeit zum Entspannen und Nachdenken fehlt. Provokant gesagt: Galt früher die Devise: „Ein dummes Volk regiert sich gut“, kann man inzwischen sagen: „Eine ständig beschäftigte und gestresste Bevölkerung regiert sich noch viel leichter“. Zeit kann man nicht sparen, das hat uns schon Michael Endes Momo zeigen wollen. Als Erstes können wir den Plattformen und Technologien, die unsere Lebenszeit stehlen, die beschönigenden Namen nehmen. Etwa Smarp statt Smartphones und SocMe statt Social Media. Und es ist an der Zeit, unsere Beteiligung an den Regeln, nach denen gespielt wird, einzufordern, um selbst zu Architekt*innen unserer Zukunft werden zu können.