Schöner smarter Staat

Smartphones – klar doch! Smart Homes – schon mal irgendwo gehört. Aber Smart Nations? Dazu fällt den allermeisten Bürgern überhaupt nichts ein. Folglich muss, wer vor der digitalen Aufrüstung einer Gesellschaft zur Smart Nation warnen möchte, erst einmal erklären, was das denn ist. Und dann, warum dies eine schlechte Sache wäre.

Diesen Versuch unternehmen neun Fachleute in der Januar-Ausgabe der Zeitschrift Spektrum der Wissenschaft (die in der Verlagsgruppe Georg von Holtzbrinck erscheint, welche auch einen Anteil am Zeitverlag hält). In ihrem Aufruf "zur Sicherung von Freiheit und Demokratie" warnen sie vor einer "Datendiktatur" und berufen sich dabei auf keinen Geringeren als das Alphatier der philosophischen Ratio, Immanuel Kant: "Aufklärung ist der Ausgang des Menschen aus seiner selbstverschuldeten Unmündigkeit."

Hier geht es nicht um irgendwelche Interna der Informatik. Die Autoren kommen selbst überwiegend aus anderen Disziplinen. Unter ihnen befinden sich zum Beispiel Gerd Gigerenzer, viel zitierter Risikoexperte und Direktor am Berliner Max-Planck-Institut für Bevölkerungsforschung, sowie die Unternehmerin Yvonne Hofstetter. Sie verdient ihr Geld selbst mit Großdatenanalyse, ihre Münchner Firma Teramark Technologies entwickelt mithilfe künstlicher Intelligenz Algorithmen zur Auswertung großer Datenmengen. Als Buchautorin warnt sie vor einem Missbrauch dieser Technik. Zu Gigerenzer und Hofstetter gesellen sich Ethiker, Ökonomen und Soziologen (siehe Kasten).

Das Digital-Manifest lässt ein beklemmendes Zukunftsszenario plausibel erscheinen, in dem nicht einzelne Datenkonzerne (Google, Facebook und Co.) oder Geheimdienste (die amerikanische NSA, das britische GCHQ et cetera) die Freiheit des Einzelnen bedrohen, sondern der eigene Staat, der sich unter dem Einfluss neuer Techniken schleichend automatisiert.

Diese Dystopie ist keine Science-Fiction, wie das Beispiel der chinesischen Bürgerpunkte zeigt: Chinas Regierung baut mithilfe einheimischer Internetkonzerne ein Einwohner-Bewertungs-System auf. Daten aus Sozialen Netzwerken sollen mit solchen über Kauf- und Zahlungsverhalten kombiniert werden. Am Ende steht eine öffentlich einsehbare Punktzahl, der "Citizen Score". Er kann einen Wert zwischen 350 und 950 annehmen. Für Stellen- oder Kreditvergaben soll er ebenso herangezogen werden wie bei Visaanträgen (Singapur ab 700, Europa ab 750 Punkte). Einen "Punktrichter" nannte das die FAZ: Aus digitalen Indizien wird auf bürgerliches Wohlverhalten geschlossen. Und der Algorithmus entscheidet über reale Vor- und Nachteile für die Beurteilten. Wem sein Score lieb ist, der wird nicht über das Tiananmen-Massaker twittern. 2020 soll dieses System verpflichtend werden. Dann wird ein jeder (Chinese) im Bewusstsein leben, dass der eigene Score auch von der Performance der eigenen Freunde und Verwandten beeinflusst wird. Konformität durch Bevormundung, Überwachung, soziale Kontrolle, Sippenhaft. – "Smart" ist so ein Staat analog zum smarten Telefon oder zur smarten Haustechnik, weil so viele seiner Funktionen digital und automatisch ablaufen.

Schöner smarter Staat

Wie einen Leviathan kann man sich den digital aufgerüsteten Staat der nahen Zukunft vorstellen, wie jenes Wesen, das im Kupferstich auf dem gleichnamigen Buch von Thomas Hobbes prangte, der im 17. Jahrhundert die Philosophie des Gesellschaftsvertrages formulierte. Der Leviathan ist aus den einzelnen Körpern seiner Bürger zusammengesetzt, in der Zukunftsversion wären es gläserne Bürgerkörper. Individuen, deren Verhalten sich dank ihrer Datenspuren bis ins Kleinste analysieren lässt (Big Data). Diese Information erlaubt es, sie mit subtilen Verhaltensanreizen zu beeinflussen (Nudging). Und will dennoch einer abweichen, ist der moderne Leviathan ihm stets einen Schritt voraus (Prädiktion).

Die technischen Komponenten reifen gerade: Big Data und selbstlernende Algorithmen, mächtige Supercomputer und allumfassende Vernetzung. Plausibel leiten die Autoren des Digital-Manifests her, wie diese Technologien auch pluralistische Gesellschaften in digitale Leviathane verwandeln könnten: in einem schleichenden Prozess aus lauter kleinen Schritten, von denen viele für sich genommen harmlos erscheinen. Zum Beispiel Fitnessarmbänder und Schrittzähler: Trägt doch schon fast jeder. Und da man doch weiß, wie gesund Bewegung ist, warum nicht eine kleine Belohnung für die Bewegungsfreudigen? Zum Beispiel Profilbildung: Sind nicht die personalisierten Kaufempfehlungen im Internet praktisch und jene maßgeschneiderten Schnipsel, in denen uns Facebook und Co. die Welt zusammensetzen?

Am Ende könnten Firmen, Verwaltungen und öffentliche Institutionen stehen, die statt Sachbearbeiter lieber Algorithmen entscheiden lassen. Für die ist der Einzelne nur die Summe seiner Datenspuren. Die Entscheidungen künstlicher Intelligenzen wären für den Bürger kaum nachvollziehbar und entsprechend schwer anzufechten. "Die Automatisierung der Gesellschaft" nennen die Autoren das und warnen davor, eine solche könne totalitäre Züge annehmen. Das Szenario kehrt die Vorstellung um, Menschen würden Maschinen programmieren. Hier programmiert ein übermächtiger Apparat mittels Kontrolle, Strafe und Belohnung das Verhalten des Individuums.

Was aber tun, wenn den meisten Menschen diese Gefahr nicht einmal bewusst ist? Als Gegenmittel formulieren die neun Autoren zehn Prinzipien: vor allem mehr Transparenz, mehr Vielfalt und "digitale Aufklärung", um "die Mündigkeit der Bürger in der digitalen Welt zu fördern". Man erkennt in diesem zweiten Teil des Manifests deutlich die Handschrift des Zürcher Soziologen Dirk Helbing, eines der prominentesten Vertreter der Computational Social Sciences, einer Forschungsperspektive in der Schnittmenge zwischen Sozialforschung und Informatik. Seit Langem propagiert Helbing dezentrale Sensornetzwerke, verteilte Datenspeicherung und Kontrolle durch Nutzer statt Konzerne, Netzlösungen zum Wissenstransfer und für die Entscheidungsfindung – zuletzt Anfang November in einem Kommentar für die Zeitschrift Nature. Helbing ist ganz gewiss kein Maschinenstürmer, sondern einer, der auch die helle Seite der Technik sieht.

Von ihm ging die Initiative für das Manifest aus, an dem man am ehesten kritisieren muss, dass es die Bedrohung konkreter zeichnet als die mögliche Gegenwehr. Vielleicht liegt das in der Natur dieser Abhilfen: Mehr Aufklärung, strukturelle Vorkehrungen und ethische Selbstverpflichtungen – solche Vorschläge klingen noch abstrakter, als sie es ohnehin schon sind. Vielleicht liegt es auch am Debattenstand, an den die Autoren anknüpfen: Überhaupt nichts darf man beim Laien voraussetzen, wenig mehr nur bei vielen Experten. Seinen Erfolg muss man daran messen, ob es (dennoch) ein Echo findet. Kommt der digitale Leviathan ins Gespräch?

Natürlich ist die deutschsprachige Welt hierfür nicht die wichtigste Öffentlichkeit. Nachdem es in Spektrum der Wissenschaft erscheint, wird das Manifest im Scientific American veröffentlicht. Auch eine flämische Fassung ist in Vorbereitung, Übersetzungen in Spanien, Italien und Frankreich könnten folgen. Jedenfalls bedürfen noch viele Bürger der Warnung davor, dass ihr Land eine Smart Nation wird.

Diesen Artikel finden Sie als Audiodatei im Premiumbereich unter www.zeit.de/audio

"Spektrum der Wissenschaft" 1/2016 ist vom 19. Dezember an erhältlich. Online finden Sie das "Digital-Manifest" hier