Es gibt im Netz eines dieser verblüffenden Vorher-nachher-Bilder, das Menschen beim Konklave 2005 und 2013 zeigt. 2005, als Kardinal Ratzinger zum Oberhaupt der katholischen Kirche gewählt wurde, standen die Menschen gebannt im Vatikan auf dem Petersplatz. 2013, nach der Wahl Jorge Bergoglios zum Papst, stand da eine Menschenmenge, die ein Meer von Smartphones in den römischen Nachthimmel hielt. Keine andere Technologie hat die Gesellschaft so nachhaltig verändert wie das Smartphone. Und die Bildschirmmeere bei Konzerten oder Feiern sind nur ein Oberflächenphänomen eines viel tiefer greifenden Strukturwandels.

Als Steve Jobs vor zehn Jahren das erste iPhone präsentierte, konnte niemand ahnen, dass das Gerät einmal Kummerkasten, mobile Arztpraxis und Wahlhilfe in einem werden könnte. Doch das Smartphone, das uns die Industrie in einem semantischen Vexierspiel als ermächtigendes, schickes Gadget verkauft, ist in Wirklichkeit ein Messgerät, mit dem man praktischerweise noch telefonieren und fotografieren kann. Und dabei vermessen nicht wir die Welt durch den Bildschirm, sondern wir werden selbst vermessen. Das Smartphone zeichnet auf, wie viele Schritte wir machen, wohin wir gehen, mit wem wir kommunizieren, welche Suchbegriffe wir der Sprachsoftware Siri diktieren. Unser gesamtes Interaktions- und Kommunikationsverhalten wird durch die Geräte ausles- und vorhersagbar.

Das Smartphone ist inzwischen viel mehr als ein virtueller Assistent, es ist faktisch eine externe Festplatte unseres Gehirns, wo alle unsere Gedanken gespeichert sind: Tagebucheinträge, Betriebsgeheimnisse, Kontoverbindungen, politische Ansichten. Das macht es umso problematischer, wenn Strafverfolgungsbehörden in klandestiner Manier per Staatstrojaner auf Kommunikationsinhalte zugreifen und faktisch Gedanken auslesen. Gedanken sind das letzte Bollwerk, das der totalitäre Staat nicht zu durchbrechen vermag. Die Digitalisierung macht jedoch auch diese Grenze porös. Gedankenprozesse sind nur noch Rohdaten.

"Wir sind dabei, unsere Gesellschaft in einen Computer zu verwandeln", sagte die Juristin Yvonne Hofstetter auf der zentralen Konferenz zum Europäischen Datenschutztag in Berlin. Von Freizeitaktivitäten bis hin zur politischen Willensbildung – alles wird code- und datenförmig. Die Tech-Konzerne bauen ein Betriebssystem, das zum Zwecke hat, gesellschaftliche Prozesse wie in einem kybernetischen System durch algorithmische Rückkopplungsprozesse zu steuern. Die Software von smarten Städten reguliert automatisch den Verkehr, Algorithmen filtern Fake-News und Hassnachrichten heraus, Computerprogramme bewerten die Bonität von Bankkunden. Die Gesellschaft wird zur smarten Fabrik, in der es darum geht, Daten zu produzieren und die Performanz von Menschen in Scores zu messen.

Die US-Ökonomin Shoshana Zuboff argumentiert, dass wir uns von einem fordistischen in ein "googlistisches Zeitalter" bewegen. Im Fordismus hätten Autobauer Einzelteile montiert und in Serie Fahrzeuge produziert. Im Googlismus würden Internetkonzerne personenbezogene Daten zusammenpacken, Informationen extrahieren und diese in Paketen an Anzeigenkunden verkaufen. Die Produktionsstätten sind, mit anderen Worten, nicht mehr die Fabriken, sondern die Smartphones. "Im Überwachungskapitalismus", sagte Zuboff dem Harvard Magazine, "werden ohne unser Wissen, Verständnis oder Einverständnis Rechte von uns genommen und dazu genutzt, Produkte zu kreieren, die dazu entwickelt sind, unser Verhalten vorherzusagen."

Die Frage ist, welche Rolle der Mensch in dieser smarten Fabrik namens "Internet der Dinge" spielt. Ist er bloß eine Maschine unter vielen? Ist er nur noch ein Prozessor in einem riesigen neuronalen Netzwerk, ein Befehlsempfänger, der ausführt, was ihm die Programmierer diktieren? Der Medientheoretiker Marshall McLuhan sagte schon in den 1960er Jahren voraus, dass Maschinen dereinst dazu eingesetzt werden könnten, die Organisation der Gesellschaft zu steuern. Es sei möglich, Computer "auf nützlichem Wege" einzusetzen und "Gesellschaften zu programmieren". Gut 50 Jahre später sagt Dmitri Dolgov, Googles verantwortlicher Projektleiter für autonomes Fahren: "Wir bauen keine Autos, sondern wir bauen den Fahrer." Diese Aussage ist programmatisch zu verstehen. Google will keine Autos konstruieren, sondern einen intelligenten Fahrer, eine Künstliche Intelligenz (KI), die austauschbar und in jede Karosserie (Hardware) implementierbar ist. Für Google ist der ideale Fahrer ein KI-System, ein Set von Sensoren, mit dem man überall hinfahren kann, unabhängig von Marke und Modell.

Die Sentenz "Wir bauen den Fahrer" entspringt dem Gedanken des Social Engineering, einem Konzept, worunter meist die Manipulation des Menschen durch Versuchsdesigns verstanden wird, das aber im engeren Sinn die Konstruktion sozialer Interaktionen meint. Der Datenwissenschaftler Alex Pentland argumentiert in seinem Buch Social Physics, dass man mithilfe von Daten eine "kausale Theorie der Sozialstruktur" entwickeln und eine mathematische Erklärung liefern könne, "warum die Gesellschaft so reagiert, wie sie reagiert". Hinter diesem mechanistischen Weltbild steckt die Vorstellung, dass Daten jedes menschliche Verhalten erklären und soziale Interaktionen wie der Motor einer Maschine konstruiert werden können.