Die digitale Revolution besteht vor allem darin, dass unsere soziale Existenz skalierbar und einer ökonomischen Verwertungslogik zugeführt wird. Der Like als informelle Währung der Netzökonomie ist vielleicht das sinnfälligste Beispiel. Was vormals nicht miteinander vergleichbar war, kann nun verglichen und in neue Ordnungsrelationen gebracht werden. Insofern kam die Ankündigung von Instagram, in diesem Jahr die öffentlich einsehbaren Likes abzuschaffen, dann doch etwas überraschend. Ein Instagram ohne Likes, das erscheint wie eine Börse ohne Aktienkurse. Der Instagram-Chef Adam Mosseri sagte jüngst in einem Porträt der New York Times, dass ihn eine Episode von Black Mirror dazu bewogen habe, Likes künftig zu verbergen. Ausgerechnet Black Mirror.

In der britischen TV-Serie kann jeder seinen Mitmenschen mit seinem Smartphone auf einer Skala von 1 bis 5 bewerten: Verkäufer, Kellner, Kollegen. Die Bewertung, die sich sekündlich wie ein Aktienkurs ändert, trägt man als soziale Bonität wie ein Stigma mit sich herum. Wer sich am Check-in-Schalter am Flughafen beschwert, bekommt Punktabzüge. Es ist eine Art soziales Yelp auf Steroiden. Dass Mosseri diese Rating-Diktatur als negatives Beispiel nennt, ist ehrenwert, doch die Realität ist der Filmdystopie näher, als man glauben mag.

Der Zimmervermittler Airbnb hat ein Patent auf ein KI-System angemeldet, das Kunden vor der Buchung einem Onlinescreening unterzieht. Wie die Zeitung Evening Standard berichtet, soll die Software Internetseiten wie soziale Netzwerke scannen, um daraus Verhaltens- und Persönlichkeitsmerkmale wie "Machiavellismus" oder "Psychopathie" abzuleiten. Auf dieser Grundlage soll dann ein Vertrauenswürdigkeitsscore errechnet werden, eine Art soziale Bonität, die Auskunft darüber gibt, ob der Gast rechtschaffen ist. Wer zum Beispiel mit Fake-Accounts in Verbindung steht oder auf Hassplattformen unterwegs ist, bekommt Punktabzüge und womöglich Schwierigkeiten bei der Buchung. Auch Pornografie und "negative Sprache" wirken sich laut dem Patentantrag negativ auf das Scoring aus.

Die Plattform will sich damit absichern und die Versicherungssumme in Schadensfällen niedrig halten. Immer wieder gab es in der Vergangenheit Berichte über Vandalismus und Sexorgien in Airbnb-Wohnungen. Mal wurden Möbel aus dem Fenster geworfen oder ganze Wohnungen verwüstet. Die Vermieter fühlen sich von Airbnb häufig im Stich gelassen. Bei fremden Gästen weiß man nie, wen man sich ins Haus holt. Mit einer Onlinerecherche, so die Idee, könnte man Vandalen und Partylöwen bereits im Vorfeld ausfindig machen.

Zwar betonte Airbnb, dass das Tool nicht genutzt werde. Der Konzern melde regelmäßig Patente an, was aber nicht bedeute, dass diese auch umgesetzt werden. Doch schon heute führt der Zimmervermittler eine Risikobewertung sowie Hintergrundchecks seiner Gäste durch. "Wir nutzen Vorhersagemethoden und maschinelles Lernen, um auf der Stelle Hunderte von Signalen auszuwerten, die uns dabei helfen, verdächtige Aktivitäten zu erkennen und zu unterbinden, noch bevor sie eintreten", heißt es auf der Webseite von Airbnb.

Subtile Bevorzugungen und Benachteiligungen

In den USA gibt es Hunderte geheimer Scores, die weitreichendere Konsequenzen haben als der Schufa-Score hierzulande. Sie entscheiden etwa, wie lange man in der Warteschleife einer Telefonhotline verbleibt, ob man einen Artikel in einem Geschäft umtauschen kann oder ob man auf einer Fahndungsliste landet. Das Wall Street Journal enthüllte, dass zahlreiche Unternehmen, darunter Instacart, Yelp und Airbnb, auf einen Vertrauenswürdigkeitsscore zurückgreifen, um die Bonität ihrer Kunden zu bewerten. Der "Sift Score", der aus mehr als 16.000 Signalen errechnet und einen Wert von 0 bis 100 erreicht, soll beispielsweise Kreditkartenbetrug verhindern. Kleinste Verhaltensänderungen wie ein Browserwechsel können den Wert beeinflussen. Jeder Klick wird ausgewertet.

Auch Airlines ranken dem Bericht zufolge ihre Passagiere. Häufige Beschwerden können sich negativ auf den Score auswirken. Denn: Das Beschwerdemanagement kostet Geld. Wer dagegen nie die Kundenhotline anruft, wird in der Warteschleife priorisiert und erhöht seine Chancen auf ein Upgrade in die Businessclass. Es sind subtile Bevorzugungen und Benachteiligungen, die rechtlich noch nicht die Schwelle zur Diskriminierung überschreiten und sich in der Praxis kaum beweisen lassen. Das Unternehmen kann sich immer noch darauf berufen, dass die Priorisierung reiner Zufall sei. Das Problem: Die Scores wie auch die Bewertungskriterien werden dem Kunden nicht transparent gemacht. So beschleicht einen das Gefühl, dass Unternehmen immer irgendetwas gegen einen in der Hand haben könnten.