Ein Kunde der amerikanischen Supermarktkette Target stürmte in das Kundendienstbüro einer Filiale in Minneapolis und beklagte sich, dass seine Tochter, die noch zur Schule ging, per Post Coupons für Babykleidung und Kinderbetten bekommen habe. "Wollen Sie sie ermutigen, schwanger zu werden?" Der Mitarbeiter entschuldigte sich zunächst – später stellte sich heraus, dass der Teenager bereits schwanger war.

Diese Anekdote wird immer wieder erzählt, um zu belegen, dass Computer manchmal mehr über uns wissen als unsere Nächsten. Das New York Times Magazine hatte sie 2012 in Umlauf gebracht. Warum aber hatte die Software die Coupons verschickt? Ganz einfach: Anhand von 25 Produkten ermittelt Target "Schwangerschaftspunkte". Kauft eine junge Frau mit Kundenkarte plötzlich unparfümierte Körperlotion, eine neue Umhängetasche, die auch als Wickeltasche fungieren könnte, oder Zink- und Magnesiumtabletten, so schnellt der Wert in die Höhe. Ab einem gewissen Punktestand schickt der Computer der Kundin eben Werbung für Babybedarf. Target behauptet sogar, irgendwann den Geburtstermin vorhersagen zu können.

Algorithmen drängen sich auf vielen Gebieten in unser Leben: Sie empfehlen uns im Internet neue Bücher und Filme, schlagen passende Partner vor, bewerten unsere Kreditwürdigkeit. Googles Algorithmus bestimmt, welche Informationen gefunden werden können, und Facebook sortiert uns den täglichen Nachrichtenstrom. Die Rechenverfahren in all diesen Fällen haben eines gemeinsam: Sie sind geheim. Beruht doch auf ihnen das Geschäft ihres Anbieters. Ebenso verständlich wie dessen Geheimniskrämerei ist es aber, dass Menschen gerne wüssten: Warum erhalte ich bestimmte Werbung? Warum bekomme ich einen Job nicht? Warum funktioniert meine Kreditkarte plötzlich nicht mehr? Im Zeitalter der Algorithmen wird es zunehmend wichtig, zu wissen, was so alles über uns berechnet wird. Man könnte sagen: zum Datenschutz kommt der Datenverarbeitungsschutz. In den USA kursiert bereits der Begriff von der algorithmic accountability (etwas holprig übersetzbar als "algorithmische Rechenschaftspflicht") – er steht dafür, dass wir ein Recht darauf haben sollten zu erfahren, wie Algorithmen funktionieren.

"Regierungen sind nur legitim, wenn sie den Bürgern gegenüber rechenschaftspflichtig sind", schreibt der Computerwissenschaftler und Journalismusdozent Nicholas Diakopoulos von der University of Maryland. "Aber Algorithmen sind heute weitgehend unreguliert, und sie üben Macht aus über Menschen." Diakopoulos gehört zu einer kleinen Gruppe von Juristen, Journalisten und Aktivisten, die nun Rechenschaft einfordern.

Dieser Artikel stammt aus der ZEIT Nr. 16 vom 7.4.2016.

Um den Quelltext der Algorithmen geht es ihnen dabei nicht, schon wegen des Geschäftsgeheimnisses. Stattdessen betrachten Diakopoulos und seine Mitstreiter Algorithmen als eine Blackbox, als eine Kiste, in die keiner hineinschauen kann. Selbst wenn ein Betreiber nicht kooperiert, lassen sich über seine Rechenkonstrukte einige Rückschlüsse ziehen – durch geschicktes Variieren der Eingabe und Analyse der resultierenden Ausgabe.

Konkret geht das so: Als Journalisten der Washington Post vermuteten, dass die Website des Schreibwaren-Moguls Staples dessen Kunden online unterschiedliche Preise für dasselbe Produkt präsentierte, legten sie diverse fiktive Kundenprofile an, mit unterschiedlichen Wohnorten, Alters- und Geschlechtsangaben. Tatsächlich konnten sie so im Jahr 2012 nachweisen, dass ein Tacker manchen Kunden für 15,79 Dollar angeboten wurde, anderen für nur 14,29 Dollar. Die Rechercheure nannten sogar einen Grund dafür: Je näher jemand an einem Laden der Konkurrenz wohnte, desto günstiger war für ihn der Tacker.