Es ist kein Zufall, dass alle drei Beispiele aus den USA stammen. Die Vorstellung, mit ein paar Zeilen Code die Welt zu verbessern, ist hier besonders ausgeprägt. Und es stimmt ja: Algorithmen haben das Potenzial, gerechter und objektiver zu urteilen als Menschen. Nehmen wir den Schulleiter. Vielleicht hat er ja nur über die schlechten Leistungen von Sarah Wysocki hinweggesehen, weil er sie mochte. Oder die Richter. Auch sie entscheiden nicht frei von Emotionen. Algorithmen dagegen haben keine Gefühle. Sie lassen sich nicht von Sympathie leiten.

Trotzdem, auch das zeigen die Erfahrungen aus den USA, sind sie alles andere als perfekt. Journalisten der Stiftung ProPublica haben sich die Durchsicht von Datensätzen Tausender Straftäter erklagt, deren Rückfall-Wahrscheinlichkeit ein Algorithmus berechnet hatte. Das Ergebnis der Analyse: Schwarze wurden systematisch benachteiligt. Der angeblich so objektive Algorithmus war ein Rassist. Auch die Lehrerin Sarah Wysocki wurde wohl zu Unrecht entlassen. Vieles deutet darauf hin, dass die Leistungstests ihrer Schüler im Vorjahr manipuliert wurden – vom damaligen Lehrer, aus Angst, dass der Algorithmus ihn für schlechte Noten seiner Schüler bestrafen könnte. Das würde erklären, warum sich die Leistungen der Schüler unter Wysocki scheinbar verschlechterten.

Wenn Algorithmen aber nicht unfehlbar sind, wenn sie rassistisch, sexistisch oder einfach nur dämlich sein können, dann gilt für sie dasselbe wie für Menschen mit Macht: Man muss sie kontrollieren und hinterfragen können. Im Zweifel müssen die entsprechenden Programmzeilen und Daten offengelegt werden. Das Interesse von Unternehmen und Behörden, ihren Code geheim zu halten, muss sich dem Interesse der Betroffenen unterordnen.

Wenn die Lufthansa-Manager argumentieren, sie nutzten ihr neues Monopol nicht aus, weil für die höheren Preise ja ganz automatisch der Algorithmus sorge, machen sie sich dümmer, als sie sind. Natürlich kann auch ein Algorithmus die Pleite von Air Berlin ausnutzen und überteuerte Preise verlangen. Wahrscheinlich kann er das sogar besser und effizienter als jeder Manager.

Das Kartellamt hat angekündigt, nun Informationen über die Preissetzung der Lufthansa und der zugrunde liegenden Software anzufordern. Gut möglich, dass am Ende der Untersuchung ein Algorithmus schuldig gesprochen wird.

Diesen Artikel finden Sie als Audiodatei im Premiumbereich unter www.zeit.de/audio