In Österreich wagt die Verwaltung seit einigen Monaten ein Experiment, das die Machtverhältnisse zwischen Menschen und Maschinen verschieben könnte. Wer seinen Job verliert, bekommt es mit dem Arbeitsmarktservice (AMS) zu tun, einer Behörde, vergleichbar mit der deutschen Bundesagentur für Arbeit. Vergangenes Jahr kümmerte sich das AMS um knapp eine Million Arbeitslose.

Nun will die Behörde effizienter werden. "Wir müssen mit unseren Ressourcen haushalten. Wir haben nicht so viele", sagt Vorstand Johannes Kopf. "Dann können wir mehr Menschen in Arbeit helfen." Kopf hat deshalb beschlossen, sein Geld anders zu verteilen: Menschen, die gute Aussichten auf einen neuen Job haben, sollen die meiste Zuwendung bekommen. Langzeitarbeitslosen dagegen will er etwa eine Facharbeiterausbildung nicht mehr unbedingt bezahlen.

Wie aber erkennt man jene Arbeitslosen mit guten Chancen? Und wie die hoffnungslosen Fälle? Darüber lässt das AMS seit Jahresbeginn nicht mehr nur seine Mitarbeiter, sondern Algorithmen entscheiden. Ein Computerprogramm errechnet anhand der Erwerbsbiografie und Ausbildung, anhand des Geschlechts und des Alters die Wahrscheinlichkeit, mit der Arbeitslose innerhalb der nächsten Monate einen neuen Job finden werden. Der Gruppe mit der schlechtesten Prognose will die Behörde teure Fördermaßnahmen ab Mitte 2020 unter Umständen verweigern.

Fünf Wissenschaftler dreier Wiener Universitäten haben deshalb ein besorgtes Schreiben verfasst. Sie werfen dem AMS vor, leichtherzig einem Algorithmus zu vertrauen, den kein unabhängiger Experte vorab getestet hat. Die Forscherinnen und Forscher haben den Verdacht, dass das System Frauen und Ältere diskriminiert, weil es ihnen automatisch schlechtere Chancen bescheinigt. Seit Monaten versuchen die Forscher, genauere Einblicke zu bekommen, berichtet der Sozialwissenschaftler Ben Wagner. Er sagt: "Es geht hier um Menschen, die besonders verletzlich sind." Die Öffentlichkeit habe das Recht zu erfahren, wie ein Rechenmodell funktioniere, das über Tausende urteile.

Bisher hat die Behörde nur einen Teil des Algorithmus herausgegeben. Den österreichischen Netzaktivisten Andreas Czák, der alle Variablen sehen wollte, vertröstete das AMS mit dem Hinweis, das koste 4500 Euro.

Auch in Polen, Schweden und den Niederlanden assistieren Algorithmen dem Staat. Unternehmen wie der Versicherungskonzern Talanx nutzen sie für die Auswahl neuer Mitarbeiter. Eine Software soll an der Stimme von Bewerbern erkennen, ob diese für einen Job geeignet sind.

Das Zeitalter der Algorithmen, das viele Bürger für Science-Fiction halten, hat längst begonnen. Es bietet Anlass für Hoffnung und Horror zugleich: Algorithmen diagnostizieren Tumore und Augenerkrankungen genauso zuverlässig wie Ärzte. Wenn Mediziner und Maschinen auf Bildaufnahmen gemeinsam nach Brustkrebs suchen, stellen sie in 99,5 Prozent der Fälle die richtige Diagnose.

Erschreckend sind dagegen die Nachrichten, die seit einiger Zeit aus China kommen: Dort nutzt der autoritäre Staat Technologien wie Gesichtserkennung, um seine Bürger zu überwachen, zu belohnen und zu bestrafen.

In der westlichen Welt richtet sich die Kritik bislang meist gegen Digitalkonzerne wie Facebook oder Amazon, deren Algorithmen Echokammern und Quasi-Monopole erschaffen haben. Nun warnt ein Bericht des UN-Sonderberichterstatters für extreme Armut und Menschenrechte auch vor Computermodellen im Dienst des Staates: Die Menschheit dürfe nicht "wie Zombies" in eine digitale "Dystopie" stolpern.