Es ist kein Vorteil, über 50 Jahre alt zu sein. Noch ungünstiger: zudem Frau und Alleinerzieherin zu sein. Am schlimmsten: auch noch in Wien-Simmering zu wohnen. Dann nämlich seien die Chancen, einen neuen Job zu finden, ziemlich niedrig. Das behauptet zumindest der neue AMS-Algorithmus. Das österreichische Arbeitsmarktservice lässt Arbeitslose seit November 2018 von einer Software durchleuchten. Mithilfe der automatisierten Einstufung legen die Berater des Arbeitsamts schließlich fest, wie viel Unterstützung und Weiterbildung Arbeitssuchenden zusteht. Für die Zukunft könnte das heißen: Nur wem der Computer gute Chancen auf einen raschen Job errechnet, der bekommt auch teure Kurse bezahlt.

Der Algorithmus des AMS ist nur eines der Beispiele, die zeigen, wie die Digitalisierung in Österreichs Behörden einzieht. Der WienBot, eine Art digitale Plaudertasche auf dem Handy, beantwortet schon seit 2017 Fragen zu den Öffnungszeiten von Bezirksämtern oder der Gültigkeit des Parkpickerls. Die App Digitales Amt macht seit Ende März das Anmelden des Wohnsitzes oder das Beantragen der Wahlkarte über das Smartphone möglich. Kürzlich zeichnete ÖVP-Digitalisierungsministerin Margarete Schramböck das Projekt Justiz 3.0 mit dem Staatspreis Digitalisierung aus: Die Initiative soll den Einsatz von papierlosen Akten in den Gerichten vorantreiben.

"Sexistischer AMS-Algorithmus diskriminiert Frauen und Mütter."
Schlagzeile in einer österreichischen Zeitung

Das Signal ist klar: Österreich will in Sachen E-Governance mit Ländern wie Estland oder Dänemark mithalten. "Ich möchte, dass Österreich zu den Digital Leaders aufschließt", wiederholt Schramböck auf Pressekonferenzen und bei Preisverleihungen. Die neue digitale Infrastruktur soll die Verwaltung effizienter, flexibler und bequemer machen. Doch wie fortschrittlich sind die digitalen Dienste tatsächlich? Und was kann und will die Gesellschaft überhaupt an Computerprogramme auslagern?

"Sexistischer AMS-Algorithmus diskriminiert Frauen und Mütter": Schlagzeilen wie diese gab es zuhauf, als das AMS seine neue Software präsentierte. Die Reaktionen waren fast durchwegs negativ. Den AMS-Vorstand Johannes Kopf ärgert das. "Der Algorithmus ist nicht diskriminierend, er bildet die Realität ab", sagt er. Dass alleinerziehende Frauen oder chronisch Kranke schlechtere Chancen auf dem Arbeitsmarkt hätten, gehe nun einmal aus den Statistiken hervor.

Entwickelt wurde das AMS-System vom Wiener Unternehmen Synthesis Forschung. Dafür griffen die Forscher auf historische Daten des Arbeitsmarktservice zurück, darunter Informationen über Alter, Bildungsstand, Geschlecht oder Kinderbetreuungspflichten von AMS-Kunden. Sie kalkulierten, welche Faktoren sich in der Vergangenheit negativ oder positiv auf die Jobsuche auswirkten.

Frausein ist ein Negativfaktor, eine Lehre ein Positivfaktor

In Formeln gegossen, liest sich das so: "– 0,14 x GESCHLECHT_WEIBLICH" oder "+ 0,28 x AUSBILDUNG_LEHRE". Während Frausein also ein Negativfaktor ist, wirkt sich eine abgeschlossene Lehre positiv auf das Rating aus. Am Ende der Rechnung steht die Einteilung in drei Kategorien: in Personen mit hoher, mittlerer oder niedriger Wahrscheinlichkeit zur raschen Rückkehr in den Arbeitsmarkt.

"Mathematik hat nur den Anschein von Objektivität."

Der AMS-Chef Kopf erhofft sich dadurch "klare Kosten-Nutzen-Relationen" und "mehr politisch bewusste Entscheidungen". Es zahle sich nicht aus, einem Arbeitslosen mit vielen Job-Hemmnissen eine teure Facharbeiterausbildung zu finanzieren, wenn er danach nur mit einer 15-prozentigen Wahrscheinlichkeit einen Job finde. Das Geld solle man besser in Maßnahmen für andere Arbeitslose mit höherer Vermittlungswahrscheinlichkeit investieren.

Kann aber ein Algorithmus, der auf Daten aus der Vergangenheit beruht, überhaupt die Zukunft vorhersagen, ohne sie indirekt selbst zu beeinflussen? Der Algorithmenforscher Florian Cech vom Centre for Informatics and Society der TU Wien setzt sich kritisch mit den gesellschaftlichen Auswirkungen der digitalisierten Verwaltung auseinander. "Das AMS-Modell ist ein Paradebeispiel für sogenanntes Math-Washing", sagt er. Der Begriff steht für den weitverbreiteten Glauben, dass maschinelle Entscheidungen frei von Vorurteilen seien. "Mathematik hat aber nur den Anschein von Objektivität", sagt Cech. Weil der Algorithmus von Menschen konzipiert worden sei, trage er auch menschliche Vorurteile in sich.

Das beginnt bei der Auswahl der Eingabevariablen und endet beim Design der Benutzeroberfläche. Durch den Algorithmus würden Vorurteile repliziert und damit zementiert, befürchtet Cech. "Eine ungute Entscheidung, die auf der persönlichen Einschätzung einer Sachbearbeiterin beruht, kann durch den Algorithmus vermeintlich objektiviert werden."

"Damit AMS-Mitarbeiter dem Algorithmus widersprechen können, brauchen sie ein tiefes Verständnis der technischen Abläufe."
Florian Cech, Algorithmenforscher

Laut AMS liegt der Algorithmus mit einer Wahrscheinlichkeit von 85 Prozent richtig. Eine Schwankungsbreite, die Cech für völlig unverhältnismäßig hält. Es sei problematisch, breite statistische Daten auf Einzelpersonen anzuwenden. Studien zeigen außerdem, dass Menschen Computerentscheidungen mehr Glauben schenken als menschlichen Einschätzungen. "Damit AMS-Mitarbeiter dem Algorithmus widersprechen können, brauchen sie ein tiefes Verständnis der technischen Abläufe", sagt Cech: eine Anforderung, die von technischen Laien niemals erfüllt werden könne.