Es ist kein Vorteil, über 50 Jahre alt zu sein. Noch ungünstiger: zudem Frau und Alleinerzieherin zu sein. Am schlimmsten: auch noch in Wien-Simmering zu wohnen. Dann nämlich seien die Chancen, einen neuen Job zu finden, ziemlich niedrig. Das behauptet zumindest der neue AMS-Algorithmus. Das österreichische Arbeitsmarktservice lässt Arbeitslose seit November 2018 von einer Software durchleuchten. Mithilfe der automatisierten Einstufung legen die Berater des Arbeitsamts schließlich fest, wie viel Unterstützung und Weiterbildung Arbeitssuchenden zusteht. Für die Zukunft könnte das heißen: Nur wem der Computer gute Chancen auf einen raschen Job errechnet, der bekommt auch teure Kurse bezahlt.

Der Algorithmus des AMS ist nur eines der Beispiele, die zeigen, wie die Digitalisierung in Österreichs Behörden einzieht. Der WienBot, eine Art digitale Plaudertasche auf dem Handy, beantwortet schon seit 2017 Fragen zu den Öffnungszeiten von Bezirksämtern oder der Gültigkeit des Parkpickerls. Die App Digitales Amt macht seit Ende März das Anmelden des Wohnsitzes oder das Beantragen der Wahlkarte über das Smartphone möglich. Kürzlich zeichnete ÖVP-Digitalisierungsministerin Margarete Schramböck das Projekt Justiz 3.0 mit dem Staatspreis Digitalisierung aus: Die Initiative soll den Einsatz von papierlosen Akten in den Gerichten vorantreiben.

"Sexistischer AMS-Algorithmus diskriminiert Frauen und Mütter."
Schlagzeile in einer österreichischen Zeitung

Das Signal ist klar: Österreich will in Sachen E-Governance mit Ländern wie Estland oder Dänemark mithalten. "Ich möchte, dass Österreich zu den Digital Leaders aufschließt", wiederholt Schramböck auf Pressekonferenzen und bei Preisverleihungen. Die neue digitale Infrastruktur soll die Verwaltung effizienter, flexibler und bequemer machen. Doch wie fortschrittlich sind die digitalen Dienste tatsächlich? Und was kann und will die Gesellschaft überhaupt an Computerprogramme auslagern?

"Sexistischer AMS-Algorithmus diskriminiert Frauen und Mütter": Schlagzeilen wie diese gab es zuhauf, als das AMS seine neue Software präsentierte. Die Reaktionen waren fast durchwegs negativ. Den AMS-Vorstand Johannes Kopf ärgert das. "Der Algorithmus ist nicht diskriminierend, er bildet die Realität ab", sagt er. Dass alleinerziehende Frauen oder chronisch Kranke schlechtere Chancen auf dem Arbeitsmarkt hätten, gehe nun einmal aus den Statistiken hervor.

Entwickelt wurde das AMS-System vom Wiener Unternehmen Synthesis Forschung. Dafür griffen die Forscher auf historische Daten des Arbeitsmarktservice zurück, darunter Informationen über Alter, Bildungsstand, Geschlecht oder Kinderbetreuungspflichten von AMS-Kunden. Sie kalkulierten, welche Faktoren sich in der Vergangenheit negativ oder positiv auf die Jobsuche auswirkten.

Frausein ist ein Negativfaktor, eine Lehre ein Positivfaktor

In Formeln gegossen, liest sich das so: "– 0,14 x GESCHLECHT_WEIBLICH" oder "+ 0,28 x AUSBILDUNG_LEHRE". Während Frausein also ein Negativfaktor ist, wirkt sich eine abgeschlossene Lehre positiv auf das Rating aus. Am Ende der Rechnung steht die Einteilung in drei Kategorien: in Personen mit hoher, mittlerer oder niedriger Wahrscheinlichkeit zur raschen Rückkehr in den Arbeitsmarkt.

"Mathematik hat nur den Anschein von Objektivität."

Der AMS-Chef Kopf erhofft sich dadurch "klare Kosten-Nutzen-Relationen" und "mehr politisch bewusste Entscheidungen". Es zahle sich nicht aus, einem Arbeitslosen mit vielen Job-Hemmnissen eine teure Facharbeiterausbildung zu finanzieren, wenn er danach nur mit einer 15-prozentigen Wahrscheinlichkeit einen Job finde. Das Geld solle man besser in Maßnahmen für andere Arbeitslose mit höherer Vermittlungswahrscheinlichkeit investieren.

Kann aber ein Algorithmus, der auf Daten aus der Vergangenheit beruht, überhaupt die Zukunft vorhersagen, ohne sie indirekt selbst zu beeinflussen? Der Algorithmenforscher Florian Cech vom Centre for Informatics and Society der TU Wien setzt sich kritisch mit den gesellschaftlichen Auswirkungen der digitalisierten Verwaltung auseinander. "Das AMS-Modell ist ein Paradebeispiel für sogenanntes Math-Washing", sagt er. Der Begriff steht für den weitverbreiteten Glauben, dass maschinelle Entscheidungen frei von Vorurteilen seien. "Mathematik hat aber nur den Anschein von Objektivität", sagt Cech. Weil der Algorithmus von Menschen konzipiert worden sei, trage er auch menschliche Vorurteile in sich.

Das beginnt bei der Auswahl der Eingabevariablen und endet beim Design der Benutzeroberfläche. Durch den Algorithmus würden Vorurteile repliziert und damit zementiert, befürchtet Cech. "Eine ungute Entscheidung, die auf der persönlichen Einschätzung einer Sachbearbeiterin beruht, kann durch den Algorithmus vermeintlich objektiviert werden."

"Damit AMS-Mitarbeiter dem Algorithmus widersprechen können, brauchen sie ein tiefes Verständnis der technischen Abläufe."
Florian Cech, Algorithmenforscher

Laut AMS liegt der Algorithmus mit einer Wahrscheinlichkeit von 85 Prozent richtig. Eine Schwankungsbreite, die Cech für völlig unverhältnismäßig hält. Es sei problematisch, breite statistische Daten auf Einzelpersonen anzuwenden. Studien zeigen außerdem, dass Menschen Computerentscheidungen mehr Glauben schenken als menschlichen Einschätzungen. "Damit AMS-Mitarbeiter dem Algorithmus widersprechen können, brauchen sie ein tiefes Verständnis der technischen Abläufe", sagt Cech: eine Anforderung, die von technischen Laien niemals erfüllt werden könne.

"Eine solche Betaversion hätte niemals veröffentlicht werden dürfen"

Anders sieht das Peter Parycek, Professor für E-Governance an der Donau-Universität Krems. "Auch der Mensch ist nicht frei von Vorurteilen", sagt der Forscher, der auch die deutsche Bundesregierung berät. Eine "Mensch-Maschine-Kombination", die auf messbare Kriterien ebenso wie auf menschliches Erfahrungswissen setze, sieht er als große Chance. Die größte Hürde: "Wir sind momentan extrem problemorientiert. Stattdessen sollten wir uns lieber um Lösungen kümmern."

Zu den Vorreitern der Digitalisierung des öffentlichen Sektors zählen in Europa Länder wie Finnland, Estland oder Dänemark. In Estland etwa gehört die Digitalisierung längst zum gemeinsamen Narrativ. Dort beurteilt eine künstliche Intelligenz anhand von Satellitenbildern etwa, ob Landwirte eine Subvention bekommen. Sobald ein Kind geboren wird, wird es automatisch an der nächstgelegenen Schule vorangemeldet. Und bald könnte in Estland eine KI sogar richterliche Entscheidungen übernehmen.

So weit ist Österreich längst nicht. Zwar rühmte sich Ministerin Schramböck im Vorjahr in einem Interview mit dem Spiegel, dass "wir Österreicher die besseren Deutschen" seien, was die Digitalisierung angehe. Tatsächlich liegt Österreich im Digitalisierungsindex DESI der EU-Kommission im Bereich der öffentlichen Dienste auf Platz acht unter den 28 Mitgliedsstaaten: deutlich vor Deutschland, das nur auf dem 22. Platz landete, aber hinter den Vorreitern aus den baltischen Staaten und aus Nordeuropa.

Unerlaubte Zugriffe und Betrug

Laut einer Studie der Unternehmensberatung Ernest & Young besteht hierzulande insbesondere in Sachen Datenschutz Aufholbedarf, es hapert aber auch bei der Verständlichkeit der Online-Dienste der Behörden. "Aktuelle Angebote tragen noch stark die Papierlogik in sich und versuchen, diese in die digitale Welt zu übertragen", sagt Peter Parycek. Handlungsbedarf sieht er schon bei der Gesetzgebung: "Gesetze wurden bei ihrer Verabschiedung bislang nicht auf ihre Digitalisierungsfreundlichkeit geprüft." Hier müsse im Vorfeld mit Informatikern zusammengearbeitet werden, anstatt nachher umständlich Lösungen zu suchen, wie sich eine Regelung digital umsetzen ließe.

Dazu kommt die Frage nach der Datensicherheit. Das betrifft den gläsernen Bürger, den Datenschützer befürchten, aber auch den Staat selbst. Immer wieder tauchen Fehler auf, welche die Dienste anfällig machen für unerlaubte Zugriffe und für Betrug.

"Einfacher geht’s nimmer – Mit App schneller angemeldet als eingezogen": Mit diesem Slogan wirbt das Bundesministerium für Digitalisierung für seine Mitte März präsentierte App Digitales Amt. Doch wie nun bekannt wurde, hat die App bereits eine erste große Behördenpanne ausgelöst. Mehr als 600 Anträge für Wahlkarten zur Europawahl sind durch einen Fehler im Bundesrechenzentrum verschwunden. Dabei lautete das Versprechen der Entwickler: Behördengänge wie das Ummelden des Hauptwohnsitzes lassen sich jetzt von jedem Ort aus erledigen, anstatt dafür persönlich im Amt aufkreuzen, warten und Zettel ausfüllen zu müssen.

Das geht tatsächlich sehr einfach, wie der Neos-Abgeordnete Gerald Loacker feststellte. Kurzerhand meldete er seinen Wohnsitz um – und zwar auf die Adresse des Wirtschaftsministeriums. Ein paar Klicks auf seinem Smartphone, schon wohnte er offiziell am Stubenring 1 in 1010 Wien.

Das Meldeamt lässt sich mit der App leicht täuschen

Die Aktion startete Loacker, wie er sagt, weil seine sachlichen Einwände nicht gehört worden seien. Denn mit der App lässt sich das Meldeamt problemlos täuschen: Nutzer können auf ihrem Smartphone jede beliebige Adresse als Wohnort eintragen – ein Fußballstadion genauso wie ein Wohnhaus oder eben ein Ministerium. Nachweis ist dafür keiner nötig. "Damit ist jedem Missbrauch Tür und Tor geöffnet", warnt Loacker, Pendlerpauschalen könnten illegal abgegriffen und sogar Wahlbetrug begangen werden.

Was als medienwirksamer Schnellschuss gedacht war, endete in einer absurden Behörden-Odyssee: Eigentlich wollte sich Loacker gleich wieder auf seine richtige Wohnadresse ummelden. Doch die App sperrte diesen Vorgang automatisch für vier Wochen. Loacker kontaktierte das Meldeamt in Wien – ohne Erfolg. Die Wiener verwiesen ihn stattdessen an das Meldeamt seines Heimatortes. Aber auch in Dornbirn wusste man nicht weiter. Ein Anruf bei der Hotline der App stiftete nur noch mehr Verwirrung: Dort riet man Loacker, sich doch einfach in der App umzumelden – von der Vier-Wochen-Sperre wussten die Hotline-Mitarbeiter schlicht nichts. Dann erhielt Loacker auch noch eine Klage wegen Verstoßes gegen das Meldegesetz. Er sieht sich in seiner Kritik der unausgereiften Technologie dadurch nur bestätigt: "Eine solche Betaversion hätte niemals veröffentlicht werden dürfen."

Mittlerweile hat die zuständige Ministerin Schramböck reagiert: Sie kündigte an, dass öffentliche Gebäude in der App künftig nicht mehr als Wohnsitz ausgewählt werden können.

Um Missbrauch zu verhindern, wird das allerdings nicht ausreichen. Betrug gibt es natürlich auch bei klassischen Anträgen auf Papier, etwa durch Unterschriftsfälschung. Was es hier wie dort brauche, sagt E-Governance-Experte Peter Parycek, seien Prüfungsmechanismen. Für das virtuelle Meldeamt schlägt er etwa vor: Die App könnte den Eigentümer einer Immobilie automatisch darüber verständigen, dass sich jemand auf dieser Adresse gemeldet hat.

"Nicht jedes Problem eignet sich dafür, mithilfe von Technologie gelöst zu werden", findet hingegen der Algorithmenforscher Florian Cech. Er wünscht sich, dass digitale Experimente im Verwaltungswesen von Beginn an von mehr kritischer Forschung begleitet werden. "Oftmals sind wir gezwungen, erst im Nachhinein zu reagieren."

Im Falle des AMS-Algorithmus wird es vorerst wohl keine Nachbesserungen mehr geben. Seit November schon steht das System allen Mitarbeitern zur Verfügung; ab dem Jahr 2020 sollen schließlich Ressourcen basierend auf den Bewertungen verteilt werden. Wer dann in der niedrigsten Gruppe landet, wird keine teuren Weiterbildungen mehr bezahlt bekommen – außer ein Betreuer setzt sich über den Computer hinweg.

Der Text wurde am 11. Mai aktualisiert. Bei Redaktionsschluss der Printausgabe war noch nicht bekannt, dass die App Digitales Amt eine Behördenpanne ausgelöst hatte.