Es ist nicht gerade ein Selbstläufer, in Deutschland eine zivilgesellschaftliche Organisation aufzubauen, die sich mit dem technologischen Wandel befasst. Die Digitale Gesellschaft kann ein Lied davon singen, ebenso wie Digitalcourage (ehemals FoeBuD), die Gesellschaft für Freiheitsrechte GFF oder auch iRights.info. Das Interesse der Öffentlichkeit daran, mitreden zu können, wenn es um Netzpolitik, Datenschutz, Überwachung und Urheberrecht geht, ist vorhanden, aber nicht gerade grenzenlos. Die "Hobbylobby" mit "vielleicht 30.000 Leuten" nannte Sascha Lobo die Szene mal.

Seit 2016 gibt es mit AlgorithmWatch eine weitere gemeinnützige Organisation, die sich einem Teilbereich der Digitalisierung widmet: der algorithmischen Entscheidungsfindung (algorithmic decision making, ADM), also der Bewertung von Menschen in Arbeitswelt, Justiz, Kreditvergabe und anderen Bereichen durch Algorithmen und selbstlernende Programme.

Die Technik macht – nicht zuletzt durch die riesigen Investitionen US-amerikanischer und chinesischer Unternehmen in die Erforschung sogenannter künstlicher Intelligenz (KI) – schnelle Fortschritte. Konkrete Ideen, wie sie reguliert werden müsste, um einer Welt voller unfairer, undurchsichtiger und unanfechtbarer Entscheidungen von Maschinen vorzubeugen, gibt es bisher aber nur wenige. AlgorithmWatch will sie mitentwickeln, als Vertreter der Zivilgesellschaft. Im Manifest der Initiative mit dem etwas holprigen Namen heißt es dazu: "Dass ADM-Prozesse dem Blick derjenigen entzogen werden, die von ihnen betroffen sind, ist kein Naturgesetz. Es muss sich ändern."

Gefördert von der Bertelsmann-Stiftung

Noch besteht AlgorithmWatch im Wesentlichen aus vier Personen: dem Journalisten und iRights.info-Mitgründer Matthias Spielkamp, der auf Internet Governance und Datenschutz spezialisierten Forscherin Lorena Jaume-Palasí, dem Datenjournalisten Lorenz Matzat und der Informatik-Professorin Katharina Zweig von der TU Kaiserslautern. (Offenlegung: Spielkamp und Jaume-Palasí sind Fellows des Bucerius-Labs, einer Initiative der ZEIT-Stiftung.)  Aber in naher Zukunft soll die gemeinnützige GmbH professioneller aufgestellt werden, mit einer Geschäftsstelle in Berlin-Mitte und einer Geschäftsführung, einem Fundraising-Beauftragten und mit Experten für Algorithmen, die der Öffentlichkeit die Vor- und Nachteile von ADM erklären. Und mit 200.000 Euro von der Bertelsmann-Stiftung für den Aufbau dieser Strukturen.

Die Stiftung hat ein eigenes Projekt zur "Teilhabe in einer digitalisierten Welt", in dem es unter anderem auch um den Umgang mit ADM geht. Einer der Projektverantwortlichen ist Ralph Müller-Eiselt. Im Gespräch mit ZEIT ONLINE sagt er: "Die Digitalisierung kann zu deutlich mehr, wenn es dumm läuft, aber auch zu deutlich weniger Chancengerechtigkeit führen. Wir wollen einen Impuls geben für eine aktivere Zivilgesellschaft. Derzeit wird die Debatte von Partikularinteressen aus der Wirtschaft dominiert." AlgorithmWatch soll eine Art Gegengewicht werden. "Unser gemeinsames Ziel ist es, dass sich AlgorithmWatch mittelfristig eine tragfähige und nachhaltige Struktur erarbeitet, die ohne die Bertelsmann-Stiftung auskommt."

"Unabhängiger Wächter über den Einsatz von Algorithmen"

Müller-Eiselt traut der Organisation zu, "ein unabhängiger Wächter über den Einsatz von Algorithmen" zu werden. Das klingt ein wenig nach jenem Algorithmen-TÜV, den neben Bundesjustizminister Heiko Maas auch Verbraucherschützer und der Big-Data-Experte Viktor Mayer-Schönberger seit Jahren fordern.

Darauf angesprochen, bleibt Spielkamp vorsichtig: "Wir scheuen den Begriff. Einerseits ich finde die Analogie gut, weil der TÜV auf einer rechtlichen Regulierung aufsetzt. Wenn die Autofahrer nicht gezwungen wären, zum TÜV zu gehen, würde es ja niemand machen. Der TÜV hat dann wiederum die technische Kompetenz. Andererseits halten wir es für unrealistisch, algorithmische Systeme für völlig verschiedene Einsatzgebiete von einer Institution großflächig überprüfen zu lassen."