Was dürfen Rechner entscheiden, Frau Zweig? – Seite 1

Die Frau mit den Schaschlikspießen lässt ihre Stimme ein klein wenig tiefer klingen, um dem Begriff eine ironische Note zu verleihen. "Sie sind jetzt meine Support-Vector-Machine." Einzelne, unsichere Lacher aus dem Publikum. Katharina Zweig nickt bekräftigend und fährt in ihrer natürlichen Stimmhöhe fort: "Sehr oft werden Firmen auf Sie zukommen und Sie mit Fachwörtern zuballern. Support-Vector-Machine ist auch so eines." Kurze Pause. "Sie werden jetzt eine KI trainieren. Mit diesem Schaschlikspieß."

Zweig – 43 Jahre alt, groß, schwarz gekleidet, die Brille ins lange Haar geschoben – ist eine ausgezeichnete Wissenschaftlerin und gut vernetzte Politikberaterin. Ein Sachbuch für Laien hat sie auch gerade geschrieben. Sie will Nicht-Informatiker mit einem heiklen Thema erreichen. Deshalb reckt sie an diesem Nachmittag Ende Mai in einem Berliner Kongresshotel ein dünnes Holzstäbchen in die Höhe.

"Wenn man immer nur abstrakt über KI spricht, kann man nicht verstehen, wie da die Ethik reinkommt."
Katharina Zweig, Sozioinformatikerin

Zweigs Thema: künstliche Intelligenz. Eigentlich aber geht es um Ethik in einer Welt, in der Maschinen Entscheidungen treffen. Ihr Publikum an diesem Tag: Betriebsräte. Sie kommen von Chemieunternehmen, Klinikketten, Logistikdienstleistern und Autozulieferern. Es sind Arbeitnehmervertreter, die vielleicht schon bald Betriebsvereinbarungen aushandeln müssen, in denen es um KI bei der Personalauswahl geht.

Künstliche Intelligenz also, geronnen zu dem zweibuchstabigen Heils- und Schreckenskürzel KI. "Wenn man immer nur abstrakt über KI spricht, kann man nicht verstehen, wie da die Ethik reinkommt", ruft Zweig den Betriebsräten zu. "Wir müssen zusammen in den Maschinenraum." Deswegen die Spieße. Auf jedem Platz liegt ein Briefumschlag mit einem Holzstäbchen, zwei Klebestreifen und einem Heftchen. Im Heftchen sind rote und grüne Gesichter in einem Raster verteilt. Grün steht für erfolgreiche Arbeitnehmer, Rot für weniger erfolgreiche. "Legen Sie jetzt den Holzspieß so zwischen die Smileys, dass die Roten möglichst gut von den Grünen getrennt sind!" Dasselbe wird Zweig auch Anfang September in Hamburg sagen, wenn sie vor Beratern und deren Kunden spricht. Genauso Ende September beim Heidelberg Laureate Forum. Auch bei der Jahrestagung der Deutschen Forschungsgemeinschaft in Rostock, wo Zweig im Juli den Communicator-Preis erhielt – eine Auszeichnung für engagierte Wissenschaftskommunikation –, hatte sie Stäbchen dabei.

Die Mitmach-Einlage birgt zwei einfache Botschaften: erstens, dass hinter einem grandiosen Fachbegriff etwas Simples stecken kann. So ist eine Support-Vector-Machine kein komplizierter Apparat, sondern einfach ein mathematisches Verfahren, um eine Datenmenge (hier: eine Punktewolke) so zu teilen, dass möglichst saubere Teilmengen entstehen (hier: Rot und Grün). Den zweiten Lerneffekt hat sie mit der Verteilung der Smileys im Raster angelegt. "Das ist jetzt unfair." Egal, wie man es versuche, die Roten ließen sich nicht sauber von den Grünen trennen. So sei das im Leben ja auch meistens.

Erst Zweig hat Informatik und Gesellschaft in Deutschland zusammengeführt

Damit aber muss eine Software umgehen, die Entscheidungen trifft. Die Betriebsräte in Berlin fragt Zweig: Was soll ein Algorithmus tun, der automatisch Bewerbungsunterlagen sichtet, um Einladungen oder Absagen auszusprechen? Wie also soll ein Computer den geraden Strich ziehen, den das Holzstäbchen symbolisiert? Antwort der Informatik-Professorin: "Das kann Ihnen kein Informatiker sagen. Das ist eine Frage der Unternehmenskultur." Ist das jetzt noch IT, oder ist es schon Sozialkunde?

Den Brückenschlag zwischen Computeringenieurwesen und Gesellschaft hat Katharina Zweig an der TU Kaiserslautern in den Studiengang Sozioinformatik gegossen, den ersten dieser Art deutschlandweit. Ihre Studenten lernen Programmieren genauso wie die Grundlagen empirischer Sozialforschung und Psychologie. Ökonomie, Recht und eben Ethik, alles dabei. "Wenn heute der Begriff Sozioinformatik fällt, dann muss das mit Katharina Zweig zu tun haben", sagt Hannes Federrath, Präsident der Gesellschaft für Informatik (GI). "Ihr großes Verdienst ist, dass sie früh erkannt und in die Öffentlichkeit getragen hat, welchen Diskussionsbedarf das KI-Thema in der Gesellschaft verursachen wird." Ihre Vorgängerin als Communicator-Preisträgerin, die Meeresbiologin Antje Boetius, sagt über Zweig: "Sie hat eine tolle Gabe, Komplexität zu decodieren."

Werden außergewöhnliche Forscher zu öffentlichen Intellektuellen, so ist es mittlerweile üblich, wenn nicht schon ein Klischee, die Kurven und Brüche des jeweiligen Lebenslaufs zu betonen. Katharina Zweigs Vita kann man indes auch anders lesen, als konsequente Diagonalbewegung – ausgehend von ihrer allerersten Veröffentlichung.

Sie ist keine Maschinenstürmerin

Die erschien, als sie elf Jahre alt war, im populärwissenschaftlichen Magazin Spektrum der Wissenschaft. Nina, wie sie sich heute noch selbst nennt, hatte die Antwort auf ein Rätsel eingesandt. Das sei irgendeine Rechenaufgabe mit Äpfeln gewesen, erinnert sich Zweig. Statt ein Ergebnis auszurechnen, habe sie einen Comic gezeichnet – in dem die Äpfel zu Kompott verarbeitet wurden. Zeichnen habe ihr eher gelegen als die Mathematik, sagt sie, jedenfalls anfangs. Nach der Schule hielt sie sich zunächst ans apfelhaft Lebendige und studierte Biochemie. Dabei aber kam sie mit Statistik in Berührung, promovierte in Informatik und übernahm schließlich in Kaiserslautern den Lehrstuhl für "Graphentheorie und Analyse komplexer Netzwerke". Für ihre "exzellente Lehre" erhielt sie den Ars-Legendi-Preis, die Gesellschaft für Informatik ernannte sie als "junges, engagiertes Talent" zum Junior-Fellow, und als Vordenkerin wurde sie 2014 als einer von 39 "Digitalen Köpfen" Deutschlands ausgezeichnet. Sie wird zum Wissenschaftsrat geladen und ins Kanzleramt.

"Dass KI Probleme machen kann, haben jetzt alle kapiert."
Katharina Zweig, Sozioinformatikerin

Zweig bezeichnet sich selbst zuweilen als Data-Scientist, ein Berufsbild, dem der Harvard Business Manager zu Beginn des Jahrzehnts das Etikett "sexiest job of the 21st century" verpasste. Tatsächlich hat sich Zweig bald nicht mehr nur auf Analyse beschränkt. Im Jahr 2016 zählte sie zu den Mitgründern des Berliner Thinktanks AlgorithmWatch, der für Transparenz im Digitalen eintritt. Ihre Kaiserslauterner Forschungsgruppe benannte sie um, seit drei Jahren heißt sie Algorithm Accountability Lab; Accountability heißt Rechenschaft. Klares Signal: Hier wird Software zur Verantwortung gezogen. Mit einem ehemaligen Doktoranden und ihrem Mann Winfried, einem Pädagogen, hat sie die Firma Trusted AI gegründet, für die ihre zehnjährige Tochter die Schaschlikspieße in transparente (!) Umschläge packt, bevor ihre Mutter zum Vortrag reist.

Das Missverständnis liegt nahe: Hier warne jemand öffentlichkeitswirksam vor den heißesten Trends der eigenen Fachrichtung. Doch Zweig ist keine Maschinenstürmerin.

Anfang September, in der Hamburger Speicherstadt, als Gast der Beratungsfirma Kienbaum, spricht sie darüber, "wie die Ethik in den Rechner kommt". 80 verschiedene Bücher habe allein AlgorithmWatch katalogisiert, die rieten, was man mit der neuen Technik tun könne und was man auf keinen Fall tun solle. "Wir Hamburger würden sagen, wir haben da so’n richtiges Kuddelmuddel." Zwei Debatten liefen da separat. "Die einen finden alles halb so wild, erst mal machen. Und die anderen finden alles ganz schlimm."

In ihrem Buch schreibt Zweig für Nicht-Informatiker

Zweig wählt einen pragmatischen Mittelweg. Es gehe darum, ob Algorithmen problematisch seien, weil sie über Menschen entscheiden. Dann müsse man die Basis der Entscheidungen genau kennen! Erst recht, wenn es um selbstlernende Systeme gehe. Entsprechend ermutigt sie ihr Publikum, "die Chancen zu betrachten". Wie die Ethik in den Rechner komme? "Über Sie, über mich, über uns."

Zweig ist keine Warnerin, sondern Aufklärerin, jemand, der alphabetisieren will. "Dass KI Probleme machen kann, haben jetzt alle kapiert", sagt sie. Nun gehe es darum, dass die Menschen Verständnis für die Technik und ihre Auswirkungen auf die Gesellschaft entwickeln. Menschen heißt hier: Nicht-Informatiker.

Für die hat Zweig jetzt ein Buch geschrieben. Auf seinem quietschgelben Umschlag ranken stilisierte Leiterbahnen entlang. Klares Signal: Technik. Der türkisfarbene Titel hingegen verspricht etwas anderes. Ein Algorithmus hat kein Taktgefühl steht da. Und weiter. "Wo künstliche Intelligenz sich irrt, warum uns das betrifft und was wir dagegen tun können." Dieses Buch ist nicht weniger als wunderbar, man muss es sich vorstellen wie eine Langversion von Katharina Zweigs Vorträgen. Die technischen Grundlagen werden charmant und nachvollziehbar erklärt.

"Wenn KI nicht divers ist, ist sie unethisch"

Zum "Werkzeugkoffer", den die Autorin im ersten Teil packt, gehört ein Kapitel über naturwissenschaftliche Erkenntnis und ihre Grenzen – ein Stück Wissenschaftstheorie, das sich liest wie Denkpraxis. Es folgt ein kompaktes, unterhaltsames Abc der Informatik, bevor im dritten Teil die Ethik zum Zug kommt und Zweigs Leitmotiv "Wie man die Kontrolle behält". Eine Comicfigur begleitet den Leser, der Roboter Kai (aus KI und AI, englisch für artificial intelligence). Er ist, wie seine Erfinderin ihn einführt, "noch ein bisschen schwer von Begriff, wenn es darum geht, den Menschen wirklich zu verstehen". Kai und seine Schwierigkeit mit Gefühlen, Normen, ganz generell mit Unschärfe umzugehen, das ist ein Kunstgriff. Er, nicht der Leser, muss lernen. Die Technik, für die er steht, hat das Kompetenzdefizit: Es sind die Algorithmen, die sich der Gesellschaft anpassen müssen, nicht umgekehrt.

Bevor sie die Bühne betritt, wirkt sie nervös

Wurde Katharina Zweig ihr Erzähltalent in die Wiege gelegt? Ihr Vater, ein Journalist, berichtete für den stern aus Äthiopien, Rumänien, Nordkorea. Aber gewidmet hat sie dieses Buch ihrer Mutter, "die mich das Lehren lehrte". Wie das? Sie sei Lehrerin gewesen und habe ihre Nina den Dreisatz hundertmal erklären lassen, erinnert sich diese. "Irgendwann bleibt dann eben auch etwas hängen."

Den Kai hat Zweig übrigens selbst gezeichnet, so wie alle Illustrationen in ihrem Buch. Wer ihr auf Twitter folgt, wo sie als @nettwerkerin unterwegs ist, der sieht dort regelmäßig ihre Zeichnungen und Skizzen. Etwa eine Gruppe Kai-ähnlicher Roboterköpfe, alle unterschiedlich, darunter das Motto: "Wenn KI nicht divers ist, ist sie unethisch." Das hat sie gemalt, als sie kürzlich nach Oxford ans Alan-Turing-Institut fuhr, zur Konferenz "100+ brilliant women in AI and Ethics". Zu denen gehört Zweig, die den Mangel an Frauen in Technikdisziplinen beklagt, jetzt auch.

Ein paar Tage später ist Katharina Zweig in Heidelberg mit dem Vortrag, den sie schon so oft gehalten hat. Dennoch ist es eine Premiere: "Meine erste dinner speech" – ein Abendvortrag im feierlichen Rahmen. Zweig wirkt nervös, bevor sie die Bühne betritt. Im Publikum sitzen zwei Dutzend "Laureaten", Träger der renommierten Abel- und Nevanlinna-Preise, der Fields-Medaillen und ACM-Awards. Es sind die Quasinobelpreise der Mathematiker und Informatiker. Beim Heidelberg Laureate Forum treffen diese Heroen auf die vielversprechendsten Jungforscher ihrer Fächer.

Die Elite aus Mathematik und Informatik soll sich engagieren

Diesmal hat Zweig kein Beispiel zur Personalauswahl oder aus der Strafverfolgung dabei. Vor den Laureaten des Heidelberger Forums spricht sie darüber, ob Computer einmal politische Entscheidungen treffen könnten – und ob sie es sollten. Immerhin habe doch Facebooks KI-Chef, der Franzose Yann LeCun, schon davon gesprochen, Computern einen Kernbestand ethischer Grundsätze zu implantieren. "Kommt die Zeit, in der eine KI Politiker übertrifft?", fragt Zweig. Zwischenruf von Vint Cerf: "That’s a low bar!" Der da so höhnt, ist Turing-Preisträger, einer der Urväter des Internets, Amerikaner. "Eine niedrige Latte?" Zweig lächelt und zieht zugleich missbilligend die Augenbrauchen hoch, in ihrer Stimme ist der charmante Tadel unüberhörbar: "Hey, hey, Mister Cerf!"

Es wäre leicht gewesen, stattdessen mit einem opportunistischen Trump-Witz zu reagieren. Aber das hätte nicht zu Zweigs Botschaft gepasst. Sie fordert von dieser Elite aus Mathematik und Informatik: "Bitte engagiert euch, beratet eure Politiker!" Und für ihren nächsten Schaschlikstäbchen-Auftritt hat sie hier auch etwas gelernt. Anders als Maschinen neigen selbst die klügsten Menschen zum Schummeln. Die "smart guys in the first row", die Schlaumeier in der ersten Reihe, hatte sie ermahnen müssen: "Nicht die Stäbchen biegen!"

Quellen

Der Autor hat Katharina Zweig in Berlin, Hamburg und Heidelberg begleitet, wo sie vor Betriebsräten, Beratern und Forschern sprach.

Katharina Zweigs Vortrag vom Juli bei der DFG-Jahresversammlung in Rostock als Online-Video (inklusive Schaschlikspießen)

Das Sachbuch der Informatikerin: "Ein Algorithmus hat kein Taktgefühl" (Heyne), 320 Seiten, ab 14. Oktober

Links zu diesen und weiteren Quellen unter zeit.de/wq/2019-42