ZEIT ONLINE: Streng genommen sind die Datensätze ja nicht fehlerhaft. Sie repräsentieren einfach, welche juristischen Entscheidungen in der Vergangenheit gefallen sind. Die Idee, die Sie vorschlagen, würde beinhalten, dass die Programmierer entscheiden müssten, in was für einer Zukunft wir alle leben sollten.

Baker: Menschen machen das doch schon heute die ganze Zeit. Stellen wir uns mal vor, es wäre keine künstliche Intelligenz daran beteiligt. Wie ändert man ein System, in dem voreingenommene Richter sitzen? Wie evaluiert man ihre Arbeit? Wartet man, bis sie aussterben? Die Fragen sind im Grunde gar nicht so anders, anders ist das Werkzeug. Menschen werden immer voreingenommen sein. Der Computer führt uns das einfach nur vor Augen.

ZEIT ONLINE: Aber Menschen unterliegen dem sogenannten automation bias: Sie halten die Entscheidungen, die Maschinen treffen, für objektiver als die eines einzelnen Richters, weil KI-Systeme alle verfügbaren Daten heranziehen können.

Baker: Das ist interessant. Sie haben Recht: Die Daten sind nicht fehlerhaft, sie reflektieren einfach nur die Vergangenheit. Verlässt man sich zu sehr darauf, kann sich die Gesellschaft nicht verändern. Ich habe keine Antwort darauf.

ZEIT ONLINE: Man wird ja nie in der Lage sein, alle biases aufzuspüren. In gewisser Weise wird die Technologie also immer fehlerhaft bleiben – und damit auch die Gesellschaft. Wie gehen wir damit um?

Baker: Es ist wichtig, sich die Resultate anzusehen, die diese Maschinen ausspucken. Gibt es ein Regelwerk, ein System dafür? Was ist der Algorithmus, mit welchem Datensatz wurde die Maschine trainiert? 

Es wäre schön, zu verstehen, wie künstliche Intelligenzen ihre Entscheidungen treffen. Vollständig wird uns das aber nicht gelingen.
Mitchell Baker, Vorsitzende der Mozilla Foundation

ZEIT ONLINE: Aber wir wissen eben nicht, wie die Maschine zu diesen Erkenntnissen gelangt. Wir sehen die Resultate, die die Maschine errechnet, wir sehen, mit welchen Daten sie arbeitet, es ist aber unklar, was dazwischen passiert.

Baker: Das stimmt. Das ist aber auch bei Menschen so. Wir verstehen nicht, was im Gehirn eines Menschen passiert. Wir rationalisieren. Besonders angesichts der Fortschritte in der IT wäre es natürlich schön, die Umstände zu verstehen, unter denen künstliche Intelligenzen ihre Entscheidungen treffen. Vollständig wird uns das aber nicht gelingen.

ZEIT ONLINE: Die Mozilla Foundation erhält ja einen großen Teil ihrer Finanzierung von Google. Angesichts der Tatsache, dass Google in vielerlei Hinsicht scharf kritisiert wird – ist Mozilla tatsächlich in der richtigen Position, ethische Probleme in der Technologiebranche zu kritisieren?

Baker: Die Frage, die Sie stellen, stellen wir uns auch seit einer Weile. Google ist einer der größten Akteure in diesem Überwachungs- und Trackingsystem im Netz. Als wir diese Verbindung 2004 eingegangen sind, war das noch anders, da war das Unternehmen noch nicht an der Börse und es gab dieses Werbemodell nicht. Damals liebten unsere Nutzer diese Verbindung. Ich will nicht drum herumreden: Wir als Mozilla sind immer noch Teil des Silicon Valley. Aber unsere Motivationen und Ziele unterscheiden sich deutlich. Wir haben in letzter Zeit begonnen, uns umzusehen. Was gibt es noch für Finanzierungsmodelle? Wenn es nicht Werbung ist, gibt es andere Dienstleistungen, die irgendwie Gewinn im Netz generieren? Oder steuern wir auf eine Welt zu, die zurückgeht zu den Tagen der Software, in denen Menschen für Dinge bezahlt haben? Das ist natürlich eine schockierende Idee, aber vor dem Internet hat man für jede Software, die man genutzt hat, bezahlt. Wir erkunden solche Modelle jetzt wieder.

ZEIT ONLINE: Ein kostenpflichtiger Firefox wäre denkbar?

Baker: Auf keinen Fall. Firefox ist ein Open-Source-Projekt, dem fühlen wir uns verpflichtet, das ist unsere DNA. Wir halten es für wichtig aus Gründen der Sicherheit, aus Gründen unserer Identität, aus Gründen der Gemeinnützigkeit. Aber es gibt ja auch andere Dienste, die wir anbieten, an denen andere Menschen möglicherweise ausreichend interessiert sind, um auch dafür zu bezahlen. Die Verbindung zu unseren Nutzerinnen und Nutzern, die ist für uns fundamental. Trotzdem fragen wir uns: Solange wir im System stecken – was genau macht uns dann eigentlich anders?