"Das Internet wird vielfach als Sündenbock missbraucht" – Seite 1

Read the English version of this interview here.

Er gilt als "Orakel des Silicon Valley": Tim O'Reilly hat Begriffe wie "Open Source" oder "Web 2.0" populär gemacht. Als Gründer und CEO des Computerbuchverlags O'Reilly Media hat er mehrere Bücher verfasst – unter anderem über Windows, Twitter und Unix. In seinem jüngsten Werk "WTF? What's the Future and Why It's Up to Us" beschäftigt er sich mit der Zukunft und der "nächsten Ökonomie". ZEIT ONLINE hat ihn getroffen und mit ihm über den Hype um künstliche Intelligenz (KI), datenbasierte Politik und den Zustand des Internets gesprochen.

ZEIT ONLINE: Herr O'Reilly, würden Sie lieber von einem Präsidenten wie Donald Trump regiert oder von einer künstlichen Intelligenz?

Tim O'Reilly: Das kommt auf die KI an genauso wie auf die Person.

ZEIT ONLINE: Warum?

O'Reilly: Genauso, wie es viele Arten von Lebewesen gibt, wird es wahrscheinlich auch viele Arten von KI geben. Und sie werden unterschiedliche Begabungen haben. Ein Pferd oder ein Gepard rennen ja auch schneller als wir Menschen, trotzdem können wir andere Dinge besser als sie. Also müssen wir eher über spezifische Fähigkeiten reden.

ZEIT ONLINE: Zum Beispiel?

O'Reilly: Vertrauen Sie den Routenempfehlungen von Google Maps mehr als denen eines durchschnittlichen Passanten auf der Straße? Ich schon. Und ich kann mir eine algorithmische Intelligenz vorstellen, der ich eher das Management unserer Außenpolitik oder unserer Wirtschaft anvertrauen würde als Donald Trump.

Typische gesetzliche Regelungen werden einmal in Gang gesetzt und sollen dann 10, 20 oder gar 50 Jahre halten – das funktioniert nicht mehr.
Webvordenker Tim O'Reilly

ZEIT ONLINE: Meine Eingangsfrage spielt auf eine Idee an, die Sie 2011 veröffentlicht haben: Sie wollen eine "algorithmische Regulierung", damit meinen Sie den Einsatz von Algorithmen in der öffentlichen Verwaltung. Was wollen Sie damit erreichen?

O'Reilly: Technologiefirmen haben eine sehr interessante Entdeckung gemacht: Man kann die Ergebnisse seines Tuns messen und aufgrund neuer Daten seine Beurteilung ändern. Typische gesetzliche Regelungen dagegen werden einmal in Gang gesetzt und sollen dann 10, 20 oder gar 50 Jahre halten – das funktioniert nicht mehr. Wir müssen der Regierung helfen, schneller aus ihren Fehlern zu lernen.

ZEIT ONLINE: Nun könnte man argumentieren, dass unser politisches System nicht gemacht ist für solche schnellen Methoden der Entscheidungsfindung.

O'Reilly: Dann brauchen wir vielleicht ein neuartiges politisches System.

ZEIT ONLINE: Wie soll das aussehen?

O'Reilly: Stellen wir uns Google für einen Moment als Regierung des Internets vor. Die Suchmaschine hat ja bestimmte Kriterien, nach denen sie eine Website als nützlich einstuft – zum Beispiel, wie viele Leute auf eine Seite verlinken, wie viel Zeit Menschen dort verbringen, ob sie gleich wieder in die Suche zurückspringen und so weiter. Google hat dadurch definiert, wie gute Seiten aussehen. Als Google 2011 entdeckte, dass Content-Farmen …

ZEIT ONLINE: … also Anbieter, die in möglichst großen Mengen Texte oder Videos produzieren und veröffentlichen, deren Hauptziel es ist, möglichst viele Klicks zu generieren…

O'Reilly: … als Google also entdeckte, dass die lausige Inhalte ins Netz stellten, die von der Suchmaschine für gut befunden wurden, hat es den Algorithmus geändert und viele dieser Firmen vom Markt gefegt. Ich bin Fan einer stärkeren, an Prinzipien orientierten Regierung, die wirklich für die Menschen funktioniert. Und das heißt eben auch, schnell Dinge zu überdenken.

"Ablehnung gegen Maschinen ist nicht die richtige Antwort"

ZEIT ONLINE: Google kann das von einem Tag auf den anderen tun, die Politik kann das oft nicht so einfach.

O'Reilly: Aber wenn wir uns eine bessere Regierung vorstellen, wäre sie datengetrieben und würde eindeutige Ziele formulieren. Stattdessen haben wir diesen Vetternwirtschaftskapitalismus, in dem einzelne Interessengruppen zu viel Einfluss haben. Das ist, als würde sich Google mit den Spammern an einen Tisch setzen und mit ihnen verhandeln, welches Stück vom Kuchen sie abbekommen. Ich denke nicht, dass wir "das Internet" reparieren müssen, sondern wir müssen etwas an der Tatsache ändern, dass es Gruppen von Menschen mit sehr engen Partikularinteressen gibt, die die Welt als Geisel halten und uns daran hindern, die Probleme anzugehen, die für den Rest der Menschheit sehr bedeutend sind. Offen gestanden, wir brauchen eine Regierung, die sich genauso am öffentlichen Interesse orientiert wie die Techfirmen in ihren besseren Tagen am Wohl ihrer Nutzer.

ZEIT ONLINE: Erst einmal klingen Maschinen mit einer kühlen Intelligenz, die von uns formulierte Ziele umsetzen, großartig. Aber immer wieder geraten Systeme in die Kritik, etwa beim Einsatz von KI im Strafvollzug. Dort entscheiden sie in den USA mit darüber, wie hoch eine Kaution angesetzt wird oder sogar über eine Inhaftierung. Viele lehnen es ab, dass Maschinen diese Aufgaben übernehmen.

O'Reilly: Ich glaube nicht, dass Ablehnung die richtige Antwort ist. Die vorhersagenden Algorithmen der Polizei und Justiz haben uns gezeigt, wie vorurteilsbeladen die existierenden Systeme sind. Die Algorithmen sind schlecht, weil wir sie auf der Basis jahrzehntealter Daten trainiert haben, die Vorurteile enthalten. Es ist nicht richtig, jetzt zu sagen: "Die Systeme zeigen uns, dass wir in der Vergangenheit versagt haben; statt sie zu verbessern, lassen wir wieder Menschen entscheiden oder Systeme, die die Daten produziert haben, die wiederum den Algorithmus schlecht trainiert haben."

ZEIT ONLINE: Sie galten lange als Technikoptimist und glaubten insbesondere an das Internet und seine befreienden Kräfte. In den vergangenen Jahren haben gerade soziale Medien, die ja eigentlich angetreten waren, die Menschheit zu vernetzen, viel Kritik abbekommen: Durch Microtargeting, also individuelle Werbung auf Basis sensibler persönlicher Informationen, sollen sie Radikalisierung und Manipulationsmöglichkeiten im Netz gefördert haben. Hat die Kritik Sie dazu gebracht, einige Ihrer Überzeugungen zu hinterfragen?

O'Reilly: Nicht wirklich. Das Internet wird vielfach als Sündenbock missbraucht.

ZEIT ONLINE: Wie meinen Sie das?

O'Reilly: In Ihrem Buch Network Propaganda haben sich Yochai Benkler und seine Harvard-Kollegen die Verbreitung von Verschwörungstheorien im Internet angeschaut und herausgefunden, dass Theorien vom linken Rand des politischen Spektrums durch die linkslastigen Mainstreammedien abgemildert wurden, während die Ideen vom rechten Rand durch den rechten Mainstream verstärkt wurden. Das Microtargeting mit Desinformationen auf Facebook mag eine Rolle gespielt haben in der US-Wahl, aber ehrlich gesagt hatte die institutionalisierte Desinformation durch sogenannte Traditionsmedien wie Fox News wahrscheinlich einen viel größeren Einfluss. Will ich, dass sich Facebook bessert? Ja. Aber ich will auch, dass sich Fox News oder die New York Times verbessern.

Gerade Facebook wird gern zum Sündenbock gemacht. Man hört längst nicht so viel über YouTube, und das ist mindestens so schlimm oder sogar noch schlimmer.
Webvordenker Tim O'Reilly

ZEIT ONLINE: Aber sind Facebook und andere Techfirmen heute nicht mächtiger als Fox News oder die New York Times?

O'Reilly: Es läuft sicherlich einiges schief mit diesen Plattformen. Wenn Sie jedoch Facebook mit den großen Pharma-, Öl- und Tabakfirmen vergleichen, dann hat die Firma doch recht schnell reagiert. Facebook hat Zehntausende von Leuten eingestellt, die nach Fake-News suchen, das Netzwerk gibt Mittel für technische Innovation auf diesem Gebiet aus. Vergleichen Sie das mal mit der Antwort der Tabakkonzerne auf die Erkenntnisse über Lungenkrebs, den Umgang der Ölkonzerne mit dem Klimawandel oder die Reaktion der Pharmaindustrie auf die Opioid-Krise. Oder auch mit den Banken an der Wall Street, die 2009 fast die Weltwirtschaft versenkt haben. Dagegen sehen die Techfirmen noch ziemlich gut aus. Außerdem wird gerade Facebook gern zum Sündenbock gemacht. Man hört längst nicht so viel über YouTube, und das ist mindestens so schlimm oder sogar noch schlimmer. Ich würde mich freuen, wenn wir eine nuanciertere und von Daten gestützte Debatte führen würden, statt einen Schuldigen auszumachen, ohne die anderen Spieler in diesem System unter die Lupe zu nehmen.

ZEIT ONLINE: Auch darüber hinaus gibt es viel Kritik daran, wie Technologie eingesetzt wird. Es geht auch um intransparente Algorithmen, um Gesichtserkennung, um Kameras, die uns ständig anstarren, um Firmen, die unsere Internetaktivitäten tracken. Generell um ein Gefühl der Machtlosigkeit.

O'Reilly: Ich habe meine Probleme mit Gesichtserkennung. Denn die ermöglicht wirklich dystopische Szenarien, gerade im politischen Kontext. Ein repressives System kann sie nutzen, um Menschen auf Schritt und Tritt zu verfolgen. Wir sehen schon heute einige düstere Dinge in China, die auf Gesichtserkennung basieren. Aber auf der anderen Seite gibt es auch Chancen. Will ich, dass mein Auto mich analysiert und erkennt, wenn ich wegdöse? Auf jeden Fall.

"Das große Problem ist die massive Machtasymmetrie"

ZEIT ONLINE: Möchten Sie auch, dass Ihre Versicherungsgesellschaft davon erfährt?

O'Reilly: Das Problem ist nicht, dass man Daten sammelt, sondern ob sie für oder gegen mich verwendet werden. Der Ansatz "Wir müssen das Datensammeln verhindern" ist falsch. Datenschutz im Gesundheitswesen ist so ein großes Thema, weil Versicherungen diskriminieren. Und dafür müssen wir nicht Datensammlungen verhindern, sondern die Diskriminierung. Auch wenn das vielleicht nicht leicht ist.

ZEIT ONLINE: Ist das Problem nicht eher, dass wir nicht wissen, wer die Daten bekommt und was damit geschieht?

O'Reilly: Wir müssen nach vorn denken, nicht rückwärtsgewandt. Das große Problem dieser Systeme ist die massive Machtasymmetrie. Wir müssen Menschen in die Lage versetzen, diesen Großsystemen auf Augenhöhe zu begegnen. Warum soll ich nicht eine Maschine haben, die nur für mich arbeitet, mich beschützt, meine Präferenzen formuliert? Manche Leute denken über persönliche KI-Systeme nach, deren Mission es ist, zum Beispiel auf Tim aufzupassen und ihn vor all den anderen Maschinen zu beschützen, die ihn übervorteilen wollen.

ZEIT ONLINE: Nehmen wir mal die europäische Datenschutz-Grundverordnung als Beispiel: Die hat dazu geführt, dass uns jede Website mit einem Pop-up-Fenster zum Datenschutz begrüßt, das wir sofort ungelesen wegklicken. Was könnte eine Maschine da machen?

O'Reilly: Wir bräuchten eine Maschine, die mit der Maschine auf der Gegenseite aushandelt, welche Daten gesammelt werden dürfen, und die anzweifeln kann, ob die Gegenseite die wirklich braucht. Wobei sich manche Firmen meiner Ansicht nach schon gebessert haben. Auf Android gibt Google inzwischen einen sehr detaillierten Überblick, welche Apps Ortsdaten verlangen, und fragt mich, ob ich das okay finde. Und das ist gut, Google arbeitet für mich. 

ZEIT ONLINE: Aber Selbstregulierung funktioniert gewöhnlich nicht. Es bleibt bei Versprechungen, wenig ändert sich wirklich. Will man das Thema ernsthaft den Firmen überlassen?

O'Reilly: Sicher nicht. Das ist eine Aufgabe für Regierungen. Wir sehen aber auch, dass im privaten Sektor gegenläufige Ansätze entstehen. Ein gutes Beispiel sind Adblocker, sie sind der Anfang einer defensiven persönlichen Technik.

ZEIT ONLINE: Was halten Sie von einer digitalen Charta für Grundrechte, wie sie zum Beispiel in Deutschland entwickelt wurde?

O'Reilly: Ich bin skeptisch bezüglich solcher sogenannten digitalen Chartas. Die Leute, die sie verfassen, verstehen Technik meist nicht sehr gut. Und sie kommen dann mit Forderungen, die gut klingen, aber nicht wirklich umsetzbar sind. Das heißt nicht, dass nichts Gutes dabei herauskommen kann. Aber ich habe an vielen Diskussionen teilgenommen, die sich anfühlten wie die Geschichte von den blinden Menschen und dem Elefanten: Jeder sieht Teilaspekte der Geschichte, aber keiner hat das große Ganze im Blick.