Grunwald: Das ist das Problem. In der digitalen Wirtschaft dominieren einzelne Firmen wie Google, Facebook oder Amazon ganze Sektoren. Die Digitalisierung fördert das Entstehen von Monopolstrukturen.

ZEIT: Warum wählen die Menschen nicht eine andere Suchmaschine, wenn sie Google misstrauen?

Grunwald: Die gibt es, aber die sind nicht so gut, weil sie nicht so viele Nutzer haben. Und genau durch diesen Mechanismus entsteht ein Monopol. Es fehlt auf der globalen Ebene eine Instanz, die der Entwicklung entgegentreten kann.

ZEIT: Müsste die EU mehr tun?

Grunwald: Die amerikanischen Internetgiganten wollen im EU-Wirtschaftsraum mit 500 Millionen Konsumenten Geld verdienen. Ich erwarte, dass die EU künftig selbstbewusster auftritt. Europa steht für bestimmte Werte in Sachen Privatheit und Selbstbestimmung. Wenn Datenkonzerne aus den USA oder vielleicht auch einmal aus China bei uns Geschäfte machen, müssen unsere Regeln dafür gelten.

ZEIT: Jeder nutzt Google und Co., aber keiner weiß, wie deren Algorithmen genau funktionieren.

Grunwald: Wir haben als Kunden digitaler Services in der Tat keine Chance, da reinzuschauen. Das Geheimnis der Algorithmen ist hinter dicken Mauern im Silicon Valley geschützt. Wir müssen uns in den kommenden Jahren als Kunden dagegen wehren. So wie wir das im Lebensmittelbereich geschafft haben. Heute steht auf jeder Verpackung, welche Inhaltsstoffe drin sind. Auch bei einem Energieversorger kann ich heute erfahren, aus welchen Quellen der Strom stammt. Das müssen wir in der digitalen Welt noch hinbekommen.

ZEIT: In China werden öffentliche Orte bereits mit Kameras und Drohnen überwacht. Wer dort Wohlverhalten zeigt, bekommt Bonuspunkte. Warum akzeptieren die Bürger das?

Grunwald: Das ist eine ganz perfide Art der Steuerung, weil sie "nur" mit Anreizsystemen arbeitet. Man kann sich damit Privilegien für den Kauf von Flug- oder Bahntickets erwerben oder seine Karrierechancen erhöhen – oder eben seinem Fortkommen schaden, wenn man sich öffentlich unbotmäßig verhält. Und das wird gerade in großem Maße eingeführt. Ohne die digitale Technik wäre das nicht möglich gewesen. Die Stasi hätte sich gefreut, wenn sie so was gehabt hätte.

ZEIT: Sie leiten ja auch das Büro für Technikfolgenabschätzung des Bundestags. Wollen die Politiker in der derzeitigen Digitalisierungseuphorie überhaupt etwas über mögliche Risiken wissen?

Grunwald: Seit zwei, drei Jahren betreffen Anfragen aus dem Bundestag zu etwa zwei Dritteln den Themenbereich Digitalisierung, es geht dabei auch um Risiken und ethische Fragen. Unsere Aufgabe ist es, auf Aspekte hinzuweisen, die von den Visionären gerne beiseitegedrückt werden.

ZEIT: Ihr neues Buch heißt Der unterlegene Mensch, bedeutet das, dass die auf die Digitalisierung aufbauende künstliche Intelligenz, kurz KI, ihre Erfinder an den Rand drückt?

Grunwald: Das Buch heißt so, weil es die Menschen bei ihren Stimmungslagen, ihren Ängsten abholen soll. Aber es endet mit dem Kapitel "Der überlegene Mensch". Wir können die Dinge in der Hand behalten, wenn wir es schaffen, den Herausforderungen mit einer digitalen Mündigkeit zu begegnen. Wir dürfen nicht einfach blind in dieses Feld reinlaufen, sondern müssen uns rechtzeitig mit den Risiken und Nebenwirkungen befassen. Meine Sorge ist nicht, dass uns die Maschinen die Herrschaft entreißen, wir müssen aber aufpassen, dass nicht die großen Internetkonzerne mit ihren Algorithmen die Kontrolle übernehmen.

ZEIT: Was kann denn der Mensch noch besser als die Algorithmen?

Grunwald: Wir können uns Zukünfte ausdenken, die allen bisherigen Erfahrungen widersprechen. Auf solche Ideen kommt ein Algorithmus einfach nicht, auch wenn er dank Big Data in Sekundenschnelle Millionen Operationen durchführen kann. Denn letztlich stammen alle Daten, die er analysiert, aus der Vergangenheit. Menschen können aus einer Routine ausbrechen. Ein Beispiel: Wenn ein Botenroboter eine kollabierte Person auf dem Weg wahrnimmt, fährt er vorsichtig darum herum, ein menschlicher Postbote würde aber zu helfen versuchen und den Notarzt rufen.

Armin Grunwald: Der unterlegene Mensch. Die Zukunft der Menschheit im Angesicht von Algorithmen, künstlicher Intelligenz und Robotern. Riva Verlag, München 2019