Die Computerwelt ist geschockt. Tausende von Rechnern wurden in den Vereinigten Staaten von Computerviren lahmgelegt. Dieser jüngste spektakuläre Fall zeigt, wie unsicher die Systeme sind. Schon seit Jahren weist Joseph Weizenbaum, der lange Zeit Computerwissenschaft am Massachusetts Institute of Technology (MIT) lehrte, auf die generellen Gefahren dieser Technologie hin.

ZEIT: Trotz der spektakulären Computereinbrüche, die die Unsicherheit der Systeme deutlich machen, mehren sich die Stimmen, die befürworten, Menschen dort durch Computer zu ersetzen, wo besonders wichtige Entscheidungen schnell getroffen werden müssen. Darunter auch der berühmte deutsche Computererfinder Konrad Zuse. Was meinen Sie dazu?

Weizenbaum: Es gibt da heute einen Slogan, ein Motto in der kommerziellen Computerwelt, das heißt, der Mensch ist der Mittelpunkt, der Mensch steht im Zentrum. Das soll bedeuten, daß eine Art Symbiose zwischen Mensch und Maschine besteht. Von diesen zwei Partnern ist der Mensch natürlich der Wichtigere. Es ist interessant, daß Zuse dies gerade umgekehrt sagt, daß der Mensch der Schwachpunkt sei. Wenn ich urteilen müßte, wer recht hat, würde ich sagen, Zuse hat in einem gewissen Sinne recht. Ich meine das auf den Ist-Zustand bezogen, nicht darauf, wie es sein sollte, sondern wie es tatsächlich ist. Der Mensch ist tatsächlich der Schwachpunkt. Davon allerdings abzuleiten, daß der Mensch von weiteren Maschinen und Systemen ersetzt werden soll, ist falsch. Menschen machen eben Fehler, unter anderem deshalb, weil sie unter einem immer größeren Druck geraten, weil die Maschinen und Computer so schnell arbeiten und auch immer schneller nach Aktionen verlangen. Statt wie Zuse zu sagen, daß der Mensch deshalb von weiteren Systemen ersetzt werden soll, sollte man lieber fragen: What’s the hurry? Woher kommt die Eile, warum muß alles so schnell gehen? Wir lassen uns von unseren Instrumenten in einem gewissen Sinne zur Eile zwingen. Wenn wir von einem Computersystem sprechen, in dem der Mensch zu einem Untersystem geworden ist, müssen wir uns immer klarmachen, wo die Grenzen des Systems sind.

ZEIT: Aber gerade in besonders kritischen Bereichen, wie zum Beispiel Kernkraftwerken, sind längst komplexe Computersysteme installiert. Und die scheinen nun einmal zuverlässiger zu reagieren als die Menschen.

Weizenbaum: Wir sollten den Menschen nicht ausschalten und die letzte Entscheidung einer Maschine übergeben. Die Zwänge, die Sie erwähnen, liegen woanders. Wir sollten sehr stark arbeiten und versuchen, nicht in diese Lage zu kommen, wo die Frage überhaupt auftauchen kann. Wir sollten in Amerika zum Beispiel nicht in die Lage geraten, in der der Präsident in zweieinhalb Minuten zu entscheiden hat, ob die Erde oder die Sowjetunion verschwindet. Wir sollten nicht in die Situation kommen, daß eine Maschine entscheiden muß, weil so wenig Zeit ist.

ZEIT: Wo sehen Sie denn die Grenzen der Systeme?

Weizenbaum: Die Computersysteme, die die Arbeit der Welt tun, sind zum großen Teil undurchschaubar. Das bedeutet, die Menschen können sich alle Mühe der Welt geben, und trotzdem können sie diese Systeme nicht mehr durchschauen. Ich spreche jetzt von Systemen, die zum Beispiel Geld zwischen Banken transferieren, und ich spreche von der militärischen Verteidigung. In diesem Sinne ist es eine Illusion, die auch Zuse weitertreibt, daß die Maschinen zuverlässiger sind als die Menschen. Wir verstehen unsere Maschinen nicht mehr.