Eine neue Weltuntergangsidee gewinnt an Kraft: die totale Machtübernahme, nein, schlimmer, die Vernichtung der Menschheit durch intelligente Maschinen. Sie erinnert an Skynet, das umfassende Roboternetzwerk, das im Film Terminator die Menschheit auslöscht. Arnold Schwarzenegger – ein Prophet?

Lange schien die Terminator-Vision nur Fantasy, aber im Zeitalter selbstfahrender Autos und mühelos drauflosquasselnder Computer könnte sie Wirklichkeit werden. Einflussreiche Vordenker wie Stephen Hawking, Bill Gates und Tesla-Gründer Elon Musk haben in letzter Zeit vor einer "Bedrohung durch künstliche Intelligenzen" gewarnt. Kürzlich nannte eine Studie intelligente Maschinen, die sich gegen ihre Schöpfer wenden, dann sogar als eines von zwölf Szenarien der Apokalypse, direkt neben Atomkrieg und Klimakollaps.

Was steckt dahinter? Durch die Zunahme der Rechenleistung, also der Speicher- und Verarbeitungskapazität von Computern, sind deren Fähigkeiten in den vergangenen Jahren rasant angestiegen. Bald dürfte sie die langsamer wachsende menschliche Intelligenz überholt haben. Der einflussreichste aller Tech-Gurus, Ray Kurzweil, nennt das eine Singularität. Ab diesem Moment seien die sterblichen Menschen den Maschinen unterlegen, und es beginne das Zeitalter des "Posthumanismus", in dem wir Menschen uns körperlich mit den superintelligenten Maschinen verbinden müssten – oder andernfalls nur auf deren Gnade hoffen könnten. Hasta la vista, Homo sapiens.

Im Silicon Valley setzen Kurzweils zahlenverliebte Jünger seine Ideen schon in die Praxis um. Er selbst arbeitet mittlerweile für Google, zum Beispiel an der Vision bald winzige, stets wohlinformierte Google Bots in unsere Blutbahnen zu schicken. Kurzweil erwartet, dass seine Singularität irgendwann in den kommenden 15 bis 30 Jahren eintritt.

Intelligente Maschinen! Roboter statt Mensch! Das klingt nach einem fabelhaften Geschäft fürs Valley, zum Beispiel fahrerlose Taxis, die mittels computergesteuerter Plattformen koordiniert werden, oder bei Apple, wo man plant, die iPhone-Produktion in die USA zurückzuholen – in vollautomatische Fabriken, die ganz ohne Menschen funktionieren. Menschenfreies Business – dafür geben Finanziers heutzutage Cash.

Wobei, die meisten Apple-Aktien kontrollieren wohl auch schon Roboter. Denn die Finanzmärkte sind bereits von Algorithmen übernommen worden. Dort ist die von Demokraten gefürchtete Algokratie, die Herrschaft der Computermodelle, schon lange Realität. Wo früher aufgeregte Trader übers Börsenparkett rannten, ist heute nur noch das sanfte Surren der Kühlaggregate zu hören. Und sobald Algorithmen die Produktion steuern können, wird auch der chinesische iPhone-Schrauber überflüssig.

Der Mensch wird nicht mehr gebraucht

Mediziner! Manager, Ingenieure, Lehrer! Sie glauben, nicht betroffen zu sein? Lehnen Sie sich nicht zurück. Algorithmen können auch komplexere und mehrspurige Entscheidungsketten steuern. Mittels sogenannter Computer Business Systems werden Arbeitsabläufe, beispielsweise die Diagnosestellung durch Ärzte, auf ihre einzelnen Arbeitsschritte heruntergebrochen. So kann alles standardisiert, gemessen und automatisiert werden. Der Mensch wird nicht mehr gebraucht – und falls doch, darf er nur noch ohne Nachdenken stupide das Vorgegebene ausführen.

Das Ergebnis sind perfekt durchrationalisierte Prozesse, sehr zur Freude der Investoren. Mittlerweile werden so viele medizinische Eingriffe von intelligenten Robotern erledigt, dass Chirurgen arbeitslos werden und sich Anwälte darauf spezialisieren, gegen die Fehler der Maschinen zu prozessieren. 

Das Internet der Dinge wird diese Entwicklung beschleunigen. Die kommende neueste Version des Protokolls IPv6 bietet genügend mögliche Internetadressen, um theoretisch alle auf diesem Planeten existierenden Insekten zu vernetzen. Dann verbünden sich auch Toaster, Kühlschrank und Smartcar gegen ihre dümmlichen Herren.

Mehr als bloße Rechnerei

So wird der Mensch zum Störfaktor für die Roboter – weil er nicht immer und unter allen Umständen logisch handelt. Er kann sein Wesen nicht ganz verleugnen. Nicht alle Menschen würden künftig überflüssig, sagte kürzlich der Chefingenieur von Google, Sebastian Thrun. Aber die Meisten.

Dabei ist das alles Humbug. Wer glaubt, dass der Mensch aufgrund der rasant wachsenden Rechengeschwindigkeit der Maschinen bald von denselben abgelöst werde, denkt wie ein Jäger, der glaubt, die Menschen würden von den Autos abgelöst, nur weil die Fahrzeuge schneller sind.

Die Jünger der Künstlichen Intelligenz (KI) übersehen etwas Entscheidendes: Die menschliche Intelligenz, erst recht das menschliche Bewusstsein, sind eine ganze Menge mehr als bloße Rechnerei. Menschen komponieren Symphonien, haben Gotteserfahrungen, Eingebungen im Traum (Einstein hat die Grundlage der Relativitätstheorie im Traum erkannt), Gefühle und Standpunkte.

Und hier beginnt das Problem – die wahre Gefahr, die uns von den intelligenten Maschinen droht. Sie liegt in einer allgegenwärtigen Logik, die uns derart in Fleisch und Blut übergegangen ist, dass wir es gar nicht mehr bemerken. Es ist die Ausrichtung allen Handelns auf seinen Nutzen, immer und überall. Sie ist Kern unseres Weltverständnisses geworden.

Glück ist zu einer Funktion des Nutzens geworden

Wir unternehmen nichts mehr, ohne uns vorher zu überlegen, was es uns einbringt, materiell und nicht materiell, direkt oder indirekt. In einer scheinbar areligiösen Welt ist das Nutzenprinzip die einzige verbliebene Messlatte.

Dinge wie Meditation und Yoga, früher Ausdruck von Spiritualität, dienen heute ganz selbstverständlich der Nutzenmaximierung. Muße ist nur akzeptabel, wenn sie uns hilft, noch kreativer und produktiver zu sein. Und auch die Frage, ob viel oder wenig Schlaf gut ist, wird nach der Auswirkung auf die Produktivität beurteilt. Sie zu messen, ist eine der Hauptaufgaben der neuen Apple Watch.

Selbst Glück – einst das oberste Ziel – ist zur bloßen Funktion des Nutzens geworden. Neuerdings gibt es Beratungsangebote für Firmen mit dem Ziel, glücklichere und damit nutzenmaximierte Mitarbeiter zu haben. In unsere Liebe hat sich die Nutzenlogik ebenfalls hineingefressen. Der Partner hat gefälligst individuell optimal auf uns abgestimmt zu sein, und um das zu erreichen, nutzen wir die Algorithmen von Parship und ähnlichen Plattformen. Personalisierte Partner. Nichts gegen alle, die so ihr Glück fanden. Aber das ist der Tod der Liebe.

Sogar das unbeeinflusste Sterben ist in Gefahr. Der kranke Mensch ist nutzlos, und er kostet. Deshalb wird alles Ungesunde, definiert über eine höhere statistische Wahrscheinlichkeit zu erkranken, verdammt und verboten. Gleichzeitig gewinnt die aktive Sterbehilfe an Popularität.

Was unterscheidet uns noch von Maschinen?

Nutzen ist eine armselige reduktionistische Schablone. Wenn wir uns derart auf ihn konzentrieren, bauen wir uns aus den Erfahrungen unserer Vergangenheit ein vermeintlich optimiertes Skript für die Zukunft. Das ist Linearität pur – und das Ende der Entwicklung. Denn die großen menschlichen Werke und Errungenschaften kamen durch unvorhersehbare nicht-lineare Sprünge zustande: von der pentatonischen Musik der gregorianischen Gesänge zur Dreitonmusik eines Johann Sebastian Bachs, von der griechischen Arithmetik mit absoluten Zahlen zur Mathematik der Relationen von Leibniz.

Dennoch beherrscht das Nutzendenken mittlerweile alles. Und die Menschen passen sich sehr gut an. Sie konzentrieren sich auf jene Eigenschaften und Ziele, die ihren eigenen Nutzen am stärksten fördern.

Wir werden ersetzbar

Unsere Anpassungsfähigkeit könnte uns diesmal zum Verhängnis werden. Wenn unser Handeln derart berechenbar und linear wird, was unterscheidet uns dann eigentlich noch von den Maschinen? Wir selbst machen uns die künstliche Intelligenz zu Eigen, im wahrsten Sinne des Wortes. Reines Nutzendenken ist eine Intelligenz ohne Tiefe, ein Schatten echter Geistigkeit.

So werden wir ersetzbar; und wir helfen fleißig mit. Fitbit, Smartphone, Facebook – wir quantifizieren mittels allgegenwärtiger Sensorik unsere Leben, packen jeden Herzschlag via Apps und Tools in Datenströme, um unsere persönlichen Werte und unsere sozialen Beziehungen zu optimieren.

Indem wir uns einer Maschinenlogik unterwerfen, die dem Menschlichen an sich keinen Wert beimisst, schaffen wir uns selbst einen normativen Rahmen, in dem wir nur verlieren können. Hier liegt der Kern der Krise.

Deshalb ist Skynet längst Realität. Wir selbst sind Skynet, und wir werden mit jeder weiteren auf Nutzen ausgerichteten Entscheidung noch mehr zu einem Teil davon. So sind wir im Begriff, eine mythologisch-spirituelle Dimension zu verlieren, die weit über berechenbare und simplizistische Konzepte hinausgeht und uns überhaupt erst zu Menschen macht.

Die Welt besteht nicht nur aus Zahlen

Es ist Zeit, etwas dagegen zu unternehmen. Es ist eine Frage unseres Wirtschaftens und unserer Haltung. Wir müssen einerseits dringend die Gestaltung der neuen Produktionsprozesse selbst in die Hand nehmen. Dass bedeutet, zu erkennen, dass unsere Daten unser Eigentum sind, und wir damit so sorgfältig umgehen müssen, wie wir das auch mit unserem Geld tun. Denn persönliche Daten, alles was über uns erfasst wird, sind die Rohstoffe der neuen Wirtschaft und wir dürfen unsere Daten nicht – gratis! – dem Silicon Valley überlassen.

Ziel muss sein, dass wir uns nicht von Kuchendiagrammen, Rankings und Navis lenken lassen, sondern Umwelt und Mitmenschen wieder bewusst wahrnehmen. Dass wir uns regelmäßig fragen, was wir eigentlich gerade tun und wie wir uns dabei fühlen. Dass wir geistig Hier und Jetzt präsent sind, statt immer auch woanders. Es ist hiermit ausdrücklich erlaubt, sich von der Schönheit des Moments verzaubern zu lassen.

Voraussetzung dafür ist ein neues, nicht zahlenbasiertes Verständnis der Welt. Wir müssen uns gegen die herrschende Logik auflehnen und uns zum Menschsein bekennen – mit allen Risiken und Unberechenbarkeiten. Statt den Nutzen zu maximieren, könnten wir unser Mitgefühl für Mensch und Umwelt maximieren. Dann würden wir die Dinge um ihrer selbst willen tun, nicht wegen ihres Nutzens.

Solange wir den Wandel zu mehr Menschlichkeit nicht schaffen, gilt: Nicht die Maschinen bedrohen den Menschen, sondern wir selber drohen, zu Maschinen zu werden. Dann sind wir wahrhaftig augelöscht.