Was muss man von einem erwarten, der die Menschheit vor der Machtübernahme superintelligenter Maschinen warnen will? Wird er über Terminatoren, Roboterarmeen und Schwärme von Killermaschinen sprechen? Nein, was der große Mann mit schlaksigen Armen, schütterem Haar und runder Brille auf der Bühne der Cebit Global Conference in Hannover präsentiert, ist: das Bild eines Affen.

"Das ist Kanzi", erklärt Nick Bostrom seinem verblüfften Publikum. Kanzi ist der wohl berühmteste Zwergschimpanse der Welt, bekannt dafür, dass er 350 Symbole unterscheiden kann. "Und das ist Ed Witten." Der Physiker, Spezialgebiet Stringtheorie, gilt als eines der größten lebenden Genies. Was unterscheidet die beiden? Klick, das nächste Bild: die Gehirngröße von Affe und Mensch, Kanzi und Witten reduziert auf ihre Denk-Hardware. Dazwischen liegen lediglich 250.000 Generationen. Länger ist es nicht her, dass sie einen gemeinsamen Vorfahren hatten. "Ein paar kleine genetische Veränderungen haben eine Intelligenzexplosion ermöglicht", erklärt Bostrom. Dann blickt er den Messebesuchern ins Gesicht und konstatiert nüchtern die Folgen dieser Intelligenzexplosion: "Die Schimpansen bestimmen heute nicht mehr über das Schicksal ihrer Spezies. Das tut der Mensch."

Wird es uns ähnlich ergehen wie unseren äffischen Vettern? Arbeiten nicht Informatiker und Ingenieure an neuen Technologien für eine künstliche Intelligenz (KI)? Was, wenn diese erst einmal an Fahrt gewinnt, die menschliche Intelligenz überflügelt und uns am Ende in die Rolle der Schimpansen drängt? Diese Befürchtung möchte Nick Bostrom den Computer- und Technikleuten hier in Hannover nahebringen.

"Den gruseligsten Philosophen der Welt" hat die Washington Post den Denker aus Oxford genannt. Denn Nick Bostrom überlegt, was wäre, wenn so eine Kunstintelligenz erst einmal auf Chips heimisch würde. Zum Beispiel das: Ein lernfähiges, sich selbst verbesserndes System könnte irgendwann beginnen, nach mehr zu streben – mehr Rechenkapazität, mehr Speicherplatz und mehr Informationen, mehr Kontrolle über andere Computer, Netzwerke und Geräte. Diese Maschinenintelligenz würde sich verselbstständigen, heimlich die Macht über fremde Rechenzentren suchen. Sie würde Roboter, Bankkonten und automatisierte Laboratorien kontrollieren, bevor sie zum Vernichtungsschlag ausholte: gegen konkurrierende automatische Systeme und gegen die Menschen, die ihrem Streben im Weg stehen.

Superintelligenz heißt das Buch, in dem Bostrom vor zwei Jahren dieses Szenario entwarf und dessen deutsche Übersetzung gerade bei Suhrkamp als Taschenbuch erschienen ist. Es trägt den Untertitel Szenarien einer kommenden Revolution und ist ein sehr ungewöhnlicher Bestseller: spekulativ, nüchtern, zuweilen dröge. Der gefühlte Großteil der 370 Seiten steht im Konjunktiv. Wie könnte eine Superintelligenz entstehen? Was für eine Gestalt wäre denkbar? Das oben beschriebene Gedankenspiel ist in dem gesamten Werk so ziemlich der konkreteste Plot. Und an dessen Ende betont der Autor gleich wieder: "Eine Superintelligenz könnte in der Lage sein, einen besseren Plan zu entwerfen als irgendein Mensch, daher muss man über diese Dinge abstrakt nachdenken."

Wäre. Hätte. Könnte. Trotz dieser akademisch-abstrakten Zurückhaltung erzeugen Bostroms düstere Gedankenspiele ein enormes Echo. Microsoft-Philanthrop Bill Gates empfahl vor Wirtschaftsführern Superintelligenz zur Lektüre. Tesla-Chef Elon Musk legte es seinen Millionen Twitter-Followern ans Herz. Bostrom spricht vor Wissenschaftlern, Techies und den Vereinten Nationen, seine Untergangsvisionen werden gleichermaßen an Universitäten und im Silicon Valley diskutiert. Was soll man von diesem Mann halten? Woher kommt sein Denken? Bostrom sagt: "Besuchen Sie mich in meinem natürlichen Habitat."