Was flößt Menschen noch mehr Angst ein als Bussitze, die aussehen wie Burkaträgerinnen? Richtig, Roboter und künstliche Intelligenzen, die sich zusammentun, um die Menschheit auszurotten. Einigen Medienberichten der vergangenen Tage zufolge wurde eben das in letzter Minute verhindert. Facebook-Forscher konnten demnach "panisch" einer künstlichen Intelligenz "den Stecker ziehen", nachdem diese ihre eigene "unheimliche Sprache" erfunden hatte. Puh, noch mal Glück gehabt.

Wer die Terminator-Brille absetzt, kommt zu einem anderen Fazit: Die technologische Singularität, der Moment, an dem Maschinen die menschliche Intelligenz übertreffen, ist noch lange nicht erreicht. Eine künstliche Intelligenz (KI) kann zwar eine Sprache entwickeln. Das macht sie aber noch lange nicht schlau und schon gar nicht gefährlich.

Der Anlass der Endzeit-Berichterstattung ist ein Experiment von Facebook. Die KI-Forscher des Unternehmens wollten einem Chatbot beibringen, mit einem Gesprächspartner zu verhandeln. Bislang sind Chatbots, wie es sie etwa in Facebooks Messenger gibt, in ihrer Funktionsweise ziemlich eingeschränkt. Sie können zwar auf einfache Fragen antworten und Aufgaben erledigen, etwa einen Tisch zu einer bestimmten Uhrzeit reservieren. Sie können aber keine Kompromisse eingehen oder Aspekte gegen andere abwägen.

Ein Hut für mich, zwei Bücher für dich

Die Facebook-Forscher wollten das ändern und die Chatbots klüger und alltagsfähiger machen. Kooperation, Kompromisse, Abwägungen – all das gehört zur effektiven Kommunikation schließlich dazu. Deshalb ließen sie künstliche Intelligenzen, gewissermaßen die Gehirne von Chatbots, sowohl mit Menschen als auch miteinander sprechen. Die beiden Gesprächspartner (Bob und Alice) sollten versuchen, eine bestimmte Anzahl an Objekten so untereinander aufzuteilen, dass jeder für sich zufrieden ist.

Ein Beispiel: Zwei Bücher, ein Hut und drei Bälle stehen zur Verfügung. Für Alice ist der Hut drei Punkte wert, für Bob nur zwei. Er bewertet allerdings die Bücher höher. Beide Parteien wissen das vorher nicht und verhandeln deshalb solange, bis sie einen Kompromiss erzielt haben: Alice erhält dann etwa den Hut, Bob aber erhält im Tausch ein Buch und zwei Bälle.

Während des Versuchs machten die Forscher eine interessante Entdeckung. Wenn die künstliche Intelligenz mit sich selbst verhandelte, begann sie, langsam von der englischen Standardsprache abzuweichen. Aus Sätzen wie "I'd like the hat" wurde plötzlich "balls have zero to me to me to me to me to me to me to me to me to". Was wie Kauderwelsch aussieht, ist tatsächlich eine Art Dialekt, mit der die KI im Verlauf effektiver und erfolgreicher verhandelte. Die Forscher dagegen konnten die Gedankengänge schließlich nicht mehr nachvollziehen und beendeten diesen Teil des Experiments.

In einigen Medien wurde das so interpretiert, als hätten die Forscher die Kontrolle über ihre Schöpfung verloren – entsprechend groß war die Aufregung. Was ist, wenn verschiedene KIs, die über das Internet und Geräte vom Smartphone bis zum Smart Home miteinander verknüpft sind, anfangen, miteinander zu sprechen, ohne dass es jemand merkt? Und, schlimmer noch, es niemand stoppen kann?