Roboter-EthikBrauchen wir Roboterschutz-Gesetze?

Die Wissenschaftlerin Kate Darling erforscht, warum Menschen Mitleid mit Robotern haben. Eines ihrer Ergebnisse: Wir sollten Roboter schützen, wie wir es mit Tieren tun. von 

Roboterforscherin Kate Darling bei re:publica 2013

Roboterforscherin Kate Darling bei re:publica 2013  |  CC BY 2.0 Gregor Fischer/re:publica

Ein Minenroboter ist eine Maschine, die Minen sprengt, im Zweifel indem er darauf tritt. Das ist die effektivste Art, eine Mine zu entschärfen. Aus Sicht des Roboters ist es kein Problem, wenn er dabei kaputt geht, Maschinen können ersetzt werden. Doch Menschen sind nicht rational, Menschen fühlen.

Vor einigen Jahren führten Forscher auf dem Yuma-Testgelände in Arizona der amerikanischen Armee einen neuen Minensuchroboter vor. Insektengleich stakste er mit seinen sechs Beinen über den Boden. Immer, wenn er auf eine Mine trat, löste er sie aus. Dass er dabei nach und nach seine Gliedmaßen verlor, war die Idee. Der Wissenschaftler, Mark Tilden, war begeistert, dass seine Maschine sogar funktionierte, als sie nur noch ein Bein hatte. Ein Oberst der US-Army stoppte den Test jedoch entrüstet. Er konnte den Anblick des verbeulten Roboters, der sich auf einem Bein durch die Landschaft zog, nicht ertragen. Der Test sei unmenschlich, sagte er. Er hatte Mitleid.

Anzeige

Kate Darling ist Wissenschaftlerin am Massachusetts Institute of Technology (MIT) und hat in einem Vortrag bei der Konferenz re:publica das Beispiel des Minensuchroboters erzählt. Sie versucht die Frage zu beantworten, unter welchen Umständen Roboter derlei Gefühle auslösen. Ihr Arbeitsfeld nennt sie Roboter-Ethik.

Darling hat dazu ein Experiment entwickelt. Sie ließ ihre Probanden eine Stunde lang mit einem süßen Dino-Roboter spielen. Anschließend gab sie ihnen die Anweisung, den Roboter zu zerstören. Die meisten weigerten sich. "Eine Teilnehmerin umklammerte den Dino und entfernte die Batterie. Als ich fragte, warum sie das tue, erklärte sie, dem Roboter sollten Schmerzen erspart bleiben", sagt Darling.

Eine Studie der Universität Duisburg kam vor einigen Wochen zu einem ähnlichen Ergebnis. Auch dort war es ein Pleo, ein Spielzeug-Dino, der gequält wurde; auch dort zeigten die Probanden Gefühle für den Roboter.

Der Begriff zu diesem Phänomen heißt Anthropomorphismus und meint, dass wir Gegenständen und Tieren menschliche Eigenschaften zuschreiben. Deutlich zeigt sich das in Kinderbüchern. Dort sind Bären, Hasen und Füchse oft mit menschlichen Zügen dargestellt. Sie laufen aufrecht, tragen Hosen und ahmen menschliche Mimik nach.

Wir tun das, bei Tieren genau wie bei den Robotern, eben weil wir Menschen sind und menschlich bleiben wollen, glaubt Darling.

Leserkommentare
  1. Für sie, die auch Juristin ist, stellt sich daher die Frage, ob es nicht entsprechende Roboter-Rechte brauche. "

    Sollten wir "intelligente Roboter" eines Tages haben, ok, dann stellt sich die Frage.
    Im Moment sollten wir uns aber nicht um eine Ethik kümmern, die wir uns als Menschen auferlegen. Es sollte darum gehen eine Ethik für Roboter zu formulieren die zukünftig von Programmierern eingehalten werden muss. Die Asimovchen Robotergesetze reichen meiner Ansicht nach bei weitem nicht aus.

    3 Leserempfehlungen
  2. Wir haben Mitleid mit menschenähnlichen Tieren, weil aufgrund ihrer uns ähnlichen Verhaltensweisen (Körpersprache, Laute, mitunter auch Mimik) wir intuitiv darauf schließen, daß jene eben so wie wir Leid (oder sonstwas) empfinden.

    Dieser Aspekt, daß jene (aller wahrscheinlichkeit nach) leidensfähig sind, läßt uns sinnvoll Mitleid empfinden und entsprechend handeln, die Körpersprache ist nur ein Kommunikationsmittel.

    Bei Tier- und Menschähnlichen Robotern ist dieses aber eine Fehlleistung und wird es bleiben, bis jene wirklich Zeichen von Bewußtseinsfähigkeit (im phänomenalen Sinne) zeigen.

    Man sollte also - etwas pathetisch ausgedrückt - bei diesem Thema sich nicht auf den Schein stürzen, sondern auf das Sein. Und entsprechend eher überlegen, ob und wann komplexe Systeme (etwa in Form komplexer/chaotischer Software) leidensfähig wird und welche ethischen Folgen dies dann haben sollte.

    12 Leserempfehlungen
    Reaktionen auf diesen Kommentar anzeigen

    Ich sehe das Konzept dieser Aussage von Frau Darling ebenso als etwas kleinsichtig an, denn Sie schlußfolgert den Spezialfall, das es nur um uns geht. Dennoch würde ich, wie auch Sie, die Dimension von größerer Statur sehen, dass es generell um Leben und seine Formen, hier stellvertretend durch eine gewisse Autonomie der betrachteten "Objekte" repräsentiert, geht.
    Dieser allgemeinere Fall inkludiert natürlich auch den, dass es um uns geht, aber eben nicht ausschliesslich.

    "Bei Tier- und Menschähnlichen Robotern ist dieses aber eine Fehlleistung und wird es bleiben, bis jene wirklich Zeichen von Bewußtseinsfähigkeit (im phänomenalen Sinne) zeigen."

    Sie haben den Artikel vielleicht etwas mißverstanden. Es geht nicht um das Bewußtsein der Tiere, oder das zukünftlicher Ki.
    Die Autorin stellt unser Befinden in den Vordergrund. Sie umgeht dabei auch ganz elegant die Frage, was "Leidensfähig" ist, Fischen z.B. sagte man bequemlicherweise bis vor kurzem noch nach, daß ihre Mäuler schmerzunempfindlich seien (das Gegenteil ist der Fall). Sie behauptet im Kern, daß es uns nur dann um Tierschutz geht, wenn WIR leiden.

    Dem würde ich zwar aus dem Bauch heraus zustimmen, dennoch bin ich eher bei Ihnen. Dieses Prinzip zu erkennen, ist eine Sache. Daraus zu folgern, wir bräuchten Gesetzte zum Schutz für (noch nachweislich) empfindungsunfähige Maschinen eine andere.

  3. "Wenn es uns so bedrückt, einen Pleo zu quälen, sollten wir es möglicherweise einfach nicht tun"

    Und wenn man kein Menschenleben riskieren will, um Minen zu räumen, dann sollte man keinen "Pleo" schicken, sondern ganz einfach das "Uncanny Valley" nutzen...

    http://de.wikipedia.org/w...

    Zu ihrer Theorie des Selbstschutzes und des hinkenden* Vergleiches von Lebewesen und Maschinen kann ich mich momentan leider nicht ausführlicher äußern: mein Kaffevollautomat tropft, ist also ganz offensichtlich fürchterlich deprimiert und muss in den Arm genommen werden.

    *: wahrscheinlich auf eine Mine gelatscht

    15 Leserempfehlungen
    Reaktionen auf diesen Kommentar anzeigen
    • xtraa
    • 13. Mai 2013 12:44 Uhr

    …am besten im Kindchenschema mit Fell und gliedmaßen. :)

    Dass wir emotional reagieren und dies zum Glück auch irrational sein kann, ist ein Mechanismus, der absolut notwendig ist. Da das Ökosystem "humanoider Körper" trotz seiner überdurchschnittlich entwickelten Hirnareale weiterhin zu 100 Prozent ein Naturprodukt bleibt, sind Mitleid, selbstlose Hilfe und ähnliches notwendige Mechanismen für selbstorganisierende Systeme. Diese Syteme funktionieren auch bei uns Menschen am effektivsten von allen (durchschnittlich etwa um den Faktor 60 so schnell und wirtschaftlich, wie bestehende politische Systeme) doch wir trauen sie uns nicht zu, auch da viele Teilnehmer Kontrollverlust und Machtverlust durch das auflösen bestehender Strukturen befürchten.

    Um den Bogen zurück zu den Maschinen zu schlagen: Ein solches System funktioniert wie unser Ökosystem auch und ist damit auf die Teilnahme aller Mitglieder angewiesen. Daher liegt es nahe, dass man - sofern man keine Bedrohung erkennt - einem Akteur dieses Systems mitfühlend gegenüber eingestellt ist. Ob es sich um Tiere, Roboter oder in der kindlichen Testphase um Kuscheltiere handelt, spielt keine Rolle für dieses Bedürfnis.

    Institutionalisiert übernommen haben wir das in politischen wie religiösen Systemen. So gibt es von Nächstenliebe bei Erlöserreligionen bis hin zu Karma bei diesseitigen Heilsversprechen auch politische Vorkehrungen, wie z.B. demokratisch legitimierte Gesetze, Moralvorstellungen und allgemeine Ethik.

  4. Sind wirklich in einem ganz anderen Universum unterwegs.
    Roboter sind Sachen aus Metallen und Plastik, angetrieben von Strom.
    Vielleicht kümmert man sich erstmal um Menschen kümmern, bevor man eine Ethik für Dinge einführt, die nicht leben und es nie werden.

    Solche Gedankengänge sind beinahe krank.

    21 Leserempfehlungen
    Reaktionen auf diesen Kommentar anzeigen
    • hg2000
    • 11. Mai 2013 17:18 Uhr

    ...wenn so ein avantgardistisches Thema nicht solche Reaktionen in den Kommentaren hervorgerufen hätte.

    • Kapla
    • 11. Mai 2013 20:39 Uhr

    Metalle und Plastik ermöglichen vielen das Kauen und anderen als Hüftgelenk das Gehen. Setzen aber die elektrischen Impulse in den Nervenbahnen aus (und ich meine nicht mal die im Hirn) ist es schnell Essig mit dem Leben. Die Materialien sind also nicht, was Mensch und Maschine unterscheidet. Bleiben elektrische Impulse. Die durchlaufen auch das Gerät, mit dem Sie diese Nachricht schrieben. Ist dieses Gerät intelligent (was der Hersteller zwar sicherlich meint, doch diese "Intelligenz" meine ich nicht), empfindungs- und entscheidungsfähig? Sicher nicht. Noch nicht. Könnt es aber mittelfristig werden.

    Sie haben das Ganze vielleicht zunächst so verstanden, als werde hier ein Schutz der leblosen Roboter gefordert. Das ist aber so gar nicht gemeint. Die Roboter sollen ja gerade nicht der Roboter wegen geschützt werden, sondern der Menschen wegen!
    Und zwar weil sich in der Praxis zeigt, dass die Menschen nicht in der Lage sind, ihre evolutionär geprägten Selbstbezüge auszuhebeln, es also nicht fertig bringen, sich NICHT selbst im Roboter wiederzuerkennen.

    Die Gefahr, auf die laut Artikel reagiert werden soll, ist nicht eine Gefahr für die Roboter, sondern eine Gefahr für menschliche Vorstellungen von Mitleid und dessen Verankerung in der Gesellschaft, welche sich zu lockern droht.
    Ob und inwiefern da was dran ist, lässt sich schwer sagen und hängt auch stark davon ab, wie sich der Alltag der Menschen durch technische Neuerungen in Zukunft weiter verändert, was sich ja nun mal einfach nicht sagen lässt. Einen angemessenen Vergleich zu der Problematik gibt es in der Menschheitsgeschichte meines Erachtens nicht. Die These könnte sich als kompletter Humbug, durchaus aber auch als wichtiger Ansatz für die künftige Anthropologie entpuppen.

    um roboterschutzgesetze an sich, sondern um mögliche auswirkungen von roboterquälerei für die menschliche psyche, da es den menschen ja nicht unberührt zu lassen scheint. in pc-spielen sieht man die "zu killenden tiere oder wesen" häufig verfremdet, um diesem problem aus dem weg zu gehen. krokilisten haben 6 beine, u.ä. in der tat bin ich mitspielern begegnet, die bestimmte quests ausgelassen haben, weil sie das betreffende tier nicht töten wollten.
    ob das sinnig ist oder nicht, ist eine sache.
    aber es empfiehlt sich doch, von einem artikel mehr als die überschrift zu lesen, bevor man seinen ´kommentar abdrückt.

  5. 5. Krank

    Ich finde Menschen grenzwertig, die Andere als krank bezeichnen, nur weil sie deren Ansichten nicht begreifen.

    Zum Artikel: interessante Ansichten, vor allem aus psychologischer Sichtweise. Frau Darling nähert sich in ihrem Beispiel dem Thema ja von der anderen Seite aus (der Mensch leidet, weil er Dinge auf leblose Objekte projiziert), was ich vom Ansatz her sehr spannend und nachvollziehbar finde.

    15 Leserempfehlungen
    Reaktionen auf diesen Kommentar anzeigen

    Für mich sind Ansichten und völliger Blödsinn zwei verschiedene Paar Schuhe.
    Diese Dame ist sicherlich richtig gut auf ihrem Gebiet, aber in solchen Fragen scheint sie ziemlich wirr im Kopf zu sein.

  6. ich denke, gesetzgeber sollten rational genug sein, um maschinen von lebewesen unterscheiden zu können. ebenso ein oberst der army? dass kinder dazu noch nicht fähig sind, kann ja kaum ein faktor sein. den psychologischen ansatz finde ich zwar interessant, aber ich kann mich weder der argumentationsweise, noch dem ergebnis von frau darling anschließen.

    6 Leserempfehlungen
  7. So, mein Automat hat sein Selbstwertgefühl zurück und ich kann mich wieder neurovorisch betätigen...

    Anstatt die asimovschen Schutz-Roboter-Gesetze in Roboter-Schutz-Gesetze zu transformieren, plädiere ich in diesem Zusammenhang für folgende drei Regeln:

    1) Ein Wissenschaftler darf weder Unsinn verbreiten noch durch Untätigkeit zulassen, dass Unsinn vebreitet wird.

    2) Ein Wissenschaftler muss den Befehlen des marktschreierischen Journalismus gehorchen, aber nur, wenn dabei das erste Gesetz nicht gebrochen wird.

    3) Ein Wissenschaftler muss auch mal Freizeit haben und sich -ALS PRIVATPERSON (!)- allerlei Unsinn hingeben dürfen, solange er dabei nicht in Konflikt mit dem ersten und zweiten Gesetz gerät, sich also nicht als Wissenschaftler, sondern als Privatperson (!) äußert/gebiert/verdingt/zur Schau stellt.

    Dazu muss sich "IP Research Specialist at the MIT Media Lab Kate Darling" allerdings von ihrem "Ich mach' mir die Welt, widde widde wie sie mir gefällt Pippi Langstrumpf"-Alter Ego trennen. Und zwar nicht nur optisch...

    14 Leserempfehlungen
    Reaktionen auf diesen Kommentar anzeigen

    und geh dann mal meine Gitarre streicheln,
    die dankt es mir mit Tönen!

    Auf der anderen Seite wäre es auch nicht so verkehrt, manch Sachen pfleglicher zu behandeln und längere, intensivere Beziehungen zu pflegen.
    Ich denke da an viele Millionen funktionstüchtiger,einsamer, trauriger Handys in den Schreibtischen und auf den Müllhalden dieser Erde .-)

    • bnt
    • 10. Mai 2013 15:40 Uhr

    Ein Schutz für Maschinen ist unbedingt sinnvoll! Bitte vor allem für die Maschinen, die in Serienfertigung Geflügel in Schlachthöfen zerschnetzeln. Oder andere, die Raketen auf Zivilisten abschiessen.
    Wirklich, es wäre doch dringend notwendig, Terroristen, die sich mit Kampfdrohnen anlegen, in Zukunft auch wegen Maschinenquälerei anklagen zu können.
    Gehts eigentlich noch? Hat diese Welt nicht schon genug Bereiche, in denen man Gesetze gegen Misshandlung verabschieden könnte? Allein die Tatsache, dass so ein Schwachsinn öffentlich diskutiert wird ist ein peinlicher Beweis dafür, dass es uns einfach zu gut geht hier im Westen....

    10 Leserempfehlungen
    Reaktionen auf diesen Kommentar anzeigen

    Aber das ist doch dann geradezu wundervoll!

    Wenn "wir im Westen" es geschafft haben, uns mit Dingen zu beschäftigen, die über "Wie verhungere ich morgen NICHT?" oder "Woher bekomme ich Essen für meine Kinder?" hinausgehen, dann sind wir doch eindeutig auf dem richtigen Weg mit unserer Zivilisation.

    Oder wäre es Ihnen lieber, wenn noch alle um die nackte Existenz kämpfen müssten?

    Natürlich ist es Unsinn, eine Minenräummaschine nicht zu nutzen, weil wir Gefühle auf diese Maschine projizieren, die nicht nur nichts mit ihr zu tun haben sondern auch vollkommen irrational sind. Zumal beim Minenräumen dann u. U. wieder Menschen in große Gefahr kommen könnten.

    Die gute Frau Darling macht ja auch - nach meiner Meinung - einen eklatanten Fehler: Wenn wir diese Roboterschutzgesetze für uns brauchen, weil WIR uns in Wirklichkeit SELBST schützen wollten, so müssten solche Gesetze auch für - z. B. - Stofftiere her. Denn Kinder projizieren Gefühle auch auf ihre Entchen, Teddies, Maulwürfe und was es so gibt!

    In jedem Fall ist es aber eine Errungenschaft unserer Gesellschaft, dass wir uns diese Gedanken leisten. Denn das zeichnet uns aus, dass wir mehr als lediglich existentielle Dinge durchdenken KÖNNEN und DÜRFEN. Das entfernt uns von einer primitiven, nur auf Egoismus basierenden Gesellschaft, dies macht uns zu wirklichen Menschen!

    Und spätestens dann, wenn wir tatsächlich einmal künstliche Intelligenz (KI) erschaffen haben - so einfach sie auch sein mag - müssen wir diese Gedanken bereits durchdacht haben. Um zu wissen, wie wir dann mit fühlenden, denkenden "Wesen" umgehen müssen, die da vollkommen von uns abhängig ist.

    Diese KI muss dann aber nicht zwangsweise an eine mechanische Maschine gebunden sein, sie kann auch als „Software“ in einem Rechner existieren - und das könnte uns als doch noch nicht so schrecklich weit „evolutionierte“ Wesen dann wieder schwerfallen, dieser KI den notwendigen Respekt und die erforderliche Fürsorge entgegen zu bringen.

    Dies sollten wir unbedingt durchdenken - vielleicht hat uns Frau Darling einen Schritt voran gebracht. Das wäre dann sehr schön.

Bitte melden Sie sich an, um zu kommentieren

  • Artikel Auf einer Seite lesen
  • Quelle ZEIT ONLINE
  • Schlagworte Emotion | Kinderbuch | MIT | Mine | Naturschutz | Roboter
Service