Roboter-Ethik"Bald sind sie überall"

Der britische Informatik-Professor und Ethiker Noel Sharkey erklärt, welche Probleme einer Gesellschaft voller Roboter blühen. von 

Der humanoide Roboter "Hiro" füllt Wasser in eine Tasse.

Der humanoide Roboter "Hiro" füllt Wasser in eine Tasse.  |  © YOSHIKAZU TSUNO/AFP/Getty Images

DIE ZEIT: Mister Sharkey, Sie sagten einmal, Roboter seien so dumm wie programmierbare Waschmaschinen. Brauchen Waschmaschinen eine Ethik?

Noel Sharkey: Man muss zwei Aspekte der Roboterethik unterscheiden. Da wäre zum einen das fiktive Szenario, das Philosophen seit Langem beschäftigt: Welche Rechte hätte eine Maschine mit menschlicher Intelligenz? Der deutlich wichtigere Aspekt ist aber die Ethik bereits existierender Roboter. Dabei spielt keine Rolle, wie schlau die nun wirklich sind.

Anzeige

ZEIT: Bisher stehen Roboter doch fast nur in Fabriken. Meinen Sie, das wird sich ändern?

Noel Sharkey

erforscht an der Universität Sheffield das Leben mit Robotern.

Sharkey: Ja, schon in den nächsten 10 bis 15 Jahren werden wir sie überall sehen: als Pfleger , Kindergärtner, Polizisten – und natürlich als Sexspielzeug. Als Roboterethiker will ich auf die damit verbundenen Probleme hinweisen, um Hersteller, Programmierer, Anwälte und Politiker zu einer Diskussion zu animieren.

ZEIT: Und was soll an deren Ende stehen? Robotergesetze wie jene, die der Science-Fiction-Autor Isaac Asimov vorweggenommen hat?

Sharkey: Das höre ich immer wieder, meist von Leuten, die Asimov nicht gelesen haben! Seine Geschichten zeigen, dass sich solche Gesetze immer widersprechen werden. Er hat zum Beispiel diese Regel: "Du darfst nicht zulassen, dass ein Mensch zu Schaden kommt." Was aber passiert, wenn ein Mensch plant, einen Planeten mit Milliarden Menschen darauf zu zerstören? Der Roboter dürfte nicht eingreifen, weil der Typ mit der Waffe immer noch ein Mensch ist.

Casero

In Großlagern oder Containerterminals kennt man sie schon: fahrerlose Lastroboter, die sich Container, Kisten oder Gitterboxen aufladen und dann selbst ihren Weg vom Start- zum Zielpunkt suchen. Aber in aller Regel haben Menschen in deren Territorien keinen Zutritt – zu gefährlich! Für den Lastroboter Casero gilt das jedoch nicht. Ihn haben die Firma MLR und das Fraunhofer-Institut für Produktionstechnik und Automatisierung entwickelt. Er soll in Hotels, Krankenhäusern, Pflegeheimen oder Büros den Angestellten das Schleppen abnehmen. Mit Laser- und Ultraschallsensoren nimmt Casero seine Umgebung wahr und kann so »dynamischen Hindernissen« ausweichen – Menschen also.

Mechanisches Arbeitstier

Langeweile oder Muskelkater gehören nicht zu den programmierten Optionen dieses Roboters – und das dürfte ein Vorteil sein. Das mechanische Arbeitstier ist namenlos, aber es stammt von einer jungen amerikanischen Firma mit vielsagendem Namen: Harvest Automation, also Ernteautomatisierung. Ihr Hauptziel ist die Herstellung duldsamer Feldarbeiter, die zunächst in Gärtnereien Einzug halten sollen: weil dort ständig schwere Pflanztöpfe umgestellt werden müssen und diese Tätigkeit nicht nur anstrengend, sondern auch monoton ist. Gegenwärtig testet Harvest Automation seine Roboter an mehreren Orten der US-Ostküste. Auch auf Baustellen, im Bergbau, im Großhandel oder in anderen produzierenden Sparten könnten die blechernen Gehilfen ihren menschlichen Kollegen manchen Muskelkater ersparen.

DustBot

Ein Anruf, und der Roboter kommt nach Hause, um den Dreck abzuholen. Oder er sucht in der Innenstadt nach Müll, wie der DustBot. Im Rahmen des EU-Forschungsprogramms DustBot entstanden autonome Maschinen, die das beherrschen sollen. In Nachfolgeprojekten arbeiten die Wissenschaftler jetzt an zwei unterschiedlichen Technologien, die für einen erfolgreichen robotischen Müllmann zentral sind: erstens sichere Navigation durch enge Gassen, Fußgängerzonen und bevölkerte Plätze. Zweitens die Fähigkeit, Müll oder unangenehme von ihm ausgehende Gase zu riechen. Künftige DustBots müsste man dann gar nicht mehr rufen – sie kämen von selbst.

Care-O-Bot

Stets freundlich bleiben. Der klobig anmutende Roboter Care-O-Bot soll die Tugenden eines Butlers beherrschen. Er ist darauf programmiert, Bewohnern eines Altenheims Getränke anzubieten, hier übt er noch beim Testeinsatz in einem Pflegeheim bei Stuttgart. Er kann Gesichter auseinanderhalten, Kunden mit Namen ansprechen und immer wieder geduldig fragen: »Mögen Sie etwas trinken?« Besonders demente Ältere trinken oft zu wenig, und in Pflegeheimen ist das Personal knapp. In dem vom Bundesforschungsministerium geförderten Projekt Wimi Care ging es um die Frage, welche Arbeiten Maschinen übernehmen oder welche sie gar besser erledigen könnten. Aus Sicht der Forscher sollen die mechanischen Helfer dem Pflegepersonal Luft für seine eigentliche Tätigkeit verschaffen, statt dieses zu ersetzen.

ZEIT: Wäre es denn wenigstens möglich, Maschinen Grundzüge menschlichen Verhaltens beizubringen?

Sharkey: Mit heutiger Software ist ein Roboter lediglich in der Lage, einen Menschen von einem Auto zu unterscheiden. Schon bei einer Puppe versagt er kläglich. Aber selbst wenn die Technik eines Tages so weit ist, fehlt ihm gesunder Menschenverstand – den zum Beispiel ein Polizeichef hat, der eine brenzlige Situation bei einer Demonstration einschätzen muss.

ZEIT: Wenn man Robotern selbst kein ethisches Verhalten beibringen kann, wer steht dann moralisch in der Pflicht? Die Ingenieure?

Sharkey: Ja, und da gibt es schon Richtlinien des "ethischen Designs". Wenn man zum Beispiel seine Kinder in der Obhut einer Roboter-Nanny lassen könnte, wie ließe sich dann verhindern, dass Rabeneltern die Technik ausnutzen und ihr Kind vernachlässigen? Als Roboterhersteller muss man eine Möglichkeit finden, diese Missbrauchsmöglichkeit auszuschließen.

Frida

Mensch und Roboter Seite an Seite. So stellt sich der Schweizer Hersteller ABB die Zukunft der Arbeit vor, etwa am Montageband: Der Prototyp Frida (Friendly Robot Industrial Dual Arm) besteht nur aus einem menschenähnlichen Oberkörper und zwei Armen. Er kann sich also nicht selbst fortbewegen. Aber weil die Maschine leicht ist, kann man sie problemlos hin und her tragen und an jeder Tischkante befestigen. Mit ihrem humanoiden Design und den eleganten, fließenden Bewegungen der beiden Arme ist Frida dazu gedacht, in unmittelbarem Kontakt mit menschlichen Arbeitern zu kooperieren – etwa indem sie Bauteile reicht. Mit den Robotern will der Hersteller bei seinen Kunden dafür werben, ihre bisherigen Produktionsabläufe zu überdenken.

EngKey

Im Klassenraum steht ein Lehrer aus Plastik. So sieht an 21 Grundschulen der südkoreanischen Stadt Daegu seit etwas mehr als einem Jahr der Englischunterricht aus. In dem Land sind Sprachlehrer knapp, gut ausgebildete zieht es oft nach Japan. Daher also EngKey: Bei den grün-weißen Maschinen von der Größe eines Kindes handelt es sich um sogenannte Telepräsenz-Roboter. Das bedeutet, dass sie einem echten Menschen, der in weiter Ferne sitzt, im Klassenraum Präsenz verleihen sollen. Bei dem Pilotprojekt des Korea Institute of Science and Technology (Kist) sind das Englischlehrer auf den Philippinen. Aus den Lautsprechern des Roboters ertönt deren Stimme. Der Bildschirm hingegen zeigt ein künstliches Gesicht . Die EngKey-Roboter sollen die Aufmerksamkeit ihrer Schüler besser binden, als es etwa mit Videokonferenzen möglich wäre.

Riba

Ein Plastikbär, der Krankenschwestern entlastet: Der japanische Robot for Interactive Body Assistance(Riba) kann Patienten mit einem Körpergewicht bis zu 80 Kilogramm sanft aus dem Krankenbett in einen Rollstuhl heben. Er reagiert auf gesprochene Kommandos . 2009 hatte das Forschungsinstitut Riken die erste Generation des Geräts vorgestellt, im letzten Sommer den Nachfolger Riba II. Wie in vielen europäischen Ländern herrscht in Japan ein Mangel an Pflegekräften. Forscher sehen für die Zukunft auch außerhalb der Krankenhäuser ein Potenzial für Pflegeroboter: Um länger in den eigenen vier Wänden leben zu können, dürften alte Menschen schon bald Roboter als Mitbewohner akzeptieren.

Leonie

Führerlose Fahrzeuge rollen längst auf öffentlichen Straßen, so wie hier im Jahr 2010 das autonome Auto Leonie der TU Braunschweig. Berlin entwickelte gar mit dem TÜV Nord ein Sicherheitskonzept, damit autonome Pkw am Stadtverkehr teilnehmen können. Das Interesse an diesem Zukunftsgeschäft geht längst über Hochschulen und Autoindustrie hinaus. Google positioniert sich dabei als Software- und Datenlieferant (Maps, Street View). In Neuwagen stecken bereits autonome Assistenzsysteme . Doch künftige Roboterautos sollen als fahrerlose Taxis komplett eigenständig fahren – und nebenbei durch sicheres Fahrverhalten die Unfallquote senken. Nach Dienstschluss könnten sie sich eigenständig einen Parkplatz am Stadtrand suchen.

ZEIT: Wie sollte das funktionieren?

Sharkey: Man könnte den Roboter mit einer Fläche versehen, auf die ein Elternteil in regelmäßigen Abständen die Hand legen muss – sonst schlägt der Roboter Alarm.

Leserkommentare
    • Gerry10
    • 23. Januar 2012 10:24 Uhr

    ...erinnert mich an die Raketenpost und die fliegenden Autos der 50er Jahre.
    Erstens werden die Roboter viel zu teuer sein um sie als normalsterblicher erwerben zu können.
    Zweitens ist die Menschheit noch nicht soweit sich mit Robotern abzugeben. Die große Mehrheit will und braucht den Kontakt von Mensch zu Mensch.
    Pfleger und Kindergärtner als Roboter - wer bitte will das ausser die Industrie?
    Sex mit einem Roboter? Wenn man den Akt auf seine körperliche Funktion reduziert finden sich vielleicht ein paar die das machen würden, aber wie beim masturbieren, es ist kein Ersatz für das Original.

    Reaktionen auf diesen Kommentar anzeigen

    "Erstens werden die Roboter viel zu teuer sein um sie als normalsterblicher erwerben zu können."

    Ich fand jetzt meinen Roomba für €285 nicht _so_ wahnsinning teuer. Klar, der kann noch nicht wahnsinnig viel und ist auch nicht allzu schlau, aber bei Computern nehmen die Preise von Robotern ab und die Fähigkeiten zu - aus denselben Gründen.

    Ich denke, in 10 Jahren werden die meisten Haushalte irgendeine Art von Robotern haben. Und bis dahin finde ich es schon erst einmal toll, daß mir jemand beim Staubsaugen die Arbeit abnimmt.

    • henry06
    • 23. Januar 2012 12:53 Uhr

    Schade, Sie haben offenkundig das Interview nicht vollständig gelesen. Vielleicht sehen sich diesen Teil nochmal an:

    Ein Robotor ist eine Maschine mit Sensoren, die auf die wahrgenommenen Dinge reagieren kann.

    Ich wette, nach dieser Definition haben sie mindestens 2 Robotor in ihrem Haushalt. Denn ihr Kühlschrank (Temperaturmessgerät als Sensor und Wärmepumpe bzw. Kompressor als Aktor) oder auch ihre Waschmaschine erfüllen diese Anforderungen und sind demnach Robotor. Wenn sie ein Auto besitzen, können sie gleich noch ein Robotor ihr Eigen nennen(Wobei man da ja nicht mal von nur einem Robotor reden dürfte). Was da heutzutage an Sensoren, CPUs und Aktoren verbaut sind, ist der helle Wahnsinn.

    Die Zukunft ist längst da, wer Augen hat, der soll sehen, wer Ohren hat, soll hören.

    P.S. Und bitte verwechseln sie nicht Robotor mit humanoidem Robotor.

    • Elite7
    • 23. Januar 2012 15:32 Uhr

    Dann denken Sie halt mal 100 Jahre in die Zukunft. Denken Sie ernsthaft, diese Technologie wäre dann zu teuer für die Mittelschicht? Und ehrlichgesagt würde ich ein solches Szenario, wie z.B. den Nanny-Roboter, der dann saugt, putzt und kocht und mit den Kindern spielt, gar nicht so abwegig. Und dann wären wahrscheinlich vor allem reiche Kinder betroffen, die ja heute auch schon offt auf Nannys abgeschoben werden. Nur mit dem Unterschied, dann ihnen diese menschliche Nanny Gefühle vermitteln kann.
    Und im Militär finden Roboter schon lange Einsatz. Warum nicht auch in der Polizei für Überwachungen, zur Security, usw.? Ein Roboter denkt nun mal schwarz-weiß und kann nicht intuitiv entscheiden. Er entscheidet so, wie sein Herr es ihm vorgegeben hat. Eine ziemliche Gefahr.

    • Kriton
    • 23. Januar 2012 10:41 Uhr

    Jegliche Art von Fortschritt - egal ob technischer, politischer oder sozialer - macht gleichzeitig Hoffnung und Angst; und das ist auch gut so, denn in dem einen Fall wären wir noch in der Steinzeit, im anderen wahrscheinlich schon ausgestorben.
    Die Sorge gegenüber Robotern liegt m.E. aber vor allem darin, dass sie zwar die Außenwelt wahrnehmen können und vielleicht auch menschenähnlich denken und handeln könnten, ihnen aber die entscheidende zwischenmenschliche Qualität - die innerweltliche Wahrnehmung - abgeht: Es macht Menschen aus, dass sie sich in andere Menschen 'hineinversetzen' können. Dazu muß man nicht nur die gleichen Erfahrungen erlebt und gefühlt haben, man muß sich auch vorstellen können, in der Situation eines anderen Menschen zu sein, wenn man sie noch nie erlebt hat. Dieses Vorstellungsvermögen ist jedoch unerschöpflich, weil es ausschließlich darauf basiert, dass man sich im Menschsein gleicht.
    Dass das nicht übertragbar ist, merken wir z.B. bei Tierrechten: die Fragen dazu wären unproblematischer, wenn wir uns wie Kühe in Kühe hineinversetzen könnten. Stattdessen geht der Streit darum, welche Ähnlichkeiten wir mit Menschen annehmen können, sodass wir uns dann in das Menschenähnliche hineinversetzen, z.B. Symptome für Angst, Schmerz, Hunger etc. 'wiedererkennen'.

  1. "Erstens werden die Roboter viel zu teuer sein um sie als normalsterblicher erwerben zu können."

    Ich fand jetzt meinen Roomba für €285 nicht _so_ wahnsinning teuer. Klar, der kann noch nicht wahnsinnig viel und ist auch nicht allzu schlau, aber bei Computern nehmen die Preise von Robotern ab und die Fähigkeiten zu - aus denselben Gründen.

    Ich denke, in 10 Jahren werden die meisten Haushalte irgendeine Art von Robotern haben. Und bis dahin finde ich es schon erst einmal toll, daß mir jemand beim Staubsaugen die Arbeit abnimmt.

    Antwort auf "Tagträumerei..."
    • Ranjit
    • 23. Januar 2012 11:19 Uhr

    "Dazu müsste es erst einmal Maschinen mit Gefühlen geben. Die aber sind ein kultureller Mythos, den die Medien am Leben halten."

    Ich würde eher argumentieren, dass die Schwierigkeit Gefühle zu implementieren ein kultureller Mythos ist. Maschinen die kalte Rationalität besitzen sind häufig im Sci-Fi-Genre zu finden. Aber Gefühle und Kreativität werden als deutlich schwieriger dargestellt. In Star Trek: The next Generation entsteht so ein ganzer Charakter. Data, der Androide, der lange versucht Gefühle zu verstehen. Die Lösung folgt irgendwann später mit einem "Gefühlschip".

    Und dass ist genau der Punkt. Wenn wir Maschinen Rationalität beibringen können, dann sind Gefühle kein Problem mehr. Gefühle sind ja primär interne Statusanzeigen; Zustandsvariablen, die sich aus dem inneren und äußeren Kontext unserer aktuellen Situation und unseren Kognitionen speisen. Derartige Mechanismen sind absolut programmierbar. Schwieriger ist unser verknüpftes Denken.
    Aber IBM hat mit ihrem Jeopardy-Computer "Watson" demonstriert, dass der heilige Gral Menschlicher Denkstrukturen gar nicht so unantastbar ist, wie man bisher annahm.

    Reaktionen auf diesen Kommentar anzeigen
    • dth
    • 23. Januar 2012 13:44 Uhr

    Watson ist nicht intelligent. Intelligenz erlaubt es, Strukturen zu erkennen und daraus anschließend dann verhalten zu generieren.
    Bei Watson hingegen haben Menschen die Struktur des Problems (Sprache synthetisieren, Sprache verstehen, Schlüsse aus Wissensdatenbanken ziehen etc) in jahrelanger Forschungsarbeit herausgearbeitet. Watson ist einfach nur ein schneller Rechner (oder mehrere) mit einer guten, vorgegebenen Strategie.
    Emotionen hängen auch nicht direkt mit Intelligenz zusammen. Zwar bewerten wir Information auch emotional, aber für Emotionen ist ein anderer, älterer Teil des Gehirns zuständig als für rationale Schlüsse.
    Emotionen sind wohl eher wichtig für instiktives Verhalten und für soziale Fähigkeiten.

    Möglich, dass es in 10 Jahren mehr Roboter in unserer Umwelt geben wird. Aber es wird eben eher die Weiterentwicklung der Waschmaschine sein, die die Wäsche auch gleich noch zusammenlegen und aufräumen kann.
    Weder die Sensorik, die Steuerung noch die Konstruktion von Robotern kommt heute aber an etwas heran, das wirklich flexibel in einem Haushalt agieren könnte. Von daher halte ich die 10 Jahre auch für sportlich.

    • Nero11
    • 23. Januar 2012 11:24 Uhr

    und mehr über Anwendungsmöglichkeiten gewünscht.

  2. Ein Roboter wird niemals tiefe innere Gefühle zeigen können.
    Gefühle haben auch etwas mit Erfahrunge des Lebens zu tun.

  3. heute schon aussehen....

    http://www.youtube.com/wa...

    Da werden manche Science-Fiction Filme bald Realität werden...

  4. Roboter werden wohl nie wie Menschen fühlen. Wenn Roboter menschliche Gefühle zeigen, wird dies eher eine von Menschen programmierte Handlung sein, die nicht mit "echten" Gefühlen gleichzusetzen ist. Trotzdem können solche Gefühlsäußerungen für die Interaktion mit Menschen nützlich sein.

    Genauso ist Empathie nicht möglich. Dafür ist aber eine effiziente Mustererkennung möglich. Wenn eine Maschine weiß, wie Menschen mit bestimmten Eigenschaften und Hintergründen in bestimmten Situationen reagieren (oder fühlen), ist es möglich, das eigene Verhalten auf einer ähnlichen Grundlage anzupassen, wie es Menschen auf der Grundlage ihrer Empathiefähigkeit tuen.

    Diese Fragen gehen aber an dem Kern des Problems vorbei. Obwohl Maschinen keine Gefühle und keine Empathie im menschlichen Sinn haben, bleiben ethische Fragen offen, die zu beantworten sind. Schließlich benötigt eine Maschine, die komplexe Aufgaben und Interaktionen mit Menschen vollziehen soll, die Fähigkeit, selbstständig Problemlösungsstrategien bei sich ändernden Rahmenbedingungen zu entwickeln. Dies setzt widerum ein Modell ihrer Umwelt und ein Modell ihrer selbst sowie die Fähigkeit zu Lernen und ein Gedächtnis voraus. Zudem wäre ein gewisser "Selbsterhaltungstrieb" notwendig, damit die Maschine nicht ständig auf den heißen Herd fasst etc. Wenn man diese "Zutaten" ausreichend weit ausprägt, stellt sich irgendwann die Frage, ob eine über lange Zeit trainierte Maschine nicht doch eine schützenswerte "Persönlichkeit" hat.

    Reaktionen auf diesen Kommentar anzeigen
    • henry06
    • 23. Januar 2012 12:58 Uhr

    Ich kann Ihrem Beitrag größtenteils zustimmen. Allerdings bauen sie ihre Argumentation auf seiner etwas fragwürdigen Basis auf:
    Wenn Roboter menschliche Gefühle zeigen, wird dies eher eine von Menschen programmierte Handlung sein, die nicht mit "echten" Gefühlen gleichzusetzen ist.

    Was sind denn bitte "echte Gefühle"? Ich bin nur begrenzt ein Experte für Psychologie, aber ich kann bei bestem Willen nicht erklären, was Gefühle auf biologischer Ebene darstellen und ich kann nicht erkennen, wieso man einer wie auch immer gearteten Maschine dies nicht zeigen/beibringen/implementieren kann.

    Hier wird eine Hypothese aufgestellt, die (offenkundig) weder belegt, noch hinterfragt wird.

Bitte melden Sie sich an, um zu kommentieren

  • Artikel Auf einer Seite lesen
  • Schlagworte Ethik | Demonstration | Design | Fabrik | Intelligenz | Planet
Service