Kriegsführung : Das automatisierte Töten
Seite 3/3:

Maschinen mit der Macht über Menschenleben

Maschinen mit der Lizenz zum Töten, das ist eine neue Dimension der Kriegsführung. Diese Aussicht macht sogar den Roboterkommandeuren selbst Sorgen. »Menschliche Werte gibt es nur mit menschlicher Beteiligung«, sagt der ehemalige F-16-Pilot Pete Gersten, der das 432. Geschwader auf der Creech Air Force Base in Nevada leitet – das erste, das nur noch aus unbemannten Flugzeugen besteht.

Wer einmal mit einem automatischen Anrufsystem telefoniert hat, kennt die Grenzen der Maschinenintelligenz. Ein angreifender Gegner oder eine verängstigte Großmutter – beide sind nichts als Zahlenfelder für das Elektronenhirn. Im Irak war unter US-Soldaten die Angst umgegangen, als die Swords-Roboter, die ersten zum bewaffneten Kampfeinsatz abkommandierten Landroboter, ihre Gewehre mehrmals eigenmächtig schwenkten und abdrückten. Vor zwei Jahren beorderte die Army die Swords zurück nach Hause. Ihr Nachfolgemodell Maars wird bereits hergestellt.

Und entwickelt wird eine neue Generation von Kampfmaschinen voller Eigeninitiative, die leise über die Schlachtfelder huschen soll, schneller, als menschliche Augen es sehen können. Der SquishBot des Unternehmens Boston Dynamics zum Beispiel kann fast beliebig seine Form ändern, sich wie ein Tausendfüßler unbemerkt durch Löcher und Ritzen schlängeln, um dann direkt zu Füßen des Gegners zu explodieren. Der Urban Hopper desselben Unternehmens kann zielgenau über neun Meter hohe Zäune oder in Fenster springen. Eigentlich war der schuhkartongroße Springteufel zur Erkundung gedacht, die Auftraggeber aus dem Pentagon reden aber auch davon, ihn zu bewaffnen.

Maschinen mit der Macht über Menschenleben, doch ohne einen Sinn für Gnade oder Zweifel? Robotiker wollen autonomen Kampfmaschinen so etwas wie ein Gewissen einprogrammieren, bevor sie auf Menschen losgelassen werden. Ronald Arkin, der Direktor des Mobile Robot Laboratory am Georgia Institute of Technology, hat eine ethische Kontrollinstanz für Kampfdrohnen wie die Predator entwickelt und in Simulationen getestet, denen Geschehnisse aus den jüngsten Feldzügen der Amerikaner zugrunde liegen. So verschonen Arkins moralische Drohnen etwa einen feindlichen Fahrzeugkonvoi, wenn sie ein Krankenhaus in der Gefahrenzone erkennen. Unterläuft ihnen doch mal ein Fehler, greift ihr »Schuldsystem« ein und lässt sie beim nächsten Mal vorsichtiger zu Werke gehen.

Als im April 2002 in Afghanistan ein US-Pilot versehentlich kanadische Infanteristen mit einer 227-Kilogramm-Bombe tötete, wurde er von einem Militärgericht verurteilt. Er hatte sie für Feinde gehalten, weil sie in einer ehemaligen Talibanstellung trainierten. Ein tragisches Missverständnis. Durchaus möglich, dass Arkins moralische Drohne denselben Fehler gemacht hätte. Wer wäre dann verantwortlich gewesen? Ein Offizier? Der Programmierer? Der Roboter selbst? Schließlich entwickeln sich die Entscheidungsgrundlagen »selbst lernender« Computersysteme fortwährend.

Überrascht war Peter Singer darüber, wie wenig Kopfzerbrechen solche Fragen offenbar den zuständigen Regierungsbeamten bereiten. Ein Pentagon-Wissenschaftler erwiderte ihm nur: »Was Roboter betrifft, gibt es keine wirklichen sozialen, ethischen oder moralischen Fragen. Wenn die Maschine wiederholt die falschen Menschen tötet, steht allenfalls eine Rückrufaktion an.«

Solche Unbekümmertheit provoziert Widerspruch. Manche Robotiker, unter ihnen Illah Nourbakhsh von der Carnegie Mellon University, fordern, die Entwicklung autonomer Militärroboter rundweg zu verbieten. Konsequenterweise nimmt Nourbakhsh keine Fördergelder des Verteidigungsministeriums an. Eine öffentliche Debatte über die Gefahren mechanischer Rambos und die Frage, wie man eine Rüstungsspirale verhindern könnte, müsste jedoch erst entstehen.

Nichts ist dagegen einzuwenden, dass Scooby Doo & Co Sprengfallen räumen oder Blechkameraden verwundete Soldaten aus Situationen retten, in die sich kein menschlicher Sanitäter wagt. Aber Waffen brauchen sie dazu nicht.

Anzeige

Forschende Fachhochschulen

Die deutschen Fachhochschulen entwickeln sich von reinen Lehranstalten zu Schmieden der anwendungsbezogenen Forschung - unterstützt von Politik und Wissenschaftsrat.

Mehr erfahren >>

Kommentare

51 Kommentare Seite 1 von 7 Kommentieren

Ja, denkende Maschinen und Moral

Erst, wenn Maschinen zu denken beginnen, sind Maschinen keine reinen Werkzeuge des Menschen mehr.

Wie alle Werkzeuge, etwa das Flugzeug, ist es noch der Mensch, der effizienter in der Lage ist andere auszulöschen. Es geht also nicht nur darum, wie suggeriert, eigene Verluste zu mildern, sondern effizienter zu töten. Im Konfliktfall können wir auf denjenigen, der das Ding steuert oder anweist, verweisen. Es ist auch nicht das Gewehr, das einen automatischen Zielsucher hat, Schuld am Tod eines Menschen, sondern der Soldat, der das Ding bedient hat. Man denke an Autos, die andere in den Tod reißen und Rückrufaktionen, Klagen.

Was Sie fragen, ist das Science-Fiction-Horrorszenario schlechthin: Werfen recht selbstständige Maschinen Moralfragen auf? Darf man sie moralisch einschränken? Was passiert, wenn diese Schranken aus Effizienzgründen umgangen werden? Was passiert, wenn unsere techn. Möglichkeiten noch zu primitiv für wirklich eigenverantwortliche Maschinen sind? Es könnte sein, das wir bloß recht schlaue Roboter-Cowboys ohne Moralfunktionen entwickeln können, die nicht lernen.

Mir ist ein Roboter, der denken, sich wahrnehmen kann, lieber als eine Maschine, die nur schlau tötet und einprogrammierte Moralvorstellungen erhalten hat. Von der denkenden Maschine erhoffe ich mir, dass sie selbst in Zweifel über ihr Handeln gerät oder, dass sie imstande ist in großen Zusammenhängen zu denken, was Moral einschließt.

Wir sind weit davon entfernt, echte AI zu entwickeln

Am Beispiel der Feinderkennung: Diese Maschinen erkennen zum Beispiel Menschen. Das heißt, sie haben Algorithmen eingebaut, die letztlich irgendwo eine Leitung auf "1" setzen, wenn ein Muster "Mensch" in der Kamera auftaucht. Mit denselben Algorithmen könnten Sie auf Ihrem PC Schuhabdrücke vergleichen. Es ist unsinnig, Algorithmen entwickeln zu wollen, die "moralische Fragen" lösen können. Weil es in der Natur der Sache liegt, dass solche Fragen nur von Menschen gelöst werden können.

Dass die Öffentlichkeit sich so darauf versteift, dieser Art von Maschinen die Fähigkeit zuzusprechen, irgendwie "moralisch handeln" zu können, liegt einzig und allein daran, dass diese Maschinen eben mit Waffen ausgestattet sind. Dadurch werden die Leute beunruhigt. Um die Gefährlichkeit, die durch die Maschinen ausgeht, auf etwas bekanntes reduzieren zu können, hätte man gerne eine Art "maschinelles Gewissen", was eine vollkommen perverse Vorstellung ist.

In Wahrheit liegt die ganze Verantwortung bei den Operateuren und bei den Erschaffern (Ingenieuren) dieser Maschinen. (Sogar, wenn die Maschinen sog. "autonome" Entscheidungen treffen können.) Darüber sollten sich die Techniker mal klar werden. Die moralischen Fragen haben sich kein bisschen geändert, nur weil jetzt das Maschinengewehr in eine Metallklaue statt in einer Hand liegt. Nach dieser Erkenntnis braucht man auch nicht mehr solche seltsamen Krücken, wie diesen Maschinen ein "moralisches Bewusstsein" einzuimpfen.

sehr richtig Herr Tichy

"...Weil es in der Natur der Sache liegt, dass solche Fragen nur von Menschen gelöst werden können.

Um die Gefährlichkeit, die durch die Maschinen ausgeht, auf etwas bekanntes reduzieren zu können, hätte man gerne eine Art "maschinelles Gewissen", was eine vollkommen perverse Vorstellung ist.

In Wahrheit liegt die ganze Verantwortung bei den Operateuren und bei den Erschaffern (Ingenieuren) dieser Maschinen...."

Auch ist richtig, dass wir mit solchen Drohnen den asymmetrischen Krieg noch asymmetrischer machen und das Ungerechtigkeits- und Ohnmachtsgefühl noch verstärken.

Es wird zum Gegenteil dessen führen, was angestrebt ist, nämlich zum eskalieren der Untaten entrechteter.

es gibt tatsaechlich sehr viele bedenken

es koennte jetzt sehr provokativ klingen, aber...

die entwicklung der kampfroboter kam als atwort, auf islamische terroristen, die nicht nur bereit und willens sind unschuldige zu toeten, sondern auch eigenes leben nicht schaetzen.

natuerlich muss die debate um die moralische aspekte gefuehrt werden. man darf sich nicht durch maschinen, der verantwortung entziehen.

wie schon in dem text richtig erwaehnt wurde, sind die kampfroboter oder besser gesagt ferngesteurte kampfmaschinen, eine logische antwort auf assymetrische kriegsfuehrung.

ich hoffe, dass die roboter das sein werden, was die jihadisten davon abhalen wird, ihre suizide wuensche mit opferung unschuldiger fuer den allah, zu verwirklichen.

Das könnte jetzt provokativ klingen,

aber auch die abendländischen Kriegsteilnehmer nehmen unschuldige Opfer in Kauf. Nicht umsonst haben sie ein gehöriges Arsenal an Euphemismen und eine gewisse Routine bei den unvermeidbaren Presseerklärungen entwickelt. Günstig wirkt sich dabei für sie aus, dass für an einer Hand abzählbare "Kollateralschäden" oder "mutmaßliche Unterstützer" bzw. "tragische Unfallopfer" bei einem Einsatz von der Öffentlichkeit kaum noch die nötige Aufmerksamkeit aufgebracht werden kann. Aber in den Fällen wo Dutzende Unschuldige zu Tode kommen muss man sich - zum Glück! - auch heute noch rechtfertigen.
Was die Inkaufnahme des eigenen Todes im Vergleich zur Wertschätzung des Lebens angeht: "Märtyreroperationen" bzw. "Selbstmordattentate", je nachdem in welchem Einzugsgebiet Sie darüber sprechen, gehören auch zum Ausbildungsprogramm abendländischer Offiziere. Amerikanische Soldaten binden sich meist keinen Sprengstoff um den Bauch, aber sie müssen Befehle befolgen und im Zweifel schließlich ihr eigenes Leben mit aufs Spiel setzen. Verachten sie deswegen das Leben? Krieg ist nicht sauber, kein Computerspiel, das wissen außer den Amerikanern eigentlich alle. Bzw. die wissen es auch, sie versuchen es nur zwischendurch immer wieder so gut wie es geht zu vergessen.
Hätten die gegnerischen Kombattanten bzw. Terroristen Drohnen zur Verfügung, würden sie diese wahrscheinlich selbst auch lieber einsetzen, ich denke da gehen die Wertvorstellungen gar nicht so weit auseinander, was das Leben betrifft.

falsch

"Amerikanische Soldaten binden sich meist keinen Sprengstoff um den Bauch, aber sie müssen Befehle befolgen und im Zweifel schließlich ihr eigenes Leben mit aufs Spiel setzen. "

nicht nur die amerikanischen soldaten, sondern jeder soldat muss sein tod in kauf nehmen. in einem krieg stehen die kriegsziele hoeher als das menschliche leben (sonst wuerde ja, keiner kriege fuehren). vor jedem einzelnen einsatz muss man abwiegen ob die ziele mit den moeglichen verluste rechtfertigen. aber im grossen und ganzen weisst man, dass wenn nicht dieses mal, dann spaetestens nach dem 20 einsatz verletzte und tote geben wird.

man sieht, dass sie nie als soldat im krieg gewesen sind. in einem kampf muessen einzelne ab und zu grosses risiko auf sich nehmen um die eigene position zu verbessern. wenn aus einer strasse geschossen wird, so muss man oft einen zweiten mann auf die andere strassenseite bringen um einfach mehr waffen richtung feind zu haben. und da muss halt jemand sehr schnel auf die andere strassenseite unter beschuss rennen.

jetzt zu jihadisten. genau so wie zur zeiten der kreuzzuege, wird der tod im kampf seitens der moslems gewuenscht. und seit 20 jahren ist es auch "erlaubt" in einer unbewaffneten menschenmenge sich in die luft zu jaggen um auch als heiliger zu gelten. so eine kultur gibt es nicht im westen. es wird gekaempft um zu leben die radikalen moslems kaempfen um zu sterben. punkt. es gibt regelrechten maertyrertourismus in alle kampfgebiete...

Falsch

Es zählen nicht die eigenen Leute (siehe Mailer). Den Militärs ist es egal, wieviele Menschen sie verheizen. Nachschub gibt es ja genug (Wirtschaftskrise, Immigranten). Was die Militärs fürchten ist ein Umschwung der öffentlichen Meinung.

Zur Dehumanisierung: Schauen Sie sich einmal das wikileaks-Video an. Dann schauen Sie es sich noch einmal an. Besonders die Kommentare der Piloten/Schützen sind unerträglich.

Eine Aufgabe für die besonders Fleissigen: Recherchieren Sie, wer denn eigentlich angeklagt wird. Die feigen und grossmäuligen Piloten oder derjenige, der das Video veröffentlicht hat und derjenige, der das tote Kind aus dem Van zog und es in ein Krankenhaus bringen wollte? Die Antwort konnte für eine kognitive Dissonanz sorgen.

Glückwusch zu Ihrer Schwarz-Weiß-Sicht

ich kann ihnen nur wünschen niemals als "Gegner" von irgendeiner Schraddelkiste erkannt zu werden.

Allerdings ist ja das der Punkt: Es steht nicht mehr im Zweifelsfall Soldatenleben gegen "feindliches" Soldatenleben, sondern rein monetärer Geldwert der Schraddelkiste gegen "feindliches" Soldaten leben. Also Geld gegen Menschenleben um es aufs Drastische zu reduzieren.

Ich frage sie: darf eine Maschine darauf programmiert werden aus "Notwehr" zu töten?

sie verwechseln da etwas

den anklaeger geht es um die veroeffentlichung hochgemeir videoaufnahmen. und alle solche einsatzaufnahmen sind hochgeheim bis die zensur sie erlbaut.

die piloten gingen davon aus, dass es sich um terroristen handelt. sie bekamen auch gruenes licht fuer schiessen. die entscheidung wurde von der zentralle getroffen und nicht von ihnen selbst. d.h. es gab noch mindestens 2 personen, die das gesehen und erlaubt haben. so einfach wie sie das haben wollen, ist es nicht.

in westlichen armeen werden kriegsverbrechen angeklagt und oft fuer das ganze leben eingekerkert. in einem krieg passieren schlimme sachen. das liegt in seiner natur. einzelne soldaten begehen kriegsverbrechen - da kann man nichts machen, ausser sie gerichtlich zu verfolgen, was auch immer getan wird.

fakt ist, dass durch drohnen weniger unbeteiligte zum schaden kommen. am anfang der zweiten intifada in israel. wurde auf 2 tote zielpersonen bei targetkilling eine unbeteiligte getoetet. am ende der intifada vor zwei jahren war es schon bei 21 zu eins. ich will hier nicht aus menschenleben zahlen machen. aber fakt ist, dass man willens war und es auch schafte, unbeteiligte zu schonen.

Eine rhretorische Frage und doch so töricht...

Ich stelle folgende Frage:

Dürfen wir die Entscheidung über Leben und Tod einem anderen Wesen überlassen als dem Wesen selbst?

Da nimmt sich die bewaffnete Drohne doch als eine Potenzierung des sowieso schon schrecklichen Waffenmaterials nur als eine weitere Perversion aus.

Mögen alle Wesen glücklich sein.

Die Drohnen treffen die Entscheidung nicht selbst,

sie werden ferngeführt, ein Team von drei Leuten sitzt in einem Container am Boden und wertet die Daten aus. In diesem Container wird derzeit der Einsatz der Bewaffnung weiterhin durch einen Menschen entschieden.
Das kann sich eigentlich auch nicht von heute auf morgen ändern, jeder Pilot muss sich seine Feuerfreigabe holen, selbst der Drohnensteuer, der der Drohne sozusagen die Freigabe gibt, braucht selbst erst noch eine Freigabe.
Ob sich das in naher Zukunft ändern wird? Ich bezweifle das. Beim Militär ist man kein Fan von vollständig losgelöst operierenden Einheiten. Genauso schlimm ist es doch aber heute schon, wenn sie eine völlig unintelligente Bombe in einen Haufen Leute werfen bzw. einen Luftschlag anfordern, bei dem über 100 Menschen getötet werden. Diese Bomben gehen auch nicht Schritt für Schritt die 100 Gesichter durch und denken über moralische Werte und den Wert des Lebens nach. Also ist hier doch schon längst der Punkt erreicht, wo es in meinen Augen gar nicht mehr schlimmer werden kann. Die Anzahl der zivilen Opfer in den laufenden Kriegen übersteigt die Zahl der getöten Soldaten um Größenordnungen! Das 10-fache? 20-fache? 50-fache? Es ist schon vermessen, industriell interessante Entwicklungsprojekte mit Drohnen zu begründen mit der vermeintlich rücksichtsloseren Vorgehensweise des Gegners. Es gibt auch Kriege, die man selbst mit der übernächsten Drohnengeneration nicht gewinnen können wird, aber hier mache ich mal einen Punkt.