Im Namen des Volkes: Das autonome Fahrzeug Robocar 4.1 wird der fahrlässigen Körperverletzung für schuldig befunden. Aufgrund eines fehlerhaften Karten-Updates seiner Navigationssoftware war es am 1. April 2036 in falscher Richtung in eine Einbahnstraße eingebogen, wodurch die Kollision mit einem entgegenkommenden Oldtimer nicht mehr vermieden werden konnte. Dessen menschlicher Fahrer wurde dabei verletzt. Dem Robocar 4.1 wird daher die Lizenz zur Personenbeförderung entzogen. Es wird ferner dazu verurteilt, künftig nur noch Abbruchmaterial auf der Baustelle des Berliner Flughafens zu transportieren.

Ein fiktiver Gerichtsprozess in der Zukunft. Absurd wirkt er schon deshalb, weil Roboter gar nicht vor ein Strafgericht gestellt werden können. Ihnen fehlen die dazu notwendigen menschlichen Eigenschaften: Wille. Bewusstsein. Ein Gefühl für Recht und Unrecht. Die Fähigkeit, Schuld auf sich zu laden.

Doch die Frage dahinter wird bald eine Antwort brauchen: Wer trägt die Verantwortung für Schäden, die Roboter anrichten? Statt um Bestrafung geht es eher um finanziellen Ausgleich, aber die Antwort wird drängender, je intelligenter die Maschinen werden, je selbstständiger sie handeln, je mehr es von ihnen gibt, vor allem aber: je schneller sie lernen. Wer lernt, der lernt womöglich auch etwas Falsches. Werden sich Ingenieure in Bezug auf Roboter eines Tages ähnliche Fragen stellen wie heute so manch entsetztes Elternpaar, das nicht verstehen kann, wieso ihr Nachwuchs trotz bester Erziehung auf die schiefe Bahn geraten konnte? Und welche Folgen hätte das?

Deutsche Unternehmen betrachten die unklare Haftungslage für künstliche Intelligenz und autonome Systeme schon heute als bedeutendes Hindernis für die Digitalisierung. Das hat eine Umfrage des Bundesverbands der Deutschen Industrie (BDI) ergeben. An diesem Donnerstag diskutieren die Industrielobbyisten des Verbands mit Juristen und Politikern, wie das Recht des analogen Zeitalters an die digitale Zukunft angepasst werden kann. "Im Kern geht es darum, wie unsere Gesellschaft die Risiken einer vielversprechenden neuen Technologie verteilen möchte", sagt Eric Hilgendorf, Leiter der Forschungsstelle RobotRecht an der Universität Würzburg. "Wie gehen wir mit einer Welt um, in der eines Tages autonom handelnde Maschinen sich auch in großer Zahl mitten unter uns befinden?" Die Grenze des geltenden Rechts, so erwartet der BDI, werde spätestens bei "totaler autonomer Steuerung erreicht sein, in der dem Menschen keinerlei Entscheidungshoheit und Eingriffsmöglichkeit mehr bleibt".

Schon mit vergleichsweise dummen Serienrobotern von heute geschehen Unfälle. Im vergangenen Sommer kam beispielsweise ein Mechaniker bei Wartungsarbeiten im VW-Werk im hessischen Baunatal durch einen Industrieroboter ums Leben. Die strengen Sicherheitsprotokolle hätten das eigentlich ausschließen müssen. Trotzdem setzte sich die mächtige Maschine plötzlich in Bewegung.

Dieser Artikel stammt aus der ZEIT Nr. 7 vom 11.2.2016.

Als Forscher die Daten der amerikanischen Gesundheitsbehörde FDA über mehr als 1,7 Millionen Operationen untersuchten, bei denen Chirurgieroboter zur Unterstützung der Ärzte eingesetzt wurden, fanden sie nicht nur heraus, dass 144 Patienten auf den OP-Tischen starben und knapp 1.400 verletzt wurden. Sie sahen auch, dass in gut 60 Prozent dieser Fälle Fehlfunktionen der Maschinen für die Verletzungen verantwortlich waren. Einen Vergleich zur Schadensquote rein menschlich durchgeführter Operationen geben die Daten leider nicht her.

Fest steht nur: Auch Maschinen machen Fehler. Und Roboter werden schnell eigenständig.

Da sind die kleinen runden Mähroboter, die im Sommer ganz allein die Vorstadtgärten in Form halten, nur der Anfang. Weiter geht es mit Lieferdrohnen, die Amazon demnächst in Großbritannien und den Niederlanden testet und die sich dank "eines hohen Automatisierungsgrads" und einer "fortgeschrittenen Erkennungs- und Ausweichtechnologie" weit außerhalb der Sichtweite von menschlichen Kontrolleuren bewegen. Die Universität Birmingham präsentierte 2014 mit Boris einen lernfähigen Roboter, der ihm zuvor völlig unbekannte Gegenstände aufnehmen kann. Die Google-Tochter Boston Dynamics entwickelt Roboter, die sich selbstständig durch unwegsames Gelände bewegen. Längst besitzen Volkswagen, Mercedes-Benz, BMW, Honda, Ford und Nissan die Erlaubnis, autonome Fahrzeuge auf öffentlichen Straßen in Kalifornien zu testen. Googles Flotte aus self-driving cars hat insgesamt bereits mehr als zwei Millionen Kilometer zurückgelegt.