Der 18. März 2018 – er wird in die Geschichte eingehen. Als der tragische Tag, an dem zum ersten Mal eine Fußgängerin im Straßenverkehr durch ein selbstfahrendes Auto getötet wurde. Als an jenem Sonntagabend in Tempe in Arizona ein ferngesteuertes Uber-Testfahrzeug ungebremst in die 49-jährige Elaine Herzberg rast, die im Dunkeln ihr Fahrrad über eine breite Straße schiebt, sitzt am Steuer ein Mensch, der überwachen soll, ob die Technik funktioniert – und Sekunden vor dem Aufprall, wie eine Bordkamera beweist, nicht richtig hinsieht.

Ob eine Person am Steuer diesen konkreten Unfall hätte verhindern können, darüber streiten Experten jetzt. Und doch bleibt die Frage: Sind Mensch und Maschine ein gutes Team? Schauen wir hin, hören wir noch zu, fühlen wir uns verantwortlich in einer Welt, in der uns intelligente Systeme das Denken und Handeln abnehmen?
Das haben wir Klaus Bengler gefragt. Am Lehrstuhl für Ergonomie der TU München erforscht er, wie Menschen auf die Automatisierung im Straßenverkehr reagieren.

ZEIT ONLINE:Uber, dessen Fahrzeug in den tödlichen Unfall verwickelt war, will Autos bauen, die eines Tages ohne Fahrer auskommen. Bis dahin sitzen Fahrerinnen oder Fahrer zur Sicherheit am Steuer: Sie sollen nur, wenn die Technik versagt, eingreifen. Und Unfälle verhindern. Aber klappt das? Nichts tun, sich gemütlich fahren lassen und, wenn's drauf ankommt, da sein?

Klaus Bengler: Leider klappt das nur unter bestimmten Bedingungen, wie wir aus Studien wissen. Unsere Wahrnehmung und Informationsverarbeitung ändert sich, sobald wir vom aktiv Handelnden – also etwa dem Autofahrer – zum Überwachenden werden. Wenn ich selber fahre, kann ich zum Beispiel viel schneller eine Notbremsung durchführen, als wenn ich nur zugeschaut habe und darauf reagiere, wenn das Auto mich auf ein Problem hinweist. In dem Moment muss kognitiv erst mein Programm für aktives Autofahren wieder aktiviert werden. Das dauert länger als die berühmte Schrecksekunde.

ZEIT ONLINE: Woran liegt das?

Bengler: Daran, dass es Menschen von Natur aus schwerfällt, etwas dauerhaft zu überwachen – besonders, wenn es fast immer gut funktioniert. Es ist ganz normal, dass die Konzentration bei Monotonie nachlässt und das Durchhaltevermögen sinkt, wenn man sich ständig, ohne spürbaren Nutzen, auf die Überwachung konzentrieren soll. Das heißt: Automation macht uns in der Tendenz unaufmerksam. Besonders Untersuchungen aus der Luftfahrt mit Autopilotfunktionen oder aus der Prozessautomation in der Industrie haben das gezeigt.

ZEIT ONLINE: Und doch hat sich der Autopilot im Flugzeug durchgesetzt.

Bengler: Wir wissen zwar aus Experimenten mit Pilotinnen und Piloten einiges darüber, wie der Mensch auf automatisierte Systeme reagiert. Zum Beispiel ändert sich unser Blickverhalten und wir scannen die Umgebung weniger. Durch gezielt gestaltete Hinweise oder Reize wird unsere Aufmerksamkeit aber wieder angeregt. Außerdem müssen Menschen lernen, mit solchen Systemen umzugehen. Hier geht es darum, die grundlegende Funktionalität zu erlernen, vor allem aber die Rollenverteilung zwischen Mensch und Maschine zu verstehen. 

ZEIT ONLINE: Wie viel von dem, was Sie aus der Luftfahrt wissen, kann man auf selbstfahrende Autos übertragen?

Bengler: In der Luftfahrt hat man in der Regel mehr Zeit zu reagieren. Autofahren ist dynamischer – dabei wechselt man schnell Spuren, bremst abrupt und reagiert auf die anderen Verkehrsteilnehmer. Im Flugzeug sind die Distanzen zwischen den Verkehrsteilnehmern viel größer und Pilotinnen oder Piloten haben mehr Zeit, die Kontrolle zu übernehmen. Außerdem kann jeder ein Auto nutzen, der einen Führerschein hat. Die Pilotenausbildung ist intensiv, die Absolventen werden regelmäßig weitergebildet und untersucht. Die Technik im Auto für den normalen Straßenverkehr muss dagegen wesentlich selbsterklärender sein. Die einzige grundlegende aber zunächst einzige Qualifikation ist schließlich der Führerschein.

ZEIT ONLINE: Und das heißt konkret für die Technik im Auto?

Bengler: Schon bei der Bedienung muss klar sein: Was kann dieses System? Und vor allem: Was kann es nicht? Welche Stufen von Automatisierung gibt es? Was ist überhaupt möglich? In der Öffentlichkeit herrscht häufig eine völlig falsche Vorstellung davon, was autonome Autos heute können. Tesla hat früh von einem Autopiloten gesprochen. In Analogie zur Luftfahrt entstand dadurch ein übertriebener Eindruck davon, was diese Systeme bisher leisten können. Zu wissen, womit man es zu tun hat, ist aber die erste wichtige Voraussetzung dafür, dass Autofahrer mit diesen Funktionen umgehen können.

"Acht Sekunden, um die Kontrolle zu bekommen"

ZEIT ONLINE: Womit haben wir es denn bisher zu tun?

Bengler: Die niedrigste Stufe der Automatisierung ist das manuelle Fahren, wo es kein System gibt, das uns dauerhaft unterstützt, außer vielleicht ABS oder so. Hierbei machen Fahrerinnen und Fahrer noch alles selber. Die nächste Stufe ist das assistierte Fahren: Das Auto hält dabei zum Beispiel automatisch den Abstand und warnt uns vielleicht, wenn wir von der Spur abweichen. Die Hände sind weiterhin am Lenkrad und der Fahrer kann Abstand und Geschwindigkeit frei verändern. 

ZEIT ONLINE: Wie ist es beim automatisierten Fahren?

Bengler: Hier kommen wir schon mehr in den Bereich Überwachung. Das Fahrzeug lenkt, beschleunigt und verzögert, auch ohne die Hände am Lenkrad. Wer am Steuer sitzt, muss immer darauf achten, ob gerade eine riskante Situation entsteht.

ZEIT ONLINE: Wobei Tesla, Google, Uber und andere ja vom autonomen Fahren träumen, bei dem der Fahrer Mails checken und Filme schauen kann.

Bengler: Ja, aber das gibt es so noch nicht. In so einem Szenario würde das Fahrzeug rechtzeitig einen Hinweis oder eine Warnung geben, wenn eine Situation die Fähigkeiten der Technik übersteigt. Dann müsste der Insasse sein Handy weglegen und zum Lenkrad greifen. Die Reaktionszeit wäre ziemlich lang. Studien haben gezeigt: Menschen brauchen bis zu acht Sekunden, um in so einer Situation die Kontrolle zu übernehmen und etwa ein Ausweichmanöver einzuleiten. Ob wir jemals autonome Systeme haben werden, in die kein Mensch mehr eingreifen muss oder darf, wo sie genutzt werden und wie sie sich verhalten müssen, sind wichtige Fragen.

ZEIT ONLINE: Könnten Autohersteller nicht eine Wachsamkeitskontrolle einführen, wie bei Lokführerinnen und Lokführern? Die müssen während der Fahrt wiederholt einen Schalter betätigen, damit der Zug nicht stehen bleibt. Den berühmten Totmannknopf.

Bengler: Bisher gibt es viele Möglichkeiten, die zur Diskussion stehen. Kameras im Innenraum etwa, die das Blickverhalten und die Sitzposition verfolgen. Viele Systeme schlagen Alarm, wenn jemand die Hände nicht am Lenkrad hat. Manche Zulieferer sagen, man könne über die Innenraumsensorik auch verfolgen, ob jemand aufmerksam auf die Straße schaut. Und beim Vergleich mit der Schiene gilt wieder dasselbe wie für die Luftfahrt: Menschen, die Loks führen, werden regelmäßig geschult. Autofahrerinnen und Autofahrer nicht. Und würde das akzeptiert werden, wenn man immer wieder einen Knopf drücken müsste?

ZEIT ONLINE: Sie meinen also, nicht nur technisch muss noch viel passieren, sondern auch in den Köpfen der Fahrer?

Bengler: Definitiv. Jedem, der solche Systeme nutzt, muss klar sein: Die Überwachung und die volle Verantwortung liegt bei ihm. Nur weil eine Technik funktioniert, heißt das nicht, dass der Mensch abschalten darf. Die Verführung scheint es schon zu geben. Autofahrer brauchen Zeit, um sich an Veränderungen im Fahrverhalten anzupassen. Das sieht man auch beim Telefonieren am Steuer. Mittlerweile können und dürfen wir mit Freisprechanlagen telefonieren, aber ohne das Handy anzufassen und ohne den Blick von der Straße abzuwenden. Bis heute ist das nicht in den Köpfen aller Fahrer angekommen. Ein simples Beispiel, das zeigt, dass der Mensch Zeit braucht, sich an neue Technik zu gewöhnen, klare Regeln dabei helfen und sehr gute technische Lösungen notwendig sind. Ähnliches gilt für die jetzt schon verfügbaren Fahrerassistenzsysteme.