Gentechnik, Atombombe und künstliche Intelligenz: Wer ist schuld, wenn Forschung der Menschheit schadet? Ein Gespräch mit Armin Grunwald, Philosoph und Physiker

In jeder Ausgabe trifft ZEIT CAMPUS einen Wissenschaftler zur Sprechstunde. Dieses Mal: Armin Grunwald, 58, Professor für Technikphilosophie und Technikfolgenabschätzung an der Uni Karlsruhe. Er denkt nicht nur über Designerbabys nach, sondern auch über Algorithmen, Roboter und künstliche Intelligenz: Mehr dazu in seinem Buch "Der unterlegene Mensch".

Armin Grunwald © privat

Ende 2018 verkündete der Genforscher He Jiankui auf YouTube, dass ihm ein einzigartiges Experiment geglückt sei: Er habe das Erbgut zweier Babys, Lulu und Nana, so umgebaut, dass sie sich nicht mit HIV infizieren können. Viele Wissenschaftler reagierten entsetzt. Der Vorsitzende des Deutschen Ethikrates, Peter Dabrock, sprach von einem "Super-GAU". Auch He Jiankuis Arbeitgeber, eine Uni in der Stadt Shenzhen in China, schrieb, man sei "zutiefst schockiert". Warum eigentlich? Einer, der das erklären kann, ist der Physiker und Philosoph Armin Grunwald. Am Karlsruher Institut für Technologie erforscht er Technikfolgen und die Verantwortung der Wissenschaft. Zu diesen Themen berät Armin Grunwald auch die Bundesregierung.

ZEIT Campus: Herr Grunwald, muss uns die Geburt von Lulu und Nana Sorgen machen?

Armin Grunwald: Ich bin zunächst mal skeptisch, ob das Ganze überhaupt stimmt. In den letzten Jahrzehnten hat es einige Falschmeldungen zu Gen-Experimenten gegeben, und es gibt noch keinen unabhängigen Forschungsbericht über den Fall in Shenzhen.

ZEIT Campus: Warum regen sich dann so viele Wissenschaftler darüber auf?

Grunwald: Bei dem Skandal geht es um die Frage: Inwieweit darf ein Mensch andere Menschen kontrollieren? Wenn man Gene beliebig ausschalten kann, kann man Menschen designen. Das bedeutet eine fundamentale Fremdbestimmung. Die Babys konnten ja nicht zustimmen, was vor der Geburt mit ihnen gemacht wurde. Zu einem gewissen Grad ist jeder Mensch fremdbestimmt, etwa durch die Erziehung. Aber daran lässt sich nachträglich etwas verändern, zur Not mit einer Therapie. Wenn ein Designer das Genom umprogrammiert, kommt man da nicht raus.

Dieser Text stammt aus dem ZEIT Campus Magazin 2/19. Das aktuelle Heft können Sie am Kiosk oder hier erwerben.

ZEIT Campus: Aber es klingt doch erst mal ziemlich gut, dass sich die Babys nicht mit HIV anstecken können.

Grunwald: Schon. Doch noch ist nicht sicher, ob der Rezeptor, der entfernt wurde, nicht eine wichtige Funktion hatte, von der wir noch nichts wissen. Die Methode ist nicht komplett ausgereift. Der Eingriff könnte gesundheitliche Folgen für die Kinder haben, vielleicht auch für ihre Nachfahren. Dieses Risiko zu ignorieren war verantwortungslos.

ZEIT Campus: Der Genforscher He Jiankui profitierte bei seinem Experiment von jahrzehntelangen Forschungen, an denen viele andere Wissenschaftler beteiligt waren. Sind die alle mitverantwortlich, wenn jetzt Designerbabys entstehen?

Grunwald: Bei Forschungsthemen, an denen eine ganze Community arbeitet, kann man tatsächlich oft nicht genau zuordnen, wer die Verantwortung für negative Forschungsfolgen trägt. Der Philosoph Hans Lenk sprach von "Verantwortungsverdünnung", wenn Verantwortung auf immer mehr Leute verteilt wird. Der Einzelne kann sich dann verstecken. In diesem speziellen Fall sehe ich die Verantwortung aber beim Individuum. Nicht mal die Universität des Wissenschaftlers hatte dem Experiment zugestimmt. Hier trägt der Genetiker eine ethische und möglicherweise sogar strafrechtliche Verantwortung.

ZEIT Campus: Nach He Jiankuis Experiment gab es Dutzende Stellungnahmen anderer Wissenschaftler. Als im Zweiten Weltkrieg mehrere Länder Atombomben bauten, empörten sich nur wenige Forscher. Gab es damals weniger Tabus?

Grunwald: Kann man so sagen. Die Frage "Dürfen wir das?" kam erst mit der Atombombe auf. Die Forscher hatten eine Waffe entwickelt, mit der man die Menschheit auslöschen kann – das konnte man nicht ignorieren, das ging alle Menschen an.

ZEIT Campus: Und erst nach den Atombombenabwürfen wurde über die Verantwortung der Wissenschaft gesprochen?

Grunwald: Ich mag die Bezeichnung "Verantwortung der Wissenschaft" nicht. Sie ist eine grobe Vereinfachung. Man muss immer auf den Einzelfall schauen. Als die Amerikaner die japanischen Städte Hiroshima und Nagasaki in Trümmer legten, soll sich der Chemiker Otto Hahn mit Selbstmordgedanken geplagt haben. Hahn hatte mit Uran experimentiert und dabei die Kernspaltung entdeckt. Zufällig! Viele würden ihm wahrscheinlich Verantwortung zuschreiben. Er selbst tat das anscheinend auch. Aber ich denke, aus einem Zufallsfund kann man keine Verantwortung ableiten.

ZEIT Campus: Der Friedensforscher Carl Friedrich von Weizsäcker unterschied die Entdecker von den Erfindern. Demnach tragen Entdecker wie Hahn keine Verantwortung für das, was Erfinder später mit ihren Entdeckungen machen. Stimmen Sie zu?

Grunwald: In der Grundlagenforschung ist oft nicht abschätzbar, wozu sie später genutzt werden könnte. Wenn ein Entdecker heute aber schon vermuten kann, dass seine Forschung missbraucht werden könnte, hat er aus meiner Sicht die Verantwortung, sich an eine Ethikkommission zu wenden oder die Öffentlichkeit zu warnen.

"Beim Thema Digitalisierung verpuffen Skandale regelmäßig"

Hot! Der Illustrator Beni Bischof hat sich genmanipulierte Tiere ausgedacht. © Illustration: Beni Bischof

ZEIT Campus: Erst Jahrzehnte nachdem der Verbrennungsmotor erfunden wurde, zeigte sich, wie sehr er Klima und Menschheit schadet. Wer trägt die Verantwortung?

Grunwald: Alle. Und gleichzeitig niemand. Ich muss da den Philosophen Hans Jonas zitieren, er bezeichnete solche Fälle als Forschung mit schleichenden, nicht intendierten Nebenfolgen. Der Klimawandel ist keine Folge von Forschung, die missbraucht wurde. Eher im Gegenteil: Er passiert, weil Millionen Motoren und Kraftwerke jeden Tag genau so funktionieren, wie sie sollen. Nur, dass sie dabei dummerweise den Treibhauseffekt erzeugen. Bei Innovationen, die gut gemeint sind, aber fatale Folgen haben, stößt die Ethik an ihre Grenzen.

ZEIT Campus: Trotz des Klimawandels laufen die Motoren weiter. Reagieren wir immer erst, wenn es schon zu spät ist?

Grunwald: Das kommt darauf an. Die Geschichte zeigt, dass von der Politik oft erst reguliert wird, wenn etwas Schlimmes passiert. Ein Beispiel ist der Atomausstieg nach dem Unglück in Fukushima. Es gibt aber auch Fälle, in denen nicht einmal Katastrophen etwas verändern. Im letzten Jahr wurde etwa bekannt, dass sich die Firma Cambridge Analytica durch mangelnden Datenschutz bei Facebook Daten von Millionen Nutzern beschaffen konnte. Die Firma ging nach der Enthüllung pleite, aber Facebook hat kaum Nutzer verloren. Beim Thema Digitalisierung verpuffen Skandale regelmäßig.

ZEIT Campus: Woran liegt das?

Grunwald: An der Bequemlichkeit der Nutzer und an mangelnden Alternativen. Kaum eine Suchmaschine kann mit Google konkurrieren, kaum ein soziales Netzwerk mit Facebook. Die Tendenz zu solchen Monopolen ist in der Digitalisierung angelegt. Wer mehr Daten hat, wird besser, kriegt mehr Kunden und dadurch wieder mehr Daten. Unternehmen wie Google und Facebook werden also immer mächtiger. Das macht mir Sorgen. Aber immerhin kommen langsam einigen Menschen Bedenken, wohin die Digitalisierung führen soll. Etwa, wenn sie von Szenarien hören, dass Roboter in Zukunft ihre Jobs übernehmen könnten. Dadurch entwickeln sich die Ethik und der Wille zu politischer Gestaltung weiter.

ZEIT Campus: Bei der Entwicklung von künstlicher Intelligenz oder in der Genforschung will jeder der Schnellste sein. Befeuert das verantwortungslose Forschung?

Grunwald: Ja, ich sehe leider eine Tendenz dazu. In der Regel geht es um Fragen wie: "Wer kriegt den Nobelpreis? Wer veröffentlicht in den wichtigen Fachmagazinen?" Dabei ist das noch gar nicht das große Problem. In den letzten zwanzig Jahren hat sich der Druck in der Forschung verschärft, besonders durch die Globalisierung. Wer nicht schnell genug ist, kann keine Karriere machen und fliegt raus. Das begünstigt Ethik-Dumping. Einige Forscher gehen extra in Länder, in denen die niedrigsten ethischen und politischen Standards herrschen, um schneller voranzukommen. In Südamerika sind beispielsweise die Auflagen für Tierversuche niedriger, das macht diese Länder für manche Forscher besonders attraktiv.

ZEIT Campus: Welche Rolle spielt dabei das Streben nach Profit?

Grunwald: Es ist nicht nur schlecht, denn es treibt die Kreativität an und führt dazu, dass gute Erfindungen, etwa Medikamente, schneller verfügbar sind. Aber die Konkurrenz führt auch dazu, dass Dinge zu schnell auf den Markt kommen. Ich fürchte zum Beispiel, dass der Druck auf die Entwickler autonomer Autos so groß werden könnte, dass sie Modelle rausbringen, die nicht ausreichend getestet worden sind. Wenn man den Test der Realwelt überlässt, ist die Grenze der Verantwortung überschritten.

ZEIT Campus: Wer hat Schuld, wenn ein selbstfahrendes Auto einen Unfall baut?

Grunwald: In der Diskussion um selbstfahrende Autos wird oft gesagt, die Entscheidung über Leben und Tod würde an die Technik abgegeben. Computer können aber keine Verantwortung tragen. Vermutlich wird es darauf hinauslaufen, dass der Autohalter Schadensersatz leisten muss, zum Beispiel wenn er nicht regelmäßig Updates runterlädt. Der Hersteller muss für einen Unfall nur geradestehen, wenn man ihm nachweisen kann, einen Fehler bei der Produktion gemacht zu haben. Wenn es weder ein fehlendes Update noch einen Fehler gibt, wird man niemanden verurteilen können.

ZEIT Campus: Konzerne wie Purdue Pharma vertreiben in den USA seit Jahrzehnten Opiate als Schmerzmittel gegen quasi alles. Laut US-Gesundheitsministerium sterben mehr als 130 Menschen am Tag an den Folgen von Opiat-Missbrauch. Wissenschaftler warnten, trotzdem ging das Geschäft der Pharmakonzerne weiter. Hat es Wissenschaftsethik gegen wirtschaftliche Interessen besonders schwer?

Grunwald: Dafür gibt es viele Beispiele, ja. Manche Unternehmen geben zum Beispiel Studien in Auftrag, die die Ergebnisse unabhängiger Studien scheinbar widerlegen. Die Forschung der Tabakindustrie zeigte beispielsweise, dass Rauchen angeblich gar nicht ungesund sei. Manchmal verschweigen Unternehmen auch Forschungsergebnisse, die ihnen nicht passen: Asbesthersteller wussten jahrelang, dass die Fasern krebserregend sind. In beiden Fällen kam es erst spät zu wirksamen Regularien, die Menschen schützen.

ZEIT Campus: An deutschen Unis wird immer mehr Forschung von Unternehmen finanziert. In den letzten zwanzig Jahren hat sich die Summe verdreifacht, sagt das Statistische Bundesamt. Ein Problem?

Grunwald: Ein ganz großer Teil dieser wirtschaftsgeförderten Forschung ist völlig unproblematisch. Wer an der Uni forscht, muss sich sowieso an Ethikstandards halten oder Experimente vorher von Ethikkommissionen absegnen lassen. Wichtig ist, dass Wissenschaftler transparent arbeiten. Sie müssen offenlegen, wer die Finanziers sind und wie die Rahmenbedingungen aussehen. Leider kommt es vor, dass diese von den Geldgebern, ich sage mal, "nahegelegt" werden. Wenn unter dem Mantel der wissenschaftlichen Neutralität Forschungsergebnisse verkauft werden, die Unternehmen vor der Veröffentlichung absegnen wollen, ist das nicht okay.

ZEIT Campus: Gelten diese Ansprüche auch für Wissenschaftler in der Wirtschaft?

Grunwald: An der Uni genießen wir in Deutschland Forschungsfreiheit, das steht im Grundgesetz, Paragraf 5. In der Wirtschaft unterschreiben Wissenschaftler und Ingenieure hingegen einen Arbeitsvertrag, in dem steht, dass sie ihren Vorgesetzten gehorchen und nach außen verschwiegen sein müssen. Es gibt Mitarbeiter, die zu Whistleblowern wurden und deshalb ihren Job verloren. Dagegen kann kein Arbeitsgericht was tun, selbst wenn ein Verrat aus ethischer Perspektive gewünscht ist. Wer in Unternehmen ethisch korrekt handeln will, muss manchmal Opfer bringen.

ZEIT Campus: Ist das nicht eine Pflicht?

Grunwald: Nein, die Gesellschaft neigt zu Unrecht dazu, diesen Anspruch an Wissenschaftler zu stellen. Wir dürfen verlangen, dass sie über die ethische Dimension ihrer Arbeit nachdenken. Aber wir können nicht fordern, dass jeder für das Allgemeinwohl seine Existenz aufs Spiel setzt.