Yvonne Hofstetter, erfolgreiche Unternehmerin und Expertin für Künstliche Intelligenz, warnt vor einer heraufziehenden Herrschaft der Maschinen. "Wenn sich alles zum Schlechten entwickelt, dann werden intelligente Maschinen unsere Zukunft so sehr vorherbestimmen, dass der Mensch seine Entscheidungsfähigkeit verliert", sagt sie im Interview mit der ZEIT. Diese Systeme können "unsere Freiheit einschränken".  

Hofstetter entwickelt mit ihrem Unternehmen Teramark seit mehr als zehn Jahren intelligente Software-Systeme für die Rüstungsindustrie und für zivile Unternehmen. Sie kennt viele Anwendungsfälle für Künstliche Intelligenz und beschreibt die Entwicklung der Software als Evolution im Zeitraffer. Ihre Fähigkeiten nähmen rasant zu. In ihrem neuen Buch Sie wissen alles, das am 15. September erscheint, beschreibt sie anhand von praktischen Beispielen die Macht intelligenter IT-Systeme – und ihre bedrohlichen Schwächen.

Ein System gelte als intelligent, "wenn es ein Verhalten zeigt, das vom Programmierer ursprünglich nicht so vorgesehen wurde. Es trifft Entscheidungen, die man nicht in all ihren Abzweigungen und Konsequenzen durchdacht und festgelegt hat. Ich bin der Meinung, dass Systeme, die lernfähig sind und einen Plan, eine Strategie entwickeln können, als intelligent gelten müssen".

Solche IT-Systeme gäbe es bereits, sie seien etwa im Aufklärungsflugzeug Awacs im Einsatz und an den Finanzmärkten. Aktuell würden aber vor allem die großen Internetkonzerne in Künstliche-Intelligenz-Systeme investieren. Hofstetter sagt: "Google ist ein Musterbeispiel. Der Konzern hat durch Zukäufe viele Basistechnologien für intelligente und selbst lernende Systeme erworben: Lernverfahren, Roboter, Sensorik, selbst Drohnen und Satelliten. Zunächst ist das nicht mehr als Technologie. Doch daraus werden neue Produkte und Dienstleistungen mit viel Künstlicher Intelligenz entstehen, Maschinen, die selbstständig neue Informationen wie unsere Bewegungsprofile und Alltagsgewohnheiten zusammentragen und verarbeiten. Mit noch mehr Daten lernen sie, uns noch besser zu analysieren und aktiv zu beeinflussen."

Deutschland und Europa brauchen eine Aufsichtsbehörde

Hofstetter schätzt den Komfort, den diese Technik mit sich bringt, sagt aber: "Derartige Systeme sind ein Angriff auf die Autonomie des Menschen. Sie funktionieren nur auf der Basis unterbrechungsfreier Totalüberwachung."

Aus ihren Erfahrungen mit intelligenter Software zieht Hofstetter den Schluss: "Wir haben noch rund fünf Jahre Zeit, eine Balance zwischen den Internetunternehmen und den Verbrauchern herzustellen." Es sei grundsätzlich möglich, Künstliche-Intelligenz-Systeme so zu programmieren, dass sie keinen Schaden anrichten. "Aber dies geschieht in der Regel nur, wenn man politischen Einfluss auf die Programmierung hat. Die ganz großen Datenbestände und Technologien für die Auswertung dieser Daten liegen derzeit aber in ganz wenigen Händen, die kein Datenschützer beaufsichtigen kann." Deshalb ist die Unternehmerin überzeugt, dass Deutschland und Europa eine neue Aufsichtsbehörde gründen müssen. "Wir brauchen eine Treuhandstelle, eine Aufsicht für Algorithmen."