ZEIT ONLINE: Manchmal macht Alexa bei diesem Prozess aber auch Fehler. Erst im vergangenen Monat hat ein Vorfall Schlagzeilen gemacht, bei dem das Gespräch eines Paares aus Portland, Oregon, unfreiwillig mitgeschnitten und an einen zufälligen Kontakt in ihrem Telefonbuch geschickt wurde. Das Paar hat davon nichts mitbekommen. Wie kann ich mich in meinem Wohnzimmer noch sicher fühlen in dem Wissen, dass so etwas jederzeit passieren kann?

Limp: In diesem Fall hat Alexa drei Mal nachgefragt, bevor sie den Ausschnitt gesendet hat. Bis die Nachricht gesendet wurde, ging das blaue Licht drei Mal an.

ZEIT ONLINE: Das Paar sagt, dass es kein Licht gesehen habe.

Limp: Zusätzlich fragt Alexa aber auch akustisch nach einer Bestätigung: "Ist es okay, wenn ich das sende?" In beiden Fällen muss Alexa Gesprächsausschnitte missverstanden und als Bestätigung fehlinterpretiert haben. Es war also kein Bug. Das System arbeitete so, wie es designt wurde.

ZEIT ONLINE: Das macht es nicht unbedingt besser.

Limp: Solche Vorfälle sind sehr ungünstig, aber auch sehr selten. Auch wir Menschen verstehen mal etwas falsch oder verwählen uns am Telefon. Natürlich müssen wir bei Amazon in Zukunft aber alle Schutzmechanismen einsetzen, damit solche Dinge nicht mehr passieren. Zugleich müssen wir transparent kommunizieren und unsere Kunden aufklären.

ZEIT ONLINE: Im April 2018 hat Amazon zum dritten Mal den deutschen Negativpreis Big Brother Award gewonnen – dieses Mal in der Kategorie "Verbraucherschutz" für Amazon Alexa. Was wollen Sie unternehmen, damit der smarte Lautsprecher in Deutschland das Image einer Abhörschnittstelle, die sich als Wecker tarnt, verliert?

Limp: Jeder Kunde ist besorgt, wenn es um seine Daten geht. Das ist eine der wichtigsten Fragen unserer Zeit. Das Kundenvertrauen ist entscheidend für unseren Erfolg. Deshalb speichern wir Kundendaten von Alexa am sichersten Ort bei Amazon –  dort, wo auch Ihre Kreditkartendaten landen. Wir würden diese Daten nie verkaufen. Denn: Wenn wir implizit oder explizit etwas tun würden, das dieses Vertrauen verletzt, wäre das furchtbar für unser Geschäft.

ZEIT ONLINE: Alexa funktioniert nur mit Hilfe künstlicher Intelligenz. Ihre Vorstellung ist, dass das System irgendwann so arbeitet wie der Computer aus Star Trek. Dazu muss es die Antwort auf alle Fragen der Welt kennen. Was muss Alexa noch lernen, um dieses Ziel zu erreichen?

Limp: Oh, da haben wir noch einen langen Weg vor uns. Aber die gute Nachricht lautet: Weil Alexa in der Cloud ist, können wir sie jeden Tag optimieren. Was sie gestern noch nicht wusste, wird sie morgen vielleicht schon wissen. Sie lernt ständig dazu.

ZEIT ONLINE: Im Vergleich zu uns Menschen sind Sprachassistenten wie Alexa trotzdem noch sehr einfältig. Sie reagieren auf unsere Befehle meist nur, wenn wir auswendig gelernte Phrasen nutzen. Warum fällt es Maschinen so schwer, unsere Stimme und unsere Wünsche zu verstehen?

Limp: Künstliche Intelligenz funktioniert immer noch sehr aktionsgetrieben. Man stellt eine Frage – und bekommt eine Antwort darauf. Die Art und Weise, wie Menschen sich unterhalten, ist viel dialogorientierter. Wir verstehen Betonungen und  Zusammenhänge, können uns daran erinnern, was wir vor ein paar Minuten besprochen haben. Computer müssen erst lernen, wie man Gespräche führt. Um Kontexte zu verstehen und sich an frühere Fragen zu erinnern, muss künstliche Intelligenz erst eine Art Kurzzeitgedächtnis erhalten.