Wie fühlt es sich an, den ganzen Tag von intelligenten Assistenten bemuttert zu werden? Unser Autor hat nachgeforscht, was mit der neuen Generation von Chatbots und digitalen Butlern auf uns zukommt.

Es ist sechs Uhr früh. Mein Smartphone auf dem Nachttisch weckt mich mit Musik, die von Sekunde zu Sekunde lauter wird. Heute ist ein besonderer Tag: Ich will mich von digitalen Assistenten durch den Alltag leiten lassen. Sie sollen mir Stress ersparen und Zeit schenken, versprechen die Digitalkonzerne, um ihre neuesten Helfer unters Volk zu bringen. Facebook ist ebenso dabei wie Apple und Google. Apps wie Moovit zur Orientierung oder Poncho fürs Wetter drängen auf den Markt. Hinzu kommen Hausgeräte- und Konsumgüterhersteller, die mich an die Hand nehmen wollen, sei es beim Zähneputzen oder beim Filmeschauen.

Mit den Fortschritten bei künstlicher Intelligenz werden die Angebote stetig aufgerüstet. Das Internet, so die Botschaft, werde zum unsichtbaren Geist, der einen durch den Tag leitet. Menschen sollen finden, ohne zu suchen. Wie aber sieht derzeit die Wirklichkeit aus? Das wollte ich ausprobieren.

Google Now etwa bekam Zugriff auf alle meine Smartphone-Daten – E-Mails, Kalender, Internetsuche, Ortungsdienste. Es merkt sich, nach welchen Restaurants ich google und von wem ich Mails erhalte. Eine kluge Zahnbürste überwacht mein Putzverhalten, meine Einkaufs-App soll mich durch den Super-markt lotsen und Apple TV vorausahnen, wann ich welche Filme anschauen möchte. Ganz wohl ist mir allerdings nicht dabei.

Wenn mich die Polizei eines Tages eines Verbrechens bezichtigt, rede ich mir die Situation schön, könnten meine neuen Butler wenigstens ein Alibi liefern. Ob die Selbstentblößung darüber hinaus auch ihren eigentlichen Zweck erfüllt, werde ich am Ende meines Tages wissen. Werde ich tatsächlich entspannt im Bett liegen – oder das Smartphone in die Ecke schmeißen?

Ich stehe auf und nehme Google Now mit in die Küche. Als ich Butter, Käse und Milch aus dem Kühlschrank hole, stelle ich fest, dass die Vorräte zur Neige gehen. Ich rufe „Okay Google“ in mein Android-Gerät (was ich nur außer Hörweite anderer Menschen tue) und sage: „Erinnere mich im Supermarkt daran, Butter zu kaufen!“ Nach dem Frühstück putze ich mir die Zähne mit einer futuristischen elektrischen Bürste von Oral B.

Sie zeigt mir mithilfe eines Timers und einer Gebissgrafik sogar an, wie lange ich wie die Zähne putzen soll – letzteres allerdings nur in der zugehörigen App. Außerdem soll sie erkennen, ob ich zu fest drücke und mein Zahnfleisch schädige. Damit sie Alarm schlägt, muss ich meine Zähne allerdings schon mit grober Gewalt traktieren. Ansonsten überprüft die Zahnbürste nicht, ob ich mich an die Vorgaben halte. Ich kann sie zwei bis drei Minuten in der Luft vibrieren lassen und bekomme trotzdem noch ein Lob für ausgiebige Zahnpflege.

So einfach lässt sich ein Badezimmerspiegel, den das DAI-Labor der TU Berlin entwickelt, nicht beschummeln. Ein durchschimmernder Bildschirm zeigt Kindern einen Punktestand für das Zähneputzen an. Wer regelmäßig bürstet, gewinnt gegen putzfaule Geschwister.

Solche spielerischen Elemente bieten inzwischen viele digitale Assistenten an, um die Menschheit zu einem gesünderen Leben zu motivieren: mehr Sport, vitaminreichere Ernährung, bessere Körperpflege. Entwickler nennen das Prinzip „Gamification“. Studien legen nahe, dass Erfolgserlebnisse das Belohnungssystem im Gehirn anregen. Was die Studien verschweigen: Gamification funktioniert in der Praxis ungefähr zwei- bis dreimal, danach geht sie den Kindern erfahrungsgemäß auf den Keks. Sie spielen lieber „Minecraft“ oder „Clash of Clans“ und putzen immer noch ungern die Zähne. Mir geht es nicht anders. Wer will sich schon ständig mit anderen messen? Wenigstens beim Zähneputzen – und bei der Morgentoilette überhaupt – sollte man auch mal Letzter sein dürfen, finde ich.

Das Leben ist auch so schon anstrengend genug. Ich schaue bei Google Now, wie sich mein Tag weiterhin gestalten wird. Zu meiner Überraschung stelle ich fest, dass der digitale Butler anhand meiner Aufenthaltsstatistik ungefragt mein Zuhause und meinen Arbeitsort festgelegt hat. Ein Abgleich von GPS und Uhrzeit haben ihm dafür ausgereicht. Nun meldet er mir, wie lange ich ins Büro brauche, unter Berücksichtigung von Wetter und der Verkehrslage. Fahre ich mit öffentlichen Verkehrsmitteln, nennt er Haltestellen und Abfahrtszeiten. Auf Wunsch weckt er mich sogar vor der Zielhaltestelle. Heute werde ich allerdings das Auto nehmen und laut Google Now zwölf Minuten für die Strecke brauchen. So sollte ich pünktlich zu meinem ersten Meeting im Büro sein.

Schön wär’s. Da Google Now die Parkplatzsuche nicht berücksichtigt hat, komme ich fünfzehn Minuten zu spät. Immerhin merkt sich Google Now, wo ich das Auto abgestellt habe. Dafür muss ich nichts tun, denn der Assistent stellt anhand meiner Bewegungen fest, wo ich das Auto verlassen habe. Bei so viel vorauseilender Intelligenz ist es seltsam, dass er beim Befehl „Zeige mir meine Termine nächste Woche“ komplett versagt und lediglich eine Websuche anstößt – die universale Übersprungshandlung aller digitalen Assistenten. Als erstes Suchergebnis erhalte ich: Tipps zur Sprachsteuerung unter Android. Sehr witzig! Google Now kann zwar neue Termine fast fehlerfrei erfassen und mich daran erinnern. Aber sie per Sprachsteuerung anzuzeigen klappt nicht.

„Du bist ein Idiot“, sage ich. Google Now lässt sich auf keine Diskussion ein und googelt lieber. Ich bin weit davon entfernt, die Maschine irgendwie menschlich wahrzunehmen. Trotzdem drängt sich ein seltsamer Gedanke auf: Darf ich sie beschimpfen? Je mehr wir künftig mit Assistenten kommunizieren, desto mehr werden uns auch Fragen der Etikette beschäftigen: Müssen Bots beispielsweise immer alles schlucken, oder dürfen sie auch zurückkeilen, wenn es gar zu wüst wird? Sollten sich Nutzer für eine erfolgreich erledigte Aufgabe bei einem Assistenten bedanken? Und sollte der das dann mit einem „keine Ursache“ oder „gern geschehen“ quittieren?

Google Now jedenfalls lässt meinen Vorwurf an sich abperlen. Die Entwickler scheinen unter allen Umständen vermeiden zu wollen, dass ich meinen Assistenten als irgendwie menschlich ansehe. Das gelingt ihnen ausgesprochen gut – wobei ich jedoch eine Ausnahme zu sein scheine. Die meisten Nutzer schreiben ihrem digitalen Gegenüber unbewusst menschliche Eigenschaften zu – selbst wenn ihnen völlig klar ist, dass sie mit einer Maschine sprechen.

Konzerne gehen mit diesem „Persona Design“ ganz unterschiedlich um. Amit Singhal, ehemals Chefingenieur bei Google, erzählte vor zwei Jahren, dass Witze und Small Talk nur soziale Interaktionen suggerieren würden, die heutige KI noch nicht habe – das würde falsche Erwartungen wecken. Umso größer ist dann der Ärger, wenn der Bot wieder mal nur Bahnhof versteht. Als in den 90er-Jahren die ersten textbasierten Chatbots aufkamen, wurden ihre Logfiles schnell zu Lexika zeitgenössischer Beschimpfungen und sexueller Anmache. Die Assistentin von Google hat daher nicht einmal einen eigenen Namen, und Facebooks Assistent „M“ kein Geschlecht. Es gibt ihn mit männlicher und weiblicher Stimme.

Ob es dabei bleibt? Ray Kurzweil, Leiter der technischen Entwicklung bei Google, hat im Mai angekündigt, einen humaneren Bot zu entwickeln. Nutzer sollen ihn mitgestalten können, er soll Texte von uns lesen und unsere Persönlichkeit adaptieren. Google würde damit in eine Richtung gehen, die Apple und Microsoft bereits eingeschlagen haben. Siri etwa kontert meinen Vorwurf „Du bist langweilig“ mit „Ich finde mich eigentlich ziemlich interessant“. Meine Frage nach ihrem Alter beantwortet sie kess mit: „Geht dich das was an?“ Sie versteht sich auch auf lockere Plaudereien oder Zungenbrecher. Microsoft hat seiner Assistentin Cortana sogar einen virtuellen Körper spendiert, entliehen aus einem Computerspiel.

Das Risiko liegt dann allerdings nicht nur in der Reaktion des Nutzers, sondern – ganz menschelnd – auch im Verhalten des Bots selbst. Was passiert, wenn man es mit einer realistischen Persona übertreibt, musste Microsoft kürzlich mit seiner Plaudermaschine „Tay“ erfahren. Sie sollte anhand anderer Tweets lernen, einen albernen Teenie zu mimen. Das funktionierte im Prinzip auch. Tay begann sogar, mit anderen Nutzern zu flirten. Allerdings schnappte sie auch rassistische und sexistische Sprüche auf und twitterte sie weiter. Das war Microsoft dann doch zu menschlich, und es zog Tay aus dem Verkehr.

Von Google Now höre ich erst wieder etwas, als ein Termin ansteht. Mein Smartphone vibriert, seine LEDs blinken blau. Ich zucke kurz zusammen. Es ist nicht so, dass ich früher viele Termine versäumt hätte, aber immerhin funktioniert die Erinnerung. Ich muss gleich zum Einwohnermeldeamt, um meinen Ausweis zu verlängern. In Zukunft soll mich nicht Google Now, sondern ein Behördenassistent darauf hinweisen, dass mein Personalausweis abläuft – und mit dem Einwohnermeldeamt gleich einen Termin aushandeln. „Wir entwickeln einen Behördenassistenten für Berlin“, sagt Michael Meder, Leiter des Anwendungszentrums Smart Government Services am DAI-Labor. „In der jetzigen Phase beantwortet er gezielt Fragen zu den Dienstleistungen der Behörden.“ Künftig sollen solche Assistenten zur Schnittstelle zwischen uns und einer Behörde werden, indem sie zum Beispiel für mich den optimalen Zeitpunkt ausrechnen, die Steuern zu überweisen.

Sahin Albayrak, Direktor des DAI-Labors, ist sich sicher, dass solche Dienste kommen. Der Trend gehe dahin, Daten aus verschiedenen Bereichen zusammenzuführen: Verwaltung, Finanzen, Shopping, Medizin, Arbeit, Freizeit. „Erst dann können Assistenten ihr Potenzial ausschöpfen“, sagt Albayrak. „Natürlich macht uns das anfälliger bei der Datensicherheit, aber auch dafür entwickeln wir bereits Systeme.“

Dass unsere Daten künftig sicherer seien, ist das Mantra vieler Entwickler. So wie Norbert Blüm immer sagte, die Rente sei sicher. Für den einzelnen Nutzer ist es allerdings heute schon kaum überschaubar, was die digitalen Butler auswerten, woher sie ihre Informationen bekommen und welche Wege die Daten nehmen. Es erfordert Mühe, den Spagat zwischen Datenschutz und Service bei meinen Assistenten zu meistern. Google Now etwa habe ich umfassenden Zugriff auf meine Daten erlaubt, er wird nun von sich aus aktiv. Nach Auswertung meiner E-Mails weist er mich darauf hin, dass ich später am Tag eine Online-Bestellung entgegennehmen soll. Gebeten habe ich den Assistenten nicht darum. Natürlich lässt sich der Datenzugriff auch einschränken. Google erlaubt mir etwa, „Web & App-Aktivitäten“ oder den „Standortverlauf“ zu deaktivieren. Doch was genau Google noch auswertet und was nicht, wird mir nicht klar. Microsoft gestattet deutlich detailliertere Einstellungen, welche Vorlieben Cortana auswerten darf. Aber auch hier bleibt letztlich nichts anderes übrig, als dem Konzern zu vertrauen.

Mit den digitalen Butlern wird es bald sein wie früher mit den menschlichen Dienern: Sie wissen mehr, als der Herrschaft lieb ist. Um etwa zu Mittag zu essen, soll es laut Microsoft künftig reichen, „Ich habe Hunger!“ zu sagen. Die entsprechenden Muster im Essverhalten verraten Cortana , dass der Nutzer dienstags sehr wahrscheinlich Pizza bevorzugt, und fragt ihn gleich, ob sie ihm die übliche bestellen oder einen Tisch reservieren soll. Nutzer müssten allerdings einwilligen, dass Cortana mit den entsprechenden Apps von Dienstleistern interagiert. Ähnlich soll „Allo“ von Google funktionieren: Wenn sich zwei Nutzer über einen Messaging-Dienst wie WhatsApp zum Abendessen verabreden, soll Allo einen Tisch reservieren. Außerdem soll der Butler anhand der bisherigen Konversationen eines Users lernen, etwa vorformulierte Geburtstagsgrüße anzubieten.

Ob die Technik funktioniert, lässt sich derzeit noch nicht testen, zumindest nicht mit Cortana und Allo. Aber es gibt bereits spezialisierte Bots, die sich zum Beispiel mit dem Facebook Messenger vernetzen und einen Vorgeschmack auf lustige bis lästige Fehlfunktionen liefern. Moovit etwa hat einen englischsprachigen Assistenten entwickelt, der den Nutzern die Route zu einem Ziel erklärt. Er schickt sie aber auch gern mal nach Oxford statt nach London oder versucht Londonern zu erklären, wie sie nach London kommen. Der Wetter-Chatbot Poncho hat im Gegensatz zum eher nüchternen Moovit-Bot Humor und sagt Sätze wie: „Sorry, habe gerade geschlafen, was wolltest du noch mal?“ Aber damit verdeckt er offenbar nur ähnliche Macken. Ein Blogger im gut vernetzten Brooklyn fragte ihn nach dem Wetter fürs Wochenende, doch weil Poncho ihn nicht orten konnte, wähnte er ihn auf einem Boot. Erst die konkrete Frage, wie das Wetter in Brooklyn sei, beantwortet Poncho: sieben Grad, klarer Himmel.

Schafft es Google Now also, mich auf dem Heimweg an die Butter aus dem Supermarkt zu erinnern? Ich rolle auf den Parkplatz – und tatsächlich: Die LED meines Smartphones leuchtet blau, und „Butter“ erscheint auf dem Bildschirm. Ich öffne meine Einkaufslisten-App und füge sie zu den anderen Produkten hinzu, die ich ebenfalls besorgen muss. Die App soll mich künftig ohne Umwege durch Supermärkte meiner Wahl führen oder Preisvergleiche zwischen verschiedenen Läden ermöglichen – braucht dafür jedoch intensive Betreuung: Im Geschäft muss ich alle Artikel, die ich in den Einkaufswagen lege, abhaken und den Preis eingeben, falls der sich seit dem letzten Einkauf geändert hat. Die App merkt sich die Reihenfolge, mit der mir die Waren im Supermarkt begegnen. Aber da mein Smartphone sich schnell abdunkelt, um Energie zu sparen, muss ich es bei jedem Produkt wieder entsperren. Dabei halte ich die anderen Einkäufer auf. Am Ende stelle ich konsterniert fest, dass ich mit einem handgeschriebenen Zettel schneller gewesen wäre.

Zu Hause esse ich, putze mir die Zähne – wobei ich keine Lust habe, die App von Oral B schon wieder zu nutzen – und rufe laut „Filmzeit“. Meine smarte Wohnung hat das Wohnzimmer vorgewärmt, dimmt das Licht und schaltet den Fernseher ein. „Zeige mir lustige Horrorfilme“, sage ich zu Siri auf Apple TV. „Aber nur die guten.“ Siri versteht unter „gut“ allerdings nur, was andere gut finden, da ich nicht auch noch bei der Abendunterhaltung ständig etwas bewerten möchte, nur damit Siri besser wird. Und so schaue ich mir 30 Minuten einen Film an, den ich weder gruselig noch lustig finde, und gehe erschöpft ins Bett.

Das Smartphone schalte ich aus, weil ich Angst habe, dass mich meine Assistenten nachts aufwecken und nach weiteren Daten fragen, um meinen nächsten Tag noch besser vorbereiten zu können. Ein paar der digitalen Butler mögen im Alltag helfen, aber keine ihrer jetzigen Funktionen hat mir Mühe erspart. Ich stelle eher fest, dass bei allen Erzählungen über die tollen neuen Helfer ein Aspekt zu kurz kommt: Wie lange es dauert, ihnen zu dienen, bevor sie mir dienen. Nein danke, denke ich. Einen weiteren Tag mit digitalen Helfern – das ist mir viel zu anstrengend. (Boris Hänßler, Gregor Honsel) / (bsc)

Dieser Text erschien in Technology Review.