KI kann jetzt Menschen imitieren – mit diesem Trick entlarvt ihr sie sofort

Google Duplex ist eine neue sprechende KI, die für ihren Nutzer Termine ausmachen und andere Assistenzaufgaben übernehmen kann. Das Ergebnis klingt überraschend menschlich – die Stimme hält beim Sprechen inne, summt und stammelt ein wenig. Nach besorgten Medienberichten hat Google nun zugesichert, dass der Sprachassistent sich am Telefon als Maschine zu erkennen geben wird. Dennoch wird Google Duplex sicherlich nicht die letzte Sprach-KI bleiben, die überzeugend echt klingt. Wie können wir also in Zukunft sicher wissen, mit wem – oder mit was – wir sprechen?

Google Duplex ist, genau wie die meisten anderen Sprach-KIs auf dem Markt, auf bestimmte Themengebiete beschränkt. Ein System, das Arzttermine vereinbaren soll, wird also spezifische Fragen problemlos verarbeiten können, beispielsweise: "Wie ist Ihr Name?" und: "Um wieviel Uhr ist der Termin?" In einem Blogpost von Google heißt es: "Duplex kann eine natürliche Unterhaltung nur dann führen, wenn es in diesem Themenbereich intensiv trainiert wurde. Allgemeine Gespräche kann Duplex nicht führen."

Wenn ihr also wissen wollt, ob ihr mit einer Maschine oder einem Menschen sprecht, geht das am schnellsten, wenn ihr eine Frage stellt, die nichts mit dem Thema zu tun hat. Diesen Tipp gab uns David Gunkel, Professor für Kommunikation an der Universität von Northern Illinois. Er meint, eine überraschende Frage würde Duplex so aus dem Konzept bringen, dass das System sich entweder als Maschine entlarven oder einen Menschen in die Leitung holen wird.

"Duplex kann natürlich klingende Gespräche über ein bestimmtes Thema, wie beispielsweise den Kundenservice eines Netzbetreibers, führen", sagte Gunkel. "Fragt man das System jedoch, ob es Orangensaft oder Hummer lieber mag oder was es von den angenehm warmen Temperaturen hält, wird es merkbare Schwierigkeiten bei der Beantwortung haben."

Somit könnte der bedeutungslose Smalltalk, den viele Menschen so hassen, einen sprechenden Computer sehr schnell enttarnen. Google zufolge wird ein menschlicher Mitarbeiter das Gespräch übernehmen, wenn die Interaktion aus dem Ruder läuft. Wenn ihr Google Duplex also beharrlich nach dem persönlichen Lieblingsessen fragt und das System keine Antwort darauf weiß, bekommt ihr voraussichtlich eine echte Person an die Strippe.

Auch auf Motherboard: Zu Gast im japanischen Hotel, das von Robotern geführt wird

Nachdem Google seinen neuen Assistenten präsentiert hat, zeigten sich viele KI-Forscherinnen und Verbraucher besorgt, da bei den Telefongesprächen ausführlich Daten erhoben werden können – und weil menschliche Ansprechpartner durch Maschinen ersetzt werden könnten. Schon heute sprechen wir mit Robotern am Telefon, etwa bei Service-Hotlines, und es gibt Hotlines, die Gespräche für die Qualitätskontrolle aufzeichnen.

Menschlich klingende Sprachassistenten sind in Gunkels Augen kein Gewinn für den Datenschutz. "Ab diesem Moment wird alles, was du der Person oder der KI sagst, aufgezeichnet, abgelegt und verwertet", sagte Gunkel. "Daran wird sich nichts ändern, wenn Duplex künftig das Gespräch führt."

Folgt Motherboard auf Facebook, Instagram, Snapchat und Twitter