DSB's chatbot er en curlingmor, du kan slukke for

Siri, Alexa og damen i din GPS. Digitale assistenter har ofte en feminin identitet. Men det er farligt, at kvinder i tech reduceres til sex og service, siger ekspert i køn. Vi spurgte DSB, hvorfor chatbotten skulle være en kvinde.

|
15 juni 2018, 8:27am

Foto: DSB / grafisk arbejde af Jacob Ziegler

”Hej Silja, jeg er Leonora, hyggeligt at møde dig!” er den første besked jeg modtager fra DSB's chatbot. Chatbotten hedder Leonora og er en leopard med en rød blomst fastsat ved det ene øre, et rødt tørklæde bundet om halsen og en sort jakke. En avatar, der er svær at læse som andet end en hun-leopard.

Hun beder om min hjemmeadresse og får den.

”Skøøøønt! Jeg glæder mig til at lære dig lidt bedre at kende,” er næste besked fra Leonora, afsluttet med et emojikys.

Hvis du har en iPhone, hedder din digitale assistent Siri, gennem Amazon kan du købe assistenten Alexa, mens Microsofts personlige assistent hedder Cortana, opkaldt efter en storbarmet, hårdtslående, blå kvinde fra et computerspil. Damen i S-toget og standardindstillingen i din GPS er kvindestemmer.

Det er der både en grund til og en konsekvens af, mener Ditte Campion, censor på kønsstudier på KU, foredragsholder og forfatter til undervisningsbøger om køn og kønsteori.

”Den her tendens er et resultat og en reproduktion af en patriarkalsk struktur, hvor kvinden er den underordnede servicefunktion, man kan slukke for, når man ikke gider bruge hende mere,” siger hun. ”Man ser en markant tendens til, at det feminine bliver brugt kommercielt i udviklingen af teknologi, både med sexrobotter og virtuelle kærester. Det er helt tydeligt, at der er penge i en kvindelige karakter, der underordner sig.”

Det er tech-firmaet Botsupply, der har udviklet Leonora på baggrund af DSB's behov. Firmaet arbejder med at udvikle kunstig intelligens-løsninger og chatbots til virksomheder i hele landet. Simon Morel er partner i firmaet og fortæller om DSB’s chatbot:

”Leonora tager idéen om en curlingmor og gør den til en lidt karikeret persona. Hun er meget betænksom, uselvisk, positiv, og så er hun helt vild med motivational quotes. Hun kan også godt blive lidt passive agressive, hvis hun bliver presset, og er på en henkastet måde lidt en ’humble bragger’. Og så har hun naturligvis helt tjek på køreplanerne.”

Fra DSB forklarer underdirektør hos DSB-produkt, Aske Wieth-Knudsen, at udviklingen af Leonora er sket, fordi DSB's kunder i stigende grad kommunikerer med dem digitalt fremfor personligt. Faktisk klarer ni ud af ti DSB-kunder deres informationsbehov og køb digitalt.

"Det vigtigste er, at man føler, at man kan spørge Leonora om alt, og at den føles troværdig og tryg at kommunikere med,” siger Aske Wieth-Knudsen om Leonoras "personlighed".

Fordi det især er de yngre brugere, som DSB forsøger at nå med Leonora, har der været en del fokus på hendes sprogbrug, og at det skulle være friskt og vedkommende. Men det er noget af det, DSB løbende skal evaluere, da Leonora stadig kører i en testversion.

”Der har været et par eksempler på, at hun har givet nogle bemærkninger, som jeg synes har været lidt under bæltestedet. For eksempel noget i stil med, ’hvis du har lyst til at udnytte mig fuldt ud, kan jeg hjælpe med at planlægge din rejse’. Den slags, synes jeg, begynder at klinge lidt seksuelt. Derfor har vi fjernet den sprogbrug, for det kan godt blive for meget,” fortæller Aske Wieth-Knudsen.

Ditte Campion, censor på kønsstudier på KU, ser to tendenser, når det handler om kvindelige identiteter og teknologi: ”Enten de her enormt høflige underordnede servicefunktions-figurer eller enormt seksualiserede, som vi for eksempel ser dem i film og tv-serier, hvor de godt nok er super badass, men gerne er det på en afklædt sexet facon.”

Det er typisk den underordnede servicefunktionelle personlighed, som Ditte Campion ser gå igen i de digitale assistenter.

”Kvindelighed og det feminine er kulturelt og historisk knyttet til ydmyghed, omsorgsfuldhed, lydighed og gode kommunikationsevner. Det spiller helt givetvis en rolle i, at man finder det nyttigt at give digitale assistenter og chatbots en kvindelig identitet,” siger hun.

Hun mener, at curlingmor-identitet er et aktivt skridt væk fra det seksualiserede, men at det stadig er en karakter, der er til for subjektet.

”Hun eksisterer for at være overempatisk for brugeren, og det reproducerer kvinden som serviceorgan. Det er hende, der husker dig på ting, sætter din skjorteflip og ordner dit hår."

Simon Morel fra Botsupply forklarer, at de bruger køn som en måde at styre brugernes oplevelse af chatbotten. Fordi ligesom mange af os råber af vores computer, når den ikke gør, som vi vil have den til, så interagerer de fleste med chatbots, som om den var menneskelig, forklarer han.

”Mennesker projekterer følelser på ting uanset. Det er en vigtig grund til, at det giver mening at designe chatbots med bestemte attributter, men ligeså hvordan vi designer alting – det kunne lige så godt være en lampe eller et komfur. At give chatbotten et køn er bare en måde at prøve at styre den følelsesmæssige kontakt, som er der uanset, om vi designer det eller ej,” siger Simon Morel.

Han fortæller, at de også har udviklet chatbotter, hvor det gav mening at give dem en mere traditionelt maskulin personlighed.

”Det gjorde vi for eksempel med en chatbot til en ingeniør-kontekst, hvor chatbotten 95 procent af tiden kommunikerede med mænd. Det handler essentielt set om at udvikle noget, som skaber tillid i den konkrete kontekst,” siger han.

Ditte Campion mener, at vi bør være opmærksomme på, hvilke interaktioner vi designer i teknologien. Interaktionen har ikke kun betydning for vores forståelse af den konkrete teknologi, men får konsekvenser for vores interaktion med vores medmennesker, mener hun.

Det er med samme bevæggrund, at hun for eksempel er imod sexrobotter og den magt over en passiv kvinde, som interaktionen ligger op til.

”Flere undersøgelser viser, at der er en større tendens til, at man taler grimt til de kvindelige chatbots og digitale assistenter. Brugerne afreagerer på dem og behandler dem nedsættende. Det, tror jeg på, har betydning for den måde, man bagefter kommunikerer med andre mennesker,” siger hun.

Hun hører ofte folk argumentere for, at det vel er bedre, at man råber af sin Siri eller Leonora end af de levende mennesker omkring en. Men den køber hun ikke. Aggressioner er ikke noget, man får afløb for, aggressioner mobiliserer flere aggressioner, siger Ditte Campion.

Mest af alt forstår hun ikke, hvorfor disse teknologisk udviklede kunstig intelligenspersonligheder overhovedet skal have et køn. Alle muligheder er åbne for at gøre noget overraskende og nyt, så hvorfor reproducere ældgamle kønsmønstre?

”Vi står et sted, hvor alt er muligt. Hvorfor skal det overhovedet være mennesker? Hvorfor kommer der ikke en blæksprutte og hjælper mig, eller en regnorm eller en enhjørning? Hvorfor skal jeg have en curlingmor?” spørger Ditte Campion.

Leonora er dog som sagt en leopard. Med curlingmor-personlighed.

Læs mere om tech fra Broadly:

Mere VICE
VICE kanaler