Siri er en kvinde, og Netflix ved, hvad du vil se i aften. De teknologier, vi bruger dagligt, tager valgene for os. Men hjælper eller hæmmer det os?

Skrevet af Nicoline Siegfredsen, Lab Agent, Grit by Innovation Lab

De teknologier, vi bruger hver dag, udvikles og forbedres konstant for at stille den krævende forbruger som dig og mig tilfredse. Særligt kunstig intelligens (også kendt som AI) er en frontløber på området. Her lærer algoritmer om dine forbrugsmønstre og husker, hvordan du “plejer at gøre” – og det har gjort hverdagen lettere for os, om vi vil det eller ej. Så simple ting som GPS-systemet på vores smartphone, der udregner den hurtigste rute, det perfekte forslag til en ny serie på Netflix, eller muligheden for at diktere mails og beskeder, mens vi er på farten, er alt sammen styret af AI-systemer, som mange af os bruger næsten dagligt. Flere intelligente systemer er faktisk blevet så gode, at vi helt kan glemme, at det er en maskine, der hjælper os.

For eksempel findes der et utal af chatbots på internettet, som yder så god en service, at der lige så vel kunne have været et menneske bag. Du husker måske Googles demonstration fra 2018, hvor deres Google Assistent ringede og bestilte tid ved en frisør, uden at medarbejderen i frisørsalonen opdagede, at det var en robot, hun snakkede med. Særligt stemmestyringssystemer som Google Assistent, Siri og mange andre lignende stemmestyrede services er efterhånden så nuancerede i deres interface, at de går hen og lyder næsten helt som os. Og det er ikke tilfældigt.

Har jeg set det før? Det kan jeg lide!

Der er god grund til, at virksomhederne har præ-definerede rammer for design, når de udvikler et produkt. Menneskets hjerne er nemlig alt for lille og langsom til at tage al den information ind, den møder. Derfor vil den naturligt forsøge at simplificere ting ved at kategorisere informationen og putte den i forskellige kasser, så der er mindre, den skal  bruge energi på at analysere og forstå – jo simplere, des bedre! Men selvom det er mageligt for hjernen med rammer og kasser, skaber det også nogle dilemmaer. For det første fordi vi bliver dovne. Hjernen er lynhurtig til at tilvænne sig det magelige og ubesværlige og belønner dig faktisk for at tage de valg, du allerede kender. Vi bruger og tyer ubevidst til vores minder og det genkendelige og bruger det som standarder, når vi møder noget, der er nyt. Og her hjælper tech-giganterne os, når de designer deres produkter. Ved at give deres produkter et menneskeligt navn, bruge bestemte farver, omtale det ud fra køn eller give det et ansigt eller et navn, hjælper os til at afkode informationen om produktet. Så behøver vi nemlig ikke analysere og gætte os frem til, hvad vi synes, det er og kan. Der er dog også problemer forbundet med disse præ-definerede karakteristika og valg, som tech-giganter tager for os. Vi kommer nemlig potentielt til at fravælge og glemme de andre muligheder, der også er.

Tag bare Netflix. Gennem genre-tags regner algoritmer ud, hvad du kan lide (eller kunne lide i sidste uge) og spammer dig herefter med lignende indhold på din profil. Brugte du for eksempel som mig den koldeste juli i 22 år på at binge den seneste sæson af den tyske hit-serie Dark, vil du måske kunne nikke genkendende til, at andre sci-fi-serier og krimi-programmer kort tid efter dukkede op i mailboksen eller på startsiden af platformen. Ved at gemme din seerhistorik og promote serier og film baseret på dine  tidligere kliks, risikerer du som forbruger at ende i det, man kalder en filterboble. Her bliver du kun præsenteret for information, som passer til din måde at tænke på – alt andet udelades. Så hvad nu hvis du både er til science fiction og reality? Og naturdokumentarer? Og madprogrammer? Det har Netflix forsøgt at imødekomme med et nyt tiltag på platformen, hvor du kan se, hvad der er populært hos andre. Det sker blandt andet gennem “Populært på Netflix”, “Top 10 i Danmark i dag” eller “Previews”. Sidstnævnte er nyeste skud på stammen, hvor de serier eller film, som flest personer har set, kommer frem. Dog kræver det med den nyeste algoritme fra januar kun, at brugerne har set minimum 2 minutter af den pågældende serie eller film, modsat det tidligere 70%. Ændringen betyder, at de mest populære ratings på Netflix boostes yderligere, men det giver ikke et nuanceret billede af, hvor populær serien eller filmen egentlig er. Den nye algoritme viser blot, hvor mange der har set 2 minutter – og måske er hoppet ud igen, fordi indholdet ikke var tilfredsstillende.

Og så er der igen din digitale assistent Siri (eller Alexa eller Google Assistent, hvis du som jeg ikke ejer en iPhone). De har alle en kvindestemme. Men vidste du, at du faktisk kan vælge en mandlig version af stemmerne? Mange er ikke klar over, at de har denne mulighed – eller har måske slet ikke skænket det en tanke, at muligheden foreligger. Men hvorfor er det overhovedet, at Apple og andre producenter af digitale assistenter har valgt en kvindelig stemme? Og hvorfor har de navne som Siri og Alexa? De sociale designs, producenten tillægger deres services og produkter allerede fra fabrikken, hjælper os ikke blot til at afkode meningen med produktet, men har en lige så stor betydning for, hvilken relation vi får til systemet, og hvordan vi vælger lignende produkter.

Assistenten vil være din ven

Jo mere du snakker med Siri eller din Google Home højtaler, des mere vil den lære og huske, hvordan du foretrækker at bruge den. Det intelligente system bag er kendt som conversational AI, der gør det muligt at få en personlig udgave af en digital assistent – og det har vist sig at være populært. Et år efter udgivelsen af Amazons digitale assistent, Alexa, havde over en halv million brugere sagt “I love you” til assistenten, hvoraf halvdelen også friede til den. De digitale assistenter er begyndt at vinde indpas hos os, og det samme er relationen til dem. Tag for eksempel japanske Gatebox, der fungerer ligesom Siri, men tager form af en kvindelig virtuel avatar, Azuma Hikara, “the comforting bride”. Avataren bag stemmen kan du selv designe, som du ønsker, og det er Vesten begyndt at se fidusen i. Til Consumer Electronics Show (CES) i januar i år, annoncerede amerikanske Keyshare Innovation Group et samarbejde med Gatebox om at udvikle virtuelle avatars som for eksempel servicemedarbejdere, der skal hjælpe dig med at tjekke ind på dit hotelværelse.

Også debatten om repræsentationen af køn er taget op for stemmestyringsassistenter. Den kønsløse stemme, Q, er udviklet med netop det formål at sætte fokus på det kønsbias, der findes for intelligente assistenter som Siri, Google Assistent og Alexa. Stemmen bag Q er udviklet ved at optage lyden af flere tusinde forskellige menneskers stemmer, for at finde et midterpunkt, der kan repræsentere personer, som ikke genkender sig selv i for eksempel Siris kvindelige stemme.

Vil vi have kasserne?

Jeg har for nyligt studeret, hvordan forskellige grupper af forbrugere opfatter og forstår stemmer i digitale assistenter. Her testede jeg, hvordan en kvindelig-, mandlig- og en kønsneutral stemme blev modtaget af brugeren. Resultaterne fra undersøgelserne viste, at stemmerne hver især vakte tanker i hovedet på de deltagende omkring kønnet på stemmen. For eksempel omtalte alle de deltagende i forsøget stemmerne som “han” eller “hun”, efter de havde hørt den pågældende stemme – og det var uden at stemmerne inden dette var blevet omtalt ud fra køn eller navn. Interessant var, at den kvindelige stemme i testen blev sammenlignet med den velkendte Siri, da “hun jo er en kvinde”. Her er det tydeligt, at Apple er lykkes med at skabe en kasse, som forbrugeren genkender og refererer til. Men en kasse som flere af de deltagende ikke havde minder eller eksisterende referencer omkring i forvejen, var den kønsneutrale stemme. Flere deltagere vaklede mellem kønnet på stemmen, og mente både den var mekanisk eller af homoseksuel orientering.

Resultaterne fra forskningen fortæller mig, at vi mennesker har en tendens til at kategorisere det, vi møder, ud fra de standarder vi kender. Delvist fordi hjernen naturligt ikke kan lade være med det, og delvist fordi vi bliver påvirket af de kulturelle normer og kasser, der tillægges services og produkter som netop Siri.

Sådan udskifter du skyklapperne med stjernekikkerten

Så hvad gør vi for at undgå at ligge under for de standarder, som de store tech-virksomheder skaber? Et sted at starte er at gøre op med det bias, som producenterne bag skaber. De personer, der programmerer algoritmerne bag de intelligente produkter, er nemlig sjældent repræsentative for den gængse forbruger. Ifølge en rapport af World Economic Forum udgør kvinder 22 % af “AI professionals” på LinkedIn og kun 10 % af Googles AI-medarbejdere. Men det er ikke kun køn, der er en skævvridning af blandt de personer, der skaber algoritmerne. Racer og socialklasser er ligeledes underrepræsenteret. Googler du for eksempel “CEO”, er langt størstedelen af billederne af hvide mænd over 40.

Desværre kræver det megen tid og ressourcer at ændre på tech-giganternes eksisterende rammer – og det er ikke mindst en kæmpe omkostning for virksomhederne selv. Ændringerne sker desværre ikke lige natten over på trods af eksempler som Q.

Så hvad kan du selv gøre?

Mit råd er: Vær nysgerrig. Udforsk de muligheder, du har. Gå på opdagelse i de services, du bruger, som Netflix, din GPS, din intelligente kaffemaskine eller din digitale assistent.

Du kan for eksempel starte med at prøve en af følgende simple forslag:

  • Ændr stemmen for Siri til en mand eller prøv en ny dialekt. Eller endnu bedre, søg efter alternativer som Q.
  • Game over, restart. Start på ny og gå på opdagelse i Netflix ved at skjule din aktivitet på platformen og se så, hvad der dukker op.
  • Lyt til en ny podcast-serie, som ikke ligger på top 10 listen

Gør du en eller flere af følgende vil du helt sikkert opdage, at der er et væld af muligheder skjult bag producentens foruddefinerede valg, de tager for dig. Udforsker du og prøver forskellige ting af, vil du som forbruger være med til at skabe bare en anelse mere forskellighed i de produkter og services, som vi alle sammen bruger hver dag. Og så vil du gøre det lettere for yderpoler og nye, innovative opfindelser at finde dagens lys – netop fordi du efterspørger det. Og hvem vil ikke gerne tage en lille del af æren for de teknologier, vi kommer til at bruge i fremtiden?

Kilde: Innovation Lab.