Därför ska du satsa på en feministisk chatbot

Att använda en chatbot blir ett allt vanligare sätt för företag att interagera med sina kunder. I stället för att kunderna måste bläddra igenom webbsidor med frågor och svar kan de prata med en chatbot, likt exempelvis Autodesks Virtual Agent eller Domino’s pizzas beställnings-bot Dom, som kan svara på enkla frågor eller utföra lättare uppgifter. Att få hjälp av en chatbot i stället för att vänta i en telefonkö för att få tala med en person kan vara mer effektivt för kunden. Det kan också vara en möjlighet för kundtjänsten att istället kunna ta hand om de kunder som har mer komplexa frågor.

Tips: Här är eventet alla vill delta på i höst

I allmänhet är chatbotar av det här slaget utformade för att vara vänliga, människolika och angenäma att ha att göra med. Till skillnad från de två exemplen jag nämnde ovan får chatbotar ibland mänskliga namn och programmeras så bra att de flesta kunder inte förstår att de faktiskt pratar med en robot. Att göra chatbotarna ”mänskliga” är vanligt idag och det är även ett bekymmer.

Förstärker könsstereotyper

För det första utformas många chatbotar så att de är man eller kvinna och vanligtvis på ett sätt som förstärker könsstereotyper. Exempelvis är personliga röstassistenter som Siri och Cortana kvinnor, vilket förstärker bilden av att kvinnans roll är att hjälpa och tjäna andra. Det här är något som jag såg i mitt forskningsarbete 2017 och det har nyligen tagits upp i en rapport från Unesco. Chatbotar som hjälper till med analyser och ”allvarliga” saker som finansiella tjänster eller juridisk rådgivning är däremot ofta utformade som män.

Chatbotar av den här typen pratar med tusentals och åter tusentals personer varje dag, vilket ger dem en mycket större räckvidd än vad en enskild medarbetare vid en kundtjänst någonsin kan drömma om. När personlighet hos och utformning av chatboten bygger på stereotyper förstärker botarna dessa på mikronivå i varenda konversation som de har.

För det andra, hur chatbotar designas speglar i stor utsträckning de värderingar och den etik som finns hos det företag som bygger dem. Om ditt företags chatbot förstärker en stereotyp, är det en stereotyp som du vill att ert varumärke ska förknippas med?

Läs också: Sju nya stjärnor i programmet till Webbdagarna Göteborg 2019

Om företagets chatbot har designats så att användarna ska tro att den är en verklig person, fundera över vad poängen är med det. Varför ska era kunder luras att tro att de pratar med en människa, när de inte gör det? Vi delger andra information på många olika sätt, beroende på vem vi pratar med, särskilt när det handlar om att välja mellan en maskin och en människa.

Även om tekniken bakom chatbotar går framåt är de fortfarande ganska korkade. De kan inte alltid förstå olika nyanser eller slanguttryck i talet eller ta hänsyn till den speciella kontext som en kund befinner sig i. Det kan bli ett problem om dina kunder tror att de pratar med någon som faktiskt klarar av dessa saker.

Dessutom kan det bli ganska obehagliga situationer, något som visades i demon av Google Duplex 2018.

Feminist Chatbot Design

Tekniken bakom chatbotar är imponerande. Natural language processing och maskininlärning – det är riktigt bra saker. Samtidigt fungerar chatbotar som ett lager mellan den här tekniken och oss, vi människor. Det lagrets utformning är något riktigt kraftfullt och det är viktigt att kritiskt överväga de designval vi gör.

Det är anledningen till att jag har utvecklat Feminist Chatbot Design Process, FCDP, som har som mål att stötta dem som designar och utvecklar chatbotar och uppmuntra dem att tänka noggrant på vilken effekt deras design kan få.

FCDP hjälper inte bara till att hitta fördomar som smyger sig in i utformningen av chatbotar, processen uppmanar också till att bli mer innovativ och mer kreativ. Den här tekniken är verkligen spännande och vi ska inte låta gamla stereotyper hindra den från att utvecklas.

Skribent: Josie Young – Feministisk AI-researcher & TEDx-talare. Josie är en av 40 fantastiska talare på Webbdagarna Göteborg 25-26 september. Kolla in hela programmet och säkra din plats innan vi höjer priset.