Klarna har nyligen lanserat en AI-driven chatbot i samarbete med OpenAI, som företaget hävdar kan ersätta två tredjedelar av deras kundtjänstpositioner. Men är denna chatbot verkligen så revolutionerande och jobbersättande som Klarna påstår? Efter en närmare granskning verkar det som att den är välgjord, men kanske inte fullt så omvälvande som man vill få det att framstå.
Klarna har gått "all in" på artificiell intelligens, särskilt när det gäller samarbetet med OpenAI. Detta bekräftas av anställda utvecklare på företaget som berättar om ett tydligt mandat från ledningen att utnyttja AI i så stor utsträckning som möjligt för att driva effektivitet och produktförbättringar. Det är ingen hemlighet att Klarnas medgrundare och VD Sebastian Siemiatkowski är en stor beundrare av OpenAI.
För bara några veckor sedan rapporterade Fortune att Siemiatkowski hade kontaktat OpenAIs VD Sam Altman förra året med budskapet: "Jag vill att Klarna ska vara er favorit-försökskanin". Sedan dess har de två företagen arbetat tätt tillsammans.
Den 27 februari delade Klarna med sig av resultaten en månad efter att AI-assistenten lanserades globalt:
Dessa siffror får det onekligen att låta som en revolution inom kundtjänst. Men vad innebär det egentligen i praktiken?
För att få en bättre bild av hur chatboten faktiskt presterar testade jag den själv genom att registrera mig som användare. Upplevelsen är snabb och smidig - man får alltid ett svar inom 20 sekunder.
Chatboten verkar främst fungera genom att hitta relevanta delar av Klarnas dokumentation och dela dessa, ibland ordagrant och ibland i sammanfattad form. Det som gör den mer avancerad än en enkel sökfunktion är att den kan infoga orderspecifik kontext i svaren.
När man pratar om ett specifikt köp väver den smidigt in information om priset, säljaren och inköpsdatumet i sina svar. Den kan även prata om andra ämnen, som företagets historia, på ett naturligt sätt.
Samtidigt verkar chatboten vara noggrant designad för att inte gå in på detaljer som inte finns på en fördefinierad lista. Det går att kringgå dessa begränsningar, men det är inte helt enkelt.
När jag frågade chatboten om de vanligaste frågorna från kunder fick jag följande lista:
Bland mindre vanliga frågor nämndes tekniska problem där köp inte syns i Klarna-kontot, frågor om speciella betalningsupplägg och hjälp med ovanliga felmeddelanden.
En av de största riskerna med chatbotar är så kallad "hallucination", där AI:n hittar på information som inte stämmer. Klarna använder ChatGPT:s API:er under huven, vilket innebär att den genererar en lista med möjliga nästa ord baserat på inputen och väljer det mest sannolika. Detta kan leda till påhittad information om det inte kontrolleras.
Klarna har implementerat säkerhetsmekanismer för att motverka detta. Under 15 minuters testande lyckades jag inte få chatboten att hitta på felaktig information. Det verkar finnas ett verifieringssteg som jämför outputen mot en lista med tillåtna ämnen, och specifik policyinformation måste återges ordagrant.
När ett ämne utanför de tillåtna gränserna tas upp, kopplar chatboten över till en mänsklig agent:
[Bild som visar chatbotens överlämning till mänsklig agent]
En systemprompt är ett sätt att ge kontext och instruktioner innan man skickar användarinput till en AI. Dessa prompter specificerar saker som när konversationen ska avslutas, ämnen att undvika och andra övergripande instruktioner.
Genom lite skicklig sondering gick det att få fram delar av Klarnas systemprompt, särskilt gällande när boten ska sluta svara och koppla till en mänsklig agent. Det framkom att boten är instruerad att inte engagera sig i vissa ämnen, vilket förklarar varför den lämnar över till människor när man går utanför dess begränsade område.
En annan risk med chatbotar är så kallad "prompt injection". Simon Willison, skaparen av Django, har skrivit utförligt om detta problem. Det handlar om att användare kan hitta sätt att kringgå säkerhetsmekanismerna genom clever formulerade prompter.
Trots Klarnas noggranna design har användare redan lyckats få chatboten att producera output som egentligen inte ska vara möjlig, till exempel genom att få den att generera kod. Detta visar att även väl genomtänkta system kan vara sårbara för denna typ av manipulation.
En imponerande funktion hos Klarnas bot är dess förmåga att hålla samma konversation på omkring 30 olika språk. Testet visade att den kunde byta till ungerska (ett relativt ovanligt språk) med korrekt grammatik och relevanta svar. Detta öppnar upp för möjligheter att erbjuda support på nischspråk och mindre marknader som tidigare varit svåra att täcka.
Klarnas VD hävdar att chatboten utför arbetet motsvarande 700 kundtjänstrepresentanter. Men vid närmare granskning verkar det som att boten främst hanterar grundläggande frågor och överlämnar allt mer komplext till mänskliga agenter.
Detta tyder på att chatboten är ett bra exempel på hur man kan eliminera en stor del av "L1-supporten" - den första kontaktpunkten för användare som söker teknisk support och hanterar enkla frågor. Nivå 2 och 3 i supporten hanteras fortfarande av utbildad personal.
Klarnas bot verkar vara särskilt effektiv på att hantera ofta återkommande frågor med standardiserade svar. Den fungerar som en ny "första försvarslinje", vilket innebär att Klarna behöver färre och mindre utbildade L1-supportmedarbetare. Detta är varningen i VD:ns budskap.
Klarnas AI-chatbot är onekligen välbyggd och troligen en av de mest omfattande integrationerna i sin skala just nu. Men att automatisera L1-support är i sig inget nytt eller revolutionerande.
Automatiserade telefonsystem som ber användare "tryck 1 för detta, 2 för det" har länge varit ett sätt att automatisera L1-support. Redan 2008 automatiserade Citibank 95% av sina telefonsupportärenden och stängde ett callcenter med 7000 anställda i Mexiko.
Den stora skillnaden är kanske att Klarna öppet pratar om och marknadsför sin AI-lösning, medan företag tidigare ofta genomförde sådana förändringar i det tysta.
En viktig fråga att ställa sig är om skapandet av AI-chatbotar verkligen löser de grundläggande problemen eller om det bara är ett sätt att hantera symptomen. Att erbjuda chattsupport kan vara bekvämt för många kunder, men det kan också vara ett tecken på att användargränssnittet och produkten i sig är förvirrande och svåranvänd.
Det kan vara lockande för företag att snabbt implementera en AI-chatbot för att hantera kundfrågor, men i längden kan det vara mer värdefullt att fokusera på att förbättra själva produktupplevelsen så att färre kunder behöver söka support överhuvudtaget.
Klarnas AI-chatbot är onekligen ett imponerande tekniskt framsteg och ett bra exempel på hur moderna AI-teknologier kan implementeras i stor skala. Den erbjuder snabb, effektiv och flerspråkig support som kan hantera en stor mängd grundläggande kundförfrågningar.
Samtidigt är det viktigt att inte överdriva dess kapacitet eller revolutionerande potential. Automatisering av L1-support är inget nytt koncept, även om metoderna har blivit mer sofistikerade. Den verkliga utmaningen ligger i att hitta en balans mellan automatisering och mänsklig touch, samt att adressera de underliggande orsakerna till att kunder behöver support.
För Klarna innebär chatboten betydande kostnadsbesparingar och effektivitetsvinster. För branschen i stort är det ett intressant exempel på vad som är möjligt med dagens AI-teknik. Men det återstår att se hur detta kommer att påverka kundupplevelsen och arbetsmarknaden på lång sikt.
Oavsett hur revolutionerande Klarnas chatbot verkligen är, står det klart att AI-driven kundsupport är här för att stanna. Utmaningen för företag blir att implementera dessa lösningar på ett sätt som verkligen förbättrar kundupplevelsen snarare än att bara ersätta mänsklig interaktion med en digital fasad.
Läs även: https://www.techhubben.se/blogs/ai-lag-i-kalifornien-framsteg-eller-hot
Läs även: Tesla Bot: Teslas humanoida robot för framtida fabriker
