De som ringde till IDA Forsikring, ett danskt försäkringsbolag, fick höra att samtalet skulle spelas in för att förbättra servicen till medlemmarna och som dokumentation. Sedan ombads de trycka 1 för att godkänna, eller vänta kvar.
Det enda knapptrycket gällde två ändamål. I juni 2024 prövade den danska dataskyddsmyndigheten Datatilsynet upplägget (j.nr. 2023-431-0018). Myndigheten såg AI-analysen som en del av kvalitetssäkringen. Samtycket underkändes, eftersom den som ringde inte kunde godta det ena ändamålet och avböja det andra.
Vad IDA gjorde
Ett personuppgiftsbiträde transkriberade inkommande samtal med taligenkänning som biträdet själv hade utvecklat. Analysen kontrollerade varje samtal mot en servicestandard: en hälsningsfras, positiva formuleringar, ett artigt avslut. Den gav en vägledande kvalitetspoäng utifrån om standarden följdes. Enligt IDA användes samtalen inte för att träna taligenkänningen.
Utvärderar du AI-bedömning av samtal är det ungefär det här du tittar på.
Analysen låg inom kvalitetsändamålet
IDA angav ändamålet som ”förbättring av IDA Forsikrings medlemsservice, kvalitetssäkring”. Myndigheten ansåg att analysen inte skulle ses som ett eget ändamål. Den ingick i kvalitetsändamålet.
Att lägga till AI-analys av samtal som spelats in för kvalitetssäkring skapade alltså inget nytt ändamål. Det håller bara för att kvalitetssäkring fanns med från början. Beslutet säger inget om vad som gäller när samtal återanvänds för något de som ringde aldrig fick veta om.
IDA uppgav för myndigheten att systemet inte analyserar tonfall, kön eller dialekt. Myndigheten konstaterade att ett system som inte uppfattar tonfall, inklusive sarkasm och ironi, främst kommer att ge falskt positiva resultat. Där sådana luckor kan skada människor måste man vidta åtgärder mot den risken.
Samtycket höll inte
Det enda knapptrycket gällde två ändamål: att dokumentera samtalet och att kvalitetssäkra. Myndigheten fann att samtycket inte var tillräckligt uppdelat för att vara giltigt: ”Samtykket er derfor ikke gyldigt, og kan derfor ikke udgøre grundlag for behandling” (samtycket är därför inte giltigt och kan därför inte utgöra grund för behandling).
Myndigheten uttalade ingen kritik. Den angav att den inte tidigare hade prövat hur samtycke ska inhämtas per telefon när flera ändamål är inblandade. IDA fick besked att ändra processen: antingen hitta en annan rättslig grund eller göra om samtycket, till exempel med två knapptryck.
De två grupperna i ett samtal hade olika grunder. För dem som ringde stödde sig IDA på samtycke enligt artikel 6.1 a i GDPR. För de egna anställda stödde sig bolaget på berättigat intresse enligt artikel 6.1 f. Myndigheten såg inget skäl att underkänna den bedömningen.
Myndigheten prövade inte att samtalen sparas i upp till fem år, och inte heller hur man återkallar samtycket, vilket görs genom att ringa igen och be att samtalet raderas. Tolka inte det som att myndigheten godkände något av dem.
Vad som gäller i Norge och Sverige
Ett danskt beslut binder inte norska eller svenska företag. Norska Datatilsynet, som är en egen myndighet, skriver att det inte finns några särskilda regler för ljudinspelningar. De allmänna integritetsreglerna gäller, och att i hemlighet spela in andras samtal är förbjudet enligt den norska strafflagen (straffeloven § 205).
GDPR gäller också i Norge och Sverige, så samma logik håller. Ange varje ändamål, välj en rättslig grund för vart och ett, och där samtycke är grunden, be om det en gång per ändamål.
En checklista innan du låter AI bedöma samtal
- Ange varje ändamål som inspelningen tjänar: dokumentation, kvalitetssäkring, coachning, statistik. Skriv ner om AI-bedömningen hör till kvalitetssäkringen, och varför.
- Välj rättslig grund per ändamål och per grupp. IDA använde samtycke för dem som ringde och berättigat intresse för de anställda. Datatilsynet pekade både på andra grunder och på ett bättre samtycke.
- Om du stöder dig på samtycke, be om det en gång per ändamål. Den som ringer måste kunna säga ja till dokumentation och nej till kvalitetssäkring.
- Beskriv vad systemet analyserar i en mening som den som ringer förstår, och säg vad det lämnar utanför.
- Planera för poäng som blir fel. Bestäm vem som granskar en poäng, vilket underlag den personen ser och hur en medarbetare ifrågasätter den.
- Sätt en lagringstid för varje ändamål, och skriv ner hur radering går till.
- Testa återkallelsen före lansering. Ring in, be att bli raderad och kontrollera att både inspelningen och transkriberingen är borta.
Spela sedan upp ert eget inspelade välkomstmeddelande och räkna ändamålen. Nämner det två eller fler och ber om ett enda knapptryck har det samma problem som Datatilsynet hittade.
Var Conversational Intelligence kommer in
Conversational Intelligence bedömer transkriberingen. Språkmodellerna ser text, aldrig ljud, och ingenting används för träning. Kriterier för tonfall och empati i en bedömningsmall bedöms utifrån det som sades. Varje poäng länkar till meningen, tidsstämpeln och talaren bakom den, så att en granskare kan kontrollera underlaget och en medarbetare kan bestrida en poäng och låta en person avgöra.
Formuleringen av samtycket och vilka ändamål det täcker bestämmer ni. Vi hjälper er att stämma av dem mot era egna regler.
