Tilbake til bloggen

Etterlevelse

KI-forordningen ble utsatt, men ikke kravet om at KI-agenter må si at de er KI

Høyrisikopliktene ble utsatt til desember 2027. Artikkel 50 ble ikke det: I EU må chat- og taleagenter si at de er KI. Dette betyr det for norske kundesentre.

Leste dere en overskrift i vår om at EU hadde utsatt KI-forordningen, og la kundevendt KI i bunken «haster ikke før 2027», bør dere lese en gang til. Utsettelsen var reell, men den gjaldt en del av forordningen som trolig ikke gjelder kundesenteret deres. Den delen som gjør det, regelen om at kunden skal få vite når hen snakker med en maskin, ble aldri flyttet. I EU har den gjeldt siden 2. august 2026.

Dere kan sjekke hvor dere står, med én samtale. Hent fram en samtale KI-en håndterte forrige måned, og finn, bare ut fra det som er lagret, øyeblikket da agenten sa at den var en KI. Tar det mer enn noen minutter, eller er det beste dere kan peke på en linje i vilkårene, så start der.

Åpenhetsreglene i EUs KI-forordning (artikkel 50) har gjeldt siden 2. august 2026 og ble ikke utsatt. Alle KI-systemer som snakker med kundene, må senest ved første kontakt gjøre det tydelig at de har med en KI å gjøre. Høyrisikopliktene som ble utsatt til desember 2027, dekker stort sett ikke kundeserviceagenter. De dekker blant annet kredittvurdering og prising av liv- og helseforsikring. Det første dere må gjøre, er å finne ut hvilken kategori hvert av KI-systemene deres hører til i.

Hva med Norge?

I Norge kommer KI-forordningen inn gjennom EØS-avtalen, og den prosessen henger etter EU. Den norske KI-loven er ennå ikke vedtatt, så plikten har ingen dato her. Nkom er utpekt som koordinerende markedstilsynsmyndighet. Hva det betyr når en KI-agent ringer norske bedrifter, har vi gått gjennom i artikkelen om KI og kalde salgssamtaler i Norge.

Planlegg likevel etter EU-datoene. Alle datoene nedenfor er EU-datoer.

Dette gjelder siden 2. august, og dette ble flyttet til 2027

KI-forordningen trådte i kraft i august 2024 og får virkning trinnvis: forbud mot en håndfull bruksområder i februar 2025 og regler for KI-modeller til allmenne formål i august 2025. Den 2. august 2026 ble forordningen gjeldende, med noen unntak, ifølge Europakommisjonens tidslinje. Åpenhetsreglene i artikkel 50 gjelder fra den datoen, og det er nasjonale myndigheter som håndhever dem. For en bank eller et forsikringsselskap som bruker KI i kundeservice, er artikkel 50 den delen som betyr noe.

Det som ble flyttet, er høyrisikoregimet. Gjennom den digitale omnibusen om KI, en pakke med endringer Rådet og Europaparlamentet ble foreløpig enige om 7. mai 2026, ble pliktene for frittstående høyrisikosystemer flyttet fra august 2026 til 2. desember 2027, og pliktene for KI som er bygget inn i regulerte produkter, til 2. august 2028. Avtalen ble til forordning (EU) 2026/1744, kunngjort i EU-tidende 24. juli 2026. Datoen for artikkel 50 ble ikke flyttet. Den eneste endringen er en overgangsperiode til 2. desember 2026 for maskinlesbar merking av innhold fra generative systemer som allerede er på markedet. Den berører ikke agentens plikt til å si at den er en KI.

Dette skillet avgjør hvor mye av forordningen som angår dere. En chatbot eller taleagent i kundeservice er i nesten alle tilfeller et system med begrenset risiko, og plikten er åpenhet. Et KI-system som vurderer kredittverdighet, priser liv- eller helseforsikring eller inngår i en ansettelsesbeslutning, er høyrisiko etter vedlegg III. Der er pliktene tyngre, og det er de som fikk 16 måneder ekstra. List opp KI-systemene som berører kundene deres, og gi hvert av dem en rad:

KI-systemet deresKlasseDette gjelderGjelder i EU fra
Chatbot eller taleagent som snakker med kunderBegrenset risikoSi at det er en KI, senest ved første kontakt (artikkel 50)2. august 2026
KI som vurderer kreditt, priser liv- eller helseforsikring eller siler jobbsøkereHøyrisiko (vedlegg III)Menneskelig kontroll, logging, overvåking2. desember 2027
KI bygget inn i regulerte produkterHøyrisikoHøyrisikopliktene2. august 2028

Bruker dere KI til å score samtalene til egne ansatte, hører én rad til i tabellen. Vedlegg III regner KI som overvåker og vurderer hvordan ansatte presterer, som høyrisiko, så planlegg som om et slikt system er det. Vi har gått gjennom hva det krever av en bank eller et forsikringsselskap.

Første jobb: si fra

Skreller dere bort juridikken i artikkel 50 nr. 1, krever den én ting. Snakker et KI-system med et menneske, må mennesket vite at det er en KI. Grunnen til at det fortsatt skaper problemer, er at de opplagte måtene å oppfylle kravet på stort sett ikke holder.

En linje i vilkårene teller ikke. Et lite «KI»-merke teller ikke når innringeren ikke kan se det fordi hen snakker i telefonen, og det gjør heller ikke et lydsignal før agenten begynner å snakke. Kommisjonens retningslinjer for artikkel 50, publisert 20. juli 2026 etter et utkast i mai, sier at en opplysning som bare står i vilkårene, ikke er nok, at et lydsignal alene ikke holder, og at opplysningen må komme i selve samtalen, senest i starten. For en chatagent betyr det at den første meldingen sier det. For en taleagent betyr det en muntlig beskjed i starten av samtalen, noe så enkelt som «Dette er en KI-assistent fra [firma]. Jeg kan hjelpe deg med [område].» Si «KI»: Retningslinjene sier at en generell henvisning til en «assistent» er for vag til å telle.

Plikten varer lenger enn hilsenen. Retningslinjene forventer også at agenten sier at den er en KI hver gang innringeren spør, og hver gang samtalen tyder på at innringeren er usikker på hvem hen snakker med.

Artikkel 50 nr. 1 legger plikten på tilbyderen: den som utvikler agenten, eller får den utviklet, og tar den i bruk under eget navn. En bank som bygger sin egen agent, er tilbyderen. En bank som kjøper en, bestemmer likevel hva agenten sier når den tar telefonen, så avtalen bør si hvem som sørger for at den sier fra.

Det finnes et unntak, og det er den delen mange lener seg på, men ikke burde. Opplysningen kreves ikke der det er åpenbart ut fra omstendighetene at det er en KI. Det høres ut som et romslig unntak til dere leser hvor snevert retningslinjene tolker det: bare der det knapt er tvil igjen for en gjennomsnittlig person i målgruppen, og ikke i det hele tatt der de dere betjener, omfatter eldre eller personer med funksjonsnedsettelser. En banks kundetelefon betjener alle. Og en moderne taleagent som veksler naturlig mellom å snakke og lytte, stopper når den blir avbrutt, og fanger opp et skifte i tonefall, er nesten per definisjon ikke åpenbart en maskin. Er leverandørens salgsargument at agenten høres menneskelig ut, har dere nettopp argumentert dere ut av unntaket.

Ingenting av dette er vanskelig. Det er en endring i åpningsinstruksen, en logg som viser at opplysningen ble gitt, og trolig et punkt i leverandøravtalen om hvem som har ansvaret når en kunde blir overført fra et menneske til en agent midt i samtalen uten at det blir sagt fra på nytt. Et brudd kan koste opptil 15 millioner euro eller 3 % av den globale årsomsetningen, avhengig av hva som er høyest, etter artikkel 99. Kunden er den største risikoen. Oppdager en kunde uker senere at en maskin behandlet forsikringskravet etter et dødsfall eller svindelsaken hens uten å si fra, skriver hen neppe til tilsynsmyndigheten. Hen mister tilliten til dere og forteller det til andre.

Det blir vanskeligere å si fra akkurat der samtalene er vanskeligst

Kommisjonens retningslinjer sier at én beskjed i starten trolig er nok i de fleste tilfeller, og lister så opp tilfellene der den ikke er det: samtaler med sårbare personer som eldre, situasjoner der noen kan være i følelsesmessig krise, og tjenester der folk lettere blir villedet. Der nevnes finansiell rådgivning, forsikring og klagebehandling ved navn. I slike samtaler forventer retningslinjene påminnelser underveis.

Les det opp mot samtalemiksen deres. Samtalene der kunden er minst tilbøyelig til å registrere, eller huske, at hen snakker med en maskin, er nettopp de et forsikringsselskap eller en bank tar når noe har gått galt: kravet etter et dødsfall, samtalen fra en som ikke klarer å betale, den redde førstegangskunden.

I de samtalene kan agenten måtte si hva den er flere ganger, og tydelig nok til at det når fram til en som ikke får med seg alt. Det henger tett sammen med det vanskeligere spørsmålet om en KI-agent i det hele tatt bør ta samtalen, og det kan dere bare svare på hvis dere ser hva som faktisk skjer i samtalene.

Andre jobb: dere står fortsatt ansvarlig for det den sier

Åpenhet forteller kunden hva hen har med å gjøre. Den gjør ingenting med hva agenten sier, og det er den andre jobben.

Agentens ord er deres i det øyeblikket den sier dem. I 2024 fortalte Air Canadas chatbot en sørgende passasjer at han kunne søke om sorgrabatt etter at han hadde reist, noe flyselskapets regler ikke tillot. En nemnd i British Columbia holdt flyselskapet til det chatboten hadde sagt, og avviste argumentet om at boten var ansvarlig for sine egne ord. Det prinsippet venter ikke på KI-forordningen. Det er allerede slik forbruker- og avtaleretten fungerer, og EUs forbrukerregler gjelder også i Norge gjennom EØS. En KI-agent samler ansvaret deres, fordi én feil oppfatning gjentas likt i tusenvis av samtaler før noen merker det.

Bruker dere KI bare til å svare på spørsmål og rute samtaler, er den juridiske plikten åpenhet, pluss det ansvaret dere uansett har for alle som snakker med kundene på deres vegne. Påvirker KI-en en beslutning om kreditt eller om prising av liv- og helseforsikring, kommer høyrisikoregimet likevel i desember 2027, med formell menneskelig kontroll og bevis på at systemet ble overvåket. Om en gitt agent i det hele tatt er god nok til å snakke med kundene, bør dere kunne svare på med bevis: agentens samtaler scoret på deres eget vurderingsskjema.

Tredje jobb: kunne vise hva den gjør

Åpenhetsplikten, ansvaret for det agenten sier, og overvåkingen høyrisikobruk vil kreve, hviler alle på én ting: å kunne vise hva KI-en gjorde i en bestemt samtale, i etterkant, til noen som har rett til å spørre. Sa den hva den var? Ga den riktige opplysninger? Håndterte den den sårbare innringeren riktig? Et snitt på et dashbord kan ikke svare på det. Svaret krever selve øyeblikket, fanget opp mens samtalen pågår.

Å score hver samtale gir det grunnlaget som et biprodukt av å gjøre kvalitetssikringen ordentlig. Conversational Intelligence scorer hver samtale, både tale og chat, på deres eget vurderingsskjema, knytter hver score til setningen, tidsstempelet og hvem som snakket, og holder hver score åpen for innsigelser. Vi bygger også taleagenter og holder dem til det samme kravet: AI Voice Agents sier at de er en KI i første setning, og en utgående agent kan ikke starte en kampanje før den har bestått Launch Gate, der simulerte innringere spør om de snakker med en maskin. Samtaledata lagres i Stockholm, og sikkerhetssiden vår viser hvor hvert steg kjøres.

Ingenting av dette gjør en virksomhet «i samsvar med» KI-forordningen, og en leverandør som sier at produktet deres gjør det, overselger. Etterlevelse er en vurdering av hele virksomheten, og den kan bare dere og tilsynsmyndigheten gjøre. Scoring knyttet til bevis gir dere dokumentasjonen som underbygger den.

Dette bør dere gjøre nå

Listen er kortere enn uroen rundt den skulle tilsi.

  1. Sorter KI-systemene. Gi hvert kundevendt KI-system en rad i tabellen over, så dere vet hva som gjelder i dag, og hva dere har til desember 2027 på å bygge.
  2. Rett første setning. Hver chat- og taleagent sier «KI» i sin første replikk, med ord en innringer ikke kan overse.
  3. Gjenta det der samtalene er følsomme. Legg inn en påminnelse senere i samtaler om dødsfall, betalingsproblemer, skadesaker og klager, og etter hver overføring.
  4. Dropp unntaket for det «åpenbare» hvis agentene høres menneskelige ut eller betjener folk flest.
  5. Rett avtalen. Skriv inn hvem som har plikten til å si fra når en samtale går mellom et menneske og en agent.
  6. Ta vare på dokumentasjonen. Logg opplysningen i hver samtale KI-en håndterer. Når noen spør hva KI-en sa til en bestemt kunde, er svaret da en bestemt samtale, ikke et skuldertrekk.

Be så leverandøren om ett opptak: en innringer som spør «Snakker jeg med en robot?», og agentens svar. Kan de ikke vise det, har ingen testet det.

Skal dere sette KI-agenter foran kunder i en regulert bransje? Vi scorer en uke med ekte samtaler, fra både mennesker og KI, og viser dere bevisene bak hver score: dokumentasjonen dere kan legge fram for styret, eller for tilsynsmyndigheten, for hvilken som helst samtale de spør om.