Ti telemarketingvirksomheder skulle dokumentere, at deres AI-systemer ikke udleder medarbejdernes følelser. Ingen af dem fik kritik — men tilsynsrunden viser præcis, hvor Digitaliseringsstyrelsen kigger hen, når AI-forordningens forbud skal håndhæves i danske virksomheder.
Ti telemarketingvirksomheder blev tjekket for følelsesgenkendelse
Digitaliseringsstyrelsen har gennemført de første 20 danske tilsyn med forbudte former for AI-praksis efter AI-forordningen. Tilsynene var fordelt på to brancher med hver ti virksomheder:
| Branche | Antal tilsyn | Hvilket forbud blev undersøgt |
|---|---|---|
| Telemarketing | 10 | AI til udledning af følelser på arbejdspladser |
| Online kasino og betting | 10 | AI til skadelig manipulation og udnyttelse af sårbarheder |
I ingen af de 20 virksomheder fandt styrelsen AI-systemer i strid med forbuddene, og ingen af sagerne endte med kritik. Dialogen med virksomhederne blev i stedet brugt til at afklare fortolkningsspørgsmål — blandt andet om behandlingen af biometriske data — i samarbejde med Europa-Kommissionens AI Service Desk.
Hvad forbuddet dækker i en HR-kontekst
Forbuddet mod følelsesgenkendelse er et af de fem forbud, som Digitaliseringsstyrelsen fører tilsyn med. De øvrige omfatter blandt andet ubevidst manipulation, udnyttelse af sårbarheder, risikobaseret profilering af borgere og biometrisk klassificering til bestemmelse af følelsestilstand.
Det er netop arbejdspladsen og uddannelsesinstitutionen, der er udpeget som særligt beskyttet område. I praksis rammer forbuddet den type værktøjer, som mange HR- og driftsfunktioner får tilbudt:
- Stemmeanalyse af kundeopkald, der scorer medarbejderens humør, stress eller "engagement"
- Kamerabaseret analyse af ansigtsudtryk under møder, oplæring eller kundebetjening
- Adfærdsdata fra tastatur, mus eller headset, der omsættes til en følelsesmæssig profil af den ansatte
Digitaliseringsstyrelsen har samlet sin fortolkning i en vejledningspakke om forbudte former for AI-praksis, som styrkes yderligere på baggrund af erfaringerne fra tilsynsrunden.
Hvorfor en ren tilsynsrunde stadig er relevant
At ingen fik kritik betyder ikke, at emnet er lukket. Tilsynet var branchebaseret og opsøgende, og styrelsen har samtidig gjort opmærksom på, at virksomheder kan indgive klage, hvis de har mistanke om, at en samarbejdspartner anvender AI i strid med forbuddene.
For arbejdsgivere er den praktiske lære, at man skal kunne redegøre for, hvad de indkøbte systemer faktisk gør ved medarbejderdata. Det forudsætter et opdateret overblik over, hvilke AI-funktioner der er slået til i personale-, vagtplans- og kvalitetssikringssystemer — og hvad leverandøren har dokumenteret om systemets formål.
Algoritmisk bias kan begrænses men ikke fjernes helt
Dataetisk Råd har sammen med professor Kasper Lippert-Rasmussen og forskningscentret CEPDISC udgivet en gennemgang af, hvorfor AI-systemer behandler grupper systematisk forskelligt — og hvorfor problemet ikke kan skrues væk.
"Det vigtige spørgsmål er sjældent, om en algoritme har bias. Det vigtige spørgsmål er, hvilke former for bias vi som samfund er villige til at leve med," siger formand for Dataetisk Råd, Johan Busse.
Rådet opdeler bias i fire former, der hver især kan blive relevante, når AI bruges til at sortere ansøgere eller vurdere medarbejdere:
| Form for bias | Hvad der sker | Klassisk eksempel |
|---|---|---|
| Brug af data om grupper | Køn, alder eller etnicitet indgår i vurderingen | Modellen for risiko for langtidsledighed |
| Forskelle i vurderinger | Én gruppe vurderes systematisk mere positivt | Amazons sortering af ansøgninger |
| Forskelle i præcision | Modellen rammer rigtigt oftere for én gruppe | Ansigtsgenkendelse på tværs af hudfarve |
| Forskelle i fejltyper | Én gruppe over-, en anden undervurderes | COMPAS i det amerikanske retsvæsen |
Proxyvariable gør "neutrale" data farlige
Et centralt punkt er, at bias ikke forsvinder, blot fordi oplysninger om køn eller etnicitet fjernes fra træningsdata. Indirekte koder — fx højde som proxy for køn eller postnummer som proxy for social baggrund — kan reproducere gruppetilhørsforhold, uden at gruppeoplysningen overhovedet findes i datasættet.
Samtidig viser matematisk beviste umulighedsteoremer, at man ikke kan opfylde alle retfærdighedskriterier på én gang, og at de fleste afbødningsmetoder koster præcision. Flere af metoderne kræver desuden, at man netop bruger gruppemærkater — og dermed introducerer den første form for bias.
Rådet har udgivet både en techsplainer på 27 sider og et kortere faktaark om emnet.
Betydningen for bevisbyrden i forskelsbehandlingssager
I dansk kontekst er det værd at huske, at Ligebehandlingsnævnet i 2022 nåede frem til, at Styrelsen for Arbejdsmarked og Rekrutterings profileringsværktøj ikke udgjorde ulovlig forskelsbehandling, selv om "ikke-vestlig herkomst" indgik i beregningen.
For private arbejdsgivere er pointen den omvendte: Skaber en AI-understøttet udvælgelse en statistisk skævhed blandt de udvalgte eller afskedigede, kan det i sig selv skabe en formodning for forskelsbehandling. Så skal arbejdsgiveren kunne dokumentere de objektive kriterier — og ikke blot henvise til, at systemet har rangeret kandidaterne.
Sletteanmodninger fra kandidater kostede 300.000 euro
Den franske datatilsynsmyndighed CNIL har givet konsulent- og rekrutteringsvirksomheden EXTIA en bøde på 300.000 euro, fordi selskabet ikke håndterede sletteanmodninger fra kandidater og tidligere ansatte. Sagen indgår i Det Europæiske Databeskyttelsesråds koordinerede håndhævelsesaktion om retten til sletning.
| Indikator | Tal |
|---|---|
| Sletteanmodninger modtaget på ét år | 265 |
| Ikke eller utilstrækkeligt behandlet | over 75 pct. |
| Slet ikke behandlet | 12 |
| Personer, der aldrig fik svar om behandlingen | 166 |
| Personer, der fik svar for sent | 27 |
Bøden blev udmålt efter antallet af berørte personer, karakteren af de tilsidesatte rettigheder — og at selskabet to gange tidligere var blevet gjort opmærksom på sine forpligtelser.
Konsekvenser for rekrutteringsdatabaser og talentpuljer
Sagen rammer en arbejdsgang, som de fleste HR-funktioner kender: ansøgninger, CV'er og noter fra samtaler, der bliver liggende i systemet, fordi kandidaten "måske er relevant en anden gang".
Tre forhold går igen i afgørelsen og kan bruges som tjekliste:
- Anmodninger skal besvares inden for fristen på én måned — også når svaret er et afslag med begrundelse
- Den registrerede skal have besked om, hvad der konkret er sket med oplysningerne
- Håndteringen skal kunne dokumenteres, så gentagne mangler ikke bliver et skærpende moment
Afgørelsen sender et tydeligt signal til virksomheder, der håndterer store mængder ansættelsesdata, om at systematiske mangler i håndteringen af de registreredes rettigheder har konkrete økonomiske konsekvenser.
Detaljerne fremgår af CNIL's pressemeddelelse.
Offentlige arbejdsgivere får en generel AI-hjemmel til sagsbehandling
Digitaliseringsstyrelsen har sendt udkastet til AI-hjemmelsloven i fornyet høring med frist den 12. oktober 2026. Der er tale om en helt ny hovedlov på seks paragraffer, som skal udgøre det supplerende nationale retsgrundlag efter databeskyttelsesforordningens artikel 6, stk. 2, når offentlige myndigheder og organer behandler personoplysninger i forbindelse med udvikling og anvendelse af AI-systemer.
Baggrunden er Datatilsynets praksis i to sager — kommunernes profileringsværktøj "Asta", der beregnede risiko for langvarigt kontaktforløb for dagpengemodtagere, og Københavns Kommunes AI-løsning til at identificere borgere med behov for rehabilitering. I begge tilfælde krævede tilsynet et klart supplerende retsgrundlag, blandt andet på grund af risikoen for automation bias.
Beslutningsstøtte defineres — og grænsen til den automatiske afgørelse
Loven indfører en legaldefinition af beslutningsstøtte med fire kumulative betingelser, hvor kernen er reel menneskelig stillingtagen. Bemærkningerne er usædvanligt direkte:
"[E]n sagsbehandler [kan] ikke blot […] videresende en afgørelse, der er truffet af et AI-system eller kopiere AI-systemets afgørelse ind i sagsbehandlerens egen afgørelse, uden reelt at forholde sig til den."
Hjemlen kan udtrykkeligt ikke bruges til fuldautomatiske afgørelser efter artikel 22, giver ikke adgang til at indsamle nye oplysninger og hjemler hverken videregivelse eller samkøring mellem myndigheder. Til gengæld skaber den et retsgrundlag for at bruge oplysninger fra historiske og lukkede sager som træningsdata uden en forenelighedstest — men kun oplysninger, myndigheden lovligt opbevarer.
Rettigheder kan begrænses ved bekendtgørelse
Lovudkastets § 4 bemyndiger ressortministre og Domstolsstyrelsen til helt eller delvist at begrænse de registreredes rettigheder efter artikel 12 og 15-21. Begrundelsen er teknisk: Når oplysninger er indlejret i modelparametre, kan indsigt og sletning være vanskelig eller umulig at gennemføre. Oplysningspligten efter artikel 13 og 14 kan derimod ikke fraviges med loven.
For arbejdsgivere i kommuner og regioner er det relevant af to grunde. Dels vil myndighedernes egen AI-understøttede sagsbehandling — herunder i beskæftigelses- og sygedagpengesager — hvile på denne hjemmel. Dels understreger ministeriet selv, at der er risiko for negative ligestillingsmæssige konsekvenser som følge af iboende bias, og at hverken ligestillingsloven eller det forvaltningsretlige ligebehandlingsprincip giver nogen garanti mod den. Kravene i AI-forordningen, herunder om højrisikosystemer og konsekvensanalyse efter artikel 35, gælder uændret ved siden af.
