36 pct. af europæiske små og mellemstore virksomheder bruger allerede algoritmer til at overvåge præstation og produktivitet, og 30 pct. bruger dem til vagtplanlægning. Nu vil EU-Kommissionen overveje at kræve, at beslutninger om forfremmelse, disciplinærsag og afskedigelse altid træffes af et menneske med reel beslutningsmyndighed – mens et dansk lovforslag giver markedsovervågningen adgang til kontrolundersøgelser og bøder.
Markedsovervågningen får ret til kontrolundersøgelser og bøder
Lovforslag L 3 om supplerende bestemmelser til forordningen om kunstig intelligens skal etablere rammerne for det danske tilsyn med AI-forordningen. Forslaget fastlægger, hvilke beføjelser de kommende markedsovervågningsmyndigheder skal have:
- adgang til at kræve oplysninger
- adgang til at gennemføre kontrolundersøgelser
- adgang til at offentliggøre udvalgte afgørelser
- mulighed for at sanktionere overtrædelser af både forordningen og loven med bøde
"Forslaget skal understøtte en ensartet håndhævelse af AI-forordningen og skabe klare rammer for virksomheder og myndigheder."
Samtidig ophæves den gældende lov om supplerende bestemmelser til kunstig intelligens. Relevante bestemmelser videreføres, og der indføres nye regler knyttet til forordningens krav til højrisikosystemer og til gennemsigtighed i visse AI-systemer. Forslaget åbner desuden for at centralisere visse administrative processer for at reducere virksomhedernes byrder.
For HR er det ikke en fjern problemstilling. AI-systemer, der bruges til rekruttering, udvælgelse af ansøgere og beslutninger om forfremmelse og ophør af ansættelse, ligger i forordningens højrisikokategori, og gennemsigtighedskravene rammer blandt andet de chatbots, ansøgerne møder. Digitaliseringsstyrelsen koordinerer det danske tilsyn med reglerne.
På EU-niveau er håndhævelsen allerede i gang. Kommissionens AI-kontor har siden august sendt anmodninger om oplysninger til udbydere af generelle AI-modeller om blandt andet sikkerhed, ekstern evaluering og overvågning af, hvordan modellerne bruges. Brud på forpligtelserne for generelle AI-modeller kan koste op til 15 mio. euro eller 3 pct. af den globale årsomsætning – og et ukorrekt eller vildledende svar på en forespørgsel kan i sig selv udløse bøde.
Fire ud af ti virksomheder bruger allerede algoritmisk ledelse
42 pct. af de adspurgte små og mellemstore virksomheder og mid-caps i EU bruger allerede AI eller algoritmisk ledelse, de fleste i begrænset eller eksperimentelt omfang. Yderligere 21 pct. planlægger at tage teknologien i brug. Det viser en ny Flash Eurobarometer-undersøgelse fra Europa-Kommissionen.
Med algoritmisk ledelse menes digitale systemer, der hjælper ledere med at organisere arbejdsstyrken eller understøtter beslutninger om opgaver, arbejdstider, præstationer eller bemanding. Systemerne behøver ikke at være AI-drevne, og både værktøjer, der automatiserer beslutninger, og værktøjer, der blot anbefaler, er omfattet.
| Anvendelse | Andel af virksomhederne |
|---|---|
| Kundeservice og kundekontakt | 47 pct. |
| Overvågning af præstation og produktivitet | 36 pct. |
| Logistik, planlægning og vagtplanlægning | 30 pct. |
90 pct. svarer, at det er mennesker, der træffer beslutningerne, og kun 2 pct. af beslutningerne er fuldt automatiserede. Samtidig siger 49 pct., at de ikke stoler på AI eller automatiserede systemer til beslutninger om arbejdsstyrken eller personalespørgsmål. Blandt barriererne for bredere brug vejer retlig usikkerhed (49 pct.) næsten lige så tungt som investeringsomkostninger (50 pct.), mens manglende ekspertise nævnes af 48 pct.
Tallene er værd at holde op mod egen virksomhed: præstationsmåling og vagtplanlægning er sjældent selvstændige "AI-projekter", men funktioner, der er slået til i de HR-, løn- og planlægningssystemer, man allerede har købt.
Kommissionen overvejer krav om et menneske bag forfremmelse og afsked
EU-Kommissionen har sendt anden fase af høringen af de europæiske arbejdsmarkedsparter om den kommende Quality Jobs Act ud. Dokumentet beskriver mulige tiltag på fem områder, og det mest nærværende for HR er algoritmisk ledelse og AI på arbejdspladsen.
Det overvejer Kommissionen om algoritmisk ledelse
Udgangspunktet er vejledning om de regler, der allerede gælder i GDPR og AI-forordningen. Men hvis der er huller, overvejer Kommissionen mere målrettede regler:
- krav om, at væsentlige beslutninger baseret på automatiske vurderinger altid får en menneskelig gennemgang
- krav om, at beslutninger om forfremmelse, disciplinærsag og afskedigelse træffes af et menneske med reel beslutningsmyndighed
- begrænsninger for neuroteknologi, der måler træthed og koncentration
- begrænsninger for forudsigelse af den enkelte medarbejders adfærd – for eksempel om vedkommende vil melde sig i en fagforening
- ret for medarbejderrepræsentanter til at udløse en efterfølgende kontrol af systemerne ved begrundet mistanke om fejl eller overdreven overvågning
Dokumentet understreger, at tiltaget ikke vil pålægge udbyderne af AI-systemerne nye forpligtelser. Forpligtelserne vil med andre ord lande hos arbejdsgiveren – den, der slår funktionen til.
De fire øvrige områder
- Arbejdsmiljø. Arbejdspladsdirektivet kan udvides til arbejde uden for arbejdsgiverens lokaler, herunder hjemmearbejde, og skærmdirektivet til bærbare computere og tablets. Der nævnes minimumskrav til psykosociale og ergonomiske risici, herunder seksuel chikane.
- Underentrepriser. Udpegning af højrisikobrancher, mål for antallet af kontroller og et ansvar for hovedentreprenører i hele kæden, for eksempel ved ubetalt løn, samt registre over underleverandører og vikarbureauer.
- Retfærdig omstilling. Her lægges op til at bygge videre på den frivillige kvalitetsramme fra 2013 frem for ny lovgivning.
- Håndhævelse. Krav til medlemslandene om information om rettigheder og pligter, tilstrækkelige ressourcer til arbejdstilsyn, kontrolmål og sanktioner, der er "proportionate, effective and dissuasive".
Parterne står langt fra hinanden
I første runde svarede 34 europæiske organisationer – 12 fagforbund og 22 arbejdsgiverorganisationer. Fronterne er uændrede.
ETUC skriver, at mulighederne i dokumentet »do not match the scale and urgency of the problems they are meant to address«, og kræver bindende EU-lovgivning på alle områderne.
BusinessEurope svarer omvendt, at ikke-lovgivningsmæssig støtte i form af vejledning er »the only appropriate way forward« på algoritmisk ledelse og AI, og afviser nye bindende regler om underentrepriser og kædeansvar.
Som instrument nævner dokumentet et direktiv efter artikel 153, ikke-bindende henstillinger og fortolkningsvejledninger – eller en pakke, der kombinerer flere typer. Beslutter arbejdsmarkedets parter at forhandle en aftale efter artikel 155, standser Kommissionen sit arbejde på de berørte områder.
Første harmoniserede standard sætter rammen for kvalitetsstyring
Europa-Kommissionen har offentliggjort henvisningen til den første harmoniserede standard under AI-forordningen: EN 18286:2026 om kvalitetsstyringssystemer til brug for AI-forordningen. Efter forordningens artikel 40 formodes højrisiko-AI-systemer at opfylde de krav, en harmoniseret standard dækker, når systemet overholder standarden, og henvisningen er offentliggjort i EU-Tidende.
Standarden er udarbejdet af CEN og Cenelec og indeholder krav og vejledning til at definere, indføre og vedligeholde et kvalitetsstyringssystem hos udbydere af AI-systemer, herunder processer for overvågning efter markedsføring. Den er ikke bundet til en bestemt sektor, og virksomheder kan ifølge CEN og Cenelec bruge den til at påvise overensstemmelse med forordningens artikel 17 om udbydere af højrisiko-AI.
Anvendelsen er frivillig, og udbydere kan vælge andre rammer – men en harmoniseret standard med henvisning i EU-Tidende giver retssikkerheden. Det gør den til et konkret spørgsmål i leverandørdialogen: følger jeres kvalitetsstyringssystem EN 18286, og hvad dækker overensstemmelsen?
Kommissionens standardiseringsanmodning omfatter ti områder – blandt andet risikostyring, datakvalitet, logning, gennemsigtighed, menneskeligt tilsyn, nøjagtighed, robusthed og cybersikkerhed. Indtil videre er kun kvalitetsstyringsstandarden kommet i mål.
Dataetisk Råd advarer mod en bred hjemmel til AI i det offentlige
Offentlige arbejdsgivere venter fortsat på den hjemmelslov, der skal give myndigheder og organer en generel databeskyttelsesretlig hjemmel til at udvikle og anvende AI-systemer, når de behandler personoplysninger. Et nyt udkast har været i høring med frist den 12. oktober 2026, og udkastet omfatter blandt andet brug af AI til beslutningsstøtte, men giver ikke hjemmel til fuldautomatiske afgørelser efter databeskyttelsesforordningens artikel 22.
Dataetisk Råd anbefaler i sit høringssvar, at hjemlen i stedet knyttes til bestemte myndigheder og konkrete anvendelser.
"Det gør en forskel, hvilken opgave et system skal løse, og hvilke konsekvenser en fejl kan få for borgeren. Med en bred hjemmel bliver det vanskeligere at vurdere risiciene og fastsætte betingelser for den konkrete anvendelse," siger formand Johan Busse.
Vælges den brede hjemmel, vil rådet have fælles minimumsstandarder for kvalitetssikring og klare rammer for, hvilke niveauer af fejl, algoritmisk bias og uigennemsigtighed der kan accepteres, før et system sættes i drift. Rådet kalder det "dataetisk stærkt betænkeligt" at give en bred hjemmel uden tilstrækkelige fælles retningslinjer.
To punkter er særligt værd at bemærke for den offentlige personaleadministration:
- Definitionen af beslutningsstøtte bør skrives ind i selve lovteksten med krav om, at medarbejderen har kompetence, ansvar og ressourcer til at træffe den endelige beslutning – så den menneskelige involvering ikke bliver en formalitet.
- Undtagelser fra borgernes rettigheder bør afgrænses i loven: hvad der kan begrunde dem, at de skal være nødvendige og proportionale, og hvilke rettigheder der aldrig kan fraviges.
IT-Politisk Forening går længere og anbefaler, at lovforslaget slet ikke fremsættes, fordi kravene om nødvendighed, proportionalitet, dataminimering og formålsbegrænsning efter foreningens opfattelse sættes ud af kraft i praksis.
