Forslaget til Europa-Parlamentets og Rådets forordning om harmoniserede regler for kunstig intelligens har til formål at fremme anvendelsen af kunstig intelligens (AI), samtidig med at der håndteres risici forbundet med visse anvendelser af teknologien. Forordningen sigter mod at skabe en retlig ramme, der sikrer, at AI-systemer, der markedsføres og anvendes på EU-markedet, er sikre og overholder grundlæggende rettigheder og EU-værdier. Forslaget støtter EU's mål om at være førende inden for udvikling af sikker, pålidelig og etisk AI . 

Hovedmålene med forslaget inkluderer at sikre AI-systemers sikkerhed, fremme investering og innovation inden for AI, forbedre administration og effektiv håndhævelse af lovgivning om grundlæggende rettigheder og sikkerhedskrav til AI-systemer, og fremme udviklingen af et indre marked for lovlige, sikre og pålidelige AI-anvendelser for at undgå markedsfragmentering . 

Forslaget anvender en afbalanceret og proportionel horisontal lovgivningsmæssig tilgang. Den foreslår harmoniserede regler for udvikling, markedsføring og anvendelse af AI-systemer i Unionen, herunder en fremtidssikret definition af kunstig intelligens og særlige restriktioner og sikkerhedsforanstaltninger for systemer til biometrisk fjernidentifikation til retshåndhævelse. Højrisiko-AI-systemer, der indebærer en betydelig risiko for menneskers sundhed, sikkerhed eller grundlæggende rettigheder, skal opfylde obligatoriske krav til pålidelig AI og gennemgå en overensstemmelsesvurdering før markedsføring . 

Reglerne vil blive håndhævet gennem et forvaltningssystem på medlemsstatsplan og en samarbejdsmekanisme på EU-plan med oprettelsen af Det Europæiske Udvalg for Kunstig Intelligens. Forslaget omfatter også foranstaltninger til støtte for innovation, såsom reguleringsmæssige sandkasser, og foranstaltninger til at reducere regelbyrden for SMV'er og startups . 

Forslaget er i overensstemmelse med eksisterende EU-lovgivning, herunder databeskyttelse, forbrugerbeskyttelse, ikke-diskrimination og ligestilling mellem kønnene. Det supplerer denne lovgivning med specifikke krav for at minimere risikoen for algoritmisk forskelsbehandling og krav om testning, risikostyring, dokumentation og menneskeligt tilsyn i hele AI-systemets livscyklus. 

Forslaget er del af en større pakke af foranstaltninger, der tager sigte på at adressere problemerne ved udvikling og anvendelse af AI, som behandles i hvidbogen om kunstig intelligens. Det sikrer overensstemmelse og komplementaritet med andre igangværende eller planlagte initiativer fra Kommissionen, herunder revision af sektorspecifik produktlovgivning og initiativer om ansvar i forbindelse med nye teknologier som AI . 

Forslagets retsgrundlag er primært artikel 114 i traktaten om Den Europæiske Unions funktionsmåde (TEUF), der omhandler foranstaltninger til sikring af det indre markeds etablering og funktion. Formålet er at sikre et velfungerende indre marked ved at fastsætte harmoniserede regler for udvikling, markedsføring og brug af AI-teknologier og systemer . 

Forslaget til forordningen om kunstig intelligens (AI) lægger stor vægt på beskyttelsen af fysiske personer, især i forbindelse med behandling af personoplysninger. Her er nogle vigtige aspekter af forslaget, der relaterer til dette: 

Beskyttelse af personoplysninger: 

Forslaget komplementerer den eksisterende EU-lovgivning om databeskyttelse, herunder General Data Protection Regulation (GDPR). Det betyder, at enhver AI-applikation, der behandler personlige data, skal overholde GDPR's strenge krav om databeskyttelse, herunder principperne om dataminimering, formålsbegrænsning, og datatransparens. 

Begrænsninger ved Biometrisk Fjernidentifikation: 

En vigtig del af forslaget er begrænsninger på brugen af AI-systemer til biometrisk fjernidentifikation i realtid på offentlige steder, især til formål relateret til retshåndhævelse. Disse restriktioner sigter mod at beskytte individets privatliv og forebygge overvågningssamfundet . 

Risikobaseret Tilgang til Persondata: 

Forslaget anvender en risikobaseret tilgang, hvor AI-systemer, der sandsynligvis vil udgøre en stor risiko for individets grundlæggende rettigheder og sikkerhed, er genstand for strengere krav. Dette omfatter krav om data af høj kvalitet, passende dokumentation og menneskeligt tilsyn . 

Specifikke krav for højrisiko AI-Systemer: 

AI-systemer klassificeret som højrisiko skal overholde en række obligatoriske krav, herunder at sikre pålideligheden af de data, de bruger, og at implementere passende risikostyringsprocesser. Dette er især vigtigt for systemer, der behandler følsomme persondata eller anvendes i kritiske sektorer . 

Transparens og gennemsigtighedsforpligtelser: 

Forslaget lægger vægt på gennemsigtighed i brugen af AI-systemer. For eksempel, brugere skal informeres, når de interagerer med en AI, såsom en chatbot. Dette hjælper med at sikre, at brugerne er klar over, at deres data muligvis bliver indsamlet eller behandlet af et AI-system . 

Overensstemmelse med grundlæggende rettigheder: 

Alle AI-systemer skal respektere EU's charter om grundlæggende rettigheder, hvilket sikrer, at teknologien ikke bruges på en måde, der krænker individets rettigheder, herunder retten til privatlivets fred og beskyttelse af persondata .