Brugen af kunstig intelligens (KI) i EU vil blive reguleret gennem en forordning, der bliver verdens første omfattende KI-lovgivning. Læs mere her om hvordan den vil beskytte dig.
Som en del af sin digitale strategi ønsker EU at regulere kunstig intelligens til at sikre bedre forhold for udviklingen og brugen af denne innovative teknologi. KI kan give mange fordele som bedre sundhedspleje, mere sikker eller renere transport, mere effektiv manufaktur og billigere og mere bæredygtig energi.
I april 2021 foreslog Kommissionen den første lovgivningsramme for KI. Kommissionen foreslår, at KI-systemer, der kan bruges i forskellige applikationer, analyseres og klassificeres efter den risiko, de udgør for brugerne. De forskellige risikoniveauer vil betyde mere eller mindre regulering. Når de er godkendt, vil de blive verdens første regler for KI.
Læs mere om hvad kunstig intelligens er, og hvordan det bruges
Hvad Parlamentet ønsker at se i KI-lovgivningen
Parlamentets prioritet er at sikre sig, at KI-systemer, der bruges i EU er sikre, gennemsigtige, sporbare, ikke-diskriminerende og miljøvenlige. Der skal føres tilsyn med KI-systemer af mennesker, frem for af automatisering, for at forebygge skadelige udfald.
Parlamentet ønsker også at oprette en teknologineutral, ensartet definition for KI, der kan anvendes på fremtidige KI-systemer.
Læs mere om Parlamentets arbejde med KI og dets vision for KI’s fremtid.
KI-forordning: Forskellige regler for forskellige sikkerhedsniveauer
De nye regler skaber en forpligtelse hos udbyderne og forbrugerne afhængig af risikoniveauet fra den kunstige intelligens. Da mange KI-systemer udgør minimal risiko, skal de evalueres.
Unacceptable risici
KI-systemer med unacceptable risici er systemer, der betragtes som en trussel mod mennesker og vil blive forbudt. De inkluderer:
- kognitiv adfærdsmanipulation af personer eller særlige sårbare grupper f.eks. stemmeaktiveret legetøj, der opfordrer til en farlig adfærd hos børn.
- social klassificiering: Klassificering af personer baseret på adfærd, socioøkonomisk status eller personlig karakteristik.
- realtids- og eksterne biometriske identifikationssystemer som ansigtsgenkendelse
Nogle undtagelser kan blive tilladt: For eksempel eksterne biometriske identifikationssystemer, der ankommer senere, og hvor der opstår en markant forsinkelse, vil blive tilladt til at retsforfølge alvorlig kriminalitet og kun efter retslig godkendelse.
Højrisiko
KI-systemer, der negativt påvirker sikkerheden eller grundlæggende rettigheder, vil blive betragtet som højrisiko og vil blive inddelt i to kategorier.
1. KI-systemer, der bruges i produkter, der kommer under EU’s produktsikkerhedslovgivning. Dette inkluderer legetøj, luftfart, biler, medicinsk udstyr og lifte.
2. KI-systemer, der kommer ind under otte særlige områder, der skal registreres i en EU-database:
- biometrisk identifikation og kategorisering af fysiske personer
- håndtering og betjening af kritisk infrastruktur
- uddannelse og erhvervsrettet oplæring
- beskæftigelse, arbejdstagerhåndtering og adgang til selvstændig beskæftigelse
- adgang til og glæde af vigtige private tjenester, offentlige tjenester og ydelser
- retshåndhævelse
- migration, asyl og håndtering af grænsekontrollen
- assistance i den juridiske fortolkning og anvendelse af loven.
Alle højrisiko KI-systemer vil blive evalueret, før de kommer på markedet og gennem deres livscyklus.
Genererende KI
Genererende KI som ChatGPT skal leve op til gennemsigtighedskrav:
- oplyse at indholdet var genereret af KI
- designe modellen til at forebygge, at det genererer ulovligt indhold
- udgive resuméer om copyrightdata brugt til oplæringen
Begrænset risiko
KI-systemer med begrænset risiko skal leve op til mindre krav om gennemsigtighed, der gør det muligt for forbrugerne at træffe informerede beslutninger. Efter at have interageret med applikationerne kan brugerne bestemme, om de ønsker at fortsætte med at bruge dem. Brugerne skal være klar over det, når de interagerer med KI. Det inkluderer KI-systemer, der genererer og manipulerer med et billede, lyd eller videoindhold (f.eks. deepfakes).
Næste skridt
Den 14. juni 2023 vedtog MEP’erne deres forhandlingsposition. Forhandlinger med EU-landene i Rådet om den endelige udforming af lovgivningen kan nu påbegyndes.
Målet er at nå frem til en aftale ved udgangen af i år.
