- Parlamentet ønsker et fuldstændigt forbud mod kunstig intelligens (AI) inden for biometrisk overvågning, følelsesgenkendelse og forudsigende politiarbejde
- Generative AI-systemer som ChatGPT skal oplyse, at deres indhold er AI-genereret
- AI-systemer, der bruges til at påvirke vælgerne ved valg, anses for at udgøre en høj risiko
Reglerne skal fremme udbredelsen af menneskecentreret og pålidelig AI og sikre, at dens skadelige virkninger ikke går ud over sundhed, sikkerhed, grundlæggende rettigheder og demokratiet.
Onsdag vedtog Europa-Parlamentet sin forhandlingsposition vedrørende forordningen om kunstig intelligens (AI) med 499 stemmer for, 28 imod og 93 hverken/eller forud for drøftelserne med medlemslandene om forordningens endelige udformning. Reglerne vil sikre, at AI, der udvikles og bruges i EU, er i fuld overensstemmelse med EU’s rettigheder og værdier, blandt andet menneskelig kontrol, sikkerhed, privatlivets fred, åbenhed, ligebehandling og social og miljømæssig velfærd.
Forbudt AI-praksis
Reglerne følger en risikobaseret tilgang og fastsætter forpligtelser for udbydere og dem, der anvender AI-systemer som afhænger af det risikoniveau, som AI kan skabe. AI-systemer, der medfører en uacceptabelt høj risiko for menneskers sikkerhed, vil derfor være forbudt, f.eks. dem, der anvendes til social scoring (klassificering af personer på grundlag af deres sociale adfærd eller personlige karakteristika). Parlamentet udvidede sin liste, så den også omfatter forbud mod indgribende og diskriminerende anvendelser af AI, som f.eks.:
- systemer til biometrisk fjernidentifikation i realtid og efterfølgende biometrisk fjernidentifikation på offentlige steder
- biometriske kategoriseringssystemer, der anvender følsomme karakteristika (f.eks. køn, race, etnicitet, statsborgerskabsstatus, religion eller politisk orientering)
- forudsigende politisystemer (baseret på profilering, placering eller tidligere kriminel adfærd)
- systemer til følelsesgenkendelse inden for retshåndhævelse, grænseforvaltning, arbejdspladser og uddannelsesinstitutioner
- ikke-målrettet indsamling af ansigtsbilleder fra internettet eller optagelser fra kameraovervågning for at oprette ansigtsgenkendelsesdatabaser (en overtrædelse af menneskerettighederne og retten til privatlivets fred).
Højrisiko-AI
Parlamentet sikrede, at klassificeringen af højrisikoapplikationer nu vil omfatte AI-systemer, der udgør en betydelig fare for menneskers sundhed, sikkerhed, grundlæggende rettigheder og miljøet. AI-systemer, der anvendes til at påvirke vælgerne og valgresultaterne samt i anbefalingssystemer, der bruges på sociale medieplatforme (med over 45 millioner brugere), er blevet føjet til højrisikolisten.
Regler for AI til generelle formål
Udbydere af AI-systemer til generelle formål – en ny gren inden for AI i hurtig udvikling – vil skulle vurdere og afbøde mulige risici (for sundhed, sikkerhed, grundlæggende rettigheder, miljø, demokrati og retsstatsprincippet) og registrere deres systemer i EU-databasen, før disse frigives på EU-markedet. Generative AI-systemer baseret på sådanne modeller, som ChatGPT, vil skulle overholde en række gennemsigtighedskrav (ved at angive, at indholdet er AI-genereret), og hjælper også med at skelne såkaldte deep-fake billeder fra ægte billeder og sørge for sikkerhedsforanstaltninger, der forhindrer generering af ulovligt indhold. Detaljerede oversigter over de ophavsretligt beskyttede data, der bruges til at træne systemerne, skal også gøres offentligt tilgængelige.
Støtte til innovation og beskyttelse af borgernes rettigheder
For at fremme innovation inden for AI og støtte SMV’erne tilføjede Parlamentet undtagelser for forskningsaktiviteter og AI-komponenter, der leveres med open source-licenser. Den nye forordning fremmer såkaldte reguleringsmæssige sandkasser, eller miljøer i det virkelige liv, der oprettes af offentlige myndigheder for at teste et AI-system, inden det udbredes.
Endelig ønsker Parlamentet at styrke borgernes ret til at indgive klager over AI-systemer og modtage forklaringer på afgørelser baseret på højrisiko-AI-systemer, der i væsentlig grad påvirker deres grundlæggende rettigheder. Parlamentet har også ændret rollen for EU’s AI-kontor, som vil få til opgave at overvåge, hvordan AI-regelsættet implementeres.
Citater
Efter afstemningen sagde medordfører Brando Benifei (S&D, Italien): “Alle øjne er rettet mod os i dag. Mens store teknologivirksomheder slår alarm over deres egne kreationer, er Europa gået videre og har foreslået en konkret reaktion på de risici, som kunstig intelligens er begyndt at udgøre. Vi ønsker, at AI’s positive potentiale for kreativitet og produktivitet udnyttes, men vi vil også kæmpe for at beskytte vores position og imødegå farerne for vores demokratier og frihedsrettigheder under forhandlingerne med Rådet”.
Medordfører Dragos Tudorache (Renew, Rumænien) sagde: “Retsakten om kunstig intelligens vil sætte tonen på verdensplan i udviklingen og forvaltningen af kunstig intelligens og sikre, at denne teknologi radikalt omdanner vores samfund gennem de massive fordele, den kan tilbyde, udvikler sig og anvendes i overensstemmelse med de europæiske værdier demokrati, grundlæggende rettigheder og retsstatsprincippet”.
