EU-lovgivning skal beskytte borgerne mod AI

Et mundheld siger, at ny teknologi ofte opfindes i USA, produceres i Kina og reguleres i Europa.

Om det altid er tilfældet – og hvor effektiv lovgivningen i givet fald er – skal vi lade være usagt, men sikkert er det i hvert fald, at EU nu er på banen med lovgivning, der skal beskytte borgerne mod negative konsekvenser af kunstig intelligens.

Den nye såkaldte forordning om kunstig intelligens (artificial intelligence act) er netop blevet vedtaget af det Europæiske Råd og vil træde i kraft før sommerferien.

Det bærende princip i forordningen er, at AI-teknologier skal opdeles i kategorier efter, hvor stor potentiel risiko en given teknologi udgør for samfundet. Jo større risiko, desto strengere bliver reglerne.

AI, der kun udgør en begrænset risiko, vil være underlagt meget lette gennemsigtighedsforpligtelser, mens kunstig intelligens med høj risiko vil blive godkendt, men underlagt en række krav og forpligtelser for at få adgang til EU-markedet.

Vedtagelsen af AI-loven er en vigtig milepæl for Den Europæiske Union. Denne skelsættende lov, den første af sin art i verden, tager fat på en global teknologisk udfordring, som også skaber muligheder for vores samfund og økonomier. Med AI-loven understreger Europa vigtigheden af tillid, gennemsigtighed og ansvarlighed i forbindelse med nye teknologier, samtidig med at det sikres, at denne hurtigt skiftende teknologi kan blomstre og sætte skub i europæisk innovation.” siger Mathieu Michel, belgisk minister for digitalisering, i en pressemeddelelse om den nye lovgivning.

AI-teknologi, der f.eks. har kognitiv adfærdsmæssig manipulation eller social scoring til formål, vil blive helt forbudt i EU, fordi deres risiko anses for at være uacceptabel.

Loven forbyder også brugen af AI til såkaldt prædiktiv politiarbejde (tænk ‘Minority Report’) baseret på profilering og systemer, der bruger biometriske data til at kategorisere mennesker i henhold til specifikke kategorier som race, religion eller seksuel orientering.

Peter Gotschalk

(f. 1973): Chefredaktør for L&B Home. Peter har arbejdet for Lyd & Billede siden 2012. Han har været aktiv som tech-journalist for talrige medier siden 1998, bl.a. som chefredaktør for gadget-magasinet GEAR og som journalist for magasinerne PC World og Privat Computer. Peter skriver om smartphones og andre bærbare enheder samt om teknologisk innovation, herunder 5G, elektronisk mobilitet og smarte hjem.