Fra den 2. februar 2025 vil apps og tjenester ikke længere kunne bruge kunstig intelligens til at manipulere med dig. EU har indført sin første lovgivning, der regulerer brugen af AI, og flere af reglerne træder i kraft med det samme.
Forbuddet dækker alt fra indsamling af billeder fra sociale medier uden samtykke til brug af manipulerende AI-systemer i dataanalyse.
Bedre beskyttelse af privatlivets fred
For almindelige forbrugere betyder de nye regler en bedre beskyttelse mod overvågning og uønsket påvirkning. Det er vigtigt, at apps ikke længere kan udnytte de psykologiske svagheder hos bestemte grupper, f.eks. børn eller ældre. Det påvirker især spilapps og sociale medier, som indtil nu frit har kunnet bruge avancerede algoritmer til at fastholde din opmærksomhed.
Store bøder
Virksomheder, der overtræder de nye regler, risikerer bøder på op til 35 millioner euro eller 7 procent af deres globale omsætning. Dette gælder også for udenlandske virksomheder, der tilbyder tjenester til EU-borgere.
Efterhånden som flere dele af loven træder i kraft, vil forbrugerne også have ret til at klage over AI-systemer og kræve forklaringer på beslutninger, der påvirker dem.
Nye AI-krav til populære apps
Lad os se på fire nøgleområder, der nu er reguleret:
1. Sociale medier og følelsesanalyse
TikTok, Instagram og andre platforme vil ikke længere kunne bruge AI til at genkende, om du er ked af det, glad eller stresset baseret på dit ansigtsudtryk, din stemme eller din skrivestil. Det kunne tidligere bruges til at pushe indhold, der matcher dit humør, eller til at sælge målrettet reklame, når du er særligt sårbar.
2. Spilpsykologi og forbrug
“Gacha”-spil og andre free-to-play-apps skal holde op med at bruge algoritmer, der beregner præcis, hvornår du er mest tilbøjelig til at bruge penge. For eksempel har populære mobilspil været i stand til at bruge AI til at analysere dine spillemønstre og derefter tilbyde mikrotransaktioner på tidspunkter, hvor du er mest frustreret over at tabe.
3. AI i jobsøgningen
Rekrutteringsapps som Teamtailor og HireVue kan ikke længere bruge AI til at vurdere personlighedstræk baseret på videooptagelser af jobsamtaler. Tidligere kunne de analysere alt fra ansigtsudtryk og tonefald til ordvalg for at bedømme, om du er “udadvendt nok” eller har den “rigtige personlighed” til jobbet.
4. Ansigtsgenkendelse
Apps som FaceApp eller Snapchat skal nu have et klart samtykke, før de kan bruge ansigtsgenkendelse, og de kan ikke længere gemme dataene til senere brug. Opbygning af ansigtsdatabaser ved at skrabe billeder fra sociale medier eller overvågningskameraer, som virksomheder som Clearview AI har gjort, bliver også forbudt.
Skal hjælpe – ikke skade
Kort sagt kan kunstig intelligens stadig hjælpe dig, men den må ikke narre dig. Ikke flere algoritmer, der i stilhed kortlægger din personlighed eller udnytter psykologiske svagheder.
Vi vil gerne vide, hvad du synes!
Hvad tror du selv? Er dette kun begyndelsen på en regulering af AI? Er det kun et spørgsmål om tid, før der også kommer restriktioner, som går ud over privatpersoners egen brug af AI? Vi vil gerne høre fra dig i kommentarfeltet!
Mere info: artificial-intelligence-act.com
