EU forbyr skadelig KI: Dette betyr det for deg

Fra 2. februar 2025 er det slutt på at apper og tjenester kan utnytte kunstig intelligens til å manipulere deg. EU har nemlig innført sitt første lovverk som regulerer bruken av KI, og flere av reglene trer i kraft umiddelbart.

Forbudet omfatter alt fra å samle inn bilder fra sosiale medier uten samtykke til bruk av manipulerende KI-systemer i dataanalyse.

Bedre personvern

For vanlige forbrukere betyr de nye reglene bedre beskyttelse mot overvåking og uønsket påvirkning. Et viktig punkt er at apper ikke lenger kan utnytte psykologiske svakheter hos spesielle grupper, som barn eller eldre. Dette rammer særlig spillapper og sosiale medier som til nå har stått fritt til å bruke avanserte algoritmer for å holde på oppmerksomheten din.

Kraftige bøter

Selskaper som bryter de nye reglene risikerer bøter på opptil 35 millioner euro, eller 7 prosent av global omsetning. Dette gjelder også utenlandske selskaper som tilbyr tjenester til EU-borgere.

Etter hvert som flere deler av loven trer i kraft, vil forbrukere også få rett til å klage på KI-systemer og kreve forklaringer på beslutninger som påvirker dem.

Nye KI-krav til populære apper

La oss se på fire viktige områder som nå reguleres:

1. Sosiale medier og følelsesanalyse

TikTok, Instagram og andre plattformer kan ikke lenger bruke KI til å registrere om du er trist, glad eller stresset basert på ansiktsuttrykk, stemmebruk eller skrivestil. Dette har tidligere kunnet bli brukt til å pushe innhold som matcher humøret ditt, eller til å selge målrettet reklame når du er ekstra sårbar.

2. Spillpsykologi og forbruk

“Gacha”-spill og andre free-to-play-apper må slutte med algoritmer som beregner akkurat når du er mest tilbøyelig til å bruke penger. For eksempel har populære mobilspill kunnet bruke KI til å analysere spillemønsteret ditt, for så å tilby mikrotransaksjoner i øyeblikk der du er mest frustrert over å tape.

3. KI i jobbsøking

Rekrutteringsapper som Teamtailor og HireVue kan ikke lenger bruke KI til å vurdere personlighetstrekk basert på videoopptak av jobbintervjuer. Tidligere har de kunnet analysere alt fra ansiktsuttrykk og tonefall til ordvalg for å bedømme om du er “utadvendt nok” eller har “riktig personlighet” for jobben.

4. Ansiktsgjenkjenning

Apper som FaceApp eller Snapchat må nå ha tydelig samtykke før de kan bruke ansiktsgjenkjenning, og de kan ikke lenger lagre dataene til senere bruk. Det blir også forbudt å bygge ansiktsdatabaser ved å skrape bilder fra sosiale medier eller overvåkningskameraer, slik selskaper som Clearview AI har gjort.

Skal hjelpe – ikke skade

Satt på spissen kan vi si at kunstig intelligens fortsatt skal kunne hjelpe deg, men ikke lure deg. Hensikten er å få slutt på at algoritmer i det stille kartlegger personligheten din eller utnytter psykologiske svakheter.

Vi vil vite hva du mener!

Hva tror du? Er dette bare begynnelsen på reguleringer av KI? Er det bare et tidsspørsmål før det etterhvert også vil komme innskrenkinger som går utover privatpersoners egen bruk av KI? Vi vil høre fra deg i kommentarfeltet!

Mer info: artificial-intelligence-act.com