EU-lovgivning for å beskytte innbyggerne mot KI

Det er et ordtak som sier at ny teknologi ofte blir oppfunnet i USA, produsert i Kina og regulert i Europa.

Om dette alltid er tilfelle – og hvor effektiv lovgivningen i så fall er – gjenstår å se, men det som er sikkert, er at EU nå innfører lovgivning for å beskytte innbyggerne mot de negative konsekvensene av kunstig intelligens.

Den nye såkalte regulering av kunstig intelligens (artificial intelligence act) har nettopp blitt vedtatt av Det europeiske råd og vil tre i kraft før sommerferien.

Det ledende prinsippet i forordningen er at KI-teknologier skal kategoriseres etter hvor stor potensiell risiko en gitt teknologi utgjør for samfunnet. Jo større risiko, desto strengere regler.

Kunstig intelligens som kun utgjør en begrenset risiko, vil være underlagt svært enkle krav om åpenhet, mens kunstig intelligens med høy risiko vil bli godkjent, men underlagt en rekke krav og forpliktelser for å få tilgang til EU-markedet.

Vedtaket av KI-loven er en viktig milepæl for EU. Denne banebrytende loven, den første i sitt slag i verden, tar for seg en global teknologisk utfordring som også skaper muligheter for samfunnene og økonomiene våre. Med KI-loven understreker Europa viktigheten av tillit, åpenhet og ansvarlighet i forbindelse med ny teknologi, samtidig som vi sikrer at denne teknologien, som er i rask endring, kan blomstre og fremme europeisk innovasjon.» sier Mathieu Michel, Belgias digitaliseringsminister, i en pressemelding om den nye lovgivningen.

KI-teknologier som kognitiv atferdsmanipulering eller sosial scoring vil bli fullstendig forbudt i EU fordi risikoen anses som uakseptabel.

Loven forbyr også bruk av kunstig intelligens til såkalt prediktiv politiarbeid (tenk «Minority Report») basert på profilering og systemer som bruker biometriske data til å kategorisere mennesker i henhold til spesifikke kategorier som rase, religion eller seksuell legning.

Peter Gotschalk

(f. 1973): Sjefredaktør L&B Home. Peter har arbeidet for Lyd & Bilde siden 2012. Han har vært aktiv som tech-journalist for tallrike medier siden 1998, blant annet som sjefredaktør for gadgetmagasinet GEAR og som journalist for magasinene PC World og Privat Computer. Peter skriver om smartmobiler og andre bærbare enheter samt om teknologisk innovasjon, inkludert 5G, elektrisk mobilitet og smarte hjem.