Turing-prisvinnerne er bekymret for sikkerheten ved kunstig intelligens

Store språkmodeller som ChatGPT har revolusjonert utviklingen av kunstig intelligens. Men selskapene bak dem er så opptatt av å telle hvor mange milliarder dollar de plutselig er verdt, at de glemmer å se på farene teknologien også innebærer. Mangelen på sikkerhetsprosedyrer er som å teste holdbarheten til en bro ved å sende biler ut på den – og se om den kollapser.

Kritikken kommer fra to av de som burde vite mest om emnet: Andrew Barto, forsker ved University of Massachusetts, og Richard Sutton, tidligere forsker ved Google-eide DeepMind. Dette skriver teknologimagasinet The Verge. De to forskerne har nettopp mottatt årets Turing Award.

Turing-prisen regnes uoffisielt som informatikkens svar på Nobelprisen, og de to fikk prisen for sitt arbeid med å utvikle Reinforcement Learning, som handler om å trene opp kunstig intelligens. Metoden går ut på at en observatør belønner riktige resultater under treningen, slik at den kunstige intelligensen finner det ønskede regelsettet (ikke ulikt å trene opp en hundevalp).

Andrew Barto har sagt i et intervju i Financial Times at AI-selskaper forsømmer å se på sikkerhet:

“Å gi millioner av brukere tilgang til programvare uten å ha sikkerheten på plass strider mot all god praksis. I ingeniørarbeid bør man normalt ta forholdsregler mot de negative konsekvensene – og det skjer ikke i selskapene som utvikler KI.”

Det er ikke første gang Turing-vinnere kritiserer AI-giganter for å forsømme sikkerheten. Yoshua Bengio og Geoffey Hinton, som vant sammen i 2019, har begge påpekt at arbeidet med å utvikle generell kunstig intelligens (AGI) risikerer å skape en superintelligens som kan skade menneskeheten. Enten for sine egne agendaer eller i hendene på mennesker med ondsinnede hensikter.

Kilde: The Verge