DeepSeek: Kinesiske AI for god til å være sann?

Mens OpenAI brukte mellom 100 millioner og 1 milliard dollar bare på å trene GPT-4, pluss hundrevis av millioner i maskinvare, hevder det kinesiske AI-selskapet DeepSeek at de kan oppnå lignende resultater for bare 5,5 millioner dollar totalt. Dette skal de klare med kun 2048 Nvidia-brikker, mot OpenAIs estimerte 10.000-30.000 enheter.

Historien har lært oss å være varsomme med store løfter, ikke minst fra øst. I 1959 skrøt Sovjetunionen av å bygge atomraketter “som pølser”. USA tok påstandene på alvor og rustet kraftig opp. Senere viste det seg at Sovjet bare hadde fire raketter som faktisk virket. Lignende mønstre har vi sett med Nord-Koreas militærteknologiske påstander.

Hva er DeepSeek?

DeepSeek er først og fremst en språkmodell som kan føre samtaler, skrive tekster og løse mange språkbaserte oppgaver. På enkelte språktester matcher den vestlige konkurrenter. Men den har også klare begrensninger – den kan for eksempel ikke lese PDF-filer eller forstå bilder. Derimot kan du gå tilbake og fortsette på tidligere samtaler.

Siden DeepSeeks AI ikke er tilknyttet internett, hallusinerer den ofte frem falske svar der kunnskapen stopper. Vi har alle forsøkt å spørre en AI om oss selv. Mens ChatGPT og Gemini kan fortelle meg hvem jeg er med god nøyaktighet, beklager Claude med å si at den ikke vet. DeepSeek, derimot, hevder at jeg er en oppdiktet karakter – en katt, ført i pennen av Ingvar Ambjørnsen. Akk og ve.

Kinesisk AI og personvern

Det mest bekymringsfulle er hvordan DeepSeek håndterer informasjon. Alt lagres på servere i Kina, hvor myndighetene har full tilgang. Den kinesiske AI-en sensurerer også aktivt innhold om følsomme temaer som Tiananmen-massakren, Taiwan-konflikten – og til og med Ole Brumm. Svar på slike spørsmål blir raskt slettet og erstattet med standardunnskyldninger.

DeepSeek står i en særstilling siden selskapet er delvis eid av den kinesiske staten. Dette betyr at vanlige markedsregler ikke gjelder – staten kan subsidiere driften så lenge de vil. Men vi må også være kritiske til vestlige AI-selskaper som OpenAI, Google og Microsoft. De styres av sterke markedskrefter og vil alltid prioritere profitt.

Forskjellen er at vestlige selskaper opererer i åpne demokratier med pressefrihet og uavhengige tilsyn. Dette gjør det lettere å avdekke og kritisere problematisk praksis. I Kina kontrollerer staten både mediene og tilsynsorganene.

*oppdatering* Nye avsløringer endrer bildet

Nylig kom det fram oppsiktsvekkende påstander fra Scale AI-grunnlegger Alexandr Wang: DeepSeek skal angivelig ha tilgang til over 50 000 Nvidia H100-brikker som de ikke kan snakke om, på grunn av amerikansk eksportkontroll. Om dette stemmer, setter det DeepSeeks uttalelser i et helt nytt lys.

Påstanden om at de bare bruker 2048 H800-brikker kan være et forsøk på å skjule deres faktiske kapasitet. Med 50 000 H100-brikker vil DeepSeek antakelig ha betydelig større regnekraft enn ChatGPT. Dette gjør ikke modellen deres mer energieffektiv – tvert imot kan det bety at de bruker langt mer ressurser enn de hevder.

Dette forsterker bekymringen om DeepSeeks troverdighet og gjennomsiktighet. Det antyder også at selskapet har funnet måter å omgå amerikanske eksportrestriksjoner på, noe som reiser nye sikkerhetspolitiske spørsmål.

Regulering nødvendig

Streng regulering av AI, uansett opphav, blir nødvendig i årene som kommer. Både for å beskytte personvern og hindre misbruk. Særlig bekymringsfullt er hvordan AI kan brukes til å spre feilinformasjon. Språkmodeller kan generere overbevisende, men falske nyhetsartikler på sekunder. De kan lage “deepfake” videoer som er nesten umulige å skille fra ekte opptak, og spre desinformasjon i stor skala på sosiale medier.

Her har vestlige land en fordel gjennom sine demokratiske systemer og frie medier, som kan avdekke og motvirke slik manipulasjon. Men avsløringene om DeepSeeks angivelig skjulte datakapasitet viser hvor vanskelig det kan være å få innsyn i hva statlig kontrollerte selskaper fra autoritære regimer egentlig driver med. Når slike aktører får tilgang til kraftig AI-teknologi, og samtidig aktivt skjuler sine ressurser og kapasiteter, blir trusselen mot demokratiske prosesser enda mer alvorlig.

Kina har allerede brukt AI-verktøy til å påvirke valg i andre land, spre propaganda og manipulere offentlig debatt. Med DeepSeek får de enda et kraftig verktøy i sitt teknologiske arsenal.

Mer info: chat.deepseek.com

Kilder:

• Forbes
• Reuters
• Medium