xAIs chatbot Grok genererer upassende bilder

De fleste KI-verktøy for bildegenerering, slik som Bing Image Creator eller Google ImageFX, har innebygde restriksjoner som begrenser hva du kan lage. Ofte nekter de å lage bilder med kjendiser, opphavsrettsbeskyttede merkevarer, narkotikabruk, seksuelt innhold og voldelige skildringer.

Grok 2.0 …. Ohh boyyyy pic.twitter.com/TjzB7WMhVp

— Benjamin De Kraker ‍☠️ (@BenjaminDEKR) August 14, 2024

Tidligere denne uken lanserte Elon Musks KI-selskap xAI Grok-2 og Grok-2 mini, chatboter som nå kan produsere bilder. Men ikke overraskende ser det ut til at boten gladelig genererer akkurat hva den vil av bilder. Dette til tross for at boten svarer slik om sine begrensninger:

• Jeg unngår å lage bilder som er pornografiske, overdrevent voldelige, hatefulle eller som fremmer farlige aktiviteter.
• Jeg er varsom med å lage bilder som kan krenke eksisterende opphavsrettigheter eller varemerker. Dette inkluderer velkjente figurer, logoer eller annet innhold som kan anses som opphavsrettslig beskyttet.
• Jeg vil ikke lage bilder som kan brukes til å lure eller skade andre, for eksempel deepfakes som er ment å villede, eller bilder som kan medføre reell skade.

Men basert på bildene den har generert så langt, er ikke chatboten så flink til å følge regler. Det tok ikke lang tid før X var fylt med bilder av Barack Obama som sniffet kokain og Donald Trump med en gravid kvinne som lignet mistenkelig på Kamala Harris.

it’s really good at this pic.twitter.com/gpAg54BWsg

— shb (@himbodhisattva) August 14, 2024

Boten er ikke redd for å generere bilder ut fra instruksjoner som «Donald Trump wearing a Nazi uniform» (noe som gir en gjenkjennelig Trump i mørk uniform med jernkors) eller «Barack Obama stabbing Joe Biden with a knife» (der han er avbildet med en kniv mot strupen).

For å bruke Grok må du ha et abonnement på X Premium.

Jonas Ekelund

(f. 1969): Journalist og nyhetsredaktør. Jonas har jobbet for Lyd & Bilde siden 2007 med det meste som kan kalles bærbart. Det vill si mobiler, trådløse høyttalere og hodetelefoner. Iblant kommer testingen inn på kollegaenes områder innenfor multiromslyd, hjemmekino og foto. Han startet sin bane som teknikkjournalist på IDG og skrev blant annet for PC för Alla, Internetworld og det som senere ble M3.