Googles AI Overviews gir farlige og unøyaktige svar

For noen dager siden, i forbindelse med utviklerkonferansen Google I/O, lanserte Google funksjonen «AI Overviews» for amerikanske brukere. Den nye søkefunksjonen skal kunne bruke sanntidsinformasjon, forstå resonnementer i flere lag og oppsummere svar fra mange ulike kilder.

Som en del av presentasjonen ble det demonstrert hvordan AI Overviews kunne svare på spørsmål som «finn de beste yogastudioene innen 10 minutter fra hjemmet mitt, og hvilke introduksjonstilbud de har».

Men bare noen dager etter at den nye søkefunksjonen, som viser svarene over de vanlige søkeresultatene, ble tilgjengelig, begynte brukere på sosiale medier å vise eksempler på at AI Overviews noen ganger kom opp med sprø svar på helt vanlige spørsmål.

Usmakelige og direkte farlige tips

En bruker spurte Google hvordan han kunne hindre osten i å gli av pizzaen sin. Svaret han fikk? Du kan blande lim i osten, så fester den seg bedre!

Google is dead beyond comparison pic.twitter.com/EQIJhvPUoI

Annonse

— PixelButts (@PixelButts) May 22, 2024

Enda verre var det at en annen bruker fikk en oppskrift på sennepsgass da han spurte om råd om hvordan han skulle rengjøre vaskemaskinen sin.

I asked how to clean my washing machine, and it told me to make chlorine gas pic.twitter.com/BniM2j1VGv

— goose queef (@Mia62651937) May 15, 2024

Kilden til tipset om å putte lim i osten? Et 11 år gammelt innlegg på det sosiale mediet Reddit fra en bruker ved navn «fucksmith».

60 millioner dollar til Reddit

Det er ikke tilfeldig at AI Overviews videreformidler et svar fra en Reddit-bruker, for i begynnelsen av året inngikk Google en avtale med Reddit, som innebærer at det sosiale mediet mottar 60 millioner dollar (nesten 636 millioner kroner) for at Google skal bruke det sosiale mediets innhold til å trene opp sine KI-modeller. Dette ble rapportert av det tyske teknologimediet Winfuture allerede i februar.

Les det med liten skrift

Men Google fraskriver seg alt ansvar for svarene AI Overviews gir brukerne. «Generative AI is experimental”, står det med liten skrift under alle KI-genererte søkeresultater, og det er derfor overlatt til brukernes eget ansvar og mediekompetanse å vurdere svarene som gis av den kunstige intelligensen.

Til The Verge svarer Meghann Farnswort, en talsperson for Google, at de aktuelle feilene stammer fra «svært uvanlige spørsmål som ikke er representative for de fleste menneskers erfaringer».

Selskapet har satt i verk tiltak mot brudd på retningslinjene, sa hun, og bruker disse «isolerte eksemplene» for å fortsette å forbedre produktet.