Google svoj AI Overviews obučava na TikToku: Rezultat je opako brkanje stvarnosti i mašte
Čini se kako Google još uvijek ima početničkih problema sa svojom značajkom AI Overviews. Ona je ranije ove godine korisnicima predlagala da na pizzu stave ljepilo ili jedu kamenje, a sada kao izvor za svoje rezultate koristi satirične snimke s društvenih mreža.
Šest mjeseci nakon što je Googleov AI model Gemini korisnicima predložio da na pizzu stave ljepilo, čini se kako značajka još uvijek ne razumije do kraja razliku između stvarnosti i mašte.
Ako ste prije par tjedana slučajno u najpoznatiju tražilicu na svijetu upisali “tko je izmislio salto unatrag”, Gemini bi vam dao sve informacije o Johnu Backflipu (Backflip = salto unatrag) koji je navodno prvi usavršio ovaj potez u Europi 1316. godine. A da ste potom u tražilicu upisali “tko je John Backflip”, Googleov AI opisao bi ga kao izumitelja te gimnastičke vještine.
U čemu je problem? U tome što te informacije dolaze iz TikTok videa američkog gimnastičara Iana Gunthera – koji je cijelu priču izmislio.
“Volim raditi satirične videe o gimnastici. Možete se glupirati i šaliti na račun sporta,” kaže Gunther za Forbes.
AI ne razumije satiru
Googleov Gemini AI kreira “pregled” (overview) koji je već šest mjeseci uklopljen na vrh rezultata pretrage, a početak je bio, blago rečeno, težak. AI Overview tvrdio je da jedenje kamenja ima nutricionističke koristi i da je Barack Obama bio prvi predsjednik SAD-a muslimanske vjeroispovijesti. Značajka je tako izazvala ne samo izrugivanje, već je postala i primjer ograničenja velikih jezičnih modela.
Gimnastičar Gunther, koji je bio dio američke gimnastičke reprezentacije, izmislio je priču o Johnu Backflipu nakon treninga u svibnju 2023. godine. “Većina pokreta u gimnastici dobila je ime po prvoj osobi koja ih je izvela na međunarodnoj sceni,” kaže on. “Otišao sam kući i izmislio glupavu priču o izumitelju salta.”
Ako ima netko tko još nije shvatio šalu, Gunther ih ima i druge primjere: kao pionire gimnastike navodi i “Henryja MuscleUpa“, “Richarda Presshandstanda” i “Alfonsa El Gripa“. Njegov video nije ostvario preveliki uspjeh na YouTubeu i TikToku i on je na njega gotovo zaboravio prije nego je u srpnju dobio poruku. “Dobio sam snimku ekrana AI rezultata i pomislio: ‘Jao, što sam napravio?’ Jesam li ja proširio dezinformacije?”
Snimke AI sažetka o Johnu Backflipu proširile su se Redditom i drugim društvenim mrežama, a čak se i ugledni Merriam-Webster morao oglasiti s ispravkom.
Googleove AI Overview pretrage o izumitelju salta sada naglašavaju kako je ovo internetski meme, ali još uvijek od riječi do riječi ponavljaju Guntherov video u pretragama o Johnu Backflipu. Forbes je testirao konkurentske AI platforme poput OpenAI-ja, Anthropica i Perplexityja i utvrdio da su one shvatile šalu ili uredno navele kako ne postoje točni izvori o prvoj osobi koja je ikada izvela salto.
Guntheru još uvijek nije jasno zašto je Google “pokupio” video. “Vjerojatno moje videe ne bi trebali koristiti za izvor ni o čemu,” kaže.
Google je dodao oznaku upozorenja na značajku
Čini se kako je video istaknuo nekoliko slabosti u dizajnu značajke Google AI Overviews. U objavi na blogu potpredsjednice Googlea Liz Reid iz svibnja stoji kako čudni rezultati poput ovog potječu iz “podatkovnih rupa” gdje nema dobrih rezultata pretrage ili gdje su jedini rezultati satirični.
“U malenom broju slučajeva smo zamijetili kako AI Overviews krivo interpretira jezik na stranicama i donosi netočne informacije. Brzo smo krenuli u rješavanje tog problema ili poboljšanjem algoritma ili putem dobro ustanovljenih procesa uklanjanja odgovora koji nisu u skladu s našim politikama,” napisala je Reid u objavi.
Dodala je kako je Google uveo zaštite koje bi trebale primijetiti apsurdne upite i umanjiti korištenje duhovitog sadržaja, ali i savjeta korisnika, pogotovo kada je riječ o vijestima ili pitanjima zdravlja. Google je također dodao oznaku upozorenja “Generativni AI je eksperimentalan” nakon pokretanja AI sažetaka.
Glasnogovornica tvrtke Olivia O’Brien za Forbes kaže: “Velika većina rezultat u AI Overviews visoke je kvalitete, a njihova točnost na istoj je razini kao i druge značajke pretrage.”
Gunther je ponovno na gimnastičkom natjecanju, ovaj put u Pragu. Kaže kako bi bio oduševljen kada bi njegova šala ostala živjeti, pogonjena umjetnom inteligencijom. “Nadam se da će se jednog dana u školama pričati o Johnu Backflipu,” šali se on.
Autor originalnog članka: Iain Martin, Forbes
Link: Google’s Training Its AI Overviews On TikTok. It’s Going As Well As You Would Expect
(Prevela: Nataša Belančić)
