Musk savjetuje: Pitajte AI za drugo mišljenje. Grok uzvraća: Nisam liječnik
Nakon što je Musk pozvao korisnike da AI-ju povjere medicinske podatke, Grok mu javno proturječi i upozorava da nije kvalificiran za davanje zdravstvenih savjeta.
Milijarder Elon Musk i njegov chatbot za umjetnu inteligenciju Grok ovoga su tjedna došli u svojevrsni sukob, nakon što je bot reagirao na Muskove opetovane savjete korisnicima da učitavaju osobne medicinske podatke kako bi od tehnologije dobili “drugo mišljenje”. Grok je upozorio korisnike da to ne čine te poručio da nije kvalificiran za davanje medicinskih savjeta.
Tijekom protekle godine Musk je više puta poticao ljude da koriste Grok, koji je razvila njegova tvrtka xAI, kako bi zatražili drugo mišljenje ili medicinski savjet. Podijelio je i nekoliko svjedočanstava korisnika koji tvrde da im je bot pomogao riješiti zdravstveni problem.
No ovoga je tjedna, nakon što je Musk poručio ljudima da “jednostavno fotografiraju medicinske nalaze ili učitaju datoteku kako bi dobili drugo mišljenje od Groka2, chatbot reagirao drugačije.
Proturječne informacije
Na pitanje jednog korisnika u komentarima ispod Muskove objave je li Grok obvezan poštovati američke zakone o zaštiti medicinske privatnosti (HIPAA), Grok je odgovorio da nije te je odvratio ljude od korištenja alata za medicinske savjete.
“Iako Grok može analizirati učitane podatke i pružiti uvide, nije medicinski stručnjak niti je usklađen s HIPAA propisima. Elonova objava ističe mogućnosti, ali snažno preporučujemo da ne dijelite osjetljive informacije i da se za mišljenje obratite liječnicima”, poručio je Grok, dodajući kako “nije zamjena za profesionalni medicinski savjet”.
Nekoliko korisnika istaknulo je da je Grokov komentar u suprotnosti s onim što Musk javno promiče, no milijarder nije odgovorio na reakciju umjetne inteligencije.
Istraživanja velikih jezičnih modela i chatbotova poput ChatGPT-a, Llamae i drugih pokazala su da nisu osobito pouzdani u točnom i dosljednom postavljanju dijagnoza. Jedna je studija utvrdila da botovi često daju proturječne informacije, a u nekim slučajevima i potpuno različite odgovore različitim korisnicima koji su im predočili identične podatke. Sveukupno, istraživači su zaključili da umjetna inteligencija nije bila uspješnija u postavljanju točne dijagnoze od osoba koje su jednostavno same pretraživale problem na Googleu.
Spašavali živote
Članak objavljen ovoga tjedna u ScienceNewsu navodi da chatbotovi u laboratorijskim uvjetima mogu postavljati dijagnoze s visokom razinom točnosti (u oko 95% slučajeva), no ta stopa dramatično pada – na manje od 35 posto – kada ljudi u razgovornom obliku opisuju vlastite zdravstvene situacije.
Unatoč tome, neki su pojedinci prijavili pozitivna iskustva. Musk je više puta dijelio priču o muškarcu iz Norveške, poznatom pod korisničkim imenom u/Tykjen na Redditu, koji tvrdi da mu je Grok spasio život prepoznavši puknuće slijepog crijeva koje su liječnici u hitnoj službi prvotno pogrešno dijagnosticirali.
Natallia Tarrien iz Južne Karoline bila je u osmom mjesecu trudnoće kada je, kako kaže, pitala ChatGPT: “Zašto mi je čeljust zategnuta?” Bot joj je savjetovao da izmjeri krvni tlak, koji je bio opasno povišen, te da nazove hitnu pomoć. Dijagnosticirana joj je po život opasna preeklampsija i istoga dana je potaknut porod. Druga žena, Lauren Bannon, pripisuje ChatGPT-u zasluge za otkrivanje raka štitnjače, nakon što su joj liječnici isprva rekli da ima artritis.
Prema istraživanju organizacije KFF, jedan od šest odraslih koristi AI chatbot za traženje informacija barem jednom mjesečno.
Mary Whitfill Roeloffs, novinarka Forbesa (link na originalan članak)
