“Kum AI-a” otkriva može li čovječanstvo preživjeti superinteligentnu umjetnu inteligenciju
Geoffrey Hinton, poznat kao “kum umjetne inteligencije” boji se da bi tehnologija koju je pomogao izgraditi mogla uništiti čovječanstvo.
Dobitnik Nobelove nagrade za fiziku za 2024. i bivši direktor Googlea, u prošlosti je upozoravao da postoji 10% do 20% šanse da će umjetna inteligencija uništiti ljude. Izrazio je sumnju u to kako tehnološke tvrtke tvrde da pokušavaju osigurati da ljudi ostanu dominantni nad podložnim sustavima umjetne inteligencije.
“To neće uspjeti. Bit će puno pametniji od nas. Imat će svakakve načine da to zaobiđu“, rekao je Hinton na Ai4, industrijskoj konferenciji u Las Vegasu, prenosi CNN.
“Sustavi umjetne inteligencije mogli bi kontrolirati ljude”
Hinton je upozorio da bi u budućnosti sustavi umjetne inteligencije mogli kontrolirati ljude jednako lako kao što odrasla osoba može podmititi trogodišnjaka slatkišima. Ove godine već smo vidjeli primjere sustava umjetne inteligencije koji su spremni obmanjivati i varati kako bi postigli svoje ciljeve. Na primer, jedan model umjetne inteligencije pokušao je ucijeniti inženjera zbog afere o kojoj je saznao u e-poruci.
Umjesto prisiljavanja umjetne inteligencije da se podredi ljudima, Hinton je predstavio intrigantno rješenje – ugradnju “majčinskih instinkta” u modele umjetne inteligencije, tako da im je stvarno stalo do ljudi čak i kada tehnologija postane moćnija i pametnija od drugih.
“Sustavi umjetne inteligencije vrlo brzo će razviti dva podcilja, ako su pametni. Jedan je ostati živ, dok je drugi podcilj dobiti više kontrole“, rekao je Hinton. “Postoji dobar razlog vjerovati da će bilo koja vrsta umjetne inteligencije pokušati ostati živa.“
“Važno je poticati empatiju”
Zato je važno poticati osjećaj suosjećanja prema ljudima, tvrdi Hinton. Na konferenciji je istaknuo da majke imaju instinkte i društveni pritisak da brinu o svojim bebama.
“Pravi model je jedini model koji imamo, gdje inteligentniju stvar kontrolira manje inteligentna stvar. U ovom slučaju to je majka koju kontrolira njezina beba.” Rekao je da mu nije jasno kako se to tehnički može izvesti, ali je naglasio da na tome rade ključni istraživači.
“To je jedini dobar ishod. Ako me neće odgajati kao roditelja, zamijenit će me”, rekao je. “Većina ovih superinteligentnih brižnih majki s umjetnom inteligencijom neće se htjeti riješiti majčinskog instinkta jer ne žele da umremo.”
Hinton je poznat po svom pionirskom radu na neuronskim mrežama, koji je pomogao utrti put današnjem procvatu umjetne inteligencije. Godine 2023. odstupio je s pozicije direktora Googlea i počeo govoriti o opasnostima umjetne inteligencije.
Emmett Shear, koji je kratko bio privremeni izvršni direktor OpenAI-ja, vlasnika ChatGPT-a, rekao je da ga ne iznenađuje što su neki AI sustavi pokušali ucjenjivati ljude ili zaobići naredbe o gašenju.
“Ovo se stalno događa i neće se prestati događati“, rekao je Shear, izvršni direktor startupa za usklađivanje umjetne inteligencije Softmax, na konferenciji Ai4. “Umjetne inteligencije danas su relativno slabe, ali jako brzo postaju sve jače.“
Shear je rekao da bi, umjesto pokušaja usađivanja ljudskih vrijednosti u sustave umjetne inteligencije, pametniji pristup bio stvaranje suradničkih odnosa između ljudi i umjetne inteligencije.
Umjetna inteligencija raste brže nego što se očekivalo
Mnogi stručnjaci vjeruju da će umjetna inteligencija u nadolazećim godinama postići superinteligenciju, poznatu i kao opća umjetna inteligencija ili AGI.
Hinton je rekao da je prije mislio da bi moglo proći 30 do 50 godina da se postigne AGI, ali sada vidi da će taj trenutak doći ranije. “Vjerojatno će biti između pet i 20 godina“, rekao je.
Iako je Hinton i dalje zabrinut zbog onoga što bi moglo poći po zlu s umjetnom inteligencijom, nada se da će tehnologija utrti put medicinskim otkrićima.
“Vidjet ćemo nastajanje novih lijekova. Dobit ćemo puno bolji tretman za rak”, rekao je. Dodao je da će umjetna inteligencija pomoći liječnicima da pročešljaju i povežu ogromne količine podataka dobivenih magnetskom rezonancijom i CT snimkama.
Međutim, Hinton ne vjeruje da će umjetna inteligencija pomoći ljudima da postignu besmrtnost.
“Ne vjerujem da ćemo živjeti vječno. Mislim da bi vječni život bila velika pogreška. Želite li da svijetom upravljaju bijelci stari 200 godina?”, rekao je.
Na pitanje bi li išta drugačije napravio u svojoj karijeri da je znao da će se umjetna inteligencija toliko ubrzati, Hinton je rekao da žali što se isključivo usredotočio na to da umjetna inteligencija funkcionira.
“Volio bih da sam razmišljao i o sigurnosnim pitanjima“, rekao je.
