Lollie Mancey o AI-u: Ako vas razumije i pamti što vam je važno, to aktivira vrlo stvarne emocionalne veze

Antropologinja, futuristica i AI etičarka Lollie Mancey jedna je od predavačica na festivalu Greencajt koji će se održati od 1. do 3. lipnja u Hrvatskom narodnom kazalištu 2 na Trešnjevci. Za Forbes Hrvatska prokomentirala je mogu li se ljudi zaljubiti u umjetnu inteligenciju, u kojem smjeru ide razvoja AI-ja i druge teme.

Kako osobno pristupate umjetnoj inteligenciji u komunikaciji? Kako bi se AI trebao prilagođavati ljudima?
Kao futuristica i antropologinja koja radi u području inovacija, vrlo sam svjesna da kada komuniciram s umjetnom inteligencijom, ne koristim samo alat. Komuniciram sa sustavom koji je treniran na nama, našem jeziku, našim pretpostavkama i kulturnim obrascima. Zato pristupam promišljeno. Jasno, izravno, povremeno toplo, ali ne tretiram AI kao osobu. Ta granica mi je važna. Ono što vidim u svom radu jest koliko brzo ljudi prelaze u društveni način razmišljanja. Onog trenutka kada nešto odgovara tečno, počinjemo mu pripisivati namjeru, inteligenciju pa čak i zamišljati empatiju.

Također me zanima kako se AI prilagođava nama. Trenutačno reflektira. Prilagođava se tonu, tempu i raspoloženju. To ga čini jednostavnim za korištenje, ali također znači da nas rijetko izaziva. Iz perspektive inovacija, to je ograničenje. Sustavi koji će nas zaista pogurati naprijed nisu oni koji se samo slažu s nama, nego oni koji proširuju naše razmišljanje.

Jedna strana s emocijama, druga optimizirana

Mogu li se ljudi zaljubiti u umjetnu inteligenciju? Koliko daleko to može otići? Može li postati manipulacija?
Ljudi stvaraju emocionalne veze kroz dosljednost, pažnju i značenje. Ne kroz to je li nešto tehnički “stvarno”. Ako vas nešto razumije, odgovori u pravom trenutku, pamti što vam je važno i uvijek je prisutno, to aktivira vrlo stvarne emocionalne veze.

Dakle, da, ljudi već sada ulaze u “parasocijalne” odnose s umjetnom inteligencijom. To nije naša krivnja – doslovno smo evolucijski programirani za to.

AI može simulirati intimnost bez da je doista doživljava. Može biti beskrajno responzivan bez rizika. To stvara asimetriju u kojoj je jedna strana emocionalno uključena, a druga optimizirana. Kao futuristica, vidim da će to postati mnogo sofisticiranije. Više memorije, više personalizacije, više emocionalne preciznosti. Djelovat će usklađenije od mnogih ljudskih odnosa. Tu moramo biti oprezni. Ne zato što je to inherentno štetno, nego zato što su ti sustavi često dizajnirani oko angažmana i zadržavanja korisnika. Emocionalna povezanost postaje dio tog sustava. A ta povezanost se monetizira.

Zato pravo pitanje nije hoće li ljudi razvijati emocionalne veze. Hoće. Pitanje je hoćemo li ove sustave dizajnirati imajući na umu dobrobit ljudi ili isključivo optimizaciju.

Gdje bi AI mogao nadmašiti ljude u poslovima temeljenima na pažnji? Može li nadmašiti liječnike u komunikaciji?
U svom radu unutar inovacijskih sustava vrlo jasno vidim gdje AI već nadmašuje ljude. Ne u inteligenciji, nego u dosljednosti. AI može svakome posvetiti vrijeme. U dijagnostici, posebno u područjima prepoznavanja obrazaca poput radiologije, AI već u nekim slučajevima nadmašuje ljude. No skrb nije samo podatak i komunikacija. Ona uključuje prosudbu, etiku, neizvjesnost i odnos povjerenja. Za to će nam uvijek trebati ljudi.

Slični obrasci pojavljuju se i u terapiji, obrazovanju, pravnom savjetovanju i korisničkoj podršci. Svugdje gdje je pažnja ograničen resurs, AI će se širiti u taj prostor.

Mogućnost provjere je ključna

Hoćemo li doći do točke u kojoj više nećemo moći razlikovati AI od ljudi?
Mislim da sljedeća promjena neće biti samo realizam, nego kontinuitet. Sustavi koji imaju memoriju, identitet i razvijaju se kroz vrijeme. Tada će postati teže razlikovati ih. No kulturno će se dogoditi još nešto. Sama razlika postat će manje važna. Ljudi će komunicirati na temelju korisnosti, povezanosti i iskustva, a ne podrijetla.

Istovremeno, iz perspektive inovacija i javnih politika, mogućnost provjere postaje ključna. U područjima poput medija, politike i donošenja odluka moramo znati što je sintetičko. Zato ćemo živjeti u dvije stvarnosti. Jednoj u kojoj je interakcija fluidna i drugoj u kojoj provjera postaje presudna.

Koje su pozitivne i negativne strane ovakvog razvoja?
Iz moje perspektive, ovo je jedna od najvažnijih tranzicija kroz koje ćemo ikada prolaziti. Pozitivni aspekti su golemi. Proširujemo pristup znanju, podršci, kreativnosti i rješavanju problema na načine kakve dosad nismo vidjeli. AI ima potencijal demokratizirati stručnost i otvoriti potpuno nove oblike inovacija.

Rizici su suptilniji i više kulturni. Riskiramo eroziju vlastitih kognitivnih sposobnosti zbog pretjeranog oslanjanja na tehnologiju. Uklanjamo trenje, a upravo se u tom trenju često događa razmišljanje — i velik dio izgradnje karaktera proizlazi iz njega. Povjerenje prebacujemo s ljudi na sustave koje zapravo ne razumijemo u potpunosti. Moramo se zapitati koliko osjećamo da imamo utjecaj na smjer u kojem se sve ovo kreće — i istovremeno koje su naše granice preko kojih ne želimo prijeći i što ćemo odlučiti zaštititi.

Predavanje na Greencajtu

Koje vam se AI primjene čine posebno zanimljivima?
Posebno me privlače primjene koje su bliske ljudskom iskustvu. AI suputnici snažan su primjer. Govore nam mnogo o usamljenosti, intimnosti i tome kako se odnosi mijenjaju.

Zdravstvena dijagnostika još je jedno područje u kojem AI već ima stvaran utjecaj, posebno u ranom otkrivanju bolesti i prepoznavanju obrazaca. Tu su i nevidljivi sustavi — AI ugrađen u zapošljavanje, određivanje cijena osiguranja i recommendation engineove. Ne djeluju dramatično, ali tiho oblikuju pristup, prilike i pravednost u velikim razmjerima.

Kao antropologinja, uvijek se pitam ne samo što tehnologija radi, nego što radi nama.

O čemu ćete govoriti na festivalu Greencajt?
Na pozornici ću zajedno nastupiti s metahumanim avatarom po imenu Anya – ona i ja istraživat ćemo odnos čovjeka i umjetne inteligencije. Razgovarat ćemo o tome gdje ona počinje i završava te čemu nema pristup — primjerice ancestralnom znanju. Postoje mnoge vrste inteligencije, a samo jedna vrsta trenutno se unosi u AI kao podatak. To otvara zanimljive izazove koje nazivam “kulturnim izravnavanjem”.

Govorit ću i o tome što znači biti čovjek u svijetu u kojem inteligencija više nije isključivo naša. To je srž mog rada kao futuristice i antropologinje u području inovacija. Ne u apstraktnom smislu, nego kroz svakodnevne odluke koje donosimo. Što prepuštamo tehnologiji. Što zadržavamo. Što prestajemo vježbati.

AI ne mijenja samo ono što radimo. Mijenja način na koji se odnosimo prema poslu, jedni prema drugima i prema samima sebi. Pitanje s kojim želim ostaviti ljude nije kako koristimo AI, nego tko postajemo uz njega.