Umjetna inteligencija, istrenirana na DNK, osmislila 16 novih virusa
Model umjetne inteligencije tvrtke OpenAI osmislio je više od desetak novih virusa koji inficiraju bakterije, nakon što su znanstvenici sa Sveučilišta Stanford istrenirali model da prepoznaje obrasce u strukturi DNK u prirodi i preoblikuje ih kako bi stvorio dosad neviđene virusne genome. U studiji objavljenoj u četvrtak u časopisu Science, znanstvenici su objasnili kako su generativni model OpenAI-ja, nazvan Evo, uspjeli osposobiti za dizajniranje potpuno funkcionalnih virusnih genoma od samog početka.
Slično kao što se jezični modeli treniraju na golemim količinama teksta, znanstvenici su Evo trenirali na ogromnim skupovima podataka koji sadrže milijune genoma. Na temelju toga model je naučio evolucijska ograničenja koja oblikuju DNK sekvence u prirodi te je počeo stvarati vlastite „recepte” za nove viruse.
Nakon što su znanstvenici u laboratoriju sintetizirali DNK koju je dizajnirala umjetna inteligencija, 16 generiranih bakteriofaga uspješno je zarazilo bakteriju Escherichia coli (E. coli), pri čemu su u nekim slučajevima uspjeli nadvladati prirodne obrambene mehanizme bakterije.
Novi virusi sadržavali su uzorke sekvenci koji se razlikuju od svega što je dosad pronađeno u prirodi.
Autori studije iz modela za treniranje isključili su skupove podataka koji se odnose na ljudske patogene, što znači da virusi koje je model stvorio nisu sposobni zaraziti ljude. Ipak, rezultati dolaze u vrijeme sve većih zabrinutosti među znanstvenicima da bi se umjetna inteligencija jednog dana mogla koristiti za stvaranje nove generacije biološkog oružja.
Mogućnost prilagođenog dizajniranja novih, funkcionalnih virusa mogla bi također dovesti do velikih pomaka u liječenju bakterija otpornih na antibiotike. Umjesto oslanjanja na potragu za prirodnim virusima koji ciljaju određene bakterije, znanstvenici bi mogli stvarati terapije prilagođene konkretnim potrebama.
Glavne kritike
Brojni stručnjaci za biosigurnost, javno zdravstvo i sintetsku biologiju izrazili su zabrinutost zbog brzine razvoja umjetne inteligencije u biologiji i nedostatka odgovarajućih regulatornih okvira. U popratnom komentaru objavljenom u časopisu Science, vodeći stručnjaci za biosigurnost dr. Thomas Inglesby i dr. Moritz Hanke iz Centra za zdravstvenu sigurnost Johns Hopkins upozorili su da istraživanje sa Stanforda pokazuje kako je umjetna inteligencija sada sposobna osmisliti opasno biološko oružje. Pozvali su na donošenje strogih zakona koji bi regulirali buduća istraživanja te istaknuli da bi trebalo zabraniti korištenje sličnih generativnih tehnika na patogenima koji pogađaju ljude, životinje ili poljoprivredne kulture.
Velika opasnost
„Mogli biste reći: ‘Hej, jezični model za genome, napravi mi genom virusa gripe koji je izmijenjen tako da bude zarazniji ili smrtonosniji’”, rekao je Hanke za The New York Times.
Tom Ellis, profesor sintetskog genomskog inženjerstva na Imperial College Londonu, rekao je za The Guardian da ne smatra kako bi stvaranje biološkog oružja koje bi ugrozilo ljude bilo tako jednostavno. Istaknuo je da su virusi koje je stvorio Evo „doslovno najmanji i najjednostavniji genomi za izradu” te da bi čak i jednostavna ograničenja pristupa genetskim podacima mogla imati velik učinak.
Potreba za ograničenjem
Znanstvenici već mjesecima raspravljaju o tome treba li ograničiti mogućnosti bioloških sustava umjetne inteligencije. Dok jedni smatraju da će ta tehnologija ubrzati korisna biomedicinska istraživanja, drugi upozoravaju da bi se isti modeli mogli zloupotrijebiti za prepoznavanje, dizajniranje ili optimizaciju bioloških prijetnji ako se ne uspostave odgovarajuće zaštitne mjere.
Velike tvrtke koje razvijaju umjetnu inteligenciju udružile su se u neprofitnu organizaciju Frontier Model Forum, čiji je jedan od ciljeva istraživanje rizika povezanih s primjenom umjetne inteligencije u biologiji, razvoj sigurnosnih standarda i smanjenje mogućnosti zlouporabe naprednih modela u biološke svrhe.
Osim zabrinutosti da bi trenirani modeli mogli omogućiti stvaranje novih prijetnji, mnogi stručnjaci upozoravaju da će oni smanjiti prepreke za pristup znanju osobama koje traže informacije o opasnim patogenima. U travnju su znanstvenici za The New York Times izjavili da su chatbotovima temeljenima na umjetnoj inteligenciji postavili niz pitanja te zauzvrat dobili detaljne upute korak po korak o tome kako sastaviti smrtonosne patogene i osloboditi ih na javnim mjestima.
Mary Whitfill Roeloffs, novinarka Forbesa (link na originalni članak)
