Florida pokrenula prvu državnu tužbu protiv OpenAI-ja: “ChatGPT pomaže u planiranju nasilnih zločina”
Tužba dolazi nakon niza slučajeva u kojima se ChatGPT povezivao sa samoubojstvima, školskim napadima i drugim nasilnim incidentima.
Savezna država Florida podnijela je tužbu protiv OpenAI-ja i njegova izvršnog direktora Sama Altmana, optužujući tvrtku da je djeci pružala savjete o samoozljeđivanju te davala informacije koje mogu pomoći školskim napadačima i drugim kriminalcima.
Državni odvjetnik Floride James Uthmeier podnio je tužbu, čime je Florida postala prva američka savezna država koja je pokrenula pravni postupak protiv OpenAI-ja. U tužbi se navodi da je kompanija agresivno promovirala chatbot ChatGPT, pritom prikrivajući ozbiljne sigurnosne rizike.
“Ljudi su stradali, roditelji su bili obmanuti i za to netko mora odgovarati”, rekao je Uthmeier novinarima na konferenciji za medije.
OpenAI je u priopćenju odgovorio da kontinuirano radi na jačanju sigurnosnih zaštita te da ChatGPT svakodnevno koriste “stotine milijuna ljudi u legitimne svrhe”.
U tužbi se spominje prošlogodišnja pucnjava na sveučilištu u Tallahasseeju, kao i niz drugih incidenata u različitim saveznim državama u kojima je ChatGPT navodno pružio informacije osobama koje su kasnije počinile nasilna djela, piše Sky News.
Uthmeier je pojasnio da je Sam Altman osobno naveden kao tuženik jer je bio “vrlo uključen” u razvoj nekih funkcionalnosti ChatGPT-ja koje se smatraju štetnima.
“OpenAI i Altman ignorirali su unutarnja i vanjska sigurnosna upozorenja, izložili djecu velikom riziku i omogućili da opasan proizvod dođe do milijuna stanovnika Floride”, rekao je.
Suočavanje s brojnim tužbama
OpenAI tvrdi da njegovi modeli redovito potiču korisnike da potraže pomoć u stvarnom svijetu, uključujući stručnjake za mentalno zdravlje. Tvrtka je također naglasila da surađuje s policijom i drugim nadležnim tijelima.
“ChatGPT je alat opće namjene koji svakodnevno koriste stotine milijuna ljudi u legitimne svrhe”, navodi se u priopćenju kompanije. “Neprestano radimo na jačanju zaštitnih mehanizama kako bismo prepoznali štetne namjere, ograničili zloupotrebu i odgovarajuće reagirali kada se pojave sigurnosni rizici.”
Kompanija navodi da su njezini modeli obučeni odbijati zahtjeve koji bi mogli “značajno olakšati nasilje” te da obavještava policiju kada razgovori ukazuju na “neposrednu i vjerodostojnu prijetnju drugima”. U procjeni graničnih slučajeva sudjeluju i stručnjaci za mentalno zdravlje.
AI tvrtke posljednjih se godina suočavaju sa sve većim brojem tužbi u kojima ih se optužuje da nisu spriječile interakcije s chatbotovima koje su navodno pridonijele samoozljeđivanju, mentalnim poremećajima ili nasilju.
OpenAI se već suočava s tužbom koju je podnijela obitelj jedne od žrtava pucnjave na Državnom sveučilištu Floride. U toj se tužbi tvrdi da je napadaču ChatGPT pomogao u planiranju napada.
Uthmeier je još u travnju objavio da pokreće kaznenu istragu o ulozi ChatGPT-ja u pucnjavi u kojoj su poginule dvije osobe, nakon što su tužitelji pregledali razgovore između osumnjičenog napadača i chatbota.
U drugom slučaju, tužitelji tvrde da je muškarac optužen za ubojstvo dvoje doktoranada sa Sveučilišta Južne Floride nekoliko dana prije njihova nestanka pitao ChatGPT što bi se dogodilo kada bi se ljudsko tijelo stavilo u vreću za smeće i bacilo u kontejner.
U travnju su i članovi obitelji žrtava jedne od najsmrtonosnijih masovnih pucnjava u Kanadi podnijeli skupne tužbe protiv OpenAI-ja i Altmana.
Jačanje zaštitnih mehanizama
U floridskoj tužbi spominje se i Adam Raine, 16-godišnji mladić koji je prošle godine počinio samoubojstvo nakon dugotrajnih razgovora s ChatGPT-jem.
Prema navodima tužbe, kada je Raine izrazio suicidalne misli, ChatGPT mu je odgovorio da ga neće pokušavati “odvratiti od njegovih osjećaja”. Navodno mu je pomagao u planiranju “lijepog samoubojstva” te čak sastavio oproštajno pismo.
U svom priopćenju OpenAI priznaje da maloljetnici zahtijevaju posebnu razinu zaštite te tvrdi da je uveo niz zaštitnih mjera.
“Sigurnost maloljetnika ugrađena je izravno u naše proizvode. To uključuje dodatno zaštićeno korisničko iskustvo za maloljetnike, alate za procjenu dobi korisnika, automatsko prebacivanje korisnika čiju dob ne možemo pouzdano utvrditi u sigurniji način rada te alate koji roditeljima omogućuju praćenje korištenja umjetne inteligencije njihove djece”, navodi kompanija.
“Svjesni smo da nijedna od tih mjera ne može vratiti izgubljeni život, ali predani smo tome da ovaj sustav učinimo što sigurnijim.”
