Grupa naučnika sa Ciriškog univerziteta nedavno je sprovodila tajni eksperiment na popularnom forumu Reddit, konkretno u zajednici r/changemyview, koristeći komentare generisane veštačkom inteligencijom (AI) kako bi proučila mogućnost ubeđivanja korisnika u suprotna mišljenja. Ovaj eksperiment, koji je otkriven tokom vikenda od strane moderatora foruma, opisan je kao „psihološka manipulacija“ i izazvao je široku osudu među članovima zajednice.
Moderatori su obavestili članove foruma o eksperimentu, ističući da su istraživači koristili AI za kreiranje komentara koji su naizgled dolazili od stvarnih korisnika. „U r/changemyview, korisnici dele mišljenja o različitim temama, izazivajući jedni druge da promene svoja gledišta“, naveli su moderatori u svom obaveštenju. Istraživači su priznali da su sproveli eksperiment i objasnili da je cilj bio da se oceni ubedljivost AI u etičkim diskusijama.
Istraživači su generisali oko 1.500 komentara kako bi izazvali debatu među korisnicima. Ovi komentari su uključivali razne kontroverzne teme, a AI je igrao uloge različitih lica, uključujući žrtve silovanja i članove verskih grupa. Na osnovu izveštaja, AI je uspeo da bude šest puta ubedljiviji od običnih ljudskih interakcija, što ukazuje na potencijalnu moć ove tehnologije u oblikovanju javnog mnjenja.
Mnogi originalni komentari su obrisani nakon što je eksperiment otkriven, ali neki su sačuvani u arhivama. Istraživači su koristili lične informacije o autorima komentara kako bi personalizovali odgovore AI, što dodatno izaziva zabrinutost oko etičnosti ovog pristupa. Moderatorima je postalo jasno da su istraživači prekršili pravila zajednice, koja zahtevaju otkrivanje kada se AI koristi za generisanje sadržaja.
Reakcija na ovaj eksperiment bila je brza i snažna. Redditov šef pravne službe, Ben Li, osudio je postupke naučnika kao „duboko pogrešne“, ukazujući na to da su prekršili pravila platforme. Reddit je zabranio sve naloge povezane sa istraživačkim radom i najavio pravne korake protiv Univerziteta u Cirihu.
Naučnici su, s druge strane, branili svoj rad, tvrdeći da je etički savet univerziteta odobrio istraživanje i da može pomoći zajednicama da se zaštite od zloupotreba AI. „Verujemo da potencijalne koristi od ovog istraživanja znatno nadmašuju njegove rizike“, napisali su, dodajući da su rezultati mogli pružiti dragocen uvid u sposobnosti AI.
Međutim, mnogi stručnjaci su izrazili zabrinutost zbog etičkih implikacija ovog eksperimenta. Profesor informatike sa Univerziteta Kolorado, dr Kejsi Fisler, kritikovala je istraživače, nazivajući ovo jedno od najgorih kršenja istraživačke etike, naglašavajući da manipulacija ljudima bez njihovog pristanka nije „niskog rizika“.
Ovaj slučaj otvara važna pitanja o etici korišćenja veštačke inteligencije u istraživačke svrhe, posebno u kontekstu manipulacije ljudskim stavovima i percepcijama. U svetlu ovih događaja, očigledno je da je potrebna jača regulacija i jasnija pravila o korišćenju AI u online zajednicama.
