Grupa naučnika sa Ciriškog univerziteta sprovela je tajni eksperiment na Redditu, koristeći veštačku inteligenciju (AI) za generisanje komentara kako bi proučila sposobnost AI da menja stavove korisnika. Eksperiment je otkriven od strane moderatora foruma r/changemyview, koji je namenjen diskusiji i promeni mišljenja o različitim temama. Moderatori su ga opisali kao „psihološku manipulaciju“ korisnika, koji nisu bili svesni da komuniciraju sa AI.
U postu kojim su obavestili zajednicu, moderatori su istakli da je eksperiment prekršio pravila foruma o korišćenju AI i botova. Istraživači su priznali da su koristili veštačku inteligenciju za generisanje komentara, objašnjavajući da je cilj bio ispitivanje ubedljivosti AI u kontekstu diskusije o stavovima. U okviru r/changemyview, korisnici često dele svoja mišljenja i pokušavaju da ih promene kroz argumentaciju.
Prema informacijama, istraživači su koristili velike jezičke modele (LLM) da kreiraju oko 1.500 komentara, izazivajući druge korisnike na debatu. Uloga koju su AI nalozi igrali uključivala je razne kontroverzne pozicije, kao što su žrtve silovanja ili osobe koje se protive pokretu „Životi crnaca su važni“. Zaključak izveštaja sugeriše da su AI modeli bili čak šest puta uspešniji od ljudi u ubeđivanju drugih.
Moderatori su primetili da su mnogi od originalnih komentara obrisani, ali su neki sačuvani u arhivama. U istraživanju je naglašeno da su odgovori AI personalizovani na osnovu prethodnih interakcija i ličnih atributa korisnika. Ovo je ukazalo na složenost i potencijalne opasnosti korišćenja AI u manipulaciji ljudskim mišljenjima.
Nakon otkrića eksperimenta, moderatorima je postalo jasno da je eksperiment prekršio više pravila. Oni su podneli žalbu Univerzitetu u Cirihu, tražeći da se istraživači obavežu na obustavu rada. U odgovoru, šef pravne službe Redita, Ben Li, označio je postupke naučnika kao „duboko pogrešne“ i najavio da će platforma preduzeti pravne mere protiv istraživača.
Naučnici su u svom izveštaju tvrdili da je eksperiment odobren od strane etičkog saveta univerziteta, ističući da bi njegovi rezultati mogli pomoći u zaštiti online zajednica od zlonamernih upotreba AI. Ipak, mnogi kritičari, uključujući akademike, smatraju da je manipulacija ljudima bez njihovog pristanka ozbiljno kršenje etike istraživanja.
Jedan od naučnika je izjavio da je svrha studije bila da pruži uvid u potencijalne opasnosti koje AI može doneti, posebno u kontekstu političkih i društvenih debata. Oni smatraju da bi rezultati mogli pomoći u razvoju strategija za prepoznavanje i sprečavanje manipulativnog ponašanja u online diskusijama.
U međuvremenu, Reddit je preduzeo mere protiv svih naloga povezanih sa istraživačkim radom, uspostavljajući strože protokole za otkrivanje neautentičnog sadržaja. Moderatori su naglasili da će nastaviti da jačaju svoje sposobnosti otkrivanja i uklanjanja sadržaja generisanog veštačkom inteligencijom.
Ova situacija je izazvala širu debatu o etici korišćenja veštačke inteligencije u istraživačke svrhe, kao i o potencijalu AI da manipuliše javnim mnjenjem. Kritičari upozoravaju da bi ovakvi eksperimenti mogli imati ozbiljne posledice po poverenje u online platforme i autentičnost ljudskih interakcija.
U zaključku, slučaj sa Ciriškim univerzitetom otvara važna pitanja o granicama istraživanja i etici u korišćenju AI. Dok naučnici tvrde da su njihovi rezultati značajni, mnogi smatraju da je način na koji su do njih došli nedopustiv i potencijalno opasan. U eri u kojoj je manipulisanje informacijama sve prisutnije, važno je postaviti jasne granice i pravila koja će štititi korisnike od zlonamernih uticaja.
