ChatGPT će generisati sadržaj za odrasle
Pre osam meseci, kompanija OpenAI koja stoji iza ChatGPT-ja ublažila je svoja ograničenja vezana uz eksplicitni sadržaj, navodeći u dokumentu Model Spec da se „samo seksualni sadržaj koji uključuje maloletnike smatra zabranjenim”.
Ova promena predstavljala je značajan pomak od ranijeg stava koji je branio sav seksualni materijal, piše Futurism.
Korisnici koji su mesecima tražili od kompanije i njenog izvršnog direktora Sema Altmana da popuste sa ograničenjima, pozdravili su ovu odluku.
Ipak, ubrzo je usledilo razočarenje, jer se sam model nije prilagodio novim pravilima.
„Filteri su malo popustili, to ću vam priznati, ali od pre mesec dana, vratili su se sa pametnim trikom - zatamnjenjem, i povlače jasnu crtu pri spominjanju eksplicitnih scena”, napisao je jedan ogorčeni korisnik na forumu OpenAI zajednice, dodavši:
„Ali vaša pravila korišćenja govore drugačije!”
Čini se da će sada ti korisnici, napokon, dobiti šta su tražili. Prema izveštajima sa OpenAI-jevog događaja DevDay 2025, firma je najavila da će uskoro otvoriti vrata za „aplikacije za odrasle”, i to čim uvede dugo očekivani sistem provere starosti korisnika.
Jaz između obećanja i stvarnosti
Ova strategija sa sobom nosi i razloge za zabrinutost. „Grok” Ilona Maska je zloglasni primer onoga što može da se dogodi kada se veštačkoj inteligenciji dozvoli eksplicitan sadržaj - ubrzo je postao utočište za eksploataciju i neprikladne AI-generisane slike dece.
U međuvremenu, manje poznati AI sistemi doveli su do epidemije štetnih deepfake-ova koji prikazuju stvarne ljude u eksplicitnim situacijama bez njihovog pristanka.
Dok ostaje da se vidi kako će se ChatGPT snaći u svojoj „odrasloj eri”, ovo nije prvi put da su korisnici primetili jaz između onoga što OpenAI govori i onoga što njegovi jezični modeli čine.
Kompanija se našla pod pritiskom regulatora i medija da se pozabavi problemom „dodvoravanja” ChatGPT-ja, jer preterano susretljiv četbot može ranjive korisnike da odvede u opasne spirale mentalnog zdravlja.
Dva meseca nakon što su primili ozbiljno upozorenje od istraživača sa Stanforda, OpenAI je objavio „hitnu zakrpu”, tvrdeći da će rešiti niz problema. Ipak, mnogi su te promene ocenili kao nedovoljne. Deo problema leži u tome što je jezičke modele teško menjati jednom kada postanu aktivni, ali to može da bude i prikladan izgovor za odlaganje nužnih bezbednosnih ažuriranja.
Jedno je sigurno: ako OpenAI otvori svoje usluge developerima koji prave sadržaj za odrasle (npr. erotske igre, aplikacije, priče ili četbotove), može se očekivati dugotrajna kriza praćenja i kontrolisanja sadržaja, dok se kompanija bude borila sa definisanjem onoga što je dozvoljeno i onim što se smatra neprihvatljivim.
