ChatGPT ће генерисати садржај за одрасле

Пре осам месеци, компанија OpenAI која стоји иза ChatGPT-ja ублажила је своја ограничења везана уз експлицитни садржај, наводећи у документу Model Spec да се „само сексуални садржај који укључује малолетнике сматра забрањеним”.

Ова промена представљала је значајан помак од ранијег става који је бранио сав сексуални материјал, пише Futurism.

Корисници који су месецима тражили од компаније и њеног извршног директора Сема Алтмана да попусте са ограничењима, поздравили су ову одлуку.

Ипак, убрзо је уследило разочарење, јер се сам модел није прилагодио новим правилима.

„Филтери су мало попустили, то ћу вам признати, али од пре месец дана, вратили су се са паметним триком - затамњењем, и повлаче јасну црту при спомињању експлицитних сцена”, написао је један огорчени корисник на форуму OpenAI заједнице, додавши:

„Али ваша правила коришћења говоре другачије!”

Чини се да ће сада ти корисници, напокон, добити шта су тражили. Према извештајима са OpenAI-јевог догађаја DevDay 2025, фирма је најавила да ће ускоро отворити врата за „апликације за одрасле”, и то чим уведе дуго очекивани систем провере старости корисника.

Јаз између обећања и стварности

Ова стратегија са собом носи и разлоге за забринутост. „Грок” Илона Маска је злогласни пример онога што може да се догоди када се вештачкој интелигенцији дозволи експлицитан садржај - убрзо је постао уточиште за експлоатацију и неприкладне АI-генерисане слике деце.

У међувремену, мање познати АI системи довели су до епидемије штетних deepfake-ова који приказују стварне људе у експлицитним ситуацијама без њиховог пристанка.

Док остаје да се види како ће се ChatGPT снаћи у својој „одраслој ери”, ово није први пут да су корисници приметили јаз између онога што OpenAI говори и онога што његови језични модели чине.

Компанија се нашла под притиском регулатора и медија да се позабави проблемом „додворавања” ChatGPT-ја, јер претерано сусретљив четбот може рањиве кориснике да одведе у опасне спирале менталног здравља.

Два месеца након што су примили озбиљно упозорење од истраживача са Станфорда, OpenAI је објавио „хитну закрпу”, тврдећи да ће решити низ проблема. Ипак, многи су те промене оценили као недовољне. Део проблема лежи у томе што је језичке моделе тешко мењати једном када постану активни, али то може да буде и прикладан изговор за одлагање нужних безбедносних ажурирања.

Једно је сигурно: ако OpenAI отвори своје услуге девелоперима који праве садржај за одрасле (нпр. еротске игре, апликације, приче или четботове), може се очекивати дуготрајна криза праћења и контролисања садржаја, док се компанија буде борила са дефинисањем онога што је дозвољено и оним што се сматра неприхватљивим.