AI на путу да преузме контролу над људима
Џефри Хинтон, један од најутицајнијих научника у области вештачке интелигенције и добитник престижне Турингове награде, још једном је изнео озбиљно упозорење: технологија коју је помогао да се створи, могла би једног дана да измакне људској контроли.
У интервјуима и јавним наступима, Хинтон све гласније изражава забринутост да се човечанство налази на прекретници – и да можда нећемо бити спремни за оно што долази.
„Људи још увек нису схватили шта долази”, рекао је Хинтон.
„Замислите системе који могу да размишљају брже од нас, да уче из властитог искуства и да постављају циљеве који нису нужно усклађени са људским вредностима. Шта ћемо да радимо када не будемо више могли да их искључимо?”
Научник иза револуције
Хинтон, рођен у Лондону 1947. године, одрастао је са фасцинацијом за разумевањем како мозак функционише. Та радозналост га је навела да истражује област вештачких неуронских мрежа. Осамдесетих година прошлог века, када је свет био углавном скептичан према неуронским мрежама у компјутерима, Хинтон је видео њихов потенцијал. Веровао је да ове мреже, направљене по узору на људски мозак, могу да направе револуцију у начину на који машине уче и обрађују информације.
Хинтон је био кључна фигура у развоју дубоких неуронских мрежа – технологије која се данас користи у препознавању гласа, генерисању слика, преводу језика и системима попут ChatGPT-а. Његов рад са студентима у раним 2000-им поставио је темеље за оно што данас називамо дубоко учење (deep learning).
Године 2013. Хинтон је приступио Гуглу како би допринео развоју вештачке интелигенције, али се 2023. повукао са те позиције, наводећи да жели слободно да говори о растућим ризицима.
„Док сам био у Гуглу, морали смо да будемо пажљиви са изјавама. Сада желим да будем искрен – мислим да идемо у веома опасном правцу”, упозорава научник.
Као пример потенцијалне опасности, Хинтон наводи моћ генеративних модела – попут оних који могу да стварају веома уверљиве текстове, фотографије и видео снимке.
„Замислите свет у којем не можемо више да разликујемо шта је стварно, а шта не. То подрива поверење у институције, у демократију, у саму истину”, преноси CBS Mornings.
Злоупотреба AI у војне сврхе
Још озбиљније, Хинтон упозорава на могућност да војне силе користе AI системе за доношење одлука у борбеним ситуацијама.
„Када аутономни оружани системи одлучују кога да нападну, без људске контроле, ризикујемо катастрофе. А кад AI добије способност да креира сопствене стратегије и тактике, улазимо у терен који нисмо спремни да контролишемо”.
Шта би то могло да значи? Према Хинтону, најопаснији сценарио није холивудски „Skynet“, већ нешто тише и подмуклије. AI би могла да постане толико ефикасна у обављању задатака да би људи могли да постану сувишни – не зато што их неко намерно искључује, већ зато што системи сами преузимају кључне функције.
„Ако машине буду знале како да манипулишу информацијама, финансијским тржиштима или чак људским емоцијама – а то већ полако показују – оне могу полако да преузимају власт, без насиља и без отпора”.
Он упозорава да не постоји гаранција да ће високо развијени системи вештачке интелигенције „волети” људе.
„Нема разлога да верујемо да ће суперинтелигентни систем аутоматски имати наше вредности. Ако му циљ буде ефикасност, а ми станемо на пут тој ефикасности – ми постајемо сметња”, упозорава Хинтон.
Он, ипак, не предлаже да се развој AI заустави, али позива на глобалну сарадњу како би се дефинисала правила и механизми контроле.
„Морамо да уведемо међународне прописе, баш као што имамо за нуклеарно оружје. AI може да буде и корисна и опасна – али само ако је под нашом контролом”.
У времену када се компаније утркују ко ће пре развити најнапреднији модел, Хинтоново упозорење долази као позив на буђење.
„Можда још увек није касно да делујемо. Али ако не почнемо сада, можда нећемо добити другу прилику”.
Забринутост стручњака
Хинтон није једини стручњак који изражава забринутост због будућности коју обликује AI. Илон Маск, суоснивач OpenAI-а и Тесла компаније, већ годинама упозорава да би вештачка интелигенција могла да постане „егзистенцијална претња човечанству”.
Професор Стјуарт Расел са Универзитета Калифорнија у Берклију, такође, истиче да морамо хитно да развијемо системе који ће осигурати да „циљеви AI система остану у складу са људским интересима”.
„Развијамо технологију која је потенцијално моћнија од свега што смо до сада створили, укључујући нуклеарно оружје. А све то радимо без одговарајуће контроле и надзора”, истакао је Расел.
Чак и Сем Алтман, извршни директор OpenAI-а, компаније која стоји иза ChatGPT-а, позвао је на регулацију и међународну сарадњу, наглашавајући да би „једна мала група људи могла да донесе одлуке које ће утицати на целу планету”.
Џефри Хинтон верује да је неопходна комбинација научне одговорности и политичке регулативе. Он предлаже оснивање међународног AI надзорног органа, нешто слично као Међународна агенција за атомску енергију (IAEA), које би пратило развој напредне технологије и обезбедило транспарентност у истраживањима.
Компаније које развијају моћне AI системе морале би да добију дозволе и да се придржавају строгих етичких стандарда, уз могућност губитка лиценце у случају прекршаја.
Обавезно би било и уграђивање „kill switch“ опција – сви напредни системи морали би имати уграђене безбедносне механизме, који омогућавају тренутно искључивање у случају непредвиђеног понашања.
Хинтон посебно инсистира на забрани развоја AI система који имају могућност да аутономно доносе одлуке о животу и смрти у ратним зонама. Пре него што се било који модел пусти у ширу употребу, такође, морао би да прође ригорозна тестирања да би се проверило да ли постоји ризик од манипулација, дезинформација или штетног понашања.
„Не можемо очекивати да ће тржиште само од себе регулисати ову технологију. Потребне су нам снажне институције, јасни закони и међународна сарадња”, закључио је Хинтон.
„Ако будемо чекали да проблеми испливају на површину, биће прекасно”.
