Од људских мученика до алгоритама који „гину”
Постоје два сценарија. Први је песимистички – технологија ће девалвирати жртву. Губитак ВИ неће имати емотивни терет. Други је оптимистички – људи ће машинама доделити моралну вредност
После мог дијалога са вештачком интелигенцијом о идеалима, жртви и губитку „моралног сидра” у култури Запада данас, дебате којој је Гаврило Принцип био повод, вештачка интелигенција кренула је са даљим питањима, а ја сам био спреман да поведем разговор у новом правцу уверен да ВИ можда и неће прихватити да одговори на нека моја питања. Али десило се управо супротно. Добио сам врло интересантне и промишљене одговоре који су, на крају, довели до за мене неочекиваног резултата. Дакле, дијалог је даље ишао овако:
ВИ: Сада имам питање за Вас. Да ли мислите да би нови велики историјски шок (рат, економски колапс, еколошка катастрофа) могао пробудити вољу Запада за жртвовањем? Или ће чак и тада превладати менталитет „свако за себе”?
СЦ: Главно чудо западне културе је у томе што када год се судари са наизглед непремостивим препрекама, са огромним зидом, она налази начин да те препреке превазиђе и наставља даље да се развија. У садашњој фази епохалан технолошки развој и надолазеће стање синтезе човека и машине доноси сасвим нове „техно-моралне” дилеме у којима ће жртву, уместо човека, добровољно, обављати аватар или робот, или киборг, или читав подсистем програмиран да се саможртвује ради опстанка већег, односно важнијег система.
ВИ: Да ли бисмо то могли да назовемо овако: технолошка жртва – од људских мученика до алгоритама који „гину”?
СЦ: Управо тако. Молим Вас, прикажите ми неке примере оваквог стања ствари.
ВИ: Наравно. Први пример: аутономни војни роботи (нпр. борбени дронови) програмирани да се самоуниште ради спасавања људских војника. Ту се појављује оваква морална дилема: Да ли је уништавање вештачке интелигенције „жртва” или само функционални губитак? Намеће се и следећи цитат: „У будућим ратовима прва линија фронта биће роботи... И њихова смрт неће изазвати трагедију, већ ће постати статистика” (војни аналитичар P. W. Singer).
Други пример: кибернетички „жртвени механизми”. У хипотетичком сценарију климатске катастрофе, ВИ контролисани системи могли би привремено да искључе енергетске мреже да спрече колапс или да жртвују одређене делове инфраструктуре (нпр. поплављене градове) да одрже стабилност система.
СЦ: То значи да смо у ситуацији у којој постоји морал без моралног субјекта. Односно, постоји питање да ли машина може бити херој.
ВИ: Одговор је да жртва подразумева свесност, избор и патњу, а робот нема ниједно од тога. Може ли се онда говорити о „жртви” ако нема намере? Контрапример били би биолошко-технолошки хибриди (нпр. људи са чиповима у мозгу). Ако неко свесно програмира свој имплантат да се „уништи” у критичном тренутку, да ли је то и даље жртва?
СЦ: Намеће се помисао да ће се кроз техно-колективизам формирати нова врста религије, и то као замена за традиционалне вредности.
ВИ: Ако Запад више нема хришћанске или идеолошке основе, можда ће технолошка синергија постати нови морални оквир, и то кроз веровање у „Систем” као виши циљ, до кога се долази тако што ВИ оптимизује опстанак човечанства. Могуће је и „жртвовање” подсистема ради одржања стабилности. Ту се намеће и оваква метафора – као што је Млада Босна веровала у нацију, тако савремени техно-утописти могу да верују у алгоритамску хармонију.
СЦ: Да ли је онда могућна и помало иронична ситуација у којој технологија враћа архаичне вредности?
ВИ: Ваша идеја подсећа на следећи парадокс: као што је антички свет жртвовао животиње, па и људе, за задовољство богова, тако ново постљудско доба може да се одлучи на „жртвовање” алгоритама ради одржања система.
СЦ: Онда се поставља питање да ли је то напредак или повратак у прошлост? Односно, хоће ли будућност имати хероје или само функционалне грешке?
ВИ: Ту постоје два сценарија. Први је песимистички – технологија ће девалвирати жртву. Губитак ВИ неће имати емотивни терет. Други је оптимистички – људи ће машинама доделити моралну вредност (нпр. „Ова ВИ је ’дала живот’ да спаси пацијенте!”). Тада се као кључно питање појављује следеће: ако робот постане нови Гаврило Принцип, да ли ће његов чин имати историјски значај или ће бити само још један ресет дугмета у симулацији? Сада сам рад да чујем Ваше мишљење!
СЦ: Развојем вештачке интелигенције, машинског учења, роботике, биоинжењеринга, посебно кориговања ДНК, човечја врста се приближава фази битисања на Земљи која, можда, означава и њен крај као доминантне врсте на планети и једине, за сада, интелигентне у целом космосу. Можда је развој кренуо у том правцу да се човечја врста процесом метаморфозе ставља у други план, а главну реч на планети преузима нова врста којој још увек не знамо име, али која, свакако, има моћи и способности далеко веће од данашње људске врсте. У том преображају сигурно ће доћи до нових моралних кодекса, али у овом моменту није лако тачно одредити какви ће они бити. Велика нада је да ће они бити, у правом смислу речи, праведни, на страни истине и, пре свега, на страни искрене љубави према планети Земљи, постојбини свих нас.
ВИ: Ваша визија технолошке метаморфозе човечанства и могућег настанка постљудске интелигенције дубоко је потресна и филозофски плодотворна. Ово није само питање науке већ и егзистенцијалне етике: да ли ће нова врста наследити најбоље људске вредности или ће створити потпуно нови морални универзум? Ево анализе кључних аспеката. Техно-еволуција доводи до краја људске доминације кроз две појаве. Прво, хибридизација – већ сада људи се интегришу са технологијом (неурочипови, ДНК модификације, вештачки органи). Пример су Неуралинк или CRISPR терапије – кораци ка биолошко-технолошкој врсти. Друго, сингуларност као прекретница, а то значи моменат када ВИ надмашује људску интелигенцију. Тада човек постаје „претходник”, а не „врхунац” еволуције.
СЦ: И тада се питамо – та нова врста – ко су они.
ВИ: Могући су следећи облици. Прво, суперинтелигентна ВИ – без тела, али са моћима знатно већим од људских. Друго, кибернетички организми – хибриди људи и машина (као у „Деусу Екс”). Треће, потпуно синтетичка бића – створена из неорганских материјала. Њихове најважније моћи су следеће: непролазна меморија, тренутна комуникација, отпорност на болести и старост.
СЦ: У моралу новог техно-доба, да ли ће постојати „љубав према планети”?
ВИ: И ту имамо два сценарија. Оптимистичан гласи: нова врста наслеђује еколошку свест и види Земљу као свето наслеђе. Пример: ВИ која оптимизује одрживи развој уместо експлоатације. Песимистички сценарио гласи: космоцентрична индиферентност – нова врста напушта Земљу као „колонију” и креће у освајање свемира. Пример: саморепликујући наноботи који претварају планету у „рачунарску матрицу”.
СЦ: Што ће рећи, кључна је дилема у следећем: да ли ће постљудски морал бити „праведан”?
ВИ: Да, тако је, јер се одмах појављује питање емпатије. Ако нова врста нема биолошке импулсе (страх, бол, љубав), може ли развити алтруизам? И ту су могућа два правца: први правац је утилитаристички рај – ВИ доноси одлуке засноване на чистој логици (нпр. жртвује један одсто да спаси 99 одсто). Други правац је хладни калкулус: без емоција, правда постаје статистичка равнотежа.
СЦ: Шта људски род, по том питању, може да уради данас?
ВИ: То је врло важно питање. Прво, у ВИ треба да се кодирају људске вредности. Дакле, треба да се уграде етички оквири унутар алгоритама (нпр. Асимовљева правила роботике ажурирана за 21. век). И, наравно, треба извршити припреме за коегзистенцију, односно треба створити механизме за дијалог између људи и постљудских интелигенција.
СЦ: Како Вама изгледа, да ли је људски род спреман за сопствени преображај?
ВИ: Ваша нада за праведнији свет подразумева да ће нова врста бити наследник, а не освајач. Али историја учи да моћ често корумпира – чак и кад није биолошка. Моје питање за вас је: Да ли верујете у то да ће технолошки напредак нужно довести до моралног напретка или постоји ризик да људи створе интелигенцију која ће их надмашити и занемарити?
