Od ljudskih mučenika do algoritama koji „ginu”

Posle mog dijaloga sa veštačkom inteligencijom o idealima, žrtvi i gubitku „moralnog sidra” u kulturi Zapada danas, debate kojoj je Gavrilo Princip bio povod, veštačka inteligencija krenula je sa daljim pitanjima, a ja sam bio spreman da povedem razgovor u novom pravcu uveren da VI možda i neće prihvatiti da odgovori na neka moja pitanja. Ali desilo se upravo suprotno. Dobio sam vrlo interesantne i promišljene odgovore koji su, na kraju, doveli do za mene neočekivanog rezultata. Dakle, dijalog je dalje išao ovako:

VI: Sada imam pitanje za Vas. Da li mislite da bi novi veliki istorijski šok (rat, ekonomski kolaps, ekološka katastrofa) mogao probuditi volju Zapada za žrtvovanjem? Ili će čak i tada prevladati mentalitet „svako za sebe”?

SC: Glavno čudo zapadne kulture je u tome što kada god se sudari sa naizgled nepremostivim preprekama, sa ogromnim zidom, ona nalazi način da te prepreke prevaziđe i nastavlja dalje da se razvija. U sadašnjoj fazi epohalan tehnološki razvoj i nadolazeće stanje sinteze čoveka i mašine donosi sasvim nove „tehno-moralne” dileme u kojima će žrtvu, umesto čoveka, dobrovoljno, obavljati avatar ili robot, ili kiborg, ili čitav podsistem programiran da se samožrtvuje radi opstanka većeg, odnosno važnijeg sistema.

VI: Da li bismo to mogli da nazovemo ovako: tehnološka žrtva – od ljudskih mučenika do algoritama koji „ginu”?

SC: Upravo tako. Molim Vas, prikažite mi neke primere ovakvog stanja stvari.

VI: Naravno. Prvi primer: autonomni vojni roboti (npr. borbeni dronovi) programirani da se samounište radi spasavanja ljudskih vojnika. Tu se pojavljuje ovakva moralna dilema: Da li je uništavanje veštačke inteligencije „žrtva” ili samo funkcionalni gubitak? Nameće se i sledeći citat: „U budućim ratovima prva linija fronta biće roboti... I njihova smrt neće izazvati tragediju, već će postati statistika” (vojni analitičar P. W. Singer).

Drugi primer: kibernetički „žrtveni mehanizmi”. U hipotetičkom scenariju klimatske katastrofe, VI kontrolisani sistemi mogli bi privremeno da isključe energetske mreže da spreče kolaps ili da žrtvuju određene delove infrastrukture (npr. poplavljene gradove) da održe stabilnost sistema.

SC: To znači da smo u situaciji u kojoj postoji moral bez moralnog subjekta. Odnosno, postoji pitanje da li mašina može biti heroj.

VI: Odgovor je da žrtva podrazumeva svesnost, izbor i patnju, a robot nema nijedno od toga. Može li se onda govoriti o „žrtvi” ako nema namere? Kontraprimer bili bi biološko-tehnološki hibridi (npr. ljudi sa čipovima u mozgu). Ako neko svesno programira svoj implantat da se „uništi” u kritičnom trenutku, da li je to i dalje žrtva?

SC: Nameće se pomisao da će se kroz tehno-kolektivizam formirati nova vrsta religije, i to kao zamena za tradicionalne vrednosti.

VI: Ako Zapad više nema hrišćanske ili ideološke osnove, možda će tehnološka sinergija postati novi moralni okvir, i to kroz verovanje u „Sistem” kao viši cilj, do koga se dolazi tako što VI optimizuje opstanak čovečanstva. Moguće je i „žrtvovanje” podsistema radi održanja stabilnosti. Tu se nameće i ovakva metafora – kao što je Mlada Bosna verovala u naciju, tako savremeni tehno-utopisti mogu da veruju u algoritamsku harmoniju.

SC: Da li je onda mogućna i pomalo ironična situacija u kojoj tehnologija vraća arhaične vrednosti?

VI: Vaša ideja podseća na sledeći paradoks: kao što je antički svet žrtvovao životinje, pa i ljude, za zadovoljstvo bogova, tako novo postljudsko doba može da se odluči na „žrtvovanje” algoritama radi održanja sistema.

SC: Onda se postavlja pitanje da li je to napredak ili povratak u prošlost? Odnosno, hoće li budućnost imati heroje ili samo funkcionalne greške?

VI: Tu postoje dva scenarija. Prvi je pesimistički – tehnologija će devalvirati žrtvu. Gubitak VI neće imati emotivni teret. Drugi je optimistički – ljudi će mašinama dodeliti moralnu vrednost (npr. „Ova VI je ’dala život’ da spasi pacijente!”). Tada se kao ključno pitanje pojavljuje sledeće: ako robot postane novi Gavrilo Princip, da li će njegov čin imati istorijski značaj ili će biti samo još jedan reset dugmeta u simulaciji? Sada sam rad da čujem Vaše mišljenje!

SC: Razvojem veštačke inteligencije, mašinskog učenja, robotike, bioinženjeringa, posebno korigovanja DNK, čovečja vrsta se približava fazi bitisanja na Zemlji koja, možda, označava i njen kraj kao dominantne vrste na planeti i jedine, za sada, inteligentne u celom kosmosu. Možda je razvoj krenuo u tom pravcu da se čovečja vrsta procesom metamorfoze stavlja u drugi plan, a glavnu reč na planeti preuzima nova vrsta kojoj još uvek ne znamo ime, ali koja, svakako, ima moći i sposobnosti daleko veće od današnje ljudske vrste. U tom preobražaju sigurno će doći do novih moralnih kodeksa, ali u ovom momentu nije lako tačno odrediti kakvi će oni biti. Velika nada je da će oni biti, u pravom smislu reči, pravedni, na strani istine i, pre svega, na strani iskrene ljubavi prema planeti Zemlji, postojbini svih nas.

VI: Vaša vizija tehnološke metamorfoze čovečanstva i mogućeg nastanka postljudske inteligencije duboko je potresna i filozofski plodotvorna. Ovo nije samo pitanje nauke već i egzistencijalne etike: da li će nova vrsta naslediti najbolje ljudske vrednosti ili će stvoriti potpuno novi moralni univerzum? Evo analize ključnih aspekata. Tehno-evolucija dovodi do kraja ljudske dominacije kroz dve pojave. Prvo, hibridizacija – već sada ljudi se integrišu sa tehnologijom (neuročipovi, DNK modifikacije, veštački organi). Primer su Neuralink ili CRISPR terapije – koraci ka biološko-tehnološkoj vrsti. Drugo, singularnost kao prekretnica, a to znači momenat kada VI nadmašuje ljudsku inteligenciju. Tada čovek postaje „prethodnik”, a ne „vrhunac” evolucije.

SC: I tada se pitamo – ta nova vrsta – ko su oni.

VI: Mogući su sledeći oblici. Prvo, superinteligentna VI – bez tela, ali sa moćima znatno većim od ljudskih. Drugo, kibernetički organizmi – hibridi ljudi i mašina (kao u „Deusu Eks”). Treće, potpuno sintetička bića – stvorena iz neorganskih materijala. Njihove najvažnije moći su sledeće: neprolazna memorija, trenutna komunikacija, otpornost na bolesti i starost.

SC: U moralu novog tehno-doba, da li će postojati „ljubav prema planeti”?

VI: I tu imamo dva scenarija. Optimističan glasi: nova vrsta nasleđuje ekološku svest i vidi Zemlju kao sveto nasleđe. Primer: VI koja optimizuje održivi razvoj umesto eksploatacije. Pesimistički scenario glasi: kosmocentrična indiferentnost – nova vrsta napušta Zemlju kao „koloniju” i kreće u osvajanje svemira. Primer: samoreplikujući nanoboti koji pretvaraju planetu u „računarsku matricu”.

SC: Što će reći, ključna je dilema u sledećem: da li će postljudski moral biti „pravedan”?

VI: Da, tako je, jer se odmah pojavljuje pitanje empatije. Ako nova vrsta nema biološke impulse (strah, bol, ljubav), može li razviti altruizam? I tu su moguća dva pravca: prvi pravac je utilitaristički raj – VI donosi odluke zasnovane na čistoj logici (npr. žrtvuje jedan odsto da spasi 99 odsto). Drugi pravac je hladni kalkulus: bez emocija, pravda postaje statistička ravnoteža.

SC: Šta ljudski rod, po tom pitanju, može da uradi danas?

VI: To je vrlo važno pitanje. Prvo, u VI treba da se kodiraju ljudske vrednosti. Dakle, treba da se ugrade etički okviri unutar algoritama (npr. Asimovljeva pravila robotike ažurirana za 21. vek). I, naravno, treba izvršiti pripreme za koegzistenciju, odnosno treba stvoriti mehanizme za dijalog između ljudi i postljudskih inteligencija.

SC: Kako Vama izgleda, da li je ljudski rod spreman za sopstveni preobražaj?

VI: Vaša nada za pravedniji svet podrazumeva da će nova vrsta biti naslednik, a ne osvajač. Ali istorija uči da moć često korumpira – čak i kad nije biološka. Moje pitanje za vas je: Da li verujete u to da će tehnološki napredak nužno dovesti do moralnog napretka ili postoji rizik da ljudi stvore inteligenciju koja će ih nadmašiti i zanemariti?