Veštačka inteligencija ne špijunira učenike
Srbija se i dalje suočava sa traumama masovnog ubistva u školi „Vlasilav Ribnikar” 3. maja 2023. godine. Tada je učenik te obrazovne ustanove u centru Beograda, ubio devet vršnjaka i radnika obezbeđenja. Ranio je pet učenika i nastavnicu. Do tog nemilog događaja, svi smo mislili da se takvi slučajevi dešavaju negde daleko, da se to nikako ne može dogoditi nama. Ne u Srbiji.
Od tada se dosta toga promenilo na polju prevencije zločina u školama. Sada na raspolaganju imamo sisteme koji mogu da predvide i ukažu na moguće opasnosti. O tome razgovaramao sa jednim je od vodećih svetskih stručnjaka za psihološko profilisanje i bezbednosne strategije, Milanom Krajncom. Sa više od 20 godina iskustva u radu sa različitim vladinim bezbednosnim službama širom sveta – od Evrope i Bliskog Istoka do Azije i Amerike – sarađivao je na projektima prevencije i rane detekcije bezbednosnih pretnji. U razgovoru za najstariju medijsku kuću Balkanu, „Politiku”on objašnjava kako savremene tehnologije, kad su ispravno postavljene, mogu postati najvažniji saveznik u zaštiti učenika i nastavnika.
Koje su najveće pretnje po bezbednost u školama danas?
Pretnje se kreću u tri glavna pravca. Prva grupa podrazumeva fizičke pretnje. Potom slede digitalne a na trećem mestu i psihološke pretnje. Ključ svih modernih sistema zaštite nije samo brzo reagovanje, već pravovremeno prepoznavanje pretnji. To je veoma širioko polje i zbog toga je taj deo problema veoma složen. Na primer, prepoznati promene u ponašanju učenika ili zaposlenih, zatim ispratiti neuobičajene obrasce kretanja po školi, uočiti rizične situacije. Naravno, blagovremeno reagovanje je ključ uspeha a to znači da morate biti spremni da reagujete i u realnom vremenu. Tu do izražaja dolazi savremena tehnologija. Video nadzor koji koristi veštačku inteligenciju postaje nezamenjiv alat. Zamislite sistem kamera koje ne služe samo za snimanje radi kasnije analize, nego je integrisan sa AI softverom koji detektuje neuobičajena ponašanja. Ovi sistemi mogu automatski poslati upozorenje školskom osoblju ili nadležnim službama u roku od nekoliko sekundi.
Da li možemo da govorimo o određenom profilu osoba koje čine ili planiraju nasilje u školama?
Kada govorimo o toj temi, važno je naglasiti da ne postoji tipičan počinilac. Iskustva iz Azije, sa Bliskog istoka i Amerike pokazuju da nasilje najčešće dolazi iz složenog spleta psiholoških, socijalnih i emocionalnih faktora. Međutim, određeni obrasci ponašanja se ponavljaju i upravo njih je moguće pravovremeno prepoznati uz kombinaciju ljudske procene i napredne tehnologije. Kamere sa softverom za analizu kretanja i ponašanja mogu identifikovati znakove agresije u nastajanju – podignut ton, gestikulaciju koja ukazuje na konflikt, neobične obrasce kretanja ka izolovanim mestima ili grupisanje učenika na neuobičajen način. Kombinacija edukacije nastavnog osoblja, otvorena komunikacija sa učenicima i upotreba veštačke inteligencije i nadzora može smanjiti ozbiljne incidente i do 80 procenata, objašnjava naš sagovornik..
Koliko zapravo moderne tehnologije mogu pomoći u povećanju bezbednosti najmlađih?
Savremene tehnologije su danas ključni partneri u očuvanju bezbednosti u obrazovnim institucijama, ali samo ako se koriste promišljeno i u etičkom okviru. Pametni softveri i AI video nadzor pružaju mogućnost praćenja i analize okruženja u realnom vremenu. AI sistemi danas mogu detektovati neovlašćeni ulazak, prepoznati opasne predmete, analizirati ton i gestikulaciju za prepoznavanje konflikta u nastajanju, pa čak i mapirati obrasce kretanja učenika kako bi identifikovali izolovana područja gde može doći do problema. Primera radi, u jednoj školi u Ujedinjenim Arapskim Emiratima, AI sistem je prepoznao da učenik tokom pauza iznova odlazi na izolovano mesto, što je odstupalo od njegovog uobičajenog ponašanja. Ispostavilo se da je planirao fizički obračun sa vršnjakom. Zahvaljujući ranom otkrivanju, škola je uspela uključiti psihologa i roditelje, čime je incident potpuno izbegnut, kaže Krajnc.
Koliko su važna etička pitanja u korišćenju tehnologija za povećanje bezbednosti u školama?
Na prvom mestu, moramo balansirati između prava na privatnost i potrebe za bezbednošću. Ako se tehnologija koristi nepromišljeno, ona može narušiti poverenje učenika, roditelja i nastavnog osoblja. Prvo etičko načelo je transparentnost. Svi učesnici obrazovnog procesa moraju znati da sistemi postoje, zašto postoje i kako funkcionišu. Nadzor ne sme biti skriven, jer skriveni nadzor stvara atmosferu straha, a ne sigurnosti. Drugo je ograničenje upotrebe podataka, snimci se mogu isključivo koristiti za prevenciju i reagovanje na bezbednosne pretnje. Veoma je važna zaštita od zloupotrebe da pritsup sistemima mora biti strogo kontrolisan uz jasnu evidenciju ko i kada pristupa podacima, poručuje stručnjak za bezbednost.
Koje su to preporuke, koje biste vi kao ekspert u ovoj oblasti dali?
Na osnovu višegodišnjeg rada i globalnih iskustava to su da AI nadzor treba postaviti po etičkim okvirima, obučiti osoblje i učenike, integrisati tehnologiju i ljudski faktor, uspostaviti saradnju sa lokalnim vlastima i bezbednosnim službama. Takođe, trebalo bi uvesti nacionalni standard za bezbenost u obrazovanju, razvoj nacionalnog centra za analitiku bezbednosti u obrazovanju, prihološka podrška i rani intervencioni programi, te javno-privatna partnerstva razvoju tehnologije, zaključuje Milan Krajnc.
