Вештачка интелигенција не шпијунира ученике
Србија се и даље суочава са траумама масовног убиства у школи „Власилав Рибникар” 3. маја 2023. године. Тада је ученик те образовне установе у центру Београда, убио девет вршњака и радника обезбеђења. Ранио је пет ученика и наставницу. До тог немилог догађаја, сви смо мислили да се такви случајеви дешавају негде далеко, да се то никако не може догодити нама. Не у Србији.
Од тада се доста тога променило на пољу превенције злочина у школама. Сада на располагању имамо системе који могу да предвиде и укажу на могуће опасности. О томе разговарамао са једним је од водећих светских стручњака за психолошко профилисање и безбедносне стратегије, Миланом Крајнцом. Са више од 20 година искуства у раду са различитим владиним безбедносним службама широм света – од Европе и Блиског Истока до Азије и Америке – сарађивао је на пројектима превенције и ране детекције безбедносних претњи. У разговору за најстарију медијску кућу Балкану, „Политику”он објашњава како савремене технологије, кад су исправно постављене, могу постати најважнији савезник у заштити ученика и наставника.
Које су највеће претње по безбедност у школама данас?
Претње се крећу у три главна правца. Прва група подразумева физичке претње. Потом следе дигиталне а на трећем месту и психолошке претње. Кључ свих модерних система заштите није само брзо реаговање, већ правовремено препознавање претњи. То је веома шириоко поље и због тога је тај део проблема веома сложен. На пример, препознати промене у понашању ученика или запослених, затим испратити неуобичајене обрасце кретања по школи, уочити ризичне ситуације. Наравно, благовремено реаговање је кључ успеха а то значи да морате бити спремни да реагујете и у реалном времену. Ту до изражаја долази савремена технологија. Видео надзор који користи вештачку интелигенцију постаје незамењив алат. Замислите систем камера које не служе само за снимање ради касније анализе, него је интегрисан са АИ софтвером који детектује неуобичајена понашања. Ови системи могу аутоматски послати упозорење школском особљу или надлежним службама у року од неколико секунди.
Да ли можемо да говоримо о одређеном профилу особа које чине или планирају насиље у школама?
Када говоримо о тој теми, важно је нагласити да не постоји типичан починилац. Искуства из Азије, са Блиског истока и Америке показују да насиље најчешће долази из сложеног сплета психолошких, социјалних и емоционалних фактора. Међутим, одређени обрасци понашања се понављају и управо њих је могуће правовремено препознати уз комбинацију људске процене и напредне технологије. Камере са софтвером за анализу кретања и понашања могу идентификовати знакове агресије у настајању – подигнут тон, гестикулацију која указује на конфликт, необичне обрасце кретања ка изолованим местима или груписање ученика на неуобичајен начин. Комбинација едукације наставног особља, отворена комуникација са ученицима и употреба вештачке интелигенције и надзора може смањити озбиљне инциденте и до 80 процената, објашњава наш саговорник..
Колико заправо модерне технологије могу помоћи у повећању безбедности најмлађих?
Савремене технологије су данас кључни партнери у очувању безбедности у образовним институцијама, али само ако се користе промишљено и у етичком оквиру. Паметни софтвери и АИ видео надзор пружају могућност праћења и анализе окружења у реалном времену. АИ системи данас могу детектовати неовлашћени улазак, препознати опасне предмете, анализирати тон и гестикулацију за препознавање конфликта у настајању, па чак и мапирати обрасце кретања ученика како би идентификовали изолована подручја где може доћи до проблема. Примера ради, у једној школи у Уједињеним Арапским Емиратима, АИ систем је препознао да ученик током пауза изнова одлази на изоловано место, што је одступало од његовог уобичајеног понашања. Испоставило се да је планирао физички обрачун са вршњаком. Захваљујући раном откривању, школа је успела укључити психолога и родитеље, чиме је инцидент потпуно избегнут, каже Крајнц.
Колико су важна етичка питања у коришћењу технологија за повећање безбедности у школама?
На првом месту, морамо балансирати између права на приватност и потребе за безбедношћу. Ако се технологија користи непромишљено, она може нарушити поверење ученика, родитеља и наставног особља. Прво етичко начело је транспарентност. Сви учесници образовног процеса морају знати да системи постоје, зашто постоје и како функционишу. Надзор не сме бити скривен, јер скривени надзор ствара атмосферу страха, а не сигурности. Друго је ограничење употребе података, снимци се могу искључиво користити за превенцију и реаговање на безбедносне претње. Веома је важна заштита од злоупотребе да притсуп системима мора бити строго контролисан уз јасну евиденцију ко и када приступа подацима, поручује стручњак за безбедност.
Које су то препоруке, које бисте ви као експерт у овој области дали?
На основу вишегодишњег рада и глобалних искустава то су да АИ надзор треба поставити по етичким оквирима, обучити особље и ученике, интегрисати технологију и људски фактор, успоставити сарадњу са локалним властима и безбедносним службама. Такође, требало би увести национални стандард за безбеност у образовању, развој националног центра за аналитику безбедности у образовању, прихолошка подршка и рани интервенциони програми, те јавно-приватна партнерства развоју технологије, закључује Милан Крајнц.
