„Presretanje“ zločina – budućnost koja je počela. COSMO bosanski/hrvatski/srpski. 21.03.2024. 23:00 Min.. Verfügbar bis 21.03.2025. COSMO. Von Sasa Bojic.
"Presretanje" zločina – budućnost koja je počela
Stand: 21.03.2024, 17:51 Uhr
Kroz čitavu istoriju, policije su nastojale da spreče zločine na osnovu informacija koje su sakupljane dugo i akribično. No, danas je veštačka inteligencija sposobna da obradi neverovatnu količinu informacija koje ljudi nisu u stanju ni da primete, ni da obrade, u kratkom vremenu. Saša Bojić istražuje nalazimo li se na pragu "presretanja" zločina za koje nismo ni znali da se pripremaju. Nenad Kreizer razlaže gde su počeci ovakvog pristupa borbe protiv kriminala. Precrime metoda nije od juče?
Zločin postoji otkako je sveta i veka. A takođe - i kazna. U civilizovanim društvima postoji i opšta prevencija zločina. Ona je ugrađena u sistem vaspitanja koji nas uči kakve vrste ponašanja su štetne po druge ljude i zašto takva ponašanja valja izbegavati. U sistem obrazovanja je ugrađeno učenje o najvišim moralni principima ljudskog delanja, i oni su kroz istoriju definisani mnogo puta na ovaj ili onaj način. Jedan od najpoznatijih glasi: „Delaj tako da princip tvog delanja može postati princip delanja svih drugih ljudi“ i njega je formulisao nemački filozof Imanuel Kant.
I pored svega toga, istorija našeg sveta je obeležena zločinima, civilnim ili ratnim, a zločini, uključujući i ubijanja, delo su pojedinaca, grupa pa i čitavih organizacija koje imaju složenu strukturu i hijerarhiju. Nešto tu postoji u ljudskoj prirodi što ume da bude jače od moralnih principa i pravila, i zbog tog nečeg ljudi ostaju bez svoje imovine, osnova za egzistenciju, i nepotrebno ginu. Zločin je deo ljudske civilizacije. Nažalost.
I zbog toga jedno od najvažnijih pitanja koje prati svako savremeno društvo glasi: kako sprečiti zločin? Prevencija koja podrazumeva vaspitanje i obrazovanje u duhu najviših moralnih načela je svakako dobra, ali očigledno – nedovoljna. Koliko su moralna načela jaka u svakom pojedincu, koliko je pojedinac podložan afektima, promenama stanja svesti, trenutnim iskušenjima, sve su to stvari koje su varijabilne. Ljudsko ponašanje nije lako, ali nije ni nemoguće, predvideti. Može li se predvideti zločin?
Bitne razlike između prevencije i predikcije
Veliki broj stručnjaka kaže da o tome treba ozbiljno razmišljati – ako imamo dovoljan broj parametara za tu predikciju.
Tu ima jedno bitno razlikovanje pojmova. I na engleskom i na nemačkom jeziku se za takvu vrstu sprečavanja zločina obično upotrebljava izraz pre-crime. Time se on razlikuje od izraza crime prevention, odnosno Kriminalprävention, što bi značilo: prevencija zločina.
Prevencija je sve ono što se čini da do zločina ne bi dolazilo. Ali pre-crime podrazumeva da je konkretan zločin tako reći na putu da se dogodi.
Tako gledano, pre-crime može biti svaki upad policije u skrovište nekakvih zaverenika koji su tu pripremili oružje i bombe da bi izveli teroristički napad. Do policijske akcije je došlo na osnovu konkretnih indicija i saznanja.
Ali, može li zločin biti sprečen i bez konkretnih indicija i saznanja o namerama, već samo na osnovu statistički poznatih obrazaca ljudskog ponašanja, pogotovo u vreme veštačke inteligencije koja uči da prepoznaje te obrasce?
Spilbergovi „medijumi“
To je do juče bilo nezamislivo. Što se vidi po poznatom filmu Stivena Spilberga „Suvišni izveštaj“ – navodim naslov koji su mu dali srpski distributeri. Originalan engleski naziv glasi: Minority Report – iz 2002. godine. Tu se sve dešava u Vašingtonu 2054. gde – ubistva ne postoje. Moguće je predvideti budućnost i krivci se kažnjavaju pre nego što počine zločin. U centru jedinice za predviđanje zločina, u okviru Ministarstva pravde, sve dokaze predviđaju tzv. „pre-kogovi“, tri vidovita stvorenja čije vizije nikad nisu bile pogrešne. Oni su najbolja jedinica za suzbijanje kriminala u državi, savršen sistem.
Šef te jedinice je Džon Anderton (kojeg glumi Tom Kruz). On je pogođen jednim privatnim tragičnim gubitkom. Zato je svoj život posvetio sistemu koji potencijalno može da spasi hiljade ljudi od tragedije kakva je njega svojevremeno zadesila. Šest godina kasnije, predstoji glasanje da se taj sistem primeni u celoj državi. Anderton je ubeđen da je to pravi put, kao i da njegova jedinica savršeno funkcioniše. I nema razloga za sumnju sve dok ON ne postane – glavni osumnjičeni...
Ovaj film je pre 20 godina pokrenuo velike diskusije širom sveta o tome kako bi mogla da izgleda naša budućnost. Ali, u filmu zločine ne predviđa veštačka inteligencija nego to rade specijalni medijumi, koji su doduše nepogrešivi.
Film ima i svoj literarni predložak koji je mnogo stariji. A to je priča sa istim naslovom koju je kultni američki pisac naučne fantastike Filip K. Dik objavio još 1956. godine.
Pisci su, naravno, još tada tragali za atraktivnim SF-motivima, ali o istom problemu su razmišljali i istraživači svih vrsta. Jasno je da ideja o presretanju zločina ima svoju istoriju. O njoj će nas informisati moj kolega Nenad Kreizer.
Nenade, temom pre-crime su se dosad bavili i policija i tajne službe na jednoj strani, i SF-autori na drugoj?
Philip K. Dick
Da u pravu si. Opise ovakvog državnog mehanizma nalazimo kod Georga Orwella i njegovog poznatog distopijskog romana "1984" gdje se građani kažnjavaju već i zbog same pomisli na neko kazneno djelo.
No mnogo jače je na stvaranje ovog pojma utjecao roman američkog pisca Philipa K. Dicka "Minority Report" objavljenog 1956. i posebno istoimenog filma Stevena Spielberga iz 2002. s Tom Cruiseom u glavnoj ulozi. Ovdje se sprječavanje zločina koji bi se tek trebao dogoditi temelji ne predskazanjima osoba s posebnim mentalnim sposobnostima.
O filmu samo toliko s obzirom da si mu se ti detaljnije posvetio.
Dakle i dalje se krećemo u polju fikcije. No pokušaji da se zločini spreče unapred imaju svoje duboke korene i u samoj kriminalistici. Gde su počeci ovakvog pristupa?
U 19. stoljeću. Tada je talijanski liječnik i psiholog Cesare Lombroso, koji je zapravo, može se reći, i otac forenzike jer se među prvima zalagao da se u rješavanje kriminalnih slučajeva uključe i znanstvenici iz polja prirodnih znanosti, biolozi, liječnici, dakle može se reći da bez Lombrosa ne bi bilo ni svih ovih popularnih zabavnih formata koji se bave poslom forenzičara, recimo serije CSI.
No on se bavio i manje znanstvenim poljima poput predviđanja zločina?
Da ali ne na tragu znanstvene fantastike poput Orwella i Dicka nego na temelju znanstvenih pristupa, koji su u 19. stoljeću smatrani prihvatljivima a to je eugenika zapravo fiziognomika pa i socijalni darvinizam, pojmovi koji danas definitivno spadaju u red pseudoznanosti.
Kako je Lombroso primenjivao ove pseudoznanosti?
Lombroso je polazio od ideje da su kriminalci rođeni kao takvi i da ih se lako može prepoznati po vanjskim obilježjima: oblikom glave, karakteristikama lica, tjelesnim držanjem.
I tu se kao što vidiš, krećemo u povijesno mračnim vodama koje idu u smjeru rasne teorije i već spomenute eugenike.
Jer i nacionalsocijalisti su se koristili ovim metodama kako bi izdvojili, po njihovom mišljenju, manje vrijedne ljude. Danas su ove teorije odbačene kao pogrešne.
Koriste li se sigurnosne službe danas metodama koje su povezane s pre-crimeom?
Metode kontrole javnog prostora spadaju u tu sferu. Sve više gradova polako ali sigurno uvodi nadzor kamerama a cilj ovog procesa je uvid u neke vrste ponašanja koje prethode mogućim kriminalnim radnjama. O tome je li netko opasan ili ne odlučuje softver na temelju ogromne količine podataka. Ovakva vrsta sigurnosnog menedžmenta sa sobom naravno krije i opasnost greške. Kod ovih postupaka se također govori o Preventing Policing.
Kad su kamere i tzv. profiling u pitanju, tu su neke zemlje otišle još korak dalje.
Pomoću softvera je moguće vršiti i tzv. racial profiling dakle selekcije osoba prema nekim fizičkim karakteristikama, poput boje kože ili oblika očiju. Kina ovu tehniku koristi kako bi kontrolirala pripadnike manjine Ujgura i tako unaprijed reagirala na moguća okupljanja i prosvjede.
Ali Preventing Policing se koristi i u Njemačkoj.
Da kontrola preko nadzornih kamera se već koristi i u velikom broju njemačkih saveznih pokrajina. No ne radi se samo o kamerama. I sporni racial profiling s ciljanim kontrolama u recimo vlakovima osoba koje izgledaju drugačije.
Postoji naravno i pojam „Gefährdera“ koji je teško prevesti ali se radi o osobi koja je potencijalno opasna. Ovaj pojam se posebno koristi kada se govori o terorizmu s islamističkom pozadinom. Dakle i tu se radi o osobama koje se nisu ogriješile o zakon ali po svim mjerilima i karakteristikama bi to mogli učiniti. Dakle daleko od znastvene fantastike nego se radi o metodama koje se već odavno primjenjuju.
Sličnim se metodama služi i policija u Chicagu. Tamo policija na oku drži osobe koje su do sada u oči upale samo po sitnijim prekršajima ali se kreću u društvu u kojem se nalaze i teži kriminalci. To ih prema mišljenju policije, čini potencijalnim težim kriminalcima. Policija ove osobe posjećuje kod kuće i daje im do znanja da se nalaze pod prismotrom. Time se vlasti nadaju da će smanjiti broj kaznenih djela.
Moralno-pravne dileme
Eto sada je jasnije da je pre-crime ideja koja nije baš od juče. Zar ne bi bilo dobro da se teroristički napadi, silovanja, ubistva i krađe spreče pre nego što se dese? Sigurno da bi bilo.
Ali, ko može da garantuje da bi se „sprečen zločin“ zaista i desio?
To ne može niko. Zato pretpostavljam da bi scenario mogao biti ovakav: U nekom gradu se, na primer, uvede pre-crime-metoda uz pomoć AI. I na osnovu toga krenu hapšenja i pritvaranja. Svako ko je uhapšen i pritvoren će verovatno tvrditi da nije imao nameru da počini zločin, pa čak i ako postoje jasni dokazi da se za to pripremao.
Jer, zločin je uvek samo zločin koji je počinjen. Sve ostalo je spekulacija.
Ipak, vrlo je moguće da će posle nekog vremena prve statistike pokazati da se broj zločina u gradu bitno smanjio. I to će verovatno biti glavni argument pristalica pre-crime-metode. Da je život postao vidno bezbedniji.
Tu smo kod drugog važnog pitanja: koju cenu moramo da platimo da bi život bio bezbedniji zahvaljujući novoj metodi?
Cena je velika
Jasno da je da to može biti samo – naša privatnost. Predikcija zločina uz pomoć mašinskog učenja znači da se algoritmi hrane svim mogućim podacima o ponašanju svakog od nas. O tome šta radimo na radnom mestu, šta kupujemo, šta jedemo, kakve filmove volimo, kakve zdravstvene probleme imamo, a pre svega čime smo razočarani, šta mrzimo, šta smo u stanju da uradimo u afektu, kakav nam je psihološki profil?
Do takvih podataka se sada dolazi lakše nego ikad. Već samo na osnovu frekvencija našeg glasa na telefonu, veštačka inteligencija već danas ispostavlja poslodavcima psihološki profil kandidata za posao. A usput, i podatke o tome kako im, recimo, funkcioniše kardiovaskularni sistem.
Nadzor nad građanima spada u veoma drastične mere i saznanje da u svakom trenutku postoji nešto štoo Vaše ponašanje može da prati iz sata u sat, pa i da ga analizira možda i bolje od Vas samih i Vaše okoline, to saznanje svakako nije prijatno.
Ali, retko koja mera vlasti izaziva tako malo masovnih protesta bilo koje vrste kao što je to nadzor nad građanima. I retko koja mera se usavršava i širi tako neumoljivo kao što je to nadzor nad građanima, bez obzira na borbu koju protiv toga vode organizacije i poverenici za zaštitu podataka o ličnosti.
Projekti za koje se zna
Da se razumemo: predikcija zločina je moguća i bez zadiranja u našu privatnost. Na primer, 2005. godine je u Memfisu u SAD firma IBM sačinila algoritam. On je proučavao samo mesta na kojima su u tom gradu počinjeni zločini tokom poslednjih 20 godina i napravio kartu opasnih zona. To je za gradske oce bio povod da razmisle o preuređenju tih zona. Ili da naprosto pojačaju u njima policijske patrole. Eto tako bi to moglo da izgleda, doduše, ta vrsta rada je moguća i bez veštačke inteligencije, pa čak i bez računara.
No, bez računarske obrade podataka to ne može da se radi u velikom stilu. Kao što je to već počelo u SAD.
Tamo policija u Kaliforniji, Teksasu, Koloradu i Nju Džersiju od pre nekoliko godina koristi specijalne programe koji iznalaze kada i gde bi moglo da se desi sledeće krivično delo. Počelo je programom RTM DX koji proučava karakteristike mesta zločina. Tako da policija može da odluči koje indicije valja pažljivije pratiti.
Tu je sistem još u povoju. No, kada je reč o proceni: kolika je verovatnoća da će jedna osoba ili grupa ljudi u budućnosti počiniti zločin, poprilično daleko su otišli naučnici Tehničkog univerziteta u Berlinu. Oni razrađuju takozvani automatizovan video-nadzor. Istraživač Jens Helterlajn je to ovako objasnio nemačkim medijima:
Ako imate železničku stanicu opremljenu sa 50 kamera, onda je problem što valja znati u koji monitor tačno gledati. Ne može se nadzirati svih 50 sa podjednakom pažnjom. Zato procena da li se ispred određene kamere dešava nešto relevantno može da se prepusti algoritmu koji bi sam odlučivao koje slike da izbaci u prvi plan.
Drugi korak bi bio da sistem, kada otkrije nešto sumnjivo, mogao sam i da preuzme inicijativu i jednostavno pošalje patrolu u sektor taj i taj. To je moguće ali je za sada pravno problematično.
Još dalje je otišao evropski projekat INDECT. To je skraćenica koja znači: Inteligentan informativni sistem za podršku nadzoru, potrazi i lociranju građana u gradskim sredinama.
Pod stalnom prismotrom: Monitoring u Crime Prevention Centru Policije u Chicagu
Naučnici projekta INDECT su još 2009. počeli da rade na algoritmima koji pažljivo posmatraju snimke načinjene video-kamerama i na njemu prepoznaju ono što policija zove „sumnjivim ponašanjem“. Na primer, ako neko sedi na peronu i propušta već četvrti tramvaj, to za sistem znači: gle, ova osoba možda nešto snuje.
Jeste, moguće je i da čeka nekoga ko je rekao da će izaći iz tramvaja na toj stanici. Ali, ta osoba je ušla u „trijažu“ i postala „sumnjivo lice“.
Ili ako neko na aerodromu ostavi svoj kofer i ode nekuda, to je odmah znak sumnjivog ponašanja. Isto tako: ako neko prebrzo hoda. Itd. itd.
Jedno je sigurno: što je više kamera, odnosno podataka koje one beleže, tim tačnije će algoritam da uči da prepoznaje i procenjuje različite situacije.
Ideo dalje sa skraćenicama. Nemački federalni kriminalistički ured proučava sistem zvani PROACTIVE: Ili u „prevodu“: Prediktivna analiza i fuzija različitih izvora podataka za pomoć anticipaciji napada i terorističkih akcija u urbanim sredinama.
Tu se radi o sprečavanju terorističkih napada. A na koji način? Tako što su po čitavom gradu postavljeni „senzori“ koji sakupljaju podatke. Tu neke informacije nisu za javnost, recimo, kakvi su to zapravo senzori. A ono što njihove podatke sakuplja i prosleđuje policiji je takozvani „mobilni leteći senzorski čvor“ o kojem su u policiji još manje raspoloženi da govore. Taj sistem, kažu već vrlo dobro ume da prepozna ponašanje koje odstupa od „normalnog“.
Idenitifikovanje sumnjivih – lakše i brže nego što se očekivalo
I u svemu tome, naravno, bitnu ulogu ima prepoznavanje lica na osnovu biometrijskih podataka. U filmu Minority Report se sve bazira na skeniranju očiju. A radnja filma se dešava 2054. godine. Znači ni Spilbeg nije bio u stanju da predvidi mašinsko učenje koje zapravo sve bolje zna da prepoznaje lica građana na osnovu bilo čega, pod šeširom, sa šalom, sa naočarama za sunce itd. A da bi mogao da ih prepozna, sistem mora imati na raspolaganju dovoljno fotografija svih građana snimljenih u različitim uslovima, kako bi shvatio da li i u kojoj meri neka osoba varira svoj izgled.
I tu pomaže, naravno, internet. Jer građani vole da se slikaju za Fejsbuk, Instagram, TikTok, građani su i na slikama koje su drugi postavili na internet, snimajući, recimo, društvo okupljeno u kafani.
Veštačka inteligencija sve te snimke sada može da pretraži brzinom koja je do juče bila nezamisliva. Svi mediji su preneli kako je uz primenu veštačke inteligencije Majkl Kolborn iz globalne mreže Belingket locirao bivšu teroristkinju Frakcije Crvene armije za samo 30 minuta. Dok se konvencionalnim policijskim sredstvima za njom tragalo 30 godina.
I naravno, postavlja se pitanje: zašto policija nije koristila program koji je koristio Kolborn? A odgovor je: zato što joj to ne dozvoljava Zakon o zaštiti podataka o ličnosti. U Nemačkoj se o toj zaštiti vodi više računa nego u drugim zemljama. Još. Ali opasnosti oko nas su sve veće. Samo je pitanje vremena kada će pasti i poslednja prepreka neograničenom nadzoru. Sa ciljem da se ostvari osnovna ideja pre-crime-a: da se spreče zločini i teroristički napadi.
Spot: pas-robot Dojče bana
Mnogo skromniji cilj je sebi postavio Dojče ban, znači nemačka železnica je od firme Boston dajnemiks (Boston Dynamics) kupila psećeg robota po imenu Spot. Težak je 40 kilograma, kreće se brzinom od 7 km/h, ima tri kamere, i zadatak će mu biti da spreči sprejere da unakarade vagone železnice grafitima.
SPOT, robot Deutsche Bahna
U robota je ugrađena veštačka inteligencija. Uz njenu pomoć, on će prepoznavati osobe koje se neovlašćeno kreću među prakiranim vagonima.
Dojče ban odbija da saopšti kako robot tačno prepoznaje potencijalne sprejere. Ali zna se da je njegov algoritam „nahranjen“ sa 1200 fotografija.
Mehanički pas nije jevtin – i tu neće da navedu tačnu cifru već govore samo o „srednjem petocifrenom“ iznosu – a oni se odnose samo na test-fazu od četiri nedelje. Doduše, Dojče banu će se i to isplatiti – ako akcija uspe – jer svake godine za uklanjanje grafita sa oko 13.000 kvadratnih metara površina vagona troši oko milion evra.
Pre-crime je svakako jedno od najvažnijih polja primene veštačke inteligencije. Programi sa kriptičnim nazivima RTX, INDECT ili PROACTIVE su samo čekali da se u njih integriše mašinsko učenje. Pa možemo da zakoračimo u utopiju, ili distopiju, već u zavisnosti od ugla gledanja.
„Jer“, kako to kažu u filmu Minority Report, „Samo život u bezbednosti garantuje i život u slobodi“. A koja je cena te bezbednosti – pitanje je o kojem će se raspravljati... bar još neko vreme.
