Andrej Božinovski
AI ili UI (umjetna inteligencija) oduvijek je bila prisutna oko nas, poboljšavajući naše živote i pomažući nam u svakodnevnim zadacima. Međutim, u godini 2023., duboko promišljena debata uzima centralno mjesto u uvijek se mijenjajućem svijetu kaznene pravde.
Ta debata potaknuta je intrigantnim spajanjem umjetne inteligencije (AI) i podataka, konvergencijom koja je probila okvire samo zakona i algoritama. Zamislite njihanje pendula između dvaju privlačnih područja: privlačnosti učinkovitosti s jedne strane i vrebajuće opasnosti pristranosti i diskriminacije s druge strane.
Ovaj kompleksni balans oblikuje se kako agencije za provođenje zakona i odgovorni za održavanje pravde sve više omogućuju sustavima automatskog donošenja odluka temeljenih na AI (Automated Decision Making systems).
U ovom dinamičnom okruženju, koncept koji je nekad zvučao kao nešto iz znanstvene fantastike postao je stvarna stvarnost. Zove se prediktivno provođenje zakona i to je kao kristalna kugla pravosuđa. To se usvaja diljem svijeta, a potiču ga mješavina analize podataka, složenih algoritama i intuitivnih sposobnosti AI.
Cilj? Predviđati potencijalne kriminalne aktivnosti, stvarati profile potencijalnih prestupnika i procjenjivati rizik budućih prekršaja. No kako se sve više uranjamo u ovaj tehnološki ocean, posljedice se pokazuju i dalekosežnima i duboko uznemirujućima.
Jasan primjer toga vidimo u kineskom gradu Rongchengu. Zamislite grad okružen s više od 26 milijuna pažljivih očiju – kamera koje bilježe svaki pokret, svaki gest i svaki izraz građana. Namjera? Povećanje javne sigurnosti.
Međutim, kritičari tvrde da ovakva razina nadzora prelazi granicu masovnog nadzora, potencijalno otvarajući put društvu u kojem su individualne slobode u opasnosti.
Nedaleko od toga, susjedna Srbija razmatrala je uvođenje softvera za prepoznavanje lica 2022. godine. I dok vlast tvrdi da je to korak prema sigurnijim ulicama, skeptici se brinu zbog potencijalnog kršenja privatnosti i temeljnih prava.
Prediktivno provođenje zakona također je bacilo svoju sjenu na države poput Nizozemske, Engleske i Belgije. Ipak, ova infuzija tehnologije nije uvijek donijela željene rezultate.
Na primjer, u Nizozemskoj je algoritam za prediktivno provođenje zakona naišao na kritike jer je nerazmjerno ciljao na četvrti naseljene manjinskim zajednicama, time pogoršavajući postojeće društvene neravnoteže umjesto da ih ublažava.
Međutim, srž problema leži dublje. Ovi AI i ADM sustavi, umjesto da se pojavljuju kao nepristrani arbitri, nenamjerno preuzimaju pristranosti utkane u svoje tvorce i podatke kojima su hranjeni.
Rezultat je uznemirujući – društvene predrasude vezane za rasu, etničko podrijetlo, nacionalnost i socijalno-ekonomski status nenamjerno se pojačavaju, označavajući pojedince kao potencijalne prijetnje na temelju podataka koji možda ne odražavaju točno njihove namjere.
Ovaj uznemirujući scenarij potaknuo je civilne društvene skupine poput Fair Trials i European Digital Rights (EDRi) da hitno pozovu Europsku uniju (EU) na akciju. Njihov zahtjev? Kategorička zabrana prediktivnih AI sustava u provođenju zakona i kriminalnoj pravdi.
Zašto? Zato što su ovi sustavi izazvali valjane zabrinutosti zbog poticanja diskriminacije, kršenja temeljnih prava i čak narušavanja temeljnog načela ”nevin dok se ne dokaže krivim”.
Ono što je posebno zabrinjavajuće je to što ovi prediktivni AI sustavi manipuliraju samim konceptom nedužnosti. Imaju moć prikazati pojedince kao potencijalne prestupnike na temelju predviđanja, čak i prije nego što se pojavi bilo kakav stvarni dokaz. To je zabrinjavajući pomak, jedan koji zamagljuje granicu između anticipacije i pretpostavke.
Dodatno, neugodu pojačava zbrka neizvjesnosti koja okružuje ove sustave. Oni djeluju s određenom razinom neprozirnosti koja javnost ostavlja u sjeni, s minimalnim uvidom u mehanizme koji upravljaju njihovom sudbinom. Ovaj veo tajanstvenosti baca sumnju na transparentnost i odgovornost koje su ključne za održavanje pravde.
Pa, koji je put naprijed? Poziv na djelovanje je jasan: Moramo uspostaviti regulacije koje djeluju kao zaštita od potencijalnih zamki AI i ADM sustava.
To znači reći ”ne” prediktivnim, profilirajućim i procjenjivačkim AI sustavima kada je riječ o provođenju zakona i kriminalnoj pravdi. Ova odlučna akcija postaje štit koji štiti od prisutnih pristranosti i neopravdanih pretpostavki koje ovi sustavi mogu perpetuirati.
U ovom putovanju prema pravednijem pravosudnom sustavu ključan je alat testiranja pristranosti. Temeljite i nepristrane procjene, provedene na različitim stupnjevima, mogu otkriti pristranosti koje prijete samoj osnovi pravde.
Osim toga, zavjesa koja okružuje unutarnje mehanizme ovih sustava mora biti podignuta, pružajući onima koji su pogođeni i općoj javnosti priliku da razumiju i procijene njihove implikacije.
Ali naše putovanje ne završava ovdje. Na ljudima koji donose odluke leži odgovornost pružiti dokaze i objašnjenja za svoje presude, čime se jača odgovornost koja nadilazi područje tehnologije. Slično tome, osnaživanje pojedinaca da izazivaju odluke i propituju sustave koji ih pogađaju od ključne je važnosti za obnovu obećanja pravde.
Dok razmatramo usvajanje sistema prediktivne umjetne inteligencije, ključno je da zemlje poput Hrvatske ne žure s implementacijom. Mjereno pristupanje osigurava da se potencijalne zamke prepoznaju i rješavaju prije nego što neopozive posljedice nastupe.
Kompleksnosti i potencijalni rizici povezani s prediktivnim provođenjem zakona zahtijevaju temeljitu procjenu njenog utjecaja na privatnost, pristranost i samu temeljnu osnovu pravde, vodeći Hrvatsku prema dobro informiranoj odluci koja štiti prava i dobrobit njenih građana.
MOŽETE PODRŽATI AUTOGRAF PA I NAJMANJOM MOGUĆOM UPLATOM NA NAŠ RAČUN ILI PREKO PAYPAL-A. MOŽETE NAZVATI BROJ 060 866 660 / Tel.: 0,49€ (3,75 kn); Mob: 0,67€ (5,05 kn) po pozivu (PDV uključen) ILI POŠALJITE SMS PORUKU sadržaja PODRSKA na broj 667 667 / Cijena 0,82 € (6,20 kn). Operator usluge: Skynet Telekomunikacije d.o.o., info telefon: 01 55 77 555. HVALA! ZA VIŠE INFORMACIJA KLIKNITE OVDJE.
Još tekstova ovog autora:
- Prvi puta u nas stručno razgovaramo o cyber-traffickingu
- Vrijeme je da porazgovaramo o pogrešno osuđenima u Hrvatskoj
- Obvezno cijepljenje za početnike