Kako bi vam omogućili bolje korisničko iskustvo, ova stranica pohranjuje vaše kolačiće (cookies). Više informacija

Zatvori

05. ožujak. 2024.

AI će u narednim godinama donijeti velike promjene u lokalnu samoupravu

Tema ovoga teksta je vrlo prigodna, budući da je odbor Europskog parlamenta 13.02.2024. podržao Akt o umjetnoj inteligenciji koji će omogućiti razvoj tog polja, ali i zaštititi korisnike od uporabe AI-ja “neprihvatljivog rizika” poput društvenog vrednovanja. Dogovor još moraju formalno potvrditi Europski parlament i Vijeće EU-a, što će se najvjerojatnije dogoditi u travnju ove godine. Ovaj Zakon predstavlja prvu regulaciju AI-ja putem višerazinskog sustava rizika na svijetu.

Državne i lokalne vlasti diljem svijeta već uvelike eksperimentiraju s umjetnom inteligencijom. Tehnologija u nastajanju koristi se za gotovo sve, od kibernetičke sigurnosti i praćenja infrastrukture do javnog zdravlja i analize protoka prometa, od automatizacije radnih procesa i minimiziranja suvišnih zadataka do korisničke službe i upravljanja web stranicama.
Ali ti se projekti u mnogim slučajevima odvijaju bez smjernica i odgovarajuće obuke, prema novom istraživanju IT rukovoditelja u lokalnoj upravi od strane Instituta za javne tehnologije, koji nudi informatičku obuku lokalnim upravama. Osamdeset pet posto anketiranih od strane PTI-a reklo je da vjeruje da im je potrebna obuka za bolje razumijevanje umjetne inteligencije, dok je 51% reklo da bi obuka o umjetnoj inteligenciji za osoblje lokalnih vlasti u sljedeće dvije godine trebala biti obavezna.
Navedeno istraživanje objavljeno je dok brojne državne i lokalne vlasti rade na izdavanju vlastitih smjernica u nedostatku nacionalnog okvira umjetne inteligencije.

Guverneri i gradonačelnici diljem SAD-a pozivaju na obuku javne radne snage za umjetnu inteligenciju

Guverner Pennsylvanije Josh Shapiro nedavno je postao posljednji izvršni čelnik koji je potpisao izvršnu naredbu o uspostavi odgovornih standarda i okvira upravljanja za korištenje generativne umjetne inteligencije od strane agencija. Shapiro je rekao da se država mora “educirati i biti proaktivna kako bi smanjila rizike i povećala dobrobiti inovacija.”
Guverner Kalifornije Gavin Newsom potpisao je nedavno vlastitu izvršnu naredbu istog tipa, nakon nekoliko nastojanja na gradskoj razini da se uspostave smjernice za korištenje u Bostonu, San Joseu, Kaliforniji i Seattleu, među ostalima.
Sve te naredbe i politike pozivaju na obuku javne radne snage za umjetnu inteligenciju.
Boston i San Jose to već čine. A Shapirova akcija u Pennsylvaniji nalaže da Ured za administraciju izradi materijale za obuku na temelju 10 temeljnih vrijednosti navedenih u nalogu.

Aspekti tehnologije koje treba uzeti u obzir pri obuci zaposlenika

Alan Shark, izvršni direktor PTI-a, rekao je da postoji nekoliko aspekata tehnologije koje treba uzeti u obzir pri obuci zaposlenika:
• potencijalna pristranost,
• etičko korištenje,
• na koji bi način trebalo ugovore prepisati,
• kako upravljati dijeljenjem podataka,
• kako osigurati da se nehotice ne unesu osobni identifikacijski podaci u tehnologiju.

Dodatni aspekti koje treba razmotriti u programima obuke uključuju:
• kako napisati izjave koje korisnicima daju do znanja da su odluke donesene uz pomoć AI sustava,
• kako razviti žalbeni postupak za te odluke,
• smjernice o tome kako se nositi s „AI halucinacijama“, gdje su pružene informacije potpuno pogrešne,
• kako spriječiti pretjerano oslanjanje na tehnologiju.

Napredne državne i lokalne vlasti nastavit će pojačavati vlastite politike koje reguliraju korištenje tehnologije

Istraživanje PTI-ja također je pokazalo da lokalni dužnosnici vjeruju da je upravljanje cybersecurity-jem područje koje bi moglo imati najviše koristi od umjetne inteligencije, ispred analize podataka i angažmana građana. Mnogi pružatelji upravljanih usluga već koriste umjetnu inteligenciju za praćenje i ublažavanje kibernetičkih napada, kao što to čini oko trećina drugih organizacija, prema nedavnom istraživanju Gartnera. Predviđa se da će to nastaviti rasti, jer se lokalne vlasti više oslanjaju na tvrtke za te usluge umjesto da ih traže interno.
Nije da gradovima ne treba osoblje na lokalnoj razini, ali jednostavno nemaju dovoljno stručnih ljudi. AI je osobito dobra u otkrivanju anomalija, obrazaca i trendova, pa je treba sve više koristiti.
Uz stalni nedostatak kodificiranog nacionalnog okvira umjetne inteligencije, državne i lokalne vlasti naprednih država nastavit će pojačavati vlastite politike koje reguliraju korištenje tehnologije. Očekuje se da će ogromna većina jedinica lokalne samouprave imati uspostavljenu politiku upravljanja i da će nastaviti eksperimentirati s novim slučajevima upotrebe i aplikacijama o kojima tek treba razmišljati.
Čak 58% ispitanika u istraživanju vjeruje da će u sljedeće tri godine umjetna inteligencija donijeti dramatične promjene u načinu rada i pružanja usluga lokalnih vlasti.
Usred pompe i uzbuđenja oko umjetne inteligencije i njenih generativnih sposobnosti, ona bi mogla biti vrlo utjecajna u nadolazećim godinama. Nazvano je to “vjerojatno trećom najutjecajnijom stvari koja se dogodila u posljednjih 50 godina”, nakon što je internet javno dostupan i uvođenja računalstva u oblaku. Ali bez sumnje će AI tehnologija i dalje biti pod povećalom kako se bude razvijala.
Ironija cijele ove priče je da je to zapravo utrka učenja – učimo kako koristiti AI, a ona uči kako nam odgovoriti. I tako će se ova utrka vjerojatno nastaviti unedogled.

Europski gradovi također raspravljaju o regulaciji umjetne inteligencije i njezinim brojnim izazovima

Slika 1. – EU Akt o umjetnoj inteligenciji, Izvor: bug.hr

Zakon o umjetnoj inteligenciji (AI Act) ima potencijal oblikovati politiku izvan europskih granica, a gradovi traže mjesto za stolom kako bi se čuo njihov glas i u potpunosti poštovala prava građana. Privatnost, transparentnost, odgovornost i objašnjivost glavna su pitanja o kojima žele raspravljati.
Sigurnost građana ovisi o tome da se korisnici i tvorci aplikacija umjetne inteligencije pridržavaju postojećeg zakonodavstva i ažuriraju to zakonodavstvo suočeni s novim rizicima. Također moraju jamčiti sudjelovanje javnosti i poštivati privatnost građana. Građani moraju biti upoznati s time kada i kako se njihovi podaci prikupljaju, te s kasnijim korištenjem tih podataka.

Što je EU AI Act?

Zakon o umjetnoj inteligenciji je predloženi europski zakon o umjetnoj inteligenciji (AI) – prvi sveobuhvatni zakon o umjetnoj inteligenciji koji je donio veliki regulator bilo gdje. Zakon svrstava primjene umjetne inteligencije u tri kategorije rizika.
Prvo, zabranjene su aplikacije i sustavi koji stvaraju neprihvatljiv rizik, kao što je društveno bodovanje koje vodi vlada, kakvo se koristi u Kini. Drugo, visokorizične prijave, kao što je alat za skeniranje životopisa koji rangira kandidate za posao, podliježu posebnim zakonskim zahtjevima. Na kraju, aplikacije koje nisu izričito zabranjene ili navedene kao visokorizične uglavnom su neregulirane.
Zakon o umjetnoj inteligenciji, predložen još u travnju 2021., stvorit će zajednički regulatorni i pravni okvir za 27 zemalja Europske unije. Okvir dodjeljuje različite razine rizika umjetnoj inteligenciji i stvara pretraživu javnu bazu podataka visokorizične umjetne inteligencije, koja će biti strože regulirana, a održavat će je Europska komisija. Osnovat će se Europski odbor za umjetnu inteligenciju koji će definirati što spada u kategoriju visokog rizika.
Čak i ako nije riječ o robotima ubojicama koje pokreće umjetna inteligencija (još?), Zakon o umjetnoj inteligenciji bit će ključan za jamčenje prava građana na privatnost i transparentnost podataka, kao i ulogu gradova, vlada i poduzeća u provedbi i upravljanju AI sustavi.

AI i briga o privatnosti

U veljači 2020. Komisija je objavila bijelu knjigu o umjetnoj inteligenciji pod naslovom “Europski pristup izvrsnosti i povjerenju” . Označava važnost umjetne inteligencije i njezin potencijal, ali također i brigu Europske unije da se AI učinkovito i sigurno implementira poticanjem izvrsnosti i povjerenja među korisnicima i pružateljima usluga.

Lodewijk Noordzij, službenik za politiku digitalne transformacije je u Eurocities-u objasnio da je „u travnju 2021. Komisija objavila prijedlog zakona o umjetnoj inteligenciji o etičkim i pravnim zahtjevima za korištenje AI. Umjetna inteligencija je prilika, ali predstavlja i rizike za primjenu raznih drugih pravila EU-a i prava građana. Ovim prijedlogom želi se osigurati sigurna uporaba umjetne inteligencije unutar Europske unije.“
Na stolu su različiti interesi. S jedne strane, velika poduzeća kažu da nacrt zakona ide predaleko i da bi ugušio inovacije, s druge strane, grupe za ljudska prava kažu da zakon ne ide dovoljno daleko, ostavljajući građane ranjivima. Također, prijedlog zakona ne pokriva upotrebu umjetne inteligencije u vojsci, što donosi još više pitanja i prostora za zabrinutost.

Slika 2. – Sigurna i transparentna umjetna inteligencija, Izvor: Europski parlament u Hrvatskoj, X

Gdje su Europski gradovi u ovoj priči?

Federica Bordelot, savjetnica za politiku digitalnih i inovacijskih politika u Eurocities-u napominje da još uvijek postoji nedostatak jasnoće u vezi s obradom osobnih podataka sustavima umjetne inteligencije i njezinim stvarnim utjecajem na lokalne vlasti.

“Zalažemo se za široku definiciju sustava umjetne inteligencije koji doista omogućuju uvođenje učinkovitih propisa. Imamo nekoliko problema vezanih uz pravne zahtjeve. Za lokalnu upravu postoji potreba da se doista malo više specificiraju različite dotične kategorije. Podržavamo pristup riziku i obično također politiku o neprihvatljivoj upotrebi. Lokalne vlasti, na primjer, traže da se biometrijska identifikacija treba zabraniti sve dok u potpunosti ne poštuju temeljna prava i budu u skladu s GDPR uredbom.”
Bordelot traži da javna tijela budu “djelotvorno uključena u definiranje početnih zahtjeva za sustave umjetne inteligencije. Mislimo da ih još uvijek u velikoj mjeri pokreće privatni sektor,” budući da predloženi pristup omogućuje korporativnu samoregulaciju privatnog sektora. Također, odgovornosti i uloga Odbora za umjetnu inteligenciju moraju biti jasno “kako bi se izbjegao rizik od preklapanja s drugim odborima koji su već stvoreni poput Europskog odbora za zaštitu podataka.”
“Zakon o umjetnoj inteligenciji neće biti samostalni zakon, on je dio slagalice i morate ga povezati s drugim zakonodavnim okvirima, drugim propisima, etičkim normama, okvirima”, kaže Luca Bolognini, predsjednik Talijanskog instituta za privatnost i Valorizacija podataka. Za njega će “postojati snažna potreba za multidisciplinarnim vještinama i znanjem. To bi mogao biti problem za jedan grad, za jednog igrača. Bit će ključno imati ljude kompetentne i vrlo stručne u mnogim, mnogim različitim područjima. Postojat će potreba za preciznim identificiranjem uloga prema različitim disciplinama.”
Mnogi se akteri još uvijek bore kako bi se uskladili s pravilima Opće uredbe o zaštiti podataka (GDPR), a novi zahtjevi za reguliranje umjetne inteligencije još su veći — stoga je neophodan zajednički pristup zainteresirane zajednice.

Michael Mulquin, iz Otvorenih i agilnih pametnih gradova (OASC) slaže se, dodajući da “gradovima nedostaju resursi ili stručnost, ali se još uvijek moraju pridržavati propisa koji su razvijeni i moraju biti u mogućnosti pružiti bolje usluge svojim građanima. Gradovi prepoznaju vrijednost koju umjetna inteligencija i algoritamski sustavi donošenja odluka mogu donijeti kako bi im pomogli da bolje rade, brže donose bolje odluke. No očito je da su gradovi opravdano zabrinuti i zabrinuti da kada koriste ove algoritme oni trebaju biti pravedni i transparentni.”

Budućnost može biti svijetla, ali…

Očekuje se da će do 2025. AI omogućiti više od 30% pametnih gradskih aplikacija, među kojima su rješenja za urbanu mobilnost, stoga je hitna široka rasprava o zakonodavstvu i potrebama gradova.

Algoritmi koji se sami uče, pametni podaci, osjetljivi podaci, privatnost, transparentnost i visokorizične upotrebe umjetne inteligencije glavni su problemi institucija, građana i tvrtki. Najveći izazov je govoriti istim jezikom i moći pronaći zajednički jezik.

“Ovo je komplicirana slika,” kaže Mulquin, “ali jasno je da gradovi trebaju imati jasne smjernice o tome kako trebaju upravljati umjetnom inteligencijom i što trebaju učiniti kako bi bili sigurni da će, kako nastavi učiti, i dalje biti pouzdana.”
U jednom od sljedećih članaka pisat ćemo o primjerima dobre prakse iz Europe i svijeta.

AUTOR: Dražen Keresteny, mag.ing.el., Konzultant za digitalizaciju, Smart City i security
099 5373 900, drazen.keresteny@exe.cutor.eu

Otvoreni natječaji

Svi natječaji

Besplatno se registrirajte

Besplatno se registrirajte

Registrirani korisnici imaju pristup većini naših zaštićenih materijala (ovisno o njihovim ovlastima unutar Grada). Zanimaju li vas koje su druge prednosti registracije?

Česta pitanja

Registrirani korisnici imaju pristup novoj kategoriji "Pitanja i odgovori" gdje mogu postavljati nova pitanja i odgovarati na već postavljena pitanja. Postavljeno pitanje automatski će se i bez moderiranja prikazati u kategoriji Na svako pitanje mogu odgovarati svi registrirani korisnici.

Prijava Registracija