Digitalna prava građana sve su ugroženija usled netransparentne primene savremenih tehnologija, posebno u oblastima automatizovanog odlučivanja i nadzora. Iako zakonski okvir postoji, njegova primena je često selektivna, a građani ostaju neinformisani o načinima na koje se njihovi podaci prikupljaju i koriste. Istovremeno, obrazovni sektor prepoznaje potrebu za etičkim pristupom tehnologiji i radi na razvoju svesti o odgovornoj upotrebi algoritama. U fokusu ostaje potreba za uspostavljanjem ravnoteže između tehnološkog napretka i zaštite osnovnih prava.
Jelena Adamović iz Share Fondacije ocenjuje za HelloWorld.rs da je nivo zaštite digitalnih prava u Srbiji trenutno “zabrinjavajuće nizak”, naročito kada se uzme u obzir sve šira primena tehnologija poput veštačke inteligencije i data science alata, kako u privatnom, tako i u javnom sektoru.
Iako formalno postoje zakonska pravila i odredbe, kao što su Zakon o zaštiti podataka o ličnosti i relevantne međunarodne obaveze, prema njenom mišljenju, u praksi su vidljivi ozbiljni problemi u sprovođenju, nadzoru i odgovornosti.
“Najveći izazov je netransparentna primena algoritamskih rešenja i neadekvatno informisanje građana o tome kako se njihovi podaci koriste. Pitanje pristanka, profilisanja, automatizovanog odlučivanja, sve to ostaje neuređeno ili neregulisano u praksi”, kaže ona.
Na pitanje koliko su domaće kompanije i institucije svesne rizika kada je reč o upotrebi algoritamskih sistema i da li postoje primeri koji posebno zabrinjavaju, Adamović kaže da je svest o rizicima algoritamskih sistema u Srbiji još uvek na niskom nivou.
Iako pojedine veće kompanije pokušavaju da usklade poslovanje sa standardima zaštite privatnosti, dodaje ona, većina domaćih aktera ili nema dovoljno znanja, ili zanemaruje odgovornost koju ovakvi sistemi nose.
“Posebno zabrinjavaju primeri iz javnog sektora kao što je uspostavljanje sistema za socijalne karte koji koristi neki vid algoritma za potpuno automatizovano odlučivanje o dodeli socijalnih davanja najugroženijim građanima. Takvi slučajevi pokazuju ne samo institucionalnu neosetljivost, već i odsustvo efikasnih mehanizama odgovornosti koji u ovakvim okolnostima mogu da budu građanima na raspolaganju”, ocenjuje Adamović.
Iskustva Šer fondacije pokazuju da su projekti nadzora u Srbiji, naročito oni koji uključuju biometriju u javnim prostorima, sprovođeni “netransparentno i mimo znanja i saglasnosti građana”.
“Pokušaji implementacije video-nadzora sa mogućnostima biometrijskog prepoznavanja u raznim gradovima u Srbiji, bez jasnog pravnog osnova, bez javne rasprave i bez procene uticaja na prava građana, postaju sve češći. Uvođenje ovakvih sistema bez jasnog zakonskog osnova i bez procene uticaja na ljudska prava, ugrožava poverenje građana u institucije i u tehnologiju uopšte”, naglašava Adamović.
Ona smatra da stručnjaci iz oblasti podataka i tehnologije u Srbiji imaju veliku odgovornost, jer ono što dizajniraju i razvijaju ima direktan uticaj na prava i slobode građana.
Naglašava da granice odgovornosti ne prestaju sa tehničkom ispravnošću, već tek tada počinju.
“Odgovorna upotreba tehnologije, koja je u skladu sa propisima, ali i merodavnim etičkim preporukama, mora biti integrisana u sve faze rada ovakvih sistema, počevši od dizajna preko implementacije, do redovnih provera i evaluacija rada. Potrebno je postavljati pitanja: da li sistem koji razvijam može dovesti do diskriminacije? Da li omogućava transparentnost? Da li ljudi mogu razumeti odluke koje sistem donosi? Da li postoje efikasni mehanizmi da se otklone greške?”, zaključuje Adamović.
dr Andrija Petrović sa Fakulteta organizacionih nauka (FON) kaže za HelloWorld da ova visokoobrazovna institucija već duži niz godina prepoznaje značaj etike u informacionim tehnologijama, a naročito u kontekstu nauke o podacima i veštačke inteligencije.
“Naš pristup se zasniva na jasnoj viziji odgovorne i društveno korisne primene tehnologije. U tom smislu, težimo da studenti razumeju ne samo tehničke aspekte rada sa podacima, već i širi društveni i etički kontekst”, navodi Petrović.
U praksi, po njegovim rečima, to znači da nastavni planovi sadrže elemente koji se bave zaštitom privatnosti, odgovornom upotrebom algoritama, ali i razmatranjem potencijalnih posledica netransparentnih modela i automatizovanog odlučivanja.
“Trudimo se da budemo u skladu s najboljim praksama domaće IT industrije, ali i da delujemo kao korektiv – da podsećamo na važnost etike i u situacijama kada poslovni ciljevi mogu da zasene ljudska prava i principe pravičnosti. Saradnjom sa privredom, organizovanjem stručnih praksi, radionica i gostujućih predavanja iz industrije, radimo na usklađivanju akademske i industrijske prakse, uz akcenat na etičku odgovornost”, dodaje on.
Na pitanje koji su najveći izazovi u primeni koncepta “risk management” unutar data science i AI projekata, Petrović kaže da su najveći izazovi vezani za neizvesnost, kompleksnost i nelinearnost efekata koje modeli mogu imati u stvarnom svetu.
“U klasičnim IT projektima, upravljanje rizicima podrazumeva procenu verovatnoće i uticaja potencijalnih tehničkih problema. Međutim, kod projekata nauke o podacima i veštačke inteligencije, rizici se često odnose na nenamerne pristrasnosti u podacima, diskriminaciju, manjak objašnjivosti modela, kao i potencijalno narušavanje privatnosti korisnika”, kaže on.
Jedan od ključnih izazova, po njegovom viđenju, jeste to što mnogi timovi u industriji rizik posmatraju gotovo isključivo kroz tehničku ili poslovnu prizmu, zanemarujući etičke i društvene dimenzije.
“Upravo zato u obrazovanju insistiramo na razumevanju svih vrsta rizika – uključujući i one koji se odnose na ljudska prava, zaštitu podataka i dugoročne posledice na zajednicu”, naglašava Petrović.
Uloga međudisciplinarnosti je po njegovom viđenju - ključna.
“Upravljački timovi i inženjeri moraju sarađivati sa pravnicima, etičarima i stručnjacima za bezbednost kako bi identifikovali i ublažili rizike. U tom smislu, radimo na razvijanju modela koji podstiču sistemski pristup rizicima, uključujući i ulogu regulatornog okvira i korporativne odgovornosti”, objasnio je Petrović.
Na Fakultetu organizacionih nauka kontinuirano rade na jačanju svesti o odgovornoj upotrebi algoritama i zaštiti podataka, kako kroz nastavne aktivnosti, tako i kroz istraživački rad i projekte.
U nekoliko projekata poseban je fokus bio na fer i nepristrasnoj upotrebi algoritama (algorithmic fairness), analizi potencijalnih diskriminatornih efekata modela, kao i etičkoj proceni automatizovanog odlučivanja.
“Ovakvi projekti ne samo da doprinose razvoju naučne misli, već i služe kao platforma za uključivanje studenata i nastavnika u dijalog o etici u nauci o podacima. Time gradimo kapacitete za dalje oblikovanje nastavnog sadržaja i dodatnih aktivnosti koje će sistematski obrađivati ove teme. Verujemo da odgovorno korišćenje podataka i algoritama ne može da se uči samo teorijski – već kroz praktične primere, analizu realnih scenarija i kritičku diskusiju. Upravo kroz projekte nastojimo da stvorimo takvo okruženje”, ističe Petrović.
Dodaje da akademija ima nezamenjivu ulogu u formiranju etičkih standarda budućih inženjera.
“Mi ne proizvodimo samo stručnjake koji znaju da implementiraju modele – već ljude koji razumeju posledice onoga što razvijaju. Etika nije dodatak obrazovanju – ona mora biti njegov sastavni deo, utkana u sve faze procesa učenja”, naglašava on.
Kako kaže, odgovornost akademije je višestruka: da obrazuje, da osnažuje kritičko mišljenje, da bude most između nauke i društva, ali i da bude korektiv industriji kada se etički principi zanemaruju.
To, kako je precizirao, uključuje i stvaranje kulture u kojoj studenti uče da postavljaju prava pitanja: Da li je ovaj model pravedan? Kome donosi korist, a kome štetu? Da li poštujemo privatnost korisnika?
“Kroz mentorstvo, projektne zadatke, saradnju sa realnim sektorom i interdisciplinarne pristupe, radimo na tome da studenti razviju ne samo tehničku kompetenciju, već i etički integritet koji će nositi sa sobom u karijeri”, zaključio je Petrović.