Konkurisali ste za posao. Vaš poslodavac, osim što zahteva uobičajene informacije i dokumentaciju – CV, motivaciono pismo i preporuke ranijih poslodavaca, traži od Vas da dostavite i listu muzike koju trenutno slušate. Vi ste: 1) zahvalni što Vam nije postavio nijedno od uobičajenih diskriminatorskih pitanja: da li ste u braku, da li planirate porodicu i sl; i 2) zadovoljni jer ste naišli na „cool“ poslodavca koji je zainteresovan za Vaš muzički ukus. Da li, ipak, iza toga može da stoji diskriminacija, i na koji način?

Zakon o zabrani diskriminacije (ZZD)¹ diskriminaciju definiše kao svako neopravdano pravljenje razlike ili nejednako postupanje, odnosno propuštanje (isključivanje, ograničavanje ili davanje prvenstva), u odnosu na lica ili grupe kao i na članove njihovih porodica, ili njima bliska lica, na otvoren ili prikriven način, a koji se zasniva na određenom stvarnom ili pretpostavljenom ličnom svojstvu (čl. 2. st. 1. ZZD). Lista ličnih svojstava koju zakon navodi je dugačka, pa ipak data exempli causa, sa mogućnošću da bude dopunjena prema okolnostima konkretnog slučaja. Dva su osnovna oblika diskriminacije – neposredna i posredna diskriminacija. Neposredna diskriminacija postoji ako se lice ili grupa lica, zbog njegovog odnosno njihovog ličnog svojstva u istoj ili sličnoj situaciji, bilo kojim aktom, radnjom ili propuštanjem, stavljaju ili su stavljeni u nepovoljniji položaj, ili bi mogli biti stavljeni u nepovoljniji položaj (čl. 6. ZZD), i može se sažeti u “jednako prema jednakima” devizu. Posredna diskriminacija postoji ako na izgled neutralna odredba, kriterijum ili praksa lice ili grupu lica stavlja ili bi mogla staviti, zbog njihovog ličnog svojstva, u nepovoljan položaj u poređenju sa drugim licima u istoj ili sličnoj situaciji, osim ako je to objektivno opravdano legitimnim ciljem, a sredstva za postizanje tog cilja su primerena i nužna (čl. 7. ZZD), te je možemo objasniti “nejednako prema nejednakima” maksimom.

Galopirajuća upotreba veštačke inteligencije sa sobom nosi i novu  formu diskriminacije – kodiranu diskriminaciju. Ona naročito dobija na značaju u kontekstu upotrebe sistema za algoritamsko donošenje odluka (ADM sistemi). Iako algoritmi deluju neutralno i oslobođeno predrasuda, oni oslikavaju predrasude koje nas okružuju i koje su pojedinci, njihovi kreatori uneli u njih.² To su sistemi koji podržavaju ili zamenjuju donošenje odluka od strane čoveka kombinujući najmanje dva algoritma pri donošenju odluka. Prvi sistem koristi podatke iz prošlosti da bi proučio ili kategorisao ponašajne crte ljudi. Podaci o čoveku koji je predmet odlučivanja se, zatim, izlažu proceni drugog algoritma koji treba da predvidi verovatnoću budućeg ponašanja pojedinca ili da dâ odgovor na pitanje u koju kategoriju pojedinac spada. Ova dva algoritma zajedno generišu vrednost koja služi kao osnova prilikom odlučivanja o kreditnoj sposobnosti ili zaposlenju, na primer.³ Kada se koriste u kontekstu zapošljavanja, za njih se koristi naziv “algoritamski menadžment”.⁴ (Nesrećni) primer za to jeste Amazonov digitalni alat kreiran da pojednostavi proces zapošljavanja. Iako je Amazon odbio da da detaljnije objašnjenje, smatra se da je ovaj alat vršio selekciju kandidata na osnovu obrazaca iz biografija kandidata koji su se zaposlili u prethodnih deset godina. Većina zaposlenih bili su muškarci, s obzirom na činjenicu da je u vreme i pre kreiranja ovog alata IT sektor bio pretežno muška oblast. Imajući to u vidu, alat za zapošljavanje prepoznavao je muške kandidate kao poželjnije za posao, a manje poena i slabiji rejting davao odrednicama „ženski“ (šahovski klub) ili univerzitetima koji su okarakterisani kao „ženski“. Ovaj nespretn početak pokazao je sve opasnosti korišćena ADM u selekciji kandidata.

Kodirana diskrminacija sa sobom uvodi još jedan novi pojam: proksi (eng. proxy) ili zamensku diskriminaciju. Termin proksi diskriminacija označava ono nejednako postupanje koje je povezano sa karakteristikama koje se neće, inicijalno, naći među poznatim (klasičnim) osnovima diskriminacije. Slična je posrednoj diskriminaciji jer se ne poziva, eksplicitno, na neko lično svojstvo. Na osnovu naizgled neutralnog osnova koji je u snažnoj korelaciji sa zabranjenim osnovom, dovodi, zapravo, do diskriminacije. Iz ove povezanosti se izvodi pripadnost grupi, a iz pripadnosti grupi izvode se zaključci o pojedincu.

Koje su posledice? Vaša muzička lista može da otkrije da očekujete bebu (Mozart for babies, Jednog dana rešio moj tata za rođendan da mi kupi brata), da imate dete vrtićkog uzrasta (Deset ljutih gusara), ili da patite od nesanice (kompilacija opuštajućih instrumentala sa YouTuba), a potonja dva mogu kod poslodavca stvoriti predrasude o učestalosti Vašeg odsustva sa rada ili Vašoj učinkovitosti. Budući da potencijalni poslodavac odluku nije obrazložio nekim od tipičnih ličnih svojstava (ili uopšte) otežana Vam je, ili čak onemogućena, upotreba postojećih metoda za pružanje pravne zaštite od diskriminacije. Stoga je potrebno što pre prepoznati upotrebu veštačke inteligencije kao novu realnost i krenuti u susret izazovima koje donosi. Paradoksalno, možda baš rešenjima koja nam ona sama ponudi.

---

1. Zakon o zabrani diskriminacije, „Službeni glasnik RS“, br. 22/2009, 52/2021. ↩︎
2. A. Mihajlović, V. Ćorić, “Artificial intelligence and discrimination – strengths and weaknesses of the current European anti-discrimination legal framework”. In: Regional Law Review. Institute of Comparative Law, Belgrade, pp. 9-29. DOI:10.56461/iup_rlrc.2024.5.ch2. ↩︎
3. Coded Bias, The General Equal Treatment Act and protection against discrimination by algorithmic decision-making systems, April 2023. ↩︎
4. J. Rajić Ćalić, A. Živković, “Legal protection of workers and employers when using artificial intelligence in the working environment, Srpska politička misao No 1/2026, year XXXIII, vol. 95, pp. 45-71. ↩︎

---

Naslovna fotografija: Image by freepik

---

Mišljenja i stavovi objavljeni u okviru sekcije Blog su isključivo lični stavovi autora tekstova i ne odražavaju stavove Instituta za uporedno pravo.