Ko odgovara za štetu koju pričini veštačka inteligencija – primer korišćenja vozila bez vozača

U skladu sa razvojem veštačke inteligencije (dalje VI) u ovoj deceniji se može očekivati da će usluge prevoza robe i putnika sve češće preuzimati osamostaljeni robotski sistemi – tzv. vozila bez vozača (driverless vehicle, autonomous vehicle, robotic car), budući da se već sada u vozila (tzv. software defined vehicle) ugrađuju kompjuteri, senzori i kamere sa ciljem da skreću pažnju vozaču i pomažu njegovo opažanje pri upravljanju vozilom (tzv. auto-asistenti). Očekivana pojava na putevima vozila bez vozača nameće potrebu da se tradicionalni model odgovornosti za štetu za radnje čoveka-vozača (štetnika) preispita tako što će se regulisati prelazak odgovornosti sa vozača i/ili imaoca vozila na proizvođača vozila bez vozača.

Šta se smatra vozilom bez vozača definiše industrijski standard, kojim se na skali od 0 do 5 “meri” nivo automatizacije vozila[1]. Vozilima nivoa od 0 do 2 upravlja čovek-vozač, a od nivoa 3-5 upravlja VI, tj. automatski sistem vožnje (automated driving system – ADS). Nema teškoća da se postojeća pravila o odgovornosti vozača i imaoca vozila primene na sve situacije u kojima čovek-vozač upravlja vozilom, čak i kada prepušta pojedine funkcije ADS-u. U vozilu 3 nivoa automatizacije čovek sedi na mestu vozača i preuzima upravljanje od ADS ako sistem to od njega zatraži, dok u vozilu 4 nivoa čovek na mestu vozača (operater vožnje) samo nadgleda rad ADS. Kretanjem vozila 5 nivoa VI samostalno upravlja, trajno, u svim uslovima, a čovek (putnik) samo bira krajnju destinaciju do koje će biti prevezen i plaća vožnju ako je “deli” sa drugima. Taj nivo tehnološki nije dostignut.

Od 2019. veliki proizvođači automobila u Nemačkoj, Velikoj Britaniji, Švedskoj, u Sjedinjenim Američkim Državama (SAD), Južnoj Koreji, Japanu i Kini kao i kompanije poput Gugla (firma Vejmo) ili Majkrosofta, uz podršku naučnika, eksperimentalno razvijaju modele vozila nivoa 3 i 4 automatizacije. Nedostatak (ujednačenih) regulativnih uslova u zemljama Evropske unije (EU) predstavlja najveću prepreku masovnijoj proizvodnji i korišćenju vozila bez vozača, dok je u SAD Gugl uspeo lobiranjem da postigne da većina država-članica donese propise kojima od 2020. dopušta korišćenje vozila 3. nivoa automatizacije u saobraćaju.[2] U Japanu i Velikoj Britaniji vozila 3. nivoa automatizacije proizvode se u malim serijama pod reklamom da raspolažu dopunskom opremom za automatsko pronalaženje najbržeg dostupnog pravca u slučaju saobraćajnih gužvi.[3]

Vozila bez vozača bezbednija su za putnike u odnosu na konvencionalna (vid. D. Prlja, G. Gasmi, V. Korać, Veštačka inteligencija u pravnom sistemu EU, Institut za uporedno pravo, Beograd, 2021., 89), ali bi ipak zbog povećanih rizika u saobraćaju po druge učesnike (tzv. treća lica, bicikliste, pešake), morala bi biti predviđena objektivna odgovornost imaoca vozila (vlasnika opasne stvari) kao i svakog onog ko vozilo pušta u saobraćaj (npr. kompanije koja organizuje uslugu “deljenja vožnje”) za štete izazvane takvim vozilima. Odgovornost imaoca ili vozača može da postoji onda ako neovlašćeno menjaju bezbednosni softver vozila ili propuste da ga redovno ažuriraju.

U svakom drugom slučaju odgovornost za štetu se premešta na proizvođača stvari sa nedostatkom.  Proizvođač (i uvoznik, distributer itd.) odgovara za propuste u dizajnu, izradi hardvera, nedostatke softvera ili samostalnog algoritma, kao i za propuste da uputi ili obuči korisnika kako da pravilno koristi ADS. Prema postojećim pravilima u SAD i EU, a takođe i kod nas, samostalni algoritam koji određuje zadatke VI, a pristupa mu se “na oblaku”, kao i softver, osim ako nije ugrađen u hardver vozila, nije moguće podvesti pod proizvod, budući da se taj pojam vezuje za telesne stvari. Rizici od nedostatka ADS su realni jer pri dizajniranju samostalnog algoritma nisu unapred predvidljive sve moguće situacije u saobraćaju (time ni samostalna odluka VI). S druge strane, teško je dokazati da je nedostatak VI uzrok štete osim ako to nije očigledno (npr. ugrađen pogrešan kod, softver preosetljiv na viruse ili nedostatak uputstva o upotrebi), pogotovu što samostalni ADS može obrisati ili promeniti digitalne dokaze iz „crne kutije“.[4] Zbog toga će biti teško dokazati odgovornost proizvođača. U cilju zaštite potrošača trebalo bi uvesti pretpostavku uzročne veze i osiguranje proizvođača od odgovornosti.

Sa samostalnošću vozila raste osetljivost ADS na informacije koje mora da prikuplja od okruženja i od drugih vozila – samim tim i izloženost hakerskim napadima. Za štete od hakovanih vozila, ako nije bilo moguće utvrditi identitet hakera, predlaže se da se pod restriktivnim uslovima koristi posebni fond osiguranja, slično sadašnjem Garantnom fondu za neosigurana/nepoznata vozila. Efikasnu i bezbednu bežičnu komunikaciju vozila bez vozača sa putnom infrastrukturom, drugim učesnicima u saobraćaju i nadzor nad kretanjem takvog vozila (radi brzog otklanjanja kvarova i slično) biće teško ostvariti na velikim daljinama, kako zbog pravnih prepreka (pravila EU o zaštiti privatnosti i ličnih podataka na mrežama) tako i zbog tehnologije koja omogućava da vozila komuniciraju samo sa proizvođačem svoje opreme ili vozilima istog proizvođača. Tehnički izlaz treba tražiti u nacionalnom sistemu za upravljanje takvim vozilima kakav, na primer, razvija Kina od 2016. godine.[5]


[1] Udruženje automobilskih inženjera (Society of Automotive Engineers) je 2014. razvilo klasifikaciju prema karakteristikama uređaja i opreme kojima vozilo raspolaže (SAE J3016TM, Levels of Driving Automation, 2021).

[2] 50 država SAD i distrikt Kolumbija imaju propise u kojima se pominju visoko automatizovana vozila (NCSL, Autonomous Vehicles State Bill Tracking Database, 2023, dostupno na: https://www.ncsl.org/transportation/autonomous-vehicles-state-bill-tracking-database), ali razlike u pravnim propisima mogu predstavljati prepreku komercijalnoj proizvodnji i upotrebi vozila bez vozača (K. Lunders, P. Tarpley, „Autonomous vehicles – The legal landscape in the USA“, in: Norton Rose Fulbright, Autonomous vehicles – The legal landscape in the USA and Germany, 2016, Houston, 3, 5-6; S. Jansma, P. McMillin, „Product liability“, u istom zborniku, 9).

[3] J. Jeffs, Autonomous Cars, Robotaxis & Sensors 2022-2042, IDTechEx research, 2022, https://www.idtechex.com/en/research-report/autonomous-cars-robotaxis-and-sensors-2022-2042/832.

[4] S-J. Bogheti, Civil Liability for Artificial Intelligence: What Should its Basis Be?“, La justice prédictive : le point de vue d’une plateforme, 17/2019, 96.

[5] H. He et al., „China’s battery electric vehicles lead the world: achievements in technology, system architecture and technological breakthroughs“, Green Energy and Inteligente Transportation, 2022, 1, p. 18.


Photo by Teodros Hailye/KQED

O autoru

Nataša Mrvić Petrović

Nataša Mrvić Petrović je naučni savetnik Instituta za uporedno pravo. Oblasti njenog interesovanja su krivično pravo, odštetno pravo i pravo osiguranja.

Podelite