Algoritamska diskriminacija
Bočna strana članka
Glavni sadržaj članka
Apstrakt
Algoritamska diskriminacija može nastati radom sistema veštačke inteligencije i u javnom i u privatnom sektoru. U javnom sektoru to su, primera radi, preporuke za odmeravanje kazni za krivična dela, donošenje odluka o penzijskim i socijalnim davanjima ili naknadama za nezaposlene itd. U privatnom sektoru to su odluke koje se donose u vezi sa zapošljavanjem, stanovanjem, odobravanjem kredi- ta, reklamiranjem proizvoda itd. Postojeći pravni propisi o nediskriminaciji i zaštiti podataka, zaštiti potrošača i tome slično pružaju određene mogućnosti za borbu protiv algoritamske diskriminacije. Međutim, neophodno je da se postojeći propisi unaprede i da se donesu novi opšti i sektorski propisi, kojima će se regulisati upotreba sistema veštačke inteligencije zasnovanih na algoritamskom odlučivanju, na bezbedan način i uz visok nivo zaštite pojedinačnih prava i sloboda. Jedno od dobrih rešenja za otklanjanje algoritamske diskriminacije jeste da se pravnim propisima zahteva ispunjavanje određenih uslova i davanje sertifikata za sisteme veštačke inteligencije koji su visokorizični, odnosno koji mogu ugroziti ljudska prava i slobode, kao što je to predviđeno Predlogom uredbe EU o veštačkoj inteligenciji 2021. godine.
Detalji članka
Reference
Ben-Israel I. et al., Towards Regulation of Artificial Intelligence Systems: Global perspectives on the development of a legal framework on Artificial Intelligence systems based on the Council of Europe’s standards on human rights, democracy and the rule of law, Council of Europe, 2020, https://www.coe.int/en/web/artificial-intelligence/cahai.
Diligenski A., Prlja D., Cerović D., Pravo zaštite podataka GDPR, Institut za uporedno pravo, Beograd 2018.
Dimitrijević V., Paunović M., Ljudska prava, Beogradski centar za ljudska prava, Beograd 1997.
European Law Institute, Model Rules on Impact Assessment of Algorithmic Decision Making Systems Used by Public Administration, European Law Institute, Vienna 2022.
Gasmi G., Principi nediskriminacije i savesnog ispunjavanja obaveza država – Teorijski pogled na Istambul Konvenciju Saveta Evrope i praksu Evropskog suda za ljudska prava, Kultura Polisa1/2016.
Prlja D., Pravni ekspertni sistemi, Kompjuteri i pravo 1–2/1993.
Račić O., Milinković B., Paunović M., Ljudska prava – Pet decenija od usvajanja Opšte deklaracije o pravima čoveka, Međunarodna politika, Službeni list SRJ, Pravni fakultet, Fakultet političkih nauka, Beograd 1998.
Susskind R., Expert Systems in Law, Oxford University Press, Oxford 1987.
Zuiderveen Borgtesius F., Diskrimination, Artificial Intelligence And Algorithmic Decision-Making, Council of Europe, Strasbourg 2018.
Council Directive 2000/43/EC of 29 June 2000 implementing the principle of equal treatment between persons irrespective of racial or ethnic origin, Official Journal of the European Union L180/2000, https://eur-lex.europa.eu/legal-content/EN/TXT/?uri =celex%3A32000L0043.
European Commission, Proposal for a Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial intelligence Act) and Amendung Certain Union Legislative Acts, Brussels 21. april 2021. COM(2021) 206 final, https://eur-lex.europa.eu/resource.html?uri=cellar: e0649735-a372-11eb-9585-01aa75ed71a1.0001.02/DOC_1&format=PDF.
European Court of Human Rights, Case of Biao v. Denmark, 2016, 38590/10, https://hudoc.echr.coe.int/fre# {%22itemid%22:[%22001-163115%22]}.
Evropska konvencija za zaštitu ljudskih prava i osnovnih sloboda, Rim 1950, Službeni list SCG –Međunarodni ugovori 9/2003.
Regulation 2016/679 of the European Parliament and of the Council of 7 April 2016 on the protection of natural persons with regard to the processing of personal data and on the free movement of such data, and repealing Directive 95/46/EC (General Data Protection Regulation), Official Journal of the European Union L 119/2016.