Ko o zaposlitvi ali spremljanju zaposlenih odloča algoritem: pravne meje uporabe umetne inteligence pri zaposlovanju in v delovnih razmerjih

Ko o zaposlitvi ali spremljanju zaposlenih odloča algoritem: pravne meje uporabe umetne inteligence pri zaposlovanju in v delovnih razmerjih

Ali sme podjetje uporabljati umetno inteligenco pri zaposlovanju? Npr. ali sme bodoči delodajalec s pomočjo umetne inteligence avtomatsko razvrščati življenjepise, ocenjevati kandidate ali pridobiti informacijo, koga povabiti na razgovor? Kakšne so omejitve delodajalca pri spremljanju zaposlenih, ocenjevanju njihovega vedenja oziroma njihove delovne uspešnosti in sprejemanju avtomatiziranih odločitev s pomočjo umetne inteligence?

Podobna vprašanja si nemalokrat zastavljajo številna podjetja, ki se v praksi že srečujejo z uporabo umetne inteligence na delovnopravnem področju v luči hitrejšega in bolj efektivnega ter tudi cenejšega postopka zaposlovanja ter reševanja delovnopravnih vprašanj. Podjetja so dolžna v delovnopravnih postopkih poleg zakonodaje s področja varstva osebnih podatkov, delovnopravne zakonodaje in zakonodaje s področja varstva in zdravja pri delu ter morebitnih specialnih določb s področja sektorske zakonodaje, upoštevati tudi zakonodajo s področja umetne inteligence.

Splošno o Aktu o umetni inteligenci

Avgusta 2024 je stopil v veljavo Akt o umetni inteligenci[1](v nadaljevanju: Akt UI), ki vzpostavlja enoten pravni okvir za razvoj, dajanje na trg, dajanje v uporabo in za uporabo sistemov umetne inteligence (v nadaljnjem besedilu: sistemi UI) v Evropski Uniji. Njegov namen je spodbujati razvoj in uporabo varne, na človeka osredotočene in zaupanja vredne umetne inteligence (UI), ob hkratnem zagotavljanju visoke ravni varstva zdravja, varnosti, temeljnih pravic in okolja ter spodbujanju inovacij. Akt UI omogoča tudi prost čezmejni pretok blaga in storitev, ki temeljijo na UI, ter omejuje možnost držav članic, da samostojno uvajajo omejitve na tem področju.[2]

Akt UI uporablja za vse pravne in fizične osebe, ki UI uporabljajo v okviru svoje poklicne ali poslovne dejavnosti, ne glede na velikost podjetja ali pravnoorganizacijsko obliko, vključno s samostojnimi podjetniki. Obseg obveznosti po Aktu UI je odvisen od:

  • vloge (ponudnik, uvajalec, uvoznik ali distributer)
  • vrste sistema (prepovedna, visokotvegan, omejen s pravili preglednosti, minimalen)
  • načina uporabe (predvideti je potrebno namen in osebe, na katere UI vpliva)

V tem članku se osredotočamo zlasti na ponudnike[3] in uvajalce[4] tehnologij UI s področja zaposlovanja in delovnih razmerij, katerim Akt UI določa obveznosti za odgovorno uporabo sistemov UI ter definira tveganja[5], povezana z UI, kot so pristransko ravnanje, diskriminacija in vrzeli v odgovornosti.

Slovenija je v novembru 2025 sprejela Zakon o izvajanju uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci (ZIUDHPUI), ki določa pristojne organe[6] za izvajanje in nadzor Akta UI ter prekrške in globe v zvezi z izvajanjem tega akta.

V juliju 2026 je začela veljati Uredba (EU) 2026/1744, tako imenovani Digitalni omnibus o umetni inteligenci[7], ki spreminja Akt UI z namenom poenostavitve pravil ter prilagoditve rokov za izvajanje nekaterih obveznosti.

Akt UI se uporablja postopoma:

  • splošne določbe Akta UI (definicije, pismenost na področju UI[8]) in določbe o prepovedanih praksah so pričele veljati 2. februarja 2025 – že sedaj torej velja obveznost, da se zaposleni ustrezno usposobijo in so vnaprej predvidena pravila uporabe UI (t.i. pismenost) ter da je ustrezno evidentirano kdo in kdaj je bil usposobljen,
  • 2. avgusta 2025 so začela veljati pravila za splošno umetno inteligenco (t.i. GPAI modeli[9]) – temeljne obveznosti veljajo za ponudnike novih modelov GPAI,
  • večina pravil Akta UI začne veljati 2. avgusta 2026, pomembna je zlasti uporaba 50. člena Akta UI (obveznosti glede preglednosti – omogočeno mora biti zaznavanje, da je bila vsebina ustvarjena ali spremenjena z UI, kot npr. pri t.i. deepfake vsebinah), začnejo pa veljati tudi ukrepi za spodbujanje inovacij,
  • 2. avgust 2027 pa je rok za skladnost modelov GPAI, ki so bili na trgu pred 2. avgustom 2025.

Digitalni omnibus je spremenil časovni okvir za začetek uporabe zahtev za visokotvegane sisteme UI:

  • Pravila za sisteme, razvrščene kot visokotvegane na podlagi Priloge III k Aktu UI, se bodo začela uporabljati 2. decembra 2027 (mednje sodijo sistemi na področjih biometrije, kritične infrastrukture, izobraževanja, zaposlovanja, dostopa do nekaterih bistvenih storitev, preprečevanja, odkrivanja in preiskovanja kaznivih dejanj, migracij, azila in upravljanja meja ter pravosodja in demokratičnih procesov).
  • Za visokotvegane sisteme UI, ki so varnostni elementi proizvodov oziroma so sami proizvodi, zajeti v zakonodaji Evropske unije iz Priloge I, se bodo zadevna pravila začela uporabljati 2. avgusta 2028.

Zamika veljata le za določene zahteve in obveznosti glede visokotveganih sistemov iz oddelkov 1, 2 in 3 poglavja III Akta UI, ne pomenita pa splošnega zamika uporabe Akta UI. Druge določbe, za katere ni določen poseben rok, so se začele uporabljati 2. avgusta 2026.[10]

Vpliv Akta o umetni inteligenci na postopek zaposlovanja ter v delovnopravnih razmerjih

Akta UI sisteme UI na področju zaposlovanja ter v delovnopravnih razmerjih v določenih primerih obravnava kot visokotvegane; kot zgoraj omenjeno je bil na podlagi Digitalnega omnibusa časovni okvir nekaterih obveznosti prilagojen. Glede na dejstvo, da je uporaba sistemov UI na področju zaposlovanja v podjetjih čedalje večja, je Akt UI definiral različna tveganja in uvedel pravila, katerih cilj je zagotoviti večjo  preglednost in odgovornost pri uporabi tovrstnih sistemov UI.

Konkretneje Akt UI v 6. členu določa, da za visokotvegane sisteme UI štejejo sistemi UI iz Priloge III, med katerimi je v točki 4. omenjene priloge tudi področje zaposlovanja, upravljanja delavcev in dostop do samozaposlitve, kot sledi:

  1. sistemi UI za zaposlovanje ali izbor fizičnih oseb, zlasti za ciljno oglaševanje delovnih mest, analizo in filtriranje prijav za zaposlitev ter ocenjevanje kandidatov;
  2. sistemi UI za odločanje o pogojih delovnih razmerij, napredovanju ali prenehanju delovnih pogodbenih razmerij, dodeljevanju nalog na podlagi vedenja posameznika oziroma osebnostnih lastnosti ali značilnosti ter spremljanju in ocenjevanju uspešnosti in vedenja oseb v takih razmerjih.

Visokotvegani sistemi UI niso prepovedani, vendar morajo izpolnjevati strožje zahteve, ker lahko vplivajo na varnost, zdravje ali temeljne pravice posameznikov. Vsled navedenega bo pomembno, kako bo podjetje razvrstilo konkretni sistem UI, ki ga uporablja npr. pri zaposlovanju ali v delovnem okolju, saj je od same razvrstitve odvisno, kakšne obveznosti bo podjetje kot uvajalec sistema UI ali tudi kot ponudnik imelo (z vidika dokumentacije, nadzora, varnosti in skladnosti).

Evropska komisija je v maju 2026 objavila osnutek smernic za razvrščanje visokotveganih sistemov UI v skladu z Aktom UI ter odprla posvetovanje in pričakuje se, da bodo smernice sprejete do konca leta 2026.[11] Namen smernic je zlasti, da podjetjem pomaga presoditi, ali njihov sistem UI sodi med visokotvegane sisteme, s čemer bi se posledično zmanjšala pravna negotovost pri uporabi sistemov UI.

Iz osnutka smernic je mogoče razbrati, da so ključne obveznosti ponudnikov in uvajalcev, ki so delodajalci, naslednje:

  • Pred dajanjem v uporabo ali pred uporabo visokotveganega sistema UI na delovnem mestu so dolžni obvestiti predstavnike delavcev in delavce, na katere se to nanaša, da se bo zanje uporabljal visokotvegani sistem UI. Te informacije se po potrebi zagotovijo v skladu s pravili in postopki, določenimi v pravu Evropske Unije in nacionalnem pravu ter praksi v zvezi z obveščanjem delavcev in njihovih predstavnikov (sedmi odstavek 26. člena Akta UI); tudi v postopku zaposlovanja morajo biti kandidati vnaprej obveščeni o uporabi sistema UI in o vlogi, ki jo ima ta pri odločitvi podjetja o zaposlitvi (gl. smiselno enajsti odstavek 26. člena Akta UI).
  • Noben sistem UI ne more in ne sme sprejeti končnih odločitev o zaposlitvi, ne da bi to presojala ustrezno usposobljena oseba (t.i. dodelitev človeškega nadzora fizičnim osebam, ki imajo potrebne kompetence, usposobljenosti in pooblastila ter potrebno podporo) – drugi odstavek 26. člena Akta UI.
  • Podjetja, ki za zaposlovanje, ocenjevanje uspešnosti ali druge odločitve o zaposlovanju uporabljajo sisteme UI (kot uvajalci), bodo morala pred uporabo sistema UI slednjega uporabljati skladno z navodili, spremljati njegovo delovanje in ukrepati ob zaznanih incidentih, sprejeti ustrezne tehnične in organizacijske ukrepe ter hkrati zagotoviti ustrezno usposobljene osebe za nadzor (človeški nadzor), dalje so dolžni zagotoviti hrambo dnevnikov in spoštovati določene obveznosti glede vhodnih podatkov; v kolikor to podjetje nastopa tudi kot ponudnik sistema UI, pa bi moralo tudi redno preverjati varnostna tveganja (t.i. vzpostavitev postopkov za upravljanje tveganj), voditi ustrezno tehnično dokumentacijo, zagotoviti kakovost in točnost podatkov ter kibernetsko varnost, zagotavljati človeški nadzor in sledljivost – 26. člen Akta UI ter 9., 10., 11., 12., 13, 14 in 15 člen Akta UI.

Katere prakse so prepovedane v postopkih zaposlovanja in v času trajanja delovnega razmerja?

Akt UI v 5. členu opredeljuje prepovedane prakse UI – v točki (f) prvega odstavka tega člena je izrecno prepovedano dajanje na trg, dajanje v uporabo za ta posebni namen ali uporaba sistemov UI za sklepanje o čustvih[12] fizične osebe na delovnem mestu in v izobraževalnih ustanovah, razen kadar je uporaba sistema UI namenjena uvedbi ali dajanju na trg iz zdravstvenih ali varnostnih razlogov. Poenostavljeno povedano je podjetjem prepovedano uporabljati sistem UI za ugotavljanje čustev ali sklepanje o njih – npr. da na podlagi analize mimike, tona glasu ali telesne govorice ugotavlja stopnje stresa, jeze ali nestrpnosti, sreče, ipd. ali sklepa o čustvih, tako tekom postopka zaposlovanja kot v času trajanja delovnega razmerja.

Kot je pojasnjeno v recitalu 44 Akta AI lahko ti sistemi UI, ki prepoznavajo čustva ali namere fizičnih oseb na podlagi svojih biometričnih podatkov ali ki iz njih sklepajo, vodijo do diskriminatornih rezultatov ter posegajo v pravice in svoboščine zadevnih oseb. Zato je namen te omejitve oz. prepovedi odpraviti ravnovesje moči v kontekstu dela (ali izobraževanja), ker sicer lahko tovrstni sistemi povzročijo škodljivo ali neugodno obravnavo nekaterih fizičnih oseb ali celotnih skupin fizičnih oseb.

Pri tem bi izpostavili, da ta prepoved velja ne glede na to, ali je ponudnik sistema UI tako uporabo izključil v svojih pogodbenih razmerjih z uvajalcem (delodajalcem), tj. v pogojih uporabe oz. navodilih. Ponudniki lahko v svojih pogojih uporabe namreč izrecno izključijo takšno prepovedano uporabo ter v navodila za uporabo vključijo ustrezne informacije, ki bodo usmerjale uvajalce. Od ponudnikov pa se tudi pričakuje, da sprejmejo ustrezne ukrepe, če ugotovijo, da določeni uvajalci sistem zlorabljajo za ta posebni prepovedan namen (npr. je takšna zloraba prijavljena ali se ponudnik kako drugače seznani z njo, npr. da je sistem neposredno preko platforme pod nadzorom ponudnika in slednji izvaja preglede).

Ne glede na navedeno prepoved je treba poudariti, da uporaba sistemov UI sodi tudi pod drobnogled zakonodaje s področja varstva osebnih podatkov ter delovnopravne zakonodaje, vključno z varnostjo in zdravjem pri delu, ki prav tako lahko predvidevajo določene omejitve in zaščitne ukrepe v zvezi z uporabo tovrstnih sistemov UI.[13]

Potrebno pa je tudi upoštevati, da se sistemi UI za prepoznavanje čustev, za katere prepoved iz točke (f) prvega odstavka 5. člena Akta UI morebiti ne bi veljala, štejejo za visokotvegane sisteme v skladu z  zgoraj omenjeno Prilogo III (točka 1 (c)) k Aktu UI.

Evropska komisija je februarja 2025 objavila Smernice o prepovedanih praksah umetne inteligence, določenih v Aktu UI[14], katerih namen je zagotavljanje dosledne, učinkovite in enotne uporabe Akta UI po vsej Evropski Uniji. Smernice ponudnikom in uvajalcem zagotavljajo pregled praks UI, ki se štejejo za nesprejemljive zaradi morebitnih tveganj za evropske vrednote in temeljne pravice, in so tako učinkovit pripomoček v praksi. Smernice navajajo sledeče primere:

  • pri sklepanju, da je oseba (zaposleni) srečna, gre za prepoznavanje čustev. V kolikor se samo ugotovi, da se neka oseba smehlja, še ne gre za prepoznavanje čustev.
  • pri sistemu UI, ki sklepa, da je zaposleni nezadovoljen, žalosten ali jezen na stranke (npr. zaradi gest, mrščenja ali resnosti), gre za prepoznavanje čustev.
  • pri sistemih, ki na podlagi glasu ali gest sklepajo, da je zaposleni besen in da bo postal nasilen, gre za prepoznavanje čustev.
  • sistemi UI, ki spremljajo čustveni ton v hibridnih delovnih skupinah s prepoznavanjem in sklepanjem o čustvih na podlagi glasu in slik hibridnih video klicev, običajno za namene spodbujanja družbene ozaveščenosti, upravljanja čustvene dinamike in preprečevanja konfliktov, so prepovedani;
  • uporaba sistemov UI za prepoznavanje čustev med postopkom zaposlovanja je prepovedana;
  • uporaba sistemov UI za prepoznavanje čustev med poskusno dobo je prepovedana;
  • uporaba kamer na delovnem mestu (npr. v supermarketu) za sledenje čustvom zaposlenih, kot je sreča, je prepovedana.

Izjeme iz zdravstvenih in varnostnih razlogov se razlagajo ozko – uporaba izjeme mora biti vedno omejena na to, kar je nujno potrebno in sorazmerno, vključno s časovnimi omejitvami, osebno uporabo in obsegom, spremljati pa bi jo morali zadostni zaščitni ukrepi. Na primer:

  • prepoznavanje čustev se lahko uporabi iz zdravstvenih razlogov za pomoč zaposlenim z avtizmom in izboljšanje dostopnosti za slepe ali gluhe (kot pomoč za razumevanje čustev sodelavcev).
  • nasprotno se prepoznavanje čustev za ocenjevanje dobrega počutja zaposlenih, ravni motivacije ter zadovoljstva pri delu ne šteje za „uporabo iz zdravstvenih razlogov“ in bi bilo prepovedano. 
  • delodajalec na delovnem mestu ne bi smel uporabljati naprav, ki temeljijo na UI, ali digitalnih pomočnikov za merjenje tesnobe na podlagi izmerjenih ravni  stresa ali za merjenje dolgčasa pri zaposlenih, razen če bi povišana raven stresa/pomanjkanje koncentracije pomenila posebno nevarnost, na primer pri uporabi nevarnih strojev ali ravnanju z nevarnimi kemikalijami. V slednjem primeru delodajalec podatkov ne sme uporabiti za druge namene, kot je ocenjevanje delovne uspešnosti zaposlenega. 

Dileme glede uporabe UI z vidika posega v pravico zasebnosti oz. čezmernega nadzora delavcev?

Eden izmed elementov delovnega razmerja je podrejenost delavca, in s tem povezana pravica in zakonska dolžnost delodajalca, da izvaja nadzor nad opravljanjem dela, npr. da se delovna oprema uporablja skladno z navodili, da je delo opravljeno, da se izvajajo ukrepi varnosti in zdravja pri delu, ipd.. Delodajalec pa ima tudi druge motive za nadzor delavcev – ugotavljanje delovne uspešnosti, učinkovitost in organizacija delovnega procesa, racionalna izraba delovnih sredstev, ipd.

Že z vidika delovnopravne zakonodaje in zakonodaje varstva osebnih podatkov (GDPR, ZVOP-2) so to vprašanja, ki zahtevajo analizo dopustnosti določenega konkretnega nadzora delavcev. Delodajalec je namreč skladno z ZDR-1 dolžan delavcem zagotavljati varne in delovne pogoje ter skrbeti za varstvo zasebnosti delavcev ter njihovega dostojanstva. Z vidika varovanja osebnih podatkov vemo, da je delodajalec določene osebne podatke dolžan obdelovati zaradi namenov izpolnjevanja pravic iz delovnega razmerja (za to ima podlago že v zakonodaji), po drugi strani pa je delodajalec dolžan opredeliti namene obdelave osebnih podatkov, kar še toliko bolj velja, v kolikor je pravna podlaga za obdelavo zakoniti interesi delodajalca ali privolitev delavca.

UI delodajalcem omogoča širok spekter uporabe z  namenom spremljanja vedenja in delovne aktivnosti delavcev, kot npr. spremljanje aktivnosti na računalniku, spremljanje uporabe aplikacij, spremljanje elektronskih komunikacij, spremljanje lokacije, če govorimo npr. o terenskem delu ali delu na domu, spremljanje časa odmora, nenazadnje spremljanje produktivnosti delavca s tipkanjem (če govorimo o pisarniških delavcih), spremljanje odzivnega časa delavcev – s tovrstnim spremljanjem oziroma nadzorom delavcev s sistemi UI lahko delodajalec sklepa o produktivnosti oz. vedenju svojih zaposlenih. Tu se pojavijo različna vprašanja v praksi, npr. ali je za merjenje produktivnosti delavca res potrebno spremljati vsako aktivnost delavca na računalniku, ali sme UI analizirati celo vsebino komunikacije ali mora biti omejena le npr. na določene prometne podatke o komunikaciji (kdo, kdaj s kom, …), dalje ali je potrebno stalno spremljanje terenskega delavca ali pa delavca na domu ali le podatek, ko ta dotični delavec izvede kakšno konkretno nalogo; nenazadnje, ali se podatki, ki so bili zbrani zaradi namena informacijske varnosti, pozneje smejo uporabiti za npr. ocenjevanje delovne uspešnosti zaposlenega.

Z vidika zakonodaje s področja UI je bilo že ugotovljeno, da sistemi UI za odločanje o pogojih delovnih razmerij, napredovanju ali prenehanju delovnih pogodbenih razmerij, dodeljevanju nalog na podlagi vedenja posameznika oziroma osebnostnih lastnosti ali značilnosti ter spremljanju in ocenjevanju uspešnosti in vedenja oseb v delovnopravnih razmerjih sodijo v visokotvegane sisteme UI, za katere s področja prava UI veljajo strožja pravila (vnaprejšnja obveščenost delavcev, človeški nadzor, upravljanje tveganj, dokumentiranje, sledljivost, …), vendar je v vsakem primeru potrebno upoštevati tudi drugo področno zakonodajo npr. GDPR (tj. da delodajalec opredeli namene, zaradi katerih obdeluje tovrstne osebne podatke o dotičnem delavcu, pri tem pa upoštevati osnovna načela GDPR – zlasti zakonitost in preglednost, omejitev namenov obdelave ter nujnost, najmanjši obseg podatkov, sorazmernost obdelave).

Torej, četudi delodajalec npr. izpolni zahteve Akta UI, ima še vedno obveznosti skladno z določili npr. GDPR, ZDR-1, ipd., saj je dolžan spoštovati zasebnost delavcev znotraj zakonskih okvirjev – tj. da obdelava osebnih podatkov ni preobsežna (na zalogo), nepotrebna (brez ustreznih namenom) ali da nima ustrezne pravne podlage in je nezakonita (vključno z izvedbo ocene učinka DPIA).

Kršitve zakonodaje s področja prava umetne inteligence

Slovenski zakon ZIUDHPUI opredeljuje prekrške in globe za kršitve s področja prava UI, tj. kršitve glede zagotavljanja pismenosti na področju UI, neupoštevanje prepovedanih praks, prekrški posameznih deležnikov, npr. ponudnikov, distributerjev, uvajalcev, kršitve glede preglednosti na podlagi 50. člena Akta UI, ipd.

V kolikor gre za prekršek prepovedanih praks, tj. da pravna oseba daje na trg, v uporabo za ta posebni namen ali uporablja sistem UI za sklepanje o čustvih fizične osebe na delovnem mestu ali v izobraževalnih ustanovah, razen kadar je uporaba sistema UI namenjena uvedbi ali dajanju na trg iz zdravstvenih ali varnostnih razlogov, se skladno s 26. členom ZIUDHPUI z globo od 25.000 do 250.000 eurov za prekršek kaznuje pravna oseba, z globo od 100.000 do 450.000 eurov pa pravna oseba, ki se po zakonu, ki ureja gospodarske družbe, šteje za veliko gospodarsko družbo. Kadar je prekršek posebno hud zaradi višine povzročene škode oziroma višine pridobljene protipravne premoženjske koristi ali zaradi storilčevega naklepa oziroma njegovega namena koristoljubnosti, se ponudnik ali uvajalec, ki je pravna oseba, samostojni podjetnik posameznik ali posameznik, ki samostojno opravlja dejavnost, kaznuje z globo v višini do 35.000.000 eurov ali do sedem odstotkov skupnega svetovnega letnega prometa za preteklo poslovno leto, odvisno od tega, kateri znesek je višji. Za mikro, mala in srednja podjetja šesti odstavek 26. člena ZIUDHPUI določa ugodnejšo omejitev višine globe – globa se v tem primeru omeji na največ 35.000.000 eurov ali sedem odstotkov njegovega skupnega svetovnega letnega prometa za preteklo poslovno leto, odvisno od tega, kateri znesek je nižji.

ZIUDHPUI v 31. členu določa prekrške uvajalca ter v 33. členu prekrške ponudnikov in uvajalcev sistemov UI glede preglednosti na podlagi 50. člena Akta UI, za katere se z globo od 25.000 do 250.000 eurov kaznuje pravna oseba, z globo od 100.000 do 450.000 eurov pa pravna oseba, ki se po zakonu, ki ureja gospodarske družbe, šteje za veliko gospodarsko družbo. Podobno kot pri prepovedanih praksah je tudi v tem primeru za posebno hude prekrške zagrožena tudi višja globa (do zneska 15.000.000 eurov).

Glede na pomen Akta UI in predvidene nadzorne mehanizme, vključno z možnostjo inšpekcijskih nadzorov ter izrekanja sankcij za kršitve, je ključno, da podjetja pravočasno in sistematično pristopijo k zagotavljanju skladnosti z njegovimi zahtevami. Ustrezna priprava in skladnost namreč ni zgolj vprašanje izpolnjevanja zakonskih obveznosti, temveč tudi odgovorne in varne uporabe UI v poslovnem okolju.


[1] Uredba (EU) 2024/1689 Evropskega Parlamenta in Sveta z dne 13. junija 2024 o določitvi harmoniziranih pravil o umetni inteligenci in spremembi uredb (ES) št. 300/2008, (EU) št. 167/2013, (EU) št. 168/2013, (EU) 2018/858, (EU) 2018/1139 in (EU) 2019/2144 ter direktiv 2014/90/EU, (EU) 2016/797 in (EU) 2020/1828 (Akt o umetni inteligenci)

[2] Recital 1 Akta o umetni inteligenci.

[3] „ponudnik“ pomeni fizično ali pravno osebo, javni organ, agencijo ali drugo telo, ki razvije sistem UI ali model UI za splošne namene ali ima razvit sistem UI ali model UI za splošne namene in ga da na trg ali da sistem UI v uporabo pod svojim imenom ali znamko, za plačilo ali brezplačno.

[4] „uvajalec“ pomeni fizično ali pravno osebo, javni organ, agencijo ali drugo telo, ki sistem UI uporablja v svoji pristojnosti, razen kadar se sistem UI uporablja v okviru osebne nepoklicne dejavnosti.

[5] Akt UI omenjena tveganja deli na štiri kategorije:

  • Nesprejemljivo tveganje – prepovedane prakse UI (npr. social scoring, sklepanje o čustvih fizične osebe na delovnem mestu in v izobraževalnih ustanovah, subliminalne tehnike, izkoriščanje šibkih točk – 5. člen)
  • Visoko tveganje – strogo regulirani sistemi UI – posebne zahteve za te sisteme – npr. človeški nadzor na področju zdravstva, zaposlovanja, izobraževanja, kreditnega ocenjevanja, biometirčne identifikacije, kritične infrastrukture, pravosodja… – 6. člen)
  • Omejeno tveganje – zahteva preglednost (npr. chatbot-i, deepfake), uporabnik mora biti obveščen, da gre za UI
  • Minimalno tveganje – načeloma brez regulacije (npr. videoigre, filtri za spam)

[6] Naloge organov za nadzor trga po Uredbi 2024/1689/EU izvajajo:

  • Agencija za komunikacijska omrežja in storitve Republike Slovenije,
  • Informacijski pooblaščenec,
  • Banka Slovenije,
  • Agencija za zavarovalni nadzor in
  • Tržni inšpektorat Republike Slovenije.

[7] Uredba (EU) 2026/1744 Evropskega Parlamenta in Sveta z dne 8. julija 2026 o spremembi uredb (EU) 2024/1689, (EU) 2018/1139 in (EU) 2023/1230 glede poenostavitve izvajanja harmoniziranih pravil o umetni inteligenci (zbirni sveženj za digitalno področje v zvezi z UI)

[8] Zahteva glede pismenosti UI pomeni, da morajo ponudniki in uvajalci sprejeti ukrepe za zagotovitev ustreznega znanja in razumevanja oseb, ki v njihovem imenu uporabljajo sisteme UI. Obseg usposabljanja je odvisen od znanja zaposlenih, okoliščin uporabe in tveganj konkretnega sistema UI.

[9] Modeli GPAI so modeli, ki lahko opravljajo širok nabor različnih nalog in predstavljajo osnovo za številne končne sisteme.

[10] Gl. https://www.gov.si/novice/2026-07-27-zacel-veljati-digitalni-omnibus-o-umetni-inteligenci/?utm_source=chatgpt.com (20.10.2026).

[11] Gl. https://digital-strategy.ec.europa.eu/en/consultations/targeted-consultation-draft-guidelines-classification-high-risk-artificial-intelligence-systems; 20.10.2026.

[12] „sistem za prepoznavanje čustev“ pomeni sistem UI za prepoznavanje čustev ali namenov ali sklepanje o čustvih ali namenih fizičnih oseb na podlagi njihovih biometričnih podatkov.)

[13] Recital 9 Akta UI.

[14] Dostopne v slovenskem jeziku na: https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act, 20.10.2026.