Objavljen končni osnutek Akta o umetni inteligenci

Po tem, ko so institucije EU decembra 2023 dosegle politični dogovor o Aktu o umetni inteligenci, je bil sedaj razkrit končni osnutek sporazuma. Vendar pa še ni znano, kdaj bo akt stopil v veljavo, saj mu nasprotuje več držav članic, med njimi tudi Francija in Nemčija. Države namreč skrbi, da bodo obveznosti, ki jih akt nalaga sistemom UI, ovirale razvoj in predstavljale konkurenčno slabost za njihova vodilna podjetja s področja UI. V vsakem primeru pa določila akta ne bodo začela veljati pred sredino leta 2025, večina le-teh pa bo začela veljati šele od sredine leta 2026 naprej.

Akt o umetni inteligenci razvršča sisteme UI v štiri glavne skupine glede na stopnjo tveganja, ki ga ti predstavljajo za pravice ali varnost posameznikov:

- Minimalno tveganje: Večina sistemov UI spada v kategorijo minimalnega tveganja. Aplikacije, kot so priporočilni sistemi ali filtri za neželeno pošto, predstavljajo le minimalno ali nobenega tveganja za pravice ali varnost državljanov, zato bodo izvzeti iz obveznosti po zakonu.

- Omejeno tveganje: Sistemi UI, ki spadajo v to skupino, bodo morali izpolnjevati določene obveznosti glede transparentnosti. Na primer posameznik, ki komunicira s klepetalnim robotom (t. i. »chatbot«), mora biti obveščen, da sodeluje s strojem, da se lahko sam odloči, ali bo nadaljeval (ali namesto tega zahteval pogovor s človekom).

- Visoko tveganje: Sistemi UI, ki so prepoznani kot visoko tvegani, bodo podvrženi strogim zahtevam, saj bodo morali poskrbeti za sisteme za obvladovanje tveganj, visoko kakovostne nabore podatkov, beleženje aktivnosti, podrobno dokumentacijo, jasne informacije za uporabnike in človeški nadzor. Primeri takšnih visoko tveganih sistemov UI so določene kritične infrastrukture; na primer na področju vode, plina in elektrike, medicinski pripomočki, sistemi za izbiro kandidatov za izobraževalne ustanove ali za zaposlovanje in določeni sistemi, uporabljeni v pravosodju in pri nadzoru meja. Poleg tega se uvrščajo v to skupino tudi sistemi za biometrično identifikacijo ter kategorizacijo in prepoznavanje čustev.

- Nesprejemljivo tveganje: Prepovedani bodo sistemi UI, ki očitno ogrožajo temeljne pravice posameznikov. Sem spadajo aplikacije, ki manipulirajo s človeškim vedenjem, da bi zaobšli svobodno voljo uporabnikov, kot so igrače z glasovno pomočjo, ki spodbujajo nevarno vedenje mladoletnikov ali sistemi, ki omogočajo »družbeno ocenjevanje« s strani vlad ali podjetij. Poleg tega bodo prepovedane nekatere vrste uporabe biometričnih sistemov, na primer sistemi za prepoznavanje čustev, ki se uporabljajo na delovnem mestu, in določeni sistemi za kategorizacijo ljudi ali daljinsko biometrično prepoznavo v realnem času za namene kazenskega pregona v javno dostopnih prostorih (z ozkimi izjemami npr. terorizem).

Podjetja, ki ne bodo spoštovala teh določil, bodo kaznovana z globami, katerih višina bo odvisna od vrste kršitve in se bodo gibale med 7,5 in 35 milijonov evrov, lahko pa bodo določene tudi glede na odstotek letnega prometa podjetja. Evropska komisija bo ustanovila Evropski urad za umetno inteligenco, ki bo vršil nadzor nad izvajanjem določb Zakona o umetni inteligenci.

Akt bo imel posledice za oglaševalske agencije, ki bodo morale ravnati skladno s predpisi o transparentnosti pri uporabi sistemov UI v oglaševanju. Evropsko združenje komunikacijskih agencij (EACA) se je zavezalo, da bo natančno spremljalo razvoj na tem področju in zagotavljalo agencijam informacije o pomembnih spremembah v regulativnem okolju.