Čeprav se na prvi pogled zdi, da se s področjem umetne inteligence intenzivno ukvarjamo šele v zadnjem obdobju, ima Slovenija že več kot 40 letno zgodovino raziskovalne in izobraževalne dejavnosti na področju umetne inteligence. Uspešni smo na mednarodni ravni in pohvalimo se lahko tudi z vzpostavitvijo prvega Mednarodnega raziskovalnega centra za umetno inteligenco (IRCAI) pod pokroviteljstvom UNESCA »Imamo odlične pogoje za uspešen razvoj in uvajanje umetne inteligence, saj imamo kakovostno univerzitetno izobraževanje na področju umetne inteligence, zainteresirano in aktivno civilno družbo ter hitro naraščajoče število podjetij, ki sprejemajo umetno inteligenco in jo želijo uporabiti pri svojem poslovanju,« je v uvodnem nagovoru poudaril minister Boštjan Koritnik. Vendar izkušnje kažejo, da tehnološke rešitve niso edini pogoj za uspešno uvajanje umetne inteligence v različna področja našega življenja. Ljudje so do novih tehnologij pogosto nezaupljivi, zato bo nujno povečati zaupanje javnosti v to, da bo nova tehnologija našim življenjem dejansko koristila ne pa jih ogrožala.

Pravni in etični okvir bomo vzpostavili v sodelovanju z našimi evropskimi partnerji na podlagi smernic, ki jih na ravni EU gradimo skupaj. »Pripravljamo Nacionalni program za umetno inteligenco kot osnovo za aktivnosti na področju umetne inteligence tako na nacionalni kot tudi mednarodni ravni. Program stremi k uvajanju umetne inteligence tako, da sta razvoj in uporaba vseh sistemov v največji možni meri namenjena zagotavljanju blaginje ljudi in družbe, pri čemer pa se posebej zavzema za ohranjanje nacionalnega jezika in kulturne identitete, kjer lahko predstavlja ključno orodje. To omogoča, da so ljudje pri spodbujanju digitalizacije dejansko v središču pozornosti,« je še povedal minister Koritnik in zaključil, da želimo biti povezovalni člen med različnimi pobudami ter omogočiti uspešno in učinkovito usklajevanje in sodelovanje v mednarodnem okolju. Področje razvoja in uporabe umetne inteligence bo tudi v ospredju slovenskega predsedovanja Svetu EU jeseni letos.

Pred začetkom razprave v okrogli mizi je mag. Samo Zorc, koordinator priprave Nacionalnega programa spodbujanja razvoja in uporabe umetne inteligence v Republiki Sloveniji do leta 2025 (NpUI) z Ministrstva za javno upravo udeležencem dogodka strnjeno predstavil nastajajoči nacionalni program. Program vsebuje jasno vizijo in deset strateških ciljev, med njimi izobraževanje, varnost, pravno-etični okvir in tudi zaupanje javnosti. Prav ustrezno razumevanje bo bistveno vplivalo na uspešnost uvajanja umetne inteligence, je poudaril Zorc. Ključno vprašanje pa je, ali pri uvajanju umetne inteligence potrebujemo poseben pravni okvir. Temu je bila namenjena današnja razprava.

Cilj razprave v okrogli mizi je bil deliti različne poglede, mnenja, predvsem pa priti do zaključkov o tem, ali potrebujemo poseben okvir za upoštevanje etike ter človekovih pravic in temeljnih svoboščin za področje umetne inteligence ter osvetlitev vloge etike ter človekovih pravic in temeljnih svoboščin za uspešno in učinkovito uvajanje rešitev umetne inteligence v družbo. Razprava se je zaključila z ugotovitvami, da je pred nami zahtevna naloga, saj govorimo o nečem, kar bo močno vplivalo na naše življenje. Nujna je ustrezna obravnava etičnih načel in zagotavljanja človekovih pravic v tem oziru. Treba bo opredeliti pravna pravila ter ustrezno definicijo, ki bo podlaga za nadaljnje urejanje. Ključen bo izobraževalni vidik in zavedanje, da vse, kar je mogoče, ni nujno tudi prav. Slišati je bilo, da je etika poskus družbenega dogovora, ki pa se med državami razlikuje.

Kot je ob zaključku razprave izpostavil eden od gostov okrogle mize, Marko Grobelnik, imamo kot majhna država pravzaprav primerjalno prednost, saj se je v Sloveniji oblikovala dobro delujoča skupina strokovnjakov na tem področju, česar nimajo niti mnoge večje države, in zato lahko dobro sodelujemo, delujemo ter imamo pomemben vpliv tudi v mednarodnem prostoru.

Okrogla miza

V razgibani razpravi, ki jo je moderiral Jaka Repanšek, vodja Strateške skupine za regulativo in okolje Slovenske Digitalne Koalicije, so sodelovali priznani strokovnjaki s tega področja: akad. prof. dr. Ivan Bratko, Marko Grobelnik, prof. dr. Olga Markič, izr. prof. dr. Aleš Završnik, dr. Luka Omladič, Gregor Strojin, dr. Maja Bogataj Jančič. Med razpravo se je med udeleženci dogodka (teh je bilo skupaj več kot 180) razvila tudi vsebinsko bogata razprava v klepetalnici.

Akad. prof. dr. Ivan Bratko, slovenski računalnikar in akademik, pionir in utemeljitelj raziskav in visokošolskega izobraževanja umetne inteligence v Sloveniji ter ustanovitelj oddelkov za umetno inteligenco na Institutu Jožef Stefan in Fakulteti za računalništvo in informatiko Univerze v Ljubljani se je uvodoma zahvalil sodelavcem Ministrstva za javno upravo za vložen trud pri pripravi nacionalnega programa. V zvezi z izpostavljenimi vprašanji okrogle mize pa je izpostavil, da se vedno več razpravlja o frazah, kot so odgovorna umetna inteligenca, etična umetna inteligenca, regulacija umetne inteligence in podobno in da v realnem življenju potrebujemo jasno opredelitev, ko govorimo o nedorečenostih v primerih avtonomnega orožja, samovozečih vozil ali uporabi umetne inteligence za manipulacijo ljudi na spletu.

Izr. prof. dr. Aleš Završnik, ki trenutno sodeluje v delovni skupini Umetna inteligenca in kazensko pravna odgovornost – primer avtomatiziranih vozil, ki jo je imenoval Odbor Sveta Evrope za kazenske zadeve, je izpostavil, da je takšna razprava nujna, saj so se pri uvajanju umetne inteligence pojavila številna tveganja in so se v nekaterih primerih že pokazale škodljive posledice na človekove pravice, na katere se moramo odzvati. »Seveda to ne pomeni, da je vsaka uporaba škodljiva, obstaja veliko pozitivnih učinkov, nekaj pa je takih, ki predstavljajo škodljivo rabo in negativen vpliv na etiko in zagotavljanje človekovih pravic, na te pa se moramo odzvati,« je poudaril.

Gregor Strojin je v vlogi predsednika Ad hoc odbora Sveta Evrope za umetno inteligenco (CAHAI), ki proučuje možnost izvedljivosti in elemente za pripravo pravnega okvirja za oblikovanje, razvoj in uporabo umetne inteligence skladno s standardi Sveta Evrope na področju človekovih pravic, demokracije in vladavine prava, je spregovoril o trenutni pravni ureditvi na tem področju. Poudaril je, da pravne praznine sicer ni, da pa so obstoječi predpisi nepopolni in ne omogočajo učinkovitega urejanja. Za mednarodno uskladitev bo potrebna zavezujoča konvencija Sveta Evrope, saj bodo morala pravna pravila pokriti tako horizontalni kot vertikalni vidik (po sektorjih).

Marko Grobelnik, strokovnjak s področja umetne inteligence, soustanovitelj Odseka za umetno inteligenco na Inštitutu Jožef Stefan ter soustanovitelj Mednarodnega raziskovalnega središča za umetno inteligenco (IRCAI) je poudaril, da najprej potrebujemo ustrezno definicijo področja, da bomo potem lahko ustrezno izpeljali vse nadaljnje korake in realno obdelavo posameznih vidikov. Na podlagi tehnične definicije (predstavil je OECD definicijo umetne inteligence) bomo lahko opredelili pravno definicijo in vidike, ki bodo omogočali pravne postopke. Iz svoje prakse je izpostavil, da trenutna regulacija ni pretirana, ni omejujoča, vendar bo ta prišla do izraza šele čez nekaj časa, saj »velike stvari šele prihajajo. Inovacije, ki so na poti, bodo predstavljale bistveno večje izzive, kot te, o katerih se pogovarjamo danes.«

Dr. Luka Omladič, nekdanji član Unescove svetovne komisije za etiko znanstvenega znanja in tehnologije (COMEST) in član slovenske skupine strokovnjakov za Globalno partnerstvo na področju umetne inteligence (GPAI), je predstavil delo in ugotovitve Unesca na področju razvoja in uporabe umetne inteligence. Poudaril je, da je etika tehnologije poskus družbenega dogovora, da pa so družbe med seboj različne. Tehnologija spreminja svet, zato se moramo ob tem vprašati: v kakšen svet, ali imamo nad tem kontrolo in če jo imamo, kdo so agenti.

Prof. dr. Olga Markič, slovenska filozofinja, predavateljica in raziskovalka, ki je raziskovalno in pedagoško vpeta v mednarodni prostor kot predavateljica na tujih univerzah in avtorica številnih odmevnih znanstvenih člankov in monografij in je tudi predsednica Slovenskega društva za kognitivne znanosti, je spregovorila o problemu nezaupanja v umetno inteligenco. »Znanost lahko služi napredku, včasih pa se moramo vprašati, ali je to čisto neproblematično ali pa nas sili v nek premislek. Je lahko umetna inteligenca etična, če smo mi neetični? Ob stvareh, ki jih razvijamo, se moramo vprašati, kako vplivajo na družbo, da se zraven vprašamo, ali bi sami želeli živeti v takšni družbi,« je povedala. Izpostavila je izobraževalni vidik in premislek o tem, kakšne etične vrednote zagovarjamo.

Dr. Maja Bogataj Jančič, ustanoviteljica in vodja Inštituta za intelektualno lastnino, zasebne raziskovalne in svetovalne institucije in ko-predsedujoča delovni skupini za Upravljanje s podatki v Global Partnership for Artificial Intelligence (GPAI), se je dotaknila področja avtorskega prava. Poudarila je, da po trenutni ureditvi avtorske pravice pripadajo samo na delih, ki jih je ustvaril človek. »Umetna inteligenca kot orodje trenutno brez intervencije človeka še ni sposobna sama ustvarjati. Torej avtorsko pravno varstvo pripada tistemu, ki to orodje uporablja. Umetna inteligenca (še) ne ustvarja sama.« Morda se bo ureditev v prihodnje spremenila, je dodala, a trenutno stališče na področju priznavanja intelektualne lastnine je, da tudi, če bi bila sposobna samostojno ustvariti neko delo, umetna inteligenca ne potrebuje moralne spodbude za ustvarjanje.