Etika in človekove pravice pri razvoju tržnih aplikacij in rešitev UI

Povezava na Zoom: https://zoom.us/j/91459816712

Vse večja prisotnost in uporaba umetne inteligence (UI) postaja naša družbena stvarnost. UI bo kot splošno uporabna tehnologija (ang. general purpose technology), ki jo nekateri primerjajo z elektriko, parnim strojem in internetom prodrla na vsa področja našega življenja. UI z razliko od drugih tehnologij v največji meri omogoča strojem izvajanje dejavnosti, ki so bile do nedavnega omejene le na človeške zmožnosti in inteligenco. Glede na obseg predvidenih sprememb je med ključnimi izzivi uvajanja UI v družbo vprašanje ali se bo slednja uporabljala v dobrobit ali v škodo posameznika in družbe. Evropski, pa tudi slovenski (glej NpUI) pristop uvajanja UI zagovarja na človeka in za človeka osredotočeno uvajanje UI, ki je varno in skladno z etičnimi načeli in človekovimi pravicami. Vprašanje pa je ali bo ta koncept, operacionaliziran s trenutnim predlogom EU Uredbe o UI, v konkurenčnem svetovnem okolju in trgu lahko zaživel, v kolikor ne najdemo načina, ki bi omogočal jasno in transparentno obravnavo te problematike v konkretnem razvoju tržno zanimivih in uspešnih rešitev. Namreč, v kolikor bo šel razvoj zaradi trenutnih značilnosti IKT trga (npr. »zmagovalec pobere vse«, »freemium« poslovni modeli s plačevanjem storitev z osebnimi podatki na račun zasebnosti, etc.) v druge smeri, bodo te usmeritve ostale le neuresničene želje. Odgovor bo v celoti odvisen od tega kako se UI rešitve zasnujejo, razvijejo in uporabljajo.

Ali bo upoštevanje teh vidikov pomenilo priložnost za prihod na trg ali morda oviro? Ta odgovor bo vsekakor bistveno vplival na uspešnost ali neuspešnost uvajanja UI v družbo v skladu z etičnimi načeli in človekovimi pravicami ter v končni posledici, kot kaže na ta način, tudi na bodoče temelje demokratičnega delovanja družbe. Standardni pristopi klasičnih razvojnih metodologij na podlagi jasno opredeljenih zahtev za končno aplikacijo ali pa pristopi agilnih metod s hitrim iskanjem in zagotavljanjem najosnovnejšega sprejemljivega produkta morda ne zmorejo v celoti zajeti vseh etičnih implikacij in posledic. Mnoge od njih bodo namreč težko merljive, za konkreten primer nerelevantne, nekatere pa morda v posameznih primerih nerazumljene, spregledane ali pa popolnoma neopazne.

Kako zahteve po etičnosti in skladnosti s človekovimi pravicami učinkovito vključiti v razvoj novih inovativnih tržnih rešitev UI na način, da bo skladen z uporabljeno razvojno metodologijo, ki prvenstveno zasleduje dodano vrednost za končnega uporabnika/naročnika/kupca v okviru jasnih zahtev za razvoj aplikacije, npr. z vidika funkcionalnosti, razpoložljivosti, uporabniške izkušnje, razširljivosti? Na ta vprašanja bodo svoje poglede na delavnici predstavili ugledni strokovnjaki s področja razvoja rešitev UI.

Agenda dogodka:

14.00 – 14.05 Uvodni nagovor

14.05 – 14.15 Okvir regulacije UI: mag. Samo Zorc

14.15 – 15.50 Okrogla miza

15.50 – 16.00 Zaključek dogodka

Udeleženci delavnice:

(1) mag. Samo Zorc, Ministrstvo za javno upravo

Samo Zorc je strokovnjak s področja računalništva z izkušnjami v raziskavah, razvoju programske opreme in strateškem načrtovanju in izvajanju politik v državni upravi. Več kot 15 let je na državni ravni aktiven na področju informacijske družbe in je soustvarjal strateške usmeritve kot je Strategija informacijske družbe Slovenije - si2010 (2008) in Nacionalni program za umetno inteligenco - NpUI (2021), kjer je tudi koordiniral njegovo pripravo. V tem času je ob tesnem sodelovanju s slovensko industrijo IKT zasnoval in izvedel več nacionalnih ukrepov za podporo uporabe interneta, uvajanja IKT in e-poslovanja, kot so podpora raziskovalno inovacijskim IKT projektom, nagrade, delavnice, informativni dnevi in odprta posvetovanja. Aktivno je sodeloval pri pobudi in vzpostavitvi slovenskih tehnoloških platform IKT (2005) in slovenske pobude za internet prihodnosti (2010). Na področju IKT je bil dejaven tudi na ravni EU s sodelovanjem v več upravnih odborih programov EU povezanih z IKT, kot so eVsebine, Konkurenčnost in inovacije - Program za podporo politiki IKT, 7. okvirni program, Obzorje 2020 in v drugih skupinah, kot so Večdeležniška platforma za IKT standardizacijo in Forum o internetu prihodnosti (2009). Pred prihodom v državno upravo je delal kot mladi raziskovalec in v podjetjih za razvoj programske opreme v Sloveniji, Avstriji in ZDA.

(2) Marko Grobelnik, direktor, Quintelligence in Institut »Jožef Stefan«

Marko Grobelnik je strokovnjak s področja umetne inteligence. Je soustanovitelj Odseka za umetno inteligenco na Inštitutu Jožef Stefan, soustanovitelj Mednarodnega raziskovalnega središča za umetno inteligenco (IRCAI) in je direktor podjetja Quintelligence.com, specializiranega za reševanje zapletenih nalog umetne inteligence v komercialnem svetu. Osrednja področja strokovnega zanimanja so Strojno učenje, Data / Text / Web Mining, Analiza omrežja, Semantične tehnologije, Poglobljeno razumevanje besedila in Vizualizacija podatkov. Sodeluje z velikimi evropskimi akademskimi institucijami in glavnimi panogami, kot so Bloomberg, British Telecom, Evropska komisija, Microsoft Research, New York Times. Marko je soavtor več knjig, soustanovitelj več zagonskih podjetij in je sodeloval pri več kot 50 raziskovalnih projektih, ki jih financira EU na različnih področjih umetne inteligence. Marko zastopa Slovenijo v odboru OECD za umetno inteligenco (AI ONE) in v odboru Sveta Evrope za umetno inteligenco (CAHAI). Leta 2016 je Marko postal evropski digitalni glasnik pri Evropski komisiji.

(3) Matevž Klanjšek, soustanovitelj & Glavni produktni vodja, CELTRA

Matevž je soustanovitelj in glavni produktni vodja družbe Celtra. Odgovoren je za celotno produktno strategijo, zasnovo in razvoj ter vodi produktne inovacije družbe Celtra. Nagrajena ustvarjalna platforma podjetja Celtra omogoča oglaševanje blagovnih znamk, kot so Adidas, Spotify, Unilever in Vice. Pred ustanovitvijo Celtre je bil Matevž kreativni direktor pri podjetju Renderspace. Matevž je diplomiral iz komunikacijskega oblikovanja na univerzi Central Saint Martins v Londonu in občasno deluje kot digitalni umetnik.

(4) dr. Gregor Pipan, soustanovitelj in direktor raziskav in razvoja, XLAB

Gregor je ustanovitelj in direktor raziskovalnega podjetja XLAB, ter ustanovitelj raziskovalne skupine XLAB Research, ki jo od leta 2005 tudi vodi, skupina pa uspešno sodeluje v številnih nacionalnih in mednarodnih raziskovalno-razvojnih projektih. Kot nekdanji raziskovalec na Institutu Jožef Stefan je usmerjen predvsem v porazdeljeno iskanje in nadzor virov ter arhitekturo porazdeljenih sistemov. Kot aktiven član slovenskega start-up ekosistema pa je Gregor Pipan soustanovitelj ABC pospeševalnika in mentor ter investitor v start-upih, kot so Koofr, Sentinel Marine Solutions, Datafy.it, Moj mojster in drugi.

(5) dr. Boris Cergol, vodja UI, Endava

Boris Cergol je vodja poslovne enote za umetno inteligenco podjetja Endava. Pred tem je bil raziskovalec in ustanovitelj zagonskega podjetja, specializiranega za uvajanje umetne inteligence v gospodarstvu. Trenutno je tudi član izvršnega odbora iniciative AI4Slovenia in mentor v podjetniškem pospeševalniku Techstars Montréal AI Accelerator. Je tudi vodja delovne skupine, ki irskemu uradu za standarde svetuje glede uvajanja standardov umetne inteligence v malih in srednje velikih podjetjih. S področja matematične statistike je doktoriral na Univerzi v Ljubljani.

(6) Mitja Trampuž, direktor, CreaPlus

Mitja Trampuž je predsednik pobude AI4SI, umetna inteligenca za Slovenijo, ki deluje v sklopu Združenja za informatiko in telekomunikacije pri Gospodarski zbornici Slovenije. Pobuda ima glavno nalogo pospešiti uvajanje umetne inteligence v slovenska podjetja tako pri podpori poslovnih procesov kot pri nadgradnji samih proizvodov in storitev, prispeva pa tudi k razvoju, promociji in podpori širše uporabe umetne inteligence v gospodarstvu ter vzpostavlja povezave s sorodnimi organizacijami v EU. Znotraj podjetja CREApro se Trampuž aktivno udejstvuje v konkretnih projektih uvajanja tehnologij umetne inteligence v procese in izdelke podjetij iz različnih gospodarskih panog, kjer šteje ustvarjena dodana vrednost. Že desetletja pa deluje tudi na področju zagotavljanja varnosti informacijskih sistemov, varnega izvajanja kriptografskih operacij ter odkrivanja ranljivosti in zaznavanja zlorab informacijskih sistemov. Je nosilec certifikatov CISA, CISM, CDPSE, CISSP in CEH.

(7) dr. Jerneja Žganec Gros, direktorica, Alpineon d.o.o.

Dr. Jerneja Žganec Gros je ustanoviteljica in direktorica visokotehnološkega podjetja Alpineon d.o.o., ki raziskuje in razvija napredne storitve in izdelke umetne inteligence na področjih strojnega vida in govornih tehnologij. Doktorirala je iz jezikovnih tehnologij na Fakulteti za elektrotehniko Univerze v Ljubljani. Je tudi profesorica na Fakulteti za industrijski inženiring Novo mesto. Koordinirala je več mednarodnih in nacionalnih inovativnih projektov. Je prejemnica slovenske nagrade za tehnične inovacije za invalide in nagrade za izjemne raziskovalne dosežke Agencije RS za raziskovalno dejavnost. Bila je članica zmagovalnih ekip na več mednarodnih tekmovanjih v biometriji. Prejela je nagrado Slovenski ambasador zasebnosti za najboljše prakse varstva zasebnosti in zlati nagradi za inovativnost Gospodarske zbornice Slovenije v letih 2017 in 2020. Je avtorica ene monografije, številnih strokovnih in znanstvenih člankov ter sedmih patentov.

(8) dr. Jana Javornik

Dr. Jana Javornik je predavateljica in raziskovalka na Univerzi v Leedsu v Zdr Kraljestvu, Stockholm University, Utrecht University, in na Univerzi v Alberti. Med 2019 in 2021 je bila generalna direktorica za visoko šolsto v RS, v času aktivnega vzpostavljanja IRCAI. Je članica slovenskega Sledilnika in Podnebnika, svetovalka številnim evropskim vladam in FTSE100 na področju enakosti, raznolikosti in vključenosti ter javnih politik. V preteklosti je bila svetovalka na UMAR, UNDP, Evropski komisiji ter OSCE.

Soureja nekaj znanstvenih revij: Work, Employment & Society, International Journal of Care & Caring, the Journal of Family Studies, in Jrnl of Comparative Policy Analysis. Piše za The Economist, The Conversation, Guardian, Observer, Independent, Financial Times, Forbes, Bloomberg, Telegraph in je vabljena komentatorka za BBC, The Times in Sunday Times.

Jana trenutno sodeluje v dveh multidisciplinarnih in mednarodnih projektih s področja strojnega učenja in relacij človek : stroj in tudi kot aktivna udeleženka (raziskovalni subject) britanske multidisciplinarne raziskave o uporabi umetne inteligence pri osebah z okvarami vida.

E: J.Javornik@leeds.ac.uk TW: @JanaSvenska