Skrbnik za upravljanje umetne inteligence | AI Manager

Implementacija sistemov AI, bodisi manj ali visoko tveganih, prinaša posebne zahteve in izzive. Vsi sistemi AI morajo biti skrbno načrtovani in upravljani, da se zagotovi njihova zanesljivost, varnost in skladnost z etičnimi standardi. Organizacije morajo zagotoviti, da so njihovi sistemi AI pregledni, spoštujejo zasebnost uporabnikov in ne ustvarjajo pristranskih ali diskriminatornih rezultatov. Posebno pozornost je treba nameniti visoko tveganim sistemom AI, ki zaradi svoje kompleksnosti in potencialnega vpliva na družbo zahtevajo dodatne varnostne ukrepe in rigorozne kontrole. Poleg tega lahko uporaba prepovedanih praks, opredeljenih v Zakonu o umetni inteligenci EU (EU AI Act), povzroči znatne posledice, vključno s pravnimi in regulativnimi sankcijami.

Vsebina

I. Upravljanje umetne inteligence

Prvi dan je posvečen razumevanju osnovnih zahtev standarda ISO/IEC 42001:2023 Umetna inteligenca – Sistem upravljanja umetne inteligence – Zahteve, ki opredeljuje kriterije za vzpostavitev, implementacijo, vzdrževanje in stalno izboljševanje sistema za upravljanje umetne inteligence (AIMS). Ta standard je prvi in trenutno edini svetovni standard, po katerem se organizacije lahko certificirajo in ki ponuja strukturiran okvir za učinkovito upravljanje AI sistemov. Program temelji na PDCA (Plan-Do-Check-Act) modelu, ki omogoča strukturiran pristop k stalnemu izboljševanju sistemov AI znotraj organizacije. Udeleženci se bodo seznanili s ključnimi vidiki standarda, vključno z upravljanjem tveganj in priložnosti, povezanih z AI, ter kako zagotoviti preglednost in stalno učenje. Skozi praktične primere in študije primerov bodo udeleženci spoznali, kako implementirati standard v svoji organizaciji.

II. Referenčni cilji in kontrole umetne inteligence

Drugi dan se osredotoča na Aneks A standarda ISO/IEC 42001:2023, ki ponuja dodatne informacije in smernice za implementacijo in upravljanje sistemov AI. Aneks A vsebuje referenčne kontrolne cilje in mehanizme, ključne za doseganje skladnosti in izdelavo izjave o uporabnosti. Udeleženci se bodo naučili, kako uporabljati te kontrole za zmanjšanje tveganj in izboljšanje učinkovitosti sistemov AI.

Izobraževalni program pokriva razvoj in implementacijo politik za etično in varno uporabo sistemov AI ter strukturo in organizacijo timov AI, vključno z njihovimi vlogami in odgovornostmi. Udeleženci se bodo seznanili z identifikacijo in dodeljevanjem virov za razvoj in vzdrževanje sistemov AI ter z metodologijami za ocenjevanje vpliva AI na poslovne procese in uporabnike.

III. Terminologija, koncepti in življenjski cikel umetne inteligence

Tretji dan programa temelji na standardu ISO/IEC 22989:2022 Informacijska tehnologija – Umetna inteligenca – Koncepti in terminologija umetne inteligence. Ta standard vzpostavlja terminologijo za AI in opisuje ključne koncepte na področju umetne inteligence. Ta del programa je namenjen zagotavljanju jasnega razumevanja osnovnih pojmov in kategorij AI, kar je ključno za učinkovito komunikacijo in uporabo tehnologij AI v organizacijah.

Izobraževalni program pokriva širok spekter tem, vključno z osnovnimi koncepti AI, kot so učenje, prepoznavanje in napovedovanje ter razumevanje jezika in sklepanja. Udeleženci se bodo seznanili z metodami in orodji za analizo in primerjavo različnih rešitev AI, kar jim bo omogočilo sprejemanje informiranih odločitev pri izbiri in implementaciji tehnologij AI v svojih organizacijah.

IV. Upravljanje ciljev in tveganj umetne inteligence

Udeleženci se bodo seznanili s procesi upravljanja tveganj, ki vključujejo načrtovanje, izvajanje, spremljanje in pregled tveganj. Program prav tako poudarja pomen vključevanja upravljanja tveganj v vse poslovne procese in funkcije, povezane z AI, s čimer se zagotavlja celovit in proaktiven pristop k upravljanju tveganj.

Skozi interaktivna predavanja, praktične vaje in študije primerov bodo udeleženci spoznali, kako učinkovito prepoznati in upravljati tveganja, povezana z AI, ter kako implementirati okvir za upravljanje tveganj znotraj svojih organizacij. Poleg tega bo program zajemal tudi najboljše prakse za dokumentiranje in poročanje o tveganjih ter za zagotavljanje skladnosti z relevantnimi standardi in regulatornimi zahtevami.

 V. Etika in družbena sprejemljivost umetne inteligence

Zadnji dan programa se ukvarja z etičnimi vprašanji in družbenimi vidiki uporabe AI v skladu s standardom ISO/IEC 24368:2023 (Informacijska tehnologija – Umetna inteligenca – Etični in družbeni vidiki). Ta standard ponuja smernice za zagotavljanje, da razvoj in uporaba tehnologij AI potekata v skladu z etičnimi načeli in družbeno sprejemljivimi standardi.

Izobraževalni program pokriva teme, povezane z etiko in družbeno sprejemljivostjo sistemov AI. Analizira tveganja, povezana z zasebnostjo podatkov, in načine zaščite uporabniških podatkov, identificira in zmanjšuje pristranskost v algoritmih AI, da se zagotovi pravičnost in nepristranskost rezultatov. Program ponuja smernice za preglednost, zagotavljajoč, da uporabniki in druge zainteresirane strani razumejo, kako sistemi AI sprejemajo odločitve. Prav tako se ukvarja z zagotavljanjem, da sistemi AI podpirajo človeško avtonomijo in sprejemanje odločitev, namesto da jih omejujejo, ter opredeljuje odgovornost za odločitve, sprejete s strani sistemov AI, zagotavljajoč jasen okvir za odgovornost.

Metodologija in pristop

Program uporablja različne metode poučevanja, da zagotovi, da udeleženci ne samo pridobijo teoretična znanja, temveč tudi razvijejo praktične veščine, potrebne za učinkovito upravljanje sistemov AI. Metodologija vključuje naslednje komponente:

• Predavanja: Skozi strukturirana predavanja se bodo udeleženci seznanili s ključnimi koncepti, standardi in najboljšimi praksami na področju umetne inteligence. Predavanja so zasnovana tako, da zajemajo teoretične vidike, ki so temelj za razumevanje kompleksnejših tem.

• Praktične vaje: Praktične vaje omogočajo udeležencem uporabo teoretičnih znanj v realnih situacijah. Te vaje vključujejo simulacije in delo na konkretnih poslovnih primerih, kar zagotavlja praktično uporabo naučenega.

• Študije primerov: Skozi podrobno analizo resničnih primerov iz prakse bodo udeleženci imeli priložnost videti, kako se teoretična znanja uporabljajo v različnih industrijah. Študije primerov omogočajo razumevanje kompleksnih problemov in razvoj rešitev, temelječih na najboljši praksi.

• Diskusije in delavnice: Aktivno sodelovanje v diskusijah in delavnicah spodbuja udeležence k izmenjavi izkušenj in idej. Ta pristop omogoča globlje razumevanje tem in razvoj kritičnega mišljenja.

• Individualiziran pristop: Maksimalno število udeležencev na skupino je 16, kar omogoča individualiziran pristop. Ta pristop zagotavlja kakovostno interakcijo s predavateljem, prilagoditev vsebine specifičnim potrebam udeležencev in podrobno povratno informacijo.

Ta celovit pristop zagotavlja, da udeleženci ne samo razumejo ključne koncepte umetne inteligence, temveč tudi razvijejo praktične veščine, potrebne za uspešno vodenje in upravljanje projektov AI znotraj svojih organizacij.

Učni izidi

Na koncu tega izobraževalnega programa bodo udeleženci sposobni samostojno:

1. Razumeti ključne koncepte in standarde AI:
Udeleženci bodo pridobili temeljna teoretična znanja o umetni inteligenci, vključno s terminologijo, koncepti in standardi, kot so ISO/IEC 42001:2023, ISO/IEC 22989:2022, ISO/IEC 23894:2023 in ISO/IEC 24368:2023.

2. Uporabiti AI standarde in smernice v praksi:
Udeleženci se bodo naučili, kako implementirati kontrolne cilje in mehanizme za upravljanje sistemov AI v skladu z Aneksom A standarda ISO/IEC 42001:2023.

3. Prepoznati in upravljati tveganja, povezana z AI:
Udeleženci bodo lahko prepoznali potencialna tveganja, povezana z implementacijo in uporabo tehnologij AI, ter razvili strategije za njihovo upravljanje z uporabo smernic iz standarda ISO/IEC 23894:2023.

4. Razviti in implementirati etične politike za AI sisteme:
Udeleženci bodo sposobni analizirati tveganja, povezana z zasebnostjo, pristranskostjo in preglednostjo sistemov AI, ter razviti politike, ki zagotavljajo etično in družbeno sprejemljivo uporabo tehnologij AI v skladu s standardom ISO/IEC 24368:2023.

5. Uporabiti teoretična znanja v realnih situacijah:
Skozi praktične vaje in študije primerov bodo udeleženci razvili sposobnost uporabe teoretičnih konceptov pri reševanju resničnih poslovnih problemov.

6. Zagotoviti skladnost AI sistemov z mednarodnimi standardi:
Udeleženci se bodo naučili, kako zagotoviti, da so njihovi sistemi AI skladni z mednarodnimi standardi in najboljšimi praksami, zagotavljajoč preglednost in etičnost v njihovi uporabi.

7. Učinkovito voditi AI projekte znotraj organizacij:
Udeleženci bodo pripravljeni prevzeti odgovornost za vodenje in upravljanje projektov AI, vključno z implementacijo in vzdrževanjem sistemov AI na učinkovit, etičen in pregleden način.

8. Aktivno sodelovati in prispevati k strokovnim diskusijam in delavnicam:
Udeleženci bodo razvili veščine kritičnega mišljenja in sposobnost aktivnega sodelovanja v diskusijah, s čimer bodo prispevali k razvoju znanja in najboljših praks na področju umetne inteligence.

Ti učni izidi zagotavljajo, da udeleženci ne pridobijo samo teoretična znanja, temveč tudi praktične veščine, potrebne za učinkovito vodenje in upravljanje sistemov AI znotraj svojih organizacij.

Udeležbo priporočamo

Področje uporabe umetne inteligence (AI) je izjemno široko, obsegajoč skoraj vse sektorje sodobne družbe. Sistemi AI omogočajo avtomatizacijo procesov, izboljšanje učinkovitosti ter inovacije, ki izboljšujejo poslovanje in vsakdanje življenje. V nadaljevanju so navedene najpogostejše dejavnosti, kjer obstaja potreba po uporabi sistemov AI, kar pa ne izključuje možnosti uporabe v drugih dejavnostih. Na koncu je podan pregled delovnih mest, ki jim priporočamo udeležbo na tem programu.

Dejavnosti uporabe AI in potencialni kandidati.

Po uspešno zaključenem usposabljanju boste pridobili naziv Skrbnik za upravljanje umetne inteligence | AI Manager

Lokacija izvedbe: SIQ Ljubljana, Mašera-Spasićeva ulica 10, 1000 Ljubljana.

Dodatne informacije: Bojan Varga, telefon: (01) 4778 108, e-pošta: bojan.varga@siq.si