Ocena vpliva sistemov UI (AIIA)

Vsebina

• Vzpostavitev in organizacija procesa ocene vpliva UI

Ta del delavnice je osredotočen na postavitev temeljev za oceno vpliva sistemov UI znotraj organizacije. Udeleženci bodo pridobili razumevanje ključnih elementov procesa, vključno z njegovo dokumentacijo, povezavo z drugimi procesi upravljanja ter pravilno izbiro trenutka izvedbe ocene. Posebna pozornost bo namenjena opredelitvi obsega ocene in razmejitvi odgovornosti med deležniki. Pojasnjena bo pomembnost pragov za občutljivo in omejeno uporabo ter kako lahko organizacija določi ravni vpliva glede na lastne potrebe in tveganja. V tem delu se vzpostavi temeljna struktura in zagotovi skladnost z načeli sistema vodenja umetne inteligence, kar je pogoj za uspešno izvedbo naslednjih korakov ocene.

• Izvajanje, analiza in nadzor ocene vpliva

Ta del se osredotoča na operativne vidike izvajanja ocene vpliva UI. Udeleženci se bodo naučili, kako se ocena dejansko izvaja, kateri so koraki pri analizi rezultatov ter kako se informacije beležijo in poročajo. Pojasnjen bo postopek potrjevanja rezultatov ocene ter pomembnost opredelitve jasnih meril za sprejemanje odločitev na podlagi ugotovitev. Vključen je tudi vidik spremljanja in periodične revizije, kar zagotavlja, da ocena ostane relevantna skozi celoten življenjski cikel sistema UI. Obravnavane bodo tudi smernice za usklajevanje z drugimi vrstami organizacijskih ocen ter razlike v primerjavi s tradicionalnim upravljanjem tveganj. S pomočjo primerov iz standardov ISO/IEC 42001 in ISO/IEC 23894 bodo udeleženci pridobili vpogled v metodološki okvir, ki podpira kontinuiteto in učinkovitost procesa.

• Zahteve za dokumentacijo ocene vpliva sistemov UI

Zahteve za dokumentacijo vključujejo strukturirano razumevanje vseh informacij, ki morajo biti vključene v oceno vpliva. Udeleženci se bodo naučili, kako opredeliti obseg dokumenta, opisati funkcionalnosti in namen sistema UI ter identificirati tudi nenamerne načine uporabe. Podrobno bodo analizirani podatki – njihov izvor, kakovost in ustreznost za uporabo – z ustreznimi metodami dokumentiranja. Obravnavana bo analiza algoritmov in modelov, uporabljenih v sistemu, vključno s podatki o njihovem razvoju, strukturi in uporabi. Cilj tega dela tečaja je usposobiti udeležence za jasno, dosledno in pregledno dokumentiranje vseh tehničnih, funkcionalnih in vodstvenih vidikov sistemov UI, s čimer se zagotovi sledljivost odgovornosti in podpira upravljanje tveganj.

• Kontekst uporabe, deležniki in etični vplivi

Zaključni del je posvečen analizi zunanjega in notranjega konteksta, v katerem se sistem UI uporablja. Vključuje razumevanje geografskih, jezikovnih in infrastrukturnih značilnosti okolja implementacije ter identifikacijo vseh relevantnih deležnikov – od neposredno prizadetih do posrednih skupin. Poseben poudarek je na oceni koristi in škod, pri čemer se obravnavajo teme, kot so odgovornost, pravičnost, zasebnost, varnost, preglednost in vpliv na okolje. Nadalje se analizirajo možni scenariji neuspeha in zlorabe sistemov UI ter njihove posledice. Na koncu se bodo udeleženci naučili, kako opredeliti in dokumentirati ukrepe za zmanjšanje negativnih posledic ter za spodbujanje koristi. Ta del integrira vse predhodne vidike v celovito, uporabno oceno z etičnimi in družbenimi temelji.

Ciljna skupina

Delavnica je namenjena strokovnjakom za umetno inteligenco, vodjem projektov UI, članom ekip za skladnost in upravljanje tveganj, odgovornim osebam za etiko in družbeni vpliv tehnologije, pa tudi internim in zunanjim presojevalcem, ki ocenjujejo sisteme UI skladno z regulativnimi ali normativnimi zahtevami.

Način dela

• Skozi praktične primere in študije primerov bodo udeleženci spoznali, kako implementirati standard v svoji organizaciji.
• Maksimalno število udeležencev v skupini je 16, kar omogoča individualiziran pristop in kakovostno interakcijo s predavateljem.
• Poučevanje temelji na kombinaciji interaktivnih predavanj, analiz resničnih scenarijev, praktičnih delavnic in vodenih skupinskih razprav.
• Udeleženci bodo skozi strukturirane vaje razvijali sposobnosti za uporabo teoretičnega znanja v konkretnih kontekstih.
• Vsak modul vključuje aktivno izmenjavo izkušenj, uporabo dejanskih dokumentov in simulacije situacij, ki odražajo izzive iz prakse.
• Gradiva so usklajena z zahtevami standarda in obogatena s primeri dobre prakse.

Učni izidi

Udeleženci bodo:

• razložili namen in ključne korake procesa AIIA,
• identificirali zahteve standarda ISO/IEC 23894, ki so pomembne za organizacijo,
• strukturirali in dokumentirali vse elemente ocene vpliva sistemov UI,
• ocenili potencialne koristi, škode in etične vidike sistemov UI,
• uporabili smernice za vključevanje AIIA v obstoječe sisteme vodenja,
• opredelili odgovornosti in pragove za občutljivo in omejeno uporabo sistemov UI,
• pripravili in prilagodili dokumentacijo AIIA v skladu s praktičnimi primeri.

Po zaključku delavnice boste prejeli potrdilo o udeležbi.

Dodatne informacije: Bojan Varga, telefon: (01) 4778 108, e-pošta: bojan.varga@siq.si