Nazaj na seznam storitev

Etika in družbena sprejemljivost umetne inteligence

02. 12. 2025
Vsebina je 5. dan usposabljanja: Skrbnik za upravljanje umetne inteligence | AI Manager

 

Etika in družbena sprejemljivost umetne inteligence (UI) sta ključna vidika, ki vplivata na razvoj in uporabo tehnologij UI. Sistemi UI imajo velik potencial za pozitivne spremembe, vendar prinašajo tudi etične in družbene izzive, ki jih je treba ustrezno obravnavati. Uporaba UI mora biti skladna z etičnimi načeli, ki zagotavljajo pravičnost, preglednost, odgovornost in spoštovanje človekovih pravic. Organizacije morajo zagotoviti, da njihovi sistemi UI ne povzročajo pristranskih ali diskriminatornih rezultatov ter da spoštujejo zasebnost in avtonomijo uporabnikov. Standard ISO/IEC 24368:2023 (Informacijska tehnologija – Umetna inteligenca – Etični in družbeni vidiki) ponuja smernice za zagotavljanje, da razvoj in uporaba tehnologij UI potekata v skladu z etičnimi načeli in družbeno sprejemljivimi standardi.

Namen

Program ponuja poglobljeno razumevanje etičnih vprašanj in družbenih vidikov uporabe UI v skladu s standardom ISO/IEC 24368:2023. Cilj programa je opremiti udeležence s potrebnimi znanji in orodji za prepoznavanje in obvladovanje etičnih izzivov, ki izhajajo iz uporabe tehnologij UI. Udeleženci se bodo naučili, kako razviti in implementirati politike, ki zagotavljajo etično in družbeno sprejemljivo uporabo UI, ter kako zagotoviti preglednost in odgovornost v delovanju sistemov UI. Program poudarja pomen vključevanja etičnih načel v vse faze razvoja in uporabe UI, s čimer se zagotavlja, da sistemi UI podpirajo človeško avtonomijo in sprejemanje odločitev, namesto da jih omejujejo.
 

Vsebina

  • Standard ISO/IEC 24368:2023
  • Tveganja, povezana z zasebnostjo podatkov
  • Preprečevanje pristranskosti v algoritmih UI
  • Preglednost sistemov UI
  • Podpora človeški avtonomiji in odločanju
  • Okvir za odgovornost

Delavnica se ukvarja z etičnimi vprašanji in družbenimi vidiki uporabe UI v skladu s standardom ISO/IEC 24368:2023 (Informacijska tehnologija – Umetna inteligenca – Etični in družbeni vidiki). Ta standard ponuja smernice za zagotavljanje, da razvoj in uporaba tehnologij UI potekata v skladu z etičnimi načeli in družbeno sprejemljivimi standardi.
Delavnica pokriva teme, povezane z etiko in družbeno sprejemljivostjo sistemov UI. Analizira tveganja, povezana z zasebnostjo podatkov, in načine zaščite uporabniških podatkov, identificira in zmanjšuje pristranskost v algoritmih UI, da se zagotovi pravičnost in nepristranskost rezultatov. Delavnica ponuja smernice za preglednost, zagotavljajoč, da uporabniki in druge zainteresirane strani razumejo, kako sistemi UI sprejemajo odločitve. Prav tako se ukvarja z zagotavljanjem, da sistemi UI podpirajo človeško avtonomijo in sprejemanje odločitev, namesto da jih omejujejo, ter opredeljuje odgovornost za odločitve, sprejete s strani sistemov UI, zagotavljajoč jasen okvir za odgovornost.
Delavnica je zasnovana na primerih iz prakse, ki prikazujejo, kako različne organizacije uporabljajo etična načela v svojih projektih UI. Udeleženci bodo imeli priložnost analizirati študije primerov in razpravljati o najboljših praksah za zagotavljanje etične in družbeno sprejemljive uporabe tehnologij UI.

Seznam literature

  • ISO/IEC 24368:2023 – Umetna inteligenca – Etični in družbeni vidiki
  • NIST AI Risk Management Framework – Nacionalni inštitut za standarde in tehnologijo ZDA
  • EU AI Act – Uredba Evropske unije o umetni inteligenci 

Način dela

  • Program vključuje predavanja, praktične vaje, študije primerov, diskusije in delavnice.
  • Skozi predavanja, praktične vaje in študije primerov bodo udeleženci pridobili razumevanje etičnih izzivov in družbenih implikacij tehnologij UI ter se izobrazili za uporabo sistemov UI, ki so etični, pregledni in družbeno sprejemljivi.

Učni izidi

Udeleženci bodo:

  • razumeli in znali uporabljati standard ISO/IEC 24368:2023,
  • znali analizirati tveganja, povezana z zasebnostjo in pristranskostjo,
  • zagotavljali preglednost sistemov UI,
  • podpirali človeško avtonomijo in odgovornost za odločitve.

Udeležbo priporočamo

  • strokovnjakom za umetno inteligenco;
  • etikom;
  • regulatorjem;
  • IT- menedžerjem;
  • vsem, ki so odgovorni za etično uporabo UI.
Po zaključku delavnice boste prejeli potrdilo o udeležbi.

Lokacija izvedbe: SIQ Ljubljana, Mašera-Spasićeva ulica 10, 1000 Ljubljana.

Dodatne informacije: Bojan Varga, telefon: (01) 4778 108, e-pošta: bojan.varga@siq.si 

Obveščanje o izobraževanjih

Bodite pravočasno obveščeni o aktualnih izobraževanjih in brezplačnih dogodkih.

Cenimo in nagrajujemo vašo zvestobo

Zato uvajamo Bonus zvestobe za nagrajevanje naših zvestih udeležencev.

Več o bonusu zvestobe