İçeriğe geç

ISO/IEC 42005 we ISO 42001: emeli aň ulgamynyň adamlara we işewürlige ýetirýän täsirine nähili baha bermeli

ISO/IEC 42005 we ISO 42001 — emeli aň ulgamlarynyň täsirine baha bermek

Emeli aň ulgamy gowy tehniki görkezijileri görkezip, şol bir wagtyň özünde müşderiler, işgärler ýa-da işewürlik üçin töwekgelçilikleri döredip biler. Mysal üçin, karz skoringi arzalaryň işlenip taýýarlanylmagyny çaltlaşdyrýar, ýöne müşderileriň belli bir toparyna karz bermekden has ýygy ýüz öwürýär. Şonuň üçin diňe bir modeliň takyklygyna däl, eýsem ony ulanmagyň netijelerine hem baha bermek möhümdir.

ISO/IEC 42005:2025 emeli aň ulgamynyň adamlara, toparlara we jemgyýete ýetirýän täsirine baha bermek üçin çemeleşmäni hödürleýär. ISO/IEC 42001 bolsa emeli aňy dolandyrmak ulgamyny döretmäge we gurama derejesinde emeli aň tehnologiýalaryny dolandyrmaga kömek edýär.

ISO/IEC 42005 we ISO/IEC 42001: olaryň arasynda nähili tapawut bar

ISO/IEC 42005 anyk bir emeli aň ulgamyna baha bermäge kömek edýär: ulgamyň kimlere täsir edýändigini, nähili oňyn we ýaramaz netijeleriň ýüze çykyp biljekdigini, olaryň nähili derejede ähmiýetlidigini we haýsy gözegçilik çäreleriniň zerurdygyny kesgitlemäge mümkinçilik berýär.

ISO/IEC 42001 wezipelere, jogapkärçilige, töwekgelçiliklere, gözegçilik çärelerine, monitoringe we kämilleşdiriş işlerine bildirilýän talaplary kesgitleýär. Ýönekeý sözler bilen aýdylanda, ISO/IEC 42005 «bu ulgam nähili täsir ýetirip biler?» diýen soraga jogap berýär, ISO 42001 bolsa «gurama bu täsiri ulgamlaýyn görnüşde nähili dolandyrar?» diýen soraga jogap berýär.

Emeli aň ulgamynyň täsirine nähili baha bermeli

Emeli aň ulgamynyň täsirine nähili baha bermeliBahalandyryşy emeli aň ulgamy işe girizilmezden öň geçirmek, soňra bolsa modelde, maglumatlarda ýa-da ulgamyň niýetlenen maksadynda düýpli üýtgeşmeler bolanda gaýtalamak maslahat berilýär. Bu, esasanam, banklar, maliýe tehnologiýalary (fintech), lukmançylyk, döwlet hyzmatlary, telekommunikasiýa we elektron söwda (e-commerce) pudaklary üçin möhümdir. Sebäbi bu ugurlarda algoritmler maliýe serişdelerine, saglyga, hukuklara ýa-da hyzmatlardan peýdalanmak mümkinçiliklerine täsir edip biler.

Amaly bahalandyryş işini aşakdaky tertipde guramak mümkin:

  • emeli aň ulgamynyň maksadyny, ulanylyş çäklerini, ulanyjylaryny we ulanylyş şertlerini beýan etmek;
  • gyzyklanýan taraplary kesgitlemek: müşderiler, işgärler, raýatlar we hyzmatdaşlar;
  • şahsy durmuşyň eldegrilmesizligi we diskriminasiýa bilen bagly meseleleri hem öz içine alýan mümkin bolan maliýe, hukuk, abraý we jemgyýetçilik netijelerini ýüze çykarmak;
  • täsirleriň ýüze çykmak ähtimallygyna we agyrlyk derejesine, şol sanda ulgam nädogry ulanylanda ýüze çykyp biljek netijelere baha bermek;
  • gözegçilik çärelerini kesgitlemek: adamyň karar kabul etmek işine gatnaşmagy (human-in-the-loop), awtomatlaşdyrmany çäklendirmek, synagdan geçirmek, amallary hasaba almak (žurnallaşdyrmak) we monitoring;
  • bahalandyryşyň netijelerini, jogapkär şahslary we gaýtadan bahalandyryş geçirmegiň şertlerini resmileşdirmek.

Bahalandyryşy (assessment) diňe resmi talaby ýerine ýetirmek üçin doldurylýan anketa öwürmezlik möhümdir. Onuň netijeleri önümiň ösüşine we işleýşine gönüden-göni täsir etmelidir: maglumatlaryň üýtgedilmegine, goşmaça synaglaryň geçirilmegine, kararlaryň adam tarapyndan tassyklanmagyna ýa-da ulgamyň ulanylyş ssenariýleriniň çäklendirilmegine getirmelidir.

Mysal: karz skoringinde emeli aňyň ulanylmagy

Fintech hyzmaty karz almak üçin berlen arzany awtomatiki usulda bahalandyrýar. Diňe tehniki takyklyk ýeterlik däldir. Müşderileriň belli bir toparynyň yzygiderli has ýaramaz netijeleri almaýandygyny, karz bermekden ýüz öwürmegiň sebäbini düşündirip bolýandygyny, nädogry maglumatlar ulanylanda nämeleriň bolup geçýändigini we algoritmiň kabul eden kararyna kimiň gaýtadan seretmäge hukugynyň bardygyny barlamak zerurdyr.

Emeli aňy doly derejede dolandyrmak (AI governance) üçin şeýle barlagy diňe ulgam işe girizilmezden öň geçirmek ýeterlik däldir. Bu iş üçin jogapkär şahs, yzygiderli monitoring, geçirilen synaglaryň subutnamalary we model ýa-da maglumatlar üýtgedilenden soň gaýtadan bahalandyryş zerurdyr. Bu ýerde ISO/IEC 42005 tebigy ýagdaýda ISO/IEC 42001 üstüni ýetirýär.

ISO/IEC 42005 we ISO 42001 standartlaryny näme üçin utgaşdyrmaly

Gazagystanyň, Özbegistanyň, Gruziýanyň we Gyrgyzystanyň kompaniýalary üçin bu iki çemeleşmäniň utgaşdyrylmagy müşderileriň soraglaryna has ynamly jogap bermäge, emeli aň önümleri işe girizilende näbellilikleri azaltmaga we kararlaryň bellenilen düzgünlere laýyklykda kabul edilýändigini görkezmäge kömek edýär.

Eger emeli aň gizlin ýa-da şahsy maglumatlar bilen işleýän bolsa, ony dolandyrmagy ISO/IEC 27001standartynyň tejribeleri bilen baglanyşdyrmak maksadalaýykdyr. Bu prosesler maglumatlary goramak, elýeterliligi dolandyrmak we howpsuzlyk hadysalaryna garşy çäre görmek meselelerinde biri-biri bilen baglanyşyklydyr.

ISO/IEC 42005 täsirleri seljermek üçin gurallary hödürleýär, ISO/IEC 42001 bolsa bu seljermäni yzygiderli gaýtalanyp bilinýän dolandyryş prosesine öwürýär. Bu «biziň modelimiz işleýärmi?» diýen soragdan has kämil derejedäki «biz onuň täsirine düşünýärismi we ony dolandyryp bilýärismi?» diýen soraga geçmegi aňladýar.

Eger gurama eýýäm möhüm iş proseslerinde emeli aňy ulanýan bolsa, ilkinji amaly ädim hökmünde bir ulgamyň täsirine synaglaýyn baha bermek, kemçilikleri ýüze çykarmak we şol netijeleriň esasynda emeli aňy dolandyrmak ulgamyny döretmek maslahat berilýär. GDA ýurtlarynda «Sistem Menedžment» kompaniýasy bahalandyryşyň netijelerini ISO/IEC 42001 standartynyň talaplary bilen utgaşdyrmaga, şeýle hem prosesleri audit we sertifikatlaşdyrma taýýarlamaga kömek edip biler.

TR