AI tizimi yaxshi texnik ko‘rsatkichlarni namoyish qilishi va shu bilan birga mijozlar, xodimlar yoki biznes uchun xavflarni yuzaga keltirishi mumkin. Masalan, kredit skoringi arizalarni ko‘rib chiqishni tezlashtiradi, biroq ayrim mijozlar guruhiga ko‘proq rad javobini berishi mumkin. Shu sababli nafaqat modelning aniqligini, balki undan foydalanish oqibatlarini ham baholash muhim.
ISO/IEC 42005:2025 AI tizimining insonlar, guruhlar va jamiyatga ta’sirini baholash yondashuvini taklif etadi. ISO/IEC 42001 esa sun’iy intellektni boshqarish tizimini yaratish va AI’dan tashkilot darajasida foydalanishni boshqarishga yordam beradi.
ISO/IEC 42005 va ISO/IEC 42001: farqi nimada
ISO/IEC 42005 muayyan AI tizimini baholashga yordam beradi: u kimlarga ta’sir qilishini, qanday ijobiy va salbiy oqibatlar yuzaga kelishi mumkinligini, ularning qanchalik ahamiyatli ekanini va qanday nazorat choralari zarurligini aniqlash imkonini beradi.
ISO/IEC 42001 rollar, javobgarlik, xavflar, nazorat choralari, monitoring va takomillashtirish bo‘yicha talablarni belgilaydi. Sodda qilib aytganda, ISO/IEC 42005 “ushbu tizim qanday ta’sir ko‘rsatishi mumkin?” degan savolga javob beradi, ISO 42001 esa “tashkilot bu ta’sirni qanday qilib tizimli ravishda boshqaradi?” degan savolga javob beradi.
AI tizimining ta’sirini qanday baholash kerak
Baholashni AI tizimi ishga tushirilishidan oldin o‘tkazish, keyinchalik esa model, ma’lumotlar yoki uning qo‘llanish maqsadida sezilarli o‘zgarishlar bo‘lganda takrorlash kerak. Bu ayniqsa banklar, fintech, tibbiyot, davlat xizmatlari, telekom va e-commerce sohalari uchun muhim, chunki algoritm pul, sog‘liq, huquqlar yoki xizmatlardan foydalanish imkoniyatiga ta’sir qilishi mumkin.
Amaliy jarayonni quyidagicha tashkil etish mumkin:
- AI tizimining maqsadi, chegaralari, foydalanuvchilari va qo‘llanish kontekstini tavsiflash;
- manfaatdor tomonlarni aniqlash: mijozlar, xodimlar, fuqarolar va hamkorlar;
- moliyaviy, huquqiy, reputatsion va ijtimoiy oqibatlarni, jumladan maxfiylik va diskriminatsiya xavflarini aniqlash;
- ta’sirlarning ehtimoli va jiddiyligini, shu jumladan tizim noto‘g‘ri qo‘llanganda yuzaga kelishi mumkin bo‘lgan oqibatlarni baholash;
- nazorat choralarini belgilash: human-in-the-loop, avtomatlashtirishni cheklash, testlash, log yuritish va monitoring;
- natijalar, mas’ullar va qayta baholash shartlarini hujjatlashtirish.
Assessment jarayonini shunchaki “belgi qo‘yish uchun” to‘ldiriladigan anketaga aylantirib yubormaslik muhim. Natija mahsulotga real ta’sir ko‘rsatishi kerak: ma’lumotlarni o‘zgartirish, qo‘shimcha testlash, qarorni inson tomonidan tasdiqlash yoki qo‘llash ssenariysini cheklashga olib kelishi lozim.
Misol: kredit skoringida AI
Fintech xizmati kredit arizasini avtomatik ravishda baholaydi. Faqat texnik aniqlikning o‘zi yetarli emas. Muayyan mijozlar guruhi muntazam ravishda yomonroq natija olayaptimi, rad etish sababini tushuntirish mumkinmi, noto‘g‘ri ma’lumotlar bo‘lsa nima yuz beradi va algoritm qarorini kim qayta ko‘rib chiqish huquqiga ega — bularning barchasini tekshirish kerak.
To‘liq AI governance uchun bunday tekshiruvni faqat tizim ishga tushirilishidan oldin o‘tkazish yetarli emas. Jarayon egasi, monitoring, testlash dalillari va model yoki ma’lumotlar o‘zgarganidan keyin qayta baholash zarur. Shu jihatdan ISO/IEC 42005 tabiiy ravishda to‘ldiradi ISO/IEC 42001 bo‘yicha boshqaruv tizimini.
Nima uchun ISO/IEC 42005 va ISO 42001 ni birlashtirish kerak
Qozog‘iston, O‘zbekiston, Gruziya va Qirg‘iziston kompaniyalari uchun ushbu ikki yondashuvni birlashtirish buyurtmachilarning savollariga ishonchliroq javob berish, AI mahsulotlarini ishga tushirishdagi noaniqlikni kamaytirish va qarorlar belgilangan qoidalar asosida qabul qilinishini ko‘rsatishga yordam beradi.
Agar AI maxfiy yoki shaxsiy ma’lumotlar bilan ishlasa, uni boshqarishni ISO/IEC 27001amaliyotlari bilan bog‘lash mantiqan to‘g‘ri bo‘ladi. Ushbu jarayonlar ma’lumotlar, kirish huquqlari va insidentlarni boshqarish masalalarida o‘zaro kesishadi.
ISO/IEC 42005 ta’sirni tahlil qilish vositasini beradi, ISO/IEC 42001 esa ushbu tahlilni takrorlanuvchi boshqaruv jarayoniga aylantiradi. Bu “bizning modelimiz ishlayaptimi?” degan savoldan yanada yetukroq “biz uning ta’sirini tushunamizmi va uni boshqara olamizmi?” degan savolga o‘tishdir.
Agar tashkilot AI’dan muhim jarayonlarda allaqachon foydalanayotgan bo‘lsa, amaliy birinchi qadam — bitta tizim bo‘yicha pilot baholash o‘tkazish, mavjud bo‘shliqlarni aniqlash va shu asosda sun’iy intellektni boshqarish tizimini shakllantirishdir. MDH mamlakatlarida “System Management” mutaxassislari baholash natijalarini ISO/IEC 42001 talablariga bog‘lash hamda jarayonlarni audit va sertifikatsiyaga tayyorlashda yordam berishi mumkin.