Süni intellekt (AI) sistemi yaxşı texniki göstəricilər nümayiş etdirə bilər, lakin eyni zamanda müştərilər, əməkdaşlar və ya biznes üçün risklər yarada bilər. Məsələn, kredit skorinqi müraciətlərin emalını sürətləndirir, lakin müəyyən müştəri qrupuna daha tez-tez imtina qərarı verir. Buna görə də yalnız modelin dəqiqliyini deyil, həm də onun tətbiqinin nəticələrini qiymətləndirmək vacibdir.
ISO/IEC 42005:2025 standartı süni intellekt sisteminin fərdlərə, qruplara və cəmiyyətə təsirinin qiymətləndirilməsi üçün yanaşma təqdim edir. ISO/IEC 42001 isə süni intellekt idarəetmə sisteminin qurulmasına və təşkilat səviyyəsində AI-nin idarə olunmasına kömək edir.
ISO/IEC 42005 və ISO/IEC 42001: aralarındakı fərq nədir
ISO/IEC 42005 konkret süni intellekt sistemini qiymətləndirməyə kömək edir: sistemin kimlərə təsir etdiyini, hansı müsbət və mənfi nəticələrin yarana biləcəyini, onların nə dərəcədə əhəmiyyətli olduğunu və hansı nəzarət tədbirlərinin tələb edildiyini müəyyənləşdirir.
ISO/IEC 42001 rollar, məsuliyyətlər, risklər, nəzarət tədbirləri, monitorinq və təkmilləşdirmələrlə bağlı tələbləri müəyyən edir. Sadə dillə desək, ISO/IEC 42005 “Bu sistem hansı təsirləri yarada bilər?” sualına, ISO 42001 isə “Təşkilat bu təsirləri sistemli şəkildə necə idarə edəcək?” sualına cavab verir.
Süni intellekt sisteminin təsirini necə qiymətləndirmək olar
Qiymətləndirməni sistem istifadəyə verilməzdən əvvəl aparmaq, daha sonra isə modeldə, məlumatlarda və ya istifadə məqsədində əhəmiyyətli dəyişikliklər baş verdikdə təkrarlamaq tövsiyə olunur. Bu, xüsusilə banklar, fintex şirkətləri, səhiyyə müəssisələri, dövlət xidmətləri, telekommunikasiya və elektron ticarət (e-commerce) sahələri üçün vacibdir. Çünki bu sahələrdə alqoritmlər maliyyə vəsaitlərinə, sağlamlığa, hüquqlara və ya xidmətlərə çıxış imkanlarına təsir göstərə bilər.
Praktiki qiymətləndirmə prosesini aşağıdakı şəkildə təşkil etmək olar:
- AI sisteminin təyinatını, əhatə dairəsini, istifadəçilərini və tətbiq kontekstini təsvir etmək;
- maraqlı tərəfləri müəyyənləşdirmək: müştərilər, əməkdaşlar, vətəndaşlar və tərəfdaşlar;
- məxfilik və ayrı-seçkilik riskləri də daxil olmaqla, mümkün maliyyə, hüquqi, reputasiya və sosial nəticələri aşkar etmək;
- sistemdən yanlış istifadə halları da daxil olmaqla, təsirlərin başvermə ehtimalını və ciddilik dərəcəsini qiymətləndirmək;
- nəzarət tədbirlərini müəyyənləşdirmək: insanın qərarvermə prosesində iştirakı (human-in-the-loop), avtomatlaşdırmanın məhdudlaşdırılması, testləşdirmə, hadisələrin jurnallaşdırılması və monitorinq;
- nəticələri, məsul şəxsləri və təkrar qiymətləndirmənin aparılması şərtlərini sənədləşdirmək.
Qiymətləndirməni (assessment) yalnız formal tələbi yerinə yetirmək üçün doldurulan anketə çevirməmək vacibdir. Nəticələr məhsula real təsir göstərməlidir: məlumatların dəyişdirilməsinə, əlavə testlərin keçirilməsinə, qərarın insan tərəfindən təsdiqlənməsinə və ya sistemin istifadə ssenarilərinin məhdudlaşdırılmasına səbəb olmalıdır.
Nümunə: Kredit skorinqində süni intellekt (AI)
Fintex xidməti kredit müraciətini avtomatik olaraq qiymətləndirir. Yalnız texniki dəqiqlik kifayət deyil. Müəyyən müştəri qrupunun sistematik olaraq daha pis nəticə ilə üzləşib-üzləşmədiyini, imtina qərarının izah edilməsinin mümkün olub-olmadığını, səhv məlumatlar olduqda nə baş verdiyini və alqoritmin qərarına kimin yenidən baxmaq səlahiyyətinin olduğunu yoxlamaq lazımdır.
Süni intellektin tam və effektiv idarə edilməsi (AI governance) üçün belə yoxlamanı yalnız sistem istifadəyə verilməzdən əvvəl aparmaq kifayət deyil. Prosesə məsul şəxs, monitorinq, test nəticələrini təsdiqləyən sübutlar və modeldə və ya məlumatlarda dəyişiklik edildikdən sonra təkrar qiymətləndirmə tələb olunur. Bu baxımdan ISO/IEC 42005 təbii şəkildə tamamlayır ISO/IEC 42001 üzrə idarəetmə sistemini.
ISO/IEC 42005 və ISO 42001 standartlarını niyə birləşdirmək lazımdır
Qazaxıstan, Özbəkistan, Gürcüstan və Qırğızıstandakı şirkətlər üçün bu iki yanaşmanın birləşdirilməsi müştərilərin suallarına daha inamlı cavab verməyə, AI məhsullarının istifadəyə verilməsi zamanı qeyri-müəyyənliyi azaltmağa və qərarların müəyyən edilmiş qaydalara əsasən qəbul edildiyini nümayiş etdirməyə kömək edir.
Əgər süni intellekt məxfi və ya fərdi məlumatlarla işləyirsə, onun idarə edilməsini ISO/IEC 27001standartının tətbiqi təcrübələri ilə əlaqələndirmək məqsədəuyğundur. Bu proseslər məlumatların idarə edilməsi, giriş hüquqları və insidentlərlə bağlı məsələlərdə bir-biri ilə kəsişir.
ISO/IEC 42005 təsirlərin təhlili üçün alət təqdim edir, ISO/IEC 42001 isə bu təhlili müntəzəm olaraq təkrarlanan idarəetmə prosesinə çevirir. Bu, “Modelimiz işləyirmi?” sualından daha yetkin yanaşmaya keçid deməkdir: “Biz onun təsirlərini başa düşürük və onları idarə edə bilirikmi?”.
Əgər təşkilat artıq mühüm proseslərdə süni intellektdən istifadə edirsə, ilk praktik addım bir sistemin pilot qiymətləndirilməsini aparmaq, mövcud boşluqları müəyyənləşdirmək və bu əsasda süni intellekt idarəetmə sistemini qurmaqdır. MDB ölkələrində fəaliyyət göstərən «Sistem Menecment» şirkəti qiymətləndirmə nəticələrini ISO/IEC 42001 tələbləri ilə əlaqələndirməyə və prosesləri audit və sertifikatlaşdırmaya hazırlamağa kömək edə bilər.
