AI жүйесі жақсы техникалық метрикаларды көрсете отырып, бір мезгілде клиенттер, қызметкерлер немесе бизнес үшін тәуекелдер тудыруы мүмкін. Мысалы, кредиттік скоринг өтінімдерді өңдеуді жылдамдатады, бірақ клиенттердің белгілі бір тобына жиірек бас тартуы мүмкін. Сондықтан модельдің дәлдігін ғана емес, оны қолданудың салдарын да бағалау маңызды.
ISO/IEC 42005:2025 AI жүйесінің адамдарға, топтарға және қоғамға әсерін бағалау тәсілін ұсынады. ISO/IEC 42001 жасанды интеллект менеджменті жүйесін құруға және ұйым деңгейінде AI басқаруға көмектеседі.
ISO/IEC 42005 және ISO/IEC 42001: айырмашылығы неде
ISO/IEC 42005 нақты AI жүйесін бағалауға көмектеседі: оның кімдерге әсер ететінін, қандай оң және теріс салдарлар болуы мүмкін екенін, олардың қаншалықты маңызды екенін және қандай бақылау шаралары қажет екенін анықтауға мүмкіндік береді.
ISO/IEC 42001 рөлдерге, жауапкершілікке, тәуекелдерге, бақылау шараларына, мониторингке және жетілдіруге қойылатын талаптарды белгілейді. Қарапайым тілмен айтқанда, ISO/IEC 42005 «бұл жүйе қандай әсер етуі мүмкін?» деген сұраққа жауап береді, ал ISO 42001 — «ұйым бұл әсерді жүйелі түрде қалай басқарады?» деген сұраққа жауап береді.
AI жүйесінің әсерін қалай бағалауға болады
Бағалауды AI жүйесін іске қоспас бұрын жүргізген жөн, содан кейін модельге, деректерге немесе оның қолданылу мақсатына елеулі өзгерістер енгізілген сайын қайталап отыру қажет. Бұл әсіресе банктер, финтех, медицина, мемлекеттік сервистер, телеком және e-commerce салалары үшін маңызды, өйткені алгоритм ақшаға, денсаулыққа, құқықтарға немесе қызметтерге қол жеткізуге әсер етуі мүмкін.
Практикалық процесті мынадай түрде құруға болады:
- AI жүйесінің мақсатын, шекараларын, пайдаланушыларын және қолданылу контекстін сипаттау;
- мүдделі тараптарды анықтау: клиенттерді, қызметкерлерді, азаматтарды және серіктестерді;
- құпиялылық пен кемсітушілікті қоса алғанда, ықтимал қаржылық, құқықтық, беделдік және әлеуметтік салдарды анықтау;
- ықпал ету ықтималдығы мен салдарының ауырлығын, соның ішінде жүйені қате пайдалану жағдайларын бағалау;
- бақылау шараларын анықтау: human-in-the-loop, автоматтандыруды шектеу, тестілеу, журнал жүргізу және мониторинг;
- нәтижелерді, жауапты тұлғаларды және қайта бағалау шарттарын тіркеу.
Assessment процесін тек «есеп үшін» толтырылатын сауалнамаға айналдырмау маңызды. Нәтиже өнімге нақты әсер етуі тиіс: деректерді өзгертуге, қосымша тестілеуге, шешімді адамның растауына немесе қолдану сценарийін шектеуге алып келуі керек.
Мысал: кредиттік скорингтегі AI
Финтех-сервис кредиттік өтінімді автоматты түрде бағалайды. Мұнда тек техникалық дәлдік жеткіліксіз. Клиенттердің белгілі бір тобы жүйелі түрде нашар нәтиже алып жүр ме, бас тарту себебін түсіндіруге бола ма, қате деректер болған жағдайда не болады және алгоритм шешімін қайта қарауға кімнің құқығы бар — осының бәрін тексеру қажет.
Толыққанды AI governance үшін мұндай тексеруді тек іске қосу алдында жүргізу жеткіліксіз. Процесс иесі, мониторинг, тестілеу дәлелдері және модель немесе деректер өзгергеннен кейін қайта бағалау қажет. Осы жерде ISO/IEC 42005 жүйесін табиғи түрде толықтырады ISO/IEC 42001 бойынша менеджмент.
ISO/IEC 42005 және ISO 42001 стандарттарын не үшін біріктіру керек
Қазақстан, Өзбекстан, Грузия және Қырғызстан компаниялары үшін осы екі тәсілді біріктіру тапсырыс берушілердің сұрақтарына сенімдірек жауап беруге, AI өнімдерін іске қосу кезіндегі белгісіздікті азайтуға және шешімдердің белгіленген ережелер бойынша қабылданатынын көрсетуге көмектеседі.
Егер AI құпия немесе дербес деректермен жұмыс істесе, оны басқаруды ISO/IEC 27001тәжірибелерімен байланыстыру орынды. Бұл процестер деректер, қолжетімділік құқықтары және инциденттер мәселелерінде өзара тоғысады.
ISO/IEC 42005 әсерді талдауға арналған құрал ұсынады, ал ISO/IEC 42001 бұл талдауды қайталанатын басқару процесіне айналдырады. Бұл «біздің модель жұмыс істей ме?» деген сұрақтан анағұрлым жетілген «біз оның әсерін түсінеміз бе және оны басқара аламыз ба?» деген сұраққа көшу.
Егер ұйым AI жүйесін маңызды процестерде қолданып жүрсе, практикалық алғашқы қадам — бір жүйеге пилоттық бағалау жүргізу, олқылықтарды анықтау және осы негізде жасанды интеллект менеджменті жүйесін құру. ТМД елдеріндегі «Систем Менеджмент» компаниясы бағалау нәтижелерін ISO/IEC 42001 талаптарымен байланыстыруға және процестерді аудит пен сертификаттауға дайындауға көмектесе алады.