Sİ-DƏ “BİAS” (QƏRƏZ) NƏDİR?
Süni intellekt (Yapay zeka) sistemləri çox vaxt obyektiv və tərəfsiz (tarafsız) hesab olunur, lakin reallıqda onlar „qərəz“ (bias) adlanan ciddi bir problemlə üzləşirlər. Süni intellekt öz-özünə qərəzli olmur; o, öyrəndiyi məlumatlardakı (veri) insan qərəzlərini, stereotiplərini və bərabərsizliklərini kopyalayır. Bu, texnologiyanın ədalətli qərarlar verməsinə mane olan ən böyük etik maneələrdən biridir.
Qərəzin yaranma mənbələri
Süni intellektdə qərəz əsasən iki yolla yaranır: məlumat qərəzi və alqoritmik (algoritmik) qərəz. Əgər bir model yalnız müəyyən bir qrup insanın (məsələn, yalnız gənclərin və ya yalnız bir irqin) məlumatları üzərində təlim keçibsə, o, digər qrupları tanımaqda və ya onlar haqqında doğru qərar verməkdə çətinlik çəkəcək. Məsələn, üz tanıma sistemləri bəzən müəyyən etnik qrupları daha çətin tanıyır, çünki təlim bazasında həmin qruplara aid şəkillər azlıq təşkil edir. Bu, App Store və ya Play Store-dan yüklədiyiniz (indirdiğiniz) sadə filtrlərdən tutmuş, dövlət səviyyəli təhlükəsizlik sistemlərinə qədər hər yerdə özünü göstərə bilər.
Real həyatda qərəzin fəsadları
Qərəzli süni intellekt gündəlik həyatda diskriminasiyaya (ayrımcılık) səbəb ola bilər. Məsələn, işə qəbul zamanı süni intellekt keçmişdəki qeyri-bərabər statistikaları analiz edərək qadın namizədləri və ya müəyyən yaş qrupunu avtomatik kənarlaşdıra bilər. Bank sahəsində isə alqoritmlər yanlış məlumatlar əsasında bəzi insanlara kredit verməkdən imtina edə bilər. Azərbaycanda rəqəmsal (dijital) xidmətlər inkişaf etdikcə, yerli internet paketləri vasitəsilə istifadə etdiyimiz alqoritmlərin bizi dilimizə, bölgəmizə və ya cinsimizə görə qruplaşdırıb-qruplaşdırmadığına diqqət yetirməliyik.
Qərəzlə mübarizə yolları
Süni intellekti qərəzdən təmizləmək üçün „məlumat müxtəlifliyi“ (veri çeşitliliği) təmin edilməlidir. Proqram təminatçıları fərqli mədəniyyətlərdən, yaş qruplarından və sosial təbəqələrdən gələn məlumatları sistemə daxil etməli, alqoritmləri mütəmadi olaraq auditdən keçirməlidirlər. İstifadəçilər kimi biz də süni intellektin verdiyi cavablara hər zaman mütləq həqiqət kimi baxmamalı, onun müəyyən stereotipləri (kalıplaşmış yargı) təkrar edib-etmədiyini analiz etməliyik. Ədalətli texnologiya yalnız şüurlu istifadəçi və məsuliyyətli proqramçı əməkdaşlığı ilə mümkündür.
Müəllifin fikri: Maşınlar bizi mühakimə etmir, onlar sadəcə bizim özümüzə olan tərəfkeşliyimizi bizə geri qaytarırlar.
Praktik tapşırıq: İstifadə etdiyiniz bir şəkil yaratma tətbiqinə „Uğurlu iş adamı“ və ya „Həkim“ yazaraq bir neçə şəkil yaradın. Şəkillərdə cinsiyyət, yaş və irq paylanmasına baxın. Süni intellektin bu peşələr haqqında hansısa stereotipi (şablonu) təkrar edib-etmədiyini müəyyənləşdirin.