Bir kliklik müalicə, bir səhvlik təhlükə

Süni intellektlə sağlamlıq nə qədər güvənlidir?

Bir zamanlar ağrı bizi həkimə aparırdı, bu gün isə telefona. Son illər həyatımızda səssiz, amma sürətli bir inqilab baş verir. Süni intellekt artıq yalnız texnologiya mütəxəssislərinin və ya elmi laboratoriyaların mövzusu deyil. O, evimizə, telefonumuza, gündəlik qərarlarımıza, hətta sağlamlığımıza qədər daxil olub. Vaxtilə həkimə getmək üçün günlərlə növbə gözləyən, simptomlarını yaxınlarına danışaraq çarə axtaran insanlar bu gün bir kliklə "xəstəliyinin" adını öyrənməyə çalışır. Ağrının səbəbi, müalicə üsulu, dərman adı- hamısı bir neçə saniyədə ekranda görünür. Düşünürəm ki, məhz bu sürət və əlçatanlıq süni intellekti həm cazibədar, həm də təhlükəli edir. Etiraf etmək lazımdır ki, süni intellektin sağlamlıq sahəsində yaratdığı imkanlar az deyil. O, məlumat verir, istiqamət göstərir, insanları maarifləndirir, bəzən panikanı azaldır. İnsanlar simptomlarını yazır, mümkün səbəbləri öyrənir, hansı halda həkimə müraciət etməli olduqlarını anlamağa çalışırlar. Məncə, düzgün və məsuliyyətli istifadə olunduqda bu, yaxşıdır. Amma problem də elə buradan başlayır. Çünki hər kəs süni intellekti yalnız məlumat mənbəyi kimi deyil, alternativ həkim, bəzən isə son qərar verən kimi qəbul edir. İnsanların bir qismi artıq analiz vermədən, mütəxəssisə müraciət etmədən, yalnız süni intellektin verdiyi cavaba əsaslanaraq qərar çıxarır. Bəzən "türkəçarə" üsullar sınanır, bəzən isə konkret dərman adları tətbiq edilir. "Bu dərmanı iç", "bu otu dəmlə", "bu əlamət təhlükəli deyil" kimi tövsiyələr insan üçün rahat səslənsə də, nəticəsi bəzən ağır olur. Düşünürəm ki, məhz bu mərhələdə süni intellekt köməkçi olmaqdan çıxıb risk faktoruna çevrilir. Süni intellekt insan deyil. O, ağrı hiss etmir. O, yalnız ona təqdim olunan məlumatlara və mövcud bazaya əsaslanaraq ehtimallar irəli sürür. Halbuki tibbdə bir detal belə həyati əhəmiyyət daşıya bilər. Eyni simptom iki fərqli insanda tamamilə başqa xəstəliklərin göstəricisi ola bilər. Məncə, süni intellektin ən böyük təhlükəsi də elə bu "ümumiləşdirmə" qabiliyyətidir.
Digər tərəfdən, məsuliyyət məsələsi də açıq qalır. Süni intellektin verdiyi səhv məsləhətə görə kim cavabdehdir? Proqramı yaradanmı, onu istifadə edənmi, yoxsa kor-koranə inanan insan özü? İnsanlar bəzən "internet belə dedi", "süni intellekt belə yazdı" arqumentini həkim rəyindən üstün tuturlar. 
Süni intellektlə sağlamlıq nə qədər güvənlidir? İnsanların öz xəstəlik əlamətlərini həkimə yox, süni intellektə danışması nə dərəcədə doğrudur? Süni intellekt tibbdə həkimi əvəz edən yox, həkimə köməkçi alət kimi qalmalıdırmı? Xəstələr bu sərhədi necə qorumalıdır? Bu kimi suallara cavab tapmaq üçün həkim-terapevt, tibb sahəsi üzrə ekspert tera Rasif Bağırov Olaylar.az-a açıqlama verib:

"Bu gün  insanlar həmişə işin asan yoluna əl atmağa çalışırlar. Yəni fikirləşirlər ki, həkimə getməkdənsə, süni intellektə deyim, o da mənə hər şeyi desin, müalicə olum və bir daha həkimə getməyə ehtiyac qalmasın. Düşünürlər ki, hər şey yaxşı olacaq. Amma məsələ ondadır ki, insanlar süni intellektlə sadəcə şifahi danışırlar, onun işləmə qabiliyyətini isə tam anlamırlar. Süni intellekt tamam başqa bir anlayışdır. Hətta bəzən həkimin özü xəstə olub süni intellektə müraciət edəndə çaşa bilir. Niyə görə? Çünki süni intellekt konkret olaraq hansı sualı verirsənsə, yalnız həmin sual ətrafında cavab verir. Yəni sən ona "bu nədir?", "bunu necə edim?" deyirsənsə, məhz o sahə üzrə cavab verir. Amma bəzən əlavə, köməkçi suallar verməyə başlayanda anlayırsan ki, əslində burada deyilməli olan başqa məqamlar da var imiş. Lakin süni intellekt onları demir. Çünki sən konkret hansı sualı verirsənsə, yalnız ona cavab verir. Digər tərəfdən, cavab verəndə qarşıya çoxlu məlumatlar qoyur. Sən həkim deyilsənsə, bu məlumatların hansının sənə uyğun olduğunu, hansından necə istifadə edəcəyini bilmirsən. Dərman adları sadalanır, müxtəlif variantlar göstərilir - "bundan ola bilər", "ondan ola bilər" deyilir. Amma sən yenə də sual verirsən ki, bəs mən necə müalicə oluna bilərəm? Çox vaxt görürsən ki, süni intellekt müalicə məsələsində konkret cavab vermir. Niyə görə? Çünki düşünür ki, bu insan həkim deyil, biz onu müayinə etməmişik, bilmirik orqanizmində nə var, nə yox. Əgər biz ona desək ki, filan dərmanı qəbul et, düzələcəksən, sabah problem yarana bilər. Ola bilər ki, müayinə zamanı elə bir vəziyyət üzə çıxsın ki, həmin dərmanı vermək mümkün olmasın və ya zərər versin. Ona görə də süni intellekt adətən müalicə mövzusunda insanı həkimə yönləndirir. Deyir ki, həkimə müraciət edin, müayinə olunsun, əgər deyilənlər təsdiqini tapsa, bu istiqamətdə addımlar atıla bilər. Amma konkret şəkildə "bu dərmanı et, sağalacaqsan" demir. Çünki müayinə etmədən xəstəyə diaqnoz qoymaq mümkün deyil.
Həkimlər müalicə zamanı xəstəni tam müayinə edirlər, baxırlar ki, hansı orqanına hansı dərman uyğundur. Çünki ola bilər ki, xəstənin özünün bilmədiyi bir problem olsun və verilən dərman həmin orqanı daha da ağırlaşdırsın. Buna görə də düşünürəm ki, süni intellekt hər şeyi bilən bir vasitə deyil. 
Ümumiyyətlə, bizim insanlar süni intellektdən istifadə qaydasını bilmirlər. Süni intellektdən düzgün istifadə belə olmalıdır ki, insan öz ixtisasını bildirir və həmin ixtisas üzrə hansı çatışmazlığı, hansı çətinliyi varsa, o sahə ilə bağlı sual verir. O zaman süni intellekt ən müasir məlumatları qarşıya qoyur və vəziyyəti izah edir. Bu zaman insan anlayır ki, harada səhv edib, nəyi düzgün etməyib və necə düzəltməlidir. Yəni süni intellektdən əsasən mütəxəssislər faydalana bilir. O sahəyə aid olmayan adam sual verəndə isə süni intellekt çox geniş məlumat vermir və əksər hallarda onu mütəxəssisə yönləndirir. Məsələn, elektriklə bağlı bir cihaz haqqında sual verirsən, amma özün elektrikçi deyilsənsə, süni intellekt sənə "bunu aç, orasını elə" kimi təhlükəli məsləhətlər verməyəcək. Çünki bilir ki, səni cərəyan vura bilər. Amma santexnika məsələsində təhlükə olmadığı üçün müəyyən sadə istiqamətlər göstərə bilər. Elə ki, riskli məqam yaranır, yenə mütəxəssisə müraciət etməyi tövsiyə edir.
Yəni süni intellektin yanaşması bu cürdür. İxtisasın o sahə deyilsə, onun verdiyi məsləhətlər sənə tam uyğun və qənaətbəxş olmayacaq. Xüsusilə də xəstəlik məsələlərində bu, ümumiyyətlə çox çətin və riskli bir mövzudur".
Süni intellekt sağlamlıqla bağlı cavabları hansı məlumatlara əsasən formalaşdırır və bu məlumatların hər zaman etibarlı olmasına zəmanət varmı? Bir istifadəçi süni intellektdən yanlış tibbi məlumat alıb zərər görərsə, texnoloji baxımdan məsuliyyət kimdədir - sistemdə, istifadəçidə, yoxsa platformada?
Mövzu ilə bağlı İnformasiya Texnologiyaları üzrə mühəndis-tədqiqatçı Bəhruz Əliyev Olaylar.az-a açıqlama verib:

" Süni intellekt (xüsusilə böyük dil modelləri) tibbi cavabları birbaşa real-vaxt tibbi bazalardan oxumadan, aşağıdakı mənbələrin statistik ümumiləşməsinə əsaslanaraq formalaşdırdığını düşünmək olar.
Elmi məqalələr və tibbi ədəbiyyat (açıq və icmal xarakterli)
Klinik təlimatlar (məsələn, WHO, CDC, NICE kimi qurumların açıq tövsiyələri)
Tibbi dərsliklər və maarifləndirici materiallar
Sağlamlıq mövzulu etibarlı veb resurslar
İnsan dilində yazılmış nümunə sual-cavablar
Süni intellekt həqiqəti yoxlamır, simptomları analiz edib diaqnoz qoymur, tibbi məsuliyyət daşımır. O, yalnız ehtimallara əsaslanan dil modeli kimi işləyir. Heç bir zamənət yoxdur. Çünki, tibbi bilik dinamikdir (dərmanlar, protokollar dəyişir), modellər yerli fərqləri (ölkə protokolları, genetik fərqlər, fərdi xəstəlik tarixçəsi) nəzərə ala bilmir, model səhv kontekstdə düzgün məlumatı yanlış tətbiq edə bilər, model inandırıcı səslənən, amma yanlış cavab yarada bilər.
Bir istifadəçi süni intellektdən yanlış tibbi məlumat alıb zərər görərsə, texnoloji baxımdan məsuliyyət kimdədir? sistemdə, istifadəçidə, yoxsa platformada?  Bu sual hazırda bütün dünyada açıq mübahisə mövzusudur, amma ümumi yanaşma belədir:
Texnoloji baxımdan
1. Platforma tərəfindən məlumatın maarifləndirici məqsəd daşıdığını açıq bildirməlidir. Tibbi xəbərdarlıqlar yerləşdirməlidir ("həkimi əvəz etmir" və s.) Riskli cavabları filtrləməli və yumşaltmalıdır. Platforma birbaşa tibbi məsuliyyət daşımır, amma təhlükəsizlik mexanizmlərinə cavabdehdir.
2. Sistem (modelin özü) hüquqi şəxs deyil, məsuliyyət daşıya bilməz.
3. İstifadəçi AI-ni həkim əvəzi kimi qəbul edirsə, tək mənbə kimi istifadə edirsə, tibbi qərarı müstəqil yoxlamadan tətbiq edirsə, riskin bir hissəsi istifadəçinin üzərində qalır. 
Hüquqi reallıq - Hazırda AI-nin verdiyi tibbi tövsiyə "peşəkar tibbi məsləhət" sayılmır. Məsuliyyət əsasən istifadəçi qərarının nəticəsi kimi qiymətləndirilir. Gələcəkdə AI-nin tibb sahəsində sertifikatlaşdırılması gündəmə gələ bilər.
Bəli, bu artıq texnologiyanın yanlış və təhlükəli istifadəsidir. Çünki həkim pasiyenti fiziki və laborator müayinədən keçirir. Riskləri ölçür, hüquqi və etik məsuliyyət daşıyır. Süni intellekt isə, bədəni görmür, analiz oxumur, təcili vəziyyəti tanımaya bilər, məsuliyyət daşımır.
AI-ni "həkim" kimi qəbul etmək, həyati risklərə səbəb ola bilər. Süni intellekt maarifləndirici köməkçi, sualları düzgün formalaşdırmağa yardımçı, həkimlə ünsiyyətə hazırlıq vasitəsi, sağlamlıq savadlılığını artıran alət olmalıdır. Süni intellekt tibbi məlumatları ümumiləşdirir, yoxlamır. Tam etibarlılıq zəmanəti yoxdur".
Süni intellekt sağlamlıq sahəsində faydalı məlumat və istiqamət verə bilsə də, həkimi əvəz etmir və edə bilməz. Onu müalicə vasitəsi kimi deyil, maarifləndirici və köməkçi alət kimi qəbul etdikdə təhlükəsizdir. Sağlamlıqda son qərar bir klikə yox, peşəkar müayinəyə və məsuliyyətli yanaşmaya söykənməlidir.

Zeynəb Mustafazadə