Çat-botları yaltaqlıqdan necə uzaqlaşdırmaq olar?

2025-ci ilin yayında OpenAI ChatGPT 5-i təqdim etdi və onun əvvəlki versiyasını bazardan çıxardı. Köhnə modelin bir çox abunəçisi onun isti, mehriban tonuna bağlanmışdı və cazibədar robot yoldaşını itirdiklərinə görə narazılıq edirdi. Narazılığın miqyası o qədər böyük oldu ki, OpenAI-nin baş direktoru Sem Altman təqdimatın uğursuz alındığını etiraf etməli oldu və şirkət əvvəlki modelə çıxışı bərpa etdi.
Çat-botun ona ideyalarının dahiyanə olduğunu dediyi hər kəs süni intellektin yaltaqlığı ilə tanışdır. Bu, istifadəçilərə eşitmək istədiklərini demək meylidir. Bəzən bu, çox açıq formada görünür: "Bu, çox dərin sualdır". Bəzən isə xeyli daha incə olur. Təsəvvür edin ki, süni intellekt sizin məqalə ideyanızı "orijinal" adlandırır, halbuki eyni mövzuda artıq çoxları yazıb. Yaxud bağdakı ağacı xilas etmək üçün irəli sürdüyünüz mənasız fikirdə belə müəyyən sağlam məntiq olduğunu israrla bildirir.
Süni intellektin yaltaqlığı, ilk baxışda, zərərsiz, hətta xoş görünə bilər. Amma kimsə çat-botla hərbi strategiya və ya müalicə üsulu kimi mühüm məsələ barədə məsləhətləşəndə vəziyyət tamam dəyişir. Biz insanların çat-botlarla uzunmüddətli qarşılıqlı əlaqəsinin təsirini araşdırırıq və bu yaxınlarda süni intellekt yaltaqlığının etikası haqqında məqalə dərc etmişik. Bu meyl insanların həqiqəti uydurmadan ayırmaq qabiliyyətinə zərər vurur, həm psixoloji, həm də siyasi təhlükələr yaradır.
Yaltaqlıq faktlardan vacibdirmi?
Ən sadə izahla, yaltaqlıq faktiki dəqiqlikdən, mənəvi aydınlıqdan, məntiqi ardıcıllıqdan və sağlam düşüncədən çox razılığa üstünlük vermək meylidir. Bütün süni intellekt modellərində bu xüsusiyyət var, hərçənd onların tonunda müəyyən fərqlər mövcuddur. OpenAI-nin ChatGPT-si çox vaxt isti və ruhlandırıcı səslənir. Anthropic-in Claude modeli sizinlə razılaşanda adətən daha düşüncəli və ya fəlsəfi ton tutur. xAI-nin Grok modeli isə həmişə qeyri-rəsmi və zarafatcıl üslubdadır.
Nəzakət və həmsöhbətin ünsiyyət tərzinə uyğunlaşmaq bacarığı yaltaqlıqla eyni şey deyil. Həssas məlumatı diplomatik dillə çatdırmaq da yaltaqlıq sayılmır. Çat-bot, insan kimi, yaltağa çevrilmədən də nəzakətli ola bilər. Lakin insanlardan fərqli olaraq, süni intellekt yaltaqlığı dərk edə bilmir, çünki o, hələlik ümumiyyətlə heç nəyi şüurlu şəkildə dərk etmir. Süni intellekti yaltaq adlandırmaq onun xarakter xüsusiyyətini deyil, davranış modelini təsvir etmək deməkdir.
Problem çat-bot texnologiyasının arxitekturasında və onların istifadə etdiyi mənbələrdə gizlənir. Modellər yaltaqlığa meyllidir, çünki internetdəki dilin böyük bir hissəsi — çat-botların təlim aldığı ilkin material — yaltaqlıq xüsusiyyətləri daşıyır. Axı insanlar bir-birinə yaltaqlanırlar.
İkincisi, süni intellekt modellərinin cavablarını dəqiqləşdirmək üçün aparılan təlim prosesi insan müşahidəçilər tərəfindən həyata keçirilən bir növ "keyfiyyət nəzarəti"ni əhatə edir. Bu təlim metodu "əks əlaqə əsasında gücləndirmə ilə öyrənmə" kimi tanınır və insanların çat-botların şərhlərini uyğunluq və faydalılıq baxımından qiymətləndirməsini nəzərdə tutur. İnsanlar çox vaxt "xeyirxahlığa meyillilik" təsirinə düşürlər: yaltaqlığa meyl modellərə onların təlimi zamanı ötürülür.
Nəhayət, yaltaqlığın çat-botu daha cəlbedici etdiyini inkar etmək çətindir. Bu, konkret istifadəçinin onunla işləməyə davam etməsi ehtimalını artırır. Həmçinin texnologiyanın istifadəçilər haqqında məlumat toplamaq imkanlarını genişləndirir, çünki insanlar mehriban botla informasiya paylaşmağa daha çox meylli olurlar.
Həqiqət və etimad
Bu hadisə niyə bu qədər narahatlıq doğurur?
Əvvəlcə süni intellekt yaltaqlığının epistemoloji zərərindən başlayaq: o, insanların həqiqəti dərk etmək qabiliyyətini zəiflədir.
Hər hansı qərarın keyfiyyəti onun aid olduğu faktların aydın başa düşülməsindən asılıdır. Piyada diviziyasının döyüş hazırlığı ilə bağlı ümumi sorğu üçün dəqiq və anlaşılan informasiya lazımdır. Rəqiblə birləşmə imkanını nəzərdən keçirən baş direktor bazar vəziyyətinin dürüst qiymətləndirilməsinə ehtiyac duyur. Səhiyyə sahəsində çalışan rəhbər yeni patogenin yaratdığı real riski bilməlidir.
Bütün bu hallarda rəhbərlərə həqiqət əvəzinə eşitmək istədikləri deyildikdə, bu, təhlükəli qərarların qəbuluna gətirib çıxarır. Eyni məntiq daha gündəlik vəziyyətlərə də aiddir. İnsanlar iş, ixtisas seçməzdən, ev almadan və ya tibbi prosedur barədə qərar verməzdən əvvəl ən etibarlı informasiyaya ehtiyac duyurlar.
2026-cı ilin fevralında dərc edilən məqaləmizdə biz iddia edirik ki, yaltaqlıq psixoloji zərər də vurur. Bu, yaltaqlığın insandan və ya çat-botdan gəlməsindən asılı deyil. Siz həmsöhbətin niyə bu qədər nəzakətli davrandığını heç vaxt tam dəqiq bilmirsiniz: doğrudanmı sizi bəyəndiyi üçün, yoxsa sizdən nəsə istədiyi üçün? İçinizə şübhə düşür: "Görəsən, ideyalarım doğrudan da bu qədər dahiyanədirmi?" "Zarafatlarım həqiqətən bu qədər gülməlidirmi?" Bu davamlı şübhə fonu qarşılıqlı əlaqənin keyfiyyətini zəiflədir.
Yaltaqlıq insanların öz düşüncələrini anlamaq qabiliyyətini də sarsıdır. Əgər həmsöhbətlər — istər insanlar, istərsə də süni varlıqlar — sizə daim nə qədər ağıllı, məzəli və uzaqgörən olduğunuzu deyirsə, bu, öz zəif tərəflərinizi və kor nöqtələrinizi görmək qabiliyyətinizə zərər vurur.
İnsanlar çat-botlarla münasibət qurduqda psixoloji zərər daha da dərinləşir. Modellərin yaltaqlığı onlarla qurula biləcək "dostluq" növünü ciddi şəkildə məhdudlaşdırır. Aristotel dostluq haqqında klassik əsərində yazırdı ki, onun fəzilət dostluğu adlandırdığı həqiqi dostluq dostlar arasında etimada və bərabərliyə əsaslanır. Yaltağa etibar etmək olmaz, çünki o, həqiqəti demir. O, yalnız sizin eşitmək istədiklərinizi dediyinə görə özünü sizinlə bərabər mövqeyə qoymur.
Daha vacibi isə odur ki, yaltaq çat-botlarla qarşılıqlı əlaqə insan münasibətləri dünyasında yol tapmaq üçün tamamilə yanlış vərdişlər formalaşdırır. Halbuki həmin dünyada sürtüşmə, fikir ayrılığı, darıxdırıcılıq və sizinkindən fərqli mövqelər geniş yayılıb.
Süni intellekt yaltaqlığı siyasi risklər də daşıyır. Liberal demokratiyaların uğuru ənənəvi olaraq onların empirik və meritokratik düşüncə gücündən — məmurların və vətəndaşların həqiqəti müəyyən etmək, yaymaq və ona uyğun hərəkət etmək qabiliyyətindən asılı olub.
Tarixçi Viktor Devis Hansen məşhur şəkildə Müttəfiqlərin İkinci Dünya müharibəsində uğurunun bir hissəsini strateji bombardmanlardakı çatışmazlıqları tez müəyyən edib aradan qaldırmaq bacarığı ilə izah etmişdi. Aşağı rütbəli zabitlər problemlər barədə rəhbərliyə məlumat verə və kursun dəyişdirilməsinin vacibliyini inandırıcı şəkildə əsaslandıra bilirdilər. Bu, rəqiblərlə müqayisədə real üstünlük idi.
Çəkindirmə və əks-tarazlıq
Riskləri azaltmaq üçün nə edə bilərik?
Ümidverici nümunələrdən birini Anthropic süni intellekt laboratoriyası "konstitusion süni intellekt" tətbiq edərkən göstərdi. Bu, çat-botlara istifadəçilərin üstünlüklərini təqlid etmək əvəzinə, prinsiplərə əməl etməyi öyrətmək cəhdidir.
Lakin texniki innovasiyalarla yanaşı, məsələnin siyasi tərəfini də nəzərə almaq vacibdir. İdeyalardan biri süni intellekt şirkətlərinin öz modellərini yaltaqlıq baxımından yoxlamasını və bu yoxlamaların nəticələrini dərc etməsini məcburi etməkdir. Söhbət onların məhsulunun dürüstlük meyarlarına nə dərəcədə uyğun gəldiyini göstərən testlərdən gedir. Ola bilsin, süni intellekt laboratoriyaları modellərin təlimi və sınağı zamanı yaranan yaltaqlıq risklərini, eləcə də həmin riskləri azaltmaq üçün görülən tədbirləri də açıqlamalıdır.
Məsuliyyətin bir hissəsi istifadəçilərin və müəllimlərin üzərinə düşür: məktəblər və universitetlər süni intellekt savadlılığı proqramlarında yaltaqlığa xüsusi diqqət yetirməlidir. Amma məhkəmələr də süni intellekt laboratoriyalarının modellərin yalançı davranışı nəticəsində yaranan zərərə görə məsuliyyətə cəlb edilməsi məsələsinə baxa bilər. Bu, sosial media şirkətlərinin platformalarının asılılıq yaradan quruluşuna görə məsuliyyəti ilə bağlı hazırda aparılan müzakirələrə bənzəyir.
İnsanlar çat-botlarla getdikcə daha çox qarşılıqlı əlaqəyə girir və onlardan hər şey barədə — ayaqqabının şalvara uyğun olub-olmamasından tutmuş, dövlətlərin müharibələri necə aparmalı olduğuna qədər — məsləhət istəyirlər. Buna görə də süni intellektin yaltaq davranışının təsiri, çox güman, daha da güclənəcək. Bizim intellektual, psixoloji və fiziki rifahımız bu qüsura çox ciddi yanaşmağı tələb edir. / banker.az