Emosional agentlər: süni intellektin yeni mərhələsi nə qədər təhlükəlidir?

Məşhur futurolog Kevin Kelli süni intellektin emosional imkanlarının inkişafını proqnozlaşdırır və elə indi cavab tapılmalı olan, xoş olmasa da, vacib suallar qaldırır.
Bu gün bir çox insan Süni intellektin (Sİ) "ağıllı" cavablarına heyrətlənir. Amma yaxın gələcəkdə bizi daha böyük sarsıntı gözləyir: yüksək emosionallığa malik Sİ. Sintetik emosiyaların ortaya çıxması cəmiyyətdə çaşqınlıq, narahatlıq və mədəni şok yaradacaq, indiyə qədərki hay-küyü kölgədə qoyacaq. Yaxın illərdə media başlıqları "Hamı işini itirəcək" (bu, doğru deyil) ifadəsindən "Sİ ilə romantik partnyor: bildiyimiz sivilizasiyanın sonu" tipli xəbərlərə çevrilə bilər.
Kompüterin ağıllı ola bilməsini rasional olaraq qəbul etmək nisbətən asandır — çünki beyni çox vaxt kompüterə bənzədirik. Onların bizim qədər ağıllı ola biləcəyinə inanmaq çətin olsa da, az-çox izah oluna bilir.
Yaradıcılığı qəbul etmək daha çətindir. Yaradıcılıq bizə xas, bəzən də rasional düşüncəyə zidd görünür; buna görə də maşının həqiqətən yaradıcılıq göstərəcəyinə inanmaq çətin gəlir.
Emosiyalar isə yalnız insanlara məxsus deyil — bir çox heyvanda da aydın görünür. Ev heyvanı sahibləri onların necə hiss edib ifadə etdiyini rahatlıqla misal çəkə bilər. Heyvanlara sevgimizin bir səbəbi də onlarla emosional rezonansdır: onlar bizim hisslərimizə, biz də onların hisslərinə reaksiya veririk. Bu, insanla heyvan arasında real, dərin bağ yaradır.
Oxşar emosional bağlar maşınlarla da formalaşacaq — ilk işartılarını artıq görürük. Demək olar, hər həftə kimlərsə mənə Sİ ilə söhbətlərinin parçasını göndərir: münasibətin nə qədər dərin və ifadəli ola bildiyini, tərəflərin bir-birini necə yaxşı anladığını göstərir. Yeniyetmələrin "Sİ-dost" ilə uzun ünsiyyətə dalması haqda xəbərlər artır. Bütün bunlar emosiyaların Sİ-yə məqsədli şəkildə yerləşdirilməsindən əvvəl baş verir.
Bəs niyə Sİ-yə emosiyalar qatılmalıdır? Bir neçə səbəb var.
Birincisi, emosiyalar maşın-insan interfeysini daha təbii və rahat edir. İnsanlar tərif, həvəsləndirmə, şübhə, inandırma, təəccüb, çaşqınlıq kimi incə siqnalları intuisiya ilə anlayır. İnsanlar məhz bu qeyri-verbal emosional işarələrlə önəmi və təlimatı ötürür; Sİ də ünsiyyətdə oxşar emosional notlardan istifadə edəcək.
İkincisi, bazar emosional agentləri üstün tutacaq. Sİ və robotların əsas bacarıqları yaxınlaşdıqca seçimdə fərqləndirici amil şəxsi keyfiyyətlər və emosional xarakter olacaq. Hamı eyni dərəcədə "ağıllı"dırsa, üstünlük daha dostcanlı, xoş ünsiyyət quran, yanında özünü rahat hiss etdiyiniz agentə veriləcək.
Üçüncüsü, Sİ-dən gözlədiyimiz işlərin çoxu təkcə rasional hesablamadan ibarət deyil. Yalnız "gecə boyu kod yaza bilir" deməklə kifayətlənmir. Həqiqətən yaradıcı və innovativ olmaq, yaxşı məsləhət vermək üçün təkcə IQ yetmir — botlara proqramın dərin qatında işləyən mürəkkəb emosional dinamika lazımdır.
Bu mümkündürmü? Bəli.
MIT də daxil olmaqla, onilliklərlə aparılan araşdırmalar emosiyaları maşınlara ötürülə bilən atributlara parçalamağın yollarını öyrənir. Bəziləri insan üz ifadələrinə bənzər vizual təqdimatı, bəziləri səs və mətn vasitəsilə emosiyanın ötürülməsini araşdırır. Yaxınlarda şirkətlər agentlərin "dostcanlı" və ya "şirin" tonunda düzəlişlər etdilər — bəziləri yeni "simasını" bəyənmədi, bəziləri də xarakter dəyişikliyindən narazı qaldı. Deməli, şəxsiyyət və emosiyanı proqramlaşdırmaq mümkündür, amma konkret tapşırıq üçün hansı "emosiya dəsti"nin ən uyğun olduğu hələ aydın deyil.
Emosiyalı maşınlar işin yalnız yarısıdır. Digər yarısı — Sİ-nin insan emosiyalarını görməsi və anlamasıdır. Münasibət iki tərəflidir; həqiqi emosional agent olmaq üçün Sİ bizim hisslərimizi dəqiq tutmağı bacarmalıdır. Bu sahədə — o cümlədən insanın kimliyini deyil, emosional vəziyyətini tanımağa yönəlmiş — xeyli tədqiqat var. Artıq istifadəçinin klaviatura arxasındakı davranışından depressiya və ya emosional gərginlik əlamətlərini müəyyən edən kommersiya tətbiqləri mövcuddur. Növbəti addım — mimikanı oxuyub emosiyanı anlayan "ağıllı" eynəklərdir: utancaqsınız, heyrətlisiniz, minnətdarsınız, narahatsınız, yoxsa rahatsınız? Apple Vision Pro artıq göz hərəkətlərini və mikro-mimikanı (məsələn, göz qırpma, qaş qaldırma) izləyən kameralarla təchiz edilib. Mətn modelləri indilik yalnız yazı tərzindən emosiyanı təxmin edir, lakin texniki olaraq daha irəli getmək mümkündür.
Yaxın illərdə müxtəlif emosional "temperament"li modellər sınaqdan keçiriləcək: bəziləri qısa və məntiqli, bəziləri danışqan və ekstravert; bəziləri sakit və yalnız siz hazır olanda danışan; digərləri şən, zarafatcıl və güldürməyi bacaran. Bir çox kommersiya modeli isə "ən yaxın dost" roluna köklənəcək.
Böyüklər üçün bu, bəlkə də müsbət görünə bilər, amma uşaqlara gəldikdə narahatlıq artır. Uşaqlara yönəlmiş Sİ-də emosional bağ əsas rol oynayacaq. Kiçiklər sadə kukla və ya oyuncaq heyvana bağlanır; təsəvvür edin, o oyuncaq danışır, sonsuz səbir göstərir, uşağın hisslərini əks etdirir — uşaq böyüyəndə belə oyuncağı əlindən qoymaq istəməyə bilər. Buna görə də böyüklər və uşaqlar üçün fərqli rejimlər, qaydalar, funksionallıq, qanunlar və biznes modelləri qaçılmaz görünür.
Böyüklər də "Her" filmindəki kimi emosional agentlərə bağlana bilərlər. Başlanğıcda cəmiyyət Sİ-yə aşiq olanları qınaq obyektinə çevirə bilər. Amma necə ki, itinə-pişiyinə dərindən bağlı insanların çoxu normal, empatik və sosial adaptasiyalıdır, Sİ ilə yaxın münasibəti olanların da çoxu bu əlaqələri faydalı hesab edəcək.
Əsas qorxu odur ki, maşınlarla münasibət "çox ideal" ola, səbirli və hər an mövcud ola bildikləri üçün bizi insan münasibətlərindən uzaqlaşdıra bilər. Bu risk var. İnsanlar təkcə "yüngül, ləzzətli dostluq" axtarışına düşə bilərlər — necə ki, yalnız "yüngül, dadlı kalori"yə meyl yaranır. Bunun ən sağlam əks-tədbiri təhsil və şüurlu seçimdir: ideal əlaqə ilə çətin, natamam, amma dəyərli insan münasibətini ayırd etməyi öyrənmək. İnkişaf üçün insanlarla vaxt keçirmək zəruridir.
Sİ ilə münasibəti qadağan etmək yox, sərhədləmək və qabaqcadan düşünmək lazımdır. "İdeal" Sİ-dost, mentor, məşqçi və ya partnyor davranışı bizim üçün örnək ola bilər. Ətrafınızı daha yüksək etikaya və sabit prinsiplərə köklənmiş Sİ-lərlə əhatə etsəniz, bu, güclü özünüinkişaf alətidir. Orta insanın etikası tez sarsılır; nəzəri cəhətdən Sİ-ni orta insandan daha sağlam prinsiplərlə proqramlaşdırmaq mümkündür. Eləcə də "insan ortalamasından daha yaxşı dost" kimi. Belə Sİ-lərin yanında olmaq insanı daha empatik və kamil edə bilər; dərin münasibət quranlar ən xoşbəxt və ən mərhəmətli insanlar sırasına qoşula bilərlər.
"Sİ heç nə hiss etmir, ona görə emosiyası saxtadır" arqumenti getdikcə əhəmiyyətini itirəcək. "Süni" olduğu üçün "əsl deyil" tənqidi də elə. Axı biz nə "hiss etmək"in, nə "anlamaq"ın mahiyyətini tam bilirik. Əsas odur ki, Sİ artıq "ağıllı" adlandırdığımız real işlər görür və "emosiya" adlandıracağımız real davranışlar da sərgiləyəcək. İnsanların Sİ, bot və robotlarla əlaqələri digər insan münasibətləri qədər real və dəyərli olacaq.
Doğrudur, Sİ/robotların emosiyaları bizdən fərqli olacaq. Yumor hissi başqa cür işləyə bilər və bu, zamanla insan yumorunu da dəyişdirə bilər — necə ki, onların şahmat və go-dakı oyunu bizim oyunumuzu dəyişdi. Modeller ağıllıdır, amma qeyri-insani mənada; emosionallıqları da "yad" olacaq. Onları izləmək özümüz haqqında emosiyalara dair bildiklərimizi belə genişləndirə bilər.
Emosiyalar maşınlarda tədricən formalaşacaq — nəzakət, ədəb, incəliklə başlayacaq. Modeller bəzən həddindən artıq asanlıqla tərifləyəcək, bəzən sərt tənqid də edəcək. Əsas sual isə başqadır: Sizin emosional agentiniz kimə işləyir? Kimə məxsusdur? Nəyin naminə optimallaşdırılıb? Sizi manipulyasiya etməyəcəyinə əminsinizmi? Gələn onillikdə müzakirəni bu suallar yönləndirəcək.
Emosiyalarla bağlı məlumatlar qaçılmaz olaraq məxfi verilənlərə çevriləcək: nədən zövq aldığımız, nədən iyrəndiyimiz, nə ilə həyəcanlandığımız və s. İllərlə Sİ agenti ilə gündəlik ünsiyyətdə olan insan haqqında ən dolğun dosye məhz həmin agentdə toplanacaq. Heç ən dərin qorxularımızı açmasaq belə, mesajlarımızın, suallarımızın və reaksiyalarımızın emosional tonundan bunları "oxuyacaq". "Mənim Sİ agentim məni özümdən yaxşı tanıyır" — yaxın onilliklərdə heyranlıq və vahimə ilə ən çox deyilən cümlələrdən biri olacaq.
Bu çox vaxt həqiqətə çevriləcək. Ən yaxşı halda bu alət özümüzü daha yaxşı tanımağımıza kömək edəcək; ən pis halda isə bilik asimmetriyası bizi manipulyasiya etmək üçün istifadə olunacaq. Böyük ehtimalla Sİ həyatımıza hər saat, bəlkə də hər dəqiqə daxil olacaq (istisnalar — məsələn, amişlər — azlıqda qalacaq). İnsanların çoxu hər an əlçatan, köməyə hazır Sİ agent/robotla yaxın əlaqə saxlayacaq; bu əlaqələr də real və əhəmiyyətli olacaq. Fayda gördüyümüz müddətdə ona ən şəxsi məlumatlarımızı paylaşmağa meylli olacağıq. (Məxfilik sualı əslində "məlumat kimdədir?" yox, "mən bunun qarşılığında nə qazanıram?" sualıdır.)
İyirmi beş ildən sonra Sİ agenti ilə yaşayan insanlar əgər daha qapalı, aqressiv və uğursuz olsalar — emosional agentlərin hekayəsi burada bitər. Yox, əgər onlar ortalamadan daha empatik, məhsuldar, özünəməxsus və zəngin daxili aləmə sahib olsalar — bu, yeni mərhələnin başlanğıcı olar.
Tarixi düzgün istiqamətə yönəltmək öz əlimizdədir: bizi bu məqsədə yaxınlaşdıran ixtiraları təşviq etməklə. Sual "Sİ emosional olacaqmı?" deyil. Sual budur: "Bu emosionallığı necə və nə üçün istifadə edəcəyik?" / banker.az