"Süni intellekt hamımızın ölümünə səbəb ola bilər" - Süni intellekt şirkətinin əməkdaşı istefa verdi

Süni intellekt şirkəti Anthropic-in əməkdaşı Ceykob Kokson (Jacob Coxon) süni intellektin "real güc və resurslar əldə edə biləcək fövqəlinsan sistemlərə çevrilə biləcəyini" iddia edərək şirkətdən istefa verdiyini açıqlayıb. Onun bu barədə paylaşımı milyonlarla baxış toplayaraq sosial mediada geniş rezonans doğurub.
Marja xəbər verir ki, son üç ildə süni intellekt nəhəngləri OpenAI və Anthropic-də tədqiqatçı kimi çalışdığını bildirən Kokson "X" sosial şəbəkəsindəki hesabında hər iki şirkətin kifayət qədər məsuliyyətli davranmadığını iddia edərək Anthropic-dən istefa verdiyini açıqlayıb.
Kokson şirkətlərin özünü təkmilləşdirə bilən superintellekt yaratmaq uğrunda nəzarətsiz yarış apardıqlarını bildirib.
"Bu texnologiyanın gücünə qeyri-ciddi yanaşmayın. Bunlar tezliklə istənilən sistemi sındıra, hər hansı sahəni bir gecədə dəyişdirə, real güc və resurslar əldə edə biləcək fövqəlinsan sistemlərə çevriləcəklər. Biz bu sahələrin hər birində irəliləyişin şahidi olmuşuq və proses yavaşlamır", – Kokson bildirib.
O iddia edib ki, süni intellekt modellərini hazırlayan sektorda çalışan bəzi mütəxəssislər bu sistemlərin bəşəriyyət üçün ölümcül təhlükə yarada biləcəyinə ciddi şəkildə inanırlar.
Koksonun sözlərinə görə, şirkət rəhbərləri ictimaiyyət qarşısında daha təmkinli açıqlamalar versələr də, qapalı müzakirələrdə risklərlə bağlı ciddi narahatlıqlar ifadə edirlər.
Kokson Anthropic rəhbərliyinin "risklərə baxmayaraq, hədəfə ilk çatanın özləri olması" yanaşmasına kökləndiyini iddia edib və bunu "özəl bir şirkətin daxili kommunikasiya platforması vasitəsilə qərar veriləcək məsələ olmayacaq qədər təkəbbürlü qumar" adlandırıb.
Koksonun xəbərdarlığı sosial mediada geniş müzakirəyə səbəb olub
Koksonun paylaşımı qısa müddətdə milyonlarla baxış toplayıb. Bir çox sosial media istifadəçisi süni intellektin gələcəyi ilə bağlı narahatlığını ifadə edib. ABŞ-li milyarder investor Bill Ekman (Bill Ackman) Koksonun paylaşımını sitat gətirərək vəziyyəti "narahatedici" adlandırıb.
Endryu Yanq (Andrew Yang) isə bildirib:
"Əksər insanların fərqində olduğundan daha böyük risklər götürürük və çox gec olmadan mümkün qədər tez uyğunlaşmalıyıq".
Aleks Berenson (Alex Berenson) süni intellekt risklərini araşdıracaq qlobal komissiyanın yaradılmasına ehtiyac olduğunu vurğulayaraq deyib:
"Heç bir iqtisadi qazanc belə bir qumara getməyə dəyməz".
Kristal Boll (Krystal Ball) isə Koksonun paylaşımını "sektorun daxilindən gələn daha bir dəhşətli xəbərdarlıq" kimi qiymətləndirərək məsələ ilə bağlı narahatlığını ifadə edib.
Jacob Coxon-un açıqlaması:
"Bu gün "Anthropic"dən istefa verdim. Son üç ili həm "OpenAI", həm də "Anthropic"də ilkin model təlimi (pretraining) üzrə tədqiqat aparmaqla keçirmişəm. Bu şirkətlərin heç biri məsuliyyətli davranmır. Onlar birbaşa özünü təkmilləşdirə bilən superintellekt yaratmaq yarışına giriblər və həyatlarımızı riskə atırlar. Aşağıda bu barədə daha ətraflı fikirlərimi bölüşürəm.
Bu texnologiyanın gücünə qeyri-ciddi yanaşmayın. Bunlar tezliklə istənilən sistemi sındıra bilən, istənilən sahədə bir gecədə inqilab yarada bilən, real güc və resurslar əldə edə bilən insanüstü (insan qabiliyyətlərini geridə qoyan və ya insan zəkasını və imkanlarını aşan) sistemlərə çevriləcəklər. Biz bu istiqamətlərin hər birində baş verən irəliləyişin şahidi olmuşuq və inkişaf tempi zəifləmir.
Süni intellekti yaradan insanlar səmimi şəkildə inanırlar ki, bu texnologiya onilliyin sonuna qədər (2030-cu ilin başlanmasına qədər, yəni praktik olaraq 2029-cu ilin sonunadək - red) hamımızın ölümünə səbəb ola bilər. Bu, marketinq gedişi deyil. Əksinə, bir çox rəhbər və yüksək səviyyəli tədqiqatçı mediada daha məntiqli görünmək üçün fikirlərini ehtiyatlı ifadələrlə təqdim edir. Amma mən həmin şəxslərin öz aralarında qorxularını ifadə etdiklərini eşidirəm...
Tez-tez belə bir sual verilir: "Əgər onlar buna həqiqətən inanırlarsa, niyə hələ də bu texnologiyanı yaratmağa davam edirlər?"
"OpenAI"də bir çox insan bunun bəşəriyyət üçün nə qədər böyük nəticələr doğura biləcəyini dərindən dərk etməyib. "Anthropic"də isə risklər yaxşı başa düşülür, lakin onlar bu məqsədə birinci çatmaq uğrunda yarışın içində qalıblar — hesab edirlər ki, başqa heç kim...
Bu yarışı qəbul etmək və "son mərhələyə" daxil olmaq özünə həddindən artıq güvənə əsaslanan təhlükəli bir mərcdir və belə bir proses özəl şirkətin "Slack" yazışmalarından başlanmamalıdır. Süni intellektin təhlükəsizliyini sürətlə həll etməyə çalışmağa yalnız bundan daha yaxşı alternativ yolun olmadığına fövqəladə dərəcədə əmin olduğumuz halda haqq qazandırmaq olar.
Mən koordinasiya imkanlarına nikbin yanaşıram. "Hugging Face" hücumu kimi xəbərdarlıq siqnalları ABŞ-dakı süni intellekt laboratoriyaları arasında inkişaf tempinə dair razılaşmaların əldə olunmasını daha real edib. Bununla belə, qlobal yarışın qarşısını almaq istiqamətində düzgün yolda olduğumuzu düşünmürəm. Bunun üçün müvəqqəti qadağa kimi baha başa gələn addımlar tələb oluna bilər...
Əgər siz süni intellekt laboratoriyasında tədqiqatçısınızsa, sizi qarşıdakı bir neçə ilin əslində necə keçəcəyini ciddi düşünməyə çağırıram.
Onun necə düşündüyünü ciddi şəkildə anlamadan superintellektual bir sistem üçün gücləndirici öyrənmə (RL) prosesinə başlamaq istəyirsinizmi?
"Onsuz da bu baş verəcək" deyib başınızı aşağı salaraq işinizə davam etməlisiniz, yoxsa məhz bu anda..."
/ marja.az