Sirli Layihə Q* OpenAI-dən mütəxəssislərin narahatlığına səbəb olur. O, həqiqətən insanlıq üçün təhlükəli ola bilərmi? Onun haqqında nə məlumdur? Keçən həftə Sam Altman əvvəlcə işdən çıxarıldıqdan sonra o və komanda demək olar ki, daxil oldu Microsoft, sonra iş yerinə qayıtdı (bu barədə bura yazdıq), OpenAI yenidən xəbərlərdədir. Bu dəfə bəzi tədqiqatçıların bəşəriyyət üçün mümkün təhlükə adlandırdıqlarına görə. Bəli, düz oxudunuz, insanlıq üçün təhlükədir.
Texnologiya dünyasındakı əsl çaxnaşma, Q-Star elan edilmiş ümumi süni intellektin (AGI) açıqlanmayan layihəsi olan Project Q* tərəfindən törədilib. Bu layihə ilkin mərhələdə olsa da, AGI inkişaflarında həqiqətən təməlqoyma hesab olunur. Ancaq bəziləri bunu bəşəriyyət üçün təhlükə olaraq görür.
Məşhur süni intellekt laboratoriyası OpenAI tərəfindən hazırlanmış gizli süni intellekt layihəsi texnologiyada və ümumilikdə cəmiyyətdə inqilab etmək potensialına malikdir. Lakin bu, risklərlə bağlı bəzi etik suallar doğurur. Project Q*-un heyrətamiz imkanları haqqında təfərrüatlar ortaya çıxdıqca, bunun bəşəriyyətin gələcəyi üçün nə demək ola biləcəyi ilə bağlı daha çox fərziyyələr ortaya çıxır.
Həmçinin maraqlıdır: OpenAI tarixi: bu nə idi və şirkəti qarşıda nə gözləyir
Süni Ümumi İntellekt (AGI) nədir?
Project Q* (Q-Star) ətrafında yaranan şırıngaları başa düşmək üçün gəlin əvvəlcə Süni Ümumi İntellekt (AGI) konsepsiyasının nədən ibarət olduğunu anlamağa çalışaq. Mövcud süni intellekt sistemləri şahmat oynamaq və ya şəkillər yaratmaq kimi dar, spesifik tapşırıqlarda üstün olsa da, ümumi süni intellekt bir çox sahədə insan səviyyəsində öyrənə və düşünə bilən maşınlara aiddir. Yəni məktəbdə balaca uşaqlar kimi oxuya bilərlər, məsələn, riyaziyyat, kimya, biologiya və s.
Ümumi Süni İntellekt (AGI) müxtəlif problemləri həll etmək üçün bu potensialı öyrənmək və tətbiq etmək qabiliyyəti ilə hipotetik olaraq insan intellektini və ya davranışını təqlid edə bilən maşın zəkasının bir növüdür. AGI-yə güclü süni intellekt, tam süni intellekt və ya insan səviyyəsindəki süni intellekt də deyilir. Ümumi süni intellekt zəif və ya dar süni intellektdən fərqlidir, o, yalnız verilmiş parametrlər daxilində xüsusi və ya ixtisaslaşmış tapşırıqları yerinə yetirməyə qadirdir. ZHI müxtəlif bilik sahələrindən müxtəlif mürəkkəb problemləri müstəqil həll edə biləcək.
Süni intellektin yaradılması DeepMind və Anthropic kimi şirkətlərin süni intellekt tədqiqatlarının əsas diqqət mərkəzindədir. CSI elmi fantastika ədəbiyyatında çox populyar bir mövzudur və gələcək tədqiqatları formalaşdıra bilər. Bəziləri illər və ya onilliklər ərzində UCI yaratmağın mümkün olduğunu iddia edir, digərləri isə bunun bir əsr və ya daha çox vaxt apara biləcəyini iddia edirlər. Amma bunun heç vaxt əldə edilməyəcəyinə inananlar da var. Bəziləri GPT-3-də URI-nin başlanğıcını görmüşlər, lakin o, hələ də əsas meyarlara cavab verməkdən uzaq görünür.
Süni ümumi intellektin (AGI) yaradılması tədqiqatçılar tərəfindən süni intellektin müqəddəs zirzəmisi, onların təsəvvürlərini çoxdan ələ keçirmiş nəzəri imkan hesab olunur. Buna görə də, OpenAI Project Q* kimi bir layihənin ortaya çıxması süni intellekt alqoritmi tədqiqatları dünyasında böyük rezonansa səbəb oldu. Baxmayaraq ki, hamı başa düşür ki, bunlar, demək olar ki, kor-koranə olaraq, süni intellektin insanlarla eyni, hətta daha yüksək qabiliyyətlərə malik olacağı dünyaya atılan ilk addımlardır.
Həmçinin maraqlıdır: Haqqında hər şey Microsoft Kopilot: gələcək, yoxsa yanlış yol?
Layihə Q* nədir?
Layihə Q* tipik bir alqoritm deyil, çünki o, süni ümumi intellekt (AGI) modelinə getdikcə yaxınlaşan süni intellekt modelidir. Bu o deməkdir ki, ChatGPT-dən fərqli olaraq Project Q* digər alqoritmlərlə müqayisədə daha yaxşı düşünmə və idrak bacarıqları nümayiş etdirir. ChatGPT hazırda çoxlu faktiki materiala əsaslanan sorğulara cavab verir, lakin AGI ilə AI modeli əsaslandırmanı və özü üçün düşünmək və anlamaq qabiliyyətini öyrənəcək. Artıq məlumdur ki, Project Q* onun təlim materialına daxil olmayan sadə riyazi məsələləri həll etməyə qadirdir. Bununla, bəzi tədqiqatçılar ümumi süni intellektin (AGI) yaradılması istiqamətində əhəmiyyətli bir addım görürlər. OpenAI, AGI-ni insanlardan daha ağıllı olan süni intellekt sistemləri kimi təyin edir.
Q* layihəsinin işlənməsi OpenAI-nin baş alimi İlya Sutzkever tərəfindən idarə olunur və onun əsasları tədqiqatçılar Yakub Paxotski və Şimon Sidor tərəfindən əsaslandırılıb.
Alqoritmin özbaşına riyazi problemləri həll etmək qabiliyyəti, hətta bu problemlər təlim məlumat toplusunun bir hissəsi olmasa belə, süni intellekt sahəsində bir irəliləyiş hesab olunur. Komandada bu layihə ilə bağlı fikir ayrılıqları OpenAI-nin baş direktoru Sem Altmanın müvəqqəti olaraq vəzifəsindən uzaqlaşdırılması ilə bağlıdır. Məlumdur ki, Altman işdən çıxarılmazdan əvvəl bir qrup şirkət tədqiqatçısı direktorlar şurasına məktub göndərərək bəşəriyyət üçün təhlükə yarada biləcək süni intellekt kəşfi ilə bağlı xəbərdarlıq etmişdi. Project Q* alqoritmini müzakirə etdiyi bildirilən həmin məktub Altmanın işdən çıxarılmasına səbəb olan amillərdən biri kimi göstərilib. Bununla belə, Q* Layihəsinin imkanları və onun yarada biləcəyi potensial risklər tam başa düşülmür, çünki təfərrüatlar məlum deyil. Geniş ictimaiyyətə heç nə açıqlanmayıb.
Prinsipcə, Project Q* ətraf mühit haqqında əvvəlcədən bilik tələb etməyən ənənəvi modellərdən kənara çıxan modelsiz möhkəmləndirmə öyrənmə üsuludur. Bunun əvəzinə, mükafat və cəzalara əsaslanan hərəkətləri uyğunlaşdıraraq təcrübə vasitəsilə öyrənir. Texniki ekspertlər hesab edirlər ki, Project Q* insanın idrak qabiliyyətlərinə oxşar qabiliyyətlər əldə etməklə, üstün imkanlar əldə edə biləcək.
Bununla belə, yeni süni intellekt modelində ən təsirli olan bu xüsusiyyət tədqiqatçıları və tənqidçiləri narahat edir və texnologiyanın real dünya tətbiqləri və əsas risklərlə bağlı qorxularını artırır. Alimlər və tədqiqatçılar nədən bu qədər qorxurlar? Gəlin bunu anlayaq.
Həmçinin maraqlıdır: Wi-Fi 6-nı dəstəkləmək üçün ev cihazlarınızı necə yeniləmək olar
Bilinməyənlərdən qorxurlar
İnsanlar həmişə bilinməyəndən, bilinməyəndən qorxmuşlar. Bu, insan mahiyyəti, xarakterimizin, həyat tərzimizin xüsusiyyətidir.
Texnologiya dünyası Layihə Q* haqqında 2023-cü ilin noyabrında Reuters-dən sonra öyrəndi məlumat verdi maraqlanan OpenAI tədqiqatçıları tərəfindən yazılmış daxili məktub haqqında. Məktubun məzmunu qeyri-müəyyən idi, lakin o, Layihə Q*-un imkanlarını ciddi şəkildə təhlil etdiyi bildirilir. Yuxarıda qeyd etdiyim kimi, hətta Sem Altmanın istefasına məhz bu məktubun səbəb olduğu barədə fərziyyələr var.
Bu partlayıcı kəşf Layihə Q*-nun təbiəti ilə bağlı müxtəlif fərziyyələrə səbəb oldu. Alimlər bunun süni intellekt üçün inqilabi təbii dil modeli ola biləcəyini irəli sürdülər. Digər AI formaları üçün onları yaradacaq yeni alqoritmlərin bir növ ixtiraçısı və ya bu sahədə tamamilə fərqli bir şey.
Altmanın "orta işçi" kimi ümumi süni intellektlə bağlı təxribatçı şərhləri artıq iş təhlükəsizliyi və süni intellekt təsirinin qarşısıalınmaz genişlənməsi ilə bağlı narahatlıqları artırıb. Bu sirli alqoritm Süni Ümumi İntellektin (AGI) inkişafında bir mərhələ kimi müəyyən edilmişdir. Ancaq hamı başa düşür ki, bu mərhələ bahadır. Və indi pulla bağlı deyil. Yeni AI modelinin vəd etdiyi koqnitiv bacarıqların səviyyəsi qeyri-müəyyənliyi də daşıyır. OpenAI alimləri süni intellektin insan səviyyəsində təfəkkürə malik olacağına söz verirlər. Bu isə o deməkdir ki, biz çox şeyi bilə və nəticələrini proqnozlaşdıra bilmərik. Və nə qədər naməlum olsa, onu idarə etməyə və ya düzəltməyə hazırlaşmaq bir o qədər çətindir. Yəni, yeni alqoritm özünü təkmilləşdirməyə və inkişaf etdirməyə qadirdir. Bunu artıq haradasa görmüşük...
Həmçinin maraqlıdır: Windows 12: Yeni ƏS nə olacaq
Project Q imkanları haqqında heyrətamiz təfərrüatlar*
Daha çox məlumat ortaya çıxmağa başlayanda bir çox tədqiqatçıları şoka saldı. İlkin əlamətlər Layihə Q*-nun riyaziyyat üçün heyrətamiz bacarıqlara malik olması idi. Mexanik hesablamaları yerinə yetirən kalkulyatordan fərqli olaraq, Project Q* mürəkkəb riyaziyyat problemlərini həll etmək üçün məntiq və məntiqdən istifadə edə bilər. Bu riyazi ümumiləşdirmə qabiliyyəti geniş bir zəkanın inkişafına göstərişlər verir.
Tipik AI-lərin hazırlanması üçün istifadə olunan xüsusi məlumat dəstləri olmadan Layihə Q* üçün avtonom təlim də irəliyə doğru böyük bir addım olacaqdır. Project Q*-un hər hansı digər bacarıqları mənimsədiyi məlum deyil. Lakin onun riyazi qabiliyyətləri özlüyündə o qədər heyrətamizdir ki, hətta təcrübəli tədqiqatçıları belə çaşdırırlar.
Həmçinin oxuyun: İnsan Beyni Layihəsi: İnsan beynini təqlid etmək cəhdi
Layihə Q*-un dominantlığa aparan yolu?
Bu məsələdə həm optimist, həm də pessimist ssenarilər var. Optimistlər deyəcəklər ki, Project Q* texnoloji sıçrayışa səbəb olan qığılcım ola bilər. Sistem rekursiv şəkildə özünü təkmilləşdirdikcə, onun fövqəltəbii intellekti iqlim dəyişikliyindən tutmuş xəstəliklərə nəzarətə qədər bəşəriyyətin ən mühüm problemlərinin həllinə kömək edə bilər. Layihə Q* darıxdırıcı işləri avtomatlaşdıra və asudə vaxtımızı digər fəaliyyətlərə ayıra bilər.
Baxmayaraq ki, daha çox pessimist variantlar var. Bəzən onlar olduqca ağlabatan olur və müəyyən məna daşıyırlar.
İş yerlərinin itirilməsi
Texnologiyanın inkişafındakı sürətli dəyişikliklər insanların fərdi uyğunlaşmasını üstələyə bilər. Bu, yeni reallıqlara uyğunlaşmaq üçün lazımi bacarıq və biliklərə yiyələnə bilməyəcək bir və ya bir neçə nəslin itirilməsinə gətirib çıxaracaq. Yəni, bu, öz növbəsində, daha az adamın işini saxlaya bilməsi deməkdir. Bunun əvəzinə maşınlar, avtomatlaşdırılmış sistemlər və robotlar tərəfindən həyata keçiriləcək. Bununla belə, ixtisaslı mütəxəssislərə gəldikdə, cavab o qədər də aydın deyil. Bundan əlavə, xüsusi olaraq süni intellekt alqoritmlərinin inkişafı ilə bağlı yeni peşələr meydana çıxa bilər. Amma hələ də risklər var və bəşəriyyətin onlara məhəl qoymağa haqqı yoxdur.
Nəzarətsiz güc təhlükəsi
Layihə Q* kimi güclü süni intellekt mənfur niyyətləri olanların əlinə keçərsə, bu, bəşəriyyət üçün fəlakətli nəticələrə səbəb ola bilər. Hətta potensial zərərli niyyət olmasa belə, Q* Layihəsinin qərar qəbuletmə səviyyəsi onun tətbiqinin diqqətlə qiymətləndirilməsinin kritik əhəmiyyətini vurğulayaraq zərərli nəticələrə səbəb ola bilər.
Layihə Q* insan ehtiyacları üçün zəif optimallaşdırılıbsa, o, bəzi ixtiyari ölçüləri maksimuma çatdırmaq qabiliyyəti ilə zərər verə bilər. Yaxud dövlət nəzarəti və ya repressiya üçün istifadə olunmaq kimi siyasi ölçüləri ola bilər. Q* layihəsinin təsir təhlili ətrafında açıq müzakirə ZHI-nin inkişafı üçün mümkün ssenariləri müəyyən etməyə kömək edəcək.
Bizi "İnsan və maşın" yarışması gözləyir?
Hollivud artıq öz filmlərində belə bir qarşıdurmanın çoxlu ssenarilərini yaradıb. Məşhur SkyNet-i və belə bir kəşfin nəticələrini hamımız xatırlayırıq. Bəlkə OpenAI tədqiqatçıları bu filmə yenidən baxsınlar?
Bəşəriyyət siqnalları və çağırışları qəbul etməli və baş verə biləcəklərə hazır olmalıdır. İnsan kimi düşünə bilən süni intellekt modeli nə vaxtsa bizim düşmənimizə çevrilə bilər. Çoxları mübahisə edərdi ki, gələcəkdə elm adamları vəziyyəti necə nəzarət altında saxlamağı dəqiq biləcəklər. Ancaq maşınlara gəldikdə, onların insanları ələ keçirməyə çalışacaqlarını tamamilə istisna edə bilməzsiniz.
Həmçinin maraqlıdır: Süni intellekt dediyimiz hər şey əslində süni intellekt deyil. Bilməli olduğunuz şey budur
OpenAI niyə susur?
Project Q*-a ictimai marağın çılğınlığına baxmayaraq, OpenAI rəhbərliyi alqoritmin xüsusiyyətləri barədə susur. Lakin daxili sızma, prioritetlər və inkişafın açıqlığı ilə bağlı laboratoriyada artan gərginliyin olduğunu göstərir. Bir çox OpenAI insayderləri Project Q*-nun yaradılmasını dəstəkləsələr də, tənqidçilər şəffaflığın nəyin bahasına olursa olsun elmi tərəqqini sürətləndirmək üçün arxa plana keçdiyini iddia edirlər. Bəzi tədqiqatçılar isə, məqsədlərinin mütləq insan dəyərləri və etika ilə üst-üstə düşməyən sistemlərə inanılmaz gücün verilməsindən narahatdırlar. Bu tədqiqatçılar hesab edirlər ki, nəzarət və hesabatlılıq ətrafında müzakirələr təhlükəli şəkildə susdurulub. Onlar daha çox reklam və təfərrüat tələb edir.
Project Q* yaradıcıları kimi OpenAI başa düşməlidir ki, onların ya cəmiyyətin inkişaf imkanlarını xeyli genişləndirə, ya da onu amansızcasına məhv edə biləcək texnologiyası var. Bu cür əhəmiyyətli yeniliklər ictimai etimadı artırmaq üçün daha çox şəffaflığa layiqdir. Maşın dövrünün hər hansı bir proqnozçusu faydaları ilə yanaşı riskləri də diqqətlə ölçməlidir. Layihə Q* tərtibatçıları cəmiyyəti təsəvvür etdiyimizdən daha tez gələ biləcək yeni ümumi süni intellekt dövrünə təhlükəsiz şəkildə başlamaq üçün kifayət qədər müdriklik və qayğı göstərməlidirlər.
Ümumi süni intellektin bəşəriyyət üçün faydalı və təhlükəsiz olması üçün onun təhlükəsiz, etik və bəşəriyyətin dəyər və məqsədlərinə uyğun işləməsi təmin edilməlidir. Bu, CSI-nin hərəkətlərinə və davranışlarına nəzarət edən və məhdudlaşdıran müvafiq normativ aktların, standartların, qaydaların və protokolların işlənib hazırlanmasını və həyata keçirilməsini tələb edir. Bundan əlavə, bəşəriyyətin məhvinə səbəb ola biləcək sui-istifadələr, qəzalar, uyğunsuzluqlar, manipulyasiyalar və münaqişələrlə bağlı potensial təhlükələr və risklər aradan qaldırılmalıdır. Bu arada investorlar və Microsoft səbirsizliklə mənfəət gətirə bilən, şübhəsiz ki, məsuliyyətlə hərəkət etmək ehtiyacı ilə ziddiyyət təşkil edən bazara çıxarıla bilən məhsulu gözləyir. Ümid edək ki, sağlam düşüncə qalib gəlsin.
Həmçinin oxuyun: