Süni intellekt insanın yaratdığı, lakin bir gün özünün idarə edə bilməyəcəyi texnologiyaya çevrilə bilərmi? Dünyanın ən məşhur alimləri, Nobel və Türinq mükafatı laureatları, “OpenAI”, “Google” “DeepMind” və “Anthropic” kimi texnologiya nəhənglərinin rəhbərləri artıq bu təhlükə barədə həyəcan təbili çalırlar. Bəs söhbət Hollivud filmlərindəki kimi robotların insanlara qarşı üsyanından gedir, yoxsa daha mürəkkəb və real təhlükədən?..
Son illərdə süni intellektin (Sİ) sürətli inkişafı insan həyatının, iqtisadiyyatın, elmin, hərbi texnologiyaların və dövlət idarəçiliyinin gələcəyini dəyişməkdədir. Bir neçə il əvvələ qədər fantastika hesab edilən imkanlar indi adi texnoloji məhsullara çevrilib. Süni intellekt mətn yazır, şəkil və video yaradır, proqramlaşdırır, mürəkkəb məsələləri təhlil edir, elmi tədqiqatlarda iştirak edir…
Lakin bu inkişafın arxasında getdikcə daha ciddi bir sual dayanır: İnsan özündən daha ağıllı texnologiya yaradarsa, gələcəkdə onun üzərində nəzarəti saxlaya biləcəkmi?..
Sİ-nin dünyanı ələ keçirməsi ifadəsi ilk baxışda robotların silahlanaraq insanlara qarşı müharibəyə başlamasını xatırladır. Amma alimlərin narahatlığı bundan daha genişdir. Söhbət insanın iqtisadi, informasiya, hərbi və siyasi sistemlər üzərində nəzarətini tədricən itirə biləcəyi ssenaridən gedir…
Hinton, Benjio və Rassel: Təhlükə fantastika deyil…
2023-cü il mayın 30-da Süni İntellekt Təhlükəsizliyi Mərkəzi (Center for AI Safety) tərəfindən yayımlanan qısa, lakin son dərəcə ciddi bir bəyanat dünya elmi ictimaiyyətində geniş rezonans doğurdu.
Sənəddə deyilirdi ki, süni intellektdən qaynaqlanan məhvolma riskinin azaldılması pandemiya və nüvə müharibəsi kimi qlobal təhlükələrlə yanaşı, dünya üçün prioritet olmalıdır.
Bəyanatı imzalayanlar arasında bu sahənin ən nüfuzlu simaları var idi:
Ceffri Hinton – süni neyron şəbəkələrinin inkişafına mühüm töhfələr vermiş alim, 2024-cü il Nobel Fizika mükafatı laureatı.
Yoşua Benjio – dərin öyrənmə sahəsinin aparıcı tədqiqatçılarından, 2018-ci il Türinq mükafatı laureatı.
Stüart Rassel – Kaliforniya Universitetinin professoru, süni intellektin insan nəzarətində saxlanılması üzrə tanınmış mütəxəssis.
Sem Altman – “OpenAI” şirkətinin rəhbəri.
Demis Hassabis – “Google DeepMind” şirkətinin rəhbəri.
Dario Amodei – “Anthropic” şirkətinin rəhbəri.
Bəyanatın əhəmiyyəti ondadır ki, onu imzalayanlar süni intellektin inkişafını kənardan müşahidə edən şəxslər deyil, bu texnologiyanın yaradılmasında bilavasitə iştirak edən alimlər və şirkət rəhbərləridir.
Xüsusilə Hintonun mövqeyi diqqətəlayiqdir. O, 2023-cü ildə “Google”-dan ayrıldıqdan sonra süni intellektin gələcək təhlükələri barədə daha sərbəst danışmağa başladığını bildirib. Onun əsas narahatlığı bu texnologiyanın bir gün insan zəkasını üstələməsi və nəzarətdən çıxması ehtimalıdır…
Bəs süni intellekt dünyanı necə ələ keçirə bilər?..
Burada bir neçə mümkün ssenaridən danışılır.
Birincisi, iqtisadi sistemlər üzərində həddindən artıq asılılıqdır. Təsəvvür edək ki, gələcəkdə bankların, birjaların, enerji şirkətlərinin və nəqliyyat şəbəkələrinin idarə olunması əsasən avtonom süni intellekt sistemlərinə həvalə edilir. Belə sistemlərdə ciddi səhv və ya nəzarət itkisi bütöv ölkələrin iqtisadiyyatına təsir göstərə bilər.
İkincisi, informasiya və ictimai rəy üzərində təsirdir. Süni intellekt milyonlarla insan üçün fərdiləşdirilmiş məlumatlar hazırlaya, saxta xəbərlər, saxta videolar və inandırıcı siyasi manipulyasiya materialları yarada bilər. Nəticədə insanların nəyə inanacağına və hansı qərarları verəcəyinə təsir göstərmək asanlaşa bilər.
Üçüncüsü, hərbi sistemlərdir. İnsan müdaxiləsi olmadan qərar qəbul edən silah sistemləri və hərbi idarəetmə mexanizmləri yanlış qiymətləndirmə nəticəsində təhlükəli eskalasiyaya səbəb ola bilər.
Dördüncüsü isə alimlərin ən çox müzakirə etdiyi nəzarətin itirilməsi ssenarisidir. Belə bir vəziyyətdə süni intellekt özünə verilmiş məqsədlərə çatmaq üçün insan nəzarətindən yayınmağa, fəaliyyətini gizlətməyə və onu dayandırmaq cəhdlərinə müqavimət göstərməyə cəhd edə bilər…
Burada vacib məqam budur: bunun üçün Sİ-nin insana xas şüura, hisslərə və hakimiyyət ehtirasına malik olması vacib deyil. Yanlış müəyyən edilmiş məqsəd, yüksək imkanlar və həddindən artıq səlahiyyət birləşdikdə təhlükə yarana bilər…
1 367 mütəxəssis də həyəcan təbili çalır…
2026-cı il avqustun 11-də Kaliforniya Universitetinin professoru Stüart Rasselin “The Guardian” qəzetində dərc olunan məqaləsi bu müzakirəni yenidən gündəmə gətirdi.
Rasselin yazdığına görə, aparıcı süni intellekt laboratoriyalarında – “OpenAI”, “Anthropic” və “Google” “DeepMind”də çalışan 1 367 tədqiqatçı və mühəndis qabaqcıl Sİ sistemlərinin inkişaf tempinin onları anlamaq və idarə etmək imkanlarını üstələyə biləcəyi barədə açıq məktub imzalayıb.
Məktubda texnologiyanın inkişafının təhlükəsizlik mexanizmləri ilə uzlaşdırılması, beynəlxalq əməkdaşlıq və ən güclü modellərin hazırlanmasına daha ciddi nəzarət tələb olunur.
Rassel xüsusilə süni intellektin özünü təkmilləşdirmə prosesinə diqqət çəkir. Əgər bir sistem özünün daha güclü versiyalarının yaradılmasında fəal iştirak etməyə başlasa, inkişaf sürəti insanın nəzarət imkanlarını üstələyə bilər. Bu, hələ baş vermiş qaçılmaz hadisə deyil, lakin elmi baxımdan ciddi araşdırılan riskdir…
400 alim beynəlxalq nəzarət orqanının yaradılmasını istəyir…
2026-cı il oktyabrın 13-də “Reuters” daha bir mühüm təşəbbüs barədə məlumat yayıb. 34 ölkədən təxminən 400 alim, o cümlədən Ceffri Hinton və Yoşua Benjio qabaqcıl süni intellekt sistemlərinə beynəlxalq nəzarət mexanizminin yaradılmasını təklif ediblər.
Onların təklifləri arasında ən güclü modellərin müstəqil təhlükəsizlik yoxlamasından keçirilməsi, ciddi insidentlərin beynəlxalq reyestrinin yaradılması və təhlükəli sistemlərin xarici şəbəkələrdən təcrid olunması var.
Alimlərin fikrincə, yalnız şirkətlərin könüllü təhlükəsizlik öhdəlikləri kifayət deyil. Dövlətlərin və beynəlxalq təşkilatların da bu prosesdə hüquqi məsuliyyəti olmalıdır.
Maraqlıdır ki, həmin dövrdə “OpenAI”, “Anthropic”, “Google”, “Meta”, “xAI” və “Nvidia” da ABŞ-da könüllü təhlükəsizlik təşəbbüsünə qoşulmuşdular. Lakin alimlər daha ciddi, hüquqi qüvvəyə malik beynəlxalq mexanizmə ehtiyac olduğunu vurğulayırlar…
Bəs hazırkı süni intellekt artıq insan nəzarətindən çıxıbmı?..
Xeyr. Bu məsələdə elmi faktlarla gələcək ehtimalları qarışdırmaq olmaz. 2026-cı ilin fevralında dərc edilmiş Beynəlxalq Süni İntellekt Təhlükəsizliyi Hesabatında (International AI Safety Report 2026) nəzarətin itirilməsi ehtimalı ayrıca araşdırılıb. Hesabatda qeyd olunur ki, müasir sistemlər uzunmüddətli planlaşdırma, avtonom fəaliyyət və nəzarət mexanizmlərindən yayınma ilə əlaqəli bəzi ilkin qabiliyyətlər nümayiş etdirirlər. Lakin hazırda onların insan nəzarətini tamamilə aradan qaldırmağa imkan verən səviyyəyə çatdığına dair sübut yoxdur…
Hesabat üç əsas şərtə diqqət çəkir:
-Süni intellekt insan nəzarətindən yayınmaq və mürəkkəb müstəqil planlar qurmaq imkanına malik olmalıdır.
-Onun məqsədləri insanın və cəmiyyətin maraqları ilə ziddiyyət təşkil etməlidir.
-İnsanlar həmin sistemə real dünyada ciddi zərər vurmağa imkan verən resurs və səlahiyyətlər verməlidirlər…
Bu şərtlərin birləşməsi gələcəkdə nəzarətin itirilməsi riskini yarada bilər.
Lakin alimlər bu ssenarinin nə vaxtsa reallaşacağı və ehtimalının nə qədər olduğu barədə ortaq fikrə malik deyillər…
Bütün alimlər təhlükənin qaçılmaz olduğuna inanırmı?..
Əlbəttə, yox. Bu məsələdə elmi ictimaiyyət arasında ciddi fikir ayrılığı mövcuddur. Məsələn, “Meta” şirkətinin tanınmış süni intellekt tədqiqatçısı Yann LeKun insan səviyyəsindən üstün intellektə malik sistemlərin mütləq şəkildə insanlara təhlükə yaradacağı fikrinə skeptik yanaşır. Onun mövqeyinə görə, müasir süni intellektin imkanları nə qədər artsa da, bu, onun müstəqil iradə və hakimiyyət ehtirası qazanacağı anlamına gəlmir. O, bir sıra təhlükəli halları ekzistensial təhlükədən daha çox texniki və mühəndislik problemləri kimi qiymətləndirir…
Deməli, süni intellektin bəşəriyyəti məhv edəcəyi barədə elmi konsensus yoxdur. Lakin bu ehtimalın tamamilə əsassız olduğunu iddia etmək də düzgün olmaz…
Bəşəriyyət öz yaratdığı texnologiyanın əsirinə çevrilə bilərmi?..
İnsanlıq tarixində texnologiyanın həm böyük nemətə, həm də təhlükəyə çevrilməsinin nümunələri az deyil. Nüvə enerjisi elektrik istehsalında istifadə olunur, eyni zamanda bəşəriyyətin məhvinə səbəb ola biləcək silahların yaradılmasına da imkan verib. Süni intellektin fərqi ondadır ki, o, təkcə fiziki gücü deyil, insanın düşünmə, təhlil və qərarvermə funksiyalarının müəyyən hissəsini də avtomatlaşdırır. Əgər dövlətlər, şirkətlər və hərbi strukturlar getdikcə daha çox qərarı süni intellektə həvalə etsələr, insanın həmin qərarlara təsir imkanları azala bilər…
Burada daha bir təhlükəli məqam var: ABŞ, Çin və digər böyük güclər arasında süni intellekt sahəsində rəqabət təhlükəsizlik məsələlərini ikinci plana keçirə bilər. Hər kəs rəqibindən əvvəl daha güclü sistem yaratmağa çalışarsa, beynəlxalq nəzarət və ehtiyatlılıq prinsipləri zərər görə bilər.
Beləliklə, süni intellektin dünyanı ələ keçirməsi mütləq robotların insanlara qarşı silahlı üsyanı demək deyil. Daha real müzakirə olunan təhlükə insanın öz əli ilə yaratdığı texnologiyaya həddindən artıq səlahiyyət verməsi, sonradan isə onun qərarlarına və fəaliyyətinə nəzarət etmək imkanını itirməsidir…
Nəticə etibarilə, süni intellektin bəşəriyyəti məhv etməsi qaçılmaz deyil. Amma dünyanın ən nüfuzlu alimlərinin, Nobel və Türinq mükafatı laureatlarının, aparıcı texnologiya şirkətlərinin rəhbərlərinin bu məsələni nüvə müharibəsi və pandemiya təhlükəsi ilə eyni müzakirə müstəvisinə çıxarması təsadüfi deyil.
Bəlkə də gələcəyin ən böyük sualı budur: İnsan özündən daha ağıllı maşın yaratmağı bacaracaqsa, həmin maşının insanın nəzarətində qalmasını da bacaracaqmı?..
