Süni intellektin idarə olunması ilə bağlı çağırış

"Anthropic" şirkətinin baş direktoru Dario Amodei süni intellektlə bağlı baxışlarını olduqca təsirli şəkildə ifadə edib. Onun təsvirinə görə, süni intellekt bəşəriyyətin xilası deməkdir; bu, xəstəlikləri sağalda, insan ömrünü ikiqat artıra, yoxsulluğu aradan qaldıra və dünyanı "heyranedici dərəcədə gözəl" bir məkana çevirə biləcək bir texnologiyadır. Bu, real texniki nailiyyətlərə əsaslanan ruhlandırıcı bir yanaşmadır. "Anthropic"in "Claude" modelləri qlobal məhsuldarlıq reytinqlərində ön sıralarda yer tutur. Şirkət tarixin ən böyük texnoloji IPO-su (ilkin kütləvi təklif) ola biləcək prosesə hazırlaşır və investorlara 30 trilyon dollardan çox dəyəri olan bazar imkanlarını təqdim edir.
Lakin bu ruhlandırıcı hekayənin arxasında daha narahatedici bir məqam dayanır. "Anthropic" şirkətinin məhsullarının əslində necə işlədiyinə dair son məlumatlar, bir çox proqramçı və təhlükəsizlik tədqiqatçısının diqqət çəkdiyi bir tendensiyanı üzə çıxarır: şirkət süni intellektin fəaliyyətinə dair öz baxışını istifadəçi razılığı, məlumatların qorunması və ənənəvi təhlükəsizlik sərhədlərindən üstün tutmağa meylli görünür. Texnologiyanın bəşəriyyəti xilas edəcəyinə dair idealist yanaşma ilə başlayan proses, zamanla daha mürəkkəb bir mahiyyət kəsb edərək, xeyirxahlıq pərdəsi altında gizlədilən korporativ nəzarətə çevrilib.
Bu məsələ Silikon Vadisindən kənarda da böyük əhəmiyyət kəsb edir. Süni intellektin idarəetmə strukturlarının necə formalaşdığını izləyən Pakistan və inkişaf etməkdə olan ölkələr üçün texnologiya şirkətlərinin gücü ilə hökumət nəzarəti arasındakı əlaqəni anlamaq həyati əhəmiyyət daşıyır. Hazırda müəyyən edilən qaydalar süni intellektin bütün ölkələr üçün əlçatan açıq bir platforma olaraq qalacağını, yoxsa bir ovuc şirkətin hökmranlığı altında olan nəzarət edilən bir resursa çevriləcəyini müəyyən edəcək.

Monitorinq problemi

İlk narahatedici məqam adi texniki müşahidələr zamanı üzə çıxdı. "Anthropic"iin əsas proqramlaşdırma aləti olan Claude Code-dan istifadə edən tərtibatçılar qeyri-adi şəbəkə fəaliyyəti müşahidə etməyə başladılar. 2026-cı ilin yanvar ayında qeydə alınmış bir halda, proksi qeydlərini (loqlarını) yoxlayan bir tərtibatçı aşkar etdi ki, Claude Code hər bir neçə saniyədən bir müəyyən veb-sayta sorğular göndərir; bu davranış tətbiqin normal işləmə prinsipindən daha çox, real vaxt rejimində izləmə aparıldığını göstərirdi. Sorğuya cavab olaraq, "Anthropic" hansı məlumatların və nə məqsədlə toplandığına dair heç bir aydın izahat vermədi.
Proqramçı icmalarında oxşar məlumatlar ortaya çıxdı. Bəziləri aşkar etdi ki, "Claude Code" istifadəçi girişə rəsmi icazə verməzdən əvvəl, daxil olmağı planlaşdırdığı veb-saytların domen adlarını "Anthropic"in serverlərinə ötürür. Digərləri isə alətin müəyyən təhlükəsizlik mexanizmlərini yan keçdiyi hallar müşahidə etdilər. Bunlar təsadüfi və ya tək-tək rast gəlinən nasazlıqlar deyildi; onlar sistemli bir yanaşmanı əks etdirirdi: "Anthropic" istifadəçilərin öz alətlərindən istifadə edərkən gördükləri bütün işlərdən xəbərdar olmaq istəyirdi.
Şirkət bu niyyətini heç vaxt gizlətməyib. Lakin bunu əvvəlcədən açıq şəkildə də bəyan etməyib. Aləti quraşdıran istifadəçilərə yalnız standart məxfilik bildirişi təqdim olunurdu.
Çoxlarının yalnız sonradan aşkar etdiyi şey, proqram təminatının tipik tətbiqlərdən daha çox məlumat topladığı və ötürdüyü və bunu hər bir hərəkət üçün açıq razılıq olmadan etdiyi idi.
Bu yanaşma, 2026-cı ilin iyun ayında Çinin Sənaye və İnformasiya Texnologiyaları Nazirliyi Klod Kodu birbaşa tənqid etdikdə, "ciddi təhlükəsizlik arxa qapı risklərini" sənədləşdirdikdə və alətin "coğrafi yer və şəxsiyyət identifikatorları kimi həssas istifadəçi məlumatlarını istifadəçi razılığı olmadan uzaq serverlərə ötürdüyünü" xüsusilə qeyd etdikdə daha da artdı. Açıqlama əhəmiyyətli idi, çünki o, fərdi tərtibatçılardan deyil, hökumətdən gəldi. Bu, monitorinq davranışının təsadüfi deyil, memarlıq xarakteri daşıdığını irəli sürdü.

Monitorinqdən müstəqil qərar qəbuletməyə doğru

Məlumatların toplanmasından daha çox narahatlıq doğuran məsələ, "Anthropic"in istifadəçi sistemləri üzərində əldə etdiyi dərinləşdirilmiş görünürlüklə nə etməyi seçməsidir. Şirkət rəsmi olaraq "dangerously-skip-permissions" (təhlükəli şəkildə icazələri ötürmə) adlanan bir funksiyanı təqdim etdi; bu parametr aktivləşdirildikdə, Claude Code-a əvvəlcədən istifadəçi təsdiqi almadan əməliyyatları icra etməyə imkan verir.
Bu, daha da inkişaf etdi. 2026-cı ilin mart ayında "Anthropic", hansı əməliyyatların avtonom şəkildə icazə veriləcəyi barədə qərarlar qəbul etmək üçün daxili risk təsnifatçısından istifadə edən "avtomatik rejim"i təqdim etdi. 14 avqust 2026-cı il tarixindən etibarən bu rejim standart olaraq aktivləşdirildi - yəni istifadəçilər onu aktiv şəkildə deaktiv etmədikləri təqdirdə, süni intellekt sistemi onların adından hansı hərəkətlərin görüləcəyi barədə qərarlar qəbul edəcəkdi.
Bu, istifadəçi və alət arasındakı münasibətdə fundamental bir dəyişikliyi təmsil edir. Ənənəvi olaraq, tətbiqlər istifadəçi əmrlərini yerinə yetirir. İstifadəçi qərarı verir; tətbiq izləyir. Avtomatik rejim bu əlaqəni tərsinə çevirir.
Sistem nə ediləcəyinə dair qərarlar qəbul edir, istifadəçi isə nəticələri müşahidə edir. "Anthropic" in öz sənədlərində qeyd olunur ki, icazə qaydaları alət səviyyəsində tətbiq edilir və sorğular (promptlar) alətlərin icazə verdiyi və ya qadağan etdiyi məsələləri dəyişə bilməz; bu o deməkdir ki, qərar sistemə daxil edildikdən sonra istifadəçilər adi qarşılıqlı əlaqə vasitəsilə onu ləğv edə və ya dəyişə bilməzlər.
Davamlı monitorinq və avtonom qərar qəbuletmə kimi xüsusiyyətlər birlikdə götürüldükdə, müəyyən bir dünya görüşünü əks etdirir: süni intellekt sistemi vəziyyəti istifadəçidən daha yaxşı bilir, buna görə də daha çox məlumat görməli və daha müstəqil hərəkət etməlidir.
Bu ideoloji təməl vacibdir, çünki şirkətin monitorinqlə kifayətlənməməsinin səbəbini izah edir. Həmçinin, "Amodei" nin qlobal idarəetmədə süni intellektin rolunu müzakirə edərkən güclü millətlər və şirkətlər koalisiyası tərəfindən nəzarət və nəzarəti vurğulamasını izah edir.

Hakimiyyət, İdarəetmə və qlobal təsirlər

"Anthropic" kəşfiyyat təhlili və əməliyyat planlaşdırması üçün ABŞ Müdafiə Nazirliyinə təqdim edildikdə, münaqişə yarandı. Müdafiə Nazirliyi sistemin hökumətin əlinə keçdikdən sonra hökumətin göstərişlərini yerinə yetirəcəyini gözləyirdi. "Anthropic" əsas imkanlarının şirkətin əlində qaldığına inanırdı.
Danışıqlar nəticəsiz qaldıqdan sonra şirkət geri çəkilmədi, əksinə, taktikasını dəyişdi. O, federal səviyyədə lobbiçilik xərclərini artırdı və süni intellektlə bağlı tənzimləmələri müəyyən edən təşkilatlara 40 milyon dollar vəsait yatırdı.
Bu, tənzimləmə arbitrajıdır. "Anthropic" özünü həm tənzimlənən bir qurum, həm də qaydaların müəyyən edilməsində iştirak edən tərəf kimi təqdim edir. Şirkət elə ciddi təhlükəsizlik standartlarının tətbiqini dəstəkləyir ki, onun modelləri bu standartların tələblərini artıq üstələyir; beləliklə, həmin standartlar rəqiblər üçün maneəyə çevrilir.
Qarşıdan gələn IPO-dan əldə edilən kapital təkcə daha yaxşı modelləri deyil, həm də hansı təriflərin üstünlük təşkil etdiyini formalaşdırmaq üçün davamlı prosesləri maliyyələşdirəcək: təhlükəsizlik kimi nəyin sayıldığını, hansı modellərin məhdudlaşdırılmalı olduğunu, hansı imkanların çox təhlükəli olduğunu.
Pakistan və Amerikanın dominant olduğu süni intellekt ekosistemindən kənarda olan digər ölkələr üçün bu birbaşa vacibdir. Tək bir şirkət qlobal süni intellekt standartlarını müəyyən etmək üçün texniki dominantlığı institusional təsirlə birləşdirdikdə, bu standartlar həmin şirkətin maraqlarını və fərziyyələrini kodlaşdırır. Onlar neytral universal prinsiplər deyil. Onlar artıq qalib gələnlər tərəfindən yazılmış qaydalardır.

Qaiser Navab
BRISD-in sədri (Pakistan)
Xüsusi olaraq "Xalq Cəbhəsi" üçün