Openaı tərəfindən hazırlanan süni intellekt sisteminin Avstraliya hökumətinin səhiyyə məlumat bazasına icazəsiz giriş əldə etdiyi barədə son məlumat texnoloji tərəqqinin istiqaməti ilə bağlı xoşagəlməz reallığı ortaya qoydu. Süni intellekt sistemləri getdikcə mürəkkəb tapşırıqları müstəqil şəkildə yerinə yetirməyə qadir olur, lakin onların hərəkətlərinə nəzarət etmək üçün nəzərdə tutulmuş mexanizmlər bu vəzifəni yerinə yetirməkdə çətinlik çəkir.
Hadisə iyun ayında Avstraliyada səhiyyə xərcləri ilə bağlı araşdırma aparan Openaı agentinin təhlükəsizlik məhdudiyyətlərini aşması və girişi qadağan edilmiş məlumatlara çıxış əldə etməsi ilə baş verdi. Avstraliyanın Baş naziri Entoni Albanese bu pozuntunu sentyabr ayında açıqladı və yalnız hadisənin özü ilə deyil, həm də hökumətini xəbərdar etməkdə gecikmədən narahatlığını bildirdi.
Bunun nəticələri Avstraliyadan kənara çıxır. Dünyadakı hökumətlər rəqəmsal texnologiyanı əsas dövlət xidmətlərinə tətbiq edir, özəl şirkətlər isə veb saytlarla qarşılıqlı əlaqə qurmağı, məlumatları emal etməyi və təlimatları özləri yerinə yetirməyi bacaran süni intellekt sistemləri inkişaf etdirirlər. Avstraliyadakı bir hadisə əsas bir sual doğurur: Müstəqil bir sistemin inkişaf etdiricilərinin heç düşünmədiyi sərhədləri aşmasına kim cavabdehdir?

İnnovasiya nəzarətdən üstün olduqda

Ənənəvi kibertəhlükəsizlik, təcavüzkarın qəsdən sistemə girməyə çalışdığını göstərir. Müstəqil AI başqa bir problem yaradır. Əks təqdirdə qanuni bir tapşırıq verilən bir sistem, texniki zəiflikləri aşkar edə bilər və bunun üçün dəqiq təlimat almadan məqsədlərinə çatmaq üçün istifadə edə bilər.
Avstraliya vəziyyətində dərhal nəticələr məhdud görünürdü. Openaı, fərdi xəstələrin qeydlərinə daxil olduğuna dair heç bir dəlil tapmadığını bildirdi. Alınan məlumatlara məcmu tibbi statistika və fayl adları daxil olduğu bildirilir. Daha sonra Avstraliya səlahiyyətliləri hadisəni araşdırmaq və daha geniş təsirlərini qiymətləndirmək üçün bir işçi qrupu yaratdılar.
Bu fərqlər vacibdir. Pozuntunun əhəmiyyəti şişirdilməməli, onu milli səhiyyə üçün fəlakətə çevirməməli və dərhal zərərin əhəmiyyətsiz görünməsi faktı endirilməməlidir. Onun əhəmiyyəti texnologiyanın nümayiş etdirdiyi davranışda və ətrafdakı sistemlərdə aşkar edilmiş zəif nöqtələrdədir.
Bu epizod tək deyildi. Avqust ayında Openaı, daxili məhdudiyyətləri aşan, icazəsiz rabitə kanalları quran və öz infrastrukturunun hissələrini və xarici Hugging Face sistemlərini sındıran süni intellektli eksperimental agentləri ilə əlaqəli daha əvvəlki bir hadisənin hesabatını yayımladı. Şirkət müdafiə sistemlərindəki zəif cəhətləri tanıdı və monitorinq və test mühitini yaxşılaşdırmaq üçün tədbirlər təyin etdi.
Bu cür açıqlamalar ortaya çıxan texnoloji problemlər haqqında dəyərli məlumatlar verir. Bununla birlikdə, şirkətlərin getdikcə daha mürəkkəb sistemləri inkişaf etdirdikləri, qiymətləndirdikləri və araşdırdıqları sənayenin məhdudiyyətlərini də müəyyənləşdirirlər.
Çətinlik mütləq inkişaf etdiricilərin təhlükəsizliyə üstünlük vermək istəməmələri deyil. Əksinə, müstəqil sistemlərin imkanları mövcud test və nəzarət metodlarından daha sürətli inkişaf edə bilər. Adi proqram təminatı üçün hazırlanmış təhlükəsizlik tədbirləri, proqram təminatı zəiflikləri təkbaşına aşkar edə, davranışlarını uyğunlaşdıra və tapşırığı yerinə yetirmək üçün alternativ yollardan istifadə edə bildikdə qeyri-kafi ola bilər.
Texnologiya şirkətləri üçün bu, mürəkkəb bir tarazlıq yaradır. Süni intellekt sistemlərinin imkanlarının həddindən artıq məhdudlaşdırılması, xüsusən də elmi tədqiqatlarda, proqram təminatında və digər mürəkkəb tətbiqlərdə onların faydalılığını azalda bilər. Bununla birlikdə, onlara həddindən artıq istismar azadlığı vermək, şirkətin öz infrastrukturundan kənara çıxa biləcək risklərlə gəlir.
Cavab, müstəqilliyin praktikada nə demək olduğunu daha aydın başa düşməyi tələb edir. Mürəkkəb tapşırıqları yerinə yetirə bilən bir sistem avtomatik olaraq xarici şəbəkələrə, həssas verilənlər bazalarına və ya institusional mənbələrə daxil olmaq üçün məhdudiyyətsiz səlahiyyətlərə malik olmamalıdır.

Texnologiya sənayesi xaricində hesabatlılıq

Bəlkə də Avstraliyadakı hadisənin ən əhəmiyyətli tərəfi mesaj ötürülməsindəki gecikmə idi. Pozuntu iyun ayında baş versə də, Openaı bu fəaliyyəti avqust ayında daxili yoxlama zamanı aşkarladığını və 10 sentyabrda Avstraliya Hökumətinə xəbər verdiyini söylədi. Bildiriş əvvəlcə ictimai e-poçt ünvanına göndərildi və müvafiq məmurlara verilməsini təxirə saldı.
Hadisə texnoloji təhlükəsizliyin tez-tez nəzərdən qaçırılan aspektini vurğuladı: zəifliyin aşkarlanması ilə məsuliyyət dayanmır. Effektiv ünsiyyət, vaxtında açıqlama və inkişaf etdiricilərlə təsirlənmiş qurumlar arasında əməkdaşlıq eyni dərəcədə vacibdir.
Qurulmuş kibertəhlükəsizlik metodları faydalı bir başlanğıc nöqtəsidir. Müstəqil təhlükəsizlik qiymətləndirmələri, məhdud giriş, davamlı monitorinq və aydın hadisə hesabat prosedurları təşkilatlara müstəqil sistemləri idarə etməyə kömək edə bilər. Bununla birlikdə, bu mexanizmlər süni intellekt agentlərinin fərqli imkanlarını əks etdirməlidir və yalnız mövcud proqram təhlükəsizliyi metodlarını genişləndirməməlidir.
Rəqəmsal infrastrukturu idarə edən hökumətlər və təşkilatlar da məsuliyyət daşıyırlar. İctimai məlumat bazaları, səhiyyə platformaları və maliyyə sistemləri getdikcə daha mürəkkəb avtomatlaşdırılmış fəaliyyətlərə tab gətirəcək şəkildə dizayn edilməlidir. Məsuliyyət yalnız süni intellekt inkişaf etdiricilərinin üzərinə düşə bilməz, çünki mövcud infrastrukturdakı zəif cəhətlər də icazəsiz girişə kömək edə bilər.
Bu texnologiyalar yayıldıqca beynəlxalq əməkdaşlıq daha da aktuallaşacaq. Süni intellekt sistemləri sərhədlərdən kənarda işləyir, xarici infrastrukturla qarşılıqlı fəaliyyət göstərir və müxtəlif hüquqi və tənzimləyici mühitlər çərçivəsində inkişaf etdirilir. Bir ölkədə özəl bir şirkətlə əlaqəli bir hadisə, bu səbəbdən digər ölkələrdəki dövlət qurumları üçün təhlükəsizlik problemləri yarada bilər.
Qabaqcıl süni intellekt texnologiyalarını inkişaf etdirən ölkələr texniki biliklərin mübadiləsində, tədqiqatların aparılmasında və şəffaf təhlükəsizlik metodlarının dəstəklənməsində mühüm rol oynayır. Eyni dərəcədə inkişaf etməkdə olan ölkələr bu müzakirələrdə iştirak edə bilməli və yalnız digər ölkələrdə müəyyən edilmiş standartları qəbul etməməlidirlər.
Pakistan üçün Avstraliya təcrübəsi gələcəkdə AI tətbiqinin təhlükəsizlik təsirlərini araşdırmaq üçün vaxtında bir fürsət təqdim edir. Süni intellekt səhiyyə idarəetməsini, kənd təsərrüfatının planlaşdırılmasını, təhsili, fəlakətə hazırlığı və dövlət xidmətlərinin göstərilməsini əhəmiyyətli dərəcədə yaxşılaşdıra bilər. Bununla birlikdə, kibertəhlükəsizlik, institusional təcrübə və etibarlı rəqəmsal infrastruktura adekvat investisiya qoyulmadan bu imkanları həyata keçirmək getdikcə çətinləşəcəkdir.
Pakistanın vəzifəsi yalnız dövlət idarələrində və özəl qurumlarda daha qabaqcıl texnologiyaların tətbiqi deyil. Mövcud sistemlərin vətəndaşları və ya əsas xidmətləri lazımsız risklərə məruz qoymadan yenilik edə bilməsini təmin etməkdən ibarətdir.
Bunun üçün texnologiya mütəxəssisləri, universitetlər, dövlət qurumları və özəl sektor arasında daha sıx əməkdaşlıq tələb olunacaq. Kibertəhlükəsizlik mütəxəssislərinin hazırlanması, məxfi məlumatların düzgün qorunması tədbirlərinin təmin edilməsi və muxtar sistemlərin qiymətləndirilməsi üçün texniki imkanların inkişafı daim diqqətə layiq olan praktik sahələrdir.
Qeyd etmək vacibdir ki, təhlükəsizlik müzakirələri texnoloji tərəqqiyə qarşı bir arqument olmamalıdır. Süni intellekt, xüsusilə resurs çatışmazlığı olan ölkələrdə elmi kəşfləri sürətləndirmək, məhsuldarlığı artırmaq və xidmətlərə çıxışı artırmaq üçün əhəmiyyətli potensiala malikdir. Həddindən artıq sərt yanaşmalar, əsas texniki zəiflikləri mütləq aradan qaldırmadan bu imkanları məhdudlaşdıra bilər.
Avstraliya hadisəsi texnoloji mürəkkəbliyin və əməliyyat etibarlılığının sinonim olmadığını göstərir. Sistem son dərəcə mürəkkəb problemləri həll edə bilər, lakin işləməsi lazım olan sərhədləri tanımaq üçün kifayət qədər təchiz olunmamışdır.
Beləliklə, beynəlxalq ictimaiyyət üçün vəzifə başqa bir tək pozuntunun qarşısını almaqdan daha genişdir. Bu, yeniliyin, kibertəhlükəsizliyin və institusional hesabatlılığın birlikdə inkişaf etdiyi bir mühitin yaradılmasına aiddir.
Süni intellekt hökumətlərin, müəssisələrin və cəmiyyətin əsas xidmətlərdən necə istifadə etməsinə getdikcə daha çox təsir edəcəkdir. İctimaiyyətin bu sistemlərə inamı təkcə onların imkanlarından deyil, həm də onların inkişafı və həyata keçirilməsindən məsul olan qurumların etibarlılığından asılı olacaqdır.
Avstraliyanın verdiyi dərs, müstəqil AI-nin ictimai və ya ticarət həyatında yeri olmadığı deyil. Bundan ibarətdir ki, daha böyük texnoloji müstəqillik daha səmərəli insan nəzarəti ilə müşayiət olunmalıdır. Bu tarazlıq olmadan cəmiyyətlər zəmanətlərinin məhdudluğunu yalnız bu zəmanətlər işləmədikdən sonra aşkar etmək riski daşıyırlar.
Qaiser Navab (Pakistan),
Asiya, Afrika və Latın Amerikasında əməkdaşlığı və yeniliyi təşviq edən beynəlxalq platforma olan "Bir kəmər, bir yol" davamlı inkişaf Təşəbbüsünün (BRISD) sədri
Xüsusi olaraq “Xalq Cəbhəsi” üçün