AWS: Beynəlxalq Humanitar Hüquqa Təhdid və ya Lazımi Texnoloji Təkamül?

Andi Faradilla Ayu Lestari
Təhlükəsizlik və sülh tədqiqatları üzrə mütəxəsis
____________________________________________________
“Hədəflərini seçmək və aradan qaldırmaq üçün insan əmrlərinə etibar etməyən bir öldürmə maşını” distopiya filmindən bir şey kimi səslənir. Bəziləri, bəşəriyyəti sağ qalmaq üçün mübarizə aparmağa məcbur edən texnologiyanın dayanılmaz gedişi səbəbindən cəmiyyətin əbədi qorxu vəziyyətində yaşadığı xəyali dünyanı təsəvvür etmək həyəcanlı görünsə də, digərləri alqoritmlərin gücə malik olması fikrini qəbul etməməyi seçə bilər. insanların taleyini müəyyənləşdirir. Məsələ ilə bağlı şəxsi hisslərimizdən asılı olmayaraq, biz qatil robotların (bundan sonra “müstəqil silah sistemləri” adlandırılacaq) artıq sadəcə kabus yaradan fantaziya olmadığını, bəziləri üçün onlar reallığımızın bir hissəsi olduğunu gözardı edə bilmərik. indi vaxt.

BQXK-ya görə, avtonom silah sistemləri (AWS) insan müdaxiləsi olmadan hədəfləri seçə (axtara, aşkarlaya, müəyyən edə, izləyə və ya seçə) və hücum edə (güc tətbiq edə, zərərsizləşdirə, zədələyə və ya məhv edə bilən) hər hansı silahlardır. Bununla belə, qeyd etmək lazımdır ki, bu silahlar hələ də insanların, xüsusən də aktivləşdirmə prosesində iştirakının müəyyən səviyyəsindən asılıdır. AWS-nin tarixini avtonom nəqliyyat vasitələrinin inkişafı ilə izləmək olar, lakin ölümcül muxtariyyət anlayışı yalnız 20 -ci əsrdə avtonom funksiyaları dəstəkləyən süni intellektin hərbi silahlara inteqrasiyası ilə məşhurlaşdı.

Hesabatlar göstərir ki, AWS bütün dünyada bir çox döyüş meydanlarında istifadə olunub. 1943-cü ildə Almaniya 1254 nəfərin ölümü ilə nəticələnən italyan döyüş gəmisinə qarşı “Fritz X” kod adlı idarə olunan gəmi əleyhinə sürüşmə bombalarından istifadə etdi. 1945-ci ildə ABŞ Okinavada Yapon esminesini, eləcə də Yantszı çayında neft və piket gəmisini batırmaq üçün “Yarasa” adlı avtonom bombalardan istifadə etdi. 1972-ci ildə lazerlə idarə olunan bombalar Vyetnam müharibəsi zamanı ABŞ Hərbi Hava Qüvvələri tərəfindən Şimali Vyetnamdakı bir sıra strateji hədəfləri, məsələn, Hai Phongdakı liman obyektlərini, Lăng Chidəki su elektrik stansiyasını, Thanhdakı "Əjdahanın Çənəsi" körpüsünü məhv etmək üçün yerləşdirildi. Hóa və Hanoydakı Paul Doumer körpüsü. 9/11-dən sonra pilotsuz təyyarələr Əfqanıstan, İraq, Yəmən, Somali, Pakistan və Suriyada terrorizmə qarşı qlobal müharibə ilə bağlı axtarış-hücum əməliyyatları üçün müntəzəm alətə çevrildi. Rusiya-Ukrayna Müharibəsində həm müdafiə, həm də hücum üçün on minlərlə kəşfiyyat təyyarəsi və gəzinti sursatları cəbhə xəttinə göndərildi.

Çoxsaylı hallar arasında İkinci Dağlıq Qarabağ Müharibəsi ən diqqətəlayiq olanıdır, çünki bu, müəyyən mənada AWS tərəfindən qazanılan ilk müharibə hesab olunur . Türkiyə istehsalı olan ən müasir PUA, “Bayraktar TB2” və İsrail istehsalı kamikadze pilotsuz uçan aparat “Harop”un istifadəsi sayəsində Azərbaycan Ermənistanın yerüstü hava hücumundan müdafiə sistemini darmadağın edə bildi. AWS Azərbaycanın hərbi qüdrətində mühüm rol oynasa da , qeyd etmək lazımdır ki, onlar müharibədə təkbaşına qalib gəlməyiblər – ən çox onlar yalnız Ermənistanın hava hücumundan müdafiə sistemindəki boşluqdan istifadə etməyə kömək ediblər. Müharibədə qalib gəlmək üçün ilk növbədə, ağır itkilərlə üzləşməsinə baxmayaraq, növbəti müqavimətin onların tərəfi üçün daha çox itki ilə nəticələnəcəyini anlayana qədər yenə də Ermənistan qüvvələrini tədricən zəiflətməyə nail olan Azərbaycan qoşunlarına məxsusdur.

Presedent hallara əsaslanaraq, əminliklə demək olar ki, AWS döyüş paradiqmasını əhəmiyyətli dərəcədə dəyişdirmək potensialına malikdir . Müharibə, adi silahlarla müqayisədə daha səmərəli, daha incə, daha ucuz, daha təhlükəsiz və ümumilikdə daha yaxşı olan müxtəlif dərəcəli muxtariyyətli silahlarla xarakterizə olunacaq. Nəticədə, dövlətlər həm döyüş meydanında üstünlük əldə etmək, həm də “dünyanın ən güclü dövləti” statusunu ələ keçirmək və ya saxlamaq üçün AWS-nin inkişafı üçün investisiya imkanları uğrunda mübarizə aparacaqlar. Bu, yeni silahlanma yarışına gətirib çıxara bilər - bu yarış yalnız hökumətlər və müdafiə sənayesi tərəfindən idarə olunmayacağından, şiddətinə görə Soyuq Müharibə dövrünün nüvə silahlanma yarışını üstələyə bilər. Kommersiya dəyəri enerji istehsalı ilə məhdudlaşan nüvə texnologiyasından fərqli olaraq, süni intellekt gündəlik həyatda daha geniş istifadə edildiyi üçün daha yüksək bazar dəyərinə malikdir. Bu səbəbdən, digər sənaye sahələrinin də qlobal rəqabəti daha da gücləndirərək AWS-nin inkişafına maraq göstərməsi ehtimal olunur.

AWS-nin təbiəti əhəmiyyətli təhlükəsizlik narahatlıqlarını artırdı . Hal-hazırda AWS hələ də insanların qavraya biləcəyi bir şəkildə işləsə də, insanların bir neçə onillikdən sonra geniş yayılmış inkişafı və övladlığa götürülməsi ilə ayaqlaşa bilməyəcəyi ehtimalı var. Bu, AWS-yə qarşı durmağın yeganə yolunun digər AWS-lərə etibar etmək olduğu bir vəziyyətlə nəticələnə bilər. Bu ssenaridə bütün dövlətlər qaçılmaz olaraq ən azı müdafiə məqsədləri üçün AWS-ni qəbul etməli olacaqlar. Problem ondadır ki, dövlətlər təkcə öz hərbi potensialını artıran digər dövlətlər səbəbindən deyil, həm də sistemlərin özlərinin gözlənilməzliyi səbəbindən təhlükəsizlik dilemması ilə üzləşirlər. Silah sistemlərinin alqoritmlərinin bir-birindən qidalandığı, düşmən olmayan hərəkətlərin təhdid kimi qəbul edilməsinə səbəb olan “flaş müharibəsi” riski var ki, bu da bütün sistemlərdən düşmən reaksiyalarına səbəb olacaq. Oxşar bir şey maliyyə və ticarət sektorunda baş verdi - "flash crash" kimi tanınan. İkisi arasındakı fərq ondadır ki, qəza zamanı fəlakətin qarşısını almaq üçün ticarət dayandırıla bilər, lakin ani bir müharibə başladıqdan sonra geri çəkilmək olmayacaq.

Çoxları üçün AWS dövlətlər tərəfindən lazımi şəkildə idarə olunmadığı təqdirdə təhlükəsizlik təhdidləri yaradacaq başqa bir hərbi alətdir. Bununla belə, daha fundamental bir məsələ var : AWS ilə biz ölüm-dirim qərarlarını – hüquqi və əxlaqi mühakimə tələb edən qərarları – vicdanı olmayan sensorlardan və proqram təminatından hazırlanmış cansız maşınlara həvalə edirik. Sivilizasiya yaranandan bəri insanlar bir-birini öldürür və sonradan mütəşəkkil müharibə aparırlar. Silahlı qarşıdurma zamanı əxlaqi prinsiplər qeyri-müəyyənləşir və öldürmə qərarları bir qədər normallaşdırılır və ya hətta həvəsləndirilir. Hətta o zaman belə, əxlaqi agentlik həmişə mövcuddur və insanlara həyat almağın əsaslılığını ölçməyə və belə bir qərarın ağırlığını dərk etməyə istiqamət verir. Bunun əksinə olaraq, vicdanın olmaması AWS-ni həyatın dəyərini nə başa düşməyə, nə də ona hörmət etməyə vadar edir, beləliklə, onun itirilməsinin əhəmiyyətini dərk edə bilmir. Buna görə də, robotlara nə qədər inkişaf etmiş olsalar da, kiminsə həyat və ölümünü təyin etmələrinə icazə vermək insan ləyaqətinə xəyanətdir .

İnsanlar AWS-nin aktivləşdirilməsinə cavabdehdirlər , lakin hədəflərin seçilməsi və hücumu prosesləri əsasən silahların sensorlarına (hərəkət, istilik və video əsasında) və proqram təminatına (sifətin və obyektin tanınması kimi) əsaslanır və bu, dəqiqliyi və məsuliyyəti şübhə altına alır. AWS . Açıq döyüş meydanlarında bu texnologiyalar hücumları dəqiq həyata keçirmək üçün kifayət ola bilər - əgər potensial nasazlıqlara və gözlənilməz davranışlara göz yumsaq, yəni. Bununla belə, əgər qarşıdurma məskunlaşan ərazilərdə baş verərsə, hərbi məqsədlərlə mülki obyektlər, döyüşənlər və qeyri-döyüşçülər, həmçinin aktiv döyüşçülər və döyüşənlər arasında fərq qoymaq, hətta insanlar üçün də olduqca çətin olacaq. Belə vəziyyətlərdə mülki əhali arasında itkilər və/yaxud qəbuledilməz girov ziyanı baş verdikdə, kimin cavabdeh olması ilə bağlı müzakirələr aparılacaq, çünki adi silahlardan fərqli olaraq, AWS-nin yerləşdirilməsi zamanı cavabdehlik zəncirinə dair aydınlıq azdır.

AWS ilə bağlı ən böyük problemlərdən biri onların beynəlxalq humanitar hüquq (IHL) müqavilələri ilə xüsusi olaraq tənzimlənməməsidir . Silah hazırlayan, yerləşdirən və istifadə edənlər döyüş əməliyyatlarının aparılması qaydalarına, xüsusən də fərqləndirmə, mütənasiblik və hücum zamanı ehtiyat tədbirləri qaydalarına, habelə insanlıq prinsiplərinə və ictimai vicdanın diktəsinə tabedirlər. . Bu qaydalar və adətlər insanlar üçün hüquqi öhdəliklər və məsuliyyət yaradır, lakin onlar silahlı münaqişələrdə istifadə olunan maşınlara, kompüter proqramlarına və ya silah sistemlərinə şamil edilmir. Buna görə də, AWS istifadəsinin IHL-ə uyğun olmasını təmin etmək insan döyüşçülərinin məsuliyyəti altına düşür. Əlavə olaraq, AWS-nin proqnozlaşdırıla bilənliyini və etibarlılığını müəyyən etmək üçün insan nəzarəti vacibdir və bütün inkişaf zamanı həyata keçirilməlidir (sistemə inteqrasiya edilmiş əməliyyat parametrləri IHL ilə uyğundurmu?), aktivləşdirmə (texniki göstəricilər əvvəlcədən müəyyən edilmiş əməliyyat parametrlərinə uyğundurmu?) , və əməliyyat mərhələləri (zəruri hallarda meyarları tənzimləmək və ya hücumu ləğv etmək mümkündürmü?).

AWS-nin IHL altındakı mövqeyinin digər çətin hissəsi “məsuliyyət boşluğu” dur . Əgər silahlı qüvvələri AWS-dən istifadə edərkən IHL-i pozarsa və ya AWS-nin yerləşdirilməsindən əvvəl texniki-iqtisadi sınaqlar keçirilməsə, dövlətlər məsuliyyətə cəlb edilə bilər. Bu, AWS nasazlıqlarına səbəb olan proqramlaşdırma xətalarına görə məsuliyyət daşıya bilən istehsalçılara da aiddir. Digər tərəfdən, inkişaf və yerləşdirmə mərhələlərində iştirak edən şəxslər bir az daha mürəkkəbdirlər, çünki sistemlərin IHL-ni pozmaq üçün qəsdən proqramlaşdırıldığı və ya ehtiyatsızlıqla aktivləşdirildiyi sübuta yetirilməsə, AWS tərəfindən həyata keçirilən müstəqil hərəkətlərə görə məsuliyyət daşıya bilməzlər. , məsul şəxsin potensial qüsurdan xəbərdar olmasına baxmayaraq.

Mövcud narahatlıqlara baxmayaraq, AWS-nin istifadəsini, inkişafını və istehsalını xüsusi olaraq tənzimləyən heç bir nüfuzlu qanunvericilik bazası yoxdur. Lethal AWS (LAWS) yalnız 2014-cü ildə BMT-nin Bəzi Adi Silahlar Konvensiyasında (CCW) müzakirə edilməyə başlandı , ardınca 2019-cu ildə hüquqi qüvvəsi olmayan 11 bənddən ibarət Rəhbər Prinsiplər qəbul edildi . Bundan əlavə, çoxtərəfli qaydalara dair dialoqlar hələ də davam edir. davam edir və ən azı 2026-cı ilə qədər yekunlaşması nəzərdə tutulmur .

AWS üçün qaydaların yaradılması prosesi ölkə mövqelərindəki fərqlərə görə son dərəcə ləng gedir və konsensusa çatmağı çətinləşdirir. Demək olar ki, bütün ölkələr AWS-nin yaratdığı potensial təhlükələrdən narahatlığını ifadə edib və problemin həlli üçün çoxtərəfli danışıqların vacibliyini etiraf ediblər. Buna baxmayaraq, yalnız 30 ölkə - əsasən kiçik dövlətlər və bəziləri hətta CCW Dövlətinin iştirakçısı deyillər - QANUNLARA qadağanı dəstəklədilər və yeni beynəlxalq müqaviləyə çağırdılar. Təəccüblü deyil ki, Avstraliya, Çin, Hindistan, İsrail, Rusiya, Cənubi Koreya, Türkiyə, Böyük Britaniya və ABŞ kimi AWS-nin inkişafına böyük sərmayə qoyan ölkələr status-kvonu qorumaq istədiklərini açıq şəkildə bildirdilər ( QANUNLARI qadağan etməyə çağıran, lakin inkişaf və istehsalla deyil, yalnız istifadə ilə məhdudlaşan Çin istisna olmaqla).

Qaldırılan bütün təhlükəsizlik, əxlaqi, etik və hüquqi narahatlıqları nəzərə alaraq, AWS-nin tamamilə “şər” olub-olmadığını soruşmağa dəyər. AWS-nin tərəfdarları insanların bu cür silahların yaratdığı riskləri necə şişirtməyə meylli olduğunu vurğulayırlar; AWS-ə qarşı müxalifət çox vaxt səhv fərziyyələrə və fərziyyələrə əsaslanır, hərbi və humanitar faydalara məhəl qoymur. AWS, qoşunların effektivliyinə xələl gətirmədən döyüşçülərə olan ehtiyacı azaldan qüvvə multiplikatoru kimi çıxış edərək dövlətin hərbi gücünü artırmaq potensialına malikdir; insan döyüşçüləri və adi döyüş sursatları ilə müqayisədə daha az girov ziyan riski ilə öldürücü, lakin daha dəqiq və cərrahi hücumların həyata keçirilməsi; döyüş meydanının əvvəllər əlçatmaz ərazilərə qədər genişləndirilməsi; hədəfləri tapmaq, düzəltmək, izləmək, hədəfə almaq və cəlb etmək, habelə zərbə nəticələrini qiymətləndirmək üçün istifadə olunan böyük həcmdə məlumatların çeşidlənməsi prosesini sürətləndirmək yolu ilə öldürmə zəncirlərinin effektivliyinin artırılması ; “küt, çirkli və ya təhlükəli” missiyalarda insan iştirakının minimuma endirilməsi və insan səhvi riskinin azaldılması, bununla da itkilərin azaldılması; və hərbi büdcələrə əhəmiyyətli dərəcədə qənaət edir. Bütün bu potensialları nəzərə alaraq, AWS-nin qadağan edilməsində israr etmək nəinki mümkünsüz və səmərəsiz olacaq, çünki istifadə edilən texnologiyanın əksəriyyəti mülki inkişaflardan qaynaqlanır, həm də xalqları yaşamaq üçün lazım olan texnoloji irəliləyişlərdən məhrum edir.

AWS tərəfdarları həmçinin insanların yüksək gərginlikli döyüş bölgələrindən “çıxarılmasının” və onların AWS ilə “əvəz edilməsinin” etik baxımdan daha məqsədəuyğun olduğunu iddia edirlər . Bununla, döyüşçülər təkcə onların rifahına zərər vuran müharibənin psixoloji təsirlərinə məruz qalmayacaq, həm də müharibə cinayətləri ehtimalını artıracaqlar. Bu, öz növbəsində, IHL-in əsas məqsədi olan mülki şəxslərə zərər vurma risklərini minimuma endirir. Üstəlik, verilmişdir ki, cansız maşınları qurban vermək əsgərləri qurban verməkdən daha çox mənəvi cəhətdən daha məqbuldur - baxmayaraq ki, hər iki variant əhəmiyyətli xərclərə səbəb olur: əsgərlərin qurban verilməsinin dəyəri həyat itkisi və sağ qalanların təqsiri ilə açıq-aşkar görünür, halbuki döyüş sursatı qurban vermək olar. uzunmüddətli iqtisadi və strateji nəticələri var.

Nəticə olaraq, AWS-ni müzakirə edərkən həm yaxşı, həm də pisi nəzərə almaq vacibdir. İndi həll edilməli olan problem bu əks perspektivlər üçün kompromis tapmaqdır. AWS-nin istifadəsini, inkişafını və istehsalını tamamilə qadağan etmək əvəzinə, diqqət AWS-nin necə istifadə edildiyini və orada insan iştirakının dərəcəsini tənzimləyən qanuni qüvvəyə malik alətlərin yaradılmasının sürətləndirilməsinə yönəldilməlidir. Bu beynəlxalq qaydalar AWS-dən istifadə zamanı insanların həmişə dövrədə (silahların hərəkətləri insan tərəfindən təhrik edilir) və/və ya dövrədə (silahların hərəkətləri insan tərəfindən ləğv edilə bilər) olmasına zəmanət verməlidir. operator). Bundan əlavə, AWS-nin istifadəsi ilə bağlı aydın və IHL-yə uyğun məhdudiyyətlər olmalıdır - onlar hansı məqsədlər üçün nəzərdə tutulub?; onlar yalnız digər muxtar sistemlərə yönəlib?; hansı hallarda onlar məqbuldur?; onların arxasında duran insanların niyyətlərinə uyğun fəaliyyət göstərmələrini necə təmin edə bilərik? işlər pis gedəndə kim cavab verməlidir?; və sairə. Nəhayət, bütün ölkələrin, xüsusən də AWS-nin inkişafı və tətbiqində mühüm rol oynayan ölkələrin bu qaydaları tanıması və onlara əməl etməsini təmin etmək üçün ciddi səylər göstərilməlidir.скачать dle 12.1