Yeni Doktrina: Süni İntelekt İnsana Qarşı

Dəhşətli bir istehza ortaya çıxdı: döyüş meydanında insan səhvlərini azaltmaq üçün nəzərdə tutulan texnologiya müharibəni daha gözlənilməz və təhlükəli edə bilər. Bu gün süni intellektdə qlobal silahlanma yarışı klassik məhbus dilemmasını əks etdirir; Hər kəs muxtar silahları məhdudlaşdırmağa razılaşsa, bütün dövlətlər daha yaxşı olardı, lakin heç kim bunu ilk növbədə başqalarına etibar etmir. Nadir materiallar və mərkəzləşdirilmiş nəzarət tələb edən nüvə arsenallarından fərqli olaraq. AI silahları mərkəzləşdirilməmiş və ikili istifadəlidir. İnkişaf etmiş hesablamaya malik istənilən ölkə potensial olaraq öz öldürmə maşınını yarada bilər. Bu, yayılmasını həyəcanverici dərəcədə asanlaşdırır. Yoxlanılmayandan sonra süni intellektlə işləyən dron dəstələri “nüvə silahlarından daha çətin olacaq”. Əslində, avtonom silahları idarə edən proqram təminatı bir çox aktorlar tərəfindən kopyalana və dəyişdirilə bilər və hər bir sülhməramlı ssenarini potensial tələyə çevirə bilər.

Maşınları silahlandırmaq üçün yarış

Hər bir böyük ordu qabaqdadır. ABŞ Müdafiə Nazirliyi indi yüzlərlə süni intellekt layihəsini həyata keçirir; 2024-cü ilə qədər 800-dən çox aktiv proqram var idi və bu proqramlar süni intellektlə bağlı tədqiqatlar üçün təxminən 1,8 milyard dollar büdcəyə ayrılmışdır. Onun yeni doktrinası hər bir ordu bölməsinin 1000-ə yaxın avtonom pilotsuz uçan aparata komandanlıq etməsini nəzərdə tutur ki, bu da on il əvvəl eşidilməyən bir dəstə qüvvədir. Çin, öz növbəsində, açıq şəkildə süni intellektə gələcək mübarizənin mərkəzi kimi baxır. Çinli mühəndislər bu yaxınlarda “ özünü sağaldan ” dron dəstələrini nümayiş etdirdilər: bir dronun əlaqəsi tıxandıqda, onlarla insan müstəqil olaraq marşrutunu dəyişdi və missiyasını tamamladı. İsrail də erkən qəbul edəndir; IDF AI-ni nəzarət və hədəfləmə sistemlərinə inteqrasiya edir. Müşahidəçilər qeyd edirlər ki, o, avtomatlaşdırılmış analiz vasitəsilə Qəzzada qeyri-adi dərəcədə yüksək sayda hədəfi müəyyən edib . Bu gün böyük dron donanmasına malik olmayan Rusiya əsas diqqəti süni intellektə (inkişaf etmiş tıxanma, kibermüdafiə və süni intellektlə dəstəklənən dron əleyhinə silahlar) yönəldir . Bununla belə, o, öz avtonom robotlarını və sursatlarını sınaqdan keçirir.

Bir sözlə, dünyanın ən böyük gücləri (və bir çox kiçik dövlətlər) döyüşün çox hissəsini maşınların gördüyü gələcək üçün effektiv şəkildə məşq edirlər. Bu miqyas keçmiş silahlanma yarışından fərqlidir. Müqayisə üçün nəzərə alın ki, qlobal nüvə ehtiyatları minlərlə döyüş başlığı ilə ölçülür; Süni intellekt silahları demək olar ki, bir gecədə onlarla və ya yüzlərlə ölkəyə yayıla bilər. Bir mütəxəssisin qeyd etdiyi kimi, avtonom dronun urana ehtiyacı yoxdur; kod lazımdır. Smartfon və ya avtomobilin naviqasiya sistemini gücləndirən eyni çip döyüş üçün yenidən proqramlaşdırıla bilər. Bu texnologiyanın nəzarətsiz yayılması “ dünyada daha çox qeyri-sabitliyə və münaqişəyə səbəb ola bilər”. Əslində, biz hər bir iddialı rejimə müasir müharibəyə arxa qapı vermişik.

Amerika Birləşmiş Ştatları: Geniş muxtariyyətə can atır. Pentaqon pilotsuz təyyarələrdən tutmuş döyüş meydanı alqoritmlərinə qədər hər şeydə süni intellekt tətbiq edir. Müharibə oyunlarında o, ucuz PUA-ların qoşunları müşayiət edəcəyini güman edir və hətta döyüş əməliyyatları üçün “sadiq qanadlı” pilotsuz təyyarələr buraxmağa başlayıb.

Çin: AI üstünlüyünə sadiqdir. PLA-nın “Ağıllı Ordu” strategiyası resursları muxtar sualtı qayıqlara, tanklara və təyyarələrə tökür. Hətta Çindəki kommersiya süni intellekt rəhbərləri də ordu ilə əməkdaşlıq edirlər. Dövlət mediası tıxanma hücumu rabitəni dayandırdıqda dronların müstəqil olaraq missiyanı yenidən planlaşdırdığı son təlimlərlə öyünür.

İsrail: Erkən AI inteqratoru. İsrailin müdafiə şirkətləri bortda maşın öyrənməsi ilə silahlı pilotsuz uçan aparatlar və sursat istehsal edir. Qəzza kampaniyası, təfərrüatların məxfi olmasına baxmayaraq, süni intellektlə (on minlərlə yaraqlının işarələndiyi bildirilir) hədəfləməni aşkar etdi.

Rusiya: Müdafiə vurğusu. Xərclənən dron donanmalarına qısa olaraq, Rusiya kiber və elektron müharibədə (düşmən şəbəkələrini tıxanma) süni intellektə diqqət yetirir. O, həmçinin süni intellekt rəhbərliyi ilə yer robotları və raket ələ keçirən qurğular hazırlayır.

Strateji nəticələri ağırdır. Klassik təhlükəsizlik dilemması steroidlərdədir: hər tərəf kənarda qalmamaq üçün yarışır, lakin hər yeni silah hər kəsin riskini artırır. Süni intellekt üçün açıq silahlara nəzarət müqavilələri yoxdur. Özünü idarə edən dronda zəng etmək üçün “qaynar xətt” yoxdur; robot tankın atəşkəs rəngləri yoxdur. Əgər bir millət arxada olduğuna inanaraq, muxtar gözətçilərin məhsulunu yerləşdirirsə, onun rəqibləri əvvəlcə özlərini işə salmaq məcburiyyətində qala bilərlər. Qorxu kaskaddır: süni intellekt mülki strukturu səhv müəyyənləşdirir, dövlət bütün arsenalı ilə cavab verir və diplomatlar müdaxilə etməzdən əvvəl qəflətən atışma daha geniş münaqişəyə çevrilir.

Məhdudlaşdırma səyləri indiyədək dalana dirənib. Onlarla ölkə BMT-də “qatil robotlar”a qadağa qoyulmasına çağırıb, lakin geridə qalmaq qorxusu ilə idarə olunan böyük dövlətlər buna istəksiz qalırlar. Bu arada, hətta qeyri-dövlət aktorları da imkanları görür: məsələn, İŞİD və Huti üsyançıları hazır vəziyyətdə olan kiçik dronlardan istifadə etməyə başlayıblar. Əgər aparıcı dövlətlər səmanı süni intellektlə dronlar ilə doyursalar, texnoloji bilikləri olan üsyançılar və ya milislər özlərinin daha ucuz avtonom dronlarını yerləşdirməyə cəhd edə bilərlər. Dilemma böyüyür: bir tərəf geri çəkilsə, rəqiblər boşluqdan istifadə edə bilər.

Bəlkə də təəccüblüdür ki, ABŞ və Çin liderləri əməkdaşlıqdan danışdılar. Keçmiş dövlət katibi Henri Kissincer ABŞ və Çinə xəbərdarlıq edib ki, fəlakətdən qaçmaq üçün süni intellektə birgə müraciət etsinlər. 2023 Bayden-Xi görüşü hətta süni intellekt təhlükəsizliyi üzrə birgə işçi qruplarını işə saldı. Lakin praktikada bu səylər “ silahlanma yarışına arxa plana keçib”. Hər bir tərəf açıq şəkildə etiraf edir ki, süni intellektlə aktivləşdirilmiş sürət çəkindirməni qorumaq üçün vacibdir. Nəticə təhlükəli bir istehzadır: biz təhlükəsizlik üçün bu sistemlərə nə qədər çox güvəniriksə, ilk növbədə onlardan istifadə etməmək üçün kiməsə etibar etməyə bir o qədər az hazırıq.

A World on Edge

Beynəlxalq ictimaiyyət üçün nəticələr soyuqdur. Tezliklə kiberqəza ilə müharibə aktı arasındakı xəttin ülgüc kimi incə olduğu bir reallıqla qarşılaşa bilərik. Təsəvvür edin ki, avtomobil karvanını düşmən sütunu ilə səhv salan və hər hansı bir insan müdaxilə etmədən atəş açan avtonom müşahidə pilotsuz təyyarəsi. Mövcud doktrinalara görə, belə bir zərbə tam intiqam almağa səbəb ola bilər. Nəzəriyyə olaraq, keçmişdə diplomatlar tərəfindən bir yanlış ünsiyyət yaxalanmış ola bilərdi; AI ilə reaksiyalar kompüter sürətində baş verir. Bir müdafiə analitikinin istehza etdiyi kimi, süni intellekt insanların əksəriyyəti təhlükənin mövcud olduğunu dərk etmədən növbəti müharibəyə başlaya bilər.

Daha da pisi, texnologiya gözlənilməz şəkildə yayılır. Analitiklər xəbərdarlıq edir ki, Çin və ya başqaları öz süni intellekt silahı üzrə nou-haularını müttəfiq rejimlərə paylaşa və ya hətta sata bilərlər. Təsəvvür edin ki, Çin və ya Rusiyanın ağıllı dronlarını istifadə edən kiçik dövlətlər şəbəkəsi. Onsuz da İran, Türkiyə və hətta yaramaz dövlətlər kimi ölkələr öz təcrübələrini köçürərək inkişaf etdirə bilərdilər. Faktiki olaraq, silahlanma yarışı böyük dövlətlərdən kənarda genişlənir. Bu qlobal yayılma o deməkdir ki, hər bir xalqın fasilə verməyə daha az həvəsi var: əgər hər hansı başqa dövlət bizim təmkinimizdən qazanc əldə edə bilsə, biz tərksilah olmaq istəmirik.

Oxucular üçün bir nəticə kəskindir: əməkdaşlıq isteğe bağlı deyil, təcilidir. Tarix göstərir ki, liderlər müharibə istəməyəndə belə qəzalar baş verə bilər. Soyuq Müharibədən fərqli olaraq, bizdə süni intellekt üçün məcburi müqavilə və ya yoxlama rejimi yoxdur. “Məhkum dilemması” realdır və ona qalib gəlməyin yeganə yolu inamsızlıq dövranını qırmaqdır. Əgər dövlətlər əməkdaşlıq etmək üçün bir yol tapa bilmirlərsə, sabahkı müharibələr həqiqətən də əsgərlər tərəfindən deyil, ən pisə hazırlaşan maşınlar tərəfindən aparıla bilər. Böyük sual ağrılı şəkildə aydındır: maşınlar bunu qanla etməzdən əvvəl bəşəriyyət bu yarışın qaydalarını yenidən yazmağa nail olacaqmı?скачать dle 12.1