Ջոզեֆ Նայ․ Արհեստական բանականությունն ու ազգային անվտանգությունը

Հոդվածը հրապարակվում է Project Syndicate կայքի հետ համագործակցության շրջանակում։

Ջոզեֆ Նայ

Մարդը գործիք պատրաստող բանական էակ է։ Բայց կարո՞ղ ենք արդյոք մենք վերահսկել մեր պատրաստած գործիքները: Երբ Ռոբերտ Օփենհայմերը և այլ ֆիզիկոսներ 1940-ականներին ստեղծեցին միջուկային զենքը, նրանք վախենում էին, որ իրենց գյուտը կարող է հանգեցնել մարդկության ոչնչացմանը: Դա դեռ տեղի չի ունեցել, սակայն միջուկային զենքի վերահսկումն այդ ժամանակվանից ի վեր մշտական մարտահրավեր է:

Այժմ բազմաթիվ գիտնականներ դիտարկում են արհեստական բանականությունը՝ ալգորիթմներ և ծրագրաշարեր, որոնք հնարավորություն են տալիս մեքենաներին կատարել մարդկային ինտելեկտ պահանջող առաջադրանքներ, ինչը նույնքան փոխակերպիչ գործիք է: Ինչպես ընդհանուր նշանակության նախկին տեխնոլոգիաները, արհեստական բանականությունը ևս ունի բարու և չարի հսկայական ներուժ: Քաղցկեղի հետազոտության հարցում այն կարող է մի քանի րոպեում ուսումնասիրել և ամփոփել ավելի շատ ուսումնասիրություններ, քան մարդկային թիմը՝ ամիսների ընթացքում: Նմանապես, այն կարող է արժանահավատորեն կանխատեսել սպիտակուցի շերտերի ձևերը, որոնց բացահայտումը հետազոտողներից երկար տարիներ կպահանջեր։

Բայց արհեստական բանականությունը նաև նվազեցնում է գինն ու մուտքի խոչընդոտները հանցագործների, ահաբեկիչների և այլ չար մտադրություն ունեցողների համար, որոնք կարող են վնաս պատճառել: Ամերիկյան RAND հետազոտական կենտրոնը վերջերս հրապարակված ուսումնասիրությունում նշում է, որ «ջրծաղկի պես վտանգավոր վիրուսի վերածնման արժեքը կարող է լինել ընդամենը 100,000 դոլար, իսկ դրա դեմ բարդ պատվաստանյութ մշակելը՝ ավելի քան 1 մլրդ դոլար»:

Ավելին, որոշ փորձագետներ անհանգստանում են, որ արհեստական բանականությունն այնքան կզարգանա, որ կսկսի կառավարել մեզ։ Որքա՞ն ժամանակ կպահանջվի մշակելու նման գերխելացի մեքենաներ, որ հայտնի են որպես արհեստական ընդհանուր բանականություն։ Այս առումով գնահատականները տատանվում են մի քանի տարուց մինչև մի քանի տասնամյակ: Բայց ինչ էլ որ լինի, արհեստական բանականության այսօրվա «ոչ ընդհանուր» վիճակից աճող ռիսկերը ավելի ու ավելի մեծ ուշադրություն են պահանջում:

40 տարի շարունակ Aspen Strategy Group-ը (պետական նախկին պաշտոնյաներից, գիտնականներից, գործարարներից և լրագրողներից բաղկացած խումբ) ամեն ամառ հանդիպում է՝ քննարկելու ազգային անվտանգության հիմնական խնդիրները: Անցած նիստերն անդրադարձել են այնպիսի թեմաների, ինչպիսիք են միջուկային զենքը, կիբերհարձակումները և Չինաստանի վերելքը: Այս տարի նրանք կենտրոնացել են ազգային անվտանգության ոլորտում արհեստական բանականության ազդեցության վրա՝ ուսումնասիրելով թե՛ օգուտները, թե՛ ռիսկերը:

Առավելություններից են հետախուզական տվյալների ահռելի քանակությունը տեսակավորելու ավելի մեծ կարողությունը, վաղ նախազգուշացման համակարգերի ուժեղացումը, լոգիստիկ բարդ համակարգերի բարելավումն ու համակարգչային կոդերի ստուգումը՝ կիբերանվտանգությունը բարելավելու համար: Բայց կան նաև մեծ ռիսկեր, ինչպիսիք են ինքնակառավարվող զենքերի առաջընթացը, ծրագրավորման ալգորիթմներում պատահական սխալները և թշնամական AI-ները, որոնք կարող են թուլացնել կիբերանվտանգությունը:

Չինաստանը հսկայական ներդրումներ է կատարում արհեստական բանականության սպառազինությունների մրցավազքում՝ ունենալով կառուցվածքային որոշ առավելություններ: Արհեստական բանականության երեք հիմնական ռեսուրսները հետևյալն են՝ մոդելներ պատրաստելու տվյալներ, խելացի ինժեներներ՝ ալգորիթմներ մշակելու համար, և համակարգչային հզորություն՝ դրանք գործարկելու համար:

Տվյալներին հասանելիություն ստանալու մասով Չինաստանը նվազ կաշկանդված է (թեև պետական գաղափարախոսությունը սահմանափակում է մատչումը տվյալների որոշակի բազաների)։ Չինաստանը ունի նաև երիտասարդ, խելացի ինժեներներ: Սակայն Միացյալ Նահանգներին այն զիջում է հատկապես առաջադեմ միկրոչիպերի հարցում, որոնք ապահովում են արհեստական բանականության համակարգչային հզորությունը:

Ամերիկյան վերահսկողությունն արտահանումների վրա սահմանափակում է Չինաստանի մատչումն այս առաջատար չիպերին, ինչպես նաև դրանց պատրաստող հոլանդական թանկարժեք լիտոգրաֆիկ մեքենաներին: Ասպենում փորձագետները միաձայն էին, որ Չինաստանը մեկ կամ երկու տարի հետ է ԱՄՆ-ից։ Բայց իրավիճակը մնում է անկայուն: Չնայած նախագահներ Ջո Բայդենը և Սի Ծինփինը, երբ հանդիպեցին անցյալ տարվա աշնանը, պայմանավորվեցին երկկողմ քննարկումներ անցկացնել արհեստական բանականության վերաբերյալ։ Սակայն Ասպենում քիչ լավատեսություն կար արհեստական բանականության սպառազինության վերահսկման հեռանկարների վերաբերյալ:

Հատկապես լուրջ վտանգ են ներկայացնում ինքնակառավարվող զենքերը։ ՄԱԿ-ում ավելի քան մեկ տասնամյակ դիվանագիտությունից հետո երկրները չեն կարողացել համաձայնության գալ ինքնակառավարվող մահաբեր զենքի արգելքի շուրջ: Միջազգային մարդասիրական իրավունքը պահանջում է, որ զինվորականները հստակ տարբերակում դնեն զինված անձանց և խաղաղ բնակիչների միջև, իսկ Պենտագոնը վաղուց պահանջում է, որ մարդը լինի որոշումների կայացման օղակում՝ նախքան զենքերը կկրակեն։ Բայց որոշ իրավիճակներում, օրինակ՝ հրթիռներից պաշտպանվելու համար, մարդկային միջամտության համար ժամանակ չկա:

Քանի որ համատեքստը կարևոր է, մարդիկ պետք է խստորեն (օրենսդրորեն) սահմանեն, թե ինչ կարող են և ինչ չեն կարող անել զենքերը: Այլ կերպ ասած, մարդը պետք է լինի «օղակի վրա», այլ ոչ թե «օղակում»: Սա միայն տեսական հարց չէ։ Ռուս-ուկրաինական պատերազմում ռուսները խլացնում են ուկրաինական զինված ուժերի ազդանշանները՝ ուկրաինացիներին ստիպելով ծրագրավորել իրենց սարքերն այնպես, որ դրանք կրակելու ինքնավար ու վերջնական որոշումներ կայացնեն։

Արհեստական բանականության ամենասարսափելի վտանգներից մեկը կենսաբանական պատերազմում կամ ահաբեկչության մեջ դրա կիրառումն է: 1972-ին, երբ երկրները համաձայնեցին արգելել կենսաբանական զենքը, ընդհանուր համոզմունքն այն էր, որ նման միջոցներն օգտակար չեն՝ «հետհարվածի» վտանգի պատճառով: Բայց սինթետիկ կենսաբանության դեպքում հնարավոր է ստեղծել այնպիսի զենք, որը ոչնչացնում է մի խմբին, բայց ոչ մյուսին: Կամ ահաբեկիչը, որը մատչում ունի լաբորատորիայում գտնվող նյութերին, կարող է պարզապես ցանկանալ սպանել որքան հնարավոր է շատ մարդու, ինչպես դա արեց «Աում Շինրիկյո»-ի գործողությունները Ճապոնիայում 1995-ին: (Նրանք օգտագործում էին սարին գազը, որը վարակիչ չէ, մինչդեռ դրա ժամանակակից համարժեքը կարող է օգտագործել արհեստական ինտելեկտը՝ վարակիչ վիրուս մշակելու համար):

1968-ին պետությունները համաձայնության եկան միջուկային զենքի չտարածման պայմանագրի շուրջ, որն այժմ ունի 191 անդամ: Ատոմային էներգիայի միջազգային գործակալությունը պարբերաբար ստուգում է ներքին էներգետիկ ծրագրերը՝ հաստատելու, որ դրանք օգտագործվում են բացառապես խաղաղ նպատակներով։ Եվ չնայած Սառը պատերազմի ժամանակվա խիստ մրցակցությանը՝ միջուկային տեխնոլոգիաների առաջատար երկրները 1978-ին համաձայնեցին զսպվածություն ցուցաբերել առավել զգայուն տեխնոլոգիաների և գիտելիքների արտահանման հարցում: Այս նախադեպը արհեստական բանականության համար որոշ ուղիներ է հուշում, թեև ակնհայտ տարբերություններ կան երկու տեխնոլոգիաների միջև:

Փաստ է, որ տեխնոլոգիան ավելի արագ է ընթանում, քան քաղաքականությունը կամ դիվանագիտությունը, հատկապես, երբ այն պայմանավորված է մասնավոր հատվածում շուկայական խիստ մրցակցությամբ: Եթե Aspen Strategy Group-ն այս տարվա հանդիպմանը եկավ մեկ հիմնական եզրակացության՝ կառավարությունները պետք է արագացնեն իրենց տեմպերը:

Ջոզեֆ Նայը Aspen Strategy Group-ի համանախագահն է, Հարվարդի Քենեդու դպրոցի նախկին դեկան, ԱՄՆ պաշտպանության նախարարի նախկին օգնականը և «Կյանքն ամերիկյան դարում» գրքի հեղինակը (Polity Press, 2024): Ջոզեֆ Նայը նաև «փափուկ ուժի» տեսության հիմնադիրն է։

Թարգմանությունը՝ Զառա Պողոսյանի