ԱՐՀԵՍՏԱԿԱՆ ԲԱՆԱԿԱՆՈՒԹԻՒՆԸ ՀԱԿԱՄԱՐՏՈՒԹԵԱՆ ՄԷՋ - ՄԱՐԴԿՈՒԹԻՒՆԸ ՀՍԿՈՂՈՒԹԵԱՆ ՏԱԿ ՊԱՀԵԼԸ

ՄԱԿ-ի կայքէջը անցեալ տարեվերջին հրապարակեց մտահոգութիւն մը՝ պատերազմներու, հակամարտութիւններու առընչուած, արծարծելով արհեստական բանականութեան (ԱԲ) վերապահուած դերակատարութիւնը մարդկութիւնը հակակշռելու ջանքերուն մէջ: Կը ներկայացնենք հատուածներ:

*

ԲԱՆԱՎԷՃԸ ԳԻՏԱԵՐԵՒԱԿԱՅԱԿԱՆԷՆ Կ՚ԱՆՑՆԻ ԻՐԱԿԱՆՈՒԹԵԱՆ

Տասնամեակներ շարունակ զանգուածային մշակոյթը պատկերացուցած է ԱԲ-ի կողմէ ղեկավարուող մեքենաներու վտանգները, որոնք կ՚ազդեն պատերազմի որոշումներու վրայ: «Colossus: The Forbin Project»էն (1970), որ կը պատկերէր գերհամակարգիչի կողմէ կորիզային հրամանատարութեան բռնագրաւումը, մինչեւ «Թերմինաթէօր» շարժապատկերային շարքը (1984 թուականէն), որ աշխարհին տուաւ Սքայնեթ պաշտպանական համակարգ, որ կը դառնայ ինքնագիտակից եւ կ՚ոչնչացնէ մարդկութիւնը:

ԱԲ-ն արդէն իսկ գոյութիւն ունի այսօրուան հակամարտութիւններուն մէջ, եւ աշխարհի առաջնորդները անցեալ տարի քննարկեցին, թէ ինչպէ՞ս անփոփոխ պահպանել պատերազմի կանոնները՝ արհեստագիտական արագ փոփոխութիւններու պայմաններուն մէջ:

«Մարդկութեան ճակատագիրը չի կրնար ձգուիլ ալկորիթմի ձեռքերուն մէջ։ Մարդիկ միշտ պէտք է պահպանեն կեանքի եւ մահուան վերաբերեալ որոշումներու կայացման իշխանութիւնը», զգուշացուց ՄԱԿ-ի ընդհանուր քարտուղար Անթոնիօ Կութերես:

ԱԲ-ն ինչպէ՞ս արդէն կ՚օգտագործուի. Քննարկումները հաստատեցին, որ վերջին տարուան ընթացքին քանի մը դէպքերու մէջ արձանագրուած է ԱԲ-ի ռազմական կիրարկում: Ընդհանուր քարտուղարին 2025 թուականի յունիսի զեկոյցին մէջ թուարկուած են քանի մը միջոցներ, որոնց հետ ԱԲ-ն արդէն իսկ կը ձեւաւորէ ռազմական գործողութիւններ՝ զանազան ոլորտներու մէջ:

Թիրախային վերլուծութիւն. ԱԲ-ի գործիքները օգտագործուած են հարուածային առաջարկներ ստեղծելու համար: Թէեւ անոնք զգալիօրէն կ՚աւելցնեն արագութիւնը եւ թոյլ կու տան հրամանատարներուն մշակել աւելի շատ տուեալներ, անոնք մտահոգութիւններ կը յառաջացնեն համաչափութեան եւ մարդկային վերահսկողութեան վերաբերեալ, յատկապէս եթէ մարդիկ չափազանց շատ հակուած են ինքնագործուած (automated) արդիւնքներուն:

Անհատներու նոյնացում. Կարգ մը համակարգեր կը պահպանեն տուեալներու շտեմարաններ, որոնք կը կապեն մարդիկը զինեալ խումբերու: Բան մը, որ կը վտանգէ սխալ նոյնացումը եւ կը խաթարէ տարբերակման սկզբունքը, եթէ տուեալները կողմնակալ են կամ թերի:

Ինքնավար օդագնացութիւն. ԱԲ-ի անօդաչու համակարգերը վաւերագրուած են, անոնք կ՚ուղղորդեն վերջնական մօտեցումները նոյնիսկ ելեկտրոնային միջամտութեան պայմաններուն մէջ: Այս կը բարելաւէ ճշգրտութիւնը, բայց կարեւորագոյն դատողութիւնները կը շեղէ մարդ-վարողներէն՝ բարձրացնելով մարդկային իմաստալից վերահսկողութեան հարցեր:

Պաշտպանական համակարգեր. Քանի մը կառավարութիւններ յայտարարած են ԱԲ-ի վրայ հիմնուած հակաօդային պաշտպանութեան համակարգերու մասին, որոնք կրնան ինքնուրոյն յայտնաբերել, հետեւիլ եւ խափանել սպառնալիքները: Հակառակ անոր, որ նման համակարգերը կրնան կեանքեր փրկել, անոնք նաեւ վտանգի կը դիմեն արագ, մեքենայ-մեքենայ փոխանակումներու ժամանակ չնախատեսուած սրումին:

Մարդամեքենայի շինութիւն. ԱԲ-ի օգնութեամբ մարդամեքենաները օգտագործուած են հետախուզութեան եւ մարտական դերերու համար: Այդ մէկը հարցեր կը յառաջացնէ պատասխանատուութեան եւ հաշուետուողականութեան վերաբերեալ, երբ սխալներ տեղի կ՚ունենան բարդ միջավայրերու մէջ: Այս կիրարկութիւններէն իւրաքանչիւրը ցոյց կու տայ կեդրոնական մարտահրաւէրը. ռազմական տեսանկիւնէն ԱԲ-ն կրնայ բարձրացնել արդիւնաւէտութիւնը, բայց առանց խիստ պաշտպանութեան միջոցներու՝ կը վտանգէ միջազգային մարդասիրական իրաւունքը:

Վտանգներ, որոնք չեն կրնար անտեսուիլ. Առաջնորդները բազմիցս զգուշացուցած են միջազգային մարդասիրական իրաւունքը ԱԲ-ի կողմէ գերազանցուելու վտանգներու մասին: ԱԲ-ով յագեցած զէնքերը կրնան դժուարութիւններ ունենալ տարբերակման, համաչափութեան եւ զգուշութեան սկզբունքները պահպանելու հարցին մէջ: Բարդ մարտադաշտերը արդէն իսկ կը փորձարկեն մարդկային դատողութիւնը մարտիկներու եւ քաղաքացիական անձերու միջեւ տարբերակելու հարցին մէջ: Մեքենաներու համար մարտահրաւէրը աւելի մեծ է, մասնաւորապէս՝ քաղաքային վայրերու մէջ, ուր քաղաքացիներ եւ մարտիկներ յաճախ կը խառնուին: Ալկորիթմներու որոշումները կրնան նաեւ ըլլալ ոչ-թափանցիկ եւ անկանխատեսելի, ինչ որ կը բարդացնէ հաշուետու ըլլալը եւ կը մեծցնէ անհամաչափ կամ առանց տարբերելու յարձակումներու վտանգը:

ՄԱԿ ԿԸ ՆՇԷ ՎՏԱՆԳԻ ԵՐԵՔ ՄԱԿԱՐԴԱԿ

Արհեստագիտական. ԱԲ-ն վստահելի է միայն այնքանով, որքանով վստահելի են անոր տուեալները: Ինչպէս ՄԱԿ-ի զինաթափման հարցերով հիմնարկը (UNIDIR) կը զգուշացնէ. «Եթէ արհեստական բանականութեան համակարգը բախում չէ ունեցած կարգ մը մարզումներու տուեալներու մէջ, կը կարողանայ անկանխատեսելիօրէն արձագանգել իրական աշխարհի մէջ… կողմնակալ ալկորիթմները կրնան սխալմամբ քաղաքացիները նոյնականացնել մարտիկներու հետ:

Անվտանգութիւն. ԱԲ-ն կրնայ արագացնել հակամարտութեան շարժումը: ՄԱԿ-ի Բժշկական օգնութեան գրասենեակը զգուշացուցած է «ակնթարթային պատերազմներէ», որոնց պարագային ալկորիթմական մագլցումը կը սրէ ճգնաժամը՝ նախքան մարդոց միջամտելը: Երկակի նշանակութեան ԱԲ-ի տարածումը ոչ-պետական գործիչներու շրջանակին մէջ աւելի կը մեծցնէ սպառնալիքը:

Իրաւական եւ բարոյագիտական. Պատասխանատուութիւնը մշուշոտ է: Միջազգային իրաւունքը պատասխանատուութեան կ՚ենթարկէ պետութիւններն ու անհատները, սակայն ԱԲ-ն կրնայ խանգարել այս հոլովոյթի գծայնութիւնը:

Միաժամանակ հարց է, երբ անօդաչու սարքերը կը սկսին պայքարիլ անօդաչու սարքերու դէմ, կը յարձակին կարեւորագոյն ենթակառոյցներու վրայ եւ ինքնավար, առանց մարդու մասնակցութեան կը թիրախաւորեն մարդիկ:

Եւրոպական խորհուրդի նախագահ Անթոնիօ Քոսթա ըսաւ. «Ամենէն վտանգաւորը մահացու ինքնավար զէնքի համակարգերու մշակումն է, որ կը սպառնայ զրկել մարդը պատասխանատուութենէն՝ կեանքի եւ մահուան որոշումներէն: Վտանգները իրական են՝ սխալ հաշուարկ, սրացում եւ տարածում:

Ընդհանուր քարտուղարը վերահաստատեց իր կոչը՝ արգիլելու մարդկային վերահսկողութեան բացակայութեան պայմաններու մէջ գործող մահացու ինքնավար զէնքի համակարգերը՝ մինչեւ յաջորդ տարի իրաւաբանօրէն պարտաւորեցնող փաստաթուղթ կնքելու նպատակով: «Մինչեւ հիւլէական զէնքի վերացումը՝ անոր օգտագործման վերաբերեալ որեւէ որոշում պէտք է տան մարդիկ, այլ ոչ թէ՝ մեքենաներ: Ձայնային եւ տեսողական նիւթերը կեղծելու եւ աղաւաղելու ունակութիւնը կը սպառնայ տեղեկատուութեան ամբողջականութեան, կը սնուցանէ բեւեռացումը եւ կրնայ դիւանագիտական ճգնաժամեր յառաջացնել», ըսաւ ան:

Չվերահսկուող ԱԲ-ն վտանգի կը դիմէ՝ աւելցնելու քաղաքացիական բնակչութեան շրջանին մէջ զոհերու թիւը, արագացնելու ճգնաժամերը, իջեցնելու հակամարտութեան շեմը եւ մարդոց միջամտելու ունակութիւնը նուազեցնելու՝ նախքան մագլցումը հակակշիռէ դուրս գալը:

ՀՆԱՐԱՒՈՐՈՒԹԻՒՆՆԵՐ՝ ՎՏԱՆԳՆԵՐՈՒ ԿՈՂՔԻՆ

Եթէ ԱԲ-ն պատասխանատու կերպով գործածուի, կրնայ աջակցիլ մարդասիրական պաշտպանութեան, այլ ոչ թէ՝ խանգարել այդ: UNIDIR կ՚ընդգծէ, թէ ինչպէ՛ս կրնան ԱԲ-ի կիրարկութիւնները օգնել զինեալ ուժերուն՝ աւելի լաւ պահպանելու տարբերակման, համաչափութեան եւ զգուշութեան սկզբունքները:

Հրամանատարութիւն եւ վերահսկողութիւն. Որոշումներու կայացման աջակցող գործիքները կրնան օգնել հրամանատարներուն՝ համարկել համաչափութեան գնահատումները ծրագրումի մէջ, նուազեցնելով քաղաքացիական բնակչութեան վնասը:

Հետախուզութիւն եւ հսկողութիւն. ԱԲ-ի համակարգերը կրնան բարելաւել իրավիճակային իրազեկութիւնը՝ վերլուծելով տուեալներու հսկայական հոսքեր, ինչ որ հնարաւորութիւն կու տայ աւելի արագ յայտնաբերելու խախտումները կամ վտանգները:

Ոչ-մահացու աջակցութիւն. ԱԲ-ն կրնայ գործածուիլ տեղակայուած անձնակազմի բժշկական ախտորոշումը բարելաւելու եւ մատակարարման շղթայի կառավարումը հզօրացնելու համար՝ ապահովելով, որ մարդասիրական նկատառումները չանտեսուին:

Արդիւնքները կախեալ են անկէ, թէ արդեօք համակարգերը նախագծուած եւ տեղակայուա՞ծ են պատասխանատու կերպով:

UNIDIR կը նշէ. «Եթէ ԱԲ-ն մշակուի, տեղակայուի եւ պատասխանատու կերպով գործածուի, այդ կրնայ բարձրացնել գործառնական արդիւնաւէտութիւնը՝ միաժամանակ առաջարկելով վտանգները մեղմացնելու եւ վնասը նուազեցնելու նոր եղանակներ»: Հետեւաբար մարտահրաւէրը ո՛չ միայն կարմիր գիծերու կայացումն է, այլեւ՝ պատասխանատու նորարարութեան խթանումը, որ կ՚ամրապնդէ մարդասիրական իրաւունքի պահպանումը:

ՍԿԶԲՈՒՆՔՆԵՐԷՆ ՄԻՆՉԵՒ ԳՈՐԾՆԱԿԱՆՈՒԹԻՒՆ

Սովորական զէնքերու համաձայնութեան ծիրերուն մէջ կառավարութիւնները կը շարունակեն ուսումնասիրել արգելքներն ու սահմանափակումները: Երկաստիճան մօտեցում ի յայտ կու գայ՝ արգիլել այն համակարգերը, որոնք չեն կրնար համապատասխանել Միջազգային մարդասիրական իրաւունքին, խստօրէն կարգաւորել միւսները՝ ապահովելու համար իմաստալից մարդկային վերահսկողութիւն, թափանցիկութիւն եւ հաշուետուութիւն:

Հետաքննութեան զեկոյցը համախմբած է անդամ պետութիւններու, քաղաքացիական հասարակութեան եւ արհեստագիտական մասնագէտներու կարծիքները, որոնք կ՚արտացոլացնեն լայն մտահոգութիւն այն մասին, որ չվերահսկուող ԱԲ-ն կրնայ անկայունացնել համաշխարհային անվտանգութիւնը եւ խաթարել մարդասիրական պաշտպանութիւնը:

Արդեօք մենք միասին կը կառավարե՞նք այս վերափոխումը, թէ թոյլ կու տանք, որ անիկա կառավարէ մեզ:

ՀԱՄԱԿԱՐԳԱՅԻՆ ՄԱԿ-Ի ԱՐՁԱԳԱՆԳ

Ընդհանուր քարտուղարը սահմանեց չորս հրատապ առաջնահերթութիւններ՝ կառավարութիւններու եւ Ապահովութեան խորհուրդին համար:

Առաջին՝ ապահովել ուժի կիրարկման նկատմամբ մարդկային վերահսկողութիւնը՝ արգիլելով առանց անոր գործող մահացու ինքնավար զէնքերը:

Երկրորդ՝ կառուցել համաձայնեցուած համաշխարհային կարգաւորող շրջանակներ, որոնք կը պահանջեն իրաւական վերանայումներ, մարդկային հաշուետուութիւն, երաշխիքներ եւ թափանցիկութիւն, յատկապէս՝ հակամարտութեան իրավիճակներու մէջ:

Երրորդ՝ պաշտպանել տեղեկատուութեան ամբողջականութիւնը՝ հակազդելով խոր կեղծիքներուն եւ ԱԲ-ով յառաջացած ապատեղեկատուութեան, որ կրնայ սրել ճգնաժամեր կամ խոչընդոտել մարդասիրական գործողութիւնները:

Չորրորդ՝ կրճատել ԱԲ-ի կարողութիւններու բացը՝ ներդրումներ կատարելով հմտութիւններու, տուեալներու բազմազանութեան, հզօրութեան եւ անվտանգութեան ենթակառոյցներու մէջ, որպէսզի բոլոր երկիրները կարողանան կիրարկել արդիւնաւէտ պաշտպանութեան միջոցներ:

Այս միջոցառումները կենսական են ապակայունացնող հոլովոյթները կանխելու համար՝ միաժամանակ ապահովելով, որ այդ գործածուի մարդկութեան ծառայելու:

Այս առաջնահերթութիւններուն կ՚աջակցին ՄԱԿ-ի համակարգի շարք մը գործող նախաձեռնութիւններ:

ՄԱՐԴԿՈՒԹԻՒՆԸ ՏԵՂԵԿԱՑՈՒԱԾ ՊԱՀԵԼԸ

Պատերազմին մէջ ԱԲ-ն ապագայի խնդիր չէ: Այդ արդէն ներկայ է՝ ձեւաւորելով հակամարտութիւններ եւ մարտահրաւէր նետելով պատերազմի կանոններուն: Առանց արդիւնաւէտ կարգաւորման՝ ԱԲ-ն կրնայ խոչընդոտել մարդասիրական պաշտպանութիւնը եւ անկայուն դարձնել խաղաղութիւնը: Ճիշդ կառավարման միջոցով այդ կրնայ գործածուիլ պատերազմի օրէնքներու պահպանումը ամրապնդելու եւ մարդկային տառապանքները նուազեցնելու համար:

Հարցը անոր մէջ չէ, թէ արդեօք ԱԲ-ն կ՚ազդէ՞ միջազգային խաղաղութեան եւ անվտանգութեան վրայ, այլ՝ անոր մէջ, թէ ինչպէ՞ս մենք պիտի ձեւաւորենք այդ ազդեցութիւնը:

ՆԱՐԷ ԳԱԼԵՄՔԷՐԵԱՆ

«Ազդակ», Լիբանան