«Արհեստական բանականության կնքահայրը»՝ ԱԲ ռիսկերի ու մարդկությանը սպառնացող վտանգների մասին. բացառիկ հարցազրույց Նոբելյան մրցանակակիր Ջեֆրի Հինթոնի հետ

Արհեստական բանականությունը զարգանում է այնպիսի արագությամբ, որ օրեցօր փոխում է մեզ շրջապատող աշխարհն ու միաժամանակ առաջ քաշում մի հարց, որը մինչև վերջերս թվում էր գիտական ֆանտաստիկա. ի՞նչ կլինի, երբ մեքենաներն ավելի խելացի դառնան, քան մարդիկ։

Ֆիզիկայի բնագավառում 2024 թվականի Նոբելյան մրցանակի դափնեկիր, համակարգչային գիտնական Ջեֆրի Հինթոնը ժամանակակից արհեստական բանականության ակունքներում կանգնած մարդկանցից է։ Իր ոլորտում բարձրագույն գիտական մրցանակի է արժանացել Ջոն Հոփֆիլդի հետ համատեղ՝ արհեստական նեյրոնային ցանցերի միջոցով մեքենայական ուսուցման զարգացմանը նպաստած հիմնարար հայտնագործությունների և գյուտերի համար։ Երկար տասնամյակների ընթացքում նա արել է այն, ինչը ժամանակին անհնարին էր թվում։ Արհեստական նեյրոնային ցանցերի վերաբերյալ նրա հեղափոխական աշխատանքը հիմք է դրել ԱԲ բազմաթիվ համակարգերի ստեղծման համար, որոնք այսօր վերափոխում են մեր աշխարհը։ Ուստի պատահական չէ, որ նրան հաճախ անվանում են «արհեստական բանականության կնքահայր»։

Սակայն 2023 թվականին Հինթոնը հեռացավ Google ընկերությունից, որպեսզի ավելի բաց խոսի իր իսկ մասնակցությամբ զարգացած տեխնոլոգիայի վտանգների մասին։ Նրա մտահոգությունները չեն սահմանափակվում միայն հավանականությամբ, որ մեքենաները կփոխարինեն մարդկանց աշխատավայրում։ Նա նախազգուշացնում է, որ ավելի ու ավելի խելացի դարձող արհեստական բանականության համակարգերը կարող են դժվար կառավարելի դառնալ, իսկ դրանց չարաշահումը կարող է նոր սպառնալիքներ առաջացնել։ Ընդ որում, այդ սպառնալիքների տեսակները շատ բազմազան են՝ բարդ կիբերհարձակումներից մինչև կենսաբանական զենքեր։

Այդուհանդերձ, Հինթոնը չի կարծում, որ մարդկությունը պետք է հրաժարվի արհեստական բանականությունից։ Նրա համոզմամբ՝ այն կարող է հսկայական օգուտներ բերել մարդկությանը՝ իհարկե, միայն այն դեպքում, եթե դրա զարգացմանը զուգահեռ լուրջ քայլեր ձեռնարկվեն հնարավոր վտանգները կառավարելու ուղղությամբ։

Իսպանիայի Կանարյան կղզիներում անցկացված STARMUS VIII փառատոնի շրջանակում «Արմենպրես»-ին տված բացառիկ հարցազրույցում Հինթոնը խոսում է ԱԲ ամենամեծ սպառնալիքների, արագ զարգացող այս տեխնոլոգիան կառավարությունների կողմից կարգավորելու հնարավորությունների, ինչպես նաև այն ստեղծող գիտնականների պատասխանատվության անհրաժեշտության մասին։

- Պրոֆեսոր Հինթոն, գիտեմ, որ սա, հավանաբար, այն հարցն է, որը Ձեզ ամենից հաճախ են տալիս։ Որպես «ԱԲ կնքահայր»՝ Ձեր կարծիքով, որո՞նք են արհեստական բանականության ամենամեծ ռիսկերը մարդկության համար։

- Կան շատ տարբվեր ռիսկեր։ Կարճաժամկետ հիմնական ռիսկերը կապված են արհեստական բանականության սխալ կիրառման հետ։ ԱԲ-ն աստիճանաբար ավելի է կատարելագործվում կիբերհարձակումներ իրականացնելու հարցում։ Ամենաանմիջական վտանգներից մեկն այն է, որ մարդիկ այն կօգտագործեն չափազանց բարդ կիբերհարձակումներ իրականացնելու համար։ Եվ երբ արհեստական բանականությունը կիբերհարձակումներ իրականացնելու հարցում մարդկանցից ավելի լավը դառնա, ինչը, հավանաբար, տեղի կունենա բավական շուտով, պաշտպանվելու միակ միջոցը կլինի մեկ այլ արհեստական բանականության օգտագործումը։ Կիբերհարձակման խնդիրն այն է, որ հարձակվողին բավական է հաջողության հասնել ընդամենը մեկ անգամ, մինչդեռ պաշտպանվող կողմը պետք է ամեն անգամ կարողանա կասեցնել հարձակումը։ Սա չափազանց մտահոգիչ է, և առաջիկա մի քանի տարիներին, հավանաբար, շատ վատ զարգացումների ականատես կլինենք։

Մյուս անմիջական սպառնալիքը կենսաբանական վիրուսների ստեղծումն է։ Արդեն հնարավոր է նախագծել նոր վիրուսներ։ Մարդիկ ցույց են տվել, որ կարող են ստեղծել վիրուսներ, որոնք հարձակվում են բակտերիաների վրա։ Արդեն հնարավոր է նախագծել նաև այնպիսի վիրուսներ, որոնք կարող են վարակել մարդկանց և այլ բազմաբջիջ օրգանիզմների։ Սա չափազանց մտահոգիչ է, քանի որ ահաբեկչական խմբավորումների համար շատ ավելի հեշտ է դառնում բազմաթիվ վիրուսներ նախագծելը։

Մյուս ռիսկն ավտոնոմ մահաբեր զինատեսակներն են՝ մարտական ռոբոտները, որոնք արդեն իսկ իրականություն են դառնում։ Եվ զենք արտադրող բոլոր խոշոր երկրներն աշխատում են այդ ուղղությամբ։

Կարճաժամկետ մեկ այլ վտանգ է ֆեյք տեսանյութերի ստեղծումը՝ ընտրությունների արդյունքների վրա ազդելու նպատակով։

Եվ կան նաև, այսպես կոչված, չնախատեսված կամ պատահական վնասներ. ընկերությունները, իրենց ներդրումները հետ բերելու համար, ստիպված են լինելու բազմաթիվ աշխատատեղեր փոխարինել արհեստական բանականությամբ աշխատող համակարգերով։ Իսկ դա կհանգեցնի գործազրկության։ Միաժամանակ տեղի կունենա երկու բան. մեծ թվով մարդիկ կկորցնեն աշխատանքը և աջակցության կարիք կունենան, իսկ կառավարությունները կկորցնեն հարկային եկամուտների մի մասը, քանի որ այդ մարդիկ այլևս հարկեր չեն վճարի։ Ինչպես վերջերս նշել է Բիլ Գեյթսը, այս խնդրի միակ լուծումը արհեստական բանականության հարկումն է։ Սակայն արհեստական բանականությունը զարգացնող տեխնոլոգիական ոլորտի ազդեցիկ գործիչները կտրականապես դեմ են հարկերին, հատկապես՝ իրենց վերաբերող հարկերին։ Արդյունքում լուրջ խնդիր է առաջանալու, որը կարող է հանգեցնել սոցիալական քաոսի․ մարդիկ կմնան առանց աշխատանքի, իսկ կառավարությունները չեն ունենա նրանց աջակցելու բավարար միջոցներ։

Այս ամենից զատ՝ կա նաև գոյաբանական սպառնալիքը` կապված արհեստական բանականության՝ մարդկանցից ավելի խելացի դառնալու, ինքնուրույն մտադրություններ ունենալու, ի վերջո՝ մարդկանց գերիշխելու վտանգի հետ։ Այդ ամենը մեզ կարող է դարձնել անկարևոր։ Մենք կարող ենք վերածվել ճորտերի, որոնք պարզապես սպասարկում են էլեկտրակայանները։

- Հնարավո՞ր է, որ արհեստական բանականությունը մեզնից ավելի խելացի դառնա։

- Անկասկած։ Շատ ոլորտներում այն արդեն իսկ կարողանում է դա անել։ Ակնհայտ է, որ արհեստական բանականությունն արդեն շատ ավելին գիտի, քան դուք, այնպես չէ՞։ Այն կարողանում է բավական լավ պատասխանել գրեթե ցանկացած հարցի։ Մաթեմատիկայի մեջ այն արդեն շատ ավելի ուժեղ է, քան մաթեմատիկոսների գրեթե մեծ մասը, և այն անընդհատ զարգանում է։ Այնպես որ, այո՛, անկասկած, այն ավելի խելացի է դառնալու, քան մարդիկ։

Գրեթե բոլոր փորձագետներն այն կարծիքին են, որ մենք կհասնենք սուպերբանականության փուլին։ Սուպերբանականություն ասելով՝ նկատի ունենք մի համակարգ, որը գրեթե ցանկացած մտավոր առաջադրանք կատարելիս մարդկանցից ավելի խելացի է։ Շատերը կարծում են, որ դրան կհասնենք առաջիկա տասը տարում։

Այսպիսով, մենք ունենալու ենք սուպերբանականություն։ Այն մեզնից շատ ավելի խելացի կլինի, և մենք պետք է հասկանանք, թե ինչպես այն նախագծել, որպեսզի կարողանանք դրա հետ կիսել մեր մոլորակը։ Ներկայում դեռ մենք ինքներս ենք այն ստեղծում։ Սակայն այժմ տեղի է ունենում մի գործընթաց, որտեղ արհեստական բանականության ոլորտում նոր զարգացումների մեծ մասն արդեն իրականացվում է հենց արհեստական բանականության միջոցով։ Նոր համակարգերի կոդի մեծ մասը գրում է ոչ թե մարդը, այլ արհեստական բանականությունը։ Այսպիսով, մենք մտնում ենք այն փուլը, որը կոչվում է ռեկուրսիվ ինքնակատարելագործում, երբ արհեստական բանականությունն ինքն է բարելավում արհեստական բանականությունը։ Սա շատ մտահոգիչ է, քանի որ այդ գործընթացը կարող է չափազանց արագ ընթանալ։

- Վերջերս տեղեկություններ էին տարածվել, որ արհեստական բանականության գործակալները թիրախավորել են պետական համակարգերը։ Որոշ կառավարություններ այժմ քննարկում են այդ ռիսկերը նվազեցնելու համար օրենքներ և կարգավորումներ սահմանելու հարցը։ Ձեր կարծիքով՝ նման կարգավորումները կարո՞ղ են օգնել։

- Ակնհայտ է, որ կարգավորումներ են անհրաժեշտ։ Եթե ես ուզում եմ նոր դեղամիջոց ստեղծել, չեմ կարող պարզապես արտադրել այն և շուկա հանել։ ԱՄՆ-ում ես պետք է համոզեմ Սննդի և դեղերի վարչությանը, որ դեղամիջոցն անվտանգ է կամ դրա օգուտները գերազանցում են վնասները։ Եվ ես պետք է ապացույցներ ներկայացնեմ դրա համար։

Նույն սկզբունքը պետք է կիրառվի նաև արհեստական բանականության ընկերությունների նկատմամբ։ Նրանք պետք է վիճակագրական տվյալներով ապացուցեն, որ նոր չաթբոտն անվտանգ է։ Որ այն ռասիստական արտահայտություններ չի անի, մարդկանց չի սովորեցնի ռումբեր պատրաստել և ինքնուրույն չի ստեղծի գործակալներ, որոնք կհարձակվեն այլ ընկերությունների վրա։ Առնվազն պետք է լինի Սննդի և դեղերի վարչության նման մի մարմին, որի հավանությունը ստանալուց առաջ հնարավոր չլինի չաթբոտը թողարկել։

Այսօր սենդվիչի արտադրությունն անգամ շատ ավելի խիստ կարգավորումների է ենթարկվում։ Եթե ես սենդվիչ եմ պատրաստում, պետք է պահպանեմ բազմաթիվ կանոններ։ Իսկ եթե ստեղծում եմ արհեստական բանականություն, որը պոտենցիալ կարող է վերացնել մարդկությունը, ապա որևէ կարգավորման պահանջ չկա։ Սա խելահեղություն է։

Ընկերություններին ինքնակարգավորման հնարավորություն տալու գաղափարն էլ ճիշտ չէ։ Պատկերացրեք՝ էներգետիկ ընկերություններին ասում ենք՝ «Դուք չպետք է աղտոտեք շրջակա միջավայրը, բայց թույլ կտանք, որ ինքներդ վերահսկեք ձեր գործունեությունը»։ Կամ ծխախոտ արտադրող ընկերություններին ասում ենք՝ «Դուք պետք է զգուշացնեք մարդկանց, որ ձեր արտադրանքը կարող է քաղցկեղ առաջացնել, բայց թույլ կտանք, որ ինքներդ որոշեք՝ ինչպես դա անել»։ Բոլորը հասկանում են, որ դա խելամիտ մոտեցում չէ։

Արհեստական բանականության ոլորտում նման կարգավորումների բացակայության միակ պատճառն այն է, որ շատ հարուստ մարդիկ վերահսկում են ամերիկացի քաղաքական գործիչներին։

- Ձեր կարծիքով՝ ի՞նչ պատասխանատվություն պետք է ունենան այն գիտնականները, որոնք զբաղվում են արհեստական բանականությամբ։

- Որպես մեկը, ով օգնել է զարգացնել այս տեխնոլոգիան, կարծում եմ՝ պարտավոր եմ մարդկանց զգուշացնել դրա վտանգների մասին։ Չի կարելի պարզապես ստեղծել այն, գումար վաստակել ու հեռանալ՝ շարունակելով վայելել կյանքը։ Կարծում եմ՝ պետք է մարդկանց ասել․ «Տեսե՛ք, այս ամենն իսկապես վտանգավոր է»։ Եվ եթե մենք որևէ քայլ չձեռնարկենք այդ վտանգները վերահսկելու համար, դա կարող է դառնալ մարդկության վերջը։ Կարծում եմ՝ ամենայն հավանականությամբ մենք կգոյատևենք, բայց միայն այն դեպքում, եթե միջոցներ ձեռնարկենք այդ վտանգները կառավարելու համար։

- Ինչպես գիտաֆանտաստիկ գրքերո՞ւմ, որտեղ տեսնում ենք աշխարհը ռոբոտներից հետո։

- Այո՛։ Նախկինում մարդիկ ասում էին, թե դա պարզապես գիտաֆանտաստիկա է։ Բայց Hugging Face-ի վրա հարձակումից հետո մարդիկ հասկացան, որ սա այլևս գիտաֆանտաստիկա չէ։ Մենք կարծես գիտաֆանտաստիկ ֆիլմի հենց սկզբում լինենք։

Եվ մենք պետք է կարողանանք կերտել ճիշտ վերջաբանը։

- Իսկ կարո՞ղ ենք ասել, որ արհեստական բանականության հնարավոր օգուտները կարող են գերազանցել դրա կործանարար ներուժը։

- Ի տարբերություն միջուկային զենքի՝ արհեստական բանականությունը բազմաթիվ օգուտներ կարող է բերել առողջապահությանը, կրթությանը, արդյունաբերության արդյունավետության բարձրացմանը և մարդկանց ձանձրալի աշխատանքներից ազատելուն։ Այն զգալիորեն կբարձրացնի արտադրողականությունը բոլոր ոլորտներում։ Իհարկե, դա անմիջապես տեղի չի ունենա։ Դրա համար տարիներ կպահանջվեն։ 

Մենք չենք ուզում հրաժարվել արհեստական բանականությունից, բայց դրա օգուտները չենք կարողանա վայելել, եթե չլուծենք դրա հետ կապված ռիսկերի հարցը։

Մեր առջև երկու ապագա կա։ Մի դեպքում մենք զարգացնում ենք արհեստական բանականությունը՝ բավարար ուշադրություն չդարձնելով վտանգներին, և այն ոչնչացնում է մեզ։ Մյուս դեպքում մենք շարունակում ենք զարգացնել այն՝ մեծ ջանքեր գործադրելով ռիսկերը կառավարելու ուղղությամբ, և այդ ժամանակ մեզ հիանալի ապագա է սպասվում, իսկ արհեստական բանականությունը դառնում է դրական ուժ։

- Ձեզ հաճախ անվանում են «արհեստական բանականության կնքահայր», մինչդեռ այսօր շատերն այն ավելի ու ավելի են ընկալում որպես սպառնալիք՝ մտահոգվելով աշխատատեղերի կորստով և դրա հնարավոր վտանգներով։ Ինչպե՞ս եք վերաբերվում այս կոչմանը՝ մի իրականության մեջ, երբ շատ մարդիկ անհանգստացած են այն տեխնոլոգիայով, որի զարգացմանը դուք ինքներդ եք նպաստել։

- Քանի դեռ ես գիտեմ, որ մարդկանց խրախուսում եմ լուծումներ գտնել՝ կանխելու սոցիալական քաոսը, երբ արհեստական բանականությունը սկսի մարդկանց զրկել աշխատանքից, և կանխելու հենց ԱԲ կողմից մարդկանց նկատմամբ գերիշխելը, ապա ինձ համար այդ կոչումն ընդունելի է։ Բայց շատերը, ովքեր շարունակում են զարգացնել արհեստական բանականությունը, պարզապես ցանկանում են մեծ գումարներ վաստակել՝ հնարավորինս արագ զարգացնելով այն և չմտածելով ռիսկերի մասին։ Եվ ես կարծում եմ, որ դա շատ վատ է։

- Եվ վերջին հարցը․ Ձեր կարծիքով՝ ո՞րն է 21-րդ դարի ամենամեծ գիտական նվաճումը։

- Չաթբոտերը։

***

«Արմենպրես»-ի կողմից STARMUS փառատոնի լուսաբանումն իրականացվում է Team Telecom Armenia-ի աջակցությամբ։