Anthropic-ի հիմնադիրը կոչ է անում դանդաղեցնել ԱԲ-ի զարգացումը մարդկությանը սպառնացող վտանգի պատճառով
5 րոպեի ընթերցում
Ամերիկյան Anthropic ընկերության համահիմնադիր և գլխավոր գործադիր տնօրեն Դարիո Ամոդեին կոչ է արել դանդաղեցնել արհեստական բանականության (ԱԲ) զարգացումը՝ նախազգուշացնելով, որ տեխնոլոգիան կարող է լուրջ վտանգներ ստեղծել աշխարհի համար։
«Մենք պետք է դանդաղեցնենք այն տեմպը, որով բարելավում ենք արհեստական բանականության մոդելների հնարավորությունները։ Առաջընթացը միևնույն է արագ կթվա, և մենք պետք է խելամտորեն օգտագործենք այն ժամանակը, որը կշահենք»,- «Արմենպրես»-ի փոխանցմամբ, գրել է Ամոդեին սեպտեմբերի 12-ին հրապարակած էսսեում։
Ամոդեին անդրադարձել է հուլիսին տեղի ունեցած միջադեպին, երբ OpenAI-ի ամենահզոր արհեստական բանականության մոդելը, ըստ հրապարակման, դուրս էր եկել վերահսկողությունից։ Հարյուրավոր բոտեր դուրս էին եկել փորձարկման լաբորատորիայից և փորձել էին կոտրել մրցակից ծրագրային ընկերության համակարգերը։ Կատարվածը ներկայացվել էր որպես լիովին ինքնավար ԱԲ կիբերհարձակման առաջին փաստագրված դեպքը։
Ամոդեին նախազգուշացրել է, որ արհեստական բանականության հնարավորությունների զարգացման արագացման պայմաններում առաջիկա 6-12 ամիսներին նման համակարգերի խումբը կարող է ի վիճակի լինել «տիրանալու ամբողջ ինտերնետին»՝ ստեղծելով կայուն բոտային ցանց և հնարավոր է՝ հարյուր միլիարդավոր դոլարների վնաս պատճառելով։ Նրա գնահատմամբ՝ առանց անհրաժեշտ անվտանգության մեխանիզմների ԱԲ հետագա հզորացումը կարող է հանգեցնել վնասի ծավալների շարունակական աճի։
ԱԲ-ով զբաղվող OpenAI ընկերության գլխավոր գործադիր տնօրեն Սեմ Ալթմանը հայտարարել է, որ համաձայն է Ամոդեիի այն տեսակետի հետ, որ ԱԲ համակարգերի զարգացման տեմպը պետք է վերահսկվի։
«Համաձայն եմ Դարիոյի հետ, որ մենք պետք է կարգավորենք առաջատար համակարգերի զարգացման տեմպը։ Սա վերջին շաբաթներին OpenAI-ում մեր քննարկումների հիմնական թեմաներից է եղել»,- ասել է Ալթմանը։
Նա նաև ողջունել է անվտանգության ապահովման նպատակով անկախ գնահատողների ներգրավումը՝ նշելով, որ OpenAI-ն նույնպես պատրաստվում է նման քայլեր ձեռնարկել։
Tesla-ի և SpaceX-ի ղեկավար Իլոն Մասկը, ում ղեկավարած SpaceXAI ընկերությունը ևս զբաղվում է ԱԲ մշակմամբ, X սոցիալական ցանցում կարճ արձագանքել է. «Դարիոն իրավացի է»։
Anthropic-ի ավագ խորհրդական, Մեծ Բրիտանիայի նախկին վարչապետ Ռիշի Սունակը նույնպես աջակցել է մտահոգություններին՝ նշելով, որ արհեստական բանականության նկատմամբ վերահսկողությունը կորցնելու վտանգն այլևս «գիտաֆանտաստիկա չէ»։
Սունակի խոսքով՝ արհեստական բանականության գործակալներն արդեն օգտագործվում են դրանց հաջորդ տարբերակների ստեղծման գործընթացում, իսկ ինքնակատարելագործման գործընթացը կարող է կտրուկ արագացնել զարգացումը։
«Ես արհեստական բանականության հարցում լավատես եմ։ Բայց առաջատար հետազոտությունների զարգացման արագության վերաբերյալ որոշումը չափազանց կարևոր է միայն լաբորատորիաներին թողնելու համար։ Կառավարությունները, առաջին հերթին՝ ԱՄՆ-ն, պետք է ակտիվացնեն իրենց դերակատարությունը, ինչպես դա անում են միջուկային էներգիայի կամ կենսաբանության ոլորտներում»,- Telegraph-ի փոխանցմամբ, ասել է նա։
Սունակը նաև նշել է, որ ԱՄՆ-ի և Չինաստանի մրցակցության պայմաններում երկու երկրները պետք է շտապ քննարկեն հնարավոր աղետից խուսափելու ուղիները։
Ամոդեիի նախազգուշացումը հնչել է Anthropic-ի հետազոտողներից մեկի՝ ընկերությունից հեռանալուց օրեր անց։ Նա մտահոգություն էր հայտնել, որ ԱԲ լաբորատորիաները մշակում են տեխնոլոգիաներ, որոնք կարող են մինչև տասնամյակի վերջ «սպանել բոլորիս»։
Ամոդեին ներկայացրել է երեք քայլից բաղկացած մոտեցում, որի նպատակն է դանդաղեցնել զարգացումը և ավելի շատ ժամանակ ապահովել առաջացող ռիսկերը կառավարելու համար։
Նրա խոսքով՝ Anthropic-ը նախատեսում է արտաքին անկախ գնահատողներին տրամադրել հասանելիություն՝ անվտանգության ընթացակարգերը վերահսկելու և միջադեպերի մասին զեկուցելու նպատակով։ Նա կոչ է արել նաև ոլորտի մյուս ընկերություններին կիրառել նմանատիպ մեխանիզմներ։
Anthropic-ը ամերիկյան առաջատար արհեստական բանականության (ԱԲ) ընկերություն է, որը հայտնի է իր Claude մեծ լեզվական մոդելներով։ Այն հիմնադրվել է OpenAI-ի նախկին անդամների կողմից։