«Վտանգավոր առաջարկ»
Արհեստական ընդհանուր ինտելեկտը, որը կառուցված է «գործակալների» նման, կարող է վտանգավոր լինել, քանի որ դրա ստեղծողները կարող են կորցնել վերահսկողությունը համակարգի վրա, CNBC-ին ասել են AI աշխարհի ամենահայտնի գիտնականներից երկուսը:
CNBC-ի «Beyond The Valley» փոդքասթի վերջին դրվագում, որը թողարկվել է երեքշաբթի օրը, Մասաչուսեթսի տեխնոլոգիական ինստիտուտի պրոֆեսոր և «Ապագայի կյանքի ինստիտուտի» նախագահ Մաքս Թեգմարկը և Յոշուա Բենջիոն, ում կոչում են «AI-ի կնքահայրերից» և Մոնրեալի համալսարանի պրոֆեսոր, խոսել են արհեստական ընդհանուր ինտելեկտի կամ AGI-ի վերաբերյալ իրենց մտահոգությունների մասին: Տերմինը լայնորեն վերաբերում է AI համակարգերին, որոնք ավելի խելացի են, քան մարդիկ:
Նրանց մտավախությունները բխում են այն բանից, որ աշխարհի խոշորագույն ընկերությունները այժմ խոսում են «AI գործակալների» կամ «Գործակալական AI»-ի մասին, որոնք, ինչպես պնդում են ընկերությունները, թույլ կտան արհեստական ինտելեկտի չաթ-բոտերին հանդես գալ որպես օգնականներ կամ գործակալներ և օգնել աշխատանքում և առօրյա կյանքում: Արդյունաբերության գնահատականները տարբերվում են այն ժամանակ, երբ AGI-ն կհայտնվի:
Այդ հայեցակարգով գալիս է այն միտքը, որ AI համակարգերը կարող են ունենալ որոշակի «գործակալություն» և սեփական մտքեր, ըստ Բենջիոյի:
«AI-ի հետազոտողները ոգեշնչվել են մարդկային բանականությունից՝ մեքենայական բանականություն ստեղծելու համար, և մարդկանց մեջ կա և՛ աշխարհը հասկանալու ունակությունը, ինչպիսին մաքուր բանականությունն է, և՛ գործակալական վարքագիծը, ինչը նշանակում է, որ … օգտագործել ձեր գիտելիքները նպատակներին հասնելու համար», — ասաց Բենջիոն CNBC-ի «Beyond The Valley»-ին:
«Հիմա մենք այսպես ենք կառուցում AGI-ն. մենք փորձում ենք նրանց դարձնել գործակալներ, որոնք շատ բան կհասկանան աշխարհի մասին և կարող են համապատասխանաբար գործել: Բայց սա իրականում շատ վտանգավոր առաջարկ է»։
Բենջիոն ավելացրեց, որ այս մոտեցմանը հետևելը կնմանվի «այս մոլորակի վրա նոր տեսակ կամ նոր խելացի կազմավորում ստեղծելը» և «չիմանալը, թե արդյոք նրանք պատրաստվում են վարվել այնպես, որ համապատասխանեն են մեր կարիքներին»:
«Այսպիսով, փոխարենը, մենք կարող ենք դիտարկել, թե որո՞նք են այն սցենարները, որոնցում ամեն ինչ վատ է ընթանում, և նրանք բոլորը հիմնվում են գործակալության վրա: Այլ կերպ ասած, այն պատճառով, որ AI-ն ունի իր սեփական նպատակները, և մենք կարող ենք հայտնվել դժվարությունների մեջ»:
Ինքնապահպանման գաղափարը կարող է նաև առաջանալ, քանի որ AI-ն ավելի խելացի է դառնում, ասում է Բենջիոն:
«Ուզու՞մ ենք մրցակցության մեջ լինել մեզնից ավելի խելացի սուբյեկտների հետ: Դա այնքան էլ հուսադրող խաղ չէ, չէ՞: Այսպիսով, մենք պետք է հասկանանք, թե ինչպես ինքնապահպանումը կարող է առաջանալ որպես նպատակ AI-ի մեջ»:
