AI լաբորատորիաները զանգվածաբար աշխատանքի են ընդունում փիլիսոփաների.The Economist

Տեխնոլոգիան առաջ է բերում այնպիսի բարդ հարցեր, որոնք փիլիսոփաների սիրելի թեմաներն են, գրում է The Economist հանդեսը։

Տասը տարի առաջ, երբ արհեստական բանականության հեղափոխությունը նոր էր թափ հավաքում, հումանիտար ոլորտի ուսանողներին գրեթե միաձայն խորհուրդ էին տալիս՝ եթե ցանկանում եք աշխատանք գտնել, սովորեք ծրագրավորում։

Այսօր իրավիճակը գրեթե գլխիվայր շրջվել է։ Աշխատատեղերը կորցնելու մտահոգությունն ավելի հաճախ ունեն հենց ծրագրավորողները՝ վախենալով, որ նրանց կփոխարինի արհեստական բանականությունը։

Գուցե այժմ արժե մտածել ոչ թե ծրագրավորում, այլ փիլիսոփայություն սովորելու մասին։

Այս տարվա սկզբին Նյու Յորքի Դաշնային պահուստային բանկը հրապարակեց տվյալներ, ըստ որոնց՝ ԱՄՆ-ում փիլիսոփայություն ավարտած շրջանավարտներն ավելի հաճախ են աշխատանք գտնում, քան համակարգչային գիտություններ ավարտածները։ 2024 թվականին՝ վերջին տարում, որի վերաբերյալ տվյալներ կան, համակարգչային գիտությունների շրջանավարտների գործազրկությունը կազմել է 7%, մինչդեռ փիլիսոփայություն ավարտածների շրջանում այն եղել է ընդամենը 5.1%։

AI ընկերությունները բառացիորեն մրցում են նման մասնագետների համար։ Յեյլի համալսարանի փիլիսոփա Լուչիանո Ֆլորիդիի խոսքով՝ ուսանողները հաճախ աշխատանքի առաջարկներ են ստանում դեռ մինչև համալսարանն ավարտելը։

Միաժամանակ համալսարաններն են կորցնում կադրեր. Ֆլորիդին փիլիսոփայության ամբիոններից մասնագետների հեռանալը բնութագրում է որպես «արյունահոսություն»։

Փիլիսոփայությունը, սակայն, AI-ին առաջարկում է ոչ միայն նոր աշխատակիցներ, այլև հազարամյակների ընթացքում ձևավորված մտածողության գործիքներ։

Դրանցից առաջինը սոկրատեսյան մեթոդն է։ Պլատոնի նկարագրությամբ՝ Սոկրատեսը ձևացնում էր, թե չգիտի պատասխանը, և հաջորդական հարցերի միջոցով օգնում էր զրուցակցին հստակեցնել հասկացությունները, բացահայտել հակասություններն ու հասկանալ դրանց հետևանքները։

Այսօր գործող բազմաթիվ AI համակարգեր հակված են հաճոյանալ օգտատիրոջը և հաճախ համաձայնել նրա հետ նույնիսկ այն դեպքում, երբ նա սխալ է։ Մյունխենի Լյուդվիգ Մաքսիմիլիան համալսարանի փիլիսոփայության և AI-ի մասնագետ Յորգ Նոլերի խոսքով՝ սոկրատեսյան մեթոդով մարզված մոդելները շատ ավելի քիչ են ձգտում պարզապես գոհացնել մարդուն և ավելի մեծ պատրաստակամությամբ են փորձում հասնել ճշմարտությանը։

Մյուս կարևոր գաղափարը «սոկրատեսյան անգիտությունն» է։ «Ապոլոգիա» երկում Սոկրատեսն ասում է, որ իր իմաստությունն այն գիտակցումն է, թե որքան շատ բան ինքը չգիտի։

Այդպիսի մտավոր համեստությունը AI մոդելների մեջ ներդնելը կարող է նվազեցնել դրանց ամենատարածված թերություններից մեկը՝ չափազանց ինքնավստահությունը, որը Նոլերը բնութագրում է որպես «արհեստական բանականության անհասություն»։

Լոնդոնում գործող Google DeepMind-ի ավագ փիլիսոփա Յասոն Գաբրիելի խոսքով՝ վերջին տարիներին AI համակարգերի «հալյուցինացիաների» նվազումը մասամբ հենց նման մոտեցումների արդյունքն է։ Նրա խոսքով՝ փիլիսոփայությունը նաև «հզոր գործիք է» AI-ի երկար տրամաբանական շղթաների՝ այսպես կոչված chains of thought-ի, որակը բարելավելու համար։

Փիլիսոփայական կրթությունը կարող է ձևավորել նաև մոդելի արժեքային համակարգը։

Օրինակ՝ եթե իրավաբանական AI օգնականը մարզվի Ջոն Լոքի աշխատություններով, ապա, Դելավերի համալսարանի տեխնոլոգիայի փիլիսոփա Թոմաս Փաուերսի խոսքով, այն ավելի մեծ կարևորություն կտա սեփականության իրավունքին՝ որպես քաղաքական ազատության հիմքի։

Իսկ եթե նման աշխարհայացքը ցանկալի չէ, մոդելի ստեղծողները կարող են ընտրել այլ տարբերակ։ Ամերիկյան IBM ընկերության Granite մոդելներն ունեն կարգավորումներ, որոնք բիզնես հաճախորդներին թույլ են տալիս AI-ի պատասխանները համապատասխանեցնել իրենց սեփական կորպորատիվ արժեքներին։

IBM-ի պատասխանատու AI-ի ղեկավար Ֆրանչեսկա Ռոսսիի խոսքով՝ այդ կարգավորումները օգտատերերին հնարավորություն են տալիս ընտրել, թե որտեղ դնել հավասարակշռությունը տարբեր փիլիսոփայական սկզբունքների միջև, օրինակ՝ անհատի ինքնուրույնության և հասարակական ներդաշնակության։

Փիլիսոփայությունը կարևոր դեր ունի նաև արհեստական բանականության անվտանգության ապահովման գործում։

Վերջին տարիներին հետազոտողները փաստագրել են AI մոդելների տարբեր մտահոգիչ վարքագծեր՝ վերահսկողությունից խուսափելու փորձերից մինչև օգտատերերին շանտաժի ենթարկելու դեպքեր։ Այդպիսի վարքագիծը կանխելու համար ընկերությունները կիրառում են մոտեցում, որը հայտնի է որպես «AI սահմանադրականություն» (constitutional AI)։ Դրա էությունը մոդելների աշխատանքը որոշակի սկզբունքների և կանոնների շուրջ կառուցելն է, որոնք վերցված են բարոյական կամ իրավական հեղինակություն ունեցող փիլիսոփայական աղբյուրներից։

Այս մոտեցման ամենահայտնի ջատագովներից է Սան Ֆրանցիսկոյում գործող Anthropic ընկերությունը։ Նրա Claude մոդելների «սահմանադրությունը» կազմված է ամենատարբեր աղբյուրներից՝ Իմանուել Կանտի աշխատություններից մինչև Apple-ի ծառայությունների պայմաններն ու Մարդու իրավունքների համընդհանուր հռչակագիրը։

Այս տարվա հունվարի 21-ին ընկերությունը հրապարակեց այդ փաստաթղթի նոր տարբերակը, որի մշակումը ղեկավարել է Anthropic-ի գլխավոր փիլիսոփա Ամանդա Ասկելը։ Ընկերության որոշ աշխատակիցներ նույնիսկ այդ 78-էջանոց փաստաթուղթն անվանում են Claude-ի «հոգի»։

Սակայն ամենակարևոր հարցը մնում է նույնը` ի՞նչ սկզբունքներ պետք է տեղ գտեն նման «սահմանադրություններում»։

Փիլիսոփաներն այստեղ հիմնականում առանձնացնում են երկու բարոյագիտական մոտեցում։

Առաջինը դեոնտոլոգիան է, որի ամենահայտնի ներկայացուցիչներից է Կանտը։ Այն հիմնված է գաղափարի վրա, որ կան բարոյական կանոններ, որոնք չի կարելի խախտել նույնիսկ այն դեպքում, եթե դա կարող է հանգեցնել ընդհանուր առմամբ ավելի լավ արդյունքի։ Այդպիսի կանոններից են, օրինակ, սուտ չասելը, մարդկանց նկատմամբ հարկադրանք չկիրառելը կամ նրանց երբեք պարզապես միջոց չդարձնելը որևէ նպատակի հասնելու համար։

Anthropic-ի «սահմանադրությունը» մեծապես հենվում է հենց այս սկզբունքների վրա։ Թոմաս Փաուերսի խոսքով՝ դա AI-ի վարքագիծն ավելի կանխատեսելի ու հետևողական է դարձնում, ինչը հատկապես կարևոր է, երբ ռոբոտներն օգտագործվում են մարդկանց տներում կամ հանրային վայրերում։

Դեոնտոլոգիական մոտեցումն ունի նաև այլ առավելություններ։

Օքսֆորդի համալսարանի փիլիսոփա Նիք Բոստրոմի խոսքով՝ նման մոդելներն ավելի ազնիվ են և ավելի քիչ հավանական է, որ մոլորեցնեն օգտատերերին։

Սիլիկոնյան հովտում գործող Inflection AI ընկերությունը նույնպես իր Pi չաթբոթի աշխատանքում կիրառել է դեոնտոլոգիական սահմանափակումներ։ Ընկերության ղեկավար Շոն Ուայթի խոսքով՝ դրա շնորհիվ Pi-ն ավելի արդյունավետ է ճանաչում այն օգտատերերին, որոնք կարող են վտանգ ներկայացնել իրենց կամ ուրիշների համար։

Լուչիանո Ֆլորիդին էլ հավելում է, որ նման «սահմանադրությունները» հեշտացնում են նաև իրավական պահանջներին համապատասխանելը։

Փիլիսոփայական մյուս կարևոր ուղղությունը հետևանքաբանությունն է (consequentialism): 

Եթե դեոնտոլոգիան առաջնահերթ համարում է կանոնները, ապա հետևանքաբանությունը գնահատում է գործողությունների հնարավոր օգուտներն ու վնասները և որոշում կայացնում դրանց համեմատության հիման վրա։

Այս մոտեցմանը, ըստ հոդվածի, ավելի մոտ են OpenAI-ի ChatGPT-ն և Google-ի Gemini-ն։ Google-ը, օրինակ, բացահայտ հայտարարում է, որ իր AI համակարգերը նախագծված են այնպես, որ «ընդհանուր ակնկալվող օգուտները էականորեն գերազանցեն կանխատեսելի ռիսկերը», ինչը հետևանքաբանության դասական ձևակերպումներից է։

Նույն տրամաբանությունը կիրառվում է նաև ինքնավար մեքենաների ծրագրային ապահովման մեջ։ Եթե վթարն անխուսափելի է, համակարգը պետք է ընտրի այն տարբերակը, որը կհանգեցնի ամենաքիչ ողբերգական հետևանքների։

Waymo-ի ավագ ինժեներ Քրիս Գերդեսի խոսքով՝ ոլորտում նկատվում է շարժ դեպի ավելի հետևանքաբանական որոշումների ընդունում։

Նույն սկզբունքը կիրառվում է նաև ռազմական AI համակարգերում։ ԱՄՆ Զինված ուժերի Միացյալ արհեստական բանականության կենտրոնի նախկին ղեկավար Ջեք Շանահանի խոսքով՝ ռազմական գործողություններում անընդհատ անհրաժեշտ է կշռադատել ռազմական նպատակը և հնարավոր քաղաքացիական զոհերի ռիսկը։

Սակայն հենց այստեղ են ի հայտ գալիս ամենաբարդ հարցերը՝ այն հարցերը, որոնց պատասխանները տեխնոլոգիան ինքնուրույն չի կարող տալ։

Լինո՞ւմ են արդյոք իրավիճակներ, երբ դեոնտոլոգիական սկզբունքային կանոնները պետք է մի կողմ դրվեն։ Ինչպե՞ս պետք է որոշում կայացնել, երբ հնարավոր հետևանքները պարզ չեն։ Պե՞տք է արդյոք AI համակարգերը հաշվի առնեն կենդանիների բարեկեցությունը կամ շրջակա միջավայրի վիճակը։

AI-ով աշխատող բեռնատարների և այլ առևտրային մեքենաների անվտանգության համակարգեր մշակող Nauto ընկերության ղեկավար և փիլիսոփա Շտեֆան Հեքը մեկ այլ բարդ օրինակ է բերում։ Նրա հարցն է՝ բարոյապես ընդունելի՞ կլինի, եթե ինքնավար մեքենան, անխուսափելի վթարի դեպքում, նախապատվությունը տա երիտասարդ հետիոտնին՝ տարեցի փոխարեն։

Նրա կանխատեսմամբ՝ ապագայում նման որոշումները բազմաթիվ իրավական վեճերի պատճառ կդառնան։ Ի վերջո, հետևանքաբանության վրա հիմնված ալգորիթմները բացահայտորեն ընդունում են, որ մեկ վնաս կարող է արդարացված լինել, եթե այն կանխում է ավելի մեծ վնասը։

Սակայն քննադատներն անհանգստացած են մեկ այլ վտանգով, որը նրանք անվանում են «բարոյական ապահմտացում» (moral deskilling)։ Եթե համակարգիչներն ավելի ու ավելի հաճախ սկսեն մարդկանց փոխարեն էթիկական որոշումներ կայացնել, մարդիկ ժամանակի ընթացքում չե՞ն կորցնի արդյոք սեփական բարոյական դատողություններ անելու ունակությունը։

Լուիսվիլի համալսարանի AI տեսաբան Ռոման Յամպոլսկին ավելի խորքային քննադատություն է ներկայացնում։ Նրա կարծիքով՝ բարոյականությունը «պատմականորեն անկայուն է, մշակույթից մշակույթ տարբեր է, հեշտ կարող է օգտագործվել ռազմավարական նպատակներով, և հաճախ միայն հետադարձ հայացքով է դառնում լիովին հասկանալի»։

Հոդվածն ավարտվում է հեգնական, բայց խորհրդանշական դիտարկմամբ. եթե ծրագրավորողները մտահոգված են, որ արհեստական բանականությունը կարող է խլել իրենց աշխատանքը, ապա առայժմ նման մտահոգություն չեն ունենա փիլիսոփաները։ AI-ի դարաշրջանում նրանց համար աշխատանքի պակաս, կարծես, չի սպասվում։