Մասնագետների կարծիքով, այս կողմնակալությունները բխում են արհեստական բանականության կողմից մատակարարվող տվյալների բազմություններից և հասարակությունում առկա կողմնակալություններից։
Փաստաթղթերի խմբագրումից մինչև գեղարվեստական արտադրություն, արհեստական բանականության (ԱԲ) կիրառությունները այժմ թվային դարաշրջանի անփոխարինելի տարրեր են։ ChatGPT-ը 2024 թվականի մարտին ամենաշատ ներբեռնված հավելվածն էր, բայց շուտով Google Play Store-ում այն փոխարինվեց Grok-ով։
Գեներատիվ արհեստական բանականության աճը գլխապտույտ է պատճառել, բայց դրա հետ մեկտեղ ավելացել են ուսումնասիրություններն ու հարցականները, մասնավորապես՝ այն կողմնակալությունների վերաբերյալ, որոնք այն կրում և ամրապնդում է։
Քանի որ արտադրողական գործիքները դառնում են ավելի ու ավելի տարածված, ռասայի, սեռի և էթնիկ պատկանելության ներկայացումները ավելի ու ավելի մանրակրկիտ են ուսումնասիրվում։
Ghibli-ի միտման տարածման և այս հավելվածներից կախվածության աճի ֆոնին, օգտատերերը և փորձագետները սկսել են մտահոգություն հնչեցնել այն մասին, թե ինչպես է արհեստական բանականությունը պատկերում տարբեր ծագում ունեցող մարդկանց։ Երբ մենք ավելի մանրամասն ուսումնասիրեցինք, մենք հանդիպեցինք շատ ավելի խնդրահարույց կարծրատիպերի։ Ավելին, դրանց մեծ մասը համակարգված էր։
Քեֆիեներ և մուլտֆիլմեր
Ակնառու օրինակ է Իլոն Մասկի առաջատար AI Grok-ը։ Մենք հրահանգեցինք հավելվածին ստեղծել «ահաբեկչի» կերպար։
Արդյունքը միանգամից եղավ. էկրանին հայտնվեցին քեֆիյե հագած երկու տղամարդ։ Սեմ Ալտմանի OpenAI ընկերության կողմից մշակված ChatGPT-ը նույնպես նմանատիպ պատկեր է ստեղծել։ Քեֆիեն՝ Մերձավոր Արևելքում և Հյուսիսային Աֆրիկայում տարածված ավանդական վանդակավոր շարֆ, տեսողական նյութերում տարածված թեմա էր։
«Զարմանալի չէ, որ այս պատկերները ունեն իսլամական, արաբեսկյան կամ մերձավորարևելյան գեղագիտություն», - ասում է դոկտոր Շոաիբ Ահմեդ Մալիկը։
«Արհեստական ինտելեկտի համակարգերը մարզվում են այնպիսի տվյալներով, որոնք կոդավորում են տեսողական և հայեցակարգային ասոցիացիաները, որոնք գերիշխում են լրատվամիջոցներում, անվտանգության վերաբերյալ դիսկուրսներում և քաղաքական պատմություններում», - բացատրել է Մալիկը TRT World-ին։
+972-ի համաձայն, արհեստական բանականության մեջ օգտագործվող տվյալների ինդեքսավորման գործընթացները չեզոք չեն։ ավելի շուտ, այն արտացոլում է գերիշխանության առկա տնտեսական և քաղաքական կառուցվածքները։ Ծրագրավորման փուլում մեքենայական ուսուցման մոդելներին մատակարարվում է ավելի քան 100 միլիոն բառից բաղկացած տվյալների բազմություն, որը պարունակում է սեռի, էթնիկ պատկանելության և ռասայի հետ կապված նսեմացնող տերմիններ։
Այս սոցիալական մեդիայի դիսկուրսները դառնում են խտրական ալգորիթմների մաս, ինչը բացատրում է, թե ինչպես են արհեստական բանականության համակարգերը վերարտադրում կարծրատիպերը և սնուցում թվային բացառումը։
Արհեստական բանականության կողմից ստեղծված պատկերները ուսումնասիրելով՝ դոկտոր Մալիկը նշել է. «Ձեր կողմից կիսված պատկերները դրա վառ օրինակ են. դրանք ցույց են տալիս, թե ինչպես հասարակությունից ժառանգված ենթադրությունները, երբ չեն ենթարկվում քննադատական գնահատման, կարող են կոդավորվել արհեստական բանականության կողմից ստեղծված բովանդակության մեջ և ամրապնդել խնդրահարույց կարծրատիպերը»։
Ուշադրություն հրավիրելով հագուստի վրա՝ Հնդկաստանի առաջատար մուսուլման քաղաքական գործիչներից մեկը և ՀամաՀնդկաստանի մուսուլմանական լիգայի (AIMM) առաջնորդ Ասադուդդին Օվաիսին քննադատեց այս պատկերը՝ ասելով, որ այն չափազանց պարզեցված է։ «Ինչո՞ւ պետք է դա ցույց տաք։ Դա այնքան մեծ ընդհանրացում է», - ասում է նա։
Ահաբեկիչները չեն համապատասխանում մեկ կերպարի, այլ ընդունում են «տարբեր ոճեր, հագուստներ և բնավորություններ», - TRT World-ին ասել է Օվաիսին։
Դասակարգային և մաշկի գույնի նախապաշարմունք
Մենք ավելի խորը ուսումնասիրեցինք, թե ինչպես են այս կողմնակալությունները ներդրված վիրտուալ աշխարհի կոդերում և ալգորիթմներում։ Երբ նրանց խնդրեցին պատկերել Դուբայում աշխատող մաքրուհու, նրանց ներկայացվեց Բուրջ Խալիֆայի առջև կանգնած հարավասիացի կնոջ պատկեր։
Երբ մենք նրան խնդրեցինք պատկերացնել COVID-19 վիրուսը տարածող մարդու, մենք ստացանք ասիացի և սևամորթ անհատների պատկերներ։
Մենք մեկ քայլ առաջ գնացինք և խնդրեցինք նրան նկարագրել «աղքատ մարդուն»։ Հավելվածը ցույց էր տալիս երկու մարդու՝ առաջինը ասիացի տղամարդ, իսկ մյուսը՝ արաբական, կենտրոնական կամ հարավասիական ծագում ունեցող։ սակայն ճշգրիտ ծագումը պարզ չէր։
Բայց երբ մենք հրամանը փոխեցինք «հարուստ մարդ»-ի, արհեստական բանականությունը առանց վարանելու ներկայացրեց սպիտակամորթ տղամարդու պատկեր։ Նույն իրավիճակը կրկնվեց այնպիսի մասնագիտություններում, ինչպիսիք են «մաթեմատիկոսը», «գլխավոր տնօրենը» և նմանատիպ մասնագիտությունները։ Ալգորիթմի աչքերում հաջողությունը սպիտակամորթներինն էր և տղամարդկանցը։
