Марино Фернандо
Голливуд жана Вашингтондон социалдык медиа агымдарына жана дүйнөлүк масштабдагы интернетке чейин “deepfake” – «терең үйрөнүү» (deep learning) жана «жасалма» (fake) деген сөздөрдүн биригүүсүнөн келип чыккан жана башка жасалма интеллект колдогон синтетикалык медиа контенттери биз ойлогондон дагы ылдам көбөйүп баратат. 2023 – жылы эле кеминде 95.820 deepfake видеосунун интернетке чыккандыгы аныкталды.
Ооба, Пулитцер сыйлыгынын лауреаты рэпер Кендрик Ламардын 2022-жылы чыккан "The Heart Part 5" ырында Канье, Уилл Смит жана Нипсиге айлангандыгын көрүү сонун жана кызыктуу болушу мүмкүн. Эгер сиз дагы эле "Игра престоловдун" укмуштуудай финалынан канааттанбагандардын катарында болсоңуз, Жон Сноунун сериалдын акыркы сезонунун сценарийи үчүн кечирим сураган жасалма клибин кайра кайра көрүп жатанда балким кандайдыр бир катарсисти сезишиңиз мүмкүн. Бирок мындай манипуляциялар дагы жаман ниеттүү максаттар үчүн колдонула турган болсо эмне болот? Маалыматтар жана сурамжылоолор көпчүлүк адамдардын deepfakeтерди айырмалай албагандыгын, айрымдарынын алгач чыныгы деп ойлогон видеолордун жасалма экенин кийин түшүнгөндүгүн көрсөтүүдө. Көпчүлүк учурда deepfakeтер жараткан коркунучтар дегенде эске саясий жаңылыш маалыматтар келет. Бирок бул технология, белгилүү поп жылдызы Тейлор Свифт сыяктуу ысымдар да болгон аялдарды сексуалдык түрдө зомбулукка жана эксплуатациялоо максатында туруктуу түрдө колдонулууда. Белгилүү болуунун жана өзгөчөлүктөргө ээ болуунун да Свифттин уруксаты болбостон жасалган порнографиялык контенттин бутасына болуудан куткара албагандыгы ортого чыкты.
«Тилекк каршы deepfakeтердин аялдарды кемсинтүү үчүн колдонулушуна таң калбашыбыз керек»,- дейт Лавал университетинин маалымат жана коммуникация бөлүмүнүн ассистенти Софи Тупин TRT Worldге берген маегинде.
Январь айынын акырында Анти - Херо солистине таандык жыныстык мазмундагы фейк көрүнүштөр социалдык медиада тараганда Свифттин “Swifties” деп билинген күйөрмандары аракетке өттү. Күйөрмандар Х платформасын Свифттин жакшы сүрөттөрү менен толтурду жана фейк контенттерди бөлүшкөн эсептерди билдиришти. Ушундайча #ProtectTaylorSwift хештеги трендге айланды. Тупиндин айтмында Свифт күйөрмандарынын ушундай каршылык көрсөтүүсү чоң коомдук жана маданий мааниге ээ. Бул мамиле жасалма интеллект менен чыгарылган синтетикалык медианын кабыл алына турган же кабыл алынбай тургандыгына байланыштуу нормалардын пайда болушуна жардам берет, дүйнөнүн эң чоң поп жылдыздарынын бири болсоңузда болбосоңуз да.
"Бул ыкчам жооп абдан ийгиликтүү болсо да, коомчулуктун мындай күчтүү колдоосуна ар ким эле жете бербестигин моюнга алуу керек. Тейлор Свифттин күйөрмандары «бул кабыл алынгыс» деп ачыкча феминисттик жооптун эң сонун үлгүсүн көрсөтүштү. Ушундай кемсинтүүчү аракеттерге дуушар болгон бардык аялдар менен кыздар ушуга окшогон ылдам жардамды алышат деп ишенем. Чындыгында, коомчулуктун деңгээлиндеги мындай тилектештик - онлайн мисогинисттик жана расисттик жасалма интеллект контенттерине "жок" деп айтуу үчүн муктаж болгон нерсе»,- деди Тупин.
Жөнөкөй сөз менен айтканда, deepfake – бул жасалма интеллекттин негизиндеги синтетикалык медианын бир түрү, ал видеолордо адамдын жүзүн жана сырткы көрүнүшүн башка адамга алмаштыра алат.
Бул тармак биринчи жолу 2017 – жылы Reddit'те “Deepfakes” каймана аттуу бир колдонуучунун белгилүү адамдардын бетин чоңдорго арналган тасмалардагы аялдардын денесине түшүрүү менен уруксатсыз жана санариптик түрдө өзгөртүлүп чоңдорго арналган контенттердин жарыяланышы менен ылдамдады.
Вицеден Motherboard менен сүйлөшкөн бул колдонуучу видеолорду пайда кылуу үчүн Google'дун акысыз колдонулган TensorFlow сыяктуу бир нече ачык булак китепканаларынан колдонгондугун айткан.
«Техникалык жактан муну унутпоо абдан маанилүү : көптөгөн кишинин жасалма интеллект менен чыгарылган deepfakeтерди оңой эле жарата алышы, учурдагы жасалма интеллект программалары берген мүмкүнчүлүктөргө таянууда»,- дейт Тупин. «Бул программалар акыркы жыйырма жылдан бери интернет колдонуучулары катары биз жараткан жана бөлүшкөн контент боюнча үйрөтүлдү. Бул эсте тутуубуз керек болгон маанилүү маселе».
Свифт тууралуу болгон окуялардан кийин мыйзам чыгаруучулар жана катардагы эле жарандар Австраиядан Испанияга жана бул экөөсүнүн ортосундагы бардык жерге чейин, ылдам жана үркүтүүчүдөй көбөйгөн, көпчүлүк учурда аялдарга жана балдарга зыянын тийгизген бул жасалма интеллектке негизделген сүрөттөрдүн алдында дагы күчтүү бир коргоону талап кылышты. Жакынкы убакытта Виктория парламентинин депутаты Жоржи Пурселл бир жергиликтүү маалымат каражатынын анын денесин чындыктан дагы чоң кылып көрсөтүп, көкүрөгүн чоңойтуп, кийимин ачык кылып көрсөтүү менен айыптап, муну медиада аял саясатчыларга каршы "туруктуу жана тымызын" жасалган кемсинтүүчү мамилереге мисалы катары келтирди.
Виктория депутаты Жоржи Пурселл социалдык медиа эсебинен буларды билдирди : «Кечээ башыман көп нерсе өттү. Бирок денемдин жана кийимимдин бир медиа мекемеси тарабынан фотошоп менен жасалышы мен күткөн нерселердин бири эмес эле. Дагы чоң кылып көрсөтүлгөн көкүрөк жана ачык абалга алып келинген кийимиме көңүл бургула. Бир эркек депутатка мунун жасалышын ойлой аласызбы? Бул эмне деген нерсе? Жоржи Пурселл (@georgievpurcell) 2024 – жыл 29 – январь.
2023- жылдагы отчетко караганда deepfake порнографиясы онлайн болгон бардык deepfake видеолордун 98 пайызын түзүүдө жана deepfake порнографиясы бутага алган кишилердин 99 пайызы аялдардан турат. Бул абал ченемдик укуктук базанын зарылдыгын ачык көрсөтүп турат.
«Адамдардын уруксаты болбостон жасалган синтетикалык медианы жок кылсак, маселенин бир бөлүгү болоруубузду да унтпайлы»,- дейт Тупин жана муну кошумчалайт : «Жыныстык негиздеги санариптик зомбулуктан ырахат алгандыгыңызды түшүнүү маанилүү».
Канчалык төңкөрүшчүл болсо да deepfake доору, мыйзам чыгаруу органдары жана өкмөттөр үчүн жаңы кыйынчылыктарды жаратууда. Каалаган учурда баарынын оозунан бардык нерсени айттыра ала турган бул технологияны туура ирээтке салуу үчүн иштеп жаткан мыйзам чыгаруучулардын иши оңой эмес.
Европа Биримдигинин Коопсуздук кызматташтыгы агенттигинин (Europol) 2022 – жылдагы бир отчетуна караганда жалган маалымат жана deepfake менен жаратылган видеолордун жеткиликтүүлүгү, “адамдардын бийликти жана медиа кабарлоо жаңылыктарын кабыл алуу ыкмасына терең таасирин тийгизет” муну менен бирге бийликтегилерге, расмий маалыматтарга болгон ишенимди жок кылат.
Europolдун отчетунда : «Эксперттер мындай абалдын жарандардын эми орток бир реалдуулуктарынын калбай калышына же кайсы маалымат булактарынын ишенимдүү экендиги тууралуу коомдук бир баш - аламандыкка алып келишинен тынчсызданууда. Бул абал кээде «информациянын кыяматы» же «чындыкка кайдыгерлик» деп аталат»,- деген сөздөргө орун берилген. Көптөгөн жылдар адамдар окуган кандайдыр бир маалыматты так бир чындык катары кабыл алгандан мурда сүрөт жана видеолорго карап ырастоого аракет кылышты; негизинен муну аткарып жатып «Көрбөстөн туруп ишенүү» сунушуна баш ийип жатышкан.
Ноябрь айында боло турган президенттик шайлоо жакындап келе жатканда акыркы маалыматтар америкалыктардын талапкерлер жана саясий фигурлар менен байланыштуу жасалма интеллект жана deepfake колдонуудан «абдан тынчсызданып» жаткандыгын көрсөтүүдө. Кайсы партия болбосун, шайлоочулардын басымдуу көпчүлүгү бул технологияны туура жөнгө салуу керектигине ишенет. Тынчсыздануулары негизсиз эмес. Өткөн айда январь айында президент Жо Байдендин жасалма интеллект тарабынан жаратылган үнүн туураган жасалма бир роботтун чалуусу Нью-Гэмпширдин тургундарына штаттын алдыңкы шайлоосунда Демократ партиянын талапкерине добуш бербеши керектигин айтты.
2023 – жылдын сентябрь айында Флорида губернатору Рон ДеСантис 2024-жылдагы президенттик жарыштан чыга тургандыгын жарыялаган deepfake видеонун бутасы болду. Бир канча ай мурда ДеСантистин командасы мурдагы президент Дональд Трамп жана Энтони Фаукинин бири бири менен кучакташкан, жасалма интеллект менен манипуляцияланган бир видео жарыялаган.
«Мындай нерселерди жаратуу үчүн керектүү каражаттар жана системаларга оңойчулук менен жетүүгө болот»,- дейт технология тармагынын аналистти Чарльз Кинг (Pund-IT) Форбеске берген маегинде. «Ошондой эле мааниге ээ болгон, АКШдагы учурдагы саясий климат абдан бузулду, эки тарапта да каршы тарап тууралуу эң жаман нерселерге ишенүүгө даяр, кенен жана абдан каалоочу масса бар».
Журналистикада жана териштирүү иштеринде үндүү жана видеолор, сүрөттөр менен тексттер көпчүлүк учурда ишенимдүү далил катары көрүнүүдө жана эмненин чындык, эмненин жасалма экендигин белгилөөгө жардам берет. Буга чейин фотошоп сыяктуу санариптик манипуляция каражаттары бар эле, бирок жасалмалыктын изин жашыруу көпчүлүк учурда белгилүү бир адистикти керек кылган. Анын үстүнө өзгөртүлгөн көрүнүштөр жасалма интеллект технологиялары ортого салганчалык тажрыйбаны талап кылат.
Жасалма интеллект ишке киргенде жаңылыш маалыматты жаюу ыктымалы күчөйт; өзгөчө да кагылышуу жана согуш учурларында. GDELT долбоорунун (глобалдык масштабда болгон окуялардын, тилдердин жана үндөрдүн реалдуу убакыт маалыматы) негиздөөчүсү доктор Калев Ханнес Литару бул коркунучту баса белгилейт. Эмгектери өнүккөн технологиялардан пайдалануу жана бул технологиялардын глобалдык коомчулукту кантип кайрадан калыптандыргандыгын түшүнүүгө токтолгон Литару ТРТ Worldга берген маегинде : «Ниети жаман актерлордун - бул Газа болсун, Украина болсун же башка бир кагылышуу аймагы - бул каражаттарды колдонуу менен жекелештирген жана кенен масштабда жасалма маалыматтарды өндүрүү потенциалы азыркы учурда абдан жогору»,- дейт.
«Кандайдыр бир социалдык медиа платформасы же ниети жаман бир актер бир өлкөнүн калкына карап туруп, каалган бир кишини/ кишилерди/ группаны социалдык медиа тарыхынын негизинде бутага алып кантип ашыкча ачуулантып, провокация кыларын жана ушундайча коомдорду чындыгында бөлүктөргө бөлөрүн билген бир контентти аларга сунуштай алат»,- деп билдирди жана буларды кошумчалады : «Же тескерисинче бир кагылышуу аймагынан чыккан чыныгы согуштук кылмыш документтери болгондо буларга оңой эле көлөкө түшүрө алат».
2022 – жылы Укринанын президенти Владимир Зеленскийдин аскерлерине Россияга каршы курал таштоого чакырган жасалма видео жарыяланды. Бирок көптөгөн киши санариптик манипуляция издерин - мисалы Зеленскийдин бетинин башы менен дал келбегендигин же акцентинин туура эместигин туура аныктады. Бирок бир жылдан кийин июнь айында орус медиасы Россиянын президенти Владимир Путиндин окшош бирок дагы ынандыруучу жасалма видеосуна алданды. Декабрь айында болсо жасалма интеллект менен жасалган өзүнүн deepfakе жылдык пресс - жыйынын өткөргөн орус лидерин өзүнүн жасалма көрүнүшүнө күбө кылуу менен таң калтырды.
7 - октябрдан бери 27.800дөн ашуун палестиналык өлтүрүлгөн жана 67.000ден ашык киши жараланган Израилдин Газага карата согушу да жасалма интеллекттин жаңылтуучу күчү тууралуу коркууну күчөттү деп билдирди Associated Press.
Азыркы учурда курчоо астындагы аймактан келген чыныгы көрүнүштөр жана күбөлөр бар бирок булар кээде жалган дооматтар жана бурмаланган фактылар менен коштолууда. Согуштун баштарында социалдык медиада уранды астында ыйлаган бир ымыркай да болуу менен айрым жасалма интеллект жараткан видолор орун алды. Өзгөчө башка кагылышуу аймактарынан мурдагы фотографиялар жана видеолор Газадагы акыркы абалдын далили сыяктуу берилди.
Убакыт өткөн сайын жасалма интеллект дагы да өнүктү жана фотошоп сыяктуу компьютердик анимация өнүгүүнү улантат. Бүгүн дээрлик баары текстти кирип DALL-E же Midjourney сыяктуу оңой жетүүгө боло турган жасалма интеллект каражаты менен видео же үн жарата алат.
Литару сыяктуу адистер deepfakeтердин болушунун өзү эле адамдарды чыныгы кабар же оригиналдуу көрүнүштөр туралуу шектенүүгө алып келиши мүмкүн экендигин айтып : «Азыркы учурда билинген фейк маалыматтарды чыгара алабыз. Андан кийин чыгып : «Ал согуш кылмыштарын документтештирген сүрөт бар ал да башкалар сыяктуу эле фейк жаңылыктар" деп айта алабыз»,- деди.
Жөнөкөй тил менен айта турган болсок ынандыруучу фейк далилдердин жаратылышы тынчсыздандыруучу жана өзгөчө бул абал адамдардын чынгы далилдерди да көрбөстүккө салышына мүмкүнчүлүк берип, тартып алынган көрүнүш жана видеолорго болгон ишенимди жок кылат.
Германиядагы Kühne логистикалык университетинин ректору жана башкаруучусу, ошол эле учурда санариптик трансформация боюнча профессор Андреас Каплан жасалма интеллект колдогон контенттердин – deepfake видеолор жана ушуга окшогон технологиялар баяндарды калыптандырууда, коомдук пикирге таасир этүүдө жана аларды бекемдөөдө маанилүү роль ойной тургандыгынан шектенбегендигин айтат. Ушуга карабастан бул технологиянын жаңылыш маалыматтын жайылышына болгон таасиринин анча күчтүү эмес экендигин белгилейт.
«Башка сөз менен айтканда жараткан жасалма интеллект негизинен жаңылыш маалымат чыгарууну оңойлотууда. Бирок бул абал жаңылыш маалыматтын талабы же жайылышы менен ошончолук өлчөмдө таасирдүү эмес»,- дейт Каплан ТРТ Worldга берген маегинде.
Негизги маселенин адамдар маалымат алуу үчүн жасалма интеллект каражаттарына ишене баштагандыгында экендигин айткан Каплан : «Бул негизинен Wikipediaдагы маалыматтарды күмөнсүз кабыл алуудан же бир саясий өнөктүк учурунда телефон жооптоочуларына чалууларга ишенип же ишенбөөчүлүктөн анча деле айырмаланбайт»,- деп кошумчалады. Каплан жөнгө салуучу мекемелердин жалпысынан азыркы кырдаалдан артта калганын мойнуна алса да, deepfakeтер да болгон жасалма интеллект менен жаратылган медиа контенттеринин жаман ниетте колдонулушуна карата аракеттерин улантып жаткандыгын баса белгилеп, буларды кошумчалады : «Көңүл бурарлык бир мисал, Европа Биримдиги Комиссиясынын жасалма интеллект үчүн даярдаган жобонун долбоору. Бул жобо deepfake технологиясы менен жаратылган бардык контенттердин маркировкалануусун мажбур абалга алып келүүдө».
Каплан айткан нерсе 2023 - жылы 9 - декарда убактылуу келишим түзүлгөн жасалма интеллект мыйзамы. Биринчи жолу 2021 – жылы апрель айында сунуш кылынган бул текст Европа Биримдигинин мыйзамы болушу үчүн парламент жана кеңеш тарабынан расмий түрдө кабыл алынууга мажбур. Бекитилгенден кийин АКШ да жакынкы учурда deepfake менен күрөшүүгө карата мыйзамдарды чыгаруу үчүн аракетин күчөттү. Бул ноябрь айындагы президенттик шайлоонун жакындоосу менен ылдамдады».
Канада да кээ бир жасалма интеллект системаларын жөнгө сала турган мыйзам долбоорун карап жатат. Улуу Британияда 2023-жылдын октябрында кабыл алынган Онлайн коопсуздук мыйзам долбоору (Online Safety Bill) жаңы мыйзамдар аркылуу балдарды интернеттеги зыяндуу нерселерден коргоо үчүн нөлдүк сабырдуулук ыкмасын кабыл алуу менен өлкөнү "онлайн дүйнөдөгү эң коопсуз жер" кылууну көздөп жатат.
Капландын айтымында, социалдык медианын колдонуучусу үчүн кандайдыр бир нерсенин ишенимдүүлүгүн аныктоонун жолу – алар керектеген материалга кылдаттык менен мамиле кылуу жана аны териштирбестан кабыл алуунун ордуна сын көз менен баа берүүдөн өтөт.
"Өзүңүздүн алдын ала ойлоруңузду таануу дагы маанилүү, анткени көп учурда алдын ала кабыл алынган ой-пикирлерибиз менен дал келген маалыматтарды кабыл алууга жакынбыз", - дейт Каплан. Жасалма интеллект, санариптешүү жана социалдык желелердеги өнүгүүлөрдү изилдөө тармактарынын арасында болгон профессор : «Бул алдына ала ойлорду билүү, маалыматты объективдүү түрдө талдоого жардам берет. Кыскача айтканда, жаңылык канчалык сенсациялуу болсо, анын булагын ошончолук териштирүү керек»,- деп да эскертти.
