کرهجنوبی در نظر دارد بااستفاده از تکنولوژی هوش مصنوعی محتواهای جعلی تولید شده در فضای مجازی به‌ویژه درموارد «جنسی» را کنترل و با تهیه‌کنندگان آن برخورد کند.
براساس گزارش «Yonhap» پلیس کرهجنوبی بعدازاینکه تصاویر و ویدیوهای ساخته شده معروف به دیپ فیک «DeepFake» در سطح کشور منتشر شد، اقدام به صدور اطلاعیه در تاریخ ۱۹ سپتامبر ۲۰۲۴ کرد. در این اطلاعیه آمده است، برای مقابله با جرائم مجازی و جلوگیری از انتشار دیپ فیک‌های جنسی تمامی ابزارهای انسانی و تکنولوژیک را دراختیار خواهیم گرفت و با تخصیص بودجه‌های کلان به تجهیز امکانات پلیس به تکنولوژی روز دنیا خواهیم پرداخت. به تصویب پلیس این کشور در قالب بسته‌های تشویقی برای مخابره جرائم این‌چنینی و همچنین تشکیل گروههای تولید دیپ فیک هدایایی تقدیم خواهد شد.
دیپ‌فیک (DeepFake) چیست ؟
نوعی فناوری مبتنی بر هوش مصنوعی است که به افراد اجازه می‌دهد ویدیوها، تصاویر و یا صداهایی ایجاد کنند که در آن‌ها ظاهر یا صدای یک شخص کاملاً شبیه‌سازی شده و دستکاری می‌شود. اصطلاح "دیپ‌فیک" ترکیبی از دو واژه «Deep Learning» (یادگیری عمیق) و «Fake» (جعلی) است با استفاده از الگوریتم‌های پیشرفته شبکه‌های عصبی، به‌ویژه شبکه‌های مولد تخاصمی (GANs)، چهره‌ها و صداها را تغییر داده و آن‌ها را به گونه‌ای نمایش می‌دهد که واقعی به نظر برسند.
تلگرام، شریک‌جرم DeepFake
این اتفاقات از زمانی آغاز شد که تصاویر و ویدیوهای جعلی ساخته شده توسط هوش‌مصنوعی که اکثرا دختران کودک و نوجوان و محتوی جنسی را شامل می‌شد، در گروههای مجازی مربوط به مدارس و دانشگاه‌‌های کرهجنوبی اقدام به پخش گردید. به همین منظور رئیس اداره تحقیقات ملی کرهجنوبی آقای «Woo Jong-soo» از شرکت تلگرام برای فراهم‌آوری این جرائم به عنوان شریک‌جرم شناخته شده و بازپرسی‌های لازم را آغاز کرده‌است.
