Pada bulan Januari, media global melaporkan berita tentang seorang wanita Perancis bernama Anne yang ditipu lebih daripada $800,000 setelah mempercayai bahawa dia sedang menjalin hubungan dalam talian dengan Brad Pitt. Penipu itu menggunakan profil palsu, akaun WhatsApp, dan juga pasport palsu untuk mencipta ilusi. Namun, Pitt tidak mempunyai sebarang kehadiran di media sosial. Semua ini mungkin berlaku kerana gambar-gambar pelakon itu yang dihasilkan oleh AI.

Kes ini hanyalah satu contoh bagaimana penipuan digital telah mengubah dunia dalam talian. Dahulu dilihat sebagai ruang untuk berhubung, berkolaborasi, dan berkomunikasi secara terbuka, kini internet semakin menjadi tempat pembiakan manipulasi dan ketidakpercayaan.

“Sinisme yang ada sekarang tentang interaksi dalam talian adalah satu perubahan yang ketara,” kata Adrian Ludwig, Ketua Pegawai Teknologi di Tools for Humanity, semasa panel “Krisis Identiti” di Web Summit di Doha pada hari Selasa.

Setiap hari, pengguna seperti Anne menghadapi kandungan yang dihasilkan oleh AI tanpa menyedarinya.

“Kepercayaan terhadap identiti dalam talian semakin runtuh,” kata Ludwig. “Anda mungkin sedang melayari melalui laman sosial atau aplikasi dating, menyedari bahawa anda tidak mempercayai sebarang maklum balas daripada orang yang anda tidak kenali secara peribadi. Orang-orang itu mungkin tidak wujud.”

Teknologi deepfake—yang dahulunya merupakan domain kesan khas Hollywood—kini tersedia secara meluas.

“Terdapat lebih daripada sejuta alat percuma dalam talian yang membolehkan sesiapa sahaja membuat deepfake yang sempurna tanpa sebarang pengalaman teknikal,” jelas Ben Coleman, CEO dan pengasas Reality Defender, sebuah platform yang khusus dalam pengesanan deepfake.

Teknologi deepfake, yang boleh mencipta patung digital yang sangat realistik, telah mengaburkan garis antara fakta dan fiksyen. Disebabkan peraturan yang kekurangan, pakar telah lama memberi amaran tentang potensinya untuk mencetuskan kekacauan atau skandal politik—amaran yang kini menjadi kenyataan.

Krisis kepercayaan

Sinan Aral, seorang profesor MIT dan penyelidik utama mengenai maklumat salah, menjelaskan bahawa deepfake menimbulkan tiga ancaman utama—maklumat salah tentang kesihatan, gangguan pilihan raya, dan penipuan peribadi korporat.

“Akibatnya besar tetapi halus,” kata Aral, sambil menunjuk kepada keraguan vaksin.

“Tujuh juta orang meninggal dunia akibat COVID, dan sehingga kini, 28% populasi masih belum divaksin. CDC mendapati bahawa maklumat salah menyumbang 80% daripada keraguan itu,” katanya.

Pilihan raya juga terjejas dengan maklumat salah..

Aral berkata bahawa pendapat orang boleh berubah hanya dengan mengubah maklumat yang mereka terima. Taktik maklumat salah memberi tumpuan kepada pengundian yang membentuk kerajaan.

“Penyelidikan saya menunjukkan maklumat salah mengubah sama ada orang akan keluar mengundi, bukan cara mereka mengundi,” katanya, sambil merujuk kepada penglibatan Facebook dahulu dalam eksperimen sosial berskala besar untuk menunjukkan betapa mudahnya persepsi awam boleh dibentuk secara besar-besaran.

Penipuan adalah satu lagi medan pertempuran yang semakin berkembang dengan scam phishing, kecurian identiti, dan transaksi penipuan.

“Beratus-ratus juta hilang setiap tahun kerana penipuan atau scam,” kata Aral, merujuk kepada kes di mana datuk nenek menerima mesej palsu yang mendesak untuk memindahkan wang.

Bagi Aral, sifat sistemik penipuan deepfake adalah yang menjadikannya berbahaya. Bahaya sebenar, katanya, terletak pada sifat sistemik penipuan deepfake.

“Anda perlu pergi dari deepfake individu ke tahap sistem,” katanya. Dia menggambarkan senario di mana rangkaian yang didorong oleh AI mengoptimumkan dan menyelaraskan kempen maklumat salah untuk mensasarkan ‘swing states’ utama, individu yang terdedah, dan sasaran kewangan bernilai tinggi—semua sambil memperhalusi taktik mereka melalui data tingkah laku pengguna.

“Daripada menafsirkannya sebagai ‘peristiwa palsu rawak,’ fikirkan tentang sistem yang boleh menyelaraskan dan mengoptimumkan berjuta-juta deepfake.”

Garis antara manusia dan mesin semakin hilang

Apabila AI menjadi semakin canggih, data peribadi telah menjadi liabiliti. “Mengapa memiliki begitu banyak data peribadi berisiko?” tanya Aral.

Semakin banyak maklumat yang tersedia dalam talian—nama, alamat, butiran kewangan—semakin mudah penipuan  yang didorong oleh AI mengeksploitasinya.

“Tiada asas kepercayaan sekarang untuk menjadi manusia di internet,” kata Ludwig. Cabarannya, katanya, adalah untuk menentukan identiti manusia tanpa memerlukan orang mendedahkan maklumat yang semakin sensitif. “Sekarang, anda menyerahkan lebih banyak identiti anda—tempat tinggal, maklumat kad kredit—hanya untuk mengesahkan bahawa anda adalah nyata,” tambahnya.

Malah tokoh awam yang terkenal juga terperangkap dalam skema ini.

Aral menceritakan kes yang dialaminya sendiri, di mana seseorang menggunakan teknologi deepfake untuk menyamar sebagai George Clooney dan mempromosikan algoritma perdagangan penipuan.

“Ia sangat menakutkan dan sangat nyata,” katanya.

Perlumbaan senjata untuk keaslian digital
Cabaran untuk mengekalkan keaslian digital semakin sukar, kerana pakar menggambarkan persaingan antara penipuan dan pengesanan.

“Kita berada dalam perlumbaan senjata,” kata Aral. “Kita menghadapi serangan maklumat salah dan penipuan identiti yang semakin meningkat.”

Penyelesaiannya, katanya, adalah pertahanan berlapis—yang merangkumi kedua-dua alat yang memelihara privasi dan sistem pengesahan yang ketat. “Kita memerlukan semua alat yang boleh kita dapatkan untuk aplikasi tanpa nama supaya kita boleh mempercayai dari mana maklumat itu datang,” katanya, sambil memastikan bahawa penipuan yang dihasilkan oleh AI didedahkan.

Ludwig menekankan bahawa ini adalah lebih daripada keselamatan dalam talian. “Semua kemajuan sosial—kolaborasi, penyelarasan, komunikasi—bergantung pada kepercayaan,” katanya. “Tanpanya, kerjasama akan runtuh, dan internet berisiko menjadi ruang di mana tiada siapa tahu apa yang nyata.”

“Pertempuran untuk keaslian digital masih jauh dari selesai,” kata Ludwig. “Tetapi melalui kesedaran, keutamaan, dan alat yang betul, kita masih boleh memastikan internet kekal sebagai tempat yang selamat.”