Baru-baru ini, platform media sosial dibanjiri imej janaan AI yang meniru estetika unik Studio Ghibli.

Gelombang kandungan 'Ghiblified' ini didorong oleh pelancaran ciri penjanaan imej dalam model ChatGPT-4o OpenAI, yang membolehkan pengguna mencipta visual serupa karya studio animasi Jepun terkenal itu.  

Populariti ciri ini tidak diduga sehingga CEO OpenAI, Sam Altman, melaporkan pertumbuhan pengguna mencecah sejuta sejam - angka yang mengagumkan walaupun bagi platform yang sudah berkembang pesat.  

Walaupun kegilaan Ghibli ini mungkin kelihatan seperti trend sementara, ia menunjukkan betapa pantas alat AI menjadi sebahagian kehidupan seharian dan merentas kalangan pengguna luas di luar komuniti teknologi.  

Perkembangan pesat teknologi AI ini mengkagumkan, mempesonakan, mengganggu, mengelirukan, dan kadangkala menimbulkan rasa jijik. Hayao Miyazaki, pengasas bersama Studio Ghibli, pernah meluahkan ketidakselesaan ini apabila mengutuk seni terjana AI sebagai "penghinaan kepada kehidupan itu sendiri" - reaksi visceral yang mencerminkan keresahan ramai.  

Pada masa sama, kelajuan perkembangan ini sering mengatasi pembentukan rangka kerja kognitif, peraturan dan etika, serta menimbulkan isu-isu yang kronik tidak terselesaikan. 

Ketika AI terus maju, kesannya terhadap tadbir urus dan pengalaman manusia memerlukan perhatian serius.  

Cabaran kepada negara

AI sedang menguji asas bagaimana negara moden mentadbir, mengawal selia dan mengekalkan kawalan. Dasar awam tidak direka untuk kelajuan atau kerumitan sebegini, dan retakan mula kelihatan.  

Ancaman pertama dan paling langsung ialah penghakisan kedaulatan melalui kebergantungan platform. Kebanyakan kerajaan hari ini menjalankan sekurang-kurangnya sebahagian infrastruktur digital mereka - sama ada dalam kesihatan, pendidikan, pertahanan atau kewangan - pada platform yang mereka tidak miliki atau fahami sepenuhnya.  

Pengiraan teras, penyimpanan data dan model AI asas tertumpu di tangan segelintir gergasi teknologi AS dan China.  

Ini bukan pembekal neutral; mereka syarikat dengan insentif, pelabur dan kekangan geopolitik sendiri. Apabila perkhidmatan awam dan institusi negara berjalan pada sistem asing yang tidak telus, kawalan sebenar menjadi ilusi.  

Bagi Global South, ini melangkaui isu tadbir urus dan mungkin mengambil bentuk kolonialisme digital.  

Negara dengan kuasa tawar yang terhad terperangkap dalam kebergantungan di mana data mereka mengalir keluar, sementara sistem algoritma yang direka di tempat lain membentuk semula ekonomi, politik dan struktur sosial mereka.  

Bakat domestik terpinggir, inovasi tempatan diketepikan. Dan infrastruktur yang kini menyokong fungsi kritikal negara seperti platform awan, API model dan diagnostik berasaskan AI sebenarnya disewa, bukan dimiliki.  

Dengan AI, negara menyedari mereka tidak boleh mentadbir apa yang tidak boleh bina. Dan tahap integrasi AI yang kian pesat, semakin sukar untuk melepaskan kebergantungan itu tanpa risiko besar.  

Kedaulatan pada abad ke-21 akan semakin diukur bukan sekadar wilayah atau senjata, tetapi dalam pengiraan, pemilikan model dan kawalan infrastruktur. Kebanyakan negara belum bersedia untuk peralihan itu.  

Unsur-unsur kebergantungan  

Dalam keadaan sedemikian, pengiraan, model dan bakat muncul sebagai aset strategik setaraf minyak pada abad ke-20. Perebutan kawalan global sudah bermula, dan ia membentuk semula geopolitik.  

Kita menyaksikan kebangkitan nasionalisme pengiraan. Akses kepada GPU dan cip khusus bukan lagi kebimbangan teknikal tetapi keutamaan keselamatan negara. Negara menyimpan infrastruktur pengiraan, menyekat eksport cip bertaraf tinggi dan menyusun semula rantaian bekalan untuk mengurangkan kebergantungan kepada pesaing.  

AS sudah bertindak menyekat China daripada mengakses perkakasan AI canggih. China pula berlumba membina alternatif sendiri. Silikon menjadi medan pertempuran baru.  

Selain pengiraan, bakat menjadi sumber yang diperebutkan. Penyelidik AI teratas dunia diburu segelintir makmal elit, kebanyakannya berpangkalan di AS.  

Hasilnya ialah tumpuan besar kuasa otak dalam institusi yang semakin sejajar dengan aplikasi ketenteraan atau perisikan.  

Bagi negara kecil, mengekalkan bakat domestik menjadi hampir mustahil. Malah negara besar mula menganggap penyelidikan AI sebagai isu kedalaman strategik.  

Kemudian muncul kedaulatan model. Model AI asas yang menyokong segala-galanya daripada terjemahan kepada sasaran menjadi setara digital reaktor nuklear.  

Melesenkan akses kepada model asing mungkin kelihatan cekap, tetapi ia mencipta titik pendedahan negara dalam bentuk kebergantungan pada infrastruktur negara lain untuk sistem kritikal. Ini menimbulkan risiko sebenar penapisan tersembunyi, penyedutan data atau sabotaj operasi.  

Sumber terbuka boleh bertindak sebagai daya mitigasi dalam keadaan sedemikian. Dengan menjadikan kod model dan kaedah latihan tersedia, ia menjadi mungkin untuk mengaudit sistem bagi tingkah laku tersembunyi, mengesahkan tuntutan prestasi dan menyesuaikan teknologi untuk keperluan tempatan tanpa kebenaran luar.  

Ia juga menggalakkan penyertaan lebih luas dalam penyelidikan dan pembangunan, mengurangkan tumpuan kuasa dan meningkatkan ketahanan.  

Bagi kerajaan dan organisasi yang prihatin tentang autonomi, selain langkah penjimatan kos, sumber terbuka ialah pilihan strategik yang mengurangkan kebergantungan pada infrastruktur luar dan membolehkan lebih kawalan ke atas sistem kritikal.  

Rangkaian AI daripada pengiraan kepada bakat dan model bukan lagi sekadar isu teknologi. Ia menjadi substrat kapasiti negara moden. Negara yang memahami ini awal akan mentakrifkan peraturan. Yang terlepas akan ditakrifkan olehnya.  

TRT Global - Rakyat Palestin cabar fantasi AI Trump dengan mesej petentangan yang tegar

Satu naratif balas telah muncul dari runtuhan Gaza, di mana belia Palestin membalas video Donald Trump yang dihasilkan oleh AI dan telah dikutuk secara meluas dengan video mereka sendiri menyatakan, "Gaza akan kekal sebagai milik Palestin".

🔗

Cabaran manusia  

Selain mengancam cara kita mentadbir atau bersaing, AI mengancam cara kita berfikir.  

Apabila mesin dilatih pada kandungan manusia mula menghasilkan kebanyakan kandungan, dan kemudian mesin masa depan dilatih pada hasil pengeluaran itu, integriti pengetahuan itu sendiri mula merosot.  

Sistem AI ialah enjin statistik, bukan epistemologi. Ia tidak memahami makna, ia mencerminkannya.  

Setelah kolam latihan dibanjiri output sintetik, gelung maklum balas bermula. Teks, imej dan kod terjana AI menjadi bahan yang memberi makan model masa depan.  

Lama kelamaan, model tidak lagi belajar dari realiti tetapi dari gema sendiri.  

Ini pencemaran data pada skala besar. Daripada belajar dari pengalaman manusia berasas, model belajar dari output model sebelumnya dan meniru artifak yang tidak pernah berakar dalam dunia.  

Dalam dunia sedemikian, apa yang kelihatan seperti konsensus mungkin tidak lebih daripada keseragaman generatif.  

Lebih buruk ialah pemampatan semantik. Apabila model menjana lebih banyak bahasa kita, bahasa itu mula kedengaran sama - kemas, koheren dan menyakitkan rata.  

Keaslian dioptimumkan keluar. Geseran intelektual yang menghasilkan wawasan digantikan oleh kepolisan licin kebolehpercayaan algoritma. Bukan mesin mula berbohong, tetapi ia mula menjadikan semuanya hambar.  

Ini risiko hakisan perlahan di mana setiap bidang hilang inti pati oleh enjin ramalan dilatih untuk meniru makna, bukan menghasilkannya.  

Menggantikan tugas dan bidang akan menyambung semula kognitif manusia juga. Apabila sistem generatif menjadi antara muka lalai untuk maklumat, penyelesaian masalah dan bahkan renungan, hakisan perlahan pemikiran kritikal manusia bermula.  

Di sini, isu teras ialah kebergantungan pada intuisi AI. Daripada menghadapi soalan sukar atau duduk dengan kekaburan, orang semakin mencapai jawatan pra-pakej. Model mental yang kita ada dan rangka kerja yang kita gunakan untuk memahami kerumitan mula larut.  

Jadi, apa yang dipertaruhkan dengan AI bukan sekadar kedaulatan politik atau daya tuas ekonomi, tetapi kemerdekaan kognitif itu sendiri. Keupayaan negara untuk mentadbir dan keupayaan individu untuk berfikir ditekan serentak, dari atas dan bawah, oleh sistem dioptimumkan untuk ramalan dan koheren.  

AI tidak akan berhenti. Tingkap untuk membentuk cara ia berintegrasi dalam masyarakat semakin sempit.  

Jika negara dan individu gagal menegaskan kawalan teknikal, budaya dan politik sekarang, mereka akan mendapati diri mereka bukan sahaja ditadbir mesin, tetapi oleh kepentingan mereka yang memilikinya.  

(Ini bahagian pertama siri empat bahagian tentang bagaimana AI mengubah dunia. Seterusnya: AI dan ketenteraan)