Ozan Ahmet CetinBelakangan ini, platform media sosial dipenuhi dengan gambar-gambar yang dihasilkan oleh AI yang meniru estetika khas Studio Ghibli.
Lonjakan konten 'Ghiblified' ini didorong oleh peluncuran fitur pembuatan gambar oleh OpenAI dalam model ChatGPT-4o, yang memungkinkan pengguna menciptakan visual yang menyerupai karya studio animasi Jepang yang terkenal tersebut.
Popularitas fitur ini begitu besar sehingga CEO OpenAI, Sam Altman, melaporkan pertumbuhan pengguna mencapai satu juta per jam, angka yang mengesankan bahkan untuk platform dengan tingkat pertumbuhan yang sudah cepat.
Meskipun tren Ghibli ini mungkin tampak seperti fenomena sementara, hal ini menunjukkan betapa cepatnya alat AI menjadi bagian dari kehidupan sehari-hari dan menjangkau berbagai pengguna di luar lingkaran teknologi.
Perkembangan teknologi AI yang begitu cepat ini memukau, memikat, mengganggu, membingungkan, dan terkadang bahkan membuat geram. Hayao Miyazaki, salah satu pendiri Studio Ghibli, pernah menyuarakan ketidaknyamanannya dengan menyebut seni yang dihasilkan AI sebagai "penghinaan terhadap kehidupan itu sendiri", sebuah respons emosional yang mencerminkan kegelisahan banyak orang.
Namun, kecepatan perkembangan ini sering kali melampaui penciptaan kerangka kerja kognitif, regulasi, dan etika, sehingga menimbulkan isu-isu yang terus-menerus tidak terselesaikan.
Seiring AI yang terus berkembang, dampaknya terhadap tata kelola dan pengalaman manusia secara luas membutuhkan perhatian yang serius.
Tantangan bagi Negara
AI sedang menguji fondasi bagaimana negara modern mengatur, mengelola, dan mempertahankan kendali. Pembuatan kebijakan tidak dirancang untuk menghadapi kecepatan atau kompleksitas seperti ini, dan celahnya mulai terlihat.
Ancaman pertama dan paling langsung adalah erosi kedaulatan melalui ketergantungan pada platform. Sebagian besar pemerintah saat ini menjalankan setidaknya sebagian dari infrastruktur digital mereka, baik di bidang kesehatan, pendidikan, pertahanan, atau keuangan, pada platform yang tidak mereka miliki atau pahami sepenuhnya.
Komputasi inti, penyimpanan data, dan model AI dasar terkonsentrasi di tangan beberapa raksasa teknologi AS dan China.
Penyedia ini bukanlah pihak netral; mereka adalah perusahaan dengan insentif, investor, dan batasan geopolitik mereka sendiri. Ketika layanan publik dan institusi suatu negara bergantung pada sistem asing yang tidak transparan, kendali yang sebenarnya menjadi ilusi.
Bagi negara-negara di belahan dunia selatan, ini melampaui masalah tata kelola dan dapat berbentuk kolonialisme digital.
The extensive usage of the AI tool for the Ghibli effect leads to questions about potential copyright violations.
Negara-negara dengan daya tawar terbatas mendapati diri mereka terjebak dalam ketergantungan di mana data mereka mengalir keluar, sementara sistem algoritmik yang dirancang di tempat lain membentuk kembali ekonomi, politik, dan struktur sosial mereka.
Bakat dalam negeri dilemahkan, inovasi lokal diabaikan. Dan infrastruktur yang kini menjadi dasar fungsi negara yang kritis seperti platform cloud, API model, dan diagnostik berbasis AI pada akhirnya disewa, bukan dimiliki.
Dengan AI, negara-negara menemukan bahwa mereka tidak dapat mengatur apa yang tidak dapat mereka bangun. Dan semakin terintegrasi AI, semakin sulit untuk melepaskan ketergantungan tersebut tanpa risiko besar.
Kedaulatan di abad ke-21 akan semakin diukur bukan hanya dalam wilayah atau persenjataan, tetapi dalam komputasi, kepemilikan model, dan kontrol infrastruktur. Sebagian besar negara belum siap untuk perubahan ini.
Elemen Ketergantungan
Dalam keadaan seperti ini, komputasi, model, dan bakat muncul sebagai aset strategis setara dengan minyak di abad ke-20. Perebutan global untuk menguasainya sudah berlangsung, dan ini sedang membentuk ulang geopolitik.
Kita melihat munculnya nasionalisme komputasi. Akses ke GPU dan chip khusus tidak lagi menjadi masalah teknis tetapi menjadi prioritas keamanan nasional. Negara-negara menimbun infrastruktur komputasi, membatasi ekspor chip canggih, dan merestrukturisasi rantai pasokan untuk mengurangi ketergantungan pada pesaing.
AS telah bergerak untuk memblokir China dari mengakses perangkat keras AI yang canggih. Sebagai tanggapan, China berlomba untuk membangun alternatifnya sendiri. Silicon menjadi medan pertempuran baru.
Selain komputasi, bakat telah menjadi sumber daya yang sangat diperebutkan. Peneliti AI terbaik dunia sedang direkrut oleh segelintir laboratorium elit, sebagian besar berbasis di AS.
Hasilnya adalah konsentrasi besar kekuatan intelektual di institusi yang semakin selaras dengan aplikasi militer atau intelijen.
Bagi negara-negara kecil, mempertahankan bakat dalam negeri menjadi hampir mustahil. Bahkan negara besar mulai memperlakukan penelitian AI sebagai masalah kedalaman strategis.
Kemudian muncul kedaulatan model. Model AI dasar yang mendukung segalanya mulai dari terjemahan hingga penargetan menjadi setara digital dengan reaktor nuklir.
Lisensi akses ke model asing mungkin tampak efisien, tetapi ini menciptakan titik paparan nasional dalam bentuk ketergantungan pada infrastruktur negara lain untuk sistem kritis. Ini menimbulkan risiko nyata seperti sensor terselubung, pengambilan data, atau sabotase operasional.
Open source dapat bertindak sebagai kekuatan mitigasi dalam keadaan seperti ini. Dengan membuat kode model dan metode pelatihan tersedia, menjadi mungkin untuk mengaudit sistem untuk perilaku tersembunyi, memverifikasi klaim kinerja, dan menyesuaikan teknologi untuk kebutuhan lokal tanpa izin eksternal.
Hal ini juga mendorong partisipasi yang lebih luas dalam penelitian dan pengembangan, mengurangi konsentrasi kekuasaan dan meningkatkan ketahanan.
Bagi pemerintah dan organisasi yang peduli dengan otonomi, selain menjadi langkah penghematan biaya, open source adalah opsi strategis yang mengurangi ketergantungan pada infrastruktur eksternal dan memungkinkan lebih banyak kontrol atas sistem kritis.
Tumpukan AI dari komputasi hingga bakat dan model tidak lagi hanya menjadi masalah teknologi. Ini adalah substrat kapasitas negara modern. Negara-negara yang memahami ini lebih awal akan menentukan aturan. Yang melewatkannya akan didefinisikan oleh aturan tersebut.
A counter-narrative has emerged from Gaza's rubble, where Palestinian youth have responded to Donald Trump's widely condemned AI-generated video with one of their own, declaring, "Gaza will always remain Palestinian".
Tantangan Manusia
Selain mengancam cara kita mengatur atau bersaing, AI juga mengancam cara kita berpikir.
Ketika mesin yang dilatih pada konten manusia mulai menghasilkan sebagian besar konten, dan kemudian mesin di masa depan dilatih pada output tersebut, integritas pengetahuan itu sendiri mulai memburuk.
Sistem AI adalah mesin statistik, bukan epistemologis. Mereka tidak memahami makna, mereka mencerminkannya.
Setelah kumpulan pelatihan dibanjiri dengan output sintetis, lingkaran umpan balik mulai bekerja. Teks, gambar, dan kode yang dihasilkan AI menjadi bahan yang dimakan oleh model di masa depan.
Seiring waktu, model tidak lagi belajar dari realitas tetapi dari gema mereka sendiri.
Ini adalah pencemaran data dalam skala besar. Alih-alih belajar dari pengalaman manusia yang mendasar, model belajar dari output model sebelumnya dan meniru artefak yang tidak pernah berakar pada dunia nyata.
Dalam dunia seperti itu, apa yang tampak seperti konsensus mungkin tidak lebih dari konformitas generatif.
Yang lebih buruk adalah perataan semantik. Ketika model-model menghasilkan lebih banyak bahasa kita, bahasa itu mulai terdengar sama, bersih, koheren, dan sangat rata-rata.
Keaslian dioptimalkan keluar. Gesekan intelektual, jenis yang menghasilkan wawasan, digantikan oleh kelancaran hasil algoritmik yang tampak masuk akal. Bukan berarti mesin mulai berbohong. Tetapi mereka membuat segalanya menjadi membosankan.
Ini adalah risiko korosi lambat di mana setiap bidang hilir dapat terkikis oleh mesin prediksi yang dilatih untuk meniru makna, bukan untuk memproduksinya.
Menggantikan tugas dan bidang juga akan mengubah cara manusia berpikir. Ketika sistem generatif menjadi antarmuka default untuk informasi, pemecahan masalah, dan bahkan refleksi, erosi lambat pemikiran kritis manusia dimulai.
Masalah inti di sini adalah ketergantungan pada intuisi AI. Alih-alih bergulat dengan pertanyaan sulit atau menghadapi ambiguitas, orang semakin mencari jawaban yang sudah dikemas sebelumnya. Model mental yang kita miliki dan kerangka kerja yang kita gunakan untuk memahami kompleksitas mulai larut.
Jadi, yang dipertaruhkan dengan AI bukan hanya kedaulatan politik atau pengaruh ekonomi, tetapi juga kemandirian kognitif itu sendiri. Kemampuan negara untuk mengatur dan kemampuan individu untuk bernalar ditekan secara bersamaan, dari atas dan bawah, oleh sistem yang dioptimalkan untuk prediksi dan koherensi.
AI tidak akan berhenti. Jendela untuk membentuk bagaimana ia terintegrasi ke dalam masyarakat semakin menyempit.
Jika negara dan individu gagal menegaskan kontrol teknis, budaya, dan politik sekarang, mereka akan mendapati diri mereka diatur bukan hanya oleh mesin, tetapi oleh kepentingan mereka yang memilikinya.
(Ini adalah bagian pertama dari seri empat bagian tentang bagaimana AI mengubah dunia. Selanjutnya: AI dan militer)
