Bulan lalu, China mendedahkan rancangannya untuk menubuhkan sebuah badan global bagi memantau kecerdasan buatan (AI) berteraskan akses sama rata kepada teknologi tersebut, kerjasama rentas sempadan yang lebih mendalam, serta langkah untuk mengurangkan halangan seperti sekatan perkakasan dan had pertukaran bakat.

Enam bulan sebelumnya, 58 negara bertemu di Paris untuk mengesahkan deklarasi mengenai “AI inklusif dan mampan,” yang tidak ditandatangani oleh Amerika Syarikat dan United Kingdom.

Pendekatan berbeza, tetapi coraknya sama. Perlumbaan untuk menguasai AI bergerak jauh lebih pantas daripada sebarang usaha untuk mengawalnya.

Kecerdasan buatan ialah pengganda kuasa bagi ekonomi, sistem keselamatan, dan pengaruh geopolitik.

Dalam dekad lalu, ia telah bergerak daripada makmal teknologi ke dalam sistem sasaran ketenteraan, perolehan kerajaan, dan infrastruktur penting. Persoalan sama ada ia boleh dikawal selia dengan berkesan kini berpindah daripada bilik seminar ke meja jemaah menteri.

Apabila model yang sama boleh membantu seseorang lulus peperiksaan perubatan dan menghasilkan video deepfake yang realistik dalam masa yang singkat, jelaslah bahawa alat pengawasan hari ini tidak sepadan dengan kelajuan, kepelbagaian atau capaian AI yang moden.

Rangka kerja kawal selia sedia ada dibina untuk arus pemodenan yang bergerak perlahan dan aplikasi yang ditakrifkan secara sempit. Ia tidak direka untuk sistem yang boleh menghasilkan teks setaraf tulisan manusia, menganalisis imej satelit dalam beberapa saat, atau menyelaras armada mesin autonomi.

Jurang ini mendorong gesaan untuk mekanisme tadbir urus baharu yang boleh bertindak balas terhadap skala, kepantasan dan potensi dwifungsi yang unik.

Dimensi antarabangsa dalam perdebatan tadbir urus didorong oleh bagaimana teknologi baharu mengubah kiraan risiko bagi konflik dan ketidakstabilan. Sesetengah kemajuan boleh mengurangkan risiko tersebut dengan memperbaiki pengesahan, komunikasi, atau pencegahan.

Namun yang lain, khususnya yang menawarkan kelebihan jelas di medan perang, cenderung meningkatkan perbelanjaan ketenteraan dan memperhebat perlumbaan senjata. Konsensus umum ialah AI tergolong dalam kumpulan yang kedua.

Kejayaan AI dalam pengawasan, penyasaran, dan sistem autonomi mengukuhkan tanggapan bahawa ketinggalan bererti kerugian strategik yang serius.

Secara teori, rangka kerja kawalan senjata atau pengaturan kerjasama yang lebih ringan boleh membantu semua pihak dengan menetapkan had yang mengelakkan persaingan yang menggugat kestabilan. Namun, perjanjian sebegini jarang berlaku.

Kegagalan koordinasi, ketidakpercayaan antara satu sama lain, dan sifat dwifungsi AI menjadikan bentuk pengawalan bersama antarabangsa seperti yang pernah dilihat dalam perjanjian senjata terdahulu jauh lebih sukar dicapai hari ini.

Dalam sempadan negara, peraturan masih boleh dilaksanakan oleh kerajaan yang memiliki kekuatan institusi dan teknikal untuk mengikutinya. Tetapi di peringkat global, faktor yang mendorong penerapan AI menjadikan undang-undang yang luas dan boleh dikuatkuasakan hampir mustahil.

Hal Ehwal Domestik

Di peringkat domestik, apa-apa keputusan berada dalam tangan kerajaan. Badan perundangan boleh meluluskan undang-undang, pengawal selia boleh mengeluarkan peraturan, dan agensi boleh menuntut pematuhan daripada pembangun yang beroperasi dalam bidang kuasa mereka.

Inilah gelanggang di mana konteks budaya, undang-undang dan ekonomi boleh dicerminkan dalam tadbir urus. Sebuah negara yang berkeupayaan boleh menyesuaikan peraturan untuk melindungi privasi, mencegah algoritma yang berat sebelah, dan melindungi sistem kritikal tanpa mengekang inovasi.

Namun keupayaan ini tidak diagihkan secara sama rata. Regulasi berkait rapat dengan soal kapasiti.

Pengawasan yang berkesan memerlukan infrastruktur teknikal yang maju, pengawal selia yang memahami sistem asas, dan institusi yang cukup tangkas untuk menyesuaikan peraturan apabila teknologi berubah.

Tanpa semua ini, regulasi berisiko menjadi simbolik semata-mata, bukan berkesan.

Halangan pertama ialah kelajuan. Sistem AI boleh berubah dengan ketara dalam beberapa bulan, manakala proses perundangan biasanya mengambil masa bertahun-tahun.

Peraturan yang terkunci dalam statut berisiko menjadi usang sebelum sempat dilaksanakan. Negara yang dapat mengikuti rentak ialah mereka yang mampu menggunakan mekanisme yang fleksibel seperti standard berterusan, regulatory sandbox, dan proses pindaan yang dipermudah untuk mengemas kini pengawasan tanpa dilumpuhkan oleh birokrasi legislatif.

Negara yang menetapkan peraturan pematuhan secara kaku berisiko gagal dalam pengawalseliaan yang bermakna.

Halangan kedua ialah kepakaran. Di banyak negara, pengawal selia, hakim dan penjawat awam tidak memiliki pengetahuan teknikal untuk menilai seni bina model, risiko data latihan, atau kerentanan sistem.

Tanpa kemampuan ini, kerajaan akan merangka peraturan yang tidak mampu dikuatkuasakan.

Kelemahan ini paling ketara apabila AI menjadi asas kepada infrastruktur kritikal, penjagaan kesihatan, atau sistem kewangan, di mana kegagalan pengawasan boleh memberi kesan segera dan berimpak tinggi.

Tanpa penilai yang berkemahiran, undang-undang AI yang ditulis dengan baik sekalipun tidak akan menjadi lebih daripada sekadar kata-kata di atas kertas.

Halangan ketiga ialah kebergantungan. Negara yang bergantung pada platform AI milik asing, perkhidmatan awan, atau rantaian bekalan semikonduktor tidak dapat menguatkuasakan piawaian mereka sendiri sepenuhnya.

Jika sistem AI yang kritikal di sesebuah negara dilatih dan dihoskan di luar negara, pengawal selia akan kehilangan kuasa untuk mengaudit atau mengubahnya. Ini bukan sekadar persoalan kedaulatan abstrak.

Tanpa kemampuan kendiri, pengawal selia sesebuah negara terpaksa bergantung kepada pembekal luar. Pengalaman Eropah dengan dominasi awan asing adalah satu contoh yang harus diingati semua.

Mencari keseimbangan yang tepat bukan mudah, walaupun untuk negara-negara yang ada kemampuan. Peraturan yang terlalu ketat menolak pelaburan dan bakat ke tempat lain, kerana pembangun teknologi cenderung memilih bidang kuasa yang memudahkan aktiviti untuk bereksperimen.

Peraturan yang terlalu longgar pula menjejaskan privasi, membolehkan penyalahgunaan, dan melemahkan keselamatan negara. Mencapai keseimbangan memerlukan kekuatan institusi, kehendak politik, dan penyesuaian berterusan. Ada yang mampu melakukannya; ramai yang tidak.

Tadbir urus antarabangsa

Gambaran di peringkat antarabangsa lebih teruk. Sebab utamanya ialah faktor strategik. AI menjanjikan peningkatan nyata dalam keberkesanan ketenteraan, dan tiada kuasa besar yang sanggup memperlahankan langkah mereka.

Dalam dinamik perlumbaan senjata, kawalan diri dilihat sebagai toksik dalam politik. Rasa takut untuk ketinggalan serta kerugian strategik yang mungkin berlaku mengatasi manfaat yang dilihat daripada had kolektif.

Aliran dana mengesahkan momentum tersebut. Pasaran AI ketenteraan global, bernilai sekitar AS$10 bilion pada 2024, dijangka berkembang lebih 13 peratus setahun hingga ke dekad akan datang.

Di Amerika Syarikat sahaja, perbelanjaan pertahanan AI dianggarkan sekitar AS$2 bilion setahun, dengan berbilion dolar lagi dilaburkan dalam sistem autonomi dan platform yang menyokong keputusan. Belanjawan ini bukan tanda persediaan untuk berhenti sejenak, tetapi pelan hala tuju untuk memecut.

Kalaupun kerajaan-kerajaan mahu memperlahankan perlumbaan ini, masalah verifikasi tetap tidak dapat diatasi.

Salah satu sebab perjanjian senjata nuklear berkesan adalah kerana hulu ledak dan sistem pelancarannya besar, sukar disembunyikan, dan mudah dikira.

Model AI tidak begitu. Ia boleh dilatih secara rahsia, disimpan dalam perkakasan pengguna, disematkan dalam aplikasi awam, dan disalin secara global.

Usaha memeriksa penggunaan AI akan memerlukan tahap pengawasan digital yang tinggi di mana ia mungkin terpaksa mencampuri urusan dalaman sesebuah negara tetapi sudah pasti tiada kuasa besar yang sanggup menerima ini. Dalam persekitaran sebegini, insentif untuk menipu amat signifikan.

Teknologi dwifungsi menjadikan gambaran lebih kabur. Sistem penglihatan komputer yang sama untuk pengimejan perubatan boleh diubah suai untuk sasaran dron; model bahasa besar yang sama yang menulis skrip khidmat pelanggan boleh menghasilkan propaganda atau maklumat palsu yang meyakinkan.

Ini bermakna, sebarang perjanjian yang menyasarkan “ketenteraan AI” pasti akan menyentuh teknologi awam, sesuatu yang kebanyakan negara tidak sanggup serahkan kepada pemeriksaan asing.

Keadaan susunan antarabangsa memburukkan lagi masalah ini. Diplomasi pelbagai hala bergelut walaupun dalam isu yang kurang kontroversi seperti sasaran iklim, reformasi WTO, dan pencegahan genosid.

Kepercayaan antara kuasa-kuasa besar adalah rendah dan terus merosot. Perbincangan PBB mengenai “robot pembunuh” berlarutan selama bertahun-tahun tanpa penyelesaian, meskipun terdapat persetujuan dalam kalangan negara-negara kecil.

Kuasa dunia dengan keupayaan AI paling maju, seperti AS dan China, melihat lebih banyak risiko berbanding manfaat jika mengikat diri mereka kepada had yang mungkin diabaikan pesaing.

Hasil mungkin membawa kepada persekitaran antarabangsa yang berpecah-belah. Negara-negara akan terus membangunkan senjata dan sistem perisikan berasaskan AI tanpa had yang dipersetujui bersama.

Strategi berpecah

Dalam keadaan ini, langkah paling praktikal ialah strategi berpecah. Di peringkat domestik, kerajaan perlu membina kapasiti tadbir urus dengan melatih pengawal selia, membangunkan alat audit, dan mengukuhkan rantaian bekalan AI.

Kemandirian dalam pengkomputeran, pembangunan model dan infrastruktur adalah penting bagi mana-mana pengawal selia yang benar-benar serius.

Di peringkat antarabangsa, matlamatnya haruslah boleh dikuatkuasakan dalam bidang berisiko tinggi seperti melarang penggunaan AI dalam sistem kawalan dan arahan nuklear, mengharamkan kelas tertentu senjata autonomi ganas, atau mewajibkan pemberitahuan bagi insiden AI yang menjejaskan infrastruktur kritikal.

Perjanjian sebegini agak terhad skopnya dan rapuh dari segi penguatkuasaan, namun sekurang-kurangnya ia boleh memperlahankan penggunaan yang mampu menggugat kestabilan.

Diplomasi Laluan II, menggunakan saluran tidak rasmi antara pakar teknikal dan perancang ketenteraan, boleh membantu membina kepercayaan dan kefahaman yang diperlukan bagi perjanjian rasmi pada masa hadapan.

Gabungan kawalan eksport, seperti yang telah mengehadkan cip AI berprestasi tinggi ke destinasi tertentu, juga boleh memainkan peranan dalam menguruskan pengawalan.

Namun pembuat dasar harus jelas bahawa dinamik dominan di peringkat antarabangsa akan kekal bersifat kompetitif.

AI akan terus bergerak pantas, didorong oleh peluang komersial dan juga keperluan keselamatan negara. Kawal selia akan ketinggalan, dan jurang itu akan diisi bukan oleh perjanjian pelbagai hala tetapi oleh pencarian kelebihan unilateral.

Era AI akan ditadbir secara tidak sekata. Di peringkat domestik, hanya segelintir negara berkeupayaan membangunkan sistem yang menyeimbangkan inovasi dengan keselamatan dan kedaulatan.

Di peringkat antarabangsa, perlumbaan akan berterusan tanpa banyak kawalan, dimana perjanjian rapuh dalam ruang yang berbahaya mungkin akan muncul dari semasa ke semasa.