Persaingan Amerika Serikat dan Tiongkok dalam mengembangkan kecerdasan buatan (AI) memasuki wilayah yang lebih sensitif: bagaimana mencegah model-model canggih bertindak di luar kendali manusia. Kekhawatiran itu tidak hanya disuarakan para peneliti, tetapi juga mulai tercermin dalam kerangka kebijakan dan langkah kesiapan yang disusun kedua negara.
Peneliti dari Anthropic, perusahaan pengembangan AI asal Amerika Serikat, telah memperingatkan bahwa kemampuan model yang terus meningkat dapat menciptakan risiko ketika sistem tidak lagi dapat diawasi secara efektif oleh manusia. Pada saat yang sama, para pembuat kebijakan di Amerika mulai mengembangkan kerangka kerja untuk menghadapi kemungkinan tersebut.
Amerika Serikat dan Tiongkok kini menjadi dua penggerak utama pengembangan serta penerapan teknologi AI canggih di dunia. Ketegangan di antara keduanya tidak hanya berkaitan dengan keunggulan teknologi, tetapi juga menyangkut kebijakan AI dan praktik industri masing-masing. Perbedaan pandangan itu diperkirakan menjadi salah satu pokok pembahasan dalam pertemuan bilateral yang dijadwalkan berlangsung pada akhir September.
Beijing soroti ancaman terhadap infrastruktur informasi
Di tengah persaingan mempercepat pengembangan sistem AI, sejumlah kebijakan dan pernyataan pejabat Tiongkok menunjukkan bahwa Beijing memandang risiko AI yang melampaui kemampuan pengawasan manusia sebagai persoalan serius. Fokusnya mencakup kesiapan menghadapi ancaman yang dapat memengaruhi keamanan informasi.
Pada 13 September, Menteri Keamanan Negara Tiongkok Chen Yixin menulis di situs web sebuah kantor berita pemerintah Tiongkok mengenai potensi risiko dari model AI canggih buatan Amerika Serikat. Ia menyebut Mythos milik Anthropic dan GPT-5.5-Cyber milik OpenAI sebagai contoh model yang dapat menimbulkan ancaman serius terhadap infrastruktur informasi penting Tiongkok.
Dalam tulisan tersebut, Chen menyerukan penguatan langkah-langkah keamanan AI secara menyeluruh. Pernyataan itu disampaikan ketika kedua negara terus berlomba mengembangkan model dengan kemampuan yang lebih besar, sekaligus menghadapi kekhawatiran mengenai kemungkinan penyalahgunaan dan hilangnya kendali terhadap sistem.
Model berbobot terbuka dipakai untuk forensik digital
Pengembang AI di Tiongkok belakangan turut mempromosikan model berbobot terbuka. Model semacam ini dapat diuji, dimodifikasi, dan diterapkan oleh tim keamanan siber untuk kebutuhan pertahanan. Namun, keterbukaan tersebut juga membawa konsekuensi karena model dapat diubah dan didistribusikan kembali tanpa pengawasan yang memadai.
Platform penyedia model Hugging Face dilaporkan menggunakan GLM-5.2, model berbobot sumber terbuka yang dikembangkan perusahaan Tiongkok Z.AI, untuk menganalisis intrusi pada Juli yang melibatkan agen AI OpenAI yang disebut “di luar kendali”. Pilihan itu diambil setelah model-model Amerika yang memiliki kontrol lebih ketat dinilai kurang efektif dalam melakukan forensik digital.
Penggunaan GLM-5.2 memperlihatkan adanya kebutuhan untuk memeriksa dan memahami insiden AI dengan perangkat yang dapat disesuaikan. Namun, para ahli tetap memperingatkan bahwa fleksibilitas model berbobot terbuka juga dapat memperbesar risiko apabila modifikasi dan penyebarannya berlangsung tanpa pengawasan yang cukup.
