Norwegia dan Finlandia mengusulkan pembentukan badan internasional yang bertugas memantau sekaligus memperkuat tata kelola pengembangan kecerdasan buatan (AI). Inisiatif tersebut diluncurkan oleh Perdana Menteri Norwegia Jonas Gahr Støre dan Presiden Finlandia Alexander Stubb di tengah kekhawatiran mengenai kemajuan sistem AI yang semakin canggih dan berkemampuan tinggi.
Støre mengatakan kepada penyiar Norwegia VG bahwa gagasan itu muncul setelah adanya kekhawatiran dari perwakilan perusahaan AI. Kekhawatiran tersebut berkaitan dengan pengembangan sistem yang memiliki kemampuan semakin besar, sehingga membutuhkan pengawasan dan mekanisme keselamatan yang lebih kuat.
AI harus tetap berada dalam kendali manusia
Dalam pernyataan bersama, Norwegia dan Finlandia menegaskan bahwa pengembangan serta penerapan AI harus berlangsung dalam kerangka hukum internasional. “Kecerdasan buatan harus tetap berada di bawah panduan, pengawasan, dan kendali manusia, serta dikembangkan dan diterapkan sesuai dengan hukum internasional,” demikian isi pernyataan kedua negara tersebut.
Posisi itu menjadi dasar bagi sejumlah usulan yang ditujukan kepada perusahaan teknologi, pemerintah, dan organisasi regional. Kedua negara mendorong perusahaan AI untuk menyusun protokol keselamatan yang terbuka dan dapat diverifikasi. Protokol tersebut, menurut inisiatif itu, perlu mencakup kewajiban melakukan pengujian sebelum model AI diluncurkan.
Perusahaan juga didorong menjalani audit dan penilaian secara independen. Dengan mekanisme tersebut, pengujian terhadap sistem AI tidak hanya bergantung pada pengembangnya, tetapi juga dapat diperiksa melalui proses yang bisa diverifikasi.
Usulan lembaga di bawah kerangka PBB
Selain mengatur tanggung jawab perusahaan, inisiatif Norwegia dan Finlandia menyerukan kerja sama yang lebih erat di tingkat pemerintah dan organisasi regional. Kerja sama itu mencakup penyusunan standar bersama, peningkatan transparansi, serta pembentukan mekanisme pelaporan bersama untuk menangani insiden keselamatan AI yang serius.
Kedua negara juga mengusulkan agar negara-negara anggota Perserikatan Bangsa-Bangsa (PBB) berupaya membentuk sebuah lembaga internasional. Lembaga tersebut diharapkan memiliki kemampuan untuk menetapkan standar, memfasilitasi proses verifikasi, dan mengumpulkan berbagai negara ketika sistem AI mencapai ambang batas kemampuan tertentu.
Usulan itu menempatkan pengawasan AI sebagai agenda yang membutuhkan koordinasi lintas negara, terutama ketika kemampuan sistem berkembang melampaui batas-batas yang dapat diawasi secara terpisah oleh masing-masing pemerintah. Namun, sumber tersebut belum memuat rincian mengenai bentuk kelembagaan, kewenangan, maupun jadwal pembentukan badan internasional yang diusulkan Norwegia dan Finlandia.
