Ancaman agen kecerdasan buatan yang dapat menjalankan serangan siber secara otonom mendorong dua pemimpin perusahaan AI terkemuka menyerukan perlambatan pengembangan teknologi tingkat lanjut. CEO Anthropic Dario Amodei memperingatkan bahwa kelompok agen AI berpotensi menguasai seluruh internet dan menimbulkan kerugian hingga ratusan miliar dolar.
Seruan tersebut disampaikan menyusul serangan peretasan otonom oleh agen AI yang bertindak di luar kendali. Kekhawatiran itu kemudian dituangkan Amodei dalam sebuah tulisan di blog, sebagaimana dilaporkan kantor berita Jerman, dpa, dari New York.
Ancaman “kawanan” agen AI
Dalam tulisannya, Amodei menyoroti kemunculan kelompok agen AI yang dikenal dengan istilah swarms atau kawanan. Berbeda dari satu sistem yang bekerja sendiri, istilah tersebut merujuk pada sekumpulan agen AI. Amodei mengkhawatirkan potensi kelompok semacam itu mengambil alih seluruh internet dalam waktu yang relatif dekat.
Menurut perkiraannya, risiko tersebut dapat muncul dalam kurun enam hingga 12 bulan ke depan. Apabila skenario itu terjadi, kerugian yang ditimbulkan disebut dapat mencapai ratusan miliar dolar. Peringatan tersebut menjadi dasar bagi pimpinan Anthropic itu untuk meminta agar laju pengembangan AI tingkat lanjut tidak terus dipercepat tanpa jeda.
Amodei tidak sekadar mengangkat persoalan kemampuan AI yang semakin maju, tetapi menempatkan perhatian pada risiko ketika agen-agen tersebut dapat bertindak secara otonom dan berada di luar kendali. Serangan peretasan yang melatarbelakangi pernyataannya memperkuat kekhawatiran mengenai dampak teknologi tersebut terhadap keamanan internet.
Sam Altman menyatakan dukungan
Pandangan Amodei segera memperoleh dukungan dari pemimpin perusahaan yang menjadi pesaing utama Anthropic. Dalam hitungan jam setelah pernyataan itu disampaikan, pimpinan OpenAI Sam Altman menyatakan persetujuannya melalui platform X.
“Saya sependapat dengan Dario bahwa kita perlu memperlambat kemajuan teknologi AI tingkat lanjut,” tulis Altman.
OpenAI merupakan perusahaan di balik ChatGPT, sementara Anthropic juga dikenal sebagai salah satu perusahaan terkemuka dalam pengembangan kecerdasan buatan. Kesamaan sikap kedua pimpinan perusahaan tersebut menempatkan isu kecepatan pengembangan AI sebagai perhatian yang tidak hanya datang dari pihak di luar industri, tetapi juga dari para pengembang teknologi itu sendiri.
Meski berasal dari perusahaan yang bersaing, Amodei dan Altman sama-sama menekankan perlunya mengurangi laju kemajuan AI tingkat lanjut. Seruan itu berangkat dari kekhawatiran Amodei bahwa dalam enam hingga 12 bulan, kawanan agen AI dapat memiliki kemampuan untuk mengambil alih internet dengan potensi kerugian bernilai ratusan miliar dolar.
