Pada 16 September, Sekretaris Jenderal Perserikatan Bangsa-Bangsa (PBB) Antonio Guterres menghimpau upaya global untuk membangun mekanisme pengendalian, atau “pagar pengaman”, terhadap AI. Seruan tersebut disampaikan hanya beberapa hari setelah para pemimpin perusahaan teknologi terkemuka Amerika Serikat (AS) mengenai perlunya memperlambat proses pengembangan AI, karena teknologi ini berisiko berkembang di luar kendali manusia.
Kecepatan Perkembangan yang Mengkhawatirkan
Dalam artikelnya pada 12 September, CEO Anthropic, Dario Amodei memperingatkan bahwa laju perkembangan AI saat ini dapat membuat sistem AI dengan cepat mencapai kemampuan untuk melakukan aktivitas berbahaya di Internet. Oleh karena itu, perusahaan-perusahaan AI terkemuka perlu memperlambat laju peningkatan kemampuan model AI, sekaligus memperkuat langkah-langkah keselamatan. CEO OpenAI, Sam Altman dan CEO xAI, Elon Musk, bersama sejumlah pakar teknologi di dunia, kemudian secara terbuka mendukung usulan tersebut.
Perkembangan-perkembangan ini menunjukkan bahwa perdebatan seputar keamanan dan risiko AI telah berubah secara signifikan dalam dua tahun terakhir. Jika sebelumnya sebagian besar perdebatan hanya berupa pembahasan teoritis mengenai berbagai kemungkinan hipotetis, kini risiko AI telah menjadi persoalan geopolitik yang mendesak.
Sejak akhir 2025, serangan siber yang dilakukan oleh agen AI (agentic AI) semakin canggih. Salah satu contohnya adalah serangan terhadap basis data Hugging Face oleh agen AI pada Juli 2026. Insiden tersebut menjadi peringatan serius karena agen-agen AI tersebut mampu menjalankan sebagian besar operasi secara mandiri, dengan kecepatan yang tidak mampu diimbangi oleh peretas manusia. Brad Carson, mantan anggota Dewan Perwakilan Rakyat AS dan kini menjabat sebagai Ketua organisasi “Warga AS untuk Inovasi yang Bertanggung Jawab” (Americans for Responsible Innovation/ ARI) menilai: “Semuanya saat ini berlangsung begitu cepat bahkan para peneliti sendiri merasa takut terhadap AI. Itulah yang telah kita saksikan dalam dua atau tiga pekan terakhir. Justru orang-orang yang bekerja di perusahaan-perusahaan tersebut yang menyuarakan kekhawatiran hal ini. Peringatan itu datang langsung dari kalangan internal, yang menilai bahwa apa yang sedang mereka lakukan berisiko menimbulkan konsekuensi yang sangat dahsyat. Oleh karena itu, menurut saya, kita perlu mempertimbangkan dengan serius pandangan mereka”.
Nuansa Geopolitik
Risiko yang ditimbulkan oleh AI memerlukan mekanisme tata kelola global yang bersifat mengikat, diawasi secara ketat dan independen. Namun, persoalan “memperlambat laju pengembangan AI” tidak lagi sekadar pertanyaan terkait teknologi atau kemanusiaan, melainkan semakin diwarnai oleh persaingan geopolitik.
Dalam sepekan terakhir, sejumlah pejabat tinggi AS, termasuk Presiden AS Donald Trump, menolak kekhawatiran mengenai risiko AI dan menilai bahwa hal yang perlu dilakukan AS saat ini adalah mempertahankan posisi terdepan dalam teknologi strategis tersebut.
Di pihak Tiongkok, seruan para pemimpin perusahaan teknologi AS untuk “memperlambat laju pengembangan AI” juga disambut dengan hati-hati. Sejumlah pakar dan media Tiongkok secara bersamaan mempertanyakan motivasi di balik seruan Anthropic untuk menahan laju perkembangan AI. Mereka menilai bahwa tindakan perusahaan-perusahaan teknologi raksasa AS yang terus-menerus “membesar-besarkan” skenario kiamat dunia akibat AI bisa jadi merupakan taktik psikologis untuk mendorong diberlakukannya regulasi yang menguntungkan pihak yang lebih unggul, sekaligus menekan para pesaing dari negara lain.
Stuart Russell, Presiden Asosiasi Internasional untuk AI yang Aman dan Etis, sekaligus Profesor Ilmu Komputer di UC Berkeley (AS), juga memiliki pandangan yang sama. Ia menyatakan bahwa risiko AI tidak mengenal batas negara, dan argumen yang menyatakan AI yang dikembangkan oleh satu negara “lebih baik” daripada AI yang dikembangkan oleh negara lain adalah hal yang “tidak masuk akal”.
“Dari sisi tata kelola, jika kita khawatir terhadap risiko kepunahan yang ditimbulkan oleh sistem AI, ancaman tersebut dapat datang dari mana saja. Oleh karena itu, kita membutuhkan kesepakatan internasional untuk memastikan bahwa setiap negara memiliki mekanisme pengendalian yang diperlukan guna mencegah skenario tersebut terjadi”.
Pertanyaannya adalah, seperti apa kerangka hukum tersebut harus dibentuk dan oleh lembaga mana? Karena berbagai peristiwa pada 2025 dan awal 2026 telah menunjukkan dengan jelas bahwa pertanyaannya bukan lagi apakah AI akan membentuk kembali tatanan global, melainkan seberapa cepat hal itu akan terjadi dan siapa yang akan menyusun aturannya. Persaingan teknologi kini tidak dapat dipisahkan dari gambaran yang lebih besar, yakni persaingan geopolitik global di antara negara-negara besar. Hal ini terjadi ketika negara-negara besar sama-sama memandang dominasi di bidang AI sebagai faktor kunci bagi keamanan nasional dan posisi unggul mereka dalam perekonomian global di masa depan.
