Singapura Perketat Aturan Agen AI: Pelajaran bagi Indonesia

Agen AI adalah sistem perangkat lunak yang tidak sekadar menjawab pertanyaan, tetapi merencanakan sebuah tugas, memanggil sistem lain, dan menjalankannya: memperbarui catatan, membuat tiket, memindahkan uang antar rekening. Agen-agen ini tiba di bank, perusahaan utilitas, dan layanan pemerintah lebih cepat daripada aturan yang mengaturnya. Singapura adalah negara pertama yang menerbitkan kerangka tata kelola nasional untuk agen semacam itu, pada Januari 2026. Pekan ini Singapura memberi sinyal bahwa untuk penggunaan berisiko tertinggi, panduan mungkin akan berganti menjadi kewajiban.

Apa yang disampaikan Singapura pekan ini

Menjawab pertanyaan di Parlemen pada 6 Oktober, Josephine Teo, Menteri Pembangunan Digital dan Informasi Singapura, memaparkan langkah-langkah yang dipertimbangkan pemerintah untuk aplikasi AI agentik berisiko tinggi di layanan esensial: pengujian yang lebih ketat, bukti yang dapat diverifikasi secara independen bahwa pengamannya bekerja, kendali penerapan yang lebih ketat, dan pengawasan regulator yang lebih kuat. Menurut laporan Tech Wire Asia pada 7 Oktober, belum ada tanggal kapan langkah-langkah itu mungkin menjadi wajib, dan kerangka nasionalnya untuk saat ini tetap sukarela.

Apa yang sudah diminta kerangka itu

Model AI Governance Framework for Agentic AI diluncurkan oleh Infocomm Media Development Authority, IMDA, di World Economic Forum pada 22 Januari 2026. Ulasan dari firma hukum K&L Gates menggambarkan empat pilarnya: penilaian risiko, yang mencakup sistem apa saja yang terhubung dengan agen, seberapa sensitif datanya, seberapa besar otonominya, dan efek berantai apa yang bisa ditimbulkan sebuah kesalahan; akuntabilitas manusia, dengan pengawasan tetap di pusat dan tanggung jawab yang dialokasikan dengan jelas; kendali teknis, termasuk sandboxing, pengujian keselamatan, pemantauan, dan perlindungan dari penyalahgunaan; serta tanggung jawab pengguna akhir, termasuk pelatihan, transparansi, dan kemampuan untuk campur tangan atau mematikan agen.

Pada Mei 2026 IMDA memperbarui kerangka itu dengan studi kasus nyata dan praktik baru, berdasarkan masukan dari lebih dari 50 organisasi menurut Mayer Brown, dan lebih dari 60 menurut Tech Wire Asia, di antaranya AWS, DBS, Google, dan Salesforce. Pembaruan itu menekankan akses hak istimewa minimum, pencatatan, dan mekanisme rollback di sisi teknis, serta struktur akuntabilitas yang jelas, jalur eskalasi insiden, dan pengawasan manusia yang bermakna di sisi organisasi.

Singapura juga menguji, bukan hanya menulis. Sebuah AI Agents Sandbox berjalan sekitar empat bulan sejak Agustus 2025 bersama Google, Cyber Security Agency, GovTech, dan IMDA, mencoba agen yang mengoperasikan komputer untuk penjaminan mutu, pengujian keselamatan, dan bantuan sosial. Di sektor keuangan, Otoritas Moneter Singapura menerbitkan Safeguards for Agentic Finance at Runtime pada Juli 2026, yang mengusulkan kendali bagi agen yang bertindak di layanan keuangan, setelah memperluas buku pegangan manajemen risiko AI-nya ke AI generatif dan agentik pada Maret.

Mengapa ini penting di Indonesia

Panduan Singapura tidak memiliki kekuatan hukum di Indonesia. Namun ia penting karena tiga alasan praktis. Pertama, regulasi etika AI Indonesia sendiri, yang masih menunggu tanda tangan Presiden, dilaporkan mengikuti model berbasis risiko dengan penggunaan yang dilarang, berisiko tinggi, dan berisiko lebih rendah; kendali yang digambarkan Singapura adalah jawaban siap pakai atas apa yang kemungkinan dimaksud dengan pengawasan berisiko tinggi. Kedua, banyak perusahaan di Indonesia membeli platform agen dari vendor global yang sama yang ikut membentuk kerangka Singapura, sehingga kosakatanya akan tiba di dokumentasi produk dan kontrak, apa pun yang terjadi. Ketiga, bank, perusahaan asuransi, dan grup yang beroperasi di Singapura akan diminta kantor pusat regionalnya untuk menunjukkan kendali yang sama di Jakarta seperti di Singapura.

Ada pula alasan yang lebih sederhana. Agen gagal dengan cara yang berbeda dari chatbot. Chatbot yang salah menghasilkan kalimat yang salah. Agen yang salah dapat menghasilkan tindakan yang salah, diulang dengan cepat pada banyak catatan, dengan setiap langkah berikutnya dibangun di atasnya. Kendali dalam kerangka Singapura ada karena perbedaan itu, dan perbedaannya sama di mana pun.

Apa yang bisa dilakukan perusahaan sekarang

• Daftar setiap agen yang digunakan, termasuk yang tertanam di perangkat lunak vendor, dan untuk masing-masing tuliskan apa yang boleh dibaca, diubah, dan dipicunya.
• Golongkan berdasarkan konsekuensi. Agen yang menyusun ringkasan internal berisiko rendah; agen yang mengubah rekening pelanggan, menyetujui transaksi, atau menyentuh layanan esensial berisiko tinggi dan membutuhkan kendali paling ketat.
• Beri agen hak istimewa seminimal mungkin yang masih bekerja: kredensial berlingkup, tanpa akses tetap ke sistem yang tidak dibutuhkan tugasnya, dan identitas terpisah untuk setiap agen agar tindakannya dapat dibedakan dari tindakan manusia.
• Pasang titik persetujuan manusia sebelum tindakan yang tidak dapat dibatalkan, dan pastikan orang yang menyetujui dapat melihat apa yang akan dilakukan agen, bukan sekadar ringkasannya.
• Catat setiap tindakan agen, beserta masukan yang dilihatnya dan versi model yang dipakainya, dan simpan cara untuk membatalkan apa yang diubahnya.
• Uji sebelum dan sesudah penerapan, termasuk pengujian adversarial tentang bagaimana agen berperilaku ketika sebuah perangkat gagal atau mengembalikan sesuatu yang tak terduga.
• Sediakan sakelar. Seseorang harus bisa menjeda atau menonaktifkan agen dengan cepat, dan orang itu harus tahu bahwa ia bisa.

Apa yang perlu dipantau

• Apakah Singapura mengubah langkah-langkah yang digambarkan pada 6 Oktober menjadi kewajiban, dan untuk layanan esensial yang mana.
• Teks akhir regulasi etika AI Indonesia dan bagaimana ia mendefinisikan penggunaan berisiko tinggi.
• Panduan dari regulator sektoral Indonesia tentang AI di perbankan dan asuransi, tempat agen yang bertindak atas rekening nasabah akan menjadi ujian pertama.
• Dokumentasi vendor: bagaimana platform agen menggambarkan hak istimewa, pencatatan, dan fitur rollback-nya, yang akan menunjukkan seberapa serius kerangka itu diperlakukan.