MediaKeadilan.com – Kecerdasan buatan atau artificial intelligence (AI) mengawali memasuki fase baru di sektor keuangan. Teknologi ini tak lagi cuma digunakan demi menolong manusia menganalisis data atau menyerahkan rekomendasi.
Perkembangan agentic AI mebarangkalikan sistem kecerdasan buatan mengambil keputusan secara makin mandiri, bahkan menjalankan transaksi berdasarkan kewenangan yang diberikan kepadanya.
Ketika keputusan tersebut menimbulkan kesalahan atau kerugian, muncul pertanyaan besar: siapa yang wajib bertanggung jawab?
Wakil Menteri Komunikasi dan Digital (Wamen Komdigi), Nezar Patria, menyebutkan perkembangan ini mengangkut risiko baru yang tidak dapat diabaikan.
Regulasi dan tata kelola AI, menurutnya, perlu disiapkan sejak kini semasih belum penggunaan teknologi bersama tingkat otonomi tinggi semakin meluas.
“Agentic AI apabila diberikan otoritas tertentu demi decision making, dia dapat juga menjalankan transaksi. Dan transaksi itu dilakukan antara agentic AI juga. AI dan AI berkomunikasi demi memutuskan transaksi,” ujar Nezar dalam OJK Digination Day 2026 di Jakarta, Kamis (27/8/2026).
Pernyataan tersebut memperlihatkan perubahan mendasar dalam perkembangan AI. Selama ini, AI umumnya masih berperan sebagai alat bantu. Sistem dapat menyerahkan analisis, rekomendasi, atau memproses data, namun manusia tetap berada di posisi pengambil keputusan akhir.
Situasinya berbeda ketika AI diberi kewenangan demi menentukan tindakan dan langsung mengeksekusinya.
Risiko Berubah Ketika AI Mulai Bertindak Sendiri
Nezar menilai, semakin besar otonomi yang diberikan kepada AI, semakin besar pula risiko yang wajib diantisipasi.
Kesalahan sistem tak lagi berhenti pada rekomendasi yang keliru. Dalam sektor keuangan, keputusan yang diambil AI berpotensi langsung memengaruhi transaksi, layanan, data pribadi, hingga akses konsumen terhadap produk keuangan.
“Risikonya tentu besar juga berakibat mitigasi, regulasi, dalam soal ini wajib kita siapkan juga mengawali kini,” tegas Nezar.
Tantangan yang muncul bukan sekadar soal mengonfirmasi teknologi bekerja bersama benar. Pemerintah dan tersangka industri juga perlu menentukan batas kewenangan AI, sejauh mana manusia tetap menjalankan pengawasan, serta mekanisme pertanggungjawaban ketika keputusan yang dihasilkan sistem menimbulkan kerugian.
Persoalan ini menjadi semakin kompleks ketika satu sistem AI dapat berinteraksi bersama sistem AI lain demi mengambil atau mengeksekusi keputusan.
Dalam kondisi tersebut, jejak pengambilan keputusan menjadi aspek penting. Ketika terjadi masalah, perlu ada kejelasan mengenai bagaimana keputusan dibuat, sistem mana yang terlibat, siapa yang menyerahkan kewenangan, dan pihak mana yang bertanggung jawab.
