Riset Sumsub: 91 Persen Perusahaan di Indonesia Serahkan Keputusan Rutin pada Agentic AI
- Riset Sumsub mencatat 91 persen perusahaan Indonesia menyerahkan keputusan rutin kepada agentic AI, tetapi 64 persen mengalami hasil yang tidak diinginkan atau sulit dipertanggungjawabkan.
- Pada sektor keuangan dan perbankan, keputusan AI tanpa campur tangan manusia turun menjadi 55 persen karena regulasi, termasuk panduan tata kelola AI dari OJK.
- Sumsub membentuk Agentic AI Council APAC untuk menyusun kerangka akuntabilitas; pertemuan perdana dijadwalkan kuartal I-2027 dengan fokus awal pada agentic commerce.
Jakarta, FORTUNE – Adopsi teknologi kecerdasan buatan (AI) pada perusahaan di Indonesia bergeser ke arah agentic AI atau agen otonom yang merencanakan serta mengambil keputusan sendiri.
Laporan APAC State of Digital Trust: AI Governance Benchmark dari Sumsub menunjukkan 91 persen perusahaan membiarkan AI mengambil keputusan tanpa keterlibatan manusia dalam proses rutin, meskipun 64 persen di antaranya menghadapi masalah hasil yang tidak diinginkan atau tidak akuntabel.
Temuan tersebut berasal dari survei independen Sumsub terhadap 720 profesional senior di sembilan negara Asia-Pasifik (APAC), yang dikerjakan bersama Blackbox Research dan Singapore FinTech Association.
Riset menunjukkan pergeseran peran AI dari alat bantu kerja menjadi agen otonom.
Tingkat pengambilan keputusan AI tanpa campur tangan manusia menurun menjadi 55 persen pada transaksi keuangan hingga industri perbankan akibat batasan regulasi. Otoritas Jasa Keuangan (OJK) telah menerbitkan Panduan Tata Kelola Kecerdasan Artifisial Perbankan Indonesia sebagai standar minimum pengelolaan AI. Selain itu, dua Peraturan Presiden terkait Peta Jalan AI Nasional dan Etika AI kini dalam proses menunggu tanda tangan Presiden.
Badan Riset dan Inovasi Nasional (BRIN) menilai pergeseran ini membuka peluang sekaligus menuntut pengembangan yang adaptif dan bertanggung jawab. Fenomena ini memicu apa yang disebut Sumsub sebagai Accountability Asymmetry, yaitu jarak antara tingkat ketergantungan organisasi pada keputusan AI dan kemampuan membuktikan ketepatan keputusan tersebut.
"Seiring agen AI mengemban tanggung jawab yang makin besar, organisasi butuh infrastruktur kepercayaan yang menopang akuntabilitas itu di lapangan,” kata Vice President APAC Sumsub, Penny Chai, melalui keterangan resmi di Jakarta, Jumat (30/10).
Penny menambahkan, tantangan organisasi di Indonesia dan APAC adalah menerjemahkan ekspektasi tata kelola ke dalam praktik harian serta menjaga pengawasan terhadap AI otonom melalui kerangka kerja dan keahlian lintas sektor.
Untuk menjembatani kesenjangan tersebut, Sumsub meluncurkan Sumsub Agentic AI Council. Forum lintas sektor di APAC ini mempertemukan pakar dari bidang kebijakan, teknologi, akademisi, industri, dan masyarakat sipil dalam menyusun kerangka kerja, berbagi praktik terbaik, dan mendorong adopsi agentic AI.
"Seiring organisasi di Indonesia menjajaki peluang agentic AI, kemampuan untuk tetap mengawasi, melacak keputusan AI, dan menunjukkan akuntabilitas harus ikut tumbuh seiring adopsinya," ujar APAC Government Relations Lead Sumsub, Jason Chan.
Pertemuan perdana Council dijadwalkan berlangsung pada kuartal I-2027. Para founding advisor akan menyusun kerangka kerja mengenai pembuktian kewenangan, batasan tindakan, dan rekam kerja agen AI. Kelompok kerja pertama Council berfokus pada agentic commerce, yaitu kondisi saat agen AI bertindak mewakili konsumen dan pelaku bisnis.
