Jakarta, FORTUNE - Privasi data menjadi salah satu tantangan terbesar dalam adopsi kecerdasan buatan (AI) oleh perbankan di Indonesia.
Whitepaper Digital Sovereign AI and the Future of Trusted Banking yang disusun oleh PERBANAS, IBM, K&A, menemukan bahwa sebanyak 82 persen responden menyebut privasi data sebagai risiko AI yang perlu dikendalikan, sementara risiko keamanan siber sebesar 44 persen dan risiko regulasi sebesar 41 persen. Temukan ini melibatkan 91 responden dari 35 institusi keuangan di Indonesia.
Menurut White Paper Sovereign AI, AI di perbankan Indonesia sudah melewati tahap wacana. Dari 91 responden survei, 34 persen berada di tahap pilot atau uji coba terbatas. 18 persen mengatakan telah menerapkan AI untuk beberapa kebutuhan operasional. Sementara itu, hanya 12 persen yang mengatakan belum menjajaki penggunaan AI.
Di sisi lain, baru 4 persen yang telah memperluas penerapan AI lintas fungsi dengan tata kelola formal,
Untuk itu, fokus utama saat ini dalam dunia perbankan bukan lagi menggunakan AI, tapi bagaimana menggunakan algoritma, data flow, dan bagaimana mengurus keputusan.
“Jika sistem internal Anda tidak bisa diperhatikan untuk menjelaskan bagaimana keputusan dilakukan oleh model, pertanyaan yang perlu Anda tanyakan adalah apakah Anda menyebabkan risiko yang tidak dilihatkan dari institusi Anda?,” ujar Managing Partner IBM Consulting Indonesia, Juvanus Tjandra dalam peluncuran whitepaper di Jakarta, Selasa (27/10).
Menurutnya, hampir 50 persen aktivitas dalam perbankan akan terdampak oleh AI. Dengan demikian, kedaulatan AI menjadi salah satu hal fundamental bagi bank yang terpercaya.
Berdasarkan penelitian, 73 persen eksekutif bank menyatakan bahwa persyaratan utama transformasi dalam 12 hingga 24 bulan ke depan berkaitan dengan kepemilikan kecerdasan buatan (AI) dan kedaulatan digital.
Menurutnya, kedaulatan AI akan memitigasi dua faktor utama. Pertama, terkait tantangan krusial bagi bank dalam memastikan visibilitas data tetap terjaga sekaligus memitigasi risiko kepatuhan. Kedua, kepercayaan dari regulator maupun nasabah.
“Ketika model AI dikelola dengan baik sehingga kita memiliki keyakinan terhadap model tersebut serta proses pengambilan keputusannya maka kepercayaan pun akan terbangun. Namun bagi kami, perjalanan ini bukan sekadar soal teknologi, semuanya bermula dari tata kelola,” ujarnya.
Menurutnya, terdapat empat aspek yang menjadi perlu menjadi pertimbangan tata kelola. Pertama, memahami AI apa saja yang sudah beroperasi di lingkungan kerja. Kedua, mendokumentasikan kasus penggunaan (use case) dan menetapkan akuntabilitas. Ketiga, bagaimana mengelola risiko. Terakhir, aspek keempat, yaitu membangun struktur tata kelola.
“Kedaulatan digital tidak dicapai melalui satu platform produk atau regulasi saja, melainkan melalui serangkaian tindakan terencana yang dilakukan secara berkelanjutan,” katanya.
Juvanus mengatakan, kedaulatan digital bukanlah hambatan bagi inovasi, melainkan sebuah bentuk perilaku.
“Ketika organisasi memiliki keyakinan terhadap tata kelola, keamanan, kepatuhan, dan pengendalian, mereka dapat bergerak lebih cepat. Dengan adanya visibilitas terhadap model AI, aliran data, dan pengambilan keputusan, AI akan menjadi lebih efektif,” katanya.
Studi ini juga menemukan perbedaan tingkat pengenalan responden terhadap kerangka kebijakan yang ada di Indonesia. Dari 91 responden, 54 menyebut Undang-Undang Pelindungan Data Pribadi sebagai acuan yang mereka ketahui, 49 menyebut POJK 11/POJK.03/2022 dan 33 menyebut SEOJK 29/SEOJK.03/2022.
Panduan tata kelola AI OJK untuk perbankan diketahui oleh 43 responden.