Mengapa AI yang Bertanggung Jawab Penting pada Era Kepercayaan Publik

Kecerdasan buatan (AI) kini memasuki fase penerapan yang kian cepat. Peningkatan kemampuan model, rendahnya hambatan adopsi, serta meluasnya otonomi sistem mendorong penggunaan AI secara luas, baik di lingkungan perusahaan maupun sektor publik.

Dalam konteks ini, penerapan AI yang bertanggung jawab (responsible AI) bukan sekadar agenda etika yang terpisah, melainkan kebutuhan praktis demi memastikan kesiapan institusi dalam mengelola sistem yang makin memiliki peran penting ini.

Menurut laporan AI Index Report 2026 Stanford University, AI kini telah terintegrasi ke dalam operasi inti, pengambilan keputusan, dan layanan publik dalam skala luas. Namun, perluasan ini menyingkap ketimpangan yang signifikan: kemajuan kinerja AI melampaui perkembangan validasi, keandalan, dan tata kelola.

Tolak ukur teknis yang tinggi sering menutupi perilaku sistem yang tidak konsisten di dunia nyata. Seiring meningkatnya otonomi AI, risiko kegagalan yang sulit diprediksi dan diaudit pun bertambah.

Pada saat yang sama, kepercayaan publik menjadi faktor pembatas utama, dengan meningkatnya kekhawatiran terhadap keselamatan, akuntabilitas, dan potensi penyalahgunaan, meskipun kepercayaan eksekutif terhadap AI masih relatif tinggi.

Indonesia memasuki era percepatan AI global dengan keunggulan yang khas sekaligus risiko sepadan. Studi ini menunjukkan adopsi AI secara global melaju lebih cepat dibandingkan dengan kematangan tata kelolanya. Di Indonesia, kesenjangan ini kian nyata seiring tingginya optimisme publik dan pesatnya pemanfaatan AI yang kerap berkembang secara informal.

Strategi nasional AI mencerminkan ambisi besar pengintegrasian AI ke dalam berbagai sektor prioritas, sementara Pedoman Etika Kecerdasan Artifisial dari Badan Riset dan Inovasi Nasional telah menetapkan prinsip yang jelas terkait keadilan, akuntabilitas, dan transparansi; walaupun kemampuan implementasi masih tertinggal dari skala penerapan.

Tingginya kepercayaan publik dapat menunda terungkapnya celah tata kelola, namun berisiko memicu krisis kredibilitas saat kegagalan muncul. Karena itu, penerjemahan prinsip etika ke dalam kendali operasional yang tegas dan konsisten menjadi kunci agar ambisi digital Indonesia berkelanjutan dan dipercaya publik.

AI mencakup berbagai teknologi yang memungkinkan mesin belajar dari data berskala besar, mengenali pola, dan menyesuaikan tindakan untuk mencapai tujuan tertentu. Kapabilitas ini menjadikan AI sebagai enabler penting bagi pencapaian Tujuan Pembangunan Berkelanjutan (SDGs).

Dalam perspektif AI untuk keberlanjutan, AI telah mendukung kemajuan pada bidang pemantauan iklim, pengelolaan air, pertanian presisi, efisiensi energi bangunan, daur ulang, serta konservasi keanekaragaman hayati. Kontribusi ini menunjukkan bahwa AI dapat mempercepat capaian keberlanjutan bahkan tanpa koordinasi global yang sempurna, selama diterapkan secara pragmatis dan terintegrasi dalam sistem nyata.

Namun, pendekatan ini perlu diseimbangkan dengan perspektif AI yang berkelanjutan, yang menyoroti bagaimana AI itu sendiri dirancang, digunakan, dan dikelola. Dari sisi lingkungan, pertumbuhan model AI yang sangat intensif terhadap data dan komputasi, khususnya AI generatif, telah mendorong peningkatan konsumsi energi, emisi, penggunaan air, serta limbah elektronik. Efisiensi teknologi saja tidak cukup, karena akses yang lebih murah sering kali memicu lonjakan permintaan.

Dari sisi tata kelola, AI juga membawa risiko bias, pelanggaran privasi, disrupsi tenaga kerja, dan ketimpangan akses yang dapat merusak kepercayaan publik jika tidak diantisipasi. Pada dasarnya, AI tidak berfungsi sebagai alat yang sepenuhnya netral, melainkan sebagai akselerator yang mempercepat hasil sekaligus memperbesar konsekuensinya. Keberhasilan AI dalam mendukung pencapaian SDGs sangat bergantung pada sejauh mana teknologi ini diarahkan pada dampak positif dan dibingkai oleh tata kelola yang matang.

Survei bertajuk Responsible AI Pulse dari EY mengulas bagaimana perusahaan mengintegrasikan AI yang bertanggung jawab ke dalam model bisnis, pengambilan keputusan, dan inovasi, dengan melibatkan 975 pemimpin tingkat C-suite di 21 negara. Hasil survei pada periode Juni dan Oktober 2025 menunjukkan benang merah yang jelas: adopsi AI meningkat pesat, tetapi kematangan tata kelola menjadi penentu utama apakah adopsi tersebut menghasilkan nilai jangka panjang atau justru risiko.

Temuan pada Juni 2025 menunjukkan kelemahan struktural dalam adopsi AI. Banyak pemimpin bisnis menganggap implementasi large language model (LLM) sebagai tanda kematangan AI, tanpa diiringi perubahan proses dan tata kelola. Hal ini memunculkan kesenjangan persepsi dengan publik yang lebih khawatir terhadap risiko dan dampak sosial.

Pada Oktober 2025, dampaknya mulai terlihat: meski AI mendorong efisiensi dan inovasi, hanya organisasi yang menerapkan AI yang bertanggung jawab secara operasional yang mampu menghasilkan pertumbuhan.

Hampir semua perusahaan mengalami kerugian terkait AI (rata-rata US$4,4 juta), terutama akibat kegagalan menerjemahkan risiko menjadi kontrol yang efektif. Dalam konteks Indonesia, di mana optimisme publik menempatkan AI sebagai teknologi yang makin canggih sekaligus kian terjangkau, tantangan utamanya bukan lagi akses, melainkan ketepatan penerapan.

Organisasi yang berkelanjutan bukanlah yang paling agresif mengadopsi AI, melainkan yang mampu membangun literasi kepemimpinan untuk memahami kapan AI dapat mempercepat nilai dan kapan justru memperbesar risiko. Di titik inilah AI yang bertanggung jawab menjadi pembeda antara adopsi yang bersifat sesaat dan dampak yang berkelanjutan.

===

Opini ini ditulis oleh Jenny Hadikusuma, Executive Director, EY Indonesia Climate Change and Sustainability Services.