Shadow AI Mengintai, Perusahaan Hadapi Risiko Kebocoran Data

Shadow AI muncul saat karyawan memakai layanan AI yang belum disetujui perusahaan, terutama untuk mempercepat pekerjaan dan mengurangi beban administratif.
Penggunaan akun pribadi dan interaksi mikro dengan AI membuat perusahaan kehilangan visibilitas atas data internal, dokumen bisnis, kode sumber, serta informasi pelanggan.
Perusahaan didorong menerapkan tata kelola berbasis risiko, memperluas DLP, mengaudit ekstensi browser, dan menggunakan prinsip least privilege pada agen AI.
Jakarta, FORTUNE — Penggunaan kecerdasan buatan (AI) tanpa pengawasan perusahaan atau Shadow AI mulai menjadi tantangan baru di kalangan korporasi seiring adopsi teknologi tersebut yang tumbuh lebih cepat dibandingkan kesiapan sistem keamanan dan tata kelola internal.
Fenomena ini muncul ketika karyawan menggunakan aplikasi atau layanan AI yang belum disetujui perusahaan untuk membantu pekerjaan.
Director of Security Technology and Strategy, Asia Pacific and Japan Akamai Technologies Reuben Koh mengatakan karyawan menggunakan AI terutama untuk mempercepat pekerjaan dan mengurangi beban administratif.
“Karyawan tidak mengadopsi AI dengan niat jahat. Mereka melakukannya karena memiliki tenggat waktu, target kuartalan, dan kebutuhan besar untuk mengurangi hambatan administratif yang memperlambat pekerjaan,” ujar Reuben dalam keterangan tertulis, Senin (16/11).
Menurut dia, kondisi tersebut dapat menciptakan celah keamanan. Terlebih, ketika perusahaan belum menyediakan akses AI yang memadai. Karyawan pada akhirnya berpotensi menggunakan akun pribadi untuk memasukkan data atau berinteraksi dengan layanan AI di luar sistem perusahaan.
Berdasarkan laporan Akamai 2026 State of the Internet, sebanyak 47,11 persen percakapan AI korporasi berlangsung melalui identitas pribadi. Kondisi tersebut membuat perusahaan kehilangan visibilitas terhadap bagaimana data digunakan dan diproses oleh layanan AI.
Risikonya menjadi lebih besar karena data perusahaan yang dimasukkan ke dalam AI dapat mencakup informasi internal, dokumen bisnis, kode sumber, hingga informasi pelanggan.
Perkembangan AI juga mengubah pola kebocoran data perusahaan. Sistem Data Loss Prevention (DLP) konvensional yang selama ini berfokus pada lalu lintas jaringan, email, atau perangkat penyimpanan dinilai tidak lagi cukup untuk mengawasi interaksi dengan AI.
Reuben mengatakan, paparan data kini dapat terjadi pada level yang lebih kecil, seperti prompt, potongan informasi yang disalin ke AI, maupun percakapan dengan chatbot.
“DLP tradisional melihat batas-batas yang bersifat statis, seperti lalu lintas data keluar melalui jaringan, lampiran email, dan perangkat USB. AI membuat perimeter tersebut tidak lagi memadai karena paparan kini terjadi melalui interaksi mikro,” ujarnya.
Perubahan tersebut membuat perusahaan perlu memperluas pengawasan keamanan dari sekadar memantau ke mana data bergerak menjadi memahami apa yang dimasukkan karyawan ke dalam sistem AI dan bagaimana data tersebut digunakan.
Ancaman baru juga muncul seiring meningkatnya penggunaan perangkat berbasis AI, termasuk Vibe Hacking, CursorJacking, dan CometJacking yang dapat mengeksploitasi kerentanan pada browser extension maupun lingkungan pengembangan berbasis AI.
Risiko Terkonsentrasi pada Pengguna Aktif
Menurut Reuben, risiko keamanan tidak tersebar secara merata di seluruh organisasi. Sekitar 5 persen pengguna yang paling aktif menggunakan AI atau power users, seperti software engineer dan analis data, dapat menjadi kelompok rentan dengan tingkat paparan lebih tinggi.
Karena itu, perusahaan dinilai tidak perlu menerapkan larangan penggunaan AI secara menyeluruh.
“Jawabannya bukan dengan menerapkan pembatasan menyeluruh kepada semua orang. Kebijakan yang terlalu ketat dapat mengganggu pekerjaan yang sah dan mendorong karyawan menggunakan AI lebih jauh di luar visibilitas perusahaan,” katanya.
Yang perlu perusahaan lakukan, menurutnya adalah dengan menerapkan pendekatan berbasis risiko dengan memberikan kontrol lebih ketat pada aktivitas, pengguna, dan data yang memiliki potensi paparan terbesar.
Pendekatan tersebut sekaligus menjadi tantangan bagi perusahaan untuk menyeimbangkan dua kepentingan, yakni mendorong produktivitas dari penggunaan AI dan menjaga keamanan data korporasi.
Agentic AI Buka Risiko Baru
Di sisi lain, risiko AI menjadi kian kompleks ketika teknologi ini berkembang dari sekadar alat bantu menjadi Agentic AI yang dapat menjalankan tugas secara otonom menggunakan akses dan izin tertentu.
Reuben mengingatkan agen AI dapat disusupi dapat menyalahgunakan izin yang sebenarnya diberikan secara sah kepadanya. Kondisi ini dikenal sebagai confused deputy, ketika agen menjalankan tindakan berbahaya akibat menerima instruksi yang telah dimanipulasi.
“Agen yang telah dikompromikan tidak perlu mencuri kredensial. Agen tersebut menggunakan izin sah yang dimilikinya untuk bertindak sebagai confused deputy, yaitu menjalankan tindakan berbahaya karena tertipu oleh masukan yang telah dimanipulasi,” ujarnya.
Karena itu, prinsip least privilege atau pemberian hak akses minimum menjadi penting dalam pengembangan agen AI.
Contohnya, agen yang hanya bertugas merangkum dokumen, seharusnya tidak memiliki akses otomatis untuk mengubah database produksi, membuka data pelanggan yang tidak berkaitan, atau mengambil kredensial administrator.
Oleh karenanya, Reuben menilai perusahaan di Indonesia, khususnya yang bergerak di sektor keuangan, telekomunikasi, dan e-commerce, perlu membangun tata kelola AI internal tanpa menunggu perkembangan regulasi atau UU Perlindungan Data Pribadi (UU PDP).
“Menunggu penyelesaian regulasi memberikan rasa aman yang keliru. Pelaku serangan siber saat ini sudah memanfaatkan otomatisasi AI dan mengeksploitasi titik akhir API. Mereka tidak menunggu kebijakan dan regulasi menjadi lebih jelas,” kata Reuben.
Akamai merekomendasikan lima prioritas bagi chief information security officer (CISO), yakni memetakan alur kerja berisiko tinggi, memasukkan Shadow AI ke dalam tata kelola resmi, memperluas DLP hingga lapisan interaksi AI, mengaudit ekstensi browser, serta menerapkan prinsip least privilege pada agen AI.
Dengan pendekatan tersebut, perusahaan tidak harus memilih antara membatasi AI atau membiarkan penggunaannya tanpa kontrol. Tantangannya adalah membangun sistem yang memungkinkan AI digunakan secara luas, tetapi tetap dapat dipantau, dipertanggungjawabkan, dan dikendalikan.
“Tujuannya bukan untuk menghilangkan adopsi AI, melainkan menjadikannya terlihat, dapat dipertanggungjawabkan, dan lebih aman untuk diperluas,” pungkas Reuben.



















