Riset : AI Otonom Buka Celah Baru Keamanan Siber
AI berbasis agen mengubah risiko keamanan siber karena mampu menjalankan tugas secara otonom lintas aplikasi, sistem, dan API.
Data sensitif dalam chatbot, akun pribadi, MCP, serta ekstensi browser berbasis AI membuka kesenjangan pengawasan perusahaan.
Akamai merekomendasikan tata kelola adaptif, pengawasan browser, perlindungan informasi, dan penyesuaian kewenangan agen berdasarkan tingkat risiko.
Jakarta, FORTUNE - Perkembangan kecerdasan buatan (AI) berbasis agen mulai mengubah peta risiko keamanan siber perusahaan. Ketika agen AI semakin mampu menjalankan tugas secara otonom di berbagai aplikasi pemrograman antarmuka (API) dan sistem, perusahaan menghadapi tantangan baru bagaimana mengawasi entitas non-manusia tersebut.
Akamai Technologies Inc. dalam laporan State of the Internet (SOTI) terbarunya bertajuk: The Agentic Frontier: Speed, Scale, and Nonhuman Identity menyebut, pengamanan perusahaan kini tidak hanya cukup berfokus pada identitas dan akses pengguna manusia. Perusahaan perlu memperluas tata kelola hingga ke perilaku entitas non-manusia yang dapat mengambil tindakan secara mandiri.
Laporan tersebut menyoroti dua tantangan utama: sulitnya menetapkan batasan bagi agen AI otonom dan meningkatnya kecepatan AI dalam menemukan kerentanan yang dapat melampaui siklus pembaruan keamanan yang dilakukan manusia.
Chief Security Officer Akamai, Boaz Gelbord mengatakan perkembangan AI menciptakan sejumlah risiko secara bersamaan, baik dari penggunaan AI di dalam perusahaan, integrasi AI ke dalam produk dan beban kerja cloud, maupun serangan siber yang memanfaatkan AI.
“AI menghadirkan momen ‘everything, everywhere, all at once’ bagi ekosistem keamanan secara keseluruhan,” kata Gelbord dalam keterangannya, Senin (5/10).
Data Sensitif di Chatbot
Salah satu temuan Akamai menunjukkan, ada lebih dari 6 persen percakapan chatbot AI di lingkungan perusahaan mengandung informasi sensitif. Sebanyak 47 persen dari interaksi tersebut berlangsung melalui akun pribadi yang tidak berada dalam pengawasan perusahaan.
Kondisi tersebut menunjukkan bahwa penggunaan AI oleh karyawan dapat menciptakan jalur baru bagi kebocoran informasi perusahaan, terutama ketika penggunaan layanan AI tidak sepenuhnya berada dalam infrastruktur yang dikendalikan perusahaan.
Risiko juga muncul dari protokol yang memungkinkan agen AI terhubung dengan berbagai sistem perangkat lunak. Akamai mencatat, pengawasan terhadap Model Context Protocol (MCP) masih berada di posisi terbawah dalam prioritas keamanan para CISO.
Padahal, MCP memungkinkan agen AI melakukan tindakan secara otonom lintas sistem. Akamai menilai kesenjangan visibilitas tersebut menjadi persoalan penting karena para pemimpin keamanan memperkirakan agen AI yang tidak terkendali dapat menjadi salah satu ancaman siber utama pada 2030.
Ekstensi AI Jadi Titik Risiko
Riset Akamai juga menyoroti risiko lain yang muncul dari browser yang banyak digunakan sebagai ruang kerja tidak terlindungi. Apalagi, sedikitnya terdapat 40 persen pengguna korporat telah memasang ekstensi browser berbasis AI.
Dari ekstensi tersebut, sekitar 25 persen mengubah izin dalam kurun 12 bulan. Akamai juga menemukan ekstensi berbasis AI memiliki kemungkinan 60 persen lebih tinggi mengandung kerentanan atau Common Vulnerabilities and Exposures (CVE) yang telah diketahui dibandingkan ekstensi browser standar.
Perubahan tersebut membuat perusahaan tidak cukup hanya mengawasi aplikasi dan infrastruktur internal. Penggunaan ekstensi AI di perangkat karyawan juga perlu masuk dalam cakupan pengamanan.
Di sisi lain, perkembangan AI turut mempercepat proses eksploitasi kerentanan. Menurut Akamai, inisiatif Frontier AI menunjukkan kemampuan model AI untuk mengidentifikasi dan menghubungkan kelemahan sistem dengan cepat.
Kondisi itu membuat pendekatan keamanan yang hanya mengandalkan patching reaktif semakin kurang memadai. Perusahaan perlu memiliki mekanisme mitigasi secara real-time di sisi edge untuk merespons ancaman sebelum pembaruan pada sistem utama selesai dilakukan.
Tata Kelola Ikuti Tingkat Risiko
Advisory CISO Akamai, Steve Winterfeld mengatakan kemunculan web berbasis agen mengubah cara nilai bisnis dan logika operasional.
“Seiring perkembangan AI otonom dari sekadar menjawab pertanyaan menjadi pelaksanaan strategi bisnis bertahap, kepemimpinan di bidang keamanan harus berkembang sejalan dengan hal tersebut,” ujarnya.
Dengan berbagai celah kerentanan tersebut, Akamai merekomendasikan empat langkah yang perlu dilakukan perusahaan.
Pertama, perusahaan perlu menerapkan tata kelola edge yang adaptif melalui perlindungan runtime, filter API, dan mekanisme isolasi untuk menangani kerentanan secara cepat sembari proses patching pada sistem utama berjalan.
Kedua, perusahaan perlu memperkuat pengawasan pada browser, termasuk visibilitas dan kontrol terhadap perilaku ekstensi AI yang digunakan karyawan.
Ketiga, perusahaan perlu memperluas perlindungan terhadap informasi dan reputasi merek di tengah meningkatnya penggunaan AI untuk mencari dan menyajikan informasi. Strategi Generative Engine Optimization (GEO), akurasi informasi, sentimen, hingga pengelolaan bot menjadi bagian dari pengamanan tersebut.
Keempat, tingkat otonomi agen AI perlu disesuaikan dengan kemampuan perusahaan dalam memverifikasi tindakannya. Agen dapat diberi kewenangan lebih besar ketika tindakannya mudah diverifikasi dan kesalahannya mudah dibatalkan. Sebaliknya, tindakan berisiko tinggi tetap memerlukan keterlibatan manusia.
Dengan ekosistem yang semakin banyak melibatkan agen AI, perilaku dan tingkat otonomi menjadi bagian penting dari tata kelola keamanan siber.
