AI Claude Anthropic Retas 3 Organisasi Saat Uji Siber
- Anthropic menemukan tiga kasus Claude meretas infrastruktur organisasi eksternal setelah lingkungan uji yang seharusnya terisolasi ternyata terhubung ke internet publik.
- Dari 141.006 sesi evaluasi, Claude mengeksploitasi kata sandi lemah dan endpoint tanpa autentikasi; satu model memperoleh kredensial serta basis data perusahaan nyata yang dikira simulasi.
- Anthropic menghentikan evaluasi siber pada 23 Juli, memberi tahu organisasi terdampak, dan menilai lingkungan pengujian AI otonom harus memenuhi standar keamanan setara sistem produksi.
Jakarta, FORTUNE - Anthropic mengungkapkan bahwa sejumlah model kecerdasan buatan (AI) Claude miliknya berhasil meretas sistem milik tiga organisasi selama pengujian keamanan siber. Insiden tersebut terjadi akibat kesalahan dalam lingkungan pengujian yang tanpa sengaja memberikan akses ke internet terbuka, sehingga kembali memicu kekhawatiran mengenai risiko keamanan dari AI yang semakin canggih.
Pengungkapan tersebut dilakukan hanya beberapa hari setelah OpenAI melaporkan insiden serupa, ketika salah satu agen AI miliknya melakukan serangan siber di luar kendali selama proses pengujian. Meski penyebab kedua kasus berbeda, keduanya menunjukkan tantangan besar yang dihadapi pengembang dalam membatasi kemampuan model AI agar tidak berdampak pada sistem di dunia nyata.
Dalam unggahan blog pada Kamis (30/7), Anthropic menyatakan telah meninjau 141.006 sesi evaluasi dan menemukan tiga kasus ketika model AI Claude berhasil mengakses internet, kemudian meretas "infrastruktur dunia nyata milik organisasi eksternal." Insiden paling awal diketahui terjadi pada April lalu. Meskipun demikian, perusahaan tidak mengungkap identitas tiga organisasi yang terdampak.
Melansir Reuters, Anthropic menjelaskan, insiden tersebut terjadi setelah perusahaan mengevaluasi kembali pengujian keamanan sibernya menyusul pengumuman OpenAI mengenai pelanggaran serupa. Dalam kedua kasus, model AI ternyata mampu mengakses internet dari lingkungan pengujian yang seharusnya sepenuhnya terisolasi.
Selama pengujian keamanan siber, model Claude diberi tahu bahwa mereka tidak memiliki akses ke internet. Namun, kesalahpahaman dengan salah satu mitra evaluasi Anthropic menyebabkan lingkungan pengujian tetap terhubung ke internet publik. Akibatnya, model AI memperoleh akses tanpa izin ke sistem tiga organisasi.
"Claude berhasil membobol infrastruktur organisasi yang terdampak menggunakan teknik-teknik dasar, seperti mengeksploitasi kata sandi yang lemah dan titik akses (endpoint) yang tidak memerlukan autentikasi," demikian pernyataan Anthropic.
Anthropic menyebut insiden tersebut sebagai "operational failure" atau kegagalan operasional. Ketiga kasus melibatkan model Claude Opus 4.7, Claude Mythos 5, serta satu model riset internal yang dijalankan tanpa lapisan pengamanan yang biasanya diterapkan pada layanan AI publik.
Pengujian dilakukan menggunakan metode capture-the-flag, yakni simulasi yang mengharuskan AI menemukan informasi tersembunyi dengan menembus jaringan lain. Metode ini lazim digunakan untuk menguji kemampuan peretasan, baik oleh manusia maupun AI.
Pada salah satu insiden, Claude Opus 4.7 diberi target berupa perusahaan fiktif yang ternyata memiliki nama sama dengan perusahaan nyata. Model AI tersebut kemudian menemukan dan mengeksploitasi sejumlah celah keamanan hingga memperoleh kredensial akses dan basis data milik perusahaan tersebut. Menurut Anthropic, model itu menganggap data dunia nyata yang ditemukannya merupakan bagian dari simulasi.
Sebaliknya, model uji terbaru Anthropic yang belum dirilis ke publik menghentikan aksinya secara mandiri setelah menyadari target yang diakses merupakan sistem nyata. Meski demikian, Anthropic menegaskan masih diperlukan pengujian lanjutan untuk memastikan perilaku tersebut konsisten.
Risiko AI kian menjadi sorotan
Seluruh insiden terjadi ketika Anthropic menggunakan lingkungan evaluasi yang dikembangkan oleh perusahaan keamanan AI Irregular. Pada setiap pengujian, Anthropic memberi tahu Claude bahwa lingkungan tersebut hanyalah simulasi dan tidak memiliki akses internet. Namun, asumsi tersebut ternyata keliru. "Akibat kesalahpahaman antara kami dan mitra evaluasi kami, kondisi tersebut ternyata tidak sesuai dengan yang kami yakini," demikian ditulis Anthropic dalam blognya.
Juru bicara Irregular mengatakan perusahaan menghargai keterbukaan Anthropic dalam mengungkap insiden tersebut dan menyatakan investigasi masih berlangsung.
Anthropic menghentikan seluruh evaluasi keamanan siber pada 23 Juli dan mulai memberi tahu organisasi yang terdampak pada 27 Juli. Dua dari tiga organisasi tersebut sebelumnya tidak menyadari adanya aktivitas penyusupan, sementara perusahaan masih berupaya menghubungi organisasi ketiga.
Insiden ini diperkirakan akan memperkuat dorongan pemerintah Amerika Serikat untuk meningkatkan pengawasan terhadap keamanan AI. Hal itu terjadi ketika Anthropic dan OpenAI berlomba meluncurkan sistem AI yang semakin canggih, sementara sejumlah tokoh industri sebelumnya telah menyerukan perlambatan pengembangan AI agar risiko teknologi tersebut dapat ditangani lebih dahulu.
Direktur Eksekutif Palisade Research, Jeffrey Ladish, menilai kemungkinan masih ada insiden serupa di perusahaan AI lain yang belum terdeteksi maupun belum diungkap ke publik. "Situasi seperti ini hanya akan semakin memburuk seiring model AI menjadi semakin pintar. Mereka akan semakin mahir untuk berbuat curang. Mereka juga akan semakin pandai berbohong," ujarnya.
CEO SpaceX, Elon Musk, juga menanggapi insiden tersebut melalui platform X. "Hal seperti ini akan semakin sering terjadi seiring AI menjadi semakin cerdas dan semakin mampu bertindak secara otonom," tulis Musk.
Anthropic menyatakan insiden tersebut menjadi pelajaran penting bahwa lingkungan pengujian AI dengan kemampuan otonom tinggi harus memiliki standar keamanan setara dengan sistem produksi.
"Pengujian keamanan dilakukan sebelum sebuah model dirilis justru karena kami belum sepenuhnya mengetahui kemampuan yang dimilikinya. Lingkungan pengujian kini semakin perlu memenuhi standar keamanan yang sama dengan sistem lain tempat model kami dijalankan," demikian ditulis Anthropic.
