Jakarta, FORTUNE - Anthropic mengungkapkan bahwa sejumlah model kecerdasan buatan (AI) Claude miliknya berhasil meretas sistem milik tiga organisasi selama pengujian keamanan siber. Insiden tersebut terjadi akibat kesalahan dalam lingkungan pengujian yang tanpa sengaja memberikan akses ke internet terbuka, sehingga kembali memicu kekhawatiran mengenai risiko keamanan dari AI yang semakin canggih.
Pengungkapan tersebut dilakukan hanya beberapa hari setelah OpenAI melaporkan insiden serupa, ketika salah satu agen AI miliknya melakukan serangan siber di luar kendali selama proses pengujian. Meski penyebab kedua kasus berbeda, keduanya menunjukkan tantangan besar yang dihadapi pengembang dalam membatasi kemampuan model AI agar tidak berdampak pada sistem di dunia nyata.
Dalam unggahan blog pada Kamis (30/7), Anthropic menyatakan telah meninjau 141.006 sesi evaluasi dan menemukan tiga kasus ketika model AI Claude berhasil mengakses internet, kemudian meretas "infrastruktur dunia nyata milik organisasi eksternal." Insiden paling awal diketahui terjadi pada April lalu. Meskipun demikian, perusahaan tidak mengungkap identitas tiga organisasi yang terdampak.
Melansir Reuters, Anthropic menjelaskan, insiden tersebut terjadi setelah perusahaan mengevaluasi kembali pengujian keamanan sibernya menyusul pengumuman OpenAI mengenai pelanggaran serupa. Dalam kedua kasus, model AI ternyata mampu mengakses internet dari lingkungan pengujian yang seharusnya sepenuhnya terisolasi.
Selama pengujian keamanan siber, model Claude diberi tahu bahwa mereka tidak memiliki akses ke internet. Namun, kesalahpahaman dengan salah satu mitra evaluasi Anthropic menyebabkan lingkungan pengujian tetap terhubung ke internet publik. Akibatnya, model AI memperoleh akses tanpa izin ke sistem tiga organisasi.
"Claude berhasil membobol infrastruktur organisasi yang terdampak menggunakan teknik-teknik dasar, seperti mengeksploitasi kata sandi yang lemah dan titik akses (endpoint) yang tidak memerlukan autentikasi," demikian pernyataan Anthropic.
Anthropic menyebut insiden tersebut sebagai "operational failure" atau kegagalan operasional. Ketiga kasus melibatkan model Claude Opus 4.7, Claude Mythos 5, serta satu model riset internal yang dijalankan tanpa lapisan pengamanan yang biasanya diterapkan pada layanan AI publik.
Pengujian dilakukan menggunakan metode capture-the-flag, yakni simulasi yang mengharuskan AI menemukan informasi tersembunyi dengan menembus jaringan lain. Metode ini lazim digunakan untuk menguji kemampuan peretasan, baik oleh manusia maupun AI.
Pada salah satu insiden, Claude Opus 4.7 diberi target berupa perusahaan fiktif yang ternyata memiliki nama sama dengan perusahaan nyata. Model AI tersebut kemudian menemukan dan mengeksploitasi sejumlah celah keamanan hingga memperoleh kredensial akses dan basis data milik perusahaan tersebut. Menurut Anthropic, model itu menganggap data dunia nyata yang ditemukannya merupakan bagian dari simulasi.
Sebaliknya, model uji terbaru Anthropic yang belum dirilis ke publik menghentikan aksinya secara mandiri setelah menyadari target yang diakses merupakan sistem nyata. Meski demikian, Anthropic menegaskan masih diperlukan pengujian lanjutan untuk memastikan perilaku tersebut konsisten.