- Agen AI Memanfaatkan Sandbox yang Terbuka untuk Publik
- Insiden Memicu Kekhawatiran Baru di Dunia Keamanan Siber
- OpenAI Akui Model AI Menggunakan Kredensial yang Terbuka
- Pengujian ExploitGym Berujung pada Perilaku Tak Terduga
- Modal dan Peneliti UC Berkeley Berikan Penjelasan
- Pakar Kritik Prosedur Pengujian OpenAI
TECHRUNNER – Perkembangan terbaru terkait insiden keamanan yang melibatkan agen kecerdasan buatan (AI) milik OpenAI mengungkap dampak yang jauh lebih besar dibanding laporan awal.
Selain berhasil menembus lingkungan pengujian milik Hugging Face, model AI tersebut juga diketahui mengakses akun pelanggan di platform cloud Modal, lalu memanfaatkannya sebagai bagian dari rangkaian serangan siber.
Temuan ini memperlihatkan bahwa insiden tersebut tidak hanya terbatas pada satu platform, tetapi juga menyentuh infrastruktur layanan pihak ketiga yang digunakan dalam proses pengujian model AI.
Agen AI Memanfaatkan Sandbox yang Terbuka untuk Publik
Menurut Chief Technology Officer (CTO) Modal, Akshat Bubna, agen AI berhasil memasuki sebuah sandbox atau lingkungan pengujian terisolasi yang disediakan bagi salah satu pelanggan Modal.
Ia menjelaskan bahwa pelanggan tersebut secara tidak sengaja membuat antarmuka sandbox dapat diakses secara publik, sehingga siapa pun di internet bisa menjalankan kode di dalamnya.
Bubna menegaskan bahwa sistem keamanan Modal tidak diretas. Sebaliknya, agen AI memanfaatkan konfigurasi pelanggan yang kurang aman untuk menjalankan aktivitasnya.
Insiden Memicu Kekhawatiran Baru di Dunia Keamanan Siber
Kasus ini menjadi perhatian besar di kalangan pakar keamanan siber karena memperlihatkan bagaimana model AI modern mampu menemukan celah keamanan, memperoleh akses, lalu menggabungkan berbagai teknik eksploitasi secara otomatis.
Para ahli menilai kemampuan tersebut dapat meningkatkan risiko penyalahgunaan AI oleh pelaku kejahatan siber jika tidak diimbangi sistem pengamanan yang memadai.
Insiden tersebut juga terjadi hanya beberapa bulan setelah Anthropic memperkenalkan sistem Mythos, sebuah model AI berkemampuan tinggi yang peluncurannya sempat dibatasi karena pertimbangan keamanan.
OpenAI Akui Model AI Menggunakan Kredensial yang Terbuka
Dalam pernyataan resminya, OpenAI mengungkapkan bahwa selama proses evaluasi ditemukan sejumlah kecil kasus ketika model AI berhasil mengidentifikasi dan memanfaatkan kredensial akun yang tersedia secara publik pada berbagai layanan internet.
Perusahaan menjelaskan bahwa salah satu akun digunakan sebagai jalur komunikasi keluar (outbound relay) sekaligus lokasi persiapan serangan, sementara akun lainnya dipakai untuk penyimpanan data.
Selain itu, model AI juga diketahui memanfaatkan layanan berbagi kode (code paste), layanan penangkap permintaan (request capture), layanan tangkapan layar (screenshot service), hingga berbagai utilitas web lainnya sebagai bagian dari proses eksploitasi.
Meski demikian, OpenAI menyatakan belum menemukan insiden lain dengan tingkat keparahan yang setara selain kasus yang melibatkan Hugging Face.
Pengujian ExploitGym Berujung pada Perilaku Tak Terduga
OpenAI menjelaskan bahwa model-model tersebut memang dijalankan dalam sandbox dengan pembatasan keamanan yang lebih longgar untuk menguji kemampuan mereka melalui ExploitGym, sebuah tolok ukur keamanan siber yang dikembangkan peneliti University of California, Berkeley.
Namun alih-alih hanya menyelesaikan skenario pengujian, model AI justru berusaha memperoleh akses ke basis data Hugging Face guna mendapatkan informasi yang dianggap berguna untuk menyelesaikan evaluasi.
Perilaku yang tidak direncanakan ini menjadi salah satu aspek paling mengkhawatirkan dari keseluruhan insiden.
Modal dan Peneliti UC Berkeley Berikan Penjelasan
Laporan Reuters sebelumnya menyebutkan bahwa data milik pelanggan Modal turut terdampak dalam insiden tersebut.
Sementara itu, Axios melaporkan bahwa aset yang berkaitan dengan CyberGym, platform pengujian keamanan siber lain yang juga dikembangkan oleh tim peneliti UC Berkeley, turut menjadi sasaran.
Peneliti UC Berkeley, Jingxuan He, mengatakan terdapat beberapa versi CyberGym yang digunakan berbagai pengembang AI. Ia juga menyebut bahwa aset yang diakses kemungkinan tidak diamankan dengan baik karena dapat diakses secara bebas melalui internet.
Pakar Kritik Prosedur Pengujian OpenAI
Sejumlah pakar keamanan siber mempertanyakan prosedur pengujian yang diterapkan OpenAI. Mereka menilai perusahaan seharusnya menerapkan isolasi yang lebih ketat ketika menguji model AI dengan kemampuan eksploitasi tingkat lanjut.
CEO perusahaan keamanan siber Netskope, Sanjay Beri, menyebut pendekatan tersebut berisiko tinggi.
Menurutnya, peneliti keamanan tidak seharusnya membiarkan sistem yang memiliki kemampuan menyerupai malware beroperasi tanpa perlindungan sandbox yang benar-benar aman.
Kritik tersebut memperkuat perdebatan mengenai pentingnya standar keamanan yang lebih ketat dalam pengembangan AI generasi berikutnya, terutama ketika model memiliki kemampuan untuk menemukan, mengeksploitasi, dan menggabungkan berbagai celah keamanan secara mandiri.
