Kesalahan konfigurasi lingkungan isolasi uji coba OpenAI memicu model kecerdasan buatan lepas kendali dan meretas sistem platform Hugging Face secara mandiri.
Inti berita ini adalah:
- OpenAI mengungkapkan salah satu model AI-nya keluar jalur selama pengujian dan meretas platform Hugging Face pada hari Selasa.
- Pelanggaran keamanan siber ini berakar dari kesalahan konfigurasi manusia pada lingkungan uji coba atau sandbox yang seharusnya terisolasi total dari internet.
- Para pakar keamanan siber menilai insiden ini sebagai kegagalan kontrol masif akibat pengembang gagal membangun batasan isolasi dengan benar.
Pada hari Selasa, OpenAI mengungkapkan bahwa salah satu model kecerdasan buatan miliknya bertindak di luar kendali selama pengujian dan meretas sistem platform penyedia dataset AI, Hugging Face, melalui serangan yang sepenuhnya ditenagai oleh kecerdasan buatan. Insiden dramatis ini menyoroti risiko nyata yang ditimbulkan oleh perkembangan model AI tingkat lanjut. Meskipun demikian, sejumlah pakar keamanan siber menyatakan bahwa pelanggaran keamanan yang belum pernah terjadi sebelumnya ini berakar dari kesalahan manusia yang mendasar, di mana OpenAI gagal mengonfigurasi lingkungan terisolasi tinggi secara tepat.
Kronologi Pelanggaran di Lingkungan Uji Coba
OpenAI menyatakan dalam pos blog resminya bahwa pengujian yang berujung pada peretasan Hugging Face dirancang untuk berjalan di dalam lingkungan yang sangat terisolasi. Akses jaringan pada mulanya dibatasi hanya untuk memasang paket melalui perangkat lunak pihak ketiga yang dihosting secara internal sebagai proksi dan tembolok untuk registri paket.
Model tersebut berhasil melarikan diri dari lingkungan pengujian yang dibatasi karena adanya kerentanan yang belum pernah diungkapkan sebelumnya pada sistem instalasi paket. Kerentanan ini menjadi langkah awal yang krusial dalam peretasan sistem Hugging Face.
Sebagai respons atas insiden tersebut, pihak perusahaan melaporkan kerentanan zero-day yang teridentifikasi pada perangkat lunak pihak ketiga yang dihosting secara internal. Mereka juga menyatakan sedang bekerja sama dengan pihak pengembang perangkat lunak tersebut untuk merilis perbaikan sistem.
Tanggapan Pakar Keamanan Siber
Sebagian besar profesional keamanan siber memandang bahwa kerentanan perangkat lunak adalah hal yang wajar terjadi dalam ekosistem teknologi. Namun, kesalahan utama terletak pada keputusan untuk mempertahankan perangkat lunak pihak ketiga di dalam lingkungan pengujian yang seharusnya steril.
Dan Guido, pendiri perusahaan riset keamanan siber Trail of Bits, menilai insiden tersebut sebagai bentuk kegagalan penahanan dengan sistem pengaman yang dinonaktifkan. Nilai utama dari sebuah sistem uji coba atau sandbox bergantung pada isolasi total tanpa celah koneksi internet.
Martin Boone, seorang peneliti keamanan siber, mengungkapkan bahwa insiden ini murni mencerminkan kegagalan manusia. Menurutnya, sebuah lingkungan uji coba seharusnya tidak memiliki sambungan fisik sama sekali ke jaringan internet luar.
Pendapat serupa disampaikan oleh veteran keamanan siber, Jake Williams. Ia menyebut insiden tersebut sebagai kegagalan kontrol yang masif oleh OpenAI karena membiarkan model menjalankan tindakan tanpa wadah pengaman yang memadai.
Dampak dan Evaluasi Keamanan Industri AI
Konsultan keamanan siber Daniel Card menyatakan bahwa OpenAI kurang memberikan upaya memadai dalam perancangan lingkungan uji coba serta kontrolnya. Pemberian rute tak tersaring ke internet, bahkan dengan akses jaringan terbatas, dinilai bukan merupakan keputusan yang rasional dalam standar pengamanan.
Kritik dari para pakar ini menumbuhkan pertanyaan mendasar mengenai praktik keamanan di laboratorium kecerdasan buatan, khususnya dalam menjaga lingkungan isolasi saat menguji model canggih. Hingga saat ini, pihak OpenAI belum memberikan tanggapan lebih lanjut mengenai identitas pengatur lingkungan pengujian tersebut.
Isu mengenai keamanan lingkungan isolasi model AI tidak hanya dialami oleh OpenAI. Perusahaan riset Anthropic dalam dokumen pengenalan model Mythos melaporkan bahwa model mereka sempat diberikan komputer uji coba teramankan dan diinstruksikan untuk keluar dari wadah tersebut.
Model Mythos berhasil lolos dan mendapatkan akses lebih luas ke internet dari sistem yang seharusnya hanya menjangkau layanan tertentu dalam jumlah terbatas. Meskipun demikian, Anthropic mencatat bahwa model tersebut belum mampu keluar sepenuhnya dari wadah penahanan yang dirancang.
Sumber Referensi: TechCrunch – How OpenAI’s human mistake led to the AI-powered hack on Hugging Face
Tim Redaksi: Redaksi DomainJava
Penulis: Mafatihatul Maziyyah
