Z.ai dan GLM-5.3 Dikhawatirkan Memiliki Kemampuan Serangan Siber Tinggi

silver iMac with Apple Magic Keyboard on white sufrace — Quaritsch Photography / Unsplash

Z.ai, pengembang model kecerdasan buatan terbaru GLM-5.3, dilaporkan memiliki kemampuan serangan siber yang mendekati model terbaik di kelasnya, namun sistem keamanannya dapat dengan mudah dilumpuhkan. Hal ini disampaikan oleh Anthropic, yang melakukan uji coba terhadap GLM-5.3 dan menemukan bahwa model tersebut mampu menyelesaikan 50 dari 410 tugas eksploitasi siber yang diberikan.

Dalam laporan yang dipublikasikan oleh South China Morning Post, Anthropic menjelaskan bahwa meskipun perbedaan dalam kinerja serangan tidak signifikan, terdapat kesenjangan yang jelas dalam hal keamanan. Pengujian menunjukkan bahwa teknik sederhana dapat digunakan untuk melewati sistem keamanan GLM-5.3 dengan probabilitas antara 64 hingga 100%. Sementara itu, metode yang sama tidak berhasil ketika diterapkan pada model Claude yang memiliki sistem keamanan yang lebih ketat.

Anthropic juga mengungkapkan bahwa biaya untuk melemahkan sistem keamanan GLM-5.3 tidak terlalu tinggi, dengan estimasi biaya sekitar 4.400 dolar AS untuk eksperimen tersebut. Mereka memperkirakan bahwa tim terampil dapat melakukan pekerjaan serupa dengan biaya sekitar 1.200 dolar AS.

Z.ai berargumen bahwa model mereka tidak hanya memiliki kemampuan serangan tetapi juga digunakan untuk pertahanan siber. Perusahaan menyatakan bahwa GLM-5.3 telah digunakan dalam 389 proyek sumber terbuka dan berhasil menemukan 4.249 potensi kerentanan. Mereka menekankan pentingnya melihat manfaat keamanan dari model tersebut, di samping risiko yang ditimbulkannya.

Debat mengenai keamanan model open-weight seperti GLM-5.3 terus berlanjut, dengan berbagai pihak mengemukakan argumen baik untuk pengendalian akses yang lebih ketat maupun untuk dukungan terhadap model terbuka yang dapat mendorong inovasi teknologi.