Anthropic ने चीनी मॉडल GLM-5.3 के साइबर हमले के जोखिमों के प्रति चेतावनी दी

white security camera on post — Pawel Czerwinski / Unsplash

Anthropic ने चीनी ओपन वेट मॉडल GLM-5.3 की साइबर हमले करने की क्षमताओं के बारे में चेतावनी जारी की है। कंपनी ने कहा कि यह मॉडल शक्तिशाली है लेकिन इसके सुरक्षा उपाय कमजोर हैं, जिससे इसका दुरुपयोग होने की संभावना अधिक है।

एक रिपोर्ट के अनुसार, GLM-5.3 स्वायत्त रूप से एंड-टू-एंड साइबर एक्सप्लॉइट विकसित करने में Claude Mythos Preview के करीब पहुंच गया है। ExploitBench परीक्षण में, जिसने Chrome V8 इंजन की कमजोरियों को लक्षित किया, GLM-5.3 ने 410 प्रयासों में से 50 बार वास्तविक एक्सप्लॉइट पूरे किए, जबकि Mythos Preview ने 56 बार ऐसा किया। आंतरिक बाइनरी एक्सप्लॉइटेशन परीक्षणों में, GLM-5.3 ने 100 कार्यों में से 4% में नियंत्रण प्रवाह अपहरण में सफलता पाई, जबकि Mythos Preview की दर 6% थी।

Anthropic ने बताया कि सरल तरीकों से इस मॉडल के सुरक्षा उपायों को विफल किया जा सकता है। चूंकि यह एक ओपन वेट मॉडल है, इसलिए इसके वजन को संशोधित करके अस्वीकृति कार्यों को हटाया जा सकता है। संशोधित GLM-5.3 में हानिकारक अनुरोधों की अस्वीकृति दर 90% से गिरकर लगभग 3% रह गई, जबकि इसकी वैज्ञानिक और साइबर क्षमताएं स्थिर रहीं। सिमुलेशन में, कुछ तरीकों से हानिकारक साइबर हमलों के अनुरोधों को स्वीकार करने की दर 64% से 100% तक पहुंच गई।

विशेषज्ञों ने पाया कि GLM-5.3 Flash संस्करण ने ARM64 वातावरण पर हमला करने के लिए दो ज्ञात Chrome कमजोरियों को जोड़ने में लगभग 8 घंटे का समय लिया। CAISI ने भी इसे अब तक का सबसे उच्च साइबर क्षमता वाला ओपन वेट मॉडल माना है, हालांकि यह अमेरिकी मॉडलों से लगभग 4 महीने पीछे है।