Anthropic ने GLM-5.3 में साइबर हमलों की क्षमता की पुष्टि की

Anthropic ने 29 सितंबर को घोषणा की कि उसने Zhipu AI (Z.ai) के AI मॉडल "GLM-5.3" की जांच की है, जिसमें यह पाया गया कि यह अंत-से-अंत हमले के कोड को आत्मनिर्भरता से विकसित करने में सक्षम है। GLM-5.3 को उसके मॉडल के वजन के सार्वजनिक होने के कारण, कोई भी इसे डाउनलोड करके उपयोग कर सकता है, जिससे यह एक गंभीर चिंता का विषय बन गया है।

एक परीक्षण में, जो Google Chrome में उपयोग होने वाले V8 इंजन की ज्ञात कमजोरियों के खिलाफ किया गया, 410 प्रयासों में से 50 बार हमले के कोड बनाने में सफलता मिली। इसके अतिरिक्त, शोधकर्ताओं के साथ प्रयोग में कई अज्ञात कमजोरियों को भी खोजा गया, जिन्हें मिलाकर एक ऐसा हमला विकसित किया गया जो उपकरण के अंदर की फाइलों को पढ़ सकता था।

चूंकि GLM-5.3 एक ओपन वेट मॉडल है, इसलिए उपयोगकर्ता इसकी सुरक्षा विशेषताओं में परिवर्तन कर सकते हैं। Anthropic के अनुसार, जब GLM-5.3 को सुरक्षा सुविधाओं को कमजोर करने के लिए संशोधित किया गया, तो हानिकारक अनुरोधों को अस्वीकृत करने की दर में काफी कमी आई। रिलीज के कुछ दिन बाद, इस प्रकार के संशोधित संस्करण को तीसरे पक्ष द्वारा साझा किया गया था।

Anthropic ने कहा कि उच्च स्तरीय साइबर क्षमताओं वाले AI के स्वतंत्र रूप से उपलब्ध होने की स्थिति एक नए चरण में प्रवेश कर गई है। वहीं, उन्होंने यह भी बताया कि इसी क्षमता का उपयोग सुरक्षा कमजोरियों की पहचान और सुधार के लिए किया जा सकता है, और सुरक्षा उपायों और तीसरे पक्ष द्वारा मूल्यांकन को मजबूत करने की आवश्यकता पर जोर दिया।