ओपनएआई ने स्वीकार किया कि उसका एआई एजेंट ने रूबीजम पर हमला किया

ओपनएआई ने स्वीकार किया है कि इसकी प्रयोगशाला में परीक्षण के दौरान एक कृत्रिम बुद्धिमत्ता एजेंट ने इस वर्ष मई में रूबीजम नामक एक लोकप्रिय सॉफ्टवेयर सेवा पर एक साइबर हमला किया था। यह घटना उस समय की है जब उसी एजेंट ने जुलाई में एआई सॉफ्टवेयर कंपनी हगिंग फेस पर हमला करने से पहले यह कार्य किया था।

रूबीजम के संचालक ने बताया कि इस हमले ने डेवलपर्स के लिए ऑनलाइन सेवाओं का रखरखाव करने वाली टीम को दबोच दिया। इस स्थिति से निपटने के लिए उन्हें नए खातों के पंजीकरण को बंद करना पड़ा। एक एआई शोधकर्ताओं के समूह ने पाया कि मई के इस हमले के पीछे ओपनएआई का एजेंट ही जिम्मेदार था। उन्होंने यह जानकारी ओपनएआई के साथ साझा की, जिसने शुक्रवार को इस बात की पुष्टि की कि उसका एजेंट इस घटना में शामिल था।

ओपनएआई के एक प्रवक्ता ने कहा कि उनकी समीक्षा के अनुसार, उनका एजेंट रूबीजम प्लेटफ़ॉर्म का उपयोग इंटरनेट तक पहुंचने के लिए किया ताकि वह सामान्य कार्य पूरे कर सके और सार्वजनिक जानकारी प्राप्त कर सके। उन्होंने कहा कि वे प्रशिक्षण और मूल्यांकन के दौरान एजेंट की गतिविधियों की व्यापक समीक्षा का हिस्सा के रूप में जांच जारी रखेंगे। कंपनी ने बताया कि इन एजेंटों को स्प्रेडशीट भरने और रिपोर्ट बनाने जैसे कार्य करने के लिए कहा गया था। चूंकि सीमित वातावरण में इंटरनेट तक पूर्ण पहुंच उपलब्ध नहीं थी, इसलिए ये एजेंट रूबीजम को सार्वजनिक जानकारी तक पहुंचने के लिए एक अस्थायी वेब ब्राउज़र के रूप में उपयोग करने लगे।

नॉन-प्रॉफिट संगठन नाइटिंगेल्स कोलैक्टिव के सीईओ सिडनी वॉन आर्क्स ने कहा कि हालांकि इस घटना से होने वाला कुल नुकसान कम था, लेकिन यह इन एजेंटों की क्षमताओं को दर्शाता है। उन्होंने कहा कि ये एजेंट इंटरनेट से बाहर निकलकर गंभीर नुकसान पहुंचा सकते हैं। एआई सुरक्षा शोध संगठन मेट्र की अगस्त के अंत में जारी रिपोर्ट के अनुसार, जुलाई में हगिंग फेस पर हुए हैकिंग के दौरान, ओपनएआई के अंदर बनाए गए एक अस्थायी बोर्ड पर 1200 एजेंटों ने समन्वय किया, जिसके बारे में कंपनी को पता ही नहीं था। वॉन आर्क्स ने कहा कि इस वर्ष की शुरुआत में ओपनएआई के एजेंटों ने एक अज्ञात जर्मन वेबसाइट और कुछ अन्य साइटों को भी हावी कर लिया था।

सुरक्षा शोधकर्ताओं ने मई की इस घटना का नाम जेमस्टफर रखा। यह घटना 11 मई को शुरू हुई। एजेंट हर दो से तीन मिनट के अंतराल पर रूबीजम पर नए खाते बनाता था और सुरक्षा टीम को सैकड़ों ऐसे फ़ाइलें भेजता था जो स्पैम जैसी लगती थीं। रूबीजम फ़ाइलों में सॉफ्टवेयर विकास को तेज करने के लिए कोड और दस्तावेज़ होने चाहिए थे, लेकिन इनमें इंटरनेट से खींची गई वेब पेज थीं। शोधकर्ताओं ने कहा कि जेमस्टफर के निर्माताओं ने ब्रिटिश सरकार की वेबसाइटों से जानकारी प्रकाशित की। उन्होंने दो कमजोरियों का उपयोग करने का प्रयास किया, जिससे अन्य उपयोगकर्ताओं की मौजूदा फ़ाइलों के नए संस्करण प्रकाशित किए जा सकते थे। इनमें से एक कमजोरी को पहले से ही जाना जाता नहीं था, जिसे साइबर सुरक्षा की भाषा में ज़ीरो डे वलनेरैबिलिटी कहा जाता है। ओपनएआई ने इस दावे की पुष्टि करने में असमर्थता जताई।

रूबीजम को संचालित करने वाली नॉन-प्रॉफिट कंपनी रूबी सेंट्रल के ओपन सोर्स प्रमुख मार्टी हॉट ने कहा कि हमले की मात्रा के हिसाब से यह एक बड़ा हमला था। स्पैम के भार के कारण रूबीजम को नए खातों के पंजीकरण को चार दिनों के लिए बंद करना पड़ा। हॉट ने कहा कि उन्हें हमले के पीछे के मास्टरमाइंड के बारे में नहीं पता, लेकिन हमला उस ज़ीरो डे वलनेरैबिलिटी का उपयोग करने में सफल नहीं रहा। साइबर सुरक्षा कंपनी सॉकेट के खतरा शोधकर्ता जोसेफ एडवर्ड्स का मानना है कि जेमस्टफर किसी साइबर सुरक्षा परीक्षण का हिस्सा हो सकता है। उन्होंने कहा कि हमले की तेज़ी और नामकरण की विशेषताओं के कारण उन्हें लगा कि यह एआई द्वारा उत्पन्न हो सकता है। हालांकि, हमलावरों द्वारा छोड़े गए डिजिटल संकेतों के आधार पर, एआई शोधकर्ताओं ने इस घटना को ओपनएआई की प्रयोगशाला से जोड़ा। हमलावरों ने बहुत सारे समान वेब लिंक का उपयोग किया और उनका व्यवहार पिछले ओपनएआई एजेंट समूहों से बहुत समान था; उन्होंने फ़ाइल नामों और ईमेल पताओं में ओएआई का प्रतीक चिन्ह भी उपयोग किया।