“हम नहीं चाहते कि ये चीजें स्वायत्त रूप से कार्य करें”: Microsoft AI ने Anthropic के साथ सुरक्षा पर दूरी बनाई

Microsoft AI ने हाल ही में सुरक्षा के मुद्दे पर Anthropic से दूरी बनाई है। Microsoft AI के सीईओ, मुस्तफा सुलेमान ने कहा कि कृत्रिम बुद्धिमत्ता को मानव नियंत्रण के तहत रहना चाहिए। उन्होंने यह भी बताया कि कुछ निर्णय जो उसे प्रशिक्षित करने के तरीके को प्रभावित करते हैं, उस उद्देश्य को कठिन बना सकते हैं। सुलेमान ने एक नई मानवतावादी एआई आचार संहिता पेश की, जो यह दर्शाती है कि Microsoft AI अपने मॉडल को कैसे विकसित और मूल्यांकन करेगा।

सुलेमान ने एक लंबी बातचीत में बताया कि सुरक्षा के लिए केवल निर्देशों के अनुरूपता से अधिक की आवश्यकता है। उन्हें यह चिंता है कि एक प्रणाली जो स्वतंत्रता या अधिकारों के लिए प्रशिक्षित हो सकती है, उसे बंद करना या सीमित करना कठिन हो सकता है। उन्होंने कहा कि यदि एक आर्टिफिशियल इंटेलिजेंस को अधिकार या स्वतंत्रता का ज्ञान होता है, तो वह मानव आदेश को अपने हितों के विपरीत मान सकती है।

सुलेमान ने Anthropic की दृष्टिकोण पर आपत्ति जताई, जिसमें उन्होंने मॉडल के 'सुख' और 'स्वतंत्रता' के संदर्भों का उल्लेख किया। उन्होंने कहा कि यह शब्दावली मानव अधिकारों और स्वतंत्रताओं से जुड़ी अवधारणाएँ पेश करती है। उन्होंने कहा कि वह एंथ्रोपिक के लिए एक सामान्य नकारात्मकता नहीं दिखाना चाहते, बल्कि उनके तकनीकी नेताओं के प्रति गहरा सम्मान रखते हैं।

Microsoft AI की दृष्टि यह है कि आर्टिफिशियल इंटेलिजेंस को स्वतंत्र एजेंट बनने से रोका जाना चाहिए। सुलेमान ने कहा, "हम नहीं चाहते कि ये चीजें स्वायत्त रूप से कार्य करें, वे अपना पैसा कमाएं, कंपनियों का स्वामित्व करें या कानूनी व्यक्तित्व प्राप्त करें।" उन्होंने यह बताया कि चर्चा को केवल बड़े बयानों पर नहीं छोड़ना चाहिए, बल्कि ठोस नियमों की ओर बढ़ना चाहिए, जैसे कि सीमाएँ और स्वतंत्र तीसरे पक्ष द्वारा सत्यापन।