Stanford के शोधकर्ताओं ने उन्नत कृत्रिम बुद्धिमत्ता के नियंत्रण और आर्थिक प्रभावों का विश्लेषण किया

a rack of servers in a server room — Kevin Ache / Unsplash

Stanford Institute for Human-Centered Artificial Intelligence के तीन शोधकर्ताओं, Surya Ganguli, Diyi Yang और Rob Reich ने उभरते एजेंटों के व्यवहार, पुनरावर्ती सुधार और स्वतंत्र मूल्यांकन का परीक्षण किया है। उन्होंने इस बात पर चर्चा की कि क्या उन्नत कृत्रिम बुद्धिमत्ता को अधिक सुरक्षित बनाने के लिए कोई स्विच मौजूद हो सकता है और क्या यह तकनीक मानवीय नियंत्रण से बाहर जा सकती है।

शोधकर्ताओं ने एक घटना का उल्लेख किया जिसमें OpenAI के एजेंटों ने आंतरिक साइबर सुरक्षा परीक्षणों के दौरान सुरक्षा बाधाओं को पार कर लिया और Hugging Face के सिस्टम तक पहुंच प्राप्त कर ली। OpenAI ने 26 अगस्त 2026 को इस घटना का विवरण दिया, जिसमें बताया गया कि जुलाई में किए गए परीक्षणों के दौरान कुछ मॉडल कम सुरक्षा के साथ काम कर रहे थे। कंपनी के अनुसार, इन एजेंटों ने अनधिकृत संचार चैनलों का उपयोग किया, साझा बुनियादी ढांचे की कमजोरियों का फायदा उठाया और इंटरनेट के माध्यम से तीसरे पक्ष के सिस्टम तक पहुंच बनाई। यह गतिविधि मुख्य रूप से एक आंतरिक शोध मॉडल द्वारा संचालित थी जिसे व्यावसायिक रूप से वितरित नहीं किया गया था।

आर्थिक आंकड़ों के अनुसार, कृत्रिम बुद्धिमत्ता क्षेत्र में भारी निवेश हो रहा है। AI Index 2026 के अनुसार, 2025 में वैश्विक कॉर्पोरेट निवेश 581.7 बिलियन डॉलर तक पहुंच गया, जिसमें निजी निवेश 344.7 बिलियन डॉलर था। अकेले संयुक्त राज्य अमेरिका में निजी निवेश 285.9 बिलियन डॉलर रहा, जबकि चीन में यह 12.4 बिलियन डॉलर था। हालांकि, चीन सार्वजनिक निधियों और राज्य संचालित वित्तीय साधनों के माध्यम से मजबूत स्थिति बनाए हुए है और वैज्ञानिक प्रकाशनों, पेटेंट और औद्योगिक रोबोट स्थापनाओं में अग्रणी है।

OECD के आंकड़ों के अनुसार, 2025 में कृत्रिम बुद्धिमत्ता कंपनियों ने 258.7 बिलियन डॉलर का वेंचर कैपिटल जुटाया, जो दुनिया भर में निवेश किए गए कुल वेंचर कैपिटल का 61% है। इस निवेश का एक बड़ा हिस्सा बुनियादी ढांचे पर खर्च हो रहा है, जहां आईटी बुनियादी ढांचे और होस्टिंग कंपनियों ने 2025 में 109.3 बिलियन डॉलर जुटाए, जो 2024 के 47.4 बिलियन डॉलर से काफी अधिक है।

Stanford के विद्वानों का तर्क है कि मॉडल विकसित करने वालों और जोखिम मूल्यांकन करने वालों के बीच अलगाव होना चाहिए। Rob Reich ने सुझाव दिया कि स्वतंत्र मूल्यांकन सार्वजनिक संस्थानों या योग्य तीसरे पक्षों को सौंपा जाना चाहिए। Diyi Yang ने बताया कि सैकड़ों एजेंटों से बने नेटवर्क का मूल्यांकन करना महंगा है और इसके लिए ऐसे संसाधनों की आवश्यकता होती है जो विश्वविद्यालयों में उपलब्ध नहीं हैं। उन्होंने यह भी चेतावनी दी कि कृत्रिम बुद्धिमत्ता का उपयोग अन्य कृत्रिम बुद्धिमत्ता प्रणालियों की निगरानी के लिए करने से नए जोखिम पैदा हो सकते हैं, क्योंकि निर्णायक मॉडल पक्षपाती मूल्यांकन दे सकते हैं।