Anthropic ने अमेरिकी एआई नीति का प्रस्ताव रखा: 50 मौतों के जोखिम पर प्रतिबंध

a black keyboard with a blue button on it — BoliviaInteligente / Unsplash

हाल के समय में विभिन्न स्रोतों से चेतावनियाँ मिल रही हैं कि तेजी से विकसित हो रही कृत्रिम बुद्धिमत्ता के दूरगामी परिणाम हो सकते हैं। इस बीच, ज्यादा बात की जा रही है, लेकिन कार्रवाई कम हो रही है। Anthropic अब इस स्थिति में बदलाव लाने के लिए नीति प्रस्तुत करना चाहता है।

जानकारी के अनुसार, Anthropic ने अमेरिकी सरकार को अपनी नीति सौंपी है। इसका उद्देश्य यह है कि सरकार तब एआई मॉडल के वितरण को रोक सके जब संभावित नुकसान 1 अरब डॉलर से अधिक हो, या जब कम से कम 50 लोग मृत या घायल हों। इससे संबंधित परिदृश्यों में कृत्रिम बुद्धिमत्ता द्वारा जैविक हथियारों का विकास या डेवलपर्स के नियंत्रण से पूरी तरह बाहर काम करना शामिल है। साइबर हमले भी इस नीति में शामिल हैं।

यह नीति पूरी तरह से नई नहीं है; इसके बड़े हिस्से को Anthropic के अपने Advanced AI Framework में पहले से ही शामिल किया गया है। यह प्रस्ताव सरकार को "सबसे शक्तिशाली मॉडल के खतरनाक रोलआउट को रोकने" की अनुमति देता है। इसके अलावा, यह डेवलपर्स को अग्रणी मॉडल, फ्रंटियर एआई, के परीक्षण और परीक्षणों के परिणामों के बारे में पूरी पारदर्शिता प्रदान करने के लिए भी बाध्य करता है।

नीति के अनुसार, स्वतंत्र समीक्षकों की नियुक्ति की जाएगी, जो वाणिज्य विभाग के लिए ज्ञात होंगे और विभिन्न एआई मॉडल का नियमित मूल्यांकन करेंगे। यदि वे किसी तत्काल जोखिम का पता लगाते हैं, तो उन्हें इसे 72 घंटे के भीतर वाणिज्य विभाग को रिपोर्ट करना होगा। वाणिज्य विभाग केवल अदालत के माध्यम से एक मॉडल को रोक सकता है; अन्य सरकारी विभाग ऐसा नहीं कर सकते।

अमेरिकी सरकार ने अभी तक इस पर प्रतिक्रिया नहीं दी है।