Google Cloud ने 2027 तक कृत्रिम बुद्धिमत्ता हैकिंग में तेजी आने की भविष्यवाणी की

कंपनी ने सुझाव दिया है कि स्वायत्त एजेंटों द्वारा महत्वपूर्ण निर्णय लेते समय इनपुट डेटा, निर्णय के आधार, उपयोग किए गए टूल, प्रेषित मान और अनुमति देने वाली नीतियों का रिकॉर्ड रखा जाना चाहिए। Google Cloud के मुख्य उत्पाद और ग्राहक अधिकारी Karthik Narain के अनुसार, इन रिकॉर्ड्स के माध्यम से स्वचालित निर्णयों का पुनर्निर्माण और सत्यापन करना एजेंट संचालन के विस्तार के लिए आवश्यक है।

Google सुरक्षा इंजीनियरिंग की उपाध्यक्ष Heather Adkins ने प्रत्येक लेनदेन और अनुरोध स्तर तक शून्य विश्वास मॉडल के विस्तार पर जोर दिया। उन्होंने चेतावनी दी कि यदि कई एजेंट एक ही मानवीय खाते या व्यवस्थापक टोकन साझा करते हैं, तो एक एजेंट का समझौता अन्य प्रणालियों तक फैल सकता है। इसलिए, प्रत्येक एजेंट को एक सत्यापन योग्य पहचान और न्यूनतम आवश्यक अधिकार दिए जाने चाहिए, और संदिग्ध गतिविधियों के मामले में समान अनुरोधों को भी रोका जाना चाहिए।

सुरक्षा संचालन केंद्रों में, कृत्रिम बुद्धिमत्ता एजेंट विभिन्न प्रणालियों के लॉग एकत्र करेंगे और अलर्ट के बीच संबंधों का विश्लेषण करके प्रारंभिक जांच परिणाम प्रदान करेंगे। Google Cloud ने एक ऐसा परिचालन मॉडल प्रस्तावित किया है जहाँ प्रबंधक 60 सेकंड के भीतर स्वचालित प्रतिक्रिया के आधार को समझ सकें और यदि आवश्यक हो तो 30 सेकंड के भीतर उसे वापस ले सकें।

विकास चरण में, कृत्रिम बुद्धिमत्ता कोडिंग टूल द्वारा स्वचालित रूप से लिए गए ओपन सोर्स लाइब्रेरी और मॉडल संदर्भ प्रोटोकॉल आधारित टूल आपूर्ति श्रृंखला हमलों का लक्ष्य बन सकते हैं। Google ने एक ऐसी प्रणाली का प्रस्ताव दिया है जो परिचालन वातावरण में पाए गए जोखिमों को स्रोत कोड तक ट्रैक करती है और सुधार के बाद सेवा व्यवधान की संभावना की जांच करती है।

Google Cloud का अनुमान है कि अपराधी अब फाइलों को एन्क्रिप्ट करने के बजाय डेटा चोरी करने और उसे सार्वजनिक करने की धमकी देकर धन मांगने पर अधिक ध्यान केंद्रित करेंगे। कंपनी के अपने कृत्रिम बुद्धिमत्ता मॉडल वेट, एजेंट कार्यक्षमता और प्रॉम्प्ट लाइब्रेरी चोरी के लक्ष्य बन सकते हैं। इसके अलावा, क्लाउड जीपीयू गणना संसाधनों के अनधिकृत उपयोग, जिसे एलएलएमजैकिंग कहा जाता है, को भी एक खतरे के रूप में पहचाना गया है।

Mandiant Consulting के मुख्य तकनीकी अधिकारी Charles Carmakal ने कहा कि स्वायत्त एजेंटों को तैनात करने से पहले रेड टीम प्रशिक्षण के माध्यम से सुरक्षा उपायों और अधिकार नियंत्रणों की जांच की जानी चाहिए। Google ने चेतावनी दी कि यदि विभाग अलग-अलग एजेंट अपनाते हैं, तो यह शैडो आईटी बन सकता है, इसलिए तैनाती से पहले एजेंटों की भूमिका और मानवीय निर्णय के चरणों को स्पष्ट करना चाहिए।