स्थानीय कंप्यूटरों पर कृत्रिम बुद्धिमत्ता मॉडलों का निष्पादन और डेटा गोपनीयता के लाभ

अध्ययन में एलएम स्टूडियो बायोनिक नामक सॉफ्टवेयर का उपयोग किया गया, जो विंडोज़ के लिए एक सरल और सार्वभौमिक वातावरण प्रदान करता है। यह सॉफ्टवेयर मुफ्त में डाउनलोड किया जा सकता है और इसकी स्थापना एक मिनट में पूरी हो जाती है। हालांकि, क्लाउड-आधारित मॉडलों की तरह शक्तिशाली मॉडल स्थानीय रूप से नहीं चलाए जा सकते क्योंकि उन्हें 500 जीबी से अधिक वीडियो मेमोरी की आवश्यकता होती है। फिर भी, दैनिक कार्यों जैसे दस्तावेज़ प्रबंधन, ऑडियो रिकॉर्डिंग की प्रतिलिपि, लॉग विश्लेषण और स्वचालन स्क्रिप्ट लिखने के लिए हल्के मॉडल पर्याप्त हैं।

एक विशिष्ट उदाहरण में, कृत्रिम बुद्धिमत्ता का उपयोग करके राउटर के लॉग का विश्लेषण किया गया, जिससे यह पता चला कि एक रोबोटिक वैक्यूम क्लीनर बार-बार कनेक्शन खो रहा था और राउटर पर डीडीओएस हमला जैसी स्थिति पैदा कर रहा था। यह समस्या पारंपरिक खोज या तकनीकी सहायता से नहीं हल हो पाई थी, लेकिन स्थानीय कृत्रिम बुद्धिमत्ता ने तुरंत एक प्रभावी समाधान प्रदान किया।

सुरक्षा चिंताओं के कारण, एलएम लिंक विकल्प को बंद रखना अनुशंसित है, क्योंकि यह स्थानीय कृत्रिम बुद्धिमत्ता को इंटरनेट के माध्यम से अन्य उपकरणों के लिए उपलब्ध कराता है, जिससे डेटा उल्लंघन का जोखिम बढ़ जाता है। मॉडल चयन करते समय, केवल वीडियो मेमोरी में पूरी तरह फिट होने वाले हल्के मॉडलों को चुनना बेहतर है, क्योंकि मेमोरी की कमी गति को काफी कम कर देती है।

क्रिप्टोनाइट के विशेषज्ञों ने बताया कि बड़े मॉडल व्यक्तिगत कंप्यूटर की मेमोरी में नहीं समा सकते, इसलिए स्थानीय निष्पादन के लिए सबसे कुशल हल्के मॉडलों का चयन करना आवश्यक है। कंपनी वर्तमान में मॉडल अनुकूलन के नए दृष्टिकोणों का सक्रिय रूप से उपयोग कर रही है और अपने स्वयं के समाधान विकसित कर रही है। एलएम स्टूडियो बायोनिक लैमा डॉट सीपीपी इंजन का उपयोग करता है, जो कई ग्राफिक्स कार्डों की मेमोरी को संयोजित कर सकता है, जिससे बिना एनवीलिंक के भी अधिक वीडियो मेमोरी का उपयोग संभव हो जाता है।