विंडोज 11 पर स्थानीय रूप से Qwen AI कैसे स्थापित करें

आज के तकनीकी क्षेत्र में कृत्रिम बुद्धिमत्ता एक अपरिहार्य उपकरण बन गया है। क्वेन ऐद्वारा विकसित किया गया अलीबाबा समूह, सबसे नवीन और शक्तिशाली विकल्पों में से एक के रूप में सामने आता है। यद्यपि कई AI समाधानों के लिए स्थायी इंटरनेट कनेक्शन की आवश्यकता होती है, Qwen AI को Windows 11 कंप्यूटर पर स्थानीय रूप से चलाया जा सकता है, उपयोगकर्ता नियंत्रण और गोपनीयता में वृद्धि।

और स्थानीय रूप से क्वेन एआई का उपयोग करने से न केवल इस उपकरण तक निरंतर पहुंच में सुधार होता है, बल्कि क्लाउड सेवाओं के लिए संवेदनशील डेटा को उजागर करने की आवश्यकता को समाप्त करता है. यह दृष्टिकोण प्रोग्रामर्स, शोधकर्ताओं और पावर उपयोगकर्ताओं के लिए आदर्श है जो अपने दैनिक कार्य में अधिक लचीलेपन की तलाश में हैं। आगे, हम इसका विश्लेषण करेंगे तुम्हें सिर्फ ज्ञान की आवश्यकता है Qwen AI को कुशलतापूर्वक स्थापित करने और उसका उपयोग शुरू करने के लिए।

हमारे कंप्यूटर पर स्थानीय रूप से Qwen AI स्थापित करने की आवश्यकताएं

शुरू करने से पहले, आपको चाहिए सत्यापित करें कि आपका कंप्यूटर Qwen AI चलाने के लिए आवश्यकताओं को पूरा करता है.

• पैरा छोटे मॉडल: ऐसे मॉडलों में जिनमें से कम 4 एक अरब मापदंडों के अनुसार, कम से कम एक कंप्यूटर जीबी रैम 16 और शक्तिशाली GPU के बिना भी यह पर्याप्त हो सकता है।
• पैरा अधिक उन्नत मॉडलउच्च क्षमता वाले मॉडलों के लिए, जैसे कि 20 बिलियन या अधिक पैरामीटर वाले, एकाधिक ग्राफिक्स कार्ड वाले उच्च-प्रदर्शन वाले कंप्यूटर की आवश्यकता होगी। आरटीएक्स और एक स्मृति बेहतर है जीबी रैम 64.

L हार्डवेयर संसाधन उस विशिष्ट मॉडल पर भी निर्भर करते हैं जिसे आप स्थापित करना चाहते हैं।. हल्के मॉडल जैसे क्वेन2.5-0.5बी बुनियादी कार्यों के लिए आदर्श हैं, जबकि अधिक उन्नत संस्करण जैसे क्वेन2.5-7बी अधिक मजबूत कॉन्फ़िगरेशन की आवश्यकता है. यह निर्णय लेने से पहले कि कौन सा मॉडल स्थापित किया जाए, अपने उपकरण का मूल्यांकन करना महत्वपूर्ण है।

आवश्यक उपकरण स्थापित करना

क्वेन एआई को स्थानीय स्तर पर चलाने के लिए, आपको दो प्रमुख उपकरण स्थापित करने की आवश्यकता होगी: ओलामा y डाक में काम करनेवाला मज़दूर. प्रक्रिया का विवरण नीचे दिया गया है:

• ओलामा: यह निःशुल्क और खुला स्रोत उपकरण आपको सीधे अपने कंप्यूटर पर भाषा मॉडल चलाने की अनुमति देता है। कर सकना इसे यहाँ से डाउनलोड करें आपकी आधिकारिक वेबसाइट, विंडोज के साथ संगत संस्करण चुनें और इंस्टॉलर निर्देशों का पालन करें।
• डोकर: डॉकर आपको अनुप्रयोगों को कुशलतापूर्वक चलाने के लिए कंटेनर बनाने की अनुमति देता है। से उतारो इसका आधिकारिक पेज, एक खाता बनाएं और अपने सिस्टम पर स्थापना चरणों का पालन करें।

क्वेन एआई मॉडल कैसे स्थापित करें

ओलामा और डॉकर कॉन्फ़िगर के साथ, अगला चरण क्वेन एआई मॉडल स्थापित करना है. ओलामा की आधिकारिक वेबसाइट से, तक पहुंच मॉडल अनुभाग और उस मॉडल का चयन करें जिसे आप उपयोग करना चाहते हैं. उदाहरण के लिए, यदि आप 2.5b पैरामीटर के साथ Qwen0.5 को स्थापित करने का निर्णय लेते हैं, तो वेबसाइट पर सूचीबद्ध संबंधित कमांड का उपयोग करें।

अपने कंप्यूटर पर कमांड टर्मिनल (CMD) खोलें, कमांड पेस्ट करें और दबाएं दर्ज. मॉडल के आकार और आपके कनेक्शन की गति के आधार पर इस प्रक्रिया में कई मिनट लग सकते हैं। एक बार पूरा हो जाने पर, आप विशिष्ट रन कमांड के साथ सीधे टर्मिनल से क्वेरीज़ लॉन्च करने में सक्षम होंगे।

ग्राफ़िकल इंटरफ़ेस सेट करना

उन लोगों के लिए जो a. पसंद करते हैं अधिक दृश्य अनुभव, डॉकर का उपयोग करके वेब इंटरफ़ेस स्थापित करना संभव है। CMD में निम्न आदेश चलाएँ Docker में कंटेनर बनाने के लिए:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

यह कंटेनर आपके ब्राउज़र में एक उपयोगकर्ता इंटरफ़ेस खुल जाएगा, में सुलभ पोर्ट 3000. यहां आप अपने AI मॉडल प्रबंधित कर सकते हैं, बातचीत शुरू कर सकते हैं और चैट इतिहास सहेज सकते हैं।

अतिरिक्त संगत मॉडल

क्वेन एआई के अलावा, ओलामा और डॉकर अन्य मॉडलों की स्थापना की अनुमति देते हैं जैसे लामा, मिस्ट्रल y डीपसीक. प्रत्येक की अपनी विशेषताएं और लाभ हैं, इसलिए आप अपनी विशिष्ट आवश्यकताओं के आधार पर नए विकल्प तलाश सकते हैं।

अतिरिक्त मॉडल चलाने से आपके सिस्टम की क्षमताएं बढ़ जाती हैं, जिससे आप अधिक प्रदर्शन कर सकते हैं बाहरी सेवाओं पर निर्भर हुए बिना अधिक जटिल विश्लेषण और उन्नत कार्य.

क्वेन एआई को स्थानीय स्तर पर चलाना उन लोगों के लिए एक शक्तिशाली समाधान प्रदान करता है जो इंटरनेट या बाहरी सर्वर पर निर्भर हुए बिना कृत्रिम बुद्धिमत्ता का पूरा लाभ उठाना चाहते हैं। यह प्रक्रिया न केवल बेहतर गोपनीयता सुनिश्चित करती है, बल्कि आपको प्रत्येक उपयोगकर्ता की विशिष्ट आवश्यकताओं के अनुसार मॉडल के उपयोग को अनुकूलित करने की अनुमति देता है.

यद्यपि इसके लिए कुछ तकनीकी ज्ञान की आवश्यकता होती है, परिणाम इसके लायक हैं जो लोग इस क्रांतिकारी तकनीक का लाभ उठाना चाहते हैं।