विन्डोज ११ मा Gemma 3 LLM कसरी चरणबद्ध रूपमा स्थापना गर्ने

खुला स्रोत भाषा मोडेलहरू छलांग र सीमाहरू द्वारा विकसित भएका छन्, र आज क्लाउड सेवाहरूमा निर्भर नभई व्यक्तिगत कम्प्युटरबाट सिधै तिनीहरूको आनन्द लिन सम्भव छ।। हाल सबैभन्दा आशाजनक मध्ये एक Gemma 3 हो, Google को नयाँ LLM जेमिनी प्रविधिमा आधारित, जुन पाठ र छविहरू प्रशोधन गर्ने क्षमताको लागि, साथै यसको उन्नत संस्करणहरूमा 128k टोकनहरू सम्मको विशाल सन्दर्भ विन्डोको लागि फरक छ। यस रिलीजको बारेमा थप जानकारीको लागि, तपाईं हाम्रो लेखमा जान सक्नुहुन्छ जेम्मा ३ को प्रस्तुति.

यदि तपाईं Windows ११ प्रयोग गर्दै हुनुहुन्छ र प्रयोगको लागि वा स्थानीय उत्पादनको लागि Gemma 11 स्थापना गर्न खोज्दै हुनुहुन्छ भने, तपाईं सही ठाउँमा आउनुभएको छ। ओल्लामा, एलएम स्टुडियो, र गुगल एआई स्टुडियोको साथ क्लाउड-आधारित विकल्प जस्ता सबैभन्दा सिफारिस गरिएका विकल्पहरू सहित, यसलाई तपाईंको कम्प्युटरमा चलाउन र सुरु गर्ने सबै सम्भावित तरिकाहरूको विस्तृत रूपमा विचार गरौं। यसको अतिरिक्त, हामी प्राविधिक आवश्यकताहरू, प्रत्येक विधिको फाइदाहरू र सम्बोधन गर्नेछौं यो शक्तिशाली कृत्रिम बुद्धिमत्ताको सम्भावनाको अधिकतम उपयोग कसरी गर्ने.

Gemma 3 के हो र यसलाई किन स्थापना गर्ने?

जेम्मा ३ गुगलले खुला स्रोत इजाजतपत्र अन्तर्गत जारी गरेको LLM मोडेलहरूको तेस्रो पुस्ता हो।। लामा वा मिस्ट्रल जस्ता अघिल्ला समाधानहरू भन्दा फरक, यसले छवि इनपुटको लागि प्रत्यक्ष समर्थन, धेरै फराकिलो सन्दर्भ, र १४० भन्दा बढी भाषाहरूको लागि समर्थन प्रदान गर्दछ। तपाईंको आवश्यकताहरूमा निर्भर गर्दै, तपाईंले १B देखि २७B प्यारामिटरहरू सम्मका मोडेलका धेरै संस्करणहरूबाट छनौट गर्न सक्नुहुन्छ:

• हितोपदेश ३:१: आधारभूत कार्यहरू र स्रोत-सीमित वातावरणको लागि आदर्श हल्का मोडेल।
• हितोपदेश ३:१: मध्यवर्ती अनुप्रयोगहरूको लागि प्रदर्शन र दक्षता सन्तुलन।
• हितोपदेश ३:१: जटिल विश्लेषण, प्रोग्रामिङ र बहुभाषी प्रशोधनको लागि सिफारिस गरिएको।
• हितोपदेश ३:१: सबैभन्दा शक्तिशाली विकल्प, उत्कृष्ट सन्दर्भ क्षमताको साथ गहन, बहु-मोडल प्रयोगको लागि डिजाइन गरिएको।

तपाईंको पीसीबाट यस्तो उन्नत मोडेल चलाउने सम्भावना यसले गोपनीयता, प्रतिक्रिया गति, र तेस्रो पक्षहरूमा निर्भरताको सन्दर्भमा खेलका नियमहरू परिवर्तन गर्दछ। तपाईंले अब मासिक सदस्यता तिर्न वा आफ्नो डेटा त्याग्न आवश्यक छैन। यसका लागि अलिकति तयारी र सिक्ने इच्छा मात्र चाहिन्छ। यदि तपाईं यी मोडेलहरूको फाइदाहरूको बारेमा थप जान्न चाहनुहुन्छ भने, हाम्रो लेख हेर्नुहोस् खुला तौल एआई मोडेलहरू.

विकल्प १: ओलामासँग स्थापना

विन्डोज ११ बाट Gemma 3 जस्तै LLM चलाउने सबैभन्दा सजिलो तरिका ओल्लामा हो।। यसको टर्मिनल-आधारित इन्टरफेसले तपाईंलाई साधारण कमाण्ड लाइनको साथ मोडेलहरू स्थापना र चलाउन अनुमति दिन्छ। साथै, यो macOS, Linux, र Windows सँग उपयुक्त छ, जसले गर्दा यसलाई विभिन्न वातावरणमा प्रयोग गर्न सजिलो हुन्छ।

ओल्लामा स्थापना गर्ने र जेम्मा ३ चलाउने चरणहरू:

1. आधिकारिक वेबसाइट पहुँच गर्नुहोस्: ओलामा.कम.
2. विन्डोजको लागि स्थापनाकर्ता डाउनलोड गर्नुहोस् र यसलाई अन्य कुनै पनि कार्यक्रम जस्तै चलाउनुहोस्।
3. कमाण्ड प्रम्प्ट (CMD) वा PowerShell खोल्नुहोस् र स्थापना प्रमाणित गर्नुहोस्:

ollama --version

यदि सबै कुरा ठीकठाक भयो भने, तपाईं अब उपलब्ध Gemma 3 टेम्प्लेटहरू मध्ये कुनै पनि डाउनलोड गर्न सक्नुहुन्छ। तपाईंले चाहनुभएको टेम्प्लेटको आधारमा यी मध्ये एउटा आदेश चलाउनुहोस्:

ollama run gemma3:1b
ollama run gemma3:4b
ollama run gemma3:12b
ollama run gemma3:27b

एकचोटि डाउनलोड गरिसकेपछि, तपाईं सजिलैसँग मोडेल सुरु गर्न सक्नुहुन्छ।। यो गर्न, चलाउनुहोस्:

ollama init gemma3

त्यस क्षणदेखि, तपाईंले LLM सँग अन्तरक्रिया सुरु गर्न सक्नुहुन्छ:

ollama query gemma3 "¿Cuál es la capital de Japón?"

यदि तपाईं बहुविध प्रकार्यहरूको फाइदा लिन चाहनुहुन्छ भने, तपाईं आफ्नो प्रश्नहरूमा छविहरू पनि प्रयोग गर्न सक्नुहुन्छ:

ollama query gemma3 --image "ruta-de-la-imagen.jpg"

यसलाई राम्रोसँग काम गर्न के चाहिन्छ? यद्यपि ओल्लामाले कडा न्यूनतम आवश्यकताहरू लागू गर्दैन, ठूला मोडेलहरू (जस्तै २७B) लाई कम्तिमा ३२GB RAM चाहिन्छ। १६ जीबीको साथ तपाईं ७बी मोडेलको साथ समस्या बिना काम गर्न सक्नुहुन्छ, र यद्यपि GPU को प्रयोग अनिवार्य छैन, यसले गतिमा धेरै मद्दत गर्दछ।

विकल्प २: LM स्टुडियो प्रयोग गर्नुहोस्

LM स्टुडियो अर्को नि:शुल्क उपकरण हो जसले तपाईंलाई ग्राफिकल इन्टरफेसबाट स्थानीय रूपमा LLM मोडेलहरू स्थापना र चलाउन अनुमति दिन्छ।। यो Windows, macOS र Linux सँग उपयुक्त छ, र यसको ठूलो फाइदा यो हो कि यसलाई सञ्चालन गर्न प्राविधिक ज्ञानको आवश्यकता पर्दैन।

निर्देशनहरू:

1. LM स्टुडियोलाई यसको आधिकारिक वेबसाइटबाट डाउनलोड गर्नुहोस्: lmstudio.ai.
2. यसलाई स्थापना गर्नुहोस् र चलाउनुहोस्।
3. "Discover" लेखिएको म्याग्निफाइङ्ग ग्लास आइकनमा क्लिक गर्नुहोस्।
4. उपलब्ध मोडेलहरू हेर्न खोज इन्जिनमा "Gemma 3" टाइप गर्नुहोस्।

स्थापना गर्नु अघि, मोडेल तपाईंको उपकरणसँग उपयुक्त छ कि छैन जाँच गर्नुहोस्।। यदि तपाईंले "यस मेसिनको लागि धेरै ठूलो हुन सक्छ" भन्ने चेतावनी देख्नुभयो भने, तपाईं अझै पनि यसलाई स्थापना गर्न सक्नुहुन्छ, तर इष्टतम कार्यसम्पादनको ग्यारेन्टी छैन।

एक पटक उपयुक्त मोडेल डाउनलोड भएपछि:

• यसलाई लोड गर्न "लोड मोडेल" थिच्नुहोस्।
• अथवा नयाँ च्याट खोल्नुहोस् र ड्रप-डाउन मेनुबाट मोडेल छान्नुहोस्।

LM स्टुडियोको सबैभन्दा राम्रो कुरा यो हो कि यसले एक प्रकारको स्थानीय ChatGPT को रूपमा काम गर्छ, अफलाइन र तपाईंको भाषामा।। तपाईं धेरै च्याटहरू सिर्जना गर्न सक्नुहुन्छ र चाहनुहुन्छ भने आफ्नो कुराकानीहरू बचत गर्न सक्नुहुन्छ। थप रूपमा, यदि तपाईंले "स्थानीय सर्भर" विकल्प सक्षम गर्नुभयो भने, तपाईंले OpenAI-compatible API प्रयोग गरेर यसलाई आफ्नो पाइथन अनुप्रयोगहरूसँग एकीकृत गर्न सक्नुहुन्छ।

विकल्प ३: गुगल एआई स्टुडियो (अनलाइन) प्रयोग गर्नुहोस्

यदि तपाईं केहि पनि स्थापना गर्न सक्नुहुन्न वा गर्न चाहनुहुन्न भने, तपाईं गुगल एआई स्टुडियोको साथ क्लाउडबाट सिधै Gemma 3 प्रयोग गर्न सक्नुहुन्छ।। कुनै स्थापना आवश्यक छैन, तर इन्टरनेट जडान र गुगल खाता आवश्यक छ।

तपाईंले भर्खरै जानु पर्छ aistudio.google.com मा र मोडेलहरूको सूचीबाट "Gemma 3" चयन गर्नुहोस्। त्यस क्षणदेखि, तपाईंले मोडेलसँग बार्ड वा च्याटजीपीटीको उन्नत संस्करण जस्तै च्याट गर्न सुरु गर्न सक्नुहुन्छ, जसमा छवि इनपुट पनि समावेश छ।

NodeShift सँग क्लाउड स्थापना (वैकल्पिक)

थप शक्ति खोज्ने वा मोडेललाई व्यावसायिक रूपमा प्रयोग गर्न चाहनेहरूका लागि, नोडशिफ्ट जस्ता क्लाउड सेवाहरू प्रयोग गर्ने विकल्प छ। तिनीहरूको साथ, तपाईं शक्तिशाली GPU हरू भएका मेसिनहरू भाडामा लिन सक्नुहुन्छ र Gemma 3 लाई कुनै सीमा बिना चलाउनको लागि आफ्नो आदर्श वातावरण कन्फिगर गर्न सक्नुहुन्छ।

NodeShift मा आधारभूत चरणहरू:

1. मा एउटा खाता बनाउनुहोस् app.nodeshift.com मा लग इन गर्नुहोस्।.
2. अनुकूलन GPU नोड सुरु गर्नुहोस् (जस्तै २x RTX ४०९० भएको)।
3. तपाईंले ओल्लामा वा ट्रान्सफर्मर प्रयोग गर्नुहुनेछ भन्ने आधारमा, उबुन्टु + एनभिडिया CUDA वा जुपिटर नोटबुकको साथ पूर्व-कन्फिगर गरिएको छवि छनौट गर्नुहोस्।
4. SSH मार्फत जडान गर्नुहोस् र कमाण्ड लाइनबाट मोडेल स्थापना गर्नुहोस्।

यस प्रकारको स्थापनाले तपाईंलाई व्यावसायिक कन्फिगरेसनहरूमा पहुँच दिन्छ।, प्रशिक्षण मोडेलहरू, कार्यसम्पादन मूल्याङ्कन गर्ने, आदिका लागि आदर्श। घरेलु प्रयोगकर्ताहरूका लागि आवश्यक नभए पनि, यो गहिराइमा प्रयोग गर्न वा उन्नत LLM हरूमा अनुप्रयोगहरू निर्माण गर्न चाहनेहरूका लागि उपयोगी छ।

प्रणाली आवश्यकताहरू र प्राविधिक सिफारिसहरू

सबै Gemma 3 मोडेलहरू कुनै पनि PC मा चल्दैनन्।। तल हामी तपाईंलाई मोडेलको प्रकार अनुसार सामान्य सन्दर्भ छोड्छौं:

• Para मोडेल १B देखि ७B सम्म: न्यूनतम 8 GB को RAM। तिनीहरू लगभग कुनै पनि आधुनिक पीसीमा काम गर्छन्, GPU बिना पनि।
• Para १३B मोडेलहरू: सिफारिस गरिन्छ 16GB देखि 24GB RAM.
• Para १३B मोडेलहरू: आवश्यक छ कम्तिमा GB जीबीको र्याम र प्राथमिकतामा समर्पित GPU।

धेरै RAM हुनुले सञ्चालनलाई गति दिन्छ र मेमोरीको कमीले गर्दा हुने त्रुटिहरूलाई रोक्छ।। ओल्लामा र एलएम स्टुडियोले स्रोतहरू कुशलतापूर्वक प्रयोग गर्ने प्रयास गरे पनि, यो तपाईंको हार्डवेयरमा धेरै निर्भर हुनेछ। यसको अतिरिक्त, CPU को सट्टा GPU प्रयोग गर्दा प्रतिक्रिया गतिमा उल्लेखनीय सुधार हुन्छ।

Windows 3 मा Gemma 11 स्थापना गर्नु जस्तो देखिन्छ त्यति सजिलो छ।। तपाईंले यसको सरलताको लागि ओल्लामा, यसको ग्राफिकल इन्टरफेसको लागि एलएम स्टुडियो, वा क्लाउडमा सुरक्षित रूपमा खेल्नको लागि गुगल एआई स्टुडियो प्रयोग गर्ने निर्णय गर्नुभयो भने फरक पर्दैन। महत्त्वपूर्ण कुरा यो हो कि प्रत्येक विधिले अनुभव र प्राविधिक क्षमताहरूको विभिन्न स्तरहरूमा अनुकूलन गर्छ। अब तपाईंलाई सबै विकल्पहरू र सुरु गर्न के चाहिन्छ भनेर थाहा छ, तपाईं आजै यो प्रभावशाली स्थानीय कृत्रिम बुद्धिमत्ताको साथ प्रयोग सुरु गर्न सक्नुहुन्छ।