Windows 3 တွင် Gemma 11 LLM ကို အဆင့်ဆင့် ထည့်သွင်းနည်း

Open source ဘာသာစကားမော်ဒယ်များသည် ခုန်တက်ကာ ဘောင်များ နှင့် တိုးတက်လာသည်။ ယနေ့တွင် ၎င်းတို့ကို cloud ဝန်ဆောင်မှုများပေါ်တွင်မူတည်ခြင်းမရှိဘဲ ကိုယ်ပိုင်ကွန်ပျူတာမှ တိုက်ရိုက်ခံစားနိုင်ပြီဖြစ်သည်။. လက်ရှိအလားအလာအကောင်းဆုံးများထဲမှတစ်ခုမှာ Gemini နည်းပညာကိုအခြေခံထားသော Gemma 3 သည် ၎င်း၏အဆင့်မြင့်ဗားရှင်းများတွင် 128k တိုကင်များအထိ ၎င်း၏ကြီးမားသော ဆက်စပ်ဝင်းဒိုးအတွက် အထင်ရှားဆုံးဖြစ်သည့် Gemini နည်းပညာကို အခြေခံထားသည်။ ဤထုတ်ဝေမှုနှင့်ပတ်သက်ပြီး ပိုမိုသိရှိလိုပါက ကျွန်ုပ်တို့၏ ဆောင်းပါးတွင် ဝင်ရောက်ကြည့်ရှုနိုင်ပါသည်။ Gemma 3 ၏တင်ပြချက်.

အကယ်၍ သင်သည် Windows 11 ကိုအသုံးပြုပြီး စမ်းသပ်မှု သို့မဟုတ် ဒေသတွင်းထုတ်လုပ်မှုအတွက် Gemma 3 ကိုထည့်သွင်းရန်ရှာဖွေနေပါကမင်း နေရာမှန်ကို ရောက်သွားပြီ။ Ollama၊ LM Studio နှင့် Google AI Studio ကဲ့သို့သော အကြံပြုချက်အရှိဆုံးရွေးချယ်စရာများအပါအဝင် သင့်ကွန်ပျူတာပေါ်တွင် ၎င်းကိုစတင်လည်ပတ်ရန် ဖြစ်နိုင်သည့်နည်းလမ်းအားလုံးကို အသေးစိတ်လေ့လာကြည့်ကြပါစို့။ ထို့အပြင်၊ ကျွန်ုပ်တို့သည် နည်းလမ်းတစ်ခုစီ၏ နည်းပညာလိုအပ်ချက်များ၊ အားသာချက်များနှင့် ဖြေရှင်းပေးမည်ဖြစ်ပါသည်။ ဤအစွမ်းထက်သော ဉာဏ်ရည်တု၏ အလားအလာကို မည်သို့အသုံးချမည်နည်း။.

Gemma 3 ဆိုတာ ဘာလဲ၊ ဘာကြောင့် ထည့်သွင်းတာလဲ။

Gemma 3 သည် open-source လိုင်စင်ဖြင့် Google မှ ထုတ်လွှတ်သော တတိယမြောက် LLM မော်ဒယ်များဖြစ်သည်။. Llama သို့မဟုတ် Mistral ကဲ့သို့သော ယခင်ဖြေရှင်းချက်များနှင့်မတူဘဲ၊ ၎င်းသည် ရုပ်ပုံထည့်သွင်းမှုအတွက် တိုက်ရိုက်ပံ့ပိုးမှု၊ ပိုမိုကျယ်ပြန့်သောအကြောင်းအရာနှင့် ဘာသာစကား 140 ကျော်အတွက် ပံ့ပိုးမှုပေးပါသည်။ သင့်လိုအပ်ချက်များအပေါ် မူတည်၍ 1B မှ 27B ဘောင်များအထိ မော်ဒယ်၏ ဗားရှင်းများစွာကို သင်ရွေးချယ်နိုင်သည်-

• Gemma 3:1B: အခြေခံအလုပ်များနှင့် အရင်းအမြစ်ကန့်သတ်ထားသော ပတ်ဝန်းကျင်များအတွက် ပေါ့ပါးသော စံပြပုံစံ။
• Gemma 3:4B- အလယ်အလတ်အပလီကေးရှင်းများအတွက် စွမ်းဆောင်ရည်နှင့် စွမ်းဆောင်ရည်ကို ဟန်ချက်ညီစေခြင်း။
• Gemma 3:12B: ရှုပ်ထွေးသောခွဲခြမ်းစိတ်ဖြာမှု၊ ပရိုဂရမ်ရေးဆွဲခြင်းနှင့် ဘာသာစကားပေါင်းစုံလုပ်ဆောင်ခြင်းအတွက် အကြံပြုထားသည်။
• Gemma 3:27B: အလွန်အားကောင်းသော ဆက်စပ်မှုရှိသော စွမ်းရည်ဖြင့် ပြင်းထန်သော၊ ဘက်စုံသုံးများအတွက် ဒီဇိုင်းထုတ်ထားသည့် အစွမ်းထက်ဆုံး ရွေးချယ်မှု။

သင်၏ PC မှထိုကဲ့သို့သောအဆင့်မြင့်မော်ဒယ်ကို run ရန်ဖြစ်နိုင်ခြေ ၎င်းသည် ကိုယ်ရေးကိုယ်တာ၊ တုံ့ပြန်မှုအမြန်နှုန်းနှင့် ပြင်ပအဖွဲ့အစည်းများအပေါ် မှီခိုအားထားမှုတို့ဖြင့် ဂိမ်း၏စည်းမျဉ်းများကို ပြောင်းလဲပါသည်။ လစဉ်စာရင်းသွင်းမှုများ ပေးချေရန် သို့မဟုတ် သင်၏ဒေတာကို စွန့်လွှတ်ရန် မလိုအပ်တော့ပါ။ ပြင်ဆင်မှုအနည်းငယ်နှင့် သင်ယူလိုစိတ်ရှိရန် လိုအပ်သည်။ ဤမော်ဒယ်များ၏ အကျိုးကျေးဇူးများအကြောင်း ပိုမိုသိရှိလိုပါက ကျွန်ုပ်တို့၏ ဆောင်းပါးတွင် ဝင်ရောက်ကြည့်ရှုပါ။ open weight AI မော်ဒယ်များ.

ရွေးချယ်မှု 1- Ollama ဖြင့် ထည့်သွင်းခြင်း။

Ollama သည် Windows 3 မှ Gemma 11 ကဲ့သို့ LLM ကို အသုံးပြုရန် အလွယ်ကူဆုံးနည်းလမ်းဖြစ်နိုင်သည်။. ၎င်း၏ terminal-based interface သည် ရိုးရှင်းသော command line တစ်ခုဖြင့် မော်ဒယ်များကို ထည့်သွင်းပြီး run နိုင်စေပါသည်။ ထို့အပြင်၊ ၎င်းသည် macOS၊ Linux နှင့် Windows တို့နှင့် တွဲဖက်အသုံးပြုနိုင်သောကြောင့် ပတ်ဝန်းကျင်အမျိုးမျိုးတွင် အသုံးပြုရလွယ်ကူစေသည်။

Ollama ကိုထည့်သွင်းပြီး Gemma 3 ကို run ရန် အဆင့်များ-

1. တရားဝင်ဝဘ်ဆိုဒ်သို့ဝင်ရောက်ပါ- ollama.com.
2. Windows အတွက် installer ကိုဒေါင်းလုဒ်လုပ်ပါ။ အခြားပရိုဂရမ်များကဲ့သို့၎င်းကို run ပါ။
3. Command Prompt (CMD) သို့မဟုတ် PowerShell ကိုဖွင့်ပြီး ထည့်သွင်းမှုကို အတည်ပြုပါ-

ollama --version

အားလုံးအဆင်ပြေပါက၊ ယခုရရှိနိုင်သည့် Gemma 3 နမူနာပုံစံများကို သင်ဒေါင်းလုဒ်လုပ်နိုင်ပါသည်။ သင်လိုချင်သောပုံစံပေါ် မူတည်၍ ဤ command များထဲမှ တစ်ခုကို ရိုးရှင်းစွာ run ပါ။

ollama run gemma3:1b
ollama run gemma3:4b
ollama run gemma3:12b
ollama run gemma3:27b

ဒေါင်းလုဒ်လုပ်ပြီးသည်နှင့်၊ သင်သည် မော်ဒယ်ကို အလွယ်တကူ စတင်နိုင်သည်။. ဒါကိုလုပ်ဖို့၊ run ပါ

ollama init gemma3

ထိုအချိန်မှစ၍ သင်သည် LLM နှင့် စတင်ဆက်သွယ်နိုင်သည်-

ollama query gemma3 "¿Cuál es la capital de Japón?"

Multimodal functions တွေကို အခွင့်ကောင်းယူချင်ရင်သင့်မေးမြန်းချက်များတွင် ပုံများကို သင်လည်း အသုံးပြုနိုင်ပါသည်။

ollama query gemma3 --image "ruta-de-la-imagen.jpg"

ကောင်းမွန်စွာ လည်ပတ်နိုင်ဖို့ ဘာတွေ လိုအပ်လဲ။ Ollama သည် တင်းကျပ်သော အနိမ့်ဆုံးလိုအပ်ချက်များကို မပြဌာန်းထားသော်လည်း အရွယ်အစားကြီးသော (27B ကဲ့သို့) မော်ဒယ်များသည် အနည်းဆုံး 32GB RAM လိုအပ်သည်။ 16GB ဖြင့် သင်သည် 7B မော်ဒယ်တွင် ပြဿနာမရှိဘဲ အလုပ်လုပ်နိုင်ပြီး GPU ကို မဖြစ်မနေ အသုံးပြုရသော်လည်း ၎င်းသည် မြန်နှုန်းတွင် များစွာ အထောက်အကူပြုသည်။

ရွေးချယ်မှု 2- LM Studio ကိုသုံးပါ။

LM Studio သည် ဂရပ်ဖစ်အင်တာဖေ့စ်တစ်ခုမှ LLM မော်ဒယ်များကို စက်တွင်းတွင် ထည့်သွင်းပြီး လုပ်ဆောင်နိုင်စေမည့် အခမဲ့ကိရိယာတစ်ခုဖြစ်သည်။. ၎င်းသည် Windows၊ macOS နှင့် Linux တို့နှင့် တွဲဖက်အသုံးပြုနိုင်ပြီး ၎င်း၏ အားသာချက်မှာ လည်ပတ်ရန် နည်းပညာပိုင်းဆိုင်ရာ အသိပညာ မလိုအပ်သောကြောင့် ဖြစ်သည်။

ညွှန်ကြားချက်များ:

1. ၎င်း၏တရားဝင်ဝဘ်ဆိုဒ်မှ LM Studio ကိုဒေါင်းလုဒ်လုပ်ပါ။ lmstudio.ai.
2. Install လုပ်ပြီး run ပါ။
3. “Discover” ဟုပြောသော မှန်ဘီလူးအိုင်ကွန်ကို နှိပ်ပါ။
4. ရနိုင်သောမော်ဒယ်များကိုကြည့်ရန် ရှာဖွေရေးအင်ဂျင်တွင် “Gemma 3” ဟုရိုက်ထည့်ပါ။

မတပ်ဆင်မီ၊ မော်ဒယ်သည် သင့်စက်ပစ္စည်းများနှင့် ကိုက်ညီမှုရှိမရှိ စစ်ဆေးပါ။. “ဤစက်အတွက် အလွန်ကြီးဖွယ်ရှိသည်” ဟု သတိပေးချက်ကို သင်တွေ့ပါက၊ ၎င်းကို သင်ထည့်သွင်းနိုင်ဆဲဖြစ်သော်လည်း အကောင်းဆုံးစွမ်းဆောင်ရည်ကို အာမခံမည်မဟုတ်ပါ။

တွဲဖက်အသုံးပြုနိုင်သော မော်ဒယ်ကို ဒေါင်းလုဒ်လုပ်ပြီးသည်နှင့်၊

• ၎င်းကိုရယူရန် "Load Model" ကိုနှိပ်ပါ။
• သို့မဟုတ် ချတ်အသစ်တစ်ခုဖွင့်ပြီး drop-down menu မှ မော်ဒယ်ကို ရွေးချယ်ပါ။

LM Studio ၏ အကောင်းဆုံးအချက်မှာ ၎င်းသည် ဒေသတွင်း ChatGPT၊ အော့ဖ်လိုင်းနှင့် သင့်ဘာသာစကားဖြင့် လုပ်ဆောင်ခြင်းဖြစ်သည်။. သင်ဆန္ဒရှိပါက ချတ်အများအပြားကို ဖန်တီးနိုင်ပြီး သင့်စကားဝိုင်းများကို သိမ်းဆည်းနိုင်ပါသည်။ ထို့အပြင် သင်သည် "Local Server" option ကိုဖွင့်ပါက၊ OpenAI-compatible API ကို အသုံးပြု၍ သင်၏ Python အပလီကေးရှင်းများနှင့် ပေါင်းစည်းနိုင်သည်။

ရွေးချယ်မှု 3- Google AI Studio (အွန်လိုင်း) ကိုသုံးပါ

ဘာမှ မထည့်သွင်းချင်ဘူးဆိုရင်၊ Google AI Studio နဲ့ cloud ကနေ Gemma 3 ကို တိုက်ရိုက်သုံးနိုင်ပါတယ်။. ထည့်သွင်းရန်မလိုအပ်သော်လည်း အင်တာနက်ချိတ်ဆက်မှုနှင့် Google အကောင့်တစ်ခု လိုအပ်ပါသည်။

သွားဖို့ပဲရှိတယ်။ aistudio.google.com မော်ဒယ်များစာရင်းမှ "Gemma 3" ကိုရွေးချယ်ပါ။ ထိုအချိန်မှစ၍၊ ရုပ်ပုံထည့်သွင်းမှုအပါအဝင် Bard သို့မဟုတ် ChatGPT ၏အဆင့်မြင့်ဗားရှင်းကဲ့သို့ မော်ဒယ်နှင့် စကားစမြည်ပြောဆိုနိုင်သည်။

NodeShift ဖြင့် Cloud တပ်ဆင်ခြင်း (ချန်လှပ်ထားနိုင်သည်)

ပါဝါပိုမိုရှာဖွေလိုသူများအတွက် သို့မဟုတ် မော်ဒယ်ကို ကျွမ်းကျင်စွာအသုံးပြုလိုသူများအတွက်NodeShift ကဲ့သို့ cloud ဝန်ဆောင်မှုများကို အသုံးပြုရန် ရွေးချယ်ခွင့်ရှိပါသည်။ ၎င်းတို့နှင့်အတူ၊ သင်သည် အစွမ်းထက် GPU များပါရှိသော စက်များကို ငှားရမ်းနိုင်ပြီး Gemma 3 ကို အကန့်အသတ်မရှိ လုပ်ဆောင်ရန် သင့်စံပြပတ်ဝန်းကျင်ကို စီစဉ်သတ်မှတ်နိုင်သည်။

NodeShift တွင် အခြေခံအဆင့်များ-

1. အကောင့်တစ်ခုဖွင့်ပါ app.nodeshift.com.
2. စိတ်ကြိုက် GPU Node (ဥပမာ 2x RTX 4090 ဖြင့်) စတင်ပါ။
3. သင် Ollama သို့မဟုတ် Transformers ကိုအသုံးပြုမည်ဆိုသည်အပေါ် မူတည်၍ Ubuntu + Nvidia CUDA သို့မဟုတ် Jupyter Notebook ဖြင့် ကြိုတင်ပြင်ဆင်ထားသောပုံကို ရွေးချယ်ပါ။
4. SSH မှတဆင့်ချိတ်ဆက်ပြီး command line မှမော်ဒယ်ကိုထည့်သွင်းပါ။

ဤတပ်ဆင်မှုအမျိုးအစားသည် သင့်အား ပရော်ဖက်ရှင်နယ်ဖွဲ့စည်းပုံများကို ဝင်ရောက်ခွင့်ပေးသည်။လေ့ကျင့်ရေးမော်ဒယ်များ၊ စွမ်းဆောင်ရည်အကဲဖြတ်ခြင်းစသဖြင့် စံပြဖြစ်သည်။ အိမ်အသုံးပြုသူများအတွက် မရှိမဖြစ်လိုအပ်သော်လည်း၊ နက်ရှိုင်းစွာ စမ်းသပ်လိုသော သို့မဟုတ် အဆင့်မြင့် LLMs များတွင် အပလီကေးရှင်းများတည်ဆောက်လိုသူများအတွက် အသုံးဝင်ပါသည်။

စနစ်လိုအပ်ချက်များနှင့် နည်းပညာဆိုင်ရာ အကြံပြုချက်များ

Gemma 3 မော်ဒယ်များအားလုံးသည် မည်သည့် PC တွင်မဆို အသုံးပြုနိုင်မည်မဟုတ်ပါ။. အောက်တွင် ကျွန်ုပ်တို့သည် သင့်အား မော်ဒယ်အမျိုးအစားအလိုက် ယေဘူယျကိုးကားချက်ကို ချန်ထားခဲ့သည်-

• မသန်စွမ်း မော်ဒယ်များ 1B မှ 7B အထိ: အနည်းဆုံး RAM ကို 8 GB အထိ. ၎င်းတို့သည် GPU မရှိပါက ခေတ်မီ PC တိုင်းနီးပါးတွင် အလုပ်လုပ်ပါသည်။
• မသန်စွမ်း 13B မော်ဒယ်များ: အကြံပြုထားသည်။ 16GB မှ 24GB RAM များ.
• မသန်စွမ်း 27B မော်ဒယ်များ: လိုအပ်တယ်။ အနည်းဆုံး RAM 32 GB နှင့် သီးသန့် GPU ကို ပိုကောင်းသည်။

RAM ပိုရှိခြင်းက လုပ်ဆောင်ချက်ကို မြန်ဆန်စေပြီး မမ်မိုရီမရှိခြင်းကြောင့် အမှားအယွင်းများကို ကာကွယ်ပေးသည်။. Ollama နှင့် LM Studio သည် အရင်းအမြစ်များကို ထိရောက်စွာအသုံးပြုရန် ကြိုးစားသော်လည်း၊ ၎င်းသည် သင့် hardware ပေါ်တွင် များစွာမူတည်နေမည်ဖြစ်သည်။ ထို့အပြင်၊ CPU အစား GPU ကိုအသုံးပြုပါက တုံ့ပြန်မှုအမြန်နှုန်းသည် သိသိသာသာတိုးတက်လာပါသည်။

Windows 3 တွင် Gemma 11 ကို ထည့်သွင်းခြင်းသည် ထင်ထားသည်ထက် ပိုမိုလွယ်ကူသည်။. ၎င်း၏ရိုးရှင်းမှုအတွက် Ollama၊ ၎င်း၏ဂရပ်ဖစ်အင်တာဖေ့စ်အတွက် LM Studio သို့မဟုတ် cloud တွင်လုံခြုံစွာကစားရန် Google AI Studio ကိုအသုံးပြုရန် သင်ဆုံးဖြတ်ပါက အရေးမကြီးပါ။ အရေးကြီးတာက နည်းလမ်းတစ်ခုစီတိုင်းဟာ မတူညီတဲ့ အတွေ့အကြုံနဲ့ နည်းပညာဆိုင်ရာ စွမ်းရည်တွေကို လိုက်လျောညီထွေဖြစ်စေဖို့ပါပဲ။ ရွေးချယ်စရာများအားလုံးနှင့် စတင်ရန် လိုအပ်သည်များကို ယခုသင်သိပြီး၊ ယနေ့တွင် ဤအထင်ကြီးစရာကောင်းသော ပြည်တွင်းဥာဏ်ရည်တုကို စတင်စမ်းသပ်နိုင်ပြီဖြစ်သည်။