Ինչպես քայլ առ քայլ տեղադրել Gemma 3 LLM-ը Windows 11-ում

Բաց կոդով լեզվի մոդելները զարգացել են թռիչքներով և սահմաններով, և Այսօր դրանք հնարավոր է վայելել անմիջապես անհատական ​​համակարգչից՝ առանց ամպային ծառայություններից կախվածության։. Ներկայումս ամենահեռանկարայիններից մեկը Gemma 3-ն է՝ Google-ի նոր LLM-ը, որը հիմնված է Gemini տեխնոլոգիայի վրա, որն աչքի է ընկնում տեքստը և պատկերները մշակելու ունակությամբ, ինչպես նաև իր առաջադեմ տարբերակներում մինչև 128 հազար նշանների համատեքստի հսկայական պատուհանով: Այս թողարկման մասին լրացուցիչ տեղեկությունների համար կարող եք այցելել մեր հոդվածը Gemma 3-ի շնորհանդեսը.

Եթե ​​դուք օգտագործում եք Windows 11 և ցանկանում եք տեղադրել Gemma 3-ը փորձերի կամ նույնիսկ տեղական արտադրության համար, դու ճիշտ տեղում ես եկել։ Եկեք մանրամասն քննարկենք այն ձեր համակարգչում գործարկելու և գործարկելու բոլոր հնարավոր ուղիները, ներառյալ ամենաառաջարկվող տարբերակները, ինչպիսիք են Ollama-ն, LM Studio-ն, ինչպես նաև Google AI Studio-ի ամպի վրա հիմնված այլընտրանքը: Բացի այդ, մենք կանդրադառնանք տեխնիկական պահանջներին, յուրաքանչյուր մեթոդի առավելություններին և Ինչպես առավելագույնս օգտագործել այս հզոր արհեստական ​​ինտելեկտի ներուժը.

Ի՞նչ է Gemma 3-ը և ինչո՞ւ տեղադրել այն:

Gemma 3-ը Google-ի կողմից թողարկված LLM մոդելների երրորդ սերունդն է բաց կոդով լիցենզիայի ներքո:. Ի տարբերություն նախորդ լուծումների, ինչպիսիք են Llama-ն կամ Mistral-ը, այն առաջարկում է ուղղակի աջակցություն պատկերի մուտքագրման համար, շատ ավելի լայն համատեքստ և աջակցություն ավելի քան 140 լեզուների համար: Կախված ձեր կարիքներից, դուք կարող եք ընտրել մոդելի մի քանի տարբերակներից՝ 1B-ից մինչև 27B պարամետրերից.

• Գեմմա 3։1ԲԹեթև մոդել, որն իդեալական է հիմնական առաջադրանքների և ռեսուրսներով սահմանափակ միջավայրերի համար:
• Գեմմա 3։4ԲՄիջանկյալ կիրառությունների համար կատարողականի և արդյունավետության հավասարակշռում:
• Գեմմա 3։12ԲԽորհուրդ է տրվում համալիր վերլուծության, ծրագրավորման և բազմալեզու մշակման համար:
• Գեմմա 3։27ԲԱմենահզոր տարբերակը, որը նախատեսված է ինտենսիվ, բազմամոդալ օգտագործման համար՝ համատեքստային մեծ հզորությամբ:

Ձեր համակարգչից նման առաջադեմ մոդել գործարկելու հնարավորությունը Այն փոխում է խաղի կանոնները գաղտնիության, արձագանքման արագության և երրորդ կողմերից կախվածության առումով: Այլևս կարիք չկա վճարել ամսական բաժանորդագրություններ կամ հրաժարվել ձեր տվյալները: Ընդամենը մի փոքր պատրաստություն է պահանջվում և սովորելու ցանկություն: Եթե ​​ցանկանում եք ավելին իմանալ այս մոդելների առավելությունների մասին, ստուգեք մեր հոդվածը բաց քաշով AI մոդելներ.

Տարբերակ 1. Տեղադրում Օլլամայի հետ

Ollama-ն, հավանաբար, Windows 3-ից Gemma 11-ի նման LLM-ն գործարկելու ամենահեշտ ձևն է. Նրա տերմինալների վրա հիմնված ինտերֆեյսը թույլ է տալիս տեղադրել և գործարկել մոդելներ պարզ հրամանի տողով: Բացի այդ, այն համատեղելի է macOS-ի, Linux-ի և Windows-ի հետ, ինչը հեշտացնում է այն օգտագործել տարբեր միջավայրերում:

Ollama-ն տեղադրելու և Gemma 3-ը գործարկելու քայլեր.

1. Մուտք գործեք պաշտոնական կայք. ollama.com.
2. Ներբեռնեք տեղադրիչը Windows-ի համար և գործարկել այն, ինչպես ցանկացած այլ ծրագիր:
3. Բացեք Command Prompt (CMD) կամ PowerShell և հաստատեք տեղադրումը հետևյալով.

ollama --version

Եթե ​​ամեն ինչ լավ է ընթանում, այժմ կարող եք ներբեռնել հասանելի Gemma 3 ձևանմուշներից որևէ մեկը: Պարզապես գործարկեք այս հրամաններից մեկը՝ կախված ձեր ուզած ձևանմուշից.

ollama run gemma3:1b
ollama run gemma3:4b
ollama run gemma3:12b
ollama run gemma3:27b

Ներբեռնվելուց հետո դուք հեշտությամբ կարող եք գործարկել մոդելը:. Դա անելու համար գործարկեք.

ollama init gemma3

Այդ պահից սկսած, դուք կարող եք սկսել շփվել LLM-ի հետ՝

ollama query gemma3 "¿Cuál es la capital de Japón?"

Եթե ​​ցանկանում եք օգտվել մուլտիմոդալ գործառույթներից, կարող եք նաև օգտագործել պատկերներ ձեր հարցումներում.

ollama query gemma3 --image "ruta-de-la-imagen.jpg"

Ի՞նչ է ձեզ անհրաժեշտ, որպեսզի այն լավ աշխատի: Չնայած Ollama-ն չի պահանջում խիստ նվազագույն պահանջներ, ավելի մեծ մոդելները (ինչպես 27B-ը) պահանջում են առնվազն 32 ԳԲ RAM: 16 ԳԲ-ով դուք կարող եք առանց խնդիրների աշխատել 7B մոդելի հետ, և չնայած GPU-ի օգտագործումը պարտադիր չէ, այն արագության մեջ շատ է օգնում:

Տարբերակ 2. Օգտագործեք LM Studio

LM Studio-ն ևս մեկ անվճար գործիք է, որը թույլ է տալիս տեղադրել և գործարկել LLM մոդելները տեղական գրաֆիկական ինտերֆեյսից:. Այն համատեղելի է Windows-ի, macOS-ի և Linux-ի հետ, և դրա մեծ առավելությունն այն է, որ այն գործելու համար տեխնիկական գիտելիքներ չի պահանջում:

Instrucciones:

1. Ներբեռնեք LM Studio-ն իր պաշտոնական կայքից. lmstudio.ai.
2. Տեղադրեք և գործարկեք այն:
3. Կտտացրեք խոշորացույցի պատկերակին, որն ասում է «Բացահայտեք»:
4. Մուտքագրեք «Gemma 3» որոնման համակարգում՝ առկա մոդելները տեսնելու համար:

Տեղադրելուց առաջ ստուգեք՝ արդյոք մոդելը համատեղելի է ձեր սարքավորման հետ. Եթե ​​տեսնում եք «Հավանական է, որ չափազանց մեծ է այս մեքենայի համար» նախազգուշացումը, դուք դեռ կարող եք տեղադրել այն, բայց օպտիմալ կատարումը երաշխավորված չէ:

Համատեղելի մոդելը ներբեռնելուց հետո՝

• Սեղմեք «Բեռնել մոդելը»՝ այն բեռնելու համար:
• Կամ բացեք նոր զրույց և ընտրեք մոդելը բացվող ընտրացանկից:

LM Studio-ի ամենալավ բանն այն է, որ այն գործում է որպես տեղական ChatGPT, անցանց և ձեր լեզվով. Դուք կարող եք ստեղծել բազմաթիվ զրույցներ և ցանկության դեպքում պահպանել ձեր խոսակցությունները: Բացի այդ, եթե միացնեք «Տեղական սերվեր» տարբերակը, կարող եք այն ինտեգրել ձեր Python հավելվածների հետ՝ օգտագործելով OpenAI-ի հետ համատեղելի API:

Տարբերակ 3. Օգտագործեք Google AI Studio (առցանց)

Եթե ​​չեք կարող կամ չեք ցանկանում որևէ բան տեղադրել, կարող եք օգտագործել Gemma 3-ը անմիջապես ամպից Google AI Studio-ի միջոցով:. Տեղադրում չի պահանջվում, սակայն անհրաժեշտ է ինտերնետ կապ և Google հաշիվ:

Պարզապես պետք է գնալ aistudio.google.com և մոդելների ցանկից ընտրեք «Gemma 3»: Այդ պահից դուք կարող եք սկսել զրուցել մոդելի հետ այնպես, կարծես դա Bard-ի կամ ChatGPT-ի առաջադեմ տարբերակ է, ներառյալ պատկերի մուտքագրումը:

Ամպային տեղադրում NodeShift-ով (ըստ ցանկության)

Նրանց համար, ովքեր ավելի շատ ուժ են փնտրում կամ մոդելը պրոֆեսիոնալ կերպով կիրառելու համար, կա NodeShift-ի նման ամպային ծառայություններից օգտվելու տարբերակ: Դրանց միջոցով դուք կարող եք վարձակալել հզոր GPU-ներով մեքենաներ և կարգավորել ձեր իդեալական միջավայրը՝ Gemma 3-ն առանց սահմանափակումների գործարկելու համար:

NodeShift-ի հիմնական քայլերը.

1. Ստեղծեք հաշիվ ժամը app.nodeshift.com.
2. Գործարկեք հատուկ GPU հանգույց (օրինակ՝ 2x RTX 4090):
3. Ընտրեք նախապես կազմաձևված պատկեր Ubuntu + Nvidia CUDA-ի կամ Jupyter Notebook-ի միջոցով՝ կախված նրանից, թե դուք կօգտագործեք Ollama կամ Transformers:
4. Միացեք SSH-ի միջոցով և տեղադրեք մոդելը հրամանի տողից:

Այս տեսակի տեղադրումը ձեզ հնարավորություն է տալիս մուտք գործել պրոֆեսիոնալ կոնֆիգուրացիաներ, իդեալական ուսուցման մոդելների, կատարողականը գնահատելու և այլնի համար: Թեև դա կարևոր չէ տնային օգտագործողների համար, այն օգտակար է նրանց համար, ովքեր ցանկանում են խորը փորձարկումներ կատարել կամ հավելվածներ ստեղծել առաջադեմ LLM-ների վրա:

Համակարգի պահանջներ և տեխնիկական առաջարկություններ

Gemma 3-ի ոչ բոլոր մոդելներն են աշխատում ցանկացած համակարգչի վրա. Ստորև մենք ձեզ ընդհանուր հղում ենք թողնում ըստ մոդելի տեսակի.

• դեպի 1B-ից 7B մոդելներ: նվազագույնը GB RAM 8. Նրանք աշխատում են գրեթե ցանկացած ժամանակակից համակարգչի վրա, նույնիսկ առանց GPU:
• դեպի 13B մոդելներ: խորհուրդ է տրվում 16 ԳԲ-ից մինչև 24 ԳԲ RAM.
• դեպի 27B մոդելներ: անհրաժեշտ են առնվազն 32 ԳԲ RAM և գերադասելի է հատուկ GPU:

Ավելի շատ օպերատիվ հիշողություն ունենալը արագացնում է աշխատանքը և կանխում հիշողության բացակայության պատճառով առաջացած սխալները. Մինչ Ollama-ն և LM Studio-ն փորձում են արդյունավետորեն օգտագործել ռեսուրսները, դա շատ բան կախված կլինի ձեր սարքաշարից: Բացի այդ, արձագանքման արագությունը զգալիորեն բարելավվում է, եթե CPU-ի փոխարեն օգտագործվում է GPU:

Windows 3-ում Gemma 11-ի տեղադրումն ավելի հեշտ է, քան թվում է:. Կարևոր չէ՝ որոշել եք օգտագործել Ollama-ն իր պարզության համար, LM Studio-ն իր գրաֆիկական ինտերֆեյսի համար, թե Google AI Studio-ն՝ ամպի մեջ անվտանգ խաղալու համար: Կարևորն այն է, որ յուրաքանչյուր մեթոդ հարմարվում է փորձի տարբեր մակարդակներին և տեխնիկական հնարավորություններին։ Այժմ, երբ դուք գիտեք բոլոր տարբերակները և այն, ինչ ձեզ հարկավոր է սկսելու համար, կարող եք այսօր սկսել փորձարկել այս տպավորիչ տեղական արհեստական ​​ինտելեկտը: