Meriv çawa Gemma 3 LLM li ser Windows 11 gav bi gav saz dike

Nûvekirina Dawîn: 02/04/2025

  • Gemma 3 modelek LLM-ya pir maqûl, pirreng e ku ji hêla Google ve hatî pêşve xistin
  • Ew dikare li ser Windows 11-ê bi karanîna Ollama, LM Studio an jî bi navgîniya Google AI Studio ve were saz kirin
  • Li gorî mezinahiya modelê, ji 8 GB heya 32 GB RAM, çavkaniyên guhêrbar hewce dike.
  • Taybetmendiyên pêşkeftî yên wekî têketina wêneyê û heya 128 hezar nîgarên kontekstê vedihewîne
Meriv çawa Gemma 3 LLM li ser Windows 11/8 saz dike

Modelên zimanê çavkaniya vekirî bi lez û bez pêş ketine, û Îro mimkun e ku meriv rasterast ji komputerek kesane bêyî ku bi karûbarên cloudê ve girêdayî be kêfa wan werbigire.. Yek ji yên herî hêvdar ên naha Gemma 3 e, LLM-ya nû ya Google-ê ya ku li ser teknolojiya Gemini-yê bingeh digire, ku ji ber kapasîteya xwe ya pêvajokirina nivîs û wêneyan, û hem jî ji ber pencereya xweya çarçoveyek mezin a heya 128 hezar nîşanekan di guhertoyên xwe yên pêşkeftî de radiweste. Ji bo bêtir agahdarî li ser vê serbestberdanê, hûn dikarin gotara me li ser biçin pêşkêşkirina Gemma 3.

Ger hûn Windows 11 bikar tînin û lê digerin ku Gemma 3 ji bo ceribandinê an jî hilberîna herêmî saz bikin, tu hatî cihê rast. Ka em bi hûrgulî li hemî awayên mimkun ên ku wê li ser komputera xwe saz bikin û bixebitin, di nav de vebijarkên herî pêşniyarkirî yên mîna Ollama, LM Studio, û her weha alternatîfek ewr-based bi Google AI Studio re jî vedibêjin. Wekî din, em ê hewcedariyên teknîkî, avantajên her rêbazê û Meriv çawa ji potansiyela vê îstîxbarata sûnî ya hêzdar herî zêde bikar tîne.

Gemma 3 çi ye û çima wê saz bike?

Google Gemma 3-4 dest pê dike

Gemma 3 nifşa sêyem a modelên LLM-ê ye ku ji hêla Google ve di bin lîsansek çavkaniyek vekirî de têne berdan.. Berevajî çareseriyên berê yên mîna Llama an Mistral, ew ji bo têketina wêneyê, çarçoveyek pir berfireh, û ji zêdetirî 140 zimanan piştgirîya rasterast pêşkêşî dike. Li gorî hewcedariyên we ve girêdayî, hûn dikarin ji çend guhertoyên modelê yên ku ji pîvanên 1B heya 27B ve girêdayî ne hilbijêrin:

  • Gemma 3:1B: Modela sivik îdeal ji bo karên bingehîn û jîngehên bi çavkanî-sînordar.
  • Gemma 3:4B: Ji bo sepanên navîn hevsengkirina performans û karîgeriyê.
  • Gemma 3:12B: Ji bo analîzên tevlihev, bernamekirin û pêvajoya pirzimanî tê pêşniyar kirin.
  • Gemma 3:27B: Vebijarka herî hêzdar, ku ji bo karanîna zexm, pirmodal û bi kapasîteya naverokê ya mezin hatî çêkirin.
Naveroka taybetî - Li vir bikirtînin  Meriv çawa li Sweatcoin drav dide?

Ihtîmala xebitandina modelek wusa pêşkeftî ji PC-ya xwe Ew qaîdeyên lîstikê di warê nepenî, leza bersivê, û girêdayîbûna bi aliyên sêyemîn de diguhezîne. Êdî ne hewce ye ku hûn aboneyên mehane bidin an dev ji daneyên xwe berdin. Tiştê ku hewce dike amadekariyek piçûk û xwestekek fêrbûnê ye. Heke hûn dixwazin di derheqê feydeyên van modelan de bêtir zanibin, gotara me li ser binihêrin modelên AI-ê giraniya vekirî.

Vebijêrk 1: Sazkirina bi Ollama

Olama dakêşin

Ollama belkî riya herî hêsan e ku meriv LLM wekî Gemma 3 ji Windows 11-ê bimeşîne. Têkiliya wê-bingeha termînalê dihêle hûn modelan bi rêzek fermanek hêsan saz bikin û bimeşînin. Zêdeyî, ew bi macOS, Linux, û Windows-ê re hevaheng e, karanîna wê di cûrbecûr hawîrdoran de hêsan dike.

Gavên ji bo sazkirina Olama û xebitandina Gemma 3:

  1. Bikevin malpera fermî: olama.com.
  2. Sazkerê ji bo Windows-ê dakêşin û wê wekî her bernameyek din bimeşînin.
  3. Serlêdana Ferman (CMD) an PowerShell vekin û sazkirinê bi:
ollama --version

Ger her tişt baş derbas bibe, hûn naha dikarin yek ji şablonên berdest ên Gemma 3 dakêşin. Bi tenê yek ji van fermanan li gorî şablona ku hûn dixwazin bimeşînin:

ollama run gemma3:1b
ollama run gemma3:4b
ollama run gemma3:12b
ollama run gemma3:27b

Dema ku dakêşin, hûn dikarin bi hêsanî modela dest pê bikin.. Ji bo vê yekê, bimeşînin:

ollama init gemma3

Ji wê gavê û pê ve, hûn dikarin bi LLM-ê re dest bi têkiliyê bikin:

ollama query gemma3 "¿Cuál es la capital de Japón?"

Heke hûn dixwazin ji fonksiyonên multimodal sûd werbigirin, hûn dikarin di pirsên xwe de wêneyan jî bikar bînin:

ollama query gemma3 --image "ruta-de-la-imagen.jpg"

Hûn çi hewce ne ku ew baş bixebitin? Her çend Ollama hewcedariyên hindiktirîn ên hişk ferz nake, modelên mezintir (wek 27B) bi kêmî ve 32 GB RAM hewce dike. Bi 16 GB hûn dikarin bi modela 7B re bêyî pirsgirêk bixebitin, û her çend karanîna GPU ne mecbûrî ye jî, ew di lezê de pir arîkar dike.

Naveroka taybetî - Li vir bikirtînin  Meriv çawa bi Klavyeya 1C re dîktatorek deng çêbike?

Vebijêrk 2: LM Studio bikar bînin

LM Studio

LM Studio amûrek din a belaş e ku dihêle hûn modelên LLM-ê li herêmî ji navgînek grafîkî saz bikin û bimeşînin.. Ew bi Windows, macOS, û Linux-ê re hevaheng e, û feydeya wê ya mezin ev e ku ji bo xebitandinê ne hewceyê zanîna teknîkî ye.

Rêbername:

  1. LM Studio ji malpera xwe ya fermî dakêşin: lmstudio.ai.
  2. Wê saz bikin û bimeşînin.
  3. Li ser îkona şûşeya mezin a ku dibêje "Kifş bike" bikirtînin.
  4. "Gemma 3" di motora lêgerînê de binivîsin da ku modelên berdest bibînin.

Berî sazkirinê, kontrol bikin ka modela bi alavên we re hevaheng e. Heke hûn hişyariya "Dibe ku ji bo vê makîneyê pir mezin" bibînin, hûn dîsa jî dikarin wê saz bikin, lê performansa çêtirîn nayê garantî kirin.

Dema ku modelek lihevhatî hate dakêşandin:

  • Ji bo barkirina wê "Modela barkirinê" bikirtînin.
  • An jî sohbetek nû vekin û modela ji pêşeka daketî hilbijêrin.

Tiştê çêtirîn li ser LM Studio ev e ku ew wekî celebek ChatGPT-ya herêmî, negirêdayî û bi zimanê we tevdigere.. Heke hûn bixwazin hûn dikarin gelek sohbetan biafirînin û danûstendinên xwe hilînin. Wekî din, heke hûn vebijarka "Servera Herêmî" çalak bikin, hûn dikarin wê bi sepanên xwe yên Python re bi karanîna API-ya lihevhatî OpenAI re yek bikin.

Vebijêrk 3: Google AI Studio bikar bînin (serhêl)

Google AI Studio

Heke hûn nekarin an jî naxwazin tiştek saz bikin, hûn dikarin Gemma 3 rasterast ji ewr bi Google AI Studio re bikar bînin.. Ne sazkirinê hewce ye, lê pêwendiyek Înternetê û hesabek Google hewce ye.

Tenê divê hûn biçin aistudio.google.com û ji navnîşa modelan "Gemma 3" hilbijêrin. Ji wê gavê û pê ve, hûn dikarin bi modelê re dest bi sohbetê bikin mîna ku ew guhertoyek pêşkeftî ya Bard an ChatGPT be, tevî têketina wêneyê.

Sazkirina Cloud bi NodeShift (vebijarkî)

Ji bo kesên ku li hêzek zêdetir digerin an jî modelê bi profesyonelî bicîh dikin, vebijarka karanîna karûbarên ewr ên mîna NodeShift heye. Bi wan re, hûn dikarin makîneyên bi GPU-yên hêzdar kirê bikin û hawîrdora xweya îdeal mîheng bikin da ku Gemma 3 bê sînor bimeşînin.

Naveroka taybetî - Li vir bikirtînin  Bi sepana Nike Run Club re statîstîkên xebitandinê çawa têne şopandin?

Di NodeShift de gavên bingehîn:

  1. Li ser hesabek çêbikin app.nodeshift.com.
  2. Nodek GPU-ya xwerû dest pê bikin (mînak bi 2x RTX 4090).
  3. Bi Ubuntu + Nvidia CUDA an Jupyter Notebook re wêneyek pêş-sazkirî hilbijêrin, li gorî ka hûn ê Ollama an Transformers bikar bînin.
  4. Bi SSH ve girêdin û modelê ji rêzika fermanê saz bikin.

Ev celeb sazkirinê dide we ku hûn bigihîjin mîhengên profesyonel, îdeal ji bo modelên perwerdehiyê, nirxandina performansê, hwd. Her çend ji bo bikarhênerên malê ne pêdivî ye, ji bo kesên ku dixwazin bi kûrahî ceribandinê bikin an serîlêdanan li ser LLM-yên pêşkeftî ava bikin bikêr e.

Pêdiviyên pergalê û pêşniyarên teknîkî

Ne hemî modelên Gemma 3 dê li ser her PC-yê bixebitin. Li jêr em li gorî celebê modelê referansek gelemperî ji we re dihêlin:

  • para modelên 1B heta 7B: hindiktirîn 8 GB ya RAM. Ew hema hema li ser her PC-ya nûjen dixebitin, tewra bêyî GPU.
  • para Modelên 13B: têne pêşniyar kirin 16 GB ber 24 GB RAM.
  • para Modelên 27B: pêwîst in qe nebe 32 GB RAM û çêtir e ku GPU-ya taybetî.

Zêdebûna RAM-ê xebitandinê bileztir dike û pêşî li xeletiyên ji ber kêmbûna bîranînê digire. Dema ku Olama û LM Studio hewl didin ku çavkaniyan bi bandor bikar bînin, ew ê pir bi hardware we ve girêdayî be. Wekî din, ger GPU li şûna CPU were bikar anîn, leza bersivê pir çêtir dibe.

Sazkirina Gemma 3 li ser Windows 11 ji ya ku xuya dike hêsantir e.. Ne girîng e ku hûn biryar didin ku Ollama ji bo sadebûna wê, LM Studio ji bo navrûya xweya grafîkî, an Google AI Studio bikar bînin da ku wê di ewrê de ewledar bilîzin. Ya girîng ev e ku her rêbaz bi astên cûda yên ezmûn û kapasîteyên teknîkî ve girêdayî ye. Naha ku hûn hemî vebijarkan û tiştê ku hûn hewce ne ku dest pê bikin dizanin, hûn dikarin îro dest bi ceribandina vê îstîxbarata sûnî ya herêmî ya balkêş bikin.