Sida loo rakibo Gemma 3 LLM Windows 11 talaabo talaabo

Moodooyinka luqadda isha furan waxay ku horumareen boodbood iyo xuduud, iyo Maanta waxaa suurtogal ah inaad si toos ah uga raaxaysato kombuyuutar shakhsi ahaaneed iyada oo aan ku xidhanayn adeegyada daruuraha.. Mid ka mid ah kuwa ugu rajo-gelinta badan hadda waa Gemma 3, Google-ka cusub ee LLM ee ku salaysan tignoolajiyada Gemini, taas oo u taagan awooddeeda habaynta qoraalka iyo sawirrada, iyo sidoo kale daaqadda macnaha guud ee 128k ee noocyadeeda horumarsan. Macluumaad dheeraad ah oo ku saabsan sii deyntan, waxaad booqan kartaa maqaalkeena soo bandhigida Gemma 3.

Haddii aad isticmaalayso Windows 11 oo aad raadinayso inaad ku rakibto Gemma 3 tijaabinta ama xitaa wax soo saarka gudaha, waxaad timid meeshii saxda ahayd. Aynu si faahfaahsan u dulmarno dhammaan siyaabaha suurtogalka ah ee aad ugu kicin karto oo aad ugu socon karto kombayutarkaaga, oo ay ku jiraan xulashooyinka ugu badan ee lagu taliyay sida Ollama, LM Studio, iyo sidoo kale beddelka daruuraha ku saleysan ee Google AI Studio. Intaa waxaa dheer, waxaan wax ka qaban doonaa shuruudaha farsamada, faa'iidooyinka hab kasta iyo Sida looga faa'iidaysan karo kartida sirtan macmalka ah ee xoogga badan.

Waa maxay Gemma 3 iyo sababta loo rakibo?

Gemma 3 waa jiilka saddexaad ee moodooyinka LLM ee ay Google ku sii daysay shatiga il furan.. Si ka duwan xalalkii hore sida Llama ama Mistral, waxay bixisaa taageero toos ah gelinta sawirka, xaalad aad u ballaadhan, iyo taageero in ka badan 140 luqadood. Iyada oo ku xidhan baahiyahaaga, waxaad dooran kartaa noocyo kala duwan oo moodeel ah oo u dhexeeya 1B ilaa 27B:

• Gemma 3:1BMiisaanka khafiifka ah oo ku habboon hawlaha aasaasiga ah iyo deegaan kheyraadku xaddidan yahay.
• Gemma 3:4B: Isku dheelitirka waxqabadka iyo hufnaanta codsiyada dhexdhexaadka ah.
• Gemma 3:12BWaxaa lagu taliyay falanqaynta kakan, barnaamijka iyo habaynta luuqadaha badan.
• Gemma 3:27B: Doorashada ugu awoodda badan, oo loogu talagalay in si degdeg ah loo isticmaalo, isticmaalka hababka badan leh oo leh awood macnaha guud.

Suurtagalnimada in aad PC-gaaga ka socodsiiso model horumarsan Waxay beddeshaa xeerarka ciyaarta marka la eego sirta, xawaaraha jawaabta, iyo ku-tiirsanaanta dhinacyada saddexaad. Uma baahnid inaad bixiso rukhsad bille ah ama aad ka tagto xogtaada. Waxa kaliya ee loo baahan yahay waa diyaargarow yar iyo rabitaan waxbarasho. Haddii aad rabto inaad wax badan ka ogaato faa'iidooyinka moodooyinkan, fiiri maqaalkeena Miisaanka furan ee moodooyinka AI.

Xulashada 1: Ku rakibida Ollama

Ollama waxay u badan tahay inay tahay habka ugu fudud ee lagu socodsiiyo LLM sida Gemma 3 laga bilaabo Windows 11. Interface-ku-saleysan-ku-saleysan wuxuu kuu oggolaanayaa inaad rakibto oo aad ku shaqeyso moodooyinka leh khad amar fudud. Intaa waxaa dheer, waxay la jaan qaadaysaa macOS, Linux, iyo Windows, taasoo sahlaysa in lagu isticmaalo deegaanno kala duwan.

Talaabooyinka lagu rakibo Ollama oo lagu socodsiiyo Gemma 3:

1. Gal degelka rasmiga ah: ollama.com.
2. Soo deji rakibaha loogu talagalay Windows una socodsii sida barnaamij kasta oo kale.
3. Fur Command Prompt (CMD) ama PowerShell oo ku xaqiiji rakibidda:

ollama --version

Haddii wax walba si fiican u socdaan, waxaad hadda soo dejisan kartaa mid ka mid ah qaababka Gemma 3 ee la heli karo. Si fudud u socodsii mid ka mid ah amarradan iyadoo ku xiran qaabka aad rabto:

ollama run gemma3:1b
ollama run gemma3:4b
ollama run gemma3:12b
ollama run gemma3:27b

Marka la soo dejiyo, waxaad si fudud u bilaabi kartaa qaabka.. Si tan loo sameeyo, orod:

ollama init gemma3

Laga bilaabo wakhtigaas, waxaad bilaabi kartaa la falgalka LLM adiga oo:

ollama query gemma3 "¿Cuál es la capital de Japón?"

Haddii aad rabto in aad ka faa'iidaysato hawlaha multimodal, waxa kale oo aad u isticmaali kartaa sawirada su'aalahaaga:

ollama query gemma3 --image "ruta-de-la-imagen.jpg"

Maxaad u baahan tahay si aad si fiican u shaqeyso? In kasta oo Ollama aanu soo rogin shuruudaha ugu yar ee adag, moodooyinka waaweyn (sida 27B) waxay u baahan yihiin ugu yaraan 32GB ee RAM. 16GB waxaad ku shaqayn kartaa dhib la'aan qaabka 7B, inkastoo isticmaalka GPU uusan ahayn mid qasab ah, wuxuu kaa caawinayaa xawaare badan.

Xulashada 2: Isticmaal LM Studio

LM Studio waa qalab kale oo bilaash ah oo kuu ogolaanaya inaad ku rakibto oo aad ku socodsiiso moodooyinka LLM gudaha gudaha interface garaafyada.. Waxay la jaan qaadaysaa Windows, macOS, iyo Linux, faa'iidada weyn ee ay leedahayna waa inaysan u baahnayn aqoon farsamo si ay ugu shaqeyso.

Tilmaamaha:

1. Ka soo deji LM Studio boggeeda rasmiga ah: lmstudio.ai.
2. Ku rakib oo socodsiiya.
3. Guji astaanta muraayadda weynaynaysa ee oranaya "Baahso."
4. Ku qor "Gemma 3" mashiinka raadinta si aad u aragto moodooyinka la heli karo.

Kahor intaadan rakibin, hubi haddii moodelku uu ku habboon yahay qalabkaaga. Haddii aad aragto digniinta "Waxay u badan tahay inay aad ugu weyn tahay mashiinkan," weli waad rakibi kartaa, laakiin waxqabadka ugu fiican lama dammaanad qaadayo.

Marka la soo dejiyo nooc ku habboon:

• Riix "Model Load" si aad ugu shubto.
• Ama fur sheeko cusub oo ka dooro moodalka liiska hoos-u-hoosaadka ah.

Waxa ugu fiican ee ku saabsan LM Studio waa inay u shaqeyso sidii nooc ChatGPT gudaha ah, offline iyo luqadaada. Waxaad abuuri kartaa sheekeysi badan oo waxaad badbaadin kartaa wada sheekaysigaada haddii aad rabto. Intaa waxaa dheer, haddii aad awood u yeelatid ikhtiyaarka "Local Server", waxaad ku dhex dari kartaa codsiyada Python adiga oo isticmaalaya API-da ku habboon ee OpenAI.

Xulashada 3: Isticmaal Google AI Studio (online)

Haddii aadan awoodin ama aadan rabin inaad wax rakibto, waxaad si toos ah uga isticmaali kartaa Gemma 3 daruuraha Google AI Studio. Looma baahna rakibid, laakiin isku xirka internetka iyo akoon Google ayaa loo baahan yahay.

Kaliya waa inaad aadaa astudio.google.com oo ka dooro "Gemma 3" liiska moodooyinka. Laga bilaabo wakhtigaas, waxaad bilaabi kartaa inaad la sheekaysato moodeelka sidii inay tahay nooc horumarsan oo Bard ama ChatGPT ah, oo ay ku jirto gelinta sawirka.

Ku rakib Cloud oo leh NodeShift (ikhtiyaar)

Kuwa raadinaya awood dheeraad ah ama si xirfad leh loo geeyo moodalka, waxaa jira ikhtiyaarka isticmaalka adeegyada daruuraha sida NodeShift. Iyaga, waxaad ku kireyn kartaa mashiino leh GPU-yo awood leh oo waxaad u habeyn kartaa deegaankaaga ku habboon si aad u maamusho Gemma 3 iyada oo aan xaddidnayn.

Tallaabooyinka aasaasiga ah ee NodeShift:

1. Koonto kaga abuur app.nodeshift.com.
2. Bilow nambarka GPU-ga caadiga ah (tusaale leh 2x RTX 4090).
3. Dooro sawir horay loo habeeyey oo leh Ubuntu + Nvidia CUDA ama Jupyter Notebook, iyadoo ku xidhan haddii aad isticmaalayso Ollama ama Transformers.
4. Ku xidh SSH oo ku dheji qaabka khadka taliska.

Rakibaadda noocan ah waxay ku siinaysaa fursad aad ku hesho habayn xirfadeed, Ku habboon moodooyinka tababarka, qiimeynta waxqabadka, iwm. Iyadoo aan lagama maarmaan u ahayn dadka isticmaala guriga, waxay faa'iido u leedahay kuwa doonaya inay si qoto dheer u tijaabiyaan ama u dhisaan codsiyada LLM-yada horumarsan.

Shuruudaha nidaamka iyo talooyinka farsamada

Dhammaan moodooyinka Gemma 3 kuma socon doonaan PC kasta. Hoos waxaan kuugu daynaynaa tixraac guud iyadoo loo eegayo nooca moodeelka:

• para moodooyinka 1B ilaa 7Bugu yar 8 GB ee RAM. Waxay ku shaqeeyaan ku dhawaad ​​​​PC kasta oo casri ah, xitaa iyada oo aan lahayn GPU.
• para 13B moodooyinka: waa lagu talinayaa 16GB ilaa 24GB RAM.
• para 27B moodooyinka: loo baahan yahay ugu yaraan 32 GB oo RAM ah iyo doorbidid GPU go'an.

Haysashada RAM badan waxay dedejisaa shaqada waxayna ka hortagtaa khaladaadka xusuusta la'aanta awgeed. Iyadoo Ollama iyo LM Studio ay isku dayaan inay si hufan u isticmaalaan agabka, waxay wax badan ku xirnaan doontaa qalabkaaga. Intaa waxaa dheer, xawaaraha jawaabta si weyn ayuu u fiicnaanayaa haddii GPU loo isticmaalo halkii CPU.

Ku rakibida Gemma 3 ee Windows 11 way ka fududahay sida ay u muuqato.. Dhib malahan haddii aad go'aansato inaad Ollama u isticmaasho fududaanteeda, LM Studio interface garaafkeeda, ama Google AI Studio si aad ugu ciyaarto si badbaado leh daruuraha. Waxa muhiimka ah waa in hab kastaa uu la qabsado heerarka kala duwan ee khibradaha iyo awoodaha farsamo. Hadda oo aad ogtahay dhammaan xulashooyinka iyo waxaad u baahan tahay si aad u bilowdo, waxaad bilaabi kartaa inaad tijaabiso sirtan macmalka ah ee deegaanka ee cajiibka ah maanta.