Conas Gemma 3 LLM a shuiteáil ar Windows 11 céim ar chéim

Tá múnlaí teanga foinse oscailte tagtha chun cinn de réir a chéile, agus Sa lá atá inniu is féidir taitneamh a bhaint astu go díreach ó ríomhaire pearsanta gan brath ar sheirbhísí scamall.. Ar cheann de na cinn is bisiúla faoi láthair tá Gemma 3, LLM nua Google atá bunaithe ar theicneolaíocht Gemini, a sheasann amach as a chumas téacs agus íomhánna a phróiseáil, chomh maith lena fhuinneog comhthéacs ollmhór de suas le 128k comharthaí ina seanleaganacha. Chun tuilleadh eolais a fháil faoin scaoileadh seo, is féidir leat cuairt a thabhairt ar ár n-alt ar Cur i láthair Gemma 3 saor in aisce.

Má tá Windows 11 á úsáid agat agus tú ag féachaint le Gemma 3 a shuiteáil le haghaidh turgnamh nó fiú táirgeadh áitiúil, tá tú tagtha go dtí an áit cheart. A ligean ar aghaidh go mion ar na bealaí is féidir chun é a chur ar bun agus a reáchtáil ar do ríomhaire, lena n-áirítear na roghanna is mó a mholtar mar Ollama, LM Studio, agus freisin rogha eile scamall-bhunaithe le Google AI Studio. Ina theannta sin, tabharfaimid aghaidh ar na ceanglais theicniúla, buntáistí a bhaineann le gach modh agus Conas an leas is fearr a bhaint as acmhainneacht na hintleachta saorga cumhachtach seo.

Cad é Gemma 3 agus cén fáth é a shuiteáil?

Is é Gemma 3 an tríú glúin de mhúnlaí LLM arna scaoileadh ag Google faoi cheadúnas foinse oscailte.. Murab ionann agus réitigh roimhe seo ar nós Llama nó Mistral, cuireann sé tacaíocht dhíreach ar fáil d’ionchur íomhá, comhthéacs i bhfad níos leithne, agus tacaíocht do bhreis is 140 teanga. Ag brath ar do chuid riachtanas, is féidir leat a roghnú ó go leor leaganacha den tsamhail ó pharaiméadair 1B go 27B:

• Géama 3:1b: Samhail éadrom atá oiriúnach do thascanna bunúsacha agus do thimpeallachtaí atá teoranta ó thaobh acmhainní de.
• Géama 3:4b: Feidhmíocht agus éifeachtúlacht a chothromú d'iarratais idirmheánacha.
• Géama 3:12b: Molta le haghaidh anailíse casta, ríomhchlárú agus próiseáil ilteangach.
• Géama 3:27b: An rogha is cumhachtaí, atá deartha le haghaidh úsáidí dian, ilmhódacha le cumas comhthéacsúil iontach.

An fhéidearthacht a leithéid de shamhail chun cinn a rith ó do ríomhaire Athraíonn sé rialacha an chluiche i dtéarmaí príobháideachta, luas freagartha, agus spleáchas ar thríú páirtithe. Ní gá duit síntiúis mhíosúla a íoc nó do shonraí a thabhairt suas a thuilleadh. Níl le déanamh ach beagán ullmhúcháin agus fonn foghlama. Más mian leat tuilleadh eolais a fháil faoi na buntáistí a bhaineann leis na samhlacha seo, féach ar ár n-alt ar meáchan oscailte samhlacha AI.

Rogha 1: Suiteáil le hOllama

Is dócha gurb é Ollama an bealach is éasca chun LLM a rith mar Gemma 3 ó Windows 11. Ceadaíonn a chomhéadan teirminéil-bhunaithe duit samhlacha a shuiteáil agus a rith le líne ordaithe simplí. Ina theannta sin, tá sé ag luí le macOS, Linux, agus Windows, rud a fhágann go bhfuil sé éasca le húsáid i dtimpeallachtaí éagsúla.

Céimeanna chun Ollama a shuiteáil agus Gemma 3 a rith:

1. Teacht ar an láithreán gréasáin oifigiúil: ollama.com.
2. Íoslódáil an suiteálaí le haghaidh Windows agus é a rith mar aon chlár eile.
3. Oscail Pras Ordú (CMD) nó PowerShell agus fíoraigh an tsuiteáil le:

ollama --version

Má éiríonn go maith leis, is féidir leat aon cheann de na teimpléid Gemma 3 atá ar fáil a íoslódáil anois. Rith ceann amháin de na horduithe seo ag brath ar an teimpléad atá uait:

ollama run gemma3:1b
ollama run gemma3:4b
ollama run gemma3:12b
ollama run gemma3:27b

Nuair a bheidh sé íoslódáilte, is féidir leat an tsamhail a thosú go héasca.. Chun seo a dhéanamh, rith:

ollama init gemma3

Ón nóiméad sin ar aghaidh, is féidir leat tosú ag idirghníomhú leis an LLM trí:

ollama query gemma3 "¿Cuál es la capital de Japón?"

Más mian leat leas a bhaint as feidhmeanna ilmhódacha, is féidir leat íomhánna a úsáid i do cheisteanna freisin:

ollama query gemma3 --image "ruta-de-la-imagen.jpg"

Cad atá uait chun go n-oibreoidh sé go maith? Cé nach bhforchuireann Ollama íoscheanglais dhian, tá 27GB RAM ar a laghad ag teastáil ó mhúnlaí níos mó (cosúil leis an 32B). Le 16GB is féidir leat oibriú gan fadhbanna leis an tsamhail 7B, agus cé nach bhfuil úsáid GPU éigeantach, cabhraíonn sé go leor i luas.

Rogha 2: Úsáid LM Studio

Is uirlis saor in aisce eile é LM Studio a ligeann duit samhlacha LLM a shuiteáil agus a rith go háitiúil ó chomhéadan grafach.. Tá sé ag luí le Windows, macOS, agus Linux, agus is é an buntáiste mór atá aige ná nach dteastaíonn eolas teicniúil uaidh chun oibriú.

Treoracha:

1. Lm stiúideo a íoslódáil ó an suíomh oifigiúil. lm stiúideo.ai.
2. Suiteáil agus rith é.
3. Cliceáil ar an deilbhín gloine formhéadúcháin a deir "Faigh amach."
4. Clóscríobh “Gemma 3” san inneall cuardaigh chun na múnlaí atá ar fáil a fheiceáil.

Roimh a shuiteáil, seiceáil an bhfuil an tsamhail comhoiriúnach le do threalamh. Má fheiceann tú an rabhadh "Is dócha ró-mhór don mheaisín seo," is féidir leat é a shuiteáil fós, ach níl an fheidhmíocht is fearr ráthaithe.

Nuair a bheidh múnla comhoiriúnach íoslódála:

• Cliceáil "Samhail Luchtaigh" chun é a luchtú.
• Nó oscail comhrá nua agus roghnaigh an tsamhail ón roghchlár anuas.

Is é an rud is fearr faoi LM Studio ná go bhfeidhmíonn sé mar chineál ChatGPT áitiúil, as líne agus i do theanga. Is féidir leat comhráite iolracha a chruthú agus do chomhráite a shábháil más mian leat. Ina theannta sin, má chumasaíonn tú an rogha “Freastalaí Áitiúil”, is féidir leat é a chomhtháthú le d’fheidhmchláir Python ag baint úsáide as an API atá comhoiriúnach le OpenAI.

Rogha 3: Úsáid Google AI Studio (ar líne)

Mura féidir leat nó mura bhfuil tú ag iarraidh rud ar bith a shuiteáil, is féidir leat Gemma 3 a úsáid go díreach ón scamall le Google AI Studio. Níl aon suiteáil ag teastáil, ach tá nasc Idirlín agus Cuntas Google ag teastáil.

Níl le déanamh agat ach dul go dtí aistudio.google.com agus roghnaigh “Gemma 3” ón liosta samhlacha. Ón nóiméad sin ar aghaidh, is féidir leat tosú ag comhrá leis an tsamhail amhail is dá mba leagan chun cinn de Bard nó ChatGPT é, lena n-áirítear ionchur íomhá.

Suiteáil scamall le NodeShift (roghnach)

Dóibh siúd atá ag lorg níos mó cumhachta nó chun an tsamhail a imscaradh go gairmiúil, tá an rogha ann seirbhísí scamall a úsáid mar NodeShift. Leo, is féidir leat meaisíní a fháil ar cíos le GPUanna cumhachtacha agus do thimpeallacht idéalach a chumrú chun Gemma 3 a rith gan teorainneacha.

Céimeanna bunúsacha in NodeShift:

1. Cruthaigh cuntas ag app.nodeshift.com.
2. Tosaigh Nód GPU saincheaptha (m.sh. le 2x RTX 4090).
3. Roghnaigh íomhá réamhchumraithe le Ubuntu + Nvidia CUDA nó Jupyter Notebook, ag brath ar cibé an mbeidh tú ag baint úsáide as Ollama nó Trasfhoirmeoirí.
4. Ceangail trí SSH agus suiteáil an tsamhail ón líne ordaithe.

Tugann an cineál seo suiteála rochtain duit ar chumraíochtaí gairmiúla, oiriúnach le haghaidh samhlacha oiliúna, meastóireacht a dhéanamh ar fheidhmíocht, etc. Cé nach bhfuil sé riachtanach d'úsáideoirí baile, tá sé úsáideach dóibh siúd ar mian leo triail dhomhain a dhéanamh nó feidhmchláir a thógáil ar ard-LLManna.

Riachtanais chórais agus moltaí teicniúla

Ní reáchtálfar gach samhail Gemma 3 ar aon ríomhaire. Anseo thíos fágaimid tagairt ghinearálta duit de réir an chineáil mhúnla:

• go samhlacha 1B go 7B: íosmhéid GB RAM 8. Oibríonn siad ar beagnach aon ríomhaire nua-aimseartha, fiú gan GPU.
• go Múnlaí 13B: moltar 16GB go 24GB RAM.
• go Múnlaí 27B: ag teastáil 32 GB RAM ar a laghad agus b'fhearr GPU tiomnaithe.

Má bhíonn níos mó RAM ann, cuireann sé dlús leis an oibríocht agus cuireann sé cosc ​​ar earráidí de bharr easpa cuimhne. Cé go ndéanann Ollama agus LM Studio iarracht acmhainní a úsáid go héifeachtach, beidh sé ag brath go mór ar do chrua-earraí. Ina theannta sin, feabhsaítear an luas freagartha go suntasach má úsáidtear GPU in ionad LAP.

Tá sé níos éasca Gemma 3 a shuiteáil ar Windows 11 ná mar is cosúil.. Is cuma má shocraíonn tú Ollama a úsáid le haghaidh a simplíochta, LM Studio dá chomhéadan grafach, nó Google AI Studio chun é a imirt sábháilte sa scamall. Is é an rud is tábhachtaí ná go n-oiriúnaíonn gach modh do leibhéil éagsúla taithí agus cumais theicniúla. Anois go bhfuil na roghanna go léir ar eolas agat agus na rudaí atá uait le tosú, is féidir leat tosú ag triail leis an intleacht shaorga áitiúil mhórthaibhseach seo inniu.