Mar a stàlaicheas tu Gemma 3 LLM air Windows 11 ceum air cheum

Tha modalan cànain stòr fosgailte air a thighinn air adhart le leuman is crìochan, agus An-diugh tha e comasach an tlachd a ghabhail gu dìreach bho choimpiutair pearsanta gun a bhith an urra ri seirbheisean sgòthan.. Is e aon den fheadhainn as gealltanach an-dràsta Gemma 3, LLM ùr Google stèidhichte air teicneòlas Gemini, a tha a’ seasamh a-mach airson a chomas teacsa agus ìomhaighean a phròiseasadh, a bharrachd air an uinneag mhòr co-theacsa aige de suas ri 128k tokens anns na dreachan adhartach aige. Airson tuilleadh fiosrachaidh mun fhoillseachadh seo, faodaidh tu tadhal air an artaigil againn air Gemma 3 taisbeanadh.

Ma tha thu a’ cleachdadh Windows 11 agus a’ coimhead ri Gemma 3 a chuir a-steach airson deuchainneachd no eadhon cinneasachadh ionadail, tha thu air tighinn dhan àite cheart. Nach tèid sinn a-null gu mionaideach air na dòighean as urrainn dhut a chuir an gnìomh air a’ choimpiutair agad, a’ toirt a-steach na roghainnean as motha a tha air am moladh mar Ollama, LM Studio, agus cuideachd roghainn eile stèidhichte air sgòthan le Google AI Studio. A bharrachd air an sin, bheir sinn aghaidh air na riatanasan teicnigeach, buannachdan gach dòigh agus Mar a nì thu a’ chuid as fheàrr de chomas an inntleachd fuadain chumhachdach seo.

Dè a th’ ann an Gemma 3 agus carson a stàlaicheas e e?

Is e Gemma 3 an treas ginealach de mhodalan LLM a chaidh fhoillseachadh le Google fo chead stòr fosgailte.. Eu-coltach ri fuasglaidhean roimhe leithid Llama no Mistral, tha e a’ tabhann taic dhìreach airson cuir a-steach ìomhaighean, co-theacsa tòrr nas fharsainge, agus taic airson còrr air 140 cànan. A rèir do fheumalachdan, faodaidh tu taghadh bho ghrunn dhreachan den mhodail bho pharamadairean 1B gu 27B:

• Geam 3:1B: Modail aotrom a tha air leth freagarrach airson gnìomhan bunaiteach agus àrainneachdan cuibhrichte le goireasan.
• Geam 3:4B: A’ cothromachadh coileanadh agus èifeachdas airson tagraidhean eadar-mheadhanach.
• Geam 3:12B: Air a mholadh airson mion-sgrùdadh iom-fhillte, prògramadh agus giollachd ioma-chànanach.
• Geam 3:27B: An roghainn as cumhachdaiche, air a dhealbhadh airson cleachdaidhean dian, ioma-mhodhail le comas mòr co-theacsail.

An comas modal cho adhartach a ruith bhon PC agad Bidh e ag atharrachadh riaghailtean a 'gheama a thaobh prìobhaideachd, astar freagairt, agus eisimeileachd air treas phàrtaidhean. Chan fheum thu tuilleadh fo-sgrìobhaidhean mìosail a phàigheadh ​​​​no an dàta agad a leigeil seachad. Chan eil ann ach beagan ullachaidh agus miann airson ionnsachadh. Ma tha thu airson tuilleadh fhaighinn a-mach mu na buannachdan a tha aig na modailean sin, thoir sùil air an artaigil againn air modalan AI cuideam fosgailte.

Roghainn 1: Stàladh le Olama

Is dòcha gur e Ollama an dòigh as fhasa air LLM a ruith mar Gemma 3 bho Windows 11. Leigidh an eadar-aghaidh stèidhichte air ceann-uidhe leat modalan a stàladh agus a ruith le loidhne-àithne sìmplidh. A bharrachd air an sin, tha e co-chòrdail ri macOS, Linux, agus Windows, ga dhèanamh furasta a chleachdadh ann an grunn àrainneachdan.

Ceumannan gus Ollama a stàladh agus Gemma 3 a ruith:

1. Faigh cothrom air an làrach-lìn oifigeil: ollama.com.
2. Luchdaich a-nuas an stàlaichear airson Windows agus ruith e mar phrògram sam bith eile.
3. Fosgail Command Prompt (CMD) no PowerShell agus dearbhaich an stàladh le:

ollama --version

Ma thèid a h-uile càil gu math, faodaidh tu a-nis gin de na teamplaidean Gemma 3 a tha rim faighinn a luchdachadh sìos. Dìreach ruith aon de na h-òrdughan sin a rèir an teamplaid a tha thu ag iarraidh:

ollama run gemma3:1b
ollama run gemma3:4b
ollama run gemma3:12b
ollama run gemma3:27b

Nuair a bhios tu air a luchdachadh sìos, faodaidh tu am modail a thòiseachadh gu furasta.. Gus seo a dhèanamh, ruith:

ollama init gemma3

Bhon mhionaid sin air adhart, faodaidh tu tòiseachadh air eadar-obrachadh leis an LLM le bhith:

ollama query gemma3 "¿Cuál es la capital de Japón?"

Ma tha thu airson brath a ghabhail air gnìomhan ioma-mhodhail, faodaidh tu cuideachd dealbhan a chleachdadh anns na ceistean agad:

ollama query gemma3 --image "ruta-de-la-imagen.jpg"

Dè a dh’ fheumas tu gus toirt air obrachadh gu math? Ged nach eil Ollama a’ cur riatanasan teann as ìsle an sàs, feumaidh modalan nas motha (mar an 27B) co-dhiù 32GB de RAM. Le 16GB faodaidh tu obrachadh gun duilgheadasan leis a 'mhodail 7B, agus ged nach eil feum air GPU a chleachdadh, bidh e a' cuideachadh mòran ann an astar.

Roghainn 2: Cleachd LM Studio

Tha LM Studio na inneal an-asgaidh eile a leigeas leat modalan LLM a stàladh agus a ruith gu h-ionadail bho eadar-aghaidh grafaigeach.. Tha e co-chòrdail ri Windows, macOS, agus Linux, agus is e a ’bhuannachd mhòr a th’ ann nach eil feum air eòlas teignigeach gus obrachadh.

Stiùireadh:

1. Luchdaich a-nuas LM Studio bho làrach oifigeil. . lmstudio.ai.
2. Stàlaich agus ruith e.
3. Cliog air an ìomhaigh glainne-mheudachaidh a tha ag ràdh “Faigh a-mach.”
4. Taidhp “Gemma 3” a-steach don einnsean sgrùdaidh gus na modalan a tha rim faighinn fhaicinn.

Mus stàlaich thu, dèan cinnteach a bheil am modail co-chòrdail ris an uidheamachd agad. Ma chì thu an rabhadh “Coltach ro mhòr airson an inneal seo,” faodaidh tu fhathast a stàladh, ach chan eil an coileanadh as fheàrr cinnteach.

Aon uair ‘s gu bheil modal co-fhreagarrach air a luchdachadh sìos:

• Brùth “Modail Load” gus a luchdachadh.
• No fosgail còmhradh ùr agus tagh am modail bhon chlàr tuiteam-sìos.

Is e an rud as fheàrr mu LM Studio gu bheil e ag obair mar sheòrsa de ChatGPT ionadail, far-loidhne agus nad chànan. Faodaidh tu iomadh cabadaich a chruthachadh agus do chòmhraidhean a shàbhaladh ma thogras tu. A bharrachd air an sin, ma bheir thu comas don roghainn “Frithealaiche Ionadail”, faodaidh tu fhilleadh a-steach leis na tagraidhean Python agad a’ cleachdadh an API a tha co-chosmhail ri OpenAI.

Roghainn 3: Cleachd Google AI Studio (air-loidhne)

Mura h-urrainn dhut no mura h-eil thu airson dad a chuir a-steach, faodaidh tu Gemma 3 a chleachdadh gu dìreach bhon sgòth le Google AI Studio. Chan eil feum air stàladh, ach tha feum air ceangal eadar-lìn agus cunntas Google.

Chan eil agad ach a dhol gu aistudio.google.com agus tagh "Gemma 3" bhon liosta de mhodailean. Bhon mhionaid sin air adhart, faodaidh tu tòiseachadh a’ cabadaich leis a’ mhodail mar gum b’ e dreach adhartach de Bhàrd no ChatGPT a bh’ ann, a’ toirt a-steach cuir a-steach ìomhaigh.

Stàladh Cloud le NodeShift (roghainneil)

Dhaibhsan a tha a’ coimhead airson barrachd cumhachd no airson am modail a chleachdadh gu proifeasanta, tha roghainn ann seirbheisean sgòthan a chleachdadh mar NodeShift. Còmhla riutha, faodaidh tu innealan fhaighinn air màl le GPUs cumhachdach agus an àrainneachd cheart agad a rèiteachadh gus Gemma 3 a ruith gun chuingealachaidhean.

Ceumannan bunaiteach ann an NodeShift:

1. Cruthaich cunntas aig app.nodeshift.com.
2. Tòisich Nód GPU àbhaisteach (me le 2x RTX 4090).
3. Tagh ìomhaigh ro-shuidhichte le Ubuntu + Nvidia CUDA no Jupyter Notebook, a rèir am bi thu a’ cleachdadh Ollama no Transformers.
4. Ceangail tro SSH agus stàlaich am modail bhon loidhne-àithne.

Bheir an seòrsa seo de stàladh cothrom dhut air rèiteachadh proifeasanta, air leth freagarrach airson modalan trèanaidh, measadh dèanadais, msaa Ged nach eil e riatanach do luchd-cleachdaidh dachaigh, tha e feumail dhaibhsan a tha airson feuchainn domhainn no tagraidhean a thogail air LLMn adhartach.

Riatanasan siostam agus molaidhean teicnigeach

Cha bhith a h-uile modal Gemma 3 a’ ruith air PC sam bith. Gu h-ìosal fàgaidh sinn iomradh coitcheann dhut a rèir an seòrsa modail:

• Para modailean 1B gu 7B: as lugha 8 GB de RAM. Bidh iad ag obair air cha mhòr PC ùr-nodha, eadhon às aonais GPU.
• Para Modailean 13b: air am moladh 16 GB gu 24 GB de RAM.
• Para Modailean 27b: tha feum air co-dhiù 32 GB de RAM agus mas fheàrr GPU sònraichte.

Le bhith a’ faighinn barrachd RAM bidh e ag obair nas luaithe agus a’ cur casg air mearachdan air sgàth dìth cuimhne. Fhad ‘s a bhios Ollama agus LM Studio a’ feuchainn ri goireasan a chleachdadh gu h-èifeachdach, bidh e gu mòr an urra ris a ’bhathar-cruaidh agad. A bharrachd air an sin, bidh an astar freagairt a’ leasachadh gu mòr ma thèid GPU a chleachdadh an àite CPU.

A’ stàladh Gemma 3 air Windows 11 tha e nas fhasa na tha e coltach.. Chan eil e gu diofar an co-dhùin thu Ollama a chleachdadh airson cho sìmplidh ‘s a tha e, LM Studio airson an eadar-aghaidh grafaigeach aige, no Google AI Studio airson a chluich sàbhailte san sgòth. Is e an rud chudromach gu bheil gach dòigh-obrach ag atharrachadh gu diofar ìrean de eòlas agus comasan teicnigeach. A-nis gu bheil fios agad air na roghainnean uile agus na tha a dhìth ort airson tòiseachadh, faodaidh tu tòiseachadh a’ feuchainn a-mach an innleachdas fuadain ionadail eireachdail seo an-diugh.