Kuidas installida samm-sammult Gemma 3 LLM opsüsteemi Windows 11

Avatud lähtekoodiga keelemudelid on arenenud hüppeliselt ning Tänapäeval on võimalik neid nautida otse personaalarvutist ilma pilveteenustest sõltumata.. Praegu on üks paljutõotavamaid Gemma 3, Google'i uus Gemini tehnoloogial põhinev LLM, mis paistab silma nii teksti ja piltide töötlemise võime kui ka tohutu kontekstiakna poolest, mille täiustatud versioonides on kuni 128 XNUMX žetoone. Selle väljalase kohta lisateabe saamiseks külastage meie artiklit Gemma 3 esitlus.

Kui kasutate Windows 11 ja soovite installida Gemma 3 katsetamiseks või isegi kohalikuks tootmiseks, olete jõudnud õigesse kohta. Vaatame üksikasjalikult läbi kõik võimalikud viisid selle arvutis käivitamiseks, sealhulgas enim soovitatud valikud, nagu Ollama, LM Studio ja ka Google AI Studio pilvepõhine alternatiiv. Lisaks käsitleme tehnilisi nõudeid, iga meetodi eeliseid ja Kuidas selle võimsa tehisintellekti potentsiaali maksimaalselt ära kasutada.

Mis on Gemma 3 ja miks seda installida?

Gemma 3 on LLM-mudelite kolmas põlvkond, mille Google on välja andnud avatud lähtekoodiga litsentsi alusel.. Erinevalt varasematest lahendustest, nagu Llama või Mistral, pakub see otsest tuge pildisisendile, palju laiemat konteksti ja tuge enam kui 140 keelele. Sõltuvalt teie vajadustest saate valida mudeli mitme versiooni vahel vahemikus 1B kuni 27B parameetrid:

• Gemma 3:1B: kerge mudel, mis sobib ideaalselt põhiülesannete ja piiratud ressurssidega keskkondade jaoks.
• Gemma 3:4B: jõudluse ja tõhususe tasakaalustamine vahepealsete rakenduste jaoks.
• Gemma 3:12B: Soovitatav keerukaks analüüsiks, programmeerimiseks ja mitmekeelseks töötlemiseks.
• Gemma 3:27B: kõige võimsam valik, mis on mõeldud intensiivseks, mitmeliigilisteks kasutusteks ja suure kontekstivõimega.

Võimalus sellist täiustatud mudelit arvutist käivitada See muudab mängureegleid privaatsuse, reageerimiskiiruse ja kolmandatest osapooltest sõltumise osas. Enam ei pea te igakuiseid tellimusi maksma ega oma andmetest loobuma. Vaja on vaid väikest ettevalmistust ja soovi õppida. Kui soovite nende mudelite eeliste kohta rohkem teada saada, lugege meie artiklit avatud kaaluga AI mudelid.

Valik 1: Paigaldamine Ollama abil

Ollama on tõenäoliselt lihtsaim viis LLM-i käivitamiseks nagu Gemma 3 Windows 11-st. Selle terminalipõhine liides võimaldab teil installida ja käivitada mudeleid lihtsa käsureaga. Lisaks ühildub see macOS-i, Linuxi ja Windowsiga, mistõttu on seda lihtne kasutada erinevates keskkondades.

Ollama installimise ja Gemma 3 käivitamise sammud:

1. Juurdepääs ametlikule veebisaidile: ollama.com.
2. Laadige alla Windowsi installiprogramm ja käivitage see nagu mis tahes muu programm.
3. Avage Command Prompt (CMD) või PowerShell ja kontrollige installimist:

ollama --version

Kui kõik läheb hästi, saate nüüd alla laadida kõik saadaolevad Gemma 3 mallid. Sõltuvalt soovitud mallist käivitage lihtsalt üks järgmistest käskudest:

ollama run gemma3:1b
ollama run gemma3:4b
ollama run gemma3:12b
ollama run gemma3:27b

Pärast allalaadimist saate mudeli hõlpsalt käivitada.. Selleks käivitage:

ollama init gemma3

Sellest hetkest alates saate LLM-iga suhelda järgmiselt:

ollama query gemma3 "¿Cuál es la capital de Japón?"

Kui soovite kasutada multimodaalseid funktsioone, saate oma päringutes kasutada ka pilte:

ollama query gemma3 --image "ruta-de-la-imagen.jpg"

Mida on vaja, et see hästi töötaks? Kuigi Ollama ei sea rangeid miinimumnõudeid, vajavad suuremad mudelid (nagu 27B) vähemalt 32 GB muutmälu. 16GB-ga saab 7B mudeliga probleemideta töötada ja kuigi GPU kasutamine pole kohustuslik, aitab see kiirusel kõvasti kaasa.

2. valik: kasutage LM Studiot

LM Studio on veel üks tasuta tööriist, mis võimaldab teil LLM-mudeleid kohapeal graafilise liidese kaudu installida ja käivitada.. See ühildub Windowsi, macOS-i ja Linuxiga ning selle suureks eeliseks on see, et selle tööks ei ole vaja tehnilisi teadmisi.

Instrucciones:

1. Laadige LM Studio alla selle ametlikult veebisaidilt: lmstudio.ai.
2. Installige ja käivitage see.
3. Klõpsake suurendusklaasi ikoonil "Avasta".
4. Saadaolevate mudelite nägemiseks tippige otsingumootorisse "Gemma 3".

Enne paigaldamist kontrollige, kas mudel ühildub teie seadmega. Kui näete hoiatust "Tõenäoliselt liiga suur selle masina jaoks", saate selle siiski installida, kuid optimaalne jõudlus pole garanteeritud.

Kui ühilduv mudel on alla laaditud:

• Selle laadimiseks vajutage nuppu "Laadi mudel".
• Või avage uus vestlus ja valige rippmenüüst mudel.

LM Studio parim asi on see, et see toimib omamoodi kohaliku ChatGPT-na nii võrguühenduseta kui ka teie keeles. Soovi korral saate luua mitu vestlust ja vestlused salvestada. Lisaks, kui lubate valiku „Kohalik server”, saate selle OpenAI-ga ühilduva API abil oma Pythoni rakendustega integreerida.

3. valik: kasutage Google AI Studiot (veebis)

Kui te ei saa või ei taha midagi installida, saate Gemma 3 kasutada otse pilvest Google AI Studio abil. Installimine pole vajalik, kuid vajalik on Interneti-ühendus ja Google'i konto.

Sa pead lihtsalt minema aistudio.google.com ja valige mudelite loendist “Gemma 3”. Sellest hetkest alates saate mudeliga vestelda nii, nagu oleks see Bardi või ChatGPT täiustatud versioon, sealhulgas pildisisend.

Pilve installimine NodeShiftiga (valikuline)

Neile, kes otsivad rohkem võimsust või kasutavad mudelit professionaalselt, on võimalik kasutada pilveteenuseid, nagu NodeShift. Nende abil saate rentida võimsa GPU-ga masinaid ja seadistada oma ideaalse keskkonna Gemma 3 käitamiseks ilma piiranguteta.

Põhitoimingud NodeShiftis:

1. Looge konto aadressil app.nodeshift.com.
2. Käivitage kohandatud GPU-sõlm (nt 2x RTX 4090-ga).
3. Valige eelkonfigureeritud pilt Ubuntu + Nvidia CUDA või Jupyteri sülearvutiga, olenevalt sellest, kas kasutate Ollamat või Transformereid.
4. Ühendage SSH kaudu ja installige mudel käsurealt.

Seda tüüpi installimine annab teile juurdepääsu professionaalsetele konfiguratsioonidele, ideaalne koolitusmudelite jaoks, jõudluse hindamiseks jne. Kuigi see pole kodukasutajatele hädavajalik, on see kasulik neile, kes soovivad põhjalikult katsetada või luua rakendusi täiustatud LLM-idele.

Süsteeminõuded ja tehnilised soovitused

Kõik Gemma 3 mudelid ei tööta üheski arvutis. Allpool jätame teile üldise viite vastavalt mudeli tüübile:

• et mudelid 1B kuni 7B: miinimum 8 GB RAM. Need töötavad peaaegu kõigis kaasaegsetes arvutites, isegi ilma GPU-ta.
• et 13B mudelid: on soovitatavad 16 GB kuni 24 GB RAM.
• et 27B mudelid: on vaja vähemalt 32 GB RAM-i ja eelistatavalt spetsiaalne GPU.

Suurem RAM kiirendab tööd ja hoiab ära mälupuudusest tulenevad vead. Kuigi Ollama ja LM Studio püüavad ressursse tõhusalt kasutada, sõltub see palju teie riistvarast. Lisaks paraneb reageerimiskiirus oluliselt, kui CPU asemel kasutatakse GPU-d.

Gemma 3 installimine Windows 11-sse on lihtsam, kui tundub.. Pole tähtis, kas otsustate kasutada Ollamat selle lihtsuse tõttu, LM Studiot selle graafilise liidese jaoks või Google AI Studiot, et seda pilves turvaliselt mängida. Oluline on see, et iga meetod kohandub erinevate kogemuste ja tehniliste võimalustega. Nüüd, kui teate kõiki võimalusi ja alustamiseks vajalikku, võite juba täna alustada katsetamist selle muljetavaldava kohaliku tehisintellektiga.