Gemma 3 LLM-ийг Windows 11 дээр алхам алхмаар хэрхэн суулгах талаар

Нээлттэй эх хэлний загварууд үсрэнгүй хөгжсөн ба Өнөөдөр та тэдгээрийг үүлэн үйлчилгээнээс хамааралгүйгээр хувийн компьютерээс шууд үзэх боломжтой.. Одоогийн байдлаар хамгийн ирээдүйтэй зүйлсийн нэг бол Gemini технологи дээр суурилсан Google-ийн шинэ LLM Gemma 3 бөгөөд энэ нь текст болон зураг боловсруулах чадвар, мөн дэвшилтэт хувилбарууддаа 128 мянга хүртэлх жетон бүхий асар том контекст цонхоороо ялгардаг. Энэ хувилбарын талаар нэмэлт мэдээлэл авахыг хүсвэл манай нийтлэлээс зочилж болно Жемма 3-ын танилцуулга.

Хэрэв та Windows 11 ашиглаж байгаа бөгөөд Gemma 3-ийг туршилт, тэр байтугай орон нутгийн үйлдвэрлэлд суулгах гэж байгаа бол, та зөв газартаа хүрлээ. Ollama, LM Studio гэх мэт хамгийн их санал болгож буй сонголтууд, мөн Google AI Studio-ийн үүлэн дээр суурилсан хувилбар гэх мэт үүнийг компьютер дээрээ эхлүүлэх боломжтой бүх арга замыг нарийвчлан авч үзье. Үүнээс гадна бид техникийн шаардлага, арга тус бүрийн давуу тал болон Энэхүү хүчирхэг хиймэл оюун ухааны боломжийг хэрхэн ашиглах вэ.

Gemma 3 гэж юу вэ, яагаад үүнийг суулгах вэ?

Gemma 3 нь Google-ээс нээлттэй эхийн лицензийн дагуу гаргасан LLM загваруудын гурав дахь үе юм.. Llama эсвэл Mistral гэх мэт өмнөх шийдлүүдээс ялгаатай нь энэ нь зураг оруулах шууд дэмжлэг, илүү өргөн хүрээний контекст, 140 гаруй хэлийг дэмждэг. Өөрийн хэрэгцээ шаардлагаас хамааран та 1B-ээс 27B хүртэлх параметрийн хэд хэдэн хувилбараас сонгож болно.

• Гемма 3:1Б: Хөнгөн загвар нь үндсэн ажил, нөөц хязгаарлагдмал орчинд тохиромжтой.
• Гемма 3:4Б: Завсрын хэрэглээний гүйцэтгэл ба үр ашгийг тэнцвэржүүлэх.
• Гемма 3:12Б: Нарийн төвөгтэй шинжилгээ, програмчлал, олон хэлээр боловсруулахад ашиглахыг зөвлөж байна.
• Гемма 3:27Б: Контекстийн асар их хүчин чадалтай, эрчимтэй, олон төрлийн хэрэглээнд зориулагдсан хамгийн хүчирхэг сонголт.

Ийм дэвшилтэт загварыг компьютерээсээ ажиллуулах боломж Энэ нь тоглоомын дүрмийг нууцлал, хариултын хурд, гуравдагч этгээдээс хараат байдлаар өөрчилдөг. Та цаашид сар бүр захиалга төлөх эсвэл мэдээллээ өгөх шаардлагагүй. Жаахан бэлтгэл хийгээд сурах хүсэл байхад л хангалттай. Хэрэв та эдгээр загваруудын ашиг тусын талаар илүү ихийг мэдэхийг хүсвэл манай нийтлэлийг уншина уу нээлттэй жинтэй AI загварууд.

Сонголт 1: Олламатай суулгах

Ollama бол Windows 3-ээс Gemma 11 шиг LLM ажиллуулах хамгийн хялбар арга юм. Терминал дээр суурилсан интерфэйс нь энгийн командын мөрөөр загвар суулгах, ажиллуулах боломжийг танд олгоно. Нэмж дурдахад энэ нь macOS, Linux, Windows үйлдлийн системтэй нийцтэй тул янз бүрийн орчинд ашиглахад хялбар болгодог.

Олламаг суулгаж, Gemma 3-ыг ажиллуулах алхамууд:

1. Албан ёсны вэбсайт руу нэвтрэх: ollama.com.
2. Windows-д зориулсан суулгагчийг татаж аваарай бусад програмын адил ажиллуулна.
3. Command Prompt (CMD) эсвэл PowerShell-г нээгээд суулгалтыг дараах байдлаар шалгана уу:

ollama --version

Хэрэв бүх зүйл сайн байвал та одоо боломжтой Gemma 3 загваруудын аль нэгийг татаж авах боломжтой. Хүссэн загвараасаа хамааран эдгээр командын аль нэгийг нь ажиллуулаарай:

ollama run gemma3:1b
ollama run gemma3:4b
ollama run gemma3:12b
ollama run gemma3:27b

Татаж авсны дараа та загварыг хялбархан эхлүүлэх боломжтой.. Үүнийг хийхийн тулд ажиллуулна уу:

ollama init gemma3

Энэ мөчөөс эхлэн та LLM-тэй дараах байдлаар харилцаж эхлэх боломжтой.

ollama query gemma3 "¿Cuál es la capital de Japón?"

Хэрэв та multimodal функцүүдийн давуу талыг ашиглахыг хүсч байвал, та мөн асуулгадаа зураг ашиглаж болно:

ollama query gemma3 --image "ruta-de-la-imagen.jpg"

Үүнийг сайн ажиллуулахын тулд танд юу хэрэгтэй вэ? Хэдийгээр Оллама хамгийн бага шаардлага тавьдаггүй ч том загварууд (27B гэх мэт) дор хаяж 32 ГБ RAM шаарддаг. 16 ГБ-ын тусламжтайгаар та 7B загвартай ямар ч асуудалгүйгээр ажиллах боломжтой бөгөөд GPU ашиглах нь заавал байх албагүй ч хурдыг нэмэгдүүлэхэд ихээхэн тусалдаг.

Сонголт 2: LM Studio ашиглана уу

LM Studio нь LLM загваруудыг график интерфэйсээс дотооддоо суулгаж, ажиллуулах боломжийг олгодог өөр нэг үнэгүй хэрэгсэл юм.. Энэ нь Windows, macOS, Linux үйлдлийн системтэй нийцдэг бөгөөд ажиллахад техникийн мэдлэг шаарддаггүй нь давуу тал юм.

Зааварчилгаа:

1. LM Studio-г албан ёсны вэбсайтаас татаж авна уу: lmstudio.ai.
2. Үүнийг суулгаж ажиллуулна уу.
3. "Нээх" гэсэн томруулдаг шилний дүрс дээр дарна уу.
4. Хайлтын системд "Gemma 3" гэж бичээд боломжтой загваруудыг харна уу.

Суулгахаасаа өмнө загвар нь таны төхөөрөмжтэй нийцэж байгаа эсэхийг шалгаарай. Хэрэв та "Энэ машинд хэтэрхий том байх магадлалтай" гэсэн анхааруулгыг харвал та үүнийг суулгаж болно, гэхдээ оновчтой гүйцэтгэл нь баталгаатай биш юм.

Тохиромжтой загварыг татаж авсны дараа:

• Үүнийг ачаалахын тулд "Загвар ачаалах" товчийг дарна уу.
• Эсвэл шинэ чат нээж, унадаг цэснээс загвараа сонгоно уу.

LM Studio-ийн хамгийн сайн тал нь офлайн болон таны хэл дээр нэг төрлийн локал ChatGPT-ийн үүрэг гүйцэтгэдэг.. Хэрэв та хүсвэл олон чат үүсгэж, харилцан яриагаа хадгалах боломжтой. Нэмж хэлэхэд, хэрэв та "Local Server" сонголтыг идэвхжүүлбэл OpenAI-тай нийцтэй API ашиглан үүнийг Python програмуудтайгаа нэгтгэх боломжтой.

Сонголт 3: Google AI Studio ашиглах (онлайн)

Хэрэв та юу ч суулгах боломжгүй эсвэл суулгахыг хүсэхгүй байгаа бол Google AI Studio ашиглан Gemma 3-ийг үүлэн дээрээс шууд ашиглаж болно.. Суулгах шаардлагагүй, гэхдээ интернет холболт болон Google бүртгэл шаардлагатай.

Та зүгээр л очих хэрэгтэй aistudio.google.com мөн загваруудын жагсаалтаас "Gemma 3"-ыг сонгоно уу. Энэ мөчөөс эхлэн та загвартай Bard эсвэл ChatGPT-ийн дэвшилтэт хувилбар, түүний дотор зураг оруулах боломжтой мэт чатлаж эхлэх боломжтой.

NodeShift ашиглан үүлэн суулгац (заавал биш)

Илүү их хүч чадал хайж байгаа эсвэл загварыг мэргэжлийн түвшинд байрлуулахыг хүсч буй хүмүүст зориулав, NodeShift гэх мэт үүлэн үйлчилгээг ашиглах сонголт байдаг. Тэдгээрийн тусламжтайгаар та хүчирхэг GPU бүхий машинуудыг түрээсэлж, Gemma 3-ыг ямар ч хязгаарлалтгүйгээр ажиллуулах хамгийн тохиромжтой орчинг тохируулах боломжтой.

NodeShift дээрх үндсэн алхамууд:

1. Данс үүсгэх app.nodeshift.com.
2. Захиалгат GPU зангилаа (жишээ нь, 2x RTX 4090-тай) эхлүүлэх.
3. Та Ollama эсвэл Transformers ашиглах эсэхээс хамааран Ubuntu + Nvidia CUDA эсвэл Jupyter Notebook-ээр урьдчилан тохируулсан зургийг сонгоно уу.
4. SSH-ээр холбогдож, командын мөрөөс загварыг суулгана уу.

Энэ төрлийн суулгац нь мэргэжлийн тохиргоонд хандах боломжийг танд олгоно, загваруудыг сургах, гүйцэтгэлийг үнэлэх зэрэгт тохиромжтой. Гэрийн хэрэглэгчдэд тийм ч чухал биш ч гүнзгий туршилт хийх эсвэл дэвшилтэт LLM дээр програм бүтээхийг хүсдэг хүмүүст хэрэгтэй.

Системийн шаардлага ба техникийн зөвлөмжүүд

Бүх Gemma 3 загварууд ямар ч компьютер дээр ажиллахгүй. Доор бид танд загварын төрлөөс хамааран ерөнхий лавлагаа үлдээж байна.

• Пара 1B-ээс 7B хүртэлх загварууд: хамгийн бага 8 GB-ийн RAM. Тэд GPU-гүй ч гэсэн бараг ямар ч орчин үеийн компьютер дээр ажилладаг.
• Пара 13B загварууд: санал болгож байна 16 ГБ-аас 24 ГБ хүртэлх RAM.
• Пара 27B загварууд: хэрэгтэй дор хаяж 32 GB RAM болон тусгай зориулалтын GPU байвал сайн.

Илүү их RAM-тай байх нь ажиллагааг хурдасгаж, санах ой дутагдсанаас болж алдаа гарахаас сэргийлдэг. Ollama болон LM Studio нь нөөцийг үр ашигтай ашиглахыг хичээдэг ч энэ нь таны техник хангамжаас ихээхэн шалтгаална. Нэмж дурдахад CPU-ийн оронд GPU ашиглавал хариу өгөх хурд мэдэгдэхүйц сайжирна.

Windows 3 дээр Gemma 11 суулгах нь санагдсанаас хамаагүй хялбар юм.. Та энгийн байдлын үүднээс Оллама, график интерфэйсийн хувьд LM Studio эсвэл Google AI Studio-г үүлэн орчинд аюулгүйгээр тоглуулахаар шийдсэн эсэх нь хамаагүй. Хамгийн гол нь арга бүр өөр өөр түвшний туршлага, техникийн чадамжид дасан зохицох явдал юм. Одоо та бүх сонголтууд болон эхлэхэд юу хэрэгтэй байгааг мэдэж байгаа тул өнөөдрөөс эхлэн энэхүү гайхалтай орон нутгийн хиймэл оюун ухааныг туршиж эхлэх боломжтой.