Чӣ тавр насб кардани Gemma 3 LLM дар Windows 11 зина ба зина

Моделҳои забони кушодаасос бо ҷаҳиш ва ҳудуд таҳаввул ёфтанд ва Имрӯз бевобаста аз хидматҳои абрӣ аз онҳо бевосита аз компютери шахсӣ лаззат бурдан мумкин аст.. Яке аз умедбахштаринҳо дар айни замон Gemma 3, LLM-и нави Google дар асоси технологияи Gemini мебошад, ки бо қобилияти коркарди матн ва тасвирҳо ва инчунин бо равзанаи азими контекстии то 128к токен дар версияҳои пешрафтаи худ фарқ мекунад. Барои маълумоти бештар дар бораи ин нашр, шумо метавонед мақолаи моро дар бораи ин боздид кунед муаррифии Gemma 3.

Агар шумо Windows 11-ро истифода баред ва ҷустуҷӯи Gemma 3-ро барои таҷриба ё ҳатто истеҳсоли маҳаллӣ насб кунед, шумо ба ҷои дуруст омадаед. Биёед тамоми роҳҳои имконпазири ба кор даровардани он дар компютери шумо, аз ҷумла вариантҳои тавсияшаванда ба монанди Ollama, LM Studio ва инчунин алтернативаи ба абр асосёфта бо Google AI Studio муфассал дида бароем. Илова бар ин, мо ба талаботи техникӣ, афзалиятҳои ҳар як усул ва Чӣ тавр аз потенсиали ин зеҳни сунъии пурқувват истифода бурдан мумкин аст.

Gemma 3 чист ва чаро онро насб кунед?

Gemma 3 насли сеюми моделҳои LLM мебошад, ки аз ҷониби Google таҳти иҷозатномаи кушодаасос бароварда шудааст.. Баръакси ҳалли қаблӣ, ба монанди Llama ё Mistral, он дастгирии мустақими вуруди тасвир, контексти хеле васеъ ва дастгирии беш аз 140 забонро пешниҳод мекунад. Вобаста ба эҳтиёҷоти худ, шумо метавонед аз якчанд вариантҳои модели аз 1B то 27B параметрҳо интихоб кунед:

• Ҷемма 3:1Б: Модели сабук барои вазифаҳои асосӣ ва муҳити маҳдуди захираҳо беҳтарин.
• Ҷемма 3:4Б: Мувозинат кардани кор ва самаранокӣ барои барномаҳои мобайнӣ.
• Ҷемма 3:12Б: Барои таҳлили мураккаб, барномасозӣ ва коркарди бисёрзабона тавсия дода мешавад.
• Ҷемма 3:27Б: Варианти пурқувваттарин, ки барои истифодаи пуршиддат ва мултиподалӣ бо иқтидори бузурги контекстӣ пешбинӣ шудааст.

Имконияти кор кардани чунин модели пешрафта аз компютери шумо Он қоидаҳои бозӣро аз нигоҳи махфият, суръати посух ва вобастагӣ аз шахсони сеюм тағир медиҳад. Ба шумо дигар лозим нест, ки обунаҳои ҳармоҳа пардохт кунед ё аз маълумоти худ даст кашед. Танҳо каме омодагӣ ва хоҳиши омӯхтан лозим аст. Агар шумо хоҳед, ки дар бораи манфиатҳои ин моделҳо маълумоти бештар гиред, мақолаи моро дар бораи он тафтиш кунед моделҳои вазни кушодаи AI.

Варианти 1: Насбкунӣ бо Оллама

Оллама шояд роҳи осонтарини иҷро кардани LLM ба монанди Gemma 3 аз Windows 11 бошад. Интерфейси ба терминал асосёфтаи он ба шумо имкон медиҳад, ки моделҳоро бо сатри оддии фармон насб ва идора кунед. Илова бар ин, он бо macOS, Linux ва Windows мувофиқ аст ва истифодаи онро дар муҳитҳои гуногун осон мекунад.

Қадамҳо барои насб кардани Ollama ва идора кардани Gemma 3:

1. Ба вебсайти расмӣ дастрасӣ пайдо кунед: ollama.com.
2. Насбкунандаро барои Windows зеркашӣ кунед ва онро мисли ҳама гуна барномаи дигар иҷро кунед.
3. Сатри Фармонро (CMD) ё PowerShell кушоед ва насбро бо: тафтиш кунед:

ollama --version

Агар ҳамааш хуб бошад, шумо ҳоло метавонед ҳама гуна қолибҳои дастраси Gemma 3-ро зеркашӣ кунед. Танҳо яке аз ин фармонҳоро вобаста ба қолаби дилхоҳатон иҷро кунед:

ollama run gemma3:1b
ollama run gemma3:4b
ollama run gemma3:12b
ollama run gemma3:27b

Пас аз зеркашӣ, шумо метавонед ба осонӣ моделро оғоз кунед.. Барои ин кор, иҷро кунед:

ollama init gemma3

Аз он лаҳза, шумо метавонед бо LLM ҳамкорӣ кунед:

ollama query gemma3 "¿Cuál es la capital de Japón?"

Агар шумо хоҳед, ки аз функсияҳои multimodal истифода баред, шумо инчунин метавонед тасвирҳоро дар дархостҳои худ истифода баред:

ollama query gemma3 --image "ruta-de-la-imagen.jpg"

Барои хуб кор кардан ба шумо чӣ лозим аст? Гарчанде ки Ollama талаботи ҳадди ақалро муқаррар намекунад, моделҳои калонтар (ба монанди 27B) ҳадди аққал 32 ГБ хотираи оперативиро талаб мекунанд. Бо 16 ГБ шумо метавонед бо модели 7B бе мушкилот кор кунед ва гарчанде ки истифодаи GPU ҳатмӣ нест, он дар суръат кӯмак мекунад.

Варианти 2: LM Studio-ро истифода баред

LM Studio боз як асбоби ройгонест, ки ба шумо имкон медиҳад моделҳои LLM-ро аз интерфейси графикӣ насб ва идора кунед.. Он бо Windows, macOS ва Linux мувофиқ аст ва бартарии бузурги он дар он аст, ки барои кор дониши техникиро талаб намекунад.

Нишондиҳандаҳо:

1. LM Studio-ро аз вебсайти расмии он зеркашӣ кунед: lmstudio.ai.
2. Онро насб кунед ва идора кунед.
3. Тасвири шишаи калонкунандаро, ки дар он "Кашф кардан" навишта шудааст, клик кунед.
4. Барои дидани моделҳои дастрас ба системаи ҷустуҷӯ "Gemma 3" -ро нависед.

Пеш аз насб кардан, санҷед, ки оё модел бо таҷҳизоти шумо мувофиқ аст. Агар шумо огоҳии "Эҳтимол барои ин мошин хеле калон" -ро бинед, шумо ба ҳар ҳол метавонед онро насб кунед, аммо иҷрои беҳтарин кафолат дода намешавад.

Пас аз зеркашии модели мувофиқ:

• Барои бор кардани он "Модели бор кардан" -ро пахш кунед.
• Ё чати нав кушоед ва моделро аз менюи афтанда интихоб кунед.

Беҳтарин чизе дар бораи LM Studio дар он аст, ки он ҳамчун як намуди ChatGPT маҳаллӣ, офлайн ва бо забони шумо амал мекунад. Агар хоҳед, шумо метавонед чанд чат эҷод кунед ва сӯҳбатҳои худро захира кунед. Илова бар ин, агар шумо имконоти "Сервери маҳаллӣ" -ро фаъол созед, шумо метавонед онро бо барномаҳои Python-и худ бо истифода аз API-и мувофиқи OpenAI ҳамҷоя кунед.

Варианти 3: Google AI Studio-ро истифода баред (онлайн)

Агар шумо чизе насб карда натавонед ё нахоҳед, шумо метавонед Gemma 3-ро мустақиман аз абр бо Google AI Studio истифода баред. Насбкунӣ талаб карда намешавад, аммо пайвасти интернет ва ҳисоби Google лозим аст.

Шумо танҳо бояд ба он равед aistudio.google.com ва аз рӯйхати моделҳо "Gemma 3" -ро интихоб кунед. Аз он лаҳза, шумо метавонед бо модел сӯҳбат кунед, ки гӯё он версияи пешрафтаи Bard ё ChatGPT, аз ҷумла вуруди тасвир бошад.

Насби абрӣ бо NodeShift (ихтиёрӣ)

Барои онҳое, ки мехоҳанд қудрати бештар дошта бошанд ё моделро ба таври касбӣ ҷойгир кунанд, имкони истифодаи хидматҳои абрӣ ба монанди NodeShift вуҷуд дорад. Бо онҳо, шумо метавонед мошинҳоро бо GPU-ҳои пурқувват иҷора гиред ва муҳити идеалии худро барои кор кардани Gemma 3 бидуни маҳдудият танзим кунед.

Қадамҳои асосӣ дар NodeShift:

1. Ҳисоби худро дар app.nodeshift.com.
2. Як гиреҳи фармоишии GPU-ро оғоз кунед (масалан, бо 2x RTX 4090).
3. Вобаста аз он ки шумо Ollama ё Transformers-ро истифода мебаред, тасвири пешакӣ танзимшударо бо Ubuntu + Nvidia CUDA ё Jupyter Notebook интихоб кунед.
4. Тавассути SSH пайваст шавед ва моделро аз сатри фармон насб кунед.

Ин навъи насб ба шумо дастрасӣ ба конфигуратсияҳои касбӣ медиҳад, беҳтарин барои омӯзиши моделҳо, арзёбии фаъолият ва ғайра. Ҳарчанд барои корбарони хонагӣ муҳим нест, он барои онҳое, ки мехоҳанд амиқтар таҷриба кунанд ё дар LLM-ҳои пешрафта созанд, муфид аст.

Талаботи система ва тавсияҳои техникӣ

На ҳама моделҳои Gemma 3 дар ягон компютер кор мекунанд. Дар зер мо ба шумо маълумотномаи умумиро вобаста ба намуди модел мегузорем:

• банди моделҳои 1B то 7B: ҳадди ақал 8 GB RAM. Онҳо дар ҳама гуна компютерҳои муосир, ҳатто бе GPU кор мекунанд.
• банди Моделҳои 13B: тавсия карда мешаванд 16 ГБ то 24 ГБ RAM.
• банди Моделҳои 27B: лозиманд ҳадди аққал 32 ГБ RAM ва беҳтараш як GPU бахшидашуда.

Доштани бештари RAM корҳоро суръат мебахшад ва хатогиҳоро аз сабаби набудани хотира пешгирӣ мекунад. Дар ҳоле ки Ollama ва LM Studio кӯшиш мекунанд, ки захираҳоро самаранок истифода баранд, он аз сахтафзори шумо вобаста аст. Илова бар ин, суръати вокуниш ба таври назаррас беҳтар мешавад, агар GPU ба ҷои CPU истифода шавад.

Насб кардани Gemma 3 дар Windows 11 назар ба он ба назар осонтар аст.. Фарқ надорад, ки шумо қарор медиҳед, ки Ollama -ро барои соддагии худ, LM Studio -ро барои интерфейси графикии худ ё Google AI Studio -ро барои бехатар бозӣ кардан дар абр истифода баред. Муҳим он аст, ки ҳар як усул ба сатҳи гуногуни таҷриба ва имкониятҳои техникӣ мувофиқат мекунад. Акнун, ки шумо ҳама имконотро медонед ва он чизеро, ки барои оғоз кардан лозим аст, медонед, шумо метавонед имрӯз ба озмоиш бо ин зеҳни сунъии таъсирбахши маҳаллӣ шурӯъ кунед.