Yadda ake shigar Gemma 3 LLM akan Windows 11 mataki-mataki

Samfurin harshen buɗe tushen tushen ya samo asali ne ta hanyar tsalle-tsalle da iyakoki, da A yau yana yiwuwa a ji dadin su kai tsaye daga kwamfuta ta sirri ba tare da dogara ga ayyukan girgije ba.. Daya daga cikin mafi kyawu a halin yanzu shine Gemma 3, sabuwar LLM ta Google bisa fasahar Gemini, wacce ta yi fice don iya sarrafa rubutu da hotuna, da kuma babbar tagar mahallinsa har zuwa 128k tokens a cikin sigarsa na ci gaba. Don ƙarin bayani game da wannan sakin, zaku iya ziyartar labarin mu akan Gabatarwar Gemma 3.

Idan kuna amfani da Windows 11 kuma kuna neman shigar da Gemma 3 don gwaji ko ma samar da gida, kun zo wurin da ya dace. Bari mu yi bayani dalla-dalla dalla-dalla duk hanyoyin da za a iya bi don haɓaka ta a kan kwamfutarka, gami da zaɓin da aka fi ba da shawarar kamar Ollama, LM Studio, da kuma madadin tushen girgije tare da Google AI Studio. Bugu da ƙari, za mu magance buƙatun fasaha, fa'idodin kowane hanya da Yadda za a yi amfani da mafi yawan damar wannan fasaha ta wucin gadi mai ƙarfi.

Menene Gemma 3 kuma me yasa aka shigar dashi?

Gemma 3 shine ƙarni na uku na ƙirar LLM da Google ya fitar a ƙarƙashin lasisin buɗe tushen.. Ba kamar mafita na baya kamar Llama ko Mistral ba, yana ba da tallafi kai tsaye don shigar da hoto, mahallin da ya fi faɗi, da tallafi ga harsuna sama da 140. Dangane da buƙatun ku, zaku iya zaɓar daga nau'ikan samfurin da yawa waɗanda ke jere daga sigogin 1B zuwa 27B:

• Gemma 3:1B: Samfurin nauyi mai nauyi mai kyau don ayyuka na asali da mahalli masu iyakacin albarkatu.
• Gemma 3:4B: Daidaita aiki da inganci don aikace-aikacen matsakaici.
• Gemma 3:12B: An ba da shawarar don hadadden bincike, shirye-shirye da sarrafa harsuna da yawa.
• Gemma 3:27B: Zaɓin mafi ƙarfi, an tsara shi don haɓaka, amfani da multimodal tare da babban ƙarfin mahallin.

Yiwuwar gudanar da irin wannan ƙirar ci gaba daga PC ɗinku Yana canza ƙa'idodin wasan dangane da keɓantawa, saurin amsawa, da dogaro ga ɓangare na uku. Ba kwa buƙatar biyan biyan kuɗin wata-wata ko barin bayanan ku. Duk abin da ake buƙata shine ɗan shiri da sha'awar koyo. Idan kuna son ƙarin sani game da fa'idodin waɗannan samfuran, duba labarinmu akan bude nauyi AI model.

Zabin 1: Shigarwa tare da Olama

Ollama tabbas ita ce hanya mafi sauƙi don gudanar da LLM kamar Gemma 3 daga Windows 11. Matsakaicin tushen tasha yana ba ku damar shigarwa da gudanar da samfura tare da layin umarni mai sauƙi. Bugu da ƙari, yana dacewa da macOS, Linux, da Windows, yana sauƙaƙa amfani da shi a wurare daban-daban.

Matakai don shigar da Ollama kuma gudanar da Gemma 3:

1. Shiga gidan yanar gizon hukuma: olma.com.
2. Zazzage mai sakawa don Windows da gudanar da shi kamar kowane shiri.
3. Bude Command Prompt (CMD) ko PowerShell kuma tabbatar da shigarwa tare da:

ollama --version

Idan komai yayi kyau, yanzu zaku iya zazzage kowane samfurin Gemma 3 da ke akwai. Kawai gudanar da ɗaya daga cikin waɗannan umarni dangane da samfurin da kuke so:

ollama run gemma3:1b
ollama run gemma3:4b
ollama run gemma3:12b
ollama run gemma3:27b

Da zarar an sauke, zaka iya fara samfurin cikin sauƙi.. Don yin wannan, gudu:

ollama init gemma3

Daga wannan lokacin, zaku iya fara hulɗa tare da LLM ta:

ollama query gemma3 "¿Cuál es la capital de Japón?"

Idan kuna son yin amfani da ayyukan multimodal, Hakanan zaka iya amfani da hotuna a cikin tambayoyinku:

ollama query gemma3 --image "ruta-de-la-imagen.jpg"

Me kuke bukata don yin aiki da kyau? Ko da yake Olama baya ƙulla ƙaƙƙarfan ƙaƙƙarfan buƙatu, manyan samfura (kamar 27B) suna buƙatar aƙalla 32GB na RAM. Tare da 16GB za ku iya aiki ba tare da matsala tare da samfurin 7B ba, kuma ko da yake amfani da GPU ba wajibi ba ne, yana taimakawa sosai a cikin sauri.

Zabin 2: Yi amfani da LM Studio

LM Studio wani kayan aiki ne na kyauta wanda ke ba ku damar shigarwa da gudanar da samfuran LLM a cikin gida daga ƙirar hoto.. Ya dace da Windows, macOS, da Linux, kuma babban fa'idarsa shine cewa baya buƙatar ilimin fasaha don aiki.

Umarnin:

1. Zazzage LM Studio daga gidan yanar gizon sa: lmstudio.ai.
2. Shigar da gudanar da shi.
3. Danna gunkin gilashin da ke cewa "Gano."
4. Buga "Gemma 3" a cikin injin bincike don ganin samfuran da ke akwai.

Kafin shigarwa, bincika idan samfurin ya dace da kayan aikin ku. Idan kun ga gargaɗin "Da alama ya yi girma ga wannan injin," har yanzu kuna iya shigar da shi, amma mafi kyawun aiki ba shi da garantin.

Da zarar an sauke samfurin da ya dace:

• Danna "Load Model" don loda shi.
• Ko buɗe sabuwar hira kuma zaɓi samfurin daga menu mai buɗewa.

Mafi kyawun abu game da LM Studio shine yana aiki azaman nau'in ChatGPT na gida, layi kuma cikin yaren ku. Kuna iya ƙirƙirar taɗi da yawa kuma ku adana maganganunku idan kuna so. Bugu da ƙari, idan kun kunna zaɓi na "Local Server", kuna iya haɗa shi da aikace-aikacen Python ɗinku ta amfani da API mai jituwa na OpenAI.

Zabin 3: Yi amfani da Google AI Studio (kan layi)

Idan ba za ku iya ko ba ku son shigar da wani abu, kuna iya amfani da Gemma 3 kai tsaye daga gajimare tare da Google AI Studio.. Ba a buƙatar shigarwa, amma ana buƙatar haɗin Intanet da asusun Google.

Dole ne kawai ku je aistudio.google.com kuma zaɓi "Gemma 3" daga jerin samfuran. Daga wannan lokacin, zaku iya fara yin hira da ƙirar kamar ingantacciyar sigar Bard ko ChatGPT ce, gami da shigar da hoto.

Shigar da Cloud tare da NodeShift (na zaɓi)

Ga waɗanda ke neman ƙarin iko ko don tura samfurin da ƙwarewa, akwai zaɓi na amfani da sabis na girgije kamar NodeShift. Tare da su, zaku iya hayan injuna tare da GPUs masu ƙarfi kuma ku tsara yanayin ku don gudanar da Gemma 3 ba tare da iyakancewa ba.

Matakai na asali a cikin NodeShift:

1. Irƙiri asusu a app.nodeshift.com.
2. Fara Node GPU na al'ada (misali tare da 2x RTX 4090).
3. Zaɓi hoton da aka riga aka tsara tare da Ubuntu + Nvidia CUDA ko Jupyter Notebook, dangane da ko za ku yi amfani da Ollama ko Transformers.
4. Haɗa ta hanyar SSH kuma shigar da samfurin daga layin umarni.

Irin wannan shigarwa yana ba ku damar yin amfani da saitunan ƙwararru, manufa don samfurin horarwa, kimanta aikin aiki, da dai sauransu Duk da yake ba mahimmanci ga masu amfani da gida ba, yana da amfani ga waɗanda suke so su gwada zurfi ko gina aikace-aikace akan LLMs masu tasowa.

Bukatun tsarin da shawarwarin fasaha

Ba duk samfuran Gemma 3 ne za su yi aiki akan kowane PC ba. A ƙasa za mu bar muku cikakken bayani bisa ga nau'in samfurin:

• para samfurin 1B zuwa 7B: mafi ƙarancin 8 GB na RAM. Suna aiki akan kusan kowane PC na zamani, koda ba tare da GPU ba.
• para 13B model: ana ba da shawarar 16GB zuwa 24GB RAM.
• para 27B model: ana bukata aƙalla 32 GB na RAM kuma zai fi dacewa GPU mai kwazo.

Samun ƙarin RAM yana hanzarta aiki kuma yana hana kurakurai saboda ƙarancin ƙwaƙwalwar ajiya. Yayin da Ollama da LM Studio ke ƙoƙarin amfani da albarkatu yadda ya kamata, zai dogara da yawa akan kayan aikin ku. Bugu da kari, saurin amsa yana inganta sosai idan ana amfani da GPU maimakon CPU.

Shigar da Gemma 3 akan Windows 11 ya fi sauƙi fiye da alama.. Ba kome ba idan kun yanke shawarar amfani da Ollama don sauƙin sa, LM Studio don ƙirar hoto, ko Google AI Studio don kunna shi lafiya a cikin gajimare. Abu mai mahimmanci shine cewa kowace hanya ta dace da matakan ƙwarewa da ƙwarewar fasaha. Yanzu da kun san duk zaɓuɓɓukan da abin da kuke buƙatar farawa, zaku iya fara gwaji tare da wannan basirar wucin gadi na gida mai ban sha'awa a yau.