Gemma 3 LLM በዊንዶውስ 11 ላይ ደረጃ በደረጃ እንዴት እንደሚጫን

የክፍት ምንጭ ቋንቋ ሞዴሎች በዘለለ እና ወሰን ተሻሽለዋል፣ እና ዛሬ እንደ ደመና አገልግሎቶች ላይ ሳይወሰን ከግል ኮምፒዩተር በቀጥታ እነሱን መደሰት ይቻላል.. በአሁኑ ጊዜ በጣም ተስፋ ሰጪ ከሆኑት መካከል አንዱ Gemma 3 ፣ የ Google አዲስ LLM ጽሑፍን እና ምስሎችን ለመስራት ባለው ችሎታ ጎልቶ የቆመ ፣ እንዲሁም በላቁ ስሪቶች እስከ 128k ቶከን ያለው ትልቅ አውድ መስኮት። ስለዚህ ልቀት የበለጠ መረጃ ለማግኘት ጽሑፋችንን መጎብኘት ይችላሉ። የጌማ 3 አቀራረብ.

ዊንዶውስ 11 እየተጠቀሙ ከሆነ እና Gemma 3 ን ለሙከራ ወይም ለአገር ውስጥ ምርት ለመጫን የሚፈልጉ ከሆነ፣ ወደ ትክክለኛው ቦታ መጥተዋል። እንደ ኦላማ፣ ኤል ኤም ስቱዲዮ ያሉ በጣም የሚመከሩ አማራጮችን እና እንዲሁም ከGoogle AI ስቱዲዮ ጋር ደመናን መሰረት ያደረገ አማራጭን ጨምሮ በኮምፒዩተራችሁ ላይ ለማንሳት እና ለማስኬድ የሚችሉባቸውን ሁሉንም መንገዶች በዝርዝር እንመርምር። በተጨማሪም, የቴክኒካዊ መስፈርቶችን, የእያንዳንዱን ዘዴ ጥቅሞች እና ይህን ኃይለኛ አርቴፊሻል ኢንተለጀንስ ያለውን አቅም እንዴት በአግባቡ መጠቀም እንደሚቻል.

Gemma 3 ምንድን ነው እና ለምን ይጫኑት?

Gemma 3 በክፍት ምንጭ ፍቃድ በGoogle የተለቀቁ የኤልኤልኤም ሞዴሎች ሶስተኛው ትውልድ ነው።. እንደ ላማ ወይም ሚስትራል ካሉ ቀደምት መፍትሄዎች በተለየ መልኩ ለምስል ግብዓት፣ በጣም ሰፊ አውድ እና ከ140 በላይ ለሆኑ ቋንቋዎች ቀጥተኛ ድጋፍ ይሰጣል። እንደ ፍላጎቶችዎ ፣ ከ 1B እስከ 27B መለኪያዎች ካሉ የአምሳያው ስሪቶች ውስጥ መምረጥ ይችላሉ-

• ጀማ 3፡1ለቀላል ክብደት ያለው ሞዴል ለመሠረታዊ ተግባራት እና በንብረት-ውሱን አካባቢዎች ተስማሚ።
• ጀማ 3፡4ለለመካከለኛ አፕሊኬሽኖች አፈፃፀም እና ቅልጥፍናን ማመጣጠን።
• ጀማ 3፡12ለ፦ ለተወሳሰበ ትንተና፣ ፕሮግራሚንግ እና ባለብዙ ቋንቋ ሂደት የሚመከር።
• ጀማ 3፡27ለበጣም ኃይለኛው አማራጭ፣ ለጠንካራ፣ መልቲ ሞዳል አጠቃቀሞች ከትልቅ የአውድ አቅም ጋር የተነደፈ።

እንደዚህ ያለ የላቀ ሞዴል ከፒሲዎ የማሄድ እድል የጨዋታውን ህግጋት በግላዊነት፣ የምላሽ ፍጥነት እና በሶስተኛ ወገኖች ጥገኝነት ይለውጣል። ከአሁን በኋላ ወርሃዊ ምዝገባዎችን መክፈል ወይም ውሂብዎን መተው አያስፈልግዎትም። የሚያስፈልገው ትንሽ ዝግጅት እና የመማር ፍላጎት ብቻ ነው። የእነዚህ ሞዴሎች ጥቅሞች የበለጠ ለማወቅ ከፈለጉ, ጽሑፋችንን ይመልከቱ ክፍት ክብደት AI ሞዴሎች.

አማራጭ 1፡ ከኦላማ ጋር መጫን

ኦላማ LLMን እንደ Gemma 3 ከዊንዶውስ 11 ለማሄድ ቀላሉ መንገድ ነው።. የእሱ ተርሚናል ላይ የተመሠረተ በይነገጽ ሞዴሎችን በቀላል የትእዛዝ መስመር እንዲጭኑ እና እንዲያሄዱ ያስችልዎታል። በተጨማሪም፣ ከማክሮስ፣ ሊኑክስ እና ዊንዶውስ ጋር ተኳሃኝ ነው፣ ይህም በተለያዩ አካባቢዎች ለመጠቀም ቀላል ያደርገዋል።

ኦላማን ለመጫን እና Gemma 3 ን ለማሄድ ደረጃዎች:

1. ኦፊሴላዊውን ድር ጣቢያ ይድረሱበት፡ ollama.com.
2. ለዊንዶውስ መጫኛውን ያውርዱ እና እንደማንኛውም ፕሮግራም ያሂዱ።
3. Command Prompt (CMD) ወይም PowerShellን ይክፈቱ እና መጫኑን ያረጋግጡ፡-

ollama --version

ሁሉም ነገር ጥሩ ከሆነ አሁን ያሉትን Gemma 3 አብነቶችን ማውረድ ይችላሉ። በሚፈልጉት አብነት ላይ በመመስረት ከእነዚህ ትዕዛዞች ውስጥ አንዱን ብቻ ያሂዱ፡-

ollama run gemma3:1b
ollama run gemma3:4b
ollama run gemma3:12b
ollama run gemma3:27b

አንዴ ከወረዱ በኋላ ሞዴሉን በቀላሉ መጀመር ይችላሉ።. ይህንን ለማድረግ, አሂድ:

ollama init gemma3

ከዚያ ጊዜ ጀምሮ፣ ከኤልኤልኤም ጋር በሚከተሉት መንገዶች መገናኘት መጀመር ይችላሉ።

ollama query gemma3 "¿Cuál es la capital de Japón?"

የመልቲሞዳል ተግባራትን ለመጠቀም ከፈለጉበጥያቄዎችዎ ውስጥ ምስሎችን መጠቀምም ይችላሉ፡-

ollama query gemma3 --image "ruta-de-la-imagen.jpg"

በደንብ እንዲሰራ ምን ያስፈልግዎታል? ምንም እንኳን ኦላማ ጥብቅ ዝቅተኛ መስፈርቶችን ባያስቀምጥም፣ ትላልቅ ሞዴሎች (እንደ 27B) ቢያንስ 32GB RAM ያስፈልጋቸዋል። በ 16 ጂቢ በ 7B ሞዴል ላይ ያለ ችግር መስራት ይችላሉ, እና ምንም እንኳን ጂፒዩ መጠቀም ግዴታ ባይሆንም, በፍጥነት ግን በጣም ይረዳል.

አማራጭ 2፡ LM ስቱዲዮን ተጠቀም

LM ስቱዲዮ LLM ሞዴሎችን ከግራፊክ በይነገጽ በሃገር ውስጥ እንዲጭኑ እና እንዲያሄዱ የሚያስችልዎ ሌላ ነፃ መሳሪያ ነው።. ከዊንዶውስ፣ ማክሮስ እና ሊኑክስ ጋር ተኳሃኝ ነው፣ እና ትልቅ ጥቅሙ ለመስራት ቴክኒካል እውቀትን የማይፈልግ መሆኑ ነው።

መመሪያዎች፡

1. LM ስቱዲዮን ከኦፊሴላዊው ድር ጣቢያ አውርድ lmstudio.ai.
2. Instálalo y ejecútalo.
3. “አግኝ” የሚለውን የማጉያ መስታወት አዶ ላይ ጠቅ ያድርጉ።
4. ያሉትን ሞዴሎች ለማየት በፍለጋ ሞተሩ ውስጥ "Gemma 3" ይተይቡ.

ከመጫንዎ በፊት ሞዴሉ ከመሳሪያዎ ጋር ተኳሃኝ መሆኑን ያረጋግጡ. “ለዚህ ማሽን በጣም ትልቅ ሊሆን ይችላል” የሚለውን ማስጠንቀቂያ ካዩ አሁንም መጫን ይችላሉ፣ ነገር ግን ጥሩ አፈጻጸም ዋስትና የለውም።

አንድ ጊዜ ተኳሃኝ ሞዴል ከወረደ በኋላ፡-

• ለመጫን "Load Model" የሚለውን ይጫኑ.
• ወይም አዲስ ውይይት ይክፈቱ እና ሞዴሉን ከተቆልቋይ ምናሌ ውስጥ ይምረጡ።

የኤል ኤም ስቱዲዮ ምርጡ ነገር እንደ የአካባቢ ውይይት ከመስመር ውጭ እና በእርስዎ ቋንቋ ሆኖ የሚሰራ መሆኑ ነው።. ከፈለጉ ብዙ ውይይቶችን መፍጠር እና ውይይቶችዎን ማስቀመጥ ይችላሉ። በተጨማሪም፣ “Local Server” የሚለውን አማራጭ ካነቁ፣ ከOpenAI-ተኳሃኝ ኤፒአይ በመጠቀም ከPython አፕሊኬሽኖችዎ ጋር ማዋሃድ ይችላሉ።

አማራጭ 3፡ ጎግል AI ስቱዲዮን ተጠቀም (መስመር ላይ)

ምንም ነገር መጫን ካልቻሉ ወይም ካልፈለጉ፣ Gemma 3 ን በቀጥታ ከደመናው በGoogle AI Studio መጠቀም ይችላሉ።. መጫን አያስፈልግም፣ ግን የበይነመረብ ግንኙነት እና የጉግል መለያ ያስፈልጋል።

ብቻ መሄድ አለብህ aistudio.google.com እና ከአምሳያዎች ዝርዝር ውስጥ "Gemma 3" ን ይምረጡ. ከዚያን ጊዜ ጀምሮ፣ የምስል ግቤትን ጨምሮ የላቀ የ Bard ወይም ChatGPT ስሪት ከሆነ ከአምሳያው ጋር ማውራት መጀመር ይችላሉ።

የክላውድ ጭነት በ NodeShift (አማራጭ)

ተጨማሪ ኃይል ለሚፈልጉ ወይም ሞዴሉን በሙያው ለማሰማራትእንደ NodeShift ያሉ የደመና አገልግሎቶችን የመጠቀም አማራጭ አለ። በእነሱ አማካኝነት ኃይለኛ ጂፒዩዎች ያላቸውን ማሽኖች መከራየት እና Gemma 3 ን ያለ ገደብ ለማስኬድ ተስማሚ አካባቢዎን ማዋቀር ይችላሉ።

በ NodeShift ውስጥ መሰረታዊ ደረጃዎች

1. መለያ ይፍጠሩ በ app.nodeshift.com.
2. ብጁ የጂፒዩ መስቀለኛ መንገድ ይጀምሩ (ለምሳሌ በ2x RTX 4090)።
3. ኦላማ ወይም ትራንስፎርመሮችን እየተጠቀሙ እንደሆነ ላይ በመመስረት በኡቡንቱ + Nvidia CUDA ወይም Jupyter Notebook ጋር ቀድሞ የተዋቀረ ምስል ይምረጡ።
4. በ SSH በኩል ይገናኙ እና ሞዴሉን ከትዕዛዝ መስመሩ ይጫኑ.

የዚህ ዓይነቱ ጭነት ለሙያዊ ውቅሮች መዳረሻ ይሰጥዎታል, ሞዴሎችን ለማሰልጠን ተስማሚ, አፈፃፀሙን ለመገምገም, ወዘተ ለቤት ተጠቃሚዎች አስፈላጊ ባይሆንም, በጥልቀት ለመሞከር ወይም በላቁ LLMs ላይ መተግበሪያዎችን ለመገንባት ለሚፈልጉ ጠቃሚ ነው.

የስርዓት መስፈርቶች እና ቴክኒካዊ ምክሮች

ሁሉም Gemma 3 ሞዴሎች በማንኛውም ፒሲ ላይ አይሰሩም. ከዚህ በታች እንደ ሞዴል አይነት አጠቃላይ ማጣቀሻ ትተናል።

• ለ ሞዴሎች 1B እስከ 7Bዝቅተኛ 8 ጊባ ራም. ምንም እንኳን ጂፒዩ ባይኖርም በማንኛውም ዘመናዊ ፒሲ ላይ ይሰራሉ።
• ለ 13 ቢ ሞዴሎች: ይመከራሉ ከ 16GB እስከ 24GB RAM.
• ለ 27 ቢ ሞዴሎች: ያስፈልጋሉ። ቢያንስ 32 ጊባ ራም እና ይመረጣል የተወሰነ ጂፒዩ.

ብዙ ራም መኖሩ ስራውን ያፋጥናል እና በማስታወሻ እጥረት ምክንያት ስህተቶችን ይከላከላል. ኦላማ እና ኤል ኤም ስቱዲዮ ሀብቶችን በብቃት ለመጠቀም ቢሞክሩም፣ በእርስዎ ሃርድዌር ላይ በጣም የተመካ ነው። በተጨማሪም, ከሲፒዩ ይልቅ ጂፒዩ ጥቅም ላይ ከዋለ የምላሽ ፍጥነት በከፍተኛ ሁኔታ ይሻሻላል.

Gemma 3 ን በዊንዶውስ 11 መጫን ከሚመስለው ቀላል ነው።. ኦላማን ለቀላልነቱ፣ ኤል ኤም ስቱዲዮን ለግራፊክ በይነገጹ፣ ወይም ጎግል AI ስቱዲዮን በደመናው ውስጥ ደህንነቱ በተጠበቀ ሁኔታ ለማጫወት ከወሰኑ ምንም ችግር የለውም። ዋናው ነገር እያንዳንዱ ዘዴ ከተለያዩ የልምድ ደረጃዎች እና ቴክኒካዊ ችሎታዎች ጋር የሚስማማ መሆኑ ነው. አሁን ሁሉንም አማራጮች እና ለመጀመር የሚያስፈልግዎትን ነገር ካወቁ፣ ዛሬ በዚህ አስደናቂ የአካባቢ አርቲፊሻል ኢንተለጀንስ ሙከራ ማድረግ ይችላሉ።