- Lærðu helstu tæknikröfur til að keyra Qwen AI á tölvunni þinni.
- Fylgdu ítarlegu skrefunum til að setja Ollama og Docker upp á skilvirkan hátt.
- Lærðu hvernig á að setja upp notendavænt grafískt viðmót til að stjórna gervigreind á staðnum.
Gervigreind er orðin ómissandi tæki á tæknisviði nútímans. Qwen AI, þróað af Fjarvistarsönnun Group, stendur upp úr sem einn nýstárlegasti og öflugasti kosturinn. Þó að margar gervigreindarlausnir krefjist varanlegrar nettengingar, Qwen AI er hægt að keyra á staðnum á Windows 11 tölvu, auka stjórn notenda og næði.
Og að nota Qwen AI á staðnum bætir ekki aðeins stöðugan aðgang að þessu tóli, heldur einnig Útrýma þörfinni á að afhjúpa viðkvæm gögn fyrir skýjaþjónustu. Þessi aðferð er tilvalin fyrir forritara, rannsakendur og stórnotendur sem eru að leita að meiri sveigjanleika í daglegu starfi. Næst munum við brjóta niður Allt sem þú þarft að vita til að setja upp og byrja að nota Qwen AI á skilvirkan hátt.
Kröfur til að setja upp Qwen AI á staðnum á tölvunni okkar
Áður en þú byrjar þarftu staðfestu að tölvan þín uppfylli kröfurnar til að keyra Qwen AI.
- að litlar gerðir: Í gerðum eins og þeim sem eru með minna en 4 einn milljarður af breytum, tölva með amk GB RAM 16 og án öflugrar GPU gæti það verið nóg.
- að fullkomnari gerðir: Fyrir gerðir með meiri getu, eins og þær sem eru með 20 milljarða eða fleiri færibreytur, verður hágæða tölva með mörgum skjákortum nauðsynleg. RTX framlenging og minni sem er æðri GB RAM 64.
Los Vélbúnaðarauðlindir eru einnig háðar tiltekinni gerð sem þú vilt setja upp.. Léttari gerðir eins og Qwen2.5-0.5b eru tilvalin fyrir grunnverkefni, en fullkomnari útgáfur eins og Qwen2.5-7b krefjast öflugri stillingar. Það er mikilvægt að meta búnaðinn þinn áður en þú ákveður hvaða gerð á að setja upp.
Að setja upp nauðsynleg verkfæri
Til að keyra Qwen AI á staðnum, Þú þarft að setja upp tvö lykilverkfæri: Ollama y Docker. Hér að neðan munum við útskýra ferlið:
- Ollama: Þetta ókeypis og opna tól gerir þér kleift að keyra tungumálalíkön beint á tölvuna þína. Getur hlaða niður því frá opinbera vefsíðan þín, veldu útgáfuna sem er samhæfð við Windows og fylgdu uppsetningarleiðbeiningunum.
- Hafnarmaður: Docker gerir þér kleift að búa til gáma til að keyra forrit á skilvirkan hátt. Sæktu það frá opinbera síðu þess, stofnaðu reikning og fylgdu uppsetningarskrefunum á kerfinu þínu.
Hvernig á að setja upp Qwen AI líkan
Með Ollama og Docker stillt, Næsta skref er að setja upp Qwen AI líkan. Frá opinberu Ollama vefsíðunni, aðgang að módel kafla og veldu líkanið sem þú vilt nota. Til dæmis, ef þú ákveður að setja upp Qwen2.5 með 0.5b færibreytunni, notaðu samsvarandi skipun sem skráð er á vefsíðunni.
Opnaðu stjórnstöðina (CMD) á tölvunni þinni, límdu skipunina og ýttu á Sláðu inn. Ferlið getur tekið nokkrar mínútur, allt eftir stærð líkansins og hraða tengingarinnar. Þegar því er lokið muntu geta ræst fyrirspurnir beint úr flugstöðinni með tiltekinni keyrsluskipun.
Að setja upp grafískt viðmót
Fyrir þá sem kjósa a meiri sjónræn upplifun, það er hægt að setja upp vefviðmót með Docker. Keyrðu eftirfarandi skipun í CMD Til að búa til gám í Docker:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
Þessi gámur mun opna notendaviðmót í vafranum þínum, aðgengileg í höfn 3000. Hér geturðu stjórnað gervigreindargerðum þínum, hafið samtöl og vistað spjallferil.
Viðbótar samhæfðar gerðir
Auk Qwen AI leyfa Ollama og Docker uppsetningu á öðrum gerðum eins og Llama, Mistral y DeepSeek. Hver hefur sína eigin eiginleika og kosti, svo þú getur kannað nýja valkosti eftir sérstökum þörfum þínum.
Að keyra fleiri gerðir eykur getu kerfisins þíns og gerir þér kleift að framkvæma flóknari greining og háþróuð verkefni án þess að treysta á utanaðkomandi þjónustu.
Að keyra Qwen AI á staðnum býður upp á öfluga lausn fyrir þá sem vilja nýta sér gervigreind til fulls án þess að treysta á internetið eða ytri netþjóna. Þetta ferli tryggir ekki aðeins meira næði heldur einnig gerir þér kleift að sérsníða notkun módelanna í samræmi við sérstakar þarfir hvers notanda.
Þó að það krefjist tækniþekkingar, Árangurinn er þess virði fyrir þá sem vilja nýta sér þessa byltingarkenndu tækni.
Ég er tækniáhugamaður sem hefur breytt "nörda" áhugamálum sínum í fag. Ég hef eytt meira en 10 árum af lífi mínu í að nota háþróaða tækni og fikta í alls kyns forritum af einskærri forvitni. Nú hef ég sérhæft mig í tölvutækni og tölvuleikjum. Þetta er vegna þess að í meira en 5 ár hef ég skrifað fyrir ýmsar vefsíður um tækni og tölvuleiki, búið til greinar sem leitast við að veita þér þær upplýsingar sem þú þarft á tungumáli sem er skiljanlegt fyrir alla.
Ef þú hefur einhverjar spurningar þá nær þekking mín frá öllu sem tengist Windows stýrikerfinu sem og Android fyrir farsíma. Og skuldbinding mín er til þín, ég er alltaf tilbúin að eyða nokkrum mínútum og hjálpa þér að leysa allar spurningar sem þú gætir haft í þessum internetheimi.