- Ionnsaich na riatanasan teicnigeach riatanach gus Qwen AI a ruith air do PC.
- Lean na ceumannan mionaideach gus Ollama agus Docker a stàladh gu h-èifeachdach.
- Ionnsaich mar a stèidhicheas tu eadar-aghaidh grafaigeach a tha furasta a chleachdadh gus AI a riaghladh gu h-ionadail.
Tha inntleachd fuadain air a thighinn gu bhith na inneal riatanach ann an raon teicneòlach an latha an-diugh. Qwen AI, air a leasachadh le Buidheann Alibaba, a’ seasamh a-mach mar aon de na roghainnean eile as ùr-ghnàthach agus as cumhachdaiche. Ged a tha feum aig mòran de fhuasglaidhean AI air ceangal eadar-lìn maireannach, Faodar Qwen AI a ruith gu h-ionadail air coimpiutair Windows 11, ag àrdachadh smachd luchd-cleachdaidh agus prìobhaideachd.
Agus tha cleachdadh Qwen AI gu h-ionadail chan ann a-mhàin a’ leasachadh ruigsinneachd leantainneach air an inneal seo, ach cuideachd A’ cur às don fheum air dàta mothachail a nochdadh do sheirbheisean sgòthan. Tha an dòigh-obrach seo air leth freagarrach airson prògramadairean, luchd-rannsachaidh, agus luchd-cleachdaidh cumhachd a tha a’ coimhead airson barrachd sùbailteachd san obair làitheil aca. An ath rud, bidh sinn a 'briseadh sìos Feumaidh a h-uile dad a bhith agad gus Qwen AI a stàladh agus a thòiseachadh gu h-èifeachdach.
Riatanasan airson Qwen AI a chuir a-steach gu h-ionadail air a’ choimpiutair againn
Mus tòisich thu, feumaidh tu dearbhaich gu bheil an coimpiutair agad a’ coinneachadh ris na riatanasan airson Qwen AI a ruith.
- Para modailean beaga: Ann am modalan mar an fheadhainn le nas lugha na 4 billean de pharamadairean, coimpiutair le co-dhiù 16 GB de RAM agus às aonais GPU cumhachdach is dòcha gum bi e gu leòr.
- Para modalan nas adhartaiche: Airson modalan le comas nas àirde, leithid an fheadhainn le 20 billean no barrachd paramadairean, bidh feum air coimpiutair àrd-choileanadh le ioma chairtean grafaiceachd. RTX agus cuimhne a tha os cionn an 64 GB de RAM.
a ' Tha goireasan bathar-cruaidh cuideachd an urra ris a’ mhodail shònraichte a tha thu airson a stàladh.. Tha modalan nas aotrom mar Qwen2.5-0.5b air leth freagarrach airson gnìomhan bunaiteach, fhad ‘s a tha dreachan nas adhartaiche leithid Qwen2.5-7b feum air rèiteachaidhean nas làidire. Tha e cudromach measadh a dhèanamh air an uidheamachd agad mus dèan thu co-dhùnadh dè am modail a bu chòir a stàladh.
A 'stàladh na h-innealan riatanach
Gus Qwen AI a ruith gu h-ionadail, Feumaidh tu dà phrìomh inneal a stàladh: Olama y Docker. Gu h-ìosal tha sinn a 'toirt cunntas mionaideach air a' phròiseas:
- Olama: Leigidh an t-inneal stòr fosgailte agus an-asgaidh seo dhut modalan cànain a ruith gu dìreach air a’ choimpiutair agad. Faodaidh luchdaich sìos e bho an làrach-lìn oifigeil agad, tagh an dreach a tha co-chosmhail ri Windows agus lean an stiùireadh stàlaichear.
- Docker: Leigidh Docker leat soithichean a chruthachadh gus tagraidhean a ruith gu h-èifeachdach. Luchdaich sìos e bho an duilleag oifigeil aige, cruthaich cunntas agus lean na ceumannan stàlaidh air an t-siostam agad.
Mar a stàlaicheas tu modal Qwen AI
Le Ollama agus Docker air an rèiteachadh, Is e an ath cheum modal Qwen AI a chuir a-steach. Bho làrach-lìn oifigeil Olama, faighinn a-steach don roinn modailean agus tagh am modail a tha thu airson a chleachdadh. Mar eisimpleir, ma cho-dhùnas tu Qwen2.5 a stàladh leis a’ pharamadair 0.5b, cleachd an àithne fhreagarrach a tha air a liostadh air an làrach-lìn.
Fosgail an Terminal Command (CMD) air do choimpiutair, cuir a-steach an àithne agus brùth Cuir a-steach. Faodaidh am pròiseas grunn mhionaidean a thoirt, a rèir meud a 'mhodail agus astar do cheangal. Nuair a bhios tu deiseil, bidh e comasach dhut ceistean a chuir air bhog gu dìreach bhon Terminal leis an àithne ruith sònraichte.
A 'stèidheachadh eadar-aghaidh grafaigeach
Airson an fheadhainn a b ' fheàrr a barrachd eòlas lèirsinneach, tha e comasach eadar-aghaidh lìn a stàladh a’ cleachdadh Docker. Ruith an àithne a leanas ann an CMD Gus soitheach a chruthachadh ann an Docker:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
An soitheach seo fosglaidh e eadar-aghaidh cleachdaiche sa bhrobhsair agad, ruigsinneach anns an port 3000. An seo faodaidh tu na modalan AI agad a riaghladh, còmhraidhean a thòiseachadh, agus eachdraidh cabadaich a shàbhaladh.
Modalan co-fhreagarrach a bharrachd
A bharrachd air Qwen AI, tha Ollama agus Docker a’ ceadachadh modalan eile leithid Lama, Mistral y Sealladh domhainn. Tha na feartan agus na buannachdan aige fhèin aig gach fear, gus an urrainn dhut roghainnean ùra a sgrùdadh a rèir na feumalachdan sònraichte agad.
Le bhith a’ ruith mhodalan a bharrachd leudaichidh sin comasan an t-siostaim agad, a’ toirt cothrom dhut coileanadh mion-sgrùdadh nas iom-fhillte agus gnìomhan adhartach gun a bhith an urra ri seirbheisean bhon taobh a-muigh.
Tha ruith Qwen AI gu h-ionadail a’ tabhann fuasgladh cumhachdach dhaibhsan a tha airson làn bhuannachd a ghabhail de inntleachd fuadain gun a bhith an urra ris an eadar-lìn no frithealaichean bhon taobh a-muigh. Bidh am pròiseas seo chan ann a-mhàin a’ dèanamh cinnteach à barrachd prìobhaideachd, ach cuideachd a 'leigeil leat a ghnàthachadh cleachdadh na modailean a rèir feumalachdan sònraichte gach neach-cleachdaidh.
Ged a tha feum air beagan eòlais theicnigeach, Is fhiach na toraidhean e dhaibhsan a tha airson brath a ghabhail air an teicneòlas rèabhlaideach seo.
Tha mi dèidheil air teicneòlas a tha air na h-ùidhean “geek” aige a thionndadh gu dreuchd. Tha mi air còrr air 10 bliadhna de mo bheatha a chuir seachad a’ cleachdadh teicneòlas ùr-nodha agus a’ tinkering le gach seòrsa prògram a-mach à fìor fheòrachas. A-nis tha mi air speisealachadh ann an teicneòlas coimpiutair agus geamannan bhidio. Tha seo air sgàth gu bheil mi airson còrr is 5 bliadhna air a bhith a’ sgrìobhadh airson diofar làraich-lìn air teicneòlas agus geamannan bhidio, a’ cruthachadh artaigilean a bhios a’ feuchainn ris an fhiosrachadh a tha a dhìth ort a thoirt dhut ann an cànan a tha furasta a thuigsinn don h-uile duine.
Ma tha ceist sam bith agad, tha an t-eòlas agam a’ dol bho gach nì co-cheangailte ri siostam-obrachaidh Windows a bharrachd air Android airson fònaichean-làimhe. Agus tha mo dhealas dhut, tha mi an-còmhnaidh deònach beagan mhionaidean a chaitheamh agus do chuideachadh le bhith a’ fuasgladh cheistean sam bith a dh’ fhaodadh a bhith agad san t-saoghal eadar-lìn seo.