Ինչպես տեղադրել Qwen AI-ն Windows 11-ում տեղական մակարդակում

Արհեստական ​​ինտելեկտը դարձել է անփոխարինելի գործիք այսօրվա տեխնոլոգիական ոլորտում։ Qwen AI, մշակված է Alibaba Group, առանձնանում է որպես ամենանորարար և հզոր այլընտրանքներից մեկը։ Չնայած AI-ի շատ լուծումներ պահանջում են մշտական ​​ինտերնետ կապ, Qwen AI-ն կարող է լոկալ գործարկվել Windows 11 համակարգչի վրա, ավելացնելով օգտվողների վերահսկողությունը և գաղտնիությունը:

Իսկ Qwen AI-ի լոկալ օգտագործումը ոչ միայն բարելավում է շարունակական մուտքն այս գործիքին, այլ նաև Վերացնում է ամպային ծառայությունների համար զգայուն տվյալների բացահայտման անհրաժեշտությունը. Այս մոտեցումը իդեալական է ծրագրավորողների, հետազոտողների և հզոր օգտատերերի համար, ովքեր ավելի շատ ճկունություն են փնտրում իրենց ամենօրյա աշխատանքում: Հաջորդը, մենք կոտրելու ենք Ձեզ անհրաժեշտ է միայն իմանալ տեղադրել և սկսել արդյունավետ օգտագործել Qwen AI-ն:

Qwen AI-ն մեր համակարգչում տեղայնորեն տեղադրելու պահանջներ

Նախքան սկսելը, ձեզ հարկավոր է ստուգեք, որ ձեր համակարգիչը համապատասխանում է Qwen AI-ն գործարկելու պահանջներին.

• դեպի փոքր մոդելներ. Այնպիսի մոդելներում, ինչպիսիք են ավելի քիչ, քան 4 մեկ միլիարդ պարամետրերի, համակարգիչ առնվազն GB RAM 16 և առանց հզոր GPU-ի դա կարող է բավարար լինել:
• դեպի ավելի առաջադեմ մոդելներԱվելի բարձր հզորությամբ մոդելների համար, ինչպիսիք են 20 միլիարդ և ավելի պարամետրեր ունեցողները, կպահանջվի բարձրորակ համակարգիչ՝ բազմաթիվ գրաֆիկական քարտերով: Rtx և ավելի լավ հիշողություն GB RAM 64.

The Սարքավորումների ռեսուրսները նույնպես կախված են կոնկրետ մոդելից, որը ցանկանում եք տեղադրել:. Ավելի թեթև մոդելներ, ինչպիսիք են Qwen2.5-0.5b իդեալական են հիմնական առաջադրանքների համար, մինչդեռ ավելի առաջադեմ տարբերակները, ինչպիսիք են Qwen2.5-7b պահանջում են ավելի ամուր կոնֆիգուրացիաներ: Կարևոր է գնահատել ձեր սարքավորումը նախքան որոշել, թե որ մոդելը տեղադրել:

Անհրաժեշտ գործիքների տեղադրում

Qwen AI-ն լոկալ գործարկելու համար, Ձեզ անհրաժեշտ կլինի տեղադրել երկու հիմնական գործիք՝ Օլամա y դոկեր. Ստորև ներկայացնում ենք գործընթացը.

• Օլլամա. Այս անվճար և բաց կոդով գործիքը թույլ է տալիս գործարկել լեզվի մոդելները անմիջապես ձեր համակարգչում: Կարող է բեռնել այն ձեր պաշտոնական կայքը, ընտրեք Windows-ի հետ համատեղելի տարբերակը և հետևեք տեղադրողի հրահանգներին:
• Docker: Docker-ը թույլ է տալիս ստեղծել կոնտեյներներ՝ հավելվածներն արդյունավետ գործարկելու համար: Ներբեռնեք այն դրա պաշտոնական էջը, ստեղծեք հաշիվ և հետևեք տեղադրման քայլերին ձեր համակարգում:

Ինչպես տեղադրել Qwen AI մոդելը

Օլլամայի և Դոկերի կազմաձևերով, Հաջորդ քայլը Qwen AI մոդելի տեղադրումն է. Օլլամայի պաշտոնական կայքից, մուտք դեպի մոդելների բաժինը և ընտրեք այն մոդելը, որը ցանկանում եք օգտագործել. Օրինակ, եթե որոշեք տեղադրել Qwen2.5-ը 0.5b պարամետրով, օգտագործեք կայքում նշված համապատասխան հրամանը:

Բացեք Command Terminal (CMD) ձեր համակարգչում, տեղադրեք հրամանը և սեղմեք Մտնել. Գործընթացը կարող է տևել մի քանի րոպե՝ կախված մոդելի չափից և կապի արագությունից: Ավարտելուց հետո դուք կկարողանաք հարցումներ գործարկել անմիջապես Տերմինալից՝ հատուկ գործարկման հրամանով:

Գրաֆիկական ինտերֆեյսի կարգավորում

Նրանց համար, ովքեր նախընտրում են ա ավելի շատ տեսողական փորձ, հնարավոր է տեղադրել վեբ ինտերֆեյս Docker-ի միջոցով։ Գործարկեք հետևյալ հրամանը CMD-ում Docker-ում կոնտեյներ ստեղծելու համար՝

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Այս կոնտեյները կբացի օգտատիրոջ միջերեսը ձեր բրաուզերում, հասանելի է նավահանգիստ 3000. Այստեղ դուք կարող եք կառավարել ձեր AI մոդելները, սկսել զրույցներ և պահպանել զրույցի պատմությունները:

Լրացուցիչ համատեղելի մոդելներ

Բացի Qwen AI-ից, Ollama-ն և Docker-ը թույլ են տալիս տեղադրել այլ մոդելներ, ինչպիսիք են Լամա, Mistral y DeepSeek. Յուրաքանչյուրն ունի իր առանձնահատկություններն ու առավելությունները, այնպես որ կարող եք ուսումնասիրել նոր տարբերակներ՝ կախված ձեր հատուկ կարիքներից:

Լրացուցիչ մոդելների գործարկումն ընդլայնում է ձեր համակարգի հնարավորությունները՝ թույլ տալով ձեզ կատարելագործել ավելի բարդ վերլուծություն և առաջադեմ առաջադրանքներ՝ առանց արտաքին ծառայությունների վրա հենվելու.

Տեղական Qwen AI-ն առաջարկում է հզոր լուծում նրանց համար, ովքեր ցանկանում են լիարժեք օգտվել արհեստական ​​ինտելեկտից՝ առանց ինտերնետի կամ արտաքին սերվերների վրա հենվելու: Այս գործընթացը ոչ միայն ապահովում է ավելի մեծ գաղտնիություն, այլեւ թույլ է տալիս հարմարեցնել մոդելների օգտագործումը յուրաքանչյուր օգտագործողի հատուկ կարիքներին համապատասխան.

Չնայած այն պահանջում է որոշակի տեխնիկական գիտելիքներ, Արդյունքներն արժե այն նրանց համար, ովքեր ցանկանում են օգտվել այս հեղափոխական տեխնոլոգիայից: