- Талаботи асосии техникиро барои иҷро кардани Qwen AI дар компютери худ омӯзед.
- Барои самаранок насб кардани Ollama ва Docker қадамҳои муфассалро иҷро кунед.
- Омӯзед, ки чӣ гуна сохтани интерфейси графикии барои корбар дӯстона барои идоракунии AI ба таври маҳаллӣ.
Зеҳни сунъӣ ба як абзори ҳатмӣ дар соҳаи технологӣ табдил ёфтааст. Qwen AI, таҳия аз ҷониби Гурӯҳи Алибаба, ҳамчун яке аз алтернативаҳои инноватсионӣ ва тавонотарин фарқ мекунад. Гарчанде ки бисёре аз қарорҳои AI пайвасти доимии интернетро талаб мекунанд, Qwen AI-ро метавон ба таври маҳаллӣ дар компютери Windows 11 иҷро кард, баланд бардоштани назорати корбар ва махфият.
Ва истифодаи Qwen AI ба таври маҳаллӣ на танҳо дастрасии доимиро ба ин асбоб беҳтар мекунад, балки инчунин Зарурати фош кардани маълумоти ҳассосро ба хидматҳои абрӣ бартараф мекунад. Ин равиш барои барномасозон, муҳаққиқон ва корбарони қудратманд, ки дар кори ҳаррӯзаи худ чандирии бештар меҷӯянд, беҳтарин аст. Минбаъд, мо вайрон мекунем Ҳамаи шумо бояд донед барои насб кардан ва истифодаи самараноки Qwen AI оғоз кунед.
Талабот барои насб кардани Qwen AI ба таври маҳаллӣ дар компютери мо
Пеш аз он ки шумо оғоз кунед, ба шумо лозим аст санҷед, ки компютери шумо ба талабот барои иҷрои Qwen AI мувофиқат мекунад.
- банди моделҳои хурд: Дар моделҳо ба монанди онҳое, ки камтар аз 4 як миллиард доллар аз параметрҳо, як компютер бо ҳадди ақал 16 GB RAM ва бе GPU пуриқтидор он метавонад кофӣ бошад.
- банди моделҳои пешрафта бештар: Барои моделҳои иқтидори баландтар, ба монанди моделҳои дорои 20 миллиард ё бештар аз параметрҳо, компютери сермаънои дорои кортҳои графикии сершумор лозим мешавад. васеъшавии RTX ва хотираи болотар аз 64 GB RAM.
ба Захираҳои сахтафзор инчунин аз модели мушаххасе, ки шумо насб кардан мехоҳед, вобаста аст.. Моделҳои сабуктар ба монанди Qwen2.5-0.5b барои вазифаҳои асосӣ беҳтарин мебошанд, дар ҳоле ки версияҳои пешрафта бештар ба монанди Qwen2.5-7b конфигуратсияҳои мустаҳкамтарро талаб мекунанд. Пеш аз он ки кадом моделро насб кунед, таҷҳизоти худро арзёбӣ кардан муҳим аст.
Васл кардани асбобхои зарурй
Барои ба таври маҳаллӣ идора кардани Qwen AI, Шумо бояд ду асбоби калидиро насб кунед: Ollama y Доктор. Қуйида жараённи батафсил баён қиламиз:
- Оллама: Ин воситаи озод ва кушодаасос ба шумо имкон медиҳад, ки моделҳои забонро мустақиман дар компютери худ иҷро кунед. Метавонед аз он зеркашӣ кунед вебсайти расмии шумо, версияи бо Windows мувофиқро интихоб кунед ва дастурҳои насбкуниро иҷро кунед.
- Докер: Docker ба шумо имкон медиҳад, ки контейнерҳоро барои самаранок иҷро кардани барномаҳо эҷод кунед. Зеркашӣ кунед аз саҳифаи расмии он, ҳисоб эҷод кунед ва қадамҳои насбкуниро дар системаи худ иҷро кунед.
Чӣ тавр насб кардани модели Qwen AI
Бо конфигуратсияи Ollama ва Docker, Қадами навбатӣ насб кардани модели Qwen AI мебошад. Аз вебсайти расмии Ollama, дастрасӣ ба фасли моделҳо ва моделеро, ки мехоҳед истифода баред, интихоб кунед. Масалан, агар шумо қарор диҳед, ки Qwen2.5-ро бо параметри 0.5b насб кунед, фармони мувофиқи дар вебсайт номбаршударо истифода баред.
Дар компютери худ Терминали Фармонро (CMD) кушоед, фармонро часбонед ва пахш кунед даромадан. Раванд вобаста ба андозаи модел ва суръати пайвасти шумо метавонад якчанд дақиқа тӯл кашад. Пас аз анҷом, шумо метавонед дархостҳоро мустақиман аз Терминал бо фармони мушаххаси иҷро оғоз кунед.
Танзими интерфейси графикӣ
Барои онҳое, ки бартарӣ доранд таҷрибаи бештари визуалӣ, бо истифода аз Docker интерфейси вебро насб кардан мумкин аст. Фармони зеринро дар CMD иҷро кунед Барои сохтани контейнер дар Docker:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
Ин контейнер интерфейси корбарро дар браузери шумо мекушояд, дастрас дар порт 3000. Дар ин ҷо шумо метавонед моделҳои AI-и худро идора кунед, сӯҳбатҳоро оғоз кунед ва таърихи сӯҳбатро захира кунед.
Моделҳои иловагии мувофиқ
Илова ба Qwen AI, Ollama ва Docker имкон медиҳанд, ки моделҳои дигар ба монанди Лама, Мистрал y DeepSeek. Ҳар як хусусият ва манфиатҳои худро дорад, бинобар ин шумо метавонед имконоти навро вобаста ба эҳтиёҷоти мушаххаси худ омӯзед.
Иҷрои моделҳои иловагӣ имкониятҳои системаи шуморо васеъ мекунад ва ба шумо имкон медиҳад, ки иҷро кунед таҳлили мураккабтар ва вазифаҳои пешрафта бидуни такя ба хидматҳои беруна.
Иҷрои Qwen AI ба таври маҳаллӣ барои онҳое, ки мехоҳанд аз зеҳни сунъӣ бе такя ба интернет ё серверҳои беруна бартарии пурра истифода баранд, ҳалли пурқувватеро пешниҳод мекунад. Ин раванд на танҳо махфияти бештарро таъмин мекунад, балки инчунин ба шумо имкон медиҳад, ки истифодаи моделҳоро мувофиқи ниёзҳои мушаххаси ҳар як корбар танзим кунед.
Ҳарчанд он баъзе донишҳои техникиро талаб мекунад, Натичахо арзандаанд барои онҳое, ки мехоҳанд аз ин технологияи инқилобӣ истифода баранд.
Ман як мухлиси технология ҳастам, ки шавқу ҳавасҳои "геик"-и худро ба касб табдил додааст. Ман зиёда аз 10 соли умри худро бо истифода аз технологияи муосир ва бо ҳама намуди барномаҳо аз рӯи кунҷковӣ сарф кардам. Ҳоло ман дар технологияҳои компютерӣ ва бозиҳои видеоӣ тахассус дорам. Ин дар он аст, ки ман зиёда аз 5 сол аст, ки ман барои вебсайтҳои гуногун оид ба технология ва бозиҳои видеоӣ менависам ва мақолаҳое меофаридам, ки ба шумо маълумоти заруриро бо забони барои ҳама фаҳмо пешниҳод мекунанд.
Агар шумо ягон савол дошта бошед, дониши ман аз ҳама чизҳои марбут ба системаи оператсионии Windows ва инчунин Android барои телефонҳои мобилӣ иборат аст. Ва ӯҳдадории ман ба шумост, ман ҳамеша омодаам, ки чанд дақиқа сарф кунам ва ба шумо дар ҳалли ҳама саволҳое, ки дар ин ҷаҳони интернет доред, кӯмак расонам.