તમારા રાસ્પબેરી પાઇ 1 પર ડીપસીક આર5 કેવી રીતે સ્ટેપ બાય સ્ટેપ ચલાવવું

તમારા રાસ્પબેરી પાઇ 1 પર ડીપસીક આર5 કેવી રીતે ચલાવવું? કરી શકો છો? ચાલો જોઈએ. ઓપન સોર્સ AI મોડેલ્સના આગમનથી, ઘણા ઉત્સાહીઓ તેમને પોતાના ઉપકરણો પર ચલાવવાના રસ્તાઓ શોધી રહ્યા છે. સૌથી આશાસ્પદ મોડેલોમાંનું એક ડીપસીક આર1 છે, જે ચીનમાં વિકસાવવામાં આવ્યું છે અને ઓપનએઆઈના સૌથી અદ્યતન વિકલ્પો સાથે સ્પર્ધા કરવા માટે સાબિત થયું છે. જોકે, મોટો પ્રશ્ન આ છે.

ઝડપી જવાબ હા છે, પરંતુ ચોક્કસ મર્યાદાઓ સાથે. આ લેખમાં આપણે તેને કાર્યરત કરવા માટે શું જરૂરી છે તેનું વિગતવાર વિશ્લેષણ કરીશું, તેને કેવી રીતે સેટ કરવું y શું પરિણામ અપેક્ષિત છે ઉપલબ્ધ હાર્ડવેર પર આધાર રાખીને. અહીં આપણે તમારા Raspberry Pi 1 પર DeepSeek R5 કેવી રીતે ચલાવવું તે અંગેનો લેખ રજૂ કરીશું. યાદ રાખો કે સર્ચ એન્જિનનો ઉપયોગ કરીને Tecnobits, તમને રાસ્પબેરી અને અન્ય હાર્ડવેર અથવા સોફ્ટવેર વિશે વધુ માહિતી મળશે.

ડીપસીક R1 શું છે અને તેને શું ખાસ બનાવે છે?

ડીપસીક આર૧ એક ઓપન સોર્સ એઆઈ મોડેલ છે જેણે તેના કારણે સમુદાયને આશ્ચર્યચકિત કરી દીધો છે કાર્યક્ષમતા y કામગીરી. અન્ય ઘણા મોડેલોથી વિપરીત, તે સ્થાનિક હાર્ડવેર પર ચાલવાની શક્યતા પ્રદાન કરે છે, જે તેને એક રસપ્રદ વિકલ્પ બનાવે છે વાદળ ઉકેલો જેમ કે ChatGPT.

જોકે, સૌથી સંપૂર્ણ મોડેલ, ડીપસીક R1 671B, કરતાં વધુ જગ્યા લે છે 400 GB ની અને યોગ્ય રીતે ચલાવવા માટે બહુવિધ ઉચ્ચ-પ્રદર્શન ગ્રાફિક્સ કાર્ડ્સની જરૂર પડે છે. જોકે મોટાભાગના લોકો માટે સંપૂર્ણ સંસ્કરણ અપ્રાપ્ય છે, ત્યાં છે નિસ્યંદિત સંસ્કરણો જે રાસ્પબેરી પાઇ જેવા સામાન્ય હાર્ડવેર પર ચાલી શકે છે.

જો તમને રાસ્પબેરીની દુનિયા ગમે છે Tecnobits અમારી પાસે આ હાર્ડવેર વિશે ઘણી બધી માહિતી છે.. ઉદાહરણ તરીકે, અમે તમારા માટે આ સમાચાર લાવ્યા છીએ જેમાં અમે વાત કરીએ છીએ રાસ્પબેરી પી પીકો: નવું બોર્ડ જેની કિંમત ફક્ત 4 યુરો છે.

રાસ્પબેરી પાઇ 1 પર ડીપસીક R5 ચલાવવું

રાસ્પબેરી પાઇ 5 એ શક્તિશાળી મીની પીસી તેના પુરોગામીઓની તુલનામાં, પરંતુ કૃત્રિમ બુદ્ધિમત્તાની વાત આવે ત્યારે હજુ પણ નોંધપાત્ર મર્યાદાઓ છે. આ ઉપકરણ પર ડીપસીક R1 ને કાર્યરત કરવા માટે, તેનો આશરો લેવો જરૂરી છે હળવા આવૃત્તિઓ મોડેલની.

પૂર્વજરૂરીયાતો

• ઉના રાસ્પબેરી પી 5 ઓછામાં ઓછી 8 GB RAM સાથે.
• એક માઇક્રોએસડી કાર્ડ ઉચ્ચ ક્ષમતા અને ગતિ જરૂરી ફાઈલો સંગ્રહવા માટે.
• લિનક્સ-આધારિત ઓપરેટિંગ સિસ્ટમ, જેમ કે રાસ્પબેરી પી ઓએસ અથવા ઉબુન્ટુ.
• મોડેલ ફાઇલો ડાઉનલોડ કરવા માટે ઇન્ટરનેટ કનેક્શન.
• ઇન્સ્ટોલ કરવા અને ચલાવવા માટે ટર્મિનલની ઍક્સેસ જરૂરી સ softwareફ્ટવેર.

હવે આપણી પાસે તમારા Raspberry Pi 1 પર DeepSeek R5 કેવી રીતે ચલાવવું તે શીખવા માટે જરૂરી બધું છે.

મુખ્ય ઘટકો સ્થાપિત કરી રહ્યા છીએ

રાસ્પબેરી પાઇ પર ડીપસીક R1 ચલાવવા માટે, તમારે એક ઇન્સ્ટોલ કરવાની જરૂર છે કી ટૂલ સેટ. નીચે આપણે તે કેવી રીતે કરવું તે પગલું દ્વારા પગલું સમજાવીએ છીએ.

1. Llama.cpp ઇન્સ્ટોલ કરવું

Llama.cpp એ એક સોફ્ટવેર છે જે તમને ઉપકરણો પર AI મોડેલ્સને કાર્યક્ષમ રીતે ચલાવવાની મંજૂરી આપે છે મર્યાદિત સંસાધનો. તેને ઇન્સ્ટોલ કરવા માટે, નીચેના આદેશોનો ઉપયોગ કરો:

સુડો એપ્ટ અપડેટ અને& સુડો એપ્ટ અપગ્રેડ -વાય સુડો એપ્ટ ઇન્સ્ટોલ ગિટ સીએમકે બિલ્ડ-એસેન્શિયલ -વાય ગિટ ક્લોન https://github.com/ggerganov/llama.cpp.git સીડી લામા.સીપીપી બનાવો

આ પ્રક્રિયા ડાઉનલોડ થશે અને સંકલન કરશે તમારા રાસ્પબેરી પાઇ પરનું સાધન.

2. ડિસ્ટિલ્ડ ડીપસીક R1 મોડેલ ડાઉનલોડ કરી રહ્યા છીએ

Raspberry Pi 5 પર વ્યવસ્થિત કામગીરી સુનિશ્ચિત કરવા માટે, સંસ્કરણનો ઉપયોગ કરવાની ભલામણ કરવામાં આવે છે ડીપસીક R1 1.5B, જેનું કદ લગભગ 1 GB છે.

તમે તેને Python માં નીચેના આદેશનો ઉપયોગ કરીને Hugging Face પરથી ડાઉનલોડ કરી શકો છો:

huggingface_hub માંથી import snapshot_download snapshot_download(repo_id='DeepSeek-R1-1.5B', local_dir='DeepSeek-R1')

૩. સર્વર સેટઅપ અને ચલાવવું

એકવાર મોડેલ ડાઉનલોડ થઈ જાય, પછી આગળનું પગલું તેને Llama.cpp સાથે ચલાવવાનું છે. નીચેનો આદેશ વાપરો:

./llama-server --model /path_to_your_model/DeepSeek-R1-1.5B.gguf --port 10000 --ctx-size 1024 --n-gpu-લેયર્સ 40

જો બધું બરાબર રહ્યું, તો સર્વર ચાલુ થશે http://127.0.0.1:10000.

4. ઓપન વેબયુઆઈ સાથે એકીકરણ

સગવડ કરવા માટે વાર્તાલાપ મોડેલ સાથે, ઓપન વેબયુઆઈ એક ગ્રાફિકલ ઇન્ટરફેસ છે જે તમને આદેશો લખ્યા વિના પ્રશ્નો મોકલવા અને જવાબો પ્રાપ્ત કરવાની મંજૂરી આપે છે. જાતે. Llama.cpp સર્વર સાથે કનેક્ટ થવા માટે, આ પગલાં અનુસરો:

1. ખોલો WebUI ખોલો.
2. સેટિંગ્સ > કનેક્શન્સ > OpenAI પર જાઓ.
3. URL દાખલ કરો http://127.0.0.1:10000 સેટિંગ્સમાં.
4. ફેરફારો સાચવો અને વેબ ઇન્ટરફેસમાંથી DeepSeek R1 નો ઉપયોગ શરૂ કરો.

શું તમારા રાસ્પબેરી પાઇ 1 પર ડીપસીક આર5 કેવી રીતે ચલાવવું તે સ્પષ્ટ છે? તમારા માટે હજુ ઘણું બાકી છે.

કયા પરિણામોની અપેક્ષા રાખી શકાય?

જોકે ડીપસીક R1 રાસ્પબેરી પાઇ 5 પર ચાલી શકે છે, ધ્યાનમાં લેવા જેવી ઘણી ચેતવણીઓ છે: મુખ્ય મર્યાદાઓ:

• એક પ્રદર્શન ખૂબ મર્યાદિત મોડેલના સંપૂર્ણ સંસ્કરણની તુલનામાં.
• ટેક્સ્ટ જનરેશન ધીમું, ખાસ કરીને 7B થી વધુ પરિમાણો ધરાવતા મોડેલો સાથે.
• જવાબો ઓછી ચોક્કસ શક્તિશાળી હાર્ડવેર પર ચાલતા મોટા મોડેલોની તુલનામાં.

મોડેલના વિવિધ સંસ્કરણો સાથે હાથ ધરવામાં આવેલા પરીક્ષણોમાં, એવું જાણવા મળ્યું કે સંસ્કરણ 1.5B સૌથી વધુ ભલામણ કરેલ છે રાસ્પબેરી પાઇ 5 માટે, જોકે કામગીરી હજુ પણ સાધારણ છે. તમારા Raspberry Pi 1 પર DeepSeek R5 કેવી રીતે ચલાવવું તે અંગેનો આ લેખ પૂરો કરીએ તે પહેલાં, હળવા વજનના મોડેલોમાં વિવિધ ઉપયોગના કિસ્સાઓ વિશે તમને કંઈક બીજું કહેવાનું છે.

હળવા વજનના મોડેલો માટે કેસનો ઉપયોગ કરો

જોકે રાસ્પબેરી પાઇ વિશાળ મોડેલોને હેન્ડલ કરી શકતું નથી, તેમ છતાં સ્કેલ-ડાઉન વર્ઝન ચોક્કસ કિસ્સાઓમાં ઉપયોગી થઈ શકે છે દૃશ્યો:

• મૂળભૂત કોડ જનરેશન અને ગણિતમાં મદદ.
• હોમ ઓટોમેશન પ્રોજેક્ટ્સમાં ઓટોમેશન.
• એમ્બેડેડ સિસ્ટમોમાં ચોક્કસ કાર્યો માટે સપોર્ટ.

સસ્તા હાર્ડવેર પર અદ્યતન AI મોડેલો ચલાવવા સક્ષમ બનવું એ ઓપન સોર્સ વિશ્વમાં ચોક્કસપણે એક મોટું પગલું છે. જોકે રાસ્પબરી પી 5 બહુવિધ GPU ધરાવતા સર્વર જેવો અનુભવ પ્રદાન કરશે નહીં, આ વિકલ્પોનું અન્વેષણ કરવાથી નવા ખુલે છે શક્યતાઓ ઓછા ખર્ચે કમ્પ્યુટિંગ માટે. જો તમને તે અજમાવવામાં રસ હોય, તો આ માર્ગદર્શિકામાં આપેલા પગલાં અનુસરો અને મોડેલના વિવિધ સંસ્કરણો સાથે પ્રયોગ કરો ટ્યુન પ્રદર્શન તમારી જરૂરિયાતો અનુસાર. અમને આશા છે કે તમારા રાસ્પબેરી પાઇ 1 પર ડીપસીક આર5 કેવી રીતે ચલાવવું તે અંગેનો આ લેખ તમને મદદરૂપ થયો હશે.