तपाईंको Raspberry Pi 1 मा DeepSeek R5 कसरी चरणबद्ध रूपमा चलाउने

तपाईंको Raspberry Pi 1 मा DeepSeek R5 कसरी चलाउने? सक्छ? हेरौं। खुला स्रोत एआई मोडेलहरूको आगमनदेखि, धेरै उत्साहीहरूले तिनीहरूलाई आफ्नै उपकरणहरूमा चलाउने तरिकाहरू खोजिरहेका छन्। सबैभन्दा आशाजनक मध्ये एक DeepSeek R1 हो, जुन चीनमा विकसित गरिएको मोडेल हो जसले OpenAI को सबैभन्दा उन्नत विकल्पहरूसँग प्रतिस्पर्धा गर्न प्रमाणित गरेको छ। तर, ठूलो प्रश्न यही हो।

द्रुत उत्तर हो हो, तर केही सीमितताहरूसँग। यस लेखमा हामी यसलाई काम गर्न के आवश्यक छ भनेर विस्तृत रूपमा विश्लेषण गर्नेछौं, यसलाई कसरी सेट गर्ने y कस्तो परिणामको अपेक्षा गर्न सकिन्छ? उपलब्ध हार्डवेयरमा निर्भर गर्दै। यहाँ हामी तपाईंको Raspberry Pi 1 मा DeepSeek R5 कसरी चलाउने भन्ने बारे लेख प्रस्तुत गर्दछौं। खोज इन्जिन प्रयोग गरेर सम्झनुहोस् Tecnobits, तपाईंले रास्पबेरी र अन्य हार्डवेयर वा सफ्टवेयरको बारेमा थप जानकारी पाउनुहुनेछ।

DeepSeek R1 के हो र यसलाई के ले विशेष बनाउँछ?

DeepSeek R1 एउटा खुला स्रोत AI मोडेल हो जसले समुदायलाई आश्चर्यचकित पारेको छ यसको कारणले गर्दा दक्षता y प्रदर्शन। धेरै अन्य मोडेलहरू भन्दा फरक, यसले स्थानीय हार्डवेयरमा चल्ने सम्भावना प्रदान गर्दछ, जसले यसलाई एक रोचक विकल्प बनाउँछ क्लाउड समाधानहरू ChatGPT जस्तै।

यद्यपि, सबैभन्दा पूर्ण मोडेल, DeepSeek R1 671B ले भन्दा बढी ठाउँ लिन्छ 400 जीबी र राम्रोसँग चल्नको लागि धेरै उच्च-प्रदर्शन ग्राफिक्स कार्डहरू आवश्यक पर्दछ। यद्यपि पूर्ण संस्करण धेरैजसोका लागि अप्राप्य छ, त्यहाँ छन् डिस्टिल्ड संस्करणहरू जुन रास्पबेरी पाई जस्तै सामान्य हार्डवेयरमा चल्न सक्छ।

यदि तपाईंलाई रास्पबेरीको संसार मन पर्छ भने Tecnobits हामीसँग यो हार्डवेयरको बारेमा धेरै जानकारी छ।। उदाहरणका लागि, हामी तपाईंलाई यो समाचार ल्याउँछौं जसमा हामी कुरा गर्छौं रास्पबेरी पाई पिको: नयाँ बोर्ड जसको मूल्य केवल ४ यूरो छ.

Raspberry Pi 1 मा DeepSeek R5 चलाउँदै

रास्पबेरी पाई ५ एक हो शक्तिशाली मिनी पीसी यसको पूर्ववर्तीहरूको तुलनामा, तर कृत्रिम बुद्धिमत्ताको कुरा गर्दा अझै पनि महत्त्वपूर्ण सीमितताहरू छन्। यस उपकरणमा DeepSeek R1 लाई काम गर्नको लागि, यसको सहारा लिनु आवश्यक छ हल्का संस्करणहरु मोडेल को।

पूर्व शर्तहरू

• una रास्पबेरी Pi 5 कम्तिमा ८ जीबी र्‍याम भएको।
• एउटा माइक्रोएसडी कार्ड उच्च क्षमता र गति आवश्यक फाइलहरू भण्डारण गर्न।
• लिनक्समा आधारित अपरेटिङ सिस्टम, जस्तै रास्पबेरी Pi OS वा उबुन्टु।
• मोडेल फाइलहरू डाउनलोड गर्न इन्टरनेट जडान।
• स्थापना र चलाउन टर्मिनलमा पहुँच गर्नुहोस् आवश्यक सफ्टवेयर.

अब हामीसँग तपाईंको Raspberry Pi 1 मा DeepSeek R5 कसरी चलाउने भनेर सिक्न आवश्यक पर्ने सबै कुरा छ।

मुख्य कम्पोनेन्टहरू स्थापना गर्दै

Raspberry Pi मा DeepSeek R1 चलाउनको लागि, तपाईंले एउटा स्थापना गर्नुपर्छ कुञ्जी उपकरण सेट। तल हामी यो कसरी गर्ने भनेर चरणबद्ध रूपमा व्याख्या गर्छौं।

१. Llama.cpp स्थापना गर्दै

Llama.cpp एउटा सफ्टवेयर हो जसले तपाईंलाई यन्त्रहरूमा कुशलतापूर्वक AI मोडेलहरू चलाउन अनुमति दिन्छ सीमित संसाधनहरू। यसलाई स्थापना गर्न, निम्न आदेशहरू प्रयोग गर्नुहोस्:

sudo apt अपडेट र& sudo apt अपग्रेड -y sudo apt स्थापना गर्नुहोस् git cmake build-essential -y git clone https://github.com/ggerganov/llama.cpp.git cd llama.cpp बनाउनुहोस्

यो प्रक्रिया डाउनलोड हुनेछ र संकलन गर्नेछ तपाईंको रास्पबेरी पाईमा रहेको उपकरण।

२. डिस्टिल्ड डिपसिक आर१ मोडेल डाउनलोड गर्दै

Raspberry Pi 5 मा व्यवस्थित कार्यसम्पादन सुनिश्चित गर्न, यो संस्करण प्रयोग गर्न सिफारिस गरिन्छ डिपसिक आर१ १.५बी, जुन लगभग १ GB आकारको छ।

तपाईंले यसलाई पाइथनमा निम्न आदेश प्रयोग गरेर Hugging Face बाट डाउनलोड गर्न सक्नुहुन्छ:

huggingface_hub बाट import snapshot_download snapshot_download(repo_id='DeepSeek-R1-1.5B', local_dir='DeepSeek-R1')

३. सर्भर सेटअप र चलाउने

मोडेल डाउनलोड भएपछि, अर्को चरण भनेको यसलाई Llama.cpp मार्फत चलाउनु हो। निम्न आदेश प्रयोग गर्नुहोस्:

./llama-server --model /path_to_your_model/DeepSeek-R1-1.5B.gguf --पोर्ट १०००० --ctx-आकार १०२४ --n-gpu-तह ४०

यदि सबै कुरा राम्रो भयो भने, सर्भर चलिरहेको हुनेछ http://127.0.0.1:10000.

४. ओपन वेबयूआईसँग एकीकरण

सहजीकरण गर्न अन्तरक्रिया मोडेलको साथ, ओपन वेबयूआई एक ग्राफिकल इन्टरफेस हो जसले तपाईंलाई आदेशहरू नलेखी प्रश्नहरू पठाउन र उत्तरहरू प्राप्त गर्न अनुमति दिन्छ। म्यानुअली। Llama.cpp सर्भरमा जडान गर्न, यी चरणहरू पालना गर्नुहोस्:

1. खोल्नुहोस् WebUI खोल्नुहोस्।
2. सेटिङहरू > जडानहरू > OpenAI मा जानुहोस्।
3. URL प्रविष्ट गर्नुहोस् http://127.0.0.1:10000 सेटिंग्स मा।
4. परिवर्तनहरू बचत गर्नुहोस् र वेब इन्टरफेसबाट DeepSeek R1 प्रयोग गर्न सुरु गर्नुहोस्।

के तपाईंको Raspberry Pi 1 मा DeepSeek R5 कसरी चलाउने भन्ने कुरा स्पष्ट छ? तिम्रो लागि अझै धेरै छ।

कस्तो परिणामको अपेक्षा गर्न सकिन्छ?

यद्यपि DeepSeek R1 Raspberry Pi 5 मा चल्न सक्छ, विचार गर्नुपर्ने धेरै चेतावनीहरू छन्: प्रमुख सीमितता:

• प्रदर्शन धेरै सीमित मोडेलको पूर्ण संस्करणको तुलनामा।
• पाठ उत्पादन ढिलो, विशेष गरी ७B भन्दा बढी प्यारामिटर भएका मोडेलहरूसँग।
• जवाफहरू कम सटीक शक्तिशाली हार्डवेयरमा चल्ने ठूला मोडेलहरूको तुलनामा।

मोडेलका विभिन्न संस्करणहरूसँग गरिएका परीक्षणहरूमा, यो संस्करण फेला पर्यो १.५B सबैभन्दा सिफारिस गरिएको छ Raspberry Pi 5 को लागि, यद्यपि प्रदर्शन अझै पनि सामान्य छ। तपाईंको Raspberry Pi 1 मा DeepSeek R5 कसरी चलाउने भन्ने बारे यो लेख समाप्त गर्नु अघि, हामीसँग हल्का तौलका मोडेलहरूमा विभिन्न प्रयोगका केसहरूको बारेमा तपाईंलाई बताउनको लागि अर्को कुरा छ।

हल्का तौल भएका मोडेलहरूको लागि केसहरू प्रयोग गर्नुहोस्

यद्यपि रास्पबेरी पाईले विशाल मोडेलहरू ह्यान्डल गर्न सक्दैन, स्केल-डाउन संस्करणहरू अझै पनि निश्चित मा उपयोगी हुन सक्छन् परिदृश्य:

• आधारभूत कोड उत्पादन र गणित मद्दत।
• गृह स्वचालन परियोजनाहरूमा स्वचालन।
• एम्बेडेड प्रणालीहरूमा विशिष्ट कार्यहरूको लागि समर्थन।

किफायती हार्डवेयरमा उन्नत एआई मोडेलहरू चलाउन सक्षम हुनु खुला स्रोत संसारमा पक्कै पनि एक प्रमुख कदम हो। यद्यपि रास्पबेरी Pi ५ ले धेरै GPU हरू भएको सर्भरको तुलनात्मक अनुभव प्रदान गर्दैन, यी विकल्पहरूको अन्वेषणले नयाँ कुराहरू खोल्छ सम्भावनाहरू कम लागतको कम्प्युटिङको लागि। यदि तपाईं यसलाई प्रयास गर्न इच्छुक हुनुहुन्छ भने, यस गाइडमा दिइएका चरणहरू पालना गर्नुहोस् र मोडेलका विभिन्न संस्करणहरूसँग प्रयोग गर्नुहोस्। धुन प्रदर्शन तपाईंको आवश्यकता अनुसार। हामी आशा गर्छौं कि तपाईंले आफ्नो Raspberry Pi 1 मा DeepSeek R5 कसरी चलाउने भन्ने बारे यो लेख उपयोगी पाउनुभयो।