Yadda ake gudanar DeepSeek R1 akan Rasberi Pi 5 mataki-mataki

Yadda ake gudanar da DeepSeek R1 akan Rasberi Pi 5 naku? Za a iya? Mu gani. Tun zuwan buɗaɗɗen ƙirar AI, yawancin masu sha'awar suna neman hanyoyin tafiyar da su akan na'urorinsu. Daya daga cikin mafi kyawu shine DeepSeek R1, samfurin da aka kirkira a kasar Sin wanda ya tabbatar da yin gogayya da mafi kyawun zabin OpenAI. Babban tambaya, duk da haka, ita ce wannan.

Amsar da sauri ita ce eh, amma tare da wasu iyakoki. A cikin wannan labarin za mu yi nazari dalla-dalla abin da ake buƙata don yin aiki, yadda ake saita shi y wane sakamako za a iya sa ran dangane da samuwa hardware. Anan zamu tafi tare da labarin kan yadda ake gudanar da DeepSeek R1 akan Rasberi Pi 5. Ka tuna cewa ta amfani da injin bincike Tecnobits, za ku sami ƙarin bayani game da Rasberi da sauran hardware ko software.

Menene DeepSeek R1 kuma menene ya sa ya zama na musamman?

DeepSeek R1 shine samfurin AI mai buɗe ido wanda ya ba da mamaki ga al'umma saboda godiyarsa inganci y yi. Ba kamar sauran samfuran da yawa ba, yana ba da damar yin aiki akan kayan aikin gida, yana mai da shi madadin mai ban sha'awa girgije mafita kamar ChatGPT.

Koyaya, mafi cikakken samfurin, DeepSeek R1 671B, yana ɗaukar fiye da 400 GB kuma yana buƙatar katunan zane mai girma da yawa don aiki da kyau. Kodayake cikakken sigar ba ta samuwa ga yawancin, akwai distilled iri wanda zai iya aiki akan mafi ƙarancin kayan aiki kamar Rasberi Pi.

Idan kuna son duniyar Rasberi a ciki Tecnobits Muna da bayanai da yawa game da kayan aikin da aka ce. Misali, mun kawo muku wannan labari da muke magana akai Rasberi Pi Pico: sabon hukumar da ke biyan Yuro 4 kawai.

Gudun DeepSeek R1 akan Rasberi Pi 5

Rasberi Pi 5 shine a m mini pc idan aka kwatanta da waɗanda suka gabace shi, amma har yanzu yana da ƙayyadaddun iyakoki idan ya zo ga hankali na wucin gadi. Don samun DeepSeek R1 yana aiki akan wannan na'urar, ya zama dole a yi amfani da shi Sigogin wuta na samfurin.

Abubuwan da ake bukata

• Una Rasberi PI 5 tare da akalla 8 GB na RAM.
• Katin microSD na babban iya aiki da sauri don adana fayilolin da ake bukata.
• Tsarin aiki na tushen Linux, kamar Rasberi Pi OS ya da Ubuntu.
• Haɗin Intanet don zazzage fayilolin ƙira.
• Samun dama ga tasha don shigarwa da gudanar da dole software.

Yanzu muna da duk abin da muke buƙata don fara koyon yadda ake gudanar da DeepSeek R1 akan Rasberi Pi 5 na ku.

Shigar da mahimman abubuwan haɗin gwiwa

Don gudanar da DeepSeek R1 akan Rasberi Pi, kuna buƙatar shigar da a saitin kayan aikin maɓalli. A ƙasa muna bayanin mataki-mataki yadda ake yin shi.

1. Shigar da Llama.cpp

Llama.cpp software ce da ke ba ku damar gudanar da samfuran AI da kyau akan na'urori tare da su iyakance albarkatu. Don shigar da shi, yi amfani da umarni masu zuwa:

sudo dace sabunta && sudo dace haɓakawa -y sudo dace shigar git cmake gina-mahimmanci -y git clone https://github.com/ggerganov/llama.cpp.git cd llama.cpp make

Wannan tsari zai sauke kuma zai tattara kayan aiki akan Rasberi Pi.

2. Zazzage samfurin DeepSeek R1 distilled

Don tabbatar da aikin sarrafawa akan Rasberi Pi 5, ana ba da shawarar yin amfani da sigar DeepSeek R1 1.5B, wanda girmansa ya kai 1 GB.

Kuna iya saukar da shi daga Hugging Face tare da umarni mai zuwa a Python:

daga huggingface_hub shigo da snapshot_download snapshot_download(repo_id='DeepSeek-R1-1.5B', local_dir='DeepSeek-R1')

3. Saita da gudanar da uwar garken

Da zarar an sauke samfurin, mataki na gaba shine gudanar da shi tare da Llama.cpp. Yi amfani da umarni mai zuwa:

./llama-uwar garken --model /hanya_to_model_your_model/DeepSeek-R1-1.5B.gguf --tashar jiragen ruwa 10000 --ctx-size 1024 --n-gpu-layers 40

Idan komai yayi kyau, uwar garken zata shiga http://127.0.0.1:10000.

4. Haɗin kai tare da Buɗe WebUI

Don sauƙaƙe Hadin kai Tare da samfurin, Buɗe WebUI shine keɓantaccen hoto wanda ke ba ku damar aika tambayoyi da karɓar amsoshi ba tare da rubuta umarni ba. da hannu. Don haɗawa zuwa uwar garken Llama.cpp, bi waɗannan matakan:

1. Bude WebUI.
2. Je zuwa Saituna> Haɗi> Buɗe AI.
3. Shigar da URL http://127.0.0.1:10000 a cikin saitunan
4. Ajiye canje-canje kuma fara amfani da DeepSeek R1 daga mahaɗin yanar gizo.

Shin ya bayyana yadda ake gudanar da DeepSeek R1 akan Rasberi Pi 5 na ku? Har yanzu akwai sauran a gare ku.

Wane sakamako za a iya sa ran?

Kodayake DeepSeek R1 na iya gudana akan Rasberi Pi 5, akwai wasu fa'idodi da yawa don la'akari: manyan gazawa:

• A yi mai iyaka idan aka kwatanta da cikakken sigar samfurin.
• tsara rubutu lenta, musamman tare da samfura tare da sigogi sama da 7B.
• Amsoshi kasa daidai idan aka kwatanta da manyan samfuran da ke gudana akan kayan aiki masu ƙarfi.

A cikin gwaje-gwajen da aka yi tare da nau'ikan nau'ikan samfurin, an gano cewa sigar 1.5B shine mafi kyawun shawarar don Rasberi Pi 5, kodayake aikin yana da sauƙi. Kafin mu gama wannan labarin kan yadda ake gudanar da DeepSeek R1 akan Rasberi Pi 5 ɗinku muna da wani abu kuma da zamu gaya muku game da lokuta daban-daban na amfani a cikin nau'ikan nauyi.

Yi amfani da lokuta don ƙira masu nauyi

Ko da yake Rasberi Pi ba zai iya ɗaukar manyan samfura ba, juzu'in da aka rage-ƙasa na iya zama da amfani a takamaiman hanyar al'amura:

• Ƙirƙirar lambar asali da taimakon lissafi.
• Automation a cikin ayyukan sarrafa kansa na gida.
• Taimako don takamaiman ayyuka a cikin tsarin da aka haɗa.

Samun damar gudanar da samfuran AI na ci gaba akan kayan masarufi masu araha tabbas babban ci gaba ne a cikin buɗe tushen duniya. Ko da yake Rasberi Pi 5 ba zai ba da gogewa mai kwatankwacin ta uwar garken tare da GPUs da yawa ba, bincika waɗannan zaɓuɓɓukan yana buɗe sabbin. yiwuwa don ƙananan ƙididdiga. Idan kuna sha'awar gwada shi, bi matakan da ke cikin wannan jagorar kuma kuyi gwaji tare da nau'ikan samfurin zuwa kunna aiki ga bukatun ku. Muna fatan kun sami wannan labarin kan yadda ake gudanar da DeepSeek R1 akan Rasberi Pi 5 ɗinku yana da taimako.