Pehea e holo ai i DeepSeek R1 ma kāu Raspberry Pi 5 i kēlā me kēia pae

Pehea e holo ai i DeepSeek R1 ma kāu Raspberry Pi 5? Hiki? E nana kakou. Mai ka hiki ʻana mai o nā kumu hoʻohālike AI, nui nā mea hoihoi e ʻimi nei i nā ala e holo ai lākou ma kā lākou mau polokalamu ponoʻī. ʻO kekahi o nā mea hoʻohiki ʻoi loa ʻo DeepSeek R1, kahi kumu hoʻohālike i kūkulu ʻia ma Kina i hōʻike ʻia e hoʻokūkū me nā koho kiʻekiʻe loa o OpenAI. ʻO ka nīnau nui naʻe, ʻo ia kēia.

ʻO ka pane wikiwiki he ʻae, akā me kekahi mau palena. Ma kēia ʻatikala e nānā pono mākou i nā mea e pono ai e hana, pehea e hoonoho ai y he aha ka hopena e manaʻo ʻia ma muli o ka lako lako. Eia mākou e hele ai me ka ʻatikala e pili ana i ka holo ʻana iā DeepSeek R1 ma kāu Raspberry Pi 5. E hoʻomanaʻo i ka hoʻohana ʻana i ka ʻenekini huli. Tecnobits, e loaʻa iā ʻoe ka ʻike hou aku e pili ana i ka Raspberry a me nā lako a i ʻole nā ​​​​polokalamu ʻē aʻe.

He aha ka DeepSeek R1 a he aha ka mea kūikawā?

ʻO DeepSeek R1 kahi kumu hoʻohālike AI i kāhāhā i ke kaiāulu mahalo i kāna ka maikaʻi y hana. ʻAʻole like me nā hiʻohiʻona ʻē aʻe, hāʻawi ia i ka hiki ke holo ma luna o nā lako kūloko, e lilo ia i mea hoihoi ʻĀnō o ke ao like me ChatGPT.

Eia naʻe, ʻo ka hiʻohiʻona piha loa, ʻo ka DeepSeek R1 671B, ʻoi aku ka nui ma mua o 400 GB a koi i nā kāleka kiʻi kiʻekiʻe e holo pono. ʻOiai ʻaʻole hiki ke loaʻa ka mana piha no ka hapa nui, aia nā mana hoʻoheheʻe hiki ke holo ma luna o nā lako hana maʻalahi e like me ka Raspberry Pi.

Inā makemake ʻoe i ka honua o Raspberry i loko Tecnobits Nui nā ʻike e pili ana i kēia hāmeʻa. No ka laʻana, lawe mākou iā ʻoe i kēia nūhou a mākou e kamaʻilio nei ʻO Raspberry Pi Pico: ka papa hou e kūʻai wale ana i 4 euros.

Ke holo nei ʻo DeepSeek R1 ma kahi Raspberry Pi 5

ʻO ka Raspberry Pi 5 kahi mini pc ikaika hoʻohālikelike ʻia i kona mau mua, akā he mau palena koʻikoʻi nō naʻe i ka wā e pili ana i ka naʻauao artificial. No ka loaʻa ʻana o DeepSeek R1 e hana ana ma kēia hāmeʻa, pono e huli i mana mana o ke kumu hoohalike.

Mea pono

• Una Piʻi Piʻi 5 me ka liʻiliʻi o 8 GB o RAM.
• He kāleka microSD o hiki ke kiʻekiʻe a me ka wikiwiki e mālama i nā faila pono.
• ʻO kahi ʻōnaehana hana Linux, e like me Hoʻolālā Piila Pi Pi a i ʻole ʻo Ubuntu.
• Pili pūnaewele no ka hoʻoili ʻana i nā faila kumu hoʻohālike.
• Loaʻa i kahi kikowaena e hoʻokomo a holo i ka lako polokalamu pono.

I kēia manawa ua loaʻa iā mākou nā mea āpau e hoʻomaka ai e aʻo pehea e holo ai DeepSeek R1 ma kāu Raspberry Pi 5.

Ke hoʻokomo nei i nā ʻāpana kī

No ka holo ʻana iā DeepSeek R1 ma Raspberry Pi, pono ʻoe e hoʻokomo i kahi mea paahana kī. Ma lalo nei mākou e wehewehe i kēlā me kēia pae pehea e hana ai.

1. Ke hoʻokomo ʻana iā Llama.cpp

He polokalamu ʻo Llama.cpp e hiki ai iā ʻoe ke holo pono i nā hiʻohiʻona AI ma nā polokalamu me kaupalena waiwai. No ka hoʻouka ʻana, e hoʻohana i kēia mau kauoha:

sudo apt update && sudo apt upgrade -y sudo apt hoʻokomo i ka git cmake build-essential -y git clone https://github.com/ggerganov/llama.cpp.git cd llama.cpp make

E hoʻoiho kēia kaʻina hana a e hōʻuluʻulu ka mea hana ma kāu Raspberry Pi.

2. Hoʻoiho ʻana i ke kumu hoʻohālike DeepSeek R1

No ka hōʻoia ʻana i ka hana hiki ke mālama ʻia ma Raspberry Pi 5, pono e hoʻohana i ka mana Huli Huli R1 1.5B, ma kahi o 1 GB ka nui.

Hiki iā ʻoe ke hoʻoiho iā ia mai ka Hugging Face me kēia kauoha ma Python:

mai huggingface_hub lawe mai snapshot_download snapshot_download(repo_id='DeepSeek-R1-1.5B', local_dir='DeepSeek-R1')

3. Hoʻonohonoho a holo i ke kikowaena

Ke hoʻoiho ʻia ke kumu hoʻohālike, ʻo ka hana aʻe e holo me Llama.cpp. E hoʻohana i kēia kauoha:

./llama-server --model /path_to_your_model/DeepSeek-R1-1.5B.gguf --port 10000 --ctx-size 1024 --n-gpu-layers 40

Inā maikaʻi nā mea a pau, e holo ana ke kikowaena http://127.0.0.1:10000.

4. Hoʻohui me Open WebUI

E kōkua i ka Pākuʻi Me ke kumu hoʻohālike, Open WebUI he kiʻi kiʻi e hiki ai iā ʻoe ke hoʻouna i nā nīnau a loaʻa nā pane me ka ʻole e kākau i nā kauoha. manual. No ka hoʻopili ʻana i ke kikowaena Llama.cpp, e hahai i kēia mau ʻanuʻu:

1. E wehe i ka WebUI.
2. E hele i nā hoʻonohonoho> Hoʻohui> OpenAI.
3. E hoʻokomo i ka URL http://127.0.0.1:10000 i nā hoʻonohonoho.
4. E mālama i nā hoʻololi a hoʻomaka i ka hoʻohana ʻana iā DeepSeek R1 mai ke kikowaena pūnaewele.

Ua maopopo pehea e holo ai i DeepSeek R1 ma kāu Raspberry Pi 5? He mea hou aku no oe.

He aha nā hopena e hiki ke manaʻo ʻia?

ʻOiai hiki ke holo ʻo DeepSeek R1 ma Raspberry Pi 5, aia kekahi mau ana e noʻonoʻo ai: nā palena nui:

• He hana palena loa i hoʻohālikelike ʻia i ka mana piha o ke kumu hoʻohālike.
• Hanana kikokikona lohi, ʻoi aku me nā hiʻohiʻona me nā ʻāpana ʻoi aku ma mua o 7B.
• Nā pane emi pololei hoʻohālikelike ʻia me nā hiʻohiʻona nui e holo ana ma luna o nā lako ikaika.

Ma nā ho'āʻo i hanaʻia me nāʻano likeʻole o ke kŘkohu, uaʻikeʻia ka mana ʻO 1.5B ka mea i manaʻo nui ʻia no Raspberry Pi 5, ʻoiai he haʻahaʻa ka hana. Ma mua o ka hoʻopau ʻana i kēia ʻatikala pehea e holo ai i DeepSeek R1 ma kāu Raspberry Pi 5 he mea ʻē aʻe mākou e haʻi iā ʻoe e pili ana i nā hihia hoʻohana like ʻole i nā hiʻohiʻona māmā.

E hoʻohana i nā hihia no nā hiʻohiʻona māmā

ʻOiai ʻaʻole hiki i kahi Raspberry Pi ke mālama i nā hiʻohiʻona nunui, hiki ke hoʻohana ʻia nā mana i hoʻemi ʻia i kekahi hōʻike i nā hiʻohiʻona:

• Hoʻokumu code kumu a me ke kōkua makemakika.
• ʻO ka hoʻomaʻamaʻa ʻana i nā papahana home automation.
• Kākoʻo no nā hana kikoʻī i nā ʻōnaehana hoʻokomo.

ʻO ka hiki ke holo i nā hiʻohiʻona AI kiʻekiʻe ma nā lako pono kūpono he hana nui i mua i ka honua open source. ʻOiai ka ʻOiwi Pi 5 ʻaʻole e hāʻawi i kahi ʻike e hoʻohālikelike ʻia me kahi kikowaena me nā GPU he nui, ʻo ka ʻimi ʻana i kēia mau koho e wehe hou. nā mea hiki no ka helu helu haʻahaʻa. Inā makemake ʻoe i ka hoʻāʻo ʻana, e hahai i nā ʻanuʻu o kēia alakaʻi a hoʻokolohua me nā ʻano like ʻole o ke kumu hoʻohālike i hoʻokani kani i kou pono. Manaʻo mākou ua loaʻa iā ʻoe kēia ʻatikala pehea e holo ai i DeepSeek R1 ma kāu Raspberry Pi 5 kōkua.