- Ko DeepSeek R1 he tauira AI tuwhera ka taea te whakahaere i runga i nga taputapu o te rohe me etahi here.
- Ka taea e te Raspberry Pi 5 te whakahaere i nga putanga tapahi-iho o te tauira, i te mea e hiahia ana te tauira ki nga taputapu kaha.
- Ka taea te whakamahi i nga tauira kua whakakorehia ki te whakapai ake i te pai me te urutau ki nga taputapu iti ake nga rauemi.
- Llama.cpp me te Open WebUI he taputapu matua hei whakahaere i te DeepSeek R1 i te rohe i runga i te huarahi ngawari.
Me pehea te whakahaere DeepSeek R1 i runga i to Raspberry Pi 5? Ka taea? Kia kite tatou. Mai i te taenga mai o nga tauira AI tuwhera, he maha nga kaiwhaiwhai e rapu huarahi ki te whakahaere i a raatau ake taputapu. Ko tetahi o nga mea tino pai ko DeepSeek R1, he tauira i whakawhanakehia i Haina kua whakamatauria ki te whakataetae me nga whiringa tino matatau a OpenAI. Ko te patai nui, ko tenei.
Ko te whakautu tere he ae, engari me etahi here. I roto i tenei tuhinga ka tirotirohia e maatau nga mea e hiahiatia ana kia pai ai te mahi, me pēhea te whirihora y he aha te hua ka taea te tumanako i runga i nga taputapu e waatea ana. I konei ka haere matou me te tuhinga mo te whakahaere DeepSeek R1 i runga i to Raspberry Pi 5. Kia mahara ki te whakamahi i te miihini rapu Tecnobits, ka kitea e koe etahi atu korero mo te Raspberry me etahi atu taputapu, rorohiko ranei.
He aha te DeepSeek R1 he aha te mea motuhake?
Ko DeepSeek R1 he tauira AI puna tuwhera i miharo te hapori ki tana mihi whai huatanga y mahi. Kaore i rite ki te maha atu o nga tauira, ka taea e ia te whakahaere i runga i nga taputapu o te rohe, na te mea he pai ke atu soluciones en la nube como ChatGPT.
Heoi, ko te tauira tino oti, ko te DeepSeek R1 671B, ka nui ake i te 400 GB me te hiahia kia maha nga kaari whakairoiro mahi teitei kia pai te whakahaere. Ahakoa kare e taea e te nuinga te putanga katoa, kei reira ano putanga maturu ka taea te whakahaere i runga i nga taputapu ngawari penei i te Raspberry Pi.
Mena he pai ki a koe te ao o Raspberry i roto Tecnobits He maha nga korero mo tenei taputapu. Hei tauira, ka kawea mai e matou tenei korero e korero ana matou Raspberry Pi Pico: la nueva placa que vale solo 4 euros.
Te whakahaere i te DeepSeek R1 i runga i te Raspberry Pi 5
Ko te Raspberry Pi 5 he a mini pc kaha ka whakatauritea ki o mua, engari he nui tonu nga here ina tae mai ki te matauranga hangai. Ki te mahi DeepSeek R1 i runga i tenei taputapu, he mea tika ki te haere ki versiones más ligeras o te tauira.
Ngā whakaritenga o mua
- He Rāhipere Pi 5 con al menos 8 GB de RAM.
- He kaari microSD o te kaha nui me te tere ki te penapena i nga konae e tika ana.
- He punaha whakahaere a Linux, penei i Pūnaha Whakahaere o te Rāhipere Pi o Ubuntu.
- Hononga ipurangi ki te tango i nga konae tauira.
- Te uru ki te tauranga ki te whakauru me te whakahaere i te software necesario.
Inaianei kei a matou nga mea katoa hei timata ki te ako me pehea te whakahaere DeepSeek R1 i runga i to Raspberry Pi 5.
Te whakauru i nga waahanga matua
Hei whakahaere i te DeepSeek R1 i runga i te Raspberry Pi, me whakauru koe he huinga taputapu matua. Kei raro nei ka whakamaramahia e maatau nga taahiraa me pehea te mahi.
1. Tāuta Llama.cpp
He pūmanawa a Llama.cpp ka taea e koe te whakahaere i nga tauira AI pai ki runga i nga taputapu ngā rauemi iti. Hei whakauru, whakamahia nga whakahau e whai ake nei:
sudo apt whakahou && sudo apt whakamohoa -y sudo apt tāuta git cmake hanga-he nui -y git clone https://github.com/ggerganov/llama.cpp.git cd llama.cpp hanga
Ko tenei tukanga ka tikiake me te ka whakahiato te taputapu i runga i to Raspberry Pi.
2. Te tango i te tauira DeepSeek R1 kua maturu
Hei whakarite i nga mahi whakahaere i runga i te Raspberry Pi 5, ka tūtohu kia whakamahia te putanga DeepSeek R1 1.5B, e tata ana ki te 1 GB te rahi.
Ka taea e koe te tango mai i te Hugging Face me te whakahau e whai ake nei i roto i te Python:
mai i huggingface_hub kawemai snapshot_download snapshot_download(repo_id='DeepSeek-R1-1.5B', local_dir='DeepSeek-R1')
3. Te whakatu me te whakahaere i te tūmau
Ina tangohia te tauira, ko te mahi e whai ake nei ko te whakahaere me te Llama.cpp. Whakamahia te whakahau e whai ake nei:
./llama-server --model /path_to_your_model/DeepSeek-R1-1.5B.gguf --port 10000 --ctx-size 1024 --n-gpu-layers 40
Mena i pai nga mea katoa, ka rere te tūmau http://127.0.0.1:10000.
4. Whakauru ki te Open WebUI
Para facilitar la taunekeneke Ma te tauira, Open WebUI he atanga kauwhata e taea ai e koe te tuku patai me te whiwhi whakautu me te kore e tuhi whakahau. ā-ringa. Hei hono atu ki te tūmau Llama.cpp, whai i enei mahi:
- Whakatuwheratia te WebUI.
- Haere ki Tautuhinga> Hononga> OpenAI.
- Tāuruhia te URL http://127.0.0.1:10000 i roto i ngā tautuhinga.
- Tiakina nga huringa ka timata ki te whakamahi DeepSeek R1 mai i te atanga tukutuku.
Kei te maarama me pehea te whakahaere DeepSeek R1 i runga i to Raspberry Pi 5? He mea ano mo koe.
¿Qué resultados se pueden esperar?
Ahakoa ka taea e DeepSeek R1 te whakahaere i runga i te Raspberry Pi 5, he maha nga whakatupato hei whakaaro: ngā herenga nui:
- He whakaaturanga muy limitado whakaritea ki te putanga katoa o te tauira.
- Te whakaputa tuhinga lenta, ina koa me nga tauira neke atu i te 7B nga tawhā.
- Ngā Whakautu iti ake whakaritea ki nga tauira nui e rere ana i runga i nga taputapu kaha.
I roto i nga whakamatautau i mahia me nga momo rereke o te tauira, i kitea ko te putanga Ko te 1.5B te mea tino manakohia mo te Raspberry Pi 5, ahakoa he iti tonu te mahi. I mua i te whakaoti i tenei tuhinga me pehea te whakahaere i te DeepSeek R1 i runga i to Raspberry Pi 5 he mea ano ta matou hei korero ki a koe mo nga keehi whakamahi rereke i roto i nga tauira mama.
Whakamahia nga keehi mo nga tauira mama
Ahakoa e kore e taea e te Raspberry Pi te hapai i nga tauira nunui, ka whai hua tonu nga putanga kua whakahekehia ngā āhuatanga:
- Te hanga waehere taketake me te awhina pangarau.
- Aunoatanga i roto i nga kaupapa miihini whare.
- Tautoko mo nga mahi motuhake i roto i nga punaha whakauru.
Ko te kaha ki te whakahaere i nga tauira AI matatau i runga i nga taputapu utu utu he tino mahi whakamua i roto i te ao tuwhera. Ahakoa te Rāhipere Pi 5 e kore e tuku he wheako e rite ana ki tera o te tūmau me nga GPU maha, ma te tirotiro i enei whiringa ka tuwhera hou. tūponotanga mo te rorohiko utu iti. Mena kei te pirangi koe ki te whakamatau, whai i nga hikoinga o tenei aratohu me te whakamatau i nga momo momo momo tauira ki ajustar el rendimiento ki o hiahia. Ko te tumanako i kitea e koe tenei tuhinga mo te whakahaere DeepSeek R1 i runga i to Raspberry Pi 5 he awhina.
He kaingākau ki te hangarau mai i tōna tamarikitanga. He pai ki a au te noho hou ki roto i te rängai, me te mea nui ake, ko te whakawhiti korero. Koia ahau i whakatapua ki te whakawhitiwhiti korero mo te hangarau me nga paetukutuku keemu ataata mo nga tau maha. Ka kitea e koe e tuhi ana ahau mo Android, Windows, MacOS, iOS, Nintendo me etahi atu kaupapa e pa ana ki te hinengaro.