- DeepSeek R1 dia modely AI open source izay afaka mandeha amin'ny fitaovana eo an-toerana miaraka amin'ny fetra sasany.
- Ny Raspberry Pi 5 dia tsy afaka manao dikan-teny tapaka ny modely, satria ny modely feno dia mila fitaovana matanjaka.
- Ny modely distilled dia azo ampiasaina hanatsarana ny fahombiazany sy hampifanaraka azy ireo amin'ny fitaovana manana loharano vitsy kokoa.
- Llama.cpp ary Sokafy ny WebUI dia fitaovana fototra hampandehanana ny DeepSeek R1 eo an-toerana amin'ny fomba azo idirana.
Ahoana ny fampandehanana ny DeepSeek R1 amin'ny Raspberry Pi 5 anao? Afaka? Andeha hojerentsika izany. Hatramin'ny nivoahan'ny maodely AI open source, maro ireo mpankafy no nitady fomba hampandehanana azy ireo amin'ny fitaovany manokana. Ny iray amin'ireo tena mampanantena indrindra dia ny DeepSeek R1, modely novolavolaina tany Shina izay nanaporofo ny hifaninana amin'ireo safidy mandroso indrindra amin'ny OpenAI. Ny fanontaniana lehibe anefa dia izao.
Ny valiny haingana dia eny, saingy misy fetrany. Ato amin'ity lahatsoratra ity dia hamakafaka amin'ny antsipiriany ny zavatra ilaina amin'ny fanatanterahana izany, ny fomba fandrindrana azy y inona no vokatra azo antenaina arakaraka ny fitaovana misy. Eto izahay dia miaraka amin'ny lahatsoratra momba ny fomba fampandehanana ny DeepSeek R1 amin'ny Raspberry Pi 5. Tsarovy fa ny fampiasana ny motera fikarohana Tecnobits, dia hahita fampahalalana bebe kokoa momba ny Raspberry sy ny fitaovana na rindrambaiko hafa ianao.
Inona ny DeepSeek R1 ary inona no mampiavaka azy?
DeepSeek R1 dia maodely AI open source izay nahagaga ny fiarahamonina noho ny azy fahombiazana y fampisehoana. Tsy toy ny modely maro hafa, dia manolotra ny fahafahana mihazakazaka amin'ny fitaovana eo an-toerana, ka mahatonga azy ho hafa mahaliana vahaolana amin'ny rahona toy ny ChatGPT.
Na izany aza, ny modely feno indrindra, ny DeepSeek R1 671B, dia mitaky mihoatra ny 400 GB ary mitaky karatra sary avo lenta maromaro mba hampandeha tsara. Na dia tsy azon'ny ankamaroan'ny ankamaroan'ny dikan-teny feno aza dia misy distilled versions izay afaka mandeha amin'ny fitaovana maotina kokoa toy ny Raspberry Pi.
Raha tianao ny tontolon'ny Raspberry in Tecnobits Manana fampahalalana be dia be momba ity fitaovana ity izahay. Ohatra, mitondra anao ity vaovao resahinay ity izahay Raspberry Pi Pico: ny solaitrabe vaovao izay mitentina 4 euros monja.
Mandeha DeepSeek R1 amin'ny Raspberry Pi 5
Ny Raspberry Pi 5 dia a mini pc mahery raha oharina amin'ireo teo alohany, nefa mbola manana fetra lehibe raha ny momba ny faharanitan-tsaina artifisialy. Mba hahazoana DeepSeek R1 miasa amin'ity fitaovana ity dia ilaina ny mampiasa dikan-teny maivana kokoa an'ny modely.
zavatra takiana alohan'ny
- ny Raspberry Pi 5 miaraka amin'ny RAM 8 GB farafahakeliny.
- Karatra microSD an'ny fahaiza-manao sy hafainganam-pandeha avo mba hitahiry ireo rakitra ilaina.
- Rafitra fiasa mifototra amin'ny Linux, toy ny Raspberry Pi OS na Ubuntu.
- Fifandraisana amin'ny Internet hisintona rakitra modely.
- Fidirana amin'ny terminal iray hametrahana sy hampandehanana ny rindrambaiko ilaina.
Ankehitriny dia manana ny zavatra rehetra ilainay izahay hanombohana mianatra ny fomba fampandehanana ny DeepSeek R1 amin'ny Raspberry Pi 5 anao.
Fametrahana singa fototra
Mba hampandehanana DeepSeek R1 amin'ny Raspberry Pi dia mila mametraka a fitaovana fanalahidy. Hazavainay eto ambany ny fomba fanaovana azy.
1. Fametrahana Llama.cpp
Llama.cpp dia rindrambaiko ahafahanao mampandeha tsara ny maodely AI amin'ny fitaovana misy loharanon-karena voafetra. Mba hametrahana azy dia ampiasao ireto baiko manaraka ireto:
sudo apt update && sudo apt upgrade -y sudo apt install git cmake build-essential -y git clone https://github.com/ggerganov/llama.cpp.git cd llama.cpp make
Ity dingana ity dia hisintona ary hanambatra ny fitaovana ao amin'ny Raspberry Pi anao.
2. Misintona ny modely DeepSeek R1 voadio
Mba hahazoana antoka fa mahomby amin'ny Raspberry Pi 5, dia soso-kevitra ny hampiasa ny dikan-teny DeepSeek R1 1.5B, izay mirefy 1 GB eo ho eo.
Azonao atao ny misintona azy avy amin'ny Hugging Face miaraka amin'ity baiko manaraka ity amin'ny Python:
avy amin'ny huggingface_hub import snapshot_download snapshot_download(repo_id='DeepSeek-R1-1.5B', local_dir='DeepSeek-R1')
3. Fametrahana sy fampandehanana ny mpizara
Rehefa alaina ilay modely, ny dingana manaraka dia ny fampandehanana azy amin'ny Llama.cpp. Ampiasao ity baiko manaraka ity:
./llama-server --model /path_to_your_model/DeepSeek-R1-1.5B.gguf --port 10000 --ctx-size 1024 --n-gpu-layers 40
Raha mandeha tsara ny zava-drehetra, dia hiditra ny mpizara http://127.0.0.1:10000.
4. Fampidirana amin'ny Open WebUI
Mba hanamorana ny fifandraisana Miaraka amin'ny modely, Open WebUI dia interface tsara izay ahafahanao mandefa fanontaniana sy mahazo valiny tsy mila manoratra baiko. tanana. Raha te hifandray amin'ny mpizara Llama.cpp dia araho ireto dingana ireto:
- Sokafy Open WebUI.
- Mandehana any amin'ny Settings> Connections> OpenAI.
- Ampidiro ny URL http://127.0.0.1:10000 ao amin'ny fikirana.
- Tehirizo ireo fanovana ary manomboka mampiasa DeepSeek R1 avy amin'ny interface interface.
Mazava ve ny fomba fampandehanana ny DeepSeek R1 amin'ny Raspberry Pi 5 anao? Mbola misy zavatra hafa ho anao.
Inona avy ireo vokatra azo antenaina?
Na dia afaka mandeha amin'ny Raspberry Pi 1 aza ny DeepSeek R5, dia misy fampitandremana maromaro tokony hodinihina: fetra manan-danja:
- Fampisehoana voafetra be raha oharina amin'ny dikan-teny feno amin'ny modely.
- Famoronana lahatsoratra MORA, indrindra amin'ireo maodely manana mari-pamantarana mihoatra ny 7B.
- VALIN'NY tsy dia mazava loatra raha oharina amin'ireo modely lehibe kokoa mandeha amin'ny fitaovana matanjaka.
Amin'ny fitsapana natao tamin'ny dikan-teny samihafa amin'ny modely, dia hita fa ny dikan-teny 1.5B no soso-kevitra indrindra ho an'ny Raspberry Pi 5, na dia mbola maotina aza ny fampisehoana. Alohan'ny hamaranana ity lahatsoratra ity momba ny fomba fampandehanana ny DeepSeek R1 amin'ny Raspberry Pi 5 dia manana zavatra hafa holazaina aminao izahay momba ireo tranga fampiasana samihafa amin'ny maodely maivana.
Mampiasà tranga ho an'ny modely maivana
Na dia tsy afaka mitantana maodely goavam-be aza ny Raspberry Pi, ny dikan-teny midina ambany dia mbola mety ilaina amin'ny sasany tranga:
- Famoronana kaody fototra sy fanampiana matematika.
- Automation amin'ny tetikasa automatique an-trano.
- Fanohanana asa manokana amin'ny rafitra embed.
Ny fahafahana mampandeha modely AI mandroso amin'ny fitaovana mora vidy dia azo antoka fa dingana lehibe iray amin'ny tontolon'ny loharano misokatra. Na dia ny Raspberry Pi 5 dia tsy hanolotra traikefa azo ampitahaina amin'ny an'ny mpizara manana GPU marobe, manokatra vaovao ny fijerena ireo safidy ireo. mifanohitra ho an'ny informatika mora vidy. Raha liana amin'ny fanandramana azy ianao, araho ny dingana ato amin'ity torolàlana ity ary andramo ny dikan-teny samihafa amin'ny modely amboary ny fahombiazana amin'ny filanao. Manantena izahay fa nahasoa anao ity lahatsoratra ity momba ny fomba fampandehanana ny DeepSeek R1 amin'ny Raspberry Pi 5 anao.
Tena tia ny teknolojia hatramin'ny fahazazany. Tiako ny manaraka ny vaovao amin'ny sehatra ary indrindra indrindra, mampita izany. Izany no antony nanokanako ny fifandraisana amin'ny teknolojia sy tranonkala lalao video nandritra ny taona maro. Azonao atao ny mahita ahy manoratra momba ny Android, Windows, MacOS, iOS, Nintendo na lohahevitra mifandraika hafa tonga ao an-tsainao.