Nola exekutatu DeepSeek R1 zure Raspberry Pi 5-n urratsez urrats

Nola exekutatu DeepSeek R1 zure Raspberry Pi 5-n? Ezin? Ikus dezagun. Kode irekiko AI ereduak agertu zirenetik, zale asko euren gailuetan exekutatzeko moduak bilatzen aritu dira. Itxaropentsuenetako bat DeepSeek R1 da, Txinan garatutako eredua OpenAIren aukera aurreratuenekin lehiatzen dela frogatu duena. Galdera handia, ordea, hau da.

Erantzun azkarra bai, baina zenbait mugarekin. Artikulu honetan zehatz-mehatz aztertuko dugu zer behar den funtziona dezan, cómo configurarlo y zer emaitza espero daitekeen eskuragarri dagoen hardwarearen arabera. Hona hemen zure Raspberry Pi 1-n DeepSeek R5 exekutatzeko moduari buruzko artikuluarekin. Gogoratu bilatzailea erabiliz. Tecnobits, Raspberryri eta beste hardware edo software batzuei buruzko informazio gehiago aurkituko duzu.

Zer da DeepSeek R1 eta zerk egiten du berezi?

DeepSeek R1 kode irekiko AI eredu bat da, komunitatea harritu duena bere esker eraginkortasuna y errendimendua. Beste modelo asko ez bezala, tokiko hardwarean exekutatzeko aukera eskaintzen du, eta horren alternatiba interesgarria da soluciones en la nube como ChatGPT.

Hala ere, eredurik osatuenak, DeepSeek R1 671B, baino gehiago hartzen du 400 GB eta errendimendu handiko txartel grafiko anitz behar ditu behar bezala exekutatzeko. Gehienentzat bertsio osoa eskuraezina den arren, badaude bertsio distilatu Raspberry Pi bezalako hardware xumeagoan exekutatu daitekeena.

Raspberry-ren mundua gustatzen bazaizu Tecnobits Hardware horri buruzko informazio asko dugu. Adibidez, hitz egiten dugun albiste hau dakarkizugu Raspberry Pi Pico: la nueva placa que vale solo 4 euros.

DeepSeek R1 exekutatzen Raspberry Pi 5 batean

Raspberry Pi 5 bat da mini ordenagailu indartsua aurrekoekin alderatuta, baina oraindik muga handiak ditu adimen artifizialari dagokionez. DeepSeek R1 gailu honetan funtzionatzeko, beharrezkoa da jotzea versiones más ligeras del modelo.

Aurrebaldintzak

• A Raspberry Pi 5 con al menos 8 GB de RAM.
• MicroSD txartel bat gaitasun eta abiadura handikoak beharrezko fitxategiak gordetzeko.
• Linux-en oinarritutako sistema eragilea, esaterako Raspberry Pi OS o Ubuntu.
• Interneterako konexioa eredu-fitxategiak deskargatzeko.
• Instalatu eta exekutatzeko terminal batera sartzeko software necesario.

Orain DeepSeek R1 zure Raspberry Pi 5-n nola exekutatu ikasten hasteko behar dugun guztia dugu.

Funtsezko osagaiak instalatzea

DeepSeek R1 Raspberry Pi-n exekutatzeko, a instalatu behar duzu gako tresna multzoa. Jarraian pausoz pauso nola egin azaltzen dugu.

1. Llama.cpp instalatzea

Llama.cpp gailuekin AI ereduak eraginkortasunez exekutatzeko aukera ematen duen software bat da recursos limitados. Instalatzeko, erabili komando hauek:

sudo apt update && sudo apt upgrade -y sudo apt install git cmake build-essential -y git clone https://github.com/ggerganov/llama.cpp.git cd llama.cpp make

Prozesu honek deskargatuko du eta bilduko du zure Raspberry Pi-ko tresna.

2. DeepSeek R1 eredu destilatua deskargatzea

Raspberry Pi 5-en errendimendu kudeagarria ziurtatzeko, bertsioa erabiltzea gomendatzen da DeepSeek R1 1.5B, 1 GB inguruko tamaina duena.

Hugging Face-tik deskarga dezakezu Python-en komando honekin:

huggingface_hub-tik inportatu snapshot_download snapshot_download(repo_id='DeepSeek-R1-1.5B', local_dir='DeepSeek-R1')

3. Zerbitzaria konfiguratzea eta martxan jartzea

Eredua deskargatu ondoren, hurrengo urratsa Llama.cpp-rekin exekutatu da. Erabili komando hau:

./llama-server --model /path_to_your_model/DeepSeek-R1-1.5B.gguf --port 10000 --ctx-size 1024 --n-gpu-layers 40

Dena ondo joan bada, zerbitzaria martxan egongo da http://127.0.0.1:10000.

4. Open WebUI-rekin integratzea

Para facilitar la elkarrekintza Ereduarekin, Open WebUI interfaze grafiko bat da, galderak bidaltzeko eta erantzunak jasotzeko komandoak idatzi beharrik gabe. manualmente. Llama.cpp zerbitzarira konektatzeko, jarraitu urrats hauek:

1. Ireki Open WebUI.
2. Joan Ezarpenak > Konexioak > OpenAI atalera.
3. Sartu URLa http://127.0.0.1:10000 ezarpenetan.
4. Gorde aldaketak eta hasi DeepSeek R1 erabiltzen web-interfazetik.

Argi al dago DeepSeek R1 nola exekutatu zure Raspberry Pi 5-n? Oraindik gehiago dago zuretzat.

¿Qué resultados se pueden esperar?

DeepSeek R1 Raspberry Pi 5-en exekutatu daitekeen arren, kontuan hartu beharreko hainbat oharrak daude: muga garrantzitsuak:

• Emanaldi bat muy limitado ereduaren bertsio osoarekin alderatuta.
• Testu-sorkuntza lenta, batez ere 7B parametro baino gehiago dituzten modeloekin.
• Respuestas hain zehatza hardware indartsuarekin exekutatzen diren modelo handiagoekin alderatuta.

Ereduaren bertsio ezberdinekin egindako probetan, bertsioa zela ikusi zen 1.5B da gomendagarriena Raspberry Pi 5erako, errendimendua oraindik apala den arren. Zure Raspberry Pi 1-n DeepSeek R5 exekutatu nola exekutatu buruzko artikulu hau amaitu baino lehen, beste zerbait dugu eredu arinetan erabilera-kasu desberdinei buruz kontatzeko.

Erabili kasuak modelo arinetarako

Raspberry Pi batek modelo erraldoiak kudeatu ezin baditu ere, bertsio txikituak erabilgarriak izan daitezke zenbaitetan escenarios:

• Oinarrizko kodea sortzea eta matematikako laguntza.
• Automatizazioa domotika proiektuetan.
• Sistema txertatuetako zeregin zehatzetarako laguntza.

AI eredu aurreratuak hardware merkean exekutatu ahal izatea, zalantzarik gabe, aurrerapauso handia da kode irekiko munduan. Nahiz eta Raspberry Pi 5-ek ez du GPU anitz dituen zerbitzari baten pareko esperientziarik eskainiko, aukera hauek arakatzeak berriak irekitzen ditu. posibilidades kostu baxuko informatikarako. Probatzeko interesa baduzu, jarraitu gida honetako urratsak eta esperimentatu ereduaren bertsio ezberdinekin ajustar el rendimiento zure beharretara. Zure Raspberry Pi 1-n DeepSeek R5 exekutatzeko moduari buruzko artikulu hau lagungarria izatea espero dugu.