Como executar DeepSeek R1 no teu Raspberry Pi 5 paso a paso

Como executar DeepSeek R1 no teu Raspberry Pi 5? Pode? Imos velo. Desde a aparición dos modelos de IA de código aberto, moitos entusiastas buscaron formas de executalos nos seus propios dispositivos. Un dos máis prometedores é DeepSeek R1, un modelo desenvolvido en China que demostrou competir coas opcións máis avanzadas de OpenAI. A gran pregunta, con todo, é esta.

A resposta rápida é si, pero con certas limitacións. Neste artigo analizaremos en detalle o que é necesario para que funcione, como configuralo y que resultado se pode esperar dependendo do hardware dispoñible. Aquí imos co artigo sobre como executar DeepSeek R1 no teu Raspberry Pi 5. Lembra que usando o buscador Tecnobits, atoparás máis información sobre Raspberry e outro hardware ou software.

Que é DeepSeek R1 e que o fai especial?

DeepSeek R1 é un modelo de IA de código aberto que sorprendeu á comunidade grazas ao seu eficiencia y rendemento. A diferenza de moitos outros modelos, ofrece a posibilidade de executarse en hardware local, polo que é unha alternativa interesante solucións na nube como ChatGPT.

Non obstante, o modelo máis completo, o DeepSeek R1 671B, ocupa máis de 400 GB e require varias tarxetas gráficas de alto rendemento para funcionar correctamente. Aínda que a versión completa é inalcanzable para a maioría, hai versións destiladas que pode funcionar en hardware máis modesto como un Raspberry Pi.

Se che gusta o mundo de Raspberry Tecnobits Temos moita información sobre o devandito hardware. Por exemplo, traémosvos esta nova na que falamos Raspberry Pi Pico: a nova placa que custa só 4 euros.

Executar DeepSeek R1 nun Raspberry Pi 5

O Raspberry Pi 5 é un mini pc potente en comparación cos seus predecesores, pero aínda ten importantes limitacións no que se refire á intelixencia artificial. Para que DeepSeek R1 funcione neste dispositivo, é necesario recorrer a versións máis lixeiras do modelo.

Requisitos previos

• Unha Framboesa Pi 5 con polo menos 8 GB de RAM.
• Unha tarxeta microSD de alta capacidade e velocidade para almacenar os ficheiros necesarios.
• Un sistema operativo baseado en Linux, como Sistema operativo Raspberry Pi ou Ubuntu.
• Conexión a Internet para descargar ficheiros de modelos.
• Acceso a un terminal para instalar e executar o software necesario.

Agora temos todo o que necesitamos para comezar a aprender a executar DeepSeek R1 no teu Raspberry Pi 5.

Instalación de compoñentes clave

Para executar DeepSeek R1 en Raspberry Pi, cómpre instalar un conxunto de ferramentas clave. A continuación explicamos paso a paso como facelo.

1. Instalación de Llama.cpp

Llama.cpp é un software que che permite executar modelos de IA de forma eficiente en dispositivos con recursos limitados. Para instalalo, use os seguintes comandos:

actualización de sudo apt && actualización de sudo apt -y sudo apt install git cmake build-essential -y git clone https://github.com/ggerganov/llama.cpp.git cd llama.cpp make

Este proceso descargará e compilará a ferramenta do teu Raspberry Pi.

2. Descargando o modelo destilado DeepSeek R1

Para garantir un rendemento manexable en Raspberry Pi 5, recoméndase usar a versión DeepSeek R1 1.5B, que ten un tamaño de aproximadamente 1 GB.

Podes descargalo desde Hugging Face co seguinte comando en Python:

desde huggingface_hub importar snapshot_download snapshot_download(repo_id='DeepSeek-R1-1.5B', local_dir='DeepSeek-R1')

3. Configurar e executar o servidor

Unha vez descargado o modelo, o seguinte paso é executalo con Llama.cpp. Use o seguinte comando:

./llama-server --model /path_to_your_model/DeepSeek-R1-1.5B.gguf --port 10000 --ctx-size 1024 --n-gpu-layers 40

Se todo foi ben, o servidor executarase http://127.0.0.1:10000.

4. Integración con Open WebUI

Para facilitar a interacción Co modelo, Open WebUI é unha interface gráfica que che permite enviar preguntas e recibir respostas sen ter que escribir comandos manualmente. Para conectarse ao servidor Llama.cpp, siga estes pasos:

1. Abre Open WebUI.
2. Vaia a Configuración > Conexións > OpenAI.
3. Introduza o URL http://127.0.0.1:10000 na configuración.
4. Garda os cambios e comeza a usar DeepSeek R1 desde a interface web.

Está claro como executar DeepSeek R1 no teu Raspberry Pi 5? Aínda hai máis para ti.

Que resultados se poden esperar?

Aínda que DeepSeek R1 pode executarse en Raspberry Pi 5, hai varias advertencias a ter en conta: limitacións importantes:

• Unha actuación moi limitado en comparación coa versión completa do modelo.
• Xeración de texto lento, especialmente con modelos con máis de 7B parámetros.
• Respostas menos precisos en comparación cos modelos máis grandes que funcionan con hardware potente.

Nas probas realizadas con diferentes versións do modelo, comprobouse que a versión 1.5B é o máis recomendado para Raspberry Pi 5, aínda que o rendemento aínda é modesto. Antes de rematar este artigo sobre como executar DeepSeek R1 no teu Raspberry Pi 5, temos algo máis que dicirche sobre diferentes casos de uso en modelos lixeiros.

Casos de uso para modelos lixeiros

Aínda que un Raspberry Pi non pode manexar modelos xigantes, as versións reducidas aínda poden ser útiles en certos casos escenarios:

• Xeración básica de código e axuda matemática.
• Automatización en proxectos de domótica.
• Soporte para tarefas específicas en sistemas embebidos.

Ser capaz de executar modelos avanzados de intelixencia artificial en hardware accesible é sen dúbida un gran paso adiante no mundo de código aberto. Aínda que o Framboesa Pi 5 non ofrecerá unha experiencia comparable á dun servidor con varias GPU, explorar estas opcións abre novas probabilidades para informática de baixo custo. Se estás interesado en probalo, sigue os pasos desta guía e experimenta coas diferentes versións do modelo para axustar o rendemento ás súas necesidades. Esperamos que che resulte útil este artigo sobre como executar DeepSeek R1 no teu Raspberry Pi 5.