- DeepSeek R1 es un modelo de IA open source que puede ejecutarse en hardware local con ciertas limitaciones.
- La Raspberry Pi 5 solo puede ejecutar versiones reducidas del modelo, ya que el modelo completo necesita hardware potente.
- Se pueden usar modelos destilados para mejorar la eficiencia y adaptarlos a dispositivos con menos recursos.
- Llama.cpp y Open WebUI son herramientas clave para ejecutar DeepSeek R1 en local de forma accesible.
¿Cómo ejecutar DeepSeek R1 en tu Raspberry Pi 5? ¿Se puede? Vamos a verlo. Desde la llegada de los modelos de inteligencia artificial open source, muchos entusiastas han buscado formas de ejecutarlos en sus propios dispositivos. Uno de los más prometedores es DeepSeek R1, un modelo desarrollado en China que ha demostrado competir con las opciones más avanzadas de OpenAI. Sin embargo, la gran pregunta es la siguiente.
La respuesta rápida es sí, pero con ciertas limitaciones. En este artículo analizaremos en detalle qué se necesita para hacerlo funcionar, cómo configurarlo y qué resultado se puede esperar dependiendo del hardware disponible. Vamos allá con el artículo sobre cómo ejecutar DeepSeek R1 en tu Raspberry Pi 5. Recuerda que usando el buscador de Tecnobits, encontrarás más información sobre Raspberry y otro hardware o software.
¿Qué es DeepSeek R1 y qué lo hace especial?
DeepSeek R1 es un modelo de IA de código abierto que ha sorprendido a la comunidad gracias a su eficiencia y rendimiento. A diferencia de muchos otros modelos, ofrece la posibilidad de ejecutarse en hardware local, lo que lo convierte en una alternativa interesante a soluciones en la nube como ChatGPT.
Sin embargo, el modelo más completo, el DeepSeek R1 671B, ocupa más de 400 GB y necesita múltiples tarjetas gráficas de alto rendimiento para funcionar correctamente. Aunque la versión completa es inalcanzable para la mayoría, existen versiones destiladas que pueden ejecutarse en hardware más modesto como una Raspberry Pi.
Si te gusta el mundillo de las Raspberry en Tecnobits tenemos mucha información acerca de dicho hardware. Por ejemplo, te traemos esta noticia en la que hablamos sobre Raspberry Pi Pico: la nueva placa que vale solo 4 euros.
Ejecutando DeepSeek R1 en una Raspberry Pi 5
La Raspberry Pi 5 es un minipc potente en comparación con sus predecesoras, pero aún tiene limitaciones significativas cuando se trata de inteligencia artificial. Para hacer que DeepSeek R1 funcione en este dispositivo, es necesario recurrir a versiones más ligeras del modelo.
Requisitos previos
- Una Raspberry Pi 5 con al menos 8 GB de RAM.
- Una tarjeta microSD de alta capacidad y velocidad para almacenar los archivos necesarios.
- Un sistema operativo basado en Linux, como Raspberry Pi OS o Ubuntu.
- Conexión a internet para descargar los archivos del modelo.
- Acceso a una terminal para instalar y ejecutar el software necesario.
Ahora ya tenemos todo lo necesario para empezar a saber cómo ejecutar DeepSeek R1 en tu Raspberry Pi 5.
Instalación de los componentes clave
Para ejecutar DeepSeek R1 en Raspberry Pi, es necesario instalar un conjunto de herramientas clave. A continuación, explicamos paso a paso cómo hacerlo.
1. Instalación de Llama.cpp
Llama.cpp es un software que permite ejecutar modelos de IA de manera eficiente en dispositivos con recursos limitados. Para instalarlo, usa los siguientes comandos:
sudo apt update && sudo apt upgrade -y sudo apt install git cmake build-essential -y git clone https://github.com/ggerganov/llama.cpp.git cd llama.cpp make
Este proceso descargará y compilará la herramienta en tu Raspberry Pi.
2. Descarga del modelo DeepSeek R1 destilado
Para garantizar un rendimiento manejable en Raspberry Pi 5, se recomienda usar la versión DeepSeek R1 1.5B, que tiene un tamaño de aproximadamente 1 GB.
Puedes descargarlo desde Hugging Face con el siguiente comando en Python:
from huggingface_hub import snapshot_download snapshot_download(repo_id='DeepSeek-R1-1.5B', local_dir='DeepSeek-R1')
3. Configuración y ejecución del servidor
Una vez descargado el modelo, el siguiente paso es ejecutarlo con Llama.cpp. Usa el siguiente comando:
./llama-server --model /ruta_a_tu_modelo/DeepSeek-R1-1.5B.gguf --port 10000 --ctx-size 1024 --n-gpu-layers 40
Si todo ha ido bien, el servidor estará corriendo en http://127.0.0.1:10000.
4. Integración con Open WebUI
Para facilitar la interacción con el modelo, Open WebUI es una interfaz gráfica que permite enviar preguntas y recibir respuestas sin necesidad de escribir comandos manualmente. Para conectarlo con el servidor Llama.cpp, sigue estos pasos:
- Abre Open WebUI.
- Ve a Configuración > Conexiones > OpenAI.
- Introduce la URL http://127.0.0.1:10000 en la configuración.
- Guarda los cambios y comienza a usar DeepSeek R1 desde la interfaz web.
¿Te ha quedado claro cómo ejecutar DeepSeek R1 en tu Raspberry Pi 5? Aún hay más para ti.
¿Qué resultados se pueden esperar?
Aunque DeepSeek R1 puede ejecutarse en Raspberry Pi 5, hay que tener en cuenta varias limitaciones importantes:
- Un rendimiento muy limitado en comparación con la versión completa del modelo.
- Generación de texto lenta, especialmente con modelos de más de 7B parámetros.
- Respuestas menos precisas en comparación con modelos más grandes ejecutados en hardware potente.
En pruebas realizadas con diferentes versiones del modelo, se encontró que la versión 1.5B es la más recomendable para Raspberry Pi 5, aunque aún así el rendimiento es modesto. Antes de terminar este artículo sobre cómo ejecutar DeepSeek R1 en tu Raspberry Pi 5 tenemos algo más que decirte sobre diferentes casos de uso en modelos ligeros.
Casos de uso para modelos ligeros
Aunque una Raspberry Pi no puede manejar modelos gigantes, las versiones reducidas aún pueden ser útiles en ciertos escenarios:
- Generación básica de código y ayuda matemática.
- Automatización en proyectos de domótica.
- Asistencia para tareas específicas en sistemas embebidos.
Poder ejecutar modelos de IA avanzados en hardware accesible es sin duda un gran avance en el mundo del open source. Aunque la Raspberry Pi 5 no ofrecerá una experiencia comparable a la de un servidor con múltiples GPUs, explorar estas opciones abre nuevas posibilidades para la informática de bajo coste. Si estás interesado en probarlo, sigue los pasos de esta guía y experimenta con las diferentes versiones del modelo para ajustar el rendimiento a tus necesidades. Esperamos que este artículo sobre cómo ejecutar DeepSeek R1 en tu Raspberry Pi 5 te haya sido de ayuda.
Apasionado de la tecnología desde pequeñito. Me encanta estar a la última en el sector y sobre todo, comunicarlo. Por eso me dedico a la comunicación en webs de tecnología y videojuegos desde hace ya muchos años. Podrás encontrarme escribiendo sobre Android, Windows, MacOS, iOS, Nintendo o cualquier otro tema relacionado que se te pase por la cabeza.