- DeepSeek R1 是一個開源 AI 模型 它可以在本地硬體上運行,但有一定的限制。
- Raspberry Pi 5 只能運行精簡版 模型,因為完整的模型需要強大的硬體。
- 可以使用蒸餾模型 以提高效率並使其適應資源更少的設備。
- Llama.cpp 與 Open WebUI 是以可存取的方式在本地運行 DeepSeek R1 的關鍵工具。
如何在 Raspberry Pi 1 上運行 DeepSeek R5? 能?讓我們看看。自從開源AI模型問世以來,許多愛好者一直在尋找在自己的設備上運行它們的方法。最有前景的模型之一是 DeepSeek R1,這是中國開發的一個模型,事實證明它可以與 OpenAI 最先進的模型相媲美。然而,最大的問題是這個。
簡單的答案是肯定的,但是有一定的限制。在本文中,我們將詳細分析如何實現這一點, 如何設置 y 可以期待什麼結果 取決於可用的硬體。以下是關於如何在 Raspberry Pi 1 上運行 DeepSeek R5 的文章。 Tecnobits,您將找到有關 Raspberry 和其他硬體或軟體的更多資訊。
DeepSeek R1 是什麼?
DeepSeek R1 是一個開源 AI 模型,它因以下特點而讓社群感到驚訝: 效率 y 性能。與許多其他模型不同,它提供了在本地硬體上運行的可能性,使其成為 雲解決方案 比如 ChatGPT。
然而,最完整的型號 DeepSeek R1 671B 佔用超過 GB 400 並且需要多張高效能顯示卡才能正常運作。雖然大多數人無法獲得完整版,但 精簡版本 它可以在像 Raspberry Pi 這樣的更普通的硬體上運行。
如果你喜歡樹莓派的世界 Tecnobits 我們有很多關於這個硬體的信息。例如,我們為您帶來這則新聞,其中我們談到 Raspberry Pi Pico:售價僅 4 歐元的新主機板.
在 Raspberry Pi 1 上執行 DeepSeek R5
Raspberry Pi 5 是一款 強大的迷你電腦 與前輩相比,但在人工智慧方面仍存在顯著的限制。要使 DeepSeek R1 在此設備上運行,必須採取 較輕的版本 模型的。
先決條件
- 一 樹莓派5 至少有 8GB 的 RAM。
- 一張 microSD 卡 高容量和速度 來儲存必要的文件。
- 基於 Linux 的作業系統,例如 Raspberry Pi OS 或 Ubuntu。
- 網路連線下載模型檔。
- 訪問終端來安裝並運行 必要的軟件.
現在我們已經準備好開始學習如何在 Raspberry Pi 1 上運行 DeepSeek R5。
安裝關鍵部件
要在 Raspberry Pi 上運行 DeepSeek R1,你需要安裝 關鍵工具集。下面我們一步一步解釋如何做到這一點。
1.安裝Llama.cpp
Llama.cpp 是一款可以在裝置上有效運作 AI 模型的軟體 有限的資源。要安裝它,請使用以下命令:
sudo apt update && sudo apt upgrade -y sudo apt install git cmake build-essential -y git clone https://github.com/ggerganov/llama.cpp.git cd llama.cpp make
此過程將下載並 將編譯 Raspberry Pi 上的工具。
2. 下載精簡後的 DeepSeek R1 模型
為了確保 Raspberry Pi 5 上的可管理效能,建議使用版本 DeepSeek R1 1.5B,大小約1 GB。
你可以使用以下指令從 Hugging Face 下載它(Python 版本):
從 huggingface_hub 匯入 snapper_download snapper_download(repo_id='DeepSeek-R1-1.5B', local_dir='DeepSeek-R1')
3. 設定並運行伺服器
下載模型後,下一步是用 Llama.cpp 運行它。使用以下命令:
./llama-server --model /path_to_your_model/DeepSeek-R1-1.5B.gguf --port 10000 --ctx-size 1024 --n-gpu-layers 40
如果一切順利,伺服器將運行 http://127.0.0.1:10000.
4. 與 Open WebUI 集成
為了方便 相互作用 使用該模型,Open WebUI 是一個圖形介面,可讓您發送問題並接收答案,而無需編寫命令 手動。若要連接到 Llama.cpp 伺服器,請依照下列步驟操作:
- 開啟開啟 WebUI。
- 前往設定 > 連線 > OpenAI。
- 輸入網址 http://127.0.0.1:10000 在設置中。
- 儲存變更並開始從 Web 介面使用 DeepSeek R1。
如何在 Raspberry Pi 1 上運行 DeepSeek R5 是否清楚?還有更多適合您的。
可以期待什麼結果?
儘管 DeepSeek R1 可以在 Raspberry Pi 5 上運行,但仍有幾點注意事項需要考慮: 主要限制:
- 一場演出 非常有限 與模型的完整版本相比。
- 文本生成 樺,尤其是參數超過 7B 的模型。
- 回复 不太精確 與在強大硬體上運行的大型模型相比。
在對不同版本的模型進行的測試中發現,版本 最推薦的是 1.5B 對於 Raspberry Pi 5 來說,儘管效能仍然一般。在我們完成關於如何在 Raspberry Pi 1 上運行 DeepSeek R5 的文章之前,我們還有一些關於輕量級模型中不同用例的內容要告訴您。
輕量級模型的用例
雖然 Raspberry Pi 無法處理巨型模型,但縮小版在某些方面仍然有用 情景:
- 基本程式碼生成和數學幫助。
- 家庭自動化項目中的自動化。
- 支援嵌入式系統中的特定任務。
能夠在價格合理的硬體上運行先進的人工智慧模型無疑是開源世界的一大進步。雖然 樹莓派 5 無法提供與具有多個 GPU 的伺服器相當的體驗,探索這些選項開啟了新的 可能性 用於低成本計算。如果你有興趣嘗試一下,請按照本指南中的步驟,嘗試不同版本的模型來 調優性能 滿足您的需求。我們希望這篇關於如何在 Raspberry Pi 1 上運行 DeepSeek R5 的文章對您有所幫助。
從小就對科技充滿熱情。我喜歡了解該領域的最新動態,最重要的是,進行交流。這就是為什麼我多年來一直致力於技術和視頻遊戲網站的交流。您可以找到我撰寫的有關 Android、Windows、MacOS、iOS、任天堂或您想到的任何其他相關主題的文章。