วิธีเรียกใช้ DeepSeek R1 บน Raspberry Pi 5 ทีละขั้นตอน

จะเรียกใช้ DeepSeek R1 บน Raspberry Pi 5 ของคุณได้อย่างไร? สามารถ? มาดูกันเลยดีกว่า! นับตั้งแต่การถือกำเนิดของโมเดล AI โอเพนซอร์ส ผู้ที่ชื่นชอบมากมายต่างก็มองหาวิธีในการใช้งานโมเดลดังกล่าวบนอุปกรณ์ของตนเอง หนึ่งในโมเดลที่มีแนวโน้มมากที่สุดคือ DeepSeek R1 ซึ่งเป็นโมเดลที่พัฒนาในประเทศจีนและพิสูจน์แล้วว่าสามารถแข่งขันกับตัวเลือกที่ล้ำหน้าที่สุดของ OpenAI ได้ อย่างไรก็ตาม คำถามใหญ่ก็คือเรื่องนี้

คำตอบสั้น ๆ คือ ใช่ แต่มีข้อจำกัดบางประการ ในบทความนี้เราจะวิเคราะห์อย่างละเอียดถึงสิ่งที่จำเป็นเพื่อให้มันทำงานได้ วิธีการตั้งค่า y จะคาดหวังผลลัพธ์อะไรได้บ้าง ขึ้นอยู่กับฮาร์ดแวร์ที่มีอยู่ ต่อไปนี้คือบทความเกี่ยวกับวิธีการเรียกใช้ DeepSeek R1 บน Raspberry Pi 5 โปรดจำไว้ว่าการใช้เครื่องมือค้นหา Tecnobitsคุณจะพบข้อมูลเพิ่มเติมเกี่ยวกับ Raspberry และฮาร์ดแวร์หรือซอฟต์แวร์อื่นๆ

DeepSeek R1 คืออะไร และอะไรที่ทำให้มันพิเศษ?

DeepSeek R1 เป็นโมเดล AI โอเพนซอร์สที่สร้างความประหลาดใจให้กับชุมชนด้วย ประสิทธิภาพ y การปฏิบัติ- ต่างจากรุ่นอื่นๆ มากมาย มันให้ความเป็นไปได้ในการทำงานบนฮาร์ดแวร์ภายในเครื่อง ทำให้เป็นทางเลือกที่น่าสนใจ โซลูชันระบบคลาวด์ เช่น ChatGPT

อย่างไรก็ตาม รุ่นที่สมบูรณ์แบบที่สุดคือ DeepSeek R1 671B ซึ่งกินพื้นที่มากกว่า 400 GB และต้องใช้การ์ดจอประสิทธิภาพสูงหลายตัวจึงจะทำงานได้อย่างถูกต้อง แม้ว่าเวอร์ชั่นเต็มจะไม่สามารถเข้าถึงได้สำหรับคนส่วนใหญ่ แต่ก็มี เวอร์ชันกลั่น ที่สามารถทำงานบนฮาร์ดแวร์ขนาดเล็กกว่า เช่น Raspberry Pi ได้

หากคุณชอบโลกของราสเบอร์รี่ใน Tecnobits เรามีข้อมูลมากมายเกี่ยวกับฮาร์ดแวร์นี้- เช่น เรานำข่าวนี้มาพูดคุยกัน Raspberry Pi Pico: บอร์ดใหม่ที่ราคาเพียง 4 ยูโร.

การรัน DeepSeek R1 บน Raspberry Pi 5

Raspberry Pi 5 เป็น มินิพีซีอันทรงพลัง เมื่อเทียบกับรุ่นก่อนๆ แต่ยังคงมีข้อจำกัดอย่างมากเมื่อพูดถึงปัญญาประดิษฐ์ หากต้องการให้ DeepSeek R1 ทำงานบนอุปกรณ์นี้ จำเป็นต้องใช้ รุ่นที่เบากว่า ของโมเดล

ข้อกำหนดเบื้องต้น

• Una ราสเบอร์รี่ Pi 5 มี RAM อย่างน้อย 8 GB
• การ์ด microSD ของ ความจุและความเร็วสูง เพื่อจัดเก็บไฟล์ที่จำเป็น
• ระบบปฏิบัติการบนพื้นฐาน Linux เช่น Raspberry Pi OS หรือ Ubuntu
• การเชื่อมต่ออินเตอร์เน็ตเพื่อดาวน์โหลดไฟล์โมเดล
• การเข้าถึงเทอร์มินัลเพื่อติดตั้งและเรียกใช้ ซอฟต์แวร์ที่จำเป็น.

ตอนนี้เรามีทุกสิ่งที่จำเป็นสำหรับการเริ่มเรียนรู้วิธีรัน DeepSeek R1 บน Raspberry Pi 5 ของคุณ

การติดตั้งส่วนประกอบสำคัญ

ในการเรียกใช้ DeepSeek R1 บน Raspberry Pi คุณจำเป็นต้องติดตั้ง ชุดเครื่องมือกุญแจ- ด้านล่างนี้เราจะอธิบายวิธีการดำเนินการทีละขั้นตอน

1. การติดตั้ง Llama.cpp

Llama.cpp เป็นซอฟต์แวร์ที่ช่วยให้คุณสามารถรันโมเดล AI ได้อย่างมีประสิทธิภาพบนอุปกรณ์ด้วย ทรัพยากรที่มี จำกัด- หากต้องการติดตั้งให้ใช้คำสั่งต่อไปนี้:

sudo apt update และ sudo apt upgrade -y sudo apt install git cmake build-essential -y git clone https://github.com/ggerganov/llama.cpp.git cd llama.cpp make

กระบวนการนี้จะดาวน์โหลดและ จะรวบรวม เครื่องมือบน Raspberry Pi ของคุณ

2. การดาวน์โหลดโมเดล DeepSeek R1 ที่กลั่นแล้ว

เพื่อให้แน่ใจว่าสามารถจัดการประสิทธิภาพได้บน Raspberry Pi 5 ขอแนะนำให้ใช้เวอร์ชัน ดีพซีค R1 1.5 พันล้านซึ่งมีขนาดประมาณ 1 GB

คุณสามารถดาวน์โหลดได้จาก Hugging Face โดยใช้คำสั่งต่อไปนี้ใน Python:

จาก huggingface_hub นำเข้า snapshot_download snapshot_download (repo_id='DeepSeek-R1-1.5B', local_dir='DeepSeek-R1')

3. การตั้งค่าและการรันเซิร์ฟเวอร์

เมื่อดาวน์โหลดโมเดลแล้ว ขั้นตอนถัดไปคือการรันด้วย Llama.cpp ใช้คำสั่งดังต่อไปนี้:

./llama-server --model /path_to_your_model/DeepSeek-R1-1.5B.gguf --port 10000 --ctx-size 1024 --n-gpu-layers 40

ถ้าทุกอย่างเป็นไปด้วยดี เซิร์ฟเวอร์จะทำงานได้ใน http://127.0.0.1:10000.

4. การบูรณาการกับ Open WebUI

เพื่ออำนวยความสะดวก ปฏิสัมพันธ์ ด้วยโมเดลนี้ Open WebUI เป็นอินเทอร์เฟซเชิงกราฟิกที่ช่วยให้คุณสามารถส่งคำถามและรับคำตอบได้โดยไม่ต้องเขียนคำสั่ง ด้วยมือ- หากต้องการเชื่อมต่อกับเซิร์ฟเวอร์ Llama.cpp ให้ทำตามขั้นตอนเหล่านี้:

1. เปิด Open WebUI
2. ไปที่การตั้งค่า > การเชื่อมต่อ > OpenAI
3. ป้อน URL http://127.0.0.1:10000 ในการตั้งค่า
4. บันทึกการเปลี่ยนแปลงและเริ่มใช้ DeepSeek R1 จากอินเทอร์เฟซเว็บ

ชัดเจนหรือไม่ว่าต้องรัน DeepSeek R1 บน Raspberry Pi 5 ของคุณอย่างไร ยังมีอะไรให้คุณมากกว่านี้

สามารถคาดหวังผลลัพธ์อะไรได้บ้าง?

แม้ว่า DeepSeek R1 จะสามารถทำงานบน Raspberry Pi 5 ได้ แต่ก็มีข้อควรระวังหลายประการที่ต้องพิจารณา: ข้อจำกัดที่สำคัญ:

• การแสดง จำกัด มาก เมื่อเปรียบเทียบกับรุ่นเต็มของโมเดล
• การสร้างข้อความ ช้าโดยเฉพาะกับรุ่นที่มีพารามิเตอร์มากกว่า 7B
• การตอบสนอง แม่นยำน้อยกว่า เมื่อเทียบกับรุ่นใหญ่กว่าที่ทำงานด้วยฮาร์ดแวร์ที่มีประสิทธิภาพ

ในการทดสอบที่ดำเนินการกับรุ่นต่างๆ ของโมเดล พบว่ารุ่น 1.5B เป็นตัวที่แนะนำที่สุด สำหรับ Raspberry Pi 5 แม้ว่าประสิทธิภาพจะยังคงพอประมาณก็ตาม ก่อนที่เราจะจบบทความเกี่ยวกับวิธีรัน DeepSeek R1 บน Raspberry Pi 5 เรามีเรื่องอื่นมาบอกคุณเกี่ยวกับกรณีการใช้งานต่างๆ ในรุ่นน้ำหนักเบา

กรณีการใช้งานสำหรับโมเดลน้ำหนักเบา

แม้ว่า Raspberry Pi จะไม่สามารถรองรับโมเดลขนาดใหญ่ได้ แต่เวอร์ชันที่ย่อส่วนลงก็ยังมีประโยชน์ในบางสถานการณ์ สถานการณ์:

• การสร้างรหัสพื้นฐานและความช่วยเหลือทางคณิตศาสตร์
• ระบบอัตโนมัติในโครงการบ้านอัจฉริยะ
• รองรับงานเฉพาะในระบบฝังตัว

การสามารถรันโมเดล AI ขั้นสูงบนฮาร์ดแวร์ราคาไม่แพงถือเป็นก้าวสำคัญในโลกโอเพนซอร์สอย่างแน่นอน แม้ว่า ราสเบอร์รี่ Pi 5 จะไม่นำเสนอประสบการณ์ที่เปรียบเทียบได้กับเซิร์ฟเวอร์ที่มี GPU หลายตัว การสำรวจตัวเลือกเหล่านี้จะเปิดประสบการณ์ใหม่ อัตราต่อรอง สำหรับการประมวลผลต้นทุนต่ำ หากคุณสนใจที่จะลองใช้ ให้ทำตามขั้นตอนในคู่มือนี้และทดลองใช้รุ่นต่างๆ ของโมเดล ปรับแต่งประสิทธิภาพ ตามความต้องการของคุณ เราหวังว่าคุณจะพบว่าบทความนี้เกี่ยวกับวิธีการเรียกใช้ DeepSeek R1 บน Raspberry Pi 5 ของคุณมีประโยชน์