- LM Studio ช่วยให้คุณสามารถเรียกใช้โมเดลภาษา (LLM) ในเครื่องของคุณเอง ซึ่งรับประกันความเป็นส่วนตัวของข้อมูลอย่างสมบูรณ์
- การกำหนดค่าเส้นทางการจัดเก็บข้อมูลและแคชการดาวน์โหลดให้ถูกต้องนั้นมีความสำคัญอย่างยิ่ง เพื่อหลีกเลี่ยงการโอเวอร์โหลดดิสก์หลัก
- แอปพลิเคชันนี้ช่วยให้คุณสามารถปรับอุณหภูมิของระบบและแจ้งเตือนเพื่อปรับแต่งพฤติกรรมของ AI ได้
- ซึ่งรวมถึงความสามารถในการทำหน้าที่เป็นเซิร์ฟเวอร์ API ในพื้นที่เพื่อผสานรวมโมเดลเข้ากับโครงการเขียนโปรแกรมภายนอก
¿ฉันจะเปลี่ยนโฟลเดอร์ที่ LM Studio ใช้บันทึกโมเดลได้อย่างไร? หากคุณเคยทดลองใช้งานปัญญาประดิษฐ์ในระดับท้องถิ่น คุณอาจเคยพบเจอกับสิ่งนี้มาบ้างแล้ว LM สตูดิโอเครื่องมือที่ใช้งานง่ายมาก ช่วยให้คุณตั้งค่า ChatGPT เองที่บ้านได้โดยไม่ต้องพึ่งพาระบบคลาวด์ เหมาะสำหรับผู้ที่กำลังมองหา... ความเป็นส่วนตัวโดยสมบูรณ์ และควบคุมข้อมูลของคุณได้อย่างสมบูรณ์ เนื่องจากกระบวนการประมวลผลทั้งหมดเกิดขึ้นบนฮาร์ดแวร์ของคุณเอง ป้องกันไม่ให้ข้อมูลของคุณถูกส่งผ่านทางอินเทอร์เน็ต
การติดตั้งนั้นง่ายมาก แต่เมื่อคุณเริ่มดาวน์โหลดโมเดลภาษา (LLM) เช่น Llama หรือ Mistral คุณจะรู้ว่า... พื้นที่ดิสก์ มันบินได้ นี่คือจุดที่ผู้ใช้หลายคนเจอปัญหา โดยเฉพาะอย่างยิ่งเมื่อโปรแกรมพยายาม จัดการแคชการดาวน์โหลด บนดิสก์หลัก (โดยปกติคือไดรฟ์ C:) จนเต็ม แม้ว่าคุณจะตั้งค่าโฟลเดอร์อื่นสำหรับจัดเก็บข้อมูลสุดท้ายไว้แล้วก็ตาม
LM Studio คืออะไรกันแน่ และทำงานอย่างไร?
โดยพื้นฐานแล้ว มันคือศูนย์บัญชาการข้ามแพลตฟอร์มที่ใช้งานได้กับ Windows, Mac และ Linux ซึ่งช่วยลดความซับซ้อนของกระบวนการต่างๆ ดาวน์โหลดและเรียกใช้โมเดล โค้ดโอเพนซอร์สจาก Hugging Face ที่ดีที่สุดคือ มันจัดการเรื่องทางเทคนิคที่ซับซ้อนทั้งหมด เช่น การโหลดลงหน่วยความจำ ดังนั้นคุณจึงไม่ต้องกังวลอะไร นอกจากเรื่องอื่นๆ ถามคำถามเขา ไปยังบอทหรือพัฒนาโปรเจ็กต์ของคุณ
การใช้งาน AI ในเครื่องของคุณเอง ช่วยให้คุณไม่ต้องกังวลเรื่องค่าบริการรายเดือนและข้อจำกัดจากบริการเชิงพาณิชย์อีกต่อไป นอกจากนี้ ชุมชนยังชื่นชอบการใช้งาน AI ในเครื่องของคุณเองเป็นอย่างมาก ทำให้การตั้งค่าใช้งานง่ายมาก เพื่อให้ทุกคน แม้แต่ผู้ที่ไม่มีปริญญาเอกด้านวิทยาการคอมพิวเตอร์ สามารถติดตั้งและใช้งานได้ภายในไม่กี่นาที
ข้อกำหนดทางเทคนิคเพื่อให้ทุกอย่างทำงานได้อย่างราบรื่น
คุณไม่จำเป็นต้องใช้ซูเปอร์คอมพิวเตอร์ของ NASA แต่คุณต้องมีคุณสมบัติขั้นต่ำบางอย่างเพื่อหลีกเลี่ยงประสบการณ์ที่น่าผิดหวัง เกี่ยวกับเรื่องนี้ หน่วยความจำ RAMโดยทั่วไปแล้ว คุณควรมี RAM 16 GB เพื่อเล่นเกมที่ลื่นไหลได้ดี แต่เกมที่เบาที่สุดก็สามารถเล่นได้ด้วย RAM 8 GB หากคุณใช้ Mac ที่มีชิป M1, M2 หรือ M4 คุณก็โชคดี เพราะ... โปรเซสเซอร์เหล่านี้ พวกมันสามารถจัดการกับ AI ได้อย่างยอดเยี่ยมโดยไม่จำเป็นต้องใช้ GPU ภายนอก
ในกรณีของ Windows หรือ Linux การมี GPU ของ NVIDIA หรือ AMD จะช่วยเร่งกระบวนการให้เร็วขึ้นอย่างมาก แม้ว่า CPU ก็สามารถทำงานได้หากคุณไม่รีบร้อนก็ตาม ส่วนเรื่อง... พื้นที่จัดเก็บโปรดจำไว้ว่าแต่ละรุ่นอาจใช้พื้นที่ระหว่าง 2 ถึง 20 GB ดังนั้นจึงเป็นสิ่งสำคัญมาก จัดการพื้นที่ให้ดี บนฮาร์ดไดรฟ์ของคุณ
ขั้นตอนการติดตั้งและเปิดใช้งาน AI
เริ่มต้นด้วยการเข้าไปที่เว็บไซต์อย่างเป็นทางการของ lmstudio.ai และดาวน์โหลดตัวติดตั้งสำหรับระบบของคุณ ขั้นตอนการติดตั้งนั้นเป็นไปตามปกติ "ต่อไป ต่อไป จบ"เมื่อเปิดใช้งานแล้ว คุณจะพบกับอินเทอร์เฟซที่สะอาดตามาก โดยมีแถบค้นหารุ่นที่โดดเด่น ซึ่งเป็นจุดที่ทุกสิ่งมหัศจรรย์เกิดขึ้น
ขอแนะนำให้ทำการอัปเดตแอปพลิเคชันอยู่เสมอ (เวอร์ชันล่าสุด เช่น 0.3.14) เพื่อให้สามารถใช้ประโยชน์จากคุณสมบัติต่างๆ ได้อย่างเต็มที่ การปรับปรุงการสนับสนุน ประกอบด้วยเครื่องมือและการแก้ไขข้อผิดพลาดต่างๆ เมื่อติดตั้งเสร็จแล้ว สิ่งแรกที่ต้องทำคือไปที่แท็บการค้นหาเพื่อ ค้นหาโมเดล เลือกอันที่เหมาะกับคุณที่สุด เช่น Llama 3.1 หรือ Phi-3
วิธีจัดการการดาวน์โหลดและการจัดเก็บโมเดล
เมื่อเลือกโมเดล ผมขอแนะนำให้คุณเลือก เวอร์ชันควอนไทซ์ (เช่น Q4_K_M) เนื่องจากมีน้ำหนักเบากว่าและเร็วกว่าโดยไม่สูญเสียคุณภาพมากนัก หลังจากคลิกปุ่มดาวน์โหลด คุณสามารถติดตามความคืบหน้าได้ในแท็บดาวน์โหลด นี่คือจุดที่ปัญหาเกิดขึ้นซ้ำๆ: แม้ว่าคุณจะระบุว่าต้องการบันทึกโมเดลลงในไดรฟ์ E: ก็ตาม LM สตูดิโอ ใช้แคช จากดิสก์ C: ระหว่างกระบวนการ
หากพื้นที่ในไดรฟ์ระบบของคุณเต็มระหว่างการดาวน์โหลด วิธีแก้ไขคือ... เปลี่ยนเส้นทางแคช ในการตั้งค่าทั่วไปของแอปพลิเคชัน คุณต้องตรวจสอบให้แน่ใจว่าทั้งโฟลเดอร์ปลายทางสุดท้ายและ ไดเร็กทอรีดาวน์โหลดชั่วคราว เลือกอุปกรณ์ที่มีพื้นที่เพียงพอเพื่อป้องกันไม่ให้กระบวนการถูกขัดจังหวะอย่างกะทันหัน
การโต้ตอบและการตั้งค่าการแชท
เมื่อโมเดลอยู่ในดิสก์ของคุณแล้ว ให้ไปที่ส่วน "โมเดลของฉัน" เลือกโมเดลนั้น แล้วกด "พก"จากนั้น ในแท็บแชท คุณสามารถเริ่มโต้ตอบได้ เพื่อป้องกันไม่ให้ AI ตอบกลับแบบเดิมซ้ำๆ คุณสามารถลองปรับเปลี่ยนวิธีการตอบกลับได้ อุณหภูมิค่า 0.7 ถือว่าสมดุล ในขณะที่การเพิ่มค่าเป็น 1.0 จะทำให้แบบจำลองมีความสร้างสรรค์มากขึ้น และบางครั้งก็อาจดูบ้าๆ บอๆ ไปบ้าง
นอกจากนี้ คุณยังสามารถกำหนดบุคลิกภาพของ AI ผ่านทาง... ข้อความแจ้งเตือนระบบถ้าคุณต้องการให้มันทำงานเหมือนผู้เชี่ยวชาญด้าน Python หรือโจรสลัดแคริบเบียน ก็แค่พิมพ์ลงไปตรงนั้น คุณยังสามารถปรับแต่งได้อีกด้วย ความยาวของบริบทด้วยจำนวนโทเค็น 4096 ตัวนั้น โดยปกติแล้วก็เพียงพอแล้วสำหรับ AI ที่จะจดจำสิ่งที่คุณพูดคุยไปเมื่อสักครู่ได้
ตัวเลือกขั้นสูงและโหมดนักพัฒนา
สำหรับผู้ที่รู้วิธีการเขียนโปรแกรมหรือต้องการทดลอง LM Studio สามารถใช้งานได้หลากหลายรูปแบบ เซิร์ฟเวอร์ API ในพื้นที่ ใช้งานร่วมกับ OpenAI ได้ ช่วยให้คุณสามารถผสานรวม AI เข้ากับสคริปต์ Node.js หรือเครื่องมือต่างๆ เช่น LangChain โดยใช้พอร์ตเริ่มต้น 1234 เพียงไปที่แท็บนักพัฒนาซอฟต์แวร์แล้ว... เปิดใช้งานเซิร์ฟเวอร์.
หากคุณมีการ์ดจอประสิทธิภาพสูง อย่าลืมเปิดใช้งานด้วย "ถ่ายโอนข้อมูลไปยัง GPU" ในการตั้งค่าแชท ให้เลื่อนแถบเพื่อกำหนดจำนวนเลเยอร์สูงสุดที่ VRAM ของคุณอนุญาต ซึ่งจะทำให้การตอบกลับ... ภาพถ่าย แทนที่จะรอให้ CPU ประมวลผลแต่ละคำ
เครื่องมือนี้ได้กลายเป็นประตูสู่โลกของ LLM ระดับท้องถิ่นอย่างแท้จริง ด้วยคุณสมบัติของมัน อินเทอร์เฟซที่ใช้งานง่าย และให้ความสำคัญกับความเป็นส่วนตัว ตั้งแต่การจัดการเส้นทางการจัดเก็บข้อมูลเพื่อหลีกเลี่ยงการโอเวอร์โหลดไดรฟ์ C: ไปจนถึงการสร้างเซิร์ฟเวอร์ API ทำให้ผู้ใช้ทุกคนสามารถควบคุมปัญญาประดิษฐ์ได้โดยไม่ต้องยุ่งยากทางเทคนิคมากเกินไป
มีความหลงใหลในเทคโนโลยีตั้งแต่ยังเป็นเด็ก ฉันชอบที่จะติดตามข่าวสารล่าสุดในภาคส่วนนี้ และเหนือสิ่งอื่นใดคือการสื่อสาร นั่นคือเหตุผลที่ฉันทุ่มเทให้กับการสื่อสารเกี่ยวกับเทคโนโลยีและเว็บไซต์วิดีโอเกมมาหลายปี คุณจะพบว่าฉันเขียนเกี่ยวกับ Android, Windows, MacOS, iOS, Nintendo หรือหัวข้ออื่น ๆ ที่เกี่ยวข้องที่อยู่ในใจ