كيفية استيراد نموذج GGUF تم تنزيله يدويًا إلى برنامج LM Studio

يُتيح لك استيراد نموذج GGUF الذي تم تنزيله يدويًا إلى LM Studio استخدام أي نموذج LLM تقوم بتنزيله من منصات مثل Hugging Face دون الاعتماد على محرك البحث المدمج. يمكنك استيراده بطريقتين: إما عن طريق تنظيم الملفات يدويًا في مجلدك المحلي أو عن طريق تشغيل الأوامر في سطر الأوامر. بعد ذلك، دعونا نرى خطوة بخطوة كيفية دمج نماذجك المخصصة في LM Studio.

لماذا يتم استيراد نموذج GGUF الذي تم تنزيله يدويًا إلى LM Studio؟

سيساعدك استيراد نموذج GGUF الذي تم تنزيله يدويًا إلى LM Studio على تحقيق أقصى استفادة من جهازك بطريقة آمنة تمامًا. متى يُنصح باستيراد النماذج التي تم تنزيلها من خارج البرنامج؟ يُنصح بذلك. إذا كان البحث الداخلي للتطبيق غير كافٍ أو لا يتناسب مع سير عملك الفعليهذه هي الأسباب الرئيسية للاستخدام:

• الموديلات غير المدرجة في وجه معانقة أو خاص: إذا كنت تقوم بتدريب نموذجك الخاص أو إذا قام مطور بمشاركة ملف .gguf خاص معك غير منشور في المستودعات العامة.
• انقطاع التنزيلات أو برامج إدارة خارجية: غالباً ما يفشل مدير التنزيل المدمج في التطبيقات مع الاتصالات البطيئة أو غير المستقرة. يتيح لك استخدام أدوات مثل wget إمكانية إيقاف التنزيل مؤقتاً واستئنافه، وتنزيل الملفات التي تتراوح أحجامها من 10 جيجابايت إلى 50 جيجابايت بموثوقية أكبر.
• الإصدارات التجريبية أو التعديلات المخصصة: يمكنك أيضًا التفكير في استيراد نموذج GGUF الذي تم تنزيله يدويًا إلى LM Studio إذا قام منشئ النموذج بإصدار متغيرات مع تكميمات مخصصة.
• عندما لا يكون لديك اتصال بالإنترنت: إذا كنت في مكان لا تتوفر فيه إمكانية الوصول إلى الإنترنت، يمكنك نقل ملف GGUF باستخدام محرك أقراص USB أو شبكة محلية ودمجه مباشرة في LM Studio.

كيفية استيراد نموذج GGUF تم تنزيله يدويًا إلى برنامج LM Studio.

بعد ذلك ، نشرح تعليمات خطوة بخطوة حول كيفية استيراد نموذج GGUF تم تنزيله يدويًا إلى LM Studioسنبدأ أولاً بشرح كيفية القيام بذلك من خلال تنظيم الملفات يدويًا داخل مجلد النماذج الداخلي لبرنامج LM Studio. ثم سنوضح لك كيفية استيرادها عن طريق تشغيل أمر في سطر الأوامر.

قم بتنظيم الملفات يدويًا

لاستيراد نموذج GGUF تم تنزيله يدويًا إلى LM Studio، يجب عليك ضعه داخل مجلد النماذج الداخلية، مع مراعاة بنية المجلدات المطلوبة من قبل التطبيق.للقيام بذلك، اتبع الخطوات التالية:

1. افتح مجلد النماذج المحلية: افتح برنامج LM Studio، وانتقل إلى علامة تبويب "نماذجي" (أيقونة المجلد في الشريط الجانبي الأيسر)، ثم انقر على "فتح دليل النماذج". إذا كنت تفضل التصفح يدويًا من مستكشف الملفات:
   • ويندوز: C:\Users\YOUR_USER\.cache\lm-studio\models
   • نظام macOS/Linux: ~/.cache/lm-studio/models
2. أنشئ بنية المجلدات الفرعية: يتطلب برنامج LM Studio وجود النماذج داخل مجلد المؤلف ومجلد فرعي خاص بالنماذج. أنشئ المجلدات باتباع المسار التالي: models / [اسم_المؤلف] / [اسم_النموذج]. إليك مثال: models/QuantFactory/Llama-3-8B-Instruct-GGUF
3. ضع ملف .gguf: انقل أو انسخ ملف .gguf الخاص بك مباشرة إلى المجلد الفرعي للنموذج الذي قمت بإنشائه للتو.
4. أعد تحميل الصفحة وحدد النموذج: ارجع إلى برنامج LM Studio. في تبويب "نماذجي" أو في القائمة المنسدلة لاختيار النموذج في الأعلى، انقر على أيقونة إعادة التحميل/التحديث (أو أعد تشغيل التطبيق إذا لم يتم التعرف عليه فورًا). سيظهر النموذج جاهزًا للتحميل في الذاكرة.

أحيانا، يتعذر على برنامج LM Studio تحميل النموذجفي مقال سابق قمنا بتحليل الأخطاء الشائعة والحلول خطوة بخطوة، يمكنك تطبيقها. يمكنك الاطلاع عليها لمعرفة سبب عدم تمكنك من تحميل نموذج وكيفية إصلاحه.

استخدم استيراد نظام إدارة المكتبات (lms)

هناك طريقة أخرى لاستيراد نموذج GGUF تم تنزيله يدويًا إلى LM Studio وهي قم بتشغيل الأمر التالي في طرفية الأوامر الخاصة بك:

• استيراد نظام إدارة التعلم واتبع التعليمات التفاعلية لإكمال عملية الاستيراد.
• هذا هو هيكل دليل النموذج المتوقع لبرنامج LM Studio:
  • ~/.lmstudio/models/
    الناشر/
    نموذج/
    model-file.gguf
• على سبيل المثال، إذا كان لديك نموذج يسمى ocelot-v1 منشور بواسطة infra-ai، فسيبدو الهيكل كالتالي:
  • ~/.lmstudio/models/
    الذكاء الاصطناعي تحت السطحي/
    أوسيلوت-v1/
    ocelot-v1-instruct-q4_0.gguf

باستخدام واجهة سطر الأوامر الأصلية لبرنامج LM Studio

يتضمن برنامج LM Studio أداة سطر أوامر لـ إدارة وتشغيل النماذج دون فتح واجهة المستخدم الرسوميةلاستيراد نموذج GGUF تم تنزيله يدويًا إلى LM Studio، يمكنك أيضًا القيام بما يلي:

1. قم بتثبيت أمر lms: افتح LM Studio، وانتقل إلى علامة التبويب Developer / CLI في الشريط الجانبي وانقر على تثبيت أداة سطر الأوامر 'lms' (أو قم بتشغيل lms Bootstrap في جهازك الطرفي).
2. قم بتحميل النموذج باستخدام نظام إدارة التعلم (LMS): بمجرد وضع ملف .gguf في مجلد النماذج، قم بتشغيل الأمر التالي: lms load –gpu max.
3. ابدأ محادثة تفاعلية: دردشة نظام إدارة التعلم.
4. قم بتشغيل خادم محلي متوافق مع OpenAI: بدء تشغيل خادم نظام إدارة التعلم.

مزايا استيراد نموذج GGUF تم تنزيله يدويًا إلى LM Studio: من الممكن

يوفر استيراد نموذج GGUF الذي تم تنزيله يدويًا إلى LM Studio العديد من الميزات. المزايا الرئيسية عندما نتحدث عن الأداء وسهولة الوصول والتخصيصهذه هي الفوائد الرئيسية:

• تنزيلات أسرع وأكثر استقرارًا: تتفوق برامج إدارة التنزيل الخارجية على برنامج إدارة التنزيل المدمج في معالجة الاتصالات البطيئة أو غير المستقرة. وهذا يتيح لك إيقاف التنزيلات الكبيرة أو استئنافها دون فقدان التقدم.
• استخدام نماذج خاصة أو نماذج شخصية: إذا كنت تقوم بتدريب نماذجك المحلية الخاصة، فستحتاج إلى استيرادها يدويًا باستخدام إحدى هذه الطرق إذا لم تكن مستضافة في أي مستودع عام.
• التوافق مع البيئات غير المتصلة بالإنترنت: يتيح لك نقل النماذج إلى محركات أقراص USB أو الشبكات المحلية للعمل على أجهزة الكمبيوتر عالية الأمان، أو تلك التي لا تتوفر فيها إمكانية الوصول إلى الإنترنت.
• توفير مساحة القرص: يمكنك تجنب تكرار الملفات إذا كنت تستخدم بالفعل ملفات .gguf نفسها في بيئات أخرى مثل llama.cpp أو Ollama أو AnythingLLM. كل ما عليك فعله هو نقلها أو ربطها بمجلد نماذج LM Studio.
• تحكم أكبر في الإصدارات: تضمن استخدام نسخة دقيقة من النموذج دون التعرض لخطر تغييره أو تحديثه بشكل غير متوقع في مستودع المصدر.

ختامًا، يمنحك استيراد نموذج GGUF يدويًا إلى LM Studio تحكمًا كاملًا في بيئتك المحلية. سواءً قمت بذلك بتنظيم الملفات في مجلدات فرعية أو باستخدام سطر الأوامر، فإن هذه العملية تتيح لك الاستفادة من عمليات التكميم المخصصة، والعمل دون اتصال بالإنترنت، وإدارة مواردك بكفاءة. بتطبيق الأفكار التي نوقشت في هذه المقالة، ستتمكن من قم بتخصيص تجربة التطوير الخاصة بك وعزز مشاريع الذكاء الاصطناعي الخاصة بك.