- تتيح لك Jan AI تشغيل نماذج لغة GGUF محليًا مع ضمان خصوصية البيانات الكاملة.
- يوفر البرنامج طرق استيراد متعددة، بدءًا من مركزه المدمج وحتى تحميل الملفات المحلية أو روابط Hugging Face.
- تقوم الأداة تلقائيًا باكتشاف البيانات الوصفية للنموذج، مما يسهل تكوين بنية النموذج وقالب الدردشة.
إذا كنت مهتمًا بالذكاء الاصطناعي ولكنك لا ترغب في إرسال محادثاتك ومستنداتك الخاصة إلى خوادم خارجية، فإن Jan AI يقدم بديلاً مثيرًا للاهتمام. إنه مساعد مكتبي مجاني ومفتوح المصدر يسمح تشغيل نماذج اللغة مباشرة على الكمبيوتر.
إحدى أكبر مزاياها هي توافقها مع نماذج بتنسيق GGUF باستخدام llama.cppيتيح لك هذا تنزيل النماذج الكمية، والاستفادة من وحدة المعالجة المركزية وبطاقة الرسومات الخاصة بالكمبيوتر، واستخدامها حتى بدون اتصال بالإنترنت.
عملياً، يمكنك تحويل Jan إلى نوع من ChatGPT خاص وقابل للتخصيص. ومع ذلك، تعتمد الخصوصية على الإعدادات التي تختارها. تقوم النماذج المحلية بمعالجة البيانات على الجهازبينما تقوم الاتصالات مع OpenAI أو Anthropic أو غيرها من مزودي الخدمات الخارجيين بإرسال الطلبات إلى خوادمهم.
ما تحتاجه قبل استيراد نموذج GGUF
قبل تنزيل أول نموذج تجده، يُنصح بالتأكد من توافق الملف مع llama.cpp وأن حجمه يتناسب مع الذاكرة المتاحة. غالبًا ما تتضمن مستودعات Hugging Face عدة نسخ مُكمّمة من النموذج نفسه، مثل Q4_K_M وQ5_K_M وQ8_0.
يقلل التكميم من حجم البيانات المحملة، مما يسمح بتشغيل النماذج الكبيرة على أجهزة أقل قوة. وكقاعدة عامة، يوفر Q4_K_M توازناً جيداً بين الجودة واستهلاك الذاكرة والسرعةبينما يحتفظ Q5_K_M و Q8_0 بدقة أكبر إلى حد ما مقابل شغل مساحة أكبر والحاجة إلى المزيد من ذاكرة الوصول العشوائي أو ذاكرة الوصول العشوائي للفيديو.
ينبغي عليك أيضًا التحقق من بنية النموذج. على الرغم من أن ملف llama.cpp يدعم عددًا كبيرًا من العائلات، إلا أن النماذج المنشورة حديثًا قد تتطلب إصدارًا أحدث من المحرك. إذا لم يتم تحميل الملف، فهذا لا يعني بالضرورة أنه تالف. قد لا يتعرف النظام الخلفي المثبت في يناير على بنيته بعد..
قم بتنزيل النماذج من Jan's Hub
أسهل طريقة لإضافة نموذج هي استخدام مركز جان المتكاملمن هذا القسم يمكنك البحث عن النماذج، وعرض المتغيرات المتاحة، وتنزيل التكميم الأنسب لجهاز الكمبيوتر الخاص بك.
بمجرد بدء التنزيل، يعرض برنامج Jan النموذج ونسبة الإنجاز على المؤشر في الأعلى. يمكن إلغاء العملية، وفي حال حدوث خطأ، ما عليك سوى الضغط على زر التنزيل مرة أخرى للمحاولة.
يُنصح بهذه الطريقة بشكل خاص للمبتدئين لأن جان يتولى الأمر. احفظ الملف وقم بإعداد التكوين اللازمبمجرد اكتمال التنزيل، سيظهر القالب في محدد الدردشة ويمكنك تحميله لبدء استخدامه.
استورد نموذج وجه معانقة باستخدام معرّفه
تتيح لك المنصة أيضًا تحديد موقع النماذج المتاحة على موقع Hugging Face باستخدام مُعرّف المستودع الخاص بها. للقيام بذلك، انسخ مُعرّفًا بالصيغة التالية: organizacion/nombre-del-modelo ثم الصقه في شريط البحث في موقع Jan's Hub.
على سبيل المثال، يمكنك البحث عن مستودع مثل bartowski/Qwen2.5-7B-Instruct-GGUFإذا تعرف برنامج Jan على المستودع، فسيعرض لك الكميات المتاحة حتى تتمكن من تحديد وتنزيل إحداها.
قبل المتابعة، تأكد من أن المستودع يحتوي على ملفات GGUF متوافق مع llama.cppلا يمكن تحميل مستودع يحتوي فقط على أوزان بتنسيقات مثل Safetensors بهذه الطريقة كنموذج محلي.
بعض نماذج Hugging Face مقيدة وتتطلب منك الموافقة على شروط الاستخدام مسبقًا. في هذه الحالات، ستحتاج إلى تسجيل الدخول إلى Hugging Face، والحصول على رمز وصول، وإدخاله في [الحقل/البرنامج/إلخ المناسب]. الإعدادات > عام > أخرى > رمز HuggingFaceقد يختلف الموقع الدقيق قليلاً حسب إصدار شهر يناير.
يمكنك أيضًا فتح صفحة الطراز المتوافق على Hugging Face، انقر استخدم هذا النموذج ثم اختر "جان" من قسم التطبيقات المحلية. سيحاول المتصفح فتح "جان" لبدء عملية الاستيراد.
كيفية استيراد ملف GGUF محفوظ على جهاز الكمبيوتر الخاص بك
إذا كنت قد نزّلت الملف مسبقًا باستخدام متصفحك أو أداة أخرى، فلن تحتاج إلى تنزيله مرة أخرى من المركز. في يناير، انتقل إلى الإعدادات > موفرو النماذجافتح ملف التكوين llama.cpp واضغط على الخيار يستورد.
بعد ذلك، حدد ملف GGUF المخزن على جهاز الكمبيوتر الخاص بك. سيقوم جان بتحليل بياناته الوصفية لتحديد معلومات مثل بنية البرنامج، ومحلل الكلمات، وقالب المحادثة إن وجد.
يستطيع جان ربط النموذج من موقعه الحالي بدلاً من إنشاء نسخة كاملة أخرى بالضرورة. هذا يوفر مساحة، ولكنه يعني ضمناً أن لا يجوز لك نقل الملف الأصلي أو إعادة تسميته أو حذفه بعد استيراده. إذا قمت بذلك، فقد يفقد جان المرجع ويتوقف عن تحميل النموذج.
بعد التثبيت، افتح محادثة جديدة، واختر القالب، وانتظر حتى يكتمل تحميله. قد يستغرق التحميل الأول وقتًا أطول قليلاً، خاصةً إذا كان الملف كبيرًا أو يستهلك موارد المعالج بشكل كبير.
قم باستيراد نموذج تم تعديله باستخدام برنامج Ertas Studio إلى برنامج Jan
المستخدمون الذين يؤدون ضبط نماذج اللغة بدقة يمكنهم أيضًا استخدام Jan كبيئة تشغيل. تتيح لك أدوات مثل Ertas Studio تدريب نموذج أو ضبطه بدقة في السحابة وتصدير النتيجة بتنسيق GGUF.
هذا ليس تكاملاً مباشراً بين التطبيقين. تتضمن آلية العمل إعداد النموذج وتدريبه في برنامج Ertas Studio، وتقييم نتائجه، وتصدير نسخة كمية منه، و قم بتحميل ملف GGUF لاحقًا في يناير باستخدام خيار الاستيراد المحلي.
قبل التصدير، يُنصح باختبار مختلف أنواع التكميم. عادةً ما يكون Q4_K_M خيارًا مناسبًا لتوزيع النموذج على أجهزة الكمبيوتر المنزلية، بينما يمكن أن يوفر Q5_K_M أو Q8_0 دقة أعلى إذا كانت أجهزة الكمبيوتر المستهدفة تتمتع بذاكرة كافية.
يُتيح هذا النظام تطوير معالجات مُخصصة لوثائق أو مصطلحات أو مهام مُحددة، وتنفيذها لاحقًا دون الاعتماد الدائم على واجهة برمجة التطبيقات (API). ومع ذلك، في قطاعات مثل الرعاية الصحية أو التمويل، لا يضمن العمل محلياً في حد ذاته الامتثال للوائح التنظيميةمن الضروري أيضاً التحكم في مصدر البيانات، والأذونات، والتخزين، والوصول إلى المعدات.
اضبط جان بحيث يعمل النموذج بشكل أسرع
تعتمد سرعة النموذج على حجمه، ونوع التكميم المُختار، ومواصفات الجهاز المتاحة. من خلال أيقونة الإعدادات بجوار النموذج، يمكنك تعديل معايير مثل السياق، ودرجة الحرارة، والطبقات المُرسلة إلى وحدة معالجة الرسومات.
التعديل طبقات وحدة معالجة الرسومات يُحدد هذا عدد الطبقات التي تعالجها بطاقة الرسومات. عادةً ما تُحسّن القيمة العالية السرعة بشكل ملحوظ، ولكنها تزيد أيضًا من استهلاك ذاكرة الوصول العشوائي للفيديو (VRAM). إذا فشل تحميل النموذج أو حدث خطأ في الذاكرة، فقم بتقليل هذه القيمة حتى تجد إعدادًا مستقرًا.
يؤثر طول السياق أيضًا على استهلاك الذاكرة. حتى لو كان النموذج يدعم عشرات الآلاف من الرموز، فإن ضبط الحد الأقصى منذ البداية قد يحجز مساحة كبيرة من الذاكرة لذاكرة التخزين المؤقت للقيم المفتاحية. إذا نفدت موارد النظام، فحاول... قلل السياق أو استخدم ذاكرة تخزين مؤقتة مُكمّمة.
في الأنظمة المزودة ببطاقة رسومات NVIDIA، يُنصح بالتأكد من أن Jan يستخدم واجهة CUDA متوافقة. أما في الأنظمة الأخرى، فيمكنك استخدام Vulkan أو Metal أو وحدة المعالجة المركزية، وذلك حسب نوع الجهاز ونظام التشغيل. لا يكتشف برنامج Jan AI بطاقة الرسوماتعادة ما يكون تحديث برامج التشغيل ومحرك llama.cpp أحد الخطوات الأولى.
كيفية حذف القوالب واستعادة مساحة القرص
قد تشغل ملفات GGUF عدة غيغابايتات، لذا من السهل تراكم عشرات الغيغابايتات من الملفات من الطرازات التي لم تعد تستخدمها. لحذف ملف واحد بشكل فردي، ادخل إلى إعداداته وانقر على أيقونة سلة المهملات.
يُتيح لك برنامج Jan أيضًا إجراء عملية تنظيف شاملة. انتقل إلى الإعدادات > Llama.cpp —أو MLX على أجهزة Apple المتوافقة—واستخدم حذف الكل ضمن قسم النماذج. قبل التأكيد، يوضح التطبيق مقدار المساحة التي سيتم استعادتها.
تعمل هذه الخاصية على إزالة التنزيلات التي يديرها جان، ولكن يحافظ على سلامة النماذج المحلية المرتبطة يدويًا.في هذه الحالات، تتم إزالة مرجع التطبيق دون حذف الملف الأصلي.
ماذا تفعل إذا لم يتعرف برنامج Jan على نموذج GGUF أو لم يقم بتحميله؟
عندما يتعطل تحميل نموذج ما إلى أجل غير مسمى أو يعرض برنامج Jan خطأً، يبدأ البرنامج بالتحقق من اكتمال تنزيل الملف وعدم تقسيمه إلى أجزاء متعددة. تُوزَّع بعض النماذج الكبيرة على شكل عدة ملفات GGUF، والتي يجب أن تحتفظ بأسمائها وأن تبقى في المجلد نفسه.
من المحتمل أيضًا أن الإصدار الحالي من ملف llama.cpp غير متوافق مع بنية النظام المُصدرة حديثًا. انتقل إلى إعدادات المحرك، وثبّت أحدث إصدار متوفر، وفعّل التحديثات التلقائية إذا كنت ترغب في تلقي الإصدارات الجديدة.
إذا كانت المشكلة متعلقة بالذاكرة، فجرب هذه الإجراءات:
- قلل عدد الطبقات المرسلة إلى وحدة معالجة الرسومات.
- قلل الحد الأقصى لطول السياق.
- أغلق الألعاب والتطبيقات التي تستهلك الكثير من ذاكرة الوصول العشوائي (RAM) أو ذاكرة الفيديو (VRAM).
- استخدم تكميمًا أصغر، مثل Q4_K_M.
- قم بضبط إعدادات Jan بحيث يتم تحميل نموذج واحد فقط في كل مرة.
- جرب نظامًا خلفيًا آخر متوافقًا مع المعالج أو بطاقة الرسومات الخاصة بك.
بعد استيراد النموذج من مجلد آخر، تأكد من أن الملف لا يزال في نفس الموقع. إذا تم نقله أو تغيير اسمه، فاحذف مرجعه إلى "جان" ثم استورده مرة أخرى.
يقبل جان أيضًا نماذج مخصصة مثل Jan-v3-4Bيستند هذا النظام إلى Qwen3-4B-Instruct-2507، ويتصل أيضًا بخدمات OpenAI وAnthropic وOpenRouter وغيرها من الخدمات المتوافقة. يتيح لك هذا التكامل استخدام النماذج المحلية عند الحاجة إلى الخصوصية، واللجوء إلى مزودي خدمات خارجيين عند الحاجة إلى مزيد من الإمكانيات أو ميزات محددة.
لذا فإن استيراد نماذج GGUF إلى Jan AI هو طريقة بسيطة لـ أنشئ بيئة ذكاء اصطناعي محلية تحت سيطرتكعادةً ما يكون اختيار التكميم المناسب، وضبط استخدام وحدة معالجة الرسومات، والحفاظ على تحديث ملف llama.cpp كافيًا لتشغيل مجموعة واسعة من النماذج دون الاعتماد باستمرار على الإنترنت.
أنا من عشاق التكنولوجيا وقد حول اهتماماته "المهووسة" إلى مهنة. لقد أمضيت أكثر من 10 سنوات من حياتي في استخدام التكنولوجيا المتطورة والتعديل على جميع أنواع البرامج بدافع الفضول الخالص. الآن تخصصت في تكنولوجيا الكمبيوتر وألعاب الفيديو. وذلك لأنني منذ أكثر من 5 سنوات أكتب لمواقع مختلفة حول التكنولوجيا وألعاب الفيديو، وأقوم بإنشاء مقالات تسعى إلى تزويدك بالمعلومات التي تحتاجها بلغة مفهومة للجميع.
إذا كان لديك أي أسئلة، فإن معرفتي تتراوح بين كل ما يتعلق بنظام التشغيل Windows وكذلك Android للهواتف المحمولة. والتزامي تجاهك هو أنني على استعداد دائمًا لقضاء بضع دقائق ومساعدتك في حل أي أسئلة قد تكون لديكم في عالم الإنترنت هذا.