كيفية حذف النماذج التي لم تعد تستخدمها في أولاما

إذا كنت قد بدأت بالفعل في تجربة تثبيت نماذج الذكاء الاصطناعي على جهاز الكمبيوتر الخاص بك، فربما تعلم ذلك بالفعل. أولاما إنها الأداة المثلى لإضفاء الطابع الديمقراطي على الوصول إلى ماجستير في القانونلكن ماذا يحدث عندما تبدأ في تجميع نماذج لم تعد بحاجة إليها أو كنت ترغب فقط في تجربتها للحظة؟ إليك ما تحتاج إلى معرفته cكيفية حذف النماذج التي لم تعد تستخدمها في أولاما. 

بما أن هذه الملفات عادة ما تكون كبيرة الحجم وتستهلك جيجابايت من مساحة التخزينيأتي وقتٌ يصبح فيه من الضروري تنظيف النظام. في هذه المقالة، سنرى كيفية إزالة ما هو غير ضروري، وكيفية تحقيق أقصى استفادة من برنامج أولاما لكي يُظهر أفضل ما لديه على جهازك.

خطوات حذف القوالب التي لم تعد بحاجة إليها

لإزالة النماذج التي لم تعد تستخدمها في أولاما، لا داعي للبحث في قوائم معقدة، حيث تتم إدارة كل شيء من خلال واجهة سطر الأوامر (CLI)أول شيء يجب عليك فعله هو فتح نافذة الطرفية أو موجه أوامر ويندوز لبدء إعطاء الأوامر.

إذا كنت لا تتذكر بالضبط اسم النموذج الذي تريد حذفه، يمكنك اعرض جميع الملفات المثبتة كتابة الأمر ollama listسيؤدي هذا إلى عرض قائمة مفصلة تتضمن الأسماء والتفاصيل الدقيقة لكل نموذج موجود حاليًا في مستودعك المحلي.

بمجرد تحديد الهدف، يصبح الأمر السحري هو ollama rm متبوعًا باسم النموذج. على سبيل المثال، إذا كنت ترغب في التخلص من نموذج يسمى llama2-7b، فما عليك سوى كتابة ollama rm llama2-7b y ستؤكد الأداة عملية الحذف. من الملف. ومع ذلك، ضع في اعتبارك أنه إذا كان النموذج قيد التشغيل في تلك اللحظة تحديدًا، فمن المستحسن أوقفه أولاً بـ ollama stop nombre_del_modelo لتجنب أي تعارض، على الرغم من أن أمر الحذف عادة ما يحل المشكلة مباشرة.

التثبيت والخطوات الأولى مع أولاما

قبل أن نتعلم كيفية حذف النماذج التي لم تعد تستخدمها في برنامج أولاما، دعونا نرى كيفية تثبيته. بالنسبة لمن لم يقم بتثبيته بعد، يمكن تنزيل أولاما من موقعه الرسمي. على نظام ويندوز، يتم تثبيته باستخدام ملف .exe، بينما على نظامي ماك أو إس ولينكس، تكون العملية بسيطة بنفس القدر. بمجرد التثبيت، يمكنك قم بتنزيل النماذج من المكتبة الرسمية باستخدام الأمر ollama pullعلى سبيل المثال، إذا كنت ترغب في تجربة Llama 2، فما عليك سوى تشغيل ollama run llama2والذي سيقوم بتنزيل النموذج و سيتم فتح جلسة دردشة تفاعلية في الحال.

في بيئة الأعمال الحالية، توجد خيارات عديدة ومتنوعة. لديك لاما 3 70B، وهو وحش حقيقي بالنسبة للاستدلال المعقد، على الرغم من أنه يتطلب حوالي 40 جيجابايت من ذاكرة الوصول العشوائي للفيديو. إذا كنت تبحث عن شيء أكثر توازنًا، ميسترال 7B هو التوصية الأبرز بفضل سرعته وجودته، يعمل هذا التطبيق بكفاءة عالية على الأجهزة المنزلية. كما يتوفر أيضاً تطبيق Gemma 7B من جوجل للمهام البسيطة، أو Neural Chat 7B إذا كنت تبحث عن محادثات أكثر طبيعية.

مقال ذو صلة:

دليل شامل لإدارة نماذج متعددة في أولاما بدون تعارضات

إدارة الموقع والتخزين

من الضروري معرفة مكان تخزين هذه القوالب، حيث يتم تثبيتها على القرص الرئيسي افتراضيًا. في نظام التشغيل ويندوز، عادةً ما توجد في C:\Users\%username%\.ollama\models، على نظام macOS في ~/.ollama/models وعلى نظام لينكس في /usr/share/ollama/.ollama/modelsإذا كنت تعاني من نقص في المساحة على محرك الأقراص C، أفضل ما يمكن فعله هو إعادة تهيئة مسار التخزين قبل تنزيل نماذج جديدة. أو إزالة النماذج التي لم تعد تستخدمها في أولاما.

مقال ذو صلة:

كيفية تحسين استخدام الذاكرة والحد منه في أولاما

لتغيير هذا في نظام ويندوز، عليك الانتقال إلى إعدادات النظام المتقدمة و أنشئ متغير بيئة باسم OLLAMA_MODELS يشير ذلك إلى المجلد الموجود على القرص الصلب الذي يحتوي على أكبر مساحة. في نظام لينكس، تتضمن العملية ما يلي: تعديل معلمات خدمة systemd إضافة السطر Environment="OLLAMA_MODELS=/tu/ruta/especial" داخل القسم، إعادة تحميل النظام وإعادة تشغيل الخدمة.

تحسين الأداء والأجهزة

هناك طرق أخرى لزيادة سرعة الاستجابة دون حذف النماذج التي لم تعد تستخدمها في أولاما. تعتمد سرعة الاستجابة كليًا على جهازك. إذا كان لديك وحدة معالجة رسومات NVIDIA مع CUDA أو جهاز Mac مع Metalسيستفيد نظام أولاما تلقائيًا من تسريع الأجهزة، مما يسمح للذكاء الاصطناعي بالاستجابة في غضون ثوانٍ. وإلا، سيعتمد النظام على وحدة المعالجة المركزية، الأمر الذي قد يُسبب صعوبةً في أداء طراز مثل ميسترال 7B. يستغرق الأمر حوالي 30 ثانية لكل رد بدلاً من الثواني الثلاث التي كان سيستغرقها الأمر مع بطاقة رسومات قوية.

أما بالنسبة للمتطلبات، فإن الحد الأدنى اللازم لتشغيل الجهاز هو 4 جيجابايت من ذاكرة الوصول العشوائي (RAM)، على الرغم من من الأفضل أن يكون لديك 8 جيجابايت أو 16 جيجابايت بالنسبة للنماذج الأكبر حجماً، إذا كنت تستخدم Docker، فتذكر ربط وحدة تخزين مُسماة بحيث تبقى حالة الخادم والنماذج محفوظة ولا تُحذف عند إعادة تشغيل الحاوية.

تخصيص متقدم واتصال متطور

إحدى أقوى الميزات هي إنشاء نماذج مخصصة باستخدام ملفات النماذج، التي تعمل بشكل مشابه لملفات Dockerfilesيمكنك تحديد موجه النظام، وضبط درجة الحرارة (حيث 0.1 تعني تركيزًا أكبر و1.0 تعني إبداعًا أكبر)، وبناء نموذج خبير في مجال محدد، مثل برمجة بايثون، باستخدام الأمر ollama create.

أما لمن يرغبون في الارتقاء بهذا الأمر إلى مستوى احترافي، فتقدم أولاما... واجهة برمجة تطبيقات REST على المنفذ 11434وهذا يسمح بدمج الذكاء الاصطناعي في تطبيقات مخصصة أو استخدامه مع واجهات رسومية خارجية مثل افتح واجهة المستخدم على الويب، والتي تمنحك تجربة مماثلة لتجربة ChatGPT لكن العمل يتم بالكامل على جهازك الخاص. إذا كنت بحاجة إلى أجهزة أخرى على شبكتك المحلية للوصول إلى واجهة برمجة التطبيقات (API)، فيجب عليك تكوين المتغير. OLLAMA_HOST=0.0.0.0.

إن القدرة على حذف النماذج التي لم تعد تستخدمها في أولاما، ونقل مجلد التخزين إلى قرص أكبر، وتحسين أداء وحدة معالجة الرسومات، تجعل أولاما الأداة الأكثر تنوعًا لـ إدارة الذكاء الاصطناعي المحلي بدون تعقيدات والحفاظ على خصوصية البيانات تحت حراسة مشددة.

مقال ذو صلة:

كيف تعرف ما إذا كان التطبيق يستخدم الذكاء الاصطناعي المحلي أم يرسل كل شيء إلى السحابة؟

دانيال تيراسا

محرر متخصص في قضايا التكنولوجيا والإنترنت بخبرة تزيد عن عشر سنوات في الوسائط الرقمية المختلفة. لقد عملت كمحرر ومنشئ محتوى لشركات التجارة الإلكترونية والاتصالات والتسويق عبر الإنترنت وشركات الإعلان. لقد كتبت أيضًا في مواقع الاقتصاد والمالية والقطاعات الأخرى. عملي هو أيضا شغفي. الآن من خلال مقالاتي في Tecnobits، أحاول استكشاف كل الأخبار والفرص الجديدة التي يقدمها لنا عالم التكنولوجيا كل يوم لتحسين حياتنا.