كيفية ربط نماذج الذكاء الاصطناعي مثل OpenAI وغيرها بـ AnythingLLM

إذا كنت ترغب في مراجعة مستنداتك الخاصة باستخدام الذكاء الاصطناعي، يتيح لك برنامج AnythingLLM إنشاء قاعدة معرفية دون الحاجة إلى تطوير النظام بأكمله من الصفر. يمكن للتطبيق العمل مع النماذج التي تعمل على الحاسوب ومع مزودي الخدمات الخارجيين الذين يمكن الوصول إليهم عبر واجهة برمجة التطبيقات (API).

إحدى مزاياها الرئيسية هي أن يفصل بين المكونات المختلفة للنظاميمكنك اختيار نموذج اللغة، ومزود التضمين، وقاعدة بيانات المتجهات، بالإضافة إلى تنظيم المستندات في مساحات عمل. تتيح لك هذه المرونة إعداد أي شيء بدءًا من مساعد شخصي وصولًا إلى تثبيت مشترك لعدة مستخدمين.

لكن تثبيت التطبيق ليس سوى البداية. للحصول على إجابات موثوقة يجب تكوين النموذج والاتصال والمستندات والأذونات الممنوحة للوكلاء بشكل صحيح..

AnythingLLM Desktop أو Docker: أي إصدار تختار؟

سطح مكتب AnythingLLM صُمم في الأساس لشخص واحد. يتم تثبيته كتطبيق عادي على أنظمة ويندوز أو ماك أو إس أو لينكس واتضح أنه الخيار الأبسط لاختبار النماذج المحلية، والاطلاع على الوثائق، واستخدام الوكلاء من جهاز الكمبيوتر الخاص بك.

يُعدّ Docker أكثر ملاءمةً عندما تحتاج إلى الوصول إليه من متصفح، أو الاحتفاظ بالتطبيق على خادم، أو مشاركته مع مستخدمين آخرين. هذا الإصدار يتيح لك ذلك تفعيل الحسابات والأدوار والصلاحيات. وصول إلى أماكن العمل.

يجب عليك أن تقرر بعناية ما إذا كنت ستفعّل وضع المستخدمين المتعددينبحسب وثائق AnythingLLM، لا يمكن للنسخة التي تنتقل إلى هذا الوضع العودة إلى وضع المستخدم الواحد لاحقًا. قبل تفعيله، يُرجى نسخ بياناتك احتياطيًا والتأكد من حاجتك الفعلية إلى حسابات منفصلة.

تعتمد المتطلبات بشكل أساسي على النموذج المستخدم. يستهلك AnythingLLM موارد قليلة عند الاتصال بواجهة برمجة تطبيقات خارجية، لكن قد يتطلب تشغيل نموذج محلي كمية كبيرة من ذاكرة الوصول العشوائي (RAM). أو ذاكرة الرسومات. كمرجع عام، يوصي المشروع بذاكرة وصول عشوائي (RAM) سعتها 16 جيجابايت ووحدة معالجة مركزية ثمانية النواة لتجربة أساسية مع النماذج المحلية، على الرغم من أن الاستهلاك الفعلي سيعتمد على النموذج، وتكميمه، ونافذة السياق الخاصة به.

كيفية تثبيت برنامج AnythingLLM على جهاز الكمبيوتر الخاص بك

يتضمن تثبيت برنامج AnythingLLM Desktop تنزيل الإصدار المتوافق مع نظام التشغيل الخاص بك وإكمال معالج الإعداد الأولي. أثناء عملية التهيئة، يمكنك اختيار نموذج اللغة، ومزود التضمين، وقاعدة بيانات المتجهات.

يتضمن برنامج AnythingLLM خيارات اللغة الافتراضية، بما في ذلك LanceDB كقاعدة بيانات متجهة. وهذا يتيح لك البدء. معالجة المستندات دون استخدام قاعدة بيانات خارجيةيمكنك أيضًا ربط خدمات مختلفة إذا كنت بحاجة إلى بنية تحتية أخرى أو إذا كانت لديك بالفعل.

في Docker، من الضروري تثبيت وحدة تخزين دائمة على المسار /app/server/storageإذا لم تفعل ذلك، فقد تفقد المستندات والإعدادات والبيانات الأخرى عند حذف الحاوية أو إعادة إنشائها.

يمكن نشر تثبيت محلي أساسي اتباعاً لأمر المشروع الرسمي ثم افتح عن طريق:

http://localhost:3001

إذا كنت ستنشر AnythingLLM على الإنترنت، فلا تكتفِ بفتح منفذه فقط. بل قم بتهيئة بروتوكول HTTPS، والمصادقة، والنسخ الاحتياطية، وخادم وكيل عكسي، وحافظ على تحديث كل من الصورة ونظام التشغيل المضيف.

كيفية ربط AnythingLLM مع OpenAI وواجهات برمجة التطبيقات الأخرى

لاستخدام نموذج عبر واجهة برمجة التطبيقات (API)، افتح إعدادات AnythingLLM وانتقل إلى تكوين موفر اللغة. لدى OpenAI تكامل محدد حيث يجب عليك إدخال مفتاح API ثم اختر أحد النماذج المتاحة.

المفتاح المستخدم في واجهة برمجة التطبيقات (API) ليس بالضرورة هو نفسه مفتاح اشتراك ChatGPT. يتم احتساب تكلفة استخدام النماذج عبر واجهة برمجة التطبيقات وإدارتها بشكل منفصل، لذا يُنصح بتحديد حدود للإنفاق ومراقبة الاستخدام.

يقدم موقع AnythingLLM أيضًا للمزود OpenAI العامةيتيح لك هذا الخيار ربط الخدمات التي تتوافق واجهة برمجة التطبيقات الخاصة بها مع التنسيق الذي تتوقعه OpenAI، وذلك عادةً عن طريق إدخال عنوان URL الأساسي والمفتاح ومعرف النموذج ونافذة السياق وحدود الإخراج.

يمكنك استخدام هذا الإعداد مع بوابة متوافقة مثل CometAPI، بشرط أن توفر نقطة نهاية مدعومة من AnythingLLM. في هذه الحالة، يجب عليك استخدام عنوان URL ومعرّف النموذج المحددين من قِبل المورّد. لا تُطبّق جميع الخدمات المُعلَن عنها على أنها متوافقة نفس الميزات، وخاصةً ميزات البث واستخدام الأدوات.

لا تنشر مفتاحك الحقيقي أو تدرجه في لقطات الشاشة. إذا كنت تشك في تسريبه، فقم بإلغائه وأنشئ مفتاحًا جديدًا من لوحة تحكم مزود الخدمة.

كيفية توصيل Ollama عند استخدام Docker

عندما يتم تشغيل برنامج AnythingLLM Desktop وبرنامج Ollama على نفس الكمبيوتر، يمكن للتطبيق اكتشاف العنوان المحلي تلقائيًا:

http://127.0.0.1:11434

يتغير الوضع إذا كان برنامج AnythingLLM موجودًا داخل حاوية Docker. في هذه الحالة، localhost يشير إلى الحاوية نفسها وليس إلى جهاز الكمبيوتر المضيف الذي يعمل عليه برنامج أولاما.

على نظامي التشغيل ويندوز وماك أو إس، جرب ما يلي:

http://host.docker.internal:11434

في نظام لينكس، توصي وثائق AnythingLLM باستخدام ما يلي:

http://172.17.0.1:11434

قد يتغير العنوان إذا قمت بتعديل شبكة Docker. تأكد أيضًا من تشغيل Ollama، وتنزيل النموذج، وأن الخادم يسمح بالاتصالات من العنوان الصحيح. لا تكشف منفذ Ollama للعامة دون مصادقة وإجراءات أمنية إضافية.

كيفية إضافة المستندات وتكوين RAG

تتيح لك مساحات العمل فصل المستندات والتعليمات والمحادثات حسب المشروع. في بيئة متعددة المستخدمين، ستكون المستندات المضافة عبر نظام RAG متاحة لجميع من لديهم صلاحية الوصول إلى مساحة العمل المعنية، لذا يُرجى مراجعة صلاحياتهم قبل إضافة أي معلومات سرية.

يتيح لك AnythingLLM العمل مع المستندات بطريقتين: يمكنك إرفاقها مباشرةً بسلسلة عمليات لتضمين محتواها في سياق النموذج، أو معالجتها باستخدام RAGs لـ... قسّمها إلى أجزاء واسترجع فقط تلك الأكثر صلة بكل سؤال.

يمكن أن يوفر إرفاق النص الكامل سياقًا أوسع، ولكنه يستهلك عددًا أكبر من الرموز ويتقيد بحجم النافذة التي يدعمها النموذج. تُعدّ مجموعات النصوص المُجمّعة (RAGs) أكثر ملاءمةً للمجموعات الكبيرة، مع العلم أن جودتها تعتمد على عملية اقتطاع النصوص، ونموذج التضمين، والاستعلام، وإعدادات الاسترجاع.

لا يكفي مجرد تخزين ملف في مدير المستندات. إذا كنت ترغب في إتاحته عبر RAG، فيجب عليك إضافته إلى مساحة العمل ومعالجته لإنشاء تضميناته.

إذا لم يعثر برنامج AnythingLLM على المعلومات التي تعلم أنها موجودة، فتحقق من هذه الخيارات:

• عتبة التشابه: قد تؤدي القيمة المقيدة للغاية إلى استبعاد أجزاء ذات صلة.
• الحد الأقصى لعدد الأجزاء: يحدد مقدار السياق المسترجع الذي يتم إرساله إلى النموذج.
• وضع الاستعلام: يقتصر ذلك على الاستجابات للمحتوى الموجود في المستندات.
• إعادة الترتيب: يمكن أن يؤدي ذلك إلى تحسين اختيار النتائج مقابل المزيد من المعالجة.
• نموذج التضمين: يجب أن يكون مناسباً للغة ونوع المحتوى.

لا توجد عتبة مثالية لجميع المجموعات. اطرح عدة أسئلة تعرف إجاباتها، ثم اضبط الإعدادات بمقارنة الأجزاء المسترجعة.

كيفية استخدام وكلاء AnythingLLM

تتيح البرامج الوسيطة للنموذج استخدام أدوات تتجاوز مجرد توليد النصوص. فبحسب الإعدادات، يمكنها البحث داخل المستندات، والاستعلام عن الويب، واستخراج المحتوى من الصفحات، وإنشاء الرسومات، وحفظ الملفات، أو تنفيذ إجراءات أخرى متاحة.

في بعض الطرازات، ستحتاج إلى تسجيل الدخول عن طريق كتابة @agent يتبع ذلك الطلب. عندما يدعم مزود الخدمة الاستخدام التلقائي للأدوات، يمكن للمحادثة الدخول مباشرةً في وضع الوكيل. لإنهاء جلسة بدأت بهذه الطريقة يدويًا، يمكنك استخدام /exit.

يعتمد التوافق على الطراز والشركة المصنعة. فالطراز الذي يستجيب بشكل صحيح في محادثة عادية لا يعني بالضرورة أنه سيشغل الأدوات بكفاءة. مع الشركات المصنعة العامة، قد يكون من الضروري أيضًا تفعيل دعم استدعاءات الأدوات بشكل صريح.

قبل منح الوصول إلى الملفات الخارجية أو قواعد البيانات أو الخدمات، قيّد الأذونات واختبر البرنامج ببيانات غير أساسية. فقد يُسيء البرنامج فهم التعليمات، أو يُكرر إجراءً ما، أو يستخدم أداةً مختلفةً عن المتوقع.

كيفية إنشاء مهارات وأتمتة مخصصة

تتيح لك منصة AnythingLLM إضافة مهارات مخصصة إلى وكلاء التطبيقات. يمكن للمهارة الاتصال بواجهة برمجة التطبيقات (API)، أو الاستعلام عن قاعدة بيانات، أو إرسال طلب إلى رابط ويب من خدمات مثل Make أو Zapier.

يُمكّنك هذا من إنشاء عمليات مثل الاستعلام عن المستندات وإعداد البيانات اللازمة لتحديث ورقة عمل، أو تسجيل مهمة، أو إرسال إشعار. مع ذلك، لا يُنصح بمنح النموذج القدرة على تنفيذ إجراءات لا رجعة فيها بشكل مباشر.

بالنسبة للمعاملات الحساسة، استخدم آلية عمل تتطلب تأكيدًا بشريًا. يمكن للموظف إعداد مقترح، ولكن يجب على شخص ما التحقق من النتيجة قبل حذف المعلومات أو إرسال المراسلات أو تعديل السجلات المهمة أو بدء عملية الدفع.

ينبغي عليك أيضًا التحقق من أي مهارات تم تنزيلها من مصادر خارجية. إذ يمكن لهذه الإضافات تنفيذ التعليمات البرمجية والوصول إلى البيانات التي يوفرها البرنامج. ولذلك، يُبقي برنامج AnythingLLM تنزيل بعض حزم المجتمع معطلاً افتراضيًا تحديدًا بسبب هذا الخطر.

كيفية تحسين الاستجابات وتصحيح الأخطاء

إذا لم يستجب النموذج، فتحقق أولاً من عنوان URL الخاص بالمزود، وصحة المفتاح، ومعرّف النموذج الدقيق، وسجلات AnythingLLM. في Docker، يجب عليك أيضاً التحقق من الاتصال بين الحاوية وأي خدمات مثبتة على الجهاز المضيف.

عند انقطاع الاستجابات، تحقق من نافذة السياق والحد الأقصى لعدد رموز الإخراج. يجب أن تتوافق هذه القيم مع حدود النموذج المستخدم. زيادة هذه القيم في AnythingLLM لا تُوسّع الإمكانيات الفعلية لواجهة برمجة التطبيقات (API).

إذا لم تستخدم الاستجابات المستندات بشكل صحيح، فجرّب وضع الاستعلام، وقلّل من الأسئلة المبهمة، وراجع المقتطفات المسترجعة. قد يساعدك تعطيل قيد عتبة التشابه مؤقتًا في التحقق مما إذا كان النظام يتجاهل معلومات مفيدة.

للحفاظ على استمرارية المعالجة داخل الجهاز، يجب استخدام نموذج محلي، ومزود تضمين محلي، وقاعدة بيانات متجهة محلية. كما يجب تجنب عمليات البحث عبر الإنترنت، وواجهات برمجة التطبيقات الخارجية، وأي قدرة ترسل المعلومات خارج الجهاز. في ظل هذه الشروط فقط يمكن اعتبارها غير متصلة بالإنترنت بشكل أساسي.

يُمكن أن يُصبح AnythingLLM أداةً بالغة الأهمية للاطلاع على الأدلة، وتنظيم الوثائق، أو إنشاء معالجات داخلية. تكمن ميزته الرئيسية ليس فقط في ربط العديد من النماذج، بل في تمكين كل مستخدم من دمج النموذج والوثائق والأدوات التي يحتاجها فعليًا. ولضمان موثوقية النظام، يُنصح بالبدء بمساحة صغيرة، والتحقق من المصادر المُسترجعة، وتوسيع صلاحيات المستخدم فقط بعد اختبار سير العمل.