كيفية إعداد روبوت المحادثة الخاص بك الذي يعمل بالذكاء الاصطناعي دون اتصال بالإنترنت

لا شك أن فائدة برامج الدردشة الآلية الشهيرة عبر الإنترنت مثل ChatGPT لا جدال فيها – فهي تساعدنا على كتابة وتحليل وحل المشكلات يوميًا. ولكن ماذا لو كنت لا تريد تخزين محادثاتك على خوادم شخص آخر أو كنت بحاجة إلى الوصول إلى الذكاء الاصطناعي حتى بدون اتصال بالإنترنت؟ يمكنك إعداد برنامج دردشة آلي خاص بك يعمل بالكامل على جهاز الكمبيوتر الخاص بك.

ما هو روبوت المحادثة الذكي غير المتصل بالإنترنت وماذا يمكنه أن يفعل؟

إن روبوت المحادثة المحلي (غير المتصل بالإنترنت) هو في الأساس نموذج ذكاء اصطناعي يعمل مباشرة على جهاز الكمبيوتر الخاص بك، باستخدام موارد الأجهزة الخاصة بك – وحدة المعالجة المركزية (CPU)، ووحدة معالجة الرسومات (GPU)، ووحدة الذاكرة (RAM) – لمعالجة وتوليد الاستجابات.

تتوفر اليوم العديد من نماذج الذكاء الاصطناعي المحلية، مع إصدار نماذج جديدة بانتظام. وتستند معظم هذه النماذج إلى نماذج مفتوحة المصدر نشرتها شركات تقنية كبرى مثل Meta (Llama)، وGoogle (Gemma)، وMicrosoft (Phi)، وMistral (Codestral, Mistral_7B). ويمكنك العثور على تصنيفاتها على لوحة المتصدرين Open LLM .

تتميز نماذج مختلفة بأداء مهام مختلفة. فبعضها متخصص ــ وخاصة في البرمجة والكتابة الإبداعية ولعب الأدوار ــ في حين أن البعض الآخر متخصصون في مجالات عامة يمكنهم التعامل مع مجموعة واسعة من المهام. كما تختلف النماذج في تصفية المحتوى: فبعض النماذج تخضع لتصفية صارمة ولا تلمس أي شيء غير آمن للعمل، في حين لا يتردد البعض الآخر في استخدام مفردات من شأنها أن تجعل البحار العجوز يشعر بالخجل.

عند اختيار نموذج الذكاء الاصطناعي المحلي، يعد الحجم عاملاً آخر يجب مراعاته. من الناحية المثالية، يجب أن يتناسب النموذج بالكامل مع ذاكرة الفيديو العشوائية (VRAM) الخاصة بوحدة معالجة الرسومات الخاصة بك . على سبيل المثال، إذا كانت بطاقة الرسومات الخاصة بك تحتوي على 8 جيجابايت من ذاكرة الفيديو العشوائية (VRAM)، فيمكنك تشغيل نموذج بسعة 7 جيجابايت بشكل مريح، ولكن نموذج بسعة 10 جيجابايت سيكون كبيرًا جدًا. بشكل عام، تميل النماذج الأكبر إلى إنتاج نتائج أفضل، لكنها تتطلب أجهزة أكثر قوة.

بالنسبة لهذا الدليل، سأستخدم نموذج Qwen2.5 Coder 14B ، لأنه صغير الحجم نسبيًا (8.37 جيجابايت)، ويمكن استخدامه تجاريًا، ويُظهر قدرات ترميز رائعة لحجمه. أوصي بتجربة نماذج مختلفة للعثور على النموذج الأفضل لاحتياجاتك. تعد المجتمعات مثل r/LocalLLaMA مصادر ممتازة للبقاء على اطلاع دائم.

كيفية تثبيت وتكوين روبوت المحادثة AI غير المتصل بالإنترنت

لإعداد روبوت محادثة يعمل بالذكاء الاصطناعي دون اتصال بالإنترنت، تحتاج إلى عنصرين رئيسيين: نموذج ذكاء اصطناعي محلي وواجهة سهلة الاستخدام للتفاعل مع النموذج بأسلوب محادثة مألوف. هناك حلول برمجية تتعامل مع كلا الجانبين بسلاسة.

أفضل اختيار بالنسبة لي هو Jan.ai ، لأنه مفتوح المصدر تمامًا ويوفر واجهة نظيفة وبديهية تشبه تطبيقات الدردشة الشائعة. كما يتضمن أيضًا مركزًا مدمجًا للنماذج يجعل تنزيل نماذج الذكاء الاصطناعي وإدارتها أمرًا مباشرًا. خيار آخر هو LM Studio ، الذي يضيف عمومًا دعمًا للنماذج المتطورة في وقت أقرب ولكنه لا ينشر كود المصدر الخاص به.

تثبيت Jan.ai وتنزيل نموذجك الأول

أولاً، قم بزيارة موقع Jan.ai وقم بتنزيل الإصدار المناسب لنظامك. عملية التثبيت بسيطة: قم بتشغيل ملف التثبيت الذي تم تنزيله واتبع إرشادات التثبيت القياسية.

بمجرد التثبيت، قم بتشغيل Jan.ai. انقر فوق علامة التبويب Hub لاستعراض الطرز المتاحة. ابحث عن طراز يلبي معاييرك ومتوافق مع أجهزتك (Jan.ai يوضح ذلك بوضوح)، وانقر فوق Download (تنزيل ). قد يستغرق التنزيل والتثبيت بعض الوقت، حسب اتصالك بالإنترنت.

قبل أن تبدأ الدردشة، هناك خطوة أخرى مهمة لتحقيق الأداء الأمثل. إذا كانت لديك بطاقة رسوميات NVIDIA متوافقة، فانتقل إلى الإعدادات وابحث عن خيار تسريع وحدة معالجة الرسوميات . قم بتمكينه لتحسين سرعة استجابة النموذج بشكل كبير. قد تحتاج إلى تثبيت أو تحديث برامج تشغيل NVIDIA و CUDA Toolkit إذا طُلب منك ذلك.

إجراء محادثة مع روبوت الدردشة المحلي الخاص بك

بمجرد تنزيل نموذج، ابدأ محادثتك الأولى بالنقر فوق زر الدردشة في الجزء العلوي من الشريط الجانبي الأيسر. سيتم فتح موضوع جديد، وسيتم تحديد نموذجك تلقائيًا. إذا قمت بتنزيل أكثر من نموذج، فانقر فوق اسم النموذج لاختيار واحد.

لإرسال رسالة الدردشة الأولى عبر روبوت الدردشة الذكي غير المتصل بالإنترنت، انقر فوق حقل اسألني عن أي شيء ، واكتب أي شيء تريده، ثم اضغط على Enter. ستستغرق الاستجابة الأولى بعض الوقت، حيث يتعين على النموذج التحميل أولاً، ولكن يجب أن تكون الاستجابات اللاحقة سريعة نسبيًا.

استمر في المحادثة في نفس الموضوع، وهو أمر منطقي إذا كنت تريد التعمق في نفس الموضوع، حيث يمكن لروبوت المحادثة بالذكاء الاصطناعي الاستفادة من السياق الذي توفره رسائلك السابقة. بدلاً من ذلك، انقر فوق الزر “موضوع جديد” في الزاوية العلوية اليسرى.

بشكل عام، أوصي بإنشاء موضوع جديد كلما أردت بدء موضوع جديد أو الانتقال إلى مهمة مختلفة. يساعد هذا في الحفاظ على تنظيم محادثاتك ويمنع الذكاء الاصطناعي من الارتباك بسبب خلط السياق غير ذي الصلة من المناقشات السابقة.

تكوين كيفية تصرف روبوت الدردشة المحلي الخاص بك

ما يميز Jan.ai هو أنه يمكنك تخصيص كيفية استجابة روبوت المحادثة بالذكاء الاصطناعي الخاص بك لمطالباتك. بشكل أساسي، يحدث هذا التخصيص بطريقتين: من خلال تعليمات عامة ومعلمات محددة.

أولاً، أعطِ مساعد الذكاء الاصطناعي الخاص بك تعليمات عامة حول كيفية تصرفه. انقر فوق زر الإعدادات بجوار اسم طرازك وانتقل إلى علامة التبويب المساعد في الشريط الجانبي الأيمن لأي سلسلة دردشة للعثور على حقل التعليمات .

يمكنك كتابة إرشادات حول كيفية استجابة الذكاء الاصطناعي. على سبيل المثال، يمكنك أن تطلب منه “التصرف كمعلم برمجة يشرح المفاهيم بعبارات بسيطة” أو “الاستجابة مثل مدرب الكتابة الإبداعية الذي يقدم ملاحظات بناءة”.

بالإضافة إلى التعليمات الأساسية، يمكنك ضبط العديد من المعلمات الفنية التي تتحكم في كيفية توليد الذكاء الاصطناعي لاستجاباته. في علامة التبويب “النموذج” في الشريط الجانبي الأيمن، ستجد العديد من الإعدادات المهمة، بما في ذلك:

• درجة الحرارة : فكر في هذا باعتباره مستوى الإبداع لدى الذكاء الاصطناعي. فالقيم المنخفضة (0.0 – 0.5) تجعله يقدم استجابات أكثر قابلية للتنبؤ وتركيزًا، في حين تجعله القيم الأعلى (0.8 – 2.0) أكثر إبداعًا وتنوعًا (ولكن قد تكون غير مركزة).
• الحد الأقصى للرموز : يتحكم في المدة التي يمكن أن تستمر فيها إجابات الذكاء الاصطناعي. تسمح القيم الأعلى بإجابات أطول وأكثر تفصيلاً، بينما تحافظ القيم المنخفضة على الأمور موجزة.
• طول السياق : يحدد مقدار المحادثة التي يمكن للذكاء الاصطناعي تذكرها والإشارة إليها. يعني السياق الأطول أن الذكاء الاصطناعي يمكنه الحفاظ على مناقشات أكثر تفصيلاً ولكنه قد يعمل بشكل أبطأ.

أفضل ما في الأمر هو أنه يمكنك إنشاء مواضيع دردشة مختلفة بإعدادات مختلفة، مثل موضوع واحد بإعداد درجة حرارة عالية للكتابة الإبداعية وآخر بإعداد درجة حرارة منخفضة للحصول على إجابات تقنية دقيقة – لذلك لا تخف من التجربة.