لقد كنت أعبث بـ LLMs المحلية على جهاز الكمبيوتر الخاص بي منذ فترة حتى الآن. بدأ كل شيء كهواية عندما قمت بتشغيل DeepSeek-R1 محليًا على جهاز Mac الخاص بي، وهو الآن جزء مذهل جدًا من سير عملي.
لقد جربت تقريبًا كل تطبيق استدلال AI محلي شائع على Android، وكان الأداء دائمًا أكبر نقطة خلاف. أنت تعمل بالفعل مع قيود خطيرة على الأجهزة لأنه، كما تعلم، إنه هاتف. هذا يجعل جانب البرنامج بالغ الأهمية. هذا هو المكان الذي يتفوق فيه MNN Chat تمامًا.
MNN Chat هو أفضل تطبيق LLM محلي جربته على الإطلاق
ما زلت أتمنى أن يكون Ollama على Android
أول شيء مثير للاهتمام في MNN Chat هو أنه في الواقع مشروع مفتوح المصدر تم تطويره بواسطة Alibaba. تم تصميم محرك الاستدلال نفسه خصيصًا لتشغيل LLMs بكفاءة على أجهزة الهاتف المحمول، دون زخرفة وحدات معالجة الرسومات (GPUs) الرائعة. على الرغم من أن التطبيق موجود في متجر Play Store، يمكنك رؤية الكود بنفسك على صفحة GitHub الخاصة بهم.
إنه يتمتع حتى الآن بأفضل أداء اختبرته لتشغيل النماذج المحلية على Android. ولكن قبل أن تبدأ، ستحتاج إلى معرفة بعض الأشياء. بادئ ذي بدء، ستحتاج إلى هاتف قوي إلى حد ما. لقد قمت بتشغيل جميع النماذج الخاصة بي على Samsung Galaxy S24 Ultra بذاكرة وصول عشوائي (RAM) تبلغ 12 جيجابايت، وهو بالتأكيد في الطرف الأعلى وفقًا لمعايير الهاتف.
ومع ذلك، إذا كنت تريد أن تكون حذرًا، فلا يزال يتعين عليك توفير 8 جيجابايت على الأقل من ذاكرة الوصول العشوائي (RAM) للحصول على تجربة قابلة للاستخدام مع النماذج الأصغر. يأتي أيضًا مزودًا بإضافات مفيدة أخرى. إذا لم تكن متأكدًا من النموذج الذي يجب تشغيله لأنك لا تعرف أيها هو الأفضل أداءً، فهناك وضع قياس مدمج لمساعدتك في اتخاذ القرار.
ليس عليك أيضًا البحث في الإنترنت عن نماذج عاملة. يتضمن MNN Chat معرضًا داخل التطبيق حتى تتمكن من الحصول على النماذج وتنزيلها مباشرةً دون مغادرة التطبيق.
تحصل على ترسانة كاملة من النماذج، جاهزة للاستخدام
لا حاجة لتنزيل النماذج بنفسك
إن إعداد MNN Chat سهل للغاية في الواقع. كل ما عليك فعله هو فتح التطبيق والتوجه إلى Models Market. هنا، سترى قائمة كاملة بالنماذج المتاحة التي يمكنك تنزيلها عبر Hugging Face. إذا كنت لا تعرف ما هو Hugging Face، فهو في الأساس أحد أكبر مستودعات نماذج الذكاء الاصطناعي مفتوحة المصدر.
هنا، كل ما عليك فعله هو النقر فوق “تنزيل” بجوار النموذج الذي تريده، وسيكون جاهزًا للاستخدام بمجرد انتهاء التنزيل. الجزء الأكثر صعوبة هو في الواقع تحديد أي واحد تختار.
يمكن أن تتراوح أحجام هذه النماذج من بضع مئات من الميجابايت إلى عدة جيجابايت. يجدر التأكد من أن لديك مساحة تخزين مجانية كبيرة، خاصة إذا كنت تخطط لتنزيل نماذج أكبر أو الاحتفاظ بنماذج متعددة مثبتة.
في القائمة، سترى مجموعة من الأسماء المألوفة مثل Qwen أو DeepSeek أو Llama. أحد الأشياء التي ستلاحظها بسرعة هو أن كل اسم نموذج يتضمن رقمًا متبوعًا بـ B، مثل gemma-7b.
يشير حرف B هنا إلى مليارات المعلمات. ببساطة، كلما زاد هذا الرقم، زادت قدرة النموذج، ولكنه يستهلك أيضًا المزيد من الذاكرة ويعمل بشكل أبطأ على الهاتف. بالنسبة لمعظم الهواتف الذكية متوسطة المدى أو الرائدة، أوصي باستخدام نماذج تصل إلى 4 مليارات معلمة، ولكن هذا يعتمد حقًا على هاتفك. من تجربتي، كانت نماذج Qwen هي الأفضل بشكل عام، وهي حتى متعددة الوسائط.
بمجرد تنزيله، يمكنك ببساطة الانتقال إلى My Models، والبدء في الدردشة معه. يمكنك حتى تعديل موجه النظام عن طريق النقر فوق قائمة الهامبرغر في أعلى اليمين والتوجه إلى Settings > System Prompt.
يمكنك أيضًا تغيير الحد الأقصى لعدد الرموز المميزة الجديدة هنا، والذي يتحكم ببساطة في المدة التي يمكن أن تكون عليها استجابات النموذج قبل أن يتوقف عن إنشاء النص.
الأمر يتجاوز مجرد نماذج لغوية كبيرة (LLMs)
إنشاء النصوص أصبح موضة قديمة في عام 2025
داخل Models Market، ربما لاحظت وجود عدة فئات لإنشاء الصور والصوت والفيديو والمزيد. إنه تمامًا كما يبدو. يمكنك تنزيل وتشغيل النماذج التي تفعل أكثر من مجرد إنشاء النصوص، بما في ذلك النماذج متعددة الوسائط التي يمكنها العمل مع الصور أيضًا.
أحد الأشياء الرائعة التي يمكنك القيام بها بهذا هو دمج أنواع مختلفة من النماذج للحصول على شيء مشابه للوضع الصوتي في ChatGPT. عند تشغيل نموذج لغوي كبير (LLM)، ربما لاحظت وجود رمز هاتف في أعلى اليمين.
من هنا، ستحتاج إلى تنزيل نموذج تحويل النص إلى كلام من اختيارك. ستحتاج أيضًا إلى نموذج ASR يحول كلامك إلى نص. بعد ذلك، يتم إعداد كل شيء، ويمكنك البدء في التحدث إلى نموذجك اللغوي الكبير (LLM) المحلي عبر الصوت.
فقط ضع في اعتبارك أن كل هذه النماذج تبدأ بسرعة في استهلاك مساحة كبيرة، كما ذكرت سابقًا. إذا كنت تريد استخدام نموذج غير متوفر على HuggingFace، فيمكنك استيراده بنفسك عبر ADB.
ستحتاج إلى إدارة توقعاتك
وغني عن القول، بالطبع، لا تتوقع جودة [ChatGPT] أو [Gemini]، خاصة بالنسبة لأشياء مثل إنشاء الصور. الميزة الرئيسية هنا هي أنه يمكنك تشغيل هذه النماذج محليًا دون أي اتصال بالإنترنت، وتبقى بياناتك على جهازك. هناك الكثير من تطبيقات [LLM] مفتوحة المصدر المحلية التي يمكنك استخدامها لتحسين تجربتك أيضًا.
لسوء الحظ، من المستحيل تشغيل نماذج ضخمة على شيء صغير مثل الهاتف. ولكن مع ذلك، هناك الكثير الذي يمكنك القيام به بهذه التقنية، مثل حتى إنشاء نسخة طبق الأصل من [Perplexity] باستخدام نماذج [LLM] محلية.
