لقد انغمست حقًا في تشغيل نماذج اللغات الكبيرة (LLMs) محليًا مؤخرًا، وبعد رؤية كل الأشياء الرائعة التي يمكنك فعلها باستخدام أدوات MCP، أدركت أنه قد حان الوقت لترقية إعداداتي الخاصة قليلاً.
في البداية، قفزت على عربة الضجيج عندما تم إطلاق DeepSeek R1، ولكن منذ ذلك الحين، ظهرت الكثير من النماذج الجديدة. مع مدى سرعة تغير كل شيء، اعتقدت أنه من المنطقي تحسين سير عملي أيضًا.
روابط سريعة
LM Studio هو أفضل تطبيق LLM محلي استخدمته (حتى الآن)
Ollama جيد، لكنني أُفضل هذا
بدأت أولاً في تجربة نماذج اللغات الكبيرة المحلية (LLMs) العام الماضي باستخدام Ollama. لقد نجح الأمر بشكل جيد بما فيه الكفاية، لكن جهاز MacBook Air المسكين الخاص بي بذاكرة موحدة تبلغ 8 جيجابايت فقط لم يتم تصميمه بالتأكيد للتعامل مع هذا النوع من أعباء العمل. كنت لا أزال أرغب في تجربة شيء مختلف، جزئيًا بدافع الفضول وجزئيًا لمعرفة ما إذا كان بإمكاني الحصول على المزيد من الأداء.
لهذا السبب قررت أن أجرب LM Studio. إنه تطبيق يتيح لك تنزيل وتشغيل نماذج اللغات الكبيرة (LLMs) محليًا على جهازك، ولديه واجهة مستخدم نظيفة أيضًا. نظرًا لأنني أستخدم جهاز Mac، كان دعم MLX بالنسبة لي أمرًا بالغ الأهمية. إذا كنت غير مألوف، فإن MLX هو إطار عمل تعلم الآلة من Apple مصمم خصيصًا لـ Apple silicon.
إنه يسمح بشكل أساسي للنماذج بالعمل بكفاءة أكبر باستخدام وحدة معالجة الرسومات (GPU). ولكن مع ذلك، أردت وضع هذه الكلمات في أرقام، لذلك قارنت Ollama بـ LMStudio وجهًا لوجه، مع نفس النموذج.
كنت أحصل على عدد أكبر من الرموز في الثانية مع LM Studio، لكن الفرق كان صغيرًا بما يكفي لدرجة أنه لم يغير التجربة الإجمالية حقًا. ومع ذلك، سأحصل على أي أداء إضافي يمكنني الحصول عليه.
ومع ذلك، لا أعتقد أن الأمر يحدث فرقًا كبيرًا سواء اخترت Ollama أو LM Studio، خاصة وأن كلاهما يعتمد على أطر عمل أساسية مماثلة لتشغيل النماذج محليًا.
كانت شكواي الرئيسية عندما بدأت لأول مرة هي عدم وجود دعم متعدد الوسائط. لكن هذه لم تعد مشكلة حقيقية. يدعم كل من Ollama و LM Studio الآن نماذج متعددة الوسائط، وهناك عدد قليل من الخيارات القوية التي يمكنها التعامل مع النصوص والصور بشكل جيد على الأجهزة المحلية.
اختيار النموذج المناسب قد يكون صعبًا بعض الشيء
قد تكون هواية مكلفة
عند تثبيت LM Studio لأول مرة، فإن أول شيء ستحتاج إلى القيام به هو اختيار نموذج. قد يبدو الأمر مربكًا بعض الشيء إذا كنت جديدًا في هذا المجال، لأنه لا توجد إجابة واضحة ومباشرة “استخدم هذا النموذج”. يعتمد الاختيار الصحيح حقًا على جهازك.
إذا فتحت قائمة Model Search في LM Studio، فسترى قائمة بالنماذج الأكثر شيوعًا. هناك طريقة بسيطة لفهم مدى تطلب النموذج وهي النظر إلى الرقم الذي يسبق مباشرة حرف “B” في اسمه.
يشير حرف “B” إلى مليارات المعلمات. بشكل عام، كلما ارتفع هذا الرقم، زادت قدرة النموذج. هذا يعني أيضًا أنه سيتطلب المزيد من الموارد. على جهاز Mac مزود بذاكرة موحدة بسعة 8 جيجابايت، أشعر أن أي مكان من 3 إلى 4 مليارات معلمة هو المكان المناسب. قد تصبح الأمور أكثر إرباكًا بعض الشيء على جهاز الكمبيوتر. بدلاً من ذاكرة الوصول العشوائي (RAM) العادية للنظام، فإن مقدار VRAM لديك هو الأكثر أهمية.
إذا كان لديك 8 جيجابايت من VRAM، فيمكنك تجربة نماذج بمعلمات 7B بشكل مريح، خاصةً في التكميمات الأخف. في تجربتي، فإن أفضل طريقة هي البدء بنموذج أصغر والتحرك تدريجيًا حتى تجد المكان المناسب.
شخصيًا، انجذبت أكثر نحو نموذج Gemma 3 4B، الذي تم إنشاؤه على نفس الأساس الذي تستند إليه نماذج Google’s Gemini. ومع ذلك، ما زلت أوصي بتجربة نماذج Qwen أيضًا. اعتمادًا على ما تفعله، قد تكون أفضل بكثير بالنسبة لك.
يمكنك حتى إضافة البحث في الويب إلى LLM المحلي الخاص بك
يأتي DuckDuckGo لإنقاذ الموقف
إحدى أكبر الشكاوى التي رأيتها حول نماذج اللغات الكبيرة (LLMs) المحلية هي مدى محدوديتها مقارنة بالنماذج السحابية مثل ChatGPT عندما يتعلق الأمر بالبحث في الويب. ليس من المفيد جدًا أن تسأل عن أحدث iPhone، ويبدأ نموذج اللغة الكبير بالحديث عن iPhone 14. هذا أحد المجالات التي كانت فيها النماذج السحابية متفوقة.
يحتوي LM Studio على نظام إضافات مدمج، وإضافة البحث في الويب أمر بسيط للغاية. ما عليك سوى التوجه إلى صفحة إضافة DuckDuckGo، وتحديد Run in LM Studio.
بمجرد التمكين، عندما تقوم بتشغيل نموذج، سترى خيارًا أسفل مربع الدردشة يسألك عما إذا كنت تريد استدعاء DuckDuckGo لاستعلامك. إذا قمت بتبديله، فسيقوم LM Studio بجلب نتائج البحث المباشرة وتغذيتها في النموذج قبل إنشاء استجابة.
هذا ليس كل ما يمكنك فعله باستخدام الإضافات. قام فريق LM Studio ببناء عدد قليل من الإضافات المفيدة للغاية أيضًا. على سبيل المثال، لديهم إضافة Wikipedia التي تسمح لنموذج اللغة الكبير الخاص بك بقراءة المقالات والبحث عنها من Wikipedia (بالطبع).
توجد أيضًا إضافة JavaScript Sandbox، والتي يمكن أن تكون مفيدة جدًا إذا كنت مهتمًا بـ vibe-coding وتريد الحصول على فكرة تقريبية مبنية بسرعة. لكنني لا أقول أنها تستحق العناء بما يكفي لإنشاء شيء جاهز للإنتاج.
تخلَّص من الشركات الكبرى
يمكنك إعداد LM Studio بحيث يمكنك الوصول إلى نموذج اللغة الكبير الخاص بك من هاتفك، ولكن إذا كنت تريد نقل كل الاستدلال مباشرة إلى هاتفك، فهذا ممكن أيضًا. يمكنك تشغيل نماذج لغة كبيرة أصغر على هاتف Android، على الرغم من أنها لن تكون قوية مثل ما ستحصل عليه على جهاز Mac.
لا يزال تحسن هذه النماذج الخفيفة الوزن يسير بوتيرة سريعة ومذهلة. ومع توقعات بارتفاع تكاليف الأجهزة، لن أندهش إذا قامت شركات مثل OpenAI أو Google بزيادة أسعار اشتراكاتها. إنه شعور مطمئن أن يكون لديك إعداد لا يتأثر بأي من ذلك.
