نيو ويسبر نشاط خدمات تقنية معلومات مسجل في طوكيو. نقدم تطوير البرمجيات والألعاب والتطبيقات وإنتاج الويب/المحتوى والترجمة لعملاء من أسواق مختلفة.
الخبرة: Next.js • TypeScript • React • Node.js • مواقع متعددة اللغات • SEO • تحسين الأداء
يستمر مشهد الذكاء الاصطناعي في التحول من النشر السحابي حصرياً إلى التنفيذ المحلي. فبينما تتعامل مجموعات الخوادم المؤسسية مع النماذج الأساسية الضخمة، فإن التحسين السريع للنماذج مفتوحة الوزن - وأبرزها Llama 3 و Mistral و Gemma - جعل تشغيل الذكاء الاصطناعي القوي محلياً حقيقة واقعة وعملية.
ومع ذلك، فإن اختيار بيئة التنفيذ المناسبة أمر بالغ الأهمية. لم نعد نتعامل مع نصوص Python الهشة، بل ظهر جيل ناضج من محركات الاستدلال. في الوقت الحالي، يهيمن ثلاثة قادة بارزين على مساحة النماذج اللغوية المحلية للمطورين: إل إم ستوديو (LM Studio)، و أولاما (Ollama)، و إم إل إكس (MLX). يحل كل منها مشكلة "الاستدلال المحلي" بشكل مختلف، مع وجود مقايضات وميزات وعيوب خاصة اعتماداً على سير عملك.
إذا كنت تقيم أفضل نماذج البرمجة المحلية التي يجب تشغيلها، فإن فهم المحرك الأساسي هو خطوتك الأولى.
تم بناء إل إم ستوديو كتطبيق سطح مكتب يعتمد على Electron، مما يجردك من تعقيد إدارة تنسيقات التكميم (مثل GGUF) وواجهات برمجة تطبيقات تسريع الأجهزة (مثل Metal و CUDA و ROCm).
يتميز بواجهة بحث Hugging Face مدمجة، مما يسمح لك باكتشاف النماذج، والتصفية حسب حجم المعلمات، وتنزيل ملف GGUF المكَمَّم المناسب لقيود أجهزتك. الميزة الأكثر عملية هي خادم الاستدلال المحلي المدمج به، والذي يحاكي تماماً مواصفات واجهة برمجة تطبيقات OpenAI على المسار /v1/chat/completions. يسمح لك هذا بإعادة توجيه أي تطبيق حالي لاستخدام نموذجك المحلي دون إعادة كتابة منطق واجهة برمجة التطبيقات:
from openai import OpenAI
# الاتصال بخادم إل إم ستوديو المحلي
client = OpenAI(
base_url="http://localhost:1234/v1",
api_key="lm-studio-local"
)
response = client.chat.completions.create(
model="local-model",
messages=[
{"role": "system", "content": "You are a helpful coding assistant."},
{"role": "user", "content": "Write a fast inverse square root algorithm in C."}
]
)
تم بناء أولاما من الصفر ليعمل من خلال الطرفية وسطر الأوامر، مما يجلب سير عمل يشبه Docker إلى النماذج اللغوية الكبيرة.
يتيح لك تنزيل النماذج وتشغيلها بأوامر طرفية فردية (على سبيل المثال، ollama run llama3). تحت الغطاء، تدير أولاما خدمة خلفية تتعامل مع تخصيص وحدة معالجة الرسومات وتفريغ الذاكرة. ويستخدم Modelfile لتحديد مطالبات النظام والتعليمات المخصصة، مما يجعله قابلاً للتكرار بدرجة كبيرة.
تحظى أولاما بتفضيل كبير لبناء خطوط أنابيب RAG المحلية. فهو يتكامل بسلاسة مع تدفقات العمل الآلية وقدم مؤخراً دعماً أصلياً لإنشاء التضمينات (Embeddings) مثل nomic-embed-text، مما يتيح محركات بحث دلالية تعمل بالكامل دون اتصال بالإنترنت.
(هل تتطلع إلى بناء خط الأنابيب الخاص بك؟ تحقق من دليلنا حول كيفية بناء خط أنابيب RAG محلي باستخدام أولاما.)
إم إل إكس (MLX) هو إطار عمل مصفوفات تم تصميمه حصرياً بواسطة فريق أبحاث التعلم الآلي في Apple ليناسب شرائح Apple Silicon (M1 و M2 و M3 و M4).
لفهم إم إل إكس، يجب أن تفهم بنية الذاكرة الموحدة (UMA) الخاصة بـ Apple. تفصل معماريات أجهزة الكمبيوتر التقليدية بين ذاكرة النظام و VRAM، مما يخلق اختناقات عند نقل نماذج الذكاء الاصطناعي الضخمة. بينما تتشارك أجهزة Apple Silicon في مجموعة واحدة من الذاكرة ذات النطاق الترددي العالي. على عكس الأطر التقليدية التي تتطلب عمليات نقل بيانات صريحة إلى وحدات معالجة الرسومات المنفصلة، توجد مصفوفات إم إل إكس في الذاكرة المشتركة. وتقوم وحدة المعالجة المركزية ووحدة معالجة الرسومات بإجراء عمليات على نفس البيانات في وقت واحد دون نسخ الذاكرة.
يتيح إم إل إكس للمطورين إجراء ضبط دقيق للنماذج بكفاءة المعلمات (PEFT) باستخدام تقنيات مثل LoRA مباشرة على أجهزة MacBook الخاصة بهم.
# ضبط دقيق لنموذج محلياً باستخدام MLX
python -m mlx_lm.lora \
--model mistralai/Mistral-7B-Instruct-v0.2 \
--train \
--data path/to/dataset \
--iters 1000 \
--adapter-path ./adapters
بينما تعتبر إل إم ستوديو و أولاما و إم إل إكس هي أدوات التطوير الأكثر سهولة في الوصول، إلا أن عمليات النشر على مستوى الإنتاج غالباً ما تعتمد على محركات مختلفة:
لتوضيح الاختلافات في الأداء، إليك معيار تمثيلي يعمل على جهاز MacBook Pro (شريحة M4 Max، وذاكرة موحدة سعة 64 جيجابايت) باستخدام نماذج مكَمَّمة بـ 4 بت.
ملاحظة: المقاييس هي متوسطات توضيحية. يتفوق إم إل إكس عموماً على الأغلفة البرمجية القائمة على llama.cpp على شرائح Apple Silicon نظراً للوصول المباشر للذاكرة الموحدة وعدم وجود طبقات ترجمة.
يستخدم كل من أولاما و إل إم ستوديو محرك llama.cpp تحت الغطاء لتنفيذ النماذج، لذا فإن سرعات الاستدلال الخام متطابقة تقريباً. ومع ذلك، قد تستهلك أداة إل إم ستوديو ذاكرة نظام أكبر قليلاً بسبب النفقات الإضافية الناتجة عن واجهة مستخدم Electron.
نعم. توفر أداة إل إم ستوديو خادماً محلياً مدمجاً يحاكي تماماً نقطة نهاية /v1/chat/completions الخاصة بـ OpenAI. يمكنك توجيه معظم التطبيقات الحالية إلى http://localhost:1234/v1 واستخدامها على الفور.
نعم، تم تطوير إم إل إكس بواسطة Apple خصيصاً للاستفادة من بنية الذاكرة الموحدة (UMA) لرقائق سلسلة M (M1 و M2 و M3 و M4). ولا يمكن تشغيلها على أجهزة Windows أو Linux المزودة بوحدات معالجة الرسومات من Nvidia أو AMD.
نوصي بوضوح باستخدام إل إم ستوديو للمبتدئين. فواجهتها المرئية تجعل من اكتشاف النماذج وتنزيلها والدردشة معها أمراً سهلاً للغاية مثل تثبيت أي تطبيق قياسي على سطح المكتب.
نوصي بشدة باستخدام أولاما لتوليد الاسترجاع المعزز (RAG). فخدمتها الخلفية القوية، وإمكانيات البرمجة النصية، ودعم التضمين الأصلي تجعلها مثالية للاتصال بقواعد بيانات المتجهات وخطوط الأنابيب الآلية. (راجع دليل MCP القادم لمزيد من التكاملات المتقدمة).
| ~45 رمزا/ثانية |
| 5.1 جيجابايت |
| أولاما | Qwen-1.5 (7B) | ~50 رمزا/ثانية | 4.7 جيجابايت |
| آبل إم إل إكس | Llama-3 (8B) | ~62 رمزا/ثانية | 4.9 جيجابايت |
| آبل إم إل إكس | Qwen-1.5 (7B) | ~68 رمزا/ثانية | 4.5 جيجابايت |
| Mac, Windows, Linux |
| أجهزة Apple Silicon فقط |
| بديل مباشر لـ OpenAI | نعم (مدمج) | جزئي | لا |