تحديثات ميسترال: نماذج ذكاء اصطناعي محلية محسّنة للنشر على الحافة

تحديثات ميسترال: نماذج ذكاء اصطناعي محلية محسّنة للنشر على الحواف

يتحول مشهد الذكاء الاصطناعي بسرعة نحو النشر على الحواف - أي تشغيل نماذج قوية مباشرة على الأجهزة المحلية بدلاً من الاعتماد فقط على البنية التحتية السحابية. شركة ميسترال للذكاء الاصطناعي، وهي شركة ناشئة فرنسية تحقق نجاحات في مجال نماذج الذكاء الاصطناعي مفتوحة الأوزان، تواصل دفع الحدود بنماذج فعالة وعالية الأداء. التحديثات الأخيرة من ميسترال حسّنت نماذجها بشكل أكبر لتناسب بيئات الحواف، مما يتيح للمطورين نشر نماذج لغوية متطورة على أجهزة الكمبيوتر المحمولة، وأجهزة راسبيري باي، وحتى الأجهزة المحمولة. تستعرض هذه المقالة أحدث التحسينات، وتقدم خطوات تثبيت عملية، وتوضح الاستخدام الواقعي للنشر على الحواف.

لماذا النشر على الحواف مهم؟

يقدم النشر على الحواف مزايا حاسمة متعددة مقارنة بالذكاء الاصطناعي المعتمد على السحابة. إن قلة زمن الاستجابة، وتعزيز الخصوصية، وإمكانية العمل دون اتصال، وانخفاض التكاليف التشغيلية تجعل النماذج المحلية جذابة للمؤسسات والهواة على حد سواء. التزام ميسترال بالنماذج مفتوحة الأوزان ذات التراخيص المسموحة جعلها الخيار الأمثل لتطبيقات الحواف. تركز تحديثاتها الأخيرة على التكميم، وهياكل أصغر حجماً، وسرعة استدلال محسّنة دون التضحية بالدقة.

المتطلبات

قبل البدء في التثبيت، تأكد من أن نظامك يلبي الحد الأدنى من المتطلبات التالية. تستند هذه المواصفات إلى التكوينات الموصى بها من ميسترال للنشر على الحواف:

• **الأجهزة**: نظام بذاكرة وصول عشوائي (RAM) لا تقل عن 8 جيجابايت (16 جيجابايت موصى بها لنماذج 7 مليارات معلمة). معالج حديث يدعم تعليمات AVX2 ضروري. للتسريع بواسطة وحدة معالجة الرسوميات (GPU)، يلزم وجود وحدة معالجة رسوميات من NVIDIA بذاكرة فيديو (VRAM) لا تقل عن 6 جيجابايت (مثل GTX 1060، RTX 2060) أو جهاز Mac بمعالج Apple Silicon بذاكرة موحدة لا تقل عن 8 جيجابايت.
• **البرمجيات**: لينكس (أوبونتو 20.04+) أو ماك (12+) أو ويندوز 10/11 مع WSL2. بايثون 3.10 أو أحدث، و pip، و Git.
• **التخزين**: مساحة خالية على القرص لا تقل عن 10 جيجابايت لأوزان النموذج والتبعيات.
• **اختياري لكن موصى به**: Ollama لإدارة النماذج المبسطة، أو Hugging Face Transformers للتكامل المخصص.

التثبيت خطوة بخطوة

سنغطي طريقتين رئيسيتين: استخدام Ollama (الأسهل للمبتدئين) واستخدام Hugging Face Transformers مع التكميم (الأكثر مرونة للمطورين).

الطريقة الأولى: استخدام Ollama

يوفر Ollama طريقة مبسطة لتنزيل وتشغيل نماذج ميسترال محلياً. يتولى إدارة التبعيات ويوفر واجهة سطر أوامر بسيطة.

**الخطوة 1: تثبيت Ollama**

افتح نافذة طرفية (Terminal) وقم بتشغيل الأمر التالي لتثبيت Ollama على لينكس أو ماك:

curl -fsSL https://ollama.com/install.sh | sh

بالنسبة لويندوز، قم بتنزيل برنامج التثبيت من [ollama.com](https://ollama.com) وقم بتشغيله. بعد التثبيت، تحقق من عمله:

ollama --version

**الخطوة 2: سحب أحدث نموذج ميسترال**

يستضيف Ollama عدة متغيرات من ميسترال. للنشر على الحواف، نموذج 7 مليارات معلمة مع التكميم هو المثالي. اسحبه باستخدام:

ollama pull mistral:7b-instruct-q4_K_M

يقوم هذا بتنزيل النسخة المكممة بـ 4 بت، مما يقلل استخدام الذاكرة إلى حوالي 4 جيجابايت. تشير اللاحقة `q4_K_M` إلى تكميم متوازن يحافظ على الجودة مع تقليل الحجم.

**الخطوة 3: تشغيل النموذج**

اختبر النموذج بمطالبة بسيطة:

ollama run mistral:7b-instruct-q4_K_M "اشرح الذكاء الاصطناعي على الحواف في جملة واحدة."

يجب أن ترى رداً في غضون ثوانٍ على الأجهزة الحديثة.

الطريقة الثانية: استخدام Hugging Face Transformers مع BitsAndBytes

للمطورين الذين يحتاجون تحكماً أدق، سنستخدم مكتبة Transformers من Hugging Face مع تكميم 4 بت عبر BitsAndBytes.

**الخطوة 1: تثبيت تبعيات بايثون**

أنشئ بيئة افتراضية وقم بتثبيت الحزم المطلوبة:

python3 -m venv mistral-edge
source mistral-edge/bin/activate
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cpu
pip install transformers accelerate bitsandbytes

على أجهزة ماك المزودة بمعالج Apple Silicon، استخدم `pip install torch torchvision torchaudio` بدون رابط الفهرس.

**الخطوة 2: تنزيل وتكميم ميسترال**

أنشئ ملف بايثون باسم `deploy_mistral.py` يحتوي على الكود التالي:

from transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfig
import torch

# تكوين التكميم بـ 4 بت
quant_config = BitsAndBytesConfig(
    load_in_4bit=True,
    bnb_4bit_use_double_quant=True,
    bnb_4bit_quant_type="nf4",
    bnb_4bit_compute_dtype=torch.float16
)

# تحميل المحلل اللغوي والنموذج
model_name = "mistralai/Mistral-7B-Instruct-v0.3"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    quantization_config=quant_config,
    device_map="auto",
    torch_dtype=torch.float16
)

# اختبار الاستدلال
prompt = "ما هي فوائد الذكاء الاصطناعي على الحواف؟"
inputs = tokenizer(prompt, return_tensors="pt").to("cuda" if torch.cuda.is_available() else "cpu")
outputs = model.generate(**inputs, max_new_tokens=100)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

قم بتشغيل الملف:

python deploy_mistral.py

التشغيل الأول يقوم بتنزيل النموذج (حوالي 14 جيجابايت)، لكن التشغيلات اللاحقة تستخدم النسخة المخزنة مؤقتاً. مع التكميم، ينخفض استخدام الذاكرة إلى حوالي 4-5 جيجابايت.

أمثلة على الاستخدام

الآن بعد أن أصبحت ميسترال تعمل محلياً، إليك سيناريوهات عملية للنشر على الحواف.

المثال 1: مساعد برمجة دون اتصال

استخدم ميسترال لإنشاء مقاطع برمجية دون الحاجة للإنترنت. احفظ هذا كملف `code_assist.py`:

import ollama

def code_assist(prompt):
    response = ollama.chat(model='mistral:7b-instruct-q4_K_M', messages=[
        {'role': 'user', 'content': f"اكتب كود بايثون لـ {prompt}"}
    ])
    return response['message']['content']

# مثال للاستخدام
print(code_assist("قراءة ملف CSV وحساب متوسط عمود"))

قم بتشغيله:

python code_assist.py

سيحتوي المخرجات على كود بايثون كامل مع شروحات.

المثال 2: تلخيص مستندات محلياً

للمستندات الحساسة للخصوصية، قم بتشغيل التلخيص بالكامل على الجهاز. أنشئ ملف `summarize.py`:

from transformers import pipeline

# تحميل النموذج المكمم للتلخيص
summarizer = pipeline(
    "text-generation",
    model="mistralai/Mistral-7B-Instruct-v0.3",
    model_kwargs={"load_in_4bit": True, "device_map": "auto"},
    max_new_tokens=200
)

document = """يشير الذكاء الاصطناعي على الحواف إلى نشر خوارزميات الذكاء الاصطناعي على الأجهزة المحلية بدلاً من الاعتماد على الخوادم السحابية. يقلل هذا النهج من زمن الاستجابة، ويعزز الخصوصية، ويتيح العمل دون اتصال. جعلت التطورات الحديثة في ضغط النماذج من الممكن تشغيل نماذج لغوية متطورة على أجهزة المستهلك."""

prompt = f"لخص النص التالي في 2-3 جمل:\n{document}\n\nالملخص:"
result = summarizer(prompt)
print(result[0]['generated_text'])

المثال 3: روبوت محادثة خفيف لراسبيري باي

للأجهزة محدودة الموارد مثل راسبيري باي 4 (ذاكرة 4 جيجابايت)، استخدم متغيراً أصغر من ميسترال. أولاً، اسحب نموذج 1 مليار معلمة من Ollama:

ollama pull mistral:7b-instruct-q4_K_M  # نموذج 7B يعمل على Pi بذاكرة 4GB إذا تم تحسينه

بدلاً من ذلك، استخدم `mistral:7b-instruct-q2_K` (مكمم بـ 2 بت) لذاكرة أقل:

ollama pull mistral:7b-instruct-q2_K

أنشئ ملف روبوت محادثة بسيط `pi_chat.py`:

import ollama

print("روبوت محادثة ميسترال على الحواف (اكتب 'خروج' للإنهاء)")
while True:
    user_input = input("أنت: ")
    if user_input.lower() == 'خروج':
        break
    response = ollama.chat(model='mistral:7b-instruct-q2_K', messages=[
        {'role': 'user', 'content': user_input}
    ])
    print(f"الذكاء الاصطناعي: {response['message']['content']}")

قم بتشغيله على راسبيري باي:

python pi_chat.py

أوقات الاستجابة على راسبيري باي 4 أبطأ (10-20 ثانية لكل رد) لكنها عملية للتطبيقات غير الفورية.

ضبط الأداء للحواف

تتضمن تحديثات ميسترال تحسينات معمارية تفيد النشر على الحواف. إليك نصائح التحسين:

• **استخدم تكميماً أقل**: النماذج المكممة بـ 4 بت (Q4) أو 2 بت (Q2) تقلل الذاكرة بشكل كبير. جرب `q4_K_M` للجودة أو `q2_K` للضغط الشديد.
• **حدد طول السياق**: اضبط `max_new_tokens` على 256 أو أقل لاستدلال أسرع. نماذج الحواف لا تحتاج نوافذ سياق كاملة بطول 8K.
• **الاستدلال بوحدة المعالجة المركزية فقط**: للأنظمة بدون وحدة معالجة رسوميات، تعمل ميسترال بشكل معقول على وحدات المعالجة المركزية الحديثة. استخدم `device_map="cpu"` في Transformers.
• **المعالجة المجمعة**: للمهام غير التفاعلية، قم بتجميع المطالبات لتوزيع التكاليف العامة.

الخاتمة

جعلت التحديثات الأخيرة لميسترال نشر الذكاء الاصطناعي المحلي أكثر سهولة من أي وقت مضى. بفضل تقنيات التكميم، ومتغيرات النماذج الأصغر، والأدوات القوية عبر Ollama و Hugging Face، يمكن للمطورين الآن تشغيل نماذج لغوية قادرة على أجهزة الحواف بدءاً من أجهزة الكمبيوتر المحمولة وصولاً إلى راسبيري باي. النقاط الرئيسية هي: استخدم Ollama للنمذجة الأولية السريعة، واستفد من Hugging Face Transformers للأنابيب المخصصة، واختر دائماً أصغر نموذج مكمم يلبي احتياجاتك من الدقة.

لم يعد النشر على الحواف تجربة هامشية - إنه واقع عملي. تضمن فلسفة ميسترال مفتوحة الأوزان أن فوائد الخصوصية وزمن الاستجابة والتكلفة متاحة للجميع. ابدأ بتجربة الأوامر أعلاه، وستحصل على مساعد ذكاء اصطناعي محلي يعمل بكامل طاقته على أجهزتك الخاصة في غضون دقائق.

للتحديثات المستمرة، تابع صفحة أخبار ميسترال الرسمية ومدونة Hugging Face لإصدارات النماذج الجديدة وتقنيات التحسين. ثورة الذكاء الاصطناعي على الحواف بدأت للتو، وميسترال تقود المسيرة بأدوات تضع الذكاء القوي مباشرة في يديك.