ميسترال تكشف عن نماذج محلية جديدة: لو شات وميسترال لارج 2

ميسترال تكشف عن نماذج محلية جديدة: Le Chat وMistral Large 2

تواصل شركة ميسترال للذكاء الاصطناعي دفع حدود نماذج اللغة مفتوحة الأوزان بإصدارين مهمين جديدين: **Le Chat**، وهو مساعد محادثة خفيف الوزن يمكن تشغيله محلياً، و**Mistral Large 2**، وهو نموذج رئيسي قوي مصمم لمهام التفكير المتقدم وكتابة الأكواد البرمجية. تمثل هذه النماذج تحولاً استراتيجياً نحو جعل الذكاء الاصطناعي عالي الجودة متاحاً على الأجهزة الاستهلاكية دون التضحية بالأداء. في هذا المقال، سنستكشف قدراتها، ونشرح خطوات التثبيت باستخدام Ollama وHugging Face، ونقدم أمثلة عملية للاستخدام.

المتطلبات

قبل البدء في التثبيت، تأكد من أن نظامك يلبي الحد الأدنى من المتطلبات التالية لتشغيل هذه النماذج محلياً:

متطلبات الأجهزة

• **المعالج (CPU)**: 4 أنوية أو أكثر (x86_64 أو ARM64)
• **الذاكرة العشوائية (RAM)**: 8 جيجابايت لـ Le Chat، و32 جيجابايت لـ Mistral Large 2 (الإصدارات المضغوطة قد تقلل هذا المقدار)
• **مساحة التخزين**: 10 جيجابايت لـ Le Chat، و40 جيجابايت لـ Mistral Large 2
• **بطاقة الرسوميات (GPU) (اختياري لكن موصى به)**: بطاقة NVIDIA بذاكرة 6 جيجابايت أو أكثر (مثل RTX 3060 أو أعلى) لتسريع الاستدلال

متطلبات البرمجيات

• **نظام التشغيل**: لينكس (Ubuntu 22.04+) أو macOS 12+ أو ويندوز 10/11 مع WSL2
• **بايثون**: الإصدار 3.10 أو أحدث
• **المكتبات المساعدة**: Ollama (للتثبيت البسيط) أو مكتبة `transformers` من Hugging Face (للتكامل المتقدم)
• **الإنترنت**: مطلوب لتحميل أوزان النماذج

التثبيت خطوة بخطوة

سنغطي طريقتين: استخدام Ollama للإعداد السهل، واستخدام Hugging Face للتحكم الأكبر في معلمات النموذج.

الطريقة الأولى: التثبيت عبر Ollama

يبسط Ollama عملية تشغيل النماذج المحلية بأمر واحد. قم بتثبيت Ollama أولاً:

# تحميل وتثبيت Ollama (لينكس/macOS)
curl -fsSL https://ollama.com/install.sh | sh

تحقق من نجاح التثبيت:

ollama --version
# الناتج المتوقع: ollama version 0.3.0 أو أحدث

الآن قم بسحب نموذج Le Chat من ميسترال (2.7 مليار معلمة، محسّن للمحادثة):

ollama pull mistral:le-chat

لنموذج Mistral Large 2 (70 مليار معلمة، يتطلب ذاكرة أكبر):

ollama pull mistral:large2

إذا كان نظامك محدود الذاكرة العشوائية، استخدم الإصدار المضغوط 4-bit من Mistral Large 2:

ollama pull mistral:large2-q4_0

الطريقة الثانية: التثبيت عبر Hugging Face Transformers

للمطورين الذين يحتاجون تحكماً دقيقاً، استخدم مكتبة `transformers` من Hugging Face. قم بإنشاء بيئة بايثون افتراضية أولاً:

python3 -m venv mistral_env
source mistral_env/bin/activate  # في ويندوز: mistral_env\Scripts\activate

قم بتثبيت الحزم المطلوبة:

pip install torch transformers accelerate bitsandbytes

قم بتحميل أوزان نموذج Le Chat:

from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "mistralai/Le-Chat-2.7B"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype="auto",
    device_map="auto"
)
print("تم تحميل النموذج بنجاح")

لنموذج Mistral Large 2 (يتطلب رمز Hugging Face مع صلاحية الوصول من ميسترال):

from huggingface_hub import login

login()  # أدخل رمزك عند الطلب

model_name = "mistralai/Mistral-Large-2-70B"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype="auto",
    device_map="auto",
    load_in_4bit=True  # يقلل الذاكرة إلى ~40 جيجابايت
)

أمثلة الاستخدام

المثال 1: الدردشة مع Le Chat عبر Ollama

ابدأ جلسة تفاعلية:

ollama run mistral:le-chat

ستظهر لك شاشة الأوامر. جرب استفساراً محادثياً:

>>> اكتب دالة بايثون قصيرة لعكس سلسلة نصية.

سيستجيب Le Chat:

def reverse_string(s):
    return s[::-1]

# مثال استخدام
print(reverse_string("hello"))  # الناتج: "olleh"

المثال 2: الاستدلال الدفعي مع Mistral Large 2

استخدم Mistral Large 2 لمهمة تفكير معقدة. أنشئ ملف بايثون `reasoning.py`:

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

# تحميل النموذج والمحلل اللغوي
model_name = "mistralai/Mistral-Large-2-70B"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype=torch.bfloat16,
    device_map="auto",
    load_in_4bit=True
)

# إعداد استفسار للتفكير الرياضي
prompt = """حل خطوة بخطوة:
إذا غادر قطار المحطة A بسرعة 60 ميلاً في الساعة وغادر قطار آخر المحطة B بسرعة 90 ميلاً في الساعة، 
وتبعد المحطتان 300 ميل عن بعضهما، متى سيلتقيان؟

فكر خطوة بخطوة:"""

# تحويل النص إلى رموز وتوليد الإجابة
inputs = tokenizer(prompt, return_tensors="pt").to("cuda")
outputs = model.generate(
    inputs.input_ids,
    max_new_tokens=512,
    temperature=0.7,
    do_sample=True
)

# فك الترميز والطباعة
response = tokenizer.decode(outputs[0], skip_special_tokens=True)
print(response)

قم بتشغيل البرنامج النصي:

python reasoning.py

الناتج المتوقع يتضمن تحليلاً خطوة بخطوة:

الخطوة 1: السرعة المجمعة = 60 + 90 = 150 ميلاً في الساعة
الخطوة 2: الزمن = المسافة / السرعة = 300 / 150 = ساعتين
الإجابة: يلتقيان بعد ساعتين.

المثال 3: إكمال الأكواد مع Le Chat

يتفوق Le Chat في توليد الأكواد البرمجية. استخدم Ollama لإكمال كود بسرعة:

ollama run mistral:le-chat

أدخل:

>>> أكمل دالة الجافاسكريبت هذه:
function fibonacci(n) {
  if (n <= 1) return n;

يكمل Le Chat:

  return fibonacci(n - 1) + fibonacci(n - 2);
}

المثال 4: خط أنابيب RAG مع Mistral Large 2 (متقدم)

ادمج Mistral Large 2 في خط أنابيب توليد معزز بالاسترجاع باستخدام Hugging Face وFAISS:

from sentence_transformers import SentenceTransformer
import faiss
import numpy as np
from transformers import pipeline

# تحميل نموذج التضمين وإنشاء الفهرس
embedder = SentenceTransformer("all-MiniLM-L6-v2")
documents = [
    "يدعم Mistral Large 2 نافذة سياقية بحجم 128 ألف رمز.",
    "تم تحسين Le Chat للمحادثة منخفضة زمن الاستجابة.",
    "كلا النموذجين متاحان تحت رخصة Apache 2.0."
]
embeddings = embedder.encode(documents)
index = faiss.IndexFlatL2(embeddings.shape[1])
index.add(np.array(embeddings))

# الاستعلام
query = "ما حجم النافذة السياقية لـ Mistral Large 2؟"
query_embedding = embedder.encode([query])
distances, indices = index.search(np.array(query_embedding), k=1)
retrieved_doc = documents[indices[0][0]]

# توليد الإجابة باستخدام Mistral Large 2
generator = pipeline("text-generation", model="mistralai/Mistral-Large-2-70B", device=0)
prompt = f"بناءً على هذه الوثيقة: {retrieved_doc}\nالإجابة: {query}"
result = generator(prompt, max_new_tokens=100)
print(result[0]["generated_text"])

اعتبارات الأداء

• **Le Chat (2.7 مليار معلمة)**: يعمل على المعالج المركزي بذاكرة 8 جيجابايت بمعدل ~10 رموز/ثانية. مع تسريع بطاقة الرسوميات (مثل RTX 3060)، تصل السرعة إلى 50+ رمز/ثانية.
• **Mistral Large 2 (70 مليار معلمة)**: يتطلب 32 جيجابايت ذاكرة عشوائية للدقة الكاملة. استخدم الضغط 4-bit ليتناسب مع 20 جيجابايت. على RTX 4090، توقع 15-20 رمز/ثانية.
• **النافذة السياقية**: كلا النموذجين يدعمان حتى 128 ألف رمز، لكن الذاكرة تزداد خطياً - يستخدم Le Chat ~0.5 جيجابايت لكل 32 ألف رمز، بينما يستخدم Mistral Large 2 ~4 جيجابايت.

الخلاصة

تمثل النماذج المحلية الجديدة من ميسترال - Le Chat وMistral Large 2 - خطوة مهمة نحو إضفاء الطابع الديمقراطي على الذكاء الاصطناعي. يقدم Le Chat مساعداً سريع الاستجابة وخفيف الوزن مثالياً للمهام اليومية وتوليد الأكواد، بينما يجلب Mistral Large 2 قدرات تفكير على مستوى المؤسسات إلى الإعدادات المحلية. باستخدام أدوات مثل Ollama وHugging Face، يمكن للمطورين نشر هذه النماذج في دقائق، سواء للنماذج الأولية أو للإنتاج.

الخلاصة الرئيسية: لم تعد بحاجة إلى واجهات برمجة تطبيقات سحابية للوصول إلى أحدث نماذج اللغة. مع الأجهزة المناسبة والخطوات الموضحة هنا، يمكنك تشغيل أحدث ابتكارات ميسترال بالكامل دون اتصال بالإنترنت، مما يضمن خصوصية البيانات وزمن استجابة منخفض. مع استمرار ميسترال في تحسين هذه النماذج بناءً على ملاحظات المجتمع، توقع تكاملاً أكبر مع سير العمل المحلي للتطوير. ابدأ التجربة اليوم - جهازك المحلي أقوى مما تتصور.