Llama 3 هو نموذج لغة قوي مفتوح المصدر من Meta AI، متوفر بأحجام معلمات 8B و70B. يأتي النموذجان بإصدارين أساسي وإصدار مُعدّل للتعليمات، مصمم لتطبيقات الحوار. تشمل الميزات الرئيسية مفردات رموز موسعة تصل إلى 128 ألف رمز لتحسين الأداء متعدد اللغات، وتسريع رسوميات CUDA لاستنتاج أسرع حتى 4 مرات، والتوافق مع التكميم 4 بت للعمل على وحدات معالجة الرسومات الاستهلاكية.

تنزيل النموذج
Meta-Llama-3-8b HuggingFace
Meta-Llama-3-8b-instruct HuggingFace
Meta-Llama-3-70b HuggingFace
Meta-Llama-3-70b-instruct HuggingFace
Llama 2 70B المصدر - HF - GPTQ
Llama 2 70B مصدر الدردشة - GPTQ
متطلبات الأجهزة
Llama 3 8B: يعمل هذا النموذج على وحدات معالجة رسومية (GPU) بسعة 16 جيجابايت على الأقل من ذاكرة الفيديو (VRAM)، مثل NVIDIA GeForce RTX 3090 أو RTX 4090. كما يمكن ضبطه بدقة 4 بت لتقليل حجم الذاكرة إلى حوالي 7 جيجابايت، مما يجعله متوافقًا مع وحدات معالجة رسومية ذات سعة ذاكرة أقل، مثل 8 جيجابايت.

Llama 3 70B: يتطلب هذا الطراز الأكبر أجهزةً أقوى، مع وحدة معالجة رسوميات (GPU) واحدة على الأقل بسعة 32 جيجابايت أو أكثر من ذاكرة الوصول العشوائي للفيديو (VRAM)، مثل NVIDIA A100 أو وحدات معالجة الرسوميات H100 القادمة. للحصول على أداء مثالي، يُنصح باستخدام عدة وحدات معالجة رسوميات متطورة أو أنوية موتر للاستفادة من التوازي.


تثبيت نموذج Llama 3


يمكنك تنزيل جميع ملفات النموذج من مستودعات Hugging Face. بمجرد حصولك على النموذج المطلوب، يمكنك نشره باستخدام نقاط نهاية Hugging Face Inference أو نشره محليًا على برنامج إدارة LLM متوافق مثل LM Studio.


عرض Llama 3 التجريبي


يتوفر أيضًا إصدار تجريبي من نموذج "Llama 3 70B instruct" على HuggingChat - فقط تأكد من تحديده كنموذج حالي - https://huggingface.co/chat/

• زيارة الموقع