Ollama هي حزمة برامج تُسهّل تشغيل نماذج لغات كبيرة محليًا على جهاز الكمبيوتر. تتوفر إصدارات من البرنامج لأنظمة MacOS وLinux وWindows. لاستخدام Ollama، ما عليك سوى تنزيله وتثبيته، ثم تشغيل الأوامر لاستخراج النماذج من المكتبة أو من ملف تكوين النموذج. يدعم البرنامج العديد من النماذج المجانية مفتوحة المصدر، والتي يُمكن الاطلاع عليها في قسم المكتبة بموقع Ollama الإلكتروني. ستحتاج إلى جهاز كمبيوتر قوي لتشغيل نماذج لغات كبيرة باستخدام Ollama. بشكل عام، يجب أن يكون لديك ذاكرة وصول عشوائي (RAM) بسعة 8 جيجابايت على الأقل لنماذج 7B، و16 جيجابايت لنماذج 13B، و32 جيجابايت لنماذج 33B.