
اختبر عالم نماذج اللغة الكبيرة (LLMs) مفتوحة المصدر وتعلّم كيف تعمل من الداخل عبر تطبيقات عملية ومختبرات موجهة. ستتقن أحدث معماريات نماذج اللغة مثل المحوّلات (Transformers) من خلال تمارين عملية، ثم تنتقل إلى مرحلة ضبط النماذج (Fine-tuning) على بياناتك باستخدام منصة SkyPilot القابلة للتوسّع لتدريب النماذج بكفاءة على موارد سحابية متعددة. ستتعلّم أيضاً كيفية النشر الفعّال للنماذج عبر خوادم نماذج متقدمة مثل LoRAX وvLLM، مع التركيز على الأداء، وتقليل زمن الاستجابة، وتحسين استهلاك موارد GPU. كما ستستكشف منظومة نماذج الذكاء التوليدي مفتوحة المصدر بشكل أعمق: فهم آلية عمل LLMs تحت الغطاء، وتشغيل نماذج مُدرّبة مسبقاً مثل Code Llama وMistral وStable Diffusion. يتضمن المحتوى التعرف على معماريات متقدمة مثل نماذج الخبراء المتناثرين (Sparse Expert Models)، وكيفية إطلاق مثيلات GPU سحابية لتسريع الحوسبة والتجارب. وفي مشروع تطبيقي موجّه، ستقوم بضبط LLaMA أو Mistral أو أي نموذج لغة كبير آخر على مجموعة بيانات مخصصة لك، ثم تستخدم SkyPilot لتوسيع التدريب عبر مزوّدي سحابة مختلفين. بعد ذلك ستقوم بحزم نموذجك المُحسّن داخل حاوية (Container) تمهيداً للنشر الإنتاجي، ثم تقديمه بكفاءة باستخدام LoRAX وvLLM وأدوات تقديم مفتوحة أخرى.
Alfredo Deza
Adjunct Assistant Professor in the Pratt School of Engineering
Noah Gift
Executive in Residence and Founder of Pragmatic AI Labs