حماية مخرجات النماذج اللغوية: الاختبار والتقييم

تستهدف هذه الدورة مطوري البرمجيات ومهندسي التعلم الآلي الراغبين في تجاوز الاختبارات الوظيفية التقليدية لبناء نماذج لغوية كبيرة موثوقة وآمنة. تقدم الدورة منهجيات اختبار صارمة تعتمد على تقنيات Red Teaming لاكتشاف الثغرات الأمنية. تتعلم كيفية تحويل سياسات السلامة التجريدية إلى اختبارات سلوكية آلية باستخدام pytest، وتصميم مطالبات معاكسة لاختبار نقاط الضعف بشكل منهجي. كما يتم تدريب المشاركين على استخدام أدوات اختبار الطفرات مثل mutmut لضمان شمولية الاختبارات وسلامتها، مما يعزز ثقة المستخدمين في نتائج النماذج. لا تتطلب الدورة معرفة معمقة لكنها تحتاج إلى فهم المصطلحات الأساسية والاستعداد للممارسة التطبيقية.

• بناء إطار اختبار أمان متين للنماذج اللغوية الكبيرة
• تطوير مجموعات اختبارات سلوكية آلية باستخدام pytest
• تصميم مطالبات معاكسة لاكتشاف نقاط الضعف
• استخدام اختبار الطفرات لتعزيز شمولية الاختبارات
• تحليل نتائج الاختبار لضمان موثوقية النموذج

• مفاهيم أساسية في موضوع النماذج اللغوية واختبار البرمجيات
• الاستعداد للمشاركة في التمارين العملية