أمان الذكاء الاصطناعي: اختبارات الاختراق وفلاتر السلامة

تتناول هذه الدورة كيفية اختبار أمان نماذج الذكاء الاصطناعي الكبيرة التي تستخدم في الأعمال، مع التركيز على التهديدات الخاصة مثل حقن البرمجات، فك الحماية، والتلاعب بالمحتوى التي لا تكشفها أدوات الأمان التقليدية. تمكّن الدورة المطورين ومحترفي الأمن السيبراني ومديري تقنية المعلومات من اكتشاف الثغرات عبر تقنيات اختبار عدائية متقدمة باستخدام أدوات معتمدة مثل PyRIT وNVIDIA Garak وPromptfoo. كما يتعلم المشاركون تصميم وتنفيذ فلاتر أمان متعددة الطبقات لمنع تجاوزها مع الحفاظ على أداء النظام. تشمل الدورة مختبرات تطبيقية لتأسيس قواعد متينة، تنفيذ أنظمة مراقبة مستمرة، وإنشاء دفاعات متكيفة تتطور مع مرور الوقت لتعزيز أمان الذكاء الاصطناعي.

• تصميم سيناريوهات اختبار لاكتشاف الثغرات ونقاط الضعف في نماذج الذكاء الاصطناعي الكبيرة
• تنفيذ فلاتر أمان للكشف والحد من المخرجات الضارة مع الحفاظ على أداء النموذج
• تقييم وتعزيز متانة النماذج عبر تحليل الهجمات العدائية وتطوير استراتيجيات دفاعية

• فهم أساسي للمصطلحات المتعلقة بالموضوع
• الاستعداد للتطبيق العملي من خلال تمارين أو حالات دراسية