أمن الذكاء الاصطناعي: الأمان في عصر الذكاء الاصطناعي

يقدم هذا التخصّص تغطية شاملة لأمن الذكاء الاصطناعي بدءًا من كتابة الشيفرة إلى النشر. يغطي البرنامج 13 دورة تعليمية تركز على تأمين خطوط أنابيب التعلم الآلي، وتنفيذ نماذج تهديد باستخدام إطار MITRE ATLAS، وتحسين أداء النماذج، وإجراء تمارين التسلل الحمراء، وأتمتة استجابة الحوادث. تشمل الأدوات العملية المستخدمة Bandit، Semgrep، PyRIT، وMLflow لتطوير الخبرة في التحليل الثابت، وتقييم الثغرات، والاختبارات العدائية، وحماية الذكاء الاصطناعي على الجوال. يمنح البرنامج مهارات عملية في التعرف على تهديدات متخصصة للذكاء الاصطناعي مثل حقن الطلبات، استخراج النماذج، تسميم البيانات، وهجمات سلسلة التوريد، مع تنفيذ ضوابط أمان قوية، وأنظمة مراقبة، واستراتيجيات استعادة للنشر الفعلي لأنظمة الذكاء الاصطناعي.

• تأمين أنظمة الذكاء الاصطناعي باستخدام التحليل الثابت، ونمذجة التهديدات، وتقنيات تقييم الثغرات
• تنفيذ ضوابط أمان الإنتاج بما فيها المراقبة، واستجابة الحوادث، وإدارة التصحيحات
• إجراء تمارين تسلل حمراء وبناء دفاعات متينة ضد الهجمات الخاصة بالذكاء الاصطناعي

• معرفة أساسية بالمفاهيم والمصطلحات
• الاستعداد للممارسة العملية من خلال التمارين أو دراسات الحالة