معالجة اللغة الطبيعية باستخدام نماذج الانتباه

تمثل هذه الدورة الرابعة ضمن تخصص معالجة اللغة الطبيعية فرصة لتعلم بناء تطبيقات متقدمة تعتمد على نماذج الانتباه والمحولات. يبدأ المتعلمون بترجمة الجمل الكاملة من الإنجليزية إلى البرتغالية باستخدام نموذج تشفير-فك تشفير يعتمد على الانتباه، ثم ينتقلون لبناء نماذج محولات قادرة على تلخيص النصوص. كما يطبق المتعلمون نماذج T5 وBERT في مهام السؤال والجواب. تهدف الدورة إلى تطوير مهارات تصميم أدوات معالجة اللغة الطبيعية التي تؤدي وظائف مثل الترجمة والتحليل الدلالي واستنتاج المعلومات. يشترط إكمال الدورة الثالثة في التخصص، فضلًا عن إلمام بالبرمجة باستخدام بايثون والإطارات العميقة والتفاضل والتكامل والجبر الخطي والإحصاء.

• استخدام نماذج التشفير-فك التشفير والانتباه الذاتي لترجمة الجمل وتلخيص النصوص
• بناء نموذج محول لتلخيص النصوص
• تطبيق نماذج T5 وBERT لأداء مهام السؤال والجواب

• إكمال الدورات الثلاث الأولى في تخصص معالجة اللغة الطبيعية
• خبرة متوسطة في تعلم الآلة والبرمجة