Skip to article frontmatterSkip to article content
Site not loading correctly?

This may be due to an incorrect BASE_URL configuration. See the MyST Documentation for reference.

Student Presentation Topics — Fall 2026

موضوعات ارائه دانشجویان — نسخه بازنگری‌شده (پاییز ۲۰۲۶)

درس یادگیری ماشین — گروه علوم کامپیوتر، دانشکده علوم ریاضی، دانشگاه فردوسی مشهد

این فایل جایگزین نسخه قبلی (فهرست ده‌موضوعی متمرکز بر استنتاج علّی) است. با تصمیم مدرس، شش موضوع زیر در کلاس ارائه می‌شود؛ فهرست قبلی به‌عنوان «موضوعات جانبی» در پیوست مانده است.

ساختار: ۶ موضوع، ۹ ارائه، ۵ جلسه از ۸ شنبه سمینار؛ هر ارائه ۳۰ دقیقه (س۱ یک ارائه، جلسه‌های دیگر دو ارائه). برنامه جلسات و مهلت‌های پروژه در course-plan-fall-2026.md است.

#موضوعارائه‌دهندهجلسهپیش‌نیاز کلاسیخروجی مخزن
۱سوگیری–واریانس۱ نفرس۱ · شنبه ۳۰ آبان (۲۱ نوامبر)ارزیابی مدل، رگرسیونتکمیل Bias-Variance-Tradeoff.ipynb
۲درخت تصمیم و هرس۲ نفرس۲ · شنبه ۷ آذر (۲۸ نوامبر)طبقه‌بندیافزودن بخش هرس به Decision-Trees.ipynb
۳ترکیب مدل‌ها۲ نفرس۳ · شنبه ۱۴ آذر (۵ دسامبر)سمینار درختبازنویسی Ensemble-Learning.ipynb
۴نظریه یادگیری و بُعد VC۲ نفرس۴ · شنبه ۲۱ آذر (۱۲ دسامبر)سمینار BVتکمیل Learning-Theory-and-VC.md
۵یادگیری رتبه‌دهی۱ نفرس۵ · شنبه ۲۸ آذر (۱۹ دسامبر)معیارهای سنجشتکمیل Learning-to-Rank.md
۶یادگیری نیمه‌نظارتی۱ نفرس۵ · همان جلسهGMM و EMفایل جدید Semi-Supervised-Learning.md

جمع: ۹ ارائه‌دهنده.


۱. سوگیری–واریانس (Bias–Variance Tradeoff)

محتوا

  • تجزیه خطای انتظاری E[(y−f^)2]=bias2+var+σ2E[(y-\hat f)^2]=\text{bias}^2+\text{var}+\sigma^2 و معنای هر جمله؛

  • بازتولید آزمایش ESL شکل ۷٫۱: برازش چندجمله‌ای با ۱۰۰۰ مجموعه داده و رسم bias²/واریانس/خطای آزمون؛

  • تفاوت «سوگیری مدل» و «سوگیری برآورد» با ridge (ESL §7.3)؛

  • چرا خطای آموزش خوش‌بین است و optimism چطور با تعداد پارامتر رشد می‌کند.

  • فرمول دقیق kNN: واریانس σ2/k\sigma^2/k و سوگیری ناشی از میانگین‌گیری محلی؛

  • چرا در طبقه‌بندی (خطای ۰–۱) تجزیه برقرار نیست و چطور باید حرف زد؛

  • پیوند با CV و تنظیم ابرپارامتر: چرا در عمل CV جای تجزیه نظری را می‌گیرد؛

  • اشاره به double descent و جایی که روایت کلاسیک ناکام می‌ماند.

منبع اصلی: ESL §7.2، §7.3، §7.4–7.5 و §2.9؛ نوشتار Bias-Variance-Tradeoff.ipynb. تقسیم کار با مدرس: ۲۰ دقیقه قاب‌بندی (تعریف، انگیزه، انتظار امتحانی) در آغاز جلسه با مدرس است؛ ارائه‌دهنده از صفر شروع نکند و روی بازتولید آزمایش ESL و حالت‌های ridge و 1-NN وقت بگذارد. معیار پذیرش: جدول اعداد بازتولیدشده + یک نمودار از داده خودتان (نه کپی شکل کتاب).


۲. درخت تصمیم و هرس (Decision Trees and Pruning)

ارائه‌دهنده الف — ساخت درخت

  • الگوریتم Hunt و رشد بازگشتی؛

  • معیارهای ناخالصی: Gini، آنتروپی، بهره اطلاعات، خطای طبقه‌بندی — و مقایسه‌شان؛

  • نحوه انتخاب برش (جست‌وجوی حریصانه روی همه ویژگی‌ها و آستانه‌ها) و پیچیدگی آن؛

  • چرا درخت بدون محدودیت بیش‌برازش می‌کند (با مثال روی داده نویزی).

ارائه‌دهنده ب — هرس و ارزیابی

  • پیش‌هرس در برابر پس‌هرس؛

  • هرس هزینه–پیچیدگی (weakest-link) و پارامتر α\alpha؛ نقش آن به‌عنوان تنظیم؛

  • انتخاب α\alpha با CV و رابطه‌اش با سوگیری–واریانس (پیوند به سمینار ۱)؛

  • چرا درخت‌ها پایه ترکیب مدل‌ها هستند (پل به سمینار ۳): پیچیدگی به‌راحتی قابل کنترل است.

منبع اصلی: ESL §9.2 (۹٫۲٫۱ تا ۹٫۲٫۴)؛ Duda, Hart & Stork (2001)، بخش درخت‌های تصمیم؛ نوشتار Decision-Trees.ipynb (که بخش هرس ندارد — همین را باید اضافه کنید). معیار پذیرش: درخت رسم‌شده با plot_tree + منحنی خطای آزمون برحسب ccp_alpha + توضیح این‌که هرس کدام بخش درخت را حذف کرد.


۳. ترکیب مدل‌ها (Ensemble Learning)

ارائه‌دهنده الف — موازی: bagging و جنگل تصادفی

  • چرا میانگین‌گیری مدل‌های ناهم‌بسته واریانس را کم می‌کند (استنتاج ρσ2+1−ρBσ2\rho\sigma^2+\frac{1-\rho}{B}\sigma^2)؛

  • bagging، نمونه‌گیری بوت‌استرپ، خطای OOB به‌عنوان اعتبارسنجی رایگان؛

  • جنگل تصادفی: تصادفی‌سازی ویژگی، اثر آن بر همبستگی درخت‌ها؛

  • اهمیت ویژگی و تفسیر آن (و محدودیتش).

ارائه‌دهنده ب — ترتیبی: boosting و انباشت

  • AdaBoost: وزن‌دهی نمونه‌ها، معیار خطای وزن‌دار، فرمول αm\alpha_m؛

  • boosting گرادیانی: مدل به‌عنوان بهینه‌سازی تابعی، باقی‌مانده‌ها، XGBoost در سطح مفهوم؛

  • چرا bagging واریانس را کم می‌کند و boosting سوگیری را؛

  • stacking و تفاوت آن با رأی‌گیری؛ جدول جمع‌بندی «چه وقت کدام».

منبع اصلی: ESL §8.7 (bagging)، §8.8 (stacking)، §10 (boosting)، §15 (جنگل تصادفی)، §16.1–16.2؛ نوشتار Ensemble-Learning.ipynb (فعلاً فقط اسلاید است — باید روایت و تمرین اضافه کنید). معیار پذیرش: یک آزمایش با ۵ مدل (تک‌درخت، bagging، RF، AdaBoost، GB) روی یک داده و جدول خطا/واریانس برحسب تعداد مدل‌ها.


۴. نظریه یادگیری و بُعد VC (Learning Theory and VC Dimension)

ارائه‌دهنده الف — PAC و ظرفیت

  • یادگیری PAC: تقریب و اطمینان، کلاس فرضیه متناهی و کران نمونه؛

  • شکستن (shattering)، بُعد VC، مثال‌های مشخص (آستانه، بازه، نیم‌فضا در R2\mathbb{R}^2)؛

  • VC برای چه چیزهایی بی‌معناست و چرا؛ همگرایی یکنواخت و کران تعمیم.

ارائه‌دهنده ب — کران‌ها و نقد

  • کران VC برحسب NN و dVCd_{VC} و پیامد آن برای «چقدر داده لازم است»؛

  • پیچیدگی Rademacher و تفاوت با VC (وابسته به توزیع در برابر مستقل از توزیع)؛

  • چرا این کران‌ها در عمل سست‌اند (شبکه‌های عمیق با پارامتر بیشتر از نمونه)؛

  • پیوند صریح با سوگیری–واریانس و با CV: نظریه چه چیزی را توجیه می‌کند و چه چیزی را نه.

منبع اصلی: ESL §7.9؛ Shalev-Shwartz & Ben-David، Understanding Machine Learning، فصل‌های ۳، ۴، ۶ و ۲۶ (Rademacher)؛ نوشتار Learning-Theory-and-VC.md. معیار پذیرش: محاسبه dVCd_{VC} برای حداقل دو کلاس فرضیه + یک آزمایش شبیه‌سازی که نشان دهد کران با افزایش NN تنگ‌تر می‌شود، همراه با توضیح این‌که چرا هنوز سست است.


۵. یادگیری رتبه‌دهی (Learning to Rank)

  • تنظیم مسئله: پرسش، سند، برچسب درجه‌ای؛ تفاوت با رده‌بندی و رگرسیون؛

  • سه خانواده: pointwise، pairwise (RankSVM، RankNet)، listwise (LambdaRank/LambdaMART)؛

  • معیارها با مثال عددی کامل: Precision@k، MAP، NDCG (و چرا NDCG@k با تخفیف لگاریتمی)؛

  • یک روش را تا تابع هدف و گرادیان توضیح دهید؛

  • دام‌ها: بهینه‌سازی معیار نامشتق‌پذیر، سوگیری موقعیت، ارزیابی آفلاین در برابر برخط.

منبع اصلی: Liu، Learning to Rank for Information Retrieval (فصل‌های ۲–۴)؛ یک مقاله اخیر از SIGIR/WSDM/CIKM (دو سال گذشته)؛ نوشتار Learning-to-Rank.md. معیار پذیرش: یک مثال کوچک با محاسبه دستی NDCG برای دو سیستم رتبه‌بندی + پیاده‌سازی یک رتبه‌بند pairwise روی داده ساختگی و مقایسه با pointwise.


۶. یادگیری نیمه‌نظارتی (Semi-Supervised Learning)

  • انگیزه: داده برچسب‌دار گران، داده بدون برچسب فراوان؛ فرض‌های پایه (هم‌بستگی، خوشه، منیفولد)؛

  • روش‌های مولد و EM: مخلوط گاوسی با داده نیمه‌برچسب‌دار (پیوند صریح به S14)؛

  • خودآموزی (self-training) و انتشار برچسب (label propagation) روی گراف؛

  • co-training و فرض «دو نمای مستقل»؛

  • کیفیت برچسب مهم است: چه وقت نیمه‌نظارتی بدتر از نظارتی می‌شود (شکست فرض خوشه)؛

  • ارزیابی منصفانه: همان تقسیم، همان معیار، نسبت‌های مختلف داده برچسب‌دار.

منبع اصلی: Chapelle, Schölkopf & Zien، Semi-Supervised Learning (2006، فصل‌های ۱ و ۳)؛ مستندات sklearn.semi_supervised (LabelSpreading، LabelPropagation)؛ Theodoridis، Machine Learning، فصل مربوط به یادگیری نیمه‌نظارتی. معیار پذیرش: منحنی دقت برحسب درصد داده برچسب‌دار (۵٪ تا ۱۰۰٪) برای دست‌کم دو روش، روی یک داده واقعی، با نشان‌دادن نقطه‌ای که نیمه‌نظارتی ضرر می‌دهد.


قواعد اجرایی

زمان. هر ارائه ۳۰ دقیقه است: حدود ۲۲ دقیقه گفتار + ۸ دقیقه پرسش. در ۲۲ دقیقه نمی‌شود همه‌چیز را گفت؛ انتخاب بخشی از کار است. اسلاید بیش از ۱۵ عدد معمولاً یعنی زمان کم آمده. دو ارائه‌دهنده یک موضوع باید تقسیم کار را مکتوب و یک هفته قبل به مدرس بدهند؛ دو ارائه نباید هم‌پوشانی محتوایی داشته باشد، باید ۶۰ دقیقه را مثل یک واحد طراحی کنند، و هر دو بخش آزمایش عددی داشته باشند.

تحویل. سه روز قبل از جلسه: اسلاید (PDF) + نوشتار/نوتبوک قابل اجرا + فهرست منابع. پس از ارائه: نسخه اصلاح‌شده، به‌صورت PR به مخزن درس، برای همان فایلی که در جدول بالا آمده است. تأخیر در تحویل: ۱۰٪ نمره به ازای هر روز.

محتوای اجباری هر ارائه.

  1. یک آزمایش عددی روی داده واقعی (Iris، digits، یا داده پروژه HAR) — اسلاید بدون عدد پذیرفته نیست؛

  2. یک اسلاید «چه وقت این روش شکست می‌خورد»؛

  3. یک اسلاید «پیوند با بقیه درس» (به کدام جلسه و کدام مفهوم وصل است)؛

  4. منابع دقیق با شماره بخش/صفحه، نه فقط نام کتاب.

عمق در تحویل، نه در اسلاید. با ۳۰ دقیقه، ارائه یک تور هدایت‌شده است، نه اثبات کامل: استنتاج‌ها، جدول اعداد و کد در نوتبوک تحویلی می‌آید و در دقایق آخر فقط نتیجه‌شان نشان داده می‌شود. نمره «عمق علمی» و «آزمایش» از روی تحویل گرفته می‌شود، نه از تعداد اسلاید.

سیاست هوش مصنوعی. استفاده آزاد، اما دانشجو باید بتواند هر معادله، هر خط کد و هر عدد را توضیح دهد؛ در جلسه ممکن است بخشی به‌صورت تصادفی انتخاب و پرسیده شود.

ارزیابی (روبریک).

مؤلفهوزنچه چیزی سنجیده می‌شود
درستی علمی۳۰٪تعریف‌ها، معادلات، بدون عبارت‌های نادرست
عمق و نه سطح اسلاید۲۰٪استنتاج یا استدلال، نه فهرست کردن
آزمایش و تفسیر۲۰٪عدد واقعی، نمودار، تفسیر درست (نه فقط Accuracy)
ارائه و مدیریت زمان۱۵٪۲۲ دقیقه، انتخاب درست محتوا، پاسخ به پرسش‌ها
خروجی مخزن۱۵٪نوتبوک اجراشدنی، روایت، تمرین، منابع دقیق

نمره زیر ۱۲ از ۲۰ در هر سمینار، بازپس‌گیری موضوع توسط مدرس در همان جلسه را به همراه دارد (۱۵ دقیقه جمع‌بندی سطح امتحان).


پیوست: موضوعات جانبی (برای جلسات فوق‌برنامه یا ترم‌های بعد)

این‌ها موضوعات فهرست قبلی‌اند و در برنامه فعلی ارائه نمی‌شوند: استنتاج علّی با حساب Do؛ استدلال پادواقعی و چارچوب نتایج بالقوه؛ یادگیری علّی در سیستم‌های توصیه‌گر؛ استنتاج علّی با شبکه‌های عصبی؛ رگرسیون فرایند گاوسی؛ فرایندهای گاوسی و مدل‌های بیزی غیرپارامتری؛ مدل‌های گرافیکی احتمالی و استنتاج تقریبی؛ نظریه تصمیم بیزی و یادگیری فعال.

ارجاع به مطالب هم‌سطح: Machine Learning دکتر صدوقی، Pattern Recognition دکتر صدوقی.