پرش به مطلب اصلی

آشنایی با یادگیری عمیق

Introduction to Deep Learning​

نام درس:آشنایی با یادگیری عمیقمقطع:کارشناسی
پیش‌نیاز:یادگیری ماشین مقدماتیگروه درس:تخصصی الزامی
هم‌نیاز:نداردنوع درس:نظری
تعداد واحد:3تعداد ساعت:48
حل تمرین:دارد

سرفصل درس:

مروری مختصر بر رگرسیون، لجستیک رگرسیون و مدل پرسپترون. معرفی تنسورها، عملیات روی تنسورها (برش، عملیات درجا و ...)، مشتق‌گیری خودکار، انتقال تنسورها به کارت گرافیک، آشنایی با انواع توابع فعالیت، توابع هزینه و الگوریتم‌های بهینه‌سازی مورد استفاده در روال گرادیان کاهشی، روشهای ارزیابی (monitoring)، الگوریتم پس انتشار، بیش برازشی و کم برازشی، آماده‌سازی داده‌ها، منظم‌سازی، Dropout، شبکه‌های عصبی متراکم (تمام متصل یا چگال)، شبکه‌های عصبی پیچشی (کانولوشنی)، نمایش آنچه که لایه‌های لایه‌های پیچشی آموزش می‌بینند. کاربرد در پردازش سری‌های زمانی، شبکه‌های برگشتی (RNN, GRU, GLU). یادگیری خود کدگذارها، آشنایی با چند معماری معروف، انتقال یادگیری، یادگیری انتها به انتها، طبقه‌بندی داده‌های تصویری، متنی، تنظیم پارامترها. شبکه‌های مولد هم‌آورد (GAN)، نمایش برخی توانمندی‌های یادگیری عمیق از طریق بیان مثالهای کاربردی از قبیل تولید متن، شناسایی چهره، تولید تصویر جعلی، رؤیای عمیق، انتقال سبک عصبی، نقاشی با شبکه‌های عصبی و بیان توابع هزینه‌ی مرتبط با آنها. آشنایی با حداقل یکی از کتابخانه‌های معروف حوزه یادگیری عمیق مانند پای‌تورچ یا تنسورفلو.

نکته: با توجه به اینکه پیش‌نیاز این درس، یادگیری ماشین مقدماتی است و در آن درس رگرسیون، مدل پرسپترون و شبکه‌های چند لایه پرسپترونی گفته شده‌اند، در این درس می‌توان به سرعت وارد مبحث موضوع یادگیری عمیق شد.

منابع:

  • نیلسن، م. (۱۴۰۰). شبکه‌های عصبی و یادگیری عمیق، ترجمه: جاودانی گندمانی، فروزنده، سعید و هادی خسروی، انتشارات جهاد دانشگاهی چهارمحال و بختیاری.

  • Zhang, A., Lipton, Z. C., Li, M., & Smola, A. J. (2021). Dive into Deep Learning. Retrieved from https://d2l.ai/

  • Stevens, E., Antiga, L., & Viehmann, T. (2020). Deep Learning with PyTorch. Manning Publications.

  • Chollet, F. (2021). Deep Learning with Python, Second Edition. Manning Publications. [PDF]

  • Goodfellow, I., Bengio, Y., & Courville, A. (2016). Deep Learning. MIT Press.

  • Lantz, B. (2019). Machine Learning with R: Expert Techniques for Predictive Modeling. Packt Publishing.

  • Pattanayak, S. (2017). Pro Deep Learning with TensorFlow: A Mathematical Approach to Advanced Artificial Intelligence in Python. Apress.

  • Nielsen, M. (2015). Neural Networks and Deep Learning. Determination Press.