| مدرس | ایمیل |
|---|---|
| جواد ابراهیمی | javad.ebrahimi@sharif.edu |
زمان کلاس: یک‌شنبه و سه‌شنبه - 9:00 الی 10:30
محل کلاس درس: ساختمان ابن سینا - الف 21
آدرس کلاس مجازی: https://vc.sharif.edu/ch/javad.ebrahimi
هدف این درس، درک مفاهیم اصلی نظریه اطلاعات و آشنایی با کاربردهای این شاخه در دیگر بخش های ریاضی و علوم کامپیوتر است.
تعریف آنتروپی شانون به عنوان پایه‌ای‌ترین مفهوم نظریه اطلاعات
ارتباط مفهوم آنتروپی با فشرده سازی اطلاعات - نامساوی کرافت - تولید دنباله‌های تصادفی با استفاده از سکه همگن
آنتروپی توأم و آنتروپی شرطی - قواعد زنجیره‌ای
لم شیرر و کاربردهای آن در ترکیبیات
آنتروپی گراف‌ها و ارتباط با عدد رنگی گراف
آنتروپی متقابل - نامساوی‌های ینسن - مجموع لگاریتمی - فانو و پردازش داده‌ها
نرخ آنتروپی یک فرآیند تصادفی، آنتروپی و قدم زدن تصادفی - نرخ آنتروپی فرایند مارکوف
اطلاعات متقابل - اطلاعات متقابل شرطی - قواعد زنجیره‌ای
کدگذاری بدون خطا و ظرفیت شانون گراف‌ها
خاصیت افراز مجانبی یکنواخت و کاربردهای آن‌ها - قضیه کدگذاری شانون و عکس قضیه کدگذاری
کاربردهای نظریه احتمالات در آمار، روش گونه‌ها - قضیه سانوف - قضیه چرنوف استین - قضیه اعداد بزرگ و نظریه انحرافات بزرگ
آنتروپی تفاضلی - AEP برای متغیرهای تصادفی پیوسته - ارتباط با متغیرهای تصادفی گسسته
آنتروپی بیشینه - تخمین طیف - قضیه آنتروپی بیشینه برگ
ارزش‌یابی درس به شکل زیر صورت خواهد گرفت:
در طول ترم ۴ سری تمرین نظری خواهیم داشت که هر یک بارم یکسانی برابر با ۱.۵ نمره خواهند داشت. در صورتی هر ۴ سری توسط LaTeX تایپ شده و تحویل داده شوند نیز، ۱ نمره امتیازی به دانشجویان اختصاص خواهد یافت. تعریف تمارین، پرسش و پاسخ در خصوص تمارین و همچنین تحویل آن‌ها از طریق سامانه درس‌افزار خواهد بود.
در جدول زیر تاریخ برگزاری، محل برگزاری و جزئیات مربوط به آزمون‌های درس قرار خواهند گرفت.
| آزمون | تاریخ برگزاری | محل برگزاری | مباحث مربوطه |
|---|---|---|---|
| میان‌ترم | ۸:۳۰ صبح ۱۴۰۲/۰۸/۱۴ | ساختمان ابن سینا - الف ۲۱ و الف ۲۵ | فصل ۲ و ۵ کتاب + لم شیرر |
| پایان‌ترم | مطابق سامانه آموزش | مطابق سامانه آموزش | کل مطالب درس |
| نام دستیاران | ایمیل |
|---|---|
| سینا قاسمی‌نژاد | sina.ghaseminejad@gmail.com |
| هادی کاظمی | hadi_kp@yahoo.com |
| محمدپویا پاک‌سرشت | mpps1379@gmail.com |
| ساحل ترکمنی | torkamanisahel@gmail.com |
| شیدا رابطی | shrabeti8001@gmail.com |
| بهار اویس قرن | bahar.oveis.2000@gmail.com |
| زهرا سوخته‌دل | zahra2001so@gmail.com |