به سوی علوم ریاضی

به سوی علوم ریاضی

مشتق‌گیری خودکار به‌عنوان چارچوبی عمومی برای حل رده‌ای از مسائل بهینه‌سازی

نوع مقاله : مقاله علمی -ترویجی (تألیفی)

نویسنده
بلوار باهنر - دانشگاه فردوسی - دانشکده علوم ریاضی - گروه ریاضی کاربردی
چکیده
مشتق‌گیری خودکار یکی از ابزارهای کلیدی در پیاده‌سازی روش‌های مبتنی بر گرادیان در یادگیری ماشین است

که امکان محاسبه‌ی دقیق و کارای مشتق‌ها را برای توابع پیچیده فراهم می‌کند.

در این مقاله الگوریتم کلاسیک گرادیان کاهشی، در چارچوب مشتق‌گیری خودکار با نمایش چند مثال جذاب بازخوانی شده است.

در این رویکرد، مسئله‌ی بهینه‌سازی به‌صورت یک تابع هدف قابل ارزیابی در برنامه‌نویسی فرموله می‌شود،

حتی در مواردی که تابع هدف دارای بیان تحلیلی ساده یا متعارف در ریاضیات کلاسیک نیست، گرادیان‌ها به‌طور خودکار محاسبه می‌شوند

و الگوریتم گرادیان کاهشی بدون تغییر مفهومی به‌کار گرفته می‌شود.

نکته‌ی اصلی آن است که بسیاری از مسائل ظاهراً ناهمگون را می‌توان صرفاً با تعریف مناسب تابع هدف،

در یک چارچوب محاسباتی مشترک حل کرد. برای تبیین تدریجی این دیدگاه،

چهار مثال با پیچیدگی فزآینده بررسی شده‌اند. رگرسیون خطی به‌عنوان نخستین مثال انتخاب شده است،

زیرا مسئله‌ای آشنا با فرم بسته‌ی تحلیلی است و بستری شفاف برای نمایش ارتباط میان گرادیان کاهشی،

مشتق‌گیری خودکار، و الگوریتم‌های پایه‌ی یادگیری ماشین فراهم می‌کند.

در ادامه، مثال‌هایی ارائه می‌شوند که اگرچه در ریاضیات کلاسیک تابع هدف صریح و تمیز ندارند،

اما در قالب یک تابع هدف محاسباتی قابل بیان، و با استفاده از مشتق‌گیری خودکار قابل حل هستند.

هدف مقاله، ارائه‌ی متنی آموزشی و انگیزه‌بخش است

که نشان دهد چگونه مشتق‌گیری خودکار می‌تواند پلی میان بهینه‌سازی عددی کلاسیک و کاربردهای مدرن یادگیری ماشین ایجاد کند،

به‌گونه‌ای که برای دانشجویان علوم ریاضی و علوم کامپیوتر قابل‌درک و الهام‌بخش باشد.
کلیدواژه‌ها

ارسال نظر در مورد این مقاله
نام را وارد کنید.
نشانی پست الکترونیکی را به درستی وارد کنید.
وابستگی سازمانی را به درستی وارد کنید.
توضیحات را وارد کنید (حداقل 50 حرف)
CAPTCHA Image
شناسه امنیتی را به درستی وارد کنید.