آموزش الگوریتم های بهینه سازی در یادگیری ماشین + پیاده سازی در متلب

یادگیری ماشین در حقیقت الگوریتمی برای یاد گرفتن و تعمیم دادن از روی داده‌های ثبت‌ شده ورودی و خروجی است که هدف آن پیش‌بینی نتایج برای داده‌های ورودی جدید است. می‌توان یادگیری ماشین را به فرم تقریب تابعی تعبیر کرد که بردار ویژگی‌های ورودی را به بردار ویژگی‌های خروجی نسبت می‌دهد. توابع تقریب در یادگیری ماشین دارای فرم‌های مختلفی است. در تمام این ساختارها، مجموعه‌ای از پارامترهای تصمیم وجود دارند که باید به بهترین فرم ممکن تعیین شوند. یکی از مهمترین الگوریتم‌های بهینه‌سازی عددی، گرادیان نزولی (Gradient Descent) است که در این آموزش به صورت دقیق و مفصل به این روش، ساختارهای مختلف و تعمیم‌های مختلف آن می‌پردازیم. برای یادگیری دقیق‌تر، علاوه بر بیان تئوری مطالب و مفاهیم آن‌ها، سعی می‌کنیم از طریق حل مساله‌های مهم در یادگیری ماشین و کدنویسی در نرم‌افزار متلب (MATLAB) با انواع مختلف روش‌های بهینه‌سازی مبتنی بر گرادیان آشنا شویم.