تمرین: تیون کردن یک مدل شبکه ی عصبی

تکلیف:فایل زیپ شده > نوت بوک titanic\_gpu\_callbacks.ipynb > بخش آخر: "Your turn: Tune the training"  را با توجه به توضیحات زیر تنظیم کنید:هدف : نوت بوک را طوری تنظیم کنید که به دقت بهینه برای صحت داده های تست دست پیدا کنید. موارد زیر را انجام دهید: 1. ساختار را بررسی کنید2. یک شبکه عصبی کم عمق و عمیق را مقایسه کنید3. سعی کنید طول و عرض شبکه عصبی عمیق را تنظیم کنید4. نرخ یادگیری + نرخ یادگیری پویانکته1 : ابتدا سعی کنید نرخ یادگیری اولیه بهینه را پیدا کنیدنکته 2: برای جلوگیری از خروج از «دره ضررهای کوچک»، از تماس برگشتی برای کاهش نرخ یادگیری استفاده کنید، زمانی که ضرر شما نسبتاً کم است. شما می توانید چندین مرحله را انجام دهید، هر چه ضرر کمتر باشد، میزان یادگیری را بیشتر کاهش می دهید. هشدار! : این مرحله نیازمند آزمون و خطای زیادی است!5. اندازه دسته تاثیر اندازه دسته را دست کم نگیرید. حداقل و حداکثر (اندازه دسته = 1 و اندازه دسته = 100) را امتحان کنید، سپس سعی کنید یک مقدار خوب معقول را در این بین پیدا کنید.6. مدت زمان یادگیری و صرفه جوییتعداد بهینه ای از دوره ها را بیابیدجایی که مدل خود را ذخیره می‌کنید تعداد معقولی از Savepoint پیدا کنید (بعد از اینکه هر دوره ممکن است فایل‌های زیادی تولید کند، اگر دوره‌های زیادی داشته باشید، ذخیره کردن به ندرت ممکن است باعث شود راه‌حل‌های بهینه را از دست بدهید)7. توقف زودهنگاممقادیر ضرر خود را مقایسه کنید یک تحمل را تعریف کنید (مثلاً 10 دوره -> عدد بهتری را پیدا کنید). اگر مقدار ضرر برای بیش از این تعداد دوره کاهش پیدا نکرد، آموزش را متوقف کنید، زیرا دیگر انتظار ندارید مدل بهتری پیدا کنید. این باعث صرفه جویی در زمان هدر رفت تمرین می شود. 8. تمام بخش ها نیاز به تحلیل و آنالیز نوشتاری دارد (کد به تنهایی نمره ای دریافت نمیکند. این تحلیل شماست که برای شما امتیاز کسب میکند!)میتوانید تحلیل خود را در هر بلاک کد بنویسید