مروری بر روش های هرس در شبکه های عصبی عمیق با تاکید بر روش های هرس پیش از آموزش

با گسترش کاربرد شبکه‌های عصبی، عمیق شدن و افزایش پارامترهای شبکه، در عین حال محدودیت منابع محاسباتی، محدودیت در حافظه و تفسیرناپذیر شدن این شبکه‌ها، فشرده‌سازی شبکه‌های عصبی مورد توجه قرار گرفته است. فشرده‌سازی ‌می‌بایست به صورت هوشمندانه باشد، به نحوی که ما را از مزایای بهره مندی از شبکه‌های عصبی عمیق جدا نکند. هرس به عنوان یکی از روش‌های فشرده‌سازی با حذف پارامترهای غیرضروری شبکه، همواره مورد اقبال پژوهشگران بوده است، به نحوی که در پژوهش‌های اخیر سعی شده است، مرحله‌ای با عنوان هرس پیش از آموزش شبکه، در مراحل قبل از راه‌اندازی شبکه گنجانده شود تا از مزایای فشرده‌سازی و هرس در مراحل آموزش و استنتاج شبکه بهره برده شود. در مقاله پیش رو سعی شده است، مروری بر روش‌های هرس با تاکید بر هرس‌های پیش از آموزش شبکه انجام شود. در ابتدا مبانی هرس مطرح شده، سپس انواع هرس به همراه تعریف ریاضی هریک مطرح و در نهایت بررسی دقیق‌‌تر‌ی روی هرس‌های پیش از آموزش شبکه انجام شده است.