مشاهده مشخصات مقاله
فشرده‌سازی شبکه‌های عصبی عمیق با استفاده از چندی‌سازی پارامترهای مبتنی بر نواحی غیرهمپوشان و تعداد بیت متغیر
|
Authors |
-
امین کامجو
-
بهنام قوامی
-
مانی ساداتی
-
حسین قاسمعلی‌زاده
-
محسن راجی
|
|
Conference |
بیست و هفتمین کنفرانس بین الملی انجمن کامپیوتر ایران |
|
Abstract |
در سال‌های اخیر استفاده از شبکه‌های عصبی عمیق در دستگاه‌های لبه در حوزه‌های مختلف مانند اتومبیل‌های خودران، اینترنت اشیاء و تلفن‌های همراه هوشمند مورد توجه زیادی قرار گرفته است. این شبکه‌ها برای ذخیرهسازی نیازمند حافظه ذخیرهسازی انبوه برای انجام محاسبات می‌باشند؛ در حالی که دستگاه‌های لبه دارای محدودیت حافظه و توان مصرفی می‌باشند. لذا یکی از مشکلات اصلی شبکه‌های عصبی عمیق، فضای ذخیرهسازی عظیم می‌باشد که برای حل این مشکل تکنیک های فشرده‌سازی شبکه عصبی معرفی شدند. یکی از مهم‌ترین روشهای فشرده‌سازی شبکه عصبی، چندی‌سازی پارامتر های شبکه عصبی می‌باشد. در این مقاله تکنیک چندی‌سازی با استفاده از نواحی غیرهمپوشان با تعداد بیت متغیر معرفی می شود. در این روش نواحی مختلفی پارامترهای شبکه را براساس توزیع وزن نورون‌ها ایجاد می‌کنیم. هر کدام از این نواحی دارای تعداد بیت چندی‌سازی متغیری می‌باشند. استفاده از تکنیک پیشنهادی اندازه شبکه عصبی عمیق کاهش چشم‌گیری می‌یابد در حالی که دقت شبکه را تغییر نمی دهد. نتایج شبیه سازی نشان می دهد روش پیشنهادی با استفاده از مدل ResNet50 [1] بر روی مجموعه داده‌ی ImageNet [2] به دقت 74.78% دست یافته است، در حالی که اندازه مدل از 816 میلیون پارامتر به 96 میلیون پارامتر کاهش یافته است. |
|
قیمت |
-
برای اعضای سایت : 100,000 Rial
-
برای دانشجویان عضو انجمن : 20,000 Rial
-
برای اعضای عادی انجمن : 40,000 Rial
|
خرید مقاله
|
|
.gif){kind=icon}