انجمن کامپیوتر ایران

در سال‌های اخیر استفاده از شبکه‌های عصبی عمیق در دستگاه‌های لبه در حوزه‌های مختلف مانند اتومبیل‌های خودران، اینترنت اشیاء و تلفن‌های همراه هوشمند مورد توجه زیادی قرار گرفته است. این شبکه‌ها برای ذخیره‌‌سازی نیازمند حافظه ذخیره‌سازی انبوه برای انجام محاسبات می‌باشند؛ در حالی که دستگاه‌های لبه دارای محدودیت حافظه و توان مصرفی می‌باشند. لذا یکی از مشکلات اصلی شبکه‌های عصبی عمیق، فضای ذخیره‌سازی عظیم می‌باشد که برای حل این مشکل تکنیک های فشرده‌سازی شبکه عصبی معرفی شدند. یکی از مهم‌ترین روشهای فشرده‌سازی شبکه عصبی، چندی‌سازی پارامتر های شبکه عصبی می‌باشد. در این مقاله تکنیک چندی‌سازی با استفاده از نواحی غیرهمپوشان با تعداد بیت متغیر معرفی می شود. در این روش نواحی مختلفی پارامترهای شبکه را براساس توزیع وزن نورون‌ها ایجاد می‌کنیم. هر کدام از این نواحی دارای تعداد بیت چندی‌سازی متغیری می‌باشند. استفاده از تکنیک پیشنهادی اندازه شبکه عصبی عمیق کاهش چشم‌گیری می‌یابد در حالی که دقت شبکه را تغییر نمی دهد. نتایج شبیه سازی نشان می دهد روش پیشنهادی با استفاده از مدل ResNet50 [1] بر روی مجموعه داده‌ی ImageNet [2] به دقت 74.78% دست یافته است، در حالی که اندازه مدل از 816 میلیون پارامتر به 96 میلیون پارامتر کاهش یافته است.