مشاهده‌ مشخصات مقاله

یادگیری بانظارت مبتنی بر زمان ضربه برای شبکه‌های عصبی ضربه‌ای عمیق

مریم السادات میرصادقی, مجید شالچیان, سعیدرضا خردپیشه

نویسنده (ها)

بیست و ششمین کنفرانس بین‌المللی انجمن کامپیوتر ایران

مربوط به کنفرانس

الگوریتم پس انتشار خطا رایج‌ترین الگوریتم برای آموزش بانظارت و مستقیم شبکه‌های عصبی ضربه‌ای می‌باشد. هرچند به علت ماهیت گسسته این شبکه‌ها، اعمال این الگوریتم با محدودیت‌ها و چالش‌هایی همراه است. در این مقاله یک الگوریتم یادگیری جدید مبتنی بر کدگذاری زمانی تک ضربه‌ای ارائه شده است که در آن گرادیان‌های بازگشتی را حذف کرده و از یک تقریب خطی برای محاسبه مشتق تابع فعالیت نورون‌های ضربه‌ای استفاده می‌کنیم. به منظور حذف گرادیان‌های بازگشتی، تابع خطای هر لایه به صورت جداگانه محاسبه شده و سپس با اعمال الگوریتم کاهش گرادیان، پارامترهای آن لایه به روز رسانی می‌شوند. همچنین به منظور کاهش حجم محاسبات، مدل نورونی خطی تکه‌ای را پیشنهاد داده‌ایم و از یک روش کدگذاری زمانی استفاده کرده‌ایم به گونه‌ای که هر نورون حداکثر یک بار اجازه آتش دارد. الگوریتم پیشنهادی برای آموزش یک شبکه عصبی ضربه‌ای کانولوشنی استفاده شده است و با بررسی بر روی پایگاه داده MNIST نشان داده شده که این الگوریتم قابلیت پیاده‌سازی در ساختارهای عمیق شبکه‌های عصبی ضربه‌ای را دارد.

چکیده

برای اعضای سایت : ۱٠٠,٠٠٠ ریال
برای دانشجویان عضو انجمن : ۲٠,٠٠٠ ریال
برای اعضای عادی انجمن : ۴٠,٠٠٠ ریال

قیمت