انجمن کامپیوتر ایران

برای عضویت کلیک کنید

مشاهده‌ مشخصات مقاله

یادگیری بانظارت مبتنی بر زمان ضربه برای شبکه‌های عصبی ضربه‌ای عمیق

مریم السادات میرصادقی, مجید شالچیان, سعیدرضا خردپیشه

نویسنده (ها)

بیست و ششمین کنفرانس بین‌المللی انجمن کامپیوتر ایران

مربوط به کنفرانس

الگوریتم پس انتشار خطا رایج‌ترین الگوریتم برای آموزش بانظارت و مستقیم شبکه‌های عصبی ضربه‌ای می‌باشد. هرچند به علت ماهیت گسسته این شبکه‌ها، اعمال این الگوریتم با محدودیت‌ها و چالش‌هایی همراه است. در این مقاله یک الگوریتم یادگیری جدید مبتنی بر کدگذاری زمانی تک ضربه‌ای ارائه شده است که در آن گرادیان‌های بازگشتی را حذف کرده و از یک تقریب خطی برای محاسبه مشتق تابع فعالیت نورون‌های ضربه‌ای استفاده می‌کنیم. به منظور حذف گرادیان‌های بازگشتی، تابع خطای هر لایه به صورت جداگانه محاسبه شده و سپس با اعمال الگوریتم کاهش گرادیان، پارامترهای آن لایه به روز رسانی می‌شوند. همچنین به منظور کاهش حجم محاسبات، مدل نورونی خطی تکه‌ای را پیشنهاد داده‌ایم و از یک روش کدگذاری زمانی استفاده کرده‌ایم به گونه‌ای که هر نورون حداکثر یک بار اجازه آتش دارد. الگوریتم پیشنهادی برای آموزش یک شبکه عصبی ضربه‌ای کانولوشنی استفاده شده است و با بررسی بر روی پایگاه داده MNIST نشان داده شده که این الگوریتم قابلیت پیاده‌سازی در ساختارهای عمیق شبکه‌های عصبی ضربه‌ای را دارد.

چکیده

برای اعضای سایت : ۱٠٠,٠٠٠ ریال
برای دانشجویان عضو انجمن : ۲٠,٠٠٠ ریال
برای اعضای عادی انجمن : ۴٠,٠٠٠ ریال

قیمت