دوره 19، شماره 3 - ( مجله مهندسی برق و الکترونیک ایران - جلد 19 شماره 3 1401 )                   جلد 19 شماره 3 صفحات 152-145 | برگشت به فهرست نسخه ها


XML English Abstract Print


Download citation:
BibTeX | RIS | EndNote | Medlars | ProCite | Reference Manager | RefWorks
Send citation to:

Ghiassirad H, Aliyari Shoorehdeli M, Farivar F. To Analysis and Compare 21 Weight Constraints in Stochastic Gradient Descent Algorithm Using Kernel Method. Journal of Iranian Association of Electrical and Electronics Engineers. 2022; 19 (3) :145-152
URL: http://jiaeee.com/article-1-1276-fa.html
غیاثی راد حسین علی، علیاری شوره دلی مهدی، فریور فائزه. تحلیل و مقایسه 21 قید محدودسازی در الگوریتم گرادیان نزولی اتفاقی به روش کرنل. نشریه مهندسی برق و الکترونیک ایران. 1401; 19 (3) :152-145

URL: http://jiaeee.com/article-1-1276-fa.html


دانشکده مهندسی برق- دانشگاه صنعتی خواجه نصیرالدین طوسی
چکیده:   (229 مشاهده)
مقیدسازی الگوریتم گرادیان نزولی باهدف آموزش شبکه عصبی با وزن­هایی محدودشده در کاربردهایی نظیر  شفاف‌سازی شبکه، کاهش حجم شبکه ازنظر ذخیره‌سازی و افزایش سطح عمومیت پذیری آن مؤثر است. همچنین می‌تواند در افزایش سرعت همگرایی، سرعت استنتاج و یافتن جوابی بهینه نیز مناسب باشد. در این نوشتار با استفاده از ترفند کرنل به‌عنوان روشی برای تحمیل انواع قیود بر الگوریتم آموزش، تعداد 21 قید مختلف با یکدیگر مقایسه شده است که تعداد 16 قید آن با الهام از عدم قطعیت موجود در شبکه‌های عصبی زیستی برای اولین بار در این مقاله ارائه‌شده است. مقایسه قید‌ها بدون هیچ‌گونه افزایش داده و منظم سازی، صورت گرفته است تا اثر قید‌ها بر فرآیند بهینه‌سازی واضح باشد. به‌منظور ارزیابی، برای هر قید در حل مسائل طبقه‌بندی MNIST، CIFAR-10 و CIFAR-100 با شبکه‌های عصبی عمیق مختص آن، 63 آزمایش شبیه سازی شده است. نتایج نشان می‌دهد هر قید در هر مجموعه داده تأثیر متفاوتی بر فرآیند آموزش دارد و به‌طور مشخص قیدهای پیشنهادی که از عدم قطعیت حاضر در شبکه‌های عصبی زیستی الهام گرفته شده است، می­تواند بهتر از قیدهای ارائه‌شده در تحقیقات پیشین باشد و باعث بهبود عملکرد شبکه عصبی عمیق ازنظر دقت طبقه‌بندی شود.
متن کامل [PDF 892 kb]   (43 دریافت)    
نوع مقاله: پژوهشي | موضوع مقاله: کنترل
دریافت: 1399/12/7 | پذیرش: 1400/12/8 | انتشار: 1401/6/11

ارسال نظر درباره این مقاله : نام کاربری یا پست الکترونیک شما:
CAPTCHA

ارسال پیام به نویسنده مسئول


بازنشر اطلاعات
Creative Commons License این مقاله تحت شرایط Creative Commons Attribution-NonCommercial 4.0 International License (CC BY NC 4.0) قابل بازنشر است.

کلیه حقوق این وب سایت متعلق به نشریه مهندسی برق و الکترونیک ایران می باشد.

طراحی و برنامه نویسی : یکتاوب افزار شرق

© 2022 CC BY-NC 4.0 | Journal of Iranian Association of Electrical and Electronics Engineers

Designed & Developed by : Yektaweb