Journal of Iranian Association of Electrical and Electronics Engineers

fa مدلسازی دسترسی به حافظه بر اساس کاشی بندی موثر در شتابدهنده سخت افزاری شبکه های عصبی کانولوشنی Modeling DRAM Access Based on Efficient Tiling in CNN Hardware Accelerators الکترونیک Electronic پژوهشي Research شبکههای عصبی مصنوعی زیرمجموعهای از یادگیری ماشین هستند که الهام گرفته از شبکههای عصبی زیستیِ مغز انسان هستند و قابلیت یادگیری دارند. این شبکهها در حیطههای مختلف از جمله پردازش زبان طبیعی، تشخیص الگو، پردازش تصویر، بینایی ماشین و بسیاری از زمینههای دیگر کاربرد دارند. شبکههای عصبی CNN نمونهای از این شبکهها هستند که ساختار لایه به لایه دارند و عملیات اصلی آنها کانولوشن است. از آنجایی که حجم محسابات و همچنین داده درحال جریان در این شبکهها زیاد است، نیاز به پهنای باند و انتقالات به حافظه بیشتر میشود. تحقیقات نشان داده است که انرژی مصرفی حافظه خارجی تقریباً 200 برابر و زمان دسترسی به آن 10 برابر حافظه داخلی است، که همین امر باعث افزایش انرژی مصرفی و عدم تعادل در توپولوژی مسیر داده میشود. یکی از راهکارهای اصلی برای کاهش انرژی مصرفی، افزایش استفاده مجدد از داده و کاهش تعداد دسترسیهای حافظه خارجی است. اگر از پارامتر شبکه استفاده حداکثری شود، باعث کاهش در تعداد حرکتهای داده و دسترسیها به حافظه می‫شود. یکی از روش های استفاده مجدد از داده، زمانبندی سطح حلقه و اعمال تکنیکهای کاشیبندی است. در این مقاله رابطه بین تعداد دسترسیهای حافظه خارجی را در صورت استفاده از تکنیک کاشی‫بندی، به صورت ریاضی مدل کردیم. این مدل به صورت فرمول ریاضی است که میتواند تعداد دقیق دسترسیهای DRAM را بر اساس پارامترهای شبکه و اندازه کاشی مدل کند. سپس از این مدل ریاضی برای یافتن پارامترهای بهینه در مساله بهینه سازی با هدف کم کردن دسترسیهای حافظه خارجی، استفاده کردیم. Artificial neural networks are a subset of machine learning inspired by the biological neural networks of the human brain and have the capability to learn. These networks are applied in various fields, including natural language processing, pattern recognition, image processing, computer vision, and many other areas. CNNs (Convolutional Neural Networks) are an example of these networks that have a layered structure, with convolution being their main operation. Due to the high volume of computations and the flow of data in these networks, there is an increased need for bandwidth and memory transfers. Recent researches have shown that the energy consumption and access time of external memory are 200x and 10x greater than internal memory respectively, which leads to increased energy consumption and an imbalance in the data path topology. One of the main solutions to reduce energy consumption is to increase data reuse and reduce the number of accesses to external memory. Maximizing data usage reduces the number of data movements and memory accesses. One method for data reuse is loop-level scheduling and applying tiling techniques. This paper models the relationship between the number of accesses to external memory when using tiling. This model is presented as a mathematical formula that can determine the exact number of DRAM accesses based on network parameters and the tile size. Then, in an optimization problem, optimal parameters are obtained with the goal of minimizing the use of external memory and establishing the relationship between network configuration parameters and tile size.   شبکه های عصبی CNN, انرژی مصرفی, حافظه خارجی DRAM, استفاده مجدد از داده, کاشی‌بندی. CNNs, Energy Consumption, DRAM, Data Reuse, Tiling. 160 171 http://jiaeee.com/browse.php?a_code=A-10-3058-1&slc_lang=fa&sid=1 sakineh seyyedi سکینه صیدی sakinehseydi@ut.ac.ir 100319475328460012695 100319475328460012695 No School of Electrical and Computer Engineering, University of Tehran دانشکده مهندسی برق و کامپیوتر- دانشگاه تهران mostafa ersali salehi nasab مصطفی ارسالی صالحی نسب mersali@ut.ac.ir 100319475328460012694 100319475328460012694 Yes School of Electrical and Computer Engineering, University of Tehran دانشکده مهندسی برق و کامپیوتر- دانشگاه تهران