Journal of Iranian Association of Electrical and Electronics Engineers

fa تحلیل الگوهای مثبت و منفی در ED-WTA± Analyzing of Positive and Negative Prototypes based on the ±ED-WTA Method کنترل Control پژوهشي Research روش ±ED-WTA یک روش جدید یادگیری مبتنی بر الگو برای شبکههای عصبی مرسوم است که متناظر با هر نورون خروجی یک جفت الگوی مثبت و منفی به دست می‌آورد. الگوی مثبت، نمایانگر نمونههایی است که نورون به درستی در مورد آنها تصمیم میگیرد و الگوی منفی نمایندهی نمونههایی است که نورون به اشتباه به ازای آنها برنده شده است. ±ED-WTA برای تفسیر عملکرد نورون در لایهی بیشینهی نرم، اختلاف مربع فاصلهی هر داده از الگوی مثبت و الگوی منفی را لحاظ میکند. <a name="_Hlk120263748">نکته</a>ی جالب توجه در این روش این است که در انتهای آموزش، الگوی مثبت و منفی هر نورون شباهت بسیار زیادی با یکدیگر پیدا میکنند. در این مقاله، با تحلیل چگونگی تشکیل الگوها در روش ±ED-WTA، نشان داده میشود، دلیل شباهت بسیار زیاد الگوهای مثبت و منفی، تأثیرگذاری آن‌ها بر یکدیگر از طریق داده‌های نزدیک به مرز کلاس‌ها میباشد. همچنین با تعیین نمونههای مؤثر در شکلگیری الگوها، مشاهده میشود، همانطور که نمونههای مرزی در طبقهبند ماشین بردار پشتیبان مرز تصمیمگیری را تعیین میکنند، در شبکهی عصبی نیز نورونهای لایهی آخر بر اساس نمونههای مرزی طبقهبندی را انجام میدهند. آزمایشات بر روی مجموعه دادگان MNIST، FERET و Fashion-MNIST درستی ادعاهای مطرح شده را نشان میدهد. The recently introduced method, ±ED-WTA, for each output neuron of a class in the last layer of neural networks, obtain a pair of positive and negative prototypes. The functionality of a neuron is explained based on the difference in the Euclidean distance of a sample from these two prototypes. An astonishing point in this method is the great similarity of positive and negative prototypes for each neuron at the end of training. The authors of [2] have claimed that the reason for this extreme similarity is the formation of the negative prototype of a class with samples of other classes, which are very similar to the positive prototype of that class. In this paper, we show that it is not only the negative prototype that gets close to the positive prototype of a class but also a positive prototype is formed by samples that are far from the center of that class. The new finding about this great similarity shows that each neuron in the softmax layer, like SVMs, makes decisions based on the near-boundary samples. The theoretical analysis is examined in detail and experimental results on MNIST, FERET, and Fashion-MNIST show the correctness of the claims made.   یادگیری مبتنی بر الگو, الگوی مثبت, الگوی منفی, داده‌های مرزی, ماشین بردار پشتیبان Prototype-based Learning , positive prototype , negative prototype , borderline samples , support vector machine 93 107 http://jiaeee.com/browse.php?a_code=A-10-2706-2&slc_lang=fa&sid=1 Mahsa Fazaeli-Javan مهسا فضائلی جوان m.fazaelijavan@mail.um.ac.ir 100319475328460012644 100319475328460012644 No Ferdowsi university of Mashhad بخش مهندسی کامپیوتر- دانشکده مهندسی ـ دانشگاه فردوسی مشهدـ Reza Monsefi رضا منصفی monsefi@um.ac.ir 100319475328460012645 100319475328460012645 Yes Ferdowsi university of Mashhad بخش مهندسی کامپیوتر- دانشکده مهندسی ـ دانشگاه فردوسی مشهدـ Kamaledin Ghiasi-Shirazi سید کمال الدین غیاثی شیرازی k.ghiasi@um.ac.ir 100319475328460012646 100319475328460012646 No Ferdowsi university of Mashhad بخش مهندسی کامپیوتر- دانشکده مهندسی ـ دانشگاه فردوسی مشهدـ