مرکز منطقه ای اطلاع رسانی علوم و فناوری فصلنامه فناوری اطلاعات و ارتباطات ایران 2717-0411 16 61 2024 12 7 Energy-Efficient Fixed-Point Hardware Accelerator for Embedded DNNs بررسی سربارهای سخت‌افزاری و بهره‌وری انرژی در پیاده‌سازی انواع چندی‌سازی ممیزثابت در شتاب‌دهنده شبکه عصبی عمیق 37 54 fa مرضیه مستعلی زاده دانشگاه تهران سید علی انصارمحمدی دانشگاه تهران نجمه نظری دانشگاه تهران مصطفی ارسالی صالحی نسب تهران 2023 7 26 <p>Deep Neural Networks (DNNs) have demonstrated remarkable performance in various application domains, such as computer vision, pattern recognition, and natural language processing. However, deploying these models on edge-computing devices poses a challenge due to their extensive memory requirements and computational complexity. These factors make it difficult to deploy DNNs on low-power and limited-resource devices. One promising technique to address this challenge is quantization, particularly fixed-point quantization. Previous studies have shown that reducing the bit-width of weights and activations, such as to 3 or 4 bits, through fixed-point quantization can preserve the classification accuracy of full-precision neural networks. Despite extensive research on the compression efficiency of fixed-point quantization techniques, their energy efficiency, a critical metric in evaluating embedded systems, has not been thoroughly explored. Therefore, this research aims to assess the energy efficiency of fixed-point quantization techniques while maintaining accuracy. To accomplish this, we present a model and design an architecture for each quantization method. Subsequently, we compare their area and energy efficiency at the same accuracy level. Our experimental results indicate that incorporating scaling factors and offsets into LSQ, a well-known quantization method, improves DNN accuracy by 0.1%. However, this improvement comes at the cost of a 3&times; decrease in hardware energy efficiency. This research highlights the significance of evaluating fixed-point quantization techniques not only in terms of compression efficiency but also in terms of energy efficiency when applied to edge-computing device.</p> <p>یکی از کارآمدترین راه&zwnj;کارهای فشرده&zwnj;سازی و کاهش انرژی مصرفی شبکه&zwnj;های عصبی عمیق در دستگاه&zwnj;های نهفته، کوانتیزاسیون با استفاده از نمایش اعداد ممیز ثابت است. در سال&zwnj;های اخیر، روش&zwnj;های متنوعی برای بهبود صحت شبکه&zwnj;های کوانتیزه&zwnj;شده مطرح شده است که اغلب سربارهای محاسباتی زیادی به شبکه تحمیل می&zwnj;کنند، اگرچه این موضوع تاکنون از دید طراحان شبکه&zwnj;های عصبی عمیق پنهان مانده&zwnj;است. در این پژوهش، روش&zwnj;های مختلف کوانتیزاسیون ممیزثابت، بر اساس مولفه&zwnj;های تاثیرگذار در سربارهای سخت افزاری، طبقه&zwnj;بندی و مدل شده است. پس از آن، معماری&zwnj;های سخت&zwnj;افزاری ارائه&zwnj;شده برای هریک از مدل&zwnj;ها به صورت عادلانه، با در نظرگرفتن هزینه&zwnj;فایده&zwnj;ی بین صحت شبکه و بهره&zwnj;وری انرژی سخت&zwnj;افزار، بررسی و مقایسه می&zwnj;شوند. نتایج نشان می&zwnj;دهد تکنیک&zwnj;هایی که برای کاهش خطای روش&zwnj;های کوانتیزاسیون به کار گرفته می&zwnj;شود، اگرچه به افزایش صحت شبکه&zwnj;های عصبی منجر می&zwnj;شود اما از طرف دیگر بهره&zwnj;وری انرژی سخت&zwnj;افزار را کاهش می&zwnj;دهد. براساس نتایج شبیه&zwnj;سازی، افزودن ضریب مقیاس و آفست به کوانتیزاسیون ممیزثابت LSQ، صحت شبکه را حدود 1/0 افزایش می&zwnj;دهد اما بهره&zwnj;وری انرژی سخت&zwnj;افزار حدود 3 برابر کمتر شده است. این موضوع لزوم توجه به سربارهای سخت&zwnj;افزاری را به&zwnj;خصوص در سیستم&zwnj;های نهفته، بیش از پیش نشان می&zwnj;دهد.</p> http://jour.aicti.ir/en/Article/Download/43395