Zjednodušené násobení v konvolučních neuronových sítích
Loading...
Date
Authors
ORCID
Advisor
Referee
Mark
C
Journal Title
Journal ISSN
Volume Title
Publisher
Vysoké učení technické v Brně. Fakulta informačních technologií
Abstract
Tato práce se zaměřuje na problematiku klasických i konvolučních neuronových sítí. Jsou zde probrány konvenční techniky hardwarového násobení a možnosti jeho optimalizace v kontextu umělých neuronových sítí. Je navržena metoda zjednodušeného násobení, a to násobení bez násobičky. Tato metoda je implementována a integrována do knihovny TypeCNN. Poté je proveden odhad ceny hardwarového řešení jak konvenčního, tak zjednodušeného násobení. Představeny jsou dostupné nástroje pro práci s konvolučními neuronovými sítěmi a datové sady pro jejich testování v úloze klasifikace obrazů. Jsou navrženy testovací architektury a metodika testování a experimentů. Následně jsou zhodnoceny výsledky testů jak z pohledu úspěšnosti klasifikace, tak ceny hardwarového řešení.
This thesis provides an introduction to classical and convolutional neural networks. It describes how hardware multiplication is conventionally performed and optimized. A simplified multiplication method is proposed, namely multiplierless multiplication. This method is implemented and integrated into the TypeCNN library. The cost of the hardware solution of both conventional and simplified multipliers is estimated. The thesis also introduces software tools developed to work with convolutional neural networks and datasets used to test them in the image classification task. Test architectures and experimentation methodology are proposed. The results are evaluated, and both the classification accuracy and cost of the hardware solution are discussed.
This thesis provides an introduction to classical and convolutional neural networks. It describes how hardware multiplication is conventionally performed and optimized. A simplified multiplication method is proposed, namely multiplierless multiplication. This method is implemented and integrated into the TypeCNN library. The cost of the hardware solution of both conventional and simplified multipliers is estimated. The thesis also introduces software tools developed to work with convolutional neural networks and datasets used to test them in the image classification task. Test architectures and experimentation methodology are proposed. The results are evaluated, and both the classification accuracy and cost of the hardware solution are discussed.
Description
Keywords
umělá inteligence, soft computing, neuron, neuronové sítě, konvoluční neuronové sítě, násobení, optimalizace, zjednodušené násobení, násobení bez násobičky, artificial intelligence, soft computing, neuron, neural networks, convolutional neural networks, multiplication, optimization, simplified multiplication, multiplierless multiplication
Citation
JUHAŇÁK, P. Zjednodušené násobení v konvolučních neuronových sítích [online]. Brno: Vysoké učení technické v Brně. Fakulta informačních technologií. 2019.
Document type
Document version
Date of access to the full text
Language of document
cs
Study field
Bezpečnost informačních technologií
Comittee
prof. Ing. Tomáš Hruška, CSc. (předseda)
doc. Ing. Zdeněk Vašíček, Ph.D. (místopředseda)
doc. RNDr. Milan Češka, Ph.D. (člen)
Ing. Matěj Grégr, Ph.D. (člen)
doc. Mgr. Jaroslav Hrdina, Ph.D. (člen)
Mgr. Kamil Malinka, Ph.D. (člen)
Date of acceptance
2019-06-14
Defence
Student nejprve prezentoval výsledky, kterých dosáhl v rámci své práce. Komise se poté seznámila s hodnocením vedoucího a posudkem oponenta práce. Student následně odpověděl na otázky oponenta a na další otázky přítomných. Komise se na základě posudku oponenta, hodnocení vedoucího, přednesené prezentace a odpovědí studenta na položené otázky rozhodla práci hodnotit stupněm C. Otázky u obhajoby: Uvažoval jste možnosti implementace několika násobiček tohoto typu na jednom čipu? Myslíte si, že použití RAM pro tabulky je vhodné? Jaké latence paměti byste očekával? Jak byste řešil několikanásobné čtení z jednoho modulu v jednom taktu? Jak by vypadala plocha a zpoždění hardware, pokud by jste uložil vyhledávací tabulky do SRAM (pro 256b by to neměl být problém)? Myslíte si, že by původní autor knihovny přijal merge request s Vaším kódem?
Result of defence
práce byla úspěšně obhájena
Document licence
Standardní licenční smlouva - přístup k plnému textu bez omezení