Optimasi Struktur Convolutional Neural Network LeNet5m dengan Pendekatan MorphNet
Pendekatan perancangan neural network saat ini, menghasilkan rancangan yang tidak efisien. Rancangan yang tidak efisien ini menyebabkan penggunaan sumber daya yang lebih tinggi dibandingkan network yang lebih efisien. Hal ini juga merupakan permasalahan yang dialami network LeNet5, sebuah convolutio...
Saved in:
| Main Authors: | , , |
|---|---|
| Format: | Article |
| Language: | English |
| Published: |
Departement of Electrical Engineering, Faculty of Engineering, Universitas Brawijaya
2019-12-01
|
| Series: | Jurnal EECCIS (Electrics, Electronics, Communications, Controls, Informatics, Systems) |
| Subjects: | |
| Online Access: | https://jurnaleeccis.ub.ac.id/index.php/eeccis/article/view/617 |
| Tags: |
Add Tag
No Tags, Be the first to tag this record!
|
| _version_ | 1846122908852682752 |
|---|---|
| author | Ridho Herasmara Muhammad Aziz Muslim Panca Mudjirahardjo |
| author_facet | Ridho Herasmara Muhammad Aziz Muslim Panca Mudjirahardjo |
| author_sort | Ridho Herasmara |
| collection | DOAJ |
| description | Pendekatan perancangan neural network saat ini, menghasilkan rancangan yang tidak efisien. Rancangan yang tidak efisien ini menyebabkan penggunaan sumber daya yang lebih tinggi dibandingkan network yang lebih efisien. Hal ini juga merupakan permasalahan yang dialami network LeNet5, sebuah convolutional neural network untuk klasifikasi digit tulisan tangan yang dilatih dengan menggunakan dataset MNIST. Kami mengusulkan pendekatan MorphNet untuk optimasi kebutuhan flops-nya. Pendekatan MorphNet mengerdilkan network dengan menggunakan L1 regularization untuk menonaktifkan neuron pada tingkat aktivasinya. Neuron yang tidak aktif ini memiliki imbas yang kecil terhadap kinerja network, sehingga akan diusulkan untuk dihilangkan pada struktur yang baru. Network ini kemudian dapat dibesarkan untuk realokasi sumber daya. Sebagai hasilnya, didapatkan beberapa network baru yang lebih efisien dalam kebutuhan flops hingga 69%, dengan tetap mempertahankan tingkat akurasi pada rentang 98.5%. Kami menyimpulkan bahwa pendekatan MorphNet berhasil meningkatakan efisiensi dengan cara menghilangkan neuron yang berimbas kecil terhadap kinerja network. |
| format | Article |
| id | doaj-art-7d3a98b667d94a1caa98f96e8c56e2e5 |
| institution | Kabale University |
| issn | 2460-8122 |
| language | English |
| publishDate | 2019-12-01 |
| publisher | Departement of Electrical Engineering, Faculty of Engineering, Universitas Brawijaya |
| record_format | Article |
| series | Jurnal EECCIS (Electrics, Electronics, Communications, Controls, Informatics, Systems) |
| spelling | doaj-art-7d3a98b667d94a1caa98f96e8c56e2e52024-12-14T10:55:12ZengDepartement of Electrical Engineering, Faculty of Engineering, Universitas BrawijayaJurnal EECCIS (Electrics, Electronics, Communications, Controls, Informatics, Systems)2460-81222019-12-0113313413810.21776/jeeccis.v13i3.617411Optimasi Struktur Convolutional Neural Network LeNet5m dengan Pendekatan MorphNetRidho Herasmara0Muhammad Aziz Muslim1Panca Mudjirahardjo2Universitas Islam Raden Rahmat, Universitas BrawijayaUniversitas BrawijayaUniversitas BrawijayaPendekatan perancangan neural network saat ini, menghasilkan rancangan yang tidak efisien. Rancangan yang tidak efisien ini menyebabkan penggunaan sumber daya yang lebih tinggi dibandingkan network yang lebih efisien. Hal ini juga merupakan permasalahan yang dialami network LeNet5, sebuah convolutional neural network untuk klasifikasi digit tulisan tangan yang dilatih dengan menggunakan dataset MNIST. Kami mengusulkan pendekatan MorphNet untuk optimasi kebutuhan flops-nya. Pendekatan MorphNet mengerdilkan network dengan menggunakan L1 regularization untuk menonaktifkan neuron pada tingkat aktivasinya. Neuron yang tidak aktif ini memiliki imbas yang kecil terhadap kinerja network, sehingga akan diusulkan untuk dihilangkan pada struktur yang baru. Network ini kemudian dapat dibesarkan untuk realokasi sumber daya. Sebagai hasilnya, didapatkan beberapa network baru yang lebih efisien dalam kebutuhan flops hingga 69%, dengan tetap mempertahankan tingkat akurasi pada rentang 98.5%. Kami menyimpulkan bahwa pendekatan MorphNet berhasil meningkatakan efisiensi dengan cara menghilangkan neuron yang berimbas kecil terhadap kinerja network.https://jurnaleeccis.ub.ac.id/index.php/eeccis/article/view/617morphnetdigit tulisan tanganconvolutional neural networkklasifikasi |
| spellingShingle | Ridho Herasmara Muhammad Aziz Muslim Panca Mudjirahardjo Optimasi Struktur Convolutional Neural Network LeNet5m dengan Pendekatan MorphNet Jurnal EECCIS (Electrics, Electronics, Communications, Controls, Informatics, Systems) morphnet digit tulisan tangan convolutional neural network klasifikasi |
| title | Optimasi Struktur Convolutional Neural Network LeNet5m dengan Pendekatan MorphNet |
| title_full | Optimasi Struktur Convolutional Neural Network LeNet5m dengan Pendekatan MorphNet |
| title_fullStr | Optimasi Struktur Convolutional Neural Network LeNet5m dengan Pendekatan MorphNet |
| title_full_unstemmed | Optimasi Struktur Convolutional Neural Network LeNet5m dengan Pendekatan MorphNet |
| title_short | Optimasi Struktur Convolutional Neural Network LeNet5m dengan Pendekatan MorphNet |
| title_sort | optimasi struktur convolutional neural network lenet5m dengan pendekatan morphnet |
| topic | morphnet digit tulisan tangan convolutional neural network klasifikasi |
| url | https://jurnaleeccis.ub.ac.id/index.php/eeccis/article/view/617 |
| work_keys_str_mv | AT ridhoherasmara optimasistrukturconvolutionalneuralnetworklenet5mdenganpendekatanmorphnet AT muhammadazizmuslim optimasistrukturconvolutionalneuralnetworklenet5mdenganpendekatanmorphnet AT pancamudjirahardjo optimasistrukturconvolutionalneuralnetworklenet5mdenganpendekatanmorphnet |