Prosiding SeNTIK STI&K, Vol 2 (2018)

Font Size:  Small  Medium  Large

Optimasi Deep Belief Network Menggunakan Simulated Annealing

L M Rasdi Rere, Soegijanto, Sudjiran

Abstract


Dalam beberapa tahun terakhir, deep learning (DL) merupakan area penelitian yang sangat penting dalam pemelajaran mesin. Metode ini dapat mempelajari beragam tingkat abstraksi dan representasi pada berbagai macam data seperti teks, suara dan citra. Meskipun metode DL telah sukses dipergunakan untuk aplikasi seperti pemrosesan suara, pengenalan fonetik, robotika, pencarian informasi, bahkan sampai analisa molekul, namun untuk melatih metode ini tidaklah mudah. Sejumlah teknik telah diusulkan untuk membuat pelatihan dalam DL menjadi lebih optimal, seperti menambahkan proses pra-training, mengganti fungsi aktivasi maupun metode gradien standar yang dipergunakan, ataupun memutuskan sebagian dari jaringan pada lapisan. Dalam penelitian ini, diusulkan optimasi deep belief network, yang merupakan salah satu metode popular dalam DL, dengan menambahkan simulated annealing pada lapisan terakhir. Hasil eksperimen yang dilakukan menggunakan data set MNIST menunjukkan bahwa, meskipun ada penambahan waktu komputasi, akan tetapi secara umum ada peningkatan akurasi dari DBN asli.