4.7. Dropout

Video ini menjelaskan teknik regularisasi Dropout dalam jaringan neural, yang menonaktifkan neuron secara acak selama pelatihan untuk mencegah overfitting dan meningkatkan generalisasi model. Berikut adalah poin-poin penting dari video tentang teknik regularisasi Dropout berdasarkan urutan waktu:

• 0:05: Pengenalan teknik regularisasi Dropout, yang digunakan khusus untuk jaringan neural.
• 0:10: Dropout melibatkan penonaktifan acak neuron dan koneksinya selama pelatihan untuk mencegah overfitting.
• 0:17: Selama pelatihan, beberapa neuron dinonaktifkan secara acak dengan probabilitas tertentu (misal, 25%).
• 0:24: Contoh penerapan Dropout dalam jaringan neural, di mana neuron yang dinonaktifkan dipilih secara acak pada setiap iterasi.
• 1:00: Struktur jaringan neural berubah setiap iterasi berdasarkan neuron yang dinonaktifkan.
• 1:42: Pada saat testing, semua neuron diaktifkan kembali, namun bobot dikalikan dengan (1 - p) untuk menyesuaikan dengan probabilitas dropout.
• 2:20: Kelebihan Dropout: mencegah overfitting, mengurangi koadaptasi neuron, bertindak sebagai bentuk perataan model, dan meningkatkan kinerja generalisasi.
• 2:42: Kekurangan Dropout: meningkatkan waktu komputasi karena membutuhkan multiple forward dan backward pass, serta memerlukan tuning untuk drop out rate-nya.