Yang akan Anda pelajari
-
Memahami teori di balik analisis komponen utama (PCA)
-
Ketahui mengapa PCA berguna untuk pengurangan dimensi, visualisasi, dekorelasi, dan denoising
-
Turunkan algoritme PCA secara manual
-
Tulis kode untuk PCA
-
Pahami teori di balik t-SNE
-
Gunakan t-SNE dalam kode
-
Pahami keterbatasan PCA dan t-SNE
-
Pahami teori di balik autoencoder
-
Tulis autoencoder di Theano dan Tensorflow
-
Pahami bagaimana stacked autoencoder digunakan dalam deep learning
-
Tulis autoencoder denoising bertumpuk di Theano dan Tensorflow
-
Memahami teori di balik mesin Boltzmann (RBM) terbatas
-
Pahami mengapa RBM sulit untuk dilatih
-
Pahami algoritme divergensi kontras untuk melatih RBM
-
Tulis RBM Anda sendiri dan jaringan kepercayaan mendalam (DBN) di Theano dan Tensorflow
-
Visualisasikan dan interpretasikan fitur yang dipelajari oleh autoencoder dan RBM
Persyaratan
-
Pengetahuan tentang kalkulus dan aljabar linier
-
Keterampilan pengkodean python
-
Beberapa pengalaman dengan Numpy, Theano, dan Tensorflow
-
Ketahui cara penurunan gradien digunakan untuk melatih model pembelajaran mesin
-
Instal Python, Numpy, dan Theano
-
Beberapa pengetahuan probabilitas dan statistik
-
Kode jaringan saraf feedforward di Theano atau Tensorflow
Deskripsi
Kursus ini adalah langkah logis berikutnya dalam seri pembelajaran mendalam, ilmu data, dan pembelajaran mesinÂ
Dalam kursus ini kita akan mulai dengan beberapa hal yang sangat mendasar – analisis komponen utama (PCA) , dan teknik reduksi dimensi nonlinier populer yang dikenal sebagai t-SNE (penyematan tetangga stokastik terdistribusi t) .
Selanjutnya, kita akan melihat tipe khusus dari jaringan saraf tak terawasi yang disebut autoencoder . Setelah menjelaskan cara kerja autoencoder, saya akan menunjukkan kepada Anda bagaimana Anda dapat menautkan banyak dari mereka bersama-sama untuk membentuk tumpukan autoencoder yang dalam, yang menghasilkan kinerja yang lebih baik dari jaringan saraf dalam yang diawasi . Autoencoder seperti bentuk non-linear dari PCA.
Terakhir, kita akan melihat mesin Boltzmann (RBM) yang dibatasi . Ini adalah jaringan saraf tak terawasi populer lainnya, yang dapat Anda gunakan dengan cara yang sama seperti autoencoder untuk melatih jaringan saraf dalam terawasi Anda sebelumnya. Saya akan menunjukkan kepada Anda cara yang menarik untuk melatih mesin Boltzmann terbatas, yang dikenal sebagai pengambilan sampel Gibbs , kasus khusus Markov Chain Monte Carlo,  dan saya akan menunjukkan bagaimana meskipun metode ini hanya perkiraan kasar, namun pada akhirnya akan mengurangi yang lain. fungsi biaya, seperti yang digunakan untuk autoencoder. Metode ini juga dikenal sebagai Contrastive Divergence atau CD-k . Seperti dalam sistem fisik, kami mendefinisikan konsep yang disebut energi bebas dan berusaha untuk meminimalkan kuantitas ini.
Akhirnya, kami akan menyatukan semua konsep ini dan saya akan menunjukkan kepada Anda secara visual apa yang terjadi ketika Anda menggunakan PCA dan t-SNE pada fitur yang telah dipelajari oleh autoencoder dan RBM, dan kami akan melihat bahwa bahkan tanpa label hasilnya menyarankan bahwa pola telah ditemukan.
Jika Anda tertarik dengan pembelajaran mendalam dan ingin mempelajari tentang perkembangan pembelajaran mendalam modern lebih dari sekadar propagasi balik biasa , termasuk menggunakan jaringan saraf tanpa pengawasan untuk menginterpretasikan fitur apa yang dapat dipelajari secara otomatis dan hierarkis dalam sistem pembelajaran mendalam, kursus ini cocok untuk Anda.
Untuk siapa kursus ini:
- Siswa dan profesional ingin meningkatkan repertoar pembelajaran mendalam mereka
- Pelajar dan profesional yang ingin meningkatkan kemampuan pelatihan jaringan saraf dalam
- Siswa dan profesional yang ingin belajar tentang perkembangan yang lebih modern dalam pembelajaran yang mendalam
