- 機械学習 / MachineLearning
Index
Auto Encoder / 1986
Neural Network を用いて、入力データを再現する仕組み・アルゴリズム .
- Learning internal representations by error propagation
- Reducing the Dimensionality of Data with Neural Networks
高次元のデータ空間から低次元の空間へ写像する Encoder と
低次元の空間から元のデータ空間へ写像する Decoder で構成されている.
変数定義を以下のようにしてみる.
そのとき、最適化の定式化は以下のようになる.
- 入力 :
そのとき、最適化の定式化は以下のようになる.
応用
Stacked Auto Encoder / xxxx
DNN を Encoder / Decoder の導入している際に、1 つの層ごとに学習する Auto Encoder.
Denoising Auto Encoder / 2010
- Stacked Denoising Autoencoders: Learning Useful Representations in a Deep Network with a Local Denoising Criterion
Convolutional Auto Encoder / CAE / 2011
CNN を Encoder / Decoder に導入した.
- Stacked Convolutional Auto-Encoders for Hierarchical Feature Extraction
Variational Auto Encoder / VAE
GAN での利用
Adversarial Autoencoder / 2015
- Adversarial Autoencoder
参考
- Autoencoders
- [2020]
- Survey Paper
- 2 Regularized autoencoders
- 2.1 Sparse Autoencoders
- 2.2 Denoising Autoencoders
- 2.3 Contractive Autoencoders
- 3 Variational Autoencoders
- arxiv.org
書籍
- Machine Learning A Probabilistic Perspective
- 28 Deep learning
- 28.3 Deep neural networks
- 28.3.2 Deep auto-encoders
- 28.3.3 Stacked denoising auto-encoders
- 28.3 Deep neural networks
- 28 Deep learning
Web サイト
- オートエンコーダ（自己符号化器）とは｜意味、仕組み、種類、活用事例を解説
