オムライスの備忘録

数学・統計学・機械学習・プログラミングに関することを記す

【深層学習】正規化 / Normalization #まとめ編

深層学習手法一覧 yhayato1320.hatenablog.com

まとめ編一覧 yhayato1320.hatenablog.com

Index

Batch Normalization

  • [2015]
  • Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift

Layer Normalization

Group Normalization

Instance Normalization

Conditional Instance Normalization

Interpreting Instance Normalization

Adaptive Instance Normalization / AdaIN

  • [2017]
  • GAN 系に利用される
  • Arbitrary Style Transfer in Real-time with Adaptive Instance Normalization
  • qiita.com

Post / Pre Normalization

[2019] yhayato1320.hatenablog.com