オムライスの備忘録

数学・統計学・機械学習・プログラミングに関することを記す

【画像処理】Attention #まとめ編

Index

画像データへの Attention

自然言語処理に導入された Attention だが、画像処理に対しても、精度向上を目的として適用される.

適用例

  • 注目する領域をAttention で推定

  • 注目する特徴量・チャネルをAttention で推定

    • SENet

アルゴリズム

SENet / 2017

  • Squeeze-and-Excitation Networks

Self-Attention Networks / SAN

  • Exploring Self-attention for Image Recognition

  • Self-Attentionを全面的に使った新時代の画像認識モデルを解説!

Slot Attention / 2020