オムライスの備忘録

数学・統計学・機械学習・プログラミングに関することを記す

【深層学習】Local Attention

yhayato1320.hatenablog.com

Index

Global Attention

注意する対象を、選択することで、計算コストを削減した Attention.

参考

  • Effective Approaches to Attention-based Neural Machine Translation
    • [2015]
    • Seq2Seq with Attention の論文
    • 3 Attention-based Models
      • 3.2 Local Attention
    • arxiv.org

Web サイト