オムライスの備忘録

数学・統計学・機械学習・プログラミングに関することを記す

【深層学習】Scaleformer

Index

Crossformer

Transormer を利用した、時系列の予測モデル.

いくつかの工夫をしている.

  • Multi Scale Framework
  • Cross-Scale Normalization

参考

  • Scaleformer: Iterative Multi-scale Refining Transformers for Time Series Forecasting
    • [2022]
    • Abstract
    • 3 METHOD
      • 3.2 MULTI-SCALE FRAMEWORK
      • 3.3 CROSS-SCALE NORMALIZATION
    • arxiv.org