オムライスの備忘録

数学・統計学・機械学習・プログラミングに関することを記す

2022-08-01から1ヶ月間の記事一覧

【時系列解析】単位根過程

Index Index 単位根過程 性質 定義 参考 単位根過程 過程が定常であることを前提とした解析手法がある一方、 経済・ファイナンスデータの中には、定常過程の性質を持たないものも多い. そのようなデータをモデル化するのに、有用である単位根過程について述…

【時系列解析】検定

Index Index 検定 自己相関の検定 統計量 仮設検定 単位根過程の検定 Dickey-Fuller / DF 検定 拡張 DF / AFD 検定 参考 検定 検定 #まとめ編 yhayato1320.hatenablog.com 時系列解析 #まとめ編 yhayato1320.hatenablog.com 自己相関の検定 データが自己相関…

【統計学】検定 #まとめ編

Index Index 検定 目的 手段 棄却 有意水準 帰無仮説と対立仮説 母平均に関する検定 両側検定 片側検定 検定統計量 p-値 t-値 時系列データにおける検定 参考 Web サイト 検定 統計学 #まとめ編 yhayato1320.hatenablog.com 仮説検定は、「有意性」の検定で…

【時系列解析】ホワイトノイズ

Index Index ホワイトノイズ iid 系列 ホワイトノイズ 参考 ホワイトノイズ 時系列解析 yhayato1320.hatenablog.com iid 系列 最も基本的な強定常性の例として、次の iid 系列がある. 定常性 yhayato1320.hatenablog.com iid 系列 各時点のデータが互いに独…

【深層学習】TabNet

Index Index TabNet 特徴量選択 / Feature Selection Global Method Instance Wise Soft Feature Selection / Sparse Feature Selection アルゴリズムの構成 Tree Based Learning / Decision Tree DNN の導入 教師なし事前学習 / Unsupervised Pre-Training …

【時系列解析】アルゴリズム #まとめ編 #02

Index Index 深層学習を用いた時系列解析 DNN Graph TNC / 2022 Delay-SDE-net / 2023 CNN SCINet / 2021 RNN LSTM Temporal Regularized Matrix Factorization / TRMF / 2016 Long Short-term Time-series Network / LSTNet / 2017 DeepAR / 2017 Deep Stat…

【深層学習】TrackFormer #実装編

Index Index TrackFormer タスク データセット ライブラリ 実装 Library Dataset Model 実行の確認 結果 video データからの処理 TrackFormer TrackFormer #アルゴリズム編 yhayato1320.hatenablog.com タスク 物体追跡. 物体追跡 #まとめ編 Transformer yha…

【音声解析】分野一覧 #まとめ編

Index Index 音声解析 音 音の知覚 音の高さ 音の大きさ 音の表現 音声 音声の生成 音韻と音素 前処理 特徴量抽出 短時間フーリエ分析 フィルタバンク ケプストラム特徴量 差分特徴量 音声パワー 解析手法 ルールベース DP (Dynamic Programming) マッチング…

【データセット】Electricity Load Diagrams 2011 2014

Index Index Electricity Load Diagrams 2011 2014 実装 Electricity Load Diagrams 2011 2014 時系列のデータセット. データセット #まとめ編 yhayato1320.hatenablog.com 時系列データセット UCI 提供のデータセット. 電力消費量の時系列データ. UCI のデ…

【機械学習】Gradient Boosting #実装編

Index Index Gradient Boosting タスク データセット 実装 参考 Gradient Boosting Gradient Boosting #アルゴリズム編 yhayato1320.hatenablog.com タスク 時系列予測. 時系列解析 #まとめ編 yhayato1320.hatenablog.com 時系列予測 #実装編 yhayato1320.ha…

【時系列解析】時系列予測 #実装編

Index Index 実装編 機械学習 実装編 時系列解析における #実装編 をまとめる. 時系列解析 #まとめ編 yhayato1320.hatenablog.com 機械学習 決定木 / Decision Tree yhayato1320.hatenablog.com Gradient Boosting yhayato1320.hatenablog.com

【データセット】Monthly Airline Passenger Numbers 1949-1960

Index Index Monthly Airline Passenger Numbers 1949-1960 実装 参考 Monthly Airline Passenger Numbers 1949-1960 時系列のデータセット. データセット #まとめ編 yhayato1320.hatenablog.com 時系列データセット 実装 参考 stat.ethz.ch logics-of-blue.…

【機械学習】ハイパーパラメータチューニング / Hyper Parameter Turning

Index Index ハイパーパラメータチューニング / Hyper Parameter Turning ランダムサーチ / Random Search グリットサーチ / Grid Search CMA-ES Tree-structured Parzen Estimator / TPE ベイズ最適化 深層学習特有のハイパーパラメータチューニング Gradie…

【機械学習】決定木 / Decision Tree #実装編 #01

Index Index 決定木 / Decision Tree タスク データセット ハイパーパラメータのチューニング 実装 参考 決定木 / Decision Tree 予測のアルゴリズムに、決定木を利用. 決定木 / Decision Tree #まとめ編 yhayato1320.hatenablog.com タスク 時系列予測. 時…

【機械学習】前処理 #まとめ編 #02

Index Index 前処理 特徴量の生成 特徴量の選択 整形 NC / NTC 参考 前処理 機械学習で利用されるデータの前処理において、時系列解析に利用される事項について記す. 前処理 #まとめ編 機械学習における一般的な手法 yhayato1320.hatenablog.com 時系列解析 …

【機械学習】前処理 #まとめ編 #01

Index Index 前処理 平均ベクトルと共分散行列 標準化 / Standardization Min-Max スケーリング 対数スケーリング 絶対値スケーリング Box-Cox 変換 Yeo-Johnson 変換 無相関化 白色化 / Whitening カテゴリカル変数 One-Hot Encoding Label Encoding 時系列…

【機械学習】Gradient Boosting #アルゴリズム編

Index Index Gradient Boosting 目的 勾配 更新 実装 参考 書籍 Web サイト Gradient Boosting Boosting の手法の一つ. Boosting yhayato1320.hatenablog.com 目的 : データ数 : 入力データ 損失関数 を最小にする 予測関数 を見つけたい. 勾配 各識別器の損…

【深層学習】Joint Learning of Detection and Embedding / JDE

Index Index Joint Learning of Detection and Embedding / JDE Architecture 精度評価 参考 Web サイト Joint Learning of Detection and Embedding / JDE CNN を用いた物体追跡のアルゴリズム. 物体追跡 #まとめ編 yhayato1320.hatenablog.com Architectur…

【動画像処理】Simple Online and Realtime Tracking / SORT #まとめ編

Index Index Simple Online and Realtime Tracking / SORT / 2016 応用 DeepSORT / 2017 Strong SORT / 2022 BoT SORT / 2022 OC SORT / 2022 Deep OC SORT / 2023 Simple Online and Realtime Tracking / SORT / 2016 物体追跡 / Object Tracking のアルゴ…

【動画像処理】物体追跡 / Object Tracking #まとめ編 #02

Index Index 物体追跡 / Object Tracking とは アルゴリズム Centroid Tracking Correlation Filter Tracking MOSSE Tracking / 2010 KCF / 2012 Discriminative Correlation Tracking / 2014 Simple Online and Realtime Tracking / SORT / 2016 EAMTT / 20…

【機械学習】ブートストラップ法 / Bootstrap Method

Index Index ブートストラップ法 / Bootstrap Method 参考 ブートストラップ法 / Bootstrap Method 機械学習におけるデータ分割の方法のひとつ. データ分割 yhayato1320.hatenablog.com 再代入誤り率のバイアスを補正するために利用される. データ集合 とし…

【機械学習】データ分割 #まとめ編

機械学習 分野一覧 #まとめ編 yhayato1320.hatenablog.com Index Index 汎化能力 データ分割 分割方法 ホールドアウト法 / Holdout Method 交差確認法 / 交差検証法 / Cross Validation Method 一つ抜き法 / Leave One Out Method ブートストラップ法 / Boot…

【機械学習】Lifted Structure Loss

Index Index Lifted Structure Loss Loss Function Architecture 課題 対応策・工夫 参考 Lifted Structure Loss Metric Learning / Distance Learning の損失として利用される. Metric Learning / Distance Learning #まとめ編 #01 損失について yhayato132…

【深層学習】Skip Layer Connection #実装編 #02

Index Index Skip Layer Connection 前置き 実装 実行環境 Network Dataset Optimize 参考 Skip Layer Connection 深層学習における、ネットワークアーキテクチャの改善手法の一つ. Skip Layer Connection yhayato1320.hatenablog.com 前置き MLP で Skip La…

【深層学習】Poly Loss

Index Index Poly Loss 参考 Poly Loss 深層学習 #まとめ編 yhayato1320.hatenablog.com 参考 PolyLoss: A Polynomial Expansion Perspective of Classification Loss Functions [2022] arxiv.org

【深層学習】Metric Learning / Distance Learning #実装編 #03

Index Index Metric Learning / Distance Learning Library Dataset タスク アルゴリズム 実装 Library Install Load Dataset 学習モデルの準備 Loss の構築 学習の実行 Metric Learning / Distance Learning Metric Learning / Distance Learning #まとめ編…

【機械学習】条件付き確率場 / Conditional Random Field / CRF

Index Index 条件付き確率場 / Conditional Random Field / CRF 条件付き確率場 / Conditional Random Field / CRF 機械学習 #まとめ編 yhayato1320.hatenablog.com

【自然言語処理】アルゴリズム #まとめ編 #02

Index Index 自然言語処理におけるアルゴリズム DNN Word2Vec gMLP / 2021 RNN / 1986 ★ LSTM / 1997 GRU / 2014 ELMo / 2018 Attention seq2seq / 2014 Source Target Attention / 2015 ★ Transformer / 2017 ★ BERT / 2018 ★ GPT / 2018 - ★ テクニック・…

【自然言語処理】アルゴリズム #まとめ編 #01

Index Index 自然言語処理におけるアルゴリズム ベイズ識別 / Naive Bayes Classifier 隠れマルコフモデル / Hidden Markov Model / HMM 条件付き確率場 / Conditional Random Field / CRF DeepLearning 参考 自然言語処理におけるアルゴリズム 機械学習を用…

【自然言語処理】ニューラル言語モデル / Neural Language Model

Index Index 言語モデル / Language Model マルコフモデル / Markov Model 確率モデル ニューラル言語モデル / Neural Language Model ニューラル言語モデルの構築 入力層 中間層 出力層 ニューラル言語モデルの種類 順伝播型ニューラル言語モデル 再帰ニュ…