オムライスの備忘録

数学・統計学・機械学習・プログラミングに関することを記す

【機械学習】決定木 / Decision Tree #まとめ編

Index

決定木 / Decision Tree

基本アルゴリズム / Classification

Regression Tree

データ集合.
 D


コスト関数
 Cost(D)\ =\ \displaystyle \sum_{i\ \in\ D} (y_{i}\ -\ \bar{y})


 \bar{y} は、予測の平均
 \bar{y}\ =\ \displaystyle \frac{1}{|D|} \displaystyle \sum_{i\ \in\ D} y_{i}
を表す.

応用アルゴリズム

ランダムフォレスト / Random Forests

Light GBM

実装編

参考