オムライスの備忘録

数学・統計学・機械学習・プログラミングに関することを記す

【機械学習】一般加法モデル / Generalized Additive Models

一般加法モデル / Generalized Additive Models とは

一つのモデルから予測するのではなく、複数のモデルを使うモデル.
(アンサンブル学習の考えに近い?)

このとき、複数のモデルには、入力データの特徴量から利用する特徴量だけを選ぶことができる.
(そういえば、ランダムフォレスト / Random Forest も各弱識別器ごとに利用する特徴量を選択してた!)

ここでは、それぞれのモデルの出力を足し合わせ、最終的な出力とする.

 f(x)\ =\ \alpha\ +\ f_{1}(x_{1})\ +\ f_{D}(x_{D})

参考