オムライスの備忘録

数学・統計学・機械学習・プログラミングに関することを記す

【統計学】点推定 / Point Estimation

yhayato1320.hatenablog.com

Index

点推定 / Point Estimation

母集団分布の母数 (パラメータ、母平均や母分散など) を1 つの値で指定する方法を点推定と呼ぶ.

真のパラメータとの誤差について

定量  \hat{\theta} は、確率変数を入力する関数であるので、その出力も確率変数となるので、
現実の  \hat{\theta} は、真のパラメータ  \theta に一致することはなく、
実際の推定には、なんらかの誤差が生じる.

誤差の評価は、定量の標本分布を考えた確率的な取り扱いが必要である.

そこで、不偏推定量、一致推定量などの基準がでてくる.

点推定の考え方

定量と推定値

母集団分布の母数 / パラメータを推定するために、標本から求められる統計量を、定量と呼んでいる.

例えば、標本平均  \bar{X} は、母平均  \mu の推定量
標本分散  s^{2} は母分散  \sigma^{2} の推定量である.

「母集団」と「標本」がこのように対応する形式になることがわかる.

定量は、 X_1,\ \cdots,\ X_n の関数で、確率変数である.

ところで、具体的に、 n 個の観測値が与えられた場合、推定量を実際の数字として計算することができる.

それを推定値 / Estimate と呼ぶ.

我々が、現実のデータから計算するのは、推定値であり、
これは、推定量のとりうる値のひとつが実現したものであると考えられる.

定量の選択

ここで、問題となるのは、どのような統計量を推定量とするかである.

定量の候補は、多数存在する.

計算される推定値は、真の母数の値にできるだけ近い値がよい.

点推定の手順

2 つの手法を考える.

モーメント法

モーメントを通して、母集団についての情報を吸い上げる方法.

例えば、母集団分布が正規分布  N(\mu,\ \sigma^{2}) のとき、
母集団の 1 次、2 次のモーメントを考える.

yhayato1320.hatenablog.com

最尤法

yhayato1320.hatenablog.com

参考