オムライスの備忘録

数学・統計学・機械学習・プログラミングに関することを記す

データサイエンス-統計学

【統計学】確率分布

Index Index 確率分布 二値変数 多値変数 参考 書籍 Web サイト 確率分布 確率 #まとめ編 yhayato1320.hatenablog.com 二値変数 二項分布 / ベルヌーイ分布 離散型 yhayato1320.hatenablog.com ベータ分布 ベルヌーイ分布の事前分布で利用される. 多値変数 …

【統計学】二項分布 / ベルヌーイ分布 / Bernoulli Distribution

Index Index 二項分布 / ベルヌーイ分布 / Bernoulli Distribution 参考 二項分布 / ベルヌーイ分布 / Bernoulli Distribution 参考 統計学入門 東京大学出版 6 確率分布 6.2 二項分布とベルヌーイ分布 統計学入門 (基礎統計学Ⅰ)東京大学出版会Amazon パター…

【統計学】ガウス過程回帰

Index Index ガウス過程回帰 ガウス過程 回帰モデル 予測分布 参考 書籍 ガウス過程回帰 ガウス過程回帰とは、データから関数 の確率分布をガウス過程の形で求める方法. 求めたいものは、関数 の事後分布. これを、ベイズ推定で求める. ベイズ推定 yhayato13…

【統計学】カーネル

Index Index カーネル ベイズ統計学 パターン認識 / 機械学習 ノンパラメトリック統計 参考 カーネル ベイズ統計学 パターン認識 / 機械学習 ノンパラメトリック統計 参考 カーネル (統計学) ja.wikipedia.org

【統計学】ガウス過程 / Gaussian Process

確率・統計学 #まとめ編 yhayato1320.hatenablog.com Index Index ガウス過程 確率過程 定義 もう少し踏み込んだ概念 正確な定義 カーネル法とガウス関数 参考 ガウス過程 ガウス過程とは、関数 を確率変数と見たてた確率分布. ガウス過程も確率過程の一種. …

【統計学】周辺確率

Index Index 参考 参考 統計学入門 東京大学出版 7 多次元の確率分布 7.1 同時確率分布と周辺確率分布 統計学入門 (基礎統計学Ⅰ)東京大学出版会Amazon ガウス過程と機械学習 2 ガウス分布 2.3 多変量ガウス分布 2.3.3 多変量ガウス分布の周辺化 ガウス過程と…

【統計学】同時確率

Index Index 参考 参考 統計学入門 東京大学出版 7 多次元の確率分布 7.1 同時確率分布と周辺確率分布 統計学入門 (基礎統計学Ⅰ)東京大学出版会Amazon パターン認識と機械学習 上 1 序論 1.2 確率論 パターン認識と機械学習 上作者:C.M. ビショップ丸善出版A…

【統計学】ベイズ回帰

Index Index ベイズ回帰 回帰分析からの導入 パラメータ空間 目的変数の分布 / 予測分布 / 条件付き確率分布 パラメータの分布 / 事前分布 パラメータの分布 / 事後分布 ベイズ回帰 事後分布の更新・推定 / 逐次ベイズ学習 逐次ベイズ学習 ガウス過程回帰 参…

【統計学】回帰分析 #アルゴリズム編 #02

Index Index 重回帰 参考 重回帰 回帰分析において、多変量の回帰分析. 回帰分析 #まとめ編 yhayato1320.hatenablog.com 単回帰における平均・分散を、多変量へ適応させる. 平均ベクトルと共分散行列 yhayato1320.hatenablog.com 参考 統計学入門 東京大学出…

【統計学】ベイズ統計学 #まとめ編

Index Index 統計学・確率論 ベイズの定理 ベイズ確率 機械学習 ベイズ識別 変分ベイズ法 参考 統計学・確率論 確率 #まとめ編 yhayato1320.hatenablog.com ベイズの定理 ベイズ統計学は、基本的にベイズの定理を前提にしている. ベイズの定理 yhayato1320.h…

【統計学】スパース回帰 / Sparse Regression

機械学習 #まとめ編 yhayato1320.hatenablog.com 回帰分析 #まとめ編 yhayato1320.hatenablog.com Index Index 参考 参考 Machine Learning A Probabilistic Perspective 13 Sparse linear models Machine Learning: A Probabilistic Perspective (Adaptive …

【統計学】最小二乗法 #まとめ編

Index Index 最小二乗法 最小二乗法 ある目的の関数を最小にする係数・パラメータを推定する方法の一つ. 回帰分析などで使用されることが多い. 線形単回帰の係数パラメータ推定 yhayato1320.hatenablog.com 線形重回帰の係数パラメータ推定 yhayato1320.hate…

【統計学】最尤法 / 最尤推定 / Maximum Likelihood Method

yhayato1320.hatenablog.com Index Index 点推定における最尤法 ベルヌーイ分布の例 最尤原理 / Principle Of Maximum Likelihood Method 尤度 / 尤度関数 最尤法 / 最尤推定 / Maximum Likelihood Method ベイズの観点 多項式フィッティングの例 / 尤度関数…

【統計学】モーメント

yhayato1320.hatenablog.com Index Index 参考 参考 統計学入門 5 確率変数 5.3 モーメントとモーメント母関数 統計学入門 (基礎統計学Ⅰ)東京大学出版会Amazon

【統計学】点推定 / Point Estimation

yhayato1320.hatenablog.com Index Index 点推定 / Point Estimation 真のパラメータとの誤差について 点推定の考え方 推定量と推定値 推定量の選択 点推定の手順 モーメント法 最尤法 参考 点推定 / Point Estimation 母集団分布の母数 (パラメータ、母平均…

【統計学】推定

yhayato1320.hatenablog.com Index Index 推定 例 推定の意義 推定量 様々な推定 点推定 / Point Estimation 区間推定 / Interval Estimation 密度推定 / Density Estimation 参考 推定 推定とは、標本を元にその標本が抽出された元の母集団分布の母数 (パラ…

【統計学】有限母集団

yhayato1320.hatenablog.com Index Index 有限母集団 参考 有限母集団 一般に、無限母集団を仮定する場合が多いが、この過程では、母集団の大きさ があまり大きくない場合や、 サンプル数 との割合 が大きい場合適当でない. このような場合は、 が有限である…

【統計学】標本抽出 / Sampling

yhayato1320.hatenablog.com Index Index 標本抽出 / Sampling 2 つの抽出方法 参考 標本抽出 / Sampling 母集団に属する要素をすべてについて観測値を得ることができない場合は、 この中から標本を抽出して母集団分布について推定する. 2 つの抽出方法 ここ…

【統計学】ベイズ確率

確率 #まとめ編 yhayato1320.hatenablog.com Index Index 古典的確率 ベイズ確率の導入 南極の万年雪の例 多項式フィッティングの例 / BIC 果物の箱の例 / ベイズの定理 多項式フィッティングの例 / 尤度関数 尤度関数 頻度主義の尤度 ベイズの尤度 コイント…

【統計学】中心極限定理

yhayato1320.hatenablog.com Index Index 中心極限定理 とは 参考 中心極限定理 とは 母数分布が何であっても、標本 の和 の確率分布は、 が大きいときには、正規分布と考えてよい. 参考 統計学入門 東京大学出版 8 大数の法則と中心極限定理 8.2 中心極限定…

【統計学】ノンパラメトリックベイズ / ベイズ推定

yhayato1320.hatenablog.com yhayato1320.hatenablog.com Index Index 参考 書籍 Web 参考 書籍 ノンパラメトリックベイズ 点過程と統計的機械学習の数理 ノンパラメトリックベイズ 点過程と統計的機械学習の数理 (機械学習プロフェッショナルシリーズ)作者:…

【統計学】カーネル密度推定 / KDE

yhayato1320.hatenablog.com yhayato1320.hatenablog.com Index Index カーネル密度推定 (Kernel Density Estimation / KDE) とは Edgeworth (エッジワース) 展開 参考 Web サイト カーネル密度推定 (Kernel Density Estimation / KDE) とは データのヒスト…

【統計学】ヒストグラム密度推定 / HDE

yhayato1320.hatenablog.com yhayato1320.hatenablog.com Index Index ヒストグラム密度推定 (Histogram Density Estimation / HDE) とは 参考 Web サイト ヒストグラム密度推定 (Histogram Density Estimation / HDE) とは データのヒストグラムの区間ごと…

【統計学】標本分布

yhayato1320.hatenablog.com Index Index 標本分布の役割 例 標本分布 標本和 参考 標本分布の役割 標本平均も標本分散も標本の集計値 (=統計量)であり、知りたい母集団のいろいろな 諸量、諸性質を反映し、それを知る手がかりを与えている. したがって、統…

【統計学】正規分布 / ガウス分布

Index Index 正規分布 / ガウス分布 ガウスとの関連 基本情報 密度関数 期待値と分散 期待値 分散 特徴・性質 標準正規分布 中心極限定理 識別関数 条件付きガウス分布 周辺ガウス分布 ベイズの定理 最尤推定 参考 正規分布 / ガウス分布 代表的な連続型の確…

【統計学】統計量

yhayato1320.hatenablog.com Index Index 母平均 統計量 統計量の標本分布 標本平均と標本分散 標本平均 標本分散 参考 母平均 母集団分布 を特定する代表的な母数 (Parameter) は、平均 (離散型) (連続型) であり、これを母平均 / Population Meam という. …

【統計学】相関係数

確率 #まとめ編 yhayato1320.hatenablog.com Index Index 相関関係 相関係数 積率相関係数 参考 相関関係 2 つの変数間の関係のことを、一般に相関関係と呼ぶが、 とくに統計学では、2 つの変数間の間に直接関係に近い傾向が見られる場合 「相関関係」がある…

【統計学】代表値とばらつき

yhayato1320.hatenablog.com Index Index 代表値とばらつき 代表値 平均 / Mean 中央値 / Median 最頻値 / Mode ばらつき 範囲 / Range 偏差 その他 参考 代表値とばらつき 分布を表現する数値として、分布の「代表値」と分布の「ばらつき」具合がある. 代表…

【統計学】母集団分布

yhayato1320.hatenablog.com Index Index 母集団分布 標本抽出 / Sampling 無限母集団 母数 パラメトリック ノンパラメトリック 参考 母集団分布 推計統計学 (統計的推測) において、知りたいのは、元の母集団についてである. 母集団はある分布を持っている…

【統計学】母集団と標本

yhayato1320.hatenablog.com Index Index 母集団と標本 我々の平均 確率の前提 参考 母集団と標本 我々が、これから知りたいと思う (データの) 集合全体を 母集団 (population) と呼ぶ. しかし、その集合のデータをすべて知るには困難な場合がある. その場合…