統計解析特論-2016

授業の工夫

学生が円滑に学習できるように，講義で配布する資料などは，すべてウェブページ上に公開している．また自主学習を促すために， 出題したレポート課題を一週間程度で採点し，返却している．講義内容に関しては，特に数理的な側面に重点を置いている． 従来の理学的なパラダイムとは異なる，情報科学特有の思考法を明確に示すことを目標としている．

授業内容

1. 確率論の復習：確率，条件付き確率，期待値，分散など基礎事項
2. 線形回帰：最小２乗法，正則化，交差検証法
3. カーネル法：カーネル回帰分析，再生核ヒルベルト空間
4. 判別分析：ベイズ規則，バイアスと分散のトレードオフ
5. サポートベクトルマシン：アルゴリズム，カーネル SVM，多値判別

教科書

教科書は指定しない．適宜プリントを配布する．

参考文献

Mohri, et al., Foundations of Machine Learning, The MIT Press, 2012.

金森敬文 「統計的学習理論」講談社，2015

課題

• レポート１
• レポート２
• レポート３

試験予想問題

試験予想問題

スケジュール

回[Session]	講義内容[Contents]
1	ガイダンス，確率・統計の復習
2	線形回帰：最小２乗法
3	最小２乗法の性質，交差検証法
4	高次元モデルと正則化
5	カーネル回帰分析
6	正定値カーネル
7	再生核ヒルベルト空間
8	判別分析
9	ベイズ規則
10	予測誤差の評価・バイアスと分散のトレードオフ
11	代替損失
12	サポートベクトルマシン(SVM)：アルゴリズム
13	サポートベクトルマシン(SVM)：統計的性質
14	カーネルSVM，多値SVM
15	ECOCによる多値判別

講義ノート

講義資料 1

• 1. ガイダンス，確率・統計の復習

講義資料 2

• 2. 線形回帰：最小２乗法
• 3. 最小２乗法の性質，交差検証法
• 4. 高次元モデルと正則化

講義資料 3

• 5. カーネル回帰分析
• 6. 正定値カーネル
• 7. 再生核ヒルベルト空間

講義資料 4

• 8. 判別分析
• 9. ベイズ規則
• 10. 予測誤差の評価・バイアスと分散のトレードオフ
• 11. 代替損失

講義資料 5

• 12. サポートベクトルマシン(SVM)：アルゴリズム
• 13. サポートベクトルマシン(SVM)：統計的性質
• 14. カーネル SVM，多値 SVM
• 15. ECOC による多値判別

成績評価

期末試験とレポートにより総合的に評価する。

---