理論から理解する機械学習 feat.PRML #1

Feb

8
理論から理解する機械学習 feat.PRML #1
【全14回】 PRML(上)を参考書に、機械学習とパターン認識の様々な理論や手法を紐解く

Organizing : Shinonome, inc.

Hashtag ：#dev_data

Registration info	参加枠 Free Standard (Lottery Finished) 59/60

Description

講座の概要

「パターン認識と機械学習 (PRML)」（丸善出版 C.M.ビショップ）を参考にしながら、線形回帰や線形判別モデルなど機械学習の基礎的な項目を学習します。

これまでPlayGroundのメンバーで開催してきた講座を、このたび一般公開することにしました。
PlayGroundについて

機械学習に興味があり時間的にも都合の良い方、お気軽にご参加いただければと思います！

対象者

学生、社会人問わずPRMLをこれから始める人、挫折した経験のある人
（cannpassからの参加者以外にPlayGroundに所属する学生も参加します。）

今回の内容

	内容
1. 回帰(1)	3章導入 3.1 線形基底関数モデル(最尤推定と最小二乗法、逐次学習、正則化最小二乗法)

講座計画

	内容
1. 回帰(1)	3章導入 3.1 線形基底関数モデル(最尤推定と最小二乗法、逐次学習、正則化最小二乗法)
2. 回帰(2)	3.1 線形基底関数モデル(出力が多次元の場合) 3.3 ベイズ線形回帰(パラメータの分布、予測分布)
3. 回帰(ベイズ)(1)	3.3 ベイズ線形回帰(等価カーネル) 3.4 ベイズモデル比較
4. 回帰(ベイズ)(2)	3.5 エビデンス近似(エビデンス関数の評価、エビデンス関数の最大化、有効パラメータ数)
5. 識別関数による分類(1)	4章導入 4.1 識別関数(2クラス、多クラス、分類における最小二乗、フィッシャーの線形判別)
6. 識別関数による分類(2)	4.1 識別関数(最小二乗との関連、多クラスにおけるフィッシャーの判別、パーセプトロンアルゴリズム)
7. 生成モデルによる分類	4.2 確率的生成モデル(連続値入力、最尤解、離散特徴、指数分布族) 4.3 確率的識別モデル(固定基底関数)
8. 識別モデルによる分類	4.3 確率的識別モデル(ロジスティック回帰、反復重み付け最小二乗、多クラスロジスティック回帰、プロビット回帰、正準連結関数)
9. 識別モデルによる分類(ベイズ)	4.4 ラプラス近似(モデルの比較とBIC) 4.5 ベイズロジスティック回帰(ラプラス近似、予測分布)
10. ニューラルネットワークのモデル	5章導入 5.1 フィードフォワードネットワーク関数(重み空間対称性)
11. ニューラルネットワークの訓練	5.2 ネットワーク訓練(パラメータ最適化、局所二次近似、勾配情報の利用、勾配降下最適化)
12. ニューラルネットワークの訓練と正則化	5.3 誤差逆伝播(誤差関数微分の評価、単純な例、逆伝播の効率、ヤコビ行列) 5.5 ニューラルネットワークの正則化(無矛盾なガウス分布)
13. ニューラルネットワークの正規化	5.5 ニューラルネットワークの正則化(早期終了、不変性、接線伝播法、変換されたデータを用いた訓練、たたみ込みニューラルネットワーク、ソフト重み共有)
14. ニューラルネットワーク(ベイズ)	5.6 混合密度ネットワーク 5.7 ベイズニューラルネットワーク(パラメータの事後分布、超パラメータの最適化、クラス分類のためのベイズニューラルネットワーク)