PRML勉強会
- メンバー
- syou6162,Lian,laughing,wilson,showyou
- 範囲
- P192「4.7 線形判別モデル」〜P205「4.3.2ロジスティック回帰」
ログ
- P192
- 1,-1を返す
- パーセプロトン基準
- 4.54式
- http://en.wikipedia.org/wiki/Stochastic_gradient_descent
- In stochastic (or "on-line") gradient descent, the true gradient is approximated by the gradient of the cost function only evaluated on a single training example.
- sequential
- (4.55)がちがう疑惑
- nが不思議
- 収束定理
- 線形分離が可能な場合
- パーセプトロンの限界>
- 4.8の写真の回路がカオス
- p43
- 42を見れば(4.57)がわかる
- スカッティング関数
- (4.62)でなんでシグモイドかわかった
- 共分散行列が同じと仮定
- 4.64→4.65
- 式でも線形を確認できる
- 重み付き平均
- 離散特徴
- feature
- u_{ki}が不明
- IRLS
- 4.3.1三段階の変換をほどこす?
- xにおいては非線形な決定境界となる!
- http://ibisforest.org/index.php?Gauss%E3%82%AB%E3%83%BC%E3%83%8D%E3%83%AB rbfカーネル
- (M-1)^2 + M
- {(M-1)^2}/2 + M
- 次元が大きい→LRが有利
- 負の対数尤度で誤算関数→交差エントロピー
- 4.91
- 日本語でおk
- http://research.microsoft.com/~cmbishop/PRML/prmlfigs-pdf/Figure10.13b.pdf 無限に存在する図
- クラス間分散/ クラス内分散 →これを最大
- ↑フィッシャー
- 事前分布を持っとけばうまくいく
- 最尤解が・・の件
- へヴィサイドステップ関数
感想
頭が止まってたので、後で式展開する