PRML勉強会 #10(8.1-8.3)
http://atnd.org/events/2340 に参加してた。
ざっと書くとこの部分では、確率モデルに対してノードとリンクからなるグラフィカルモデルを割り当てて解析を楽にしましょうという話をしている。
グラフは「全確率変数上の同時分布が、一部の変数のみに依存する因子の席としてどのように分解できるか」という情報を表現している。例えばp(a,b,c)=p(c|b,a)p(b|a)p(a)という式は図8.1の形で表現ができる。
グラフのリンクが特定の方向性を持ち矢印で描かれるモデルをベイジアンネットワークと呼び、リンクが方向性を持たないモデルをマルコフ確率場と呼んでいる。
グラフィカルモデルでは同時分布の条件付き独立性が解析的操作なしで直接グラフから読むことができる。ベイジアンネットワークではhead-to-headなノードを観測した場合独立性が損なわれるが、マルコフ確率場ではそれが発生しない。
生成モデル：後で書く。図8.8
ところで勉強会みんなで悩んでたのだけど、有向分解のところのフィルタってなんぞやという話をしていた。
しかしやはりこの本一人で読むもんじゃないよな・・
気になった単語(今回の内容と直接関係ないけど)
- LDA:過学習が起きにくいのでは？とのこと。ってこれlinear discriminant analysisとlatent Dirichlet allocationどっちだったんだろ・・
