そして今日の分 メンバー syou6162,laughing,showyou 範囲 P274 5.7ベイズネットワーク〜P286

メンバー laughing,wilson,showyou.今日はみなさん忙しいので少なめ。 範囲 P270「5.5.6たたみ込みニューラルネットワーク」〜P280「5.6混合密度ネットワーク」 ログ P270末尾.重みパラメータを「カーネル」とする画像の画像輝度のたたみ込み計算と等価＜こ…

先週分のログ。私は参加していない。 メンバー syou6162,wilson,a.u.,Lian,laughing 範囲 P252 5.4.2〜P261 5.5.1 回帰の問題だから恒等写像。Eをynで微分している 5.83式 Eをwで微分している だから∇。∇∇1/2Σ(y-t)^2-∇Σ(y-t)∇(y-t) =∇Σ(y-t)∇y =Σ∇(y-t)∇y +…

そして今日の分 メンバー wilson,a.u.,laughing,showyou 範囲 P261 5.5.2〜5.5.5

メンバー syou6162,wilson,_a_u,showyou 場所 P240「5.2.3 勾配情報の利用」〜P252「5.4.1 対角近似」 ログ tex記法やるとなんかずれるので後で修正予定。 勾配情報を使うことで必要な計算量がO(W^3)からO(W^2)に減らすことができる、らしい 5.42がよく分か…

メンバー syou6162,.a.u,laughing,wilson,showyou 範囲 P225「5.ニューラルネットワーク」〜P240「5.2.2 局所二次近似」 ログ NN 基底関数をデータに適用させる必要？ ロジステック回帰を多層にしたもの 比較がよく分からない 一回作ってしまえば早い SVMは…

メンバー .a.u,laughing,wilson,showyou 範囲 P213「4.3.7 反復再重み付け最小二乗」〜4章終わりまで ログ P213 f(z)は既知？ テイラー展開 図４．１４ 点線派(本によって点線/実践違う模様) ラプラス近似の限界 鞍点ってなんでしょう？ 書いて説明できない…

メンバー syou6162,Lian,laughing,wilson,showyou 範囲 P206「4.3.3 反復再重み付け最小二乗」〜P213「4.3.6 正準連結関数」 ログ 誤差関数は凸関数 逆だ 英語だと凹になってる http://ibisforest.org/index.php?PRML%2Ferrata1 # # P.206 [P.207], L.6：「…

メンバー syou6162,Lian,laughing,wilson,showyou 範囲 P192「4.7 線形判別モデル」〜P205「4.3.2ロジスティック回帰」 ログ P192 1,-1を返す パーセプロトン基準 4.54式 http://en.wikipedia.org/wiki/Stochastic_gradient_descent In stochastic (or "on-l…

メンバー Lian,laughing,wilson,showyou 範囲 P177「4.1 線形判別モデル」〜P192「4.1.7パーセプトロンアルゴリズム」 ログ 活性化関数 逆関数が連結関数 線形識別モデル D次元入力空間に対して、決定面がD-1次元で定義される ４．８ 掛け算だけになる 最小…

メンバー syou6162,_a_u,showyou 範囲 P169「3.5.3 有効パラメータ数」〜P187「4.1.4フィッシャー判別分析」 感想 3章はやっぱり理解できてない。一方で4章は割と聞き覚えのある単語があって理解しやすかった。

メンバー syou6162,Lian,lauging,wilsonian,showyou 場所 P160-P168,3.4章〜3.5.2章まで コメント 今回はベイズモデル比較からエビデンス関数の近似化まで。 (あとで)

メンバー syou6162,Lian,lauging,wilsonian,showyou 場所 P152-P162,3.3章〜3.4章途中まで コメント 前回は最尤推定を使って線形回帰を行っていたが、今回はベイズを使って推定を行った。図3.7などは何をやってるかわかるけど、一般化したときのq≠2のときど…

メンバー syou6162,Lian,_a_u,showyou 場所 P135-P151,３章初め〜3.2章まで コメント 今回全体の話、線形回帰モデルにおいて、うまく収束させる方法ってことでいいのかなぁ。 んで、途中みんなで気になったのは、λが十分大きいとwj=0になるとこが出てくるっ…

今回で２章終わり。次から３章。個人的には後半の方が知ってそうな感じ。 一方 メンバー syou6162,willson,Lian,_a_u,showyou 場所 P107-P124,混合ガウス分布〜ノンパラメトリック法のK近傍法 コメント 2.3.9 混合ガウス分布 EMアルゴリズムについて調べる。…

メンバー syou6162,willson,Lian,showyou 場所 P95-P107,ガウス分布に対するベイズ推定〜周期分布 コメント 後ほど。 Gam(λ|aN,bN)のとこと周期分布のとこあたりにコメント。

メンバー @syou6162,@wilsonnian ページ P88〜P96 内容 ガウス変数に対する最尤推定とか、逐次推定とかベイズ推定の話。 半分寝かかっててちゃんと理解できてないので式の計算練習はするとして。 Robbins-Monroアルゴリズムでθ*=0とするとこで結構はまってた…

メンバー syou6162,wilsonian,Lian,_a_u 範囲 P42-P44 1.5.4-1.5.5 内容 どんなやり方でクラス分類するかとか、損失を最小にする関数の求め方とか。 正直、頭が他の方にいっちゃっててなかなか辛いですね・・ただ乗り越えて行きたいとこです。ガンのところの…

今まで正規分布とかさっぱりだったけど、勉強会のおかげで理解できてきた。やっぱり統計とか自分の知らない範囲は独学じゃなくて勉強してる人と話すのがいいんだなぁ。

メンバー syou6162,wilsonian,laughing12,_a_u 範囲 1.2.4~1.2.5章、P31まで。 内容 #訂正。前回の1.3章は1.2.3章の間違い ガウス分布とその尤度推定、さらにそれを使った曲線フィッティングとさらにベイズ的なフィッティング。 感想 数式にベクトルが絡んで…

メンバー syou6162,wilsonian,Lian,laughing12 範囲 1.2~1.3章、P24まで。 内容 確率論の基本的な話。離散確率変数とか連続確率変数とか。 今回は確率論の序論の話・・なんだけども、ぜんぜん知識がないためなかなか進まず。。これは例題でも解いていろいろ…

メンバー syou6162,wilsonian,Lian,laughing12 範囲 1~1.1章、P11まで。 内容 学習方法の分類だとか、実際にsin(2πx)のグラフに近づける方法とか 最初だけあって、自己紹介など割とゆっくりめ。今後どんどん継続させて行きたいですね。 肝心の本の内容ですが…