IBISMLに行けなくて悔し(ry その2
というわけでその2。昨日は話題が興味あったものについて触れたので、今日は純粋に発表資料として良いなあ、と思ったものをメモしておく。こういう資料を作れるようになりたい。
2次損失サポートベクトルマシンの非線形正則化パスに関する一考察 烏山昌幸・竹内一郎(名工大)
スライド4,5枚目のSVMの説明がわかり易い。というかここを見るだけでSVMが何なのかすぐわかる気がする。実はhinge損失(マージンが1から離れるほど損失が大きい)をL2正則化付きで最小化してるだけ、という。
本題は損失関数が2次だった場合の正則化パスの話。正則化パスというのを不勉強ながら、このスライドで初めて知った。正則化項の係数を変えたときに最適化問題を解き直さなくてもパラメータαが求まる、というものらしい。とりあえず損失関数は大抵1次なので、普通の正則化パスを抑えておけばOKかもしれない。↓を読んで勉強しよう。。
階層Pitman-Yorトピックモデル 佐藤一誠・中川裕志(東大)
なんかよく分からないので避けていたPitman-Yorトピックモデル。CRP(中華飯店過程)を使って説明している。LDAは新しい客は新しいテーブルに着かないといけないけど、PYTMは既にあるテーブルに付いてもOKという感じみたい。良く調べてないので間違ってるかも。
次はICMLとかCOLTとかをチェックしようかな。