SVM実践1

研究 SVM

SVMの実装まではまだ距離はあるので、少し方向転換して、現在使っているSVMのパッケージLIBSVMについて調べていく。
理論・実装の部分も引き続き調べていく。


LIBSVMはSVMで有名な実装の1つ。
後は、SVMLightとかTinySVMとか？？


LIBSVM↓
LIBSVM -- A Library for Support Vector Machines


英語のマニュアルを読めば使えるようになるわけですが、英語はちょっとという人は
TAKASHI ISHIDA HomePage - LibSVM


ソースをとってきてmakeすれば終了。
実行ファイルができるので、あとはそれを使うだけ。
makeできない人のためにwindows用のコンパイル済みのバイナリファイルも入っていて至れりつくせり。


オプションでいろいろ弄れますが、デフォルトは非線形ソフトマージンSVMのようです。
RBFカーネルでコストパラメータCが1。
まだちゃんと調べていないけど、コストパラメータはレギュラリゼーションパラメータのことでしょうね。
つまりラグランジュ乗数の上限値。


カーネルを線形カーネル、C->∞とすれば、線形のハードマージンSVMになるはずです。


現在分かっていないのは、nu-SVMとかいうやつは何者か、ということですね。

ぼちぼち自分的使い方もまとめていく。


追記
ここもなかなか秀逸
k.kinukawaの日記