次元削減の勉強

次元削減で何か面白い文献はないかなぁといろいろと探していたら面白いものを見つけた。
http://d.hatena.ne.jp/audioswitch/20081004/1223138496
経由で見つけたIsomapというアルゴリズムだけど、何が面白いって、まずgoogle先生に尋ねると
isomap - Google 検索
本家のサイトよりもブログが上位に来るとかいう(ry。
http://d.hatena.ne.jp/audioswitch/20081004/1223138496
で概要+アルゴリズムの詳しい説明は全てカバーされているので、実装まですぐたどり着けそう。


それはともかく、ユークリッド距離ではなく、測地線距離に着目しているというところが非常に直感的で面白い。
SVMもそうだけど、こういう直感で違和感のない手法というのは僕は非常に好きである。
SVMならほぼ真ん中をぶったぎる、Isomapなら高次元空間での近いもの同士の関係を保持したまま低次元空間に射影する、みたいな。


Isomapに関してもう少し述べると、これはノイズに非常に弱いことが容易に想像できる。
ノイズがショートカットみたいになって、最短経路がおかしくなってしまうからだ。
この問題に関してもいろいろと改良がされているみたいなので、もう少し調べてみる。


今日のグループゼミにて、この論文を紹介したところ意外に評判が良かったので、来週の中間発表の今後の展望みたいなところで、ちょっと紹介してみましょうかね。