線形と非線形SVM,機械学習におけるノルム規則化の(一)L 0,L 1とL 2ノルム
952 ワード
SVMの応用分野は広く、分類、回帰、密度推定、クラスタリングなどがありますが、最も成功したのは分類ということだと思います.
問題の分類に使用する場合、SVMが選択できるパラメータは多くなく、ペナルティパラメータC、コア関数およびそのパラメータ選択である.1つのアプリケーションでは、線形コアを選択しますか、多項式コアを選択しますか、それともガウスコアを選択しますか.やはりいくつかのルールがあります.
実際の応用では,特徴次元が非常に高い場合が多い.OCRの漢字認識のように,8方向勾配ヒストグラム特徴を抽出し,正規化された文字を8*8のメッシュに等分し,各メッシュは長さ8の方向ヒストグラムを計算し,特徴次元数は8*8*8=512次元である.このような高次元空間では,2つの文字クラスを分離し,線形SVMを用いることは容易であり,もちろん他のコアでも分離できる.なぜ線形核を選択するのかというと、線形核には2つの非常に大きな利点があるからです.予測関数は単純f(x)=w’*x+bであり,分類速度は速い.カテゴリが多い問題では,分類速度は確かに線形分類器のwが事前に計算できることを考慮する必要があるが,非線形分類器は高次元空間でベクトル数が非常に多く,分類速度は線形分類器よりはるかに低い.2.線形SVMの普及性は保証され、ガウスコアのような学習が可能ではない.さらに例を挙げると、顔の性別認識、すなわち、顔画像が与えられたことに基づいて、その人が男なのか女なのかを判断する.3700多次元の特徴を抽出し,線形SVMを用いて試験セット上で96%の識別正解率を達成した.従って,線形SVMは実用化が最も多く,実用価値が最も大きい.
機械学習における範数規則化の(一)L 0,L 1とL 2範数
http://blog.csdn.net/zouxy09/article/details/24971995/
問題の分類に使用する場合、SVMが選択できるパラメータは多くなく、ペナルティパラメータC、コア関数およびそのパラメータ選択である.1つのアプリケーションでは、線形コアを選択しますか、多項式コアを選択しますか、それともガウスコアを選択しますか.やはりいくつかのルールがあります.
実際の応用では,特徴次元が非常に高い場合が多い.OCRの漢字認識のように,8方向勾配ヒストグラム特徴を抽出し,正規化された文字を8*8のメッシュに等分し,各メッシュは長さ8の方向ヒストグラムを計算し,特徴次元数は8*8*8=512次元である.このような高次元空間では,2つの文字クラスを分離し,線形SVMを用いることは容易であり,もちろん他のコアでも分離できる.なぜ線形核を選択するのかというと、線形核には2つの非常に大きな利点があるからです.予測関数は単純f(x)=w’*x+bであり,分類速度は速い.カテゴリが多い問題では,分類速度は確かに線形分類器のwが事前に計算できることを考慮する必要があるが,非線形分類器は高次元空間でベクトル数が非常に多く,分類速度は線形分類器よりはるかに低い.2.線形SVMの普及性は保証され、ガウスコアのような学習が可能ではない.さらに例を挙げると、顔の性別認識、すなわち、顔画像が与えられたことに基づいて、その人が男なのか女なのかを判断する.3700多次元の特徴を抽出し,線形SVMを用いて試験セット上で96%の識別正解率を達成した.従って,線形SVMは実用化が最も多く,実用価値が最も大きい.
， ， ， 。 ， SVM ， SVM ， .
機械学習における範数規則化の(一)L 0,L 1とL 2範数
http://blog.csdn.net/zouxy09/article/details/24971995/