サポートベクターマシン(Support Vector Machine, SVM)~優秀な(非線形)判別関数~

シェアする

 サポートベクターマシン(Support Vector Machine, SVM)について、pdfとパワーポイントの資料を作成しました。データセットが与えられたときに、SVMで何ができるか、どのようにSVMを計算するかが説明されています。pdfもスライドも自由にご利用ください

pdfファイルはこちらから、パワーポイント(pptx)ファイルはこちらからダウンロードできます。

興味のある方はぜひ参考にしていただき、どこかで使いたい方は遠慮なくご利用ください。

SVMの概要

  • 線形判別関数によるクラス分類
  • 2つのクラス (1のクラス・-1のクラス) のどちらに属するか決定
  • 予測能力の高いモデルを作成可能
  • カーネルトリックにより非線形の判別モデルに

スライドのタイトル

  • サポートベクターマシン (SVM) とは?
  • 線形判別関数
  • SVMの基本的な考え方
  • サポートベクター
  • マージンの最大化
  • きれいに分離できないときは?
  • 2つの項を一緒に最小化
  • 重み w を求める
  • 偏微分して0
  • 二次計画問題
  • 線形判別関数を求める
  • 非線形SVMへの拡張
  • カーネルトリック
  • カーネル関数の例
  • 最終的なSVMを作る前に最適化するパラメータ
  • グリッドサーチ+クロスバリデーション

参考資料

  • C.M. ビショップ,パターン認識と機械学習 下, 丸善出版 (2012)

SVMのPythonのプログラムは、こちらの課題17をご参照ください。

以上です。

質問・コメントがありましたら、twitter・facebook・メールなどを通して教えていただけるとうれしいです。

シェアする

フォローする