サポートベクターマシン(Support Vector Machine, SVM)について、pdfとパワーポイントの資料を作成しました。データセットが与えられたときに、SVMで何ができるか、どのようにSVMを計算するかが説明されています。pdfもスライドも自由にご利用ください。

pdfファイルはこちらから、パワーポイント(pptx)ファイルはこちらからダウンロードできます。

興味のある方はぜひ参考にしていただき、どこかで使いたい方は遠慮なくご利用ください。

SVMの概要

• 線形判別関数によるクラス分類
• 2つのクラス (1のクラス・-1のクラス) のどちらに属するか決定
• 予測能力の高いモデルを作成可能
• カーネルトリックにより非線形の判別モデルに

スライドのタイトル

• サポートベクターマシン (SVM) とは？
• 線形判別関数
• SVMの基本的な考え方
• サポートベクター
• マージンの最大化
• きれいに分離できないときは？
• ２つの項を一緒に最小化
• 重み w を求める
• 偏微分して0
• 二次計画問題
• 線形判別関数を求める
• 非線形SVMへの拡張
• カーネルトリック
• カーネル関数の例
• 最終的なSVMを作る前に最適化するパラメータ
• グリッドサーチ＋クロスバリデーション

参考資料

• C.M. ビショップ，パターン認識と機械学習 下, 丸善出版 (2012)

SVMのPythonのプログラムは、こちらの課題17をご参照ください。

以上です。

質問・コメントがありましたら、twitter・facebook・メールなどを通して教えていただけるとうれしいです。