GAPLS, GASVR でモデルの推定性能がよくなるように説明変数の選択をしよう![Pythonコードあり]

シェアする

遺伝的アルゴリズム (Genetic Algorithm, GA) を使って説明変数を選択する話です。2つの手法である

  • Genetic Algorithm-based Partial Least Squares (GAPLS)
  • Genetic Algorithm-based Support Vector Regression (GASVR)

はそれぞれ、線形の回帰分析手法である PLS (Partial Least Squares)

部分的最小二乗回帰(Partial Least Squares Regression, PLS)~回帰分析は最初にこれ!~
部分的最小二乗回帰 (Partial Least Squares Regression, PLS) について、pdfとパワーポイントの資料を...

や、非線形の回帰分析手法である SVR (Support Vector Regression)

サポートベクター回帰(Support Vector Regression, SVR)~サンプル数10000以下ならこれを使うべし!~
サポートベクター回帰(Support Vector Regression, SVR)について、pdfとパワーポイントの資料を作成しました。デ...

で構築されるモデルの推定性能がよくなるように、説明変数を選択する手法です。これらの GAPLS と GASVR について説明するスライドを作りました。pdfもスライドも自由にご利用ください。

pdfファイルはこちらから、パワーポイント(pptx)ファイルはこちらからダウンロードできます。

興味のある方はぜひ参考にしていただき、どこかで使いたい方は遠慮なくご利用ください。

また GAPLS や GASVR のデモンストレーションをするコードも公開します。こちらのGithubからご利用ください。

https://github.com/hkaneko1985/gapls_gasvr

GAPLS, GASVR とは?

  • GAPLS
    • 遺伝的アルゴリズム (GA) と PLS とを組み合わせた変数選択手法
    • PLS でクロスバリデーションを行ったときの r2 が大きくなるように変数が選択される
  • GASVR
    • GA と SVR とを組み合わせた変数選択手法
    • SVR でクロスバリデーションを行ったときの r2 が大きくなるように変数が選択される
    • 染色体にSVRのハイパーパラメータも入れることで、高速化している

スライドのタイトル

  • GAPLS, GASVR とは?
  • PLS, SVR
  • 遺伝的アルゴリズム (GA) の流れ
  • GAPLS 個体の表現方法
  • GAPLS 適合度
  • GASVR 個体の表現方法 1/2
  • GASVR 個体の表現方法 2/2
  • GASVR 適合度
  • どうやって実際にGAPLS, GASVRを実行するか?
  • 注意点

以上です。

質問やコメントなどありましたら、twitter, facebook, メールなどでご連絡いただけるとうれしいです。

シェアする

フォローする