遺伝的アルゴリズム (Genetic Algorithm, GA) を使って説明変数を選択する話です。２つの手法である
- Genetic Algorithm-based Partial Least Squares (GAPLS)
- Genetic Algorithm-based Support Vector Regression (GASVR)
はそれぞれ、線形の回帰分析手法である PLS (Partial Least Squares)
部分的最小二乗回帰(Partial Least Squares Regression, PLS)～回帰分析は最初にこれ！～
部分的最小二乗回帰 (Partial Least Squares Regression, PLS) について、pdfとパワーポイントの資料を作成しました。データセットが与えられたときに、PLSで何ができるか、どのようにPLSを計算するかが説...
datachemeng.com
2017.06.18
や、非線形の回帰分析手法である SVR (Support Vector Regression)
サポートベクター回帰(Support Vector Regression, SVR)～サンプル数10000以下ならこれを使うべし！～
サポートベクター回帰(Support Vector Regression, SVR)について、pdfとパワーポイントの資料を作成しました。データセットが与えられたときに、SVRで何ができるか、SVRの特徴、どのように計算するかが説明されてい...
datachemeng.com
2017.07.01
で構築されるモデルの推定性能がよくなるように、説明変数を選択する手法です。これらの GAPLS と GASVR について説明するスライドを作りました。pdfもスライドも自由にご利用ください。
pdfファイルはこちらから、パワーポイント(pptx)ファイルはこちらからダウンロードできます。
興味のある方はぜひ参考にしていただき、どこかで使いたい方は遠慮なくご利用ください。
また GAPLS や GASVR のデモンストレーションをするコードも公開します。こちらのGithubからご利用ください。
GitHub - hkaneko1985/gapls_gasvr: Demonstration of Genetic Algorithm-based Partial Least Squares (GAPLS) and Genetic Algorithm-based Support Vector Regression (GASVR)
Demonstration of Genetic Algorithm-based Partial Least Squares (GAPLS) and Genetic Algorithm-based Support Vector Regres...
github.com
GAPLS, GASVR とは？
- GAPLS
- 遺伝的アルゴリズム (GA) と PLS とを組み合わせた変数選択手法
- PLS でクロスバリデーションを行ったときの r2 が大きくなるように変数が選択される
- GASVR
- GA と SVR とを組み合わせた変数選択手法
- SVR でクロスバリデーションを行ったときの r2 が大きくなるように変数が選択される
- 染色体にSVRのハイパーパラメータも入れることで、高速化している
スライドのタイトル
- GAPLS, GASVR とは？
- PLS, SVR
- 遺伝的アルゴリズム (GA) の流れ
- GAPLS 個体の表現方法
- GAPLS 適合度
- GASVR 個体の表現方法 1/2
- GASVR 個体の表現方法 2/2
- GASVR 適合度
- どうやって実際にGAPLS, GASVRを実行するか？
- 注意点
以上です。
質問やコメントなどありましたら、twitter, facebook, メールなどでご連絡いただけるとうれしいです。
