Locally-Weighted Partial Least Squares (LWPLS, 局所PLS) ~あのPLSが非線形性に対応!~ [Python・MATLABコードあり]

シェアする

Partial Least Squares (PLS) を変数間の非線形性に対応させた Locally-Weighted Partial Least Squares (LWPLS, 局所PLS) について、pdfとパワーポイントの資料を作成しました。データセットが与えられたときに、LWPLS で何ができるか、LWPLS の特徴、どのように計算するかが説明されています。pdfもスライドも自由にご利用ください。

pdfファイルはこちらから、パワーポイント(pptx)ファイルはこちらからダウンロードできます。

興味のある方はぜひ参考にしていただき、どこかで使いたい方は遠慮なくご利用ください。


またLWPLSやLWPLSのハイパーパラメータをクロスバリデーションで最適化するコードも公開します。デモンストレーション付きです。こちらのGithubからご利用ください。

https://github.com/hkaneko1985/lwpls

LWPLS とは?

  • 非線形PLSの一つ。PLS (Partial Least Squares) の詳細はこちら
部分的最小二乗回帰(Partial Least Squares Regression, PLS)~回帰分析は最初にこれ!~
部分的最小二乗回帰 (Partial Least Squares Regression, PLS) について、pdfとパワーポイントの資料を...
  • Just-In-Time (JIT) モデリングの一つ
  • 目的変数の値を推定したいサンプルごとにモデリングする
  • 目的変数の値を推定したいサンプルに近いトレーニングデータほど大きい重みを付けてモデリングする
  • 時系列データなど、説明変数と目的変数のデータセットのサンプルが増えていく場合に特に効果を発揮する

スライドのタイトル

  • LWPLSとは?
  • LWPLS のイメージ
  • PLS の復習 1/2
  • PLS の復習 2/2
  • LWPLS の前提
  • トレーニングデータとクエリとの類似度行列 U
  • トレーニングデータの平均化
  • 1成分目の計算
  • 2成分目の計算へ、そして繰り返し
  • クエリの推定をする
  • クエリの平均化
  • 1成分目の計算
  • 2成分目の計算へ、そして繰り返し
  • ハイパーパラメータをどうするか?
  • どうやって実際にLWPLSを実行するか?

以上です。

質問やコメントなどありましたら、twitter, facebook, メールなどでご連絡いただけるとうれしいです。

シェアする

フォローする