ガウス過程による教師なし学習である Gaussian Process Latent Variable Model (GPLVM) について、pdfとパワーポイントの資料を作成しました。infinite Warped Mixture Model (iWMM) や Gaussian Process Dynamical Model (GPDM) についても触れています。

GPLVM により、主成分分析 (Principal Component Analysis, PCA) の主成分や独立成分分析 (Independent Component Analysis, ICA) の独立成分のような、潜在変数を計算できます。さらに、PCA や ICA は線形の手法ですが、GPLVM は非線形の手法です。pdfもスライドも自由にご利用ください。

pdfファイルはこちらから、パワーポイント(pptx)ファイルはこちらからダウンロードできます。

興味のある方はぜひ参考にしていただき、どこかで使いたい方は遠慮なくご利用ください。

GMR とは？

• 各特徴量 x が、潜在変数 z からのガウス過程回帰により生成されると
  仮定し、潜在変数を計算する
• カーネル関数により非線形の潜在変数を計算可能
• z のカーネル関数であり、x のカーネル関数を計算する
  カーネル主成分分析とは異なる
• 主成分分析 + カーネル関数 + ガウス分布
• 次元削減手法の一つ
• 事前に潜在変数の数を決める
• 潜在変数の事前分布により、様々な潜在変数を計算可能

スライドのタイトル

• ガウス過程による潜在変数モデルとは？
• GPR と GPLVM
• GPR で導いたこと
• GPLVM でもそのまま使います！
• 全サンプルの確率
• z の事前分布 p(z)
• GPLVMではX,Zの同時確率を最大化
• GPLVM などを実行するためのコード

参考文献

• N. Lawrence, Gaussian Process Latent Variable Models for Visualisation of High Dimensional Data, NIPS Proceedings, 2003. https://papers.nips.cc/paper/2540-gaussian-process-latent-variable-models-for-visualisation-of-high-dimensional-data
• 持橋 大地, 大羽 成征,ガウス過程と機械学習, 講談社, 2019
• T. Iwata, D. Duvenaud, Z. Ghahramani, Warped Mixtures for Nonparametric Cluster Shapes, arXiv:1206.1846v2, https://arxiv.org/abs/1206.1846
• J. M. Wang, D. J. Fleet, A. Hertzmann, Gaussian Process Dynamical Models for Human Motion, IEEE Transactions on Pattern Recognition and Machine Intelligence, 30, 283-298, 2008

以上です。

質問やコメントなどありましたら、twitter, facebook, メールなどでご連絡いただけるとうれしいです。