分子設計・材料設計・プロセス設計・プロセス管理において、分子記述子・合成条件・プロセス条件・プロセス変数 x と分子や材料の物性・活性 y との間で数理モデル y = f(x) を構築し、構築されたモデルを用いて x から y を予測したり、y から x を設計したりします。数理モデルを構築するとき、例えば一つ一つのサンプルに対して複数回 y の評価をするときなど、x が同じで y のデータが複数あるようなデータセットがあります (y の変数としては一つでも、サンプル一つに対して y の値が複数個あるケースです)。ある合成条件でサンプルを作成し、その評価を (サンプルをいくつかに分けて)、例えば 3回評価する場合などですね。このように、x が同じで y が異なるデータが複数あるとき、それらデータを単純に個別のサンプルとして扱ってしまうと、例えば材料は同じで y が異なる２つのサンプルが、トレーニングデータとテストデータに分かれて存在する、といった状況が起きてしまいます。ある材料で構築されたモデルを用いて、同じ材料を予測することで、新たな材料の予測性能を評価することはできませんので、誤った結論を導いてしまいます。
一つの材料に対して、y が異なるデータの平均値を計算して、一つのサンプルとして扱う方法もあります。これはこれで、全く問題ありません。一方で、例えばこちらの方法でアンサンブル学習をすることもできます。
サブデータセットを作成するとき、サンプルごとに x に対して y のデータをランダムに一つ選択します。なおサンプルにおいて y のデータが (たまたま一回しか実験していなく) １つしかないときは、毎回そのデータが選択されることになります。ただ他のサンプルにおいては、y のデータが複数ある中でランダムにデータが選択されるため、異なるサブデータセットが得られることになり、異なるサブモデルが構築されることになります。なお、y のデータが１つしかないサンプルにおいても、実験誤差を標準偏差で与えることができれば、正規分布を仮定してそこからサンプリングすることで、サブデータセットごとに異なる y の値となるようにできます。
このようにして構築されたサブデータセットでアンサンブル学習することにより、x のデータを入力することで、y の予測値が複数個、サブデータセットの数 (サブモデルの数) だけ出力されます。これらの予測値の平均で最終的な予測値を設定するだけでなく、予測値のばらつきによって、予測値の信頼性を評価できます。ただ、予測値のばらつきは、y の実験結果のばらつきとは関係しないため注意が必要です。基本的には、入力する x のデータがトレーニングデータから離れていれば離れているほど、予測値のばらつきが大きくなる傾向があります。すなわち、AD として利用するとよいでしょう。
以上です。
質問やコメントなどありましたら、twitter, facebook, メールなどでご連絡いただけるとうれしいです。
