JPWO2010016110A1 - 重回帰分析による予測モデルの作成方法、作成システムおよび作成プログラム - Google Patents

Abstract

重回帰分析に基づき、予測精度の高い、目的変数の予測モデルを形成する。ａ）目的変数の実測値が既知のサンプルから初期サンプルセットを構築し、ｂ）このセットを重回帰分析して重回帰式を獲得し、ｃ）この重回帰式に基づいて各サンプルの残差値を計算し、ｄ）残差値に基づいて前記重回帰式にフィットするサンプルを特定し、ｅ）特定したサンプルを初期サンプルセットから取り除いて新たなサンプルセットを構築し、ｆ）前記新たなサンプルセットを前記初期サンプルセットに設定して、ステップａ）からｅ）を繰り返して、複数の重回帰式とその重回帰式を適用すべきサンプルを特定する。

Description

本発明は、サンプルの物理的、化学的あるいは生理学的な特性に関するデータが連続量である場合に、そのデータの予測をフィッティング手法によって行うための、予測モデルの作成方法、作成システムおよび作成プログラムに関する。

連続変数を目的変数としてデータ解析する一般的な手法は、フィッティング問題である。フィッティング問題に対するアプローチは、線形フィッティングおよび非線形フィッティングの二種類に大別される。線形フィッティングの代表的な手法として、線形重回帰分析法があり、非線形フィッティングの代表的な手法として非線形重回帰分析法がある。現在、非線形フィッティングとして、ＰＬＳ（Ｐａｒｔｉａｌ Ｌｅａｓｔ Ｓｑｕａｒｅｓ）法、ニューラルネットワーク法等があり、かなり複雑な形状を有する曲線上にもフィッティング可能となっている。

目的変数が未知のサンプル、即ち、未知サンプルの予測信頼度は、線形あるいは非線形フィッティング手法の適用によって算出された重回帰式の良否による。重回帰式の良否は、相関係数Ｒあるいは決定係数Ｒ２の値で評価される。これらの値が１に近づくほど良好な回帰式となり、０に近づくほど粗悪な回帰式となる。

相関係数Ｒあるいは決定係数Ｒ２は、一個のサンプルの実際の目的変数の値と、作成された線形／非線形重回帰式（予測モデル）を用いて計算された予測値との差異に基づいて算出される。従って、相関係数Ｒあるいは決定係数Ｒ２が１という事は、そのサンプルの実際の目的変数の値と、予測モデルによって算出された目的変数の予測値が完全に一致することを意味する。

通常の解析では、相関係数Ｒ及び決定係数Ｒ２が１となることは少ない。多くの解析では、相関係数Ｒが０．９（９０％）程度の値となることを目標としている。ところが、化合物関連の解析分野（構造−活性相関、構造−ＡＤＭＥ相関、構造−毒性相関、構造−物性相関、構造−スペクトル相関、他）において、このように高い値を達成することは困難である。その理由は、主に、化合物サンプル間の構造変化が大きく、しかもデータ解析で扱うサンプル数が大きいことである。

一方で、化合物の安全性評価のような人体に悪影響を及ぼす可能性のある要因についてデータ解析あるいはデータ予測を行う場合、相関係数Ｒ、決定係数Ｒ２の値が低いデータの解析結果は実用に適さない。相関係数Ｒ、決定係数Ｒ２の値が低いことによって、予測率は更に低下する。安全性評価における誤った予測が、致命的な結果を生じる場合がある。例えば、本来毒性値が高い化合物を誤って低い毒性値として予測した場合、その結果が社会に及ぼす影響は大きい。このような理由から、現在のところ、多変量解析／パターン認識に基づいた化合物の安全性評価は実用の域に達していない。

ところが、最近、ＥＵでＲＥＡＣＨ規則が運用開始され、また、動物愛護の観点から、化合物の毒性実験に動物を用いることが規制される方向に進んでいる。例えば、ＥＵでは、２０１０年度より、皮膚感作性や皮膚毒性の評価実験に動物を用いることが禁止されることとなっている。したがって、実験動物を必要とせず、しかも、大量の化合物を高速で評価することが可能な、多変量解析／パターン認識によるデータ解析が注目されている。この観点から、サンプルの多様性、サンプル数の多さにも関わらず、高い相関係数値Ｒあるいは決定係数値Ｒ２を得ることが可能な、新たな線形／非線形重回帰分析法が求められている。

なお、線形、非線形重回帰分析を用いた化合物の毒性や薬理活性予測については、これまでに多くの事例が報告されている（例えば、非特許文献１、２参照）。

線形／非線形重回帰分析法における、相関係数Ｒ値、決定係数Ｒ２値を改良する手法として現在、二つのアプローチが提案されている。第一のアプローチは、データ解析に用いるパラメータ（この場合は説明変数）を変えることによって、相関係数Ｒ値や決定係数Ｒ２値の向上を目指すものである。第二のアプローチは、学習サンプルセット全体から、相関係数Ｒ値や決定係数Ｒ２値を大きく低下させる原因となるサンプル、いわゆるアウトライヤーサンプルを取り除くことである。残った学習サンプルにより形成されるサンプルセットは、良好なサンプルのみで構成されることとなり、結果として相関係数Ｒ値や決定係数Ｒ２値が向上する。

この他のアプローチとして、非線形のより強力なデータ解析手法を適用することによって相関係数Ｒ値および決定係数Ｒ２値を向上させることも可能である。ところが、この場合、過剰適合（Ｏｖｅｒ Ｆｉｔｔｉｎｇ）と呼ばれるデータ解析上での別の問題が発生し、データ解析の精度（相関係数Ｒ値や決定係数Ｒ２値）は向上しても、データ解析自体の信頼性が低下し、且つ最も重要な予測性が大幅に低下することになる。そのため、非線形の強力なデータ解析法を用いることは好ましくない。

解析に用いるパラメータの種類を最適に決定するために、特徴抽出が行われる。したがって、特徴抽出後の最終パラメータを用いて分析を行う場合、相関係数Ｒ値および決定係数Ｒ２値を改良するためには、今のところ、上述の第二のアプローチ、即ち、学習サンプルセットからアウトライヤーサンプルを取り除いて新しい学習サンプルセットを構築し、再度、重回帰分析を行う方法しかない。この方法では、回帰線から大きく離れた（アウトライヤー）サンプルが取り除かれるので、相関係数Ｒ値や決定係数Ｒ２値は必ず向上する。

ところが、相関係数Ｒ値や決定係数Ｒ２値を向上させようと無制限にサンプルを取り除くと、これらの値が向上する一方で、全体のサンプル数が減少するのでデータ解析としての信頼性や汎用性が低下し、予測性が大きく低下すると言う問題が発生する。一般的なデータ解析では、一回の解析で初期サンプル母集団から取り除くサンプルの限界は全サンプルの１０％以内というルールが存在する。従って、これだけのサンプルを取り除いても相関係数Ｒ値や決定係数Ｒ２値が改良されない場合は、最終的にそのデータ解析は失敗したことになる。また、このように１０％といえどもサンプルを取り除くことは、これらのサンプルが有している情報を無視することであり、相関係数Ｒ値や決定係数Ｒ２値が改良されたとしても、データ解析全体としてはあまり優れた解析を行うことができない。したがって、理想的には、サンプルを除くことなく、相関係数Ｒ値と決定係数Ｒ２値を向上させることが望ましい。

永松朝文、他；フラビン及び５−デアザフラビン類縁化合物の抗腫瘍活性分子設計とＰＴＫ阻害に関するＡｕｔｏＤｏｃｋ研究、第２５回メディシナルケミストリーシンポジウム講演要旨集、１Ｐ−２０，ｐｐ．８２−８３、名古屋（２００６） 馬場暁子、他；１−β−Ｏ−Ａｃｙｌ ｇｌｕｃｕｒｏｎｉｄｅｓの親電子反応性に関する構造−活性相関、第３４回構造−活性相関シンポジウム講演要旨集、ＫＰ２０，ｐｐ．１２３−１２６、新潟（２００６）

したがって、本発明は、学習サンプル間の多様性が大きくしかもサンプル数が多い場合であっても、学習サンプル個々が持つ情報を失うことなくしかも相関度の高い重回帰分析を行って、予測精度の高い予測モデルを作成することが可能な、予測モデルの作成方法、システムおよびプログラムを提供することを課題とする。

前記課題を解決する方法は、ａ）目的変数の実測値が既知のサンプルによって初期サンプルセットを構築し、ｂ）前記初期サンプルセットを重回帰分析して重回帰式を作成し、
ｃ）前記重回帰式に基づいて各サンプルの残差値を計算し、ｄ）前記残差値に基づいて前記重回帰式にフィットするサンプルを特定し、ｅ）前記特定したサンプルを前記初期サンプルセットから取り除いて新たなサンプルセットを構築し、ｆ）前記新たなサンプルセットを前記初期サンプルセットに設定して、前記ステップａ）からｅ）を繰り返し、ｇ）前記繰り返しの各段階で獲得される前記重回帰式と前記取り除くサンプルとの組合せを、前記目的変数が未知のサンプルの予測モデルとして設定する、各ステップを有する。

前記方法において、前記ステップｄ）では、前記残差値が小さいものから予め定めた一定の個数のサンプルを取り除くサンプルとして特定するようにしても良い。

また、前記ステップｄ）では、あらかじめ定めた閾値以下の残差値を有するサンプルを取り除くサンプルとして特定するようにしても良い。

前記方法において、前記ステップｆ）における前記繰り返しを、前記新たなサンプルセットにおいて、サンプルの総数が予め定めた数以下になった場合、サンプルの最小残差値が予め定めた値を超えた場合、サンプル数と重回帰分析に使用するパラメータ数との比が予め定めた一定値以下となった場合、あるいは前記繰り返しの回数が予め定めた一定回数を超えた場合の何れかで、停止するようにしても良い。

前記方法において、更に、前記目的変数が未知のサンプルを用意し、当該サンプルに最も構造類似するサンプルを前記初期サンプルセット中で特定するステップを設け、前記ステップｆ）における繰り返しを、前記取り除かれるサンプル中に前記最も構造類似するサンプルが含まれた段階で停止するようにしても良い。

前記方法では、目的変数が既知のサンプルで構成した学習サンプルセット（初期サンプルセット）を重回帰分析して重回帰式を獲得することにより、各学習サンプルの目的変数の予測値を計算することができる。次に、各学習サンプルの目的変数の実測値と予測値との差、即ち、残差値を求める。これによって、求めた重回帰式が、どの程度、個々の学習サンプルの目的変数の実測値にフィットしているかが分かる。例えば、残差値が０であることは、そのサンプルの目的変数の予測値が実測値に一致しており、したがって、予測が完全であることを意味する。残差値が大きくなればなる程、その重回帰式による予測はうまく行われていないことがわかる。

したがって、個々のサンプルの残差値に基づいて、求めた重回帰式にフィットする学習サンプルを特定し、求めた重回帰式をこれらのサンプルに適用すべき予測モデルとする。同時に、フィットした学習サンプルを初期サンプルセットから取り除いて、残りの学習サンプルによって新たな学習サンプルセットを構成し、再び重回帰分析を行うことにより、新たな学習サンプルセットに適した新たな重回帰式が得られる。この新たな重回帰式に対して、個々の学習サンプルの残差値を求め、新たな重回帰式にフィットした学習サンプルを特定する。新たな重回帰式を、特定した学習サンプルに適用すべき予測モデルとする。

以上の操作を繰り返し行うことによって、複数の重回帰式を得ることができ、さらに、個々の重回帰式を適用すべき１個または複数の学習サンプルを特定することができる。即ち、初期サンプルセットは、少なくとも重回帰式の個数分のサブサンプルセットに分解され、個々のサブサンプルセットには、相関度の高い特定の重回帰式が割り当てられる。個々の重回帰式と対応するサブサンプルセットが、初期サンプルセットから形成された全体の予測モデルとなる。本アプローチではサンプルそのものを取り除くことがないので、アウトライヤーサンプルを取り除く従来の方法と異なり、初期サンプルセットの個々の学習サンプルが有する目的変数に関する情報を失うことなく、予測精度の高い予測モデル群を作成することができる。

なお、目的変数が未知のサンプルについて、形成された予測モデルを使用して予測を行う場合は、未知サンプルと最も構造類似する学習サンプルを初期サンプルセットの中で特定し、特定された学習サンプルが属するサブサンプルセットに割り当てられた重回帰式を用いて、未知サンプルの目的変数を計算する。その結果、信頼性の高い予測を行うことができる。

前記課題を解決するプログラムは、コンピュータに、ａ）目的変数の実測値が既知のサンプルによって初期サンプルセットを構築する手順、ｂ）前記初期サンプルセットを重回帰分析して重回帰式を獲得する手順、ｃ）前記重回帰式に基づいて各サンプルの残差値を計算する手順、ｄ）前記残差値に基づいて前記重回帰式にフィットするサンプルを特定する手順、ｅ）前記特定したサンプルを前記初期サンプルセットから取り除いて新たなサンプルセットを構築する手順、ｆ）前記新たなサンプルセットを前記初期サンプルセットに設定して、前記ステップａ）からｅ）を繰り返す手順、ｇ）前記繰り返しの各段階で獲得される前記重回帰式と前記取り除くサンプルとの組合せを、前記目的変数が未知のサンプルの予測モデルとして設定する手順、を実行させる。

前記課題を解決するシステムは、目的変数の実測値が既知のサンプルによって初期サンプルセットを構築する第１の手段と、前記初期サンプルセットを重回帰分析して重回帰式を獲得する第２の手段と、前記重回帰式に基づく各サンプルの残差値を計算する第３の手段と、前記残差値に基づいて、前記重回帰式にフィットするサンプルを特定する第４の手段と、前記特定したサンプルを前記初期サンプルセットから取り除いて新たなサンプルセットを構築する第５の手段と、前記新たなサンプルセットを前記初期サンプルセットに設定して、前記ステップａ）からｅ）を繰り返す第６の手段と、前記新たなサンプルセットにおいて、サンプルの総数が予め定めた数以下になった場合、サンプルの最小残差値が予め定めた値を超えた場合、サンプル数と重回帰分析に使用するパラメータ数との比が予め定めた一定値以下となった場合、あるいは前記繰り返しの回数が予め定めた一定回数を超えた場合の何れかを検出して、前記第６の手段における繰り返しを停止させる第７の手段と、を備えている。

前記方法、プログラムおよびシステムによれば、初期サンプルセットから、このセット中に含まれる個々の学習サンプルが有する情報を失うことなく、予測精度の高い予測モデル群を作成することができる。そのため、予測に対して高い精度が要求される、化合物の安全性評価の分野にも本発明を適用可能である。

図１は、本発明の原理を説明するための図であって、重回帰分析によって得られたサンプルの計算値と実測値の関係を示す相関図である。 図２は、図１に示す相関図において、残差値の小さな領域を説明するための図である。 図３は、新たな学習サンプルセットについて実施した重回帰分析の結果としての相関図を示す。 図４は、更に新たな学習サンプルセットについて実施した重回帰分析の結果としての相関図を示す。 図５は、更に新たな学習サンプルセットについて実施した重回帰分析の結果としての相関図を示す。 図６は、第１の実施形態の処理手順を示すフローチャートである。 図７は、初期パラメータセットテーブルの一例を示す。 図８は、第１段階の重回帰分析結果をグラフィック表示で示す図である。 図９は、第２段階の重回帰分析結果をグラフィック表示で示す図である。 図１０は、最終に近い段階の重回帰分析結果をグラフィック表示で示す図である。 図１１は、第１の実施形態による重回帰分析結果の一部を示す図である。 図１２は、第１の実施形態に基づく予測モデルを使用した、未知サンプルの目的変数の予測手順を示すフローチャートである。 図１３Ａは、第２の実施形態の実行手順の一部を示すフローチャートである。 図１３Ｂは、図１３Ａのフローチャートの後続部分を示すフローチャートである。 図１４は、第３の実施形態に係る予測モデル作成システムの概略構成を示すブロック図である。

符号の説明

１、２、３、４ 残差値の小さいサンプル
５、６ 残差値の大きいサンプル
１０、２０ 残差値の小さいサンプルの存在領域
２００ 予測モデル作成装置
２１０ 入力装置
２２０ 出力装置
３００ 記憶装置
４００ 解析部
Ｍ１、Ｍ２、Ｍ３、Ｍｎ 重回帰線

［発明の原理］
本発明の実施形態を説明する前に、まず、本発明の原理について説明する。

図１は、ある学習サンプルセットを線形重回帰分析した結果を示す。この図は、学習サンプルの目的変数について、実測値と計算値（作成された予測モデルを用いて計算された値）との相関関係を示している。図の横軸は各サンプルの目的変数についての実測値を示し、縦軸は重回帰分析の結果として得られた重回帰式（予測モデルＭ１）に基づいて計算した、各サンプルの目的変数Ｙ１の値（計算値）を示す。この場合の重回帰式は、以下の式（１）で示される。

重回帰式（Ｍ１）：
Ｍ１＝±ａ１・ｘ１±ａ２・ｘ２±・・・±ａｎ・ｘｎ±Ｃ１ （１）
式（１）において、Ｍ１は各サンプルの目的変数の計算値を示し、ｘ１、ｘ２・・・ｘｎは説明変数（パラメータ）の値を、ａ１、ａ２・・・ａｎは係数を、Ｃ１は定数をそれぞれ示している。各サンプルについて、説明変数の値を式（１）に入力することによって、各サンプルの目的変数Ｙの値が算出される。式（１）に基づいて算出した目的変数Ｍ１の値がサンプルの実測値と一致した場合、サンプルＳは図１の回帰線Ｍ１上に乗る。したがって、サンプルが回帰線Ｍ１の周りに密集して分布すればするほど、その回帰式は良好（精度の高い）な回帰式であると言える。重回帰式の精度は、上述したように、相関係数Ｒあるいは決定係数Ｒ２によって決定される。相関係数Ｒが１の場合、全サンプルは回帰線上に載る。図１では、相関係数Ｒが０．７の場合を示している。

図１に示す線形重回帰分析では、サンプルセット全体の分析に基づく相関係数Ｒは０．７であるが、サンプル１、２、３、４については回帰線Ｍ１上に乗っており、したがって、これらのサンプルは重回帰式Ｍ１に理想的にフィッティングしているものと考えられる。言い換えると、これらのサンプルの目的変数が未知の場合、重回帰式Ｍ１を予測モデルとしてサンプル１、２、３、４の目的変数を計算した場合、その計算値（予測値）はほぼ正確に目的変数の実測値に一致し、予測が正確に行われていることを示す。一方、サンプル５、６、７等については、目的変数の実測値と計算値が大きく離れており、したがって、重回帰式Ｍ１はこれらのサンプルについては予測を正確に行うことができない。このように、相関係数Ｒが０．７の場合であっても、サンプル毎にその重回帰式Ｍ１のフィッティングの良否は異なる。

重回帰式Ｍ１の信頼性を示す別の指標として、総残差値が使われることがある。残差値とは、個々のサンプルの目的変数の実測値と計算値との差であり、総残差値は個々のサンプルの残差値の総和である。重回帰式Ｍ１に良くフィッティングしているサンプル１では実測値と計算値が同じであるため、残差値は０となる。良くフィッティングしていないサンプル７では、残差値は大きくなる。したがって、総残差値が０に近いほど、重回帰式Ｍ１の信頼性が高くなる。

総残差値は、サンプル母集団全体に対する重回帰式Ｍ１の信頼性を評価することが可能であるが、個々のサンプルについて重回帰式Ｍ１の信頼性を評価するものではない。例えば、サンプル１については、重回帰式Ｍ１は良くフィッティングしており、サンプル７については良くフィッティングしていない。このように、総残差値には、個々のサンプルの残差値に関する情報が反映されていない。

本発明では、個々のサンプルの残差値の改良に着目し、如何にすれば個々のサンプルの残差値が小さくなるかについて検討を行った結果、以下に示す新たな手法を開発した。

図１において、重回帰式Ｍ１を表す直線の近辺に存在するサンプルはその残差値が小さい。したがって、残差値に、０に近い閾値α（絶対値）を設けることによって、重回帰式Ｍ１に良くフィットするサンプルを特定することができる。閾値αは任意の数値で良いが、０に近い程精度が向上する。図１の相関図では、点線で囲まれた領域１０が、閾値α以下の残差値を有するサンプルが存在する領域である。したがって、領域１０内に存在するサンプル、即ち、残差値がα以下のサンプルに対して、重回帰式Ｍ１をこれらのサンプルに対する予測モデル（第１段階の予測モデル）として特定する。

次に、図２に示す様に、領域１０内のサンプルをサンプル母集団（以下、サンプルセット）から除去し、残りのサンプルを新たなサンプルセットとして２回目の重回帰分析を行う。この場合、サンプルセットが新しいものとなったために、新たな特徴抽出が行われて新たなパラメータセットが創出されるので、その結果、新たな重回帰式Ｍ２（図３参照）が算出される。

図３は、新たなサンプルセットに対して形成された重回帰式Ｍ２を用いて、個々のサンプルの実測値と計算値の相関関係を示した図である。重回帰式Ｍ１に良くフィットしていたサンプルがサンプルセットから除去されたので、重回帰式Ｍ１では回帰線から離れた領域に存在していたサンプルが、図３に示す様に、新たな重回帰式Ｍ２による回帰線の近辺に落ち込んで行く現象が見られる。その結果、重回帰線Ｍ２の近辺に存在するサンプルについては、実測値と予測値（計算値）のかい離が小さく、重回帰式Ｍ２はこれらのサンプルに対して精度の高い予測モデル（第２段階の予測モデル）となる。なお、図３において、１０、１０は２回目の重回帰分析によって発生したアウトライヤーサンプルを示す。

第２段階の予測モデルを適用するサンプルを特定するために、残差値に対して閾値β（絶対値）を決定する。閾値βは第１段階の閾値αと同じであっても違っていてもどちらでも良い。図３の点線で示す領域２０が、残差値がβ以下であるサンプルが存在する領域である。このようにして、第２段階の予測モデルＭ２とこのモデルに適用するサンプルが特定されると、第１段階の場合と同様にして、これらのサンプルをサンプルセットから除去し、新たなサンプルセットを形成する。

図４は、以上のようにして形成された新たな母集団に対して新たな重回帰分析を行い、その結果として得られた新たな重回帰式Ｍ３による、各サンプルの実測値と計算値との相関を示す図である。新たなサンプルが重回帰線Ｍ３の近辺に落ち込んでいく様子が見られる。したがって、第１、第２段階と同様に、残差値の新たな閾値γ（絶対値）を設定し、残差値がこの値γ以下であるサンプル（領域３０内のサンプル）を特定し、これを第３段階の予測モデルＭ３に対するサンプルとして特定する。なお、閾値γは、閾値α、βと同じでもよくあるいは異なっていても良い。２回目の重回帰分析によって発生したアウトライヤーサンプルは、図４に示す様に、３回目の重回帰分析によって消滅している。

図５は、以上の段階を繰り返した結果としてのｎ段階目の重回帰式Ｍｎによる、個々のサンプルの実測値と計算値との相関を示す図である。これまでの各段階で除去されずに残ったサンプルセットに対して、重回帰式Ｍｎが良くフィットしていることが分かる。したがって、重回帰式Ｍｎをｎ段階目の予測モデルとし、残ったサンプルをこの予測モデルの適用サンプルとする。なお、重回帰分析には、データ解析精度を保証するのに必要な条件、すなわちサンプル数とパラメータ数の比における制限条件が有り、サンプルセットがこれらの制限に合致した場合にそれ以上の重回帰分析は行われない。したがって、必ずしも最終の分析段階で全てのサンプルがその段階の重回帰線近辺に来るとは限らない。

以上の結果、最初のサンプルセットから以下のような予測モデルが得られる。

表１の予測モデルにおける総残差値は、サンプルセットの個々の学習サンプルについて、そのサンプルが属する段階の予測モデルを用いて計算された残差値を算出し、その総和として求められる。例えば、学習サンプル１１では第１段階の予測モデルＭ１を用いて目的変数の計算値を求め、計算値と実測値との差を残差値とする。サンプル２３では、第３段階の予測モデルＭ３を用いて目的変数の計算値を求め、計算値と実測値との差の絶対値を残差値とする。全ての学習サンプルについて同様にしてそれらの残差値を求め、総計することによって総残差値とする。個々の学習サンプルの残差値は、このようにして最もフィットした予測モデルによって決定されるので、それらの値は一様に低く、したがって、総残差値も従来の方法（１回の重回帰分析によって予測モデルを確定する方法）に比べてかなり低くなることが予想される。

表１の予測モデルを使用して、目的変数の実測値が未知のサンプルについて、目的変数の予測を行う場合は、まず、未知サンプルがサンプルセットのどの学習サンプルに最も類似しているかを特定する。サンプルが例えば化学物質である場合、未知サンプルの化学構造に最も類似する学習サンプルを特定する。これは、例えば、タニモト係数などを用いて周知の構造類似計算を行うことにより、容易に求められる。未知サンプルに最も類似する学習サンプルが特定されれば、その学習サンプルが属する表１の段階が特定されるので、特定された段階の予測モデルを未知サンプルに適用して、未知サンプルの目的変数を計算する。これによって、高い精度で未知サンプルの目的変数が予測される。構造が類似する化合物間では、その物理、化学的な特性、物性あるいは毒性等は類似するため、本方法による予測精度は極めて高くなる。

なお、個々の段階で得られた重回帰式に最もフィットする学習サンプルを特定する場合に、残差値に閾値を設ける場合のほか、残差値の小さい順から予め決定した任意の個数の学習サンプルを特定する方法もある。

［第１の実施形態］
以下に、第１の実施形態について説明する。

図６は、第１の実施形態にかかる予測モデルの作成方法の全体手順を示すフローチャートである。まず、ステップＳ１において、解析対象である目的変数の値が既知である複数のサンプルを用意し、学習のためのサンプルセットを形成する。本実施形態では、目的変数を魚毒性とする。具体的には、９６時間ＩＣ５０を目的変数とする。ＩＣ５０とは半数阻害濃度を意味し、これは、ある化合物が、一セットの実験生物に対してその５０％の遊泳、増殖、成長（藻類では生長）や酵素活性等を阻害すると予想される濃度を意味し、化合物の環境毒性を評価する上で非常に重要な指標である。サンプルセットは８６個のサンプルを含む。

次のステップＳ２では、個々の学習サンプルについて、重回帰分析に使用する初期パラメータ（説明変数）を発生させる。富士通株式会社で販売するＡＤＭＥＷＯＲＫＳ−ＭＯＤＥＬＢＵＩＬＤＥＲ（登録商標）では、化合物の２次元あるいは３次元構造式、各種の物性などに基づいて、約４０００種類以上のパラメータを自動的に発生させることができる。次に、ＳＴＡＧＥを１に設定し（ステップＳ３）、ステップＳ２で発生させた初期パラメータに対して特徴抽出を行って重回帰分析に必要のないノイズパラメータを除去し（ステップＳ４）、最終パラメータセットを決定する（ステップＳ５）。本実施形態では、１１個のパラメータがＳＴＡＧＥ１の最終パラメータとして選択された。

図７に、初期パラメータセットテーブルの一例を示す。図７のコラム７０は化合物であるサンプルを特定するためのＩＤを示す。コラム７１は、各サンプルの目的変数ＬＣ５０の値をμＭｏｌの単位で示している。コラム７２は最終パラメータセットを構成する説明変数を示す。この例では、サンプルの総原子数（ｘ１）、炭素原子数（ｘ２）、酸素原子数（ｘ３）、窒素原子数（ｘ４）、硫黄原子数（ｘ５）、フッ素原子数（ｘ６）、塩素原子数（ｘ７）、臭素原子数（ｘ８）などを説明変数として採用している。

図７の表における各セル内に記載された数値が、各サンプルについてのパラメータ値である。例えば、サンプルＩＤが３の化合物は、ＬＣ５０の値が３．２μモル（μＭ）であり、その化合物の総原子数は２１、そのうち炭素原子数は１５、酸素原子数は６であり、一方、窒素、硫黄、フッ素、塩素、臭素原子を含まないことを示している。

図６のステップＳ６では、例えば、図７のデータテーブルに示されたデータを用いて重回帰分析を行い、第１段階目の重回帰式Ｍ１を形成する。重回帰式Ｍ１は、前述の式（１）で示される。

重回帰式（Ｍ１）：
Ｍ１＝ａ１・ｘ１＋ａ２・ｘ２＋・・・＋ａｎ・ｘｎ＋Ｃ１ （１）
ここで、ａ１、ａ２・・・ａｎは各パラメータｘ１、ｘ２・・・ｘｎに対する係数であり、Ｃ１は定数である。このようにして第１回目の重回帰式Ｍ１が形成されると、ステップＳ７で個々の学習サンプルについて重回帰式Ｍ１に基づく目的変数の値（予測値）が計算される。個々の学習サンプルについての目的変数の計算値は、式（１）に、例えば、図７に示すような各サンプルのパラメータ値を代入することによって求められる。

ステップＳ８では、個々の学習サンプルについて、目的変数の実測値とステップＳ７で計算した予測値とを比較し、残差値を算出する。このとき、全ての学習サンプルを残差値（絶対値）の大小順にソートしても良い。ステップＳ９では、残差値の小さい学習サンプルを初期サンプルセットから取り出す。このとき、取り出す学習サンプルは、残差値に閾値を任意に設定し、閾値以下の残差値を有する学習サンプルを取り出す方法、あるいは、予め決めた個数の学習サンプルを残差値の小さい順から取り出す方法等が有り、何れの方法でも良い。残差値の閾値は、勿論０であっても良い。あるいは、最大の残差値をサンプル数で除した値として設定することもできる。この場合は、各段階における閾値はそれぞれ異なってくる。予め決めた個数の学習サンプルを残差値の小さい順から取り出す場合には、取り出す個数を１に設定しても良いし、あるいは、各段階のサンプル数の数パーセント、例えば３％、等として設定しても良い。

図８は、第１回目の重回帰分析の結果をグラフィック表示したものである。図８において、８０は、各サンプルについて、目的変数の実測値に対して計算値（予測値）をプロットしたグラフを示し、８２は、各サンプルの残差値（絶対値）の棒グラフを示している。グラフ８０の横軸は目的変数の実測値を、縦軸は目的変数の計算値を示す。グラフ８２の横軸はサンプルＩＤを、縦軸は残差値を示している。学習サンプルの残差値（絶対値、以下同様）が小さい程、その学習サンプルはステップＳ６で求めた初期重回帰式に良くフィットしている。したがって、グラフ８０および８２上に矢印で示す様に、残差値の小さなサンプルを特定し、これらを初期学習サンプルセットから取り除く。

図６のステップＳ１０では、ステップＳ９で取り出した学習サンプルと重回帰式Ｍ１とを第１段階の予測モデルとして設定して、記憶装置に記憶させる。ステップＳ１１では、分析の終了条件を満足したか否かが判定される。分析の終了条件とは、例えば、予め設定された最大のＳＴＡＧＥ数に達したか否か、学習サンプルセット中のサンプル数が予め設定した一定個数以下となったか否か、あるいは、信頼性指標が予め決定された値以下となったか否か、あるいはサンプルの最小残差値が予め定めた値より大きくなったか否か、等である。サンプルの最少残差値に対して予め定めた値とは、例えば、ステップＳ９における残差値の閾値とすることができる。

ここで、信頼性指標とは、サンプル数をパラメータ数で除した値であり、この値が小さくなると、これらのサンプルとパラメータとから得られる重回帰式はほとんど科学的およびデータ解析的に意味を持たず、どんなに高い相関係数Ｒ値や決定係数Ｒ２値を得たとしてもその解析は失敗したと判断される。通常、この値が５よりも大きい場合は意味のあるデータ解析（成功解析）とされ、５よりも大きければ大きいほど信頼性の高い重回帰式とみなされる。信頼性指標が５に達しない条件下で得られた重回帰式は意味の無いデータ解析より得られたものと判断され、データ解析は失敗解析と見なされる。したがってこの信頼性指標は、重回帰分析において重要な指標である。信頼性指標の最低値が５であることから、パラメータ数を１個とすると、最低のサンプル数は５個となる。したがって、ステップＳ１１で、最低のサンプル数として５を設定しておいても良い。

ステップＳ１１で何らかの終了条件が満足されたと判断されると（ステップＳ１１のＮＯ）、ステップＳ１４において処理を終了する。ステップＳ１１で何れの終了条件も満足されない場合（ステップＳ１１のＹＥＳ）、ステップＳ１２において、残りの学習サンプルによって新たな学習サンプルセットを構築し、ステップＳ１３でＳＴＡＧＥを１だけ進める。その後、ステップＳ４以下を繰り返して実行する。

ステップＳ４以下を再度実行することにより、ステップＳ５で新たな最終パラメータセットが構築され、ステップＳ６で新たな重回帰式Ｍ２が形成される。ステップＳ８では、この新たな重回帰式Ｍ２に基づいて個々の学習サンプルの予測値を算出し、ステップＳ９で新たな重回帰式Ｍ２に基づく各サンプルの残差値が算出される。

図９は、このような第２回目の重回帰分析の結果をコンピュータのスクリーン上にグラフィックとして表示したものである。図９において、９０は、各サンプルについて、目的変数の実測値に対して計算値（予測値）をプロットしたグラフを示し、９２は、各サンプルの残差値をプロットしたグラフを示している。グラフ９０の横軸は目的変数の実測値を、縦軸は目的変数の計算値を示す。グラフ９２の横軸はサンプルＩＤを、縦軸は残差値を示している。図８に示した第１回目の重回帰分析の結果、１７個の学習サンプルが除去されているので、第２回目の重回帰分析は６９個のサンプルに対して行われた。このときの最終パラメータセットは９個のパラメータを含んでいた。

図９に示す様に、新たな重回帰分析によって残差値の小さなサンプルが新たに発生するので、ステップＳ９においてこれらのサンプルを取り除き、ステップＳ１０で重回帰式Ｍ２と共に取り出したサンプルをＳＴＡＧＥ２の予測モデルとして設定する。

その後、ステップＳ１１で、終了条件が満足されているか否かを判定し、ＮＯの場合ステップＳ１２で残りの学習サンプルによって新たな学習サンプルセットを構築し、次のＳＴＡＧＥに進む。尚、ステップＳ１１はステップＳ５の次のステップで実行されてもよい。この場合、ステップＳ１１で分析終了条件が満足されない場合に、重回帰式が作成される。

図１０は、ステップＳ４以下の処理を何回か繰り返した後のＳＴＡＧＥにおける重回帰分析の結果を、コンピュータのスクリーン上にグラフィックとして表示したものである。図８および図９の場合と同様に、図１０の１００は各サンプルについて、目的変数の実測値に対して計算値（予測値）をプロットしたグラフを示し、１０２は、各サンプルの残差値をプロットしたグラフを示している。図１０に示す重回帰分析では、サンプル数は１０、パラメータ数は２となっている。

図１１は、全８６個のサンプルのうち、幾つかのサンプルについて、多段階重回帰分析の結果をまとめて示す表である。“段階１計算値”として示すコラムには、重回帰式Ｍ１を用いて計算された各サンプルの予測値が、“残差値１”として示すコラムには、各サンプルの実測値と段階１計算値の差が示されている。“段階２計算値”として示すコラムには、重回帰式Ｍ２を用いて計算された各サンプルの予測値が、“残差値２”として示すコラムには、各サンプルの実測値と段階２計算値との差が示されている。以下、同様に各段階における予測値と残差値が示されている。

図１１の、“Ｓｔｒｕｃｔｕｒｅ９”として示すサンプルは、段階２の計算の結果、残差値２で示されるように、残差値が充分に小さくなり、この時点で決定サンプルとしてサンプルセットから取り除かれている。そのため、以降の段階の重回帰処理は行われていない。“Ｓｔｒｕｃｔｕｒｅ９”の最終段階の残差値は０．０７７となる。“Ｓｔｒｕｃｔｕｒｅ４６”として示すサンプルは、段階１の計算の結果、残差値が充分に小さくなり、この時点で決定サンプルとしてサンプルセットから取り除かれている。そのため、以降の段階の重回帰処理は行われていない。“Ｓｔｒｕｃｔｕｒｅ４６”の最終段階の残差値は０．０９９となる。

“Ｓｔｒｕｃｔｕｒｅ７４”として示すサンプルは、段階６の計算の結果、残差値が０となり、この時点で決定サンプルとしてサンプルセットから取り除かれている。そのため、以降の段階の重回帰処理は行われていない。“Ｓｔｒｕｃｔｕｒｅ７４”の最終段階の残差値が０ということは、実測値と予測値が完全に一致したことを示す。“Ｓｔｒｕｃｔｕｒｅ４０１”として示すサンプルは、図示する各段階では残差値が充分に小さくなっていないが、段階７で残差値が充分小さくなり、この時点で決定サンプルとしてサンプルセットから取り除かれている。その時点での残差値、即ち、最終残差値は０．０５１である。

図１１のセル１１０は、全８６サンプルの段階１の残差値の総和を示す。従来の一段階だけのフィッティング手法では、セル１１０内の値が、そのフィッティングの良否を判定する指標の一つである総残差値を示す。本実施形態のフィッティング手法では、個々のサンプルの最終段階での残差値の総和、即ち、セル１１２内に示す値が総残差値となる。セル１１０とセル１１２内の値を比べることによって明らかなように、本実施形態のフィッティング手法では、総残差値の値が従来の手法の３分の１以下となり、本実施形態の手法の優位性が明らかである。

以上に述べたように、図６のフローチャートに従うことにより、個々のサンプルが有する種々の情報を最大限に含む予測モデルが形成される。予測モデルの形式は、前述の表１に示すものとなる。なお、前記実施形態は、化合物のＬＣ５０、即ち半数致死濃度の予測モデル作成について記載しているが、半数効果濃度（ＥＣ５０）、半数阻害濃度（ＩＣ５０）などを目的変数とした場合も、図６のフローチャートに示す手法が適用可能であることはもちろんである。また、化合物の生分解性、生体蓄積性についても、同様である。

図１２は、例えば図６のフローチャートに示す手順を実行することにより得られた予測モデルを使用して、目的変数が未知のサンプルについてその値を予測するための手順を示すフローチャートである。まず、ステップＳ２０において、未知サンプルに対してパラメータ値を発生させる。この場合のパラメータの種類は、学習サンプルに対して発生させた初期パラメータと同じであって良い。ステップＳ２１では、未知サンプルと学習サンプルセット中の個々のサンプルとの間の構造の類似度が算出される。

化合物についての構造類似度算出に関しては、種々の既知アプローチがあり、どのようなものを選択しても良い。これらは既知技術であるため、ここでは詳述しない。本発明者は、化合物の構造類似を利用した予測モデルの作成に関して、ＰＣＴ／ＪＰ２００７／０６６２８６を出願しており、この中に構造類似度計算について詳細に記載しているので、必要であればこれを参照されたい。

ステップＳ２２で未知サンプルに最も類似した学習サンプルが特定されると、ステップＳ２３において、特定された学習サンプルに適用される重回帰式Ｍ（ｎ）を用いて、未知サンプルの目的変数を計算し、これを予測値として処理を終了する。表１を参照してステップＳ２３の手順を詳細に説明すると、ステップＳ２２で例えば学習サンプル２２が未知サンプルに最も構造類似するとして特定されると、表１から学習サンプル２２が含まれる段階が特定される。この例では、学習サンプル２２は第２段階に含まれる。したがって、ステップＳ２３では、第２段階の予測モデルＭ２を用いて未知サンプルの目的変数を算出し、その結果を予測値とする。これによって、未知サンプルの目的変数の算出が高い精度で実行されることとなる。

［第２の実施形態］
以下に、第２の実施形態を図１３Ａおよび図１３Ｂを参照して説明する。本実施形態は、学習サンプルセットを用いた予測モデルの作成と未知サンプルの予測とを並行して行う実施形態である。ＥＵでＲＥＡＣＨ規則の運用が開始されており、その運用に伴って化合物の毒性に関する大量のデータの蓄積が進むものと考えられる。通常、予測モデルは、目的変数が既知のサンプルを集め、これを学習サンプルセットとして作成される。学習サンプルセットに含まれるサンプル数が多いほど、予測精度の高い予測モデルを作成することができる。したがって、一旦作成された予測モデルであっても、学習サンプルとして使用可能な新たなデータが蓄積されると、そのデータを加えた新たな学習サンプルセットで新たな予測モデルを作成することが望まれる。

しかしながら、そのためには定期的に予測モデルを更新する必要があり、多大の労力と経費を要する。もし、予測モデルの作成と未知サンプルの予測を並行して行うことが可能なシステムが実現されれば、学習サンプルセットを固定しておく必要がなく、未知サンプルの予測を行う時点で常に新しいデータを加えた学習サンプルセットを用いて予測を行うことができる。本実施形態は、このような予測システムを実現する実施形態である。固定された予測モデルを使用することなく予測を行うことから、このシステムをモデルフリーのシステムと言うことができる。なお、このモデルフリーシステムで大量のデータを扱うには大きな計算機パワーを要するが、ペタスケールコンピュータ等のスーパーコンピュータの開発によって、大量のデータを扱うモデルフリーシステムの実現が容易となる。

図１３Ａおよび図１３Ｂは、第２の実施形態にかかる予測方法の全体手順を示すフローチャートである。まず、ステップＳ３０において、分析対象である目的変数の値が既知である複数のサンプルを用意し、学習のためのサンプルセットを形成する。同時に、予測を行おうとする未知サンプルを用意する。ステップＳ３１では、個々の学習サンプルおよび未知サンプルについて初期パラメータを発生させる。なお、学習サンプルセットについて、初期パラメータを発生させたものをデータテーブルとして作成しておけば、このデータテーブルを利用することによって、ステップＳ３１では未知サンプルについての初期パラメータの発生のみを実行すれば良い。あるいは、学習サンプルとして既存の学習サンプルセットに新たに加える学習サンプルがあれば、その学習サンプルについて初期パラメータを発生させれば良い。

ステップＳ３２では、ステップＳ３１で発生させた初期パラメータを利用して、未知サンプルに最も構造類似する学習サンプルを特定する。この特定は、図１２の実施形態におけるステップＳ２１とステップＳ２２に関して説明した方法を利用する。次に、ステップＳ３３でＳＴＡＧＥを１に設定し、ステップＳ３４〜ステップＳ４０を実行して、学習サンプルセットについて重回帰分析を行い、このＳＴＡＧＥでの重回帰式Ｍ（ＳＴＡＧＥ）を決定し、この重回帰式Ｍ（ＳＴＡＧＥ）によって残差値が小さくなる学習サンプルを特定する。なお、ステップＳ３４〜ステップＳ４０は、図６に示す第１の実施形態の場合のステップＳ４〜ステップＳ１０と同様の処理であるため、その詳細についてはここでは説明しない。

ステップＳ４０までの実行によって、重回帰式Ｍ（ＳＴＡＧＥ）とそのＳＴＡＧＥで取り出すべき学習サンプルが特定されると、図１３ＢのステップＳ４１で、ステップＳ３２で特定した未知サンプルに最も構造類似する学習サンプルが、取り出すべき学習サンプル中に含まれているか否かを判定する。含まれている場合（ステップＳ４１のＹＥＳ）、ステップＳ４２において、重回帰式Ｍ（ＳＴＡＧＥ）を使用して未知サンプルの予測値を計算し、処理を終了する。

一方、ステップＳ４１で含まれていないと判断されると（ステップＳ４１のＮＯ）、ステップＳ４３以降に進み、残りの学習サンプルを新たな学習サンプルセットとする第２段階以降の重回帰分析を実行する。ステップＳ４３〜ステップＳ４５は、図６に示す第１の実施形態のフローチャートにおけるステップＳ１１からステップＳ１３に相当するので、その処理の詳細はここでは説明しない。

以上のように、図１３Ａおよび１３Ｂに示すフローチャートに従えば、いずれかの段階における重回帰分析において、取り出すべき学習サンプル中に、未知サンプルに最も構造類似した学習サンプルが存在していれば、その時点の重回帰式Ｍ（ＳＴＡＧＥ）を未知サンプルの予測モデルとして決定し、予測値を計算することができる。したがって、その時点以降の段階の処理を続ける必要はない。

本実施形態の予測システムでは、図１３Ａおよび１３Ｂにそって形成されるプログラムを用意しておけば、学習サンプルが追加されるごとに予測モデルを更新する必要がなくなる。学習サンプルが追加されれば、その学習サンプルについて目的変数の実測値と初期パラメータをデータテーブルあるいはデータベースに追加するのみで良い。したがって、非常に汎用性に優れた予測システムを提供することができる。

［第３の実施形態］
前記第１および第２の実施形態は、プログラムとして構築され、パソコン、並列コンピュータシステムあるいはスーパーコンピュータに実装されて実施される。あるいは、前記第１、第２の実施形態に基づいて、予測モデル作成装置として構成することも可能である。

図１４は、第３の実施形態に係る予測モデル作成装置のシステム構成を示すブロック図である。この予測モデル作成装置は、前記第２の実施形態に示す処理が可能なように構成されている。予測モデル作成装置２００は、サンプルの構造式、目的変数の実測値等のサンプルデータを入力する入力装置２１０、予測モデル、未知サンプルの予測結果あるいは処理途中でユーザが必要とするデータを出力することができる出力装置２２０を備えている。入力装置２１０から、重回帰分析による予測モデル作成に必要な学習サンプル情報および未知サンプル情報が記憶装置３００の入力データテーブル３１０に入力される。入力装置２１０は、同様に初期パラメータセットのデータを初期パラメータセットテーブル３２０に入力する。なお、解析部４００が、入力されたサンプル情報について初期パラメータを自動的に発生するためのエンジン４１０を有している場合は、初期パラメータセットデータを入力装置２１０から入力する必要はない。

図１４において、３３０は最終パラメータセットを保存するテーブルであり、初期パラメータセットに対して特徴抽出を行った結果としての最終パラメータセットを保存する。３４０は、解析の結果作成された予測モデルを保存するためのテーブルであり、具体的にはＳＴＡＧＥごとに決定された重回帰式Ｍ（ＳＴＡＧＥ）と、その重回帰式Ｍ（ＳＴＡＧＥ）が適用されるサンプルのセットについての情報を保存している。３５０は、未知サンプルについての予測値を保存するためのテーブルである。未知サンプルが複数個ある場合に、計算された予測値を一旦保存しておき、後で一括して出力するためのものである。

解析部４００は、制御部４２０と、初期パラメータ発生エンジン４１０、特徴抽出エンジン４３０、構造類似度算出エンジン４４０、重回帰式作成エンジン４５０、サンプルの予測値算出エンジン４６０、残差値算出エンジン４７０、新たなサンプルセット設定部４８０および解析終了条件検出部４９０を備えている。初期パラメータを本装置の外部で発生させる場合は、初期パラメータ発生エンジン４１０は必要とされない。また、初期パラメータ発生エンジン４１０、特徴抽出エンジン４３０は、既存のものを使用することができる。

特徴抽出エンジン４３０は、初期パラメータセットに対して特徴抽出を行って最終パラメータセットを決定し、これを最終パラメータセットテーブル３３０に保存する。構造類似度算出エンジン４４０は、類似度計算のための種々のアルゴリズムに基づいて初期パラメータの幾つかを適宜選択し、未知サンプルと各学習サンプル間の構造の類似度を算出し、未知サンプルに最も構造類似する学習サンプルを特定する。重回帰式作成エンジン４５０は、種々の既存の重回帰式作成プログラムを備えており、ユーザによって指定された重回帰式作成プログラムあるいはシステムが適宜選択したプログラムを用いて、最終パラメータセットテーブル３３０を参照しながら、入力サンプルセットについての重回帰分析を行い、重回帰式を作成する。作成された重回帰式は、予測モデル保存テーブル３４０に保存される。

サンプルの予測値算出エンジン４６０は、重回帰式作成エンジン４５０で作成された重回帰式に基づいて、各学習サンプルの予測値を計算する。更に、未知サンプルの予測を行う場合は、予測モデル保存テーブル３４０に保存された重回帰式に基づいて、未知サンプルの予測値を計算する。残差値計算エンジン４７０は、サンプルの予測値算出エンジン４６０で計算された予測値と、入力データテーブル３１０に保存されているサンプルの目的変数の実測値とを比較し、その相違を計算する。新たなサンプルセット設定部４８０は、残差値算出エンジン４７０に基づいて算出された残差値に基づいて、学習サンプルセットから取り除くサンプルを特定し、新たなサンプルセットを構築し、これを次のＳＴＡＧＥのサンプルセットとして設定する。解析終了条件検出部４９０は、それ以降の段階の重回帰分析を続行するか否かを判定する装置であり、例えば、図６のステップＳ１１あるいは図１３ＢのステップＳ４３で説明した処理を実行する。

初期パラメータ発生エンジン４１０、特徴抽出エンジン４３０、構造類似度算出エンジン４４０、重回帰式作成エンジン４５０、サンプルの予測値算出エンジン４６０、残差値算出エンジン４７０、新たなサンプルセット設定部４８０、解析終了条件検出部４９０は、制御部４２０の制御下で作動し、図６および図１３Ａ、１３Ｂに示す処理を実行する。なお、解析終了条件は、システムによって予め設定しておいてもよく、あるいは、入力装置２１０を介してユーザが適宜設定するようにしてもよい。

解析部４００で得られた各ＳＴＡＧＥの重回帰式Ｍ（ＳＴＡＧＥ）と、この重回帰式が適用されるサンプル、さらに予測結果は、記憶装置３００の予測モデル保存テーブル３４０、予測値保存テーブルに保存され、あるいは出力装置２２０を介して外部に出力される。出力装置としては、種々の記憶装置、ディスプレイ、プリンタ等が選択可能で有り、出力の形態としては、各種ファイル（例えばＵＳＢファイル）、ディスプレイ表示、プリントアウト等を適宜選択することが可能である。

上記した各プログラムは、コンピュータ読取可能な記録媒体に格納することが可能であり、これらの記録媒体を頒布、流通することが可能である。また、同様に上記した各プログラムはインターネット等の通信回線を介して頒布、流通することが可能である。前記したコンピュータ読取可能な記録媒体としては、磁気記録装置、光ディスク、光磁気ディスクであるいは半導体メモリ（ＲＡＭ、ＲＯＭ等）などがある。一例として、磁気記録装置としてはハードディスクドライブ（ＨＤＤ）、フレキシブルディスク（ＦＤ）、磁気テープ（ＭＴ）等がある。光ディスクの例としては、ＤＶＤ（Ｄｉｇｉｔａｌ・Ｖｅｒｓａｔｉｌｅ・Ｄｉｓｃ）、ＤＶＤ−ＲＡＭ、ＣＤ−ＲＯＭ、ＣＤ−Ｒ、ＣＤ−ＲＷ等がある。光磁気ディスクとしてはＭＯ（Ｍａｇｎｅｔｏ・Ｏｐｔｉｃａｌ・Ｄｉｓｋ）等がある。

本発明は、重回帰分析が適用可能な全ての産業分野に適用可能である。以下に、主な適用分野を列挙する。

１）化学データ解析
２）バイオ関連研究
３）蛋白質関連研究
４）医療関連研究
５）食品関連研究
６）経済関連研究
７）工学関連研究
８）生産歩留まり向上等を目的としたデータ解析
９）環境関連研究
１）の化学データ解析分野では、より詳細には、下記のような研究に適用できる。
（１）構造−活性／ＡＤＭＥ／毒性／物性相関の研究
（２）構造−スペクトル相関研究
（３）メタボノミクス関連研究
（４）ケモメトリクス研究

例えば、構造−毒性相関研究分野では、化合物の半数阻害濃度（ＩＣ５０）、半数影響濃度（ＥＣ５０）、半数致死濃度（ＬＣ５０）、分解性試験、濃縮性試験、２８日間反復投与毒性試験等の予測を行うことが極めて重要である。これらは毒性化合物規制関連の化合物審査法や労働安全衛生法等の国レベルの化合物規制に、最重要項目の一つして組み込まれているからである。この濃度基準をクリアしなければ、日本国内での化合物生産はできなくなり、企業の生産活動自体がストップする。また、海外での生産や輸出等も対象国の安全性規制により活動できなくなる。例えば、ヨーロッパ議会におけるＲＥＡＣＨ規則では、化合物を使用する企業が、その化合物についてこれらの濃度を予測し、評価する義務を負っている。従って、高い予測精度で、これらの濃度を予測することが可能な本発明の方法、装置、プログラムは、ＲＥＡＣＨ規則を実行する上で、有効なツールとなる。

Claims (20)

1. ａ）目的変数の実測値が既知のサンプルによって初期サンプルセットを構築し、
   ｂ）前記初期サンプルセットを重回帰分析して重回帰式を獲得し、
   ｃ）前記重回帰式に基づいて各サンプルの残差値を計算し、
   ｄ）前記残差値に基づいて前記重回帰式にフィットするサンプルを特定し、
   ｅ）前記特定したサンプルを前記初期サンプルセットから取り除いて新たなサンプルセットを構築し、
   ｆ）前記新たなサンプルセットを前記初期サンプルセットに設定して、前記ステップａ）からｅ）を繰り返し、
   ｇ）前記繰り返しの各段階で獲得される前記重回帰式と前記取り除くサンプルとの組合せを、前記目的変数が未知のサンプルの予測モデルとして設定する、各ステップを備える、重回帰分析に基づいた予測モデルの作成方法。
2. 請求項１に記載の方法において、前記ステップｄ）では、前記残差値が小さいものから予め定めた一定の個数のサンプルを取り除くサンプルとして特定する、重回帰分析に基づいた予測モデルの作成方法。
3. 請求項１に記載の方法において、前記ステップｄ）では、あらかじめ定めた閾値以下の残差値を有するサンプルを取り除くサンプルとして特定する、重回帰分析に基づいた予測モデルの作成方法。
4. 請求項１に記載の方法において、前記ステップｆ）における前記繰り返しは、前記新たなサンプルセットにおいて、サンプルの総数が予め定めた数以下になった場合、サンプルの最小残差値が予め定めた値を超えた場合、サンプル数と重回帰分析に使用するパラメータ数との比が予め定めた一定値以下となった場合、あるいは前記繰り返しの回数が予め定めた一定回数を超えた場合の何れかで停止される、重回帰分析に基づいた予測モデルの作成方法。
5. 請求項１に記載の方法において、更に、前記目的変数が未知のサンプルを用意し、当該サンプルに最も構造類似するサンプルを前記初期サンプルセット中で特定するステップを設け、前記ステップｆ）における繰り返しは、前記取り除かれるサンプル中に前記最も構造類似するサンプルが含まれた段階で停止される、重回帰分析に基づいた予測モデルの作成方法。
6. ａ）目的変数の実測値が既知のサンプルによって初期サンプルセットを構築する手順、
   ｂ）前記初期サンプルセットを重回帰分析して重回帰式を獲得する手順、
   ｃ）前記重回帰式に基づいて各サンプルの残差値を計算する手順、
   ｄ）前記残差値に基づいて前記重回帰式にフィットするサンプルを特定する手順、
   ｅ）前記特定したサンプルを前記初期サンプルセットから取り除いて新たなサンプルセットを構築する手順、
   ｆ）前記新たなサンプルセットを前記初期サンプルセットに設定して、前記ステップａ）からｅ）を繰り返す手順、
   ｇ）前記繰り返しの各段階で獲得される前記重回帰式と前記取り除くサンプルとの組合せを、前記目的変数が未知のサンプルの予測モデルとして設定する手順、をコンピュータに実行させるための、重回帰分析に基づいた予測モデルの作成プログラム。
7. 請求項６に記載のプログラムにおいて、前記ステップｄ）では、前記残差値が小さいものから予め定めた一定の個数のサンプルを取り除くサンプルとして特定する、重回帰分析に基づいた予測モデルの作成プログラム。
8. 請求項６に記載のプログラムにおいて、前記ステップｄ）では、あらかじめ定めた閾値以下の残差値を有するサンプルを取り除くサンプルとして特定する、重回帰分析に基づいた予測モデルの作成プログラム。
9. 請求項６に記載のプログラムにおいて、前記ステップｆ）における前記繰り返しは、前記新たなサンプルセットにおいて、サンプルの総数が予め定めた数以下になった場合、サンプルの最小残差値が予め定めた値を超えた場合、サンプル数と重回帰分析に使用するパラメータ数との比が予め定めた一定値以下となった場合、あるいは前記繰り返しの回数が予め定めた一定回数を超えた場合の何れかで、停止される、重回帰分析に基づいた予測モデルの作成プログラム。
10. 請求項６に記載のプログラムにおいて、更に、前記目的変数が未知のサンプルを用意し、当該サンプルに最も構造類似するサンプルを前記初期サンプルセット中で特定する手順を設け、前記ステップｆ）における繰り返しは、前記取り除かれるサンプル中に前記最も構造類似するサンプルが含まれた段階で停止される、重回帰分析に基づいた予測モデルの作成プログラム。
11. ａ）化合物の任意の毒性を目的変数とする時、当該目的変数の実測値が既知の化合物によって初期サンプルセットを構築し、
    ｂ）前記初期サンプルセットを重回帰分析して重回帰式を獲得し、
    ｃ）前記重回帰式に基づいて前記化合物の残差値を計算し、
    ｄ）前記残差値に基づいて、前記重回帰式にフィットするサンプルを特定し、
    ｅ）前記特定した化合物を前記初期サンプルセットから取り除いて新たなサンプルセットを構築し、
    ｆ）前記新たなサンプルセットを前記初期サンプルセットに設定して、前記ステップａ）からｅ）を繰り返し、
    ｇ）前記繰り返しの各段階で獲得される前記重回帰式と前記取り除く化合物との組合せを、前記目的変数が未知の化合物の前記目的変数を求めるための予測モデルとして設定する、各ステップを備える、重回帰分析に基づいた化合物の毒性予測モデルの作成方法。
12. 請求項１１に記載の方法において、前記任意の毒性は、化合物の生分解性、生体蓄積性、半数阻害濃度、半数影響濃度、半数阻害濃度、半数致死濃度のいずれか一つである、重回帰分析に基づいた化合物の毒性予測モデルの作成方法。
13. 請求項１１に記載の方法において、前記ステップｄ）では、前記残差値が小さいものから予め定めた一定の個数のサンプルを取り除くサンプルとして特定する、重回帰分析に基づいた化合物の毒性予測モデルの作成方法。
14. 請求項１１に記載の方法において、前記ステップｄ）では、あらかじめ定めた閾値以下の残差値を有するサンプルを取り除くサンプルとして特定する、重回帰分析に基づいた化合物の毒性予測モデルの作成方法。
15. 請求項１１に記載の方法において、前記ステップｆ）における前記繰り返しは、前記新たなサンプルセットにおいて、サンプルの総数が予め定めた数以下になった場合、サンプルの最小残差値が予め定めた値を超えた場合、サンプル数と重回帰分析に使用するパラメータ数との比が予め定めた一定値以下となった場合、あるいは前記繰り返しの回数が予め定めた一定回数を超えた場合の何れかで、停止される、重回帰分析に基づいた化合物の毒性予測モデルの作成方法。
16. 請求項１１に記載の方法において、更に、前記目的変数が未知のサンプルを用意し、当該サンプルに最も構造類似するサンプルを前記初期サンプルセット中で特定するステップを設け、前記ステップｆ）における繰り返しは、前記取り除かれるサンプル中に前記最も構造類似するサンプルが含まれた段階で停止される、重回帰分析に基づいた化合物の毒性予測モデルの作成方法。
17. 目的変数の実測値が既知のサンプルによって初期サンプルセットを構築する第１の手段と、
    前記初期サンプルセットを重回帰分析して重回帰式を獲得する第２の手段と、
    前記重回帰式に基づく各サンプルの残差値を計算する第３の手段と、
    前記残差値に基づいて、前記重回帰式にフィットするサンプルを特定する第４の手段と、
    前記特定したサンプルを前記初期サンプルセットから取り除いて新たなサンプルセットを構築する第５の手段と、
    前記新たなサンプルセットを前記初期サンプルセットに設定して、前記ステップａ）からｅ）を繰り返す第６の手段と、
    前記新たなサンプルセットにおいて、サンプルの総数が予め定めた数以下になった場合、サンプルの最小残差値が予め定めた値を超えた場合、サンプル数と重回帰分析に使用するパラメータ数との比が予め定めた一定値以下となった場合、あるいは前記繰り返しの回数が予め定めた一定回数を超えた場合の何れかを検出して、前記第６の手段における繰り返しを停止させる第７の手段と、を備える、予測モデルの作成システム。
18. 請求項１７に記載のシステムにおいて、更に、前記目的変数が未知のサンプルを入力する第８の手段と、前記未知のサンプルに最も構造類似するサンプルを前記初期サンプルセット中で特定する第９の手段と、前記第４の手段によって特定された前記取り除くサンプル中に前記最も構造類似するサンプルが含まれる場合、前記第６の手段の前記繰り返しを停止させる第１０の手段、とを有する、予測モデルの作成システム。
19. 請求項１７に記載のシステムにおいて、前記サンプルは化合物であり、前記目的変数は、前記化合物の生分解性、生体蓄積性、半数阻害濃度、半数影響濃度、半数阻害濃度、半数致死濃度のいずれか一つである、予測モデルの作成システム。
20. 目的変数が未知のサンプルについて前記目的変数を予測するための複数の予測モデルを準備する第１のステップであって、前記複数の予測モデルは、
    ａ）目的変数の実測値が既知のサンプルによって初期サンプルセットを構築し、
    ｂ）前記初期サンプルセットを重回帰分析して重回帰式を獲得し、
    ｃ）前記重回帰式に基づいて各サンプルの残差値を計算し、
    ｄ）前記残差値に基づいて、前記重回帰式にフィットするサンプルを特定し、
    ｅ）前記特定したサンプルを前記初期サンプルセットから取り除いて新たなサンプルセットを構築し、
    ｆ）前記新たなサンプルセットを前記初期サンプルセットに設定して、前記ステップａ）からｅ）を繰り返す、各ステップを実行することにより形成した、前記重回帰式と前記取り除くサンプルとを含む複数のセットにより形成される、前記第１のステップと、
    前記目的変数が未知のサンプルと前記初期サンプルセット中の個々のサンプルとの構造の類似度を算出する第２のステップと、
    前記算出された類似度に基づいて、前記未知サンプルに最も近い構造を有するサンプルを特定する第３のステップと、
    前記複数の予測モデルのうち、前記特定されたサンプルとセットとされる前記重回帰式に基づいて、前記未知サンプルの目的変数を算出する第４のステップ、とを備える、未知サンプルの目的変数予測方法。