JP4392622B2 - 情報処理装置、情報処理方法、およびプログラム - Google Patents

Description

本発明は、情報処理装置、情報処理方法、およびプログラムに関し、特に、例えば、楽曲データなどのコンテンツデータの特徴量を計算できる特徴量計算アルゴリズムを自動的に構築するようにした情報処理装置、情報処理方法、およびプログラムに関する。

従来、楽曲データや画像データなどを入力データとして、前記入力データの特徴量（入力データが楽曲データである場合、速さ、明るさ、にぎやかさ等）を出力することができる特徴量計算アルゴリズムを自動的に構築する発明が提案されている（例えば、特許文献１参照）。

米国特許出願公報 ＵＳ２００４／０１８１４０１Ａ１

しかしながら、従来技術によって自動的に構築された特徴量計算アルゴリズムは、人手によって構築した特徴量計算アルゴリズムに比較して冗長な演算を含んでいることが多く、結果として入力データに対応する特徴量を得る演算に要する時間が長くなってしまうことがあった。

なお、以下、本明細書においては、自動的に構築しようとする特徴量計算アルゴリズムによって計算するまでもなく得ることができる既存の特徴量を既存特徴量と称する。これに対して、特徴量計算アルゴリズムによって得ようとする特徴量を目的特徴量と称する。

本発明はこのような状況に鑑みてなされたものであり、入力データに対応する目的特徴量を冗長なく計算する特徴量計算アルゴリズムを自動的に構築するようにするものである。

本発明の一側面である情報処理装置は、前世代の遺伝子に対して、選択処理、交差処理、突然変異処理、およびランダム生成処理を行うことにより、次世代の遺伝子を生成する遺伝的アルゴリズムを用い、入力データに対応する目的特徴量を出力する目的特徴量計算式を生成する情報処理装置において、複数の演算子から成る特徴量抽出式を複数含む次世代の特徴量抽出式リストを、前世代の前記特徴量抽出式リストに含まれる複数の特徴量抽出式を前記遺伝子とみなし、所定の評価値計算方法により計算された前記特徴量抽出式の評価値に基づいた前記遺伝的アルゴリズムを用いて前世代の前記特徴量抽出式リストを更新することにより生成する特徴量抽出式リスト生成手段と、前記特徴量抽出式リストに含まれる各特徴量抽出式に、教師データとして供給された実データを入力して、前記実データに対応する複数の特徴量を計算する特徴量計算手段と、計算された前記実データに対応する前記複数の特徴量を用いて、教師データとして供給された前記実データに対応する目的特徴量を推定するための所定の機械学習により、前記目的特徴量計算式を生成する目的特徴量計算式生成手段と、前記特徴量抽出式リストに含まれる各特徴量抽出式の前記評価値を所定の評価値計算方法により計算する評価値計算手段と、最終世代の前記特徴量抽出式リストに含まれる各特徴量抽出式中から、予め登録されている冗長な演算子の組み合わせを示す最適化パターンを検出して、演算子を削除またはより演算負荷が小さい演算子に置換する第１の最適化処理、または最終世代の前記特徴量抽出式リストに含まれる各特徴量抽出式を変形させて複数の最適化候補式を生成し、生成した前記複数の最適化候補式のうち、変形元の前記特徴量抽出式の出力と相関度が高い出力を得られるものであって計算時間が短いものほど良い評価を与え、生成した前記複数の最適化候補式を前記遺伝子とみなし、前記最適化候補式の評価に基づいた前記遺伝的アルゴリズムを用いて、生成した前記複数の最適化候補式を更新し、最終的に最も評価の良い前記最適化候補式を、最終世代の前記特徴量抽出式リストに含まれる各特徴量抽出式の最適化結果とする第２の最適化処理の少なくとも一方を行うことにより、最終世代の前記特徴量抽出式リストに含まれる複数の各特徴量抽出式を最適化する最適化手段とを含む。
前記目的特徴量計算式生成手段は、各特徴量抽出式に対して計算された複数の特徴量ｆｊと係数ｂとの線形結合によって前記目的特徴量計算式を表現した場合に、前記教師データを用いた線形判別または線形回帰を行うことにより前記目的特徴量計算式を生成し、前記評価値計算手段は、前記特徴量抽出式の前記評価値として、生成される各目的特徴量抽出式に対する前記特徴量抽出式の寄与率を合計した合計寄与率を計算するか、またはpearson相関係数の平均値を計算するようにすることができる。

前記最適化手段は、最適化された前記特徴量抽出式を用い、最終世代の前記特徴量抽出式リストに対応して生成されている前記目的特徴量計算式を再構築する再構築手段を含むようにすることができる。

本発明の一側面である情報処理方法は、前世代の遺伝子に対して、選択処理、交差処理、突然変異処理、およびランダム生成処理を行うことにより、次世代の遺伝子を生成する遺伝的アルゴリズムを用い、入力データに対応する目的特徴量を出力する目的特徴量計算式を生成する情報処理装置の情報処理方法において、複数の演算子から成る特徴量抽出式を複数含む特徴量抽出式リストをランダムに生成し、前記特徴量抽出式リストに含まれる各特徴量抽出式に、教師データとして供給された実データを入力して、前記実データに対応する複数の特徴量を計算し、計算された前記実データに対応する前記複数の特徴量を用いて、教師データとして供給された前記実データに対応する目的特徴量を推定するための所定の機械学習により、前記目的特徴量計算式を生成し、前記特徴量抽出式リストに含まれる各特徴量抽出式の評価値を所定の評価値計算方法により計算し、次世代の前記特徴量抽出式リストを、前世代の前記特徴量抽出式リストに含まれる複数の特徴量抽出式を前記遺伝子とみなし、所定の評価値計算方法により計算された前記特徴量抽出式の評価値に基づいた前記遺伝的アルゴリズムを用いて前世代の前記特徴量抽出式リストを更新することにより生成し、最終世代の前記特徴量抽出式リストに含まれる各特徴量抽出式中から、予め登録されている冗長な演算子の組み合わせを示す最適化パターンを検出して、演算子を削除またはより演算負荷が小さい演算子に置換する第１の最適化処理、または最終世代の前記特徴量抽出式リストに含まれる各特徴量抽出式を変形させて複数の最適化候補式を生成し、生成した前記複数の最適化候補式のうち、変形元の前記特徴量抽出式の出力と相関度が高い出力を得られるものであって計算時間が短いものほど良い評価を与え、生成した前記複数の最適化候補式を前記遺伝子とみなし、前記最適化候補式の評価に基づいた前記遺伝的アルゴリズムを用いて、生成した前記複数の最適化候補式を更新し、最終的に最も評価の良い前記最適化候補式を、最終世代の前記特徴量抽出式リストに含まれる各特徴量抽出式の最適化結果とする第２の最適化処理の少なくとも一方を行うことにより、最終世代の前記特徴量抽出式リストに含まれる複数の各特徴量抽出式を最適化するステップを含む。

本発明の一側面であるプログラムは、前世代の遺伝子に対して、選択処理、交差処理、突然変異処理、およびランダム生成処理を行うことにより、次世代の遺伝子を生成する遺伝的アルゴリズムを用い、入力データに対応する目的特徴量を出力する目的特徴量計算式を生成する情報処理装置の制御用のプログラムであって、複数の演算子から成る特徴量抽出式を複数含む特徴量抽出式リストをランダムに生成し、前記特徴量抽出式リストに含まれる各特徴量抽出式に、教師データとして供給された実データを入力して、前記実データに対応する複数の特徴量を計算し、計算された前記実データに対応する前記複数の特徴量を用いて、教師データとして供給された前記実データに対応する目的特徴量を推定するための所定の機械学習により、前記目的特徴量計算式を生成し、前記特徴量抽出式リストに含まれる各特徴量抽出式の評価値を所定の評価値計算方法により計算し、次世代の前記特徴量抽出式リストを、前世代の前記特徴量抽出式リストに含まれる複数の特徴量抽出式を前記遺伝子とみなし、所定の評価値計算方法により計算された前記特徴量抽出式の評価値に基づいた前記遺伝的アルゴリズムを用いて前世代の前記特徴量抽出式リストを更新することにより生成し、最終世代の前記特徴量抽出式リストに含まれる各特徴量抽出式中から、予め登録されている冗長な演算子の組み合わせを示す最適化パターンを検出して、演算子を削除またはより演算負荷が小さい演算子に置換する第１の最適化処理、または最終世代の前記特徴量抽出式リストに含まれる各特徴量抽出式を変形させて複数の最適化候補式を生成し、生成した前記複数の最適化候補式のうち、変形元の前記特徴量抽出式の出力と相関度が高い出力を得られるものであって計算時間が短いものほど良い評価を与え、生成した前記複数の最適化候補式を前記遺伝子とみなし、前記最適化候補式の評価に基づいた前記遺伝的アルゴリズムを用いて、生成した前記複数の最適化候補式を更新し、最終的に最も評価の良い前記最適化候補式を、最終世代の前記特徴量抽出式リストに含まれる各特徴量抽出式の最適化結果とする第２の最適化処理の少なくとも一方を行うことにより、最終世代の前記特徴量抽出式リストに含まれる複数の各特徴量抽出式を最適化するステップを含む処理を情報処理装置のコンピュータに実行させる。

本発明の一側面においては、複数の演算子から成る特徴量抽出式を複数含む特徴量抽出式リストがランダムに生成され、特徴量抽出式リストに含まれる各特徴量抽出式に、教師データとして供給された実データが入力されて、実データに対応する複数の特徴量が計算される。また、計算された実データに対応する複数の特徴量を用いて、教師データとして供給された実データに対応する目的特徴量を推定するための所定の機械学習により目的特徴量計算式が生成され、特徴量抽出式リストに含まれる各特徴量抽出式の評価値が所定の評価値計算方法により計算される。そして、次世代の前記特徴量抽出式リストが、前世代の特徴量抽出式リストに含まれる複数の特徴量抽出式を遺伝子とみなし、所定の評価値計算方法により計算された特徴量抽出式の評価値に基づいた遺伝的アルゴリズムを用いて前世代の前記特徴量抽出式リストが更新されることにより生成される。さらに、最終世代の特徴量抽出式リストに含まれる複数の各特徴量抽出式が第１または第２の最適化処理の少なくとも一方により最適化される。

本発明の一側面によれば、入力データに対応する目的特徴量を冗長なく計算できる特徴量計算アルゴリズムを自動的に構築することができる。

以下、本発明を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。

本発明を適用した目的特徴量計算式構築システム１０（図３）は、図１に示すような、入力データＣとそれに対応する複数の既存特徴量Ｆ１_C，Ｆ２_C，・・・，Ｆｎ_Cを入力とし、当該入力データに対応する複数の目的特徴量Ｉをそれぞれ出力する目的特徴量計算式１を、供給される複数の教師データを用いた機械学習によって生成するものである。

図２は、教師データのデータ構造を示している。すなわち、教師データＴ_i（ｉ＝１，２，・・・，Ｌ）は、入力データＣと同じ種類のデータである実データＤ_i、実データＤ_iに対応する複数の既存特徴量Ｆ１_i乃至Ｆｎ_i、および実データＤ_iに対応する複数の目的特徴量Ｉ１_i乃至Ｉｋ_iから構成される。

既存特徴量Ｆ１_i乃至Ｆｎ_iは、実データＤ_iから既存の方法によって検出される実データＤ_iの特徴を示す値である。目的特徴量Ｉ１_i乃至Ｉｋ_iは、既存の方法では検出できない実データＤ_iの特徴を示す値であり、例えば、実データＤ_iを複数の人にモニタリングさせて得られる感想を数値化するなどして決定された値である。

図２に示されたように、目標特徴量がｋ種類である場合、目的特徴量計算式構築システム１０によってｋ本の目的特徴量計算式が生成されることになる。

なお、入力データＣは、多次元のデータであればよく、その種類は任意である。例えば、時間の次元とチャンネルの次元を有する楽曲データ、Ｘ次元とＹ次元と画素の次元を有する画像データ、画像データに時間の次元を加えた動画像データなどを入力データＣとすることができる。

なお、以下の説明においては、楽曲データを入力データＣとした例について説明する。楽曲データに対応する複数の既存特徴量としては、テンポ、スピード、テンポの揺らぎなどを挙げることができる。また、楽曲データに対応する目的特徴量としては、楽曲データの明るさ、速さ、楽器の多さなどを挙げることができる。

図３は、本発明を適用した目的特徴量計算式構築システム１０の構成例を示している。この目的特徴量計算式構築システム１０は、複数の特徴量抽出式からなる特徴量抽出式リストを生成、更新する特徴量抽出式リスト生成部１１、生成された各特徴量抽出式に教師データＴｉの実データＤｉを代入して特徴量を計算する特徴量計算部１２、特徴量計算部１２によって計算された教師データＴ_iに対応する特徴量と教師データＴ_iの既存特徴量Ｆ１_i乃至Ｆｎ_iから教師データＴ_iの目的特徴量Ｉ１_i乃至Ｉｋ_iをそれぞれ推定できる目的特徴量計算式を機械学習により生成するとともに各特徴抽出式の評価値を計算する目的特徴量計算式生成部１３、および、最終的に更新された最終世代の特徴量抽出式リストと目的特徴量計算式を最適化する最適化部１５から構成される。

特徴量抽出式リスト生成部１１は、第１世代の特徴量抽出式リストを構成する複数の特徴量抽出式をランダムに生成して特徴量計算部１２に出力する。

ここで、特徴量抽出式リスト生成部１１によって生成される特徴量抽出式について、図４を参照して説明する。図４Ａ乃至図４Ｄは、それぞれ特徴量抽出式の例を示している。

特徴量抽出式には、左端に入力データの種類が記述され、入力データの種類の右側には、１種類以上のオペレータ（演算子）が演算される順序に従って記述される。各オペレータには、適宜、処理対称軸とパラメータが含まれる。

オペレータの種類としては、平均値（Mean）、高速フーリエ変換（FFT）、標準偏差(StDev)、出現率(Ratio)、ローパスフィルタ(LPF)、ハイパスフィルタ(HPF)、絶対値(ABS)、２乗(Sqr)、平方根(Sqrt)、正規化(Normalize)、微分(Differential)、積分(Integrate)、最大値(MaxIndex)、不偏分散(UVariance)、ダウンサンプリング(DownSampling)などを挙げることができる。なお、決定されたオペレータによっては処理対称軸が固定されていることがあるので、その場合、パラメータに固定されている処理対称軸を採用する。また、パラメータを必要とするオペレータが決定された場合、パラメータもランダムまたは予め設定されている値に決定する。

例えば、図４Ａに示された特徴量抽出式の場合、12TonesMが入力データであり、32#Differential，32#MaxIndex,16#LPF_1;O.861，16#UVarianceそれぞれがオペレータである。また、各オペレータ中の32#，16#などは処理対称軸を示している。

ここで、12TonesMはモノラルのPCM(pulse coded modulation sound source)波形データを時間軸に沿って音程解析したものであることを示しており、48#はチャンネル軸、32#は周波数軸と音程軸、16#は時間軸を示している。オペレータ中の0.861はローパスフィルタ処理におけるパラメータであり、例えば透過させる周波数の閾値を示している。

なお、第１世代の特徴量抽出式リストを構成する各特徴量抽出式の入力データの種類は入力データＣと同じもの、オペレータの数と種類はランダムに決定されるが、各特徴量抽出式を生成する際の制約として、図５に示すように、複数のオペレータに対応する演算が順次実行されるにつれて、演算結果の保有次元数が順次減少し、特徴量抽出式の最終的な演算結果がスカラになるか、あるいはその次元数が所定の小さい値（例えば、１，２など）となるようになされている。

図４Ａ乃至図４Ｄに示された例から明らかなように、特徴量抽出式によって計算される特徴量は、例えば、楽曲データに対するテンポ、画像データに対する画素のヒストグラムなどのように、既存の概念で有意義と判断される値になるわけではない。すなわち、特徴量抽出式によって計算される特徴量は、単に入力データを特徴量抽出式に代入したときの演算結果に過ぎないものでよい。

以下、特徴量抽出式リスト生成部１１によって生成される特徴量抽出式リストは、図６に示すように、ｍ本の特徴量抽出式ｆ１乃至ｆｍによって構成されているものとする。特徴量抽出式ｆ１乃至ｆｍの入力データであるWavMはモノラルのPCM波形データであり、保有次元は時間軸とチャンネル軸である。

図３に戻る。特徴量抽出式リスト生成部１１はまた、第２世代以降の特徴量抽出式リストを、前世代の特徴量抽出式リストを遺伝的アルゴリズム(GA:genetic algorism)に従って更新することによって生成する。

ここで、遺伝的アルゴリズムとは、現世代の遺伝子から、選択処理、交差処理、突然変異処理、およびランダム生成処理により、次世代の遺伝子を生成するアルゴリズムを指す。具体的には、特徴量抽出式リストを構成する複数の各特徴量抽出式を遺伝子とみなし、現世代の特徴量抽出式リストを構成する複数の特徴量抽出式の評価値に応じて選択処理、交差処理、突然変異処理、およびランダム生成処理を行い、次世代の特徴量抽出式リストを生成する。

すなわち、例えば図７に示すように、選択処理では、現世代の特徴量抽出式リストを構成する複数の特徴量抽出式のうち、評価値の高い特徴量抽出式ｆ２を選択して次世代の特徴量抽出式リストに含める。交差処理では、現世代の特徴量抽出式リストを構成する複数の特徴量抽出式のうち、評価値の高い複数の特徴量抽出式ｆ２とｆ５を交差させて（組み合わせて）特徴量抽出式を生成し、次世代の特徴量抽出式リストに含める。

突然変異処理では、現世代の特徴量抽出式リストを構成する複数の特徴量抽出式のうち、評価値の高い特徴量抽出式ｆ２を部分的に突然変異させて（変更して）特徴量抽出式を生成し、次世代の特徴量抽出式リストに含める。ランダム生成処理では、新たな特徴量抽出式をランダムに生成して次世代の特徴量抽出式リストに含める。

図３に戻る。特徴量計算部１２は、特徴量抽出式リスト生成部１１から供給された特徴量抽出式リストを構成する各特徴量抽出式ｆ１乃至ｆｍに、供給される教師データＴ_iの実データＤ_iを代入し、教師データＴ_iに対する特徴量を計算するとともに、各特徴量抽出式ｆ１乃至ｆｍの計算に要した計算時間も測定し、特徴量抽出式毎に異なるＬ個の実データＤ_iを代入して計算したときの平均計算時間を算出する。計算された特徴量と算出された平均計算時間は目的特徴量計算式生成部１３に供給される。

上述したように、教師データＴ_iの数はＬ、特徴量抽出式リストを構成する特徴量抽出式の数はｍであるので、特徴量計算部１２では、（Ｌ×ｍ）個の特徴量が算出されることになる。以下、特徴量抽出式ｆｊ（ｊ＝１，２，・・・，ｍ）に、教師データＴ_i（ｉ＝１，２，・・・，Ｌ）の実データＤ_iを代入して計算された特徴量をｆｊ[Ｔ_i]と記述する。

目的特徴量計算式生成部１３は、特徴量計算部１２から現世代の特徴量抽出式リストに対応する（Ｌ×ｍ）個の特徴量ｆｊ[Ｔ_i]が供給される毎、例えば次式（１）に示される、入力データＣに対応する既存特徴量Ｆ１_C乃至Ｆｎ_Cと特徴量ｆ１[Ｃ]乃至ｆｍ[Ｃ]との線形結合によって入力データＣに対応する目的特徴量Ｉ１_Cを推定する目的特徴量計算式を、特徴量計算部１２の計算結果である（Ｌ×ｍ）個の特徴量ｆｊ[Ｔ_i]、教師データＴ_iに含まれる（Ｌ×ｎ）個の既存特徴量Ｆ１_i乃至Ｆｎ_i、および、教師データＴ_iに含まれるＬ個の目的特徴量Ｉ１_iを用いた機械学習（特徴選択付き線形判別または回帰）によって生成する。
目的特徴量Ｉ１_C＝ｂ₀＋ｂ₁・Ｆ１_C＋ｂ₂・Ｆ２_C＋・・・＋ｂ_n・Ｆｎ_C
＋ｂ_n+1・ｆ１[Ｃ]＋ｂ_n+2・ｆ２[Ｃ]＋・・・＋ｂ_n+m・ｆｍ[Ｃ]
・・・（１）

なお、式（１）において、ｂ₀は切片であり、ｂ₁，ｂ₂，・・・，ｂ_n+mは線形結合係数である。また、目的特徴量計算式生成部１３で実際に生成される目的特徴量計算式では、既存特徴量Ｆ１_C乃至Ｆｎ_Cと特徴量ｆ１[Ｃ]乃至ｆｍ[Ｃ]の全てが使用されるわけではなく、選択的に使用される。この場合、使用されない既存特徴量Ｆ１_C乃至Ｆｎ_Cや特徴量ｆ１[Ｃ]乃至ｆｍ[Ｃ]に対応する線形結合係数は０とされる。

同様に、入力データＣに対応する既存特徴量Ｆ１_C乃至Ｆｎ_Cと特徴量ｆ１[Ｃ]乃至ｆｍ[Ｃ]との線形結合によって入力データＣに対応する目的特徴量Ｉ２_C乃至Ｉｋ_Cをそれぞれ計算できる目的特徴量計算式も生成される。

したがって、目的特徴量計算式生成部１３ではｋ本の目的特徴量計算式が生成される。

そして、生成した目的特徴量計算式が所望の精度に到達するか、あるいはユーザから所定の指示が行われた場合、その時点での特徴量抽出式リストを最終世代の特徴量抽出式リストとして、目的特徴量計算式とともに最適化部１５に供給する。

また、目的特徴量計算式生成部１３は、内蔵する評価値計算部１４によって、現世代の特徴量抽出式リストを構成する各特徴量抽出式の評価値を計算する。すなわち、評価値計算部１４は、ｋ本の各目的特徴量計算式における各特徴量抽出式それぞれの寄与率を計算し、計算したｋ本分の寄与率を合計した合計寄与率を、現世代の特徴量抽出式リストを構成する各特徴量抽出式の評価値に決定する。

ここで、寄与率の計算方法について次式（２）を用いて説明する。なお、式（２）は、式（１）の既存特徴量Ｆ１_C，・・・，Ｆｎ_Cと特徴量ｆ１[Ｃ]，・・・，ｆｍ[Ｃ]を、Ｘ₁，Ｘ₂，・・・，Ｘ_n+mに置換したものである。
目的特徴量Ｉ１_C＝ｂ₀＋ｂ₁・Ｘ１＋ｂ₂・Ｘ２＋・・・＋ｂ_n+m・Ｘ_n+m
・・・（２）

（Ｘ_M）＝ｂ_M ×Stdev(Ｘ_M)／StDev（Ｉ１）×Correl（Ｘ_M，Ｉ１） ・・・（３）

（Ｘ_M）＝ｂ_M／Stdev(Ｘ_M)×StDev（Ｉ１）×Correl（Ｘ_M，Ｉ１） ・・・（３）

ここで、StDev(Ｘ_M)は、機械学習に用いたＬ個のＸ_Mの標準偏差を示す。

Stdev(Ｉ１)は、機械学習に用いた、教師データＴ_iに含まれるＬ個の目的特徴量Ｉ１_iの標準偏差を示す。

Correl（Ｘ_M，Ｉ１）は、機械学習に用いた、Ｌ個のＸ_Mと教師データＴ_iに含まれるＬ個の目的特徴量Ｉ１_iのpearsonの相関係数を示す。

なお、pearsonの相関係数Correl（Ｘ_M，Ｉ１）は、次式（４）に示されるように、Ｌ個のＸ_MとＬ個の目的特徴量Ｉ１_iとの共分散を、Ｌ個のＸ_Mの標準偏差とＬ個の目的特徴量Ｉ１_iの標準偏差の積で除算することにより算出される。
Correl（Ｘ_M，Ｉ１）
＝（Ｘ_MとＩ１_iとの共分散）／（Ｘ_Mの標準偏差×Ｉ１_iの標準偏差）
・・・（４）

なお、評価値計算部１４において、現世代の特徴量抽出式リストを構成する各特徴量抽出式ｆ１乃至ｆｍの評価値を、上述したように、目的特徴量計算式における各特徴量抽出式ｆ１乃至ｆｍの出力値である特徴量ｆ１[]乃至ｆｍ[]の寄与率に基づいて決定する代わりに、pearsonの相関係数に基づいて評価値を決定するようにしてもよい。

例えば、Ｌ個の教師データＴ_iの実データＤ_iをそれぞれ特徴量抽出式ｆ１に代入して計算したＬ個の特徴量ｆ１[Ｄ_i]と、Ｌ個の教師データＴ_iのｋ種類の目的特徴量Ｉ１_i乃至Ｉｋ_iとのpearson相関係数をそれぞれ算出し、算出したｋ個のpearson相関係数の平均値を、特徴量抽出式ｆ１の評価値とするようにしてもよい。

なおまた、評価値計算部１４において、各特徴量抽出式ｆ１乃至ｆｍの評価値を計算するだけでなく、各既存特徴量Ｆ１乃至Ｆｍの評価値も計算するようにしてもよい。

さらに、評価値計算部１４は、上述したようにして決定した、現世代の特徴量抽出式リストを構成する各特徴量抽出式ｆ１乃至ｆｍの評価値を、特徴量計算部１２から供給される各特徴量抽出式ｆ１乃至ｆｍの平均計算時間に基づいて修正する。具体的には、平均計算時間が所定の閾値以上である特徴量抽出式の評価値をその設定範囲の最低値に修正する。そして、修正済みの評価値を特徴量抽出式リスト生成部１１に通知する。

このような評価値の修正により、平均計算時間が所定の閾値以上である当該特徴量抽出式が次世代の特徴量抽出式リストに遺伝されないようにすることができる。したがって、次世代以降の特徴量計算部１２の演算負荷を軽減させることができる。なお、平均計算時間と比較する所定の閾値は、特徴量計算部１２の演算能力に応じて自動的に設定するようにしてもよし、ユーザが任意に設定できるようにしてもよい。

最適化部１５は、目的特徴量計算式生成部１３から供給される最終世代の特徴量抽出式リストを構成する特徴量抽出式ｆ１乃至ｆｍを最適化する特徴量抽出式最適化部１６と、最適化された特徴量抽出式ｆ１乃至ｆｍを用いて目的特徴量計算式を再構築する目的特徴量計算式再構築部１７を内蔵する。

特徴量抽出式最適化部１６は、最終世代の特徴量抽出式リストを構成する各特徴量抽出式ｆ１乃至ｆｍから、予め登録されている冗長な演算の組み合わせ（以下、最適化パターンと称する）を検出して、同等の演算結果を得られるより処理負荷の小さい演算に置換することにより第１次最適化を行う。以下に第１次最適化の例を挙げる。

絶対値を演算するオペレータAbsが２つ以上連続している最適化パターンは、２回目以降のオペレータAbsが冗長なので、１つのオペレータAbsに置換することにより最適化する。

正規化演算を示すオペレータNormalizeが２つ以上連続している最適化パターンは、２回目以降のオペレータNormalizeが冗長なので、１つのオペレータNormalizeに置換することにより最適化する。

２乗演算を示すオペレータSqrと、平方根を演算するオペレータSqrtが連続している最適化パターンは、同じ結果を得るより演算負荷の小さいオペレータAbsに置換することにより最適化する。

微分演算を示すオペレータDefferentialと、積分演算を示すオペレータIntegrateが連続している最適化パターンは、無駄な演算なので、オペレータDefferential，Integrateを削除することにより最適化する。

なお、最適化パターンとその最適化方法は上述した例に限定されるものではない。

さらに、特徴量抽出式最適化部１６は、各特徴量抽出式ｆ１乃至ｆｍを、より短い計算時間で同等の計算結果が得られるよう遺伝的アルゴリズムを利用して第２次最適化を行う。

目的特徴量計算式再構築部１７は、最適化された特徴量抽出式ｆ１乃至ｆｍと教師データを用いた機械学習により目的特徴量計算式を再構築する。

次に、目的特徴量計算式構築システム１０の動作について、図８のフローチャートを参照して説明する。

ステップＳ１において、特徴量抽出式リスト生成部１１は、第１世代の特徴量抽出式リストを構成するｍ本の特徴量抽出式をランダムに生成し、ｍ本の特徴量抽出式から成る特徴量抽出式リストを特徴量計算部１２に供給する。

ステップＳ２において、目的特徴量計算式構築システム１０は、教師データＴ_i（ｉ＝１，２，・・・，Ｌ）を取得する。取得された教師データＴ_iは、特徴量計算部１２、目的特徴量計算式生成部１３、および最適化部１５に供給される。

ステップＳ３において、特徴量計算部１２は、特徴量抽出式リスト生成部１１から供給された特徴量抽出式リストを構成する各特徴量抽出式ｆ１乃至ｆｍに、教師データＴ_iに含まれる実データＤ_iをそれぞれ代入して、（Ｌ×ｍ）個の特徴量ｆｊ[Ｔ_i]を計算するとともに、各特徴量抽出式ｆ１乃至ｆｍの計算に要した計算時間も測定し、特徴量抽出式毎に異なるＬ個の実データＤ_iを代入して計算したときの平均計算時間を算出する。計算された、（Ｌ×ｍ）個の特徴量ｆｊ[Ｔ_i]と、各特徴量抽出式ｆ１乃至ｆｍにそれぞれ対応する平均計算時間は目的特徴量計算式生成部１３に供給される。

ステップＳ４において、目的特徴量計算式生成部１３は、特徴量計算部１２による計算結果である（Ｌ×ｍ）個の特徴量ｆｊ[Ｔ_i]と、教師データＴ_iに含まれる（Ｌ×ｎ）個の既存特徴量Ｆ１_i乃至Ｆｎ_iとから、教師データＴ_iに含まれるＬ個の目的特徴量Ｉ１_iを推定する目的特徴量計算式を特徴選択付き線形判別または回帰により学習する。

目的特徴量計算式生成部１３によるステップＳ４の処理（以下、学習処理と称する）について、図９のフローチャートを参照して詳述する。

ステップＳ２１において、目的特徴量計算式生成部１３は、目的特徴量計算式を生成するにあたって、ｎ個の既存特徴量Ｆ１乃至Ｆｎとｍ個の特徴抽出式ｆ１乃至ｆｍの出力である特徴量ｆ１[]乃至ｆｍ[]のうち、使用する（選択する）ものと使用しないもの（非選択とする）を示す複数の選択テーブルＴＢをランダムに生成して第１世代の選択テーブル群を生成する。この選択テーブル群は、構成される複数の選択テーブルＴＢが遺伝子とみなされ、以下のステップＳ２９において遺伝的アルゴリズムに基づいて更新されることになる。

図１０は、生成される複数の選択テーブルＴＢからなる選択テーブル群の例を示している。なお、図１０において、丸印○は選択を示し、バツ印×は非選択を示している。

ステップＳ２２において、目的特徴量計算式生成部１３は、現世代の選択テーブル群を構成する各選択テーブルＴＢを順に１つずつ注目して選択テーブル群ループを開始する。なお、選択テーブル群ループは、選択テーブル群を構成する選択テーブルＴＢの数（図１０の例ではｘ）だけを繰り返される。

ステップＳ２３において、目的特徴量計算式生成部１３は、特徴量計算部１２から供給された各特徴量抽出式ｆ１乃至ｆｍにそれぞれ対応する平均計算時間を用い、注目している選択テーブルＴＢによって選択されている特徴量ｆｊ[]に対応する特徴抽出式ｆｊの平均計算時間の合計が所定の閾値以下であるか否かを判定する。この平均計算時間の合計と比較する所定の閾値は、目的特徴量計算式生成部１３などの演算能力に応じて自動的に設定するようにしてもよし、ユーザが任意に設定できるようにしてもよい。

平均計算時間の合計が所定の閾値以下であると判定された場合、処理はステップＳ２４に進められる。

ステップＳ２４において、目的特徴量計算式生成部１３は、特徴量計算部１２による計算結果である（Ｌ×ｍ）個の特徴量ｆｊ[Ｔ_i]と、教師データＴ_iに含まれる（Ｌ×ｎ）個の既存特徴量Ｆ１_i乃至Ｆｎ_iのうち、注目している選択テーブルＴＢによって選択されているものを用いた線形判別または回帰により目的特徴量の種類の数（ｋ）の目的特徴量計算式を学習する。

ステップＳ２５において、目的特徴量計算式生成部１３は、注目している選択テーブルＴＢの評価値として、ステップＳ２４の処理による学習結果の情報量基準AICを計算する。

なお、ステップＳ２３において、注目している選択テーブルＴＢによって選択されている特徴量ｆｊ[]に対応する特徴抽出式ｆｊの平均計算時間の合計が所定の閾値以下ではないと判定された場合、処理はステップＳ２６に進めらる。ステップＳ２６において、目的特徴量計算式生成部１３は、注目している選択テーブルＴＢの評価値をその設定範囲の最低値とする。このように、合計の平均計算時間が所定の閾値よりも長くなる選択テーブルを次世代に遺伝しないようにすることにより、生成される目的特徴量計算式の計算に要する時間が長くなることを抑止することできる。

ステップＳ２５またはステップＳ２６に処理で注目している選択テーブルＴＢの評価値が決定された後、処理はステップＳ２７に進められる。ステップＳ２７において、目的特徴量計算式生成部１３は、現世代の選択テーブル群を構成する全ての選択テーブルＴＢを注目したか否か判定し、注目していない選択テーブルＴＢが残っている場合、処理をステップＳ２２に戻し、ステップＳ２２乃至S２７の処理を繰り返す。そして、ステップＳ２７において、現世代の選択テーブル群を構成する全ての選択テーブルＴＢを注目したと判定された場合、処理はステップＳ２８に進められる。

ステップＳ２８において、目的特徴量計算式生成部１３は、最も評価が良い選択テーブルＴＢの評価値が、所定の数世代の間、向上していないか否かを判定する。そして、最も評価が良い選択テーブルＴＢの評価値が向上している、または、まだ向上しなくなってから所定の世代数が経過していないと判定された場合、処理はステップＳ２９に進められる。

ステップＳ２９において、目的特徴量計算式生成部１３は、現世代の選択テーブル群を各選択テーブルＴＢの評価値に基づく、遺伝的アルゴリズムによって更新することにより、次世代の選択テーブル群を生成する。処理はステップＳ２２に戻り、それ以降の処理が繰り返される。

そして、ステップＳ２８において、最も評価が良い選択テーブルＴＢの評価値が、所定の数世代の間、向上していないと判定された場合、処理は図８のステップＳ５に進められる。

以上説明した学習処理により、現世代の特徴量抽出式リストに対応するｋ種類の目的特徴量をそれぞれ計算するための目的特徴量計算式が生成されたことになる。

なお、上述した説明では、学習処理に、遺伝子的探索法とＡＩＣを用いるものとして説明したが、異なる方法により、学習処理を行ってもよい。また、既存特徴量や特徴抽出式の出力値の選択または非選択を決定に遺伝的アルゴリズムを用いる代わりに、近傍探索を用いるようにしてもよい。

例えば、近傍検索を用いる場合、ｎ個の既存特徴量Ｆ１乃至Ｆｎとｍ個の特徴抽出式ｆ１乃至ｆｍの出力である特徴量ｆ１[]乃至ｆｍ[]の全ての非選択として学習を開始する。そして、ｎ個の既存特徴量Ｆ１乃至Ｆｎとｍ個の特徴抽出式ｆ１乃至ｆｍの出力である特徴量ｆ１[]乃至ｆｍ[]のうちの１つを選択、その他を非選択としてｎ＋ｍ個の選択テーブルを生成し、各選択テーブルに対してＡＩＣなどで評価を行う。そして、最も評価が高い、すなわち、ＡＩＣの値の小さい選択テーブルを決定する。さらに、決定した選択テーブルを基に、ｎ個の既存特徴量Ｆ１乃至Ｆｎとｍ個の特徴抽出式ｆ１乃至ｆｍの出力である特徴量ｆ１[]乃至ｆｍ[]のうちのさらに１つを選択、その他を非選択としてｎ＋ｍ個の選択テーブルを生成して各選択テーブルに対してＡＩＣなどで評価を行う処理を行う。以上の処理を、ＡＩＣなどの評価が向上しなくなるまで繰り返せばよい。

図８に戻る。ステップＳ５において、目的特徴量計算式生成部１３の評価値計算部１４は、現時点で生成されているｋ本の各目的特徴量計算式における各特徴量抽出式ｆ１乃至ｆｍの計算結果である特徴量ｆ１[]乃至ｆｍ[]の寄与率を計算し、計算したｋ本分の寄与率を合計した合計寄与率を、現世代の特徴量抽出式リストを構成する各特徴量抽出式ｆ１乃至ｆｍの評価値に決定する。

なお、ステップＳ５において、現世代の特徴量抽出式リストを構成する各特徴量抽出式ｆ１乃至ｆｍの評価値を、上述したように、目的特徴量計算式における各特徴量抽出式ｆ１乃至ｆｍの出力値である特徴量ｆ１[]乃至ｆｍ[]の寄与率に基づいて決定する代わりに、pearsonの相関係数に基づいて評価値を決定するようにしてもよい。

ステップＳ６において、評価値計算部１４は、ステップＳ５の処理で決定した、現世代の特徴量抽出式リストを構成する各特徴量抽出式ｆ１乃至ｆｍの評価値を、特徴量計算部１２から供給される各特徴量抽出式ｆ１乃至ｆｍの平均計算時間に基づいて修正する。具体的には、平均計算時間が所定の閾値以上である特徴量抽出式の評価値をその設定範囲の最低値に修正する。そして、修正済みの評価値を特徴量抽出式リスト生成部１１に通知する。

ステップＳ７において、目的特徴量計算式生成部１３は、現時点で生成されている目的特徴量計算式による計算結果が所望の精度に達したか否か、または、ユーザにより終了操作が行われたか否かを判定する。計算結果が所望の精度に達しておらず、また、ユーザにより終了操作が行われていないと判定された場合、処理はステップＳ８に進められる。

ステップＳ８において、特徴量抽出式リスト生成部１１はまた、次世代の特徴量抽出式リストを、現世代の特徴量抽出式リストを遺伝的アルゴリズムに従って更新することによって生成する。この後、処理はステップＳ３に戻り、ステップＳ３以降の処理が繰り返される。

そして、ステップＳ７において、現時点で生成されている目的特徴量計算式による計算結果が所望の精度に達した、またはユーザにより終了操作が行われたと判定された場合、処理はステップＳ９に進められる。

ステップＳ９において、目的特徴量計算式生成部１３は、現世代の特徴量抽出式リストと、現時点で生成されている目的特徴量計算式を、最終世代の特徴量抽出式リストとそれに対応するｋ本の目的特徴量計算式として最適化部１５に出力する。

ステップＳ１０において、最適化部１５は、目的特徴量計算式生成部１３から入力された最終世代の特徴量抽出式リストの各特徴量抽出式ｆ１乃至ｆｍを最適化するとともに、最適化した各特徴量抽出式ｆ１乃至ｆｍを用いた目的特徴量計算式を再構築する。

最適化部１５によるステップＳ１０の処理について、図１１のフローチャートを参照して詳述する。

ステップＳ４１において、特徴量抽出式最適化部１６は、最終世代の特徴量抽出式リストを構成する各特徴量抽出式ｆ１乃至ｆｍ中から最適化パターンを検出して、同等の結果を得られるより処理負荷の小さい演算に置換する第１次最適化を行う。

ステップＳ４２において、特徴量抽出式最適化部１６は、第１次最適化後の各特徴量抽出式ｆ１乃至ｆｍを、より短い計算時間で同等の計算結果が得られるよう遺伝的アルゴリズムを利用して第２次最適化を行う。

特徴量抽出式最適化部１６によるステップＳ４２の処理について、図１２のフローチャートを参照して詳述する。

ステップＳ５１において、特徴量抽出式最適化部１６は、第１次最適化後の最終世代の特徴量抽出式リストを構成する特徴量抽出式ｆ１乃至ｆｍを順に１つずつ注目して特徴量抽出式リストループを開始する。なお、特徴量抽出式リストループは、特徴量抽出式リストを構成する特徴量抽出式ｆ１乃至ｆｍの数ｍ）だけ繰り返される。

ステップ５２において、特徴量抽出式最適化部１６は、注目する特徴量抽出式ｆｊの一部を突然変異させたＲ本の最適化候補式ｆｊ’_r（ｒ＝１，２，・・・，Ｒ）を生成し、第１世代の最適化候補式群とする。

ステップＳ５３において、特徴量抽出式最適化部１６は、注目する特徴量抽出式ｆｊにＳ個の評価データ（入力データＣと同じ種類のデータ）を代入して、Ｓ個の特徴量ｆｊ［］を計算する。

ステップＳ５４において、特徴量抽出式最適化部１６は、現世代の最適化候補式群を構成するＲ本の最適化候補式を順に１つずつ注目して最適化候補式群ループを開始する。なお、最適化候補式群ループは、最適化候補式群を構成する最適化候補式の数だけ繰り返される。

ステップＳ５５において、特徴量抽出式最適化部１６は、注目する最適化候補式ｆｊ’_rに、ステップ５３でも用いたＳ個の評価データを代入して、Ｓ個の特徴量ｆｊ’_r[]を計算するとともに、各評価データを代入したときの計算時間を測定し、さらに平均計算時間を算出する。

ステップＳ５６において、特徴量抽出式最適化部１６は、ステップＳ５３の処理結果であるＳ個の特徴量ｆｊ［］と、ステップＳ５５の処理結果であるＳ個の特徴量ｆｊ’_r[]との相関度を示すpearsonの相関係数を計算し、Ｓ個の特徴量ｆｊ［］と、Ｓ個の特徴量ｆｊ’_r[]との相関度がほぼ１．０であるか否かを判定する。そして、Ｓ個の特徴量ｆｊ［］と、Ｓ個の特徴量ｆｊ’_r[]との相関度がほぼ１．０であると判定された場合、処理はステップＳ５７に進められる。

ステップＳ５７において、特徴量抽出式最適化部１６は、注目する最適化候補式ｆｊ’_rの評価値として、ステップＳ５５の処理で算出された平均計算時間の逆数を設定する。

なお、ステップＳ５６において、Ｓ個の特徴量ｆｊ［］と、Ｓ個の特徴量ｆｊ’_r[]との相関度がほぼ１．０ではないとあるか否かを判定する。そして、Ｓ個の特徴量ｆｊ［］と、Ｓ個の特徴量ｆｊ’_r[]との相関度がほぼ１．０ではないと判定された場合、処理はステップＳ５８に進められる。

ステップＳ５８において、特徴量抽出式最適化部１６は、注目する最適化候補式ｆｊ’_rの評価値にその範囲の最低値を設定する。

ステップＳ５７の処理またはステップＳ５８の処理で、注目する最適化候補式ｆｊ’_rの評価値が決定された後、処理はステップＳ５９に進められる。ステップＳ５９において、特徴量抽出式最適化部１６は、現世代の最適化候補式群を構成する全ての最適化候補式ｆｊ’_rを注目したか否か判定し、注目していない最適化候補式ｆｊ’_rが残っている場合、処理をステップＳ５４に戻し、ステップＳ５４乃至S５９の処理を繰り返す。そして、ステップＳ５９において、現世代の最適化候補式群を構成する全ての最適化候補式ｆｊ’_rを注目したと判定された場合、処理はステップＳ６０に進められる。

ステップＳ６０において、特徴量抽出式最適化部１６は、最も評価が良い最適化候補式の評価値が、所定の数世代の間、向上していないか否かを判定する。そして、最も評価が良い最適化候補式の評価値が向上している、または、まだ向上しなくなってから所定の世代数が経過していないと判定された場合、処理はステップＳ６１に進められる。

ステップＳ６１において、特徴量抽出式最適化部１６は、現世代の最適化候補式群を各最適化候補式ｆｊ’_rの評価値に基づく、遺伝的アルゴリズムによって更新することにより、次世代の最適化候補式群を生成する。ただし、次世代の最適化候補式群には、前世代の最も評価が良い最適化候補式を含めるようにし、残りの（Ｒ−１）本の最適化候補式は、前世代の最も評価が良い最適化候補式と、注目する特徴量抽出式ｆｊとの一部をそれぞれ突然変異させて生成するようにする。処理はステップＳ５４に戻り、それ以降の処理が繰り返される。

そして、ステップＳ６０において、最も評価が良い最適化候補式の評価値が、所定の数世代の間、向上していないと判定された場合、処理はステップＳ６２に進められる。

以上、ステップＳ５２乃至Ｓ６０の処理により、第１次最適化後の最終世代の特徴量抽出式リストを構成する全ての特徴量抽出式のうちの１本に第２次最適化が行われたことになる。

ステップＳ６２において、特徴量抽出式最適化部１６は、第１次最適化後の最終世代の特徴量抽出式リストを構成する全ての特徴量抽出式ｆ１乃至ｆｍを注目したか否か判定し、注目していない特徴量抽出式ｆｊが残っている場合、処理をステップＳ５１に戻し、ステップＳ５１乃至Ｓ６２の処理を繰り返す。そして、ステップＳ６２において、第１次最適化後の最終世代の特徴量抽出式リストを構成する全ての特徴量抽出式ｆ１乃至ｆｍを注目したと判定された場合、第１次最適化後の最終世代の特徴量抽出式リストを構成する全ての特徴量抽出式ｆ１乃至ｆｍに第２次最適化が行われたことになるので、処理は図１１のステップＳ４３に進められる。

図１１に戻る。ステップＳ４３において、目的特徴量計算式再構築部１７は、第２次最適化された特徴量抽出式ｆ１乃至ｆｍと教師データを元にして、統計解析、機械学習により、目的特徴量計算式生成部１３から供給されたｋ本の目的特徴量計算式を再構築する。そして、最終的な特徴量抽出式リストと目的特徴量計算式が出力されて、目的特徴量計算式構築システム１０の動作が終了される。

以上、目的特徴量計算式構築システム１０の動作説明を終了する。

以上説明したように、本発明を適用した目的特徴量計算式構築システム１０によれば、既存特徴量を利用して目的特徴量計算式を自動構築するので、特徴量計算式の計算結果のみを用いて目的特徴量計算式を構築した場合と比較して、冗長と成りがちな特徴量抽出式の数を少なくすることができる。よって、目的特徴量計算式から目的特徴量を計算するときの演算処理量を減少させることができる。

また、本発明を適用した目的特徴量計算式構築システム１０によれば、計算時間が長い特徴量計算式の遺伝子を遺伝的アルゴリズムにおいて後世に残さないようにしているので、演算時間に制約を設けた目的特徴量計算式を構築することができる。また、目的特徴量計算式の構築時間が短縮することができる。

さらに、本発明を適用した目的特徴量計算式構築システム１０によれば、特徴量抽出式リストを構成する特徴量抽出式を最適化しているので、目的特徴量計算式から目的特徴量を計算するときの演算処理量を減少させることができる。

ところで、上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。

図１３は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。

このコンピュータ１００において、CPU（Central Processing Unit）１０１，ROM（Read Only Memory）１０２，RAM（Random Access Memory）１０３は、バス１０４により相互に接続されている。

バス１０４には、さらに、入出力インタフェース１０５が接続されている。入出力インタフェース１０５には、キーボード、マウス、マイクロホンなどよりなる入力部１０６、ディスプレイ、スピーカなどよりなる出力部１０７、ハードディスクや不揮発性のメモリなどよりなる記憶部１０８、ネットワークインタフェースなどよりなる通信部１０９、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどの着脱可能な記録媒体１１１を駆動するドライブ１１０が接続されている。

以上のように構成されるコンピュータでは、CPU１０１が、例えば、記憶部１０８に記憶されているプログラムを、入出力インタフェース１０５およびバス１０４を介して、RAM１０３にロードして実行することにより、上述した一連の処理が行われる。

なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。

また、プログラムは、１台のコンピュータにより処理されるものであってもよいし、複数のコンピュータによって分散処理されるものであってもよい。さらに、プログラムは、遠方のコンピュータに転送されて実行されるものであってもよい。

また、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。

なお、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。

本発明が適用された目的特徴量計算式構築システムによって生成される目的特徴量計算式を説明する図である。 教師データのデータ構造を示す図である。 本発明が適用された目的特徴量計算式構築システムの構成例を示すブロック図である。 特徴量抽出式の例を示す図である。 特徴量抽出式の構成を説明する図である。 特徴量抽出式リストの例を示す図である。 遺伝的アルゴリズムを説明するための図である。 本発明が適用された目的特徴量計算式構築システムの動作を説明するフローチャートである。 図８のステップＳ４を詳述するフローチャートである。 選択テーブル群の例を示す図である。 図８のステップＳ１０を詳述するフローチャートである。 図１１のステップＳ４２を詳述するフローチャートである。 コンピュータの構成例を示すブロック図である。

符号の説明

１０ 目的特徴量計算式構築システム， １１ 特徴量抽出式リスト生成部， １２ 特徴量計算部， １３ 目的特徴量計算式生成部， １４ 評価値計算部， １５ 最適化部， １６ 特徴量抽出式最適化部， １７ 目的特徴量計算式再構築部， １０１ CPU， １１１ 記録媒体

Claims (5)

1. 前世代の遺伝子に対して、選択処理、交差処理、突然変異処理、およびランダム生成処理を行うことにより、次世代の遺伝子を生成する遺伝的アルゴリズムを用い、入力データに対応する目的特徴量を出力する目的特徴量計算式を生成する情報処理装置において、
   複数の演算子から成る特徴量抽出式を複数含む次世代の特徴量抽出式リストを、前世代の前記特徴量抽出式リストに含まれる複数の特徴量抽出式を前記遺伝子とみなし、所定の評価値計算方法により計算された前記特徴量抽出式の評価値に基づいた前記遺伝的アルゴリズムを用いて前世代の前記特徴量抽出式リストを更新することにより生成する特徴量抽出式リスト生成手段と、
   前記特徴量抽出式リストに含まれる各特徴量抽出式に、教師データとして供給された実データを入力して、前記実データに対応する複数の特徴量を計算する特徴量計算手段と、
   計算された前記実データに対応する前記複数の特徴量を用いて、教師データとして供給された前記実データに対応する目的特徴量を推定するための所定の機械学習により、前記目的特徴量計算式を生成する目的特徴量計算式生成手段と、
   前記特徴量抽出式リストに含まれる各特徴量抽出式の前記評価値を所定の評価値計算方法により計算する評価値計算手段と、
   最終世代の前記特徴量抽出式リストに含まれる各特徴量抽出式中から、予め登録されている冗長な演算子の組み合わせを示す最適化パターンを検出して、演算子を削除またはより演算負荷が小さい演算子に置換する第１の最適化処理、または最終世代の前記特徴量抽出式リストに含まれる各特徴量抽出式を変形させて複数の最適化候補式を生成し、生成した前記複数の最適化候補式のうち、変形元の前記特徴量抽出式の出力と相関度が高い出力を得られるものであって計算時間が短いものほど良い評価を与え、生成した前記複数の最適化候補式を前記遺伝子とみなし、前記最適化候補式の評価に基づいた前記遺伝的アルゴリズムを用いて、生成した前記複数の最適化候補式を更新し、最終的に最も評価の良い前記最適化候補式を、最終世代の前記特徴量抽出式リストに含まれる各特徴量抽出式の最適化結果とする第２の最適化処理の少なくとも一方を行うことにより、最終世代の前記特徴量抽出式リストに含まれる複数の各特徴量抽出式を最適化する最適化手段と
   を含む情報処理装置。
2. 前記目的特徴量計算式生成手段は、各特徴量抽出式に対して計算された複数の特徴量ｆｊと係数ｂとの線形結合によって前記目的特徴量計算式を表現した場合に、前記教師データを用いた線形判別または線形回帰を行うことにより前記目的特徴量計算式を生成し、
   前記評価値計算手段は、前記特徴量抽出式の前記評価値として、生成される各目的特徴量抽出式に対する前記特徴量抽出式の寄与率を合計した合計寄与率を計算するか、またはpearson相関係数の平均値を計算する
   請求項１に記載の情報処理装置。
3. 前記最適化手段は、
   最適化された前記特徴量抽出式を用い、最終世代の前記特徴量抽出式リストに対応して生成されている前記目的特徴量計算式を再構築する再構築手段を含む
   請求項２に記載の情報処理装置。
4. 前世代の遺伝子に対して、選択処理、交差処理、突然変異処理、およびランダム生成処理を行うことにより、次世代の遺伝子を生成する遺伝的アルゴリズムを用い、入力データに対応する目的特徴量を出力する目的特徴量計算式を生成する情報処理装置の情報処理方法において、
   複数の演算子から成る特徴量抽出式を複数含む特徴量抽出式リストをランダムに生成し、
   前記特徴量抽出式リストに含まれる各特徴量抽出式に、教師データとして供給された実データを入力して、前記実データに対応する複数の特徴量を計算し、
   計算された前記実データに対応する前記複数の特徴量を用いて、教師データとして供給された前記実データに対応する目的特徴量を推定するための所定の機械学習により、前記目的特徴量計算式を生成し、
   前記特徴量抽出式リストに含まれる各特徴量抽出式の評価値を所定の評価値計算方法により計算し、
   次世代の前記特徴量抽出式リストを、前世代の前記特徴量抽出式リストに含まれる複数の特徴量抽出式を前記遺伝子とみなし、所定の評価値計算方法により計算された前記特徴量抽出式の評価値に基づいた前記遺伝的アルゴリズムを用いて前世代の前記特徴量抽出式リストを更新することにより生成し、
   最終世代の前記特徴量抽出式リストに含まれる各特徴量抽出式中から、予め登録されている冗長な演算子の組み合わせを示す最適化パターンを検出して、演算子を削除またはより演算負荷が小さい演算子に置換する第１の最適化処理、または最終世代の前記特徴量抽出式リストに含まれる各特徴量抽出式を変形させて複数の最適化候補式を生成し、生成した前記複数の最適化候補式のうち、変形元の前記特徴量抽出式の出力と相関度が高い出力を得られるものであって計算時間が短いものほど良い評価を与え、生成した前記複数の最適化候補式を前記遺伝子とみなし、前記最適化候補式の評価に基づいた前記遺伝的アルゴリズムを用いて、生成した前記複数の最適化候補式を更新し、最終的に最も評価の良い前記最適化候補式を、最終世代の前記特徴量抽出式リストに含まれる各特徴量抽出式の最適化結果とする第２の最適化処理の少なくとも一方を行うことにより、最終世代の前記特徴量抽出式リストに含まれる複数の各特徴量抽出式を最適化する
   ステップを含む情報処理方法。
5. 前世代の遺伝子に対して、選択処理、交差処理、突然変異処理、およびランダム生成処理を行うことにより、次世代の遺伝子を生成する遺伝的アルゴリズムを用い、入力データに対応する目的特徴量を出力する目的特徴量計算式を生成する情報処理装置の制御用のプログラムであって、
   複数の演算子から成る特徴量抽出式を複数含む特徴量抽出式リストをランダムに生成し、
   前記特徴量抽出式リストに含まれる各特徴量抽出式に、教師データとして供給された実データを入力して、前記実データに対応する複数の特徴量を計算し、
   計算された前記実データに対応する前記複数の特徴量を用いて、教師データとして供給された前記実データに対応する目的特徴量を推定するための所定の機械学習により、前記目的特徴量計算式を生成し、
   前記特徴量抽出式リストに含まれる各特徴量抽出式の評価値を所定の評価値計算方法により計算し、
   次世代の前記特徴量抽出式リストを、前世代の前記特徴量抽出式リストに含まれる複数の特徴量抽出式を前記遺伝子とみなし、所定の評価値計算方法により計算された前記特徴量抽出式の評価値に基づいた前記遺伝的アルゴリズムを用いて前世代の前記特徴量抽出式リストを更新することにより生成し、
   最終世代の前記特徴量抽出式リストに含まれる各特徴量抽出式中から、予め登録されている冗長な演算子の組み合わせを示す最適化パターンを検出して、演算子を削除またはより演算負荷が小さい演算子に置換する第１の最適化処理、または最終世代の前記特徴量抽出式リストに含まれる各特徴量抽出式を変形させて複数の最適化候補式を生成し、生成した前記複数の最適化候補式のうち、変形元の前記特徴量抽出式の出力と相関度が高い出力を得られるものであって計算時間が短いものほど良い評価を与え、生成した前記複数の最適化候補式を前記遺伝子とみなし、前記最適化候補式の評価に基づいた前記遺伝的アルゴリズムを用いて、生成した前記複数の最適化候補式を更新し、最終的に最も評価の良い前記最適化候補式を、最終世代の前記特徴量抽出式リストに含まれる各特徴量抽出式の最適化結果とする第２の最適化処理の少なくとも一方を行うことにより、最終世代の前記特徴量抽出式リストに含まれる複数の各特徴量抽出式を最適化する
   ステップを含む処理を情報処理装置のコンピュータに実行させるプログラム。

Images