JP2019516148A - 遺伝的アルゴリズムに基づく大域的最適化、検索並びに機械学習法 - Google Patents

Abstract

【課題】遺伝的アルゴリズムに基づく大域的最適化、検索並びに機械学習法を提供する。【解決手段】本発明の遺伝的アルゴリズムに基づく大域的最適化、検索並びに機械学習法は、問題物質の構造の目的関数ｆ（ｘ）に基づく工程１と、問題物質が遺伝的アルゴリズムの染色体として編集され、操作パラメータが自動計算または入力されると共に初期化される工程２と、目的関数ｆ（ｘ）に対する評価に基づいて、本発明のラマルクの「獲得形質の遺伝オペレーター」及び「使用と廃止オペレーター」により現世代（ｋ世代）群Ｇｋ＝｛Ｐ１ｋ，Ｐ２ｋ，・・・，ＰＳｋ｝に対して反復して最適化が行われる工程３と、問題対象の最適解集が出力される工程４とを含む。本発明はラマルクの進化論の「獲得形質の遺伝」及び「使い捨てオペレーター（Ｕｓｅ−ａｎｄ−Ｄｉｓｕｓｅ Ｏｐｅｒａｔｏｒ）」の自然法を現代の「エピジェネティクス」及びダーウィンの進化論の「適者生存」の自然法の範囲内で結合させ、遺伝的アルゴリズム構造を簡略化させる。従来のアルゴリズムに存在する多くの技術的欠陥を克服させ、その効率を高め、大域的最適化及び後期進化の持続可能性を向上させ、より多くの大域的最適化、検索及び機械学習の問題でより好ましい解決が得られる。【選択図】図１

Description

本発明は、コンピュータプログラミング（含人工知能）の技術分野に関し、更に詳しくは、遺伝的アルゴリズムに基づく大域的最適化、検索並びに機械学習法に関する。

大域的最適化、検索及び機械学習等の技術的問題を解決させるために通常の遺伝的アルゴリズムではダーウィンの「適者生存」という進化論を利用し、複数回重複して選択オペレーター、交叉オペレーター及び変異オペレーターの３つのオペレーターを応用しているが、アルゴリズムの検索速度が遅く、検索精度が低かった。また、遺伝的アルゴリズムの局部探索能力が低く、アルゴリズムの進化的計算の検索効率が低下した。実用においては、遺伝的アルゴリズムは早熟収束の問題を誘発しやすく、どの選択方法を採用しても優良な個体を保留させ、群体の多様性を維持させることは、遺伝的アルゴリズムにおいて解決が難しい技術的問題であり、大域的最適化、検索及び機械学習において技術的効果が制限された。

ダーウィンの「適者生存」という進化論に基づいた通常の遺伝的アルゴリズムの上述の技術的問題を克服させるため、本発明ではラマルクの獲得形質の遺伝原理及び現代「エピジェネティクス」をダーウィンの進化論の「適者生存」の自然法に結合させ、「獲得形質の遺伝的アルゴリズム」の技術方法及び「獲得形質の遺伝的アルゴリズム」を構成させる。まず、ラマルクの獲得形質の遺伝の自然法に基づいた獲得形質の「遺伝オペレーター」及びその「書き換え操作」方法を発明し、通常の遺伝的アルゴリズムにおける２つのオペレーター（すなわち、「選択オペレーター」及び「交叉オペレーター」）を直接代替させ、遺伝的アルゴリズムの構造を簡略化させ、従来の遺伝的アルゴリズムに存在する多くの技術的欠陥を克服させ、遺伝的アルゴリズムの大域的最適化及び後期進化の持続可能性を高める。次いで、ラマルクの使い捨てオペレーターの自然法に基づいて「使用と廃止オペレーター」を発明し、通常の遺伝的アルゴリズムにおける先天性変異オペレーターを代替させる。こうして、同世代内で後天的定方向突然変異操作を行い、突然変異操作の新しい技術効果を生み出し、遺伝的アルゴリズムの性能を高め、大域的最適化、検索及び機械学習等の多くの問題を解決させてこれを向上させる。

上記課題を解決するために、
ラマルクの獲得形質の遺伝原理に基づく大域的最適化、検索並びに機械学習法は、
最適化、検索並びに機械学習された問題物質の構造の目的関数ｆ（ｘ）に基づく工程１と、
問題物質の最適化要求に基づいて問題物質が遺伝的アルゴリズムの染色体として編集された後、遺伝的アルゴリズムの操作パラメータの自動計算または手動入力が行われ、且つアルゴリズムの初期化が行われる工程２であって、ここでは遺伝的アルゴリズムとは通常の遺伝的アルゴリズムを指すことと、
問題物質の最適化要求に基づいて、第ｋ世代解候補群がＧ_ｋと設定され、且つＧ_ｋ＝｛Ｐ^１ _ｋ，Ｐ^２ _ｋ，・・・，Ｐ^ｉ _ｋ，・・・，Ｐ^Ｓ _ｋ｝であり、Ｐ^ｉ _ｋは解候補群Ｇ_ｋ中の第ｉ番染色体コードを表し、Ｓは群の大きさを表し、反復最適化法によりｋ＋１世代群Ｇ_ｋ＋１が獲得され、すなわちＧ_ｋ＋１＝｛Ｐ^１ _ｋ＋１，Ｐ^２ _ｋ＋１，・・・，Ｐ^ｉ _ｋ＋１，・・・，Ｐ^Ｓ _ｋ＋１｝であり、Ｐ^ｉ _ｋ＋１は群Ｇ_ｋ＋１中の第ｉ番染色体コードを表し、Ｓは群の大きさを表す工程３と、
問題物質の最終最適解集合が出力される工程４とを含み、
工程３の最適化過程は、
解候補群Ｇ_ｋ中の各染色体コードＰ^ｉ _ｋが解読された後に対応する目的関数値の大きさの計算が行われる個体の評価工程（１）と、
ラマルクの獲得形質の遺伝オペレーターの書き換え操作が実行され、臨時群Ｇ’_ｋ＋１が生成される工程（２）と、
ラマルクの使用と廃止オペレーターが使用されて臨時群Ｇ’_ｋ＋１に対して定方向突然変異操作が実行され、新しい解候補群Ｇ_ｋ＋１が獲得される工程（３）であって、変異オペレーターは通常の遺伝的アルゴリズムにおける変異オペレーターであることと、
工程（１）から工程（３）が所定の終了条件を満たすまで反復して行われる工程（４）と、
解読後の前記最適解が今回の最適化計算要求を満たすか否かの評価が下され、要求を満たしている場合は最終最適解集合が獲得され、要求を満たしていない場合は操作パラメータが修正され、最終最適解集合が得られるまで再計算が行われる工程（５）とを含み、
ここでは、工程（２）は、
交叉率ｐ_ｃに基づいて解候補群Ｇ_ｋ中から２つの染色体コードがランダムに選択され、２つの染色体コードの目的関数値ｆ_ｍ及びｆ_ｎの大きさが比較され、且つ遺伝子の遺伝の百分率ｐ_ｔが計算され、ｐ_ｔ＝ｆ_ｍ／（ｆ_ｍ＋ｆ_ｎ），ｆ_ｍ＞ｆ_ｎとなる工程（２ａ）と、
次世代に遺伝される遺伝子数ｎ_ｔが計算され、ｎ_ｔ＝Ｌ・ｐ_ｔとなり、Ｌは遺伝子鎖長を表し、ｐ_ｔは遺伝子の遺伝の百分率を表す（計算結果が整数ｎ_ｔではない場合、切り上げて整数にする）工程（２ｂ）と、
目的関数値の大きい染色体コードが保留され、目的関数値の大きい染色体コード上のｎ_ｔ番目の遺伝子が目的関数値が小さい染色体コードに対応する位置に書き換えられ、新しい染色体コードが形成される工程（２ｃ）であって、対応して書き換えられることにより目的関数値の大きい染色体コード上の選択された桁の遺伝子が目的関数値の小さい染色体コードの対応する位置に書き換えられ、以降同様に続くことと、
上記工程（２ａ）−（２ｃ）がｐ_ｃＳ回繰り返し行われ、書き換え操作後の臨時群Ｇ’_ｋ＋１が生成される工程（２ｄ）であって、Ｓは群の大きさを表し、ｐ_ｃは交叉率を表すことをさらに含む。

工程２において、初期化方法は、
まず、遺伝的アルゴリズムの作動モードに基づいて、解候補群の大きさＳ、変数の次元ｄ、変数の取得範囲、交叉率ｐ_ｃ、変異オペレーター中の内部パラメータ等の操作パラメータが確定される工程（１）と、
その後、最適化要求に基づいて問題物質に対する編集が行われ、個体遺伝子鎖、染色体、及び解候補群が形成され、遺伝子鎖長Ｌが確定される工程（２）と、
最後に、問題物質の変数の取得範囲に基づいて初期化が行われ、１組の初期解候補がランダムに生成され、ｋ＝０である場合、各染色体ゲノムは｛ｘ^１ _０（ｉ），ｘ^２ _０（ｉ），・・・，ｘ^ｄ _０（ｉ）｝であり、すなわち、Ｐ^ｉ _０＝｛ｘ^ｊ _０（ｉ），ｊ＝１，・・・，ｄ｝であり、初期群はＧ_０＝｛Ｐ^ｉ _０，ｉ＝１，２，・・・，Ｓ｝とし、Ｓは群の大きさを表し、ｄは変数の次元を表す工程（３）とを含む。
工程２（２）において、問題物質に対する編集が行われる方式は、ｄが２より小さいか等しい場合、二進数または十進数編集法が選択され、ｄが２より大きい場合、実数編集法が選択される。
目的関数値は最大化の問題に対する適合度関数値または最小化の問題に対するコスト関数値である。

工程３の工程（１）において、個体評価には複数のプロセッサーまたは複数のコンピューターが使用される。

工程３の工程（２）において、ラマルクの遺伝オペレーター書き換え操作時には書き換えられるｎ_ｔ個の遺伝子はランダムに選択される。

工程３の工程（３）において、突然変異操作には通常の遺伝的アルゴリズム中の非定方向突然変異法が採用され、変異率をｐ_ｍとする一様突然変異法を含み、「使用と廃止オペレーター」は使用されない。

工程３の工程（３）において、突然変異操作にはラマルク「使い捨てオペレーター」の自然法に基づく「使用と廃止オペレーター」が採用され、定方向突然変異法が実施される。

工程３の工程（３）において、勾配情報が獲得可能であれば「使用と廃止オペレーター」には勾配最適化法が採用される。勾配情報が獲得された状況では、勾配の符号及び大きさに基づいて変異の方向及びステップ長さが確定される方法である。

工程３の工程（３）において、「使用と廃止オペレーター」として非勾配最適化法が採用される。非勾配最適化法は山登りアルゴリズム、アニーリングアルゴリズム、シンプレックス法（Ｓｉｍｐｌｅｘ Ｍｅｔｈｏｄ）、パターン検索（ｐａｔｔｅｒｎ ｓｅａｒｃｈ）、或いはパウエルの共役方向法（Ｐｏｗｅｌｌ’ｓ ｍｅｔｈｏｄ）等を含む。

工程３の工程（２）及び工程３の工程（３）において、各世代中のエリート染色体コードはラマルクの遺伝オペレーター及び変異オペレーターによる改変を受けず、それまで進化に加わった変異群体の中から出現した最良の個体（エリート個体、エリート染色体コードと称する）として書き換えられずにエリートとして保留され、次世代中で直接複製される。エリートの確定方法は通常の遺伝的アルゴリズムの方法である。

工程３の工程（５）において、最適解が今回の最適化計算要求を満たしているか否か評価が下され、要求を満たしている場合は演算が終了する。要求を満たしていない場合、操作パラメータ中の操作パラメータ中の交叉率または変異オペレーター中の内部パラメータが修正され、工程３が重複して実行され、問題物質の末代の最適解集合が獲得される。

工程３の工程（５）において、最適解が今回の最適化計算要求を満たしているか否か評価が下され、要求を満たしている場合は演算が終了する。要求を満たしていない場合、操作パラメータ中の群の大きさ及び／または反復回数が増大され、工程３が重複して実行され、問題物質の末代の最適解集合が獲得される。

工程２において確定される操作パラメータ中の交叉率及び変異オペレーター中の内部パラメータは工程３の過程において、進化状態に基づいて自動調整される。

工程２において、染色体中の遺伝子コードは問題物質の構造または構造の数値パラメータを表す。

通常、問題物質の構成は問題物質の構造と、各構造の数値パラメータと、構造間の組み合わせ方式とを含む（あるものは算術演算子または論理演算子により表示される）。通常の遺伝的アルゴリズムにおいて、染色体上の遺伝子コードは一般的には演算子ではない。「遺伝的プログラミング」においては染色体上の遺伝子コードが演算子でもよい。本発明の工程２においては問題物質の遺伝子コードが演算子でもよく、これにより本発明に係る獲得形質の遺伝的アルゴリズムが「獲得形質の遺伝的プログラミング」にまで拡大応用され、問題物質の構造に質的変化を発生させて自由最適化が実現する。図４に示すように、獲得形質の遺伝的プログラミングにおける「遺伝オペレーター」は通常の遺伝的プログラミングの交叉操作に類似し、但し、染色体のツリー状の「剪定接ぎ木」は獲得形質の遺伝的アルゴリズム中の書き換え操作により実現する。同様に、突然変異操作及び「使い捨てオペレーター」の分枝も新しい分枝により代替させてもよい。これにより、本発明に係る遺伝オペレーター及び使用と廃止オペレーターは獲得形質の遺伝的プログラミングにおける実施方式も改変されず、遺伝的プログラミングの速度及び精度は高まる。このように、後天的な獲得形質の遺伝が自由構造最適化、自動プログラム試行及び機械学習機能を向上させる。

本発明はラマルクの獲得形質の遺伝原理及び現代のエピジェネティクスをダーウィンの進化論の適者生存の自然法と結合させ、獲得形質の遺伝的アルゴリズムの技術方法、獲得形質の遺伝的アルゴリズム及び獲得形質の遺伝的プログラミング方法を構成させる。ラマルクの獲得形質の遺伝の自然法を操作する遺伝オペレーターを発明することで通常の遺伝的アルゴリズムの選択オペレーター及び交叉オペレーターを直接代替させる。ラマルクの使い捨てオペレーターの自然法を操作する使用と廃止オペレーターを更に発明することによって通常の遺伝的アルゴリズム中の先天性変異オペレーターを代替させる。これにより、同世代内で使い捨てオペレーターの後天的定方向突然変異を実行させ、突然変異操作により新しい技術効果を生み出し、より多くの大域的最適化、検索及び機械学習等の問題により好ましい解決を得る。具体的には以下の長所を有する。
（１）最適化過程の構造が簡単になり、必要な制御パラメータが少なく、計算の難度が低く、操作が便利である。
（２）遺伝的アルゴリズム及び遺伝的プログラミングの大域的最適化及び後期進化の持続可能性が増強される。
（３）大域的最適化、検索及び機械学習等の問題の最適解集合の収束がより速くなり、精度が更に高まる。
（４）応用の展望及び応用分野がより広がる。
１）複雑な問題の最適化では明確な数式が不要であるため、このような問題を解決する有力なツールとなる。
２）複雑なシステムの分析では、進化的計算を応用することでクラスタ分析、パターン認識、画像処理、組織スケジュール等の作業を実施し、乱雑で複雑な物事を方式化可能にする。
３）自動制御。進化的計算技術は自己適応、自己学習、自己組織化という知的行為を実行でき、環境の変化に適応し、変動を減少させ、高い制御精度、制御の即時性及び高速性を保証する。
４）ハードウェアの自動設計では、複雑な回路設計及び自己適応ハードウェア分野に新しい方法を提供する。
５）自動プログラム設計。遺伝的プログラム設計に基づいて発展した自動プログラム設計方法は、進化的ソフトウェアの研究を発展させる。すなわち、コンピューターに対して具体的な方法を精確に教えなくてもコンピューターが自動的にタスクを完遂する。
６）総合的な応用。他の技術と結合され、それぞれの特徴を発揮させて問題を総合的に解決させる。例えば、遺伝的アルゴリズム及び人工ニューラルネットワークを結合させて機械学習等の問題を解決させる。

獲得形質の遺伝的アルゴリズムのフローチャートである。 「遺伝オペレーター」の書き換え操作のフローチャートである。 １回の書き換え操作の概略図である。 獲得形質の遺伝的プログラミングの「接ぎ木繁殖」の概略図である。 本発明及び通常の遺伝的アルゴリズムの大域的最小値（ｆ_１）の最適化及び最大値の最適化（ｆ_２）における具体的な実施例のアルゴリズムの適応度の比較である。 本発明及び通常の遺伝的アルゴリズムの大域的最小値（ｆ_１）の最適化及び最大値の最適化（ｆ_２）における具体的な実施例のアルゴリズムの精度の比較である。 ニューラルネットワークの機械学習の概略図である。 ニューラルネットワークが２つの変数排他的論理和問題を実現する概略図である 最適値及び平均関数値である。 出力及び入力の関係を獲得する概略図である。 本発明に係る方法と他の粒子フィルターアルゴリズムとの粒子数が１０の場合の二乗平均平方根誤差の曲線の比較の概略図である。

以下に図面を参照して、本発明を実施するための形態について、詳細に説明する。なお、本発明は、以下に説明する実施形態に限定されるものではない。

本実施形態のテストは大域的最適化、検索及び機械学習の問題の標準関数を選択して本発明及び通常の遺伝的アルゴリズムに対して性能テスト及び比較を行う。標準関数及び関連するパラメータの設定を表１に示す。

通常、群の大きさは変数すなわち次元数の１０倍に設定され、よって本実施形態の群の大きさはＳ＝３００と設定され、通常の遺伝的アルゴリズム中の交叉率は通常ｐ_ｃ＝０．５と設定され、変異率は通常ｐ_ｍ＝０．２と設定される。検証が一致するようにするため、本発明では交叉率として０．５を採用し、変異率として０．２を採用する。各テスト関数をそれぞれ独立して３０回実行する。関数の評価回数は全て３×１０^５である。
２つのテスト関数に対し、本発明に係るアルゴリズム及び通常の遺伝的アルゴリズムの解の検索の平均値、標準差、最適性、及び精度の結果を表２及び表３にそれぞれ示す。

表２及び表３の統計資料から分かるように、本発明のアルゴリズムによる最適化の平均値、標準差、最適性、及び精度が全て通常の遺伝的アルゴリズムより優れている。また、解の精度も大きく上回り、理論最適値に極めて近い。

図５及び図６はそれぞれ本発明及び通常の遺伝的アルゴリズムが関数の評価回数の変化に基づく平均適応度及び平均検索精度の関係を図示する。図示するように、本発明に係るアルゴリズムは最適化テスト関数ｆ_１及びｆ_２の場合に得られる最適解は理論最適解に更に接近する。また、本発明に係るアルゴリズムの検索速度は通常の遺伝的アルゴリズムよりもはるかに速い。

上述のように、本発明は高い最適化精度及び速い収束速度を有する。

公衆が本発明の技術方法を理解して使用可能にするため、以下では２つの大域的最適化、検索及び機械学習の問題の応用実施形態を基に更に説明する。

（応用実施形態１−簡単なニューラルネットワークに基づく排他的論理和機械学習の問題）
人工ニューラルネットワーク（Ａｒｔｉｆｉｃｉａｌ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋｓ、略称ＡＮＮｓ）はニューラルネットワーク（ＮＮｓ）とも呼ばれ、動物のニューラルネットワークの振る舞いの特徴を模倣し、分散式並行情報処理及び機械学習のアルゴリズムモデルを実現させる。このネットワークは相互接続されたノンリニアニューロンノードに依存し、ノード間の相互接続関係及び比重を調整することにより情報の処理及び学習、記憶させる目的が達成される。図７は簡単なニューラルネットワークを図示し、円はニューロンを表し、入力点「−１」はバイアスノードと称される。ニューラルネットワークの最も左側の層は入力層であり、最も右側の層は出力層である。中間の全てのノードにより隠蔽層が構成され、訓練サンプルセット中でこれらの値を直接観察することはできない。また、前記ニューラルネットワークの機械学習の実施例において、２つの入力ユニット（バイアスユニットを含まず）、２つの隠蔽ユニット、及び１つの出力ユニットを観察することができる。

図８に示すように、簡単なネットワークを有する１つのニューラルネットワークにより２つの変数の排他的論理和問題を実現し、獲得形質の遺伝的アルゴリズムを使用した機械学習の状況について説明する。これは実効的で有効な学習アルゴリズムを探し出すために重要な意義がある。入力ニューロンはｘ_１、ｘ_２であり、出力はｙであり、排他的論理和問題の４種類の訓練モデルは表４に示す。
入力層のニューロンが出力層のニューロンに接続される重み値は合計９個であり、ｗ_ｎ、ｎ＝１，２，・・・，９と記載する。
本発明の大域的最適化、検索及び機械学習の技術方法によりニューラルネットワークが実現する排他的論理和問題を解決し、訓練ネットワークの重み値はｗ_ｎであり、具体的な実施フローチャートは図１及び図２に示す。

工程１、排他的論理和問題の構造の目的関数ｆ（Ｗ）に基づくと、Ｗは重みベクトルであり、すなわちＷ＝｛ｗ_ｎ，ｎ＝１，２，・・・，９｝となる。普遍性を保持させるため、ここでは
が採用され、ｍは訓練モデル番号であり、ｙ_ｍは表示訓練モデルｍの出力を表す。図８からはｆがＷの関数であることが分かり、その値は解の適応度を表し、これが大きい程訓練または学習の誤差が小さくなる。よって、本実施形態の目的はｆを最大化させることである。

工程２では、問題物質の最適化要求に基づいて通常の遺伝的アルゴリズムの操作パラメータが自動計算または手動入力され、Ｗが染色体として編集され、初期化が行われる。
工程（１）、まず、通常の遺伝的アルゴリズムの作動モードに基づくと、Ｓ＝９０であり（一般的にはパラメータ変数の次元の１０倍）、変数の次元ｄ＝９であり、Ｗ取得値の範囲は−５から４．９であり、遺伝率としてｐ_ｃ＝０．６が採用され、変異率としてｐ_ｍ＝０．０５が採用される。
工程（２）、その後に問題物質の最適化が必要な構造及びそのパラメータに対して十進数の編集が行われ、個体遺伝子鎖、染色体、及び解候補群が形成され、遺伝子鎖長Ｌが確定される。ここでは、二桁の十進数が重み値の編集方法を説明するために採用され、具体的には表５に示し、遺伝子鎖長Ｌ＝２×ｄ＝２×９＝１８である。例えば、Ｗ＝｛ｗ_１，ｗ_２，ｗ_３，ｗ_４，ｗ_５，ｗ_６，ｗ_７，ｗ_８，ｗ_９｝＝｛−５，−４．９，−４．８，−４．７，０．０，４．６，４．７，４．８，４．９｝であり、編集形式はＷｃ＝｛０００１０２０３５０９６９７９８９９｝である。
工程（３）、最後に問題物質の変数の取得範囲に基づいて初期化が行われ、１組の初期解候補がランダムに生成される。ｋ＝０である場合、各染色体Ｐ^ｉ _０の重み値ベクトルの編集形式はＷ_ｃ＝｛ｘ^１ _０（ｉ），ｘ^２ _０（ｉ），・・・，ｘ^ｊ _０（ｉ）｝であり、Ｐ^ｉ _０＝｛ｘ^ｊ _０（ｉ），ｉ＝１，・・・，Ｓ，ｊ＝１，・・・，Ｌ｝となり、ｘ^ｊ _０（ｉ）はコードの各桁であり、初期群はＧ_０＝｛Ｐ^ｉ _０，ｉ＝１，２，・・・，Ｓ｝とする。

工程３において、最適化要求に基づいてｋ世代群をＧ_ｋ＝｛Ｐ^１ _ｋ，Ｐ^２ _ｋ，・・・，Ｐ^Ｓ _ｋ｝と仮定し、Ｐ^ｉ _ｋは群中の１つの個体（染色体）を表し、反復法を利用し、書き換え及び突然変異操作によりｋ＋１世代群Ｇ_ｋ＋１＝｛Ｐ^１ _ｋ＋１，Ｐ^２ _ｋ＋１，・・・，Ｐ^Ｓ _ｋ＋１｝が得られる。最適化過程は以下のとおりである。
工程（１）、個体評価。表４によると、訓練入力マトリクスは
であり、希望出力マトリクスはＹ＝［０ １ ０ １］であり、群Ｇ_ｋ中の各個体Ｐ^ｉ _ｋの解読後の適応度、すなわち目的関数値が計算され、ここでは最大値の問題に属する。例えば、ｆ（Ｐ^ｉ１ _ｋ）＝０．４、ｆ（Ｐ^ｉ２ _ｋ）＝０．２であり、Ｐ^ｉ１ _ｋはＰ^ｉ２ _ｋより優れる。
工程（２）、図２に示すように、ラマルクの「遺伝オペレーター」の書き換え操作が実行されて新しい解候補群Ｇ’_ｋ＋１が生成され、以下の工程を含む。
工程（２ａ）、交叉率ｐ_ｃに基づいて２つの親染色体（すなわち、親解候補の遺伝子クラスタ）がランダムに選択され、すなわち（０，１］の間の１つの乱数ｒがランダムに生成され、ｒ＜ｐ_ｃである場合、２つの親染色体が選択され、さもなくば選択がなされず、乱数ｒの生成が継続される。例えば、Ｐ^ｉ１ _ｋ＝｛ｘ^１ _ｋ（ｉ１），ｘ^２ _ｋ（ｉ１），・・・，ｘ^ｊ _ｋ（ｉ１）｝^ｄ _ｊ＝１及びＰ^ｉ２ _ｋ＝｛ｘ^１ _ｋ（ｉ２），ｘ^２ _ｋ（ｉ２），・・・，ｘ^ｊ _ｋ（ｉ２）｝^ｄ _ｊ＝１となる。
工程（２ｂ）、２つの染色体の適合度関数値ｆ（Ｐ^ｉ１ _ｋ）及びｆ（Ｐ^ｉ２ _ｋ）が比較される。例えば、ｆ（Ｐ^ｉ１ _ｋ）＞ｆ（Ｐ^ｉ２ _ｋ）である場合、ｆ（Ｐ^ｉ１ _ｋ）は子世代に遺伝され、より多くの遺伝子となる。遺伝子の遺伝の百分率ｐ_ｔが下記のように計算される。
下記計算式に基づいて次世代に遺伝される遺伝子数が計算される。
工程（２ｃ）、遺伝オペレーターの操作及び書き換え操作の実行。適応度の高い染色体が保留され、適応度が高い染色体上のｎ_ｔ個の遺伝子が適応度が低い染色体の対応する位置に書き換えられ、新しい染色体が形成される。対応して書き換えられることにより適応度の高い染色体上の選択された位置の遺伝子が適応度が低い染色体の対応する位置上に書き換えられ、以降同様に実行され、基本的なフローチャートは図２に示す。１回の書き換え操作は図３に示す（図中では全てのコードビットが記載されているわけではない）。上述の工程に基づくと、Ｐ^ｉ２ _ｋ中の１８×２／３＝１２個のコードビットはＰ^ｉ１ _ｋ中のコードビットにより書き換えられた後に１回書き換えられる。
工程（２ｄ）、上述の工程（２ａ）乃至工程（２ｃ）の過程がｐ_ｃＳ回重複して実行され、書き換え操作後の新しい解候補の臨時群Ｇ’_ｋ＋１が生成される。
書き換え回数がＮ_ｐ＝ｐ_ｃＳ（０．６×９０＝５４。積が整数ではない場合、切り上げて整数にする）より多いか等しい場合、書き換え操作が終了し、書き換え回数が５４より少ない場合、継続して工程（２ａ）乃至工程（２ｃ）が繰り返し実行される。

工程（３）、１つの適切な「変異オペレーター」が使用され、臨時群Ｇ’_ｋ＋１に対して突然変異操作が実行され、新しい解候補群Ｇ_ｋ＋１が獲得される。ここでは、機械学習の問題は比較的簡単であり、本実施形態では「使い捨てオペレーター」の操作が採用されず、比較的常用される通常の遺伝的アルゴリズムにおける先天的一様突然変異法のみが採用される。変異率はｐ_ｍ＝０．０５であり、１回の反復後の新しい群Ｇ_ｋ＋１中では９０×１８×０．０５＝８１（積が整数出ない場合、切り上げて整数にする）個のコードビットを有し、且つ０乃至９の間の１つの新しい値が獲得される。

工程（４）、所定の設定の終了条件が満たされるまで工程（１）乃至工程（３）が繰り返し反復される。ここでは、終了条件は単純に１００世代までの進化と設定される。

工程（５）、解読後の前記最適解が今回の最適化計算要求を満たしているか否か評価が下され、要求を満たしている場合、演算が終了する。要求を満たしていない場合、アルゴリズムの操作パラメータが修正され、例えば、交叉率ｐ_ｃや変異率ｐ_ｍが手動で修正されるか、或いは群の大きさ及び進化の反復回数が増大され、再計算が行われ、最終最適化結果が獲得される。ここでは、最適化計算要求はｆ＞０．９５であり、図９は要求を満たしている。

工程４では、問題対象の末代最適解集Ｗ_０が出力される。図８には１つの重み値の最適解集合を示す。

図９及び図１０はそれぞれ本発明に係るニューラルネットワークの最適化により２つの変数の排他的論理和機械学習の問題が解決された場合の１００回反復が行われる最適化及び平均目的関数値並びに獲得された入力と出力の関係を示す。図から分かるように、本発明に係るアルゴリズムはニューラルネットワーク排他的論理和問題の重み値が最適化されて得られる出力が希望出力に近付く。

上述のように、本発明に係る獲得形質の遺伝的アルゴリズムはニューラルネットワークを効果的に最適化させ、最適化された重み値が検索され、機械学習の問題も解決される。

さらに、図７に示すネットワーク構造は遺伝子クラスタに編集され、これにより重み値も同時に最適化される。

問題物質に要求されるネットワーク構造がより複雑な場合、獲得形質の遺伝的プログラミングを実施することによりネットワーク構造が直接的により自由に最適化される。

（応用実施形態２−信号処理問題）
粒子フィルターアルゴリズムはノンリニア信号処理における重要な技術であり、システムモデル特性及びノイズ分布による制限を受けず、他のフィルター技術よりも高い適用性を有する。然しながら、粒子フィルターアルゴリズムの性能は自身の粒子窮乏化問題の制限を受ける。本発明に係るアルゴリズムを利用することで粒子フィルターアルゴリズムの再サンプリング過程における粒子欠乏問題が解決され、粒子分布が最適化され、粒子サンプルが実際の事後確率密度サンプルに更に近付き、フィルター性能が向上する。

ここでは、粒子フィルターによりノンリニア動態システムの状態評価を実現させ、獲得形質の遺伝的アルゴリズムを使用した粒子フィルターによる処理信号の最適化状況について説明し、性能が優れたノンリニアフィルターアルゴリズムを見つけることの重要性を説明する。システム状態の空間モデルは下記のとおりである。
プロセスノイズはＶ_ｋ〜Ｇａｍｍａ（３，２）であり、観測ノイズはｎ_ｋ〜Ｎ（０，０．００００１）である。観測時間は７０と設定され、実行回数は２００と設定され、粒子数Ｎは１０である。

本発明に関わる大域的最適化、検索及び機械学習技術方法を利用して粒子フィルターアルゴリズムの粒子窮乏化問題を解決させ、粒子分布を最適化させる具体的な実施方式は以下のとおりである。

工程１では、ノンリニア動態システムの状態評価問題の構造の目的関数ｆ（ｘ）に基づき、ここでは粒子の重み値関数が選択される。

工程２では、問題物質の最適化要求に基づ、通常の遺伝的アルゴリズムの操作パラメータが自動計算または手動入力され、初期化が行われる。
工程（１）、まず、通常の遺伝的アルゴリズムの作動モードに基づいて、群の大きさＳ＝Ｎ＝１０が確定される。Ｎは粒子数であり、変数の次元はｄ＝１であり、交叉率はｐ_ｃ＝０．９であり、変異率ｐ_ｍ＝０．０５である。
工程（２）、その後、問題物質の最適化には構造及びパラメータの編集が必要であり、個体遺伝子鎖、染色体及び候選群が形成され、遺伝子鎖長Ｌが確定される。ここでは、固定有効桁数ｌ_ｘ＝７の浮動小数点数が採用されて各重点サンプリング粒子値が編集され、すなわちシステムの状態値ｘである。各染色体は１つの粒子の浮動小数点数形式を表し、浮動小数点数値の一桁目は符号桁を表し、「１」は正数であり、「０」は負数である。遺伝子クラスタの長さは固定有効桁数であり、すなわちＬ＝ｄ×ｌ_ｘ＝１×７である。例えば、ｋ時間のｉ番目の粒子状態値がｘ＝１０．４７１１である場合、その浮動小数点数編集形式はｘ_ｃ＝（１１０４７１１）となる。
工程（３）、最後に、問題物質の変数の取得範囲に基づいて初期化が行われ、１組の初期解候補がランダムに生成される。ここでは、粒子自身の初期化工程に基づいてランダムに生成される。ｋ＝０である場合、各染色体Ｐ^ｉ _０は粒子状態値の編集形式がｘ_ｃ＝｛ｘ^１ _０（ｉ），ｘ^２ _０（ｉ），・・・，ｘ^ｄ _０（ｉ）｝となり、すなわちｐ^ｉ _０＝｛ｘ^ｊ _０（ｉ），ｊ＝１，・・・，ｄ｝となり、ｘ^ｊ _０（ｉ）はコードの各桁であり、初期群はＧ_０＝｛Ｐ^ｉ _０，ｉ＝１，２，・・・，Ｓ｝とする。

工程３では、最適化要求に基づいて、仮に現世代（ｋ世代）群をＧ_ｋ＝｛Ｐ^１ _ｋ，Ｐ^２ _ｋ，・・・，Ｐ^Ｓ _ｋ｝とし、Ｐ^ｉ _ｋは群中の１つの個体（染色体）を表す。反復法を利用し、書き換え及び突然変異操作によってｋ＋１世代群が獲得される。最適化過程は以下のとおりである。
工程（１）、個体評価では、粒子重み値の公式に基づいて、群Ｇ_ｋ中の各個体Ｐ^ｉ _ｋがｘとして解読された後の適応度が計算され、ここでは最大値問題に属する。例えば、ｆ（Ｐ^ｉ１ _ｋ）＝０．５７７９であり、ｆ（Ｐ^ｉ２ _ｋ）＝０．４２２１である。
工程（２ａ）、遺伝率ｐ_ｃに基づいて２つの親染色体（すなわち、親解候補の遺伝子クラスタ）がランダムに選択され、例えば、Ｐ^ｉ１ _ｋ＝｛ｘ^１ _ｋ（ｉ１），ｘ^２ _ｋ（ｉ１），・・・，ｘ^ｊ _ｋ（ｉ１）｝^ｄ _ｊ＝１及びＰ^ｉ２ _ｋ＝｛ｘ^１ _ｋ（ｉ２），ｘ^２ _ｋ（ｉ２），・・・，ｘ^ｊ _ｋ（ｉ２）｝^ｄ _ｊ＝１となる。
工程（２ｂ）、２つの染色体適合度関数値ｆ（Ｐ^ｉ１ _ｋ）及びｆ（Ｐ^ｉ２ _ｋ）の比較が行われる。例えば、ｆ（Ｐ^ｉ１ _ｋ）＞ｆ（Ｐ^ｉ２ _ｋ）である場合、Ｐ^ｉ１ _ｋが子世代に遺伝されてより多くの遺伝子となる。遺伝子の遺伝の百分率ｐ_ｔの計算は
となり、下記計算式に基づいて計算される次世代に遺伝される遺伝子数ｎ_ｔはｎ_ｔ＝Ｌ×ｐ_ｔ＝７×３／５≫５（ここでは、整数への切り上げが実施される）となる。
工程（２ｃ）、遺伝オペレーターが操作され、書き換え操作が実行される。適応度の高い染色体が保留され、適応度の高い染色体上のｎ_ｔ個の遺伝子が適応度が低い染色体の対応する位置上に書き換えされ、新しい染色体が形成される。対応して書き換えられることにより適応度の高い染色体上の選択位置の遺伝子が適応度が低い染色体の対応する位置上に書き換えられ、以降同様であり、基本的なフローチャートは図２に示す。上述の工程に基づくと、Ｐ^ｉ２ _ｋ中の７×３／５≫５個のコードビットがＰ^ｉ１ _ｋ中のコードビットにより書き換えられる。
工程（２ｄ）、上述の工程（２ａ）乃至（２ｃ）の過程がｐ_ｃＳ回繰り返し実行され、書き換え操作の後に新しい解候補の臨時群Ｇ’_ｋ＋１が生成される。

工程（３）、１つの適切な「変異オペレーター」が使用され、臨時群Ｇ’_ｋ＋１に対して突然変異操作が実行され、新しい解候補群Ｇ_ｋ＋１が獲得される。ここでは、機械学習ノンリニアフィルターの問題は複雑であるため、この実施形態においては「変異オペレーター」を考慮して「使い捨てオペレーター」の操作が採用される。

工程（３ａ）、一般的には、通常の遺伝的アルゴリズムにおいて比較的常用される非定方向の一様突然変異法が採用される。変異率ｐ_ｍ＝０．０５であるため、１回の反復後の新しい群Ｇ_ｋ＋１中では１０×７×０．０５≒４（ここでは、整数への切り上げが実施される）個のコードビットを有して変異が実行される。ランダムに選択された変異桁が編集された符号桁である場合、通常の遺伝的アルゴリズムの二進数に従って変異が行われ、すなわち、１から０に変わり、或いは０から１に変わる。符号桁の変異桁が除去されて０乃至９の間の１つの新しい値が獲得される。

工程（３ｂ）ではフィルターアルゴリズムの速度及び精度を高めるため、ここでは例を挙げて通常の遺伝的アルゴリズムにおける非定方向の「変異オペレーター」に獲得形質の遺伝的アルゴリズムにおける定方向の「使い捨てオペレーター」のオペレーターをどのように採用するかについて説明する。この応用実施形態では、非勾配最適化の山登りアルゴリズムが用いられて「使い捨てオペレーター」の操作が実現される。新しい群Ｇ_ｋ＋１中の個体Ｐ^ｉ _ｋに対し、一様突然変異法に相似し、変異率は同様にｐ_ｍ＝０．０５が選択され、但し、非定方向突然変異とは異なり、ここでは新しい群Ｇ_ｋ＋１中の個体Ｐ^ｉ _ｋが対応する粒子状態値ｘ^ｉ _ｋとして解読されて操作される。すなわち、１回の反復後に１０×０．０５≒１（ここでは、整数への切り上げが実施される）個の粒子状態を有して変異が実行され、変異した粒子状態により１つの元の粒子状態値付近のランダムな新しい値が獲得される。また、定方向突然変異は変異が必要な粒子状態値ｘ^ｉ _ｋに対してＮ_ｍ回の変異が実行されて最良の結果が得られる。ここでは、Ｎ_ｍ＝Ｓ×２０％＝１０×２０％＝２であり、２回の変異後に得られる２つの新しい粒子状態値及び本来のｘ^ｉ _ｋが比較され、最良の結果が得られる。すなわち、定方向突然変異が形成される。よって、変異は常に悪い方向には向かわず、「使い捨てオペレーター」が実現される。

工程（４）、所定の終了条件を満たすまで上述の工程３中の工程（１）乃至工程（３）が繰り返し反復される。

工程（５）、前記最適解が今回の最適化計算要求を満たしているか否か評価が下され、要求を満たしている場合は演算が終了する。要求を満たしていない場合、アルゴリズムの操作パラメータが修正され、群の大きさ及び反復回数が増大され、再計算が行われて最終最適化結果が獲得される。

工程４では、問題対象の末代最適解集が出力され、すなわち粒子集合である。

表６は粒子数Ｎ＝１０の状況において２００回モンテカルロ・テストが行われ、本発明及び他の複数種の粒子フィルターアルゴリズムが統計され、すなわち、基本粒子フィルターアルゴリズム（ＰＦ）、補助粒子フィルターアルゴリズム（ＡＰＦ）、及び正規化粒子フィルターアルゴリズム（ＲＰＦ）との平方根平均二乗誤差（ＲＭＳＥ）の平均値、ＲＭＳＥの平方偏差の比較結果を示す。

図１１は本発明及び他の粒子フィルターアルゴリズムで生成されるＲＭＳＥ平均値が時間経過に従って変化する概略図である。表６及び図１１から分かるように、本発明に係る獲得形質の遺伝的アルゴリズムは粒子フィルターを効果的に最適化させ、最適化された粒子集合が検索可能であり、ノンリニアフィルターの問題を解決させる。

上述の実施形態は本発明の技術思想及び特徴を説明するためのものにすぎず、当該技術分野を熟知する者に本発明の内容を理解させると共にこれをもって実施させることを目的とし、本発明の特許請求の範囲を限定するものではない。従って、本発明の精神を逸脱せずに行う各種の同様の効果をもつ改良又は変更は、後述の請求項に含まれるものとする。

Claims (16)

1. 最適化、検索並びに機械学習された問題物質の構造の目的関数ｆ（ｘ）に基づく工程１と、
   問題物質の最適化要求に基づいて問題物質が遺伝的アルゴリズムの染色体として編集された後、遺伝的アルゴリズムの操作パラメータの自動計算または手動入力が行われ、且つアルゴリズムの初期化が行われる工程２と、
   問題物質の最適化要求に基づいて、第ｋ世代解候補群がＧ_ｋと設定され、且つＧ_ｋ＝｛Ｐ^１ _ｋ，Ｐ^２ _ｋ，・・・，Ｐ^ｉ _ｋ，・・・，Ｐ^Ｓ _ｋ｝であり、Ｐ^ｉ _ｋは解候補群Ｇ_ｋ中の第ｉ番染色体コードを表し、Ｓは群の大きさを表し、反復最適化法によりｋ＋１世代群Ｇ_ｋ＋１が獲得され、すなわちＧ_ｋ＋１＝｛Ｐ^１ _ｋ＋１，Ｐ^２ _ｋ＋１，・・・，Ｐ^ｉ _ｋ＋１，・・・，Ｐ^Ｓ _ｋ＋１｝であり、Ｐ^ｉ _ｋ＋１は群Ｇ_ｋ＋１中の第ｉ番染色体コードを表し、Ｓは群の大きさを表す工程３と、
   問題物質の最終最適解集合が出力される工程４とを含み、
   工程３の最適化過程は、
   解候補群Ｇ_ｋ中の各染色体コードＰ^ｉ _ｋが解読された後に対応する目的関数値の大きさの計算が行われる個体の評価工程（１）と、
   ラマルクの獲得形質の遺伝オペレーターの書き換え操作が実行され、臨時群Ｇ’_ｋ＋１が生成される工程（２）と、
   ラマルクの使用と廃止オペレーターが使用されて臨時群Ｇ’_ｋ＋１に対して定方向突然変異操作が実行され、新しい解候補群Ｇ_ｋ＋１が獲得される工程（３）と、
   工程（１）から工程（３）が所定の終了条件を満たすまで反復して行われる工程（４）と、
   解読後の前記最適解が今回の最適化計算要求を満たすか否かの評価が下され、要求を満たしている場合は最終最適解集合が獲得され、要求を満たしていない場合は操作パラメータが修正され、最終最適解集合が得られるまで再計算が行われる工程（５）とを含み、
   ここでは、工程（２）は、
   交叉率ｐ_ｃに基づいて解候補群Ｇ_ｋ中から２つの染色体コードがランダムに選択され、２つの染色体コードの目的関数値ｆ_ｍ及びｆ_ｎの大きさが比較され、且つ遺伝子の遺伝の百分率ｐ_ｔが計算され、ｐ_ｔ＝ｆ_ｍ／（ｆ_ｍ＋ｆ_ｎ），ｆ_ｍ＞ｆ_ｎとなる工程（２ａ）と、
   次世代に遺伝される遺伝子数ｎ_ｔが計算され、ｎ_ｔ＝Ｌ・ｐ_ｔとなり、Ｌは遺伝子鎖長を表し、ｐ_ｔは遺伝子の遺伝の百分率を表す工程（２ｂ）と、
   目的関数値の大きい染色体コードが保留され、目的関数値の大きい染色体コード上のｎ_ｔ番目の遺伝子が目的関数値が小さい染色体コードに対応する位置に書き換えられ、新しい染色体コードが形成される工程（２ｃ）と、
   上記工程（２ａ）−（２ｃ）がｐ_ｃＳ回繰り返し行われ、書き換え操作後の臨時群Ｇ’_ｋ＋１が生成される工程（２ｄ）とをさらに含むことを特徴とするラマルクの獲得形質の遺伝原理に基づく大域的最適化、検索並びに機械学習法。
2. 工程２において、初期化方法は、
   まず、遺伝的アルゴリズムの作動モードに基づいて、解候補群の大きさＳ、変数の次元ｄ、変数の取得範囲、交叉率ｐ_ｃ、変異オペレーター中の内部パラメータ等の操作パラメータが確定される工程（１）と、
   その後、問題物質に対する編集が行われ、個体遺伝子鎖、染色体、及び解候補群が形成され、遺伝子鎖長Ｌが確定される工程（２）と、
   最後に、問題物質の変数の取得範囲に基づいて初期化が行われ、１組の初期解候補がランダムに生成され、ｋ＝０である場合、各染色体ゲノムは｛ｘ^１ _０（ｉ），ｘ^２ _０（ｉ），・・・，ｘ^ｄ _０（ｉ）｝であり、すなわちＰ^ｉ _０＝｛ｘ^ｊ _０（ｉ），ｊ＝１，・・・，ｄ｝であり、初期群はＧ_０＝｛Ｐ^ｉ _０，ｉ＝１，２，・・・，Ｓ｝とし、Ｓは群の大きさを表し、ｄは変数の次元を表す工程（３）とを含むことを特徴とする請求項１に記載のラマルクの獲得形質の遺伝原理に基づく大域的最適化、検索並びに機械学習法。
3. 工程３の工程（１）において、個体評価には複数のプロセッサーまたは複数のコンピューターが使用されることを特徴とする請求項１に記載のラマルクの獲得形質の遺伝原理に基づく大域的最適化、検索並びに機械学習法。
4. 工程３の工程（２）において、ラマルクの遺伝オペレーターの書き換え操作時に書き換えられるｎ_ｔ個の遺伝子はランダムに選択されることを特徴とする請求項１に記載のラマルクの獲得形質の遺伝原理に基づく大域的最適化、検索並びに機械学習法。
5. 工程３の工程（３）において、突然変異操作には通常の遺伝的アルゴリズム中の非定方向突然変異法が採用され、変異率をｐ_ｍとする一様突然変異法を含むことを特徴とする請求項１に記載のラマルクの獲得形質の遺伝原理に基づく大域的最適化、検索並びに機械学習法。
6. 工程３の工程（３）において、突然変異操作にはラマルクの「使い捨てオペレーター（Ｕｓｅ−ａｎｄ−Ｄｉｓｕｓｅ Ｏｐｅｒａｔｏｒ）」の自然法に基づいた「使用と廃止オペレーター」が採用され、すなわち定方向突然変異法が実施され、勾配最適化法及び非勾配最適化法を含むことを特徴とする請求項１に記載のラマルクの獲得形質の遺伝原理に基づく大域的最適化、検索並びに機械学習法。
7. 定方向突然変異の勾配最適化法は、勾配情報が獲得された状況において、勾配の符号及び大きさに基づいて変異の方向及びステップ長さが確定される方法を含むことを特徴とする請求項６に記載のラマルクの獲得形質の遺伝原理に基づく大域的最適化、検索並びに機械学習法。
8. 定方向突然変異の非勾配最適化法は山登りアルゴリズム、アニーリングアルゴリズム、シンプレックス法、パターン検索、またはパウエルの共役方向法を含むことを特徴とする請求項６に記載のラマルクの獲得形質の遺伝原理に基づく大域的最適化、検索並びに機械学習法。
9. 工程３の工程（２）及び工程３の工程（３）において、各世代中のエリート染色体コードは遺伝オペレーター及び変異オペレーターによる改変を受けないことを特徴とする請求項１に記載のラマルクの獲得形質の遺伝原理に基づく大域的最適化、検索並びに機械学習法。
10. 工程３の工程（５）において、最適解が今回の最適化計算の要求を満たせない場合、操作パラメータ中の交叉率または変異オペレーター中の内部パラメータが修正されることを特徴とする請求項１に記載のラマルクの獲得形質の遺伝原理に基づく大域的最適化、検索並びに機械学習法。
11. 工程３の工程（５）において、最適解が今回の最適化計算の要求を満たせない場合、操作パラメータ中の群の大きさ及び／または反復回数が増大されることを特徴とする請求項１に記載のラマルクの獲得形質の遺伝原理に基づく大域的最適化、検索並びに機械学習法。
12. 工程２で確定される交叉率及び変異オペレーター中の内部パラメータは、工程３の過程において、進化の状態に基づいて自動調整されることを特徴とする請求項１に記載のラマルクの獲得形質の遺伝原理に基づく大域的最適化、検索並びに機械学習法。
13. 工程２において、問題物質の編集により獲得された染色体上の遺伝子コードは問題物質の構造または構造の数値パラメータを表すことを特徴とする請求項１または２に記載のラマルクの獲得形質の遺伝原理に基づく大域的最適化、検索並びに機械学習法。
14. 工程２において、問題物質に対する編集が行われる方式は、ｄが２より小さいか等しい場合、二進数または十進数編集法が選択され、ｄが２より大きい場合、実数編集法が選択されることを特徴とする請求項１３に記載のラマルクの獲得形質の遺伝原理に基づく大域的最適化、検索並びに機械学習法。
15. 工程２において、問題物質の遺伝子コードは算術演算子または論理演算子でもよいことを特徴とする請求項１３に記載のラマルクの獲得形質の遺伝原理に基づく大域的最適化、検索並びに機械学習法。
16. ラマルクの獲得形質の遺伝原理に基づく大域的最適化、検索並びに機械学習法は構造が自由化される「獲得形質の遺伝的プログラミング」に応用されることを特徴とする請求項１５に記載のラマルクの獲得形質の遺伝原理に基づく大域的最適化、検索並びに機械学習法。