JP6915743B2 - 組み合わせ探索システム、情報処理装置、方法およびプログラム - Google Patents

組み合わせ探索システム、情報処理装置、方法およびプログラム Download PDF

Info

Publication number
JP6915743B2
JP6915743B2 JP2020507438A JP2020507438A JP6915743B2 JP 6915743 B2 JP6915743 B2 JP 6915743B2 JP 2020507438 A JP2020507438 A JP 2020507438A JP 2020507438 A JP2020507438 A JP 2020507438A JP 6915743 B2 JP6915743 B2 JP 6915743B2
Authority
JP
Japan
Prior art keywords
combination
search
information
confirmation work
actual data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020507438A
Other languages
English (en)
Other versions
JPWO2019181313A1 (ja
Inventor
亮人 澤田
亮人 澤田
石田 真彦
真彦 石田
悠真 岩崎
悠真 岩崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2019181313A1 publication Critical patent/JPWO2019181313A1/ja
Application granted granted Critical
Publication of JP6915743B2 publication Critical patent/JP6915743B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/04Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24Querying
    • G06F16/245Query processing
    • G06F16/2453Query optimisation
    • G06F16/24534Query rewriting; Transformation
    • G06F16/24542Plan optimisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/22Indexing; Data structures therefor; Storage structures
    • G06F16/2228Indexing structures
    • G06F16/2264Multidimensional index structures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/28Databases characterised by their database models, e.g. relational or object models
    • G06F16/283Multi-dimensional databases or data warehouses, e.g. MOLAP or ROLAP
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • G06N20/10Machine learning using kernel methods, e.g. support vector machines [SVM]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00Computing arrangements using knowledge-based models
    • G06N5/01Dynamic search techniques; Heuristics; Dynamic trees; Branch-and-bound
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N7/00Computing arrangements based on specific mathematical models
    • G06N7/01Probabilistic graphical models, e.g. probabilistic networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2111/00Details relating to CAD techniques
    • G06F2111/10Numerical modelling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]
    • G06F30/20Design optimisation, verification or simulation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]
    • G06F30/20Design optimisation, verification or simulation
    • G06F30/27Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • Business, Economics & Management (AREA)
  • Operations Research (AREA)
  • Human Resources & Organizations (AREA)
  • Economics (AREA)
  • Strategic Management (AREA)
  • Computational Mathematics (AREA)
  • Marketing (AREA)
  • Mathematical Analysis (AREA)
  • Development Economics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Game Theory and Decision Science (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Medical Informatics (AREA)
  • Algebra (AREA)
  • Quality & Reliability (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Probability & Statistics with Applications (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本発明は、所定のパラメータを最適化する多次元の組み合わせを探索する組み合わせ探索システム、情報処理装置、組み合わせ探索方法および組み合わせ探索プログラムに関する。
材料開発の迅速化、低コスト化のために、少ない実験回数で優れた特性を持つ材料を探索する技術が求められている。しかし、そのような優れた特性を持つ材料の多くは複数の元素の組み合わせからなり、例えば多元合金の素材における組成比のように生成条件は多岐にわたる。そのような材料の生成条件の最適化は、多次元組み合わせ問題である。多次元の組み合わせ問題では、組み合わせが取りうるパターンの数は条件の数(例えば、多元合金の組成比であれば、合成されうる元素数)に応じて指数関数的に増加する。そのため、経験や直感等の人間的な予想だけでは最適化が困難であり、数理的なアプローチが重要となる。
昨今のコンピュータ技術の発達に伴い、実際に材料を作らずとも、第一原理計算や分子動力学法等を用いて、ある程度の精度で物理量を予測することが可能となった。しかし、例えば、四元合金の素材の組成比を1%程度の精度で最適化する問題を考えた場合、組み合わせのパターン数は約1億になる。このような多次元の組み合わせ問題では、計算手法を利用して最適化したい物理量を予測できたとしても、全探索を行うことは困難である。
多次元の組み合わせ問題を最適化する手法の1つとして、過去の実験結果を基に、実験条件と最適化したい特性との相関を学習し、任意の条件に対してどれくらいの特性が得られるかを予測することで、実験条件の候補を絞り込むことが考えられる。上記の例でいえば、実験条件とされる多次元合金の素材の組成比と、その実験条件で得られた物理的な特性(磁性、熱電特性等)との相関を学習し、特性が未知の組成比においてどれくらいの特性が得られるかを予測して、次の実験条件を、好適な結果が得られるような組み合わせ(組成比)に限定することで、効率的な材料探索が可能になる。
相関の学習方法としては、機械学習技術やAI(Artificial Intelligence )で用いられる数理的な手法が注目されている。
数理的な手法を利用した組み合わせ問題の最適化方法の一例が、例えば、非特許文献1および特許文献1、2、3に記載されている。
例えば、非特許文献1には、ガウス回帰と期待値最大化とによる最適化方法が記載されている。また、特許文献1には、モンテカルロ法を用いた最適化方法が記載されている。また、特許文献2には、粒子群最適化法による方法が記載されている。また、特許文献3には、確率的なシステムの注目指標を最小化することによる最適化方法が記載されている。
また、例えば、実験を伴う多次元の組み合わせ問題の最適化方法の例として、非特許文献2には、組み合わせを遺伝子で表現し、実験結果が悪いものを淘汰し、優れた遺伝子同士を交叉させることで次に測定するべき組み合わせを与える方法が記載されている。
特開2009−146072号公報 国際公開第2013/008345号 国際公開第2016/194051号
石井一夫、「翻訳 マテリアルズインフォマティクス 探索と設計」、2017年、p.43−69 D. M. Deaven and K. M. Ho, "Molecular Geometry Optimization with a Genetic Algorithm", Phys. Rev. Lett. 75, Jul 1995.
例えば、上記の各文献に記載された方法を利用して、所望の特性に対して多次元の素材の組成比の最適化を行うことを考える。
組成比の最適化では、主に2つの事が求められる。すなわち、(1)どの組み合わせを優先して測定すべきかの決定を高速に行うこと、および(2)最適化対象とした特性が複数の異なる組み合わせにおいてピークを持つような場合であっても、それら複数のピークに対応した組み合わせが求められることである。
上記(1)に関し、例えば、非特許文献1に記載の方法は、ガウス回帰によって得られる期待値と分散の関係を示す関数を用いて、結果が未知の全ての組み合わせに対して優先度を計算し、最も優先度の高い組み合わせを次の実験候補に決定する。しかし、組み合わせ数が膨大になる多次元系においては、全ての組み合わせで優先度を計算するのは困難である。
また、特許文献1に記載の方法は、回帰木を使った高速化をなしているが、回帰木の設計や計算コストが条件の数の指数関数に依存することに変わりなく、また、それを解決する方法について何ら考慮していない。
また、特許文献2に記載の方法は、昆虫や魚の群知能をモデル化することで高速化を図っている。具体的には、組み合わせの条件数に応じた多次元ベクトルが張る多次元空間上に複数のエージェントを配置し、それらエージェントのいる位置の各々において実験を行う。実験の結果、優れた特性が得られたエージェントのいる方向に他のエージェントを移動させる処理を繰り返す。これにより、より優れた特性を持つ組み合わせの探索を高速化する。しかし、この方法は、高速である一方、エージェントの重複を陽に扱うことが困難であり、特定の組み合わせにエージェントが集中した場合、効率が大幅に落ちるという問題がある。
また、特許文献3に記載の方法は、過去の実験結果から多次元空間上での特性の勾配を推定し、より特性が向上しそうな組み合わせに絞って優先度を計算し、得られた優先度を基に最適解を探索する。しかし、この方法は、優先度を算出する組み合わせを絞ることで高速化を図っているが、勾配を推定してピークを上っていく単純な山登り法では、局所解を抜け出すのが困難である。
非特許文献2に記載の方法は、組み合わせを遺伝子で表現し、実験結果が悪いものを淘汰し、優れた遺伝子同士を交叉させることで次に測定するべき組み合わせを与えることで、組み合わせの最適化を行う。この方法は、遺伝アルゴリズムとも呼ばれ、適用できる問題の幅が広く、また、組み合わせの決定の計算コストが問題の次元によらず高速である。しかし、この方法は、実験結果の悪いものが淘汰されるため、組み合わせの多様性を管理するのが困難であり、探索範囲が狭くなったり、局所解に陥りやすいという問題がある。また、非特許文献2に記載の方法は組み合わせの重複が管理できずに実験コストが増加するという問題がある。なお、非特許文献1に記載された方法を利用して組み合わせ毎の予測値や分散を得ることで組み合わせの多様性を管理することは可能だが、分散が小さい組み合わせについても交叉を行うのに十分な遺伝子の個体数が必要であるため計算効率がさほど上がらない、回帰の計算コストが高く遺伝アルゴリズムが持つ高速性を損ねてしまうという問題がある。
上記(2)に関し、多次元の組み合わせの最適化問題においては、最も優れた結果を示す組み合わせ以外の組み合わせも必要になることがある。例えば、多次元の素材の組成比の最適化問題の場合、素材のコスト、環境配慮等の影響から、幾分か特性を犠牲にしてでも、低コスト、無害な素材を使いたい場合がある。また、単純に、同程度の優れた結果を示す組み合わせが複数存在する場合もある。
しかし、上記の方法はいずれも、最も優れた特性を持つ組み合わせを探索するための手法となっており、それ以外に優れた特性を持つ組み合わせを高速に(例えば、全探索よりも効率的に)探索することは考慮されていない。
本発明は、上述した課題に鑑みてなされたものであり、所定のパラメータを最適化する多次元の組み合わせ問題において、複数のピークを有する場合であっても、適切な解を効率よくかつ安定して探索することができる組み合わせ探索システム、情報処理装置、組み合わせ探索方法および組み合わせ探索プログラムを提供することを目的とする。
本発明による組み合わせ探索システムは、所定の確認作業を伴う所定のパラメータに対する多次元の組み合わせ問題における実績データであって、過去の確認作業または実空間において多次元の各要素がとった値の組み合わせを示すインプット情報と、その時にインプット情報が示す組み合わせに対して得られた所定のパラメータの値を示すアウトプット情報とを対応づけた情報を記憶する記憶部と、所定の終了条件を満たすまで、要素の組み合わせ毎に定義される指標であって、実績データから算出される、実績データにその組み合わせに対する新たなアウトプット情報が追加されることによる探索空間全体における所定のパラメータの値の不確かさの変化量を基に定義される指標である情報の重要度に基づいて、次の確認作業で用いる組み合わせを少なくとも1つ決定する処理を繰り返す探索部とを備えることを特徴とする。
また、本発明による情報処理装置は、所定の確認作業を伴う所定のパラメータに対する多次元の組み合わせ問題における実績データであって、過去に確認作業または実空間において多次元の各要素がとった値の組み合わせを示すインプット情報と、その時にインプット情報が示す組み合わせに対して得られた所定のパラメータの値を示すアウトプット情報とを対応づけた情報を記憶する記憶部にアクセス可能な情報処理装置であって、所定の終了条件を満たすまで、要素の組み合わせ毎に定義される指標であって、実績データから算出される、実績データにその組み合わせに対する新たなアウトプット情報が追加されることによる探索空間全体における所定のパラメータの値の不確かさの変化量を基に定義される指標である情報の重要度に基づいて、次の確認作業で用いる組み合わせを少なくとも1つ決定する処理を繰り返す探索部を備えることを特徴とする。
また、本発明による組み合わせ探索方法は、所定の確認作業を伴う所定のパラメータに対する多次元の組み合わせ問題における実績データであって、過去に確認作業または実空間において多次元の各要素がとった値の組み合わせを示すインプット情報と、その時にインプット情報が示す組み合わせに対して得られた所定のパラメータの値を示すアウトプット情報とを対応づけた情報を記憶する記憶部にアクセス可能な情報処理装置が、所定の終了条件を満たすまで、要素の組み合わせ毎に定義される指標であって、実績データから算出される、実績データにその組み合わせに対する新たなアウトプット情報が追加されることによる探索空間全体における所定のパラメータの値の不確かさの変化量を基に定義される指標である情報の重要度に基づいて、次の確認作業で用いる組み合わせを少なくとも1つ決定する処理を繰り返すことを特徴とする。
また、本発明による組み合わせ探索プログラムは、所定の確認作業を伴う所定のパラメータに対する多次元の組み合わせ問題における実績データであって、過去に確認作業または実空間において多次元の各要素がとった値の組み合わせを示すインプット情報と、その時にインプット情報が示す組み合わせに対して得られた所定のパラメータの値を示すアウトプット情報とを対応づけた情報を記憶する記憶部にアクセス可能なコンピュータに、所定の終了条件を満たすまで、要素の組み合わせ毎に定義される指標であって、実績データから算出される、実績データにその組み合わせに対する新たなアウトプット情報が追加されることによる探索空間全体における所定のパラメータの値の不確かさの変化量を基に定義される指標である情報の重要度に基づいて、次の確認作業で用いる組み合わせを少なくとも1つ決定する処理を繰り返し実行させることを特徴とする。
本発明によれば、所定のパラメータを最適化する多次元の組み合わせ問題において、複数のピークを有する場合であっても、適切な解を効率よくかつ安定して探索することができる。
第1の実施形態の組み合わせ探索システムの構成例を示すブロック図である。 第1の実施形態の組み合わせ探索システムの動作例を示すフローチャートである。 第1の実施形態の組み合わせ探索システムのより詳細な動作例を示すフローチャートである。 1次元関数に対する情報の重要度の一例を示す説明図である。 第1の例である二元の組み合わせの最適化問題の関数F(x,y)の出力を示すグラフである。 関数Fに対するパラメータx,yの組み合わせの探索結果の例を示す模式図である。 関数Fに対するパラメータx,yの組み合わせの探索結果の例を示す模式図である。 関数Fに対するパラメータx,yの組み合わせの探索結果の例を示す模式図である。 関数Fに対するパラメータx,yの組み合わせの探索結果の例を示す模式図である。 本発明による二段階探索手法と他の手法とのコストの比較結果を示す説明図である。 第2の例での実験結果を示すグラフである。 第2の例におけるFeの合成比率毎の実験回数の分布を示すグラフである。 本発明の各実施形態にかかるコンピュータの構成例を示す概略ブロック図である。 本発明の組み合わせ探索システムの概略を示すブロック図である。 本発明の組み合わせ探索システムの他の例を示すブロック図である。
[実施形態1]
以下、図面を参照して本発明の実施形態について説明する。図1は、第1の実施形態にかかる組み合わせ探索システムの構成例を示すブロック図である。図1に示す組み合わせ探索システムは、記憶部10と、探索部20と、実験部30とを備える。
記憶部10は、多次元の素材の組成比の1つ以上の組み合わせの各々に対して行った、最適化したい特性に関する実験結果を示す情報(実績データ)を記憶する。記憶部10は、実験を行った材料の情報(多次元の素材の組成比)と、その材料から実験により得られた特性とを対応づけた情報を少なくとも1つ以上記憶する。以下、実験に用いる材料の多次元の素材の組成比を、実験のインプット情報または単にインプットといい、該材料から実験により得られた特性を、実験のアウトプット情報または単にアウトプットという場合がある。
探索部20は、実験結果または探索結果が所定の終了条件を満たすまで、次に実験を行う1の組み合わせを、組み合わされる各条件(各要素)に対応する成分からなる多次元ベクトルが張る多次元空間である探索空間内から探索して決定する探索決定処理を繰り返し行う。
本実施形態の探索部20は、戦略決定部21と、終了判定部22と、二段階決定部23と、乱択部24とを含む。なお、探索部20は、終了判定部22において所定の終了条件を満たすと判定されるまで、戦略決定部21によって決定された探索戦略に応じて二段階決定部23または乱択部24による探索決定処理を繰り返し行う。
戦略決定部21は、ピーク探索の戦略を決定する。以下に示す例では、ピーク探索の戦略として、以下に示す二段階探索手法と、ランダムに組み合わせを選択する乱択手法のいずれかを決定する。ただし、戦略決定部21は、適度にばらつきのある複数の組み合わせに対する実験結果が得られている場合等は省略することも可能である。または、戦略決定部21を、最初に数回ランダムに組み合わせを決定するランダム決定機(図示せず)によって代替してもよい。なお、戦略決定部21が省略またはランダム決定機により代替された場合、乱択部24も省略される。
終了判定部22は、これまでの探索の経過や実験結果を基に、探索が終了条件を満たすか否かを判定し、終了条件を満たした場合に、探索部20における探索決定処理を終わらせる。
なお、本実施形態では、1回の探索決定処理で次に実験を行う1の組み合わせが決定される度に、後述される実験部30により実験が行われ、その結果が記憶部10に追加されるものとする。追加された実験結果は、次の探索決定処理でこれまでの実験結果の1つとして参照される。
二段階決定部23および乱択部24はそれぞれ、過去の実験におけるインプットとアウトプットを保持する記憶部10の情報を基に、次の実験におけるインプットを決定する決定機である。ただし、二段階決定部23は、二段階探索手法を用いて次の実験におけるインプットを決定し、乱択部24は、乱択手法を用いて次の実験におけるインプットを決定する。
なお、本実施形態では実績データの取得方法として実験を例示しているが、実績データは、所定の確認作業により得られるものであればよい。確認作業としては、実験以外にも、所定の精度を満たす数値計算(計算シミュレータ等)等が挙げられる。また、実験には、組み合わせが示す事象等を実空間もしくはその疑似空間上に生じさせてその時に生じた現象を取得すること等、あらゆる検証動作が含まれる。したがって、上記の実験部30は、所定の確認作業を行うためのあらゆる装置と代替可能である。その場合、次の実験におけるインプットは、次の確認作業で用いるインプットと置き換えればよい。また、インプットには離散的なパラメータや次元圧縮等の前処理を施したものを加えることも可能である。インプットとアウトプットの具体例を以下に列挙する。
・合金の材料の組成比(インプット)と、合金の磁気、電気、熱等の物理的特性(アウトプット)
・合金の材料の組成比(インプット)と、合金の磁気、電気、熱等の物理的特性のシミュレーションによる予測値(アウトプット)
・材料の形状(インプット)と、計算シミュレーションから得られる材料の熱、磁気等の物理的特性(アウトプット)
・材料の形状(インプット)と、計算シミュレーションから得られる材料の熱、磁気等の物理的特性のシミュレーションによる予測値(アウトプット)
・t−SNE(t-distributed stochastic neighbor embedding )等の手法により次元削減された回路の画像情報(インプット)と電気的特性(アウトプット)
・ナップザック問題における品物の組み合わせ(インプット)と、品物の価値(アウトプット)を初めとした組み合わせ問題における種々の組み合わせとその価値
二段階決定部23は、予測部231と、大域決定部232と、詳細決定部233とを有する。
予測部231は、記憶部10に記憶されている情報に基づいて、任意の組み合わせ(インプット)に対して、最適化したい特性の値(アウトプット)を予測する。予測部231は、例えば、カーネル近似やガウス回帰等公知の方法を利用できる。また、機械学習技術やAI等に用いられる公知の学習方法により学習された推定モデルを利用することも可能である。
大域決定部232は、過去の実験結果および予測部231による予測結果を基に、次の実験におけるインプット(組み合わせ)の探索起点を大域的に決定する。以下、大域決定部232が決定した探索起点を、大域候補点と呼ぶ場合がある。
大域決定部232は、大域候補点の決定に際し、過去の実験結果から、インプット(組み合わせ)に対してそれぞれの情報の重要度を求め、それを利用する。これにより、大域候補点を高速に(少なくとも、総当たり計算よりも計算コストを抑えて)決定する。
本実施形態では、各組み合わせに対する情報の重要度として、「過去の実験結果から予測される、実験を増やす、すなわちその組み合わせに対する所定のパラメータの値(本例の場合、所定の特性値)の測定回数が増えることによる探索空間内における当該値の不確かさの減り代」に少なくとも基づく指標を用いる。ここで、所定のパラメータの値の不確かさは、任意の予測関数で与えられる、実験値の誤差から作られる期待値に対する不確かさ(Error )であってもよい。より具体的に、過去の実験で用いたインプットとアウトプットに対する、カーネル近似やガウス回帰等の回帰分析を施すことで得られるアウトプットの予測値の不確かさであってもよい。
例えば、ある組み合わせに対する情報の重要度は、過去の実験結果から回帰によって得られる期待値に対する不確かさがその組み合わせの測定を追加することによってどれだけ減るかを示す「減り代」に対して、単調増加する指標や正の相関をもつ指標であってもよい。また、ある組み合わせに対する情報の重要度は、過去の実験結果から予測される当該組み合わせに対する所定のパラメータの値(期待値)と、当該組み合わせに対する測定を追加した場合に過去の実験結果から予測される当該組み合わせに対する所定のパラメータの値(期待値)の不確かさの減り代とに基づく指標であってもよい。期待値も加味することで、優れた特性が得られそうもない組み合わせの重要度を下げる等の調整を行うことができる。
ここで、探索空間内での予測値の不確かさを示す指標として分散(またはその総和)を用いてもよい。その場合、情報の重要度は、過去の実験結果から予測される、その組み合わせに対する実験を増やすことによる探索空間内での所定のパラメータの値(期待値)の分散(またはその総和)の減り代に基づく値としてもよい。なお、本実施形態における「情報の重要度」は、実験への「投資優先度」とみなすこともできる。分散以外にも、過去の実験結果から得られる、その組み合わせに対する期待値と不確かさとを掛け合わせて得られる指標を用いてもよい。期待値と不確かさの乗算を用いることで、探索空間において不確かさが低い点や期待値が低い点に対する重要度を下げることができる。
大域決定部232は、例えば、過去に測定したインプット毎に、探索空間全体での誤差の総和の減少値を指標とした、情報の重要度を求め、その情報の重要度に比例した確率で過去に実験したインプットを1つ採択することにより、大域候補点を決定してもよい。
詳細決定部233は、大域決定部232により決定された大域候補点を基に、次に実験候補とする1の組み合わせを決定する。
詳細決定部233は、例えば、大域候補点を起点とした局所的な最適化手法により、次に実験候補とする1の組み合わせを決定してもよい。具体例として、詳細決定部233は、大域候補点とされた組み合わせに対してランダムノイズを足すことで、次に実験する組み合わせの候補を複数生成し、それらの候補の中から情報の重要度が最も高い候補を次の組み合わせとして採択してもよい。また、例えば、詳細決定部233は、大域候補点を起点とする山登り法等を利用して局所的な最適解を求め、それを次の組み合わせとしてもよい。このとき、詳細決定部233は、情報の重要度以外の指標(例えば、予測値)を用いることも可能である。
本実施形態では、このような、まず実績データを基に高速かつ大域的に、次の組み合わせの探索起点とする1の組み合わせを求め、その後、大域的に求めた1の組み合わせを基にして局所的に最適解を求める手法を、二段階探索手法と呼ぶ。特に、大域的に1の組み合わせを求める際や局所最適解を求める際に、過去のデータから組み合わせ毎の情報の重要度を定量的にかつ算出対象を限定して求めることで、より良いアウトプットが得られる可能性が高い組み合わせを高速に推測する。
実験部30は、探索部20によって決定された組み合わせに対して実験を行う。なお、実験部30による実験の結果は記憶部10に登録(追加)される。
次に、本実施形態の動作を説明する。図2は、本実施形態の組み合わせ探索システムの動作例を示すフローチャートである。図2に示す動作は、次の実験の組み合わせ(インプット)を決定する組み合わせ決定フェーズ(ステップS11〜ステップS15)と、決定された組み合わせで実験を行いその結果を取得する実験フェーズ(ステップS16)と、終了条件を判定する判定フェーズ(ステップS17)とに大別される。
決定フェーズでは、探索部20に記憶部10のデータを入力し、探索部20が、入力されたデータに基づいて次の実験のインプットを決定する。実験フェーズでは、実験部30が、探索部20により決定されたインプットに対して実験を行い、その実験のアウトプットを記憶部10に追加する。判定フェーズでは、これまでの結果が終了条件を満たしているかを確認し、条件を満たしていない場合は探索部20に再び記憶部10のデータを入力してインプットの決定処理に戻る。終了条件は、本システムのユーザにより問題に応じて定められる。一例としては、ピークの高さ(確認された特性の高さ)、ピークの数(適切な解とされる組み合わせの数)、誤差(予測値の不確かさ)、実験回数が所定の値に達した等がある。なお、図1では図示省略しているが、探索部20を備える情報処理装置等が、次の実験のインプットを示す情報を出力する出力部や、記憶部10に新たな実績データを追加するための入力部をさらに備えていてもよい。
以下、図2を参照してこれらのフェーズを含む本実施形態の動作をより詳細に説明する。図2に示す例では、まず、記憶部10のデータが探索部20に入力され、次の実験対象とされる組み合わせの決定指示が行われる(ステップS11)。
次の実験対象とされる組み合わせの決定指示が行われると、まず、戦略決定部21が、今回の探索決定処理におけるピークの探索戦略を決定する(ステップS12)。戦略決定部21は、例えば、ピークの探索戦略として二段階探索手法を用いるか乱択手法を用いるかを決定してもよい。
ピークの探索戦略として乱択手法が採用された場合、探索部20の乱択部24が、次の実験の組み合わせをランダムで生成する(ステップS13)。一方、ピークの探索戦略として二段階探索手法が採用された場合、ステップS14に進む。
ステップS14では、大域決定部232が、過去の実験結果を基に、大域的に、次の実験の組み合わせの探索起点となる組み合わせを探索して、大域候補点を決定する。ここで、「大域的に探索する」とは、インプットが張る空間(探索空間)全体を探索範囲として探索することを意味する。上記の例では、情報の重要度を採択確率として利用して探索することが「大域的」に相当する。
次いで、詳細決定部233が、決定された大域候補点を基に、局所的に、次の実験の組み合わせの候補を探索して、1の組み合わせを決定する(ステップS15)。ここで、「局所的に探索する」とは、インプットが張る空間(探索空間)の一部(例えば、起点からの近傍領域)のみを探索範囲として探索することを意味する。上記の例では、大域候補点に所定のランダムノイズを足したものを候補にして探索することが「局所的」に相当する。
次の実験の組み合わせが決定すると、実験部30が、実験を行ってその結果を記憶部10に追加する(ステップS16)。
最後に、終了判定部22が、終了判定を行う(ステップS17)。所定の終了条件を満たした場合(ステップS17のYes)、探索決定処理を終了する。一方、所定の終了条件を満たしていない場合(ステップS17のNo)、ステップS11に戻り、次の実験の組み合わせを決定するための探索決定処理を行う。
図3は、図2に示す動作例のより詳細なフローチャートである。本実施形態の組み合わせ探索システムは、例えば、図3に示すような動作を行ってもよい。
図3に示す例では、まず、探索部20に記憶部10に記憶されている実験結果が標本データとして入力され、次の実験対象とされる組み合わせの決定指示が行われる(ステップS101)。なお、最初は、実験結果が1つまたは0であってもよい。なお、0の場合は、ステップS102〜ステップS103の処理を飛ばしてステップS104に進めばよい。
決定指示が行われると、戦略決定部21は、一様乱数を生成する(ステップS102)。そして、生成された乱数が特定の値p以下であった場合(ステップS103)、ステップS104に進み、それ以外の場合ステップS105に進む。なお、ステップS104が、上記の乱択手法による探索決定処理に相当し、ステップS105〜ステップS109が上記の二段階探索手法による探索決定処理に相当する。
ここで、pは0から1の値をとることが可能であり、0<p<0.5程度が好ましい。pが大きいほど、乱択手法が採用されやすくなるため、ピークの発見に要する実験回数が減る一方で、ピークの高さを決定するのに要する実験回数が増える。なお、p=0.5(1−n/N)のように、pを徐々に減らすことも可能である。ここで、nはこれまでに行われた実験の数、Nはユーザが決めた実験回数の上限値である。pをこれまでに行われた実験の数に応じて減らすことで、新しいピークを探すことの重要度を動的に変えることができる。
ステップS104では、乱択部24が、次の実験の組み合わせをランダムで生成する。なお、乱択部24は、ランダムで組み合わせを生成する代わりに、ランダムで作った組み合わせを複数用意し、後述する方法で得られる不確かさAが最も大きい組み合わせを採択することで、未知の組み合わせを効率的に探索させることも可能である。
なお、ステップS101〜ステップS104の処理は、上述したように、最初に複数回ランダムな組み合わせで実験を行う等の手段で代替することも可能である。
ステップS105〜ステップS106では、大域決定部232が、過去の実験から推測される組み合わせ毎の、目的変数とされる測定値の期待値Eおよび不確かさAを基に、大域候補点とする組み合わせ毎を1つ決定する。本例では、大域決定部232は、追加で実験を行うことでピークに関するより多くの情報を得られる組み合わせを、大域候補点に決定する。
大域決定部232は、まず、既知の組み合わせに対して、予測部231を用いて情報の重要度を算出する(ステップS105)。ここでは、大域決定部232は、予測部231を用いて、過去の実験からインプットに対するアウトプットの期待値Eおよび不確かさAを推測させる。なお、取り得る全てのインプットに対して期待値Eおよび不確かさAを計算することは、計算コスト的に困難であるため、以下では過去の実験で用いたインプットに対してのみ期待値Eおよび不確かさAを計算する。そして、大域決定部232は、算出された期待値Eおよび不確かさAを基に、情報の重要度を求めることで、より良いアウトプットが得られる可能性が高いインプットを大域的に推測する。
このような重要度を用いることで、複数のピークを探索できるようにする。例えば、アウトプットの最大値を更新できる確率が高い、すなわち単純に期待値Eおよび不確かさAが高いインプットのみを採択する方法の場合、探索されるピークが1つに固定される。これに対して、大域決定部232は、実験結果から推測される、追加で実験を行うことでピークに関するより多くの情報を得られるインプット、すなわち取り得るインプット全域でのばらつき(分散)の減り代が大きいインプットを採択することで、探索されるピークが1つに固定されないようにする。なお、計算コストが許す範囲内で、過去の実験で用いたインプット以外のインプット(例えば、探索空間内でこれまでに実験結果が得られていない領域から選択されたいくつかのインプット)に対しても、期待値Eおよび不確かさAを求めることも可能である。
任意のインプットに対するアウトプットの期待値Eおよび不確かさAは、予測部231により計算される。予測部231は公知の方法を用いることができる。
例えば、標本データにおいてiで識別されるインプットXに対して、カーネル回帰で期待値Eおよび不確かさAを求める場合、次の式(1)を用いてもよい。ここで、標本データは、アウトプットが既知のインプットからなるデータの集合をいう。iは、例えば、実験番号であってもよい。なお、実験結果が未知のインプットXに対してEおよびAを求める場合はこの限りではない。その場合も、実験結果が未知のインプットXを式(1)に代入して、EおよびAを求められる。ここで、Xは{x1,x2,x3,・・・}のように2以上の互いに独立した成分からなる多次元ベクトルである。
Figure 0006915743
ここで、Rは、Xに対して得られたアウトプット(測定値)である。また、Kはカーネル関数である。カーネル関数には、ガウスカーネル、多項式カーネル等の公知のものを使うことができる。カーネル関数K()の入力であるX−Xは、インプットXとインプットX間の距離を表す。距離としては、ユークリッド距離、マンハッタン距離等を用いることができる。ここで、インプットXは、標本データに含まれるいずれかのインプットを表す。したがって、jは1〜標本データ数の間の値を取る。
インプットXにおける情報の重要度Zは、(1)Aが0またはEが0であるときに0に収束すること、および(2)任意のi,jに対してA≦AかつE≦EであるならZ≦Zであることを満たす関数で与えられてもよい。なお、予測値が負の値を取り得る場合は、上記の条件(1)におけるAに対する「0」を今までの実験結果で得られた最小の値で代替することができる。
の望ましい例の一つとして、「インプットXに対する実験を追加で行うことによる、探索空間全域での予測値の不確かさの減り代の増加に対して増加傾向を示す等正の相関をもつ指標」が挙げられる。この場合、重要度Zは、次のように計算できる。
上記の式(1)で示したカーネル近似を用いる場合、探索空間内での予測値の不確かさUは、標本データの分散の総和で評価することができる。すなわち、以下の式(2)を用いて評価できる。
Figure 0006915743
このとき、インプットXに対して追加で実験を行うことによる、探索空間全域での分散の総和の減り代Dは、式(3)で与えられる。
Figure 0006915743
インプットXの情報の重要度Zとしては、Dをそのまま用いてもよいし、Dの代わりに、Dの平方根をとったものや、Aの次数を5/2以外にしたものを用いることも可能である。なお、これらはいずれも上記の条件(1)および(2)を満たしている。
図4は、1次元関数に対する情報の重要度の一例を示す説明図である。図4(a)は、予測対象(1次元の要素)に対する真値(実際の関数)を示している。なお、図4(a)において×印はこれまでの実験で得られた結果を表している。また、図4(b)は、予測対象に対して本実施形態で得られる「情報の重要度」の例を示している。また、図4(c)は、比較例として、非特許文献1の手法で得られる優先度の例を示している。図4に示すように、図4(c)では過去の実験で高い特性が得られた左側の山(第1のピーク)付近の優先度が高く、右側の山(すなわち第2のピーク)付近の優先度が著しく低くなっているのに対し、本実施形態の情報の重要度を示す図4(b)では、2つの山付近でバランスよく、高い値が取られている。
なお、ガウス回帰を用いて、インプットXに対する期待値Eおよび不確かさAを求める場合、インプットXに対して直接、ガウス回帰を適用すると、A=0となってしまう。その場合、予測部231は、インプットXの各成分に微小な乱数を加えて、インプットXを、ガウス回帰のデータ(標本のデータ)から外して走査を行えばよい。これにより、非0のAを得ることができる。なお、微小な乱数の例としては、0.02〜0.1L程度の乱数が挙げられる。ここで、Lは、各成分の取り得る値の広さ(値域幅)を表す。
このようにして得られる情報の重要度Zに基づいて、大域決定部232は、Zを求めたインプット群(インプットX、i=1〜N等)から大域候補点とする1つのインプットを決定する(ステップS106)。その際、大域決定部232は、各組み合わせ(インプットX)の採択確率を、情報の重要度Zに比例するようにする。
なお、大域決定部232は、最適化の対象である特性値またはその予測値(上記の期待値E)が小さいインプットXについて、その近傍を含めて追加の探索を求めないのであれば、その情報の重要度Zを0または無効にする等して、大域候補点の選択肢から除外してもよい。例えば、大域決定部232は、期待値Eに対して閾値(大域候補点とする期待値の下限値E0)を定め、E<E0を満たすXを選択肢から除外してもよい。
また、大域決定部232は、特定の組み合わせに対する実験回数Nや不確かさAについても閾値(大域候補点とする上限値N0やA0)を定め、それらが閾値を上回った場合、すなわちN>N0やA>A0の場合に、そのXを選択肢から除外してもよい。
このような除外処理を加えることにより、ピークの高さ測定の精度を落とす代わりに、探索を高速化させることができる。なお、上記の除外処理は、後述する詳細決定部233も行うことが可能である。
大域決定部232が、情報の重要度Zが最大のものではなく、Zに比例した乱択により大域候補点を決定することにより、測定ノイズへの耐性が得られ、特定のピークについてのみ探索を行うことを避けることができる。
大域候補点が決定すると、詳細決定部233は、大域候補点にランダムベクトルを加えて、次の実験のインプット(組み合わせ)の候補を生成する(ステップS107)。詳細決定部233は、例えば、大域候補点とされたインプットの各成分に対し、0.1L程度の乱数を加えることで、次の実験のインプット候補X’を複数生成する。
そして、詳細決定部233は、生成したインプット候補X’の各々に対して情報の重要度Z’を求め、最も情報の重要度Z’の高いインプット候補X’を次に実験するべきインプットに決定する(ステップS108、ステップS109)。ここで、インプット候補X’に対する情報の重要度Z’は、これまでの実験結果に基づくカーネル回帰やガウス回帰を用いて計算できる。詳細決定部233も、次に実験する組み合わせを、大域候補点の近傍に絞ることで、全ての組み合わせ候補に対する情報の重要度を算出する必要がなくなるため、計算コストを落とすことができる。なお、詳細決定部233は、上述したアルゴリズムの代わりに、大域候補点にランダムベクトルを加えたものをそのまま使ったり、大域候補点にランダムベクトルを加えたものの中からランダムに選んだり、最も不確かさAの高いインプット候補を選んだりするアルゴリズムを用いることもできる。予測精度は落ちる代わりに、計算コストを減らすことができる。なお、この他にも、詳細決定部233における選択アルゴリズムは、大域候補点にランダムベクトルを加えたものの中から期待値Eiが最も高いインプット候補を採用することも可能である。
次に実験する組み合わせが決定されると、探索部20はその情報を出力する(ステップS110)。
実験部30は、次に実験する組み合わせの情報が入力されると、その組み合わせを用いて実験を行い、その結果を記憶部10に追加する(ステップS111)。
決定した組み合わせに対する実験結果が得られると、終了判定部22が、これまでに得られた実験結果またはこれまでの探索経過が探索の終了条件を満たすか否かを判定する(ステップS112)。探索の終了条件を満たした場合(ステップS112のYes)、そのまま処理を終了する。一方、探索の終了条件を満たしていない場合(ステップS112のNo)、ステップS111に戻る。
以上のように、本実施形態によれば、どの組み合わせを優先して測定すべきかの決定を高速に行いつつも、最適化対象とした特性が複数の異なる組み合わせにおいてピークを持つ場合であっても、適切な解とされる組み合わせを高速にかつ安定して求めることができる。ここで、適切な解とは、探索の終了条件によるが、例えば、当該解を得るまでのコストとの両立において所定の網羅性を満たす解であったり、2以上のピークに対応する解等が挙げられる。
なお、上記では、1回の探索決定処理で1つの組み合わせを決定し、組み合わせが1つ決定される毎に実験結果を求める処理を繰り返し行うことにより、最適化を行う方法を示したが、例えば、1回の探索決定処理で複数の組み合わせを決定し、それらに対して各々実験を行い、その結果が反映されたら再び探索決定処理に戻るといった方法も可能である。その場合、例えば、大域決定部232が、重要度を採択確率に用いて2以上の大域候補点を決定してもよいし、詳細決定部233が、決定された大域候補点に対して重要度に基づいて2以上の組み合わせを決定してもよいし、それらを組み合わせることも可能である。
以下、具体的な例を用いて本実施形態の効果を示す。以下では、本発明の適用範囲とされる組み合わせ問題として、多次元の素材の組成比を解く問題を例示するが、それ以外にも、予測部231を用いて結果が予測できる問題、すなわち過去の実績から未知の組み合わせに対する結果が予測できる問題であれば、同様に適用可能である。
[例1]
図5(a)は、第1の例である二元の組み合わせの最適化問題の関数F(x,y)の出力を示すグラフである。関数Fは二次元空間上で定義され、図5(a)に示すように、2つのパラメータx,yに応じて出力が変化する。図5(b)は、図5(a)で示される複数のピークを模式的に示す模式図である。ここで、関数Fは、2つのパラメータx,yに対して式(4)のように定義される。
Figure 0006915743
図5(a)および図5(b)に示すように、本例の関数F(x,y)は、(30,30)に負のピークを有するとともに、(20,20)、(40,70)および(100 ,50)に正のピークを有する。以下、図5(b)に示すように、(30,30)の負のピークをP0、(20,20)、(40,70)および(100 ,50)の正のピークをそれぞれP1、P2およびP3と記す。本例では、ピークP0が、ピークP1の発見を妨害している。更に、ピークP3は、ピーク幅が広く、局所解として機能する。
このような場合において、F(x,y)が大きい値を持つx,yの組み合わせを探すことを考える。
なお、図5に示す関数F(x,y)は、仮想的なものであるが、材料の素材の組成比の組み合わせ問題においても、このような複数の正のピークや、材料の破壊、酸化等に起因する負のピークが存在する場合がある。
図6〜図9はそれぞれ異なる最適化手法で関数Fに対してパラメータx,yの組み合わせを探索した結果を示す模式図である。図中において、太線の丸が、実験をすべき組み合わせとして出力された点(出力点)を表している。出力点が正のピークを示す黒丸の中に存在していれば、そのピークを発見できたことになる。なお、図6〜図9では、実験(本例の場合、測定値の算出)は、100回ずつ行われている。
図6は、非特許文献1に記載の方法で、関数F(x,y)を最適化する組み合わせ(x,y)を探索した結果を示す。図6に示すように、当該方法では、ピークP3は発見できたが、他のピークが発見できていない。このように、非特許文献1に記載の方法では、局所解であるピークP3に捉われてしまい、他のピークが探索されないことがわかる。
図7は、戦略決定部21により乱択手法と二段階探索手法を組み合わせた上記の方法により、x,yの組み合わせを探索した結果を示す模式図である。図7に示すように、当該方法では、全てのピークが発見できたことがわかる。
図8は、乱択手法を省略して、二段階探索手法のみを用いた場合の探索結果を示す模式図である。図8に示すように、当該方法では、ピークP2とピークP3は発見できたが、ピークP1が発見できなかったことがわかる。これは、ピークP0の谷を越えられずに、ピークP1付近での実験回数が少なくなり、結果としてピークP1付近の点が大域候補点として選択されにくくなったことが原因と推定される。
図9は、大域決定部232において情報の重要度が最も高いインプットを大域候補点に選択して二段階探索手法を行った場合の探索結果を示す模式図である。当該方法では、先に発見したピークP2近傍での探索を優先しすぎており、ピークP1を発見できていない。
なお、上記関数F()による検証はしていないが、特許文献2に記載の方法の場合、複数のエージェントを用いることでピークP2およびピークP3は発見できても、ピークP0の谷を越えられずに、ピークP1を発見するのは困難であると考えられる。それだけでなく、エージェントが同じピークを複数回実験することによる効率の低下が起こると予想される。
特許文献3に記載の方法の場合、過去の実験結果から統計量を予想するので、実験の重複はある程度避けられることが予想される。しかし、山登り法で組み合わせを最適化するため、特許文献2に記載の方法と同様、ピークP0の谷を越えられずに、ピークP1を発見するのは困難であると考えられる。
また、非特許文献2に記載の方法の場合、組み合わせ決定までの計算コストを抑えることができるが、優れた組み合わせ同士を交叉させることで次に測定するべき組み合わせを与えるので組み合わせの多様性を管理しきれず、局所解であるピークP3に捉われてしまい、他のピークが探索されないことが予想される。
また、図10は、本発明による二段階探索手法と、他の手法(全探索および非特許文献1に記載の手法)とのコストの比較結果を示す説明図である。なお、図10に示すコストは、局所解へのトラップと谷による探索の妨害を無視した。ここで、組み合わせ決定コストは、具体的には、過去の実験結果から次に実験する1の組み合わせを決定するのに必要な計算量である。また、1ピーク発見コストは、1個のピークを発見するのに必要な実験回数である。また、Kピーク発見コストは、K個のピークを発見するのに必要な実験回数である。
図10において、dはパラメータの数、すなわち組み合わせの次元数である。fは、組み合わせの各パラメータの自由度である。Pは、標本データの数である。wはピークの幅、mは各ピークの頂点を決定するのに必要な実験回数、Mはピーク1つを構成する組み合わせの実験優先度(情報の重要度)を0にするのに必要な実験回数である。図10における各コストの値は、d=2、f=100、w〜10、m〜10、M〜40として求めた。
図10に示すように、本発明による二段階探索手法を利用すれば、Kピーク発見コストを小さくすることができるので、特に1回の実験に時間がかかるような問題に対して効果的である。また、図10に示すコストより、本発明による二段階探索手法は、これまでの手法では扱うことができなかった高次元(特に5次元以上)であっても適用することができる。例えば、図10における各方法のコスト演算式にd=5、f=100、w〜10、m〜10、M〜40を代入すると、非特許文献1の手法では計算コストが10の10乗のオーダになってしまうが、本発明の手法では10の5乗程度にオーダを抑えることができる。
[例2]
次に、本発明の最適化手法を用いた、スピン分極率を目的変数とするホイスラー合金(Fe2-xCoxCr1-yMnySi1-z-aAlzGea )の各素材の合成比率の最適化結果を示す。ここで、組み合わせのパラメータは、ホイスラー合金における、Coの比率x、Mnの比率y、Alの比率z、Geの比率aの計4つである。
図11は、第2の例での実験結果を示すグラフである。図11には、図3に示す方法で決定された実験番号で識別されるインプット(組成比)の各々に対して逐次実験(数値計算)を行って得られたスピン分極率の変動が示されている。本例では、最初にランダムに決定した1の組み合わせに対して行った実験結果を示す情報が記憶部10に記憶された状態から、図3に示す方法を用いて上記4つのパラメータの組み合わせからなるインプットを逐次的に決定させ、1つのインプットが決定する度に当該インプットが示す素材に対して実験(数値計算)を行い、その結果を記憶部10に反映した。インプットの決定および実験は、終了条件である100回を満たすまで行われた。
なお、実験結果より、スピン分極が高い領域(図11において破線で囲った実験結果の組み合わせが位置する領域)は、Co2Cr0.6Mn0.5Al 、Fe0.6Co1.4Cr0.3Mn0.7Si0.3Al0.6Ge0.1 、Fe1.2Co0.8MnSi0.3Al0.4Ge0.3 の3箇所に点在していた。これをパラメータの組み合わせで示すと、(x,y,z,a)=(2.0 ,0.5 ,1.0 ,0 )、(1.4 ,0.7 ,0.6 ,0.1 )、(0.8 ,1.0 ,0.4 ,0.3 )である。なお、最初に発見されたピークは、(1.4 ,0.7 ,0.6 ,0.1 )である。
図12は、第2の例におけるFeの合成比率毎の実験回数の分布を示すグラフである。非特許文献1に記載の方法等では、最初に見つけたピーク近傍の組成比(Fe60% )ばかりを測定し、他のピークの存在を見落としてしまうところを、上記の方法では複数のピークを発見できている。
[その他]
例えば、本実施形態の組み合わせ探索方法は、材料以外の任意の多次元関数の最適化に用いることができる。特に、不連続な変化やピーク近傍に谷があるような問題(例えば、過学習)においては、山登り法やエージェントを移動させる方法では谷を超えることが困難であるのに対し、本実施形態の組み合わせ探索方法は適切な乱択が含まれているため、不連続な変化やピーク近傍に谷があるような問題も最適化することが可能である。ここで、適切な乱択には、乱択部24による乱択だけでなく、大域決定部232による情報の重要度を採択確率として用いた乱択も含まれる。
また、本実施形態の組み合わせ探索方法は、インプットやアウトプットが離散的な値を取る問題にも用いることができる。例えば、交通インフラの最適化問題について考える。道路を建設する場所をインプット、道路によってもたらされる物流をアウトプットとしたとき、インプットおよびアウトプットは離散的な値をとる。本実施形態の組み合わせ探索方法は、過去のインプットとアウトプットの組から未知のインプットに対するアウトプットの予想が可能であれば(カーネル近似、ガウス回帰といった公知の方法を用いることができる)、こうした問題に対しても高速、かつ安定な最適化を行うことができる。離散的なインプットに対する最適化手法として知られる遺伝アルゴリズムに比べ、本実施形態の組み合わせ探索方法は局所解に捉われにくく、また、実験の重複を容易に避けることができる。
また、本実施形態の組み合わせ探索方法は、アウトプットに誤差を伴うような問題にも用いることができる。例えば、ポーカーを行うAIにおいて、各々のカードの価値をあらかじめ設定し、価値の高い手札を残すようにすることを考える。より強いAIを作るには、カードの価値のセットをインプットとし、そのAIを実際に戦わせたときの最終的な儲けをアウトプットとした多次元最適化問題を解く必要がある。この場合、アウトプットには統計的な誤差が付与される。誤差を考慮しない手法(例えば、非特許文献1、特許文献1〜3に記載の方法等)の場合、偶然高いアウトプットが得られたインプット周辺に実験が集中してしまうが、本手法の場合、戦略決定部21や大域決定部232による実験の分散により、アウトプットのノイズを回避することができる。
また、図13は、本発明の各実施形態にかかるコンピュータの構成例を示す概略ブロック図である。コンピュータ1000は、CPU1001と、主記憶装置1002と、補助記憶装置1003と、インタフェース1004と、ディスプレイ装置1005と、入力デバイス1006とを備える。
上述した実施形態の組み合わせ探索システムが備える装置等は、コンピュータ1000に実装されてもよい。その場合、各装置の動作は、プログラムの形式で補助記憶装置1003に記憶されていてもよい。CPU1001は、プログラムを補助記憶装置1003から読み出して主記憶装置1002に展開し、そのプログラムに従って各実施形態における所定の処理を実施する。なお、CPU1001は、プログラムに従って動作する情報処理装置の一例であり、CPU(Central Processing Unit )以外にも、例えば、MPU(Micro Processing Unit )やMCU(Memory Control Unit )やGPU(Graphics Processing Unit)等を備えていてもよい。
補助記憶装置1003は、一時的でない有形の媒体の一例である。一時的でない有形の媒体の他の例として、インタフェース1004を介して接続される磁気ディスク、光磁気ディスク、CD−ROM、DVD−ROM、半導体メモリ等が挙げられる。また、このプログラムが通信回線によってコンピュータ1000に配信される場合、配信を受けたコンピュータ1000がそのプログラムを主記憶装置1002に展開し、各実施形態における所定の処理を実行してもよい。
また、プログラムは、上記の実施形態における所定の処理の一部を実現するためのものであってもよい。さらに、プログラムは、補助記憶装置1003に既に記憶されている他のプログラムとの組み合わせで各実施形態における所定の処理を実現する差分プログラムであってもよい。
インタフェース1004は、他の装置との間で情報の送受信を行う。また、ディスプレイ装置1005は、ユーザに情報を提示する。また、入力デバイス1006は、ユーザからの情報の入力を受け付ける。
また、実施形態における処理内容によっては、コンピュータ1000の一部の要素は省略可能である。例えば、コンピュータ1000がユーザに情報を提示しないのであれば、ディスプレイ装置1005は省略可能である。例えば、コンピュータ1000がユーザから情報入力を受け付けないのであれば、入力デバイス1006は省略可能である。
また、上記の実施形態の各構成要素の一部または全部は、汎用または専用の回路(Circuitry)、プロセッサ等やこれらの組み合わせによって実施される。これらは単一のチップによって構成されてもよいし、バスを介して接続される複数のチップによって構成されてもよい。また、上記の実施形態の各構成要素の一部又は全部は、上述した回路等とプログラムとの組み合わせによって実現されてもよい。
上記の実施形態の各構成要素の一部又は全部が複数の情報処理装置や回路等により実現される場合には、複数の情報処理装置や回路等は、集中配置されてもよいし、分散配置されてもよい。例えば、情報処理装置や回路等は、クライアントアンドサーバシステム、クラウドコンピューティングシステム等、各々が通信ネットワークを介して接続される形態として実現されてもよい。
次に、本発明の概要を説明する。図14は、本発明の組み合わせ探索システムの概略を示すブロック図である。図14に示す組み合わせ探索システム600は、記憶部61と探索部62とを含む。
記憶部61(例えば、記憶部10)は、所定の確認作業を伴う所定のパラメータに対する多次元の組み合わせ問題における実績データであって、過去に確認作業または実空間において多次元の各要素がとった値の組み合わせを示すインプット情報と、その時にインプット情報が示す組み合わせに対して得られた所定のパラメータの値を示すアウトプット情報とを対応づけた情報を記憶する。
探索部62(例えば、探索部20)は、所定の終了条件を満たすまで、多次元の各要素の組み合わせ毎に定義される指標であって、実績データから算出される、実績データにその組み合わせに対する新たなアウトプット情報が追加されることによる探索空間全体における所定のパラメータの値の不確かさの変化量を基に定義される指標である情報の重要度に基づいて、次の確認作業で用いる組み合わせを少なくとも1つ決定する処理を繰り返す。
このような構成により、複数のピークを有する場合であっても、適切な解を効率よくかつ安定して探索することができる。
また、図15は、本発明の組み合わせ探索システムの他の例を示すブロック図である。図15に示すように、本発明の組み合わせ探索システム600において、探索部62は、大域決定部621と、詳細決定部622とを含んでいてもよい。
大域決定部621(例えば、大域決定部232)は、探索空間に含まれる一部の組み合わせに対して算出される情報の重要度に基づいて、次の確認作業で用いる組み合わせを絞り込む。大域決定部621は、例えば、情報の重要度を基に、上記の一部の組み合わせの中から1または複数の組み合わせを採択することにより、次の確認作業で用いる組み合わせを絞り込んでもよい。
詳細決定部622(例えば、詳細決定部233)は、大域決定部621による絞り込み結果に基づいて、次の確認作業で用いる組み合わせを決定する。詳細決定部622は、例えば、大域決定部621によって採択された組み合わせを起点として探索空間の部分空間を探索して、次の確認作業で用いる組み合わせを決定してもよい。
大域決定部621による絞り込みを行った上で、詳細決定部622が次の確認作業で用いる組み合わせを決定する構成とすることにより、例えば、複数のピークに対応する解を高速に求めることができる。
なお、上記の実施形態は以下の付記のようにも記載できる。
(付記1)所定の確認作業を伴う所定のパラメータに対する多次元の組み合わせ問題における実績データであって、過去に確認作業または実空間において多次元の各要素がとった値の組み合わせを示すインプット情報と、その時にインプット情報が示す組み合わせに対して得られた所定のパラメータの値を示すアウトプット情報とを対応づけた情報を記憶する記憶部と、所定の終了条件を満たすまで、要素の組み合わせ毎に定義される指標であって、実績データから算出される、実績データにその組み合わせに対する新たなアウトプット情報が追加されることによる探索空間全体における所定のパラメータの値の不確かさの変化量を基に定義される指標である情報の重要度に基づいて、次の確認作業で用いる組み合わせを少なくとも1つ決定する処理を繰り返す探索部とを備えることを特徴とする組み合わせ探索システム。
(付記2)探索部は、探索空間に含まれる一部の組み合わせに対して算出される情報の重要度に基づいて、次の確認作業で用いる組み合わせを絞り込む大域決定部を含む付記1に記載の組み合わせ探索システム。
(付記3)大域決定部は、一部の組み合わせとして、実績データに含まれるインプット情報が示す要素の組み合わせに対して、情報の重要度を算出する付記2に記載の組み合わせ探索システム。
(付記4)大域決定部は、情報の重要度を基に、一部の組み合わせの中から1または複数の組み合わせを採択することにより、次の確認作業で用いる組み合わせを絞り込む付記2または付記3に記載の組み合わせ探索システム。
(付記5)大域決定部は、情報の重要度に比例した確率で、一部の組み合わせの中から、次の確認作業で用いる組み合わせの探索起点とする1の組み合わせを採択することにより、次の確認作業で用いる組み合わせを絞り込む付記2から付記4のうちのいずれかに記載の組み合わせ探索システム。
(付記6)探索部は、大域決定部によって採択された組み合わせを起点として探索空間の部分空間を探索して、次の確認作業で用いる組み合わせを決定する詳細決定部を含む付記4または付記5に記載の組み合わせ探索システム。
(付記7)探索部は、一定の確率で、探索空間の中からランダムに採択された組み合わせを、次の確認作業で用いる組み合わせとして決定する付記1から付記6のうちのいずれかに記載の組み合わせ探索システム。
(付記8)情報の重要度は、実績データから算出される、実績データに組み合わせに対する新たなアウトプット情報が追加されることによる探索空間全体における所定のパラメータの予測値の不確かさの減り代に基づく指標である付記1から付記7のうちのいずれかに記載の組み合わせ探索システム。
(付記9)情報の重要度は、実績データから回帰分析により算出されるその組み合わせに対する所定のパラメータの期待値と期待値の不確かさとに基づいて算出される、探索空間全体での期待値の分散の減り代に基づく指標である付記1から付記7のうちのいずれかに記載の組み合わせ探索システム。
(付記10)ある組み合わせiに対する情報の重要度をZ、実績データから回帰分析により算出されるその組み合わせに対する所定のパラメータの期待値をE、期待値の不確かさをAとした場合に、任意の組み合わせに対する情報の重要度が、Eが最小値またはAが0であるときに0に収束すること、および任意のi,jに対してA≦AかつE≦EであるならZ≦Zであることを満たす関数で与えられる付記1から付記9のうちのいずれかに記載の組み合わせ探索システム。
(付記11)次の確認作業で用いる組み合わせを示す情報を出力する出力部と、記憶部に新たな実績データを追加するための入力部とを備える付記1から付記10のうちのいずれかに記載の組み合わせ探索システム。
(付記12)確認作業を行うための所定の装置を備え、出力部は、所定の装置に、次の確認作業で用いる組み合わせを示す情報とともに、組み合わせを用いた確認作業の指示を行い、入力部は、所定の装置から確認作業の結果を示す情報を受け付けると、記憶部に新たな実績データを追加する付記11に記載の組み合わせ探索システム。
(付記13)所定の終了条件が、確認された所定のパラメータの値、解とされる組み合わせの数、不確かさ、確認作業の回数の少なくともいずれかを用いて規定されている付記1から付記12のいずれかに記載の組み合わせ探索システム。
(付記14)多次元の組み合わせ問題が、所定の特性に対する材料合成の条件パラメータの組み合わせ問題、多次元関数の出力値に対する入力パラメータの組み合わせ問題、離散的な値をとる要素を含む多次元の組み合わせ問題、測定値にノイズが含まれるパラメータに対する多次元の組み合わせ問題、および所定の特定に対する次元削減されたデータの組み合わせ問題のいずれかである付記1から付記13のいずれかに記載の組み合わせ探索システム。
(付記15)所定の確認作業を伴う所定のパラメータに対する多次元の組み合わせ問題における実績データであって、過去に確認作業または実空間において多次元の各要素がとった値の組み合わせを示すインプット情報と、その時にインプット情報が示す組み合わせに対して得られた所定のパラメータの値を示すアウトプット情報とを対応づけた情報を記憶する記憶部にアクセス可能な情報処理装置であって、所定の終了条件を満たすまで、要素の組み合わせ毎に定義される指標であって、実績データから算出される、実績データにその組み合わせに対する新たなアウトプット情報が追加されることによる探索空間全体における所定のパラメータの値の不確かさの変化量を基に定義される指標である情報の重要度に基づいて、次の確認作業で用いる組み合わせを少なくとも1つ決定する処理を繰り返す探索部を備えることを特徴とする情報処理装置。
(付記16)所定の確認作業を伴う所定のパラメータに対する多次元の組み合わせ問題における実績データであって、過去に確認作業または実空間において多次元の各要素がとった値の組み合わせを示すインプット情報と、その時にインプット情報が示す組み合わせに対して得られた所定のパラメータの値を示すアウトプット情報とを対応づけた情報を記憶する記憶部にアクセス可能な情報処理装置が、所定の終了条件を満たすまで、要素の組み合わせ毎に定義される指標であって、実績データから算出される、実績データにその組み合わせに対する新たなアウトプット情報が追加されることによる探索空間全体における所定のパラメータの値の不確かさの変化量を基に定義される指標である情報の重要度に基づいて、次の確認作業で用いる組み合わせを少なくとも1つ決定する処理を繰り返すことを特徴とする組み合わせ探索方法。
(付記17)所定の確認作業を伴う所定のパラメータに対する多次元の組み合わせ問題における実績データであって、過去に確認作業または実空間において多次元の各要素がとった値の組み合わせを示すインプット情報と、その時にインプット情報が示す組み合わせに対して得られた所定のパラメータの値を示すアウトプット情報とを対応づけた情報を記憶する記憶部にアクセス可能なコンピュータに、所定の終了条件を満たすまで、要素の組み合わせ毎に定義される指標であって、実績データから算出される、実績データにその組み合わせに対する新たなアウトプット情報が追加されることによる探索空間全体における所定のパラメータの値の不確かさの変化量を基に定義される指標である情報の重要度に基づいて、次の確認作業で用いる組み合わせを少なくとも1つ決定する処理を繰り返し実行させるための組み合わせ探索プログラム。
以上、本実施形態および実施例を参照して本願発明を説明したが、本願発明は上記実施形態および実施例に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
この出願は、2018年3月23日に出願された日本特許出願2018−055494を基礎とする優先権を主張し、その開示の全てをここに取り込む。
産業上の利用の可能性
本発明は、複数のピークを有する多次元の組み合わせ問題だけでなく、実験等結果を得るまでにある程度高いコストを伴う多次元の組み合わせ問題やアウトプットに誤差を伴う多次元の組み合わせ問題に対して最適化を行う用途に好適に適用可能である。
10 記憶部
20 探索部
21 戦略決定部
22 終了判定部
23 二段階決定部
231 予測部
232 大域決定部
233 詳細決定部
24 乱択部
30 実験部
600 組み合わせ探索システム
61 記憶部
62 探索部
621 大域決定部
622 詳細決定部
1000 コンピュータ
1001 CPU
1002 主記憶装置
1003 補助記憶装置
1004 インタフェース
1005 ディスプレイ装置
1006 入力デバイス

Claims (10)

  1. 所定の確認作業を伴う所定のパラメータに対する多次元の組み合わせ問題における実績データであって、過去に前記確認作業または実空間において前記多次元の各要素がとった値の組み合わせを示すインプット情報と、その時に前記インプット情報が示す前記組み合わせに対して得られた前記所定のパラメータの値を示すアウトプット情報とを対応づけた情報を記憶する記憶部と、
    所定の終了条件を満たすまで、前記要素の組み合わせ毎に定義される指標であって、前記実績データから算出される、前記実績データにその組み合わせに対する新たなアウトプット情報が追加されることによる探索空間全体における前記所定のパラメータの値の不確かさの変化量を基に定義される指標である情報の重要度に基づいて、次の確認作業で用いる組み合わせを少なくとも1つ決定する処理を繰り返す探索部とを備える
    ことを特徴とする組み合わせ探索システム。
  2. 前記探索部は、
    前記探索空間に含まれる一部の組み合わせに対して算出される前記情報の重要度に基づいて、次の確認作業で用いる組み合わせを絞り込む大域決定部を含む
    請求項1に記載の組み合わせ探索システム。
  3. 前記大域決定部は、前記一部の組み合わせとして、前記実績データに含まれる前記インプット情報が示す前記要素の組み合わせに対して、前記情報の重要度を算出する
    請求項2に記載の組み合わせ探索システム。
  4. 前記大域決定部は、前記情報の重要度を基に、前記一部の組み合わせの中から1または複数の組み合わせを採択することにより、次の確認作業で用いる組み合わせを絞り込む
    請求項2または請求項3に記載の組み合わせ探索システム。
  5. 前記大域決定部は、前記情報の重要度に比例した確率で、前記一部の組み合わせの中から、次の確認作業で用いる組み合わせの探索起点とする1の組み合わせを採択することにより、次の確認作業で用いる組み合わせを絞り込む
    請求項2から請求項4のうちのいずれかに記載の組み合わせ探索システム。
  6. 前記探索部は、
    前記大域決定部によって採択された組み合わせを起点として前記探索空間の部分空間を探索して、次の確認作業で用いる組み合わせを決定する詳細決定部を含む
    請求項4または請求項5に記載の組み合わせ探索システム。
  7. 前記探索部は、一定の確率で、前記探索空間の中からランダムに採択された組み合わせを、次の確認作業で用いる組み合わせとして決定する
    請求項1から請求項6のうちのいずれかに記載の組み合わせ探索システム。
  8. 所定の確認作業を伴う所定のパラメータに対する多次元の組み合わせ問題における実績データであって、過去に前記確認作業または実空間において前記多次元の各要素がとった値の組み合わせを示すインプット情報と、その時に前記インプット情報が示す前記組み合わせに対して得られた前記所定のパラメータの値を示すアウトプット情報とを対応づけた情報を記憶する記憶部にアクセス可能な情報処理装置であって、
    所定の終了条件を満たすまで、前記要素の組み合わせ毎に定義される指標であって、前記実績データから算出される、前記実績データにその組み合わせに対する新たなアウトプット情報が追加されることによる探索空間全体における前記所定のパラメータの値の不確かさの変化量を基に定義される指標である情報の重要度に基づいて、次の確認作業で用いる組み合わせを少なくとも1つ決定する処理を繰り返す探索部を備える
    ことを特徴とする情報処理装置。
  9. 所定の確認作業を伴う所定のパラメータに対する多次元の組み合わせ問題における実績データであって、過去に前記確認作業または実空間において前記多次元の各要素がとった値の組み合わせを示すインプット情報と、その時に前記インプット情報が示す前記組み合わせに対して得られた前記所定のパラメータの値を示すアウトプット情報とを対応づけた情報を記憶する記憶部にアクセス可能な情報処理装置が、所定の終了条件を満たすまで、前記要素の組み合わせ毎に定義される指標であって、前記実績データから算出される、前記実績データにその組み合わせに対する新たなアウトプット情報が追加されることによる探索空間全体における前記所定のパラメータの値の不確かさの変化量を基に定義される指標である情報の重要度に基づいて、次の確認作業で用いる組み合わせを少なくとも1つ決定する処理を繰り返す
    ことを特徴とする組み合わせ探索方法。
  10. 所定の確認作業を伴う所定のパラメータに対する多次元の組み合わせ問題における実績データであって、過去に前記確認作業または実空間において前記多次元の各要素がとった値の組み合わせを示すインプット情報と、その時に前記インプット情報が示す前記組み合わせに対して得られた前記所定のパラメータの値を示すアウトプット情報とを対応づけた情報を記憶する記憶部にアクセス可能なコンピュータに、
    所定の終了条件を満たすまで、前記要素の組み合わせ毎に定義される指標であって、前記実績データから算出される、前記実績データにその組み合わせに対する新たなアウトプット情報が追加されることによる探索空間全体における前記所定のパラメータの値の不確かさの変化量を基に定義される指標である情報の重要度に基づいて、次の確認作業で用いる組み合わせを少なくとも1つ決定する処理を繰り返し実行させる
    ための組み合わせ探索プログラム。
JP2020507438A 2018-03-23 2019-02-15 組み合わせ探索システム、情報処理装置、方法およびプログラム Active JP6915743B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018055494 2018-03-23
JP2018055494 2018-03-23
PCT/JP2019/005656 WO2019181313A1 (ja) 2018-03-23 2019-02-15 組み合わせ探索システム、情報処理装置、方法およびプログラム

Publications (2)

Publication Number Publication Date
JPWO2019181313A1 JPWO2019181313A1 (ja) 2021-02-18
JP6915743B2 true JP6915743B2 (ja) 2021-08-04

Family

ID=67986249

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020507438A Active JP6915743B2 (ja) 2018-03-23 2019-02-15 組み合わせ探索システム、情報処理装置、方法およびプログラム

Country Status (3)

Country Link
US (1) US20210026853A1 (ja)
JP (1) JP6915743B2 (ja)
WO (1) WO2019181313A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112733456B (zh) * 2021-03-17 2022-10-14 国网河南省电力公司营销服务中心 一种反窃电行为识别方法和系统
WO2023209983A1 (ja) * 2022-04-28 2023-11-02 日本電気株式会社 パラメータ生成装置、システム、方法およびプログラム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006040220A (ja) * 2004-07-30 2006-02-09 Meiji Univ 最適値探索方法及びシステム
JP2009048353A (ja) * 2007-08-17 2009-03-05 Mitsubishi Electric Corp 組み合わせ最適化システム
US9864953B2 (en) * 2013-05-30 2018-01-09 President And Fellows Of Harvard College Systems and methods for Bayesian optimization using integrated acquisition functions
US9798700B2 (en) * 2014-08-12 2017-10-24 Supported Intelligence System and method for evaluating decisions using multiple dimensions
US10474952B2 (en) * 2015-09-08 2019-11-12 The Aerospace Corporation Systems and methods for multi-objective optimizations with live updates
JP7003753B2 (ja) * 2018-03-14 2022-01-21 富士通株式会社 探索点決定プログラム、探索点決定方法および探索点決定装置

Also Published As

Publication number Publication date
US20210026853A1 (en) 2021-01-28
WO2019181313A1 (ja) 2019-09-26
JPWO2019181313A1 (ja) 2021-02-18

Similar Documents

Publication Publication Date Title
Tessema et al. An adaptive penalty formulation for constrained evolutionary optimization
Tian Particle swarm optimization with chaos-based initialization for numerical optimization
Corazza et al. How effective is tabu search to configure support vector regression for effort estimation?
US10713565B2 (en) Iterative feature selection methods
Tang et al. An improved genetic algorithm based on a novel selection strategy for nonlinear programming problems
CN109685204B (zh) 图像处理方法及装置、存储介质及电子设备
JP6915743B2 (ja) 組み合わせ探索システム、情報処理装置、方法およびプログラム
JP4591794B2 (ja) 情報処理装置および方法、並びにプログラム
Hughes Many-objective directed evolutionary line search
Bhattacharyya et al. An efficient quantum inspired genetic algorithm with chaotic map model based interference and fuzzy objective function for gray level image thresholding
JP5175515B2 (ja) モデル構築装置並びにモデル構築のための方法およびプログラム
Loni et al. Learning activation functions for sparse neural networks
JP4591793B2 (ja) 推定装置および方法、並びにプログラム
Richter Evolutionary optimization and dynamic fitness landscapes: from reaction-diffusion systems to chaotic cml
EP4367606A1 (en) Variable freezing method for an objective optimisation problem
CN110263906B (zh) 非对称负相关搜索方法
Azad et al. Modified constrained differential evolution for solving nonlinear global optimization problems
Sabharwal et al. Analysis of feature ranking techniques for defect prediction in software systems
Zhao et al. Effective feature preprocessing for time series forecasting
Karpenko et al. Structural and parametric synthesis of population algorithms for global optimization
Kumar Thenepalle et al. Bi-criteria travelling salesman subtour problem with time threshold
JP7450833B1 (ja) パラメータ最適化装置およびパラメータ最適化方法
JP7491371B2 (ja) 数式モデル生成システム、数式モデル生成方法および数式モデル生成プログラム
Costa et al. Boosting Optimum-Path Forest clustering through harmony Search and its applications for intrusion detection in computer networks
Taillard Heuristics Design

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200907

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200907

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210615

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210628

R150 Certificate of patent or registration of utility model

Ref document number: 6915743

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150