JPH04503876A - 神経回路網の遺伝子的合成 - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるため要約のデータは記録されません。

Description

【発明の詳細な説明】 神経回路網の遺伝子的合成 本願発明は特定の適用のために最適化された種々の神経回路網の設計に関連して 遺伝子タイプの学習技術を使用する方法に関するものである。

神経回路網の設計でのこれまでの研究によって、特定の適用に対する適当な回路 網構造および学習規則パラメーターの良好な値の決定が国璽であることが明らか にされた。

遺伝子アルゴリズムは統計的選択および組換えに基づく最適化法である。少数の 研究書違（Ｄｏｌａｎ　＆　Ｄｙｅｒ（１９８７）、Ｄｒｅｓｓ　＆　Ｋｎｉｓ ｅｌｙ（１９８７）、Ｄａｖｉｓ（１９８ｇ）、ＭｏｎｔａｎａおよびＤａｖｉ ｓ（１９８９）、並びにＴｈｉｔｌｅｙ（１９８ｇ））は、限られた態様の遺伝 子アルゴリズムを適用して特定の問題に対する神経回路網を生じさせた。例えば 、デービス（Ｄａｖｉｓ）およびモンタナ（Ｍｏｎｔａｎａ）　（１９８ｇ、１ ９８９）＋並びにウィツトレイ（ＷｈｉｔｌｅｙＸ１９ｇｇ）は、固定された回 路網構造に一定の重み（ｗｅｉｇｈｔ　）を適合させるために遺伝子アルゴリズ ムを使用する。

本願発明では、神経回路網構造の一般的な表示は、慣行の神経回路網を設計する ために柔軟な環境を作る遺伝子的学習戦略に関連している。本願発明が基づいて いる概念は回路網設計を「遺伝子的青写真」として表示することであり、その際 このような青写真が続いて発生する複製物の組換えまたは変異によって、異なっ てはいるが関係のある回路網構造がもたらされる。

本願発明を説明するために、本願明細書には本発明者が実行した特別のクラスの 神経回路網の遺伝子的合成用のシステムを記載する。

本発明者の本願の手段はフィードバック接続を有していない回路網構造に限定さ れそして逆伝達学習規則を組み入れる。しかし乍ら、本願発明は任意の回路網モ デルおよび学習規則に使用することができる。

本願方法は遺伝子アルゴリズム法を使用して新規な神経回路網を設計することに 関係している。遺伝子アルゴリズム（ＧＡ）は強靭な関数最適化法である。その 使用は、局部的極小、不連続、ノイズまたは多数の次元を有する問題に対して傾 斜下降技術より優れていることが示されている。ＧＡの有用な特徴は、次元が増 しても実施に対する影響が比較的小さいことをＧＡが非常に良好に判断すること である。関数に対するＧＡの適用の第１段階はパラメータースペースを（典型的 には二進法の）ディノットの記号列としてコード化することである。このような 表示の部分記号列は最適化されている関数のパラメーターに相当する。特別の個 々のビット記号列（即ち各位置でのＯまたはｌの選択）は関数のパラメータース ペースでの！ポイントを示す。ＧＡはこのような個体の集団を考慮する。各個体 の関数値（一般的には「適合性」と称される）に関連した集団は最適の記号列の 検索状態を表わす。ＧＡは集団の統計学の関数に関する情報を黙示的に記号化し そしてその情報を使用して新しい個体を創造することによって進展する。集団は 再生産プランに従って周期的に更新される。集団の新しい各「世代」は適合性に 従って前の世代を最初にサンプリングすることによって作られる：差別的選択に 使用される方法は検索スペースをサンプリングするほぼ最適の方法であることが 知られている。新しい記号列は選択された個体を遺伝子的オペレーターで変化さ せることによって創られる。これらの中で卓越したものは、２つのサンプリング した個体の一部分を接合させることによって新規な記号列を合成して作るクロス オーバーオペレーターである。

本願発明の主要な目的は最適化された人工の神経回路網を設計するために上記し た新しい方法を提供することである。

本願発明の他の目的および利点は以下の明細書、請求の範囲および添付の図面か ら明白となる。

図面中： 図１は、本願発明の方法に従って特別の目的用に設計することができるタイプの 多層神経回路網を示す。

図２は、「青写真コ（種々の神経回路網の設計）の集団がそれらの適合性に基づ いて遺伝子アルゴリズムによってどのようにして周期的に更新されるのかを図式 的に示す。

図３は、本発明に従ってビット記号列表示によって記載される３層の回路網の１ 例を図式的に示す。

図４は、本発明の実施を促進するビット記号列表示を示す。

図５は、領域または層０〜Ｎを有する回路網表示の肉眼的解剖を示す。

図６は、領域（または層）の配列およびその間に延びるプロジェクションを示す 。

図７は、層の空間的構成を示す。

図８および９は、１つの層からもう１つの層に延びるプロジェクションの標的目 標を特定する絶対アドレス化および相対アドレス化の例を示す。

図１Ｏから１２は、図４の領域特定部分記号列の説明例を示す。

図１３は、回路網の層間の連結に関係するプロジェクションの特徴を示す。

図１４は、本願方法で作られた特定の回路＃８ＭＪ造の図式的例を示す。

図１５は、本願方法に従う実験で使用される基本的な再生産プランを示す。

図１６は、遺伝子的オペレーターの操作例である。

図１７は、構成要素に分析されそして例示されている１つの個体を有する本願の 実行プログラムでの原則的データ構造を示し、そして図１８から２１は、回路網 の学習速度に関係する実施曲線を示す。

本願方法は図１に示される一般的タイブの多層人工神経回路網１０の設計に関す るものである。回路網ｌＯは３つの層（または領域）１２．１４および１６を有 するように示されているが、所望の場合３層より多くまたは１層はどに少なくて も良い。層の各々は、先行技術の教示に従って計数化ユニット１８と関連した可 変性の重みを有する連結部１９によって結ばれている上記ユニットを有する。

この図面および他の図面では、連結部は前方に供給する方向で示される。しかし 乍ら、本願発明はこの構築に限定されることはなく、例えばフィードバック連結 部を備えることもできる。

更に、本願明細書に開示された回路網設計法の範囲は図１に示される回路網の設 計に限定されない。

図２は、青写真２０の集団（例えば、種々の神経回路網のビット記号列の設計） がそれらの適合性に基づいて遺伝子アルゴリズムによってどのようにして周期的 ？こ新しくされるのかを図式的に示している。回路網の適合性はその価値を問題 に対して組み合わせた尺度であり、それは学習速度、正確性並びに回路網のサイ ズおよび複雑性のようなコストファクターが考慮に入れられる。

本願方法は無作為に作られたビット記号列２０の集団で開始する。

このようなビット記号列の実際の数はある程度任意であるが、経験的には３０か ら１００の集団サイズが計数化負荷、学習速度および遺伝子的速度間の良好な妥 協であるように思われる。

神経回路網学習アルゴリズム 神経回路網に対する学習アプローチは３つの一般的カテゴリー、即ち非管理学習 、強化学習および管理学習に入る。非管理学習では、回路網は評価フィードバッ クを環境から受けない；その代わり、回路網は受け取った入力特性に基づいて内 部モデルを発現する。強化学習では、環境は弱い評価シグナルを提供する。管理 学習では、回路網の１所望の出力−１は全ての訓練入力と一緒に提供される。管 理学習、特に逆伝達（ｂａｃｋ　ｐｒｏｐａｇａｔｉｏｎ）は本願発明を説明す るために使用されるが、概念上本願発明は任意の学習アプローチと共に使用する ことができる。

管理学習に使用される大カー出力例のセットは訓練セットと称される。学習アル ゴリズムは次のように概略することができる：訓練セットでの各々（訓練−人力 、所望−出力）の組では０　回路網の人力に訓練−人力を適用する。

０　回路網の出力を計算する。

０　回路網の出力≠所望−出力である場合０　そのときには回路網の重みを修正 する。

エポックと称される、訓練セット中の完全ループは繰り返し実施される。　２つ の終結規準の１つまたは両者が通常使用される。即ちエポック中の誤りに関する より低い結合および／または多数のエポックに関する制限が存在し得る。この態 様で回路網を訓練することはしばしば時間を非常に消費する。より良い学習技術 が利用可能になるまでは、訓練フェーズを「オフライン」の活動として計画する ことが最良である。一度訓練すると、回路網は使用することができる。操作フェ ーズ中の上記回路網の計数化要求は通常、多くの興味のある適用に対する基礎的 なハードウェアだけで満足させることができる。

我々が一般に実行している神経回路網学習アプローチは周知の逆伝達アルゴリズ ムである。（ｌｌｅｒｂｏｓ、　１９７４；　Ｌｅ　Ｃｕｎ、　１９８６：　Ｐ ａｒｋｅｒ。

１９８５：　Ｒｕｍｅｌｈａｒｔ、　ｌ１ｉｎｔｏｎ　＆　Ｖｉｌｌｉａｍｓ、 　１９８５）。

逆伝達アルゴリズムは付表Ｂに記載する。

青写真表示 本願発明は主として、構造と学習規則の両者、即ち有意義で有用な回路網構造を 構築するために遺伝子的オペレーターをどのようにして使用するのかを決定する 遺伝子アルゴリズムパラメーターと特定の適用のための回路網の適合性を決定す る評価関数の両者を特定する青写真表示２０に向けられている。

回路網】Ｏの神経回路網構造に対するビット（ｂｉｔ）記号列表示２０の発現は 本発明の概念が係わる主要課題である。生物学的神経回路網は合成回路網の明白 な指針をもたらすのに十分な程には未だ理解されておらず、そして回路網構成お よび操作をパラメーター化するためには他の多くの異なる方法が存在する。

特定化された神経回路網の青写真またはビット記号列２０の表示は全ての潜在的 に「関心のある」回路網、即ち有用な作業を行い得るものを理想的に獲えること ができなくてはならないが、無効なまたは無意味な回路網構造は排除すべきであ る。与えられた問題に対する最良の解決を確実に含む回路網構造の最小の可能な 検索スペースを特定することは明らかに有利である。遺伝子アルゴリズムに関連 したこの目標の重要な意味は、表示体系が遺伝子的オペレーターＪこよって終了 されるべきであるということである。換言すれば、回路納置写真の組換えまたは 変異は常に、新しく有意義な回路網青写真を生じさせなければならない。表現力 と無効なまたは関心のない構造の容認との交換は困難である。

図３は、３層の回路網の各層が３つの部分記号列１７からなっているビット記号 列表示による本願発明に従う記載法の１例を図式的に示す。１つの部分記号列１ ７のフォーマットは図４で更に詳細に示される。

部分記号列層または領域１７（領域０から領域Ｎ）を有する多層回路網表示２０ を肉眼的に解剖したものを図５で示す。概念的には、１つの回路網のパラメータ ーは全て、図５の表示２０である１つの長いビット記号列中にコードされる。パ ターン化された棒線は個々の領域または層断片１７の開始および終了を示すマー カーである。

本願明細書で使用される用語プロジェクション（ｐｒｏｊｅｃｔｉｏｎ）は、図 １および３の回路網表示におけるような回路網層の計数化ユニット１８間に延び る連結部１９のグループ化したものまたは組織を称する。

図１では、層１２への入力連結部は１本の入力プロジェクションを示し、　そし て層１６から外部に延びる出力連結部は１本の出力プロジェクションを示す。同 様に、層１２と１４間の連結部１９は１本のプロジェクションを示し、そして層 １４と１６間の連結部１９は１本のプロジェクションを示す。

特別回路網のプロジェクション配列の１例は、層または領域３１から３５につい て示されるプロジェクション２２から２８を有する図６で示される。重要なこと は、層３２がそれぞれ層３３および３４に延びる２つのプロジェクション２４お よび２５を有することである。更にまた重要なことは、層３５がそれぞれ層３３ および３４からのプロジェクション２６および２７を受け入れる逆の配列がある ことである。

プロジェクションの各々は、各プロジェクションが特定の２層間に延びる、予め 定めたかまたは所望の多数の連結部１９からなることを意味する３つの線で表わ される。

図４を参照して、この図で示される領域または層特定部分記号列１７が図１の回 路網１０の層１２．１４および１６の各々に適用可能であることは明白である。

それ故、ビット記号列２０は部分記号列１７の１つまたはそれ以上の断片からな り、該部分記号列の各々は層または領域およびその導出結合またはプロジェクシ ョンを表わす。各断片は次の２つの部分からなる領域特定部分記号列である： ０　長さが一定で、　そして領域または層のアドレス、領域または層中のユニッ ト１８の数およびそれらをどのように組織するかに関してパラメーター化する領 域パラメーター特定（ＡＰＳ）。

０　各々の長さが一定の１つまたはそれ以上のプロジェクション特定フィールド （ＰＳＦｓ）。　このようなフィールドの各々は１つの層からもう１つの層まで の連結部を言う。層の数はこの構造では固定されていない（連結されてはいるカ リので、このフィールドの長さは必要なプロジエクションスベシファイヤー（５ ｐｅｃｉｆｉｅｒ）の数とともに増加する。　プロジェクション（例えば、図６ のプロジェクション２２から２８）は標的領域のアドレス、領域に対するプロジ ェクションの連結度および次元等によって特定される。

任意の数の領域１７が存在するという事実から、ＡＰＳの開始および終了並びに ＰＳＦｓの開始を指定するようにビット記号列を有するマーカーの使用が動機づ けられる。マーカーは読み取り機プログラムが良好に形成された任意の記号列を 有意義な神経回路網構造に分析できるようにする。同じマーカーによって、特別 の遺伝子的クロスオーバーオペレーターは、　「ナンセンス記号列」を生じさせ ることなく、新しい回路網を見い出すことができる。マーカーは「メタ−構造」 であると考えられる。それらは枠組みの役割を果たすが実際にはどんなビットも 占有していない。

図４は、ＡＰＳおよびＰＳＰが本発明者の本願の表示でどのように構成されてい るかを示す。個々のパラメーターを示すビット記号列の部分は図の標識された箱 である。それらは成る一定数のビットからなる部分記号列である。区間スケール （例えば０．１，２．３．４）によって記載されるパラメーターによってグレー コード化が使用できるので、基礎になっているスケール上に近接している値はビ ット記号列の表示中で近接することができる（　Ｂｅｔｈｋｅ、　１９８０、Ｃ ａｒｕａｎａ＆　５ｃｈａｆＴｅｒ、　１９８ｇ）。

ＡＰＳでは、各領域または層は名称として使用できる識別番号を存する。名称は ビット記号列の領域中で特有のものである必要はない。

入力および出力領域は本願明細書の実施態様では一定の識別を与えるもの（１ｄ ｅｎｔｉｆｉｅｒ）、Ｏおよび７を存する。

領域はまた、サイズおよび空間的構成も有する。「総サイズ」パラメーターはそ の領域がどの位多くの計数化ユニット１８を存しているのかを決定する。　それ はＯから７までの範囲であり、実際のユニット数のロガリズム（底は２）と解釈 される；例えば、総サイズが５である場合、３２のユニットが存在する。３つの 「次元割当て」パラメーター（これもまた底が２のロガリズムである）はユニッ トに空間的構成を課す。領域のユニットは、図７で示されるように、−１二また は三次元の直線で囲まれた範囲を有することができる。

この構成の動機づけは、神経回路網が明らかに良好に適合している種類の知覚問 題から生じる。例えば、イメージ処理問題は最適には正方形配列で使用されるが 、音響解釈問題はベクトルを必要とする。更に常套的な試みでのユニットの構成 はしばしば言外に含まれたままである。本願発明では、次元性は図６のプロジェ クション２２から２８のようなプロジェクションの構造に関して明確な言外の意 味を有する。

ビット記号列の領域断片のＰＳＦは、当該層中のユニットの出力が遠心的連結部 を作る（作ろうとする）場所およびどのようにして作るのかを決定する。表示系 は普通にあるような単純なパイプライン構造を想定している訳ではない。例えば 、図６は５領域の回路網を示し、その際プロジェクションは第２の領域から２つ に分かれ、そして第５の領域で再び接合する。

各ＰＳＦは標的領域の同一性を示す。現在これを実施できる２つの方法が存在し 、それらは各ＰＳＦでの二進法のアドレス表示モードパラメーターの値で識別さ れる。「絶対」モードでは、ＰＳＰのアドレスパラメーターは標的領域のＩＤ番 号であると理解される。絶対アドレス表示の幾つかの例は図８で示される。

「相対」モードはアドレスビットが現在の領域に関連する、ビット記号列中に標 的領域の位置を有していることを示す。ゼロの相対アドレスはプロジェクション を有するものの直後の領域を言う：ｎの相対アドレスは、存在する場合には、上 記領域を越えるｎ番目の領域を言う。青写真の最後を越える領域を示す相対アド レスは青写真の最終領域−出力領域を言うように理解される。相対アドレス表示 の幾つかの例は図９で示される。

種々のアドレス表示系の目的は、領域間の関係を発展させ、そして遺伝子アルゴ リズムの再生産計画での発生によって支持され且つ一般化されることを可能にす ることである。詳細には、アドレス表示系は、これらの関係がクロスオーバーオ ペレーターを、無傷かまたは有用な修正を加えるかのいずれかで、生き延びさせ 得るように設計される。絶対アドレス表示は、標的が新たな個体の染色体中で巻 き付いている場合でも、プロジェクションに標的を示させる。相対アドレス化は 、たとえ領域のＩＤが変わったとしても、ビット記号列中で近接する領域がプロ ジェクションを維持するようにする。

図１０から１２を参照して、次元半径パラメーター（これも底が２のロガリズム ）は領域中のユニットが標的領域中に局在した群のユニットにだけ突き出るよう にさせる。　この特徴によって、　標的ユニットが受容フィールド２９を局在さ せることができ、これらは共に生物学的神経回路網で共通であり且つハードウェ アの実施展望から大いに望ましい。受容フィールド２９内であっても、１つの領 域または層ともう１つとの間のプロジェクションは必ずしも完全な関数関係を意 味しない。プロジェクションの連結密度パラメーターは３０％から１００％の間 の連結性の８段階のうちの１つを規定することができる。

この時点で、ユニット１８および連結部１９に関する数字の大きさのため、典型 的な系ではその数字はそれらのロガリズムで表わされることが予想されると述べ ることができる。部分記号列１７の例を示している本願明細書の図１Ｏから１２ および１５で、翻訳された数字は本概念の理解を助けるように説明のために使用 されている。

プロジェクションは１組の重みをかけた連結部を有する。重みは回路網の訓練中 に学習規則によって調節される。パラメーターはプロジェクションの重みを調節 する学習規則を制御するためにＰＳＦ中に含まれる。　イータ（ｅｔａ）パラメ ーターは逆伝達の学習速度を制御し、そして０．１から１２．８の間の８つの値 のうちの１つを有することができる。イータは訓練中一定である必要はない。別 のイータ−スロープパラメーターは訓練エポックの関数としてイータの指数的低 下の速度を調節する。

３層の回路網を特定するためにこの表示系をどのように使用できるかは図３に示 す。

回路網の最初および最後の領域または層は特別の地位を有している。第１の領域 、即ち入力領域は、回路網の環境、実際上入力刺激によって「拘束される」末端 のセットを表わす。最終領域は常に出力領域であり、そしてプロジェクションは 有していない。

本願明細書に記載した神経回路網のＢＮＦの青写真表示は本願明細書の最後の付 表Ａである。これに対する将来の修正や追加があることが予想される。

図１０から１２は、半径および連結密度パラメーターに関するプロジェクション 特定部分を説明する、部分記号列１７の３つの例を示す。

これらの図は層または領域ｌから層または領域２へのプロジェクション２１の例 を示す。図１Ｏのプロジェクションは一次元領域（領域ｌ）から二次元領域（領 域２）に延び、そして図１１および１２のプロジェクションはそれぞれ一次元領 域（領域ｌ）から他の二次元領域（領域２）に延びている。

図１０では、示されたプロジェクションは計数化ユニット１８のプロ列は垂直方 向の半径４および水平方向の半径２を有していると考えられる。対象配列２９は 領域１の供給源ユニット１８ａに関して対称的に並んでいる。プロジェクション 配列１９の境界内のどのユニットも連結しているので、連結密度パラメーターは １００である。

領域１の計数化ユニット１８の各々は同様にそれぞれ領域２のユニットの８×４ のプロジェクション配列との連結を有していると理解され、領域２はプロジェク ション配列を実質的に重複させて非常に密集した連結系をもたらす。

図１１では、プロジェクションは２０のユニットの線状配列の１つおきに対して いる。半径は示された８であるが、半径内のユニットの半分し、か連結されてい ないため、連結密度パラメーターは５０である。

図１２は、配列中の計数化ユニットが全て連結されておりそのため連結密度が１ ００である点を除いて図１１と同様である。

図１１および１２は、領域Ｉ中の各ユニットが領域２中のユニットのそれぞれの プロジェクション配列に連結されていることに関して図１０と類似している。

一定の供給源ユニットからのプロジェクションの可能な標的ユニットは３つの次 元に沿った半径で決定される。図１３はこれの２つの次元の例を幾つか示す。

図１４は、本願方法で作られる特定の回路網構造の図式的例を示す。

遺伝子アルゴリズムの適合化 本願方法で使用される遺伝子アルゴリズムの翻訳には、ホランド（）Ｉａｌｌａ ｎｄ）　（１９７５）が「タイプＲ」と記載したものに類似する再生産プランを 使用する。新しい各世代を生じさせる基本プランはＢＵＩ５に示す。サンプリン グアルゴリズムはベーカ−（Ｂａｋｅｒ）　（１９８７）の確率的普遍的サンプ リング系に基づいている。これはその効率性および偏向の欠如のため好ましい。

これの詳細は本略図で示されていないものもある。最終工程は、世代ｉの最良の 個体が世代ｉ＋Ｉで確実に常に保持されるように加えた。

遺伝子アルゴリズム（ＧＡ）それ自体は多数のパラメーターを有する。それらの 良好な値は該系の効率的な操作にとって重用である。

これらのパラメーターには集団サイズ、種々の遺伝子的オペレーターを使用する 割合、および合成環境学の他の局面が含まれる。

２つの遺伝子的オペレーターとしてはクロスオーバーおよび変異オペレーターが 使用されている。　クロスオーバーオペレーターは現世代の２つの回路網の青写 真から同質断片を有効に交換して次世代の回路網用の青写真を作る。遺伝子アル ゴリズムの大部分の適用では、同質断片はビット記号列中の絶対ポジションによ って識別可能である。例えば、Ｎ番目のビットは常に任意の個体内の同一の特徴 を特定するために使用される。本願の表示は記号列の長さを可変性にするので、 修飾された２点クロスオーバーオペレーターを使用して、上記した記号列マーカ ーを参照することによって２つの個体上の同質遺伝子座位を決定した。より一般 的な１点翻訳と対照的な２点クロスオーバーを使用する決定はブーカー（Ｂｏｏ ｋｅｒ）　（１９８７）の報文（改良されたオフライン実行がこの方法で達成で きた）により動機づけられた。

変異オペレーターは低率で使用して、対立遺伝子−同一機能の遺伝子の代替影響 を導入または再導入した。遺伝子アルゴリズムの現在の適用は、１０−”または それ以下のオーダーの割合で、変異による有効な寄与を示した。

ビット記号列表示が記憶における遺伝子的オペレーターによって終了するように 設計されたという事実にも拘わらず、ＧＡが一見したところ受容できない個体を 発生させることはやはり可能である。臆面のない例は入力から出力へのプロジェ クションのバスウェイを有していない回路網プランである。より微妙な問題は我 々のシミュレーション能力の限界から生じる。本発明者の初期の研究では再現性 が限定された；フィードバックを有する回路網プランは単純な逆伝達では耐えら れない。これらの不適合の重荷を最少にするために２つの戦略を使用した。第１ に、再生産プランで致命的な異常を有する個体を間引く；入力から出力領域への バスウェイを有していない個体がこの群の大部分を構成する。第２に、小さな異 常を有する青写真はそれらの回路網実施で「浄化コする、即ちそれらの欠陥は削 除する。

図１６は、クロスオーバーオペレーターがどのようにして両親と異なるフィール ド値を有する新しい記号列を創るのかの例を示す。

ここで、該フィールドは単純な二進法コード化系を使用すると仮定する。

合成した回路網の評価 発生に関する適当な改善は、回路網の適合性を測定するために使用された評価関 数が適当である場合にのみ達成することができる。

適合性の測定にはＧＡが更により良い回路網を作る必要がある。最高のピークの 所在を見つける試みで、評価関数で特定される青写真表示スペース上の表面を精 査するときアルゴリズムに思いを巡らすことは有益である。

上記した評価関数の要件に従って、本発明者は最初に評価関数を実施メトリック ス（ｍｅｔｒｉｃｓ）、　Ｐｉの重みづけした合計として公式化した。個体ｉの 評価関数、Ｆ（ｊ）、は：と表すことができる。

係数ａｊ　は回路網の所望の特性を示すように使用者が調整することができる。

今まで考慮してきたメトリックスは、観察された学習速度およびノイズのある入 力での回路網の実施のような実施ファクター並びに回路網のサイズおよび形成さ れる連結部数のようなコストファクターを含んでいる。実施規準は適用から適用 まで変化するので、本発明者は種々の実施およびコストファクターの混合物を採 用した。各ファクターでの相対的重みは修正することができるので、回路網構造 は種々の最適化規準に合わせて変えることができる。例えば、本発明者の目標の １つが計数的に有効な回路網を合成することである場合、サイズメトリックスは 負の重みを与えられるかも知れない。他方、正確性およびノイズ耐性が更に重要 である場合には、ノイズのある入カバターンでの実施はより高い重みを与えられ るであろう。

ＧＡ実施の評価 °　有用な構造を見い出す際の遺伝子アルゴリズムの実施（回路網それ自体とは 全く異なって）について結論を出すために、本発明者はそれを比較するために成 る規準をめる。この問題に直接関係する発表されたデータがないように思われる ので、上記のことは困難である。本発明者の試みは、回路網青写真を無作為的に 発生させ、評価し、そして最上のものを保持する制御研究を行うことである。こ れは、クロスオーバーおよび変異の遺伝子的オペレーターを単純に［ターニング オフ（ｔｕｒｎｉｎｇ　ｏｆＴ）−１することによって実施される。

無作為検索は、他の検索アルゴリズムがその価値を証明するために越えなければ ならない、しばしば使用される実施のベンチマークである。

データ構造 本発明の現在の実施での主要なデータ構造は、操作時に創られそして一緒に結合 される対象である。最も優れた対象は、現在の集団、何世代にも亘る実施層、並 びに種々の制御およびインターフェース（ｉｎｔｅｒｆａｃｅ）パラメーターを 維持する「実験」である。この実施層は記録のリスト、即ち世代ごとのリスト、 注意書き、特に、オンライン、オフライン、平均および最高スコアのリストであ る。集団は図１７で示される現在の個体からなる。

各個体は連合した青写真を有しており、それは１束のビットベクトルとして貯え られる［ビットベクトルは各要素が機械の記憶中で１つのビットを占有する一次 元配列であるコ。

ビットベクトルは、ＢＮＦで示されるように、２つのタイプ、即ち領域（ＡＰＳ ）およびプロジェクション（ＰＳＦ）である。各タイプの構造はリスプ（Ｌｉｓ ｐ）形態で定義されており、各フィールドの名称および占有すべきビット数を示 している。例えば、プロジェクション特定は次のとおり定義される： （定義−ビット−ベクトル　プロジェクションースペク（半径−１３） （半径−２３） （半径−３３） （連結−密度　３） （標的−アドレス　３） （アドレス−モード　Ｉ） （初期−イータ　３） （イータ−スロープ　３）） この形態は各パラメーターの値を任意の一定のビットベクトルから取り出すのに 必要なアクセッサ−を自動的に定義する。アクセッサ−はフィールドのグレーコ ード化および解読を実施する。フィールドの整数値の大部分は索引テーブルから 穿孔解釈される：例えば、イータテーブルは０．１〜１２．８から値０．．．７ 〜イータを翻訳する。

クロスオーバーおよび変異のような遺伝子的オペレーターはこのビットベクトル 青写真を直接修飾し、これは個体用のマスタープランと考えられる。その断片は 実際その子孫に共有される。しかし乍ら、ビットベクトルは実際の神経回路網の 実施には直接有用でない。

このために、個体を分析し、純化し、そして例示しなければならない。

個体を分析したとき、青写真のビット記号列形態は各領域に対しては節−領域節 、各プロジェクションに対してはプロジェクション節の回路網中に翻訳される。

分析はプロジェクションでなされる領域間アドレス化をなし遂げ、そして節は関 連したビットベクトルから解釈されるパラメーター値を存している。回路網また は分析された青写真は個体を表示する対象と関連している。

分析された青写真は、神経回路網としての有意義な解釈を妨げるという欠点を有 することがある。例えば、有効な標的を有さないプロジェクション、またはフィ ードバック回路を示すプロジェクションを有することがあり、これは本願の実施 では禁じる。僅かに不完全な個体を廃棄するのではなくて、分析した後にそれら を継ぎ合わせる試みがなされる。継ぎはぎ工程は純化と呼ばれる。ビュリファイ ヤー（ｐｕｒｉｆ　１ｅｒ）は、変化を出来るだけ少なくし乍ら懸垂節を除去し そして回路を切断して生存可能な個体を創ろうとする。

分析および純化後に、個体は例示される。例示にはユニット用べクトル、重みマ トリックス、マスクマトリックス、閾値ベクトルおよび他の数値記憶装置を割り 当てることおよび開始することか含まれる。これらのデータ対象への照合は個体 の分析された青写真の筒中に保持される。

評価プロセス 分析／純化／例示配列の目的は個体の評価、即ちスコア計数化用の段階を定める ことである。スコアは１組の実施メトリックスの重みづけした合計である。重み は操作時に使用者が定めることができる。

これらメトリックスの幾つかは例示の直接的結果、例えば重み数、ユニット数、 領域数、および平均ファンアウト（ｆａｎ−ｏｕｔ　）である。

他のメトリックスは一定の問題（ディジット認識のような）に関する個々の回路 網実施によって決まる。このようなメトリックスの例は二回路網の学習速度、訓 練セットでの最終実施、非低下入力および新規入力での実施、並びに回路網の重 みかまたはユニットかのいずれかの無作為標本を一時的に多層化した後の実施で ある。

結果、分析および考察 初期の実験の限られた範囲にも拘わらず、本願方法は合理的な回路網を作り、そ してその第１世代での偶然の構造以上の有意の改善を達成した。殆どの場合、作 られた回路網は構造的には全く単純であった。

実施規準 遺伝的最適化系での期間を通しての集団実施での変化を捜すためには幾つかの共 通の方法があり、そして本発明者のチャー）・の大部分には４つの系がある。本 発明者の再生産プランが再生産および評価の別々のフェーズを通過するので、デ ータポイントは実際には各世代の最後ノこ記録される。

Ｓｊは生じたｉ番目の個体のスコアである。ベスト関数は一定時間までのＯＡに よって見い出されたベスト個体の実施を示す、即ちベスト（＋）＝Ｍａｘ［Ｓ、 ）、ｊ　＝　１．　、　、　、　、＋　’ｊオフラインＧＡ実施は一定時間まで に見い出されたベスト個体スコアの平均である： 別法はオンライン実施である。これはこれまでに評価した全個体スコアの単純平 均である。時間ｉの最後に、これは次のようになるもう１つの興味ある関数は一 定の１せ代の個体の全ての平均スコアである。Ｇｉがｉ番目の世代の個体のセッ トである場合には：オンライン実施は多分、リアルタイムの方法と相互に作用し なければならない系と最も関係があり、一方オフライン実施はベストを見つける ことだけに関係があって探すのにどの位コストがかかるかには関係がない。例え ば、ウマを選ぶ場合、勝馬のみならず負は賭金の全てを考慮に入れることが重要 であり、オンライン実施の関心を動機づける。関数を最適化する場合、唯一の関 心は試験したベストポイントの品質に関するものであり、オフライン実施を動機 づける。「ベスト」および「オフライン」関数が定義によって一本調子であるこ とに注目して、それらは実験軽渦中唯増加するだけかまたは一定のままであり、 そして減少することはない。

実験ｌ 適用：ディジット認識 最適化規準：学習曲線下の領域 集団サイズ二３０ 世代数＝６０ 回路網集団の平均実施は第１世代から第６世代までに８倍に増加した。回路網は ４８のエポックで規準を学習した。

唯１つのファクターだけが直接最適化されていたので、重みの数のような他のフ ァクターは自由に変化させた。回路網は１４８１個の重みを有していた。各入力 を各出力と連結している１つの重みを正確に有している回路網は多数の重みとし ては第３のものしか存していなかったであろう。このような回路網も作られ、そ してこれらは同様に完全に学習したが２倍以上長い時間を要した。この６０世代 実験の本実験の実施は図１８で要約する。

第１世代では、隠れた層の構造が存在した。この問題を直線的に区別できること は、実験が完全ｊこ学習した２層構造を作り始めるまで本発明者には明白でなか った。隠れた層はこの問題には必要でなく、そして一般的に学習速度は隠れた層 が回路網に加えられるにつれて低下する（この低下は我々が使用している修正さ れた逆伝達規則［Ｓａｍａｄ、　１９８８］では元の規則よりはるかに厳しくな い）ので、シミュレーションの終りには多層構造はまれであった。

より良い回路網を見い出す際のＧＡの実施を評価するために、ディジット認識問 題はＧＡが無力になった状態で反復した。これを達成するために、無作為個体を クロスオーバーまたは変異が適用される場所で発生させた。更に、スコアは専ら 学習曲線下の領域に基づいた。

この実験の結果は図１９で図表にする。

無作為検索およびＯＡ実験は０世代に非常に類似した集団で開始したが、２つの アルゴリズムの実施は間もなく分岐した。特に、無作為検索アルゴリズムの平均 的でオンラインの実施はＧＡよりはっきりと劣っていた。より良い特性の幾つか を１つの世代から次の世代に成功裏に保持している場合、上記のことが予期され る。即ち無作為検索方法はかなりの一定速度で「敗者（１ｏｓｅｒｓ）Ｊを選ぶ ことに集中される。オフライン実施はＧＡおよび無作為検索間のこの問題に対す る一層興味のある比較であると十分論証できる。図２０は図１８および１９から 抜き出したオフライン実施を示す。

更にもう１度、Ｇ＾実施は実験期間中無作為検索より優れている。

その差は大きいものではないが、述べられているよう？こ、そのスコアは標準化 されると主張することができよう。６０世代後に見い出された（偶然に）最高の 回路網はその問題を学習するのに６７のエポックを必要とし、一方ＧＡで見い出 された最高の回路網はその問題を４０のエポックで学習した。更に、本発明者に は、変更した表示およびより良いパラメーター値によってＧＡの実施を改良する ことはできるが、無作為検索方法の実施では改良の許容度はないように思われる 。

最後に、予告二本発明者は比較的小さい集団で実施しており、本発明者の実験は ２，３の世代に限定され、それ故これらの結果は全て注意して解釈すべきである 。

実験２ 適用：ディジット認識 最適化規準：平均ファンアウトおよびパーセント補正集団サイズ：３０ 世代数＝２０ この実験では、規準は同等に重みをかけた（０．５）平均ファンアウトおよび百 分率補正であった。学習速度はスコアに関してどんな直接的影響も受けなかった 。訓練後の正しいディジット識別の百分率は訓練された回路網に１０個のディジ ットの各々を示すことによって、そして最大値を有する化カニニットが正しいデ ィジットに相当する場合には「ヒツト（Ｂｉｔ）ｊを記録することによって決定 した。

平均ファンアウトはユニット数に対する重み数の比として定義される：このメト リックは標準化されそして転化されるので、ユニットに対する大きい比率の重み は個体のスコアを減じるであろう。この実験で提示された問題は、該系がファン アウトを制限することによって実施を改良することができるか、ということであ る。それは、高いファンアウトがシリコンで操作するのが困難であるので、神経 回路網ハードウェアの設計者に興味のある質問である。［平均ファンアウトは、 更に一層興味のある量−最大ファンアウトの概算である。］　本発明者の最初の 結果を図２１に示す。

この実験での平均ファンアウトは１５７／４８＝　３．２７であった。これは実 験Ｉで示された、殆どより高い成るオーダーの大きさの平均ファンアウトを有す る回路網と対比できる。

学習は全く緩慢である。事実、上記回路網は、訓練用終結規準として予め特定化 された誤謬閣内までは学習しなかった。　（誤謬閣内までの学習は完全なヒツト 速度を達成するためには必要でない。）回路網の連結性構造は大きい受容フィー ルドを使用するが連結密度は低い。ハードウェア実施予想から、小受容フィール ドを最適化することが更に良いので、このような実験を意図する。

学習速度のメトリック 学習速度用に選択したメトリックは幾らか説明する必要がある。

計数化源に制限があるため、本発明者は、全回路網が一定の問題に対して、また はついでに言えば予め決定された任意のノン−ゼロ規準に対する完全な精度を達 成するまでは全回路網を訓練したいとは望み得ない。場合によっては、回路網は １００のエポックを必要とし、一方性の場合には１００万でも不十分である。本 発明者の妥協は学習フェーズを終了させる２つの規準を使用することである。以 前のエポック中のｒｍｓ誤謬が一定の閾より少ないとき、学習は第１の規準“に よって終了する。一定数のエポックが計数された後で、学習フェーズは第２の規 準によって終了する：この閾は問題に従って実験者によって定められるが、典型 的には１００から５０００の間のエポックである。それにも拘わらず、本発明者 は、たとえ個体の訓練が種々の数のエポックの終りまでもちこたえそして種々の 最終精度値がもたらされるとしても、全個体を同一の学習速度目盛りで比較した い。本発明者の概算は各個体の学習フェーズに亘ってｒｍｓ誤謬曲線を積分する ことである。この「学習曲線下の領域」は学習速度目盛りに関する本発明者の直 感に密接に対応するランクを提供する。より少ない数はより良好な実施を意味す る。

付　表　Ａ ＢＮＦの青写真表示用系統的配列 く青写真・スペック＞：：＝＜入力・スペック〉く中間・スペック〉く出力・ス ペック〉く入力・スペック＞：：＝＜領域・スペック〉くプロジェクション・ス ペック〉〈中間・スペック〉：：＝空（カラ）１〈断片〉１く中間・スペック〉 く断片〉く出力・スペック＞　：：　＝　＜領域・マーカー〉〈領域・ｉｄ＞＜ 次元・サブフィールド〉く領域・スペック＞：：＝＜領域・マーカー〉〈領域・ ｉｄ＞＜次元・サブフィールド〉１くプロジェクション・スペック〉 〈プロジェクション゛マーカー〉〈プロジェクション・スペック・フィールド〉 く　断　片　＞：：＝＜領域・スペック〉くプロジェクション・スペック〉く領 域・マーカー〉：：＝　空　（カラ）く領域・ｉｄ　＞：：＝（２進法・ディジ ット群〉く次元・サブフィールド＞：：＝＜総・サイズ〉くｄＩｍ・スペック＞ ＜ｄｉｍ・スペック〉＜ｄｉｍ・スペック〉 く学習・朋１す・スペック＞：：＝＜イータ・初期−値〉く変化するイータのス ロープ〉＜）１−ジエクション・マーカー＞：：＝空（カラ）くプロジェクショ ン・スペック・フィールド＞：：＝＜連続性の半径〉く連結密度〉く標的アドレ ス〉く標的アドレス・モード〉〈学習・規則・スペック〉 く２進法・ディジット群＞：：＝＜２進法・ディジット〉１〈２進法・ディジッ ト〉〈２進法・ディジット〉〈上部・結合＞：：＝＜２進法・ディジット〉〈２ 進法・ディジット〉く２進法・ディジット〉く次元°スペック〉二二二　同　上 くイータ・初期・値〉二二；　同　上 〈変化するイータのスロープ＞：：＝　同　上く連結性の半径＞：：＝＜連結の 半径〉く連結の半径〉〈連結の半径〉 く連結の半径＞　：：＝　＜２進法・ディジット〉く２進法・ディジット〉〈２ 進法・ディジット〉〈連結・密度〉：：±　同　上 ぐ標的・アドレス〉：：＝　同　上 く標的・アドレス・モード＞：：＝（２進法・ディジット〉〈２進法・ディジッ ト＞：：＝ｏｉｉ 付表Ｂ 逆伝達 神経回路網は２つの初期エレメント、即ち処理ユニットおよびユニット間の（方 向づけられた）連結から構築される。処理ユニットは個々に全く単純であるが、 それらは十分に連結されている。各連結は典型的にはそれと関連した実際に評価 された重みを有しており、そしてこの重みは、連結源でのユニットの値がその結 末でユニットに対して有する効果を示している。ユニットの出力はその入力の重 みをかけた合計の成る関数である： 式中、Ｏｊはユニットｊの出力であり、ＷｉＪはユニットｉからユニットｊまで の重みであり、モしてＯｊ　はユニットｊの「閾」またはバイアス重みである。

Ｉｔ　ｉｗ、　Ｏ；−θＪ）は通常はユニットｊに対する正味入力を言い、ｎｅ ｔ、Ｈと記号化される。逆伝達で通常使用される式（１）の形態はシグマの関数 である： 大部分の逆伝達回路網では、ユニットは層状に配列されており、回路網は非環状 であることが強いられる。このような「多層前方供給」回路網は多次元連続入力 スペースから多次元連続出力スペースまでのマツプ形成を任意に高い精度で実現 できることが示される（ｌｌｅｃｈｔ−Ｎｉｅｌｓｅｎ、　１９８７＋　Ｉｉｐ ｐｍａｎ、　１９８７：　Ｌａｐｅｄｅｓ　＆　Ｆａｒｂｅｒ、　１９８８）。

重みを修正するために使用される規則は：である。

これは標準的な逆伝達学習規則である。ここでｗｉｊはユニットｉからユニット ｊへの重みであり、０・　はユニットｉの出力であり、ηは学習速度を決定する 定数であり、モしてδｊ　はユニットｊの誤謬期間である。δｊ　は出力領域の ユニットおよび「隠れた」領域の式中、ｏ、・は正味入力に関してＯＪから誘導 したものであり（式（２）、ｊ の活性化関数では、この量は０・（１−ｏ・）である）そしてｔｊ　はユニッ、 暴Ｊ トｊの標的値（「所望の出力」）である。隠れたユニッ）・では、標的値は既知 でなく、そして誤謬期間は次の「より高い」届の誤謬期本発明者は本願の実施で 逆伝達の最上の使用に２つのエクステンションを導入した。第１に、本発明者は 最近見い出された式（３）の改良（ＳａＩｌａｄ、　１９８８）を使用する：醇 １ｊ”　り（ＯＬ＋　９６つ この式は本願の計数化値の代わりに重みの供給ユニットの予想値を使用する。場 合によっては、非常に速いオーダーの学習が達成される。

第２に、本発明者は学習が進行するにつれてｎの値を減少させることかできる。

即ち、ここでηは可変数であり、そして実際に使用される学習規則は： Δ　１ｊ−りｔ（０１＋　へ）６つ （式中、η、は訓練セットによるｔ番目の反復時のηの値である）である。各反 復の最後に、ηは次の式に従って変化する：式中、ηスロープはηの低下速度を 決定するパラメーターである。

ηの高い値を最初に使用しそしてそれを徐々に下げることによって一定のηを使 用するより有意に速い学習がもたらされることが実験的に観察された。ηスロー プおよびηの初期値（η。）は共に青写真のプロジェクション特定によって与え られる。

ムカへ・クーン 入カバσター〉 〜・３ ッ会−１１ψ５；イジ１ｊ己−１し１杭帖手コー４今、始粒づ−ｐ−う藺６ Ｆ書・４ 栃、ぺ、空Ｐ−〇精へ゛ 雰’＋　’ｌ　／Ｉ、、１ｕｌ、ｉｓ斤Ｆ　＋ｘ　Ｉ　：Ｌ”１ｙ　ｋ　ＦＩ５ Ｌ　ｈ　’Ｗｅヲ＜＋シｌｘ＄々ｔａ　＞ＬＬｓ　’宝＋Ｊ　ｌ　ｒ」Ｑ　；ｆ 、　Ｌｊ Ｆｉｇ、　１２ Ｎ ｆ７７４ン＊ｔｌ　：　ＧｒＡ　ｈ」υ−＝ｑ蛸Ｈｆ国際調査報告 国際調査報告

Claims (1)

1. 【特許請求の範囲】 １．選択された学習アルゴリズムおよび学習すべき特別の主題を使用することに 係わる神経回路網の設計を合成する方法であって、該方法は Ａ．関係パラメーターを有する神経回路網構造のビット記号列パラメーター表示 を創造し、 Ｂ．上記パラメーターの各々のある範囲の値を共通して有する上記表示に基づく 回路網青写真の第１世代を発生させ、Ｃ．上記青写真の現在の世代に基づいてそ れぞれの神経回路網構造を発生させ、 Ｄ．上記の選択された学習アルゴリズムおよび上記主題を介して段階Ｃで現在定 義されている上記回路網構造の各々を訓練し、Ｅ．段階Ｃで現在定義されている 上記回路網構造の各々の、上記訓練の影響に対する受容性を試験するために上記 主題に対応する試験パターンを用いて、段階Ｃで現在定義されている上記回路網 構造の各々を試験し、 Ｆ．関心のある実施およびコストファクターに関する上記試験をした後、段階Ｃ で現在定義されている上記回路網モデルの各々の評価を実施し、そして該評価の 結果を表わすスコアを上記モデルに割り当て、 Ｇ．或る理論的根拠に従って段階Ｃで現在識別されている上記回路網構造から候 補を選択し、そして該候補に少なくとも１つのオペレーターを適用して上記表示 に基づいて回路網青写真の現在の世代として識別されるべき回路網青写真の新し い世代を発生させ、そして Ｈ．段階Ｃに戻り、そしてこのプロセスを反復する、段階からなる。 ２．上記オペレーターが遺伝子的オペレーターである請求項１に記載の方法。 ３．神経回路網の設計を合成する方法であって、その際該神経回路網の各々は、 複数の計数化ユニット、入力および出力層領域を含む複数の段階的に配列された 層領域および層領域間の０またはそれ以上の隠れた層領域、その際上記層領域の 各々は上記ユニット数、上記出力層領域以外の上記層領域中の上記ユニットの供 給群を上記入力層領域以外の上記層領域中の上記ユニットの対象群と連結する連 結手段によって定義されており、その際上記連結手段は上記層領域の１つからも う１つの上記層領域に延びているプロジェクションの各々を有するプロジェクシ ョンであると考えられるセットでグループ化されている、 からなっており、 上記方法は Ａ．上記層領域の各々を特定化する部分記号列フォーマットに、層領域パラメー タースペシファイヤーと考えられる１つの第１タイプのパートおよびプロジェク ションスペシファイヤーと考えられる上記プロジェクションの各々用の少なくと も１つの第２タイプのパートを有する上記フォーマットを提供し、その際上記第 １タイプのパートはアドレス部分を識別する層領域、上記ユニットの対応数を示 す総サイズ部分、および上記ユニットで形成される配置を示す次元部分からなり 、第２のタイプの各パートは主題プロジェクションと考えられる上記プロジェク ションの１つに献じられ、上記第２パートのタイプは上記主題プロジェクション が向けられている標的層領域と考えられる上記層領域の１つを識別する標的アド レス部分、上記主題プロジェクションのアドレス部分のモード、上記標的層領域 中の上記主題プロジェクションの対象フィールドの配置を示す次元部分、上記対 象フィールドに対する上記主題プロジェクションの連結性を示す連結密度部分お よび少なくとも１つの学習規則パラメーター部分からなる、 Ｂ．上記部分記号列フォーマットに基づいておりそして関係パラメーターを有す る、神経回路網構造のビット記号列パラメーター表示を創造し、 Ｃ．上記各パラメーターのある範囲の値を共通して有する上記表示に基づく回路 網青写真の第１世代を発生させ、Ｄ．上記青写真の現在の世代に基づいてそれぞ れの神経回路網構造を発生させ、 Ｅ．選択した学習アルゴリズムおよび上記主題を介して段階Ｄで現在定義されて いる上記回路鋼構造の各々を訓練し、Ｆ．段階Ｄで現在定義されている上記回路 網モデルの各々の上記訓練の影響に対する受容性を試験するために、上記主題に 対応する試験パターンで段階Ｄで現在定義されている上記回路網構造の各々を試 験し、 Ｇ．関心のある実施およびコストファクターに関する上記試験の後、段階Ｄで現 在定義されている上記回路網構造の各々の評価を実施し、そして該評価の結果を 表わすスコアを上記構造に割り当て、Ｈ．或る理論的根拠に従って段階Ｄで現在 識別されている上記回路網構造から候補を選択し、そして該候補に少なくとも１ つの遺伝子的オペレーターを適用して上記表示に基づいて回路網青写真の現在の 世代として識別されるべき回路網青写真の新しい世代を産生させ、そして １．段階Ｄに戻り、そしてこのプロセスを反復する、段階からなる。