JP4282760B2 - 有用な情報の自律的発生装置 - Google Patents
有用な情報の自律的発生装置 Download PDFInfo
- Publication number
- JP4282760B2 JP4282760B2 JP51337496A JP51337496A JP4282760B2 JP 4282760 B2 JP4282760 B2 JP 4282760B2 JP 51337496 A JP51337496 A JP 51337496A JP 51337496 A JP51337496 A JP 51337496A JP 4282760 B2 JP4282760 B2 JP 4282760B2
- Authority
- JP
- Japan
- Prior art keywords
- neural network
- artificial neural
- output
- trained
- input
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06E—OPTICAL COMPUTING DEVICES; COMPUTING DEVICES USING OTHER RADIATIONS WITH SIMILAR PROPERTIES
- G06E1/00—Devices for processing exclusively digital data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/042—Knowledge-based neural networks; Logical representations of neural networks
Description
本発明以前に人工神経回路網(ANN)による生物学的システムの模倣はパターン認識、ニューラルコントロールおよび実験データの発生のような非創造的な仕事のために使用された。本装置はそのなかでシステムが行動の新規なプランおよびオリジナルなデザインまたは創作を合成するANNの新しいアプローチおよび新しい応用に相当する。われわれが自律的システムまたは“創造的機械”と呼ぶこれらのシステムは工学的発明を越えて審美または情緒の領域に入る想像力に富む行為を実行し得る。
本装置は2つの必須の構成要素を用いる。すなわち(1)ある問題領域におけるトレーニングを含んでおり、漸進的に摂動され、また摂動の結果としてコンセプトを連続的に出力する神経回路網、(2)有用な出力を識別しかつ分離するべく第1の回路網の出力を連続的にモニターする第2またはパトローリング神経回路網。このタンデム配置は創造力およびおそらく注意意識のモデルと考えられ、またこの内的なイメージは摂動される回路網のなかで自発的に発生され、他方において第2のパトローリング回路網は審美的アピールを含むユーティリティもしくは他の有用な特性を処理する特定のイメージに連続的に注意を払っている。用いられる摂動はノイズの導入、回路網のリラクゼーションまたはデグラデーションなどを含む任意の多数の異なる手段により達成され得る。以上に説明した2つの構成要素は後で一層詳細に説明する。
本システムが外部情報を受け取る必要がないことを強調することは重要である。その代わりに、情報は含まれている回路網の特性化パラメータに用いられる任意の数の確率論的および/または系統的なプロセスの結果として自発的に出現する。自走する神経回路網のこのタンデム配置およびそのポリシング-カウンターパートにより、類似に露出または摂動される既知の装置または機械により発生されるものよりも質的に優れている概念を発生することが可能である。
従来の技術の説明
本発明者は、ANNの入力または重みにある種の形式のノイズが与えられると、もしベクトル完成プロセスが回路網のトレーニングの間に遭遇される出力ベクトルを能動化するのに失敗するならば、新規な出力が生じ得ることを実証してきた。このような出力は一般に既知のトレーニング出力の組み合わせの形態をとり、また一般にそれが訓練された環境を模倣する。従って、知られているマウンテイン-レンジのようないくつかの装置または対象物の表面プロフィルを発生するべく訓練された神経回路網は、もし入力がランダムなシミュレーションを受けるならば、非常に尤もらしいが見慣れないマウンテイン-レンジを作り出す傾向があろう。同様に、クラシック音楽を作り出すことのみを訓練された神経回路網は、ランダムな入力にさらされる時に、潜在的な可能なクラシックテーマを作り出す傾向があろう。本発明者は、静的回路網が数学的研究において検出されてきたいくつかの非常に新規な出力を生じてきたことを示してきた。しかし、知られているすべてのケースでは、それらはそれらの新規性に対して人間のオペレータにより隔離されてきた。対照的に、本装置はこのような回路網の出力を自律的に監視し、また、ポリシングまたはパトローリング神経回路網のなかで確立されたいくつかの予め定められた規範に基づいて、出現するコンセプトを選ぶ。このようなコンセプトはいくつかの目的に対する音楽または音楽上のテーマを作り出すこと、またはコーヒー用マグカップのようないくつかの模様をデザインすること、またはプロセス計画オペレーションを作り出すこと、または問題を解決すること、および多くの他の応用を含んでいてよく、そのいくつかは後で一層詳細に説明する。
知られているANNはインプット-アウトプット-マッピングのようないくつかの領域で比較的高い精度を達成してきた。本発明は、有用な情報を生ずるべくANNの慎重なデグラデーション、従ってまたこのような精密なマッピングのコラプションの使用を教示する。こうしていくつかの知識領域を反復するべく訓練された回路網は回路網デグラデーションの低いレベルにおいて既知の模様のかなり代表的な例を発生し得る。たとえば、自動車のデザインの場合に、回路網のなかに存在する制約のゆえに回路網デグラデーションの低いレベルにおいて既存の車のかなり代表的な例を発生し得る。換言すれば、理にかなったデザインが作られる。回路網のデグラデーションの漸進的により高いレベルにおいて、このような回路網の制約は新規かつより珍しいハイブリッドな自動車のデザインを作るべくさらにリラックスし、そのいくつかは有用な応用ニッチまたはマーケットを満たし得る。通例から新規への移行を行う鍵は回路網のデグラデーションに関する制御および特定の回路網パラメータをそれらが訓練された値からリラックスまたは摂動する能力により達成される。こうして本発明による装置は通例の周囲または通例の付近をデザインし、また、いくつかの制約により制限されずに、創造的デザイナーがするのとほとんど同じ仕方で新しいデザインを創造する道を提供する。入力、内部活性化、重みおよびバイアスへの種々の形態の摂動の導入の結果として、このような既知のシステムはプロセスを制御し、またはオブジェクトまたはデザインを創造し得る。こうして本発明による装置により発生される情報はその後にプロセスなどを制御するのに使用するために蓄積され、および/またはある所望の仕方で発生されてきた出力を修正するその固有の決定に使用され得る。こうして本発明は、上記の2つの要素を含んでいる機械を使用してデザインまたは創造的な仕事を行うための他の道具および非常に広いベースの道具を提供する。しかし、1つの仕事の実行から別の仕事または別の目的の実行へその作動モードを自律的に変更することに対象装置を細同調またはトグルすることが意図されている。
無数の仕方で回路網を内部で修正し得ることは、発生され得る実行可能なコンセプトの数に膨大な数値的卓越性を可能にする。本発明によるタンデム配置はこの仕事での完全な自律性を可能にする。
発明の目的
創造力をシミュレートするための新規な手段の構成および作動を教示することが本発明の主要な目的である。
他の目的は有用かつ想像力に富む出力情報を発生するため、以前に訓練された人工神経回路網を摂動させることにある。
他の目的は、所望の出力を選び、また他の出力を排除するために、摂動させる神経回路網からの出力情報を監視することにある。
他の目的は神経回路網に与えられる摂動の程度を制御することにより神経回路網のなかに制御可能な変化を生じさせることにある。
本発明の上記および他の目的および利点は添付図面と結び付けての好ましい実施例の以下の詳細な説明を考察した後に明らかになろう。
【図面の簡単な説明】
図1は本発明の教示に従って作動するべく接続されているアラート連合センター(AAC)と組み合わされたイマジネーション-エンジン(IE)と呼ばれる装置のブロック図である。
図2はいずれか1つまたはそれ以上が所望の出力情報を表すべく選ばれ得る複数個の出力を生ずるべく外部源からの摂動が本発明による装置にどのようにして与えられるかを示す(モードA)。
図3はいずれか1つまたはそれ以上が所望の出力情報を表すべく選ばれ得る複数個の出力を生ずるべくコネクション重み切り詰めの形態の摂動が本発明による装置にどのようにして与えられるかを示す(モードB)。
図4は新規な処置を表すべく選ばれ得る複数個の出力を生ずるべくコネクション重み切り詰めの形態の摂動が回帰回路網にどのようにして与えられるかを示す(モードC)。
図5はコーヒー用マグカップに対する所望の形状をデザインおよび/または製造するのに使用される本発明による装置の1つの実施例を示す。
図6は図5のコーヒー用マグカップを製造するのに使用される手段のブロック図である。
図7はコーヒー用マグカップに対する所望の形状を製造する際に本発明による装置により制御される作動部材の1つの形態を示す図である。
図8は受容可能および受容不可能なコーヒー用マグカップのデザインの例を示す。
図9は回帰回路網を利用して音楽ヴァースを作り出すために使用される本発明による装置の入力および出力の実施例である。
図10は受容可能な音楽を作り出すのに用いられる回路網の能動化を示し、ここではトレーニングがソング「トウィンクル・トウィンクル・リットル・スター」、「デイジィ」および「マリー・ハッド・ア・リットル・ラム」の組み合わせを作り出す。
図11は本発明による装置が出力を音に変換する仕方を示す。
図12は図9に示されている装置により作り出される10の音楽フレーズを示す。
図13は簡単なフィードフォワード回路網およびその回路網の入力およびコネクション重みの双方に与えられる摂動を利用して音楽フレーズを作り出すために使用される本発明による装置の入力および出力の組み合わせを示す。
図14は非回帰フィードフォワード回路網を使用して作り出された受容可能な形態の音楽フレーズを示す。
図15は図13の装置により作り出された50の新規な音楽テールまたはフレーズを示す。
図16は新規な自動車のデザインを作り出すために使用される時に本発明による装置により作り出される入力および出力を示す。
図17は本発明による装置により作り出される2つの自動車のデザインを示し、デザイン(1)は少なくとも30mpg、25,000.00ドル以下のコストを達成し、またユーザーの満足度に関して好ましいレーティングを有し、またデザイン(2)は8秒以内に60mphに加速可能であり、また少なくとも150mphの最高速度を達成する。
好ましい実施例の詳細な説明
参照符号により一層詳細に図面を参照すると、図1中に参照符号20を付されているのは本発明に従って構成されたシステムである。システム20は2つの基本的な構成要素、一つはイマジネーション-エンジン(IE)22、もう一つはアラート連合センター(AAC)24を含んでいる。IE22は、漸進的に摂動されて、AAC24に供給される出力を生ずる人工神経回路網(ANN)である。AAC24も人工神経回路網であり、これはIE22への1つまたはそれ以上のフィードバック-コネクション28を有し得る。IEまたはイマジネーション-エンジンは、IEの訓練に抗して与えられ、またその重み、バイアス、入力、出力または内部能動化に与えられる通常はランダムノイズまたは摂動の形態の入力情報を受ける本発明による装置の部分を成している。イマジネーション-エンジンはこの回路網が内部もしくは外部で摂動され、また、摂動またはノイズの存在中にパターン完了をなし遂げる試みの結果として、回路網の訓練に包含されているある所与の知識領域を通じて自由にさまよう出力を発生するアイデアを運ぶために記述されている。出力はリサイクルされ得る。IEの出力はAACにより監視またはパトロールされる。IEおよびAACは、なにがなし遂げられるべきか、また必要とされる入力および出力端の性質に依存する複数個の関係の1つまたはそれ以上にグループ化または結合され得る。IEおよびAACは複数個の結合されたANNを含んでいる一層複雑なシステムに組み合わせられ得るし、またある度合の創造力を必要とする問題を含む一層多くの含まれている仕事を実行し得る。
神経回路網が、ニューロンの間の接続強度が漸進的に変えられるシナプシスな摂動プロセスを受ける時には常に、このようなプロセスが回路網が既に見ているまたは訓練されている環境特徴のメモリを能動化することは、すべての神経回路網に共通であることが見い出されている。その後に、回路網がその最初に訓練された状態から展開し続けるにつれて、このような環境特徴はハイブリッド化または並置された特徴に組み合わされる。たとえば、牛および鳥のイメージを含む種々の動物のイメージを生ずるべく訓練された神経回路網は最初に低レベルのシナプシスな摂動の間にこれらの動物および鳥のランダムでインタクトなイメージを生ずる。シナプシスな接続強度の漸進的に強くなる摂動がいま、一部は牛であり、一部は鳥である飛んでいる牛のイメージを含むハイブリッド化されたイメージを生ずる。換言すれば、IEのなかに包含されている同一のユニバースが、制約が次第に除かれるにつれて、解きほぐれ初め、また新しい聞いたことのない組み合わせが現れ出る。同様な理由で、インタクトな神経回路網は、人工神経回路網であろうと生物の神経回路網であろうと、それら自体の外部で生起するノイズまたは他のプロセスによって、新規な環境イメージを生ずるべく能動化され得る。このようなノイズは他の周囲の回路網の機能、リラクゼーションおよびデグラデーションおよび生物回路網または複雑な回路網実行の通信により発生される。結果は内部で発生される摂動を使用する時のそれと類似しており、まっすぐな環境特徴およびハイブリッド化された環境特徴の双方が自発的に現れる。
これは、処理ユニットのある部分が必要とされる訓練またはマッピングに補充されずにとどまるように、複数個のニューロンのIEを構成することによっても成就され得る。これらの束縛されていないニューロンに摂動の影響を与えると、AACにより捕獲または処理または選択され得る有用なコンセプトの発生が有意義に増大される。本発明による装置の第2の主要な構成要素であるAACはIEにより発生される有用な情報または並置を識別するべく訓練されているANNに類似している。従って、AACはわれわれの例では特定の動物に対するようないくつかの特徴または条件を眺めている日和見的な回路網である。典型的な状況では、AACはIEにより合成されたハイブリッドに数値または他のスコアを割当てるべく訓練され得る。また、1つまたはそれ以上の分離したアルゴリズムが後での考察および洗練のために潜在的に有用なコンセプトを記憶し得るし、または代替的にハードウェア条件での結果に直ちに影響を与えるのに使用され得る。いくつかの実施例では、AACへの入力端のいくつかがIEの入力端に接続され得ないが、他の目的に対しては自由に残されていることも意図されている。このようにしてAAC選択規範は最初にまたは図3に示されている例に対しては作動中に調節され得る。
組み合わされたIEおよびAACに対する3つの異なる作動モードを以下に説明する。これらのモードは別々にまたは種々の組み合わせで使用され得る。これらはモードA、BおよびCとして説明される。モードAでは、乱数発生を含む任意の数の技術がIEに新規な入力を与えるのに使用され得る。その結果、IEは新規な入力に基づいてベクトルを完成しようと試み、通常その結果としてその確立された訓練出力の変更または並置が行われる。AACは次いでこれらの結果としてのIEからのハイブリッド化された出力のユーティリティをチェックし、また図2中にA−Zとして示されている規範を選ぶべく値を割当てる。選択規範が満足される時、ハイブリッド化された出力は直ちに利用され、またはその後の使用のために記録され得る。
モードBでは、固定された値がIEの入力端にクランプされているが、その重み、バイアスまたは内部能動化は、それらをそれらの最初の値から摂動させる乱数発生を含む任意の数の数値技術により摂動される。回路網相における内部完了プロセスは、IEの出力端に出現する新しい条件または並置されたコンセプトを生ずる。AACは次いでその固有の訓練に基づいてそれらをそれらの有用性に関して仕分けする。モードAの場合のように、これらの新しいコンセプトは回路網がリラックスするにつれて実時間で利用され得るし、またはその後の使用のためにアーカイブ-ファイルのなかに記憶され得る。
モードCでは、IE摂動が作用のプランまたは所与の問題を解く手順を作り出すのに使用される。このようなシステムは図4に示されている。この場合には、IEはその固有の出力をそれぞれの入力端にフィードバックし、また手順は一連のステップからなっており、その各々はさきのステップに付随的である。モードCでは、AACは各ステップが所望の結果の到達時に許容可能かつ有用なステップを形成するそのユーティリティを保証することを検査する。またモードCでは、AACはたとえば所与の重みまたはステップの除去、変更または交換により任意のスナージにおけるIEのアーキテクチュアを変更するのに使用され得る。モードCでは、作動を支配するアルゴリズムはIEのなかでランダムに選ばれ、また一定の値、たとえば零に設定された重みを有する。AACは次いでそのユーティリティまたは他の目的に対するシステム構成を評価する。もし評価された状態が許容可能なものでないならば、AACは一時的に除去された重みを交換する決定を行い、また駆動アルゴリズムに除去のための新しい重みを選ぶべく通報する。一端所望のシステム構成が得られると、システムはIEからより多くの重みを除去し始める。AACはオーバーオールなターゲット構成が得られたか否かをアラート(警報)している。もし肯定であれば、アルゴリズムは手順を成す成功裡の作動シーケンスを記憶し、またはある外部装置またはハードウェアメカニズムを制御するべくこの情報を直ちに運ぶ。この仕方で、IEとしての役割をするANNは、人間の脳が働く仕方と若干類似の仕方で、計算機またはその類似物を使用してのコンセプトまたはアイデアの記憶を助ける。これはこの装置では関係者または機械のユーザがIEに対するフィードバックを作ることにより達成され、IEでは異なる摂動がIEに対しその出力を上げるか変化するなどのいくつかの目的のために与えられる。多重のIEおよびAACの使用により一層複雑な出力が得られ、またいくつかの場合には一層正確かつ精密なデータが発生され得る。たとえば、この形式の多くの分離した回路網は、それにより多くの異なるAACの使用を必要とするコンセプト選択プロセスに使用され得る。
上記のモードまたは並置のいずれでも摂動因子の任意の組み合わせがIEのなかに新規なコンセプトを発生するのに使用され得る。このような摂動は(a)重み、(b)バイアス、(c)能動化、(d)外部入力信号、(e)回路網のなかの任意の所与のユニットへの内部入力信号、または(f)回路網のなかの任意の所与のユニットからの内部出力信号のような種々の因子を組み合わせ得る。類似の仕方でパラメータa〜fは(1)それらの値を零のようなある一定の値に連続的に設定すること、(2)乱数表により得られるようなある不規則な数をそれらの最初の値に連続的に追加すること、それらを乱数表から得られた乱数により置換することによりそれらの値を連続的に変更すること、(4)通常ある遅れ定数を有する時間依存性の因子によりそれらの値を多重倍すること、(5)これらのパラメータが最初の値の周りでランダム-ウォークを行うことを許すべく乱数表を通じて得られる正および負の乱数を連続的に追加すること、(6)ある統計的な周波数分布に従う数を追加すること(ここで、このような数を選ぶ確率確率関数に従う)、(7)設定された時間依存性の統計的分布に従う数を追加すること、および/または(8)上記の因子のいずれかを、重みおよびバイアスがそれらの訓練値からさまようのにつれてIEがその最初の制約された条件から漸進的にリラックスした制約へ滑らかに移行するように、ある徐々に増大する振幅因子により漸進的に多重倍することにより種々の手段により摂動され得る。完全には回路網のマッピングまたはトレーニングにおいて補充されていないニューロンにこのような摂動を特別に与えることにより高められる結果が得られることが見い出されている。
要約すると、新規なコンセプトに到達する自律的探索手順が説明されてきた。また、このような探索手順は種々の知識領域に応用可能であり、また2つの別々の神経回路網の相互作用により到達される。第1のIE回路網はその訓練の知識領域のなかの出力を生ずるべく訓練されている。任意の数のANN特徴への摂動の導入はその接続強度およびバイアスの制約のもとに有意味な出力を生ずる知識領域を通じてIEをさまよわせる。回路網摂動のレベルが増すにつれて、制約はそれらの訓練された値から一層劇的にリラックスし始める。また連合センターまたは出力装置に警報するのにAACにより検出かつ利用され得る非在来のコンセプト並置が出現する。この技術の主な強さはIE回路網をその知識領域のなかのその知識の既知の特徴を簡単に複製する状態から常に少し新しい並置コンセプトが出現する摂動のその次の状態へ徐々にかつ系統的に摂動させ得るその能力である。在来のものから穏やかに非在来のものへの微妙な変化はAACにより自律的に識別かつ選択され得る新規かつ潜在的に有用な発明を生じ得る。こうして本発明による装置はその探索スペースを多くの異なる問題への解決を捜すことに制限し、またそれをユニークな仕方で行う。
コーヒー用マグカップ-デザイン
いま図5〜8を参照すると、新規なコーヒー用マグカップなどのような模様のデザインおよび製造に使用され得る本発明による装置の実施例が示されている。本コーヒー用マグカップは審美的に望ましく、また有用な機能を提供し得る。しかし、本発明による装置がコーヒー用マグカップの製造に制限されることなく芸術的な仕事を含む多くの他のデザインおよび形状を作り出すのに使用され得ることは明らかである。本装置を本装置に三次元の形態で対象物、この場合にはコーヒー用マグカップを製造させるべく、レース、ステレオリソグラフィックまたはポッターホイールを含む他の作動装置とインタフェースすることも可能である。図5中には本装置20が右側に、またその上に取付けられた粘土の小山を有するポッターホイールが左側に示されている。また図5中には、図解的な形態で、コーヒー用マグカップを所望の形状に形成するべく粘土46の塊にこうして作動する装置またはオペレータ部材48も示されている。整形手段48に対する制御はIE出力に与えられる制御アルゴリズムを信号化する美しさおよび機能出力により選ばれるようなIE22の出力により行われる。
図6は図5に示されている手段の論理フローダイアグラムである。このダイアグラムはIE22と、AAC24と、導線58を経てIEに戻されるノー出力とデザインを実行と記入されているステップ54を経て導線56を経てIEに戻されるイエス出力とを有する出力決定ブロック52とを含んでいる。ブロック52は、「IE出力がしきいを越えるか?」と記入されている。イエス出力54は、マグカップの形状を整形するような仕方でテムプレートまたは可動ピンのような装置を制御する。
図7は、どのようにIE22の種々の部分の出力がこの場合には所望の形状を作り出すべく粘土46のボディと係合する手段を有するソレノイド48を制御するのに使用されるかを示す。ソレノイド62は組立体48の一部であり、またばね60により発生され、またIE出力に比例する電流により発生される磁気力によりオフセットされるばね張力により作動されるものとして示されている。
図8は、審美的に満足であり、また実用性のあるものと、最小のユーティリティ値を有するものとを含む種々のコーヒー用マグカップのデザインを示す。カップ-デザインは参照符号46A〜46Lを付されている。
コーヒー用マグカップのデザインにあたって、種々のオプションが審美的および実用的な好みに関してアセンブルされなければならず、またこの情報がAACのなかにエンコードされなければならない。これは、一緒になってプロフィルまたは潜在的に可能なマグカップ-デザインをシミュレートする垂直に一列に並べられた種々の長さのストライプを発生する計算機コードを使用して行われ得る。これらのデザインは不規則な長さおよび幅のストライプを使用して陰極線管などの上に表示され得る。またランキング-スコアを使用して美しさおよび実用性に関する意見が集められ得る。こうして得られた情報は2つの別々の神経回路網、IEおよびAACを訓練するために使用されるべきスプレッド-シートの上に置かれ得る。IEは入力およびAACが入力および出力の意義を反転するにつれて形状がいま入力および美しさ/ユーティリティ-レーティングとしての役割をし、またこれらが出力となるように美しさおよびユーティリティを使用して訓練されている。
音楽
図9〜15は音楽作品または音楽フレーズを作り出すのに使用される本発明による装置70を示す。図9を参照すると、装置70は前記の構成のように一緒に結合されて示されているIE72およびAAC74を含んでいる。AACはIEの種々の出力のなかから選ぶように、またブロック76で出力音楽レーティングを作り出すように訓練されており、このレーティングは「レーティングがしきいを越えるか?」と記入されているブロック78に与えられる。もしレーティングがしきいを越えないならば、出力がリード80上に発生され、この出力は「新しいノートを無視する」と記入されているブロック82に与えられ、またこの出力端は「重みを更新」と記入されているブロック84および「ランダムな重み切り詰めを実行」と記入されているブロック86を含む他のブロックに与えられ、またリード90上でIEにフィードバックされる。もしブロック78の出力端がイエスであれば、出力は「バッファに新しいノートを加える」と記入されているブロック88を通じてIEの条件をさらに変更するべくIEにフィードバックされる。図9とコーヒー用マグカップの製造と結び付けて先に説明したデザインとの間の差は、図9中では出力がIEおよびAACの訓練に関係する特定の仕方で配置されている音楽トーンであり、また出力端が説明されるように音楽フレーズまたはテーマであることである。音楽作品または音楽テーマを作り出す際に、本発明による装置は前記のモードA、BおよびCを実施する類似のリラクゼーション技術を用い、またこうしてオリジナルな音楽テーマの有意義な合成を達成する。この実施例でのIEは「トウィンクル・トウィンクル・リットル・スター」、「デイジィ」および「マリー・ハッド・ア・リットル・ラム」のような多数のソングを実行するべく学習する回帰回路網である。示されているような回路網は図9中に示されているように8−10−8アーキテクチュアを利用しており、回路網の出力は入力としてフィードバックされている。最初の2つの入力はソング(S1)、(S2)をエンコードし、次の4つ(N1−N4)はノート-オーダーを示し、また最後の2つ(F1)、(D1)は任意の所与のノートのピッチおよび継続時間を含んでいる。回路網の出力は音楽シーケンスのなかの次のノートに対する適切な値を持つ値のすべてと類似の意味を持つ。図10中に示されているような回路網は(L1〜L4)で示されている4つの相(1〜4)を有する。回路網の出力は同一の意味を達成するが、いまはシーケンスのなかの次のノートを表す。いずれも所望のマッピングを達成するために必要なニューロンの2つの隠された相が存在する。これは図10中にニューロンの2つの中央の列により示されている。最も左の入力S1−S2を(0、1)、(1、0)または(1、1)の値に設定することにより回帰回路網はそれぞれ「トウィンクル・トウィンクル・リットル・スター」、「デイジィ」および「マリー」を演奏する。回路網の入力端のすべて、特にS1およびS2への乱数の供給は回路網を1つのソングから他のソングへジャンプさせ、チューンを並置し、また音楽を作り出す。
再び図10を参照すると、(1)異なったレベルの能動化による個々のニューロンの収縮および膨張の形態での回路網能動化、(2)それらのピッチを含むノートの最新の訓練の帯状記録紙記録、および(3)3つの訓練メロディのいずれかの線形組み合わせとして同時に作用する回路網の出力を分類するべく訓練されてきた別々の回路網の出力が示されている。この後者の特徴はハイブリッド化されたソングのなかの個々のチューンの重みを想像するのに助けになる。このような音楽のハイブリッド化は図10中でわれわれがAACにより選択されておりまた実行されている「トウィンクル」および「マリー」の組み合わせを見るところで生起している。IEの訓練は任意の特定のソングのなかで相い続くノートの間のマップを作り出すことにより成就される。入力として回路はソング-ナンバーに対して2値コード化されたラベルを与えられている。たとえば、2値コード化されたソング-ナンバー1−3はノードS1およびS2への入力であり、2値コード化されたノート-オーダー1−31はノードN1−N4への入力であり、また周波数および継続時間値はノードF1およびD1への入力である。訓練のためのターゲットは同一の2値コード化されたソング-ナンバー(出力ノートS1およびS2)、1の値によりインクレメントされる2値コード化されたノート-オーダー(出力ノードN1−N4)および出力ノードF1およびD1のなかのソングの次の周波数-継続時間対を含んでいる。ソングのラップ-アラウンドは音楽シーケンスのなかの最後のノートを最初のノートへマッピングすることにより達成される。これまでに説明してきたことはIEの作動に関する。いま、IEからの出力端に作動するAACの機能および訓練を説明する必要がある。訓練目的に対して訓練計算機コードが1/f分布に従うノートのシリーズから成る4つのノートのシリーズを発生するべく書かれ、その特徴はわれわれが音楽として受け入れるすべてのサウンドの特性である。このトーンのシリーズは評価を受け、その後に評価する人間が0−10ポイントスケール上でその美的な値に応答することを要求された。この種の約100の試行の後に、各々がメロディから成る周波数のシリーズがそれらのコンセンサス-ランキングに沿ってスプレッドシートに通された。従って、入力は数値スコアから成る訓練に対するターゲット値に沿うノート-シーケンスから成った。実際のメロディは訓練セットのなかで実現され、またそれらのアピールに対する10の値でランク付けされた。他方においてランダム発生器からのノイズは0のランキング値でスプレッドシートのなかに埋められた。このデータでの訓練に続いて、訓練された神経回路網IEおよびAACが同一の計算機コードのなかに埋められた。
IEはループのなかに置かれ、その入力端に零と1との間の値が乱数発生器から供給され、こうしてIEの出力端に複合メロディを発生した。いつでも演奏されるたかだか4つのノート(4つの周波数-継続時間の対)を含んでいるバッファがAACの8つの入力によりサンプルされ、各々がその音楽的受容可能性についてレーティングされた。10ポイントスケール上で8のしきいを越える最良の音楽テーマが演奏され、また分離したファイルにアルカイブされた。本発明の装置により作曲された音楽の発生は図11中に示されている要綱により達成された。AACにより受容可能と思われるIEからの出力は計算機への相い続くノートの周波数および継続時間の双方を含むサウンド指令のシリーズとして連続的に伝達される。これらの全指令はディジタルからアナログ信号に変換され、またスピーカに供給され、そこでサウンドが聞かれ得る。従って、本発明による装置が受容可能なノート-シーケンスを発生するにつれて、それは直ちに、装置のオペレータが作り出された音楽を聞くことができるように、それらをオーディオ出力装置に中継する。IEにより発生される次の4つのノートは同様にバッファに加えられ、また演奏される(以下同様)。AACにより捕獲されたこれらのメロディの10のサンプルが図12に示されている。それらの周波数FはHzで示されており(1オクターブが示されている)、また各ノートの継続時間Dは秒の1/18の単位で与えられている。
オリジナルな音楽を合成する第2のアプローチは3−16−20のノーダルアーキテクチュアおよびIE20−10−1のノーダルアーキテクチュアのAACから成るように変更された本発明による装置の使用を含んでいる。前者は音楽フレーズまたはテーマから成るノート-シーケンスを生じた。続いて、AACがこの試行メロディ-フレーズをその音楽的受容可能性に関してチェックする。これは図13中に示されている。この場合IEは、所与の音楽フレーズのなかの最初の3つのノートのトーン周波数(すなわちHzで)に関するパターン完成を実行するべく訓練されている。訓練のための音楽フレーズは20のよく知られたソングからの非常に理解しやすいセグメントから成っている。こうして最初の3つのノートが与えられると、回路網は音楽シーケンスの残りのものを供給するべく訓練された。出力は10の相い続く周波数-継続時間対から成っており、周波数はヘルツで、また継続時間は1/18秒の単位で与えられた。
同一の装置のなかでAACはポピュラーなメロディ-テーマからの20のノート-セグメント、乱数表から選ばれた周波数から発生されたトーンの50例がおよびノイズおよび上記のポピュラーなメロディ-テーマにのみ訓練された類似のIEへのノイズの導入により発生された約100の試行メロディの演奏により訓練される。訓練のためのターゲット値はポピュラーなテーマに対して1の数値スコア、IEが発生したメロディへの0−1の数値ランキング(ヒューマン-パネリストにより決定されるような)および乱数表を使用して発生されるノイズに対する0の数値スコアから成っていた。
IEの内部接続重みへの時変性入力および時変性摂動の双方のIE切り詰め導入の種々の組み合わせを使用して本発明による創造力機械が、11.000の音楽的に受容可能なテーマまたはフレーズがあつめられるまで、自律的に運転することが可能にされた。このプロセスにより作り出された典型的な音楽フレーズが図14に示されている。図15には本発明による装置により作り出された50の代表的な音楽フレーズが示されている。リストの最上段には各列のなかに示されているナンバーに対する周波数および継続時間に関する識別子が示されている。換言すれば、図15は各トーンの周波数および継続時間が指示されており、聴覚的に再現可能な音楽テーマのナンバーが示されている。
自動車デザイン
本発明による装置の他の応用は、モードAおよびBでAACがIEのアーキテクチュアを変更しまたIE定数へのある種の入力を保持する決定を自律的に行うことを許される場合である。この例の趣旨は自動車または車をその主要な仕様および特性に関してデザインすることである。これはその所望の性能、保険適用、担保保証、盗難の確率および期待されるユーザーの満足度に関するいくつかの概念に基づいてなされる。本発明による装置を作り出すときの29のデザイン仕様の性能特性は図16中のIEへの可能な入力として示されている。AACは他方においてマップをデザイン仕様から性能特性へ反転する。回路網IEおよびAACの双方は29−10−29のノーダル-アーキテクチュアを利用する。図16中に示されている構造100はIE102、AAC104およびAACからの出力端106を含んでおり、出力端106は「カンディデート自動デザインがパーフォーマンス規範を満たすか?」と記入されている決定ブロック108と接続されている。ブロック108はイエス出力端110を有し、この出力端はアルカイブ-デザイン-ブロック112に接続されており、このブロック112は分岐116を通じて装置100の入力端に接続されている。ブロック108の出力端は分岐118および116を経て装置100の入力端に接続されている。分岐116は「IEコネクション重みに摂動を与える」と記入されているブロック120を経てIE102の入力端に接続されている。ブロック120は「探索がNサイクル以上継続したか?」と記入されている他のブロック122に接続されており、このブロックは出力端124を有する。ブロック122の出力端124は「スケルトン化IE」と記入されているブロック126に接続されており、ブロック126の出力はIE102への入力として与えられ、また「ランダム-パフォーマンス-ファクタをIEに入力」と記入されている入力ブロックに接続されている。ブロック124は分岐130を通じてIE102の入力端への同一の入力ランダム-パフォーマンス-ファクタ-ブロックに接続されている他の出力端128を有する。
作動中IE入力は乱数表からの供給された値である。これらの29のコンポーネント-ベクトルの各々が回路網を通じて伝播されるにつれて、物理的に実現可能な自動車デザインが、その29のデザイン仕様に関して規定されてその出力端に現れる。IEからの出力の各集合は次いでAAC104の入力端に供給され、そこでフィードフォワード伝播により仕様の特定の集合からの結果としての性能特性を生ずる。これらの性能特性は次いで、適切なデザインが得られているか否かを決定するべく所望の性能特性と比較される。これはAACのなかに訓練されているものである。もしデザイン特性が規範を満足するならば、そのカー-デザインが陰極線管のような周波数の上に表示される。もしそのデザインがこれらの要求を満足しないならば、追加的なランダム入力がIE102に供給され、また、AAC104により類似の仕方で評価されるべき他のカンディデデイト-デザインを発生するべく、新しい摂動がIEコネクション重みに与えられる。図17は少なくとも30mpgのハイウェイ-マイル数、たかだか25.000ドルの小売価格および本発明による装置により合成された(1)、0、(−1)レーティング-スケール上の計画されたユーザー満足度を有する車のデザインを示す。
この場合重要なことは、ランダム-コンポーネントならびにIEに与えられる内部摂動から成る入力ベクトル上でベクトルの完成を実行することにより、回路網が物理的に実現可能なカー-デザインのみを作り出すことである。また、この例では、カーブ重量およびタイヤ寸法のような特性は馬力のような因子により現実的なスケールとされている。こうして無数のナンセンスな仕様が、訓練された神経回路網のなかでコネクション強度により与えられるソフトな制約により、IEのなかで除去される。もし本発明による装置が数値性能規範を与えられるならば、探索時間が延長されよう。従って、もしIE102を通じての10の伝播のような予め定められた数のフォワード伝播の後に、性能規範が満足されていないならば、アルゴリズムが探索を局限しようと試みてIE102からの重みの制御された切り詰めを指令する。この場合、所望の範囲を含む性能値の予め定められたエンベロープのなかに入っているか否かを見るべく、全体装置100を通じてランダム化されたいくつかの入力ベクトルを伝播しながら、重みはIEから1つずつ除去される。この範囲の外側でAAC出力を発生する重みが除去されるべきであれば、それは置換される。一層ラジカルな自動車デザインが要求されるならば、このような仮説的な自動車の性能を予測するAACに関係して、IEのコネクション重みにアルゴリズム摂動の振幅のシステマティックな増大が行われよう。
本発明がここに説明された目的に限定されずに多くの目的に使用され得ることは当業者に理解されよう。重要なことは、一方はIEとして作動し、他方はACCとして作動する2つの神経回路網または神経回路網の群を使用することにより無数の可能な用途が想像し得ることである。これらの用途はデザイン、問題解決、選択、製造プロセスの開発および多くの他の領域にわたり得る。
以上にいくつかの目的に対して創造力をシミュレートし、また有用な情報を自律的に発生する新規な装置を図示し説明してきたが、多くの変更および応用が当業者により可能であり、それらは下記の請求の範囲によってのみ限定される本発明の範囲に属するものとする。
Claims (10)
- 所定の創作活動の分野内の所望のコンセプトを決定するための人工神経回路網ベース(20、70、100)のシステムであって、
入力部と出力部を有する第1の人工神経回路網(22、72、102、104)であって、前記入力部で前記第1の人工神経回路網へと入力が供給される時に、任意の時点で適用可能な特定の動作要因に従って前記出力部で出力を生成するよう動作可能な第1の人工神経回路網と、
前記第1の人工神経回路網に関連し、前記第1の人工神経回路網の前記出力部で生成される前記データ出力を観察するモニタ(24、52、74〜78、104〜108)と、
前記第1の人工神経回路網の一つ以上の動作要因を摂動させ、それにより、前記第1の人工神経回路網により前記第1の人工神経回路網の出力部で生成される出力内に、前記第1の人工神経回路網の摂動されない動作要因によって制約される変化を起こさせる、前記第1の人工神経回路網を摂動させる手段(56、58、72、84〜86、90、102、116、120〜130)と、を備え、
前記第1の人工神経回路網は、所定の創作活動の分野で予め訓練されて特定の知識領域を内部に確立し、前記確立された知識領域に初期適用可能な動作要因に従って、前記入力部で前記予め訓練された第1の人工神経回路網に供給される入力のパターンに応答して確立された出力を生成するよう通常動作可能であり、
前記第1の人工神経回路網を摂動する手段は、前記予め訓練された第1の人工神経回路網による出力の生成に応答して動作し、前記予め訓練された第1の人工神経回路網の他の摂動を起こし、
前記モニタは、前記予め訓練された第1の人工神経回路網の前記出力部において生成された前記データ出力の検出に応答して作動し、それにより、前記システムは、複数の入力-摂動-出力マッピング関係を一定時間にわたって確立し、前記第1の人工神経回路網が適切に摂動されると、前記第1の人工神経回路網の出力で新しいコンセプトを合成し、前記モニタを介して前記第1の人工神経回路網により生成された有用な出力を同定するよう動作可能であることを特徴とする人工神経回路網ベースのシステム。 - 前記モニタは、前記予め訓練された第1の人工神経回路網の前記出力部で生成された前記観察されたデータ出力の中から、予め定義された基準を満足する前記観察されたデータ出力における一定のデータパターンを同定するよう動作する比較器部分(24、52、78、108)を備え、前記予め定義された基準を満足するデータ出力の同定により、前記所定の創作活動の分野内の特定のコンセプトが決定されることを特徴とする、請求項1に記載のシステム。
- 前記第1の人工神経回路網を摂動する手段は、前記予め訓練された第1の人工神経回路網の摂動を実質的にランダムに起こさせるよう動作可能であることを特徴とする、請求項1に記載のシステム。
- 前記予め訓練された第1の人工神経回路網を摂動させる手段は、前記予め訓練された第1の人工神経回路網に内部摂動を導入する手段(84〜86、90、116、120)を含み、それにより、摂動されていない動作要因によって決まる動作に変化を起こさせ、それにより、前記予め訓練された第1の人工神経回路網に供給される入力の所与のパターンに対して、かかる神経回路網の摂動が無いときの前記予め訓練された第1の人工神経回路網による該所与の入力パターンに応答して生成されるであろう対応する標準データ出力とは異なるデータ出力を、前記予め訓練された第1の人工神経回路網の前記出力部にて生成させ、前記異なるデータ出力は前記予め訓練された第1の人工神経回路網の摂動されない動作要因によって決まるが、前記所定の創作活動の分野内の異なるコンセプトを同定することを特徴とする、請求項2に記載のシステム。
- 前記予め訓練された第1の人工神経回路網を摂動させる手段は、前記予め訓練された第1の人工神経回路網に外部摂動を導入し、前記予め訓練された第1の人工神経回路網の前記入力部における前記特定の入力パターンを変化させ、それにより、前記特定の入力パターンに応答して出力が生成されると、入力−出力データペア関係を確立する手段(72、116、122、130)を備えることを特徴とする、請求項2に記載のシステム。
- 前記予め定義された基準は、かかる予め定義された基準を満足する前記予め訓練された第1の人工神経回路網の出力が前記所定の創作活動の分野において望ましいコンセプトであるように、選択されていることを特徴とする、請求項4に記載に記載のシステム。
- 前記予め訓練された第1の人工神経回路網は、スプレッドシートアプリケーションのスプレッドシート内に実装されることを特徴とする、請求項4または5に記載のシステム。
- 前記モニタは、予め訓練された人工神経回路網を備えることを特徴とする、請求項4または5に記載のシステム。
- 前記予め定義された基準は、前記予め訓練された第1の人工神経回路網からのデータ出力内の特定の所望パターンを表すように選択され、それにより、前記予め定義された基準が満たされると、前記決定された入力−出力ペア関係はかかる予め定義された基準を満足する前記データ出力をもたらすデータ入力を同定することを特徴とする、請求項5に記載のシステム。
- 前記外部摂動を発生させる手段は、前記予め訓練された第1の人工神経回路網への変化させられた入力を生成する手段を備えることを特徴とする、請求項5に記載のシステム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US08/323,238 US5659666A (en) | 1994-10-13 | 1994-10-13 | Device for the autonomous generation of useful information |
US08/323,238 | 1994-10-13 | ||
PCT/US1995/013088 WO1996012221A1 (en) | 1994-10-13 | 1995-10-04 | Device for the autonomous generation of useful information |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007109647A Division JP2007299387A (ja) | 1994-10-13 | 2007-04-18 | 有用な情報の自律的発生装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH10507553A JPH10507553A (ja) | 1998-07-21 |
JP4282760B2 true JP4282760B2 (ja) | 2009-06-24 |
Family
ID=23258302
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP51337496A Expired - Lifetime JP4282760B2 (ja) | 1994-10-13 | 1995-10-04 | 有用な情報の自律的発生装置 |
JP2007109647A Pending JP2007299387A (ja) | 1994-10-13 | 2007-04-18 | 有用な情報の自律的発生装置 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007109647A Pending JP2007299387A (ja) | 1994-10-13 | 2007-04-18 | 有用な情報の自律的発生装置 |
Country Status (8)
Country | Link |
---|---|
US (4) | US5659666A (ja) |
EP (1) | EP0786106B1 (ja) |
JP (2) | JP4282760B2 (ja) |
AU (1) | AU689677B2 (ja) |
CA (1) | CA2199969C (ja) |
DE (1) | DE69525059T2 (ja) |
GB (2) | GB2308476B (ja) |
WO (1) | WO1996012221A1 (ja) |
Families Citing this family (61)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5659666A (en) * | 1994-10-13 | 1997-08-19 | Thaler; Stephen L. | Device for the autonomous generation of useful information |
US5787408A (en) * | 1996-08-23 | 1998-07-28 | The United States Of America As Represented By The Secretary Of The Navy | System and method for determining node functionality in artificial neural networks |
AUPP547898A0 (en) | 1998-08-26 | 1998-09-17 | Canon Kabushiki Kaisha | System and method for automatic music generation |
AU747557B2 (en) * | 1998-08-26 | 2002-05-16 | Canon Kabushiki Kaisha | System and method for automatic music generation |
DE19923622A1 (de) * | 1998-08-31 | 2000-03-02 | Ralf Steiner | Neuronales Netz zum rechnergestützten Wissenmanagement |
US6931383B2 (en) * | 1999-05-04 | 2005-08-16 | At&T Corp. | Methods and apparatus for communicating information in a supervised learning system |
EP1222625B1 (de) * | 1999-05-24 | 2006-04-05 | IPCentury AG | Neuronales netz zum computergestützten wissensmanagement |
US6816847B1 (en) * | 1999-09-23 | 2004-11-09 | Microsoft Corporation | computerized aesthetic judgment of images |
JP2003514311A (ja) * | 1999-11-12 | 2003-04-15 | ブリティッシュ・テレコミュニケーションズ・パブリック・リミテッド・カンパニー | シーケンス生成器 |
US6651242B1 (en) * | 1999-12-14 | 2003-11-18 | Novell, Inc. | High performance computing system for distributed applications over a computer |
DE10007640A1 (de) * | 2000-02-19 | 2001-09-06 | Daimler Chrysler Ag | Verfahren und Einrichtung zur rekursiven Bearbeitung von Signalfeldern |
US7542948B2 (en) * | 2000-06-16 | 2009-06-02 | Honda Giken Kogyo Kabushiki Kaisha | Genetic design method and apparatus |
WO2002003324A1 (en) * | 2000-06-30 | 2002-01-10 | British Telecommunications Public Limited Company | Apparatus for generating sequences of elements |
JP2002024795A (ja) | 2000-07-04 | 2002-01-25 | Sony Corp | 情報処理装置および方法、並びに記録媒体 |
US7885820B1 (en) | 2000-07-19 | 2011-02-08 | Convergys Cmg Utah, Inc. | Expert system supported interactive product selection and recommendation |
US6842751B1 (en) * | 2000-07-31 | 2005-01-11 | International Business Machines Corporation | Methods and apparatus for selecting a data classification model using meta-learning |
US6766283B1 (en) * | 2000-10-13 | 2004-07-20 | Insyst Ltd. | System and method for monitoring process quality control |
EP1346299A1 (en) * | 2000-10-18 | 2003-09-24 | Johnson & Johnson Consumer Companies, Inc. | Intelligent performance-based product recommendation system |
JP2002163005A (ja) * | 2000-11-29 | 2002-06-07 | Nikon Corp | 制御系の設計方法、制御系、制御系の調整方法及び露光方法 |
US7747549B2 (en) * | 2001-09-25 | 2010-06-29 | Rikan | Long-term memory neural network modeling memory-chaining functions of the brain wherein a pointer holds information about mutually related neurons and neurons are classified hierarchically by degree of activation |
US20040158480A1 (en) * | 2002-10-03 | 2004-08-12 | Lubars Mitchell D. | System and method for bundling resources |
US20070280270A1 (en) * | 2004-03-11 | 2007-12-06 | Pauli Laine | Autonomous Musical Output Using a Mutually Inhibited Neuronal Network |
WO2006005663A2 (de) * | 2004-07-09 | 2006-01-19 | Siemens Aktiengesellschaft | Verfahren zur dynamischen informationsselektion mit einem neuronalen netz und neuronales netz zur dynamischen informationsselektion |
KR100586503B1 (ko) | 2004-08-13 | 2006-06-07 | 학교법인 서강대학교 | 신경망을 이용한 소프트웨어 프로세스 테일러링 시스템 및방법 |
US7496593B2 (en) * | 2004-09-03 | 2009-02-24 | Biowisdom Limited | Creating a multi-relational ontology having a predetermined structure |
US20060053099A1 (en) * | 2004-09-03 | 2006-03-09 | Biowisdom Limited | System and method for capturing knowledge for integration into one or more multi-relational ontologies |
US20060053171A1 (en) * | 2004-09-03 | 2006-03-09 | Biowisdom Limited | System and method for curating one or more multi-relational ontologies |
US20060053135A1 (en) * | 2004-09-03 | 2006-03-09 | Biowisdom Limited | System and method for exploring paths between concepts within multi-relational ontologies |
US7493333B2 (en) * | 2004-09-03 | 2009-02-17 | Biowisdom Limited | System and method for parsing and/or exporting data from one or more multi-relational ontologies |
US20060053174A1 (en) * | 2004-09-03 | 2006-03-09 | Bio Wisdom Limited | System and method for data extraction and management in multi-relational ontology creation |
US7505989B2 (en) * | 2004-09-03 | 2009-03-17 | Biowisdom Limited | System and method for creating customized ontologies |
US20060053382A1 (en) * | 2004-09-03 | 2006-03-09 | Biowisdom Limited | System and method for facilitating user interaction with multi-relational ontologies |
US20060053175A1 (en) * | 2004-09-03 | 2006-03-09 | Biowisdom Limited | System and method for creating, editing, and utilizing one or more rules for multi-relational ontology creation and maintenance |
US20060074833A1 (en) * | 2004-09-03 | 2006-04-06 | Biowisdom Limited | System and method for notifying users of changes in multi-relational ontologies |
US20060053173A1 (en) * | 2004-09-03 | 2006-03-09 | Biowisdom Limited | System and method for support of chemical data within multi-relational ontologies |
US20060053172A1 (en) * | 2004-09-03 | 2006-03-09 | Biowisdom Limited | System and method for creating, editing, and using multi-relational ontologies |
WO2006099429A2 (en) * | 2005-03-14 | 2006-09-21 | Thaler Stephen L | Neural network development and data analysis tool |
US20060229932A1 (en) * | 2005-04-06 | 2006-10-12 | Johnson & Johnson Services, Inc. | Intelligent sales and marketing recommendation system |
EP1894150A2 (en) * | 2005-05-07 | 2008-03-05 | Stephen L. Thaler | Device for the autonomous bootstrapping of useful information |
US20070094172A1 (en) * | 2005-07-22 | 2007-04-26 | Thaler Stephen L | Neural network based rating system |
WO2009110605A1 (ja) * | 2008-03-07 | 2009-09-11 | 日本ビクター株式会社 | サーバ装置、端末装置、再生装置 |
US20100063947A1 (en) * | 2008-05-16 | 2010-03-11 | Burnside Elizabeth S | System and Method for Dynamically Adaptable Learning Medical Diagnosis System |
US10055684B2 (en) | 2011-01-31 | 2018-08-21 | Landmark Graphics Corporation | System and method for using an artificial neural network to simulate pipe hydraulics in a reservoir simulator |
US8990139B1 (en) | 2012-07-23 | 2015-03-24 | Hrl Laboratories, Llc | Framework for flexible cognitive perception and action selection |
US9460382B2 (en) * | 2013-12-23 | 2016-10-04 | Qualcomm Incorporated | Neural watchdog |
WO2015105731A1 (en) | 2014-01-07 | 2015-07-16 | Thaler Stephen L | Device and method for the autonomous bootstrapping of unified sentience |
CN105095965B (zh) * | 2015-07-16 | 2017-11-28 | 清华大学 | 人工神经网络和脉冲神经网络神经的混合通信方法 |
US11157798B2 (en) | 2016-02-12 | 2021-10-26 | Brainchip, Inc. | Intelligent autonomous feature extraction system using two hardware spiking neutral networks with spike timing dependent plasticity |
US11151441B2 (en) | 2017-02-08 | 2021-10-19 | Brainchip, Inc. | System and method for spontaneous machine learning and feature extraction |
US10546242B2 (en) | 2017-03-03 | 2020-01-28 | General Electric Company | Image analysis neural network systems |
US10489887B2 (en) | 2017-04-10 | 2019-11-26 | Samsung Electronics Co., Ltd. | System and method for deep learning image super resolution |
US10714783B2 (en) | 2017-05-09 | 2020-07-14 | Cummins Enterprise Llc | Integrated fuel cell systems |
KR102073808B1 (ko) * | 2017-10-25 | 2020-03-02 | 서울대학교 산학협력단 | 심층 신경망 기반의 정보 처리 장치 및 방법 |
JP7020156B2 (ja) * | 2018-02-06 | 2022-02-16 | オムロン株式会社 | 評価装置、動作制御装置、評価方法、及び評価プログラム |
WO2019210294A1 (en) * | 2018-04-27 | 2019-10-31 | Carnegie Mellon University | Perturbative neural network |
WO2020233850A1 (de) * | 2019-05-21 | 2020-11-26 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Rekursive kopplung von künstlich lernenden einheiten |
US10656923B1 (en) * | 2019-07-31 | 2020-05-19 | Capital One Services, Llc | Systems for determining regulatory compliance of smart contracts |
US11568267B2 (en) * | 2020-03-12 | 2023-01-31 | International Business Machines Corporation | Inducing creativity in an artificial neural network |
DE102020130604A1 (de) * | 2020-11-19 | 2022-05-19 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung eingetragener Verein | Verfahren und System zum Verarbeiten von Eingabewerten |
US20230021835A1 (en) * | 2021-07-26 | 2023-01-26 | Qualcomm Incorporated | Signaling for additional training of neural networks for multiple channel conditions |
US11449084B1 (en) * | 2021-09-22 | 2022-09-20 | Building4Health Inc. | Device for assessing and managing a health impact of an indoor environment at a site location |
Family Cites Families (41)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4591980A (en) | 1984-02-16 | 1986-05-27 | Xerox Corporation | Adaptive self-repairing processor array |
JPH0634236B2 (ja) | 1985-11-02 | 1994-05-02 | 日本放送協会 | 階層型情報処理方法 |
WO1989009457A1 (en) * | 1988-03-25 | 1989-10-05 | Hitachi, Ltd. | Processing of high-order information with neuron network and minimum and maximum value searching method therefor |
US4935877A (en) * | 1988-05-20 | 1990-06-19 | Koza John R | Non-linear genetic algorithms for solving problems |
US4941122A (en) | 1989-01-12 | 1990-07-10 | Recognition Equipment Incorp. | Neural network image processing system |
US5588091A (en) | 1989-05-17 | 1996-12-24 | Environmental Research Institute Of Michigan | Dynamically stable associative learning neural network system |
US5075868A (en) * | 1989-09-18 | 1991-12-24 | The United States Of America As Represented By The Secretary Of The Navy | Memory modification of artificial neural networks |
US5067095A (en) * | 1990-01-09 | 1991-11-19 | Motorola Inc. | Spann: sequence processing artificial neural network |
US5274714A (en) * | 1990-06-04 | 1993-12-28 | Neuristics, Inc. | Method and apparatus for determining and organizing feature vectors for neural network recognition |
EP0468229A3 (en) * | 1990-07-27 | 1994-01-26 | Hnc Inc | A neural network with expert system functionality |
US5197114A (en) * | 1990-08-03 | 1993-03-23 | E. I. Du Pont De Nemours & Co., Inc. | Computer neural network regulatory process control system and method |
JP3231810B2 (ja) * | 1990-08-28 | 2001-11-26 | アーチ・デベロップメント・コーポレーション | ニューラル・ネットワークを用いた鑑別診断支援方法 |
US5581459A (en) * | 1990-09-26 | 1996-12-03 | Hitachi, Ltd. | Plant operation support system |
US5150450A (en) * | 1990-10-01 | 1992-09-22 | The United States Of America As Represented By The Secretary Of The Navy | Method and circuits for neuron perturbation in artificial neural network memory modification |
US5155801A (en) * | 1990-10-09 | 1992-10-13 | Hughes Aircraft Company | Clustered neural networks |
ATE163777T1 (de) * | 1990-10-10 | 1998-03-15 | Honeywell Inc | Identifizierung eines prozesssystems |
JP2747104B2 (ja) | 1990-10-22 | 1998-05-06 | 株式会社東芝 | ニューラルネットワーク |
JPH04160463A (ja) * | 1990-10-24 | 1992-06-03 | Hitachi Ltd | ニューラルネットワークによる最適化方法 |
US5241620A (en) * | 1991-01-03 | 1993-08-31 | Promised Land Technologies, Inc. | Embedding neural networks into spreadsheet applications |
US5214715A (en) * | 1991-01-31 | 1993-05-25 | Trustees Of Boston University | Predictive self-organizing neural network |
US5239594A (en) * | 1991-02-12 | 1993-08-24 | Mitsubishi Denki Kabushiki Kaisha | Self-organizing pattern classification neural network system |
US5640494A (en) * | 1991-03-28 | 1997-06-17 | The University Of Sydney | Neural network with training by perturbation |
DE69229223T2 (de) * | 1991-03-28 | 2000-01-20 | Univ Sydney | Neuronales netzwerk und lernmethode |
US5239593A (en) * | 1991-04-03 | 1993-08-24 | Nynex Science & Technology, Inc. | Optical pattern recognition using detector and locator neural networks |
US5235673A (en) | 1991-04-18 | 1993-08-10 | International Business Machines Corporation | Enhanced neural network shell for application programs |
US5303330A (en) * | 1991-06-03 | 1994-04-12 | Bell Communications Research, Inc. | Hybrid multi-layer neural networks |
US5500905A (en) | 1991-06-12 | 1996-03-19 | Microelectronics And Computer Technology Corporation | Pattern recognition neural network with saccade-like operation |
US5226092A (en) * | 1991-06-28 | 1993-07-06 | Digital Equipment Corporation | Method and apparatus for learning in a neural network |
US5452400A (en) | 1991-08-30 | 1995-09-19 | Mitsubishi Denki Kabushiki Kaisha | Method of optimizing a combination using a neural network |
US5303329A (en) * | 1991-12-10 | 1994-04-12 | Synaptics, Incorporated | Continuous synaptic weight update mechanism |
US5299285A (en) * | 1992-01-31 | 1994-03-29 | The United States Of America As Represented By The Administrator, National Aeronautics And Space Administration | Neural network with dynamically adaptable neurons |
US5422961A (en) | 1992-04-03 | 1995-06-06 | At&T Corp. | Apparatus and method for improving recognition of patterns by prototype transformation |
US5353207A (en) * | 1992-06-10 | 1994-10-04 | Pavilion Technologies, Inc. | Residual activation neural network |
US5481481A (en) * | 1992-11-23 | 1996-01-02 | Architectural Engergy Corporation | Automated diagnostic system having temporally coordinated wireless sensors |
US5668717A (en) * | 1993-06-04 | 1997-09-16 | The Johns Hopkins University | Method and apparatus for model-free optimal signal timing for system-wide traffic control |
US5424959A (en) | 1993-07-19 | 1995-06-13 | Texaco Inc. | Interpretation of fluorescence fingerprints of crude oils and other hydrocarbon mixtures using neural networks |
US5692107A (en) | 1994-03-15 | 1997-11-25 | Lockheed Missiles & Space Company, Inc. | Method for generating predictive models in a computer system |
US5659666A (en) | 1994-10-13 | 1997-08-19 | Thaler; Stephen L. | Device for the autonomous generation of useful information |
US5701400A (en) | 1995-03-08 | 1997-12-23 | Amado; Carlos Armando | Method and apparatus for applying if-then-else rules to data sets in a relational data base and generating from the results of application of said rules a database of diagnostics linked to said data sets to aid executive analysis of financial data |
US5729662A (en) | 1995-06-07 | 1998-03-17 | Rozmus; J. Michael | Neural network for classification of patterns with improved method and apparatus for ordering vectors |
US5845271A (en) | 1996-01-26 | 1998-12-01 | Thaler; Stephen L. | Non-algorithmically implemented artificial neural networks and components thereof |
-
1994
- 1994-10-13 US US08/323,238 patent/US5659666A/en not_active Expired - Lifetime
-
1995
- 1995-10-04 DE DE69525059T patent/DE69525059T2/de not_active Expired - Lifetime
- 1995-10-04 GB GB9705632A patent/GB2308476B/en not_active Expired - Fee Related
- 1995-10-04 CA CA002199969A patent/CA2199969C/en not_active Expired - Fee Related
- 1995-10-04 GB GB9916090A patent/GB2336227B/en not_active Expired - Fee Related
- 1995-10-04 WO PCT/US1995/013088 patent/WO1996012221A1/en active IP Right Grant
- 1995-10-04 EP EP95940513A patent/EP0786106B1/en not_active Expired - Lifetime
- 1995-10-04 JP JP51337496A patent/JP4282760B2/ja not_active Expired - Lifetime
- 1995-10-04 AU AU41936/96A patent/AU689677B2/en not_active Ceased
-
1997
- 1997-08-13 US US08/910,290 patent/US6018727A/en not_active Expired - Lifetime
-
1999
- 1999-07-02 US US09/347,210 patent/US6356884B1/en not_active Expired - Lifetime
- 1999-08-09 US US09/371,887 patent/US6115701A/en not_active Expired - Lifetime
-
2007
- 2007-04-18 JP JP2007109647A patent/JP2007299387A/ja active Pending
Also Published As
Publication number | Publication date |
---|---|
US6115701A (en) | 2000-09-05 |
GB9705632D0 (en) | 1997-05-07 |
US5659666A (en) | 1997-08-19 |
CA2199969A1 (en) | 1996-04-25 |
GB9916090D0 (en) | 1999-09-08 |
EP0786106B1 (en) | 2002-01-16 |
CA2199969C (en) | 2008-04-15 |
DE69525059T2 (de) | 2002-10-02 |
US6018727A (en) | 2000-01-25 |
AU4193696A (en) | 1996-05-06 |
JPH10507553A (ja) | 1998-07-21 |
GB2308476B (en) | 1999-12-29 |
DE69525059D1 (de) | 2002-02-21 |
JP2007299387A (ja) | 2007-11-15 |
AU689677B2 (en) | 1998-04-02 |
WO1996012221A1 (en) | 1996-04-25 |
EP0786106A1 (en) | 1997-07-30 |
US6356884B1 (en) | 2002-03-12 |
GB2308476A (en) | 1997-06-25 |
GB2336227A (en) | 1999-10-13 |
GB2336227B (en) | 1999-12-29 |
EP0786106A4 (ja) | 1997-08-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4282760B2 (ja) | 有用な情報の自律的発生装置 | |
WO1996012221A9 (en) | Device for the autonomous generation of useful information | |
Yang et al. | MidiNet: A convolutional generative adversarial network for symbolic-domain music generation | |
Eigenfeldt et al. | Flexible generation of musical form: beyond mere generation | |
Yadav et al. | A lightweight deep learning-based approach for Jazz music generation in MIDI format | |
Miranda | A-life for music: Music and computer models of living systems | |
Sajad et al. | Music generation for novices using Recurrent Neural Network (RNN) | |
Harley | Generative processes in algorithmic composition: Chaos and music | |
Johnson | Exploring sound-space with interactive genetic algorithms | |
Eigenfeldt | Generating structure–towards large-scale formal generation | |
Bilotta et al. | Artificial life music tells of complexity | |
De Prisco et al. | An evolutionary composer for real-time background music | |
Bell et al. | A music-generating system based on network theory | |
Yakovenko et al. | Semi-supervised classifying of modelled auditory nerve patterns for vowel stimuli with additive noise | |
Klinger et al. | Evolutionary composition of music with learned melody evaluation | |
Mugica et al. | A Fuzzy Inductive approach for rule-based modelling of high level structures in algorithmic composition systems | |
Hajimolahoseini et al. | Real-time classification of Persian musical Dastgahs using artificial neural network | |
Plut | Application and evaluation of affective adaptive generative music for video games | |
Haug | Exploring interaction with a musical interface based on the BEECLUST algorithm | |
Ma et al. | Sound signal processing based on seq2tree network | |
Siphocly et al. | Analysis of Computational Intelligent Techniques of Music Generation. | |
Smoliar | Algorithms for musical composition: a question of granularity | |
Eigenfeldt | The human fingerprint in machine generated music | |
Yadav et al. | Research Article A Lightweight Deep Learning-Based Approach for Jazz Music Generation in MIDI Format | |
KR20230123043A (ko) | 생성적 적대 신경망에 기반한 멀티트랙 음악 생성 장치 및 그것을 이용한 복수 장르의 멀티트랙 음악 생성 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060207 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20060502 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20060619 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060804 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20061219 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070418 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20070319 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070613 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070404 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20070628 |
|
A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20071011 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090206 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090318 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120327 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130327 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140327 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |