JP6382354B2 - ニューラルネットワーク及びニューラルネットワークのトレーニング方法 - Google Patents
ニューラルネットワーク及びニューラルネットワークのトレーニング方法 Download PDFInfo
- Publication number
- JP6382354B2 JP6382354B2 JP2016573707A JP2016573707A JP6382354B2 JP 6382354 B2 JP6382354 B2 JP 6382354B2 JP 2016573707 A JP2016573707 A JP 2016573707A JP 2016573707 A JP2016573707 A JP 2016573707A JP 6382354 B2 JP6382354 B2 JP 6382354B2
- Authority
- JP
- Japan
- Prior art keywords
- correction
- neuron
- weight
- input
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012549 training Methods 0.000 title claims description 193
- 238000000034 method Methods 0.000 title claims description 84
- 238000013528 artificial neural network Methods 0.000 title claims description 69
- 238000012937 correction Methods 0.000 claims description 307
- 210000002569 neuron Anatomy 0.000 claims description 205
- 210000000225 synapse Anatomy 0.000 claims description 81
- 238000009826 distribution Methods 0.000 claims description 36
- 230000008859 change Effects 0.000 claims description 19
- 230000006870 function Effects 0.000 claims description 19
- 238000005315 distribution function Methods 0.000 claims description 13
- 230000000946 synaptic effect Effects 0.000 description 35
- 230000008569 process Effects 0.000 description 29
- 238000010586 diagram Methods 0.000 description 28
- 230000015572 biosynthetic process Effects 0.000 description 21
- 238000004422 calculation algorithm Methods 0.000 description 21
- 238000004364 calculation method Methods 0.000 description 9
- 230000004913 activation Effects 0.000 description 6
- 238000004458 analytical method Methods 0.000 description 6
- 238000002474 experimental method Methods 0.000 description 5
- 238000002360 preparation method Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 238000009828 non-uniform distribution Methods 0.000 description 4
- 210000004205 output neuron Anatomy 0.000 description 4
- 238000003909 pattern recognition Methods 0.000 description 4
- 230000009467 reduction Effects 0.000 description 4
- 238000011144 upstream manufacturing Methods 0.000 description 4
- 230000000007 visual effect Effects 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 230000007423 decrease Effects 0.000 description 3
- 230000000750 progressive effect Effects 0.000 description 3
- 238000007619 statistical method Methods 0.000 description 3
- 238000003860 storage Methods 0.000 description 3
- 241000282326 Felis catus Species 0.000 description 2
- 241001465754 Metazoa Species 0.000 description 2
- 238000012152 algorithmic method Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000004140 cleaning Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000007620 mathematical function Methods 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 238000009827 uniform distribution Methods 0.000 description 2
- 206010033799 Paralysis Diseases 0.000 description 1
- 241000700605 Viruses Species 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 230000002238 attenuated effect Effects 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 210000004027 cell Anatomy 0.000 description 1
- 210000003169 central nervous system Anatomy 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 238000007429 general method Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 210000000653 nervous system Anatomy 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 230000010287 polarization Effects 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Molecular Biology (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Image Analysis (AREA)
- Complex Calculations (AREA)
- Image Processing (AREA)
Description
本願は、2014年3月6日に出願された米国仮特許出願第61/949,210号明細書及び2015年1月22日に出願された米国仮特許出願第62/106,389号明細書の利益を主張するものであり、これらの内容全体は、参照により本明細書に援用される。
Σsynapse Ci,d,n=1 又は ∫synapse Ci,d,n=1 [1]
最も単純な場合、入力信号値に最も密接に対応する補正重み112には、影響係数134(Ci,d,n)に対して1の値を割り当て得、一方、他の間隔の補正重みは0の値を受け取り得る。
・入力の数及び出力の数によって定義されるpネット100の寸法、
・全ての入力のシナプス重み108、
・補正重み112の数、
・異なる値の入力信号104の補正重み影響係数(Ci,d,n)の分布、
・トレーニングの所望の精度。
入力の数は、入力画像106のサイズに基づいて特定される。例えば、ピクチャの場合、ピクセル数を使用することができ、一方、選択される出力数は、所望の出力画像126のサイズに依存することができる。幾つかの場合、選択される出力数は、トレーニング画像のカテゴリ数に依存し得る。
Σn=Σi,d,nWi,d,n×Ci,d,n [2]
Wi,d,n×Ci,d,nの乗算は、様々なデバイスにより、例えば、分配器114、重みが記憶されたデバイス、又はニューロン116によって直接、実行することができる。和は、ニューロン出力117を介して重み補正計算器122に転送される。所望の出力画像126を記述する所望の出力信号O1、O2、・・・、Onも計算器122に供給される。
Σ1=W1,0,1×C1,0,1・+W1,1,1×C1,1,1・+W1,2,1×C1,2,1・+...[3]
トレーニングが開始されるとき、すなわち、最初のエポック中、補正重みWi,d,1は、トレーニングに使用される入力画像106に対応せず、したがって、ニューロン出力和Σ1は、対応する所望の出力画像126に等しくない。初期補正重みWi,d,1に基づいて、重み補正システムは補正値Δ1を計算し、この補正値は、ニューロン出力和Σ1(Wi,d,1)に寄与する全ての補正重みの変更に使用される。pネット100では、指定されたニューロン116に寄与する全ての補正重みWi,d,nの集合的補正信号の形成及び利用について、様々な選択肢又は変形が可能である。
・式
Δn=(On−Σn/S [4]
に従ったニューロン「n」に寄与する全ての補正重みで等しい補正値Δnの計算:
式中、
On−ニューロン出力和Σnに対応する所望の出力信号、
S−ニューロン「n」に接続されるシナプスの数。
・式
Wi,d,n modified=Wi,d,n+Δn/Ci,d,n [5]
に従ったニューロン「n」に寄与する全ての補正重みWi,d,nの変更。
変形2−以下のような、所望の出力信号と得られた出力和との比率に基づく補正信号の形成及び利用:
・式
Δn=On/Σn [6]
に従ったニューロン「n」に寄与する全ての補正重みで等しい補正値Δnの計算。
・式
Wi,d,n,modified=Wi,d,n,×Δn [7]
に従ったニューロン「n」に寄与する全ての補正重みWi,d,nの変更。
任意の利用可能な変形による補正重みWi,d,nの変更は、所望の出力信号の値に出力和Σnを収束させることにより、各ニューロン116のトレーニング誤差を低減することが意図される。そのようにして、所与の画像のトレーニング誤差は、そのような誤差がゼロになるか、又はゼロに近づくまで、低減することができる。
・直接認識は、トレーニングに向けての画像のフォーマットに使用される同じ規則に従って画像をフォーマットすることで開始される。
・図8に示されるように、画像は、トレーニングされたpネット100の入力に送信され、分配器は、トレーニング中に設定された入力信号の値に対応する補正重みWi,d,nを割り当て、ニューロンは、各ニューロン和を生成する。
・出力画像126を表す、結果として生成される出力和が、pネット100をトレーニングしている画像の1つに完全に一致する場合、物体の厳密な認識がある。
・pネット100をトレーニングしている幾つかの画像に、出力画像126が部分的に一致する場合、その結果は、割合として、様々な画像との一致率を示す。図13は、猫又は車両の画像の組合せに基づいて行われる複雑な画像の認識中、出力画像126が所与の画像の組合せを表し、組合せへの各初期画像の寄与の割合を示すことを実証する。
・本明細書では「基本入力」として示される、入力の全てではなく1%〜10%のみの使用を介して予めトレーニングされたネットワークによる画像の初期認識。入力のそのような部分は、pネット100内で均一に、ランダムに、又は任意の他の分布関数によって分布することができる。例えば、複数の他の物体を含む写真中の人物の認識。
・更に詳細に認識するために最も多くの情報を含む物体又は物体の部分の選択。そのような選択は、アルゴリズム的方法と同様に、メモリに予め設定される特定の物体の構造に従って又は色の勾配、輝度、及び/又は画像の深度に従って提供することができる。例えば、ポートレートの認識では、以下の認識ゾーンを選択することができる:目、口角、鼻の形状、及びタトゥー等の特定の特徴、又は同様の手法を使用して、車両プレート番号若しくは家の番地を選択し、認識することもできる。
・必要であれば、選択された画像の詳細な認識も可能である。
・所与のタスクに従った、組になったトレーニング入力画像のデジタル形式への変換、
・トレーニングに使用される入力信号のパラメータ、例えば、周波数、大きさ、位相、又は座標の選択を含め、結果として生成されるデジタル画像の分析、及び
・トレーニング信号の範囲、対象となる範囲内の間隔数、及び補正重み影響係数Ci,d,nの分布の設定。
2.以下を含むpネットソフトウェアエミュレーションの形成。
・pネット100への1組の入力の形成。例えば、入力数は、トレーニング入力画像内の信号数と同じであり得る。
・各ニューロンが加算デバイスを表す、1組のニューロンの形成。
・各シナプスが1つのpネット入力及び1つのニューロンに接続される、シナプス重みを有する1組のシナプスの形成。
・重み補正ブロックが分配器及び補正重みを含み、各補正重みが以下の特性を有する、各シナプス内の重み補正ブロックの形成:
・補正重み入力インデックス(i)、
・補正重みニューロンインデックス(n)、
・補正重み間隔インデックス(d)、及び
・補正重み初期値(Wi,d,n)。
・間隔と補正重みとの相関の指定。
3.以下を含む、1つの入力画像を用いての各ニューロンのトレーニング。
・以下を含む、補正重み影響係数Ci,d,nの指定:
・各入力によって受信されるトレーニング入力画像の入力信号に対応する間隔の特定、及び
・全てのシナプスの全ての補正重みへの補正重み影響係数Ci,d,nの大きさの指定。
・対応する補正重み影響係数Ci,d,nで乗算された、ニューロンに寄与する全てのシナプス重みの補正重み値Wi,d,nを合算することにより、各ニューロン「n」のニューロン出力和(Σn)を計算すること。
Σn=Σi,d,nWi,d,n×Ci,d,n
・対応する所望の出力信号Onからニューロン出力和Σnを減算することを介して、逸脱又はトレーニング誤差(Tn)を計算すること。
Tn=On−Σn
・トレーニング誤差を、ニューロン「n」に接続されたシナプス数「S」で除算することを介して、ニューロン「n」に寄与する全ての補正重みに等しい補正値(Δn)を計算すること。
Δn=Tn/S
・対応する補正重み影響係数Ci,d,nで除算した各補正重みに補正値Δnを加算することにより、各ニューロンに寄与する全ての補正重みWi,d,nを変更すること。
Wi,d,n modified=Wi,d,n+Δn/Ci,d,n
等しい補正値(Δn)を計算し、ニューロン「n」に寄与する全ての補正重みの補正重みWi,d,nを変更する別の方法は、以下を含むことができる。
・所望の出力画像の信号Onをニューロン出力和Σnで除算すること。
Δn=On/Σn
・補正重みを補正値Δnで乗算することにより、ニューロンに寄与する補正重みWi,d,nを変更すること。
Wi,d,n modified=Wi,d,n×Δn
4.以下を含む、全てのトレーニング画像を使用してpネット100をトレーニングすること:
・1つのトレーニングエポックに含まれる選択された全てのトレーニング画像に対して、上述したプロセスを繰り返すこと、及び
・特定のトレーニングエポックの1つ又は複数の誤差を特定し、誤差を所定の許容可能な誤差レベルと比較し、トレーニング誤差が所定の許容可能な誤差レベル未満になるまで、トレーニングエポックを繰り返すこと。
NeuronUnitオブジェクトクラスの形成は、以下の形成を含むことができる:
・Synapseクラスの1組のオブジェクト、
・加算がトレーニング中に実行される、変数を提示するニューロン116、及び
・所望のニューロン和120の値が記憶され、補正値Δnの計算が、トレーニングプロセス中に実行される、変数を提示する計算器122。
クラスNeuronUnitは、pネット100のトレーニングを提供し、以下を含むことができる:
・ニューロン和120の形成、
・所望の和の設定、
・補正値Δnの計算、及び
・計算された補正値Δnの補正重みWi,n,dへの加算。
オブジェクトクラスSynapseの形成は、以下を含むことができる:
・1組の補正重みWi,n,d、及び
・シナプス118に接続された入力を示すポインタ。
クラスSynapyseは以下の関数を実行することができる:
・補正重みWi,n,dの初期化、
・係数Ci,d,nで重みWi,n,dを乗算すること、及び
・重みWi,n,dの補正。
オブジェクトクラスInputSignalの形成は、以下を含むことができる:
・所与の入力102に接続されたシナプス118での1組のインデックス、
・入力信号104の値を含む変数、
・可能な最小入力信号及び最大入力信号の値、
・間隔数「d」、及び
・間隔長。
クラスInputSignalは、以下の関数を提供することができる。
・以下を含む、pネット100の構造の形成:
・入力102とシナプス118との間のリンクの追加及び除去、並びに
・特定の入力102のシナプス118の間隔数「d」の設定。
・最小入力信号及び最大入力信号104のパラメータの設定。
・pネット100の動作への寄与。
・入力信号104の設定、及び
・補正重み影響係数Ci,d,nの設定。
オブジェクトクラスPNetの形成は、1組のオブジェクトクラスを含む。
・NeuronUnit、及び
・InputSignal。
クラスPNetは、以下の機能を提供する:
・InputSignalクラスのオブジェクト数を設定すること、
・NeuronUnitクラスのオブジェクト数を設定すること、及び
・オブジェクトNeuronUnit及びInputSignalの関数のグループ要求。
トレーニングプロセス中、サイクルを形成することができ、
・サイクル開始前に、ゼロに等しいニューロン出力和が形成され、
・所与のNeuronUnitに寄与する全てのシナプスがレビューされる。シナプス118毎に、
・入力信号102に基づいて、分配器は、1組の補正重み影響係数Ci,d,nを形成し、
・上記シナプス118の全ての重みWi,n,dがレビューされ、重み毎に、
・重みWi,n,dの値が対応する補正重み影響係数Ci,d,nで乗算され、
・乗算の結果が、ニューロン出力和の形成に追加される。
・補正値Δnが計算される。
・補正値Δnが、補正重み影響係数Ci,d,nで除算される。すなわち、Δn/Ci,d,n。
・所与のNeuronUnitに寄与する全てのシナプス118がレビューされる。シナプス118毎に、対象となるシナプスの全ての重みWi,n,dがレビューされ、重み毎に、その値は対応する補正値Δnに変更される。
・最初の画像を用いてトレーニングすること。
・次の画像を認識し、新しい画像と、ネットワークが最初にトレーニングされた画像との類似性の割合を識別すること。認識誤差が所定の値未満である場合、追加のトレーニングは必要ない。
・認識誤差が所定の値を超える場合、追加のトレーニングが提供される。
・例えば、画像をネットワークに導入するか、又は各画像に使用される補正重みのリストを編纂することによる、画像形成に参加する全ての補正重みWi,n,d,aの識別、
・各補正重みWi,n,d,aのインデックス「a」の低減、及び
・ゼロ又はインデックス「a」がゼロに低減される場合、対象となる重みの可能な値の範囲の中央に近いランダム値での補正重みWi,n,d,aの置換。
・準備された出力画像を含めずに、1組の入力画像をトレーニングに向けて準備すること。
・基本アルゴリズムに従って行われるように、ニューロン出力和の形成を用いてネットワークを形成し、トレーニングすること。
・コホーネンネットワークと同様に編成することができる、最大出力和、すなわち、勝者出力又は勝者出力群を有する出力の、結果として生成される出力画像を選択すること。
・勝者出力又は勝者出力群が最大値を受け取る所望の出力画像の作成。同時に、
・選択される勝者出力の数は、例えば、1〜10の範囲内で予め決定することができるか、又は勝者出力は、「最大ニューロン和のN%以上」という規則に従って選択することができ、ここで、「N」は、例えば、90%〜100%内であり得る。
・他の全ての出力はゼロに等しく設定することができる。
・作成された所望の出力画像、図13を使用して、基本アルゴリズムに従ってトレーニングすること。
・異なる勝者又は勝者群の各画像を形成して、他の画像に対して全ての手順を繰り返すこと。
Claims (16)
- ニューラルネットワークであって、
入力値を有する入力信号を受信するようにそれぞれ構成される、前記ニューラルネットワークの複数の入力と、
複数のシナプスであって、各シナプスは、前記複数の入力のうちの1つに接続され、複数の補正重みを含み、各補正重みは重み値によって定義される、複数のシナプスと、
1組の分配器であって、各分配器は、前記複数の入力のうちの1つに動作可能に接続されて、各入力信号を受信し、前記入力値に相関して、前記複数の補正重みから1つ又は複数の補正重みを選択するように構成される、1組の分配器と、
1組のニューロンであって、各ニューロンは、少なくとも1つの出力を有し、前記複数のシナプスのうちの1つを介して前記複数の入力のうちの少なくとも1つに接続され、各ニューロンは、各ニューロンに接続された各シナプスから選択される前記補正重みの前記重み値を合算し、それにより、ニューロン和を生成するように構成される、1組のニューロンと、
重み補正計算器であって、値を有する所望の出力信号を受信し、前記所望の出力信号値からの前記ニューロン和の逸脱を特定し、変更された補正重み値を合算して、ニューロン和を特定することにより、前記所望の出力信号値からの前記ニューロン和の前記逸脱が最小化され、それにより、前記ニューラルネットワークがトレーニングされるように、前記特定された逸脱を使用して各補正重み値を変更するように構成される、重み補正計算器と
を備える、ニューラルネットワーク。 - 前記所望の出力信号からの前記ニューロン和の前記逸脱の前記特定は、前記所望の出力信号値を前記ニューロン和で除算し、それにより、逸脱係数を生成することを含み、
各補正重み値の前記変更は、前記逸脱係数により、前記ニューロン和の生成に使用される各補正重みを乗算することを含む、請求項1に記載のニューラルネットワーク。 - 前記所望の出力信号からの前記ニューロン和の前記逸脱は、前記所望の出力信号と前記ニューロン和との数学的差分であり、
各変更補正重みの前記生成は、前記ニューロン和の生成に使用される各補正重みへの前記数学的差分の配分を含む、請求項1に記載のニューラルネットワーク。 - 前記数学的差分の前記配分は、前記ニューロン和の生成に使用される各補正重み間で、前記特定された差分を等分割することを含む、請求項3に記載のニューラルネットワーク。
- 各分配器は、各影響係数が所定の割合で前記複数の補正重みのうちの1つに割り当てられて、各ニューロン和を生成するように、複数の影響係数を前記複数の補正重みのそれぞれに割り当てるように更に構成され、
各ニューロンは、各ニューロンに接続された全ての前記シナプスについて、前記補正重みと前記割り当てられた影響係数との積を合算するように構成され、
前記重み補正計算器は、各影響係数によって確立される前記積に従って、前記特定された差分の部分を、前記ニューロン和の生成に使用される各補正重みに適用するように構成される、請求項3に記載のニューラルネットワーク。 - 複数の影響係数のそれぞれは、影響分布関数によって定義され、
前記複数の入力値は、各入力値が各間隔内で受信され、各補正重みが前記間隔のうちの1つに対応するように、間隔分布関数に従って前記間隔に分割される値範囲の中で受信され、
各分配器は、前記受信される各入力値を使用して、各間隔を選択し、前記複数の影響係数のそれぞれを、前記選択された各間隔に対応する前記補正重み及び前記選択された各間隔に隣接する間隔に対応する少なくとも1つの補正重みに割り当てる、請求項5に記載のニューラルネットワーク。 - 各補正重みは、
前記入力に対応する前記補正重みを識別するように構成される入力インデックスと、
各補正重みに選択される前記間隔を指定するように構成される間隔インデックスと、
前記ニューロンに対応する前記補正重みを指定するように構成されるニューロンインデックスと
を含む1組のインデックスによって更に定義される、請求項6に記載のニューラルネットワーク。 - 各補正重みは、各補正重みが前記ニューラルネットワークのトレーニング中に前記入力信号によってアクセスされる回数を数えるように構成されるアクセスインデックスによって更に定義される、請求項7に記載のニューラルネットワーク。
- ニューラルネットワークをトレーニングする方法であって、
前記ニューラルネットワークへの入力を介して、入力値を有する入力信号を受信することと、
前記入力に動作可能に接続された分配器に前記入力信号を通信することと、
前記分配器を介して、前記入力信号に相関して、複数の補正重みから1つ又は複数の補正重みを選択することであって、各補正重みは、重み値によって定義され、前記入力に接続されるシナプスに位置決めされる、選択することと、
前記シナプスを介して前記入力に接続され、少なくとも1つの出力を有するニューロンを介して、前記選択された補正重みの前記重み値を合算することであって、それにより、ニューロン和を生成する、合算することと、
重み補正計算器を介して、値を有する所望の出力信号を受信することと、
前記重み補正計算器を介して、前記所望の出力信号値からの前記ニューロン和の逸脱を特定することと、
前記重み補正計算器を介して、変更された補正重み値を合算して、前記ニューロン和を特定することにより、前記所望の出力信号からの前記ニューロン和の前記逸脱が最小化され、それにより、前記ニューラルネットワークをトレーニングするように、前記特定される逸脱を使用して各補正重み値を変更することと
を含む、方法。 - 前記所望の出力信号値からの前記ニューロン和の前記逸脱を特定することは、前記所望の出力信号値を前記ニューロン和で除算し、それにより、逸脱係数を生成することを含み、
前記各補正重みを変更することは、前記ニューロン和の生成に使用される各補正重みを前記逸脱係数で乗算することを含む、請求項9に記載の方法。 - 前記所望の出力信号値からの前記ニューロン和の前記逸脱を特定することは、前記所望の出力信号値と前記ニューロン和との数学的差分を特定することを含み、前記補正重みのそれぞれを変更することは、前記数学的差分を、前記ニューロン和の生成に使用される各補正重みに配分することを含む、請求項9に記載の方法。
- 前記数学的差分の前記配分は、前記ニューロン和の生成に使用される各補正重み間で、特定された差分を等分割することを含む、請求項11に記載の方法。
- 前記分配器を介して、複数の影響係数を前記複数の補正重みに割り当て、所定の割合で各影響係数を前記複数の補正重みのうちの1つに割り当て、前記ニューロン和を生成することを含む、割り当てることと、
前記ニューロンを介して、前記ニューロンに接続される全ての前記シナプスについて、前記補正重みと前記割り当てられる影響係数との積を合算することと、
前記重み補正計算器を介して、各影響係数のそれぞれによって確立される前記積に従って、前記特定された差分の部分を、前記ニューロン和の生成に使用される各補正重みに適用することと
を更に含む、請求項9に記載の方法。 - 前記複数の影響係数は、影響分布関数によって定義され、前記方法は、
前記入力値が各間隔内で受信され、各補正重みが前記間隔のうちの1つに対応するように、間隔分布関数に従って前記間隔に分割される値範囲の中で前記入力値を受信することと、
前記分配器を介して、前記受信した入力値を使用することであって、それにより、前記間隔のそれぞれを選択し、前記複数の影響関数を、前記選択される各間隔に対応する前記補正重み及び前記選択される各間隔に隣接する間隔に対応する少なくとも1つの補正重みに割り当てる、使用することと
を更に含む、請求項13に記載の方法。 - 1組のインデックスによって各補正重みを更に定義することを更に含み、前記1組のインデックスは、
前記入力に対応する前記補正重みを識別するように構成される入力インデックスと、
各補正重みに選択される前記間隔を指定するように構成される間隔インデックスと、
前記ニューロンに対応する前記補正重みを指定するように構成されるニューロンインデックスと
を含む、請求項14に記載の方法。 - アクセスインデックスによって各補正重みを更に定義することを更に含み、前記アクセスインデックスは、各補正重みが、前記ニューラルネットワークのトレーニング中、前記入力信号によってアクセスされる回数を数えるように構成される、請求項15に記載の方法。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201461949210P | 2014-03-06 | 2014-03-06 | |
US61/949,210 | 2014-03-06 | ||
US201562106389P | 2015-01-22 | 2015-01-22 | |
US62/106,389 | 2015-01-22 | ||
PCT/US2015/019236 WO2015134900A1 (en) | 2014-03-06 | 2015-03-06 | Neural network and method of neural network training |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017511948A JP2017511948A (ja) | 2017-04-27 |
JP6382354B2 true JP6382354B2 (ja) | 2018-08-29 |
Family
ID=54055917
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016573707A Active JP6382354B2 (ja) | 2014-03-06 | 2015-03-06 | ニューラルネットワーク及びニューラルネットワークのトレーニング方法 |
Country Status (14)
Country | Link |
---|---|
US (1) | US9390373B2 (ja) |
EP (1) | EP3114540B1 (ja) |
JP (1) | JP6382354B2 (ja) |
KR (1) | KR102166105B1 (ja) |
CN (1) | CN106104406B (ja) |
AU (1) | AU2015226983A1 (ja) |
CA (1) | CA2941352C (ja) |
DK (1) | DK3114540T3 (ja) |
EA (1) | EA035114B1 (ja) |
ES (1) | ES2864149T3 (ja) |
IL (1) | IL247533B (ja) |
MX (1) | MX357374B (ja) |
SG (1) | SG11201608265XA (ja) |
WO (1) | WO2015134900A1 (ja) |
Families Citing this family (30)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3185184A1 (en) | 2015-12-21 | 2017-06-28 | Aiton Caldwell SA | The method for analyzing a set of billing data in neural networks |
US10824945B2 (en) | 2016-04-15 | 2020-11-03 | Agreeya Mobility Inc. | Machine-learning system and method thereof to manage shuffling of input training datasets |
CN106022221B (zh) * | 2016-05-09 | 2021-11-30 | 腾讯科技(深圳)有限公司 | 一种图像处理方法及处理系统 |
WO2017200597A1 (en) * | 2016-05-20 | 2017-11-23 | Google Llc | Progressive neural networks |
KR102558300B1 (ko) * | 2016-06-09 | 2023-07-21 | 프로그레스, 인코포레이티드 | 신경망 및 신경망 트레이닝 방법 |
KR102335955B1 (ko) * | 2016-11-07 | 2021-12-08 | 한국전자통신연구원 | 컨볼루션 신경망 시스템 및 그것의 동작 방법 |
US10599976B2 (en) | 2016-11-07 | 2020-03-24 | International Business Machines Corporation | Update of attenuation coefficient for a model corresponding to time-series input data |
WO2018133567A1 (zh) * | 2017-01-20 | 2018-07-26 | 清华大学 | 神经元权重信息处理方法和系统、神经元信息处理方法和系统及计算机设备 |
CN106875010B (zh) * | 2017-01-20 | 2019-11-22 | 清华大学 | 神经元权重信息处理方法和系统 |
JPWO2018234919A1 (ja) * | 2017-06-21 | 2020-07-16 | 株式会社半導体エネルギー研究所 | ニューラルネットワークを有する半導体装置 |
TWI754764B (zh) * | 2017-06-30 | 2022-02-11 | 美商克萊譚克公司 | 由低解析度影像產生高解析度影像以用於半導體應用 |
KR20190044878A (ko) | 2017-10-23 | 2019-05-02 | 삼성전자주식회사 | 뉴럴 네트워크에서 파라미터를 처리하는 방법 및 장치 |
WO2019082166A1 (en) * | 2017-10-26 | 2019-05-02 | Uber Technologies, Inc. | PROPAGATION AND UNCERTAIN UNCERTAINTY |
KR102459487B1 (ko) * | 2017-11-03 | 2022-10-26 | 주식회사 케이티 | 컨볼루션 신경망에 기반한 제스처 분류장치 및 방법 |
KR102607208B1 (ko) | 2017-11-16 | 2023-11-28 | 삼성전자주식회사 | 뉴럴 네트워크 학습 방법 및 디바이스 |
WO2019112084A1 (ko) * | 2017-12-06 | 2019-06-13 | 한국과학기술원 | Cnn을 이용한 압축 왜곡 제거 방법 |
CN108256681A (zh) * | 2018-01-15 | 2018-07-06 | 吉浦斯信息咨询(深圳)有限公司 | 一种收入水平预测方法、装置、存储介质和系统 |
US11887003B1 (en) * | 2018-05-04 | 2024-01-30 | Sunil Keshav Bopardikar | Identifying contributing training datasets for outputs of machine learning models |
KR102183305B1 (ko) * | 2018-08-03 | 2020-11-26 | 국민대학교산학협력단 | 신경망 피처 벡터 결정 장치 및 방법 |
CN108962247B (zh) * | 2018-08-13 | 2023-01-31 | 南京邮电大学 | 基于渐进式神经网络多维语音信息识别系统及其方法 |
US11562231B2 (en) | 2018-09-03 | 2023-01-24 | Tesla, Inc. | Neural networks for embedded devices |
CN109447258B (zh) * | 2018-09-19 | 2021-09-14 | 北京市商汤科技开发有限公司 | 神经网络模型的优化方法及装置、电子设备和存储介质 |
CN112771533A (zh) * | 2018-11-08 | 2021-05-07 | Tdk株式会社 | 积和运算器、积和运算方法、逻辑运算装置和神经形态器件 |
CN111208865B (zh) * | 2018-11-22 | 2021-10-08 | 南京大学 | 光电计算单元、光电计算阵列及光电计算方法 |
FR3090953B1 (fr) | 2018-12-21 | 2020-12-04 | Psa Automobiles Sa | Méthode de vérification de la robustesse d’un réseau neuronal |
CN109620269B (zh) * | 2019-01-28 | 2021-10-22 | 锦图计算技术(深圳)有限公司 | 疲劳检测方法、装置、设备及可读存储介质 |
KR102675806B1 (ko) | 2019-05-03 | 2024-06-18 | 삼성전자주식회사 | 영상 처리 장치 및 그 영상 처리 방법 |
KR102514795B1 (ko) * | 2020-03-12 | 2023-03-29 | 한국과학기술원 | 심층 인공 신경망에서 자연 발생되는 선택적 신경 반응을 기반으로 시각적 자극을 인식하기 위한 전자 장치 및 그의 동작 방법 |
US20220019909A1 (en) * | 2020-07-14 | 2022-01-20 | Adobe Inc. | Intent-based command recommendation generation in an analytics system |
KR102642528B1 (ko) * | 2020-11-18 | 2024-03-04 | 한국전자통신연구원 | 인공 지능 시스템의 그것의 인공 신경망 학습 방법 |
Family Cites Families (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4918618A (en) | 1988-04-11 | 1990-04-17 | Analog Intelligence Corporation | Discrete weight neural network |
US4979124A (en) | 1988-10-05 | 1990-12-18 | Cornell Research Foundation | Adaptive, neural-based signal processor |
JP3088171B2 (ja) | 1991-02-12 | 2000-09-18 | 三菱電機株式会社 | 自己組織型パタ−ン分類システム及び分類方法 |
US5493688A (en) | 1991-07-05 | 1996-02-20 | Booz, Allen & Hamilton, Inc. | Pattern categoritzation system having self-organizing analog fields |
US5253329A (en) | 1991-12-26 | 1993-10-12 | The United States Of America As Represented By The Administrator Of The National Aeronautics And Space Administration | Neural network for processing both spatial and temporal data with time based back-propagation |
US5299285A (en) * | 1992-01-31 | 1994-03-29 | The United States Of America As Represented By The Administrator, National Aeronautics And Space Administration | Neural network with dynamically adaptable neurons |
JP3328953B2 (ja) * | 1992-05-25 | 2002-09-30 | 烈 山川 | 非線形シナプスニューロン、そのデバイス及びそれを用いた予測方法 |
JPH06266868A (ja) | 1992-12-24 | 1994-09-22 | Olympus Optical Co Ltd | ニューロン素子 |
US5566273A (en) | 1993-12-30 | 1996-10-15 | Caterpillar Inc. | Supervised training of a neural network |
US7577631B2 (en) | 2001-09-10 | 2009-08-18 | Feldhake Michael J | Cognitive image filtering |
EP1515270A1 (en) * | 2003-09-09 | 2005-03-16 | Semeion | An artificial neural network |
DE102005046747B3 (de) * | 2005-09-29 | 2007-03-01 | Siemens Ag | Verfahren zum rechnergestützten Lernen eines neuronalen Netzes und neuronales Netz |
US7904398B1 (en) * | 2005-10-26 | 2011-03-08 | Dominic John Repici | Artificial synapse component using multiple distinct learning means with distinct predetermined learning acquisition times |
EP2122542B1 (en) * | 2006-12-08 | 2017-11-01 | Medhat Moussa | Architecture, system and method for artificial neural network implementation |
US7814038B1 (en) | 2007-12-06 | 2010-10-12 | Dominic John Repici | Feedback-tolerant method and device producing weight-adjustment factors for pre-synaptic neurons in artificial neural networks |
KR101831247B1 (ko) * | 2012-01-31 | 2018-02-22 | 한국전자통신연구원 | 다층 신경망을 이용한 시선 추적 시스템의 초점 측정 장치 |
US10346962B2 (en) | 2012-02-10 | 2019-07-09 | Corning Incorporated | Nondestructive method to predict isostatic strength in ceramic substrates |
-
2015
- 2015-03-06 JP JP2016573707A patent/JP6382354B2/ja active Active
- 2015-03-06 MX MX2016011438A patent/MX357374B/es active IP Right Grant
- 2015-03-06 WO PCT/US2015/019236 patent/WO2015134900A1/en active Application Filing
- 2015-03-06 EP EP15757786.7A patent/EP3114540B1/en active Active
- 2015-03-06 KR KR1020167027849A patent/KR102166105B1/ko active IP Right Grant
- 2015-03-06 CA CA2941352A patent/CA2941352C/en active Active
- 2015-03-06 CN CN201580012022.2A patent/CN106104406B/zh active Active
- 2015-03-06 AU AU2015226983A patent/AU2015226983A1/en not_active Abandoned
- 2015-03-06 EA EA201600637A patent/EA035114B1/ru not_active IP Right Cessation
- 2015-03-06 SG SG11201608265XA patent/SG11201608265XA/en unknown
- 2015-03-06 DK DK15757786.7T patent/DK3114540T3/da active
- 2015-03-06 ES ES15757786T patent/ES2864149T3/es active Active
- 2015-09-23 US US14/862,337 patent/US9390373B2/en active Active
-
2016
- 2016-08-29 IL IL247533A patent/IL247533B/en not_active IP Right Cessation
Also Published As
Publication number | Publication date |
---|---|
CN106104406A (zh) | 2016-11-09 |
US9390373B2 (en) | 2016-07-12 |
ES2864149T3 (es) | 2021-10-13 |
SG11201608265XA (en) | 2016-11-29 |
CA2941352C (en) | 2022-09-20 |
EA201600637A1 (ru) | 2016-12-30 |
MX357374B (es) | 2018-07-04 |
US20160012330A1 (en) | 2016-01-14 |
EP3114540A4 (en) | 2017-11-08 |
CA2941352A1 (en) | 2015-09-11 |
MX2016011438A (es) | 2017-04-06 |
CN106104406B (zh) | 2018-05-08 |
KR20160131071A (ko) | 2016-11-15 |
IL247533B (en) | 2019-06-30 |
AU2015226983A1 (en) | 2016-10-06 |
EP3114540A1 (en) | 2017-01-11 |
EA035114B1 (ru) | 2020-04-29 |
JP2017511948A (ja) | 2017-04-27 |
WO2015134900A1 (en) | 2015-09-11 |
DK3114540T3 (da) | 2021-04-19 |
KR102166105B1 (ko) | 2020-10-16 |
EP3114540B1 (en) | 2021-03-03 |
IL247533A0 (en) | 2016-11-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6382354B2 (ja) | ニューラルネットワーク及びニューラルネットワークのトレーニング方法 | |
US9619749B2 (en) | Neural network and method of neural network training | |
KR102558300B1 (ko) | 신경망 및 신경망 트레이닝 방법 | |
TWI655587B (zh) | 神經網路及神經網路訓練的方法 | |
CN110796190A (zh) | 具有深度学习特征的指数建模 | |
CN113366494A (zh) | 用于少样本无监督图像到图像转换的方法 | |
US11250245B2 (en) | Data-driven, photorealistic social face-trait encoding, prediction, and manipulation using deep neural networks | |
KR20200130759A (ko) | 데이터 세트에 정의되지 않은 특성 정보를 자동으로 생성하는 제로샷 인식 장치 및 방법 | |
CN109902823A (zh) | 一种基于生成对抗网络的模型训练方法及设备 | |
KR102100973B1 (ko) | 공동 학습을 이용한 기계학습 시스템 및 그 방법 | |
CN111488460B (zh) | 数据处理方法、装置和计算机可读存储介质 | |
Wang et al. | Learning to augment for casual user recommendation | |
CN114461906A (zh) | 一种聚焦于用户核心兴趣的序列推荐方法及装置 | |
Zhang et al. | Machine unlearning methodology based on stochastic teacher network | |
Rahtz et al. | Safe deep rl in 3d environments using human feedback | |
Sunitha et al. | Political optimizer-based automated machine learning for skin lesion data | |
JP6947460B1 (ja) | プログラム、情報処理装置、及び方法 | |
Green et al. | Federated learning with highly imbalanced audio data | |
Jothiraj | Phoenix: Federated Learning for Generative Diffusion Model | |
KR102584712B1 (ko) | 인공지능을 기반으로 한 음원 유사 판단 및 블록체인을 기반으로 한 음원 인덱싱 정보 저장 및 관리 방법, 장치 및 시스템 | |
WO2023062750A1 (ja) | データ生成方法、データ生成プログラム及び情報処理装置 | |
Stanley Jothiraj | Phoenix: Federated Learning for Generative Diffusion Model | |
Mahner et al. | Dimensions that matter: Interpretable object dimensions in humans and deep neural networks | |
Sharma et al. | Robust GAN-Based CNN Model as Generative AI Application for Deepfake Detection | |
Arfeen et al. | Unsupervised Projection Networks for Generative Adversarial Networks |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180227 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20180227 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20180228 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180508 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180724 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180801 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6382354 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |