JP6539459B2 - Lvqニューラルネットワーク - Google Patents
Lvqニューラルネットワーク Download PDFInfo
- Publication number
- JP6539459B2 JP6539459B2 JP2015034063A JP2015034063A JP6539459B2 JP 6539459 B2 JP6539459 B2 JP 6539459B2 JP 2015034063 A JP2015034063 A JP 2015034063A JP 2015034063 A JP2015034063 A JP 2015034063A JP 6539459 B2 JP6539459 B2 JP 6539459B2
- Authority
- JP
- Japan
- Prior art keywords
- stage circuit
- registers
- vector
- register
- holding
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Image Analysis (AREA)
Description
図1は、第1の実施形態に係るLVQニューラルネットワークの構成例を示す。本実施形態に係るLVQニューラルネットワーク100Aは、第1ステージ回路10、第2ステージ回路20、第3ステージ回路30、第4ステージ回路40、および第5ステージ回路50を備えている。第1ステージ回路10は、ニューラルネットワークにおける入力レイヤ(Input Layer)に相当する。第2ステージ回路20ないし第4ステージ回路40は、ニューラルネットワークにおける競合レイヤ(Competition Layer)に相当する。第5ステージ回路50は、ニューラルネットワークにおける出力レイヤ(Output Layer)に相当する。
LVQニューラルネットワークによる識別処理を行うには参照ベクトルの学習を行っておく必要がある。LVQ1アルゴリズムでは、参照ベクトルの学習は次の手順で行われる。教師信号としての入力ベクトルxのクラスと学習対象の参照ベクトルwiのクラスとが等しければ、次式(2)の計算を実施して参照ベクトルwiを入力ベクトルxに近づくように更新する。
逆に、教師信号としての入力ベクトルxのクラスと学習対象の参照ベクトルwiのクラスとが異なっていれば、次式(3)の計算を実施して参照ベクトルwiを入力ベクトルxから遠ざかるように更新する。
ただし、αは学習係数であり、0から1までの小数値である。
100B LVQニューラルネットワーク
10 第1ステージ回路
11I レジスタ
11R 参照レジスタ
20 第2ステージ回路
21 加算器
22I レジスタ
30 第3ステージ回路
31 乗算器
32I レジスタ
32R 参照レジスタ
33 マルチプレクサ
40 第4ステージ回路
41 加算器
42 加算器ツリー
43 レジスタ
44 マルチプレクサ(レジスタの保持値およびゼロのいずれか一方を選択的に出力するマルチプレクサ)
45 マルチプレクサ(加算器への入力を切り替える複数のマルチプレクサ)
50 第5ステージ回路
51 レジスタ
52 比較器
60 デュアルポートメモリ
70 マルチプレクサ(学習係数の正値と負値とを切り替えるマルチプレクサ)
Claims (5)
- 与えられた入力ベクトルの部分ベクトルの各要素を保持する複数のレジスタおよび与えられた参照ベクトルの部分ベクトルの各要素を保持する複数の参照レジスタを有する第1ステージ回路と、
前記第1ステージ回路の前記複数のレジスタの保持値と前記第1ステージ回路の前記複数の参照レジスタの保持値との差分をそれぞれ計算する複数の加算器および当該複数の加算器の計算結果をそれぞれ保持する複数のレジスタを有する第2ステージ回路と、
前記第2ステージ回路の前記複数のレジスタの保持値をそれぞれ二乗する複数の乗算器および当該複数の乗算器の計算結果をそれぞれ保持する複数のレジスタを有する第3ステージ回路と、
前記第3ステージ回路の前記複数のレジスタの保持値を累積加算する複数の加算器および当該複数の加算器で計算された累積加算値を保持するレジスタを有する第4ステージ回路と、
前記入力ベクトルとこれまでに与えられた参照ベクトルとの最小距離を保持するレジスタおよび前記第4ステージ回路の前記レジスタの保持値と当該最小距離を保持するレジスタの保持値とを比較する比較器を有し、前記第4ステージ回路の前記レジスタの保持値が当該最小距離を保持するレジスタの保持値よりも小さい場合、当該最小距離を保持するレジスタの保持値を前記第4ステージ回路の前記レジスタの保持値に更新するとともに最小距離検出を示す信号を出力する第5ステージ回路とを備え、
前記第1ステージ回路ないし前記第5ステージ回路がパイプライン動作し、
前記第3ステージ回路が、認識/学習切り替え信号に応じて前記第2ステージ回路の前記複数のレジスタの保持値および学習係数のいずれか一方を選択的にそれぞれ出力する複数のマルチプレクサと、前記参照ベクトルの部分ベクトルの各要素を保持する複数の参照レジスタとを有し、前記複数の乗算器が、前記第2ステージ回路の前記複数のレジスタの保持値と当該複数のマルチプレクサの出力値とをそれぞれ乗算するものであり、
前記第4ステージ回路が、前記複数の加算器への入力をそれぞれ切り替える複数のマルチプレクサおよび前記複数の加算器の計算結果をそれぞれ保持する複数のレジスタを有し、当該複数のマルチプレクサが、前記認識/学習切り替え信号に応じて、前記複数の加算器が前記第3ステージ回路の前記複数のレジスタの保持値を累積加算する第1の接続状態と、前記複数の加算器が前記第3ステージ回路の前記複数のレジスタの保持値と前記第3ステージ回路の前記複数の参照レジスタの保持値とをそれぞれ加算する第2の接続状態とを切り替えるものであり、
複数の参照ベクトルを保持し、アドレス指定された参照ベクトルの部分ベクトルを前記第1ステージ回路の前記複数の参照レジスタに与えるデータ読み出し、および前記第4ステージ回路の前記複数のマルチプレクサが前記第2の接続状態にあるときに当該アドレス指定された参照ベクトルの部分ベクトルを前記第4ステージ回路の前記複数のレジスタの保持値に更新するデータ書き込みを同時に行うデュアルポートメモリを備えた、
LVQ(Learning Vector Quantization)ニューラルネットワーク。 - 前記第4ステージ回路が、前記複数の加算器がバイナリツリー状に接続されて前記第3ステージ回路の前記複数のレジスタの保持値を合計する加算器ツリーと、前記レジスタの保持値およびゼロのいずれか一方を選択的に出力するマルチプレクサと、当該加算器ツリーの計算結果と当該マルチプレクサの出力値とを加算する加算器とを有し、前記レジスタが当該加算器の計算結果を保持するものである、請求項1に記載のLVQニューラルネットワーク。
- 前記学習係数が−1よりも大きく1よりも小さい0を除く小数値である、請求項2に記載のLVQニューラルネットワーク。
- 前記学習係数が2の補数で表現される、請求項3に記載のLVQニューラルネットワーク。
- 前記第3ステージ回路が、前記学習係数の正値と負値とを切り替えるマルチプレクサを有する、請求項1−4のいずれか1項に記載のLVQニューラルネットワーク。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015034063A JP6539459B2 (ja) | 2015-02-24 | 2015-02-24 | Lvqニューラルネットワーク |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015034063A JP6539459B2 (ja) | 2015-02-24 | 2015-02-24 | Lvqニューラルネットワーク |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016157233A JP2016157233A (ja) | 2016-09-01 |
JP6539459B2 true JP6539459B2 (ja) | 2019-07-03 |
Family
ID=56826269
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015034063A Expired - Fee Related JP6539459B2 (ja) | 2015-02-24 | 2015-02-24 | Lvqニューラルネットワーク |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6539459B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021079235A1 (ja) * | 2019-10-25 | 2021-04-29 | 株式会社半導体エネルギー研究所 | 演算回路、半導体装置、及び電子機器 |
JP6896306B1 (ja) * | 2020-04-13 | 2021-06-30 | LeapMind株式会社 | ニューラルネットワーク回路、エッジデバイスおよびニューラルネットワーク演算方法 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH032959A (ja) * | 1989-05-30 | 1991-01-09 | Matsushita Electric Ind Co Ltd | 関数学習生成装置 |
JP2542107B2 (ja) * | 1990-07-09 | 1996-10-09 | 日本電信電話株式会社 | ニュ―ラルネットワ―ク回路 |
JPH0652132A (ja) * | 1992-07-28 | 1994-02-25 | Mitsubishi Electric Corp | 並列演算半導体集積回路装置およびそれを用いたシステム |
JPH06243194A (ja) * | 1993-02-17 | 1994-09-02 | Matsushita Electric Ind Co Ltd | 論理回路の自動設計方法およびその装置 |
JP2000322400A (ja) * | 1999-05-10 | 2000-11-24 | Fuji Xerox Co Ltd | 情報処理装置 |
JP2010191633A (ja) * | 2009-02-17 | 2010-09-02 | Nec Corp | 学習ベクトル量子化学習システム、並列学習方法及びそのプログラム |
JP6188147B2 (ja) * | 2013-10-15 | 2017-08-30 | 国立大学法人広島大学 | 認識システム |
-
2015
- 2015-02-24 JP JP2015034063A patent/JP6539459B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2016157233A (ja) | 2016-09-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11568258B2 (en) | Operation method | |
CN107341547B (zh) | 一种用于执行卷积神经网络训练的装置和方法 | |
CN109117948B (zh) | 画风转换方法及相关产品 | |
CN109522942B (zh) | 一种图像分类方法、装置、终端设备和存储介质 | |
US11307865B2 (en) | Data processing apparatus and method | |
CN113537481B (zh) | 用于执行lstm神经网络运算的装置和运算方法 | |
WO2018140294A1 (en) | Neural network based on fixed-point operations | |
KR20190042257A (ko) | 문장 생성 모델의 업데이트 방법 및 문장 생성 장치 | |
Fard et al. | Numerical solutions for linear system of first-order fuzzy differential equations with fuzzy constant coefficients | |
CN111095301A (zh) | 神经网络电路装置、神经网络、神经网络处理方法和神经网络的执行程序 | |
CN112925505A (zh) | 算术设备、算术设备的操作方法和神经网络处理器 | |
JP6539459B2 (ja) | Lvqニューラルネットワーク | |
CN112364747A (zh) | 一种有限样本下的目标检测方法 | |
CN115099189A (zh) | 基于并行计算的语音识别模型及确定方法 | |
Espinoza et al. | Short term chaotic time series prediction using symmetric LS-SVM regression | |
WO2017037331A1 (en) | Method and apparatus for optimization | |
CN108460453B (zh) | 一种用于ctc训练的数据处理方法、装置及系统 | |
CN114595641A (zh) | 组合优化问题的求解方法和系统 | |
CN114676832A (zh) | 神经网络模型运行方法、介质和电子设备 | |
CN115512693A (zh) | 音频识别方法、声学模型训练方法、装置和存储介质 | |
CN113570053A (zh) | 一种神经网络模型的训练方法、装置以及计算设备 | |
Struharik et al. | Intellectual property core implementation of decision trees | |
Regression | Logistic regression | |
Scardapane et al. | Pseudo-rehearsal for continual learning with normalizing flows | |
CN115759270B (zh) | 一种基于量子线路的高效模拟方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180223 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190228 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190305 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190423 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190521 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190610 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6539459 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |