JPWO2018198454A1 - 情報処理装置、および情報処理方法 - Google Patents
情報処理装置、および情報処理方法 Download PDFInfo
- Publication number
- JPWO2018198454A1 JPWO2018198454A1 JP2019505277A JP2019505277A JPWO2018198454A1 JP WO2018198454 A1 JPWO2018198454 A1 JP WO2018198454A1 JP 2019505277 A JP2019505277 A JP 2019505277A JP 2019505277 A JP2019505277 A JP 2019505277A JP WO2018198454 A1 JPWO2018198454 A1 JP WO2018198454A1
- Authority
- JP
- Japan
- Prior art keywords
- information processing
- processing apparatus
- input
- information
- inner product
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/11—Complex mathematical operations for solving equations, e.g. nonlinear equations, general mathematical optimization problems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Mathematical Physics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Mathematical Analysis (AREA)
- Pure & Applied Mathematics (AREA)
- Mathematical Optimization (AREA)
- Computational Mathematics (AREA)
- Computing Systems (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Evolutionary Computation (AREA)
- Molecular Biology (AREA)
- Algebra (AREA)
- Databases & Information Systems (AREA)
- Operations Research (AREA)
- Complex Calculations (AREA)
Abstract
Description
1.実施形態
1.1.背景
1.2.情報処理装置10の機能構成例
1.3.重みベクトルの量子化
1.4.積和演算回路の構成例
1.5.学習時における量子化
1.6.効果
2.ハードウェア構成例
3.まとめ
<<1.1.背景>>
近年、深層学習(Deep Learning)などニューラルネットワークを用いた学習手法が広く研究されている。ニューラルネットワークを用いた学習手法は高い精度を有する一方、演算に係る処理負担が大きいことから、当該処理負担を効果的に軽減する演算方式が求められている。
続いて、本実施形態に係る情報処理方法を実現する情報処理装置10の機能構成例について述べる。図7は、本実施形態に係る情報処理装置10の機能ブロック図の一例である。図7を参照すると、本実施形態に係る情報処理装置10は、入力部110、演算部120、記憶部130、および出力部140を備える。以下、上記構成について、当該構成が有する機能を中心に説明する。
本実施形態に係る入力部110は、操作者による種々の入力操作を検出する機能を有する。このために、本実施形態に係る入力部110は、操作者による入力操作を検出するための各種の装置を含んでよい。入力部110は、例えば、各種のボタン、キーボード、タッチパネル、マウス、スイッチなどにより実現され得る。
本実施形態に係る演算部120は、複数の入力値と当該入力値にそれぞれ対応する複数の重み係数とに基づく内積演算を行い出力値を算出する機能を有する。本実施形態に係る演算部120は、特に、ニューラルネットワークの順伝播に係る内積演算を行う。この際、本実施形態に係る演算部120は、N次元超球表面におけるベクトル方向の粒度に基づいて量子化された重み係数に基づいて出力値を算出することを特徴の一つとする。より具体的には、本実施形態に係る演算部120は、べき乗により表現された重み係数に基づいて出力値を算出してよい。本実施形態に内積演算の特徴については、別途詳細に説明する。
記憶部130は、情報処理装置10が備える各構成で用いられるプログラムやデータなどを記憶する機能を有する。本実施形態に係る記憶部130は、例えば、ニューラルネットワークに用いられる種々のパラメータなどを記憶する。
出力部140は、操作者に対し種々の情報出力を行う機能を有する。このために、本実施形態に係る出力部140は、視覚情報を出力するディスプレイ装置を含んで構成され得る。ここで、上記のディスプレイ装置は、例えば、CRT(Cathode Ray Tube)ディスプレイ装置、液晶ディスプレイ(LCD:Liquid Crystal Display)装置、OLED(Organic Light Emitting Diode)装置などにより実現され得る。
次に、本実施形態に係る重みベクトルの量子化について詳細に説明する。上述したように、本実施形態に係る情報処理装置10は、べき乗により表現された重みベクトルwによる量子化を行うことで、粒度の均一性を高く保つことができる。この際、本実施形態に係る演算部120は、複数の重みベクトルwiを値の小さい順番に並び替え、また当該複数の重みベクトルwiを最も値の大きい重み係数wiで正規化することを特徴の一つとする。ここで、並び替えて正規化された重みベクトルをwjとすると、重みベクトルwjは、下記の数式(2)〜(4)により表される。
次に、本実施形態に係る演算方式を実現する積和演算回路について説明する。上述のように、重みベクトルwをべき乗表現により量子化し、また並び替えを行った場合、重みベクトルwに対応する入力ベクトルxの並び替えも併せて行う必要がある。
本実施形態に係るアドレステーブルWTは、値の小さい順番に並び替えられた複数の重みベクトルwと対応する入力ベクトルxのアドレス情報、符号情報、および乗算指示情報を保持する。なお、上記のアドレス情報は、図8に示すように、Null Pointerを含んでもよい。この場合、アキュムレータ230には0が加算されることとなり、アキュムレータ230の値を単純にα倍することが可能となる。また、上記の符号情報は、上述した数式(5)におけるSjに対応する値を示す情報である。
本実施形態に係るRAM210は、アドレステーブルWTから入力されたアドレス情報に基づいて重みベクトルwに対応する入力ベクトルxを加算回路220に出力する。
本実施形態に係る加算回路220は、RAM210から入力される入力ベクトルxと第1の乗算回路240から出力される値に基づいて加算を実行する。この際、本実施形態に係る加算回路220は、アドレステーブルWTが保持する符号情報に基づいて上記の加算を行う。
本実施形態に係るアキュムレータ230は、加算回路220から出力される演算結果を累積する。アキュムレータ230は、累積した値を第1の乗算回路240および第2の乗算回路250に出力する。また、アキュムレータ230には、累積した値を0にリセットするためのリセット信号が適宜入力される。
本実施形態に係る第1の乗算回路240は、アキュムレータ230が累積する値に対し、αを乗算する。この際、第1の乗算回路240は、上述したように、アドレステーブルWTが保持する乗算指示情報に基づいて上記の乗算を実行する。第1の乗算回路240は、演算結果を加算回路220に出力する。
本実施形態に係る第2の乗算回路250は、アキュムレータ230から出力される値に対し、正規化定数Kを乗算する。
次に、本実施形態に係る学習時における重みベクトルwiの量子化について説明する。本実施形態に係る情報処理方法において、学習時における重みベクトルwiの更新については、下記の数式(6)により計算することが可能である。
次に、本実施形態に係る重みベクトルの量子化により奏される効果について詳細に説明する。上述したように、本実施形態に係る情報処理方法では、べき乗表現により量子化したwiを値の小さい順番に並び替え正規化を行うことでwjと定義する。この際、並び替えられた基底ベクトルをqjとすると、重みベクトルwは、下記の数式(7)により表される。
次に、本開示の一実施形態に係る情報処理装置10のハードウェア構成例について説明する。図16は、本開示の一実施形態に係る情報処理装置10のハードウェア構成例を示すブロック図である。図16を参照すると、情報処理装置10は、例えば、CPU871と、ROM872と、RAM873と、ホストバス874と、ブリッジ875と、外部バス876と、インターフェース877と、入力装置878と、出力装置879と、ストレージ880と、ドライブ881と、接続ポート882と、通信装置883と、を有する。なお、ここで示すハードウェア構成は一例であり、構成要素の一部が省略されてもよい。また、ここで示される構成要素以外の構成要素をさらに含んでもよい。
CPU871は、例えば、演算処理装置又は制御装置として機能し、ROM872、RAM873、ストレージ880、又はリムーバブル記録媒体901に記録された各種プログラムに基づいて各構成要素の動作全般又はその一部を制御する。
ROM872は、CPU871に読み込まれるプログラムや演算に用いるデータ等を格納する手段である。RAM873には、例えば、CPU871に読み込まれるプログラムや、そのプログラムを実行する際に適宜変化する各種パラメータ等が一時的又は永続的に格納される。
CPU871、ROM872、RAM873は、例えば、高速なデータ伝送が可能なホストバス874を介して相互に接続される。一方、ホストバス874は、例えば、ブリッジ875を介して比較的データ伝送速度が低速な外部バス876に接続される。また、外部バス876は、インターフェース877を介して種々の構成要素と接続される。
入力装置878には、例えば、マウス、キーボード、タッチパネル、ボタン、スイッチ、及びレバー等が用いられる。さらに、入力装置878としては、赤外線やその他の電波を利用して制御信号を送信することが可能なリモートコントローラ(以下、リモコン)が用いられることもある。また、入力装置878には、マイクロフォンなどの音声入力装置が含まれる。
出力装置879は、例えば、CRT(Cathode Ray Tube)、LCD、又は有機EL等のディスプレイ装置、スピーカ、ヘッドホン等のオーディオ出力装置、プリンタ、携帯電話、又はファクシミリ等、取得した情報を利用者に対して視覚的又は聴覚的に通知することが可能な装置である。また、本開示に係る出力装置879は、触覚刺激を出力することが可能な種々の振動デバイスを含む。
ストレージ880は、各種のデータを格納するための装置である。ストレージ880としては、例えば、ハードディスクドライブ(HDD)等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス、又は光磁気記憶デバイス等が用いられる。
ドライブ881は、例えば、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリ等のリムーバブル記録媒体901に記録された情報を読み出し、又はリムーバブル記録媒体901に情報を書き込む装置である。
リムーバブル記録媒体901は、例えば、DVDメディア、Blu−ray(登録商標)メディア、HD DVDメディア、各種の半導体記憶メディア等である。もちろん、リムーバブル記録媒体901は、例えば、非接触型ICチップを搭載したICカード、又は電子機器等であってもよい。
接続ポート882は、例えば、USB(Universal Serial Bus)ポート、IEEE1394ポート、SCSI(Small Computer System Interface)、RS−232Cポート、又は光オーディオ端子等のような外部接続機器902を接続するためのポートである。
外部接続機器902は、例えば、プリンタ、携帯音楽プレーヤ、デジタルカメラ、デジタルビデオカメラ、又はICレコーダ等である。
通信装置883は、ネットワークに接続するための通信デバイスであり、例えば、有線又は無線LAN、Bluetooth(登録商標)、又はWUSB(Wireless USB)用の通信カード、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ、又は各種通信用のモデム等である。
以上説明したように、本実施形態に係る情報処理装置は、N次元超球表面におけるベクトル方向の粒度に基づいて量子化された重みベクトルを用いて、当該重みベクトルと対応する入力ベクトルとの内積演算を行うことを特徴の一つとする。係る構成によれば、内積演算に係る処理負担をより軽減すると共に、重み係数の量子化粒度を保証することが可能となる。
(1)
複数の入力値と前記入力値にそれぞれ対応する複数の重み係数とに基づく内積演算を行い出力値を算出する演算部、
を備え、
前記演算部は、N次元超球表面におけるベクトル方向の粒度に基づいて量子化された前記重み係数に基づいて前記出力値を算出する、
情報処理装置。
(2)
前記演算部は、べき乗により表現された前記重み係数に基づいて前記出力値を算出する、
前記(1)に記載の情報処理装置。
(3)
前記重み係数の底は、前記演算部による内積演算において、0より大きく1未満の値に定まる、
前記(2)に記載の情報処理装置。
(4)
前記内積演算における乗算回数は、前記重み係数の底の値に基づいて定まる、
前記(2)または(3)に記載の情報処理装置。
(5)
前記演算部は、値の小さい順番に並び替えられた複数の前記重み係数に基づいて内積演算を行う、
前記(1)〜(4)のいずれかに記載の情報処理装置。
(6)
前記演算部は、最も値の大きい前記重み係数で正規化された複数の前記重み係数に基づいて内積演算を行う、
前記(5)に記載の情報処理装置。
(7)
前記演算部は、値の小さい順番に並び替えられた複数の前記重み係数と対応する前記入力値のアドレス情報を保持するテーブルに基づいて前記入力値を取得し内積演算を行う、
前記(5)または(6)に記載の情報処理装置。
(8)
前記アドレス情報は、アドレス間の相対位置を示すオフセットを含む、
前記(7)に記載の情報処理装置。
(9)
前記テーブルは、前記アドレス情報と対応付いた乗算指示情報をさらに保持する、
前記(7)または(8)に記載の情報処理装置。
(10)
前記乗算指示情報は、少なくとも乗算の要否を指定する情報を含む、
前記(9)に記載の情報処理装置。
(11)
前記テーブルは、前記アドレス情報と対応付いた符号情報をさらに保持する、
前記(7)〜(10)のいずれかに記載の情報処理装置。
(12)
前記演算部は、ニューラルネットワークの順伝播に係る内積演算を行う、
前記(1)〜(11)のいずれかに記載の情報処理装置。
(13)
複数の入力値と前記入力値にそれぞれ対応する複数の重み係数とに基づく積和演算を実行する積和演算回路を備え、
前記積和演算回路は、値の小さい順番に並び替えられた複数の前記重み係数と対応する前記入力値のアドレス情報を保持する記憶回路と、
前記アドレス情報により取得される前記入力値と前記重み係数に基づく演算を実行する乗算回路と、
を備える、
情報処理装置。
(14)
プロセッサが、複数の入力値と前記入力値にそれぞれ対応する複数の重み係数とに基づく積和演算を行い出力値を算出すること、
を含み、
前記算出することは、N次元超球表面におけるベクトル方向の粒度に基づいて量子化された前記重み係数に基づいて前記出力値を算出すること、
をさらに含む、
情報処理方法。
110入力部
120演算部
130記憶部
140出力部
200 積和演算回路
210 RAM
220 加算回路
230 アキュムレータ
240 第1の乗算回路
250 第2の乗算回路
WT アドレステーブル
Claims (14)
- 複数の入力値と前記入力値にそれぞれ対応する複数の重み係数とに基づく内積演算を行い出力値を算出する演算部、
を備え、
前記演算部は、N次元超球表面におけるベクトル方向の粒度に基づいて量子化された前記重み係数に基づいて前記出力値を算出する、
情報処理装置。 - 前記演算部は、べき乗により表現された前記重み係数に基づいて前記出力値を算出する、
請求項1に記載の情報処理装置。 - 前記重み係数の底は、前記演算部による内積演算において、0より大きく1未満の値に定まる、
請求項2に記載の情報処理装置。 - 前記内積演算における乗算回数は、前記重み係数の底の値に基づいて定まる、
請求項2に記載の情報処理装置。 - 前記演算部は、値の小さい順番に並び替えられた複数の前記重み係数に基づいて内積演算を行う、
請求項1に記載の情報処理装置。 - 前記演算部は、最も値の大きい前記重み係数で正規化された複数の前記重み係数に基づいて内積演算を行う、
請求項5に記載の情報処理装置。 - 前記演算部は、値の小さい順番に並び替えられた複数の前記重み係数と対応する前記入力値のアドレス情報を保持するテーブルに基づいて前記入力値を取得し内積演算を行う、
請求項5に記載の情報処理装置。 - 前記アドレス情報は、アドレス間の相対位置を示すオフセットを含む、
請求項7に記載の情報処理装置。 - 前記テーブルは、前記アドレス情報と対応付いた乗算指示情報をさらに保持する、
請求項7に記載の情報処理装置。 - 前記乗算指示情報は、少なくとも乗算の要否を指定する情報を含む、
請求項9に記載の情報処理装置。 - 前記テーブルは、前記アドレス情報と対応付いた符号情報をさらに保持する、
請求項7に記載の情報処理装置。 - 前記演算部は、ニューラルネットワークの順伝播に係る内積演算を行う、
請求項1に記載の情報処理装置。 - 複数の入力値と前記入力値にそれぞれ対応する複数の重み係数とに基づく積和演算を実行する積和演算回路を備え、
前記積和演算回路は、値の小さい順番に並び替えられた複数の前記重み係数と対応する前記入力値のアドレス情報を保持する記憶回路と、
前記アドレス情報により取得される前記入力値と前記重み係数に基づく演算を実行する乗算回路と、
を備える、
情報処理装置。 - プロセッサが、複数の入力値と前記入力値にそれぞれ対応する複数の重み係数とに基づく積和演算を行い出力値を算出すること、
を含み、
前記算出することは、N次元超球表面におけるベクトル方向の粒度に基づいて量子化された前記重み係数に基づいて前記出力値を算出すること、
をさらに含む、
情報処理方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017089144 | 2017-04-28 | ||
JP2017089144 | 2017-04-28 | ||
PCT/JP2018/002404 WO2018198454A1 (ja) | 2017-04-28 | 2018-01-26 | 情報処理装置、および情報処理方法 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019156062A Division JP6690765B2 (ja) | 2017-04-28 | 2019-08-28 | 情報処理装置、および情報処理方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JPWO2018198454A1 true JPWO2018198454A1 (ja) | 2019-06-27 |
Family
ID=63919552
Family Applications (3)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019505277A Pending JPWO2018198454A1 (ja) | 2017-04-28 | 2018-01-26 | 情報処理装置、および情報処理方法 |
JP2019156062A Active JP6690765B2 (ja) | 2017-04-28 | 2019-08-28 | 情報処理装置、および情報処理方法 |
JP2020021018A Active JP6958652B2 (ja) | 2017-04-28 | 2020-02-10 | 情報処理装置、および情報処理方法 |
Family Applications After (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019156062A Active JP6690765B2 (ja) | 2017-04-28 | 2019-08-28 | 情報処理装置、および情報処理方法 |
JP2020021018A Active JP6958652B2 (ja) | 2017-04-28 | 2020-02-10 | 情報処理装置、および情報処理方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US11030524B2 (ja) |
EP (1) | EP3617904A4 (ja) |
JP (3) | JPWO2018198454A1 (ja) |
CN (1) | CN110574024A (ja) |
WO (1) | WO2018198454A1 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019080232A (ja) * | 2017-10-26 | 2019-05-23 | 株式会社Preferred Networks | 勾配圧縮装置、勾配圧縮方法及びプログラム |
US11138505B2 (en) * | 2017-12-21 | 2021-10-05 | Fujitsu Limited | Quantization of neural network parameters |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006180093A (ja) * | 2004-12-21 | 2006-07-06 | Nec Electronics Corp | キャンセラ装置及びデータ伝送システム |
Family Cites Families (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5651090A (en) * | 1994-05-06 | 1997-07-22 | Nippon Telegraph And Telephone Corporation | Coding method and coder for coding input signals of plural channels using vector quantization, and decoding method and decoder therefor |
JP3357829B2 (ja) * | 1997-12-24 | 2002-12-16 | 株式会社東芝 | 音声符号化/復号化方法 |
US6665646B1 (en) * | 1998-12-11 | 2003-12-16 | At&T Corp. | Predictive balanced multiple description coder for data compression |
US6356213B1 (en) * | 2000-05-31 | 2002-03-12 | Lucent Technologies Inc. | System and method for prediction-based lossless encoding |
US7120587B2 (en) * | 2000-11-03 | 2006-10-10 | Koninklijke Philips Electronics N.V. | Sinusoidal model based coding of audio signals |
US20030220889A1 (en) * | 2002-05-21 | 2003-11-27 | Bingxue Shi | Analog accumulator for neural networks |
CN1989548B (zh) * | 2004-07-20 | 2010-12-08 | 松下电器产业株式会社 | 语音解码装置及补偿帧生成方法 |
US8332216B2 (en) * | 2006-01-12 | 2012-12-11 | Stmicroelectronics Asia Pacific Pte., Ltd. | System and method for low power stereo perceptual audio coding using adaptive masking threshold |
US8392176B2 (en) * | 2006-04-10 | 2013-03-05 | Qualcomm Incorporated | Processing of excitation in audio coding and decoding |
CN101589623B (zh) * | 2006-12-12 | 2013-03-13 | 弗劳恩霍夫应用研究促进协会 | 对表示时域数据流的数据段进行编码和解码的编码器、解码器以及方法 |
US7958071B2 (en) * | 2007-04-19 | 2011-06-07 | Hewlett-Packard Development Company, L.P. | Computational nodes and computational-node networks that include dynamical-nanodevice connections |
US8248660B2 (en) * | 2007-12-14 | 2012-08-21 | Qualcomm Incorporated | Efficient diffusion dithering using dyadic rationals |
CN101771477B (zh) * | 2008-12-29 | 2013-06-05 | 深圳富泰宏精密工业有限公司 | 手机射频发射功率校正系统及方法 |
EP2259214B1 (en) * | 2009-06-04 | 2013-02-27 | Honda Research Institute Europe GmbH | Implementing a neural associative memory based on non-linear learning of discrete synapses |
US8990132B2 (en) * | 2010-01-19 | 2015-03-24 | James Ting-Ho Lo | Artificial neural networks based on a low-order model of biological neural networks |
WO2012093290A1 (en) * | 2011-01-05 | 2012-07-12 | Nokia Corporation | Multi-channel encoding and/or decoding |
CN103325373A (zh) * | 2012-03-23 | 2013-09-25 | 杜比实验室特许公司 | 用于传送和接收音频信号的方法和设备 |
-
2018
- 2018-01-26 US US16/479,044 patent/US11030524B2/en active Active
- 2018-01-26 JP JP2019505277A patent/JPWO2018198454A1/ja active Pending
- 2018-01-26 WO PCT/JP2018/002404 patent/WO2018198454A1/ja active Application Filing
- 2018-01-26 CN CN201880026324.9A patent/CN110574024A/zh active Pending
- 2018-01-26 EP EP18792207.5A patent/EP3617904A4/en not_active Withdrawn
-
2019
- 2019-08-28 JP JP2019156062A patent/JP6690765B2/ja active Active
-
2020
- 2020-02-10 JP JP2020021018A patent/JP6958652B2/ja active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006180093A (ja) * | 2004-12-21 | 2006-07-06 | Nec Electronics Corp | キャンセラ装置及びデータ伝送システム |
Non-Patent Citations (1)
Title |
---|
MACHADO, EMERSON ET AL.: "FPGA Implementation of a Feedforward Neural Network-Based Classifier Using the xQuant Technique", PROCEEDINGS OF 2017 IEEE 8TH LATIN AMERICAN SYMPOSIUM ON CIRCUITS AND SYSTEMS, JPN6018013104, 20 February 2017 (2017-02-20), pages 1 - 4, XP033106363, ISSN: 0003986165, DOI: 10.1109/LASCAS.2017.7948082 * |
Also Published As
Publication number | Publication date |
---|---|
JP2020004433A (ja) | 2020-01-09 |
EP3617904A1 (en) | 2020-03-04 |
JP2020074240A (ja) | 2020-05-14 |
JP6690765B2 (ja) | 2020-04-28 |
EP3617904A4 (en) | 2020-04-29 |
JP6958652B2 (ja) | 2021-11-02 |
CN110574024A (zh) | 2019-12-13 |
US11030524B2 (en) | 2021-06-08 |
WO2018198454A1 (ja) | 2018-11-01 |
US20200387781A1 (en) | 2020-12-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6504331B1 (ja) | 情報処理装置、および情報処理方法 | |
CN110363279B (zh) | 基于卷积神经网络模型的图像处理方法和装置 | |
WO2019141193A1 (zh) | 对视频帧数据进行处理的方法和装置 | |
JP6958652B2 (ja) | 情報処理装置、および情報処理方法 | |
JP7287388B2 (ja) | 情報処理装置および情報処理方法 | |
US10262680B2 (en) | Variable sound decomposition masks | |
US20220334802A1 (en) | Information processing apparatus, information processing system, and information processing method | |
WO2021057926A1 (zh) | 一种神经网络模型训练方法及装置 | |
US20240061646A1 (en) | Information processing apparatus, information processing method, and information processing program | |
WO2023248305A1 (ja) | 情報処理装置、情報処理方法、及びコンピュータ読み取り可能な記録媒体 | |
CN116188875B (zh) | 图像分类方法、装置、电子设备、介质和产品 | |
US20230128220A1 (en) | Information processing apparatus, information processing terminal, method, program, and model | |
US20230409868A1 (en) | Neural Network Activation Scaled Clipping Layer | |
JP2023031367A (ja) | 閾値決定プログラム及び閾値決定方法 | |
CN114861901A (zh) | 神经网络模型的运行方法、可读介质和电子设备 | |
CN116976403A (zh) | 一种网络训练方法、装置、计算机设备和存储介质 | |
JP2024029434A (ja) | 情報処理装置、情報処理方法及び記録媒体 | |
JP2024026993A (ja) | 情報処理装置、情報処理方法 | |
CN117688287A (zh) | 基于自注意力的数据处理方法、装置、介质及终端 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190130 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190130 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20190130 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20190215 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190305 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190329 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190416 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20190515 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190516 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20190522 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20190528 |