JP2018077842A - 畳み込み神経網処理方法及び装置 - Google Patents
畳み込み神経網処理方法及び装置 Download PDFInfo
- Publication number
- JP2018077842A JP2018077842A JP2017210622A JP2017210622A JP2018077842A JP 2018077842 A JP2018077842 A JP 2018077842A JP 2017210622 A JP2017210622 A JP 2017210622A JP 2017210622 A JP2017210622 A JP 2017210622A JP 2018077842 A JP2018077842 A JP 2018077842A
- Authority
- JP
- Japan
- Prior art keywords
- kernel
- input
- neural network
- convolutional neural
- network processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/94—Hardware or software architectures specially adapted for image or video understanding
- G06V10/95—Hardware or software architectures specially adapted for image or video understanding structured as a network, e.g. client-server architectures
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- Mathematical Physics (AREA)
- Neurology (AREA)
- Multimedia (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Image Analysis (AREA)
- Complex Calculations (AREA)
Abstract
【解決手段】 一実施形態に係る畳み込み神経網処理装置は、畳み込みレイヤのカーネルの特性及び畳み込みレイヤの入力の特性のうち少なくとも1つに基づいて、カーネルを再使用する第1演算モード及び入力を再使用する第2演算モードのいずれか1つの演算モードを選択し、選択された演算モードに応じて畳み込み演算を行う。
【選択図】 図1
Description
Claims (29)
- 畳み込みレイヤのカーネルの特性及び前記畳み込みレイヤの入力の特性のうち少なくとも1つに基づいて、前記カーネルを再使用する第1演算モード及び前記入力を再使用する第2演算モードのいずれか1つの演算モードを選択するステップと、
前記選択された演算モードに応じて畳み込み演算を行うステップと、
を含む畳み込み神経網処理方法。 - 畳み込み神経網は、前記畳み込みレイヤを含み、
前記畳み込みレイヤのカーネルの特性及び前記畳み込みレイヤの入力の特性に基づいて、前記畳み込みレイヤごとに前記第1演算モード及び前記第2演算モードのいずれか1つを適応的に選択するステップをさらに含む、請求項1に記載の畳み込み神経網処理方法。 - 前記カーネルの特性は、前記カーネルに含まれたカーネル要素のうち0が占めている比率及び前記カーネルの大きさのうち少なくとも1つを含み、
前記入力の特性は、前記入力に含まれた入力要素のうち0が占めている比率及び前記入力の大きさのうち少なくとも1つを含む、請求項1又は2に記載の畳み込み神経網処理方法。 - 前記いずれか1つの演算モードを選択するステップは、
前記入力に含まれた入力要素のうち0が占めている比率を取得するステップと、
前記取得された比率及び前記カーネルに含まれたカーネル要素のうち0が占めている比率のうち大きい値に対応する演算モードを選択するステップと、
を含む、請求項1又は2に記載の畳み込み神経網処理方法。 - 前記いずれか1つの演算モードを選択するステップは、前記入力の大きさ及び前記カーネルの大きさの比率に基づいて演算モードを選択するステップを含む、請求項1又は2に記載の畳み込み神経網処理方法。
- 前記カーネルの特性及び前記入力の特性は畳み込み神経網内の前記畳み込みレイヤの深さに応じて決定され、
前記いずれか1つの演算モードを選択するステップは、前記カーネルの特性及び前記入力の特性のうち少なくとも1つに基づいて、データロードの回数及び動作メモリの容量のうち少なくとも1つに関する制限条件を満足する演算モードを選択するステップを含む、請求項1又は2に記載の畳み込み神経網処理方法。 - 前記いずれか1つの演算モードを選択するステップは、前記第1演算モードの第1データロードの回数及び前記第2演算モードの第2データロードの回数のうち小さい値に対応する演算モードを選択するステップを含む、請求項1又は2に記載の畳み込み神経網処理方法。
- 前記演算モードを選択するステップは、前記第1データロードの回数を取得するステップを含み、
前記第1データロードの回数は、前記カーネルの大きさから算出された前記カーネルのロードの回数と、前記カーネルに含まれたカーネル要素のうち0の個数と前記入力の大きさに基づいて算出された前記入力のロードの回数の合計によって算出される、請求項7に記載の畳み込み神経網処理方法。 - 前記演算モードを選択するステップは、
前記入力に含まれた入力要素のうち0の個数を取得するステップと、
前記入力の大きさから算出された前記入力のロードの回数と、前記入力要素のうち0の個数と前記カーネルの大きさに基づいて算出された前記カーネルのロードの回数の合計により前記第2データロードの回数を算出するステップと、
を含む、請求項7に記載の畳み込み神経網処理方法。 - 前記畳み込み演算を行うステップは、前記第1演算モードが選択される場合、前記入力に含まれた入力要素のうち、前記カーネルに含まれたカーネル要素に対応する入力要素を特定する第1情報、及び前記畳み込み演算の出力に含まれた出力要素のうち前記カーネル要素と前記特定された入力要素との間の演算結果がマッピングされる出力要素を特定する第2情報に基づいて畳み込み演算を行うステップを含む、請求項1又は2に記載の畳み込み神経網処理方法。
- 前記畳み込み演算を行うステップは、
前記カーネル要素のいずれか1つのカーネル要素をロードするステップと、
前記第1情報に基づいて、前記ロードされたカーネル要素に対応する入力要素をロードするステップと、
前記第2情報に基づいて、前記ロードされたカーネル要素及び前記ロードされた入力要素の間の演算結果がマッピングされる出力要素を更新するステップと、
を含む、請求項10に記載の畳み込み神経網処理方法。 - 前記第1情報は、前記カーネル要素の位置、前記カーネルの大きさ、及びストライド、前記入力の大きさ、及びパッドに基づいて決定され、
前記第2情報は、前記カーネル要素の位置及び前記特定された入力要素の位置に基づいて決定される、請求項10に記載の畳み込み神経網処理方法。 - 前記畳み込み演算を行うステップは、前記第1演算モードが選択される場合、前記カーネル要素のいずれか1つのカーネル要素をロードするステップと、
前記ロードされたカーネル要素が0である場合、前記ロードされたカーネル要素に対応する入力要素のロード又は前記ロードされたカーネル要素に関する演算をスキップするステップと、
を含む、請求項1又は2に記載の畳み込み神経網処理方法。 - 前記畳み込み演算を行うステップは、前記第1演算モードが選択される場合、前記カーネルに含まれたカーネル要素に対応する臨時バッファを割り当てるステップと、
前記カーネルに含まれたカーネル要素のいずれか1つのカーネル要素をロードするステップと、
前記ロードされたカーネル要素及び前記ロードされたカーネル要素に対応する臨時バッファに基づいて畳み込み演算を行うステップと、
を含む、請求項1又は2に記載の畳み込み神経網処理方法。 - 前記畳み込み演算を行うステップは、
前記カーネル要素のうち前記ロードされたカーネル要素と異なる他のカーネル要素をロードするステップと、
前記他のカーネル要素が0と異なる場合、前記他のカーネル要素及び前記他のカーネル要素に対応する臨時バッファに格納された入力要素の間の演算結果に基づいて畳み込み演算を行うステップと、
をさらに含む、請求項14に記載の畳み込み神経網処理方法。 - 前記畳み込み演算を行うステップは、前記第1演算モードが選択される場合、前記カーネルに含まれたカーネル要素のいずれか1つのカーネル要素をロードするステップと、
前記ロードされたカーネル要素が0である場合、臨時バッファの割当をスキップするステップと、
前記ロードされたカーネル要素が0と異なる場合、前記ロードされたカーネル要素の位置、前記カーネルの大きさ及びストライド、前記入力の大きさ及びパッドに基づいて臨時バッファを割り当てるステップと、
前記ロードされたカーネル要素に対応する入力要素をロードし、前記割り当てられた臨時バッファに格納するステップと、
前記ロードされたカーネル要素及び前記臨時バッファに格納された入力要素の間の演算結果に基づいて畳み込み演算を行うステップと、
を含む、請求項1又は2に記載の畳み込み神経網処理方法。 - 前記畳み込み演算を行うステップは、前記第2演算モードが選択される場合、前記カーネルに含まれたカーネル要素のうち、前記入力に含まれた入力要素に対応するカーネル要素を特定する第1情報、及び前記畳み込み演算の出力に含まれた出力要素のうち前記入力要素と前記特定されたカーネル要素との間の演算結果がマッピングされる出力要素を特定する第2情報に基づいて畳み込み演算を行うステップを含む、請求項1又は2に記載の畳み込み神経網処理方法。
- 前記畳み込み演算を行うステップは、
前記入力要素のいずれか1つの入力要素をロードするステップと、
前記第1情報に基づいて前記ロードされた入力要素に対応するカーネル要素をロードするステップと、
前記第2情報に基づいて前記ロードされた入力要素及び前記ロードされたカーネル要素の間の演算結果がマッピングされる出力要素を更新するステップと、
を含む、請求項17に記載の畳み込み神経網処理方法。 - 前記第1情報は、前記入力要素の位置、前記カーネルの大きさ、及びストライド、前記入力の大きさ、及びパッドに基づいて決定され、
前記第2情報は、前記入力要素の位置及び前記特定されたカーネル要素の位置に基づいて決定される、請求項17に記載の畳み込み神経網処理方法。 - 前記畳み込み演算を行うステップは、前記第2演算モードが選択される場合、前記入力要素のいずれか1つの入力要素をロードするステップと、
前記ロードされた入力要素が0である場合、前記ロードされた入力要素に対応するカーネル要素のロード又は前記ロードされた入力要素に関する演算をスキップするステップと、
を含む、請求項1又は2に記載の畳み込み神経網処理方法。 - 請求項1〜請求項20のいずれか一項に記載の神経網処理方法を神経網処理装置のコンピュータに実行させるコンピュータプログラム。
- 畳み込みレイヤのカーネルの特性及び前記畳み込みレイヤの入力の特性のうち少なくとも1つに基づいて、前記カーネルを再使用する第1演算モード及び前記入力を再使用する第2演算モードのいずれか1つの演算モードを選択し、
前記選択された演算モードに応じて畳み込み演算を行うプロセッサを含む、畳み込み神経網処理装置。 - 畳み込み神経網は、前記畳み込みレイヤを含み、
前記プロセッサは、前記畳み込みレイヤのカーネルの特性及び前記畳み込みレイヤの入力の特性に基づいて、前記畳み込みレイヤごとに前記第1演算モード及び前記第2演算モードのいずれか1つを適応的に選択する、請求項22に記載の畳み込み神経網処理装置。 - 前記カーネルの特性は、前記カーネルに含まれたカーネル要素のうち0が占めている比率及び前記カーネルの大きさのうち少なくとも1つを含み、
前記入力の特性は、前記入力に含まれた入力要素のうち0が占めている比率及び前記入力の大きさのうち少なくとも1つを含み、
前記カーネルの特性及び前記入力の特性は、畳み込み神経網内の前記畳み込みレイヤの深さに応じて決定され、
前記プロセッサは、前記カーネルの特性及び前記入力の特性のうち少なくとも1つに基づいて、データロードの回数及び動作メモリの容量のうち少なくとも1つに関する制限条件を満足する演算モードを選択する、請求項22又は23に記載の畳み込み神経網処理装置。 - 前記第1演算モードの第1データロードの回数を記録するメモリをさらに含み、
前記第1データロードの回数は、前記カーネルの大きさから算出された前記カーネルのロードの回数と、前記カーネルに含まれたカーネル要素のうち0の個数と前記入力の大きさに基づいて算出された前記入力のロードの回数の合計によって算出され、
前記プロセッサは、
前記第1データロードの回数を取得し、
前記入力に含まれた入力要素のうち0の個数を取得し、
前記入力の大きさから算出された前記入力のロードの回数と、前記入力要素のうち0の個数と前記カーネルの大きさに基づいて算出された前記カーネルのロードの回数の合計により前記第2データロードの回数を算出し、
前記第1演算モードの第1データロードの回数及び前記第2演算モードの第2データロードの回数のうち小さい値に対応する演算モードを選択する、請求項24に記載の畳み込み神経網処理装置。 - 前記プロセッサは、前記第1演算モードが選択される場合、前記入力に含まれた入力要素のうち、前記カーネルに含まれたカーネル要素に対応する入力要素を特定する第1情報及び前記畳み込み演算の出力に含まれた出力要素のうち、前記カーネル要素と前記特定された入力要素との間の演算結果がマッピングされる出力要素を特定する第2情報に基づいて畳み込み演算を行う、請求項22又は23に記載の畳み込み神経網処理装置。
- 前記プロセッサは、前記第1演算モードが選択される場合、前記カーネル要素のいずれか1つのカーネル要素をロードし、
前記ロードされたカーネル要素が0である場合、前記ロードされたカーネル要素に対応する入力要素のロード又は前記ロードされたカーネル要素に関する演算をスキップする、請求項22又は23に記載の畳み込み神経網処理装置。 - 前記プロセッサは、前記第2演算モードが選択される場合、前記カーネルに含まれたカーネル要素のうち、前記入力に含まれた入力要素に対応するカーネル要素を特定する第1情報及び前記畳み込み演算の出力に含まれた出力要素のうち、前記入力要素と前記特定されたカーネル要素との間の演算結果がマッピングされる出力要素を特定する第2情報に基づいて畳み込み演算を行う、請求項22又は23に記載の畳み込み神経網処理装置。
- 前記プロセッサは、前記第2演算モードが選択される場合、前記入力要素のいずれか1つの入力要素をロードし、前記ロードされた入力要素が0である場合、前記ロードされた入力要素に対応するカーネル要素のロード又は前記ロードされた入力要素に関する演算をスキップする、請求項22又は23に記載の畳み込み神経網処理装置。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020160147562A KR102631381B1 (ko) | 2016-11-07 | 2016-11-07 | 컨볼루션 신경망 처리 방법 및 장치 |
KR10-2016-0147562 | 2016-11-07 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018077842A true JP2018077842A (ja) | 2018-05-17 |
JP7021904B2 JP7021904B2 (ja) | 2022-02-17 |
Family
ID=60182358
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017210622A Active JP7021904B2 (ja) | 2016-11-07 | 2017-10-31 | 畳み込み神経網処理方法及び装置 |
Country Status (5)
Country | Link |
---|---|
US (2) | US10755126B2 (ja) |
EP (1) | EP3319015B1 (ja) |
JP (1) | JP7021904B2 (ja) |
KR (1) | KR102631381B1 (ja) |
CN (1) | CN108073981B (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021034039A (ja) * | 2019-08-13 | 2021-03-01 | 三星電子株式会社Samsung Electronics Co.,Ltd. | ニューラルネットワーク方法及び装置 |
JP7431263B2 (ja) | 2021-02-05 | 2024-02-14 | 三星電子株式会社 | ニューラルネットワーク演算方法及び装置 |
JP7437135B2 (ja) | 2018-12-31 | 2024-02-22 | エスケーハイニックス株式会社 | プロセッシングシステム |
Families Citing this family (91)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190167139A1 (en) | 2017-12-05 | 2019-06-06 | Gust H. Bardy | Subcutaneous P-Wave Centric Insertable Cardiac Monitor For Long Term Electrocardiographic Monitoring |
US10433751B2 (en) | 2013-09-25 | 2019-10-08 | Bardy Diagnostics, Inc. | System and method for facilitating a cardiac rhythm disorder diagnosis based on subcutaneous cardiac monitoring data |
US10736531B2 (en) | 2013-09-25 | 2020-08-11 | Bardy Diagnostics, Inc. | Subcutaneous insertable cardiac monitor optimized for long term, low amplitude electrocardiographic data collection |
US10463269B2 (en) | 2013-09-25 | 2019-11-05 | Bardy Diagnostics, Inc. | System and method for machine-learning-based atrial fibrillation detection |
US10799137B2 (en) | 2013-09-25 | 2020-10-13 | Bardy Diagnostics, Inc. | System and method for facilitating a cardiac rhythm disorder diagnosis with the aid of a digital computer |
US10806360B2 (en) | 2013-09-25 | 2020-10-20 | Bardy Diagnostics, Inc. | Extended wear ambulatory electrocardiography and physiological sensor monitor |
US10624551B2 (en) | 2013-09-25 | 2020-04-21 | Bardy Diagnostics, Inc. | Insertable cardiac monitor for use in performing long term electrocardiographic monitoring |
US10433748B2 (en) | 2013-09-25 | 2019-10-08 | Bardy Diagnostics, Inc. | Extended wear electrocardiography and physiological sensor monitor |
US10820801B2 (en) | 2013-09-25 | 2020-11-03 | Bardy Diagnostics, Inc. | Electrocardiography monitor configured for self-optimizing ECG data compression |
GB2539845B (en) | 2015-02-19 | 2017-07-12 | Magic Pony Tech Ltd | Offline training of hierarchical algorithms |
GB201604672D0 (en) | 2016-03-18 | 2016-05-04 | Magic Pony Technology Ltd | Generative methods of super resolution |
GB201603144D0 (en) | 2016-02-23 | 2016-04-06 | Magic Pony Technology Ltd | Training end-to-end video processes |
WO2017178808A1 (en) | 2016-04-12 | 2017-10-19 | Magic Pony Technology Limited | Visual data processing using energy networks |
US10387740B2 (en) * | 2016-10-10 | 2019-08-20 | Gyrfalcon Technology Inc. | Object detection and recognition apparatus based on CNN based integrated circuits |
US10366302B2 (en) * | 2016-10-10 | 2019-07-30 | Gyrfalcon Technology Inc. | Hierarchical category classification scheme using multiple sets of fully-connected networks with a CNN based integrated circuit as feature extractor |
JP2018093325A (ja) * | 2016-12-01 | 2018-06-14 | ソニーセミコンダクタソリューションズ株式会社 | 情報処理装置、情報処理方法、及びプログラム |
US10261903B2 (en) | 2017-04-17 | 2019-04-16 | Intel Corporation | Extend GPU/CPU coherency to multi-GPU cores |
WO2018194603A1 (en) * | 2017-04-20 | 2018-10-25 | Hewlett-Packard Development Company, L.P. | Document security |
CN107124609A (zh) * | 2017-04-27 | 2017-09-01 | 京东方科技集团股份有限公司 | 一种视频图像的处理系统、其处理方法及显示装置 |
WO2018224437A1 (en) * | 2017-06-05 | 2018-12-13 | Siemens Aktiengesellschaft | Method and apparatus for analysing an image |
US11308361B1 (en) | 2017-07-07 | 2022-04-19 | Twitter, Inc. | Checkerboard artifact free sub-pixel convolution |
CN110832845B (zh) * | 2017-07-14 | 2022-07-05 | 株式会社半导体能源研究所 | 摄像装置及电子设备 |
US10691975B2 (en) * | 2017-07-19 | 2020-06-23 | XNOR.ai, Inc. | Lookup-based convolutional neural network |
US10083375B1 (en) * | 2017-10-13 | 2018-09-25 | StradVision, Inc. | Method and device for performing activation and convolution operation at the same time and learning method and learning device for the same |
US10049323B1 (en) * | 2017-10-13 | 2018-08-14 | StradVision, Inc. | Method and device for performing activation and convolution operation at the same time and learning method and learning device for the same |
CN107895174B (zh) * | 2017-11-09 | 2020-01-07 | 京东方科技集团股份有限公司 | 图像分类和转换方法、装置以及图像处理系统 |
US11637331B2 (en) * | 2017-11-20 | 2023-04-25 | The Trustees Of Columbia University In The City Of New York | Neural-network state-of-charge and state of health estimation |
US10552664B2 (en) * | 2017-11-24 | 2020-02-04 | International Business Machines Corporation | Image feature classification and localization using discriminative representations for robotic surgical control |
EP3499415A1 (en) * | 2017-12-14 | 2019-06-19 | Axis AB | Method and image processing entity for applying a convolutional neural network to an image |
DE102018200534A1 (de) * | 2018-01-15 | 2019-07-18 | Robert Bosch Gmbh | Verfahren zum Betreiben eines künstlichen neuronalen Netzes |
US10140553B1 (en) * | 2018-03-08 | 2018-11-27 | Capital One Services, Llc | Machine learning artificial intelligence system for identifying vehicles |
WO2019190449A1 (en) * | 2018-03-26 | 2019-10-03 | Hewlett-Packard Development Company, L.P. | Generation of kernels based on physical states |
CN108875904A (zh) * | 2018-04-04 | 2018-11-23 | 北京迈格威科技有限公司 | 图像处理方法、图像处理装置和计算机可读存储介质 |
US11875557B2 (en) * | 2018-04-27 | 2024-01-16 | Carnegie Mellon University | Polynomial convolutional neural network with early fan-out |
US11340936B2 (en) | 2018-05-04 | 2022-05-24 | Apple Inc. | Compiling and scheduling transactions in neural network processor |
JP2019207458A (ja) * | 2018-05-28 | 2019-12-05 | ルネサスエレクトロニクス株式会社 | 半導体装置及びメモリアクセス設定方法 |
WO2020014893A1 (zh) * | 2018-07-18 | 2020-01-23 | 深圳鲲云信息科技有限公司 | 反卷积实现方法及相关产品 |
CN109325918B (zh) * | 2018-07-26 | 2022-05-13 | 京东方科技集团股份有限公司 | 一种图像处理的方法、装置及计算机存储介质 |
US11010308B2 (en) | 2018-08-10 | 2021-05-18 | Lg Electronics Inc. | Optimizing data partitioning and replacement strategy for convolutional neural networks |
KR102043376B1 (ko) * | 2018-08-16 | 2019-11-11 | 한국과학기술연구원 | 심층 신경망 알고리즘을 이용하는 실시간 스트레스 분석 방법 |
KR20200028168A (ko) | 2018-09-06 | 2020-03-16 | 삼성전자주식회사 | 컨볼루셔널 뉴럴 네트워크를 이용하는 컴퓨팅 장치 및 그 동작 방법 |
US10931853B2 (en) * | 2018-10-18 | 2021-02-23 | Sony Corporation | Enhanced color reproduction for upscaling |
US11037030B1 (en) * | 2018-10-29 | 2021-06-15 | Hrl Laboratories, Llc | System and method for direct learning from raw tomographic data |
KR20200053886A (ko) * | 2018-11-09 | 2020-05-19 | 삼성전자주식회사 | 뉴럴 프로세싱 유닛, 뉴럴 프로세싱 시스템, 및 어플리케이션 시스템 |
KR20200057814A (ko) * | 2018-11-13 | 2020-05-27 | 삼성전자주식회사 | 뉴럴 네트워크를 이용한 데이터 처리 방법 및 이를 지원하는 전자 장치 |
KR102451519B1 (ko) * | 2018-11-20 | 2022-10-07 | 삼성전자주식회사 | 룩업 테이블 기반의 비트-시리얼 처리 요소를 포함하는 심층 신경망 가속기 |
US11544522B2 (en) * | 2018-12-06 | 2023-01-03 | University Of Tennessee Research Foundation | Methods, systems, and computer readable mediums for determining a system state of a power system using a convolutional neural network |
US10810725B1 (en) | 2018-12-07 | 2020-10-20 | Facebook, Inc. | Automated detection of tampered images |
KR20200072308A (ko) | 2018-12-12 | 2020-06-22 | 삼성전자주식회사 | 뉴럴 네트워크에서 컨볼루션 연산을 수행하는 방법 및 장치 |
KR102562320B1 (ko) | 2018-12-24 | 2023-08-01 | 삼성전자주식회사 | 비트 연산 기반의 뉴럴 네트워크 처리 방법 및 장치 |
KR20200081044A (ko) | 2018-12-27 | 2020-07-07 | 삼성전자주식회사 | 뉴럴 네트워크의 컨볼루션 연산을 처리하는 방법 및 장치 |
US11048935B2 (en) | 2019-01-28 | 2021-06-29 | Adobe Inc. | Generating shift-invariant neural network outputs |
CN109993825B (zh) * | 2019-03-11 | 2023-06-20 | 北京工业大学 | 一种基于深度学习的三维重建方法 |
US11003909B2 (en) * | 2019-03-20 | 2021-05-11 | Raytheon Company | Neural network trained by homographic augmentation |
EP3948685A1 (en) * | 2019-03-26 | 2022-02-09 | Mipsology SAS | Accelerating neuron computations in artificial neural networks by skipping bits |
CN117234356A (zh) * | 2019-05-08 | 2023-12-15 | 义隆电子股份有限公司 | 用于触控装置的控制系统及方法 |
JP7242903B2 (ja) * | 2019-05-14 | 2023-03-20 | ドルビー ラボラトリーズ ライセンシング コーポレイション | 畳み込みニューラルネットワークに基づく発話源分離のための方法および装置 |
KR102266903B1 (ko) * | 2019-05-16 | 2021-06-18 | 삼성전자주식회사 | 영상 처리 장치 및 그 동작방법 |
CN111988609A (zh) * | 2019-05-22 | 2020-11-24 | 富士通株式会社 | 图像编码装置、概率模型生成装置和图像解码装置 |
US20190392296A1 (en) * | 2019-06-28 | 2019-12-26 | John Brady | Hardware agnostic deep neural network compiler |
US11696681B2 (en) | 2019-07-03 | 2023-07-11 | Bardy Diagnostics Inc. | Configurable hardware platform for physiological monitoring of a living body |
US11096579B2 (en) | 2019-07-03 | 2021-08-24 | Bardy Diagnostics, Inc. | System and method for remote ECG data streaming in real-time |
US11116451B2 (en) | 2019-07-03 | 2021-09-14 | Bardy Diagnostics, Inc. | Subcutaneous P-wave centric insertable cardiac monitor with energy harvesting capabilities |
US20210011732A1 (en) * | 2019-07-09 | 2021-01-14 | MemryX Inc. | Matrix Data Reuse Techniques in Processing Systems |
US11222092B2 (en) * | 2019-07-16 | 2022-01-11 | Facebook Technologies, Llc | Optimization for deconvolution |
WO2021022543A1 (en) * | 2019-08-08 | 2021-02-11 | Boe Technology Group Co., Ltd. | Computer-implemented method, computer-implemented diagnosis method, apparatus for classifying image, and computer-program product |
KR102147912B1 (ko) | 2019-08-13 | 2020-08-25 | 삼성전자주식회사 | 프로세서 칩 및 그 제어 방법들 |
CN110490154B (zh) * | 2019-08-23 | 2020-09-15 | 集美大学 | 一种多维泄漏信息检测方法、终端设备及存储介质 |
US11151416B2 (en) * | 2019-09-11 | 2021-10-19 | Expedera, Inc. | Method and apparatus for efficiently processing convolution neural network operations |
KR20210039197A (ko) | 2019-10-01 | 2021-04-09 | 삼성전자주식회사 | 데이터를 처리하는 방법 및 장치 |
KR102624027B1 (ko) * | 2019-10-17 | 2024-01-11 | 삼성전자주식회사 | 영상 처리 장치 및 방법 |
CN110704197B (zh) * | 2019-10-17 | 2022-12-09 | 北京小米移动软件有限公司 | 处理内存访问开销的方法、装置及介质 |
US11507702B2 (en) * | 2019-11-05 | 2022-11-22 | Apple Inc. | Secure mode switching in neural processor circuit |
US11699081B2 (en) * | 2019-12-20 | 2023-07-11 | Meta Platforms, Inc. | Systems and methods for reducing data movement during convolution operations in artificial neural networks |
KR102559036B1 (ko) * | 2019-12-24 | 2023-07-25 | 서울대학교산학협력단 | 음수값을 갖는 활성화 함수에서 제로 스키핑을 제공하는 방법 및 장치 |
KR20210083624A (ko) | 2019-12-27 | 2021-07-07 | 삼성전자주식회사 | 신경망의 데이터 입력 및 출력을 제어하는 제어 방법 및 장치 |
TWI733334B (zh) * | 2020-02-15 | 2021-07-11 | 財團法人工業技術研究院 | 卷積神經網路運算裝置及其運算的方法 |
US11301705B2 (en) | 2020-02-27 | 2022-04-12 | Western Digital Technologies, Inc. | Object detection using multiple neural network configurations |
JPWO2021191719A1 (ja) * | 2020-03-27 | 2021-09-30 | ||
KR20220007326A (ko) * | 2020-07-10 | 2022-01-18 | 삼성전자주식회사 | 전자 장치 및 그의 제어 방법 |
CN114090470B (zh) * | 2020-07-29 | 2023-02-17 | 深圳市中科元物芯科技有限公司 | 数据预加载装置及其预加载方法、存储介质和计算机设备 |
US11586442B2 (en) * | 2020-08-06 | 2023-02-21 | Nxp Usa, Inc. | System and method for convolving image with sparse kernels |
CN112200300B (zh) * | 2020-09-15 | 2024-03-01 | 星宸科技股份有限公司 | 卷积神经网络运算方法及装置 |
KR20220071618A (ko) | 2020-11-24 | 2022-05-31 | 삼성전자주식회사 | 컨벌루션 연산을 위한 데이터 공유 방법, 페처 및 컨벌루션 연산 장치 |
TWI762055B (zh) * | 2020-11-30 | 2022-04-21 | 鴻海精密工業股份有限公司 | 卷積神經網路、運算優化方法、裝置、電子設備及介質 |
KR20220090104A (ko) | 2020-12-22 | 2022-06-29 | 삼성전자주식회사 | 컨벌루션 연산을 위한 데이터 전송 방법, 페처 및 컨벌루션 연산 장치 |
TWI797985B (zh) * | 2021-02-10 | 2023-04-01 | 國立成功大學 | 卷積運算的執行方法 |
KR20230001877A (ko) * | 2021-06-29 | 2023-01-05 | 삼성전자주식회사 | 신경망을 통해 이미지를 처리하는 방법 및 그 전자 장치 |
US11789646B2 (en) * | 2021-09-24 | 2023-10-17 | Intel Corporation | Methods, apparatus, and articles of manufacture to increase data reuse for multiply and accumulate (MAC) operations |
US20230148225A1 (en) * | 2021-11-05 | 2023-05-11 | Intel Corporation | Joint denoising and supersampling of graphics data |
CN114611685A (zh) * | 2022-03-08 | 2022-06-10 | 安谋科技(中国)有限公司 | 神经网络模型中的特征处理方法、介质、设备和程序产品 |
Family Cites Families (31)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5048100A (en) * | 1988-12-15 | 1991-09-10 | Michael Kuperstein | Self organizing neural network method and system for general classification of patterns |
US5647027A (en) * | 1994-10-28 | 1997-07-08 | Lucent Technologies Inc. | Method of image enhancement using convolution kernels |
US6760486B1 (en) * | 2000-03-28 | 2004-07-06 | General Electric Company | Flash artifact suppression in two-dimensional ultrasound imaging |
US6901422B1 (en) | 2001-03-21 | 2005-05-31 | Apple Computer, Inc. | Matrix multiplication in a vector processing system |
US7016529B2 (en) | 2002-03-15 | 2006-03-21 | Microsoft Corporation | System and method facilitating pattern recognition |
FI118612B (fi) * | 2002-11-06 | 2008-01-15 | Nokia Corp | Menetelmä ja järjestelmä laskuoperaatioiden suorittamiseksi ja laite |
US20060277041A1 (en) * | 2005-06-06 | 2006-12-07 | Stig Stuns | Sparse convolution of multiple vectors in a digital signal processor |
US7634137B2 (en) | 2005-10-14 | 2009-12-15 | Microsoft Corporation | Unfolded convolution for fast feature extraction |
US8156036B1 (en) * | 2006-04-28 | 2012-04-10 | Pipeline Financial Group, Inc. | Methods and systems related to trading engines |
JP5121506B2 (ja) * | 2008-02-29 | 2013-01-16 | キヤノン株式会社 | 画像処理装置、画像処理方法、プログラム及び記憶媒体 |
JP5376920B2 (ja) | 2008-12-04 | 2013-12-25 | キヤノン株式会社 | コンボリューション演算回路、階層的コンボリューション演算回路及び物体認識装置 |
JP5777367B2 (ja) | 2011-03-29 | 2015-09-09 | キヤノン株式会社 | パターン識別装置、パターン識別方法及びプログラム |
EP2748765B1 (en) * | 2011-08-25 | 2022-12-14 | Cornell University | Retinal encoder for machine vision |
CN102592258B (zh) * | 2012-01-04 | 2014-07-09 | 复旦大学 | 一种适用于指纹图像增强的可配置Gabor滤波硬件加速单元 |
US9190053B2 (en) * | 2013-03-25 | 2015-11-17 | The Governing Council Of The Univeristy Of Toronto | System and method for applying a convolutional neural network to speech recognition |
CN104077233B (zh) * | 2014-06-18 | 2017-04-05 | 百度在线网络技术(北京)有限公司 | 多通道卷积层处理方法和装置 |
US9411726B2 (en) | 2014-09-30 | 2016-08-09 | Samsung Electronics Co., Ltd. | Low power computation architecture |
KR102276339B1 (ko) | 2014-12-09 | 2021-07-12 | 삼성전자주식회사 | Cnn의 근사화를 위한 학습 장치 및 방법 |
US10223635B2 (en) * | 2015-01-22 | 2019-03-05 | Qualcomm Incorporated | Model compression and fine-tuning |
US9786036B2 (en) * | 2015-04-28 | 2017-10-10 | Qualcomm Incorporated | Reducing image resolution in deep convolutional networks |
US11099918B2 (en) * | 2015-05-11 | 2021-08-24 | Xilinx, Inc. | Accelerating algorithms and applications on FPGAs |
US10489703B2 (en) * | 2015-05-20 | 2019-11-26 | Nec Corporation | Memory efficiency for convolutional neural networks operating on graphics processing units |
US20160358069A1 (en) * | 2015-06-03 | 2016-12-08 | Samsung Electronics Co., Ltd. | Neural network suppression |
US11423311B2 (en) * | 2015-06-04 | 2022-08-23 | Samsung Electronics Co., Ltd. | Automatic tuning of artificial neural networks |
US10460230B2 (en) * | 2015-06-04 | 2019-10-29 | Samsung Electronics Co., Ltd. | Reducing computations in a neural network |
US10871536B2 (en) * | 2015-11-29 | 2020-12-22 | Arterys Inc. | Automated cardiac volume segmentation |
RU2694021C1 (ru) * | 2015-12-14 | 2019-07-08 | Моушен Метрикс Интернешэнл Корп. | Способ и устройство идентификации частей фрагментированного материала в пределах изображения |
US10089717B2 (en) * | 2016-04-05 | 2018-10-02 | Flipboard, Inc. | Image scaling using a convolutional neural network |
EP3523751A4 (en) * | 2016-10-04 | 2020-05-06 | Magic Leap, Inc. | EFFICIENT DATA ARRANGEMENTS FOR CONVOLUTIONAL NEURAL NETWORKS |
WO2019090325A1 (en) * | 2017-11-06 | 2019-05-09 | Neuralmagic, Inc. | Methods and systems for improved transforms in convolutional neural networks |
US11534136B2 (en) * | 2018-02-26 | 2022-12-27 | Siemens Medical Solutions Usa, Inc. | Three-dimensional segmentation from two-dimensional intracardiac echocardiography imaging |
-
2016
- 2016-11-07 KR KR1020160147562A patent/KR102631381B1/ko active IP Right Grant
-
2017
- 2017-10-18 CN CN201710970971.2A patent/CN108073981B/zh active Active
- 2017-10-20 EP EP17197450.4A patent/EP3319015B1/en active Active
- 2017-10-31 JP JP2017210622A patent/JP7021904B2/ja active Active
- 2017-10-31 US US15/798,461 patent/US10755126B2/en active Active
-
2020
- 2020-08-12 US US16/991,454 patent/US11508146B2/en active Active
Non-Patent Citations (1)
Title |
---|
YU-HSIN CHEN 外2名: "Eyeriss: A Spatial Architecture for Energy-Efficient Dataflow for Convolutional Neural Networks", ACM SIGARCH COMPUTER ARCHITECTURE NEWS, vol. Volume 44, Issue 3, JPN7021003313, 18 June 2016 (2016-06-18), pages 367 - 379, XP032950673, ISSN: 0004688775, DOI: 10.1109/ISCA.2016.40 * |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7437135B2 (ja) | 2018-12-31 | 2024-02-22 | エスケーハイニックス株式会社 | プロセッシングシステム |
JP2021034039A (ja) * | 2019-08-13 | 2021-03-01 | 三星電子株式会社Samsung Electronics Co.,Ltd. | ニューラルネットワーク方法及び装置 |
JP7114659B2 (ja) | 2019-08-13 | 2022-08-08 | 三星電子株式会社 | ニューラルネットワーク方法及び装置 |
JP7431263B2 (ja) | 2021-02-05 | 2024-02-14 | 三星電子株式会社 | ニューラルネットワーク演算方法及び装置 |
Also Published As
Publication number | Publication date |
---|---|
EP3319015B1 (en) | 2022-03-23 |
CN108073981A (zh) | 2018-05-25 |
US20200372276A1 (en) | 2020-11-26 |
EP3319015A1 (en) | 2018-05-09 |
KR20180050928A (ko) | 2018-05-16 |
JP7021904B2 (ja) | 2022-02-17 |
US11508146B2 (en) | 2022-11-22 |
US20180129893A1 (en) | 2018-05-10 |
CN108073981B (zh) | 2023-09-05 |
KR102631381B1 (ko) | 2024-01-31 |
US10755126B2 (en) | 2020-08-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2018077842A (ja) | 畳み込み神経網処理方法及び装置 | |
CN109871936B (zh) | 用于处理神经网络中的卷积运算的方法和装置 | |
KR102415508B1 (ko) | 컨볼루션 신경망 처리 방법 및 장치 | |
US20210089355A1 (en) | Memory Allocation Method and Apparatus for Neural Network | |
US9886377B2 (en) | Pipelined convolutional operations for processing clusters | |
WO2019114517A1 (zh) | 一种神经网络模型部署方法、预测方法及设备 | |
US20220292163A1 (en) | Dilated convolution using systolic array | |
CN110023964B (zh) | 训练和/或使用神经网络模型来生成光谱图像的中间输出 | |
EP3855367A1 (en) | Operation accelerator, processing method, and related device | |
JP6393058B2 (ja) | 情報処理装置、情報処理方法 | |
KR20180073118A (ko) | 컨볼루션 신경망 처리 방법 및 장치 | |
CN111382859A (zh) | 用于处理神经网络中的卷积运算的方法和装置 | |
CN113010099A (zh) | 有效地利用存储器空间的神经网络处理设备及其操作方法 | |
US11521007B2 (en) | Accelerator resource utilization by neural networks | |
JP7114659B2 (ja) | ニューラルネットワーク方法及び装置 | |
US11501145B1 (en) | Memory operation for systolic array | |
JP2020057286A (ja) | 情報処理装置、情報処理方法 | |
US9836408B2 (en) | Data processing method, computer readable medium and data processing device | |
JP2020204894A (ja) | フィルタ処理装置及びその制御方法 | |
CN114792387A (zh) | 图像恢复方法和设备 | |
US11610128B2 (en) | Neural network training under memory restraint | |
US8984475B2 (en) | Apparatus and method for generating code overlay | |
JP6906622B2 (ja) | 演算回路および演算方法 | |
JP6530811B2 (ja) | 画像処理装置 | |
WO2023019397A1 (en) | Hardware adaptive multi-model scheduling |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200622 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210729 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210824 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211124 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220125 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220204 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7021904 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |