JP2020119518A - ハードウェア最適化を通じてモバイル装置または高精度の小型ネットワークに使用されるcnnパラメータ量子化を最適化するためにcnnレイヤを変換する方法及び装置 - Google Patents
ハードウェア最適化を通じてモバイル装置または高精度の小型ネットワークに使用されるcnnパラメータ量子化を最適化するためにcnnレイヤを変換する方法及び装置 Download PDFInfo
- Publication number
- JP2020119518A JP2020119518A JP2019238383A JP2019238383A JP2020119518A JP 2020119518 A JP2020119518 A JP 2020119518A JP 2019238383 A JP2019238383 A JP 2019238383A JP 2019238383 A JP2019238383 A JP 2019238383A JP 2020119518 A JP2020119518 A JP 2020119518A
- Authority
- JP
- Japan
- Prior art keywords
- value
- kth
- layer
- scaling
- convolution
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 65
- 238000013139 quantization Methods 0.000 title claims abstract description 38
- 230000001131 transforming effect Effects 0.000 title claims abstract description 17
- 238000005457 optimization Methods 0.000 title description 5
- 230000008569 process Effects 0.000 claims description 30
- 239000000470 constituent Substances 0.000 claims description 8
- 238000004364 calculation method Methods 0.000 claims description 6
- 238000013527 convolutional neural network Methods 0.000 description 30
- 230000004913 activation Effects 0.000 description 6
- 238000013135 deep learning Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 230000008859 change Effects 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- 241001465754 Metazoa Species 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000011176 pooling Methods 0.000 description 2
- 238000007792 addition Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4046—Scaling of whole images or parts thereof, e.g. expanding or contracting using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
- G06F9/30003—Arrangements for executing specific machine instructions
- G06F9/30007—Arrangements for executing specific machine instructions to perform operations on data operands
- G06F9/30025—Format conversion instructions, e.g. Floating-Point to Integer, decimal conversion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4084—Scaling of whole images or parts thereof, e.g. expanding or contracting in the transform domain, e.g. fast Fourier transform [FFT] domain scaling
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- General Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Neurology (AREA)
- Image Analysis (AREA)
- Complex Calculations (AREA)
Abstract
Description
Claims (14)
- m個のコンボリューションブロックを含むCNNのコンボリューションレイヤを変換する方法において、
(a)コンピューティング装置が、スケーリングパラメータを決定するために使用される入力イメージが取得されると、(i)第kコンボリューションブロックに含まれた第k初期コンボリューションレイヤの一つ以上の第k初期重み付け値と、(ii)(ii−1)kが1である場合、前記入力イメージ、(ii−2)kが2からmまでの常数である場合、第(k−1)コンボリューションブロックから出力された前記入力イメージに対応する第(k−1)特徴マップと、(iii)(iii−1)kが1である場合、前記入力イメージに含まれたチャンネルそれぞれに対応する第kスケーリングパラメータそれぞれ、及び(iii−2)kが2からmまでの常数である場合、前記第(k−1)特徴マップに含まれたチャンネルそれぞれに対応する第kスケーリングパラメータそれぞれを参照して、一つ以上の第k量子化ロス値と、を生成する段階(kは1からmまでの常数である);
(b)前記コンピューティング装置が、前記第k量子化ロス値を参照して、前記第kスケーリングパラメータのうちで前記第(k−1)特徴マップに含まれた前記チャンネルそれぞれに対応する第k最適スケーリングパラメータそれぞれを決定する段階;
(c)前記コンピューティング装置が、前記第k最適スケーリングパラメータを参照して、第kスケーリングレイヤ及び第k逆スケーリングレイヤを生成する段階;
(d)前記コンピューティング装置が、(i)kが1である場合、前記第kスケーリングレイヤを使用して、前記第k初期コンボリューションレイヤを第k統合コンボリューションレイヤに変換し、(ii)kが2からmまでの常数である場合、前記第kスケーリングレイヤ及び前記第(k−1)逆スケーリングレイヤを使用して、前記第k初期コンボリューションレイヤを前記第k統合コンボリューションレイヤに変換する段階;
を含むことを特徴とする方法。 - 前記(a)段階は、
前記コンピューティング装置が、(iv)BW値(前記BW値は、前記CNNに含まれた重み付け値及び特徴マップに含まれた値を二進数で表現するために使用されたビットの個数である)、及び(v)第kFL値(前記第kFL値は、(i)前記第k初期コンボリューションレイヤの前記第k初期重み付け値、及び(ii)kが2からmまでの常数である場合、前記第(k−1)特徴マップに含まれた値であり、kが1である場合、前記入力イメージに含まれた値のLSBが示す数の指数の絶対値である)をさらに参照して、前記第k量子化ロス値を生成することを含むことを特徴とする請求項1に記載の方法。 - 前記(a)段階は、
前記(b)段階は、前記コンピューティング装置が、前記△Lkを最も小さくする前記Ckiを選択することにより、前記第k最適スケーリングパラメータそれぞれを決定することを特徴とする請求項2に記載の方法。 - 前記コンピューティング装置が、ネステロフ加速勾配(Nesterov Accelerated Gradient)法を使用して、前記Ckiを選択して前記第k最適スケーリングパラメータを決定することを特徴とする請求項3に記載の方法。
- 前記(c)段階は、
前記コンピューティング装置が、
前記第k最適スケーリングパラメータそれぞれがその構成要素として決定される前記第kスケーリングレイヤを生成し、前記第k最適スケーリングパラメータの逆数それぞれがその構成要素として決定される前記第k逆スケーリングレイヤを生成することを特徴とする請求項1に記載の方法。 - 前記(d)段階は、
前記コンピューティング装置が、(1)kが1である場合、(i)前記第k初期コンボリューションレイヤ及び前記第kスケーリングレイヤの演算を入力値に適用して生成された結果と、(ii)前記第k統合コンボリューションレイヤの演算を前記入力値に適用して生成された結果との間の差が閾値より小さくなるように前記第k初期コンボリューションレイヤを前記第k統合コンボリューションレイヤに変換し、(2)kが2以上m以下の常数である場合、(i)第(k−1)逆スケーリングレイヤと、前記第k初期コンボリューションレイヤと、前記第kスケーリングレイヤとの演算を入力値に適用して生成された結果と、(ii)前記第k統合コンボリューションレイヤの演算を入力値に適用して生成された結果との間の差が前記閾値より小さくなるように前記第k初期コンボリューションレイヤを前記第k統合コンボリューションレイヤに変換することを特徴とする請求項1に記載の方法。 - (e)前記コンピューティング装置が、前記第kコンボリューションブロックに含まれた前記第k統合コンボリューションレイヤの各重み付け値を量子化して、前記第kコンボリューションブロックにより遂行されるCNN演算に対する最適化重み付け値として、第k量子化重み付け値を生成する段階;
をさらに含むことを特徴とする請求項1に記載の方法。 - m個のコンボリューションブロックを含むCNNのコンボリューションレイヤを変換するコンピューティング装置において、
各インストラクションを格納する少なくとも一つのメモリと、
(I)(i)第kコンボリューションブロックに含まれた第k初期コンボリューションレイヤの一つ以上の第k初期重み付け値と、(ii)(ii−1)kが1である場合、スケーリングパラメータを決定するために使用される入力イメージ、(ii−2)kが2からmまでの常数である場合、第(k−1)コンボリューションブロックから出力された前記入力イメージに対応する第(k−1)特徴マップと、(iii)(iii−1)kが1である場合、前記入力イメージに含まれたチャンネルそれぞれに対応する第kスケーリングパラメータそれぞれ、及び(iii−2)kが2からmまでの常数である場合、前記第(k−1)特徴マップに含まれたチャンネルそれぞれに対応する第kスケーリングパラメータそれぞれを参照して、一つ以上の第k量子化ロス値と、を生成するプロセス(kは1からmまでの常数である);(II)前記第k量子化ロス値を参照して、前記第kスケーリングパラメータのうちで前記第(k−1)特徴マップに含まれた前記チャンネルそれぞれに対応する第k最適スケーリングパラメータそれぞれを決定するプロセス;(III)前記第k最適スケーリングパラメータを参照して、第kスケーリングレイヤ及び第k逆スケーリングレイヤを生成するプロセス;(IV)(i)kが1である場合、前記第kスケーリングレイヤを使用して、前記第k初期コンボリューションレイヤを第k統合コンボリューションレイヤに変換し、(ii)kが2からmまでの常数である場合、前記第kスケーリングレイヤ及び前記第(k−1)逆スケーリングレイヤを使用して前記第k初期コンボリューションレイヤを前記第k統合コンボリューションレイヤに変換するプロセス;を遂行するための前記インストラクションを実行するように構成された少なくとも一つのプロセッサと、
を含むことを特徴とするコンピューティング装置。 - 前記(I)プロセスは、
前記プロセッサが、(iv)BW値(前記BW値は、前記CNNに含まれた重み付け値及び特徴マップに含まれた値を二進数で表現するために使用されたビットの個数である)、及び(v)第kFL値(前記第kFL値は、(1)前記第k初期コンボリューションレイヤの前記第k初期重み付け値、及び(2)kが2からmまでの常数である場合、前記第(k−1)特徴マップに含まれた値であり、kが1である場合、前記入力イメージに含まれた値のLSBが示す数の指数の絶対値である)をさらに参照して、前記第k量子化ロス値を生成することを含むことを特徴とする請求項8に記載のコンピューティング装置。 - 前記(I)プロセスは、
前記プロセッサが、
前記(II)プロセスは、
前記プロセッサが、
前記△Lkを最も小さくする前記Ckiを選択することにより、前記第k最適スケーリングパラメータそれぞれを決定することを特徴とする請求項9に記載のコンピューティング装置。 - 前記プロセッサが、ネステロフ加速勾配(Nesterov Accelerated Gradient)法を使用して、前記Ckiを選択して前記第k最適スケーリングパラメータを決定することを特徴とする請求項10に記載のコンピューティング装置。
- 前記(III)プロセスは、
前記プロセッサが、前記第k最適スケーリングパラメータそれぞれがその構成要素として決定される前記第kスケーリングレイヤを生成し、前記第k最適スケーリングパラメータの逆数それぞれがその構成要素として決定される前記第k逆スケーリングレイヤを生成することを特徴とする請求項8に記載のコンピューティング装置。 - 前記(IV)プロセスは、
前記プロセッサが、(1)kが1である場合、(i)前記第k初期コンボリューションレイヤ及び前記第kスケーリングレイヤの演算を入力値に適用して生成された結果と、(ii)前記第k統合コンボリューションレイヤの演算を前記入力値に適用して生成された結果との差が閾値より小さくなるように前記第k初期コンボリューションレイヤを前記第k統合コンボリューションレイヤに変換し、(2)kが2以上m以下の常数である場合、(i)第(k−1)逆スケーリングレイヤと、前記第k初期コンボリューションレイヤと、前記第kスケーリングレイヤとの演算を入力値に適用して生成された結果と、(ii)前記第k統合コンボリューションレイヤの演算を入力値に適用して生成された結果との間の差が前記閾値より小さくなるように前記第k初期コンボリューションレイヤを前記第k統合コンボリューションレイヤに変換することを特徴とする請求項8に記載のコンピューティング装置。 - 前記プロセッサが、
(V)前記第kコンボリューションブロックに含まれた前記第k統合コンボリューションレイヤの重み付け値を量子化して、前記第kコンボリューションブロックにより遂行されるCNN演算に対する最適化重み付け値として、第k量子化重み付け値を生成するプロセス;をさらに遂行することを特徴とする請求項8に記載のコンピューティング装置。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US16/255,197 US10325352B1 (en) | 2019-01-23 | 2019-01-23 | Method and device for transforming CNN layers to optimize CNN parameter quantization to be used for mobile devices or compact networks with high precision via hardware optimization |
US16/255,197 | 2019-01-23 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020119518A true JP2020119518A (ja) | 2020-08-06 |
JP6872264B2 JP6872264B2 (ja) | 2021-05-19 |
Family
ID=66826142
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019238383A Active JP6872264B2 (ja) | 2019-01-23 | 2019-12-27 | ハードウェア最適化を通じてモバイル装置または高精度の小型ネットワークに使用されるcnnパラメータ量子化を最適化するためにcnnレイヤを変換する方法及び装置 |
Country Status (5)
Country | Link |
---|---|
US (1) | US10325352B1 (ja) |
EP (1) | EP3686808B1 (ja) |
JP (1) | JP6872264B2 (ja) |
KR (1) | KR102349916B1 (ja) |
CN (1) | CN111476341B (ja) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10560696B2 (en) * | 2018-06-25 | 2020-02-11 | Tfi Digital Media Limited | Method for initial quantization parameter optimization in video coding |
US11551054B2 (en) | 2019-08-27 | 2023-01-10 | International Business Machines Corporation | System-aware selective quantization for performance optimized distributed deep learning |
JP7357225B2 (ja) * | 2020-03-27 | 2023-10-06 | パナソニックIpマネジメント株式会社 | 推論実行方法 |
KR102368590B1 (ko) * | 2020-05-19 | 2022-03-02 | 삼성전자주식회사 | 전자 장치 및 그 제어 방법 |
WO2021251614A1 (en) | 2020-06-12 | 2021-12-16 | Samsung Electronics Co., Ltd. | Image processing apparatus and method of operating the same |
KR20220045357A (ko) * | 2020-10-05 | 2022-04-12 | 삼성전자주식회사 | 전자 장치 및 이의 제어 방법 |
KR102539876B1 (ko) * | 2020-11-30 | 2023-06-02 | 경희대학교 산학협력단 | 인공지능 기술을 이용한 적층형 저항 변화 메모리 소자의 계층 최적화 시스템 및 그 방법 |
WO2023008678A1 (ko) * | 2021-07-30 | 2023-02-02 | 삼성전자 주식회사 | 영상 처리 장치 및 그 동작 방법 |
GB2622875A (en) * | 2022-09-30 | 2024-04-03 | Imagination Tech Ltd | Methods and systems for performing channel equalisation on a convolution layer in a neural network |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015078018A1 (en) * | 2013-11-30 | 2015-06-04 | Xiaoou Tang | Method and system for face image recognition |
WO2017196931A1 (en) * | 2016-05-10 | 2017-11-16 | Google Llc | Frequency based audio analysis using neural networks |
WO2018031833A1 (en) * | 2016-08-12 | 2018-02-15 | The Procter & Gamble Company | Aerosol container having valve cup with integral bag |
JP2018181124A (ja) * | 2017-04-18 | 2018-11-15 | Kddi株式会社 | エンコーダデコーダ畳み込みニューラルネットワークにおける解像感を改善するプログラム |
Family Cites Families (28)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9418319B2 (en) * | 2014-11-21 | 2016-08-16 | Adobe Systems Incorporated | Object detection using cascaded convolutional neural networks |
US10410096B2 (en) * | 2015-07-09 | 2019-09-10 | Qualcomm Incorporated | Context-based priors for object detection in images |
US10970617B2 (en) * | 2015-08-21 | 2021-04-06 | Institute Of Automation Chinese Academy Of Sciences | Deep convolutional neural network acceleration and compression method based on parameter quantification |
US11074492B2 (en) * | 2015-10-07 | 2021-07-27 | Altera Corporation | Method and apparatus for performing different types of convolution operations with the same processing elements |
US9965719B2 (en) * | 2015-11-04 | 2018-05-08 | Nec Corporation | Subcategory-aware convolutional neural networks for object detection |
US20170124409A1 (en) * | 2015-11-04 | 2017-05-04 | Nec Laboratories America, Inc. | Cascaded neural network with scale dependent pooling for object detection |
US9904874B2 (en) * | 2015-11-05 | 2018-02-27 | Microsoft Technology Licensing, Llc | Hardware-efficient deep convolutional neural networks |
US10002313B2 (en) * | 2015-12-15 | 2018-06-19 | Sighthound, Inc. | Deeply learned convolutional neural networks (CNNS) for object localization and classification |
US9858496B2 (en) * | 2016-01-20 | 2018-01-02 | Microsoft Technology Licensing, Llc | Object detection and classification in images |
WO2017139927A1 (en) * | 2016-02-17 | 2017-08-24 | Intel Corporation | Region proposal for image regions that include objects of interest using feature maps from multiple layers of a convolutional neural network model |
US10354362B2 (en) * | 2016-09-08 | 2019-07-16 | Carnegie Mellon University | Methods and software for detecting objects in images using a multiscale fast region-based convolutional neural network |
US10387740B2 (en) * | 2016-10-10 | 2019-08-20 | Gyrfalcon Technology Inc. | Object detection and recognition apparatus based on CNN based integrated circuits |
US20180107926A1 (en) * | 2016-10-19 | 2018-04-19 | Samsung Electronics Co., Ltd. | Method and apparatus for neural network quantization |
US11321609B2 (en) * | 2016-10-19 | 2022-05-03 | Samsung Electronics Co., Ltd | Method and apparatus for neural network quantization |
US10198671B1 (en) * | 2016-11-10 | 2019-02-05 | Snap Inc. | Dense captioning with joint interference and visual context |
CN106504190B (zh) * | 2016-12-29 | 2019-09-13 | 浙江工商大学 | 一种基于3d卷积神经网络的立体视频生成方法 |
US11392825B2 (en) * | 2017-01-09 | 2022-07-19 | Samsung Electronics Co., Ltd. | Method and algorithm of recursive deep learning quantization for weight bit reduction |
US20180211403A1 (en) * | 2017-01-20 | 2018-07-26 | Ford Global Technologies, Llc | Recurrent Deep Convolutional Neural Network For Object Detection |
CN108345939B (zh) * | 2017-01-25 | 2022-05-24 | 微软技术许可有限责任公司 | 基于定点运算的神经网络 |
US10127495B1 (en) * | 2017-04-14 | 2018-11-13 | Rohan Bopardikar | Reducing the size of a neural network through reduction of the weight matrices |
CN115688877A (zh) * | 2017-06-06 | 2023-02-03 | 格兰菲智能科技有限公司 | 一种用于对待量化数据进行定点化处理的方法及计算装置 |
GB201709672D0 (en) * | 2017-06-16 | 2017-08-02 | Ucl Business Plc | A system and computer-implemented method for segmenting an image |
CN107330852A (zh) * | 2017-07-03 | 2017-11-07 | 深圳市唯特视科技有限公司 | 一种基于实时零点图像操作网络的图像处理方法 |
US10878273B2 (en) * | 2017-07-06 | 2020-12-29 | Texas Instruments Incorporated | Dynamic quantization for deep neural network inference system and method |
US10474908B2 (en) * | 2017-07-06 | 2019-11-12 | GM Global Technology Operations LLC | Unified deep convolutional neural net for free-space estimation, object detection and object pose estimation |
US10728553B2 (en) * | 2017-07-11 | 2020-07-28 | Sony Corporation | Visual quality preserving quantization parameter prediction with deep neural network |
JP7149692B2 (ja) * | 2017-08-09 | 2022-10-07 | キヤノン株式会社 | 画像処理装置、画像処理方法 |
KR20190034985A (ko) * | 2017-09-25 | 2019-04-03 | 삼성전자주식회사 | 인공 신경망의 양자화 방법 및 장치 |
-
2019
- 2019-01-23 US US16/255,197 patent/US10325352B1/en active Active
- 2019-09-27 KR KR1020190119525A patent/KR102349916B1/ko active IP Right Grant
- 2019-12-11 EP EP19215137.1A patent/EP3686808B1/en active Active
- 2019-12-16 CN CN201911294584.7A patent/CN111476341B/zh active Active
- 2019-12-27 JP JP2019238383A patent/JP6872264B2/ja active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015078018A1 (en) * | 2013-11-30 | 2015-06-04 | Xiaoou Tang | Method and system for face image recognition |
WO2017196931A1 (en) * | 2016-05-10 | 2017-11-16 | Google Llc | Frequency based audio analysis using neural networks |
WO2018031833A1 (en) * | 2016-08-12 | 2018-02-15 | The Procter & Gamble Company | Aerosol container having valve cup with integral bag |
JP2018181124A (ja) * | 2017-04-18 | 2018-11-15 | Kddi株式会社 | エンコーダデコーダ畳み込みニューラルネットワークにおける解像感を改善するプログラム |
Also Published As
Publication number | Publication date |
---|---|
KR102349916B1 (ko) | 2022-01-12 |
EP3686808A1 (en) | 2020-07-29 |
KR20200091785A (ko) | 2020-07-31 |
EP3686808C0 (en) | 2024-01-24 |
US10325352B1 (en) | 2019-06-18 |
EP3686808B1 (en) | 2024-01-24 |
JP6872264B2 (ja) | 2021-05-19 |
CN111476341B (zh) | 2024-04-12 |
CN111476341A (zh) | 2020-07-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2020119518A (ja) | ハードウェア最適化を通じてモバイル装置または高精度の小型ネットワークに使用されるcnnパラメータ量子化を最適化するためにcnnレイヤを変換する方法及び装置 | |
KR102313133B1 (ko) | 컨벌루션 뉴럴 네트워크로부터 복수의 출력들의 앙상블을 이용하여 통합된 특징 맵을 제공하기 위한 방법 및 장치 | |
US10282864B1 (en) | Method and device for encoding image and testing method and testing device using the same | |
JP2019067408A (ja) | イメージセグメンテーションのための学習方法及び学習装置、そしてこれを利用したイメージセグメンテーション方法及びイメージセグメンテーション装置 | |
KR20200095356A (ko) | 딥 뉴럴 네트워크(deep neural network) 기반의 다중 패치 조합(multiple patch combination)을 이용하여 얼굴을 인식하고, 극도의 상황에서 결함 허용 능력 및 흔들림에 강인한 성질을 향상시키는 방법 | |
EP3686809B1 (en) | Method and device for transforming cnn layers to optimize cnn parameter quantization to be used for mobile devices or compact networks with high precision via hardware optimization | |
KR102337358B1 (ko) | 모바일 장치 또는 소형 네트워크에 적용 가능한 하드웨어를 최적화하는데 사용될 수 있는 roi를 풀링하기 위하여, 마스킹 파라미터를 이용하는 방법 및 장치, 그리고 이를 이용한 테스트 방법 및 테스트 장치 | |
EP3686792A1 (en) | Method and device for segmenting image to be used for surveillance using weighted convolution filters for respective grid cells by converting modes according to classes of areas to satisfy level 4 of autonomous vehicle, and testing method and testing device using the same | |
JP7252120B2 (ja) | 核心性能指数を満たすことができるハードウェア最適化が行われるように、cnnで複数のブロック内の入力イメージから特徴を抽出する学習方法及び学習装置、それを利用したテスト方法及びテスト装置 | |
JP2020038666A (ja) | 自律走行状況で障害物検出のための学習用データセットの生成方法及びこれを利用したコンピューティング装置、学習方法及び学習装置 | |
KR102313604B1 (ko) | 멀티 피딩을 적용한 학습 방법 및 학습 장치 그리고 이를 이용한 테스트 방법 및 테스트 장치 | |
US10325185B1 (en) | Method and device for online batch normalization, on-device learning, and continual learning applicable to mobile devices or IOT devices additionally referring to one or more previous batches to be used for military purpose, drone or robot, and testing method and testing device using the same | |
JP2020119567A (ja) | スマートフォン、ドローン、船舶もしくは軍事的目的に利用するための、入力データを分析するニューラルネットワークをオンデバイス連続学習する方法及び装置、並びにこれによって学習されたニューラルネットワークをテストする方法及び装置 | |
CN109460815A (zh) | 一种单目视觉深度估计方法 | |
JP6856957B2 (ja) | 写真スタイル変換を使用してランタイム入力の変換によりリアル世界で使用されるバーチャル世界で学習されたcnnを許容するための学習方法及び学習装置、そしてこれを利用したテスト方法及びテスト装置 | |
KR20200091795A (ko) | 하드웨어 최적화에 사용되는 1xK 또는 Kx1 컨벌루션 연산을 이용한 CNN을 학습하는 방법 및 학습 장치, 이를 이용한 테스트 방법 및 테스트 장치 | |
KR20200066143A (ko) | 축소 반복 블록을 이용한 뉴럴 네트워크 경량화 방법 및 이를 위한 장치 | |
CN109508639A (zh) | 基于多尺度带孔卷积神经网络的道路场景语义分割方法 | |
KR102349969B1 (ko) | 스마트폰, 드론, 선박 혹은 군사적 목적을 위한, 트레이닝 이미지의 최적화 샘플링에 의해 입력 데이터를 분석하는 뉴럴 네트워크의 온디바이스 연속 학습 방법 및 장치, 그리고, 이를 이용한 테스트 방법 및 장치 | |
CN117274049A (zh) | 一种基于训练后量化的视频超分方法 | |
CN115760942A (zh) | 基于神经网络和边缘计算芯片的单目深度估计方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191227 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20201124 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210217 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210330 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210412 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6872264 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |