JP2018147182A - 演算処理装置およびその制御方法 - Google Patents
演算処理装置およびその制御方法 Download PDFInfo
- Publication number
- JP2018147182A JP2018147182A JP2017040919A JP2017040919A JP2018147182A JP 2018147182 A JP2018147182 A JP 2018147182A JP 2017040919 A JP2017040919 A JP 2017040919A JP 2017040919 A JP2017040919 A JP 2017040919A JP 2018147182 A JP2018147182 A JP 2018147182A
- Authority
- JP
- Japan
- Prior art keywords
- buffer
- processing
- calculation
- arithmetic processing
- memory
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- General Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Neurology (AREA)
- Image Analysis (AREA)
- Complex Calculations (AREA)
- Information Transfer Systems (AREA)
Abstract
Description
本発明に係る演算処理装置の第1実施形態として、CNN処理により画像中の特定の物体を検出するパターン検出装置を例に挙げて以下に説明する。ここで、CNNは、Convolutional Neural Networksの略である。
CNNはそのディープネットの実現方法として代表的な手法であり、以下CNNに基づく手法について説明する。
第1実施形態では、ネットワーク構造の階層的な結合関係の構成に応じて、階層毎にメモリ保持方式(データバッファリング方式)を切り替える。特に、特徴面に加えフィルタカーネルの重み係数も考慮してバッファ制御方式を階層毎に切り替えることで必要なメモリサイズを低減する形態について説明する。
図6は、第1実施形態に係るパターン検出装置の構成を示す図である。パターン検出装置は、階層的演算処理回路を具備し、画像データ中の特定の物体(画像パターン)を検出する機能を有する画像処理装置である。
・シーケンス制御情報設定部105のシーケンス制御情報、
・メモリ102で保持されている演算部101で必要とする重み係数、
・入力画像
次に、図4を参照して説明したCNNネットワークに対し、異なるバッファ制御方式の動作例を説明する。図7は、リングバッファ制御およびフレームバッファ制御それぞれにおける必要メモリ量を説明する図である。また、図13は、リングバッファおよびフレームバッファの動作を説明する図である。
図8は、パターン検出装置における制御を示すフローチャートである。すなわち、CPU68が実行する一連の検出処理動作を示している。CPU68におけるソフトウェアによる処理は、所定の設定処理等を行った後、画像入力部61やCNN処理部63等のハードウェア処理回路部をドライブする。
最後に、上述の手法によるメモリサイズの変化について図17を参照して説明する。図17は、ラインバッファ処理時に必要なメモリサイズの見積もり例を示す図である。ここでは、画像サイズがQQVGA(つまり高さ120画素)を想定する。なお、説明を簡単にするために画像端部も畳込み演算し画像サイズは変わらないことを想定する。
第2実施形態では、リングバッファ方式とフレームバッファ方式の切換えを決定する手法について説明する。
まずはそれぞれの方式で必要なメモリサイズを算出する方法について述べる。まずはリングバッファ方式の場合について考える。リングバッファ制御ではCNN全体で処理が1ライン単位ずつ進んでいくことになるので、全ての中間バッファは、基本的に同時に存在している必要がある。以下では畳込み演算に注目して説明するため、特徴量のサブサンプリングなどの演算は記載しない。ここでは以下のパラメータを用いる。
全階層数(入力層除く):A
対象となるバッファ方式での処理の層数:N
対象となるバッファ方式での階層番号変数(中間層):l=1,2,…,N−1
各階層特徴面数:Fl
特徴番号(注目階層の注目特徴):f=fl=1,…,Fl
前階層の特徴番号:f’=fl−1
入力画像サイズ(水平方向,垂直方向):Ix,Iy
カーネルサイズ(水平方向,垂直方向):Wx(l,f,f’),Wy(l,f,f’)
リングバッファ高さ:By(l,f)
リング中間バッファ必要容量:SB
フィルタカーネルの重み係数を保持するバッファの必要容量:Wb_all
図15は、バッファ制御方式の切換え位置を決定するフローチャートである。この処理は、例えば、CPU68により実行される。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
Claims (10)
- 複数の処理ノードを用いて構成される階層型ネットワークを利用して処理を実行する演算処理装置であって、
前記複数の処理ノードの各々が演算処理に利用するパラメータと、前記複数の処理ノードの各々における演算処理の演算結果と、を記憶する記憶手段と、
前記階層型ネットワークの構成に基づいて、該階層型ネットワークにおける少なくとも1つの階層において、前記記憶手段における前記パラメータ及び前記演算結果のバッファ方式を切換えるバッファ制御手段と、
を有することを特徴とする演算処理装置。 - 前記階層型ネットワークのそれぞれの階層で利用するバッファ方式の複数の組合せそれぞれに対して、前記記憶手段において前記パラメータを記憶するために必要な第1のメモリサイズと、前記記憶手段において前記演算結果を記憶するために必要な第2のメモリサイズと、の合計メモリサイズを算出する算出手段と、
前記合計メモリサイズに基づいて、前記複数の組合せの中から、前記階層型ネットワークで利用するバッファ方式の組合せを選択する選択手段と、
を更に有し、
前記バッファ制御手段は、前記選択手段により選択されたバッファ方式の組合せに従ってバッファ方式を切換える
ことを特徴とする請求項1に記載の演算処理装置。 - 前記選択手段は、前記合計メモリサイズが最小となるバッファ方式の組合せを選択する
ことを特徴とする請求項2に記載の演算処理装置。 - 前記選択手段により選択されたバッファ方式の組合せに従って前記複数の処理ノードを制御するためのシーケンス制御情報を生成する生成手段と、
前記シーケンス制御情報に基づいて前記複数の処理ノードに演算処理を実行させるシーケンス制御手段と、
を更に有する
ことを特徴とする請求項2又は3に記載の演算処理装置。 - 前記バッファ制御手段は、前記バッファ方式として、リングバッファ方式とラインバッファ方式とを利用可能に構成されている
ことを特徴とする請求項1乃至4の何れか1項に記載の演算処理装置。 - 前記階層型ネットワークは、CNN(Convolutional Neural Networks)である
ことを特徴とする請求項1乃至5の何れか1項に記載の演算処理装置。 - 前記演算処理は画像に対する畳込みフィルタ演算処理であり、
前記構成は、前記CNNの階層の個数、各階層における特徴面数、各階層における画像サイズ、各階層におけるカーネルサイズ、の少なくとも1つを含む
ことを特徴とする請求項6に記載の演算処理装置。 - 前記複数の処理ノードは論理的な処理ノードであり同一の物理的な処理ノードにより実現される
ことを特徴とする請求項1乃至7の何れか1項に記載の演算処理装置。 - 複数の処理ノードを用いて構成される階層型ネットワークを利用して処理を実行する演算処理装置の制御方法であって、前記演算処理装置は、前記複数の処理ノードの各々が演算処理に利用するパラメータと、前記複数の処理ノードの各々における演算処理の演算結果と、を記憶する記憶部を有し、
前記制御方法は、
前記階層型ネットワークの構成に基づいて、前記階層型ネットワークで利用するバッファ方式の組合せを決定する決定工程と、
前記決定工程により決定されたバッファ方式の組合せに従って前記記憶部における前記パラメータ及び前記演算結果のバッファ方式を切換えるバッファ制御工程と、
を含むことを特徴とする制御方法。 - コンピュータを、請求項1乃至8の何れか1項に記載の演算処理装置の各手段として機能させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017040919A JP6936592B2 (ja) | 2017-03-03 | 2017-03-03 | 演算処理装置およびその制御方法 |
US15/908,945 US11699067B2 (en) | 2017-03-03 | 2018-03-01 | Arithmetic processing apparatus and control method therefor |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017040919A JP6936592B2 (ja) | 2017-03-03 | 2017-03-03 | 演算処理装置およびその制御方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018147182A true JP2018147182A (ja) | 2018-09-20 |
JP6936592B2 JP6936592B2 (ja) | 2021-09-15 |
Family
ID=63355657
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017040919A Active JP6936592B2 (ja) | 2017-03-03 | 2017-03-03 | 演算処理装置およびその制御方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US11699067B2 (ja) |
JP (1) | JP6936592B2 (ja) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020060967A (ja) * | 2018-10-10 | 2020-04-16 | LeapMind株式会社 | ニューラルネットワーク処理装置、およびニューラルネットワーク処理方法 |
EP3680827A1 (en) | 2019-01-10 | 2020-07-15 | Canon Kabushiki Kaisha | Information processing apparatus and memory control method |
JP2020140546A (ja) * | 2019-02-28 | 2020-09-03 | キヤノン株式会社 | データ処理装置及びその方法 |
WO2020188658A1 (ja) * | 2019-03-15 | 2020-09-24 | 三菱電機株式会社 | アーキテクチャ推定装置、アーキテクチャ推定方法、およびアーキテクチャ推定プログラム |
JP2020201883A (ja) * | 2019-06-13 | 2020-12-17 | キヤノン株式会社 | データ処理装置及びその制御方法 |
JP2021012596A (ja) * | 2019-07-08 | 2021-02-04 | キヤノン株式会社 | 演算処理装置及び演算処理方法 |
JP2022508028A (ja) * | 2018-10-10 | 2022-01-19 | 芯原微電子(上海)股▲ふん▼有限公司 | 3次元画像処理におけるデータの読み書き方法とシステム、記憶媒体及び端末 |
JP2022184136A (ja) * | 2021-05-31 | 2022-12-13 | キヤノン株式会社 | 情報処理装置、情報処理方法 |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10283091B2 (en) * | 2014-10-13 | 2019-05-07 | Microsoft Technology Licensing, Llc | Buffer optimization |
US10387740B2 (en) * | 2016-10-10 | 2019-08-20 | Gyrfalcon Technology Inc. | Object detection and recognition apparatus based on CNN based integrated circuits |
US10956584B1 (en) * | 2018-09-25 | 2021-03-23 | Amazon Technologies, Inc. | Secure data processing |
JP7278150B2 (ja) * | 2019-05-23 | 2023-05-19 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法 |
JP7362312B2 (ja) | 2019-06-25 | 2023-10-17 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理装置の制御方法、及びプログラム |
JP7299770B2 (ja) * | 2019-07-01 | 2023-06-28 | キヤノン株式会社 | 演算処理装置及び演算処理方法 |
KR20210031296A (ko) * | 2019-09-11 | 2021-03-19 | 삼성전자주식회사 | 전자 장치 및 그 제어 방법 |
CN112561034A (zh) * | 2020-12-04 | 2021-03-26 | 深兰人工智能(深圳)有限公司 | 一种神经网络加速装置 |
CN117377983A (zh) * | 2021-05-27 | 2024-01-09 | 谷歌有限责任公司 | 具有卷积和注意力的机器学习模型的系统和方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009080693A (ja) * | 2007-09-26 | 2009-04-16 | Canon Inc | 演算処理装置および方法 |
JP2009105695A (ja) * | 2007-10-24 | 2009-05-14 | Seiko Epson Corp | 画像形成装置および画像形成システム |
JP2013058277A (ja) * | 2011-09-07 | 2013-03-28 | Renesas Electronics Corp | 半導体装置 |
JP2013214151A (ja) * | 2012-03-30 | 2013-10-17 | Fujifilm Corp | 画像処理装置、方法及びプログラム |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3543661B2 (ja) * | 1999-03-05 | 2004-07-14 | 日本電気株式会社 | 交換機ファイルシステムにおけるバッファキャッシュ方法および装置 |
JP2003228364A (ja) * | 2002-02-01 | 2003-08-15 | Shinnichi Electronics Kk | パチンコ機の画像表示装置とその表示方法及びそのコンピュータプログラム |
JP4124015B2 (ja) * | 2003-05-01 | 2008-07-23 | ヤマハ株式会社 | 画像表示装置 |
JP5171118B2 (ja) * | 2007-06-13 | 2013-03-27 | キヤノン株式会社 | 演算処理装置及びその制御方法 |
JP5184824B2 (ja) | 2007-06-15 | 2013-04-17 | キヤノン株式会社 | 演算処理装置及び方法 |
-
2017
- 2017-03-03 JP JP2017040919A patent/JP6936592B2/ja active Active
-
2018
- 2018-03-01 US US15/908,945 patent/US11699067B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009080693A (ja) * | 2007-09-26 | 2009-04-16 | Canon Inc | 演算処理装置および方法 |
JP2009105695A (ja) * | 2007-10-24 | 2009-05-14 | Seiko Epson Corp | 画像形成装置および画像形成システム |
JP2013058277A (ja) * | 2011-09-07 | 2013-03-28 | Renesas Electronics Corp | 半導体装置 |
JP2013214151A (ja) * | 2012-03-30 | 2013-10-17 | Fujifilm Corp | 画像処理装置、方法及びプログラム |
Cited By (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2022508028A (ja) * | 2018-10-10 | 2022-01-19 | 芯原微電子(上海)股▲ふん▼有限公司 | 3次元画像処理におけるデータの読み書き方法とシステム、記憶媒体及び端末 |
JP2020060967A (ja) * | 2018-10-10 | 2020-04-16 | LeapMind株式会社 | ニューラルネットワーク処理装置、およびニューラルネットワーク処理方法 |
JP7201802B2 (ja) | 2018-10-10 | 2023-01-10 | 芯原微電子(上海)股▲ふん▼有限公司 | 3次元画像処理におけるデータの読み書き方法とシステム、記憶媒体及び端末 |
JP7040771B2 (ja) | 2018-10-10 | 2022-03-23 | LeapMind株式会社 | ニューラルネットワーク処理装置、通信装置、ニューラルネットワーク処理方法、およびプログラム |
JP7227769B2 (ja) | 2019-01-10 | 2023-02-22 | キヤノン株式会社 | 情報処理装置及びメモリ制御方法 |
US11663453B2 (en) | 2019-01-10 | 2023-05-30 | Canon Kabushiki Kaisha | Information processing apparatus and memory control method |
EP3680827A1 (en) | 2019-01-10 | 2020-07-15 | Canon Kabushiki Kaisha | Information processing apparatus and memory control method |
JP2020112998A (ja) * | 2019-01-10 | 2020-07-27 | キヤノン株式会社 | 情報処理装置及びメモリ制御方法 |
JP2020140546A (ja) * | 2019-02-28 | 2020-09-03 | キヤノン株式会社 | データ処理装置及びその方法 |
JP7297468B2 (ja) | 2019-02-28 | 2023-06-26 | キヤノン株式会社 | データ処理装置及びその方法 |
WO2020188658A1 (ja) * | 2019-03-15 | 2020-09-24 | 三菱電機株式会社 | アーキテクチャ推定装置、アーキテクチャ推定方法、およびアーキテクチャ推定プログラム |
JPWO2020188658A1 (ja) * | 2019-03-15 | 2021-09-13 | 三菱電機株式会社 | アーキテクチャ推定装置、アーキテクチャ推定方法、およびアーキテクチャ推定プログラム |
US11636321B2 (en) | 2019-06-13 | 2023-04-25 | Canon Kabushiki Kaisha | Data processing apparatus and control method |
JP2020201883A (ja) * | 2019-06-13 | 2020-12-17 | キヤノン株式会社 | データ処理装置及びその制御方法 |
JP2021012596A (ja) * | 2019-07-08 | 2021-02-04 | キヤノン株式会社 | 演算処理装置及び演算処理方法 |
JP7308674B2 (ja) | 2019-07-08 | 2023-07-14 | キヤノン株式会社 | 演算処理装置及び演算処理方法 |
JP2022184136A (ja) * | 2021-05-31 | 2022-12-13 | キヤノン株式会社 | 情報処理装置、情報処理方法 |
JP7321213B2 (ja) | 2021-05-31 | 2023-08-04 | キヤノン株式会社 | 情報処理装置、情報処理方法 |
Also Published As
Publication number | Publication date |
---|---|
JP6936592B2 (ja) | 2021-09-15 |
US11699067B2 (en) | 2023-07-11 |
US20180253641A1 (en) | 2018-09-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6936592B2 (ja) | 演算処理装置およびその制御方法 | |
US7978905B2 (en) | Calculation processing apparatus and control method thereof | |
JP5376920B2 (ja) | コンボリューション演算回路、階層的コンボリューション演算回路及び物体認識装置 | |
US8391306B2 (en) | Calculation processing apparatus and method | |
JP6945986B2 (ja) | 演算回路、その制御方法及びプログラム | |
EP3557425B1 (en) | Accelerator and system for accelerating operations | |
EP3557485A1 (en) | Method for accelerating operations and accelerator apparatus | |
JP2018535491A (ja) | 画像のセマンティックセグメンテーションのためのシステム及びコンピューター実施方法、並びに非一時的コンピューター可読媒体 | |
WO2008153194A1 (en) | Calculation processing apparatus and method | |
JP6800656B2 (ja) | 演算回路、その制御方法及びプログラム | |
JP2020042774A (ja) | 人工知能推論演算装置 | |
JP7402623B2 (ja) | フィルタ処理装置及びその制御方法 | |
CN113158970B (zh) | 一种基于快慢双流图卷积神经网络的动作识别方法与系统 | |
JP6532334B2 (ja) | 並列演算装置、画像処理装置及び並列演算方法 | |
JP6970827B2 (ja) | 演算処理装置 | |
JP7398938B2 (ja) | 情報処理装置およびその学習方法 | |
JP7278150B2 (ja) | 画像処理装置、撮像装置、画像処理方法 | |
JP7391553B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP7308674B2 (ja) | 演算処理装置及び演算処理方法 | |
JP2023058636A (ja) | 情報処理装置及びメモリ制御方法 | |
JP2021009566A (ja) | 演算処理装置及び演算処理方法 | |
JP6964969B2 (ja) | 演算処理装置、演算処理方法及びプログラム | |
JP7169768B2 (ja) | 画像処理装置、画像処理方法 | |
JP7321213B2 (ja) | 情報処理装置、情報処理方法 | |
JPH09231352A (ja) | ピクセル画像マッピング方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200302 |
|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20210103 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210113 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210121 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210222 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210420 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210730 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210827 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6936592 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |