JP6802762B2 - 処理装置 - Google Patents
処理装置 Download PDFInfo
- Publication number
- JP6802762B2 JP6802762B2 JP2017125597A JP2017125597A JP6802762B2 JP 6802762 B2 JP6802762 B2 JP 6802762B2 JP 2017125597 A JP2017125597 A JP 2017125597A JP 2017125597 A JP2017125597 A JP 2017125597A JP 6802762 B2 JP6802762 B2 JP 6802762B2
- Authority
- JP
- Japan
- Prior art keywords
- unit
- storage unit
- speed storage
- image
- captured image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 73
- 238000012937 correction Methods 0.000 description 53
- 238000000034 method Methods 0.000 description 20
- 238000010586 diagram Methods 0.000 description 15
- 230000008569 process Effects 0.000 description 15
- 230000004048 modification Effects 0.000 description 9
- 238000012986 modification Methods 0.000 description 9
- 238000012805 post-processing Methods 0.000 description 7
- 238000004364 calculation method Methods 0.000 description 5
- 238000007781 pre-processing Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 238000009825 accumulation Methods 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 238000010008 shearing Methods 0.000 description 2
- 230000008685 targeting Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000003702 image correction Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000001454 recorded image Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000001502 supplementing effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
- G06T1/60—Memory management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F12/00—Accessing, addressing or allocating within memory systems or architectures
- G06F12/02—Addressing or allocation; Relocation
- G06F12/08—Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
- G06F12/0802—Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
- G06F12/0806—Multiuser, multiprocessor or multiprocessing cache systems
- G06F12/0815—Cache consistency protocols
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
- G06T1/20—Processor architectures; Processor configuration, e.g. pipelining
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Image Processing (AREA)
- Image Input (AREA)
- Memory System Of A Hierarchy Structure (AREA)
- Studio Devices (AREA)
Description
この問題を解決する方法の1つとして、高速な記憶装置を用いるキャッシュ方式が知られている。キャッシュ方式とは、1フレーム分の大きな画像データを格納した低速の記憶装置から、1フレームのうち一部分の小さな画像データをより高速な記憶装置に読み込み、繰り返しの読み出しは高速な記憶装置から行なう方法である。特許文献1には、入力タイルQ21の入力画像データをメモリ120から読み出して記憶部110に記憶させる際、重複領域Sの入力画像データが残された記憶部110のキャッシュ領域の画像データを除いて、入力画像領域R21の画像データをメモリ120から取得して記憶部110に記憶させる構成が開示されている。
以下、図1〜図9を参照して、画像処理装置の実施の形態を説明する。
図1は、画像処理装置1を含む画像処理システムSの構成図である。画像処理システムSは、画像処理装置1と、カメラ2と、認識装置3とを備える。カメラ2は、撮影して得られた画像(以下、「撮影画像」)を画像処理装置1に出力する。画像処理装置1は、撮影画像に歪み補正処理を施して歪みを補正した画像(以下、「歪み補正画像」)を生成して認識装置3に出力する。認識装置3は、歪み補正画像を用いて各種アプリケーションを実行する。なお画像処理装置1、カメラ2、および認識装置3は、それぞれが有線で接続されて上述した画像の情報を授受してもよいし、無線通信により画像の情報を授受してもよい。さらに画像処理装置1、カメラ2、および認識装置3は、同一の地点に設置されてもよいし、それぞれが異なる地点や異なる国に設置されてもよい。さらに画像処理装置1、カメラ2、および認識装置3における情報の授受は、通信により即時に行われてもよいし、画像の情報を持ち運びが可能な記憶装置に格納した後に記憶装置を移動させて画像の情報を読み出してもよい。
図3は、撮影画像を示す模式図である。撮影画像は、たとえば横1920ピクセル、縦1080ピクセルの解像度を有する。換言すると撮影画像は、1920x1080個の色情報が格子状に並べられたものである。本実施の形態では、撮影画像の左下の画素を基準位置、すなわち座標(1,1)の画素とし、図示右側をX軸のプラス方向、図示上側をY軸のプラス方向とする。撮影画像は、横方向に連続した画素の情報が低速記憶部13における連続した領域に格納される。本実施の形態では、低速記憶部13の読み出し情報量の単位に相当する撮影画像の画素の情報が10ピクセルに相当する。以下では撮影画像を横方向に10ピクセル単位でw1、w2、w3・・と呼ぶ。本実施の形態では撮影画像の横幅は1920ピクセルなので、右端はw192である。
図5は、高速記憶部145の構造を示す模式図である。高速記憶部145は、X方向に192個、Y方向に8個の広がりを有する格子状の記憶領域である。図5に示すそれぞれの格子に格納される情報量は、図4に示すそれぞれの格子に格納される情報量と等しく、図3に示す10個の格子に格納される情報量と等しい。したがって、高速記憶部145のX方向には撮影画像のX方向、すなわち横方向の情報が全て格納され、高速記憶部145のY方向には撮影画像のY方向の8行分の情報が格納される。また図5に示すそれぞれの格子に格納される情報の格納順番は、図3や図4と同様に図示左側から右側にかけて列番号が大きくなるように格納される。以下では、高速記憶部145のY方向の行数を「所定記憶行」とも呼ぶ。すなわち本実施の形態における所定記憶行は「8」である。図4に示す低速記憶部13に格納される撮影画像の情報と区別するために、高速記憶部145のX方向はc1、c2、c3、・・と呼び、Y方向はr1、r2、r3、・・と呼ぶ。なお以下では、図5に示す格子のX方向のそれぞれの区画を「列」とも呼び、格子のY方向のそれぞれの区画を「行」とも呼ぶ。たとえばc1の隣の列はc2である。
図6は管理テーブル144の一例を示す図である。管理テーブル144は、高速記憶部145のX方向の格子のそれぞれに対応する記憶領域が設けられる。管理テーブル144には、高速記憶部145のX方向の各格子に入力されている撮影画像のY座標の最大値が格納される。たとえば図6に示す例では、c1には撮影画像のy=120までの情報が格納されていることが示されている。ただし高速記憶部145は前述のとおり8行分の情報しか格納できないため、c1にはy=113〜y=120が格納されている。なお前述のとおり、歪補正部146はY軸のプラス方向に撮影画像の情報を読み進めるため、管理テーブル144に記録される数値は処理が進むにつれて増加する。
図7を参照して画像処理装置1の動作例を説明する。図7(a)は1〜4回目に高速記憶部145に書き込まれる領域を示す図、図7(b)は34〜37回目に高速記憶部145に書き込まれる領域を示す図、図7(c)は管理テーブル144に格納される値を示す図である。図7(a)、(b)に示す各格子の中の数字は、何回目の書き込みによりその格子に画像情報が書き込まれるかを示す。また図7における太線で囲む領域は、簡易アドレス生成部142が生成するアドレスに対応する領域である。
Ey=Dy%R ・・・(1)
図8は、キャッシュ部141が高速記憶部145に撮影画像の情報を蓄積する蓄積処理の動作を示すフローチャートである。上述した動作例を可能とするキャッシュ部141の動作をフローチャートを用いて説明する。キャッシュ部141は、歪補正部146の動作に先立って動作を開始する。
図9は、キャッシュ部141が歪補正部146の要求に応じて高速記憶部145から撮影画像の情報を読み出す読出処理の動作を示すフローチャートである。ステップS321では、キャッシュ部141は歪補正部146からの読み出し指令、すなわち撮影画像の読み込み対象のアドレスを受信する。ここでは受信したアドレスが、撮影画像の(k、l)の座標を指すとする。続くステップS322では、キャッシュ部141は、高速記憶部145において撮影画像のX座標がkの画素を含む列を特定する。列の特定は、高速記憶部145における1列に含まれる画素数を用いて算出される。たとえばk=45の場合に、本実施の形態では1列に10画素が含まれるので、45/10の商を繰り上げた値、すなわち5列目に含まれることが特定される。
(1)画像処理装置1は、列方向および行方向、すなわちX方向およびY方向に広がりを有する撮影画像が格納される低速記憶部13と、低速記憶部13よりも高速な読み出しが可能であり、撮影画像の列方向の全てと行方向の一部である8行に相当する領域を記憶する高速記憶部145と、高速記憶部145から撮影画像を列方向に連続して読み込む歪補正部146と、低速記憶部13から撮影画像を読み込み高速記憶部145へ書き込む判定部143とを備える。
判定部143は、列方向を所定の画素ごとに分割した処理単位列ごとに、高速記憶部145に格納されている撮影画像の行方向の最大の行番号に基づき次に読み込む撮影画像の行番号を決定する。そのため画像処理装置1は、行番号の大小により撮影画像の一部が読み込み済みであるか否かを簡便に判断できる。
高速記憶部145に格納できる画素数が低速記憶部13の読み出し単位であることは必須ではなく、その整数倍の画素数でもよい。さらにそれ以外の画素数でもよい。また上述したX方向とY方向、すなわち列方向および行方向はそれぞれ入れ替えてもよい。
上述した実施の形態では、撮影画像の解像度を1920x1080として説明したが、撮影画像の解像度はこれに限定されない。撮影画像の解像度が上述した実施の形態と異なる場合には、これにあわせて高速記憶部145のX方向のサイズを変更する。具体的には、X方向は撮影画像におけるX方向の全画素の情報が格納できるサイズとする。なおY方向のサイズは、撮影画像の解像度の影響を受けない。
上述した実施の形態では、高速記憶部145のY方向の幅、すなわち所定記憶行は撮影画像の8画素に相当する幅を有していた。しかし所定記憶行は「8」に限定されない。所定記憶行は、少なくとも簡易アドレス生成部142が算出するアドレス領域の最大のY方向の幅を有すればよい。ただし上述した(4)の作用効果を得るために、簡易アドレス生成部142が算出するアドレス領域の最大のY方向の幅を超える、最小の2のべき乗のサイズであることが望ましい。具体的には、簡易アドレス生成部142が算出するアドレス領域の最大のY方向の幅が17の場合は、2^4<17<2^5なので、2^5すなわち32とすることが望ましい。
上述した実施の形態では歪補正部146の要求に応じて高速記憶部145から撮影画像の情報を読み出す際にY座標の値を算出した。しかし高速記憶部145に撮影画像の情報を格納する際に、撮影画像のY座標値と高速記憶部145におけるY座標の値の対応表を作成し、高速記憶部145から撮影画像の情報を読み出す際にその対応表を参照してもよい。
上述した実施の形態では、キャッシュ部141は、図8のステップS310で説明したように、歪補正部146が画像情報を要求することを条件として撮影画像を低速記憶部13から読み込んだ。しかし、歪補正部146からの要求を確認することなく、一定時間の経過ごとに撮影画像を低速記憶部13から読み込んでもよい。この場合は、図8のステップS310において前回の低速記憶部13からの読み込みから所定の時間が経過したか否かを判断すればよい。
図5に示した高速記憶部145の構成は概念であり、物理的に2次元に配列されたメモリ領域を確保しなくてもよい。たとえば、プログラム言語における2次元配列や1次元配列の組み合わせにより、図5に示した高速記憶部145の構成を実現してもよい。
上述した実施の形態では、低速記憶部13はSD−RAMであり、高速記憶部145はFPGA上に確保される記憶領域であった。しかし、低速記憶部13がより低速な記憶領域、たとえばSSD(Solid State Drive)、フラッシュメモリ、ハードディスクドライブなどでもよく、高速記憶部145がSD−RAMでもよい。すなわち、低速記憶部13よりも高速記憶部145のほうが少なくとも読み出し速度が速ければよい。なお高速記憶部145がFPGA上に確保される記憶領域でない場合は、簡易アドレス生成部142、判定部143、および歪補正部146の少なくとも1つはCPUがプログラムを実行することにより実現されてもよい。
11…画像入力部
12…前処理部
13…低速記憶部
14…後処理部
15…画像出力部
141…キャッシュ部
142…簡易アドレス生成部
143…判定部
144…管理テーブル
145…高速記憶部
146…歪補正部
147…アドレス生成部
148…補正部
Claims (6)
- 列方向および行方向に広がりを有する画像が格納される低速記憶部と、
前記低速記憶部よりも高速な読み出しが可能であり、前記画像の前記列方向の全てと前記行方向の一部である所定記憶行に相当する領域を記憶する高速記憶部と、
前記高速記憶部から前記画像を前記列方向に連続して読み出す読み出し部と、
前記低速記憶部から前記画像を読み込み前記高速記憶部へ書き込む判定部とを備え、
前記判定部は、前記列方向を所定の画素ごとに分割した処理単位列ごとに、前記高速記憶部に格納されている前記画像の前記行方向の最小または最大の行番号に基づき次に読み込む前記画像の行番号を決定する処理装置。 - 請求項1に記載の処理装置において、
前記処理単位列ごとに、前記高速記憶部に格納される前記行方向の最小または最大の行番号を格納する管理テーブルをさらに備え、
前記判定部は、前記管理テーブルを参照することで、前記低速記憶部から前記画像を読み込み前記高速記憶部へ書き込むか否かを決定し、
前記判定部は、前記高速記憶部へ前記画像を書き込む場合は、前記低速記憶部から読み込んだ前記画像の行番号を前記管理テーブルに書き込む処理装置。 - 請求項1に記載の処理装置において、
前記判定部は、前記画像を書き込む前記高速記憶部の前記行方向の位置を、前記画像の行番号の前記高速記憶部の前記所定記憶行による剰余に基づき決定する処理装置。 - 請求項3に記載の処理装置において、
前記所定記憶行は、2の累乗である処理装置。 - 請求項1に記載の処理装置において、
前記判定部は、前記画像を書き込む前記高速記憶部の前記列方向の位置を、前記画像における前記列方向の位置と対応させる処理装置。 - 請求項1に記載の処理装置において、
前記処理単位列の幅は、前記低速記憶部からの前記画像の読み出し単位である処理装置。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017125597A JP6802762B2 (ja) | 2017-06-27 | 2017-06-27 | 処理装置 |
PCT/JP2018/016504 WO2019003610A1 (ja) | 2017-06-27 | 2018-04-23 | 処理装置 |
US16/620,095 US11195249B2 (en) | 2017-06-27 | 2018-04-23 | Processing device having a row number determining unit |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017125597A JP6802762B2 (ja) | 2017-06-27 | 2017-06-27 | 処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019008674A JP2019008674A (ja) | 2019-01-17 |
JP6802762B2 true JP6802762B2 (ja) | 2020-12-16 |
Family
ID=64742024
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017125597A Active JP6802762B2 (ja) | 2017-06-27 | 2017-06-27 | 処理装置 |
Country Status (3)
Country | Link |
---|---|
US (1) | US11195249B2 (ja) |
JP (1) | JP6802762B2 (ja) |
WO (1) | WO2019003610A1 (ja) |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001101396A (ja) * | 1999-09-30 | 2001-04-13 | Toshiba Corp | 画像歪み補正処理装置および方法、並びに画像歪み補正処理を行うプログラムを格納した媒体 |
JP2010028758A (ja) | 2008-07-24 | 2010-02-04 | Sony Corp | 画像処理装置及び方法、プログラム、並びに撮像装置 |
JP5391449B2 (ja) * | 2008-09-02 | 2014-01-15 | ルネサスエレクトロニクス株式会社 | 記憶装置 |
JP5443844B2 (ja) | 2009-06-17 | 2014-03-19 | オリンパス株式会社 | 画像処理装置及び撮像装置 |
JP5593060B2 (ja) | 2009-11-26 | 2014-09-17 | 株式会社メガチップス | 画像処理装置、および画像処理装置の動作方法 |
JP5299383B2 (ja) | 2010-08-20 | 2013-09-25 | 株式会社Jvcケンウッド | 画像補正装置および画像補正方法 |
JP6012207B2 (ja) | 2012-03-08 | 2016-10-25 | 株式会社メガチップス | データ転送装置 |
JP6648985B2 (ja) | 2015-05-18 | 2020-02-19 | ハンファテクウィン株式会社 | 画像処理装置および画像処理方法 |
-
2017
- 2017-06-27 JP JP2017125597A patent/JP6802762B2/ja active Active
-
2018
- 2018-04-23 US US16/620,095 patent/US11195249B2/en active Active
- 2018-04-23 WO PCT/JP2018/016504 patent/WO2019003610A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
JP2019008674A (ja) | 2019-01-17 |
US20210150662A1 (en) | 2021-05-20 |
WO2019003610A1 (ja) | 2019-01-03 |
US11195249B2 (en) | 2021-12-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107945112B (zh) | 一种全景图像拼接方法及装置 | |
JP5593060B2 (ja) | 画像処理装置、および画像処理装置の動作方法 | |
JP6843212B2 (ja) | ホモグラフィの修正 | |
KR20100021519A (ko) | 화상 처리 장치 및 카메라 시스템 | |
KR102637732B1 (ko) | 이미지 신호 프로세서, 상기 이미지 신호 프로세서의 동작 방법 및 상기 이미지 신호 프로세서를 포함하는 애플리케이션 프로세서 | |
JP2008079026A (ja) | 画像処理装置、画像処理方法、及び、プログラム | |
JP2002328881A (ja) | 画像処理装置および画像処理方法並びに携帯用映像機器 | |
JP2019160063A (ja) | 画像処理装置及び画像処理方法 | |
JP2010176547A (ja) | 画像処理装置に含まれる制御装置、制御方法、及び制御処理プログラム | |
US11212435B2 (en) | Semiconductor device for image distortion correction processing and image reduction processing | |
JP6802762B2 (ja) | 処理装置 | |
US20210004667A1 (en) | Operation processing apparatus and operation processing method | |
JP2014035589A (ja) | 魚眼画像の補正装置及び補正方法 | |
JP2010033507A (ja) | メモリコントローラおよび画像処理装置 | |
US8509568B2 (en) | Image processing apparatus and image processing method | |
KR20230165584A (ko) | 영상 왜곡 보정 장치 및 방법 | |
KR20050006489A (ko) | 화상형성시스템에 있어서 영상처리방법 및 장치 | |
JP2004062103A (ja) | 画像処理装置および方法、情報処理装置および方法、記録媒体、並びにプログラム | |
JP6440465B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
KR101540300B1 (ko) | 캐시 메모리를 이용한 이미지 워핑 시스템 및 그 방법 | |
KR102282756B1 (ko) | 가우시안 필터링 장치 및 방법 | |
JP6467940B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2005311745A (ja) | 画像処理装置 | |
JP6563358B2 (ja) | 画像処理装置及び画像処理方法 | |
US11974062B2 (en) | Dynamic configuration of perspective transformation engine |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191217 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20201117 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20201127 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6802762 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |