JP5419403B2 - 画像処理装置 - Google Patents
画像処理装置 Download PDFInfo
- Publication number
- JP5419403B2 JP5419403B2 JP2008226976A JP2008226976A JP5419403B2 JP 5419403 B2 JP5419403 B2 JP 5419403B2 JP 2008226976 A JP2008226976 A JP 2008226976A JP 2008226976 A JP2008226976 A JP 2008226976A JP 5419403 B2 JP5419403 B2 JP 5419403B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- distance
- restoration
- restored
- processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 77
- 238000000034 method Methods 0.000 claims description 51
- 238000005259 measurement Methods 0.000 claims description 7
- 238000004364 calculation method Methods 0.000 claims description 6
- 238000003672 processing method Methods 0.000 claims 2
- 238000003384 imaging method Methods 0.000 description 18
- 230000006870 function Effects 0.000 description 13
- 238000011156 evaluation Methods 0.000 description 4
- 238000002360 preparation method Methods 0.000 description 3
- 230000015556 catabolic process Effects 0.000 description 2
- 238000006731 degradation reaction Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 239000006185 dispersion Substances 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 238000012790 confirmation Methods 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000008014 freezing Effects 0.000 description 1
- 238000007710 freezing Methods 0.000 description 1
- 238000012804 iterative process Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000002156 mixing Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000004886 process control Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
- G06T3/4076—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution using the original low-resolution images to iteratively correct the high-resolution images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/815—Camera processing pipelines; Components thereof for controlling the resolution by using a single image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
- Editing Of Facsimile Originals (AREA)
- Studio Devices (AREA)
Description
=f(n)+(g−f(n)×hPSF)×hAUX/c …式(1)
cは正規化定数である。
を満たすものなら良く、一般的にはHPSFが使われる。Hはhのフーリエ変換である。
但し、‖ ‖はノルムであり、画素毎の差分2乗和か差分絶対値和を示す。
Improving Resolution by Image Registration CVGIP:GRAPHICAL MODELS AND IMAGE PROCESSING Vol.53,No.3 May,pp.231-239,1991
図1は本発明に係る画像処理装置の第1の実施形態の構成を示すブロック図である。特に、第1の実施形態は特定の距離レイヤに属する被写体の解像度復元処理を行う例を示すものである。
まず、シャッター99が半押しされると(図2のS101)、システムコントローラ100は撮影準備のため、撮影部1と距離計測部2のAE(オートエクスポーズ)、AF(オートフォーカス)の処理を行う(S102)。通常、AE処理は重要な被写体の位置する中央部の明るさが露出オーバでも露出アンダーでも無い所定の値になるように絞り121、絞り105Lと105Rや、ADC107Lと107R、ADC123内のAGCを制御する。
次にシャッター99が全押しされると(S103)、撮影部1で撮像処理を行い、距離測定部2で距離画像の計測を行う(S104)。その際、ADC123の出力はカメラ処理部124でフィルタ処理によりBayer配列画像からRGB画像に変換され、メモリコントローラ130を経由してメモリ131へ書き込まれる。
撮影後、操作者が十字パッド98を操作して指示することで、システムコントローラ100によりフラッシュメモリ142から撮影済み画像がフラッシュメモリコントローラ141経由で読み出される。そして、メモリコントローラ130を経由してメモリ131へ書き込まれる。
図4は本実施形態の画像復元処理を示すフローチャートである。図5は距離情報により撮影画像を分離した部分画像の例を示す。本実施形態の画像復元時の動作を図1、図4、図5を用いて説明する。
そこで画像復元処理を行う。その際、劣化画像を反復計算により画像復元処理を行う。まず、操作者が十字パッド98を操作して何処の画像を復元したいかを指示することで、システムコントローラ100は現在表示画像の復元処理を開始する。この例では近景の人物のどちらかを指示した場合を想定する。システムコントローラ100は指示された画素の存在する距離画像から復元を行う領域を近景と判断し、収束判定には劣化画像gN(n)の画素を用いることとする。
次に、劣化画像復元部134は1ステップの画像復元処理を行い(S202)、再度メモリコントローラ130を経由してメモリ130の別領域に書き込み、これを新しい復元途中画像f(n+1)とする。画像復元処理はイラニー・ペレッグ法を用いる場合を例とし、背景技術で説明した式(1)を使用する。
次に、システムコントローラ100は収束判定(終了判定)を行う(S203)。具体的には、‖gN(n)−gN(0)‖を計算して保持する。gNは図3の黒い部分の近景Nearと判断された領域における画素の、画像復元処理後の画像fN(n)と点広がり関数hNPSFをコンボリューションして作った疑似ボケ画像gN(n)と撮影時に得たボケ画像gN(0)とのノルムである。
次に、本発明の第2の実施形態を図1、図3、図6を用いて説明する。図6は本実施形態の画像復元処理を示すフローチャートである。本実施形態は、すべての距離レイヤ、この場合には近景(N)、中間距離(M)、遠景(F)の3つの距離レイヤに属する被写体の解像度復元処理を行う例である。それぞれの距離レイヤにおける画像復元処理は基本的に第1の実施形態と同様である。また、本実施形態の構成は図1と同様である。なお、1.撮影準備時の動作、2.撮影時の動作、3.撮影後画像確認の動作は第1の実施形態と同様であるので説明は省略する。
4.1画像復元前処理
操作者が十字パッド98を操作してすべての距離の画像を復元したいと指示することでシステムコントローラ100は現在表示画像の復元処理を開始する。システムコントローラ100は距離画像から復元を行う領域が近景(N)、中間距離(M)、遠景(F)の3つのレイヤに分けられると判断し、収束判定には各劣化画像gN、gM、gFの画素を用いることとする。
次にシステムコントローラ100は、メモリ131にある復元途中画像(fN(n)、fM(n)、fF(n))をメモリコントローラ130を経由して劣化画像復元部134に送り、1ステップの画像復元処理を行う。また、再度メモリコントローラ130を経由してメモリ131の別領域に書き込み、これを新しい復元途中画像(fN(n+1)、fM(n+1)、fF(n+1))とする。近景画像、中間距離画像、遠景画像の画像復元処理に上記式(1)を用いるのは第1の実施形態と同様である。
図6では近景画像収束判定(終了判定)をS303にて行い、中間距離画像終了判定をS306にて行い、遠景画像終了判定をS309にて行う。S303、S306、S309における収束判定処理に関して詳しく説明する。システムコントローラ100は、‖gN(n+1)−gN(0)‖、‖gM(n+1)−gM(0)‖、‖gF(n+1)−gF(0)‖を計算し、それぞれ保持する。
次に、図3に示す距離画像の黒い近景部分はS304で保持したfN(n)を、中距離部分はS307で保持したfM(n)を、遠景部分はS310で保持したfF(n)(各nは異なる)を用いて合成する(S311)。そうすることで、全ての距離において劣化画像が復元された画像fを得ることが可能となる。
次に、本発明の第3の実施形態を説明する。本実施形態はPC側で劣化画像を復元する場合の例を示す。即ち、図1のカメラで撮影した画像をPCに送り、PC側で劣化画像を復元する例を示すものである。図8は本実施形態の処理を示すフローチャートである。なお、1.撮影準備時の動作、2.撮影時の動作、3.撮影後画像確認の動作はカメラ側の処理なので第1の実施形態と同様である。
2 距離計測部
98 十字パッド
99 シャッター
100 システムコントローラ
101 遠景被写体(実際は矢印で示す遙か左に存在する)
102 中間距離被写体
103 近景被写体
104R、104L、120 撮像レンズ
105R、105L、121 絞り
106R、106L、122 撮像デバイス
107R、107L、123 ADC(+AGC)
108 距離判定部
109 距離画像作成部
123 SDRAMメモリインターフェース
124 カメラ画像処理部
131 メモリ
132 画像縮小部
133 PSFテーブル
134 劣化画像復元部
135 画像処理効果判定部
140 コーデック
141 フラッシュメモリインターフェース
142 フラッシュメモリ
143 表示インターフェース
144 表示部
Claims (6)
- 劣化画像を復元する画像処理装置であって、
被写体との距離を入力する計測手段と、
前記被写体の画像を反復計算によって復元する画像復元手段と、
前記画像復元処理の終了判定を行う終了判定手段とを具備し、
前記計測手段は、前記距離に基づいて前記劣化画像の各画素が、複数の距離レイヤのうち何れの距離レイヤに属するかを決定し、
前記終了判定手段は、前記複数の距離レイヤのうち特定の距離レイヤのみ又は前記距離レイヤ毎に前記終了判定を行うことを特徴とする画像処理装置。 - 前記画像復元手段は、前記距離レイヤ毎に前記終了判定を行う場合には、前記距離レイヤ毎の復元画像を合成することを特徴とする請求項1に記載の画像処理装置。
- 更に、画像の修復条件を指定する手段と、復元された復元画像を提示する手段とを具備し、前記提示された復元画像を変更する場合には、再度、前記指定手段により前記画像の修復条件を指定して、劣化画像の修復を行うことを特徴とする請求項1又は2に記載の画像処理装置。
- 前記指定手段により前記画像の修復条件を指定して、再度、劣化画像を復元する際に、前記復元画像のうち劣化画像のままとする画像がある場合には、当該画像は劣化画像のままとし、他の距離レイヤの画像を復元処理することを特徴とする請求項3に記載の画像処理装置。
- 劣化画像を復元する画像処理方法であって、
被写体との距離を入力する計測工程と、
前記被写体の画像を反復計算によって復元する画像復元工程と、
前記画像復元処理の終了判定を行う終了判定工程とを具備し、
前記計測工程では、前記距離に基づいて前記劣化画像の各画素が、複数の距離レイヤのうち、何れの距離レイヤに属するかを決定し、
前記終了判定工程では、前記複数の距離レイヤのうち特定の距離レイヤのみ又は前記距離レイヤ毎に前記終了判定を行うことを特徴とする画像処理方法。 - コンピュータを請求項1乃至4の何れか1項に記載の画像処理装置として機能させるためのプログラム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008226976A JP5419403B2 (ja) | 2008-09-04 | 2008-09-04 | 画像処理装置 |
PCT/JP2009/065878 WO2010027102A1 (ja) | 2008-09-04 | 2009-09-04 | 画像処理装置 |
CN2009801347558A CN102144244B (zh) | 2008-09-04 | 2009-09-04 | 图像处理设备 |
US12/684,453 US8369576B2 (en) | 2008-09-04 | 2010-01-08 | Image processing apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008226976A JP5419403B2 (ja) | 2008-09-04 | 2008-09-04 | 画像処理装置 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2010061440A JP2010061440A (ja) | 2010-03-18 |
JP2010061440A5 JP2010061440A5 (ja) | 2011-10-06 |
JP5419403B2 true JP5419403B2 (ja) | 2014-02-19 |
Family
ID=41797261
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008226976A Active JP5419403B2 (ja) | 2008-09-04 | 2008-09-04 | 画像処理装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US8369576B2 (ja) |
JP (1) | JP5419403B2 (ja) |
CN (1) | CN102144244B (ja) |
WO (1) | WO2010027102A1 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9344736B2 (en) | 2010-09-30 | 2016-05-17 | Alcatel Lucent | Systems and methods for compressive sense imaging |
US9319578B2 (en) * | 2012-10-24 | 2016-04-19 | Alcatel Lucent | Resolution and focus enhancement |
JP6415179B2 (ja) * | 2014-08-20 | 2018-10-31 | キヤノン株式会社 | 画像処理装置、画像処理方法、および撮像装置並びにその制御方法 |
KR102313026B1 (ko) * | 2017-04-11 | 2021-10-15 | 현대자동차주식회사 | 차량 및 차량 후진 시 충돌방지 보조 방법 |
CN111784581A (zh) * | 2020-07-03 | 2020-10-16 | 苏州兴钊防务研究院有限公司 | 基于自归一化生成对抗网络的sar图像超分辨率重建方法 |
Family Cites Families (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5502570A (en) * | 1990-02-13 | 1996-03-26 | Canon Kabushiki Kaisha | Images reproducing method capable of skipping reproduction of collateral information during reproduction in a special mode |
US5544176A (en) * | 1990-02-13 | 1996-08-06 | Canon Kabushiki Kaisha | Information recording apparatus which eliminates unnecessary data before recording |
US5353063A (en) * | 1990-04-04 | 1994-10-04 | Canon Kabushiki Kaisha | Method and apparatus for processing and/or displaying image data based on control data received with the image data |
JPH05205048A (ja) | 1992-01-23 | 1993-08-13 | Sony Corp | 画像復元方法 |
JPH0787482A (ja) * | 1993-09-17 | 1995-03-31 | Fujitsu Ltd | 画像データの符号化方法及び復元方法並びに装置 |
US6636635B2 (en) * | 1995-11-01 | 2003-10-21 | Canon Kabushiki Kaisha | Object extraction method, and image sensing apparatus using the method |
JPH1032751A (ja) * | 1996-07-17 | 1998-02-03 | Canon Inc | 撮像装置及び画像処理装置 |
JPH09187038A (ja) * | 1995-12-27 | 1997-07-15 | Canon Inc | 3次元形状抽出装置 |
JPH11257951A (ja) * | 1998-03-09 | 1999-09-24 | Fuji Electric Co Ltd | 測距装置 |
US6933722B2 (en) * | 2000-07-05 | 2005-08-23 | Hitachi Medical Corporation | Magnetic resonance imaging device and gradient magnetic field coil used for it |
US7327890B2 (en) * | 2002-12-20 | 2008-02-05 | Eastman Kodak Company | Imaging method and system for determining an area of importance in an archival image |
WO2005038710A1 (ja) * | 2003-10-17 | 2005-04-28 | Matsushita Electric Industrial Co., Ltd. | 移動体動き算出方法および装置、並びにナビゲーションシステム |
JP4235539B2 (ja) | 2003-12-01 | 2009-03-11 | 独立行政法人科学技術振興機構 | 画像構成装置及び画像構成方法 |
JP2006119843A (ja) * | 2004-10-20 | 2006-05-11 | Olympus Corp | 画像生成方法およびその装置 |
JP4724826B2 (ja) | 2005-01-17 | 2011-07-13 | 国立大学法人東京工業大学 | 超解像処理のパラメータ設計方法 |
JP4518979B2 (ja) | 2005-03-03 | 2010-08-04 | ライトロン株式会社 | 微細な試料を可視化する装置と方法、微細な格子の乱れを可視化する装置と方法 |
US7511800B2 (en) * | 2005-11-28 | 2009-03-31 | Robert Bosch Company Limited | Distance measurement device with short range optics |
JP2007193508A (ja) * | 2006-01-18 | 2007-08-02 | Sanyo Electric Co Ltd | 画像処理装置及び画像処理プログラム |
US7961976B2 (en) * | 2006-09-01 | 2011-06-14 | Fujifilm Corporation | Image data restoration apparatus, imaging apparatus, image data restoration method and computer readable medium storing image data restoration program |
JP2008242658A (ja) * | 2007-03-26 | 2008-10-09 | Funai Electric Co Ltd | 立体物体の撮像装置 |
JP5099750B2 (ja) * | 2007-03-29 | 2012-12-19 | 独立行政法人放射線医学総合研究所 | 断層撮影装置の画像再構成方法、故障診断方法、断層撮影装置、及び、システムマトリクスの管理プログラム |
-
2008
- 2008-09-04 JP JP2008226976A patent/JP5419403B2/ja active Active
-
2009
- 2009-09-04 WO PCT/JP2009/065878 patent/WO2010027102A1/ja active Application Filing
- 2009-09-04 CN CN2009801347558A patent/CN102144244B/zh active Active
-
2010
- 2010-01-08 US US12/684,453 patent/US8369576B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2010061440A (ja) | 2010-03-18 |
US8369576B2 (en) | 2013-02-05 |
CN102144244B (zh) | 2013-06-26 |
CN102144244A (zh) | 2011-08-03 |
WO2010027102A1 (ja) | 2010-03-11 |
US20100111368A1 (en) | 2010-05-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5756099B2 (ja) | 撮像装置、画像処理装置、画像処理方法、および画像処理プログラム | |
JP6112824B2 (ja) | 画像処理方法および装置、プログラム。 | |
US20190208125A1 (en) | Depth Map Calculation in a Stereo Camera System | |
US8659672B2 (en) | Image processing apparatus and image pickup apparatus using same | |
JP5709911B2 (ja) | 画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置 | |
US10027909B2 (en) | Imaging device, imaging method, and image processing device | |
JP2022048221A (ja) | 画像処理方法、画像処理装置、画像処理システム、学習済みウエイトの製造方法、および、プログラム | |
JP6436783B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体 | |
JP5237978B2 (ja) | 撮像装置および撮像方法、ならびに前記撮像装置のための画像処理方法 | |
JP6603493B2 (ja) | 撮像装置、画像処理装置、撮像装置が実行する撮像方法、画像処理装置が実行する画像処理方法、及びプログラム | |
US20140211034A1 (en) | Image processing apparatus and method | |
JP6308748B2 (ja) | 画像処理装置、撮像装置及び画像処理方法 | |
JP5984493B2 (ja) | 画像処理装置、画像処理方法、撮像装置およびプログラム | |
JP2008271241A5 (ja) | ||
JP6223059B2 (ja) | 撮像装置、その制御方法およびプログラム | |
JP2020533883A (ja) | ダブルカメラベースの撮像のための方法および装置 | |
JP5419403B2 (ja) | 画像処理装置 | |
JP2014138290A (ja) | 撮像装置及び撮像方法 | |
JP5115297B2 (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
CN111698389A (zh) | 图像处理设备、摄像设备、图像处理方法以及存储介质 | |
JP2015109681A (ja) | 画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置 | |
JP2010239493A (ja) | 撮像装置および映像信号の補正処理方法 | |
JP2015109562A (ja) | 画像処理装置、撮像装置、制御方法、及びプログラム | |
JP6043381B2 (ja) | 撮像システム、撮像装置、制御方法及びプログラム | |
JP2020042486A (ja) | 画像処理装置、画像処理方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20100201 |
|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20100630 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110824 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20110824 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130129 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130326 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20131022 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20131119 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5419403 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |