JP6594101B2 - 画像処理装置、画像処理方法および画像処理プログラム - Google Patents
画像処理装置、画像処理方法および画像処理プログラム Download PDFInfo
- Publication number
- JP6594101B2 JP6594101B2 JP2015161901A JP2015161901A JP6594101B2 JP 6594101 B2 JP6594101 B2 JP 6594101B2 JP 2015161901 A JP2015161901 A JP 2015161901A JP 2015161901 A JP2015161901 A JP 2015161901A JP 6594101 B2 JP6594101 B2 JP 6594101B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- aperture value
- aperture
- image processing
- filter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 136
- 238000003672 processing method Methods 0.000 title claims description 7
- 238000003384 imaging method Methods 0.000 claims description 124
- 230000003287 optical effect Effects 0.000 claims description 81
- 238000000034 method Methods 0.000 claims description 62
- 238000012937 correction Methods 0.000 claims description 50
- 230000008569 process Effects 0.000 claims description 38
- 238000012546 transfer Methods 0.000 claims description 26
- 238000004590 computer program Methods 0.000 claims description 4
- 238000011084 recovery Methods 0.000 description 27
- 230000004075 alteration Effects 0.000 description 11
- 238000004364 calculation method Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 8
- 238000001514 detection method Methods 0.000 description 4
- 230000015556 catabolic process Effects 0.000 description 3
- 238000006731 degradation reaction Methods 0.000 description 3
- ORQBXQOJMQIAOY-UHFFFAOYSA-N nobelium Chemical compound [No] ORQBXQOJMQIAOY-UHFFFAOYSA-N 0.000 description 3
- 206010010071 Coma Diseases 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 230000006866 deterioration Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 230000010363 phase shift Effects 0.000 description 2
- 230000000717 retained effect Effects 0.000 description 2
- 238000001228 spectrum Methods 0.000 description 2
- 201000009310 astigmatism Diseases 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/81—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/815—Camera processing pipelines; Components thereof for controlling the resolution by using a single image
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
Description
PTF=tan-1(Im(OTF)/Re(OTF))
このように、撮像光学系(以下、単に光学系という)の光学伝達関数は、画像の振幅成分と位相成分に対して劣化を与えるため、劣化画像は被写体の各点がコマ収差のように非対称にぼけた状態になる。
「入力画像」
入力画像(第1の画像)は、撮像装置において撮像光学系により形成された被写体像を光電変換した撮像素子からの出力を用いて生成されたデジタル画像であり、例えばRGB色成分の情報を有するRAW画像である。入力画像は、レンズや光学フィルタ等の光学素子を含む撮像光学系の収差を含む光学伝達関数(OTF)により劣化した画像である。
[画像回復処理]
撮像装置により生成された入力画像(劣化画像)をg(x,y)とし、元の画像(劣化していない画像)をf(x,y)とし、光学伝達関数(OTF)のフーリエペアである点像分布関数(PSF)をh(x,y)とする場合、以下の式(1)が成り立つ。ただし、*はコンボリューション(畳み込み積分または積和)を示し、(x,y)は入力画像上の座標(位置)を示す。
g(x,y)=h(x,y)*f(x,y) …(1)
この式(1)をフーリエ変換して周波数面での表示形式に変換すると、以下の式(2)のように周波数ごとの積の形式になる。Hは点像分布関数(PSF)hをフーリエ変換して得られた光学伝達関数(OTF)である。G,Fはそれぞれ、g,fをフーリエ変換して得られた関数である。(u,v)は2次元周波数面での座標、すなわち周波数を示す。
G(u,v)=H(u,v)・F(u,v) …(2)
劣化画像から元の画像を得るためには、以下の式(3)ように、上記式(2)の両辺をHで除算すればよい。
G(u,v)/H(u,v)=F(u,v) …(3)
F(u,v)、すなわちG(u,v)/H(u,v)を逆フーリエ変換して実面に戻すことで、元の画像f(x,y)に相当する回復画像が得られる。
g(x,y)*R(x,y)=f(x,y) …(4)
式(4)中のR(x,y)が画像回復フィルタである。入力画像が2次元画像であるとき、一般に画像回復フィルタも該2次元画像の各画素に対応したタップ(セル)を有する2次元フィルタとなる。また、一般に画像回復フィルタのタップ数(セル数)が多いほど画像回復精度が向上するため、出力画像としての要求画質、画像処理装置としての画像処理能力、PSFの広がり幅等に応じて実現可能なタップ数が設定される。
G(u,v)=H(u,v)・F(u,v)+N(u,v) …(5a)
G(u,v)/H(u,v)=F(u,v)+N(u,v)/H(u,v) …(5b)
ノイズ成分が含まれる画像を画像回復する方法としては、例えば式(6)に示すウィナーフィルタのように画像信号とノイズ信号の強度比(SNR)に応じて回復度合いを制御する方法が知られている。
C>|H(u,v)|−|H(u,v)|2
になると画像回復フィルタのゲインが1倍以下となる。
C>|H(u,v)|−|H(u,v)|2
になると、画像回復フィルタのゲインが1倍以下となる。第1および第2の所定絞り値Th1,Th2は、撮像素子の画素ピッチ、撮像素子の前面に配置される光学ローパスフィルタの特性、画像回復フィルタの回復ゲイン(回復度合)の最大値および回復ゲインを制御するためのパラメータC等によって決定される。
回復画像3=回復画像1×α+回復画像2×(1−α)
によって回復画像3を生成する。
|F(k)−[γFT(1)+(1−γ)T]|
を最小とする、すなわちステップS201で算出した画像回復フィルタF(k)との差が最小となる[γFT(1)+(1−γ)T]が得られるγを算出する。ここで、Tは入力画像と出力画像とが一致するようなスルーフィルタを示す。
回復画像2=回復画像1×β+入力画像×(1−α)
によって回復画像2を生成する。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
102 撮像素子
108 記憶部
104 画像処理部
Claims (9)
- 撮像光学系を介した撮像により生成された画像に対して補正処理を行う画像処理装置であって、
前記撮像光学系の互いに異なる複数の絞り値に対応する複数のフィルタを記憶する記憶手段と、
前記記憶手段に記憶された前記複数のフィルタのうち、前記画像を撮像した際の絞り値に応じたフィルタを用いて、前記画像に対して回折補正を行う画像処理手段を有し、
前記記憶手段に記憶された前記複数のフィルタに対応する前記複数の絞り値は、前記画像を撮像する際に設定可能な絞り値のうちの、所定の範囲に含まれる絞り値であり、
前記画像処理手段は、
前記画像を撮像した際の絞り値が前記所定の範囲に含まれている場合には、前記複数のフィルタのうち、前記画像を撮像した際の絞り値に近い絞り値に対応するフィルタを用いて、前記画像に対して回折補正を行い、
前記画像を撮像した際の絞り値が前記所定の範囲に含まれていない場合には、前記絞り値の値に係わらず、前記複数のフィルタのうちの予め定められたフィルタを用いて、前記画像に対して回折補正を行うことを特徴とする画像処理装置。 - 前記所定の範囲は、第1の絞り値以上の複数の絞り値であり、
前記画像処理手段は、前記画像を撮像した際の絞り値が前記第1の絞り値よりも小さい場合には、前記第1の絞り値に対応するフィルタを用いて、前記画像に対して回折補正を行うことを特徴とする請求項1に記載の画像処理装置。 - 前記所定の範囲は、第2の絞り値以下の複数の絞り値であり、
前記画像処理手段は、前記画像を撮像した際の絞り値が前記第2の絞り値よりも大きい場合には、前記第2の絞り値に対応するフィルタを用いて、前記画像に対して回折補正を行うことを特徴とする請求項1または2に記載の画像処理装置。 - 前記画像処理手段は、前記画像を撮像した際の絞り値が前記第1の絞り値よりも小さい場合に、前記第1の絞り値に対応するフィルタを用いて前記画像に対して回折補正を行った後の画像と、該回折補正を行う前の前記画像を、加重加算することを特徴とする請求項2に記載の画像処理装置。
- 前記加重加算の割合は、前記画像を撮像した際の絞り値に応じて設定されることを特徴とする請求項4に記載の画像処理装置。
- 前記加重加算の割合は、前記画像を撮像した際の絞り値に応じて非線形に変化することを特徴とする請求項5に記載の画像処理装置。
- 前記複数のフィルタのそれぞれは、前記撮像光学系の光学伝達関数に基づいて生成されたものであることを特徴とする請求項1乃至6のいずれか1項に記載の画像処理装置。
- 撮像光学系を介した撮像により生成された画像に対して補正処理を行う画像処理方法であって、
記憶手段に記憶された、前記撮像光学系の互いに異なる複数の絞り値に対応する複数のフィルタのうち、前記画像を撮像した際の絞り値に応じたフィルタを用いて、前記画像に対して回折補正を行う画像処理工程を有し、
前記記憶手段に記憶された前記複数のフィルタに対応する前記複数の絞り値は、前記画像を撮像する際に設定可能な絞り値のうちの、所定の範囲に含まれる絞り値であり、
前記画像処理工程において、
前記画像を撮像した際の絞り値が前記所定の範囲に含まれている場合には、前記複数のフィルタのうち、前記画像を撮像した際の絞り値に近い絞り値に対応するフィルタを用いて、前記画像に対して回折補正を行い、
前記画像を撮像した際の絞り値が前記所定の範囲に含まれていない場合には、前記絞り値の値に係わらず、前記複数のフィルタのうちの予め定められたフィルタを用いて、前記画像に対して回折補正を行うことを特徴とする画像処理方法。 - コンピュータに、撮像光学系を介した撮像により生成された画像に対して補正処理を実行させるコンピュータプログラムであって、
前記補正処理は、記憶手段に記憶された、前記撮像光学系の互いに異なる複数の絞り値に対応する複数のフィルタのうち、前記画像を撮像した際の絞り値に応じたフィルタを用いて、前記画像に対して回折補正を行う画像処理工程を有し、
前記記憶手段に記憶された前記複数のフィルタに対応する前記複数の絞り値は、前記画像を撮像する際に設定可能な絞り値のうちの、所定の範囲に含まれる絞り値であり、
前記画像処理工程において、
前記画像を撮像した際の絞り値が前記所定の範囲に含まれている場合には、前記複数のフィルタのうち、前記画像を撮像した際の絞り値に近い絞り値に対応するフィルタを用いて、前記画像に対して回折補正を行い、
前記画像を撮像した際の絞り値が前記所定の範囲に含まれていない場合には、前記絞り値の値に係わらず、前記複数のフィルタのうちの予め定められたフィルタを用いて、前記画像に対して回折補正を行うことを特徴とする画像処理プログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015161901A JP6594101B2 (ja) | 2015-08-19 | 2015-08-19 | 画像処理装置、画像処理方法および画像処理プログラム |
US15/238,193 US9959605B2 (en) | 2015-08-19 | 2016-08-16 | Image processing apparatus, image capturing apparatus, and storage medium |
US15/939,629 US10217202B2 (en) | 2015-08-19 | 2018-03-29 | Image processing apparatus, image capturing apparatus, and storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015161901A JP6594101B2 (ja) | 2015-08-19 | 2015-08-19 | 画像処理装置、画像処理方法および画像処理プログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2017041727A JP2017041727A (ja) | 2017-02-23 |
JP2017041727A5 JP2017041727A5 (ja) | 2018-09-20 |
JP6594101B2 true JP6594101B2 (ja) | 2019-10-23 |
Family
ID=58157742
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015161901A Active JP6594101B2 (ja) | 2015-08-19 | 2015-08-19 | 画像処理装置、画像処理方法および画像処理プログラム |
Country Status (2)
Country | Link |
---|---|
US (2) | US9959605B2 (ja) |
JP (1) | JP6594101B2 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016002578A1 (ja) * | 2014-07-04 | 2016-01-07 | ソニー株式会社 | 画像処理装置および方法 |
JP6594101B2 (ja) * | 2015-08-19 | 2019-10-23 | キヤノン株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
US10274652B2 (en) * | 2016-02-05 | 2019-04-30 | Rambus Inc. | Systems and methods for improving resolution in lensless imaging |
CN109903244A (zh) * | 2019-02-21 | 2019-06-18 | 北京遥感设备研究所 | 一种实时红外图像复原方法 |
CN110475063B (zh) * | 2019-08-01 | 2021-03-16 | Oppo广东移动通信有限公司 | 图像采集方法和装置、及存储介质 |
JP7403279B2 (ja) * | 2019-10-31 | 2023-12-22 | キヤノン株式会社 | 画像処理装置および画像処理方法 |
JP2023139397A (ja) * | 2022-03-22 | 2023-10-04 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、プログラム、および記憶媒体 |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003172873A (ja) * | 2001-09-28 | 2003-06-20 | Olympus Optical Co Ltd | 補正データ作成方法及び撮像装置 |
JP4147033B2 (ja) * | 2002-01-18 | 2008-09-10 | オリンパス株式会社 | 内視鏡装置 |
US7289663B2 (en) * | 2002-07-24 | 2007-10-30 | Eastman Kodak Company | Producing an extended color gamut luminance-chrominance digital image from a captured image |
JP4115220B2 (ja) * | 2002-09-19 | 2008-07-09 | キヤノン株式会社 | 撮像装置 |
CN101778222B (zh) * | 2002-12-27 | 2012-06-13 | 株式会社尼康 | 图像处理装置 |
US7720302B2 (en) * | 2003-09-25 | 2010-05-18 | Fujifilm Corporation | Method, apparatus and program for image processing |
US8294807B2 (en) * | 2009-01-23 | 2012-10-23 | Ricoh Co., Ltd. | Imaging system with variable opto-mechanical system, aberrated optics and compensating filter bank |
JP5153846B2 (ja) | 2010-09-28 | 2013-02-27 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、及び、プログラム |
US8508649B2 (en) * | 2011-02-14 | 2013-08-13 | DigitalOptics Corporation Europe Limited | Compact distorted zoom lens for small angle of view |
TWI479453B (zh) * | 2011-05-31 | 2015-04-01 | Altek Corp | 產生淺景深影像的方法及裝置 |
JP5720586B2 (ja) * | 2012-01-19 | 2015-05-20 | コニカミノルタ株式会社 | 画像投映装置 |
DE112013004760B4 (de) * | 2012-09-27 | 2017-10-19 | Fujifilm Corporation | Bilderfassungsvorrichtung und Bildverarbeitungsverfahren |
JP5645981B2 (ja) * | 2013-02-01 | 2014-12-24 | キヤノン株式会社 | 撮像装置、画像処理装置、画像処理方法、画像処理プログラム、および、記憶媒体 |
JP5653464B2 (ja) | 2013-02-01 | 2015-01-14 | キヤノン株式会社 | 撮像装置、画像処理装置、画像処理方法、画像処理プログラム、および、記憶媒体 |
WO2014185209A1 (ja) * | 2013-05-13 | 2014-11-20 | 富士フイルム株式会社 | 混色率算出装置及び方法並びに撮像装置 |
CN105432068B (zh) * | 2013-08-01 | 2018-08-24 | 富士胶片株式会社 | 摄像装置、摄像方法及图像处理装置 |
WO2015053113A1 (ja) * | 2013-10-08 | 2015-04-16 | オリンパス株式会社 | 撮像装置及び電子機器 |
US9225889B1 (en) * | 2014-08-18 | 2015-12-29 | Entropix, Inc. | Photographic image acquisition device and method |
JP6594101B2 (ja) * | 2015-08-19 | 2019-10-23 | キヤノン株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
-
2015
- 2015-08-19 JP JP2015161901A patent/JP6594101B2/ja active Active
-
2016
- 2016-08-16 US US15/238,193 patent/US9959605B2/en active Active
-
2018
- 2018-03-29 US US15/939,629 patent/US10217202B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US20180218483A1 (en) | 2018-08-02 |
JP2017041727A (ja) | 2017-02-23 |
US9959605B2 (en) | 2018-05-01 |
US20170053390A1 (en) | 2017-02-23 |
US10217202B2 (en) | 2019-02-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6594101B2 (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
JP6327922B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP5409589B2 (ja) | 画像処理方法、画像処理プログラム、画像処理装置および撮像装置 | |
EP3093818B1 (en) | Image processing apparatus that performs image restoration processing, method of controlling the same, and storage medium | |
JP5868076B2 (ja) | 画像処理装置及び画像処理方法 | |
EP2557536B1 (en) | Optical transfer function based image restoration | |
JP5264968B2 (ja) | 画像処理装置、画像処理方法、撮像装置、および、画像処理プログラム | |
JP6045185B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2011211669A (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP6440766B2 (ja) | 画像処理方法、画像処理装置、撮像装置、プログラム、および、記憶媒体 | |
JP5653464B2 (ja) | 撮像装置、画像処理装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP6929141B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体 | |
JP6821526B2 (ja) | 画像処理方法、画像処理装置、撮像装置、および、プログラム | |
JP6562650B2 (ja) | 画像処理装置、撮像装置、画像処理方法および画像処理プログラム | |
JP5645981B2 (ja) | 撮像装置、画像処理装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP6559011B2 (ja) | 画像処理装置、および画像処理方法 | |
JP5611439B2 (ja) | 画像処理方法、画像処理装置、撮像装置、および、画像処理プログラム | |
JP6552375B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP6605009B2 (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラムおよび記録媒体 | |
JP7207893B2 (ja) | 撮像装置、レンズ装置 | |
JP2017041763A (ja) | 画像処理装置、および画像処理方法 | |
JP2016174263A (ja) | 動画撮影に好適な画像処理機能とそれを有する撮像装置、画像処理装置、画像処理方法、画像処理プログラム | |
JP2022161527A (ja) | 画像処理方法、画像処理装置、撮像装置およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180808 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180808 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190513 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190618 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190819 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190827 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190924 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6594101 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |