JP2019204225A - 画像処理装置、画像処理方法、及びプログラム - Google Patents
画像処理装置、画像処理方法、及びプログラム Download PDFInfo
- Publication number
- JP2019204225A JP2019204225A JP2018098058A JP2018098058A JP2019204225A JP 2019204225 A JP2019204225 A JP 2019204225A JP 2018098058 A JP2018098058 A JP 2018098058A JP 2018098058 A JP2018098058 A JP 2018098058A JP 2019204225 A JP2019204225 A JP 2019204225A
- Authority
- JP
- Japan
- Prior art keywords
- image
- component
- correction
- filter
- image processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims abstract description 99
- 238000003672 processing method Methods 0.000 title claims description 5
- 238000012937 correction Methods 0.000 claims abstract description 176
- 238000003384 imaging method Methods 0.000 claims abstract description 75
- 230000003287 optical effect Effects 0.000 claims abstract description 60
- 238000000034 method Methods 0.000 claims abstract description 55
- 230000008859 change Effects 0.000 claims abstract description 12
- 230000008569 process Effects 0.000 claims description 46
- 238000005315 distribution function Methods 0.000 claims description 13
- 230000015556 catabolic process Effects 0.000 claims description 12
- 238000006731 degradation reaction Methods 0.000 claims description 12
- 230000035945 sensitivity Effects 0.000 claims description 8
- 230000015572 biosynthetic process Effects 0.000 claims description 7
- 238000003786 synthesis reaction Methods 0.000 claims description 7
- 230000002194 synthesizing effect Effects 0.000 claims 1
- 230000003321 amplification Effects 0.000 abstract description 8
- 238000003199 nucleic acid amplification method Methods 0.000 abstract description 8
- 230000006866 deterioration Effects 0.000 abstract description 3
- 230000014509 gene expression Effects 0.000 description 81
- 238000010586 diagram Methods 0.000 description 20
- 238000004364 calculation method Methods 0.000 description 18
- 230000004075 alteration Effects 0.000 description 15
- 230000000694 effects Effects 0.000 description 13
- 238000013459 approach Methods 0.000 description 8
- 238000001514 detection method Methods 0.000 description 4
- 238000009826 distribution Methods 0.000 description 3
- 238000009499 grossing Methods 0.000 description 3
- 238000003702 image correction Methods 0.000 description 2
- 238000003707 image sharpening Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 230000001131 transforming effect Effects 0.000 description 2
- 206010010071 Coma Diseases 0.000 description 1
- 108010076504 Protein Sorting Signals Proteins 0.000 description 1
- 201000009310 astigmatism Diseases 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 125000001475 halogen functional group Chemical group 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- ORQBXQOJMQIAOY-UHFFFAOYSA-N nobelium Chemical compound [No] ORQBXQOJMQIAOY-UHFFFAOYSA-N 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000009827 uniform distribution Methods 0.000 description 1
- 230000003313 weakening effect Effects 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Facsimile Image Signal Circuits (AREA)
Abstract
Description
最初に、本実施形態の画像補正処理の原理を説明する。図1は、アンシャープマスク処理(画像鮮鋭化処理)による補正の概念図である。図1において、横軸は座標を示し、縦軸は画素値又は輝度値を示す。図1(A)において、実線は入力画像を示し、破線は入力画像をぼかした画像(ボケ画像)を示し、点線は鮮鋭化後の画像を示す。図1(B)は、補正成分を表す。
g(x,y)=f(x,y)+m×h(x,y) ・・・(1)
ここで、mは補正の強さを変化させるための調整係数である。調整係数mを変化させることで補正量を調整することができる。なお、調整係数mは、入力画像の位置によらない定数であってもよいし、入力画像の位置に応じて変化させてもよい。調整係数mを入力画像の位置に応じて異ならせることで、入力画像の位置に応じて補正量を調整することができる。また、調整係数mは、光学系の焦点距離、絞り値、又は被写体距離といった撮影条件に応じて異なる数であってもよい。また、式1は第1項と第2項を加算する形で表されるが、これは調整係数mが正の場合であり、調整係数mが負の場合は、式1は第1項と第2項を減算する形で表される。
h(x,y)=f(x,y)-f(x,y)*USM(x,y) ・・・(2)
ここで、「*」はコンボリューション(畳み込み積分、積和)を意味する。
h(x,y)=f(x,y)*(δ(x,y)-USM(x,y)) ・・・(3)
ここで、「δ」はデルタ関数(理想点像)である。デルタ関数とは、USM(x,y)とタップ数が等しく、中心の値が1でそれ以外が0で埋まっているデータである。
f(x,y)=I(x,y)*psf(x,y) ・・・(4)
撮像光学系が回転対称な共軸光学系である場合、画像の中心部に対応するPSFは回転対称となる。そのため、画像の中心部に対して回転対称なUSM(x,y)を適用することで、入力画像f(x,y)を元の画像I(x,y)に近づける鮮鋭化を行うことができる。補正成分h(x,y)は入力画像f(x,y)とボケ画像の差分値であるため、USM(x,y)として単純な平滑化フィルタではなく、PSFに近い形状のフィルタを使用することで入力画像f(x,y)を精度良く補正することができる。例えば、球面収差の影響で入力画像が劣化する場合、球面収差は入力画像に回転対称に影響を与えるが、ガウシアンフィルタのような平滑化フィルタは、球面収差の影響によるPSFとは分布の形状が異なる。そのため、入力画像が回転対称にぼける影響を低減する場合、PSFを使用することで入力画像を精度良く補正することができる。
G(u,v)=F(u,v)+m×H(u,v) ・・・(5)
ここで、H(u,v)は補正成分h(x,y)のフーリエ変換であり、G(u,v)及びF(u,v)はそれぞれ補正後の画像g(x,y)及び入力画像f(x,y)のフーリエ変換である。(u,v)は2次元周波数面での座標、即ち周波数である。
H(u,v)=F(u,v)-F(u,v)×U(u,v) ・・・(6)
ここで、U(u,v)は、ボケ画像生成フィルタであるUSM(x,y)のフーリエ変換である。
H(u,v)=F(u,v)×(1-U(u,v)) ・・・(7)
補正後の画像g(x,y)のフーリエ変換G(u,v)は、式5に式6を代入することで、以下の式8で表される。
G(u,v)=F(u,v)+m×{F(u,v)-F(u,v)×U(u,v)} ・・・(8)
また、補正後の画像g(x,y)のフーリエ変換G(u,v)は、式5に式7を代入することで、以下の式9で表される。
G(u,v)=F(u,v)+m×F(u,v)×{1-U(u,v)} ・・・(9)
ここで、式9は、以下の式のように変形される。
G(u,v)=F(u,v)×{1+m×(1-U(u,v))} ・・・(10)
式8から式10は、処理する順序等が異なるものの、数式の変形により導出できるため、いずれも等価な関係にある。式10の括弧{}の部分は、アンシャープマスク処理前後の周波数特性の変化に対応する。即ち、式10の括弧{}の絶対値は、アンシャープマスク処理で使用するフィルタのゲイン(鮮鋭化度合い)であり、アンシャープマスク処理の周波数空間における補正効果を表す。
G(u,v)=(F(u,v)+N(u,v))×{1+m×(1-U(u,v))} ・・・(11)
ここで、N(u,v)は、ノイズ成分である。式11から理解できるように、ノイズ成分を含む入力画像に対してアンシャープマスク処理を行うと、入力画像f(x,y)のフーリエ変換F(u,v)とノイズ成分N(u,v)の両方に括弧{}の部分がかかる。また、入力画像f(x,y)のフーリエ変換F(u,v)は、式4をフーリエ変換することで取得され、撮影前の元の画像I(x,y)のフーリエ変換と撮像光学系のOTFの積である。振幅成分MTFがゼロに近づく高周波側では、OTFの実部及び虚部はゼロに近づくため、入力画像f(x,y)のフーリエ変換F(u,v)も同様にゼロに近づく。
H(u,v)=(F(u,v)+N(u,v))×(1-U(u,v)) ・・・(12)
ここで、図7は、式12の(1−U(u,v))の周波数特性の例を示す図である。(1−U(u,v))は、低周波側から高周波側にかけて増加する曲線であり、ハイパスフィルタの特性を示す。式12において、ノイズ成分N(u,v)に(1−U(u,v))がかかることで、補正成分H(u,v)は高周波側が増幅されたノイズ成分を含むことになる。この増幅されたノイズ成分を含む補正成分が、アンシャープマスク処理では式1で表したように入力画像に加算されることで、補正後の画像にノイズ増加が発生する。
h(x,y)=f(x,y)*(δ(x,y)-USM(x,y))*LPF(x,y) ・・・(13)
ここで、図8は、ローパスフィルタLPF(x,y)の周波数特性の例を示す図である。このようなローパスフィルタを補正成分に適用することで、補正成分中のノイズ成分を抑制することができる。
G(u,v)=F(u,v)×{1+m×(1-U(u,v))×L(u,v)} ・・・(14)
ここで、式14に基づくアンシャープマスク処理を実行した後の振幅成分MTFは図6の実線で表され、式14に基づくゲインGaは図5の実線で表される。
g(x,y)=f(x,y)+m×{f(x,y)*(δ(x,y)-PSF(x,y))*LPF(x,y)} ・・・(15)
また、式15は、式16又は式17に変形することができる。
g(x,y)=f(x,y)+m×{f(x,y)*LPF(x,y)-f(x,y)*PSF(x,y)*LPF(x,y)}・・・(16)
g(x,y)=f(x,y)*{δ(x,y)+m×(δ(x,y)-PSF(x,y))*LPF(x,y)} ・・・(17)
なお、PSFは、光学系を介して形成される像の像高、光学系の焦点距離、F値、及び被写体距離を含む撮影条件ごとに異なる。以下では撮影条件として像高を例に説明を行っているが、光学系の焦点距離、F値、及び撮影距離に応じて異なる収差情報を取得し、それに基づいてボケ画像生成フィルタを生成してもよい。
C(x,y)=δ(x,y)+m×(δ(x,y)-PSF(x,y))*LPF(x,y) ・・・(18)
Fn=F0×(1-d0)+F2×d2 ・・・(19)
式19に示すような補間処理を行うことで、各領域内の任意の像高における補正フィルタを生成することができる。このように補間処理を行って補正フィルタを生成することで、像高に対して連続的に補正フィルタを変化させることができる。
fp(x,y)=f(x,y)*(δ(x,y)-PSF(x,y)) ・・・(20)
fpl(x,y)=f(x,y)*(δ(x,y)-PSF(x,y))*LPF(x,y) ・・・(21)
g(x,y)=f(x,y)+m×fpl(x,y) ・・・(22)
式22に示すように、PSFに基づいて生成したフィルタとローパスフィルタとを入力画像に重畳することにより得られる画像fpl(x,y)と入力画像f(x,y)とを合成することで、補正画像の生成が可能である。
fl(x,y)=f(x,y)*LPF(x,y) ・・・(23)
fp'(x,y)=f(x,y)*PSF(x,y) ・・・(24)
fpl'(x,y)=fp’(x,y)*LPF(x,y)} ・・・(25)
g(x,y)=f(x,y)+m×{fl(x,y)-fpl'(x,y)} ・・・(26)
式26に示すように、PSFに基づいて生成したフィルタとローパスフィルタとを入力画像に重畳することにより得られる画像fpl’(x,y)と入力画像f(x,y)とを合成することで、補正画像の生成が可能である。
次に、第2の実施形態について説明する。本実施形態における撮像装置100の基本的な構成は、第1の実施形態と同様である(図9及び図17参照)。以下、主に第1の実施形態と異なる点について説明する。
C(x,y)=δ(x,y)+m×{(1-w)×(δ(x,y)-PSF(x,y))
+w×(δ(x,y)-PSF(x,y))*LPF(x,y)} ・・・(27)
式27において、調整係数wは、ローパスフィルタによる高周波側のゲインの調整強度を制御するための係数である。
g(x,y)=f(x,y)+m×{(1-w)×fp(x,y)+w×fpl(x,y)} ・・・(28)
ここで、fp(x,y)、fpl(x,y)は、それぞれ式20、式21に示したものである。
g(x,y)=f(x,y)+m×{(1-w)×(f(x,y)-fp'(x,y))
+w×(fl(x,y)-fpl'(x,y)} ・・・(29)
ここで、fl(x,y)、fp’(x,y)、fpl’(x,y)は、それぞれ式23、式24、式25で示したものである。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
Claims (11)
- 撮像光学系の点像強度分布関数に起因する画質劣化を補正する補正処理を入力画像に適用することにより補正画像を生成する画像処理手段を備え、
前記補正画像に含まれる前記補正処理に由来する補正成分が、前記入力画像に前記点像強度分布関数を適用した場合に前記入力画像に生じる変化に対応する第1の成分に対してローパスフィルタを適用した場合に得られる第2の成分に少なくとも部分的に基づく
ことを特徴とする画像処理装置。 - 前記画像処理手段は、
デルタ関数と前記点像強度分布関数との差に対応する第1の中間フィルタに前記ローパスフィルタを適用した場合に得られる第2の中間フィルタに少なくとも部分的に基づく補正フィルタを生成するフィルタ生成手段と、
前記補正フィルタを前記入力画像に適用するフィルタ適用手段と、
を含むことを特徴とする請求項1に記載の画像処理装置。 - 前記画像処理手段は、
デルタ関数と前記点像強度分布関数との差に対応するフィルタを前記入力画像に適用することにより前記第1の成分を取得し、
前記ローパスフィルタを前記第1の成分に適用することにより前記第2の成分を取得し、
前記第2の成分、又は前記第2の成分に所定の係数を乗じることにより得られる成分を、前記入力画像に加算する
ことを特徴とする請求項1に記載の画像処理装置。 - 前記補正成分が、前記第1の成分と前記第2の成分とを所定の合成率で合成した場合に得られる第3の成分に少なくとも部分的に基づく
ことを特徴とする請求項1に記載の画像処理装置。 - 前記画像処理手段は、
デルタ関数と前記点像強度分布関数との差に対応する第1の中間フィルタと、前記ローパスフィルタを前記第1の中間フィルタに適用した場合に得られる第2の中間フィルタとを前記所定の合成率で合成した場合に得られる第3の中間フィルタに少なくとも部分的に基づく補正フィルタを生成するフィルタ生成手段と、
前記補正フィルタを前記入力画像に適用するフィルタ適用手段と、
を含むことを特徴とする請求項4に記載の画像処理装置。 - 前記画像処理手段は、
デルタ関数と前記点像強度分布関数との差に対応するフィルタを前記入力画像に適用することにより前記第1の成分を取得し、
前記ローパスフィルタを前記第1の成分に適用することにより前記第2の成分を取得し、
前記第1の成分と前記第2の成分とを前記所定の合成率で合成することにより第3の成分を取得し、
前記第3の成分、又は前記第3の成分に所定の係数を乗じることにより得られる成分を、前記入力画像に加算する
ことを特徴とする請求項4に記載の画像処理装置。 - 前記入力画像の撮像時のISO感度に基づいて、前記ISO感度が第1の値である場合に、前記第1の成分に対する前記第2の成分の比率が、前記ISO感度が前記第1の値より小さい第2の値である場合よりも大きくなるように、前記所定の合成率を決定する決定手段を更に備える
ことを特徴とする請求項4乃至6のいずれか1項に記載の画像処理装置。 - 前記ローパスフィルタは、前記点像強度分布関数に少なくとも部分的に基づく
ことを特徴とする請求項1乃至7のいずれか1項に記載の画像処理装置。 - 前記入力画像を生成する撮像手段を更に備える
ことを特徴とする請求項1乃至8のいずれか1項に記載の画像処理装置。 - 画像処理装置が実行する画像処理方法であって、
撮像光学系の点像強度分布関数に起因する画質劣化を補正する補正処理を入力画像に適用することにより補正画像を生成する画像処理工程を備え、
前記補正画像に含まれる前記補正処理に由来する補正成分が、前記入力画像に前記点像強度分布関数を適用した場合に前記入力画像に生じる変化に対応する第1の成分に対してローパスフィルタを適用した場合に得られる第2の成分に少なくとも部分的に基づく
ことを特徴とする画像処理方法。 - コンピュータを、請求項1乃至8のいずれか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018098058A JP7101539B2 (ja) | 2018-05-22 | 2018-05-22 | 画像処理装置、画像処理方法、及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018098058A JP7101539B2 (ja) | 2018-05-22 | 2018-05-22 | 画像処理装置、画像処理方法、及びプログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2019204225A true JP2019204225A (ja) | 2019-11-28 |
JP2019204225A5 JP2019204225A5 (ja) | 2021-07-26 |
JP7101539B2 JP7101539B2 (ja) | 2022-07-15 |
Family
ID=68727043
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018098058A Active JP7101539B2 (ja) | 2018-05-22 | 2018-05-22 | 画像処理装置、画像処理方法、及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7101539B2 (ja) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0738780A (ja) * | 1993-07-22 | 1995-02-07 | Matsushita Electric Ind Co Ltd | 画像輪郭強調器 |
JP2010028178A (ja) * | 2008-07-15 | 2010-02-04 | Victor Co Of Japan Ltd | 画質改善装置及び方法 |
JP2010219797A (ja) * | 2009-03-16 | 2010-09-30 | Fujitsu Semiconductor Ltd | エッジ強調画像処理装置 |
JP2015097380A (ja) * | 2013-10-09 | 2015-05-21 | キヤノン株式会社 | 画像処理方法およびそれを用いた撮像装置、画像処理装置、画像処理プログラム |
JP2017163282A (ja) * | 2016-03-08 | 2017-09-14 | キヤノン株式会社 | 画像処理装置、光学機器、画像処理方法、画像処理プログラム、および記録媒体 |
-
2018
- 2018-05-22 JP JP2018098058A patent/JP7101539B2/ja active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0738780A (ja) * | 1993-07-22 | 1995-02-07 | Matsushita Electric Ind Co Ltd | 画像輪郭強調器 |
JP2010028178A (ja) * | 2008-07-15 | 2010-02-04 | Victor Co Of Japan Ltd | 画質改善装置及び方法 |
JP2010219797A (ja) * | 2009-03-16 | 2010-09-30 | Fujitsu Semiconductor Ltd | エッジ強調画像処理装置 |
JP2015097380A (ja) * | 2013-10-09 | 2015-05-21 | キヤノン株式会社 | 画像処理方法およびそれを用いた撮像装置、画像処理装置、画像処理プログラム |
JP2017163282A (ja) * | 2016-03-08 | 2017-09-14 | キヤノン株式会社 | 画像処理装置、光学機器、画像処理方法、画像処理プログラム、および記録媒体 |
Also Published As
Publication number | Publication date |
---|---|
JP7101539B2 (ja) | 2022-07-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9747672B2 (en) | Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium | |
JP6327922B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
US8798389B2 (en) | Image processing method, image processing apparatus, and image pickup apparatus for correcting degradation component of image | |
JP5991749B2 (ja) | 画像処理装置及び方法 | |
JP6045185B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
US10062153B2 (en) | Image processing apparatus, image pickup apparatus, image processing method, and storage medium | |
JP6071974B2 (ja) | 画像処理方法、画像処理装置、撮像装置および画像処理プログラム | |
JP6234623B2 (ja) | 画像処理方法およびそれを用いた撮像装置、画像処理装置、画像処理プログラム | |
JP6440766B2 (ja) | 画像処理方法、画像処理装置、撮像装置、プログラム、および、記憶媒体 | |
JP6071966B2 (ja) | 画像処理方法およびそれを用いた撮像装置、画像処理装置、画像処理プログラム | |
CN111988517B (zh) | 图像处理装置、镜头装置和图像处理方法 | |
JP6768312B2 (ja) | 画像処理装置、光学機器、画像処理方法、画像処理プログラム、および記録媒体 | |
JP6562650B2 (ja) | 画像処理装置、撮像装置、画像処理方法および画像処理プログラム | |
CN112073603B (zh) | 图像处理设备、摄像设备、图像处理方法和存储介质 | |
JP7101539B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP6559011B2 (ja) | 画像処理装置、および画像処理方法 | |
JP6605009B2 (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラムおよび記録媒体 | |
US9854169B2 (en) | Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium | |
JP2015198380A (ja) | 画像処理装置、撮像装置、画像処理プログラム、および画像処理方法 | |
JP7207893B2 (ja) | 撮像装置、レンズ装置 | |
JP5418258B2 (ja) | 撮像装置および画像処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20210103 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210113 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210512 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210512 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220422 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220513 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220520 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220606 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220705 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7101539 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |