JP2017050662A - 画像処理装置、撮像装置および画像処理プログラム - Google Patents
画像処理装置、撮像装置および画像処理プログラム Download PDFInfo
- Publication number
- JP2017050662A JP2017050662A JP2015171719A JP2015171719A JP2017050662A JP 2017050662 A JP2017050662 A JP 2017050662A JP 2015171719 A JP2015171719 A JP 2015171719A JP 2015171719 A JP2015171719 A JP 2015171719A JP 2017050662 A JP2017050662 A JP 2017050662A
- Authority
- JP
- Japan
- Prior art keywords
- image
- imaging
- defocus
- image processing
- correction information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 83
- 238000003384 imaging method Methods 0.000 title claims description 100
- 238000012937 correction Methods 0.000 claims abstract description 54
- 230000003287 optical effect Effects 0.000 claims abstract description 45
- 238000012546 transfer Methods 0.000 claims abstract description 22
- 238000000034 method Methods 0.000 claims description 23
- 238000011084 recovery Methods 0.000 claims description 20
- 238000006243 chemical reaction Methods 0.000 claims description 17
- 230000008569 process Effects 0.000 claims description 12
- 238000004590 computer program Methods 0.000 claims description 3
- 230000006870 function Effects 0.000 description 22
- 210000001747 pupil Anatomy 0.000 description 16
- 230000004075 alteration Effects 0.000 description 8
- 238000009826 distribution Methods 0.000 description 7
- 238000004364 calculation method Methods 0.000 description 6
- 230000008859 change Effects 0.000 description 4
- 230000015556 catabolic process Effects 0.000 description 3
- 238000006731 degradation reaction Methods 0.000 description 3
- 230000006866 deterioration Effects 0.000 description 3
- 238000002360 preparation method Methods 0.000 description 3
- 230000000717 retained effect Effects 0.000 description 3
- 206010010071 Coma Diseases 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 238000003860 storage Methods 0.000 description 2
- 230000001131 transforming effect Effects 0.000 description 2
- 101001128142 Homo sapiens NALCN channel auxiliary factor 1 Proteins 0.000 description 1
- 102100031891 NALCN channel auxiliary factor 1 Human genes 0.000 description 1
- 201000009310 astigmatism Diseases 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000005520 cutting process Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000004907 flux Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000000056 organ Anatomy 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
Classifications
-
- G06T5/73—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration by the use of local operators
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/81—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/61—Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
- H04N25/615—Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4" involving a transfer function modelling the optical system, e.g. optical transfer function [OTF], phase transfer function [PhTF] or modulation transfer function [MTF]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10052—Images from lightfield camera
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20048—Transform domain processing
- G06T2207/20056—Discrete and fast Fourier transform, [DFT, FFT]
Abstract
【課題】保持すべきデータ量を削減しつつ、撮像画像のデフォーカス領域でも良好な画像回復処理を行う。【解決手段】画像処理装置16は、撮像により生成された第1の画像および該第1の画像でのデフォーカス領域に対して合焦した第2の画像とを取得し、上記撮像における光学伝達関数に関する情報を取得し、第1の画像および第2の画像を用いて、光学伝達関数に関する補正に用いる補正情報を生成し、光学伝達関数に関する情報および補正情報を用いて、第1の画像に対する画像回復処理を行う。【選択図】図1
Description
本発明は、撮像により生成された画像に対して画像処理を行う画像処理技術に関する。
デジタルカメラ等の撮像装置により得られた画像は、撮像光学系の球面収差、コマ収差、像面湾曲および非点収差等の諸収差によって画質が劣化としている。これらの収差は、点像分布関数(Point Spread Function:以下、PSFという)により表すことができる。PSFをフーリエ変換することにより得られる光学伝達関数(Optical Transfer Function:以下、OTFという)は、収差の周波数成分の情報であり、複素数で表される。光学伝達関数(OTF)の絶対値、すなわち振幅成分を、MTF(Modulation Transfer Function)といい、位相成分をPTF(Phase Transfer Function)という。MTFおよびPTFはそれぞれ、収差による画像劣化の振幅成分および位相成分の周波数特性である。
撮像光学系のOTFは撮像により生成される画像のMTFとPTFに影響(劣化)を与えるため、該画像は各点がコマ収差のように非対称にぼけた劣化画像になる。さらに、画像が有する色成分(赤、青、緑等)ごとにPSFが異なるため、色成分ごとに異なるぼけが発生し、劣化画像は色が滲んだような画像になる。
これら画像のぼけ(劣化)を補正する方法として、撮像光学系のOTFの情報を用いるものが知られている。この方法は、画像回復や画像復元とも呼ばれており、以下、この撮像光学系のOTFの情報を用いて劣化画像を補正(低減)する処理を画像回復処理と称する。そして、詳細は後述するが、画像回復処理の方法の1つとして、光学伝達関数の逆特性を有する実空間の画像回復フィルタを入力画像に対して畳み込む(コンボリューション)方法が知られている。
画像回復処理を効果的に行うためには、撮像光学系のより正確なOTFを得る必要がある。OTFを得る方法は、例えば、撮像光学系の設計値の情報があれば、その情報から計算によって求めることが可能である。また、点光源を撮像し、その強度分布にフーリエ変換を施すことでも求めることが可能である。
ただし、OTFは、撮像条件、すなわち撮像光学系の絞り値や焦点距離(ズーム状態)等に応じて変化するのに加えて、撮像面上での像高によっても変化する。さらに、OTFは被写体に対する撮像光学系の焦点状態によっても変化する。このため、画像回復処理において用いるべき画像回復フィルタは、画像内での位置(像高)や画像内に含まれる被写体までの距離(つまりは撮像光学系の焦点状態)によって異なる。仮に画像全体に同じ画像回復フィルタを適用すると、像高や焦点状態に応じたOTFの違いによって画像回復の特性が合わない部分領域に偽色が発生する等の弊害が生じる。このため、劣化画像の全体に対して良好な画像回復処理を行うためには、劣化画像の部分領域ごとに最適な画像回復フィルタを適用する必要がある。
しかし、劣化画像の部分領域ごとに最適な画像回復フィルタを生成すると、その生成のために保持すべきOTFのデータ量が膨大になる。特許文献1には、撮像条件や像高に応じたOTFを再構成するための係数データを保持することで、保持すべきデータ量を削減する方法が開示されている。しかし、このような係数データを用いたとしても、すべての像高や焦点状態ごとにOTFを再構成するのでは演算量が大きくなる。
一方、特許文献2には、撮像素子の1つの画素が1つのマイクロレンズと複数に分割された光電変換部とにより構成された撮像装置が開示されている。分割された光電変換部は、1つのマイクロレンズを介して撮像光学系の射出瞳のうち互いに異なる部分領域(部分瞳領域)からの光束を受光する。これらの分割された光電変換部から出力された光電変換信号を用いることで、複数の部分瞳領域を通した互いに視差を有する複数の視差画像を生成することができる。このように生成された複数の視差画像を用いて、光強度の空間分布および角度分布情報であるLightField(LF)データを取得することができる。そして、このLFデータを用いれば、複数の視差画像の撮像時の撮像面とは異なる仮想結像面にて合焦した画像を生成することが可能である。
また、特許文献3には、上述した分割された光電変換部からの光電変換信号を全て加算することによって、1つの撮像画像を生成する撮像装置が開示されている。
上述したように、劣化画像におけるすべての像高においてそこでの焦点状態に最適な画像回復フィルタを生成するためには、保持すべきOTFのデータが膨大になったり演算量が増大したりするという問題がある。
本発明は、保持すべきデータ量を削減しつつ、画像内での部分領域ごとの焦点状態に応じた画像回復処理を行えるようにした画像処理装置および撮像装置等を提供する。
本発明の一側面としての画像処理装置は、撮像により生成された第1の画像および該第1の画像でのデフォーカス領域に対して合焦した第2の画像とを取得する画像取得手段と、上記撮像における光学伝達関数に関する情報を取得する関数情報取得手段と、第1の画像および第2の画像を用いて、光学伝達関数に関する補正に用いる補正情報を生成する補正情報生成手段と、光学伝達関数に関する情報および補正情報を用いて、第1の画像に対する画像回復処理を行う回復処理手段とを有することを特徴とする。
なお、上記画像処理装置と、撮像により画像を生成する撮像手段とを有する撮像装置も、本発明の他の一側面を構成する。
また、本発明の他の一側面としての画像処理プログラムは、コンピュータを動作させるコンピュータプログラムであって、該コンピュータに、撮像により生成された第1の画像および該第1の画像でのデフォーカス領域に対して合焦した第2の画像とを取得させ、上記撮像における光学伝達関数に関する情報を取得させ、第1の画像および第2の画像を用いて、光学伝達関数に関する補正に用いる補正情報を生成させ、光学伝達関数に関する情報および補正情報を用いて、第1の画像に対する画像回復処理を行わせることを特徴とする。
本発明によれば、保持すべきデータ量を削減しつつ、第1の画像におけるデフォーカス領域においても良好な画像回復処理を行うことができる。
以下、本発明の実施例について図面を参照しながら説明する。
まず、以下に説明する実施例にて用いる用語の定義と画像回復処理について説明する。
「入力画像」
入力画像(第1の画像)は、撮像装置において撮像光学系により形成された被写体像を光電変換した撮像素子からの出力を用いて生成されたデジタル画像であり、例えばRGB色成分の情報を有するRAW画像である。入力画像は、レンズや光学フィルタ等の光学素子を含む撮像光学系の収差を含む光学伝達関数(以下、OTFという)により劣化した画像である。
「入力画像」
入力画像(第1の画像)は、撮像装置において撮像光学系により形成された被写体像を光電変換した撮像素子からの出力を用いて生成されたデジタル画像であり、例えばRGB色成分の情報を有するRAW画像である。入力画像は、レンズや光学フィルタ等の光学素子を含む撮像光学系の収差を含む光学伝達関数(以下、OTFという)により劣化した画像である。
撮像光学系は、曲率を有するミラー(反射面)を含んでもよい。また、撮像光学系は、撮像装置に対して着脱(交換)が可能であってもよい。撮像装置において、撮像素子および該撮像素子の出力を用いて入力画像を生成する信号処理部により撮像系が構成される。撮像素子は、CMOSセンサやCCDセンサ等の光電変換素子により構成される。
入力画像や出力画像には、撮像光学系の焦点距離および絞り値や被写体距離(または撮像距離)等の撮像条件や、入力画像を補正するための各種補正情報が付帯されていてもよい。
[画像回復処理]
撮像装置により生成された入力画像(劣化画像)をg(x,y)とし、元の画像(劣化していない画像)をf(x,y)とし、光学伝達関数(以下、OTFという)のフーリエペアである点像分布関数(以下、PSFという)をh(x,y)とする。この場合、以下の式(1)が成り立つ。ただし、*はコンボリューション(畳み込み積分または積和)を示し、(x,y)は入力画像上の座標(位置)を示す。
g(x,y)=h(x,y)*f(x,y) …(1)
この式(1)をフーリエ変換して周波数面での表示形式に変換すると、以下の式(2)のように周波数ごとの積の形式になる。H(u,v)はPSFであるh(x,y)をフーリエ変換して得られたOTFである。G(u,v),F(u,v)はそれぞれ、g(x,y),f(x,y)をフーリエ変換して得られた関数である。(u,v)は2次元周波数面での座標、すなわち周波数を示す。
G(u,v)=H(u,v)・F(u,v) …(2)
劣化画像から元の画像を得るためには、以下の式(3)ように、上記式(2)の両辺をH(u,v)で除算すればよい。
G(u,v)/H(u,v)=F(u,v) …(3)
F(u,v)、すなわちG(u,v)/H(u,v)を逆フーリエ変換して実面に戻すことで、元の画像f(x,y)に相当する回復画像が得られる。
[画像回復処理]
撮像装置により生成された入力画像(劣化画像)をg(x,y)とし、元の画像(劣化していない画像)をf(x,y)とし、光学伝達関数(以下、OTFという)のフーリエペアである点像分布関数(以下、PSFという)をh(x,y)とする。この場合、以下の式(1)が成り立つ。ただし、*はコンボリューション(畳み込み積分または積和)を示し、(x,y)は入力画像上の座標(位置)を示す。
g(x,y)=h(x,y)*f(x,y) …(1)
この式(1)をフーリエ変換して周波数面での表示形式に変換すると、以下の式(2)のように周波数ごとの積の形式になる。H(u,v)はPSFであるh(x,y)をフーリエ変換して得られたOTFである。G(u,v),F(u,v)はそれぞれ、g(x,y),f(x,y)をフーリエ変換して得られた関数である。(u,v)は2次元周波数面での座標、すなわち周波数を示す。
G(u,v)=H(u,v)・F(u,v) …(2)
劣化画像から元の画像を得るためには、以下の式(3)ように、上記式(2)の両辺をH(u,v)で除算すればよい。
G(u,v)/H(u,v)=F(u,v) …(3)
F(u,v)、すなわちG(u,v)/H(u,v)を逆フーリエ変換して実面に戻すことで、元の画像f(x,y)に相当する回復画像が得られる。
ここで、H−1(u,v)を逆フーリエ変換したものをRとすると、以下の式(4)のように実面での画像に対するコンボリューション処理を行うことで、同様に元の画像f(x,y)である回復画像を得ることができる。
g(x,y)*R(x,y)=f(x,y) …(4)
式(4)中のR(x,y)が画像回復フィルタである。入力画像が2次元画像であるとき、一般に画像回復フィルタも該2次元画像の各画素に対応したタップ(セル)を有する2次元フィルタとなる。また、一般に画像回復フィルタのタップ数(セル数)が多いほど画像回復精度が向上するため、出力画像としての要求画質、画像処理装置としての画像処理能力、PSFの広がり幅等に応じて実現可能なタップ数が設定される。
g(x,y)*R(x,y)=f(x,y) …(4)
式(4)中のR(x,y)が画像回復フィルタである。入力画像が2次元画像であるとき、一般に画像回復フィルタも該2次元画像の各画素に対応したタップ(セル)を有する2次元フィルタとなる。また、一般に画像回復フィルタのタップ数(セル数)が多いほど画像回復精度が向上するため、出力画像としての要求画質、画像処理装置としての画像処理能力、PSFの広がり幅等に応じて実現可能なタップ数が設定される。
画像回復フィルタは、少なくとも収差の特性を反映している必要があるため、従来の水平垂直各3タップ程度のエッジ強調フィルタ(ハイパスフィルタ)等とは全く異なる。また、画像回復フィルタは、OTFに基づいて生成されるため、劣化画像(入力画像)における振幅成分と位相成分の劣化をともに高精度に補正することができる。
ただし、実際の画像にはノイズ成分が含まれる。このため、上記のようにOTFの完全な逆数をとって作成した画像回復フィルタを用いると、劣化画像が回復されるだけでなくノイズ成分が大幅に増幅されてしまう。これは、入力画像の振幅成分にノイズの振幅が付加されている状態に対して撮像光学系のMTF(振幅成分)を全周波数にわたって1に戻すようにMTFを持ち上げるためである。撮像光学系による振幅劣化であるMTFは1に戻るが、同時にノイズ成分のパワースペクトルも持ち上がってしまい、結果的にMTFを持ち上げる度合い、すなわち回復ゲインに応じてノイズが増幅されてしまう。したがって、ノイズ成分が含まれる入力画像からは鑑賞用画像として良好な回復画像が得られない。
ノイズ成分が含まれる画像を画像回復する方法としては、例えば式(5)に示すウィナーフィルタ(Wiener filter)のように画像信号とノイズ信号の強度比(SNR)に応じて回復度合いを制御する方法が知られている。
M(u,v)はウィナーフィルタの周波数特性を示し、|H(u,v)|はOTFの絶対値(MTF)を示す。後述する実施例では、式(5)のM(u,v)が画像回復フィルタの周波数特性を示す。この方法は、周波数ごとに、MTFが小さいほど回復ゲインを抑制し、MTFが大きいほど回復ゲインを強くするものである。一般に、撮像光学系のMTFは、低周波数側が高く、高周波数側が低くなるため、実質的に画像信号の高周波数側の回復ゲインを抑制する方法となる。
図1には、本発明の実施例である撮像装置としてのデジタルカメラ(以下、単にカメラとう)100の構成を示している。カメラ100は、撮像画像の取得が可能であるとともに互いに視差を有する複数の視差画像を同時に取得可能な撮像素子12を備えている。
10は撮像光学系(以下、撮像レンズという)であり、撮像素子12の撮像面上に光学像(被写体像)を形成する。撮像素子12は、CMOSセンサ等により構成され、被写体像を電気信号に変換してアナログ撮像信号を出力する。14は撮像素子12から出力されたアナログ撮像信号をデジタル撮像信号に変換するA/D変換器である。
16は画像処理装置としての画像処理部であり、A/D変換器14からのデジタル撮像信号またはメモリ制御部20からのデジタル撮像信号に対してデモザイク処理や色変換処理等の所定の画像処理を行って撮像画像(第1の画像)としての画像データを生成する。画像処理部16は、撮像素子12とともに撮像手段を構成する。
また、画像処理部16は、後述するリフォーカス画像(第2の画像)およびOTFデータの取得、後述するOTF補正値の生成、さらには画像回復処理を行う。画像処理部16は、画像取得手段、関数情報取得手段、補正情報生成手段および回復処理手段として機能する。
20はメモリ制御部であり、A/D変換器14および画像処理部16を制御する。A/D変換器14から出力されたデジタル撮像信号は、画像処理部16およびメモリ制御部20を介して、または画像処理部16を介さずにメモリ制御部20を介して表示用画像データとして画像表示メモリ26またはメモリ28に書き込まれる。
22はD/A変換器であり、24はLCD等から構成される画像表示部である。画像表示メモリ26に書き込まれた表示用の画像データはD/A変換器22によりアナログ信号に変換された後、画像表示部24により表示される。順次生成される表示用の画像データを画像表示部24に表示することで、いわゆるライブビュー機能を実現することが可能である。
28は撮像により生成された記録用の静止画像や動画像を格納するためのメモリであり、所定枚数の静止画像や所定時間の動画像を格納するのに十分な記憶量を備えている。さらに、メモリ28には、画像回復フィルタを生成するためのOTFデータ110が保存されている。これにより、被写体を連続撮像して複数枚の静止画像を生成する連写撮像においても、高速かつ大量の画像データの書き込みをメモリ28に対して行うことが可能となる。なお、メモリ28は、システム制御部32の作業領域としても使用される。
32はカメラ100の全体を制御するシステム制御部である。34は撮像準備スイッチSW1であり、不図示のシャッターボタンの半押し操作でONとなる。撮像準備スイッチSWのONにより、AF(オートフォーカス)処理、AE(自動露出)処理、AWB(オートホワイトバランス)処理、EF(フラッシュプリ発光)処理等の撮像準備動作の開始が指示される。
36は撮像開始スイッチSW2であり、シャッターボタンの全押し操作でONとなる。撮像開始スイッチSW2のONにより、撮像記録動作が開始される。すなわち、撮像素子12からの撮像信号がA/D変換器14を介して、またはA/D変換器14およびメモリ制御部20を介して画像処理部16に送られる。画像処理部16は、撮像信号に対して上述した所定の画像処理を行って記録用の画像データを生成し、該画像データに対して圧縮処理を行い、圧縮した画像データを、カメラ100に対して着脱可能な記録媒体を含む記録部30に書き込む。
図2のフローチャートには、本実施例において画像処理部16が行う画像処理を示している。コンピュータにより構成される画像処理部16は、コンピュータプログラムである画像処理プログラムに従って本処理を実行する。
まず、ステップS201において、画像処理部16は、入力画像としての撮像画像(画像データ)と複数の視差画像を取得する。撮像素子12は、撮像レンズ10の射出瞳を複数の部分瞳領域に分割し(すなわち瞳分割し)、該複数の部分瞳領域を通した互いに視差を有する複数の視差画像を同時に取得することが可能である。具体的には、撮像素子12の全有効画素(複数の画素)のそれぞれが1つのマイクロレンズと複数に分割された光電変換部(以下、サブ画素という)とにより構成され、各サブ画素がマイクロレンズを介して対応する部分瞳領域からの光束を受光する。これらのサブ画素から出力された光電変換信号を用いることで、それぞれ有効画素数に対応する解像度を有して互いに視差を有する複数の視差画像を生成することができる。
図4には、本実施例における撮像素子12による瞳分割を示している。撮像レンズ10の射出瞳300は、複数の部分瞳領域301,302に分割されている。互いに異なる瞳部分領域301,302を通過した光束は、撮像素子12の各画素に互いに異なる角度で入射し、各画像に設けられたマイクロレンズ308を介して、Nθ×Nθ分割(例えば、2×2分割)されたサブ画素303〜306により受光される。サブ画素303〜306からの光電変換信号を用いることで、光強度の空間分布および角度分布を示すLFデータを取得することができる。そして、このLFデータから、各画素の複数のサブ画素のうち1つの特定のサブ画素からの光電変換信号を選択することで、複数の部分瞳領域のうち特定の部分瞳領域に対応する視差画像を取得することができる。このようにして、撮像素子12の各画素がNθ×Nθ(=Np)個のサブ画素を有する場合は、互いに視差を有するNp枚の視差画像を取得することができる。
また、撮像素子12の画素ごとに複数のサブ画素の信号を全て加算して1画素の出力とすることで、有効画素数に対応する解像度を有する撮像画像を生成することができる。
次に、ステップS202において、画像処理部16は、撮像レンズ10に対応したOTFに関する情報としてのOTFデータをメモリ28から取得する。
本実施例におけるOTFデータは、撮像レンズ10が離散的に選択された複数の特定の被写体距離にそれぞれ合焦している状態での該撮像レンズ10の設計値から算出されたOTFに関する情報を示すデータである。また、OTFデータは、特定の周波数範囲内で離散的に選択された複数の特定の周波数でのOTFに関する情報を示すデータである。さらに、OTFデータは、画像の中心(撮像レンズ10の光軸位置)からの複数の放射方向における複数の特定位置(離散的な像高)に配置された二次元データである。前述したようにOTFは像高によって異なるが、画像中の全像高(全画素)についてOTFのデータを用意するとデータ量が膨大となるため、離散的な特定像高におけるOTFのデータのみをメモリ28に保持する。そして、これら離散的な特定像高以外の像高でのOTFデータは、その像高の近傍の2以上の特定像高のOTFデータを用いた補間(例えば線形補間)によって得る。
OTFデータは、OTFそのもののデータであってもよいし、OTFを逆フーリエ変換して得られるPSFのデータであってもよい。本実施例では、OTFデータを、OTFを近似した多項式の係数とする。これにより、OTFやPSFのデータを保持する場合に比べて、保持すべきデータ量をより削減することができる。
なお、OTFデータを保持する特定の周波数範囲の周波数の最大値は大きめに用意しておくことが望ましい。この段階では撮像装置の特性が不定であるため、後の処理において制限とならないために、より柔軟に対応できるようにしておく必要があるためである。その後、撮像装置の特性、例えばナイキスト周波数に応じて必要な周波数範囲のOTFデータを抽出するようにする。
また、本実施例では、画像の全体に離散的に配置した特定像高でのOTFデータを保持するが、特定像高を画像の一部にのみ離散的に配置し、それら特定像高でのOTFデータのみを保持するようにしてもよい。
次に、ステップS203では、画像処理部16は、ステップS201で取得した複数の視差画像を用いて、撮像画像に対するデフォーカスマップを生成する。具体的には、画像処理部16は、複数の視差画像のうち撮像素子の各画素に対応する画素(以下、対応画素という)間での位相差を算出し、該位相差からデフォーカス量dを求める。そして、全ての対応画素間で算出したデフォーカス量dのデータを撮像素子の画素配列に従って並べることでデフォーカスマップを生成する。
なお、本実施例ではデフォーカス量のデータをマップ化するが、必ずしもデフォーカス量そのもののデータをマップ化する必要はない。例えば、デフォーカス量は被写体距離に対応するので、デフォーカスマップに代えて、被写体距離をマップ化してもよい。また、デフォーカス量や被写体距離を得るために、撮像素子12とは別に焦点検出装置や測距装置を設けてもよいし、カメラ100に外付けした測距装置によって被写体距離を求めてもよい。また、ユーザによって被写体距離を入力できるようにしてもよい。
次に、ステップS204において、画像処理部16は、ステップS203で生成したデフォーカスマップを参照して、撮像画像をデフォーカス量dが互いに異なる複数の部分領域(以下、デフォーカス領域という)に分割する。各デフォーカス領域は、あるデフォーカス量の画素を少なくとも1つ含む。そして、画像処理部16は、デフォーカス領域ごとに、そのデフォーカス領域のデフォーカス量に応じてOTFデータを補正するための補正情報としてのOTF補正値Hdを算出する。このOTF補正値Hdの算出については後に詳しく説明する。
次に、ステップS205において、画像処理部16は、デフォーカス領域ごとに、OTFデータを補正値Hdを用いて補正する。具体的には、OTFデータに補正値Hdを乗じることで、補正されたOTFデータを生成する。この際、画像処理部16は、予めメモリ28に記憶された撮像素子12の特性値(撮像素子12の画素ピッチから算出されるナイキスト周波数)に応じて後の画像回復処理において使用するOTFデータを抽出する。そして、抽出したOTFデータを補正値Hdを用いて補正する。さらに、画像処理部16は、補正前または補正後のOTFデータに、撮像素子12の前面に設けられた光学ローパスフィルタ(図示せず)や撮像素子12の各画素の開口による劣化特性を乗じて、OTFデータの最終的な調整を行う。こうして、デフォーカス領域でのデフォーカス量に応じたOTFデータ(以下、デフォーカス補正OTFデータという)を生成する。
次に、ステップS206において、画像処理部16は、デフォーカス補正OTFデータを用いて、式(5)に示す周波数特性を有する画像回復フィルタを生成する。画像回復フィルタは、式(5)のM(u,v)を逆フーリエ変換することで実数の二次元フィルタとして生成される。
続いて、ステップS207において、画像処理部16は、画像回復フィルタを撮像画像に適用(コンボリューション)して画像回復処理を行い、回復画像を得る。
次に、図3のフローチャートを用いて、ステップS204でのデフォーカス領域ごとのOTF補正値の算出について説明する。
まず、ステップS301において、画像処理部16は、リフォーカス可能領域を算出する。
本実施例におけるリフォーカス可能範囲を図5に示す。許容錯乱円をδとし、撮像レンズ10の絞り値をFとすると、絞り値Fでの被写界深度は±Fδである。これに対して、Nθ×Nθ(=2×2)分割されて狭くなった部分瞳領域の実効絞り値F′(=F01〜F04)はF′=NθFと暗くなり、各視差画像の実効的な被写界深度は±NθFδと±Fδに対してNθ倍深くなる。つまり、合焦とみなされるデフォーカス量の範囲がNθ倍に広がる。
実効的な被写界深度±NθFδの範囲内では、各視差画像に合焦した被写体像が写っている。このため、後述するように視差画像を各サブ画素に角度を持って入射する光束に沿って平行移動させるリフォーカス処理により、撮像画像を取得した後(撮像後)に合焦位置を再調整(リフォーカス)することができる。実効的な被写界深度±NθFδの範囲外では、各視差画像にぼけた被写体像しか写っていないため、合焦位置を再調整(リフォーカス)することはできない。
したがって、撮像後にリフォーカスできる撮像面からのデフォーカス量dは概ね、
|d|≦NθFδ …(6)
の範囲である。許容錯乱円δは、例えば、撮像素子の画素ピッチをΔXとするときのナイキスト周波数1/(2ΔX)の逆数により、
δ=2ΔX …(7)
と定義される。本実施例では、式(7)を満足するデフォーカス量dの範囲をリフォーカス可能範囲とする。
|d|≦NθFδ …(6)
の範囲である。許容錯乱円δは、例えば、撮像素子の画素ピッチをΔXとするときのナイキスト周波数1/(2ΔX)の逆数により、
δ=2ΔX …(7)
と定義される。本実施例では、式(7)を満足するデフォーカス量dの範囲をリフォーカス可能範囲とする。
次に、ステップS302において、画像処理部16は、ステップS301で算出したリフォーカス可能範囲をデフォーカス量dごとに分割する。デフォーカス領域におけるOTF補正値Hdはデフォーカス量dごとに異なるため、デフォーカス量dによって分割したフォーカス可能範囲でOTF補正値Hdを算出する。リフォーカス可能範囲外では補正は行わない。リフォーカス可能範囲のうちデフォーカス量dに対応する部分をリフォーカス可能部分R(d) とする。
次に、ステップS303において、画像処理部16は、ステップS302で分割した部分範囲R(d)ごとに各視差画像に対してリフォーカス処理を行う。これにより、撮像画像での1又は複数のデフォーカス領域(内の被写体)に対して合焦した1又は複数の第2の画像としてのリフォーカス画像を生成(取得)する。
図6に、本実施例におけるリフォーカス処理を示す。図6では、撮像素子12の撮像面に配置された画素Xi(i=0〜NLF−1)を線分で模式的に示している。i番目の画素Xiに、角度θa(a=0〜Nθ−1)で入射した光束は、その画素Xiのサブ画素にて受光される。入射角度θaの光束を受光したサブ画素からの光電変換信号(以下、サブ画素信号という)をLi,a(a=0〜Nθ−1)とする。
本実施例の撮像素子12を用いて取得した複数の視差画像を用いると、光強度の空間分布および角度分布情報であるLFデータを取得することができる。このため、撮像後に、LFデータから、撮像素子12の撮像面(サブ画素信号Li,aが取得された結像面)とは異なる仮想結像面にて合焦したリフォーカス画像を生成するリフォーカス処理を行うことができる。具体的には、視差画像を構成する全てのサブ画素信号Li,aを、撮像面から仮想結像面まで、それぞれのサブ画素信号Li,aを出力したサブ画素に角度θaで入射する光束に沿って平行移動させる。そして、全てのサブ画素信号Li,aを仮想結像面での仮想画素に分配して重み付け加算することにより、仮想結像面でのリフォーカス画像を生成することができる。ここで、重み付け加算に用いる係数は、全ての値が正であり、それらの総和が1となる。
次に、ステップS304において、画像処理部16は、リフォーカス可能部分R(d)ごとに、そのリフォーカス可能部分R(d)に対応するリフォーカス画像の合焦領域と、該合焦領域に対応する撮像画像のデフォーカス領域とをフーリエ変換する。ここでは、撮像画像のデフォーカス領域fd(x,y){x,y∈R(d)}に対するフーリエ変換の結果(第1の変換データ)をFd(u,v)とし、リフォーカス画像の合焦領域に対するフーリエ変換の結果(第2の変換データ)をGd(u,v)とする。
次に、ステップS305において、画像処理部16は、リフォーカス画像と撮像画像のデフォーカス領域との差分、すなわち変化量を求める。変化量Hd(u,v)は、次式(8)で求められる。
Hd(u,v)=Fd(u,v)/Gd(u,v) …(8)
続いて、ステップS306において、画像処理部16は、ステップS305で算出した変化量Hd(u,v)に対して特定の周波数以上の信号をカットすることによりノイズ成分を除去する。ノイズ成分を除去したHd(u,v)を、デフォーカス量dのデフォーカス領域に対するOTF補正値Hdとする。そして、上述したステップS205にて該OTF補正値Hdを用いたOTFデータの補正が行われる。
Hd(u,v)=Fd(u,v)/Gd(u,v) …(8)
続いて、ステップS306において、画像処理部16は、ステップS305で算出した変化量Hd(u,v)に対して特定の周波数以上の信号をカットすることによりノイズ成分を除去する。ノイズ成分を除去したHd(u,v)を、デフォーカス量dのデフォーカス領域に対するOTF補正値Hdとする。そして、上述したステップS205にて該OTF補正値Hdを用いたOTFデータの補正が行われる。
以上説明したように、本実施例では、撮像画像のうちデフォーカス領域のデフォーカス量に応じた画像回復フィルタを生成するためのOTFデータの補正値(OTF補正値)を、撮像画像とリフォーカス画像との差(変化量)を用いて算出する。これにより、画像回復フィルタを用いた画像回復処理によって、デフォーカス領域でも画質の劣化を良好に補正(回復)することができる。しかも、全ての被写体距離(デフォーカス量)に対するOTFのデータを予めメモリに保持しておく必要がないため、保持すべきデータ量を削減することができる。
なお、本実施例では、デフォーカス量ごとにOTF補正値を算出する場合について説明したが、撮像画像において特定被写体(顔や目等の器官)の抽出処理を行い、抽出された特定被写体を含む画像領域に対してのみOTF補正値を求めてもよい。
また、本実施例では、元のOTFデータをOTF補正量(補正情報)で補正することで得られたデフォーカス補正OTFデータを用いて生成した画像回復フィルタを用いて画像回復処理を行う場合について説明した。しかし、元のOTFデータから生成した画像回復フィルタを補正情報を用いて補正することでデフォーカス補正画像回復フィルタを取得し、該デフォーカス補正画像回復フィルタを用いて画像回復処理を行ってもよい。さらに、元のOTFデータから生成した画像回復フィルタを用いて前処理としての画像回復処理を行い、これにより得られた回復画像に対して補正情報を用いた補正処理を行うことでデフォーカス補正回復画像を生成してもよい。この場合、前処理としての画像回復処理とその後の補正処理とを含めて画像回復処理とみなすものとする。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する部(例えば、ASIC)によっても実現可能である。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する部(例えば、ASIC)によっても実現可能である。
以上説明した各実施例は代表的な例にすぎず、本発明の実施に際しては、各実施例に対して種々の変形や変更が可能である。
10 撮像レンズ(撮像光学系)
12 撮像素子
16 画像処理部
100 撮像装置
12 撮像素子
16 画像処理部
100 撮像装置
Claims (7)
- 撮像により生成された第1の画像および該第1の画像でのデフォーカス領域に対して合焦した第2の画像とを取得する画像取得手段と、
前記撮像における光学伝達関数に関する情報を取得する関数情報取得手段と、
前記第1の画像および前記第2の画像を用いて、前記光学伝達関数に関する補正に用いる補正情報を生成する補正情報生成手段と、
前記光学伝達関数に関する情報および前記補正情報を用いて、前記第1の画像に対する画像回復処理を行う回復処理手段とを有することを特徴とする画像処理装置。 - 前記補正情報生成手段は、前記デフォーカス領域におけるデフォーカス量を算出し、該デフォーカス領域のうち前記デフォーカス量が異なる部分領域ごとに前記補正情報を生成することを特徴とする請求項1に記載の画像処理装置。
- 前記補正情報生成手段は、前記デフォーカス領域における特定被写体を検出し、該デフォーカス領域のうち前記特定被写体を含む部分領域に対して前記補正情報を生成することを特徴とする請求項1に記載の画像処理装置。
- 前記補正情報生成手段は、前記第1の画像のうち前記デフォーカス領域をフーリエ変換して得られた第1の変換データと前記第2の画像のうち前記デフォーカス領域に対応する合焦領域をフーリエ変換して得られた第2の変換データとを用いて前記補正情報を生成することを特徴とする請求項1から3のいずれか一項に記載の画像処理装置。
- 前記第2の画像は、互いに視差を有する複数の視差画像を用いて、前記第1の画像を生成するための撮像における撮像面とは異なる結像面にて合焦するように生成されたリフォーカス画像であることを特徴とする請求項1に記載の画像処理装置。
- 請求項1から5のいずれか一項に記載の画像処理装置と、
撮像により画像を生成する撮像手段とを有することを特徴とする撮像装置。 - コンピュータを動作させるコンピュータプログラムであって、
前記コンピュータに、
撮像により生成された第1の画像および該第1の画像でのデフォーカス領域に対して合焦した第2の画像とを取得させ、
前記撮像における光学伝達関数に関する情報を取得させ、
前記第1の画像および前記第2の画像を用いて、前記光学伝達関数に関する補正に用いる補正情報を生成させ、
前記光学伝達関数に関する情報および前記補正情報を用いて、前記第1の画像に対する画像回復処理を行わせることを特徴とする画像処理プログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015171719A JP2017050662A (ja) | 2015-09-01 | 2015-09-01 | 画像処理装置、撮像装置および画像処理プログラム |
US15/252,697 US10062150B2 (en) | 2015-09-01 | 2016-08-31 | Image processing apparatus, image capturing apparatus, and storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015171719A JP2017050662A (ja) | 2015-09-01 | 2015-09-01 | 画像処理装置、撮像装置および画像処理プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2017050662A true JP2017050662A (ja) | 2017-03-09 |
Family
ID=58095561
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015171719A Pending JP2017050662A (ja) | 2015-09-01 | 2015-09-01 | 画像処理装置、撮像装置および画像処理プログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US10062150B2 (ja) |
JP (1) | JP2017050662A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020008955A (ja) * | 2018-07-03 | 2020-01-16 | キヤノン株式会社 | 処理装置、処理システム、撮像装置、処理方法、プログラム、および、記録媒体 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
FR3071344B1 (fr) * | 2017-09-20 | 2019-09-13 | Idemia Identity And Security | Procede de determination d'une fonction d'etalement de point d'un systeme d'imagerie |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4410804A (en) | 1981-07-13 | 1983-10-18 | Honeywell Inc. | Two dimensional image panel with range measurement capability |
JP3774597B2 (ja) | 1999-09-13 | 2006-05-17 | キヤノン株式会社 | 撮像装置 |
JP5153846B2 (ja) | 2010-09-28 | 2013-02-27 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、及び、プログラム |
US9002138B2 (en) * | 2011-12-19 | 2015-04-07 | Ziva Corporation | Computational imaging using variable optical transfer function |
JP6091176B2 (ja) * | 2012-11-19 | 2017-03-08 | キヤノン株式会社 | 画像処理方法、画像処理プログラム、画像処理装置および撮像装置 |
JP2015186170A (ja) * | 2014-03-26 | 2015-10-22 | ソニー株式会社 | 画像処理装置および画像処理方法 |
CN105335950B (zh) * | 2014-05-28 | 2019-02-12 | 华为技术有限公司 | 图像处理方法和图像处理装置 |
-
2015
- 2015-09-01 JP JP2015171719A patent/JP2017050662A/ja active Pending
-
2016
- 2016-08-31 US US15/252,697 patent/US10062150B2/en active Active
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020008955A (ja) * | 2018-07-03 | 2020-01-16 | キヤノン株式会社 | 処理装置、処理システム、撮像装置、処理方法、プログラム、および、記録媒体 |
JP7210170B2 (ja) | 2018-07-03 | 2023-01-23 | キヤノン株式会社 | 処理装置、処理システム、撮像装置、処理方法、プログラム、および、記録媒体 |
Also Published As
Publication number | Publication date |
---|---|
US10062150B2 (en) | 2018-08-28 |
US20170061587A1 (en) | 2017-03-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6091176B2 (ja) | 画像処理方法、画像処理プログラム、画像処理装置および撮像装置 | |
JP5528173B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP6327922B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP5709911B2 (ja) | 画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置 | |
US10282822B2 (en) | Digital correction of optical system aberrations | |
US9992478B2 (en) | Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium for synthesizing images | |
JP5791437B2 (ja) | 画像処理方法、画像処理装置、撮像装置および画像処理プログラム | |
KR101536162B1 (ko) | 화상처리장치 및 방법 | |
JP5968073B2 (ja) | 画像処理装置、撮像装置、画像処理方法、および画像処理プログラム | |
US9911183B2 (en) | Image processing method, image processing apparatus, image pickup apparatus, and non-transitory computer-readable storage medium | |
JP5237978B2 (ja) | 撮像装置および撮像方法、ならびに前記撮像装置のための画像処理方法 | |
JP2016213702A (ja) | 画像処理装置、その制御方法、および制御プログラム | |
JP2013051598A (ja) | 画像処理装置及び画像処理方法 | |
JP2013026844A (ja) | 画像生成方法及び装置、プログラム、記録媒体、並びに電子カメラ | |
JP6516510B2 (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP2015115733A (ja) | 画像処理方法、画像処理装置、撮像装置および画像処理プログラム | |
JP6976754B2 (ja) | 画像処理装置および画像処理方法、撮像装置、プログラム | |
JP2017050662A (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP6682184B2 (ja) | 画像処理方法、画像処理プログラム、画像処理装置および撮像装置 | |
JP5645981B2 (ja) | 撮像装置、画像処理装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP6537228B2 (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP2015198380A (ja) | 画像処理装置、撮像装置、画像処理プログラム、および画像処理方法 | |
JP2015119428A (ja) | 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体 | |
JP2018088587A (ja) | 画像処理方法および画像処理装置 | |
JP2015109681A (ja) | 画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置 |