JP2018032982A - 画像処理装置、撮像装置、画像処理方法、及びプログラム - Google Patents
画像処理装置、撮像装置、画像処理方法、及びプログラム Download PDFInfo
- Publication number
- JP2018032982A JP2018032982A JP2016163772A JP2016163772A JP2018032982A JP 2018032982 A JP2018032982 A JP 2018032982A JP 2016163772 A JP2016163772 A JP 2016163772A JP 2016163772 A JP2016163772 A JP 2016163772A JP 2018032982 A JP2018032982 A JP 2018032982A
- Authority
- JP
- Japan
- Prior art keywords
- channel
- refocus
- image
- light field
- spatial frequency
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 72
- 238000003384 imaging method Methods 0.000 title claims description 28
- 238000003672 processing method Methods 0.000 title description 2
- 238000012937 correction Methods 0.000 claims abstract description 79
- 230000003287 optical effect Effects 0.000 claims abstract description 65
- 238000009795 derivation Methods 0.000 claims abstract description 5
- 238000000034 method Methods 0.000 claims description 39
- 230000008569 process Effects 0.000 claims description 25
- 238000000605 extraction Methods 0.000 claims description 12
- 230000004075 alteration Effects 0.000 description 40
- 238000010586 diagram Methods 0.000 description 31
- 238000003702 image correction Methods 0.000 description 22
- 230000010354 integration Effects 0.000 description 20
- 230000008859 change Effects 0.000 description 17
- 238000009434 installation Methods 0.000 description 13
- 238000012952 Resampling Methods 0.000 description 10
- 230000009466 transformation Effects 0.000 description 9
- 230000006870 function Effects 0.000 description 6
- 230000001902 propagating effect Effects 0.000 description 6
- 238000006243 chemical reaction Methods 0.000 description 5
- 238000005070 sampling Methods 0.000 description 5
- 238000013461 design Methods 0.000 description 4
- 239000006185 dispersion Substances 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 210000001747 pupil Anatomy 0.000 description 2
- 230000000740 bleeding effect Effects 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000002950 deficient Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/64—Circuits for processing colour signals
- H04N9/646—Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/61—Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
- H04N25/611—Correction of chromatic aberration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10052—Images from lightfield camera
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
Abstract
【課題】ライトフィールドデータによるリフォーカス画像の色にじみを補正する。
【解決手段】本発明の一実施形態に係る画像処理装置は、波長が異なる複数のチャネルを含むライトフィールドデータと、ライトフィールドデータを得るために用いられる光学系のチャネル毎の光学特性に基づき、仮想的なリフォーカス位置におけるチャネル毎のリフォーカス画像を生成する生成手段を備える。また、画像処理装置は、チャネル毎の光学特性とリフォーカス位置から、チャネル毎の空間周波数特性を導出する導出手段と、チャネル毎の空間周波数特性に基づき、チャネル毎のリフォーカス画像を、鮮鋭性を揃えるように補正する補正手段とを備える。
【選択図】図15
【解決手段】本発明の一実施形態に係る画像処理装置は、波長が異なる複数のチャネルを含むライトフィールドデータと、ライトフィールドデータを得るために用いられる光学系のチャネル毎の光学特性に基づき、仮想的なリフォーカス位置におけるチャネル毎のリフォーカス画像を生成する生成手段を備える。また、画像処理装置は、チャネル毎の光学特性とリフォーカス位置から、チャネル毎の空間周波数特性を導出する導出手段と、チャネル毎の空間周波数特性に基づき、チャネル毎のリフォーカス画像を、鮮鋭性を揃えるように補正する補正手段とを備える。
【選択図】図15
Description
本発明は、ライトフィールドデータによるリフォーカス画像の補正処理に関する。
近年、光学系に新たな光学素子を追加することで、光線の向きと強度の情報(ライトフィールドデータ)を取得し、後で画像処理によってピント位置を調節すること(リフォーカス)が可能なコンピュテーショナルフォトグラフィという技術が発展している。
この技術を用いれば、撮影後にピント調整を行えるため、撮影時のピント調整の失敗を画像処理で補うことができるという利点がある。さらに、画像処理方法を変えることで画像中の任意の被写体にピントを合わせた複数の画像を一枚の撮影画像から得る事ができ、撮影回数を減らす事ができるという利点もある。
ライトフィールドデータを取得する装置としては、光学系と撮像素子によって構成されたデジタルカメラの撮像素子近傍に、マイクロレンズアレイを配置したプレノプティックカメラなどがある。通常のデジタルカメラにおいてはレンズの色収差による画質の劣化が問題となるが、プレノプティックカメラにおいても同様である。プレノプティックカメラにおいて色収差を低減する方法としては、事前に求めた収差の特性に基づき画像生成時に補正を行う方法が開示されている(特許文献1参照)。
Todor Georgiev, Andrew Lumsdaine, "Superresolution with Plenoptic Camera 2.0" (Adobe Technical Report)
しかしながら、特許文献1の手法に基づき色収差補正を行った場合、マイクロレンズの開口に起因するボケによってリフォーカス画像の各チャネルの鮮鋭性が異なるものとなるため、色にじみが生じるという課題がある。
本発明の一実施形態に係る画像処理装置は、波長が異なる複数のチャネルを含むライトフィールドデータと、ライトフィールドデータを得るために用いられる光学系のチャネル毎の光学特性に基づき、仮想的なリフォーカス位置におけるチャネル毎のリフォーカス画像を生成する生成手段を備える。また、画像処理装置は、チャネル毎の光学特性とリフォーカス位置から、チャネル毎の空間周波数特性を導出する導出手段と、チャネル毎の空間周波数特性に基づき、チャネル毎のリフォーカス画像を、鮮鋭性を揃えるように補正する補正手段とを備える。
本発明によれば、ライトフィールドデータによるリフォーカス画像の色にじみを補正することが可能となる。
以下に、本発明の実施形態を、図面を参照して詳細に説明する。なお、以下の実施形態は一例に過ぎず、本発明を限定するものではない。また、図面全体を通して、同一の符号は、同一物を表す。
[実施形態1]
<撮像装置の全体構成>
図1は、本発明の実施形態1に係る撮像装置の構成の一例を示すブロック図である。
<撮像装置の全体構成>
図1は、本発明の実施形態1に係る撮像装置の構成の一例を示すブロック図である。
本実施形態の撮像装置は、図1に示すように、CPU101、ROM102、RAM103、操作部104、表示制御部105、メディアインターフェス(以下、メディアI/F)107、及びキャラクタジェネレーション部109を備える。また、本実施形態の撮像装置は、エンコーダ部111、デジタル信号処理部112、撮像部113、及び画像処理部114を備える。
撮像部113は、光学系と撮像素子を備え、ライトフィールドデータを取得する。撮像部113の詳細は後述する。
画像処理部114は、撮像部113により取得されたライトフィールドデータからリフォーカス画像を生成する。また、画像処理部114は、撮像装置の内部または外部に設置された画像処理装置としても機能する。画像処理部114の詳細は後述する。
CPU101は、ROM102やRAM103に格納された命令を順に読み込み、解釈し、その結果に従って処理を実行する。また、ROM102とRAM103は、その処理に必要なプログラム、データ、作業領域などをCPU101に提供する。
バス110は、各構成要素間で、データや処理の指示をやり取りするための経路として機能する。
操作部104は、ボタンやモードダイヤルなどが該当し、これらを介して入力されたユーザー指示を受け取る。
キャラクタジェネレーション部109は、文字やグラフィックなどを生成する。
表示部106は、例えば液晶ディスプレイであり、キャラクタジェネレーション部109や表示制御部105から受け取った撮像画像データや文字を表示する。また、表示部106は、タッチスクリーン機能を有しても良く、その場合は、表示部106を介して入力されたユーザー指示を、操作部104が受け取ることも可能である。
デジタル信号処理部112は、撮像部113により取得された画像データの輝度値の調整や欠陥画素の補間などを行う。これらの処理は、後述する画像処理部114による処理の前に行われる。
エンコーダ部111は、画像処理部114による色収差補正処理の結果、生成されたライトフィールドデータのエンコード処理を行う。
メディアI/F107は、PC・その他メディア(例えば、ハードディスク、メモリーカード、CFカード、SDカード、USBメモリ)108とバス110とを接続するためのインターフェースである。メディアI/F107を介してエンコーダ部111によりエンコードされたライトフィールドデータが出力される。
なお、撮像装置の構成要素は上記以外にも存在するが、本発明の主眼ではないので、説明を省略する。
<撮像部の構成>
図2は、本発明の実施形態1に係る撮像部113の構成例を示す。以下に、図2を用いて撮像部113の構成例を説明する。
図2は、本発明の実施形態1に係る撮像部113の構成例を示す。以下に、図2を用いて撮像部113の構成例を説明する。
レンズ201及びレンズ202は、結像光学系を構成する。被写体から発せられた光線は該結像光学系により、絞り203、シャッター204を通過した後に、マイクロレンズ205に結像される。さらに、マイクロレンズで屈折された光線は、IRカットフィルタ206、ローパスフィルタ207、カラーフィルタ208を通過した後に、撮像素子209に到達する。本実施形態では、カラーフィルタとしてRGBの三色を用いてカラー画像を取得する。
撮像素子209とA/D変換部210は、CMOSイメージセンサなどのイメージセンサに相当する。撮像素子209は、2次元の格子状に配列され、入射した光線を電気信号に変換する。A/D変換部210は、電気信号に変換された光線の情報をデジタル信号に変換する。
制御部212は、バス110を介して入力されるCPU101の指示に従い、撮像素子209とシャッター204を制御して、撮像を実施する。また、制御部212は、レンズ201及びレンズ202を制御して、ピント位置と焦点距離を、絞り203を制御して開口を、ユーザーが指定した状態へと変更する。
デジタル信号に変換された像の情報は、バッファ211内に格納され、ライトフィールドデータとなる。ライトフィールドデータは、バス110を介して、画像処理部114に送られる。
図3は、本実施形態における光学系の一例を表す模式図である。図3(a)に示すように、光学系は主レンズ300として、レンズ201及びレンズ202に相当する1つ以上のレンズで構成された厚肉凸レンズを有し、その焦点上にマイクロレンズ301を有する。マイクロレンズ301の焦点上には、図3(b)に示すように、撮像素子302が設置される。撮像素子302の画素位置から特定される、入射した光線が通過したマイクロレンズの位置と、マイクロレンズに入射した角度とにより、ライトフィールドデータが得られる。なお、主レンズ300の焦点上にマイクロレンズ301を設置するのは、主レンズ300のピントを無限遠方に合わせる場合であり、ピント調整によってマイクロレンズ301及び撮像素子302と主レンズ300の相対位置は変化させても構わない。
なお、ここで示した撮像部の構成は、説明のために単純化した例であり、色収差を有する光学系を通して、複数の波長の光に対するライトフィールドを取得する機能を有すればどのような構成でもかまわない。例えば、非特許文献1で示されているように、図3(c)のようなレンズの配置を用いて、撮像素子のマイクロレンズに対する共役面303を中心にリフォーカスを行っても良い。本実施形態では、基準となるリフォーカス位置をマイクロレンズの設置位置としているが、この構成を用いる場合、マイクロレンズに対する共役面303が基準リフォーカス位置となる。
<ライトフィールドの表現方法>
次に、本実施形態におけるライトフィールドの表現方法について説明する。本実施形態では、図4(a)に示すように、光学系の光軸をz方向として、z座標が一定の値の面を通過する光線を、その通過点の位置(x,y)と光線の傾き(u,v)を用いた4次元座標で表現する。なお、uは光線のx方向の傾きを表し、vは光線のy方向の傾きを表す。図4(b)は、3つの光線A、B、Cを実空間のxz平面上に示したものである。この時、光線の傾きuはΔx/Δzで表される。図4(c)は、光線A、B、Cをライトフィールド空間のxu平面上(z=0)に示したものである。光線Aと光線Bは傾きが同じであるため、u座標が等しくなっている。一方、光線Bと光線Cはz=0平面の通過位置が同じであるため、x座標が等しくなっている。
次に、本実施形態におけるライトフィールドの表現方法について説明する。本実施形態では、図4(a)に示すように、光学系の光軸をz方向として、z座標が一定の値の面を通過する光線を、その通過点の位置(x,y)と光線の傾き(u,v)を用いた4次元座標で表現する。なお、uは光線のx方向の傾きを表し、vは光線のy方向の傾きを表す。図4(b)は、3つの光線A、B、Cを実空間のxz平面上に示したものである。この時、光線の傾きuはΔx/Δzで表される。図4(c)は、光線A、B、Cをライトフィールド空間のxu平面上(z=0)に示したものである。光線Aと光線Bは傾きが同じであるため、u座標が等しくなっている。一方、光線Bと光線Cはz=0平面の通過位置が同じであるため、x座標が等しくなっている。
次に、光線が空間中の伝播とレンズによる屈折によって、ライトフィールド空間においてどのように変化するか説明する。ここでは便宜上ライトフィールドを位置xと傾きuの2次元で考える。図5は、空間中の光線の伝播とレンズによる屈折とを説明するための図である。図5(a)は、空間中を伝播する光線をxz平面上に示す。ここで、z=z0における光線のライトフィールド座標を(x0,u0)とし、z=z1における光線のライトフィールド座標を(x1,u1)とする。光線は直進することから、z=z0とz=z1におけるライトフィールド座標の関係は式(1)のようになる。
また、図5(b)は、レンズにより屈折する光線をxz平面上に示す。ここで、z=z0における屈折前の光線のライトフィールド座標を(x0,u0)とし、屈折後の光線のライトフィールド座標を(x1,u1)とする。x0=x1の値がレンズの光軸に近く近軸近似が成り立つならば、光学系の性質から焦点距離fを用いて、屈折前と屈折後のライトフィールド座標の関係は式(2)のようになる。
なお、以上の関係は光線の位置yと傾きvについても同様に成り立つ。
<伝播する光線のライトフィールドの例>
図6は、光学系を通って伝播する光線のライトフィールドの一例を示す。図6(a)は、光線を実空間のxz平面上に示す。x=0の直線上に光軸があり、z=0の位置にレンズが置かれている。光線A、B、C、Dは、z=−3、x=±1の位置から射出されている。図6(b)は、光線を実空間のxu平面上に示す。図6(b)には、光線A、B、C、Dが、z=−3からz=0に伝播し、屈折した後、z=3に到達するときの、各光線のライトフィールド座標の変化が示されている。z=−3における各光線のライトフィールド座標は、(1,1)、(1,−1)、(−1,1)、(−1,−1)である。各光線は、レンズにより屈折した後に、z=3、x=±1の位置に到達する。空間中の伝播と屈折はそれぞれ上述した式(1)や式(2)で表させるような、ライトフィールド座標上でのせん断となることがわかる。
図6は、光学系を通って伝播する光線のライトフィールドの一例を示す。図6(a)は、光線を実空間のxz平面上に示す。x=0の直線上に光軸があり、z=0の位置にレンズが置かれている。光線A、B、C、Dは、z=−3、x=±1の位置から射出されている。図6(b)は、光線を実空間のxu平面上に示す。図6(b)には、光線A、B、C、Dが、z=−3からz=0に伝播し、屈折した後、z=3に到達するときの、各光線のライトフィールド座標の変化が示されている。z=−3における各光線のライトフィールド座標は、(1,1)、(1,−1)、(−1,1)、(−1,−1)である。各光線は、レンズにより屈折した後に、z=3、x=±1の位置に到達する。空間中の伝播と屈折はそれぞれ上述した式(1)や式(2)で表させるような、ライトフィールド座標上でのせん断となることがわかる。
図7は、被写体と光学系の関係の一例を示す。図示されるように、z=z0、z1、z2に置かれた被写体701、702、703から発せられた光線は、z=z3に置かれたレンズ704を通る。そして、光線はz=z4に置かれたマイクロレンズ705に達し、撮像素子706によりライトフィールドデータとして記録される。
図8は、図7に示した例において、光線の伝播に従ってライトフィールドが変化する様子を模式的に示す図である。図8の左上、中央上、右上、左下、及び中央下の図は、z=z0〜z3のそれぞれの位置において仮に記録できたとした場合におけるライトフィールドが示されている。
まず、z=z0では、被写体701の色を反映して、ライトフィールドは全面が黒である。z=z1では、被写体702から発せられた光線がライトフィールドに加わる。この時、被写体701から発せられた光線のうち、被写体702に重なる部分はオクルージョンにより遮蔽される。z=z2では、伝播により被写体701、702から発せられた光線によるライトフィールドは式(1)のようなせん断変換を受け、その上に被写体703から発せられた光線のライトフィールドが重畳される。z=z3では、伝播により全ての被写体から発せられた光線のライトフィールドがさらなるせん断変換を受ける。z=z3で屈折が起こると、ライトフィールドは式(2)のようなせん断変換を受ける。z=z4までの伝播で、再度、式(1)のようなせん断変換を受け、その結果、図8の右下の図に示すようなライトフィールドがマイクロレンズ705と撮像素子706によって記録される。なお、図8の右下の図には、z=z2に焦点を合わせた状態で記録されたライトフィールドが示されている。
<ライトフィールドにおける色収差>
ガラスのように波長分散を有する物質で光学系を構成すると、光の波長、すなわち色によって光学系の特性が変化する。この現象により、図9に示すように、焦点距離や主平面の位置が波長毎に変化することになる。図9は、光線に対する色収差を説明するための図である。図9では、被写体から発せられて空間を伝播する光線Lが、波長分散を有する光学系902により屈折した結果、緑の光線LGと青の光線LBとに分離して、互いにずれている。ここで、平面903は光線LBの波長に対する物体側主平面であり、平面904は光線LGの波長に対する物体側主平面である。また、平面905は光線LBの波長に対する像側主平面で、平面906は光線LGの波長に対する像側主平面である。光線LGと光線LBのずれのように、光学系の波長分散により、結像する位置がずれることを色収差と呼ぶ。
ガラスのように波長分散を有する物質で光学系を構成すると、光の波長、すなわち色によって光学系の特性が変化する。この現象により、図9に示すように、焦点距離や主平面の位置が波長毎に変化することになる。図9は、光線に対する色収差を説明するための図である。図9では、被写体から発せられて空間を伝播する光線Lが、波長分散を有する光学系902により屈折した結果、緑の光線LGと青の光線LBとに分離して、互いにずれている。ここで、平面903は光線LBの波長に対する物体側主平面であり、平面904は光線LGの波長に対する物体側主平面である。また、平面905は光線LBの波長に対する像側主平面で、平面906は光線LGの波長に対する像側主平面である。光線LGと光線LBのずれのように、光学系の波長分散により、結像する位置がずれることを色収差と呼ぶ。
図10は、ライトフィールドにおける色収差を説明するための図である。図10(a)には、マイクロレンズ907と撮像素子908とによって記録される、光線LGのライトフィールドデータが示されている。図10(b)には、マイクロレンズ907と撮像素子908とによって記録される、光線LBのライトフィールドデータが示されている。図10に示すように、光線LGと光線LBは互いにずれている。本実施形態における撮像装置は、このようなずれによる色収差がなくなるように、ライトフィールドデータを補正する。例えば、本実施形態における撮像装置は、図10に示す例において、光線LGと光線LBが重なるように、少なくとも一方のライトフィールドデータの変換を行う。光線LGに光線LBを重ねる変換は、撮像素子908によって取得されたライトフィールドデータを、光線LBの波長に対する特性で平面903まで戻し、再び光線LGの波長に対する特性でマイクロレンズ907に伝播させることに等しい。このような変換は、近軸近似が成り立つ限りは上述した式(1)、式(2)による変換とその逆変換を組み合わせたものである。従って、光線LGの波長のライトフィールドデータ上の点の位置を(xG,uG)、光線LBの波長のライトフィールドデータ上の点の位置を(xB,uB)とすると、その間の関係は以下の式(3)のような線形変換で表す事ができる。
また、(x,v)に対して垂直方向の光線の位置yと傾きvについても同様の関係が成り立つ。そのため、光線LGの波長のライトフィールドデータ上の点の位置を(yG,vG)、光線LBの波長のライトフィールドデータ上の点の位置を(yB,vB)とすると、同様に以下の式(4)が成り立つ。
本実施形態では、設計値や計測結果からあらかじめ求めた、式(3)、式(4)のような異なる波長のライトフィールド間の対応関係に基づきライトフィールドデータをリサンプリングすることで、色収差を補正する。
ライトフィールド間の対応を記述するパラメータa、b、c、dは、式(1)と式(2)を組み合わせることで、設計値や計測値に基づき算出できる。一例として、光線LGと光線LBの各波長における焦点距離をfG、fB、物体側主点位置をpG、pB、像側主点位置をp’G、p’B、マイクロレンズ設置位置をsとした場合、パラメータa、b、c、dは、以下の式(5)のように表すことができる。
<色収差の補正によるサンプリング時の積分範囲の変化>
ライトフィールドデータは、図3で示したような光学系を通った光線を、有限の開口を持った撮像素子で積分してサンプリングすることで取得される。色収差補正を行った場合、補正後の空間における積分範囲は、波長毎に光学特性の違いを反映してそれぞれ異なったものとなる。図11は、色収差補正による実空間での積分範囲の変化を表す図である。ここで、光線LBは、マイクロレンズ1108を通してサンプリングされる青の光線を表しており、主レンズ1101を通して物体側の共役点1110に対応している。青の光線LBに対する主レンズの物体側主平面は1102、像側主平面は1104であり、緑の光線LGに対する物体側主平面は1103、像側主平面は1105である。光線LBを光線LGに対する主レンズの光学特性に合わせて色収差補正して得られる光線がL’Bである。光線LBはマイクロレンズ1108を通る光線に対応していたが、補正後の空間では仮想的なマイクロレンズ1109を通る光線に変換される。すなわち、マイクロレンズが置かれていた面1106が、色収差補正により面1107に移動することとなる。
ライトフィールドデータは、図3で示したような光学系を通った光線を、有限の開口を持った撮像素子で積分してサンプリングすることで取得される。色収差補正を行った場合、補正後の空間における積分範囲は、波長毎に光学特性の違いを反映してそれぞれ異なったものとなる。図11は、色収差補正による実空間での積分範囲の変化を表す図である。ここで、光線LBは、マイクロレンズ1108を通してサンプリングされる青の光線を表しており、主レンズ1101を通して物体側の共役点1110に対応している。青の光線LBに対する主レンズの物体側主平面は1102、像側主平面は1104であり、緑の光線LGに対する物体側主平面は1103、像側主平面は1105である。光線LBを光線LGに対する主レンズの光学特性に合わせて色収差補正して得られる光線がL’Bである。光線LBはマイクロレンズ1108を通る光線に対応していたが、補正後の空間では仮想的なマイクロレンズ1109を通る光線に変換される。すなわち、マイクロレンズが置かれていた面1106が、色収差補正により面1107に移動することとなる。
図12は、色収差補正によるライトフィールド空間での積分範囲の変化を表す図である。図12(a)、(b)は、それぞれマイクロレンズ設置面1106上でのライトフィールド空間を表している。図12(a)は、補正前の光線LB、LGの積分範囲であり、図12(b)は、補正後の光線L’Bのライトフィールドである。光線L’Bは、仮想的なマイクロレンズ設置面1107でサンプリングされた光線であり、実際のマイクロレンズ設置面1106まで空間を移動することによりせん断変換を受ける。
<色収差により生じる波長毎の鮮鋭性の違い>
リフォーカス画像は、仮想的に再現したい撮像素子の位置でのライトフィールドデータを、ライトフィールド空間におけるu方向に積分することで生成される。ここで、実際のマイクロレンズ設置面1106に撮像素子を置いた場合のリフォーカス画像を生成することを考える。このとき、光線LGのライトフィールドの積分範囲は、図12(a)のようになっており、光線L’Bのライトフィールドの積分範囲は、図12(b)のようになっている。積分範囲はそれぞれx方向に異なる広がりを持っており、光線が等方的に射出されたと考えた場合、積分範囲のx方向の広がりに対応して光線LG、光線L’Bにはそれぞれ異なるx方向のフィルタがかかっていると見なすことが出来る。
リフォーカス画像は、仮想的に再現したい撮像素子の位置でのライトフィールドデータを、ライトフィールド空間におけるu方向に積分することで生成される。ここで、実際のマイクロレンズ設置面1106に撮像素子を置いた場合のリフォーカス画像を生成することを考える。このとき、光線LGのライトフィールドの積分範囲は、図12(a)のようになっており、光線L’Bのライトフィールドの積分範囲は、図12(b)のようになっている。積分範囲はそれぞれx方向に異なる広がりを持っており、光線が等方的に射出されたと考えた場合、積分範囲のx方向の広がりに対応して光線LG、光線L’Bにはそれぞれ異なるx方向のフィルタがかかっていると見なすことが出来る。
図13は、ライトフィールドデータの変化によって生じるボケに相当するフィルタの概形を表した図であある。図13(a)は、光線LGに対するフィルタを表し、図13(b)は、光線L’Bに対するフィルタを表す。この例では、光線LGの方が光線L’Bより鮮鋭性が高いリフォーカス画像が得られることとなる。
図14は、リフォーカス処理において仮想的な撮像素子を置く位置(リフォーカス位置)が変化した時の、チャネル毎の鮮鋭性の変化を表す模式図である。z=z0、z1、z2、z3の各リフォーカス位置に対して、リフォーカス画像の緑のチャネルの鮮鋭性1402と青のチャネルの鮮鋭性1401は、図示されるように変化する。
以上説明したように、本実施形態における撮像装置は、リフォーカス画像のチャネル間の鮮鋭性の違いによって生じる、色にじみを補正する。
<画像処理部の構成と処理>
図15は、本実施形態における撮像装置の画像処理部114の構成例を表すブロック図である。画像処理部114は、ライトフィールド取得部1501、リフォーカス位置取得部1502、光学特性取得部1503、リフォーカス画像生成部1504を備える。また、画像処理部114は、空間周波数特性導出部1505、リフォーカス画像補正部1506、リフォーカス画像出力部1507を備える。
図15は、本実施形態における撮像装置の画像処理部114の構成例を表すブロック図である。画像処理部114は、ライトフィールド取得部1501、リフォーカス位置取得部1502、光学特性取得部1503、リフォーカス画像生成部1504を備える。また、画像処理部114は、空間周波数特性導出部1505、リフォーカス画像補正部1506、リフォーカス画像出力部1507を備える。
ライトフィールド取得部1501は、波長が異なる複数の光線のチャネルを含むライトフィールドデータを、バス110を介して取得する。ここで、ライトフィールドデータはあらかじめ、設計情報や構成情報を元に、マイクロレンズ205上でのライトフィールド座標に合わせて変換されているものとする。また、本実施形態では一例として、ライトフィールドデータは赤、青、緑の3波長のチャネルから構成されるものとする。
リフォーカス位置取得部1502は、リフォーカス処理において仮想的な撮像素子を置く位置を、リフォーカス位置としてバス110を介して取得する。本実施形態では、基準位置に対する移動量としてリフォーカス位置を表すものとする。
光学特性取得部1503は、光学系のチャネル毎の光学特性を、バス110を介して取得する。ここで光学特性は、色収差による各チャネルのライトフィールドデータのずれが補正されたリフォーカス画像の生成と、補正後の積分範囲がチャネル間で異なることによる鮮鋭性の導出に十分な情報を有していればどのようなものでも良い。本実施形態における光学特性は、緑のチャネルのライトフィールドデータの座標と、他のチャネルのライトフィールドデータの座標とを対応付ける、式(3)、式(4)のような関係を記述するパラメータで表すものとする。
リフォーカス画像生成部1504は、リフォーカス位置取得部1502が取得したリフォーカス位置における、チャネル毎のリフォーカス画像を生成する。リフォーカス画像は、ライトフィールド取得部1501が取得したライトフィールドデータと、光学特性取得部1503が取得した光学特性に基づき、生成される。詳細は後述する。
空間周波数特性導出部1505は、色収差補正によるライトフィールドデータ中の各光線の積分範囲の変化に起因する、各チャネルの鮮鋭性を表す空間周波数特性を導出する。空間周波数特性は、光学特性取得部1503が取得した対象チャネルの光学特性と、リフォーカス位置取得部1502が取得したリフォーカス位置から導出される。詳細は後述する。
リフォーカス画像補正部1506は、リフォーカス画像生成部1504が生成した各チャネルのリフォーカス画像に対して、空間周波数特性導出部1505が導出した各チャネルの空間周波数特性に基づき、色にじみの補正を行う。詳細は後述する。
リフォーカス画像出力部1507は、リフォーカス画像補正部1506が補正したリフォーカス画像を出力する。
次に、図16を用いて、本実施形態の画像処理部114によって実行される画像処理の処理フローの一例を説明する。
ステップS1601では、ライトフィールド取得部1501が、波長が異なる複数のチャネルを含むライトフィールドデータを取得する。
ステップS1602では、リフォーカス位置取得部1502がリフォーカス位置を取得する。
ステップS1603では、光学特性取得部1503が、光学系のチャネル毎の光学特性を取得する。
ステップS1604からステップS1607における処理は、チャネル毎の処理であり、全チャネルの処理が終わるまで繰り返される。終了判定は、ステップS1607において行われる。
ステップS1604では、リフォーカス画像生成部1504と空間周波数特性導出部1505が、取得したライトフィールドデータと光学特性から、新たな対象チャネルのライトフィールドデータと光学特性を抽出する。
ステップS1605では、リフォーカス画像生成部1504が、ステップS1604で抽出された対象チャネルのライトフィールドデータと光学特性から、ステップS1602で取得されたリフォーカス位置でのリフォーカス画像を生成する。詳細は後述する。
ステップS1606では、空間周波数特性導出部1505が、ステップS1604で抽出した対象チャネルの光学特性とステップS1602で取得したリフォーカス位置から、対象チャネルの空間周波数特性を導出する。詳細は後述する。
全チャネルについて、リフォーカス画像を生成し、空間周波数特性を導出すると、処理は、ステップS1608に進む。
ステップS1608では、リフォーカス画像補正部1506が、ステップS1606で導出した空間周波数特性に基づき、ステップS1605で生成したリフォーカス画像に対して色にじみの補正を行う。詳細は後述する。
ステップS1609では、リフォーカス画像出力部1507が、ステップS1608で補正されたリフォーカス画像を出力する。
<リフォーカス画像生成部の構成と処理>
次に、上述したステップS1605における、リフォーカス画像生成部1504によって実行されるリフォーカス画像生成処理についてより詳細に説明する。
次に、上述したステップS1605における、リフォーカス画像生成部1504によって実行されるリフォーカス画像生成処理についてより詳細に説明する。
図17は、本実施形態におけるリフォーカス画像生成部1504の構成例を表すブロック図である。リフォーカス画像生成部1504は、色収差補正部1701、シフト量決定部1702、リサンプリング部1703、及び加算部1704を備える。
色収差補正部1701は、光学特性として入力された式(3)、式(4)で表されるような異なるチャネル間のライトフィールドの対応に基づいてリサンプリングを行うことで、ライトフィールドデータの色収差補正を行う。本実施形態では、緑のチャネルのマイクロレンズ設置面上におけるライトフィールドを基準として、青と赤のチャネルのライトフィールドデータが重なるように変形する。例えば、緑と青の波長における焦点距離が50mm、52mm、物体側主点位置が0mm、5mm、像側主点位置が13mm、15mm、マイクロレンズ設置位置が75mmとする。この場合、式(5)により緑のチャネルのライトフィールド座標から青のチャネルのライトフィールド座標への変換パラメータは、(a,b,c,d)=(1.0285,−0.6692,−0.0012,0.9731)となる。かかる変換パラメータは、物理的に意味づけされた表記であり、ライトフィールドデータを整数座標位置で値を持つ4Dの離散的にサンプリングされたデータとして扱う場合、正規化された座標と物理座標の変換が必要である。マイクロレンズ間隔Δmを0.1mm、瞳分割幅Δaを0.1(光線の傾きによる表記)、瞳分割数nを5、撮像素子面と光軸が交わる位置であり、撮像素子の端部からの位置cを縦横それぞれ10mmとした場合、以下の式(6)により変換することができる。
このとき、x、y、u、vは物理座標を表し、x´、y´、u´、v´は正規化座標を表す。以上のようにチャネル間のライトフィールド座標の対応を算出し、(x,u)と(y,v)のそれぞれについてバイリニア補間などを用いてリサンプリングを行うことで、ライトフィールドデータの色収差補正を行うことができる。
シフト量決定部1702は、基準となるマイクロレンズ設置面から光線をリフォーカス位置まで伝播させたときのライトフィールドデータの変形を、式(1)で表される関係に基づき決定する。本実施形態では、(x,u)及び(u,v)で表されるライトフィールド空間上で、格子状にサンプリングされたデータがリフォーカス画像生成部1504に入力されるものとする。従って、光線の伝播によるライトフィールドデータの変形は、光線方向(u,v)毎に決まるシフト量で光線通過位置(x,y)をシフトすることと等価である。シフト量決定部1702は、ライトフィールドデータの変形を表す情報として、このシフト量を決定する。マイクロレンズの位置をz0、リフォーカス位置をz1とすると、光線方向(u,v)に対してシフト量(Δx,Δy)は、以下の式(7)のように決定される。
例えば、(u,v)=(0.1,−0.2)の光線方向を持つライトフィールドに対して、基準となるマイクロレンズの設置位置から像側方向に2mm動かした位置でリフォーカスする場合、シフト量は(Δx,Δy)=(0.2mm,−0.4mm)となる。
リサンプリング部1703は、色収差補正部1701が色収差補正を行ったライトフィールドデータを、シフト量決定部1702が決定したシフト量に基づき、光線方向(u,v)毎にシフトさせてリサンプリングする。リサンプリングは、各(u,v)におけるxy平面上のライトフィールドデータを通常の画像データとみなすことで、バイリニア補間などを用いて行うことができる。
加算部1704は、リサンプリング部1703がリサンプリングしたライトフィールドデータを、光線通過位置(x,y)毎に全光線方向(u,v)のライトフィールドデータを足し合わせることで、リフォーカス画像を生成する。なお、画素値のスケールは必要に応じて調整される。
次に、図18を用いて、本実施形態におけるリフォーカス画像生成処理の処理フローの一例を説明する。
ステップS1801では、シフト量決定部1702がリフォーカス位置を取得する。
ステップS1802からステップS1807における処理は、チャネル毎の処理である。ステップS1807において全チャネルを処理したか判定を行い、全チャネルを処理していなければS1802に戻って処理を繰り返し、全チャネルを処理していれば処理を終了する。
ステップS1802では、色収差補正部1701が新たな対象チャネルの光学特性とライトフィールドデータを取得する。
ステップS1803では、色収差補正部1701がステップS1802で取得した光学特性に基づき、ステップS1802で取得したライトフィールドデータに対して色収差補正を行う。
ステップS1804では、シフト量決定部1702が、ステップS1801で取得したリフォーカス位置に基づき、リフォーカスによる光線方向毎のライトフィールドデータのシフト量を決定する。
ステップS1805では、リサンプリング部1703が、ステップS1804で決定したシフト量に基づき、ステップS1803で色収差補正を適用したライトフィールドデータをシフトさせてリサンプリングする。
ステップS1806では、加算部1704が、リサンプリング部1703によってリサンプリングされたライトフィールドデータを、全光線方向で加算してリフォーカス画像を生成する。
<空間周波数特性導出部の構成と処理>
次に、上述したステップS1606における、空間周波数特性導出部1505によって実行される空間周波数特性導出処理についてより詳細に説明する。
次に、上述したステップS1606における、空間周波数特性導出部1505によって実行される空間周波数特性導出処理についてより詳細に説明する。
空間周波数特性導出部1505は、画素開口の広がりに対応するライトフィールド空間中の積分範囲に対して、色収差補正と光線方向毎のシフトによるライトフィールドの変形を適用することで、リフォーカス時の積分範囲を導出する。さらに、被写体から射出された光線の強度が光線方向によらず一様であるという仮定に基づき、光線通過位置(x,y)毎に全光線方向(u,v)で積分することで、空間周波数特性を表すフィルタの係数を導出する。ここで、画素開口の広がりと積分範囲の対応は、光学特性に基づき算出される。本実施形態では、各マイクロレンズの焦点距離と合焦距離、撮像素子の設置位置と開口の広がりに基づき算出されるものとする。
図19は、本実施形態における空間周波数特性導出部1505の構成例を表すブロック図である。空間周波数特性導出部1505は、画素開口設定部1901、色収差補正部1701、シフト量決定部1702、リサンプリング部1703、及び加算部1704を備える。
画素開口設定部1901は、ライトフィールドデータ中の各光線がサンプリングされた際の、ライトフィールド空間中での積分の重み係数の分布を、高解像度のライトフィールドデータとして生成する。図25(a)は、入力されるライトフィールドデータのサンプリング間隔dに対して、4倍の解像度で重み係数分布のライトフィールドデータを生成した例を示す。ここで、白い部分の値は1であり、灰色の部分の値は0である。この例では、x,u方向それぞれについて3/4の開口を持っている。
色収差補正部1701から加算部1704は、リフォーカス画像生成部1504における構成と同じであり、重み係数の分布をライトフィールドデータと見なして変形し、光線方向(u,v)に対して積分する。これにより、光線通過位置(x,y)毎の重み係数として、空間周波数特性を表すフィルタの係数を導出する。図25に示す例では、重み係数分布のライトフィールドデータが色収差補正により(a)から(b)に変形され、さらにリフォーカス処理により(c)のように変形される。(c)のライトフィールドデータから元の解像度のサンプリング位置でu方向に積分することでフィルタ係数が得られる。図25(c)では、積分範囲を実践の枠で示している。処理前は[0,3,0]だったフィルタ係数が、[1,1,1]へと変化していることがわかる。なお、フィルタ係数のスケールは、必要に応じて補正される。
次に、図20を用いて、本実施形態における空間周波数特性導出処理の処理フローの一例を説明する。本実施形態における空間周波数特性導出処理は、図18を用いて説明したリフォーカス画像生成処理と比較して、図18のステップS1802がステップS2001とステップS2002に置き換わっている。よってここでは、ステップS2001とステップS2002について説明する。
ステップS2001では、画素開口設定部1901と色収差補正部1701が新たな対象チャネルの光学特性を取得する。ここで、色収差補正部1701が取得する光学特性は、リフォーカス画像生成部1504と同様であるが、画素開口設定部1901が取得する光学特性は、各マイクロレンズの焦点距離と合焦距離、撮像素子の設置位置と開口の広がりである。
ステップS2002では、画素開口設定部1901が、ライトフィールドデータ中の各光線がサンプリングされた際の、ライトフィールド空間中での積分の重み係数の分布を、高解像度のライトフィールドデータとして生成する。
次いで、図18を用いて説明したリフォーカス画像生成処理と同様に、ステップS1803からステップS1806における処理を行うことによって、空間周波数特性が導出される。
<リフォーカス画像補正部の構成と処理>
次に、上述したステップS1608における、リフォーカス画像補正部1506によって実行されるリフォーカス画像補正処理についてより詳細に説明する。
次に、上述したステップS1608における、リフォーカス画像補正部1506によって実行されるリフォーカス画像補正処理についてより詳細に説明する。
本実施形態のリフォーカス画像補正部1506は、空間周波数特性導出部1505が導出した空間周波数特性を調整し、各光線のサンプリング時の積分範囲の違いによって異なったものとなる鮮鋭性を揃えることで、色にじみを補正する。本実施形態では、RGBの各チャネルのうち最も鮮鋭性の低いチャネルに合わせて、空間周波数特性を調整する。
図21は、本実施形態におけるリフォーカス画像補正部1506の構成例を表すブロック図である。本実施形態におけるリフォーカス画像補正部1506は、基準周波数特性決定部2101、補正フィルタ決定部2102、及び補正フィルタ適用部2103を備える。
基準周波数特性決定部2101は、各チャネルの空間周波数特性に基づき、最も鮮鋭性の低いチャネルの周波数特性を、基準周波数特性fminとして決定する。鮮鋭性の指標としては、空間周波数特性を表すフィルタにハイパスフィルタを適用して得られるフィルタのパワーなどを用いることができる。また、単に空間周波数特性を表すフィルタが実空間で値を持つ幅を用いても構わない。
補正フィルタ決定部2102は、基準周波数特性決定部2101が決定した基準周波数特性と、各チャネルの空間周波数特性に基づき、以下の式(8)に示すようにn番目のチャネルの補正フィルタf´nを決定する。
ここで、fnはn番目のチャネルの空間周波数特性を表す。また、「^」はフーリエ変換を表す。
補正フィルタ適用部2103は、リフォーカス画像に、補正フィルタ決定部2102が決定した補正フィルタf´nを適用することで、リフォーカス画像を補正する。
一例として、図14において緑のチャネルの鮮鋭性が最も高くなるz=z3のリフォーカス位置でリフォーカスを行い、n=0を赤、n=1を青、n=2を緑のチャネルとしたとき、各補正フィルタは以下の式(9)に示すように表される。
次に、図22を用いて、本実施形態におけるリフォーカス画像補正処理の処理フローの一例を説明する。
ステップS2201では、基準周波数特性決定部2101が、全チャネルの空間周波数特性を取得する。
ステップS2202では、基準周波数特性決定部2101が、ステップS2201で取得した空間周波数特性に基づき、最も鮮鋭性の低いチャネルの周波数特性を、基準周波数特性として決定する。
ステップS2203からステップS2206はチャネル毎の処理である。ステップS2206において全チャネルを処理したか判定を行い、処理していなければステップS2203に戻って処理を繰り返し、全チャネルを処理していれば処理を終了する。
ステップS2203では、補正フィルタ適用部2103が、新たな補正対象のチャネルのリフォーカス画像を取得する。
ステップS2204では、補正フィルタ決定部2102が、ステップS2202で決定した基準周波数特性と、補正対象のチャネルの空間周波数特性に基づき、補正フィルタを決定する。
ステップS2205では、補正フィルタ適用部2103が、ステップS2203で取得した補正対象のチャネルのリフォーカス画像に対して、ステップS2204で決定した補正フィルタを適用し、補正対象のチャネルのリフォーカス画像を補正する。
以上説明したように、本実施形態では、補正フィルタ決定部2102が、チャネル毎のリフォーカス画像の空間周波数特性の違いを補償する補正フィルタを、チャネル毎に決定する。そして、補正フィルタ適用部2103が、補正フィルタ決定部2012によってチャネル毎に決定された補正フィルタを、各波長のリフォーカス画像に適用する。そうすることで、全チャネルのリフォーカス画像の鮮鋭性を揃えることができ、色にじみを補正することができる。
なお、本実施形態では赤、青、緑の3波長の光線を取得し、リフォーカス画像を生成する構成としたが、異なる波長の光線であれば波長の種類と数はどのようなものであっても構わない。また、本実施形態におけるライトフィールドデータの表現は一例であり、(x,y,u,v)空間中で正方格子状にサンプリングされた形態でなくても良いし、(x,y,u,v)による表現でなくても良い。また、本実施形態ではマイクロレンズ設置位置をリフォーカス位置の基準として用いたが、リフォーカス位置はどの面を基準にしても構わない。また、本実施形態で示したリフォーカス画像の生成方法は一例であり、周波数空間での処理を行ったり、ライトフィールド空間中で直接リサンプリングしたりするなど、どのような方法を用いても構わない。また、本実施形態で示した空間周波数特性の導出方法は一例であり、計測や設計値からあらかじめ導出したリフォーカス位置に対する空間周波数特性のLUT(Look Up Table)を用いても構わない。また、空間周波数特性は、チャネル毎のリフォーカス画像から導出しても構わない。また、空間周波数特性は、リフォーカス画像の画素位置によらず一様な特性であっても、画素位置に依存する特性であっても構わない。また、リフォーカス位置や光学特性などのパラメータは、等価な役割を果たすならばどのような表現のものでも構わない。また、本実施形態で示したリフォーカス画像の補正方法は一例であり、鮮鋭性の高いチャネルの空間周波数特性やあらかじめ設定した周波数特性に合わせて補正するような構成でも構わない。また、本実施形態で示した補正フィルタの導出方法は一例であり、厳密に空間周波数特性が揃わないようなフィルタであっても、空間周波数特性を相対的に揃える効果があるならばどのようなフィルタでも構わない。
以上、本実施形態によれば、リフォーカス画像の各チャネルの鮮鋭性の違いによって生じる色にじみを補正することが可能となる。
[実施形態2]
上述した実施形態1では、チャネル毎の空間周波数特性の違いを補償する補正フィルタを用いて、各チャネルの空間周波数特性が揃うように補正を行うことで、色にじみを補正した。一方、実施形態2では、鮮鋭性の高いチャネルのリフォーカス画像の高周波成分を補正成分として用いて、鮮鋭性の低いチャネルのリフォーカス画像を補正することで、色にじみを補正しながら鮮鋭性を向上させる。より具体的には、本実施形態におけるリフォーカス画像補正部1506は、空間周波数特性導出部1505が導出した空間周波数特性に基づき、最も鮮鋭性の高いチャネルを決定し、高周波成分を抽出して他のチャネルに付加することで鮮鋭性を向上させる。
上述した実施形態1では、チャネル毎の空間周波数特性の違いを補償する補正フィルタを用いて、各チャネルの空間周波数特性が揃うように補正を行うことで、色にじみを補正した。一方、実施形態2では、鮮鋭性の高いチャネルのリフォーカス画像の高周波成分を補正成分として用いて、鮮鋭性の低いチャネルのリフォーカス画像を補正することで、色にじみを補正しながら鮮鋭性を向上させる。より具体的には、本実施形態におけるリフォーカス画像補正部1506は、空間周波数特性導出部1505が導出した空間周波数特性に基づき、最も鮮鋭性の高いチャネルを決定し、高周波成分を抽出して他のチャネルに付加することで鮮鋭性を向上させる。
図23は、本実施形態におけるリフォーカス画像補正部1506の構成例を表すブロック図である。本実施形態におけるリフォーカス画像補正部1506は、基準チャネル決定部2301、抽出フィルタ決定部2302、チャネル選択部2303、高周波成分抽出部2304、高周波成分補正部2305を備える。
基準チャネル決定部2301は、取得した全チャネルの空間周波数特性に基づき、最も鮮鋭性の高いチャネルを基準チャネルとして決定する。
抽出フィルタ決定部2302は、補正対象の空間周波数特性と基準チャネルの空間周波数特性に基づき、以下の式(10)に示すようにn番目のチャネルの抽出フィルタf´nを決定する。
ここで、fnはn番目のチャネルの空間周波数特性を表し、fmaxは基準チャネルの空間周波数特性を表す。
決定した抽出フィルタは、基準チャネルのリフォーカス画像から高周波成分を抽出するために用いられる。
チャネル選択部2303は、基準チャネルのリフォーカス画像を取得するとともに、補正対象のチャネルを選択して補正対象のチャネルのリフォーカス画像を取得する。
高周波成分抽出部2304は、基準チャネルのリフォーカス画像に抽出フィルタを適用して高周波成分を抽出する。
高周波成分補正部2305は、補正対象のチャネルのリフォーカス画像に、抽出した高周波成分を加算することで、補正対象のチャネルのリフォーカス画像を補正する。
次に、図24を用いて、本実施形態におけるリフォーカス画像補正処理の処理フローの一例を説明する。
ステップS2401では、基準チャネル決定部2301が、全チャネルの空間周波数特性を取得する。
ステップS2402では、基準チャネル決定部2301が、ステップS2401で取得した全チャネルの空間周波数特性に基づき、最も鮮鋭性の高いチャネルを基準チャネルとして決定する。また、チャネル選択部2303が基準チャネルのリフォーカス画像を取得する。
ステップS2403からステップS2407は、チャネル毎の処理である。ステップS2407で全チャネルを処理したか判定を行い、処理していなければステップS2403に戻って処理を繰り返し、処理していれば処理を終了する。
ステップS2403では、チャネル選択部2303が、新たな補正対象のチャネルを選択し、補正対象のチャネルのリフォーカス画像を取得する。
ステップS2404では、抽出フィルタ決定部2302が、ステップS2402で決定した基準チャネルと、補正対象のチャネルの空間周波数特性に基づき、基準チャネルのリフォーカス画像から高周波成分を抽出するための抽出フィルタを決定する。
ステップS2405では、高周波成分抽出部2304が、ステップS2402で取得した基準チャネルのリフォーカス画像に対して、ステップS2404で決定した抽出フィルタを適用し、高周波成分を抽出する。
ステップS2406では、高周波成分補正部2305が、ステップS2403で取得した補正対象のチャネルのリフォーカス画像に、ステップS2405で抽出した基準チャネルの高周波成分を加算する。そうすることで、補正対象のチャネルのリフォーカス画像を補正する。
なお、本実施形態で示した補正方法は一例であり、空間周波数特性に基づき、異なるチャネルの情報を用いて色にじみを補正する構成ならばどのようなものであっても構わない。例えば、複数のチャネルの情報を用いる構成でも構わない。また、周波数空間の波長域毎に用いるチャネルが変わっても構わない。
以上、本実施形態によれば、鮮鋭性の高いチャネルのリフォーカス画像の高周波成分を用いて、鮮鋭性の低いチャネルのリフォーカス画像を補正することで、色にじみの補正を行いながら鮮鋭性を向上させることが可能となる。
[その他の実施形態]
本発明は、上述の実施例の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は、上述の実施例の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
114 画像処理部
1504 リフォーカス画像生成部
1505 空間周波数特性導出部
1506 リフォーカス画像補正部
1504 リフォーカス画像生成部
1505 空間周波数特性導出部
1506 リフォーカス画像補正部
Claims (10)
- 波長が異なる複数のチャネルを含むライトフィールドデータと、前記ライトフィールドデータを得るために用いられる光学系のチャネル毎の光学特性に基づき、仮想的なリフォーカス位置におけるチャネル毎のリフォーカス画像を生成する生成手段と、
前記チャネル毎の光学特性と前記リフォーカス位置から、チャネル毎の空間周波数特性を導出する導出手段と、
前記チャネル毎の空間周波数特性に基づき、前記チャネル毎のリフォーカス画像を、鮮鋭性を揃えるように補正する補正手段と
を備えたことを特徴とする画像処理装置。 - 前記補正手段が、
前記チャネル毎の空間周波数特性の違いを補償する補正フィルタをチャネル毎に決定する決定手段と、
前記補正フィルタを前記チャネル毎のリフォーカス画像に適用する適用手段と
を有することを特徴とする請求項1記載の画像処理装置。 - 前記補正手段が、
前記チャネル毎の空間周波数特性に基づき、基準チャネルのリフォーカス画像からチャネル毎の補正成分を抽出する抽出手段と、
前記チャネル毎の補正成分を、前記チャネル毎のリフォーカス画像に加算する加算手段と
を有することを特徴とする請求項1記載の画像処理装置。 - 前記補正成分は、前記基準チャネルの前記リフォーカス画像の高周波成分であることを特徴とする請求項3に記載の画像処理装置。
- 前記空間周波数特性が、前記リフォーカス画像の画素位置によらず一様であることを特徴とする請求項1から4のいずれか1項記載の画像処理装置。
- 前記導出手段が、あらかじめ導出した前記リフォーカス位置に対する空間周波数特性に基づき、前記チャネル毎の空間周波数特性を導出することを特徴とする請求項1から5のいずれか1項記載の画像処理装置。
- 前記導出手段が、前記チャネル毎のリフォーカス画像に基づき、前記チャネル毎の空間周波数特性を導出することを特徴とする請求項1から5のいずれか1項記載の画像処理装置。
- 前記光学系を有し、前記ライトフィールドデータを取得する撮像手段と、
請求項1から7のいずれか1項に記載の画像処理装置と
を有することを特徴とする撮像装置。 - 波長が異なる複数のチャネルを含むライトフィールドデータと、前記ライトフィールドデータを得るために用いられる光学系のチャネル毎の光学特性に基づき、仮想的なリフォーカス位置におけるチャネル毎のリフォーカス画像を生成する生成工程と、
前記チャネル毎の光学特性と前記リフォーカス位置から、チャネル毎の空間周波数特性を導出する導出工程と、
前記チャネル毎の空間周波数特性に基づき、前記チャネル毎のリフォーカス画像を、鮮鋭性を揃えるように補正する補正工程と
を含むことを特徴とする画像処理方法。 - コンピュータを請求項1から7のいずれか1項に記載の画像処理装置として機能させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016163772A JP2018032982A (ja) | 2016-08-24 | 2016-08-24 | 画像処理装置、撮像装置、画像処理方法、及びプログラム |
US15/673,604 US10225537B2 (en) | 2016-08-24 | 2017-08-10 | Image processing apparatus, image capturing apparatus, image processing method, and storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016163772A JP2018032982A (ja) | 2016-08-24 | 2016-08-24 | 画像処理装置、撮像装置、画像処理方法、及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018032982A true JP2018032982A (ja) | 2018-03-01 |
Family
ID=61244123
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016163772A Pending JP2018032982A (ja) | 2016-08-24 | 2016-08-24 | 画像処理装置、撮像装置、画像処理方法、及びプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US10225537B2 (ja) |
JP (1) | JP2018032982A (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7080613B2 (ja) | 2017-09-27 | 2022-06-06 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム |
JP7072378B2 (ja) * | 2017-12-13 | 2022-05-20 | キヤノン株式会社 | 画像生成装置およびその制御方法、画像生成システム、プログラム |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4752031B2 (ja) | 2004-10-01 | 2011-08-17 | ボード オブ トラスティーズ オブ ザ レランド スタンフォード ジュニア ユニバーシティ | 撮像の装置と方法 |
US8358354B2 (en) * | 2009-01-26 | 2013-01-22 | The Board Of Trustees Of The Leland Stanford Junior University | Correction of optical abberations |
US20130076966A1 (en) * | 2011-09-22 | 2013-03-28 | John Norvold Border | Digital imaging system with refocusable imaging mode |
JP5882789B2 (ja) * | 2012-03-01 | 2016-03-09 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
JP6168794B2 (ja) * | 2012-05-31 | 2017-07-26 | キヤノン株式会社 | 情報処理方法および装置、プログラム。 |
JP6029380B2 (ja) * | 2012-08-14 | 2016-11-24 | キヤノン株式会社 | 画像処理装置、画像処理装置を具備する撮像装置、画像処理方法、及びプログラム |
US9444991B2 (en) * | 2014-11-13 | 2016-09-13 | Lytro, Inc. | Robust layered light-field rendering |
-
2016
- 2016-08-24 JP JP2016163772A patent/JP2018032982A/ja active Pending
-
2017
- 2017-08-10 US US15/673,604 patent/US10225537B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US10225537B2 (en) | 2019-03-05 |
US20180063499A1 (en) | 2018-03-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107465866B (zh) | 图像处理设备及方法、摄像设备和计算机可读存储介质 | |
US9992478B2 (en) | Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium for synthesizing images | |
US10958888B2 (en) | Image processing apparatus, image processing method and storage medium for storing program | |
JP6548367B2 (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム | |
JP5791437B2 (ja) | 画像処理方法、画像処理装置、撮像装置および画像処理プログラム | |
JP5984493B2 (ja) | 画像処理装置、画像処理方法、撮像装置およびプログラム | |
JP7234057B2 (ja) | 画像処理方法、画像処理装置、撮像装置、レンズ装置、プログラム、記憶媒体、および、画像処理システム | |
JP2014010783A (ja) | 画像処理装置、画像処理方法およびプログラム | |
US8872932B2 (en) | Apparatus and method for removing lens distortion and chromatic aberration | |
KR101626447B1 (ko) | 렌즈 왜곡과 색수차를 보정하는 장치, 방법, 및 컴퓨터 프로그램을 저장하는 컴퓨터 판독가능 매체 | |
JP2018032982A (ja) | 画像処理装置、撮像装置、画像処理方法、及びプログラム | |
JP6682184B2 (ja) | 画像処理方法、画像処理プログラム、画像処理装置および撮像装置 | |
JP2017188729A (ja) | 情報処理装置、情報処理方法およびプログラム | |
JP6362070B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体 | |
JP5743769B2 (ja) | 画像処理装置および画像処理方法 | |
KR101205833B1 (ko) | 디지털 줌 시스템을 위한 영상 처리 장치 및 방법 | |
JP2020046482A (ja) | 撮像装置 | |
JP5553862B2 (ja) | 撮像装置および撮像装置の制御方法 | |
JP2019208214A (ja) | 画像処理装置、画像処理方法およびプログラム、並びに撮像装置 | |
JP2017050662A (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP2015198380A (ja) | 画像処理装置、撮像装置、画像処理プログラム、および画像処理方法 | |
JP6585890B2 (ja) | 画像処理装置、画像処理方法およびプログラム、並びに撮像装置 | |
JP2019047145A (ja) | 画像処理装置、撮像装置、画像処理装置の制御方法およびプログラム | |
KR101382921B1 (ko) | 카메라, 그의 이미지 센서 및 동작 방법 | |
JP2019186905A (ja) | 画像処理装置、画像処理方法、およびプログラム |