JP2010258689A - 画像復元装置 - Google Patents
画像復元装置 Download PDFInfo
- Publication number
- JP2010258689A JP2010258689A JP2009105353A JP2009105353A JP2010258689A JP 2010258689 A JP2010258689 A JP 2010258689A JP 2009105353 A JP2009105353 A JP 2009105353A JP 2009105353 A JP2009105353 A JP 2009105353A JP 2010258689 A JP2010258689 A JP 2010258689A
- Authority
- JP
- Japan
- Prior art keywords
- image
- deteriorated
- scene
- imaging
- deterioration
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000006866 deterioration Effects 0.000 claims abstract description 70
- 238000003384 imaging method Methods 0.000 claims description 41
- 230000015556 catabolic process Effects 0.000 claims description 33
- 238000006731 degradation reaction Methods 0.000 claims description 33
- 238000000034 method Methods 0.000 claims description 30
- 230000003287 optical effect Effects 0.000 claims description 24
- 238000012545 processing Methods 0.000 claims description 22
- 239000000654 additive Substances 0.000 claims description 3
- 230000000996 additive effect Effects 0.000 claims description 3
- 239000007788 liquid Substances 0.000 claims description 3
- 238000001228 spectrum Methods 0.000 description 24
- 238000010586 diagram Methods 0.000 description 6
- 238000006243 chemical reaction Methods 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 230000004075 alteration Effects 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000003595 spectral effect Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 230000000593 degrading effect Effects 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 229920013655 poly(bisphenol-A sulfone) Polymers 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Abstract
【課題】劣化画像の、失われた空間周波数を復元する。
【解決手段】同一シーンを複数の異なる劣化特性で撮影し、得られた劣化画像および劣化特性をそれぞれ周波数変換する。周波数変換されたそれぞれの劣化画像および劣化特性同士を加算する。加算された劣化画像に対して、加算された劣化特性の逆特性をかけることで画像復元することで、劣化によって減少、もしくは失われた、一部の空間周波数を復元する。
【選択図】図1
【解決手段】同一シーンを複数の異なる劣化特性で撮影し、得られた劣化画像および劣化特性をそれぞれ周波数変換する。周波数変換されたそれぞれの劣化画像および劣化特性同士を加算する。加算された劣化画像に対して、加算された劣化特性の逆特性をかけることで画像復元することで、劣化によって減少、もしくは失われた、一部の空間周波数を復元する。
【選択図】図1
Description
本発明は、劣化した画像から劣化を低減した画像を得る画像復元装置に関するものである。
カメラなどの撮像装置で撮像した画像には、物理的な制約により、レンズの開口制限やレンズの収差などによる劣化が生じる。また撮影条件によっては、手ぶれやピンボケなどの劣化が生じる。劣化した画像は、数1に定義したモデルとなる。
i(x、y)はカメラなどで撮影され得られた劣化画像、a(x、y)はレンズの開口制限、レンズの収差、手ぶれ、ピンボケなどの劣化を表す関数、s(x、y)は劣化を含まない原画像である。
さらに、数1をフーリエ変換すると数2となる。
さらに、数1をフーリエ変換すると数2となる。
I(p、v)、A(p、v)、S(p、v)はそれぞれ、i(x、y)、a(x、y)、s(x、y)をフーリエ変換したものである。原画像の復元画像を生成するには、劣化画像に劣化関数の逆特性に対応する関数をかければよい。逆特性に対応する関数として劣化関数の逆行列1/A(p、v)をそのまま劣化画像に乗じると、推定原画像S(p、v)は数3の式で表される。
ノイズを抑制しつつ画像復元する方法として、ウィナーフィルタを適用して、劣化関数の逆特性に対応する関数を劣化画像に乗じる方法がある。ウィナーフィルタは数4の式で与えられる。すなわち、B(p、v)を劣化画像に乗じて、復元画像を生成する。
ここで、Mn(p、v)はノイズのパワースペクトル密度で、Ms(p、v)は原画像のパワースペクトル密度である。ただし、通常、Mn(p、v)およびMs(p、v)を正確に求めることが困難であるため、次式のように定数Γで近似する。
ここで近似定数Γはノイズを抑えつつ良好な復元画像を得るために適当な値を設定する必要がある。この問題に対して、特許文献1では、所定数の異なる近似定数Γ1〜Γnを用いて所定数n個のウィナーフィルタの周波数応答を導出する。さらに導出したウィナーフィルタの周波数応答を、劣化画像の周波数領域の情報であるI(p,v)に個別にかけることで、所定数の空間周波数領域復元情報を得る。得られた空間周波数領域情報を逆離散フーリエ変換(IDFT)し、所定数の復元画像を得る。さらに、所定数の復元画像と劣化画像について局所領域毎に2乗誤差を導出する。そして、前記2乗誤差の値が最小な復元画像を選択することで、復元に最適なΓの値を局所領域毎に導出する。
しかしながら上記の構成では、ノイズの増幅は抑えられることを期待できるが、劣化によって減少した空間周波数を復元することが困難であったので、その対策が望まれていた。
本発明は、このような状況に鑑みてなされたものであって、その目的は、劣化によって減少した一部の空間周波数を復元することが可能な画像復元装置を提供するものである。
本発明の上記課題は、互いに異なる劣化特性で同じシーンが撮像された複数の劣化画像と劣化特性とから、当該シーンについての復元画像を生成する画像復元装置であって、
前記劣化画像同士を周波数領域で加算して加算劣化画像を導出する手段と、前記劣化特性同士を周波数領域で加算して加算劣化特性を導出する手段と、前記加算劣化画像に前記加算劣化特性の逆特性に対応する関数を作用させて、当該シーンについての復元画像を生成する手段とを有することを特徴とする画像復元装置によって解決される。
前記劣化画像同士を周波数領域で加算して加算劣化画像を導出する手段と、前記劣化特性同士を周波数領域で加算して加算劣化特性を導出する手段と、前記加算劣化画像に前記加算劣化特性の逆特性に対応する関数を作用させて、当該シーンについての復元画像を生成する手段とを有することを特徴とする画像復元装置によって解決される。
本発明の画像復元装置によれば、劣化によって減少した一部の空間周波数を復元した良好な画像復元を実現できる。
(第1の実施例)
図面を参照して本発明の実施例について詳細に説明する。図10(a)に本実施の形態に係る撮像装置を示す。図10(a)に示す本実施例はデジタルカメラについてのものであるが、顕微鏡、監視カメラについて本発明を適用することも可能である。図10(a)において、1311はレリーズボタン、1301はレンズ、1308は表示装置、1310は撮影モード選択ボタンである。
図面を参照して本発明の実施例について詳細に説明する。図10(a)に本実施の形態に係る撮像装置を示す。図10(a)に示す本実施例はデジタルカメラについてのものであるが、顕微鏡、監視カメラについて本発明を適用することも可能である。図10(a)において、1311はレリーズボタン、1301はレンズ、1308は表示装置、1310は撮影モード選択ボタンである。
図10(b)は図10(a)の撮像装置のブロック図を表している。図中の矢印および線分は制御データおよび画像データの流れを示している。図10(b)において、1301はレンズ、1302は撮像素子、1303はA/D変換部である。レンズ1301は、被撮像シーンの光学象を結象する光学系の少なくとも一部を構成する。1304はCPU(Central Processing Unit)、1305はRAM(Random Access Memory)である。1306は画像復元部、1307は記録装置、1308は表示装置、1309はレンズを移動させるレンズ駆動部、1310は撮影モード選択ボタン、1311はレリーズボタンである。CPU1304は撮影するための処理を制御する。
画像復元部1306は、CPU1304とは別途設けられており、ハードウェア化されて構成される。画像復元部1306は、一連の画像復元処理を、ハードウェアのロジックに置き換え、再構成可能な集積回路、もしくは、集積回路に実装し実現する。処理速度の観点から、画像復元処理をハードウェア化して行う構成が望ましい。なお、画像復元部の機能をCPU1304での処理によって実現することも可能である。
ここで図10(b)および図1を用いて、本発明を適用可能な撮像装置の動作の流れを説明する。まず、撮影モード選択ボタン1310を用いて、画像復元機能を選択する。CPU1304での設定に基づいて、レンズ位置や絞りが変更されて、所定の劣化特性が反映される。なお、単にオートフォーカス機能によって、レンズ位置や絞りを変更させてもよい。なぜなら、オートフォーカス機能を用いる場合であっても、劣化の無い画像を取得することはできないからである。オートフォーカス画像は、合焦状態の近傍の劣化画像である。レリーズボタン1311が押されると、撮像素子1302が受光する。すなわち設定された劣化特性が反映された状態で、所望のシーンについて劣化画像が撮像される。撮像素子1302から読み出された劣化画像はA/D変換部1303でデジタルデータに変換される。変換された劣化画像は、CPU1304で算出された劣化特性データとともにRAM1305に一時記憶される。
さらに1枚目の撮像と異なる劣化特性で同じシーンについて2枚目の画像を撮像する。異なる劣化特性を撮像に反映するために、フォーカス位置が変更される。すなわち、1枚目撮像時と異なるレンズ駆動スケジュールがCPU1304で設定される。この駆動スケジュールに基づいてレンズ駆動部1309が光学系を構成する少なくとも一部のレンズを移動させることによって、フォーカス位置が変更される。この状態で、1枚目と同じシーンについて撮像素子1302に受光させ、A/D変換部1303でデジタルデータに変換する。すなわち2枚目の劣化画像は、1枚目とはフォーカス位置の異なる劣化特性で撮像される。変換された2枚目の劣化画像は、A/D変換部1303から、CPU1304で算出された劣化特性データとともにRAM1305に一時記憶される。再びフォーカス位置を変更して、異なる劣化特性で同じシーンについての撮像を続けてもよい。より良好な画像復元を期待することができる。このようにして、同じシーンを複数回撮像することによって、互いに異なる劣化特性で同じシーンについて撮像された複数の劣化特性を取得する。
RAM1305に一時記憶された複数の劣化画像と劣化特性データを、画像復元部1306が読み込む。画像復元部1306は、これらの劣化画像と劣化特性から画像復元処理を行い、復元画像を算出する。画像復元部1306における画像復元処理の詳細については後述する。画像復元部1306にて算出された復元画像は記録装置1307に転送される。再生時は記録装置1307に保存された復元画像を表示装置1308に表示する。
図1は、撮像装置の処理の流れを表すフローチャートである。図1のフローについて説明する。
まず、ステップ101で同じシーンについての複数の劣化特性と複数の劣化画像を取得する。ステップ101で取得する複数の劣化特性は、周波数空間での周波数特性が異なるものである。また、複数の劣化画像は、原画像を前記複数の劣化特性によって、劣化した画像である。周波数特性が異なる複数の劣化特性を用いる理由としては、周波数特性が異なる複数の劣化画像を用いる事で、減少した周波数を補い合うことが可能であり、良好な画像復元を行う事ができるからである。原画像は必ずしも、全てのノイズ要因や劣化要因を乗り除いたものである必要はない。
ステップ101で、撮像に異なる劣化特性を反映させて、周波数特性の異なる複数の劣化画像を得る方法について図3を用いて説明する。図3に記載されているレンズは理想レンズであると仮定する。図3(a)と(b)は、点光源301、レンズ1301、撮像素子1302で構成されている。ただし、レンズ1301に対して光軸上で相対的に異なる位置に撮像素子1302が配置されるので、図3(a)と図3(b)ではフォーカス位置が異なる。そのため、撮像素子1302上の像302と像303は、互いに異なったものになる。点光源301に対する像が像302と像303になるため、像302、像303は点像分布関数であると考えられ、像302と像303は異なる周波数特性であると言える。レンズ駆動部1309を用いて、撮像素子1302をレンズ1301に対して光軸軸上で相対的に異なる位置に配置してフォーカス位置を変更することによって、撮像に異なる劣化特性を反映させる。撮像毎にフォーカス位置を変更して、同じシーンについての撮像を複数回行う。このようにして、互いに異なる劣化特性で撮像を行って、周波数特性の異なる複数の劣化画像を得ることができる。
ステップ102からステップ104の処理は画像復元部1306で行われる。図14は、ウィナーフィルタを適用してステップ102から104の処理をハードウェア化して構成した画像復元部1306を示す。1901は、劣化画像をフーリエ変換するフーリエ変換部である。1902は、劣化画像同士を加算して加算劣化画像を導出する加算部である。1903は、劣化特性をフーリエ変換するフーリエ変換部である。1904は、劣化特性同士を加算して加算劣化特性を導出する加算部である。1905は、加算劣化特性を用いてウィナーフィルタを作成するウィナーフィルタ作成部である。1906は、加算劣化画像にウィナーフィルタを乗じて復元画像を得るフィルタリング部である。1907は、復元画像をフーリエ逆変換するフーリエ逆変換部である。
ステップ102について説明する。画像復元部1306が、複数の劣化画像とこれらの劣化特性をRAM1305から読み込む。読み込んだ複数の劣化特性および、複数の劣化画像を周波数領域の情報に変換する。空間領域の情報から周波数領域の情報に変換する方法としては、離散フーリエ変換を用いても良いし、離散コサイン変換を用いても良い。周波数領域への変換方法については特に限定されない。
ステップ103について説明する。ステップ103では、画像復元部1306が周波数を合成して画像復元処理を行う。取得した劣化画像同士を周波数領域で加算して加算劣化画像を得る。取得した劣化特性同士を周波数領域で加算して加算劣化特性を得る。加算劣化画像に、加算劣化特性の逆の特性に対応する関数を作用させて復元画像を生成する。
例えば数6の式に従って、加算劣化画像に加算劣化特性の逆行列を乗じて、数6の式で表される復元画像を生成する。S(p、v)は復元画像の周波数領域の情報であり、nは複数の劣化特性および複数の劣化画像の総数である。Im(p,v)は周波数領域の各劣化画像であり、Am(p,v)はこれらの劣化画像の周波数領域の劣化特性である。ΣIm(p,v)は劣化画像を加算して得られる加算劣化画像であり、ΣAm(p,v)は劣化特性を加算して得られる加算劣化特性である。
本発明には、一般的な画像復元問題の手法を適用することが可能である。例えば、数7の式に従ってウィナーフィルタを適用することができる。または、Richardson−Lucy法を適用してもよい。
周波数を合成して画像復元するステップ103について図2を用いて詳細に説明する。
実際には劣化画像を取得する枚数は限定されないが、図2では、二枚の劣化画像を取得することを前提に説明する。まず、あるシーンについての劣化前の原画像の周波数情報201がある。原画像の周波数情報201には、劣化特性の周波数情報202が掛けられる。また、201と異なる劣化特性の周波数情報203が掛けられる。劣化特性の周波数情報202,203の作用を受け、同じシーンについての劣化画像の周波数情報204、205が得られる。ここで、劣化特性の周波数情報202、203が異なるため、劣化画像の周波数情報204、205は異なる周波数特性となる。このとき、劣化によって、周波数成分206、207は、一部の情報が失われてしまっている。そこで、劣化画像の周波数情報204、205を加算して、加算劣化画像を得る処理208を行う。さらに劣化特性の周波数情報202、203を加算して、加算劣化特性を得る処理209を行う。ここで、劣化特性の周波数情報202,203および、劣化画像の周波数情報204,205の周波数特性は異なる。すなわち、加算する処理208、209によって、同一周波数の値において、一方の周波数の振幅が小さく、一方の周波数の振幅が大きい場合、周波数を補う事が可能である。このため、周波数情報を有効に活用した画像復元が可能になる。最後に画像復元する処理210では、208で加算された画像の周波数情報について、209で加算された劣化特性の周波数情報の逆特性に対応する関数をかけることで画像復元を行う。復元後の復元画像は211のような周波数の減少を改善した周波数情報となる。
ステップ104では、周波数を合成して画像復元する103で得られた周波数情報を、周波数領域から空間領域に変換する。
なお、ステップ102から104の処理は、画像処理装置におけるソフトウェアとして処理してもよい。その場合には、ステップ102から104の処理を実行するための画像復元プログラムを記録装置1307からRAMに1305に展開して、CPU1304が実行することによって、ステップ102から104の処理を実現する。
ステップ105は、周波数逆変換するステップ104で空間領域に変換された画像を出力するステップである。画像復元部1306にて算出された復元画像が記録装置1307に転送される。再生時には記録装置1307に保存された復元画像を表示装置1308に表示する。このように処理することで、良好な復元画像を得ることが可能になる。
異なる劣化特性を同じシーンについての撮像に反映させる方法は、実施形態1に挙げた方法に限られない。他の方法について図4、図5,図6、図13を用いて説明する。図4、図5,図6、図13に記載されているレンズは理想レンズであると仮定する。
まず、図4を用いてフィルター特性を変えることによって、互いに異なる劣化特性を反映させて周波数特性の異なる複数の劣化画像を得る方法を説明する。図4(a)は、点光源401、レンズ1301、フィルター404、撮像素子1302で構成されている。図4(b)は、フィルター405が異なる形状に設定されている点において図4(a)と異なる。フィルターの形状は、絞り駆動部を用いて調整する。このとき、撮像素子上の像は、図4(a)で402、図4(b)で403になる。フィルター404の形状とフィルター405の形状は互いに異なるので、像402と像403も異なる像となり、周波数特性の異なった画像を得る事ができる。撮像毎にフィルターの形状を異なる形状に設定して、同じシーンについての撮像を複数回行う。このようにして、周波数特性の異なる複数の劣化画像を得ることができる。
図5を用いて、レンズの屈折率を変えることによって、異なる劣化特性を反映させて周波数特性の異なる複数の劣化画像を得る方法を説明する。図5(a)は、点光源501、レンズ504、撮像素子1302で構成されている。図5(b)は、点光源501、レンズ505、撮像素子1302で構成されている。レンズには、印加電圧を変更することによって屈折率を調整可能な液体レンズを用いる。印加電圧の変更は、電圧調整手段によって行う。図5(a)と(b)では、印加電圧に基づいて異なる屈折率が設定されていて、フォーカス位置が異なる。レンズ504とレンズ505の屈折率を変えることで、撮像素子上の像502、503を異なる位置にフォーカスが合った状態にする。このように屈折率を変えて、フォーカス位置を変化させて、同じシーンを複数回撮像することによって、異なる劣化特性を反映させて周波数特性の異なる複数の劣化画像を得ることができる。撮像装置の構成によっては、互いに異なる劣化特性を同時に反映させて、同じシーンについての複数の劣化画像を一度の撮像で取得することもできる。この場合には、複数の劣化画像を同時に取得することができるので、同じシーンについての撮像を繰り返さなくてすむ。図6と図13がその例である。
図6を用いて、撮像素子の読み出し特性を変えることで互いに異なる劣化特性を反映させて周波数特性の異なる複数の劣化画像を得る方法を説明する。図6の1302は、光学系によって結像した光学像を電気信号に変換する撮像素子を表す。601は撮像素子1302の一部を拡大した図である。603は、第1の受光部を表す。604は、第2の受光部を表す。撮像素子601上には、アレイ状にマイクロレンズが配置される。各マイクロレンズについて複数に分割される分割受光部が設けられる。図6では、受光部が、共通のマイクロレンズ下で第1の受光部603と第2の受光部604とに分割されている。第1の受光部603からの電気信号と第2の受光部604からの電気信号は、互いに独立した映像信号として処理される。第1の受光部と第2の受光部が受光する光束の光強度分布は互いに異なるので、それぞれから取得される画像には互いに異なる劣化特性が反映される。すなわち、互いに異なる劣化特性で同じシーンが撮像された複数の劣化画像を取得する。同じタイミングで複数の劣化画像を取得するので、複数の劣化画像を取得するのに要する時間を短縮することができる。図13では、ビームスプリッタ1804を含む光学系を有する撮像装置を用いる。ここで、1801は点光源であり、1301はレンズである。ビームスプリッタ1804は、被撮像シーンの光学像を形成する光束の入射光を透過光と反射光に分割する。1805は、ビームスプリッタ1804を透過した光束を受光する位置に配置される第1の撮像素子である。像1802が、ビームスプリッタ1804を透過した光束によって第1の撮像素子1805上に生成される。1806は、ビームスプリッタ1804で反射された光束を受光する位置に配置される第2の撮像素子である。像1803が、ビームスプリッタ1804で反射された光束によって第2の撮像素子1806上に生成される。第1の撮像素子1805とビームスプリッタ1804間の距離が、第2の撮像素子1806とビームスプリッタ1804間の距離と異なるように配置する。すなわち、像1802の撮像には、像1803の撮像とは異なるフォーカス位置が反映される。このような構成を用いて、異なる劣化特性で複数の劣化画像を撮像する。同じタイミングで複数の劣化画像を取得するので、複数の劣化画像を取得するのに要する時間を短縮することができる。
続いて、本発明による画像復元方法の有効性について説明する。
上述した本発明の画像復元方法を適用して画像復元を行うことで本発明の有効性を確認する。
まず、有効性の確認に使用する原画像を図7(a)に示す。原画像は解像度256×256のグレースケール画像である。図7(b)は、原画像のパワースペクトルである。
次に、原画像を劣化させ、周波数特性の異なる複数の劣化画像を作成する。ここで、劣化画像の枚数は限定されないが、有効性の検証では2枚とする。周波数特性の異なる複数の劣化画像を作成する為に、図7(c)に示される第一のPSF(Point Spread Function)と図7(e)に示される第二のPSFを用いる。図7(d)(f)は、それぞれ図7(c)、(e)のパワースペクトルである。第一のPSFは幅10ピクセル、角度20度の直線であり、第二のPSFは幅10ピクセル、角度160度の直線である。第一のPSFと第二のPSFをそれぞれ原画像に畳み込む。さらに第一PSFを畳み込んだ原画像に対して平均0分散0.00003のガウスのノイズを、第ニPSFを畳み込んだ原画像に対して平均0分散0.00003のガウスのノイズを加えた。第一第二のPSFを畳み込み、ノイズを加えた原画像は、図8(a)に示される第一の劣化画像と図8(e)に示される第二の劣化画像となる。第一の劣化画像と第二の劣化画像のパワースペクトルはそれぞれ図8(b)と図8(f)である。
得られた第一の劣化画像と第二の劣化画像、および第一のPSFと第二のPSFに対して、離散フーリエ変換を用いて周波数領域に変換する。周波数領域に変換された、第一の劣化画像、第二の劣化画像、および第一のPSF、第二のPSFを、数6の式に従って加算を行い、加算された劣化画像と加算されたPSFを計算する。加算された劣化画像に加算された劣化特性の逆特性に対応する関数をかける方法としては数7のウィナーフィルタを用いて、近似定数Γを0.05として演算を行った。逆特性をかけた後、逆フーリエ変換し、復元画像を得る。得られた復元画像を図9(a)に示す。また復元画像のパワースペクトルを図9(b)示す。復元画像について原画像とのPSNR値を計算した結果を表1に示す。
また、有効性を検証するために、第一の劣化画像と第一のPSFおよび、第ニの劣化画像と第ニのPSFの組み合わせでそれぞれ数5のウィナーフィルタを用い、近似定数Γを0.05で演算を行った。演算結果は図8(c)に示される第一の復元画像と図8(g)に示される第二の復元画像である。第一の復元画像と第二の復元画像のパワースペクトルはそれぞれ図8(d)と図8(h)となる。
第一の劣化画像および復元画像、第二の劣化画像および復元画像の原画像とのPSNR(Peak Signal−to−Noise Ratio)値を計算した結果を表2に示す。
表1および表2から、本発明の画像復元方法を適用して生成した復元画像のPSNRは、表2における第一の復元画像のPSNRに比べて1.8973db向上している。この結果から、本発明の画像復元方法を用いることによって良好な画像復元が行える事が確認できた。
さらに、原画像および、第一第二の劣化画像、第一第二の復元画像、復元画像の一部のパワースペクトルを用いて、本発明の画像復元方法が、劣化によって減少もしくは、失われた空間周波数を復元可能であることを説明する。
図11(a)は元画像のパワースペクトルである。また、復元の効果を確認する為に図11(a)の128行目のデータ1401の値を、図11(b)にパワースペクトルの強度を縦軸としてプロットした。加えて、図11(c)は、第一の劣化画像のパワースペクトルである図8(b)の128行目のデータをプロットした図である。同様に、図11(d)は、第二の劣化画像のパワースペクトルである図8(f)の128行目のデータをプロットした図である。図11(e)は、第一の復元画像のパワースペクトルである図8(d)の128行目のデータをプロットした図である。図11(f)は、第二の復元画像のパワースペクトルである図8(h)の128行目のデータをプロットした図である。図12は、復元画像のパワースペクトルである図9(b)の128行目のデータをプロットした図である。
ここで、図11(b)、図11(c)、図11(d)、図11(e)、図11(f)、図12の101列目の強度(1402、1501、1502、1601、1602、1701)を用いて劣化によって減少もしくは、失われた空間周波数を復元可能であることを説明する。
図11(b)の1402の値は4.3028である。図11(b)は原画像の一部のパワースペクトルである。また、図11(c)の1501の値は撮像時の劣化により原画像の一部のパワースペクトル1402と比べて、1.4077に減少している。図11(d)の1502の値についても撮影時の劣化により原画像の一部のパワースペクトル1402と比べて、1.5355に減少している。ここで、図11(e)、図11(f)は図11(c)、図11(d)に対して数5のウィナーフィルタを用い、近似定数Γを0.05で演算を行った後のパワースペクトルである。図11(e)の1601の値は0.2203であり、図11(f)の1602値は1.012であるので、どちらもウィナーフィルタによる復元処理では、失われた周波数成分は復元されないことがわかる。図12は、本発明の画像復元方法を用いて復元した復元画像の一部のパワースペクトルであり、1701の値は、2.5506である。
上記より、1601と1602の値との原画像の一部のパワースペクトル値1402との差分は、それぞれ4.0825と3.2908である。さらに、1701の値との原画像の一部のパワースペクトル値1402との差分は、1.7522であり、原画像により近い値になっていることがわかる。また、詳細には示していないが、パワースペクトルの他の失われた成分に関しても、良好に復元されていることが図より見て取れる。この結果から、本発明の画像復元方法は、原信号により近いパワースペクトル値を導出しており、減少もしくは失われ空間周波数を良好に復元している事がわかる。
1311 レリーズボタン
1301 レンズ
1308 表示装置
1310 撮影モード選択ボタン
1301 レンズ
1308 表示装置
1310 撮影モード選択ボタン
Claims (9)
- 互いに異なる劣化特性で同じシーンが撮像された複数の劣化画像と劣化特性とから、当該シーンについての復元画像を生成する画像復元装置であって、
前記劣化画像同士を周波数領域で加算して加算劣化画像を導出する手段と、前記劣化特性同士を周波数領域で加算して加算劣化特性を導出する手段と、前記加算劣化画像に前記加算劣化特性の逆特性に対応する関数を作用させて、当該シーンについての復元画像を生成する手段とを有することを特徴とする画像復元装置。 - 互いに異なる劣化特性で同じシーンが撮像された複数の劣化画像と劣化特性とから、当該シーンについての復元画像を生成する画像処理装置の画像復元プログラムであって、
前記画像処理装置に、前記劣化画像同士を周波数領域で加算して加算劣化画像を導出する工程と、前記劣化特性同士を周波数領域で加算して加算劣化特性を導出する工程と、前記加算劣化画像に前記加算劣化特性の逆特性に対応する関数を作用させて、当該シーンについての復元画像を生成する工程とを実行させることを特徴とする画像復元プログラム。 - 互いに異なる劣化特性で同じシーンについての劣化画像を撮像する機能を有する撮像装置であって、
撮像した前記劣化画像同士を周波数領域で加算して加算劣化画像を導出する手段と、
前記劣化特性同士を周波数領域で加算して加算劣化特性を導出する手段と、
前記加算劣化画像に前記加算劣化特性の逆特性に対応する関数を作用させて、当該シーンについての復元画像を生成する手段とを
有することを特徴とする撮像装置。 - 撮像素子と、
前記撮像素子上に被撮像シーンの光学像を結像する光学系と、
前記光学系を構成する少なくとも一部のレンズを移動させてフォーカス位置を制御するレンズ駆動手段とを有し、
撮像毎にフォーカス位置が異なるように前記レンズ駆動手段を制御して、同じシーンを複数回撮像することによって、前記劣化画像を撮像することを特徴とする請求項3に記載の撮像装置。 - 撮像素子と、
少なくとも一部に印加電圧によって屈折率を調整可能な液体レンズを含み、前記撮像素子に被撮像シーンの光学像を結像する光学系と、
前記液体レンズに印加する電圧を調整する電圧調整手段とを有し、
撮像毎に電圧が異なるように前記電圧調整手段を制御して、同じシーンを複数回撮像することによって、前記劣化画像を撮像することを特徴とする請求項3に記載の撮像装置。 - 撮像素子と、
絞りを含み、前記撮像素子に被撮像シーンの光学像を結像する光学系と、
前記絞りの形状を制御する絞り駆動手段とを有し、
撮像毎に前記絞りの形状が異なるように前記絞り駆動手段を制御して、同じシーンを複数回撮像することによって、前記劣化画像を撮像することを特徴とする請求項3に記載の撮像装置。 - 被撮像シーンの光学像を形成する光束の入射光を透過光と反射光に分割するビームスプリッタを含む光学系と、
前記透過光を受光する第1の撮像素子と、
前記反射光を受光する第2の撮像素子とを有し、
前記第1の撮像素子と前記ビームスプリッタとの間の光軸上の距離が、前記第2の撮像素子と前記ビームスプリッタとの間の光軸上の距離と異なり、第1及び第2の撮像素子によって前記劣化画像を撮像することを特徴とする請求項3に記載の撮像装置。 - 被撮像シーンの光学像を結像させる光学系と、
前記光学系によって結像した光学像を電気信号に変換する撮像素子と、
前記電気信号を映像信号に処理する手段とを有し、
前記撮像素子は、アレイ状の複数のマイクロレンズと、
各々のマイクロレンズに対応して設けられ、それぞれが第1の受光部と第2の受光部とに分割された複数の分割受光部を有し、
前記第1の受光部からの電気信号と前記第2の受光部からの電気信号とを互いに独立に処理することによって前記劣化画像を撮像することを特徴とする請求項3に記載の撮像装置。 - 互いに異なる劣化特性で同じシーンが撮像された複数の劣化画像と劣化特性とから、当該シーンについての復元画像を生成する画像復元方法であって、
前記劣化画像同士を周波数領域で加算して加算劣化画像を導出する工程と、前記劣化特性同士を周波数領域で加算して加算劣化特性を導出する工程と、前記加算劣化画像に前記加算劣化特性の逆特性に対応する関数を作用させて、当該シーンについての復元画像を生成する工程とを有することを特徴とする画像復元方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009105353A JP2010258689A (ja) | 2009-04-23 | 2009-04-23 | 画像復元装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009105353A JP2010258689A (ja) | 2009-04-23 | 2009-04-23 | 画像復元装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2010258689A true JP2010258689A (ja) | 2010-11-11 |
Family
ID=43319122
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009105353A Pending JP2010258689A (ja) | 2009-04-23 | 2009-04-23 | 画像復元装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2010258689A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011099239A1 (ja) * | 2010-02-12 | 2011-08-18 | パナソニック株式会社 | 撮像装置および撮像方法、ならびに前記撮像装置のための画像処理方法 |
WO2014010734A1 (ja) * | 2012-07-12 | 2014-01-16 | 株式会社ニコン | 撮像装置 |
-
2009
- 2009-04-23 JP JP2009105353A patent/JP2010258689A/ja active Pending
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011099239A1 (ja) * | 2010-02-12 | 2011-08-18 | パナソニック株式会社 | 撮像装置および撮像方法、ならびに前記撮像装置のための画像処理方法 |
JP2011166588A (ja) * | 2010-02-12 | 2011-08-25 | Panasonic Corp | 撮像装置および撮像方法、ならびに前記撮像装置のための画像処理方法 |
US8520081B2 (en) | 2010-02-12 | 2013-08-27 | Panasonic Corporation | Imaging device and method, and image processing method for imaging device |
WO2014010734A1 (ja) * | 2012-07-12 | 2014-01-16 | 株式会社ニコン | 撮像装置 |
JPWO2014010734A1 (ja) * | 2012-07-12 | 2016-06-23 | 株式会社ニコン | 撮像装置 |
US9838618B2 (en) | 2012-07-12 | 2017-12-05 | Nikon Corporation | Image processing device configured to correct output data based upon a point spread function |
US10341580B2 (en) | 2012-07-12 | 2019-07-02 | Nikon Corporation | Image processing device configured to correct an image so as to decrease output data |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5528173B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP6091176B2 (ja) | 画像処理方法、画像処理プログラム、画像処理装置および撮像装置 | |
JP4665718B2 (ja) | 撮影装置 | |
JP5237978B2 (ja) | 撮像装置および撮像方法、ならびに前記撮像装置のための画像処理方法 | |
JP5468404B2 (ja) | 撮像装置および撮像方法、ならびに前記撮像装置のための画像処理方法 | |
CN108462830B (zh) | 摄像装置及摄像装置的控制方法 | |
JP5213688B2 (ja) | 撮像装置 | |
US20120050583A1 (en) | Image processing method, image processing apparatus and image processing program | |
WO2011114611A1 (ja) | 撮像装置、画像処理装置、および画像処理プログラム | |
KR101341101B1 (ko) | 영상 복원 장치 및 복원 방법 | |
JP2011215707A (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
JP2007102061A (ja) | 画像撮影装置 | |
US9262833B2 (en) | Methodology for performing depth estimation with defocused images under extreme lighting conditions | |
JP5843599B2 (ja) | 画像処理装置および撮像装置並びにその方法 | |
JP6239985B2 (ja) | 画像処理装置、画像処理プログラム及び撮像装置 | |
JP2012217090A (ja) | 撮像装置、撮影レンズユニット、および撮像ユニット | |
JP2010258689A (ja) | 画像復元装置 | |
US20160284061A1 (en) | Image processing apparatus, image capturing apparatus, image processing method, and non-transitory computer-readable storage medium | |
JP2009047734A (ja) | 撮像装置及び画像処理プログラム | |
CN112073603B (zh) | 图像处理设备、摄像设备、图像处理方法和存储介质 | |
US20130147982A1 (en) | Imaging method and apparatus | |
JP2013238779A (ja) | 撮像装置、撮影レンズユニット、および撮像ユニット | |
JP5743772B2 (ja) | 画像処理システム | |
KR101695987B1 (ko) | 다중 컬러 필터 조리개를 구비한 촬상 장치에 의해 촬영된 영상의 화질 개선 장치 및 방법, 그리고 이를 구현한 다중 컬러 필터 조리개를 구비한 촬상 장치 | |
JP5418258B2 (ja) | 撮像装置および画像処理方法 |