JP2014033415A - 画像処理装置及び方法、及び、撮像装置 - Google Patents
画像処理装置及び方法、及び、撮像装置 Download PDFInfo
- Publication number
- JP2014033415A JP2014033415A JP2012174363A JP2012174363A JP2014033415A JP 2014033415 A JP2014033415 A JP 2014033415A JP 2012174363 A JP2012174363 A JP 2012174363A JP 2012174363 A JP2012174363 A JP 2012174363A JP 2014033415 A JP2014033415 A JP 2014033415A
- Authority
- JP
- Japan
- Prior art keywords
- image
- defective pixel
- pixel
- pixels
- image signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
Abstract
【課題】 光の進行方向の情報を含むようにして取得した画像信号を処理する場合に、画質を優先しつつ、画像処理の負担を軽減すること。
【解決手段】 複数の画素(201)を分割した複数の画素配列(200)と、1つの画素配列に対して1つのマイクロレンズ(1020)が対応したマイクロレンズアレイ(102)とを有する撮像手段により取得した画像信号を処理する画像処理装置であって、複数の画素から出力された画像信号の内、欠陥画素から出力された画像信号を補正する補正処理を行う欠陥画素補正手段(1061)と、補正処理後の画像信号を含めた複数の画素から出力された画像信号を、仮想像面の位置に応じて決まる重みづけ係数マトリックスを用いて加重加算して、仮想像面の画像を再構成する画像再構成手段(1062)とを有し、欠陥画素補正手段は、仮想像面の位置に応じて欠陥画素から出力された画像信号を補正するか否かを判断する。
【選択図】 図1
【解決手段】 複数の画素(201)を分割した複数の画素配列(200)と、1つの画素配列に対して1つのマイクロレンズ(1020)が対応したマイクロレンズアレイ(102)とを有する撮像手段により取得した画像信号を処理する画像処理装置であって、複数の画素から出力された画像信号の内、欠陥画素から出力された画像信号を補正する補正処理を行う欠陥画素補正手段(1061)と、補正処理後の画像信号を含めた複数の画素から出力された画像信号を、仮想像面の位置に応じて決まる重みづけ係数マトリックスを用いて加重加算して、仮想像面の画像を再構成する画像再構成手段(1062)とを有し、欠陥画素補正手段は、仮想像面の位置に応じて欠陥画素から出力された画像信号を補正するか否かを判断する。
【選択図】 図1
Description
本発明は、画像処理装置及び方法、及び、撮像装置に関し、特にマイクロレンズアレイを用いて取得した光の入射方向の情報を用いて、リフォーカス画像を再構成する手段を有する画像処理装置及び方法、及び、撮像装置に関する。
近年、電子カメラ等の撮像装置において、光の強度分布のみならず光の入射方向の情報をも取得可能な撮像装置(ライトフィールドカメラ)が提案されている。
例えば非特許文献1によれば、撮影レンズと撮像素子との間に、撮像素子の複数の画素に1つのマイクロレンズを対応させたマイクロレンズアレイを配置することで、マイクロレンズを通過した光は複数の画素によって入射方向別に受光される。そして、出力された画像信号(ライトフィールド情報)を用いて、通常の撮影画像の他に、「Light Field Photography」と呼ばれる手法を適用することで、任意の仮想像面(リフォーカス面)にピントを合わせた画像を撮影後に再構成することができる。
しかしながら、CMOSイメージセンサやCCDイメージセンサなどの固体撮像素子は、半導体基板上に存在する局所的な結晶欠陥などにより、欠陥画素(白欠陥、黒欠陥等)が発生することがある。このような欠陥画素の出力信号は正しい画像を構成することができないため、欠陥画素の出力信号を補正する必要がある。
Ren.Ng、他7名,「Light Field Photography with a Hand-Held Plenoptic Camera」,Stanford Tech Report CTSR 2005-02
ライトフィールドカメラにおいては、画像の解像度を決めるマイクロレンズアレイそれぞれに対して、光線の角度分解能を決める複数の画素が割り当てられるため、一般に情報量と計算量が大きくなる。
また、あるリフォーカス面で結像する光線は複数の画素により別々に受光される。さらに、リフォーカス面とマイクロレンズアレイ面との位置関係に応じて、特定の画素をリフォーカス再構成する時の分割画素の寄与率(重みづけ)が変化するため、それに応じた画像処理方法が必要になる。
このように、欠陥画素を単純に隣接画素の出力値を用いて補正する従来のような方法では適切な補正ができないだけでなく、特にライブビュー表示時等における処理の高速化に支障をきたすという課題があった。
本発明は上記問題点を鑑みてなされたものであり、光の進行方向の情報を含むようにして取得した画像信号を処理する場合に、画質を優先しつつ、画像処理の負担を軽減することを目的とする。
上記目的を達成するために、本発明の画像処理装置は、複数の画素を所定数ずつ分割した複数の画素配列と、前記画素配列の前面側に配置され、1つの画素配列に対して1つのマイクロレンズが対応した複数のマイクロレンズから成るマイクロレンズアレイとを有する撮像手段により取得した画像信号を処理する画像処理装置であって、前記複数の画素から出力された全画像信号の内、欠陥画素から出力された画像信号を補正する補正処理を行う欠陥画素補正手段と、前記全画像信号から仮想像面に画像を再構成するために、前記仮想像面の位置に応じて決まる重みづけ係数マトリックスを用いて、前記補正処理後の前記全画像信号を過重加算して、前記仮想像面の画像を再構成する画像再構成手段と、を有し、前記欠陥画素補正手段は、前記画像再構成手段で用いられる前記欠陥画素の画像信号に対する重みづけ係数の大きさに応じて、前記欠陥画素の画像信号を補正するか否かを判断する。
本発明によれば、光の進行方向の情報を含むようにして取得した画像信号を処理する場合に、画質を優先しつつ、画像処理の負担を軽減することができる。
以下、添付図面を参照して本発明を実施するための最良の形態を詳細に説明する。
<第1の実施形態>
図1は、本発明の実施形態における撮像装置100の構成を示すブロック図である。図1において、撮影レンズ101を通過した光は撮影レンズ101の焦点位置近傍に結像する。マイクロレンズアレイ102は複数のマイクロレンズ1020から構成されており、撮影レンズ101の前面側の焦点位置近傍に配置されることで、撮影レンズ101の異なる瞳領域を通過した光を瞳領域ごとに分割して出射する機能を有する。撮像素子103はCMOSイメージセンサやCCDイメージセンサに代表される、複数の画素からなる固体撮像素子である。1つのマイクロレンズ1020に所定数の画素が対応するように配置することで、マイクロレンズ1020で瞳領域ごとに分割して出射された光を、分割情報を保ったまま受光し、データ処理可能な画像信号に変換する機能を持たせている。
図1は、本発明の実施形態における撮像装置100の構成を示すブロック図である。図1において、撮影レンズ101を通過した光は撮影レンズ101の焦点位置近傍に結像する。マイクロレンズアレイ102は複数のマイクロレンズ1020から構成されており、撮影レンズ101の前面側の焦点位置近傍に配置されることで、撮影レンズ101の異なる瞳領域を通過した光を瞳領域ごとに分割して出射する機能を有する。撮像素子103はCMOSイメージセンサやCCDイメージセンサに代表される、複数の画素からなる固体撮像素子である。1つのマイクロレンズ1020に所定数の画素が対応するように配置することで、マイクロレンズ1020で瞳領域ごとに分割して出射された光を、分割情報を保ったまま受光し、データ処理可能な画像信号に変換する機能を持たせている。
アナログ信号処理回路(AFE)104は、撮像素子103から出力される画像信号に対して相関二重サンプリング処理、信号増幅、基準レベル調整、A/D変換処理等を行う。デジタル信号処理回路(DFE)105は、アナログ信号処理回路104から出力される画像信号に対して、基準レベル調整等のデジタル画像処理を行う。
画像処理回路106は、欠陥画素補正部1061、画像再構成部1062を含み、デジタル信号処理回路105から出力された画像信号に対して所定の画像処理やライトフィールドカメラ特有のリフォーカス演算を施す。なお、リフォーカス演算については、詳細に後述する。メモリ回路107および記録回路108は、画像処理回路106から出力された画像信号等を記録保持する不揮発性メモリあるいはメモリカード等の記録媒体である。
制御回路109は、撮像素子103や画像処理回路106等の撮像装置全体を統括的に駆動制御する。操作回路110は撮像装置100に備え付けられた操作部材からの信号を受け付け、制御回路109に対してユーザーの命令を伝える。表示回路111は撮影後の画像やライブビュー画像、各種設定画面等を表示する。
次に、本実施形態の撮像装置における撮影レンズ101、マイクロレンズアレイ102および撮像素子103の構成について詳細に説明する。
図2は、撮像素子103およびマイクロレンズアレイ102を図1の光軸Z方向から観察した図である。所定数の画素201(以下、「分轄画素」と呼ぶ。)に1つのマイクロレンズ1020が対応するように配置されている。以下、1つのマイクロレンズ後方にある所定数の分割画素201をまとめて「画素配列200」と呼ぶ。なお、本実施形態では画素配列200は、5行5列の計25個の分割画素201を含むものとする。ただし、各マイクロレンズの分割画素の画素数はこれに限定されず、また全てのマイクロレンズにおいて同一の分割数である必要もない。
図3は、撮影レンズ101から出射された光が1つのマイクロレンズ1020を通過して撮像素子103で受光される様子を光軸Zに対して垂直方向から観察した図である。撮影レンズ101の各瞳領域a1〜a5から出射され、マイクロレンズ1020を通過した光は、後方の対応する分割画素p1〜p5にそれぞれ結像する。
図4(a)は、図3で示した撮影レンズ101での光の通過領域と撮像素子103での受光領域の様子をさらに詳しく説明するために、撮影レンズ101の開口を光軸Z方向から見た図である。図4(b)は、1つのマイクロレンズ1020とその後方に配置された画素配列200を光軸Z方向から見た図である。図4(a)に示すように撮影レンズ101の瞳領域を1つのマイクロレンズ後方にある画素と同数の領域に分割した場合、1つの画素には撮影レンズ101の1つの瞳分割領域から出射した光が結像されることになる。ただし、ここでは撮影レンズ101とマイクロレンズ1020のFナンバーがほぼ一致しているものとする。
図4(a)に示す撮影レンズ101の瞳分割領域a11〜a55と、図4(b)に示す画素p11〜p55との対応関係は光軸Z方向から見て点対称となる。したがって、撮影レンズ101の瞳分割領域a11から出射した光はマイクロレンズ後方にある画素配列200のうち、画素p11に結像する。これと同様に、瞳分割領域a11から出射し、別のマイクロレンズ1020を通過する光も、そのマイクロレンズ後方にある画素配列200の中の画素p11に結像する。
次に、撮影レンズ101、マイクロレンズアレイ102および撮像素子103の構成によって取得された撮像データに対して、任意に設定した焦点位置である仮想像面(リフォーカス面)での画像再構成処理について説明する。
図5は、任意に設定したリフォーカス面上のある画素を通過する光が、撮影レンズ101のどの瞳分割領域から出射され、どのマイクロレンズ1020へ入射するかを光軸Zに対して垂直方向から見た図である。同図において、撮影レンズ101の瞳分割領域の位置を座標(u,v)、リフォーカス面上の画素位置を座標(x,y)、マイクロレンズアレイ102上のマイクロレンズ1020の位置を座標(x’,y’)とする。更に、撮影レンズ101からマイクロレンズアレイ102までの距離をF、撮影レンズ101からリフォーカス面までの距離をαFとする。αはリフォーカス面の位置を決定するためのリフォーカス係数であり、ユーザーが任意に設定できる。なお、図5ではu、x、x’の方向のみを示し、v、y、y’については省略してある。図5に示すように、座標(u,v)と座標(x,y)を通過した光は、マイクロレンズアレイ102上の座標(x’,y’)に到達する。この座標(x’,y’)は式(1)のように表すことができる。
そして、この光を受光する画素の出力をL(x’,y’,u,v)とすると、リフォーカス面上の座標(x,y)で得られる出力E(x,y)は、L(x’,y’,u,v)を撮影レンズの瞳領域に関して積分したものとなるため、式(2)のようになる。
式(2)において、リフォーカス係数αはユーザーによって決定されるため、(x,y)、(u,v)を与えれば、光が入射するマイクロレンズ1020の位置(x’,y’)がわかる。そして、そのマイクロレンズ1020に対応する画素配列200から(u,v)の位置に対応する画素がわかる。この画素の出力がL(x’,y’,u,v)となる。これをすべての瞳分割領域について行い、求めた画素出力を積分することでE(x,y)を算出することができる。
なお、(u,v)を撮影レンズ101の瞳分割領域の代表座標とすれば、式(2)の積分は、単純加算により計算することができる。
次に、画像合成の方法を具体的に説明する。図6はリフォーカス面112がマイクロレンズアレイ面(α=1)に指定された場合に使用する分割画素を説明する図である。また、図7はリフォーカス面112がマイクロレンズアレイ面よりも撮影レンズ101側のある位置(α<1)に指定された場合に使用する分割画素を説明する図である。ここでは、説明を分かり易くするために、リフォーカス面112の仮想画素113を通る主光線のみ考えることとし、さらに一次元方向のみで考えることとする。
図6、図7において、この仮想画素113を通過する光線は画素p1〜p5に個別に入射する。したがって、p1からp5までの画素の出力値の平均、正確にはリフォーカス面112に対応した加重平均を取ることで、リフォーカス面112の仮想画素113の出力値を求めることができる。
ここで、リフォーカス面112に対応した加重平均に用いる重みづけ係数について説明する。本発明で述べる重みづけ係数とは、ある仮想画素113を再構成するために分割画素に掛け合わせる、リフォーカス面の位置に依存する行列状の関数である。図6、図7において、画素p1〜p5に表示されたバーの長さが各画素に対応する重みづけ係数の相対値を表している。この重みづけ係数マトリックスを用いてリフォーカス演算の一般式を表現すると以下の式(3)により表すことができる。
P(m)はリフォーカス面112のm番目の仮想画素113の出力値、p1(n)からp5(n)はP(m)を構成するn番目のマイクロレンズ1020下にある分割画素の出力値である。また、Wm1(n)からWm5(n)はP(m)を構成するn番目のマイクロレンズ1020下にある分割画素p1(n)からp5(n)に対して、あるリフォーカス面において掛け合わされる重みづけ係数である。
つまり、リフォーカス面112上の(一次元)仮想画素ベクトルPを算出するためには、撮像素子103を構成する分割画素出力ベクトルpに対して、重みづけ係数マトリックスWを掛け合わせて、加重加算する。この重みづけ係数マトリックスの縦方向のサイズは仮想画素ベクトルPの長さ「m(=マイクロレンズ数)」と等しく、横方向のサイズは分割画素出力ベクトルpの長さ「n×マイクロレンズ当たりの画素数」に等しい。ここで一般にm=nである。
つまり、リフォーカス面112上の(一次元)仮想画素ベクトルPを算出するためには、撮像素子103を構成する分割画素出力ベクトルpに対して、重みづけ係数マトリックスWを掛け合わせて、加重加算する。この重みづけ係数マトリックスの縦方向のサイズは仮想画素ベクトルPの長さ「m(=マイクロレンズ数)」と等しく、横方向のサイズは分割画素出力ベクトルpの長さ「n×マイクロレンズ当たりの画素数」に等しい。ここで一般にm=nである。
また、重みづけ係数マトリックスはリフォーカス面の位置で決まり、あらかじめあるリフォーカス面における重みづけ係数マトリックスを保持しておくことが可能である。
次に、本発明の特徴である画像処理回路106の欠陥画素補正部1061による欠陥補正動作および画像再構成部1062による画像再構成動作について説明する。なお、画像処理回路106には、あらかじめ欠陥画素の座標、種類(黒欠陥、白欠陥等)、および所定の条件下での出力信号のデータが不図示のメモリに格納されているものとする。また、例えばメモリ回路107などに格納しておき、画像処理回路106が読み出すようにしてもよい。
図9は本第1の実施形態における画像処理回路106で行われる欠陥補正動作および画像再構成動作を示すフローチャートである。
S11では、操作回路110などを介して設定されたリフォーカス面の位置から、リフォーカス係数αを取得する。次にS12において、S11で取得したリフォーカス係数αに基づいて、リフォーカス面112の仮想画素113を構成するための分割画素を選択する。
S13では、選択された分割画素があらかじめメモリに記憶されている欠陥画素かどうかを判定する。選択された分割画素が欠陥画素である場合はS14に、欠陥画素でない場合はS18に移行する。
S14では、S13で判定された欠陥画素の種類あるいは出力信号(欠陥の度合い)を判定する。例えば、常に飽和レベルの信号を出力する欠陥画素(白欠陥)、あるいは常に黒レベルの信号を出力する欠陥画素(黒欠陥)である場合は、必ず補正が必要な欠陥画素としてS16に進む。それ以外の場合は必ずしも補正が必要でない欠陥画素としてS15に移行する。なお、このS14における欠陥の度合いの判断基準は白欠陥、黒欠陥に限られるものではなく、所定の数値以上あるいは以下の信号を出力する場合など、欠陥画素の種類や出力信号のレベル、撮影条件等によって適宜決めればよい。
S15では、欠陥画素がリフォーカス面112の仮想画素113を構成するための重みづけ係数の大小を判定する。ここで言う重みづけ係数は、式(3)で表される重みづけ係数マトリックスの欠陥画素に対応するWである。重みづけ係数が所定の値より大きい場合は補正が必要な欠陥画素としてS16に、小さい場合は補正が必要でない欠陥画素としてS18に移行する。所定の値については、撮像条件等により変えることができる性質のものであるが、例えば本第1の実施形態ではW=0.5を閾値とする。
S16では、補正が必要な欠陥画素の補正値を作成するため、補正値作成に使用する分割画素の選択が行われる。本第1の実施形態では、欠陥画素に隣接する上下左右4つの分割画素の算術平均値をもって補正値とする。この他に、選択された補正値作成用画素の画素配列200内の位置に応じて、図8に示すような重みづけ係数(リフォーカス面で決まる重みづけ係数とは異なる)を用いた加重平均値を補正値にしてもよい。図8のように、例えば撮影レンズ101の有効な瞳領域外に対応する画素(例えば、p11、p15、p51、p55)の重みづけ係数を小さく設定することで、補正値作成の際のノイズの影響を低減することができる。
S17では、欠陥画素の出力をS16で算出した補正値に置き換えることで欠陥画素を補正を行う。S18では、S17までの補正処理の間に、そのまま使用すると判断された出力値、あるいは補正値に置き換えられた出力値(補正処理後の画像信号)を用いて、式(3)のリフォーカス演算の一般式に基づいて、仮想画素113を再構成する。
S19では、S12〜S18で処理された仮想画素113が再構成画像の最終画素であるかどうかを判定する。仮想画素113が最終画素でない場合は、S12に戻り、次の仮想画素113の再構成を行う。仮想画素113が最終画素である場合は、欠陥補正動作および画像再構成動作が完了する。
以上説明したように、本第1の実施形態ではまず仮想画素に必要な分割画素が欠陥画素かどうかを判断し、さらに欠陥画素と判定された分割画素の欠陥レベルが所定のレベル以上かどうかを判断する。そして、仮想画素を再構成するための重みづけ係数を求め、所定の値と比較する。重みづけ係数が大きい場合は欠陥画素を補正した上で仮想画素を再構成し、重みづけ係数が小さい場合は欠陥画素を補正しないまま仮想画素を再構成する。こうすることで、リフォーカス画像を再構成するための撮像画像に対して、画質を優先しつつ、画像処理の負担を軽減することができる。
その他の方法として、S13で欠陥画素と判定された分割画素を、欠陥レベルや重みづけの大小に関わらず仮想画素の再構成に使用しないとすることもできる。また、S15で重みづけ係数が所定の値より大きい、つまり補正が必要な欠陥画素と判断された分割画素もまた、仮想画素の再構成に使用しないとすることもできる。こうすることで、リフォーカス画像を再構成するための撮像画像に対して、画質を優先しつつ、画像処理の負担を軽減することができる。
<第2の実施形態>
次に、本発明の第2の実施形態について説明する。上述した第1の実施形態との違いは、S15における欠陥画素の重みづけ係数の大小を判断する際に、重みづけ係数だけを判断対象とするのではなく、重みづけ係数と欠陥画素の出力信号との積を、判断対象とすることである。この積が所定の値より大きい場合は補正が必要な欠陥画素としてS16に、小さい場合は補正が必要でない欠陥画素としてS18に移行する。こうすることで、リフォーカス画像を再構成するための撮像画像に対して、画質を優先しつつ、画像処理の負担を軽減することができる。
次に、本発明の第2の実施形態について説明する。上述した第1の実施形態との違いは、S15における欠陥画素の重みづけ係数の大小を判断する際に、重みづけ係数だけを判断対象とするのではなく、重みづけ係数と欠陥画素の出力信号との積を、判断対象とすることである。この積が所定の値より大きい場合は補正が必要な欠陥画素としてS16に、小さい場合は補正が必要でない欠陥画素としてS18に移行する。こうすることで、リフォーカス画像を再構成するための撮像画像に対して、画質を優先しつつ、画像処理の負担を軽減することができる。
以上、本発明の好ましい実施の形態を説明したが、本発明は第1及び第2の実施形態に限定されるものではなく、その要旨の範囲内で種々の変形及び変更が可能である。
例えば、本発明にかかる撮像装置の画素構成においては、画素の構造を簡潔に説明するため、マイクロレンズアレイに対応する分割画素を5行5列の構成としたが、本発明はこれに限定されず、様々な数及び形状の分割画素を有する構成としても構わない。
また、S15においてW=0.5を閾値と設定したが、本発明はこの値に限定されるものではない。例えば、閾値の大きさをリフォーカス面αの位置に応じて変えてもよい。
<他の実施形態>
なお、本発明は、複数の機器(例えばホストコンピュータ、インターフェイス機器、カメラヘッドなど)から構成されるシステムに適用しても、一つの機器からなる装置(例えば、デジタルカメラ、デジタルビデオカメラなど)に適用してもよい。
なお、本発明は、複数の機器(例えばホストコンピュータ、インターフェイス機器、カメラヘッドなど)から構成されるシステムに適用しても、一つの機器からなる装置(例えば、デジタルカメラ、デジタルビデオカメラなど)に適用してもよい。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
その場合には、撮像素子103により得られた画像信号と、欠陥画素の情報とを組み合わせてコンピュータに供給すればよい。
Claims (12)
- 複数の画素を分割した複数の画素配列と、前記画素配列の前面側に配置され、1つの画素配列に対して1つのマイクロレンズが対応した複数のマイクロレンズから成るマイクロレンズアレイとを有する撮像手段により取得した画像信号を処理する画像処理装置であって、
前記複数の画素から出力された画像信号の内、欠陥画素から出力された画像信号を補正する補正処理を行う欠陥画素補正手段と、
前記補正処理後の画像信号を含めた前記複数の画素から出力された画像信号を、仮想像面の位置に応じて決まる重みづけ係数マトリックスを用いて加重加算して、前記仮想像面の画像を再構成する画像再構成手段と、を有し、
前記欠陥画素補正手段は、前記仮想像面の位置に応じて前記欠陥画素から出力された画像信号を補正するか否かを判断することを特徴とする画像処理装置。 - 前記欠陥画素補正手段は、前記欠陥画素の画像信号に対する前記重みづけ係数が予め決められた閾値よりも大きい場合に前記欠陥画素の画像信号を補正すると判断することを特徴とする請求項1に記載の画像処理装置。
- 前記欠陥画素補正手段は、前記欠陥画素の画像信号と前記欠陥画素の画像信号に対する前記重みづけ係数との積が予め決められた閾値よりも大きい場合に、前記欠陥画素の画像信号を補正すると判断することを特徴とする請求項1に記載の画像処理装置。
- 前記欠陥画素補正手段は、更に、前記欠陥画素の欠陥の度合いを判定し、前記欠陥画素の欠陥の度合いが予め決められた前記欠陥画素を補正する条件を満たしている場合に、前記重みづけ係数の大きさに関わらず前記欠陥画素の画像信号を補正すると判断することを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。
- 前記欠陥画素補正手段は、前記閾値を前記仮想像面の位置に応じて決定することを特徴とする請求項2乃至4のいずれか1項に記載の画像処理装置。
- 前記欠陥の度合いは、前記欠陥画素の欠陥の種類または画像信号の大きさを含むことを特徴とする請求項5に記載の画像処理装置。
- 複数の画素を分割した複数の画素配列と、前記画素配列の前面側に配置され、1つの画素配列に対して1つのマイクロレンズが対応した複数のマイクロレンズから成るマイクロレンズアレイとを有する撮像手段により取得した画像信号を処理する画像処理装置であって、
前記複数の画素から出力された画像信号を、仮想像面の位置に応じて決まる重みづけ係数マトリックスを用いて加重加算して、前記仮想像面の画像を再構成する画像再構成手段を有し、
前記画像再構成手段は、前記複数の画素から出力された画像信号の内、欠陥画素から出力された画像信号を用いずに、前記画像を再構成することを特徴とする画像処理装置。 - 前記撮像手段と、
請求項1乃至7の何れか1項に記載の画像処理装置と
を有することを特徴とする撮像装置。 - 複数の画素を分割した複数の画素配列と、前記画素配列の前面側に配置され、1つの画素配列に対して1つのマイクロレンズが対応した複数のマイクロレンズから成るマイクロレンズアレイとを有する撮像手段により取得した画像信号を処理する画像処理方法であって、
欠陥画素補正手段が、前記複数の画素から出力された画像信号の内、欠陥画素から出力された画像信号を補正する補正処理を行う欠陥画素補正ステップと、
画像再構成手段が、前記補正処理後の画像信号を含めた前記複数の画素から出力された画像信号を、仮想像面の位置に応じて決まる重みづけ係数マトリックスを用いて加重加算して、前記仮想像面の画像を再構成する画像再構成ステップと、を有し、
前記欠陥画素補正ステップでは、前記仮想像面の位置に応じて前記欠陥画素の画像信号を補正するか否かを判断することを特徴とする画像処理方法。 - 複数の画素を分割した複数の画素配列と、前記画素配列の前面側に配置され、1つの画素配列に対して1つのマイクロレンズが対応した複数のマイクロレンズから成るマイクロレンズアレイとを有する撮像手段により取得した画像信号を処理する画像処理方法であって、
画像再構成手段が、前記複数の画素から出力された画像信号を、仮想像面の位置に応じて決まる重みづけ係数マトリックスを用いて加重加算して、前記仮想像面の画像を再構成する画像再構成ステップを有し、
前記画像再構成ステップでは、前記複数の画素から出力された画像信号の内、欠陥画素から出力された画像信号を用いずに、前記画像を再構成することを特徴とする画像処理方法。 - コンピュータに、請求項9または10に記載の画像処理方法の各工程を実行させるためのプログラム。
- 請求項11に記載のプログラムを格納したコンピュータが読み取り可能な記憶媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012174363A JP2014033415A (ja) | 2012-08-06 | 2012-08-06 | 画像処理装置及び方法、及び、撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012174363A JP2014033415A (ja) | 2012-08-06 | 2012-08-06 | 画像処理装置及び方法、及び、撮像装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2014033415A true JP2014033415A (ja) | 2014-02-20 |
Family
ID=50282905
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012174363A Pending JP2014033415A (ja) | 2012-08-06 | 2012-08-06 | 画像処理装置及び方法、及び、撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2014033415A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016181620A1 (ja) * | 2015-05-08 | 2016-11-17 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体 |
JP2016213819A (ja) * | 2015-05-08 | 2016-12-15 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体 |
CN109102463A (zh) * | 2018-08-13 | 2018-12-28 | 北京飞搜科技有限公司 | 一种超分辨率图像重建方法及装置 |
-
2012
- 2012-08-06 JP JP2012174363A patent/JP2014033415A/ja active Pending
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016181620A1 (ja) * | 2015-05-08 | 2016-11-17 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体 |
JP2016213819A (ja) * | 2015-05-08 | 2016-12-15 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体 |
US20180041744A1 (en) * | 2015-05-08 | 2018-02-08 | Canon Kabushiki Kaisha | Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium |
CN107960120A (zh) * | 2015-05-08 | 2018-04-24 | 佳能株式会社 | 图像处理设备、摄像设备、图像处理方法、程序和存储介质 |
US10771762B2 (en) | 2015-05-08 | 2020-09-08 | Canon Kabushiki Kaisha | Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium that correct a parallax image based on a correction value calculated using a captured image |
CN107960120B (zh) * | 2015-05-08 | 2021-07-16 | 佳能株式会社 | 图像处理设备、摄像设备、图像处理方法和存储介质 |
CN113596431A (zh) * | 2015-05-08 | 2021-11-02 | 佳能株式会社 | 图像处理设备、摄像设备、图像处理方法和存储介质 |
US11388383B2 (en) | 2015-05-08 | 2022-07-12 | Canon Kabushiki Kaisha | Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium |
CN113596431B (zh) * | 2015-05-08 | 2023-11-17 | 佳能株式会社 | 图像处理设备、摄像设备、图像处理方法和存储介质 |
CN109102463A (zh) * | 2018-08-13 | 2018-12-28 | 北京飞搜科技有限公司 | 一种超分辨率图像重建方法及装置 |
CN109102463B (zh) * | 2018-08-13 | 2023-01-24 | 苏州飞搜科技有限公司 | 一种超分辨率图像重建方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5988790B2 (ja) | 画像処理装置、撮像装置、画像処理方法、および、画像処理プログラム | |
JP6222908B2 (ja) | 画像処理装置、方法およびプログラム、並びに画像処理装置を有する撮像装置 | |
KR101627087B1 (ko) | 화상처리장치, 화상처리방법 및 기억매체, 및 화상처리장치를 구비한 촬상장치 | |
US8743245B2 (en) | Image processing method, image pickup apparatus, image processing apparatus, and non-transitory computer-readable storage medium | |
JP6047025B2 (ja) | 撮像装置及びその制御方法 | |
JP5947548B2 (ja) | 撮像装置、その制御方法、画像処理装置、画像生成方法、プログラム | |
JP6678504B2 (ja) | 撮像装置及びその制御方法、プログラム並びに記憶媒体 | |
JP6095266B2 (ja) | 画像処理装置及びその制御方法 | |
US10291899B2 (en) | Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium for generating restored image | |
JP2015056808A (ja) | 画像処理装置及びその制御方法 | |
JP2014045352A (ja) | 画像処理装置、方法およびプログラム、並びに画像処理装置を有する撮像装置 | |
KR20140013591A (ko) | 촬영 장치 및 이에 적용되는 촬영 방법 | |
JP2014033415A (ja) | 画像処理装置及び方法、及び、撮像装置 | |
TWI508554B (zh) | 基於光場相機的影像對焦處理方法及其系統 | |
JP5330439B2 (ja) | カメラモジュール、画像処理装置及び画像処理方法 | |
JP2017216649A (ja) | 撮像素子、撮像装置、および撮像信号処理方法 | |
JP7492345B2 (ja) | 撮像素子及びその制御方法、及び、撮像装置及びその制御方法 | |
JP2013145985A (ja) | 撮像装置、その制御方法及び撮像システム | |
JP5553862B2 (ja) | 撮像装置および撮像装置の制御方法 | |
JP6137941B2 (ja) | 画像処理システム、画像処理方法およびプログラム、並びに撮像装置 | |
JP6728005B2 (ja) | 撮像装置、撮像方法およびプログラム | |
JP2021013117A (ja) | 集積回路チップ及び撮像装置 | |
JP2013258453A (ja) | 画像処理方法、撮像装置、画像処理装置、および、画像処理プログラム | |
JP6294751B2 (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
JP6590055B2 (ja) | 撮像装置 |