JP4334496B2 - 画素信号処理装置、及び画素信号処理方法 - Google Patents
画素信号処理装置、及び画素信号処理方法 Download PDFInfo
- Publication number
- JP4334496B2 JP4334496B2 JP2005111797A JP2005111797A JP4334496B2 JP 4334496 B2 JP4334496 B2 JP 4334496B2 JP 2005111797 A JP2005111797 A JP 2005111797A JP 2005111797 A JP2005111797 A JP 2005111797A JP 4334496 B2 JP4334496 B2 JP 4334496B2
- Authority
- JP
- Japan
- Prior art keywords
- signal
- pixel
- pass filter
- horizontal
- correlation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Color Television Image Signal Generators (AREA)
Description
そのため、色成分値相互間に正の相関がない領域(例えばある色と別の色との境界など)、例えば相関がない場合や、負の相関がある領域では、補間を適切に行うことができず、補間誤差が大きくなるという問題があった。
2次元平面上に配列され、各々が第1乃至第Nの分光感度特性のうちのいずれか1つを有する画素の画素信号の組に基づき、第h(hは1からNのうちのいずれか一つ)の分光感度特性の画素信号が存在する注目画素位置における第k(kはhを除く1からNのうちのいずれか一つ)の分光感度特性の画素信号を生成する画素信号処理装置において、
上記注目画素位置の近傍の領域内の複数の画素位置における、第hの分光感度特性の画素信号の低周波数成分を生成するh信号ローパスフィルタと、
上記注目画素位置の近傍の領域内の複数の画素位置における、第hの分光感度特性の画素信号の変化成分を生成するh信号ハイパスフィルタと、
上記注目画素位置の近傍の領域内の複数の画素位置における、第kの分光感度特性の画素信号の低周波数成分を生成するk信号ローパスフィルタと、
上記注目画素位置の近傍の領域内の複数の画素位置における、第kの分光感度特性の画素信号の変化成分を生成するk信号ハイパスフィルタと、
上記注目画素位置の近傍の領域内の複数の画素位置における画素信号に基づいて、上記注目画素周辺の画素信号の水平及び垂直方向の相関の強さを表す水平方向相関係数Δh及び垂直方向相関係数Δvを生成する方向別相関算出手段と、
上記水平方向相関係数Δhと垂直方向相関係数Δvに応じて変化する係数βを生成する係数算出手段と、
上記k信号ハイパスフィルタで生成された変化成分と上記h信号ハイパスフィルタで生成された変化成分の差と、上記係数βとに基づいて、第kの信号と第hの信号との非相関値を算出する非相関値算出手段と、
上記k信号ローパスフィルタで生成された低周波数成分と上記h信号ローパスフィルタで生成された低周波数成分の差を求める差算出手段と、
注目画素位置における第hの画素信号と、上記非相関値と、上記差算出手段で求めた差に定数を掛けたものを加算して、注目画素位置における第kの画素信号を求める補間値算出手段と
を有する画素信号処理装置を提供する。
また、本発明は、一般的に言えば、2次元平面上に配置され、各々が第1乃至第Nの分光感度特性のうちのいずれか1つを有する画素の画素信号の組に基づき、第h(hは1からNのうちのいずれか一つ)の分光感度特性の画素信号が存在する注目画素位置における第k(kはhを除く1からNのうちのいずれか一つ)の分光感度特性の画素信号を生成する画素信号処理装置及び方法に関するものであるが、以下の実施の形態では、Nが3であり、第1から第Nの分光感度特性を有する画素が、R、G、B画素の3種類の画素である。
図1はこの発明の実施の形態1の画素信号処理装置を備えた撮像装置の構成を表すブロック図である。
レンズ1から入射した光は、例えば固体撮像素子で構成される2次元イメージセンサ2の撮像面に結像する。イメージセンサ2は、2次元的に配列された複数の光電変換素子を有し、この複数の光電変換素子は、例えば図2に示すように、ベイヤ(Bayer)型に配置された、赤(R)、緑(G)、青(B)の3原色に対応する分光感度特性を有するカラーフィルタで覆われており、各光電変換素子からは、カラーフィルタの色に対応した色成分のアナログ信号が出力される。
各画素を構成する光電変換素子の各々からは、受光色に対応する一つの色成分値を表す信号しか得られない。即ち、R画素については、R成分値が既知である一方、G及びB成分値が未知であり、G画素については、G成分値が既知である一方、B及びR成分値が未知であり、B画素については、B成分値が既知である一方、R及びG成分値が未知である。各画素について、R、G、Bすべての色成分値を持つことで、カラー画像を得ることができるので、フレームメモリ4に書き込まれている、各画素位置における未知の色成分値は不足色成分値とも言われる。本発明の画素信号処理は、各画素において未知である色成分値(不足色成分値)を補間により求めるものである。
ここで、ローパスフィルタ8r、8g、8bは、図6に示すように、それぞれ、水平方向の低周波成分を算出する水平ローパスフィルタ14r、14g、14bと、垂直方向の低周波成分を算出する垂直ローパスフィルタ15r、15g、15bと、加重加算手段35r、35g、35bを有する。
水平ローパスフィルタ14r、14g、14bは、メモリ6r、6g、6bから読み出された画素信号に対して各色成分の水平方向の低周波数成分を出力する。即ち、水平ローパスフィルタ14r、14g、14bの各々は、各画素について、その画素位置の近傍の領域(当該画素位置を含む領域)内の複数の画素位置における、各色の画素信号の水平方向の低周波数成分を算出する。
垂直ローパスフィルタ15r、15g、15bは、メモリ6r、6g、6bから読み出された画素信号に対して各色成分の垂直方向の低周波数成分を出力する。即ち、垂直ローパスフィルタ15r、15g、15bの各々は、各画素について、その画素位置の近傍の領域(当該画素位置を含む領域)内の複数の画素位置における、各色の画素信号の垂直方向の低周波数成分を算出する。
図7、図8、図9に水平ローパスフィルタ14r、14g、14bと垂直ローパスフィルタ15r、15g、15bの出力例を示す。図7(a)、図8(a)、図9(a)が水平ローパスフィルタ14r、14g、14bの出力例、図7(b)、図8(b)、図9(b)が垂直ローパスフィルタ15r、15g、15bの出力例である。
加重加算手段35r、35g、35bは、それぞれ水平ローパスフィルタ14r、14g、14bにより得られる値と、垂直ローパスフィルタ15r、15g、15bにより得られる値と、方向別相関算出手段9により算出される水平方向相関係数Δh及び垂直方向相関係数Δvを用いて、低周波数成分を算出する。
これらの算出方法については後に詳しく述べる。
ここで、ハイパスフィルタ7r、7g,7bは、図10に示すように、それぞれ、水平方向の変化成分を算出する水平ハイパスフィルタ16r、16g、16bと、垂直方向の変化成分を算出する垂直ハイパスフィルタ17r、17g、17bと加重加算手段36r、36g、36bを有する。
水平ハイパスフィルタ16r、16g、16bは、メモリ6r、6g、6bから読み出された画素信号に対して各色成分の水平方向の変化成分を出力する。即ち、ハイパスフィルタ16r、16g、16bの各々は、各画素について、その画素位置の近傍の領域(当該画素位置を含む領域)内の複数の画素位置における、各色の画素信号の水平方向の変化成分を算出する。
垂直ハイパスフィルタ17r、17g、17bは、メモリ6r、6g、6bから読み出された画素信号に対して各色成分の垂直方向の変化成分を出力する。即ち、垂直ハイパスフィルタ17r、17g、17bの各々は、各画素について、その画素位置の近傍の領域(当該画素位置を含む領域)内の複数の画素位置における、各色の画素信号の垂直方向の変化成分を算出する。
図11、図12、図13に水平ハイパスフィルタ16r、16g、16bと垂直ハイパスフィルタ17r、17g、17bの出力例を示す。図11(a)、図12(a)、図13(a)が水平ローパスフィルタ16r、16g、16bの出力例、図11(b)、図12(b)、図13(b)が垂直ローパスフィルタ17r、17g、17bの出力例である。
加重加算36r、36g、36bにより、それぞれ水平ハイパスフィルタ16r、16g、16bにより得られる値と、垂直ハイパスフィルタ17r、17g、17bにより得られる値と、方向別相関算出手段9により算出される水平方向相関係数Δh及び垂直方向相関係数Δvを用いて変化成分を算出する。
これらの算出方法については後に詳しく述べる。
方向別相関算出手段9は、例えば、各画素及びその近傍の領域内の複数の画素位置における画素のうち、R、G、Bの各々につき、水平方向の変化成分ΔhR、ΔhG、ΔhBを算出し、これらを単純加算、または加重加算することにより水平方向相関係数Δhを算出し、各画素及びその近傍の領域内の複数の画素位置における画素のうち、R、G、Bの各々につき、垂直方向の変化成分ΔvR、ΔvG、ΔvBを算出し、これらを単純加算、または加重加算することにより垂直方向相関係数Δvを算出する。
非相関値算出手段12は、例えば図14に示すように、選択手段23k、23hと、差計算手段25と、係数乗算手段27と、制御手段30aを有する。
演算手段10は、例えば図15に示すように、選択手段24k、24h、21と、差計算手段26と、係数乗算手段28と、加算手段29と、制御手段30bとを有する。
演算手段10の選択手段21は、2次元メモリ6r、6g、6bのうちの一つを選択し、選択された2次元メモリ6r、6g、6bから読み出された画素信号を加算手段29に供給する。
演算手段10の選択手段24kは、ローパスフィルタ8r、8g、8bの出力RLPF、GLPF、BLPFを受け、これらのうちの1つを選択して出力する。選択手段24hは、ローパスフィルタ8r、8g、8bの出力RLPF、GLPF、BLPFを受け、これらのうちの選択手段24kで選択していない1つを選択して出力する。
補間対象画素がR、G、Bのうちの第hの色の色成分値を有し、補間対象画素の第kの色の色成分値を補間により求めるときは、選択手段21が第hの色の色成分値を記憶している2次元メモリを選択し、補間対象画素の第hの色の色成分値(例えばh(i,j)で表される)を読み出し、選択手段23kが第kの色のハイパスフィルタの出力kHPFを選択し、選択手段23hが、第hの色のハイパスフィルタの出力hHPFを選択し、選択手段24kが第kの色のローパスフィルタの出力kLPFを選択し、選択手段24hが、第hの色のローパスフィルタの出力hLPFを選択する。
この時、例えば、強い相関関係があるほど相関係数の値が小さくなるような場合には、水平方向又は垂直方向のうち、相関係数が小さい方向のフィルタ値の加算割合を大きくする。
また「&&」は、「かつ」と言う意味であり、「if」は「もしも」と言う意味であり、「else」は「そうでない場合には」と言う意味であり、「else if」は「そうではなく、もしも」と言う意味であり、これらの記号はC言語の表記法に準じたものであり、この点は本願の他の式においても同様である。
係数βの算出方法については後に詳しく述べるが、補間対象画素位置において、水平方向、垂直方向の少なくとも一方に強い相関がある場合には、係数βの値を小さくし、非相関値が小さくなるようにする。逆に水平方向にも垂直方向にも強い相関が無い場合には、係数βの値を大きくし、非相関値が大きくなるようにする。本来、補間対象画素周辺の画素信号に相関がある場合、非相関値は小さくなるはずだが、画素信号が欠落しているなどの理由で小さくならない場合がある。特に、補間対象画素の位置に予め存在しない画素信号のフィルタ値を算出する際には、離れた位置にある画素の信号を用いるために誤差が発生し易い。例えば、ラプラシアン型のハイパスフィルタを用いる場合について説明する。
この時、i−1行目とi行目の間(図中太線BLで示した位置)に色の境界があると、ローパスフィルタ値は正しく算出されるが、ハイパスフィルタ値には誤差が含まれてしまう。その結果、補間誤差が生じる。
そこで、水平方向または垂直方向に相関がある場合には、係数βの値を小さくすることにより、ハイパスフィルタ値の結果によらず非相関値を小さくすることが出来る。このように、非相関値に含まれる誤差が結果に与える影響を抑えることで、精度の良い補間が行えるようにした。
加算手段29は、選択手段21から出力される画素値hと、非相関値算出手段12(係数乗算手段27)から出力される値βq(kHPF−hHPF)と、係数乗算手段28から出力される値r(kLPF−hLPF)とを加算して、その和
加算手段29の出力が、補間対象画素の第kの色の色成分値(補間値)として用いられる。
ローパスフィルタ8r、8g、8bと、選択手段24kとで、注目画素位置の近傍の領域内の複数の画素位置における、第kの分光感度特性の画素信号の低周波数成分を算出するk信号ローパスフィルタが構成され、
ハイパスフィルタ7r、7g、7bと、選択手段23hとで、注目画素位置の近傍の領域内の複数の画素位置における、第hの分光感度特性の画素信号の変化成分を算出するh信号ハイパスフィルタが構成され、
ハイパスフィルタ7r、7g、7bと、選択手段23kとで、注目画素位置の近傍の領域内の複数の画素位置における、第kの分光感度特性の画素信号の変化成分を算出するk信号ハイパスフィルタが構成されている。
また、係数乗算手段28及び加算手段29により、注目画素位置における第hの画素信号と、非相関値算出手段12で算出した非相関値βと、差算出手段26で求めた差に定数rを掛けたものを加算して、注目画素位置における第kの画素信号を求める補間値算出手段が構成されている。
図に記載されているG信号は元々イメージセンサ2上にGの色フィルタが配置されているため、その色フィルタを介して得られる信号であり、空白の箇所は他のR,Bの色フィルタが配置されているため、Gの色信号が欠落した場所である。この欠落した場所におけるG信号を補間する必要がある。
補間のための従来の方法として、周辺の画素の平均値を用いる平均補間方法(バイリニア補間)があるが、信号の変化の大きい箇所では精度の高い補間が期待できない。
また、異なる色成分の信号の変化に相関があるという仮定に基づく補間方法がある。しかし、全ての場合において異なる色成分の信号の間に正の相関があるとは限らないため、相関が無い場合や、負の相関がある場合に適切な補間が出来ない。
+r{kLPF(i,j)−hLPF(i,j)}
…(4)
kHPF,hHPFは、それぞれ(i,j)の位置とその周辺の画素位置におけるk信号及びh信号から所定の演算により算出されたHPF値である。
ここでHPF値とは、既知の画素信号(イメージセンサ出力)から推測される真値の空間高周波成分である。水平方向の高周波成分と垂直方向の高周波成分を個別に算出し、座標(i,j)における水平方向と垂直方向の相関の強さに応じて加算することにより得られる。
kLPF,hLPFは、それぞれ(i,j)の位置とその周辺の画素位置におけるk信号及びh信号から別の所定の演算により算出されたLPF値である。
ここでLPF値とは、既知の画素信号(イメージセンサ出力)から推測される真値の空間低周波成分である。水平方向の高周波成分と垂直方向の低周波成分を個別に算出し、座標(i,j)における水平方向と垂直方向の相関の強さに応じて加算することにより得られる。
ここで言う真値は、イメージセンサの画素間隔が無限小であり、光電変換誤差がないときに得られるであろう空間的に連続した画素信号の値を意味する。
相関の強さは、水平、垂直方向における画素信号の変化を示す水平方向相関係数Δhと垂直方向相関係数Δvに基づいて決まる。つまり、画素信号の変化量に相当する値をΔhとΔvとする場合、相関係数の値が小さい場合には画素信号の変化が少ないため相関が強いといえる。逆に、相関係数の値が大きい場合には画素信号の変化が大きいため相関が弱いといえる。水平方向と垂直方向の各成分を加算する際には、相関の強い方向の成分の割合が多く、相関の弱い方向の成分が少なくなるように行う。このとき例えば、水平方向に強い相関があり、垂直方向に相関が無い場合には、垂直方向の成分の加算割合をゼロとしてもよい。また、水平方向にも垂直方向にも同程度の相関がある場合や、水平方向にも垂直方向にも相関が無い場合には、水平方向の成分と垂直方向の成分の加算割合を同じにしてもよい。
q及びrは予め定めた定数である。
これにより、水平方向又は垂直方向に強い相関がある場合には、βq{kHPF(i,j)−hHPF(i,j)}で表される非相関値を抑制する作用が働き、補間精度が向上する。
それ以外で、水平方向の相関係数と垂直方向の相関係数の差が一定値より小さい場合、水平方向または垂直方向に明確な相関が無いと考えられるので、係数βをゼロ以外の値にする。
その他の場合には、水平方向または垂直方向のどちらかに相関があると考えられるので、係数βをゼロにする。
本方式において係数βをゼロにすると、従来例で示した手法と等しくなる。つまり、係数βの値を調整することにより、画素信号に正の相関がある場合に適した補間方法と画素信号に正の相関が無い場合に適した補間方法を切り替えることができる。これは、二つの全く異なる補間方法を切り替えながら用いる場合と比較して、装置や回路の規模を小さく抑えることができるという利点がある。
また、複数の異なる補間方式を切り替えながら補間を行う場合、しきい値等の設定によっては、もともと良く似た色信号を持つ隣接する画素で異なる補間方法が選択されてしまい、補間結果が異なり、不自然な画像になってしまう場合がある。しかし、本発明は、共通の補間処理を行うことが出来るので、回路規模を小さく抑えると共に、自然な補間結果を得ることが出来る。
図20は、k信号とh信号との間に正の相関がある場合を示し、図21及び図22は、k信号とh信号との間に相関がない場合を示し、図23は、k信号とh信号との間に負の相関がある場合を示す。
ただし、演算方法やフィルタの作り方によっては誤差が含まれてしまい、非相関値が“0”とならない場合がある。そこで、式(4)では、相関の有無により変化する係数βを非相関値に乗じた値を改めて非相関値とし、相関がある場合には非相関値が小さくなる仕組みにしている。
従来技術によるバイリニア方法では、画素位置(i−1,j)と(i+1,j)におけるk信号を用いてその平均値を画素位置(i,j)におけるk信号とする。バイリニア方法によって補間された信号レベルを、図20において、白三角印(△)で示したが、求められるべき真値との間に補間誤差が生じている。
本実施の形態による補間方法では、画素位置(i,j)において既知の値h(i,j)に非相関値(kHPF−hHPF)と低周波数成分の差(kLPF−hLPF)とをそれぞれ係数β、q、rを乗じた後加算するが、図20に示すようにk信号とh信号との間に相関がある場合、非相関値は “0”であり、結局、画素位置(i,j)において既知の値h(i,j)に、低周波数成分の差(kLPF−hLPF)に係数rを乗じた後加算したものが、補間信号k(i,j)となる。この補間信号k(i,j)を図20に白丸印(○)にて示す。真値に対して精度良く画素補間が実現できていることが分かる。このように、本実施の形態により、色信号間の相関が大きい場合にも精度良く画素補間を行うことができる。
この場合、画素補間された信号レベルは、図21において、白四角印(□)で示す信号レベルとなる。白四角印に示す信号レベルはk信号の真値から離れた位置の値となるため補間誤差が生じていることが分かる。これは、画素位置(i,j)における補間対象のk信号は、参照とするh信号との間に相関が無いためである。
一方、本実施の形態による画素補間方法では、画素位置(i,j)におけるh信号h(i,j)に(kLPF−hLPF)に係数rを掛けたものを加算し、さらに(kHPF−hHPF)に係数β、qを掛けたものを加算する。kHPFは“0”であるため、画素位置(i,j)における(kHPF−hHPF)は負の値となる。よって、本実施の形態による補間方法では補間された信号レベルは白丸印(○)の位置となり、k信号の真値に対して精度高く補間される。本実施の形態ではk信号とh信号との信号変化にどれだけ相関が無いかは、(kHPF−hHPF)の値として求められることとなる。(kHPF−hHPF)を「非相関値」と呼ぶのはこのためである。一方、低周波数成分の差(kLPF−hLPF)は、相関の度合いを表し、相関の度合いが高いほど一定の値により近くなる。よって、(kLPF−hLPF)と(kHPF−hHPF)の両方の値がそれぞれの係数β、r、qを掛けた上でh(i,j)に加算されることにより信号間に相関が無い場合でも精度高く画素補間を行うことができる。
この場合、画素補間された信号レベルを図22において白四角印(□)で示す信号レベルとなる。白四角印に示す信号レベルはk信号の真値から離れた位置の値となるため補間誤差が生じていることが分かる。
一方、本実施の形態による画素補間方法では、画素位置(i,j)におけるh信号h(i,j)に(kLPF−hLPF)に係数rを掛けたものを加算し、さらに(kHPF−hHPF)に係数β、qを掛けたものを加算する。hHPFは“0”であるため、画素位置(i,j)における(kHPF−hHPF)は正の値となる。よって、本実施の形態による補間方法では補間された信号レベルは白丸印(○)の位置となり、k信号の真値に対して精度高く補間される。本実施の形態では、(kLPF−hLPF)と(kHPF−hHPF)の両方の値がh(i,j)にそれぞれの係数β、r、qを掛けた上で加算されることにより図22に示す信号間に相関が無い場合においても精度高く画素補間を行うことができる。
以上のように、色信号間に正の相関がある場合、相関が無い場合、負の相関となっている場合のいずれにおいても精度の高い画素補間を行うことができる。
ステップS1;R画素位置におけるG信号(GonR)を求めるための処理。
ステップS2;B画素位置におけるG信号(GonB)を求めるための処理。
ステップS3;G画素位置におけるR信号(RonG)を求めるための処理。
ステップS4;G画素位置におけるB信号(BonG)を求めるための処理。
ステップS5;R画素位置におけるB信号(BonR)を求めるための処理。
ステップS6;B画素位置におけるR信号(RonB)を求めるための処理。
これら6つの処理は、
「h色(h=R、G、又はB)の画素信号が存在する画素位置におけるk色(k=R、G、又はB、但しhはkとは異なる)の画素信号を求めるための処理」
と一般化して言うことができる。これらの6つの処理の各々は画面上(1フレーム内)のすべての画素位置について行われる。
ステップS1乃至S6の処理は、例えば、図示しない制御手段(図14、図15の制御手段30a、30bはその一部として構成することもできる)により、ハイパスフィルタ7r、7g、7b、ローパスフィルタ8r、8g、8b、方向別相関算出手段9、係数算出手段13、非相関値算出手段12、及び演算手段10を順次動作させることにより、実行される。
…(6)
加算割合KhとKvは例えば式(1)にて算出するが、式(1)で用いるΔhとΔvの算出方法については後で述べる。
…(9)
GHPFH(i,j)
=−G(i−3,j)+G(i−1,j)+G(i+1,j)−G(i+3,j)
GHPFV(i,j)
=−G(i,j−3)+G(i,j−1)+G(i,j+1)−G(i,j+3)
…(10)
RHPF(i,j)=Kh×RHPFH+Kv×RHPFV
…(12)
…(17)
画素位置(i,j)の水平方向相関係数Δhは、例えば式(22)で示すような方法で求める。
係数算出手段13では、例えば式(5)に基づいて係数βを算出する。算出された係数βは、非相関値算出手段12に入力される。
= R(i+n,j+m)
+β・q{GHPF(i+n,j+m)−RHPF(i+n,j+m)}
+r{GLPF(i+n,j+m)−RLPF(i+n,j+m)}
…(24)
= B(i+s,j+t)
+β・q{GHPF(i+s,j+t)−BHPF(i+s,j+t)}
+r{GLPF(i+s,j+t)−BLPF(i+s,j+t)}
…(25)
式(24)による、R画素位置のG信号の補間、及び式(25)による、B画素位置におけるG信号の補間により、全画素位置におけるG信号が得られる。
= G(i+s,j+m)
+β・q{RHPF(i+s,j+m)−GHPF(i+s,j+m)}
+r{RLPF(i+s,j+m)−GLPF(i+s,j+m)}
…(26)
= G(i+n,j+t)
+β・q{RHPF(i+n,j+t)−GHPF(i+n,j+t)}
+r{RLPF(i+n,j+t)−GLPF(i+n,j+t)}
…(27)
なお、式(26)及び式(27)においてもRLPF,RHPF,GLPF,GHPF,βは上述した式(6)から式(23)に示したLPF値,HPF値及び係数βであるが、GLPF及びGHPFについては、ステップS1及びステップS2で算出した補間値gr、gbを用いて新たに算出してもよい。その場合、図1に示すように、演算手段10にて算出した補間値gr、gbを一度2次元メモリ6gへ出力し、一時的に記憶保持した後、再度HPF7g、LPF8gにて算出することとなる。つまり、ステップS3以降では、ステップS1、S2で算出したgr、gbを用いて、式(7)、(8)、(10)、(11)とは異なる方法でGLPF、GHPF値を算出してもよい。
= G(i+s,j+m)
+β・q{BHPF(i+s,j+m)−GHPF(i+s,j+m)}
+r{BLPF(i+s,j+m)−GLPF(i+s,j+m)}
…(28)
= G(i+n,j+t)
+β・q{BHPF(i+n,j+t)−GHPF(i+n,j+t)}
+r{BLPF(i+n,j+t)−GLPF(i+n,j+t)}
…(29)
なお、本式(28)及び式(29)においてもBLPF,BHPF,GLPF,GHPF,βは上述したLPF値,HPF値及び係数βであるが、GLPF及びGHPFについては、ステップS1及びステップS2で算出した補間値gr、gbを用いて新たに算出してもよい。
= G(i+s,j+s)
+β・q{RHPF(i+s,j+t)−GHPF(i+s,j+t)}
+r{RLPF(i+s,j+t)−GLPF(i+s,j+t)}
…(30)
なお、式(30)においてもRLPF,RHPF,GLPF,GHPF,βは上述したLPF値,HPF値及び係数βであるが、GLPF及びGHPFについては、ステップS1及びステップS2で算出した補間値gr、gbを用いて新たに算出してもよい。また、RLPF、RHPFも、ステップS3にて算出した補間値rgを用いて新たに算出してよい。
= G(i+n,j+m)
+β・q{BHPF(i+n,j+m)−GHPF(i+n,j+m)}
+r{BLPF(i+n,j+m)−GLPF(i+n,j+m)}
…(31)
なお、式(31)においてもBLPF,BHPF,GLPF,GHPF,βは上述したLPF値,HPF値及び係数βであるが、GLPF及びGHPFについては、ステップS1及びステップS2で算出した補間値gr、gbを用いて新たに算出してもよい。また、BLPF、BHPFも、ステップS4にて算出した補間値bgを用いて新たに算出してよい。
まず、選択した注目画素位置における水平方向相関係数Δhと垂直方向相関係数Δvを算出する(ステップS11)。
水平方向相関係数Δhと垂直方向相関係数Δvを用いて、選択した注目画素位置におけるG色のLPF値とR色のLPF値を算出し(ステップS12、S13)、その差に所定の定数rを乗じた値を低周波成分の差とする(ステップS14)。
次に、選択した注目画素位置におけるG色のHPF値とR色のHPF値を算出する(ステップS15、S16)。
更に、水平方向相関係数Δhと垂直方向相関係数Δvを用いて係数βを算出し(ステップS17)、係数βと所定の定数qをR色とG色のHPF値の差に乗じて非相関値を算出する(ステップS18)。
そして、注目画素位置におけるR色信号に、低周波成分の差と非相関値を加算してG色信号を算出する(ステップS19)。得られたG色信号の値は2次元メモリ6gへ出力する(ステップS20)。以上の処理をR信号が予め存在する全ての画素について繰り返し実行する(ステップS21)。
ステップS10の処理は選択手段21における処理及び図示しない制御手段(制御手段30a、30bはその一部をなす)による処理に対応し、
ステップS11の処理は、方向別相関算出手段9における処理に対応し、
ステップS12の処理は、ローパスフィルタ8g及び選択手段24kにおける処理に対応し、
ステップS13の処理は、ローパスフィルタ8r及び選択手段24hにおける処理に対応し、
ステップS14の処理は、差計算手段26及び係数乗算手段28における処理に対応し、
ステップS15の処理は、ハイパスフィルタ7g及び選択手段23kにおける処理に対応し、
ステップS16の処理は、ハイパスフィルタ7r及び選択手段23hにおける処理に対応し、
ステップS17の処理は、係数算出手段13における処理に対応し、
ステップS18の処理は、差計算手段25及び係数乗算手段27における処理に対応し、
ステップS19の処理は、加算手段29における処理に対応し、
ステップS20の処理は、演算手段10から2次元メモリ6gへのデータ転送、書き込みに対応する。
ステップS21の処理、及び各ステップにおける各手段の制御は、制御手段(図14、図15の制御手段30a、30bはその一部をなすが、その全体は図示されていない)によって行われる。
次に実施の形態2の画像信号処理装置を説明する。実施の形態2の画像信号処理装置を備えた撮像装置の全体的構成は、図1に示すごとくであるが、演算手段10の構成が実施の形態1とは異なる。図33は、実施の形態2の演算手段の構成を示す。図33に示された演算手段は、概して図15の演算手段と同様であるが、差計算手段26の代わりに比計算手段32を備え、加算手段29の代わりに、加算手段33と乗算手段34の組合せを有する点で異なる。
係数乗算手段28は、比計算手段32の出力kLPF/hLPFに所定の係数rを掛け、その積r(kLPF/hLPF)を出力する。
加算手段33は、選択手段21から出力される画素値hと、非相関値算出手段12から出力される値βq(kHPF−hHPF)とを加算して、その和
h+βq(kHPF−hHPF)
を出力する。
h+βq(kHPF−hHPF)
と、係数乗算手段28の出力
r(kLPF/hLPF)
とを乗算し、その積
乗算手段34の出力が、補間対象画素の第kの色の色成分値(補間値)として用いられる。
図34は、k信号とh信号との間に正の相関がある場合を示し、図35及び図36は、k信号とh信号との間に相関がない場合を示し、図37は、k信号とh信号との間に負の相関がある場合を示す。
ただし、演算方法やフィルタの作り方によっては誤差が含まれてしまい、非相関値が“0”とならない場合がある。そこで、本方式では、相関の有無により変化する係数βを非相関値に乗じた値を改めて非相関値とし、相関がある場合には非相関値が小さくなる仕組みにしている。
従来技術によるバイリニア方法では、画素位置(i−1,j)と(i+1,j)におけるk信号を用いてその平均値を画素位置(i,j)におけるk信号とする。バイリニア方法によって補間された信号レベルを、図34において白三角印(△)で示したが、求められるべき真値と補間誤差が生じている。
…(33)
式(34)で示した色の相関変化だけを用いた補間を行う場合、画素位置(i,j)における補間対象のk信号は変化していないにもかかわらず、参照とするh信号が変化しているため、白四角印(□)で示す信号レベルに画素補間され、補間誤差が生じる。
しかし、k信号とh信号との信号変化にどれだけ相関が無いかは、(kHPF−hHPF)の値として求められることとなる。よって、(kHPF−hHPF)の値に係数βと係数qを掛けたものが、h(i,j)の値に加算され、加算結果に、r(kLPF/hLPF)が乗算される。図35の場合、kHPFは“0”であり、画素位置(i,j)における(kHPF−hHPF)は負の値になるため、h(i,j)の値はある値が差し引かれることとなる。
本実施の形態による演算(式(32))の画素補間の信号レベルを白丸印(○)にて示す。真値と比べ精度高く補間できている。このように信号間に相関が無い場合でも精度高く画素補間を行うことができる。
一方、本実施の形態による画素補間方法では、画素位置(i,j)におけるh信号h(i,j)に(kLPF−hLPF)に係数βと係数qを掛けたものが加算され、加算結果に、r(kLPF/hLPF)が乗算される。図36の場合、hHPFは“0”であり、画素位置(i,j)における(kHPF−hHPF)は正の値となる。本実施の形態による補間方法では補間された信号レベルは白丸印(○)の位置となり、k信号の真値に対して精度高く補間される。
以上のように、色信号間に正の相関がある場合、相関が無い場合、負の相関となっている場合のいずれにおいても精度の高い画素補間を行うことができる。
なお、式(37)及び式(38)においてもRLPF,RHPF,GLPF,GHPF,βは上述したLPF、HPF及び係数算出手段13の出力値であるが、GLPF及びGHPFについては、ステップS1及びステップS2で算出した補間値gr、gbを用いて新たに算出してもよい。
なお、本式(39)及び式(40)においてもBLPF,BHPF,GLPF,GHPF,βは上述したLPF、HPF及び係数算出手段13の出力値であるが、GLPF及びGHPFについては、ステップS1及びステップS2で算出した補間値gr、gbを用いて新たに算出してもよい。
なお、式(41)においてもRLPF,RHPF,GLPF,GHPF,βは上述したLPF、HPF及び係数算出手段13の出力値であるが、GLPF及びGHPFについては、ステップS1及びステップS2で算出した補間値gr、gbを用いて新たに算出してもよい。また、RLPF、RHPFも、ステップS3にて算出した補間値rgを用いて新たに算出してよい。
なお、式(38)においてもBLPF,BHPF,GLPF,GHPF,βは上述したLPF、HPF及び係数算出手段13の出力値であるが、GLPF及びGHPFについては、ステップS1及びステップS2で算出した補間値gr、gbを用いて新たに算出してもよい。また、BLPF、BHPFも、ステップS4にて算出した補間値bgを用いて新たに算出してよい。
まず、選択した注目画素位置における水平方向相関係数Δhと垂直方向相関係数Δvを算出する(ステップS41)。
水平方向相関係数Δhと垂直方向相関係数Δvを用いて、選択した注目画素位置におけるG色のLPF値とR色のLPF値を算出し(ステップS42、S43)、その比に所定の定数rを乗じた値を低周波成分の比とする(ステップS44)。
次に、選択した注目画素位置におけるG色のHPF値とR色のHPF値を算出する(ステップS45、S46)。更に、注目画素とその周辺の画素の信号を用いて係数βを算出し(ステップS47)、係数βと所定の定数qをR色とG色のHPF値の差に乗じて非相関値を算出する(ステップS48)。
そして、注目画素位置におけるR色信号に非相関値を加算し、更に低周波成分の比を乗じてG色信号を算出する(ステップS49)。得られたG色信号の値は2次元メモリ6gへ出力する(ステップS50)。以上の処理をR信号が予め存在する全ての画素について繰り返し実行する(ステップS51)。
ステップS40の処理は選択手段21における処理及び図示しない制御手段(制御手段30a、30bはその一部をなす)による処理に対応し、
ステップS41の処理は、方向別相関算出手段9における処理に対応し、
ステップS42の処理は、ローパスフィルタ8g及び選択手段24kにおける処理に対応し、
ステップS43の処理は、ローパスフィルタ8r及び選択手段24hにおける処理に対応し、
ステップS44の処理は、差計算手段32及び係数乗算手段28における処理に対応し、
ステップS45の処理は、ハイパスフィルタ7g及び選択手段23kにおける処理に対応し、
ステップS46の処理は、ハイパスフィルタ7r及び選択手段23hにおける処理に対応し、
ステップS47の処理は、係数算出手段13における処理に対応し、
ステップS48の処理は、差計算手段25及び係数乗算手段27における処理に対応し、
ステップS49の処理は、加算手段33及び乗算手段34における処理に対応し、
ステップS50の処理は、演算手段10から2次元メモリ6gへのデータ転送、書き込みに対応する。
ステップS51の処理、及び各ステップにおける各手段の制御は、制御手段(図14、図15の制御手段30a、30bはその一部をなすが、その全体は図示されていない)によって行われる。
Claims (22)
- 2次元平面上に配列され、各々が第1乃至第Nの分光感度特性のうちのいずれか1つを有する画素の画素信号の組に基づき、第h(hは1からNのうちのいずれか一つ)の分光感度特性の画素信号が存在する注目画素位置における第k(kはhを除く1からNのうちのいずれか一つ)の分光感度特性の画素信号を生成する画素信号処理装置において、
上記注目画素位置の近傍の領域内の複数の画素位置における、第hの分光感度特性の画素信号の低周波数成分を生成するh信号ローパスフィルタと、
上記注目画素位置の近傍の領域内の複数の画素位置における、第hの分光感度特性の画素信号の変化成分を生成するh信号ハイパスフィルタと、
上記注目画素位置の近傍の領域内の複数の画素位置における、第kの分光感度特性の画素信号の低周波数成分を生成するk信号ローパスフィルタと、
上記注目画素位置の近傍の領域内の複数の画素位置における、第kの分光感度特性の画素信号の変化成分を生成するk信号ハイパスフィルタと、
上記注目画素位置の近傍の領域内の複数の画素位置における画素信号に基づいて、上記注目画素周辺の画素信号の水平及び垂直方向の相関の強さを表す水平方向相関係数Δh及び垂直方向相関係数Δvを生成する方向別相関算出手段と、
上記水平方向相関係数Δhと垂直方向相関係数Δvに応じて変化する係数βを生成する係数算出手段と、
上記k信号ハイパスフィルタで生成された変化成分と上記h信号ハイパスフィルタで生成された変化成分の差と、上記係数βとに基づいて、第kの信号と第hの信号との非相関値を算出する非相関値算出手段と、
上記k信号ローパスフィルタで生成された低周波数成分と上記h信号ローパスフィルタで生成された低周波数成分の差を求める差算出手段と、
注目画素位置における第hの画素信号と、上記非相関値と、上記差算出手段で求めた差に定数を掛けたものを加算して、注目画素位置における第kの画素信号を求める補間値算出手段と
を有する画素信号処理装置。 - 2次元平面上に配列され、各々が第1乃至第Nの分光感度特性のうちのいずれか1つを有する画素の画素信号の組に基づき、第h(hは1からNのうちのいずれか一つ)の分光感度特性の画素信号が存在する注目画素位置における第k(kはhを除く1からNのうちのいずれか一つ)の分光感度特性の画素信号を生成する画素信号処理装置において、
上記注目画素位置の近傍の領域内の複数の画素位置における、第hの分光感度特性の画素信号の低周波数成分を生成するh信号ローパスフィルタと、
上記注目画素位置の近傍の領域内の複数の画素位置における、第hの分光感度特性の画素信号の変化成分を生成するh信号ハイパスフィルタと、
上記注目画素位置の近傍の領域内の複数の画素位置における、第kの分光感度特性の画素信号の低周波数成分を生成するk信号ローパスフィルタと、
上記注目画素位置の近傍の領域内の複数の画素位置における、第kの分光感度特性の画素信号の変化成分を生成するk信号ハイパスフィルタと、
上記注目画素位置の近傍の領域内の複数の画素位置における画素信号に基づいて、上記注目画素周辺の画素信号の水平及び垂直方向の相関の強さを表す水平方向相関係数Δh及び垂直方向相関係数Δvを算出する方向別相関算出手段と、
上記水平方向相関係数Δhと垂直方向相関係数Δvに応じて変化する係数βを算出する係数算出手段と、
上記k信号ハイパスフィルタで生成された変化成分と上記h信号ハイパスフィルタで生成された変化成分の差と、上記係数βとに基づいて、第kの信号と第hの信号との非相関値を算出する非相関値算出手段と、
上記k信号ローパスフィルタで生成された低周波数成分と上記h信号ローパスフィルタで生成された低周波数成分の比を求める比算出手段と、
注目画素位置における第hの画素信号と、上記非相関値とを加算した値に、上記比算出手段で求めた比に定数を掛けたものを乗算して、注目画素位置における第kの画素信号を求める補間値算出手段と
を有する画素信号処理装置。 - 上記非相関値算出手段は、上記k信号ハイパスフィルタで生成された変化成分と上記h信号ハイパスフィルタで生成された変化成分の差に、上記係数β及び所定の係数を乗じることにより得られた値を、上記非相関値とする
ことを特徴とする請求項1又は2に記載の画素信号処理装置。 - 上記h信号ローパスフィルタは、
上記注目画素位置の近傍の領域内の複数の画素位置における、第hの分光感度特性の画素信号の水平方向の低周波数成分を算出するh信号水平ローパスフィルタと、
上記注目画素位置の近傍の領域内の複数の画素位置における、第hの分光感度特性の画素信号の垂直方向の低周波数成分を算出するh信号垂直ローパスフィルタと、
上記h信号水平ローパスフィルタ及び上記h信号垂直ローパスフィルタによって得られた値を、上記方向別相関算出手段によって得られた上記水平方向相関係数Δh及び上記垂直方向相関係数Δvに基づいて加重加算することにより、上記第hの分光感度特性の画素信号の低周波数成分を算出する加重加算手段とを備え、
上記h信号ハイパスフィルタは、
上記注目画素位置の近傍の領域内の複数の画素位置における、第hの分光感度特性の画素信号の水平方向の変化成分を算出するh信号水平ハイパスフィルタと、
上記注目画素位置の近傍の領域内の複数の画素位置における、第hの分光感度特性の画素信号の垂直方向の変化成分を算出するh信号垂直ハイパスフィルタと、
上記h信号水平ハイパスフィルタ及び上記h信号垂直ハイパスフィルタによって得られた値を、上記方向別相関算出手段によって得られた上記水平方向相関係数Δh及び上記垂直方向相関係数Δvに基づいて加重加算することにより、上記第hの分光感度特性の画素信号の変化成分を算出する加重加算手段とを備え、
上記k信号ローパスフィルタは、
上記注目画素位置の近傍の領域内の複数の画素位置における、第kの分光感度特性の画素信号の水平方向の低周波数成分を算出するk信号水平ローパスフィルタと、
上記注目画素位置の近傍の領域内の複数の画素位置における、第kの分光感度特性の画素信号の垂直方向の低周波数成分を算出するk信号垂直ローパスフィルタと、
上記k信号水平ローパスフィルタ及び上記k信号垂直ローパスフィルタによって得られた値を、上記方向別相関算出手段によって得られた上記水平方向相関係数Δh及び上記垂直方向相関係数Δvに基づいて加重加算することにより、上記第kの分光感度特性の画素信号の低周波数成分を算出する加重加算手段とを備え、
上記k信号ハイパスフィルタは、
上記注目画素位置の近傍の領域内の複数の画素位置における、第kの分光感度特性の画素信号の水平方向の変化成分を算出するk信号水平ハイパスフィルタと、
上記注目画素位置の近傍の領域内の複数の画素位置における、第kの分光感度特性の画素信号の垂直方向の変化成分を算出するk信号垂直ハイパスフィルタと、
上記k信号水平ハイパスフィルタ及び上記k信号垂直ハイパスフィルタによって得られた値を、上記方向別相関算出手段によって得られた上記水平方向相関係数Δh及び上記垂直方向相関係数Δvに基づいて加重加算することにより、上記第kの分光感度特性の画素信号の変化成分を算出する加重加算手段とを備える
ことを特徴とする請求項1乃至3のいずれかに記載の画素信号処理装置。 - 上記係数算出手段は、
上記水平方向相関係数Δhと垂直方向相関係数Δvに基づき、水平方向、または垂直方向に強い相関があると判定された場合には、その他の場合よりも係数βの値を小さくする
ことを特徴とする請求項1乃至4のいずれかに記載の画素信号処理装置。 - 上記方向別相関算出手段は、
上記注目画素位置において、上記注目画素及びその近傍の領域内の複数の画素位置における画素信号の水平方向の変化成分を上記水平方向相関係数Δh、垂直方向の変化成分を上記垂直方向相関係数Δvとする
ことを特徴とする請求項1乃至5のいずれかに記載の画素信号処理装置。 - 上記方向別相関算出手段は、
上記注目画素及びその近傍の領域内の複数の画素位置における画素のうち、第1乃至第Nの分光感度特性毎にそれぞれの水平方向の変化成分Δh1〜ΔhNを算出し、上記第1乃至第Nの水平方向の変化成分Δh1〜ΔhNを単純加算、または加重加算することにより上記水平方向相関係数Δhを算出し、
上記注目画素及びその近傍の領域内の複数の画素位置における画素のうち、第1乃至第Nの分光感度特性毎にそれぞれの垂直方向の変化成分Δv1〜ΔvNを算出し、上記第1乃至第Nの垂直方向の変化成分Δv1〜ΔvNを単純加算、または加重加算することにより上記垂直方向相関係数Δvを算出する
ことを特徴とする請求項6に記載の画素信号処理装置。 - 上記h信号ローパスフィルタ、上記h信号ハイパスフィルタ、上記k信号ローパスフィルタ及び上記k信号ハイパスフィルタの各々は、
各々における、上記水平フィルタと上記垂直フィルタによって得られた値を加重加算する際に、
上記水平方向相関係数Δhが上記水平方向相関係数Δvより小さい場合には、
上記水平フィルタによって得られた値の加算割合が上記垂直フィルタによって得られた値の加算割合より多くなるように加重加算を行い、
上記垂直方法相関係数Δvが上記水平方向相関係数Δhより小さい場合には、
上記垂直フィルタによって得られた値の加算割合が上記水平フィルタによって得られた値の加算割合より多くなるように加重加算を行う
ことを特徴とする請求項6又は7に記載の画素信号処理装置。 - 請求項1乃至10のいずれかに記載の第1から第Nの分光感度特性を有する画素とはR、G、B画素の3種の画素であることを特徴とする画像信号処理装置。
- 2次元平面上に配列され、各々が第1乃至第Nの分光感度特性のうちのいずれか1つを有する画素の画素信号の組に基づき、第h(hは1からNのうちのいずれか一つ)の分光感度特性の画素信号が存在する注目画素位置における第k(kはhを除く1からNのうちのいずれか一つ)の分光感度特性の画素信号を生成する画素信号処理方法において、
上記注目画素位置の近傍の領域内の複数の画素位置における、第hの分光感度特性の画素信号の低周波数成分を生成するh信号ローパスフィルタステップと、
上記注目画素位置の近傍の領域内の複数の画素位置における、第hの分光感度特性の画素信号の変化成分を生成するh信号ハイパスフィルタステップと、
上記注目画素位置の近傍の領域内の複数の画素位置における、第kの分光感度特性の画素信号の低周波数成分を生成するk信号ローパスフィルタステップと、
上記注目画素位置の近傍の領域内の複数の画素位置における、第kの分光感度特性の画素信号の変化成分を生成するk信号ハイパスフィルタステップと、
上記注目画素位置の近傍の領域内の複数の画素位置における画素信号に基づいて、上記注目画素周辺の画素信号の水平、及び垂直方向の相関の強さを表す水平方向相関係数Δh、及び垂直方向相関係数Δvを算出する方向別相関算出ステップと、
上記水平方向相関係数Δhと垂直方向相関係数Δvに応じて変化する係数βを算出する係数算出ステップと、
上記k信号ハイパスフィルタステップで生成された変化成分と上記h信号ハイパスフィルタステップで生成された変化成分の差と、上記係数βとに基づいて、第kの信号と第hの信号との非相関値を算出する非相関値算出ステップと、
上記k信号ローパスフィルタステップで生成された低周波数成分と上記h信号ローパスフィルタステップで生成された低周波数成分の差を求める差算出ステップと、
注目画素位置における第hの画素信号と、上記非相関値と、上記差算出ステップで求めた差に定数を掛けたものを加算して、注目画素位置における第kの画素信号を求める補間値算出ステップと
を有する画素信号処理方法。 - 2次元平面上に配列され、各々が第1乃至第Nの分光感度特性のうちのいずれか1つを有する画素の画素信号の組に基づき、第h(hは1からNのうちのいずれか一つ)の分光感度特性の画素信号が存在する注目画素位置における第k(kはhを除く1からNのうちのいずれか一つ)の分光感度特性の画素信号を生成する画素信号処理方法において、
上記注目画素位置の近傍の領域内の複数の画素位置における、第hの分光感度特性の画素信号の低周波数成分を生成するh信号ローパスフィルタステップと、
上記注目画素位置の近傍の領域内の複数の画素位置における、第hの分光感度特性の画素信号の変化成分を生成するh信号ハイパスフィルタステップと、
上記注目画素位置の近傍の領域内の複数の画素位置における、第kの分光感度特性の画素信号の低周波数成分を生成するk信号ローパスフィルタステップと、
上記注目画素位置の近傍の領域内の複数の画素位置における、第kの分光感度特性の画素信号の変化成分を生成するk信号ハイパスフィルタステップと、
上記注目画素位置の近傍の領域内の複数の画素位置における画素信号に基づいて、上記注目画素周辺の画素信号の水平、及び垂直方向の相関の強さを表す水平方向相関係数Δh、及び垂直方向相関係数Δvを算出する方向別相関算出ステップと、
上記水平方向相関係数Δhと垂直方向相関係数Δvに応じて変化する係数βを算出する係数算出ステップと、
上記k信号ハイパスフィルタステップで生成された変化成分と上記h信号ハイパスフィルタステップで生成された変化成分の差と、上記係数βとに基づいて、第kの信号と第hの信号との非相関値を算出する非相関値算出ステップと、
上記k信号ローパスフィルタステップで生成された低周波数成分と上記h信号ローパスフィルタステップで生成された低周波数成分の比を求める比算出ステップと、
注目画素位置における第hの画素信号と、上記非相関値とを加算した値に、上記比算出ステップで求めた比に定数を掛けたものを乗算して、注目画素位置における第kの画素信号を求める補間値算出ステップと
を有する画素信号処理方法。 - 上記非相関値算出ステップは、上記k信号ハイパスフィルタで生成された変化成分と上記h信号ハイパスフィルタで生成された変化成分の差に、上記係数β及び所定の係数を乗じることにより得られた値を、上記非相関値とする
ことを特徴とする請求項12又は13に記載の画素信号処理方法。 - 上記h信号ローパスフィルタステップは、
上記注目画素位置の近傍の領域内の複数の画素位置における、第hの分光感度特性の画素信号の水平方向の低周波数成分を算出するh信号水平ローパスフィルタステップと、
上記注目画素位置の近傍の領域内の複数の画素位置における、第hの分光感度特性の画素信号の垂直方向の低周波数成分を算出するh信号垂直ローパスフィルタステップと、
上記h信号水平ローパスフィルタステップ及び上記h信号垂直ローパスフィルタステップによって得られた値を、上記方向別相関算出ステップによって得られた上記水平方向相関係数Δh及び上記垂直方向相関係数Δvに基づいて加重加算することにより、上記第hの分光感度特性の画素信号の低周波数成分を算出する加重加算ステップとを備え、
上記h信号ハイパスフィルタステップは、
上記注目画素位置の近傍の領域内の複数の画素位置における、第hの分光感度特性の画素信号の水平方向の変化成分を算出するh信号水平ハイパスフィルタステップと、
上記注目画素位置の近傍の領域内の複数の画素位置における、第hの分光感度特性の画素信号の垂直方向の変化成分を算出するh信号垂直ハイパスフィルタステップと、
上記h信号水平ハイパスフィルタステップ及び上記h信号垂直ハイパスフィルタステップによって得られた値を、上記方向別相関算出ステップによって得られた上記水平方向相関係数Δh及び上記垂直方向相関係数Δvに基づいて加重加算することにより、上記第hの分光感度特性の画素信号の変化成分を算出する加重加算ステップとを備え、
上記k信号ローパスフィルタステップは、
上記注目画素位置の近傍の領域内の複数の画素位置における、第kの分光感度特性の画素信号の水平方向の低周波数成分を算出するk信号水平ローパスフィルタステップと、
上記注目画素位置の近傍の領域内の複数の画素位置における、第kの分光感度特性の画素信号の垂直方向の低周波数成分を算出するk信号垂直ローパスフィルタステップと、
上記k信号水平ローパスフィルタステップ及び上記k信号垂直ローパスフィルタステップによって得られた値を、上記方向別相関算出ステップによって得られた上記水平方向相関係数Δh及び上記垂直方向相関係数Δvに基づいて加重加算することにより、上記第kの分光感度特性の画素信号の低周波数成分を算出する加重加算ステップとを備え、
上記k信号ハイパスフィルタステップは、
上記注目画素位置の近傍の領域内の複数の画素位置における、第kの分光感度特性の画素信号の水平方向の変化成分を算出するk信号水平ハイパスフィルタステップと、
上記注目画素位置の近傍の領域内の複数の画素位置における、第kの分光感度特性の画素信号の垂直方向の変化成分を算出するk信号垂直ハイパスフィルタステップと、
上記k信号水平ハイパスフィルタステップ及び上記k信号垂直ハイパスフィルタステップによって得られた値を、上記方向別相関算出ステップによって得られた上記水平方向相関係数Δh及び上記垂直方向相関係数Δvに基づいて加重加算することにより、上記第kの分光感度特性の画素信号の変化成分を算出する加重加算ステップとを備える
ことを特徴とする請求項12乃至14のいずれかに記載の画素信号処理方法。 - 上記係数算出ステップは、
上記水平方向相関係数Δhと垂直方向相関係数Δvに基づき、水平方向、または垂直方向に強い相関があると判定された場合には、その他の場合よりも係数βの値を小さくする
ことを特徴とする請求項12乃至15のいずれかに記載の画素信号処理方法。 - 上記方向別相関算出ステップは、
上記注目画素位置において、上記注目画素及びその近傍の領域内の複数の画素位置における画素信号の水平方向の変化成分を上記水平方向相関係数Δh、垂直方向の変化成分を上記垂直方向相関係数Δvとする
ことを特徴とする請求項12乃至16のいずれかに記載の画素信号処理方法。 - 上記方向別相関算出ステップは、
上記注目画素及びその近傍の領域内の複数の画素位置における画素のうち、第1乃至第Nの分光感度特性毎にそれぞれの水平方向の変化成分Δh1〜ΔhNを算出し、上記第1乃至第Nの水平方向の変化成分Δh1〜ΔhNを単純加算、または加重加算することにより上記水平方向相関係数Δhを算出し、
上記注目画素及びその近傍の領域内の複数の画素位置における画素のうち、第1乃至第Nの分光感度特性毎にそれぞれの垂直方向の変化成分Δv1〜ΔvNを算出し、上記第1乃至第Nの垂直方向の変化成分Δv1〜ΔvNを単純加算、または加重加算することにより上記垂直方向相関係数Δvを算出する
ことを特徴とする請求項17に記載の画素信号処理方法。 - 上記h信号ローパスフィルタステップ、上記h信号ハイパスフィルタステップ、上記k信号ローパスフィルタステップ及び上記k信号ハイパスフィルタステップの各々は、
各々における上記水平フィルタステップと上記垂直フィルタステップによって得られた値を加重加算する際に、
上記水平方向相関係数Δhが上記水平方向相関係数Δvより小さい場合には、
上記水平フィルタステップによって得られた値の加算割合が上記垂直フィルタステップによって得られた値の加算割合より多くなるように加重加算を行い、
上記垂直方法相関係数Δvが上記水平方向相関係数Δhより小さい場合には、
上記垂直フィルタステップによって得られた値の加算割合が上記水平フィルタステップによって得られた値の加算割合より多くなるように加重加算を行う
ことを特徴とする請求項17又は18に記載の画素信号処理方法。 - 請求項12乃至21のいずれかに記載の第1から第Nの分光感度特性を有する画素とはR、G、B画素の3種の画素であることを特徴とする画像信号処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005111797A JP4334496B2 (ja) | 2005-04-08 | 2005-04-08 | 画素信号処理装置、及び画素信号処理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005111797A JP4334496B2 (ja) | 2005-04-08 | 2005-04-08 | 画素信号処理装置、及び画素信号処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2006295435A JP2006295435A (ja) | 2006-10-26 |
JP4334496B2 true JP4334496B2 (ja) | 2009-09-30 |
Family
ID=37415534
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005111797A Expired - Fee Related JP4334496B2 (ja) | 2005-04-08 | 2005-04-08 | 画素信号処理装置、及び画素信号処理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4334496B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5034789B2 (ja) * | 2007-08-31 | 2012-09-26 | 株式会社Jvcケンウッド | 撮像装置 |
JP5089642B2 (ja) * | 2009-04-21 | 2012-12-05 | 三菱電機株式会社 | 三板式撮像装置 |
-
2005
- 2005-04-08 JP JP2005111797A patent/JP4334496B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2006295435A (ja) | 2006-10-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8125546B2 (en) | Color filter array pattern having four-channels | |
KR100755601B1 (ko) | 화소 신호 처리 장치 및 화소 신호 처리 방법 | |
US8237831B2 (en) | Four-channel color filter array interpolation | |
KR101012537B1 (ko) | 고체 이미지 센서 | |
US20100309347A1 (en) | Interpolation for four-channel color filter array | |
CN110365961B (zh) | 图像去马赛克装置及方法 | |
US20100302423A1 (en) | Four-channel color filter array pattern | |
US8040558B2 (en) | Apparatus and method for shift invariant differential (SID) image data interpolation in fully populated shift invariant matrix | |
KR20180118790A (ko) | 화상 처리 장치, 화상 처리 방법, 기록 매체, 프로그램 및 촬상 장치 | |
US7068396B1 (en) | Method and apparatus for performing tone scale modifications on a sparsely sampled extended dynamic range digital image | |
KR20070004647A (ko) | 화소 신호 처리 장치 및 방법 | |
US8213710B2 (en) | Apparatus and method for shift invariant differential (SID) image data interpolation in non-fully populated shift invariant matrix | |
JP2006148213A (ja) | 映像処理装置 | |
JP4334496B2 (ja) | 画素信号処理装置、及び画素信号処理方法 | |
JP2001197512A (ja) | 色成分生成装置およびこれを用いた多色画像撮像装置、並びに色成分生成方法 | |
JPWO2006059365A1 (ja) | 画像処理装置、非撮像色信号算出装置及び画像処理方法 | |
JP2014200000A (ja) | 画像処理装置および方法、並びにプログラム | |
JP2006033333A (ja) | 画素信号処理方法及び装置 | |
JP2022092586A (ja) | イメージセンシング装置 | |
JP4334484B2 (ja) | 画素信号処理装置及び方法 | |
WO2015083502A1 (ja) | 画像処理装置、該方法および該プログラム | |
JP4334488B2 (ja) | 画素信号処理装置及び方法 | |
JP3711402B2 (ja) | 撮像装置及びカラー撮像信号の処理方法 | |
WO2015083499A1 (ja) | 画像処理装置、該方法および該プログラム | |
JP2023082340A (ja) | 画像処理装置および画像処理方法、撮像装置、プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070228 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090611 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090623 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090623 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120703 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 4334496 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120703 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130703 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |