カメラ撮影した画像信号に施す画像信号処理として、ホワイトバランスを調整する処理がある。
カメラにより撮影された画像は、被写体に照射されている光源の色温度によって青みがかったり赤みがかったりする。そのような撮影条件の場合にホワイトバランスの調整処理を施すと、撮影した画像信号のR(赤)信号成分、G(緑)信号成分、B(青)信号成分に対してそれぞれ係数が乗算されることにより各色のレベルが補正され、その補正により、照射光の色温度によらず白い色の物体は白く写るようにできる。
具体的には、光源の色温度が低くなった場合、撮影した画像のR信号成分が大きくなって赤みがかってしまうので、それを抑えるためにR信号成分に乗算される係数はG信号成分やB信号成分に乗算される係数と比べて小さい値とする。また光源の色温度が高くなった場合、B信号成分が大きくなって青みがかってしまうので、それを抑えるためにB信号成分に乗算される係数はG信号成分やR信号成分に乗算される係数と比べて小さい値とする。
次に、ホワイトバランスの調整処理を行う従来の画像信号処理装置について具体的に説明する。
図6は従来の画像信号処理装置の一例を示すブロック図である。
図6に示すように、従来の画像信号処理装置500は、入力端子44、45、46、47、48、49、50、出力端子51、52、53、色分離回路54、乗算回路55、56、57、ホワイトバランス係数発生回路58、ノイズ除去回路59、60、61、γ補正回路62、63、64、マトリックス回路65を備えている。
入力端子44には画像信号が入力し、この画像信号は更に色分離回路54に入力される。
色分離回路54は、入力した映像信号からRGB各信号成分を抽出し、抽出したRGB各信号成分を乗算器55、56、57とホワイトバランス係数発生回路58に入力する。
ホワイトバランス係数発生回路58は、入力した画像信号のRGB各信号成分からホワイトバランス係数を計算してその結果を乗算器55、56、57に出力する。
乗算器55、56、57は、入力される画像信号のRGB各信号成分とホワイトバランス係数を乗算する。これにより、ホワイトバランスが調整される。また、乗算器55、56、57による乗算後の信号はノイズ除去回路59、60、61に入力される。
また、入力端子45、46、47からはレベルスライス信号が、入力端子48、49、50からはノイズ除去の強度を指定する係数としてのノイズ除去強度指定信号が、それぞれノイズ除去回路59、60、61へと入力される。
ノイズ除去回路59、60、61は、入力されるノイズ除去強度指定信号及びレベルスライス信号を用いて、対応するRGB各信号成分からノイズ成分を除去する(後述)。
ノイズ除去回路59、60、61の出力はガンマ補正回路62、63、64に入力されてガンマ補正され、ガンマ補正回路62、63、64の出力はマトリックス回路65のRGB各入力端子に入力され、RGB信号がYCbCr信号に変換され、出力端子51、52、53より出力される。
図7は従来の画像信号処理装置500のノイズ除去回路59、60、61を示すブロック図である。
図7に示すように、ノイズ除去回路59(ノイズ除去回路60、61も同様)は、入力端子66、67、68、ノイズ成分抽出フィルタ69、レベルスライス回路70、乗算器71、減算器72、出力端子73を備えている。
入力端子66には、画像信号(つまり対応する色の信号成分)が入力される。
入力した画像信号はノイズ成分抽出フィルタ69に入力され、そこでノイズ成分が抽出され、このノイズ成分はレベルスライス回路70に入力する。
レベルスライス回路70は、ノイズ成分に含まれるエッジ成分(画像における輪郭部分の画像成分)をレベルスライスによって除去する。なお、レベルスライス回路70で行われるレベルスライスにおけるスライスレベルとしては、入力端子67から入力されるレベルスライス信号のレベルを用いる。
レベルスライス回路70から出力されるレベルスライス後のノイズ成分は、乗算回路71に入力され、入力端子68から入力されるノイズ除去強度指定信号と乗算される。この乗算後のノイズ成分は、減算回路72に入力される。
減算回路72は、入力端子66から入力する画像信号より乗算器71から入力されるノイズ成分を減算し、ノイズ除去後の画像信号として、出力端子73から出力する。
次に、図8及び図9を参照して、従来の画像信号処理装置500の動作について説明する。
図8は画像信号処理装置500の動作を示すタイムチャートである。
先ず、入力端子44から撮像デバイスの光学フィルタ画素の並び順(フィルタパターンの順)に信号が入力し、色分離回路54においてR信号成分S12(図8(a))、G信号成分S13(図8(b))、B信号成分S14(図8(c))に分離される。
ここでは一面白い物体を青みを帯びた投射光で撮影したと仮定する。青みを帯びた光で白いものを撮影したのでR信号成分S12はG信号成分S13、B信号成分S14に対してレベルが低くなる。具体的には、例えば、R信号成分S12の信号レベルがG信号成分S13、B信号成分S14の1/4であるとする。
各信号成分S12、S13、S14はホワイトバランス係数発生回路58に入力され、これら各信号成分S12、S13、S14のレベルに応じて各色毎のホワイトバランス係数が計算される。この場合、R信号成分S12がG信号成分S13、B信号成分S14に対してレベルが1/4であるので、R信号成分S12に対する係数が、他の2色の信号成分S13、S14に対する係数の4倍の値として演算される。
これら演算された各色毎のホワイトバランス係数が、乗算回路55、56、57にてそれぞれR信号成分S12、G信号成分S13、B信号成分S14と乗算される。これにより、各色信号成分はそれぞれホワイトバランス調整処理がなされて、R信号成分はS15(図8(d))、G信号成分はS16(図8(e))、B信号成分はS17(図8(f))となる。
ここで、図8(d)に示すように、R信号成分S15は、他の2色の4倍のホワイトバランス係数で増幅されているので、信号に含まれるノイズ成分も大きくなっている。
これら信号成分S15、S16、S17は、それぞれ対応するノイズ除去回路59、60、61に入力され、ノイズ除去された信号S34(図8(g))、S35(図8(h))、S36(図8(i))となり、ガンマ補正回路62、63、64に入力してガンマ補正され、マトリックス回路65に入力し、YCbCr信号に変換される。
次に、ノイズ除去回路59、60、61の動作を説明する。
図9は図7のノイズ除去回路の動作を示すタイムチャートである。
ここでは、代表してノイズ除去回路61の動作を説明する。
ノイズ除去回路61の入力端子66には、図9(a)(図8(d)と同じ)のR信号成分S15が入力され、このR信号成分S15は、更にノイズ成分抽出フィルター69に入力される。
ノイズ成分抽出フィルター69では、R信号成分S15からノイズ成分、すなわち図9(b)の信号S18を抽出する。この信号S18は、レベルスライス回路70に入力される。
レベルスライス回路70には、他に、入力端子67から入力するレベルスライス信号が入力される。
レベルスライス回路70では、ノイズ成分である信号S18が、レベルスライス信号のスライスレベルS19によりレベルスライスされる。
すなわち、レベルスライス回路70は、信号S18がスライスレベルS19のレベルであるS19を越えるとS19とし、−S19を下回ると−S19とするようにレベルスライスする。つまり、信号S18は、S19を越えるレベル並びに−S19を下回るレベルが削除される。
この結果、レベルスライス後のノイズ成分は、図9(c)に示す信号S20となる。
信号S20は、入力端子68から入力したノイズ除去強度指定信号と乗算器71で乗算され、入力端子66から入力した画像信号であるR信号成分S15から減算器72で減算され、ノイズ除去されたR信号成分S21(図9(d))として出力端子73から出力される。
なお、ノイズ除去及びホワイトバランス調整処理を行う他の技術としては、例えば、特許文献1の技術がある。
特開2003−47021号公報(図1)
以下、図面を参照して、本発明に係る実施形態について説明する。
〔第1の実施形態〕
図1は第1の実施形態に係る画像信号処理装置を示すブロック図である。
図1に示すように、第1の実施形態に係る画像信号処理装置100は、例えば、デジタルカメラを構成するものであり、入力端子1、色分離回路19、ホワイトバランス係数発生回路11、乗算回路8、9、10、入力端子20、21、22、入力端子2、3、4、ノイズ除去回路12、13、14、γ補正回路15、16、17、マトリックス回路18及び出力端子5、6、7を備えている。
このうち入力端子1には画像信号が入力され、この画像信号は更に色分離回路19に入力される。
色分離回路19は、入力される画像信号を各分解色の信号成分に分離する。すなわち、例えば、赤色の赤信号成分(R信号成分)、緑色の緑信号成分(G信号成分)、青色の青信号成分(B信号成分)に分離する。また、色分離回路19は、分離後の各信号成分を、それぞれ別個に出力する。
色分離回路19により分離後に出力されるRGB各信号成分のうち、R信号成分はR信号成分用の乗算回路8に、G信号成分はG信号成分用の乗算回路9に、B信号成分はB信号成分用の乗算回路10に、それぞれ入力される。
また、RGB各信号成分は、ともにホワイトバランス係数発生回路(ホワイトバランス係数発生手段)11に入力される。
ホワイトバランス係数発生回路11は、各分解色の画像信号のレベル(強度)比、すなわちRGB各信号成分のそれぞれのレベル比に基づいて、各分解色毎のホワイトバランス係数を演算により発生する。ホワイトバランス係数は、ホワイトバランスを調整するための係数である。具体的には、例えば、各分解色のレベルの逆数を各分解色毎のホワイトバランス係数とする。例えば、R信号成分だけが他の2色の信号成分の1/4の信号レベルである場合には、R信号成分に対するホワイトバランス係数は、他の2色の信号成分に対するホワイトバランス係数の4倍の値とする。つまり、各分解色毎のホワイトバランス係数として、各分解色の画像信号のレベル比の逆数を割り当てる。
このようにホワイトバランス係数発生回路11にて演算された各色毎のホワイトバランス係数は、各色成分用の乗算回路8、9、10に入力される。すなわち、R信号成分に対するホワイトバランス係数は乗算回路8に、G信号成分に対するホワイトバランス係数は乗算回路9に、B信号成分に対するホワイトバランス係数は乗算回路10に、それぞれ入力される。
各乗算回路8、9、10では、対応する分解色のホワイトバランス係数と、対応する分解色の信号成分とを乗算する。すなわち、乗算回路8では、R信号成分と、R信号成分に対するホワイトバランス係数と、を乗算し、乗算回路9では、G信号成分と、G信号成分に対するホワイトバランス係数と、を乗算し、乗算回路10では、B信号成分と、B信号成分に対するホワイトバランス係数と、を乗算する。これにより、各分解色の信号成分は、それぞれホワイトバランス調整がなされる(ホワイトバランスの調整処理)。
このようにホワイトバランス調整がなされたRGB信号は、各色成分用のノイズ除去回路12、13、14に入力される。すなわち、R信号成分はノイズ除去回路14に、G信号成分はノイズ除去回路13に、B信号成分はノイズ除去回路12に、それぞれ入力される。
また、入力端子20、21、22には、レベルスライス信号が入力され、このレベルスライス信号は、更に、各ノイズ除去回路12、13、14に入力される。レベルスライス信号は、信号成分に含まれるノイズ成分とエッジ成分とを区別するためのしきい値(スライスレベル)となる信号である。
さらに、入力端子2、3、4には、ノイズ除去の強度を指定する係数としてのノイズ除去強度指定信号が入力され、このノイズ除去強度指定信号は、更に、各ノイズ除去回路12、13、14に入力される。
加えて、ノイズ除去回路12、13、14には、ホワイトバランス係数発生回路11にて演算(発生)された、対応する分解色のホワイトバランス係数も入力される。すなわち、ノイズ除去回路14にはR信号成分用のホワイトバランス係数が、ノイズ除去回路13にはG信号成分用のホワイトバランス係数が、ノイズ除去回路12にはB信号成分用のホワイトバランス係数が、それぞれ入力される。
ノイズ除去回路12、13、14は、このように入力されるホワイトバランス係数、ノイズ除去強度指定信号及びレベルスライス信号を用いて、各分解色の信号成分(画像信号)からノイズ成分を除去し、ノイズ除去後の各信号成分を出力する。なお、ノイズ除去回路12、13、14の構成については詳細を後述する。
ノイズ除去回路12、13、14から出力された画像信号(各色信号成分)は、各色成分用のγ補正回路15、16、17に入力される。
γ補正回路15、16、17は、対応する色信号成分の画像信号にそれぞれγ補正を施す。
更に、γ補正後の画像信号は、マトリックス回路18に入力される。
マトリックス回路18は、γ補正回路15、16、17によるγ補正後の画像信号(RGB信号)をYCbCr信号に変換して出力する。その出力は、更に、出力端子5、6、7より出力される。
次に、ノイズ除去回路12、13、14の構成について詳細に説明する。
図2はノイズ除去回路12、13、14を示すブロック図である。
なお、ノイズ除去回路12、13、14は互いに同様の回路構成となっている。ここでは代表してノイズ除去回路14の説明をする。
図2に示すように、ノイズ除去回路14は、入力端子25と、入力端子30と、入力端子23と、入力端子24と、乗算回路27と、ノイズ成分抽出フィルター26と、レベルスライス回路28と、乗算回路29と、減算回路32と、出力端子31とを備えている。
このうち入力端子25には、画像信号のR信号成分(ホワイトバランス調整後)が入力され、このR信号成分は、更に、ノイズ成分抽出フィルター(ノイズ抽出手段)26に入力される。
ノイズ成分抽出フィルター26は、R信号成分に含まれるノイズ成分を抽出し、そのノイズ成分をレベルスライス回路(レベルスライス手段)28に出力する。
また、入力端子23からはレベルスライス信号が入力され、入力端子24からはホワイトバランス係数(R信号成分用)が入力され、更に、これらホワイトバランス係数及びレベルスライス信号はともに乗算回路27に入力される。
乗算回路27は、入力されるホワイトバランス係数とレベルスライス信号とを乗算する。すなわち、スライスレベル信号(つまりレベルスライスにおけるしきい値)を、ホワイトバランス係数を用いて補正する。ここで、乗算回路27は、レベルスライスにおけるしきい値であるスライスレベル信号を、ホワイトバランス係数を用いて補正する補正手段として機能する。
この補正後のスライスレベル信号は、レベルスライス回路28に入力される。
レベルスライス回路28は、ノイズ成分抽出フィルター26により抽出されたノイズ成分からレベルスライスによってエッジ成分を除去する。すなわち、レベルスライス回路28は、スライスレベル信号を用いたレベルスライスによって、ノイズ成分からエッジ成分を除去する(詳細後述)。
また、レベルスライス回路28によりエッジ成分が除去されたノイズ成分は、乗算回路29に出力される。
また、入力端子30には、ノイズ除去強度指定信号が入力され、このノイズ除去強度指定信号は、更に、乗算回路29に入力される。
乗算回路29は、エッジ成分を除去後のノイズ成分と、ノイズ除去強度指定信号と、を乗算し、この乗算後のノイズ成分を減算回路32に出力する。
減算回路(ノイズ除去手段)32は、入力端子25からのR信号成分よりノイズ成分を減算する。つまり、R信号成分からノイズ成分を除去する。
このようにノイズ除去された後のR信号成分は、出力端子31より出力される。
同様に、ノイズ除去回路12、13では、それぞれB信号成分、G信号成分からノイズ成分を除去し、ノイズ除去後の信号を出力する。なお、各ノイズ除去回路12、13、14での処理は、互いに並行して行われる。
次に、図3及び図4を参照して、画像信号処理装置100の動作について説明する。
図3は画像信号処理装置100の動作を示すタイムチャートである。なお、縦軸は信号のレベル(強度)、横軸は時間である。
先ず、入力端子1から撮像デバイスの光学フィルタ画素の並び順(フィルタパターンの順)に信号が入力し、色分離回路19においてR信号成分S1(図3(a))、G信号成分S2(図3(b))、B信号成分S3(図3(c))に分離される。
ここでは一面白い物体を青みを帯びた投射光で撮影したと仮定する。青みを帯びた光で白いものを撮影したのでR信号成分S1はG信号成分S2、B信号成分S3に対してレベルが低くなる。具体的には、例えば、R信号成分S1の信号レベルがG信号成分S2、B信号成分S3の1/4であるとする。
各信号成分S1、S2、S3はホワイトバランス係数発生回路11に入力され、これら各信号成分S1、S2、S3のレベルに応じて各色毎のホワイトバランス係数が計算される。この場合、R信号成分S1がG信号成分S2、B信号成分S3に対してレベルが1/4であるので、R信号成分S1に対する係数が、他の2色の信号成分S2、S3に対する係数の4倍の値として演算される。
これら演算された各色毎のホワイトバランス係数が、乗算回路8、9、10にてそれぞれR信号成分S1、G信号成分S2、B信号成分S3と乗算される。これにより、各色信号成分はそれぞれホワイトバランス調整処理がなされて、R信号成分はS4(図3(d))、G信号成分はS5(図3(e))、B信号成分はS6(図3(f))となる。
ここで、図3(d)に示すように、R信号成分S4は、他の2色の4倍のホワイトバランス係数で増幅されているので、信号に含まれるノイズ成分も大きくなっている。
信号成分S4、S5、S6は、乗算回路8、9、10より、それぞれ対応するノイズ除去回路12、13、14に入力される。
ノイズ除去回路12、13、14では、信号成分S4、S5、S6からノイズ成分を除去する。これにより、赤信号成分はS31(図3(g))、緑信号成分はS32(図3(h))、青信号成分はS33(図3(i))となる(詳細後述)。
ノイズ除去回路12、13、14から出力された信号成分S31、S32、S33は、それぞれ対応するγ補正回路15、16、17に入力されてγ補正され、マトリックス回路18に出力される。
マトリックス回路18では、画像信号(RGB信号)をYCbCr信号に変換して出力し、その出力は、更に出力端子5、6、7より出力される。
次に、ノイズ除去回路の動作を説明する。
図4はノイズ除去回路14の動作を示すタイムチャートである。
ノイズ除去回路14の入力端子25には、図4(a)(図3(d)と同じ)のR信号成分S4が入力され、このR信号成分S4は、更にノイズ成分抽出フィルター26に入力される。
ノイズ成分抽出フィルター26では、R信号成分S4からノイズ成分、すなわち図4(b)の信号S7を抽出する。この信号S7は、レベルスライス回路28に入力される。
入力端子23には、レベルスライス信号が入力される。
入力端子24には、R信号成分用のホワイトバランス係数、すなわち、他の2色に対するホワイトバランス係数の4倍の値の係数が入力される。具体的には、例えば、他の2色に対するホワイトバランス係数は、それぞれ1であり、従って、R信号成分用のホワイトバランス係数は、4である。
また、乗算回路27では、R信号成分用のホワイトバランス係数と、レベルスライス信号と、を乗算し、乗算後のレベルスライス信号をレベルスライス回路28に出力する。
ここで、図4(b)には、入力端子23から入力されるレベルスライス信号を信号S8として示し、乗算回路27による乗算後のレベルスライス信号をS9として示している。つまり、信号S9は、信号S8の例えば4倍のレベルとされている。
レベルスライス回路28では、ノイズ成分である信号S7が、乗算回路27による乗算後のレベルスライス信号のスライスレベルS9によりレベルスライスされる。
すなわち、レベルスライス回路28は、信号S7がスライスレベルS9のレベルであるS9を越えるとS9とし、−S9を下回ると−S9とするようにレベルスライスする。つまり、信号S7は、S9を越えるレベル並びに−S9を下回るレベルが削除され、これによりエッジ成分が削除される。この結果、レベルスライス後のノイズ成分は、図4(c)に示す信号S10となる。
なお、ここでは、信号S7の最大レベルがS9に一致し、最低レベルが−S9に一致するような理想的な場合を示したが、例えば、図3(a)の信号S1に途中でパルス状の段差が生じる様な場合には、図4(b)の信号S7にもパルス状に上側及び下側に突出する信号成分が含まれるので、このような突出部分がレベルスライスによって除去されることとなる。
このように、理想的な場合にも、そうでない場合にも、図4(c)に示すように、エッジ成分が過不足なく除去されたノイズ成分を抽出することができる。
レベルスライス(によりエッジ成分が除去された)後のノイズ成分である信号S10は、レベルスライス回路28から乗算回路29に出力される。
乗算回路29では、信号S10(ノイズ成分)と、入力端子30から入力されるノイズ除去強度指定信号と、を乗算し、この乗算後のノイズ成分を減算器32に出力する。
減算器32では、ノイズ成分を、入力端子25からのR信号成分S4より減算する。これにより、R信号成分S4は、ノイズ成分が過不足なく除去されてR信号成分S31(図4(d)、図3(g))となり、その信号レベルは他の2色の信号レベルと等しくなる。
つまり、図3(g)、図3(h)、図3(i)に示すように、各分解色の画像信号が互いに同レベルとなり、しかも、ノイズを残留したり、或いは画像におけるエッジが鈍ったりすることもない。
このようにノイズ除去されたR信号成分S31は、出力端子31から出力される。
以上のような第1の実施形態によれば、ノイズ成分からエッジ成分を除去するためのレベルスライスにおけるしきい値(スライスレベル)をホワイトバランス係数により補正する。すなわち、そのしきい値に対し、ホワイトバランス係数に応じて色毎に異なる利得制御を施す。よって、ノイズ成分の強さが色毎の信号成分に応じて異なる画像信号の場合にも、最適なスライスレベルでレベルスライスを行うことが可能となる。その結果、画像信号からのノイズ成分の除去を、ノイズを残留させたり或いはエッジを鈍らせたりすることなく好適に行うことが可能となる。よって、各分解色の画像信号を同レベルとなるように補正することができる。
〔第2の実施形態〕
第2の実施形態では、ノイズ除去回路及びγ補正回路を各分解色の画像信号の処理に共通使用する例を説明する。
なお、第2の実施形態に係る画像信号処理装置は、以下に説明する点の他は上記の第1の実施形態に係る画像信号処理装置100と同様であるので、同様の構成要素には同一の符号を付し、その説明を省略する。
図5は、第2の実施形態に係る画像信号処理装置200を示すブロック図である。
図2に示すように、第2の実施形態に係る画像信号処理装置200は、画像信号が入力される入力端子32、画像信号を各分解色の信号成分に分離する色分離回路38、各分解色のホワイトバランス係数を発生するホワイトバランス係数発生回路40、ホワイトバランス係数と信号成分との乗算を各分解色毎に行う乗算回路39、レベルスライス信号が入力される入力端子33、ノイズ除去強度指定信号が入力される入力端子34、ホワイトバランス調整処理後の画像信号からのノイズ除去を行うノイズ除去回路41、ノイズ除去回路41によるノイズ除去後の画像信号に対しγ補正を行うγ補正回路42、マトリックス回路43及び出力端子35、36、37を備えている。
このうち入力端子32には画像信号が入力され、この画像信号は更に色分離回路38に入力される。
色分離回路19は、入力される画像信号を各分解色の信号成分(例えば、赤色の赤信号成分(R信号成分)、緑色の緑信号成分(G信号成分)、青色の青信号成分(B信号成分)に分離する。
ここで、上記の第1の実施形態においては、色分離回路19からの出力は別個の経路を介して行うのに対し、第2の実施形態においては、色分離回路38からの出力を1つの経路を介して時分割多重に行う。すなわち、例えば、R信号成分、G信号成分、B信号成分の順で、順次、信号出力を行う。
また、乗算回路39では、各分解色のホワイトバランス係数と、対応する分解色の信号成分と、を乗算することを、各分解色で順番に行う。すなわち、例えば、R信号成分用のホワイトバランス係数とR信号成分との乗算、G信号成分用のホワイトバランス係数とG信号成分との乗算、B信号成分用のホワイトバランス係数とB信号成分との乗算を、この順に行い、この順でノイズ除去回路41に出力する。
また、ノイズ除去回路41の構成は、上記の第1の実施形態に係る画像信号処理装置100におけるノイズ除去回路12、13、14と同様である。
ノイズ除去回路41では、各分解色の信号成分からのノイズ除去を、各分解色で順番に行う。すなわち、例えば、R信号成分からのノイズ除去と、G信号成分からのノイズ除去と、B信号成分からのノイズ除去と、をこの順に行い、この順でγ補正回路42に出力する。つまり、各分解色の画像信号に対するノイズ成分抽出フィルター26、レベルスライス回路28及びレベルスライス回路28の処理を時分割多重で行う。
また、γ補正回路42でも、各分解色の信号成分に対するγ補正を時分割多重で行い、γ補正後の各信号成分を順にマトリックス回路43に出力する。
マトリックス回路43では、各分解色の信号成分を揃うまで蓄積し、揃ったら同時に出力する。
以上のような第2の実施形態によれば、色分離回路38からの出力以降、マトリックス回路43への入力までの処理を時分割多重に行うので、乗算器39、ノイズ除去回路41、γ補正回路42がそれぞれ1個になり回路規模を縮小できるという効果が得られる。