JP2005072786A - 色分離処理回路、色分離処理方法、プログラム、及びデジタルカメラ - Google Patents

色分離処理回路、色分離処理方法、プログラム、及びデジタルカメラ Download PDF

Info

Publication number
JP2005072786A
JP2005072786A JP2003297665A JP2003297665A JP2005072786A JP 2005072786 A JP2005072786 A JP 2005072786A JP 2003297665 A JP2003297665 A JP 2003297665A JP 2003297665 A JP2003297665 A JP 2003297665A JP 2005072786 A JP2005072786 A JP 2005072786A
Authority
JP
Japan
Prior art keywords
color
filter
vertical
low
horizontal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2003297665A
Other languages
English (en)
Inventor
Toshinobu Hatano
敏信 秦野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP2003297665A priority Critical patent/JP2005072786A/ja
Publication of JP2005072786A publication Critical patent/JP2005072786A/ja
Pending legal-status Critical Current

Links

Images

Abstract

【課題】 斜め線、図形の角(エッジ成分)がある場合にも偽色を大幅に軽減することができる色分離処理回路を提供する。
【解決手段】 図1に示す色分離部11が色分離を行った、ローパスフィルタを掛ける前の画素データからベイヤー配列の4画素の単位配列毎に生成した水平、垂直、及び斜め方向の色差データで相関を判定する。相関が高いと判定された方向の色差データを前記4画素の単位配列毎に選択し、選択された色差データを複数画素分集めたものに対してフィルタ処理を行う事により、斜め線、図形の角(エッジ成分)がある場合にも偽色を大幅に軽減することができる。
【選択図】 図1

Description

本発明は、色フィルタを備えた撮像素子から出力される輝度信号をサンプリングした画素データを取得し、色分離処理を行う色分離処理回路に関する。
近年、デジタルカメラの高性能化には目覚しいものがある。撮像素子の画素数は年々増える一方であり、画素間の距離である画素ピッチが低下することにより、その解像度は光学的な分解能の限界に近づきつつある。このように高解像度化の一途を辿るデジタルカメラではあるが、その一方で、撮像素子内に形成された光学像を個々の画素に分解する受光素子は、現状において光の色を識別する事が出来ない。その為単板式カメラの場合は、撮像素子の前面に、前記受光素子と一対一に対応した色付きのセルで受光面が区切られた色フィルタを配置している。
色分離処理回路は、このような色フィルタを使用した撮像素子からの輝度信号を受け取って色演算処理を行い色差信号R−Y、B−Yを出力するが、この色差信号には一般に、各色画素間の位置ずれと、それに伴う色補間処理に起因する「偽色」成分が含まれる。「偽色」とは、特定の画素において本来存在しない色が生じる事を言い、白と黒の境界や、点光源などのコントラストの急激な変化を撮影した場合に見られる現象である。
一般に画素数を増やして画面の解像度を上げると「偽色」もそれだけ発生しやすくなるが、これを抑制する為に、種々の色処理方式が提案されている。そのような方式の1つとして、RGBベイヤー配列における各画素に対して周辺画素の補間処理を行い、2種類のR−G信号、B−G信号について水平方向、及び垂直方向の相関度を判定する事により偽色の発生を抑圧する技術が下記の特許文献1に開示されている。
図15は、従来の色分離処理回路190を備えるデジタルカメラの基本的な構成を示している。同図において、撮像素子182から出力された輝度信号は、サンプルホールド回路(CDS)183、及びA/Dコンバータ184によってデジタル変換された後、色分離処理部190に入力され、色分離部191による色分離処理、ローパスフィルタ部192による2次元ローパスフィルタ処理、色差データ生成部193による色差データ生成処理、選択実行部194による色差データの選択処理、及び色差マトリクス部195による色差信号生成処理を経て、色差信号R−Y、B−Yが生成される。
ここで、1回のフィルタ処理を行って1画素分の色差データR−G、B−Gを生成する為にバッファメモリから画素データを取り出す領域を、フィルタ原画素領域という。1回のフィルタ処理により生成される色差データは、前記フィルタ原画素領域のセンター位置における色差データである。従来の色分離処理方式の場合、ローパスフィルタのタップ数をNとすると、フィルタ原画素領域は画面上縦横N×Nのサイズの領域である。
図16は、従来の色分離処理回路が行う色分離処理を示す図である。ここではフィルタのタップ数は、N=4である。同図において、バッファメモリ200から取り出したフィルタ原画素領域である縦横4×4のサイズの領域に含まれる16個の画素データに対し、色分離部201がベイヤー配列の各色R、B、G1、G2に対応付ける処理を行う。
上記各色に対応つけられた画素データに対し、ローパスフィルタ部202乃至205において、16個の係数である2次元LPF係数207を各画素に対して乗じたものを色別に加算し、色差データ生成部206において引き算する事により、2組の色差データ(R−G1、R−G2)、及び(B−G1、B−G2)が生成される。これら2組の色差データに対し、後続の選択実行部(不図示)が各々絶対値の小さい方を選択する事により、フィルタ原画素領域のセンター位置の色差データR−G、B−Gが生成される。
(色差信号の計算式)
従来の色分離処理回路が生成する色差信号R−G、B−Gは、入力画像を具体的に与える事によって、数式を用いて計算する事ができる。図17は、バッファメモリ内の任意のフィルタ原画素領域における16個の画素をRa、Bb、G1c等、a、b、c、dの添字をつけて指定する方法を示す。この方法によると、従来の色分離処理回路が生成するフィルタ原画素領域のセンター位置の色差データは、フィルタ原画素領域内の各画素の輝度Ri、Bi、G1i、G2i(i=a、b、c、d)を用いて、次のような式で表わされる。
R−G =
absmin((3Ra+9Rb+Rd+3Rc)−(G1a+3G1b+3G1d+9G1c)、(3Ra+9Rb+Rd+3Rc)−(9G2a+3G2b+3G2d+G2c)) ・・・(1)
B−G =
absmin((3Ba+Bb+9Bd+3Bc)−(G1a+3G1b+3G1d+9G1c)、(3Ba+Bb+9Bd+3Bc)−(9G2a+3G2b+3G2d+G2c)) ・・・(2)
ここで、上式のabsmin()関数は、引数として与えられた数値の絶対値を比較し、それが最小となるものを返す関数である。
上述したように、このようして得られた2種類の色差信号は、一般にベイヤー配列の特性に起因する「偽色」成分を含んでいるが、その度合いを評価する為に、下記の「偽色レベル」を定義する。
(偽色レベルの定義)
明るい白色の被写体を撮影した場合にR、G、B各色の受光素子が出力する輝度が、(R、G、B)=(r、g、b)(r、g、bはR、G、B各色の輝度の最大値)であるとすると、通常の撮影時における各受光素子の輝度は、R画素は0からr迄、B画素は0からb迄、G1及びG2画素は0からg迄の範囲のいずれかの値を取る。
ここで、白と黒の2色のみから構成される被写体を撮影し、その画像を表示した際に、ある特定の画素において「偽色」を生じた為に色差信号が
(R−G、B−G)=(A・r−B・g、C・b−D・g) ・・・(3)
(A、B、C、Dは係数)となった場合、その画素の「偽色レベル」が
(FR−G、FB−G)=(A−B、C−D) ・・・(4)
であると定義する。「偽色レベル」は、特定画素におけるR、G、B各色の混合比の白色からのずれを数値的に表したものであり、上記のように成分表示された2次元ベクトル(FR−G、FB−G)の大きさ(FR−G2+FB−G2の平方根)が小さい程、表示される色が真の色に近い。
(偽色レベルの計算)
上記の色差信号を計算する式(1)、及び式(2)に対し、入力した画像データに応じてRa、Rb、Rc、Rd、Ba、Bb、Bc、Bd、G1a、G1b、G1c、G1d、G2a、G2b、G2c、G2dの16画素の輝度(Rに対しては0からr迄、Bに対しては0からb迄、G1、及びG2に対しては、0からg迄)を代入する事により、フィルタ原画素領域のセンター位置の色差信号の値が計算できる。
図18、及び図19は、それぞれ縦線、及び横線の白黒2値画像を撮像した場合の偽色の程度を示す図であり、元の画像を(a)撮像画像に、またバッファメモリ内のデータの様子を(b)バッファメモリに示す。このような画像について、色分離処理を行った結果出力される色差信号(R−G)、(B−G)に対し、偽色レベル(FR−G、FB−G)を式(1)乃至(4)を用いて計算した結果を同図の(c)偽色レベルの比較において、「従来方式」の欄に示している。
このように、4×4の16画素の領域を縦線や横線が横切る場合には、偽色レベル(FR−G、FB−G)はいずれも0となり、偽色が発生しない。この場合従来の色分離処理は、偽色成分を除去する効果を有する。
特開2002−16930号公報
しかしながら、上記のような色分離処理回路を用いても、以下に示す問題が発生する。
即ち、16画素の領域を斜め線が横切る場合や、図形の角(エッジ成分)が領域内に存在する場合には、偽色を生じる。
図20、図21、及び図22は、それぞれ斜め線、右下エッジ成分、及び右上エッジ成分の白黒2値画像を撮像した場合の偽色の程度を示す図であり、元の画像を(a)撮像画像に、またバッファメモリ内のデータの様子を(b)バッファメモリに示す。このような画像について色分離処理を行った結果出力される色差信号(R−G)、(B−G)について、偽色レベル(FR−G、FB−G)を式(1)乃至式(4)を用いて計算した結果を同図の(c)偽色レベルの比較において、「従来方式」の欄に示している。
このように、16画素のフィルタ原画素領域内を斜め線が横切ったり、領域内に図形の角(エッジ成分)が存在している場合には、偽色レベル(FR−G、FB−G)はいずれも0とならず、この場合、色分離処理を行う事により偽色を生じる事が分かる。
本発明は、上記問題点を解決する為になされたものであり、斜め線、図形の角(エッジ成分)がある場合にも偽色を大幅に軽減することのできる色分離処理回路、及び色分離処理方法の提供を目的とする。
上記目的を達成する為、本発明の色分離処理回路は、撮像素子に入射する光を画素単位に1の色と、それと異なる複数の他の色とに色分解する色セルの配列を有し、前記色セルの配列は前記複数の他の色の色セルの各配置位置に対して水平方向、及び垂直方向に前記1の色の色セルがそれぞれ隣接して配置されてなる色セルの配列を最小単位とする色フィルタを備えた撮像素子から撮像データを得、この撮像データを色分離処理する色分離処理回路であって、前記撮像データを構成する各画素データを、色フィルタの色セルの色に対応づけて分離する色分離手段と、前記分離された画素データの内、前記他の色に対応する画素データから、その水平、垂直方向に隣接する前記1の色に対応する画素データを各々減算し、色セルの配列の最小単位毎に複数の色差データを生成する色差データ生成手段と、得られた複数の色差データの中から絶対値最小のものを、色セルの配列の最小単位毎に選択する選択実行手段と、選択された色差データに対し、ローパスフィルタ処理を行うローパスフィルタ手段とを備える。
また、前記色分離処理回路は、さらに、前記1の色に対応する複数の異なる位置の画素データを補間して、前記1の色に対応する新たな位置の画素データを色セルの配列の最小単位毎に生成する色補間手段を備え、前記色差データ生成手段は、さらに、前記色分離手段により色フィルタの前記他の色に対応付けられた画素データから、前記色補間手段により生成された前記1の色に対応する新たな位置の画素データを減算する事により新たな色差データを色セルの配列の最小単位毎に生成してもよい。
また、前記色分離処理回路は、さらに、前記色分離手段と、前記色差データ生成手段と、前記選択実行手段とに対し、Kを自然数として垂直方向にK個の色差データを同時に生成するよう制御する並列処理制御手段を備え、前記ローパスフィルタ手段は、前記色分離手段と、前記色差データ生成手段と、前記選択実行手段とにより、垂直方向に同時に生成されたK個の色差データに対してローパスフィルタ処理を行ってもよい。
また、前記色分離処理回路は、さらに、前記色分離手段と、前記色補間手段と、前記色差データ生成手段と、前記選択実行手段とに対し、Kを自然数として垂直方向にK個の色差データを同時に生成するよう制御する並列処理制御手段を備え、前記ローパスフィルタ手段は、前記色分離手段と、前記色補間手段と、前記色差データ生成手段と、前記選択実行手段とにより、垂直方向に同時に生成されたK個の色差データに対してローパスフィルタ処理を行ってもよい。
また、前記ローパスフィルタ手段は、垂直方向を添字i(i=0,1,・・・,L-1)、水平方向を添字j(j=0,1,・・・,M-1)で指定される縦横L×Mの領域に並んだ2次元配列データCij(i=0,1,・・・,L-1;j=0,1,・・・,M-1)の各要素に対し、L個の垂直フィルタ係数ai(i=0,1,・・・,L-1)と、M個の水平フィルタ係数bj(j=0,1,・・・,M-1)との積として構成されるL×M個のフィルタ係数fij=ai*bj(i=0,1,・・・,L-1;j=0,1,・・・,M-1)の各要素を各々乗算したfij*Cij に対し、i,jに関する和を取るローパスフィルタ処理を行う際の2次元配列データCijの垂直方向の個数である垂直タップ数Lと、水平方向の個数である水平タップ数Mとを記憶するタップ数記憶手段と、前記タップ数記憶手段に記憶された垂直タップ数Lと、L個の垂直フィルタ係数ai(i=0,1,・・・,L-1)とを対応づけて記憶し、また水平タップ数Mと、M個の水平フィルタ係数bj(j=0,1,・・・,M-1)とを対応づけて記憶するフィルタ係数記憶手段と、前記タップ数記憶手段に記憶された垂直タップ数Lの値に応じて、前記垂直タップ数Lの値に対応づけられたL個の垂直フィルタ係数ai(i=0,1,・・・,L-1)を取得し、また前記タップ数記憶手段に記憶された水平タップ数Mの値に応じて、前記垂直タップ数Mの値に対応づけられたM個の水平フィルタ係数bj(j=0,1,・・・,M-1)を取得するフィルタ係数取得手段と、前記フィルタ係数取得手段が取得したL個の垂直フィルタ係数ai(i=0,1,・・・,L-1)、及びM個の水平フィルタ係数bj(j=0,1,・・・,M-1)とを用いてfij=ai*bj(i=0,1,・・・,L-1;j=0,1,・・・,M-1)として構成されるL×M個のフィルタ係数fijを使用して、縦横L×Mの領域に並んだ前記2次元配列データCijの各要素に対しフィルタ係数fijを各々乗算したもの fij*Cij (i=0,1,・・・,L-1;j=0,1,・・・,M-1) に対し、i、及びjに関する和を取ることにより2次元ローパスフィルタ演算を行うフィルタ演算手段とを備えてもよい。
また、前記フィルタ演算手段は、縦横L×M領域の中のj(j=0,1,・・・,M-1)で指定される列のL個の前記色差データCij(i=0,1,・・・,L-1;j=0,1,・・・,M-1)に対して、L個の垂直フィルタ係数ai(i=0,1,・・・,L-1)を各々乗算したai*Cij に対し、iに関する和をとることによりSj(j=0,1,・・・,M-1)を生成する垂直フィルタ演算手段と、前記垂直フィルタ演算手段が生成した、ai*Cijのiに関する和であるSj(j=0,1,・・・,M-1)に対して、M個の水平フィルタ係数bj(j=0,1,・・・,M-1)を各々乗算した後、jに関する和をとる水平フィルタ演算手段とを備えてもよい。
また、前記垂直フィルタ演算手段は、前記L個の垂直フィルタ係数ai(i=0,1,・・・,L-1)のi番目の要素を2項係数ai=L−1Ciとすることにより、i*aiのiに関する和をaiのiに関する和で除算した値である、前記垂直フィルタ係数の重心iGが垂直方向のセンター位置iC=(L−1)/2の垂直ローパスフィルタ処理を行い、前記水平フィルタ演算手段は、前記M個の水平フィルタ係数bj(j=0,1,・・・,M-1)のj番目の要素を2項係数bj=M−1Cjとすることにより、j*bjのjに関する和をbjのjに関する和で除算した値である、前記水平フィルタ係数の重心jGが水平方向のセンター位置jC=(M−1)/2の水平ローパスフィルタ処理を行い、前記ローパスフィルタ手段は、
前記垂直フィルタ係数の重心iG、及び前記水平フィルタ係数の重心jGを用いて構成される前記L×M個のフィルタ係数fij=ai*bj(i=0,1,・・・,L-1;j=0,1,・・・,M-1)の重心座標(iG,jG)が、前記縦横L×Mの領域のセンター位置座標(iC,jC)=((L−1)/2,(M−1)/2)に一致する2次元ローパスフィルタ処理を行ってもよい。
また、前記垂直タップ数Lと、前記水平タップ数Mとは同じ値であり、前記ローパスフィルタ手段は、前記同じ値をタップ数Nとし、2次元タップ数N×Nの2次元ローパスフィルタ処理を行ってもよい。
また、前記ローパスフィルタ手段は、2次元タップ数N×Nのローパスフィルタ処理を行う際に元となる縦横(N+1)×(N+1)の画素領域に含まれる各画素データの位置を指定する座標(k,l)(k,l=−1/2,1/2,3/2,・・・,N−1/2)と、前記各画素データの位置を指定する座標(k,l)で指定される(N+1)×(N+1)個の各画素データに対して乗算された各画素データに対するフィルタ係数Dklとの積に対し、色フィルタの各色毎にk,lに関する和を取ったものを、前記乗算された各係数Dklに対し、色フィルタの各色毎にk,lに関する和を取ったもので除算した結果である色フィルタの各色毎の画素重心座標(kG,lG)が、色フィルタの色が前記他の複数の色セルの色である場合に、前記縦横(N+1)×(N+1)の画素領域のセンター位置座標(iC,jC)=((N−1)/2,(N−1)/2)に一致する2次元ローパスフィルタ処理を行ってもよい。
また、前記ローパスフィルタ手段は、前記タップ数Nを5とし、縦横6×6画素の領域内の隣接する6行×2列の画素データに対して、垂直方向に並列に色差データ生成処理を行うことにより同時に生成される5個の色差データに対する垂直ローパスフィルタ処理を、処理対象となる6行×2列の領域を水平方向に1列ずつシフトしながら5回繰り返し、これによって生成される5個の垂直ローパスフィルタ処理されたデータに対して水平ローパスフィルタ処理を行うことにより、垂直方向、水平方向のフィルタ係数が1:4:6:4:1の比を持った2次元タップ数5×5の2次元ローパスフィルタ処理を行ってもよい。
また、前記ローパスフィルタ手段は、前記タップ数Nを3とし、縦横4×4画素の領域内の隣接する4行×2列の画素データに対して、垂直方向に並列に色差データ生成処理を行うことにより同時に生成される3個の色差データに対する垂直ローパスフィルタ処理を、処理対象となる4行×2列の領域を水平方向に1列ずつシフトしながら3回繰り返し、これによって生成される3個の垂直ローパスフィルタ処理されたデータに対して水平ローパスフィルタ処理を行うことにより、垂直方向、水平方向のフィルタ係数が1:2:1の比を持った2次元タップ数3×3の2次元ローパスフィルタ処理を行ってもよい。
また、前記ローパスフィルタ手段は、前記タップ数Nを7とし、縦横8×8画素の領域内の隣接する8行×2列の画素データに対して、垂直方向に並列に色差データ生成処理を行うことにより同時に生成される7個の色差データに対する垂直ローパスフィルタ処理を、処理対象となる8行×2列の領域を水平方向に1列ずつシフトしながら7回繰り返し、これによって生成される7個の垂直ローパスフィルタ処理されたデータに対して水平ローパスフィルタ処理を行うことにより、垂直方向、水平方向のフィルタ係数が1:6:15:20:15:6:1の比を持った2次元タップ数7×7の2次元ローパスフィルタ処理を行ってもよい。
上記目的を達成する為、本発明の色分離処理方法は、撮像素子に入射する光を画素単位に1の色と、それと異なる複数の他の色とに色分解する色セルの配列を有し、前記色セルの配列は前記複数の他の色の色セルの各配置位置に対して水平方向、及び垂直方向に前記1の色の色セルがそれぞれ隣接して配置されてなる色セルの配列を最小単位とする色フィルタを備えた撮像素子から撮像データを得、この撮像データを色分離処理する色分離処理方法であって、前記撮像データを構成する各画素データを、色フィルタの色セルの色に対応づけて分離する色分離ステップと、前記分離された画素データの内、前記他の色に対応する画素データから、その水平、垂直方向に隣接する前記1の色に対応する画素データを各々減算し、色セルの配列の最小単位毎に複数の色差データを生成する色差データ生成ステップと、得られた複数の色差データの中から絶対値最小のものを、色セルの配列の最小単位毎に選択する選択実行ステップと、選択された色差データに対し、ローパスフィルタ処理を行うローパスフィルタステップとを含む。
上記目的を達成する為、本発明のプログラムは、撮像素子に入射する光を画素単位に1の色と、それと異なる複数の他の色とに色分解する色セルの配列を有し、前記色セルの配列は前記複数の他の色の色セルの各配置位置に対して水平方向、及び垂直方向に前記1の色の色セルがそれぞれ隣接して配置されてなる色セルの配列を最小単位とする色フィルタを備えた撮像素子から撮像データを得、この撮像データを色分離処理するためのコンピュータ実行可能なプログラムであって、前記撮像データを構成する各画素データを、色フィルタの色セルの色に対応づけて分離する色分離ステップと、前記分離された画素データの内、前記他の色に対応する画素データから、その水平、垂直方向に隣接する前記1の色に対応する画素データを各々減算し、色セルの配列の最小単位毎に複数の色差データを生成する色差データ生成ステップと、得られた複数の色差データの中から絶対値最小のものを、色セルの配列の最小単位毎に選択する選択実行ステップと、選択された色差データに対し、ローパスフィルタ処理を行うローパスフィルタステップとをコンピュータに実行させる。
上記目的を達成する為、本発明のデジタルカメラは、撮像素子に入射する光を光電変換することにより得られた撮像データを信号処理し、撮影された被写体の画像を表す情報を生成し記録するデジタルカメラであって、請求項1乃至請求項12のいずれか1つに記載の色分離処理回路を備える。
上記目的を達成する為、本発明のデジタルカメラは、撮像素子に入射する光を光電変換することにより得られた撮像データを信号処理し、撮影された被写体の画像を表す情報を生成し記録するデジタルカメラであって、請求項13に記載の色分離処理方法を行う。
上記目的を達成する為、本発明のデジタルカメラは、撮像素子に入射する光を光電変換することにより得られた撮像データを信号処理し、撮影された被写体の画像を表す情報を生成し記録するデジタルカメラであって、請求項14に記載のプログラムを記憶する記憶手段を備え、前記記憶手段により記憶された前記プログラムを実行することにより色分離処理を行う。
本発明の色分離処理回路は、撮像素子に入射する光を画素単位に1の色と、それと異なる複数の他の色とに色分解する色セルの配列を有し、前記色セルの配列は前記複数の他の色の色セルの各配置位置に対して水平方向、及び垂直方向に前記1の色の色セルがそれぞれ隣接して配置されてなる色セルの配列を最小単位とする色フィルタを備えた撮像素子から撮像データを得、この撮像データを色分離処理する色分離処理回路であって、前記撮像データを構成する各画素データを、色フィルタの色セルの色に対応づけて分離する色分離手段と、前記分離された画素データの内、前記他の色に対応する画素データから、その水平、垂直方向に隣接する前記1の色に対応する画素データを各々減算し、色セルの配列の最小単位毎に複数の色差データを生成する色差データ生成手段と、得られた複数の色差データの中から絶対値最小のものを、色セルの配列の最小単位毎に選択する選択実行手段と、選択された色差データに対し、ローパスフィルタ処理を行うローパスフィルタ手段とを備える。
この構成によれば、ベイヤー配列の最小単位毎に生成された垂直方向、及び水平方向の各色差データの中から絶対値最小、つまり色同士の相関が高いものを選択し、当該選択された複数の色差データに対してローパスフィルタ処理を行う事により、複数の色差データ間で平均化され空間周波数の高い成分が除去される前の色差データに対して色同士の相関を判定する為、撮像画像に斜め線、図形の角(エッジ成分)がある場合にも偽色の発生を大幅に軽減することができる。
また、前記色分離処理回路は、さらに、前記1の色に対応する複数の異なる位置の画素データを補間して、前記1の色に対応する新たな位置の画素データを色セルの配列の最小単位毎に生成する色補間手段を備え、前記色差データ生成手段は、さらに、前記色分離手段により色フィルタの前記他の色に対応付けられた画素データから、前記色補間手段により生成された前記1の色に対応する新たな位置の画素データを減算する事により新たな色差データを色セルの配列の最小単位毎に生成してもよい。
この構成によれば、前記複数の色差データの中から絶対値最小、つまり色同士の相関が高いものを選択する処理において、相関を判定する垂直方向、及び水平方向に減算を行った色差データに加えて、前記1の色の色セルの新たな位置について補間した画素データについて減算を行った色差データが加わる事により、より多くの色差データの中から相関の高いものを選択する事ができる。
また、前記色分離処理回路は、さらに、前記色分離手段と、前記色差データ生成手段と、前記選択実行手段とに対し、Kを自然数として垂直方向にK個の色差データを同時に生成するよう制御する並列処理制御手段を備え、前記ローパスフィルタ手段は、前記色分離手段と、前記色差データ生成手段と、前記選択実行手段とにより、垂直方向に同時に生成されたK個の色差データに対してローパスフィルタ処理を行ってもよい。
この構成によれば、画面垂直方向にK画素分の色差データを同時に生成する為、画面垂直方向に行うK画素分のローパスフィルタ処理を、上記処理に続いて連続的に行う事が出来る。その為ローパスフィルタ処理による処理時間の増加や、色差信号を出力するタイミングの遅れを最小限に抑える事が出来る。
また、前記色分離処理回路は、さらに、前記色分離手段と、前記色補間手段と、前記色差データ生成手段と、前記選択実行手段とに対し、Kを自然数として垂直方向にK個の色差データを同時に生成するよう制御する並列処理制御手段を備え、前記ローパスフィルタ手段は、前記色分離手段と、前記色補間手段と、前記色差データ生成手段と、前記選択実行手段とにより、垂直方向に同時に生成されたK個の色差データに対してローパスフィルタ処理を行ってもよい。
この構成によれば、画面垂直方向にK画素分の色差データを同時に生成する為、画面垂直方向に行うK画素分のローパスフィルタ処理を、上記処理に続いて連続的に行う事が出来る。その為ローパスフィルタ処理による処理時間の増加や、色差信号を出力するタイミングの遅れを最小限に抑える事が出来る。
また、前記ローパスフィルタ手段は、垂直方向を添字i(i=0,1,・・・,L-1)、水平方向を添字j(j=0,1,・・・,M-1)で指定される縦横L×Mの領域に並んだ2次元配列データCij(i=0,1,・・・,L-1;j=0,1,・・・,M-1)の各要素に対し、L個の垂直フィルタ係数ai(i=0,1,・・・,L-1)と、M個の水平フィルタ係数bj(j=0,1,・・・,M-1)との積として構成されるL×M個のフィルタ係数fij=ai*bj(i=0,1,・・・,L-1;j=0,1,・・・,M-1)の各要素を各々乗算したfij*Cij に対し、i,jに関する和を取るローパスフィルタ処理を行う際の2次元配列データCijの垂直方向の個数である垂直タップ数Lと、水平方向の個数である水平タップ数Mとを記憶するタップ数記憶手段と、前記タップ数記憶手段に記憶された垂直タップ数Lと、L個の垂直フィルタ係数ai(i=0,1,・・・,L-1)とを対応づけて記憶し、また水平タップ数Mと、M個の水平フィルタ係数bj(j=0,1,・・・,M-1)とを対応づけて記憶するフィルタ係数記憶手段と、前記タップ数記憶手段に記憶された垂直タップ数Lの値に応じて、前記垂直タップ数Lの値に対応づけられたL個の垂直フィルタ係数ai(i=0,1,・・・,L-1)を取得し、また前記タップ数記憶手段に記憶された水平タップ数Mの値に応じて、前記垂直タップ数Mの値に対応づけられたM個の水平フィルタ係数bj(j=0,1,・・・,M-1)を取得するフィルタ係数取得手段と、前記フィルタ係数取得手段が取得したL個の垂直フィルタ係数ai(i=0,1,・・・,L-1)、及びM個の水平フィルタ係数bj(j=0,1,・・・,M-1)とを用いてfij=ai*bj(i=0,1,・・・,L-1;j=0,1,・・・,M-1)として構成されるL×M個のフィルタ係数fijを使用して、縦横L×Mの領域に並んだ前記2次元配列データCijの各要素に対しフィルタ係数fijを各々乗算したもの fij*Cij (i=0,1,・・・,L-1;j=0,1,・・・,M-1) に対し、i、及びjに関する和を取ることにより2次元ローパスフィルタ演算を行うフィルタ演算手段とを備えてもよい。
この構成によれば、タップ数記憶手段に記憶された垂直タップ数L、水平タップ数M、及びフィルタ係数記憶手段に記憶されたフィルタ係数を各々書き換える事により、画面垂直方向にL個の色差データを同時生成する並列処理による負荷や、2次元ローパスフィルタ処理による空間周波数の高い成分を抑制する効果の大小を、当該処理を行うハードウェア構成や撮像画像に応じて柔軟かつ最適な設定を行うことができる。また、縦横L×Mの領域の色差データに対して2次元ローパスフィルタ処理を行う為に保持するフィルタ係数fijは、垂直フィルタ係数ai、及び水平フィルタ係数bjの積ai*bjとして構成されることにより、フィルタ係数記憶手段が記憶するフィルタ係数の個数は高々(L+M)個である為、フィルタ係数の記憶容量の軽減化、並びにフィルタ係数を設定する為のソフトウェアやローパスフィルタ部のハードウェア構成を簡素化する事ができる。
また、前記フィルタ演算手段は、縦横L×M領域の中のj(j=0,1,・・・,M-1)で指定される列のL個の前記色差データCij(i=0,1,・・・,L-1;j=0,1,・・・,M-1)に対して、L個の垂直フィルタ係数ai(i=0,1,・・・,L-1)を各々乗算したai*Cij に対し、iに関する和をとることによりSj(j=0,1,・・・,M-1)を生成する垂直フィルタ演算手段と、前記垂直フィルタ演算手段が生成した、ai*Cijのiに関する和であるSj(j=0,1,・・・,M-1)に対して、M個の水平フィルタ係数bj(j=0,1,・・・,M-1)を各々乗算した後、jに関する和をとる水平フィルタ演算手段とを備えてもよい。
この構成によれば、縦横L×Mの領域の色差データに対して行う2次元ローパスフィルタ処理は、垂直フィルタ演算処理と、水平フィルタ演算処理の2段階に分けて行われる為、垂直方向に同時生成されたL個の色差データを同時にローパスフィルタ処理するのに適している。
また、前記垂直フィルタ演算手段は、前記L個の垂直フィルタ係数ai(i=0,1,・・・,L-1)のi番目の要素を2項係数ai=L−1Ciとすることにより、i*aiのiに関する和をaiのiに関する和で除算した値である、前記垂直フィルタ係数の重心iGが垂直方向のセンター位置iC=(L−1)/2の垂直ローパスフィルタ処理を行い、前記水平フィルタ演算手段は、前記M個の水平フィルタ係数bj(j=0,1,・・・,M-1)のj番目の要素を2項係数bj=M−1Cjとすることにより、j*bjのjに関する和をbjのjに関する和で除算した値である、前記水平フィルタ係数の重心jGが水平方向のセンター位置jC=(M−1)/2の水平ローパスフィルタ処理を行い、前記ローパスフィルタ手段は、
前記垂直フィルタ係数の重心iG、及び前記水平フィルタ係数の重心jGを用いて構成される前記L×M個のフィルタ係数fij=ai*bj(i=0,1,・・・,L-1;j=0,1,・・・,M-1)の重心座標(iG,jG)が、前記縦横L×Mの領域のセンター位置座標(iC,jC)=((L−1)/2,(M−1)/2)に一致する2次元ローパスフィルタ処理を行ってもよい。
この構成によれば、フィルタ係数の重心が垂直方向、及び水平方向で各々センター位置となる2次元ローパスフィルタ処理を行うので、縦横L×Mのサイズのフィルタ対象領域のセンター位置に近い色差データ程寄与が大きくなる為、フィルタ処理の結果、元の撮像画像に忠実な色差信号を生成することができる。
また、前記垂直タップ数Lと、前記水平タップ数Mとは同じ値であり、前記ローパスフィルタ手段は、前記同じ値をタップ数Nとし、2次元タップ数N×Nの2次元ローパスフィルタ処理を行ってもよい。
この構成によれば、タップ数記憶部が保持するタップ数の値は1個で良い為、フィルタ係数の記憶容量の削減、並びにフィルタ係数を設定する為のソフトウェアやハードウェアの構成を簡素化する事が出来る。また垂直タップ数L、及び水平タップ数Mの値が、等しい値Nとなることにより、水平、垂直各方向のローパスフィルタ処理による空間周波数の高い成分を除去する効果を、水平、垂直方向で均等にすることができる。
また、前記ローパスフィルタ手段は、2次元タップ数N×Nのローパスフィルタ処理を行う際に元となる縦横(N+1)×(N+1)の画素領域に含まれる各画素データの位置を指定する座標(k,l)(k,l=−1/2,1/2,3/2,・・・,N−1/2)と、前記各画素データの位置を指定する座標(k,l)で指定される(N+1)×(N+1)個の各画素データに対して乗算された各画素データに対するフィルタ係数Dklとの積に対し、色フィルタの各色毎にk,lに関する和を取ったものを、前記乗算された各係数Dklに対し、色フィルタの各色毎にk,lに関する和を取ったもので除算した結果である色フィルタの各色毎の画素重心座標(kG,lG)が、色フィルタの色が前記他の複数の色セルの色である場合に、前記縦横(N+1)×(N+1)の画素領域のセンター位置座標(iC,jC)=((N−1)/2,(N−1)/2)に一致する2次元ローパスフィルタ処理を行ってもよい。
この構成によれば、ローパスフィルタ処理を行う事により乗算される、縦横N×N個の色差データを生成する際に元となった縦横(N+1)×(N+1)画素の領域に含まれる各画素データに対するフィルタ係数の、色フィルタの各色毎の重心が、色フィルタの色が前記他の複数の色セルの色である場合に前記領域のセンター位置に一致する為、前記他の複数の色セルの色に対応する画素間の位置ずれによる影響が、全体として打ち消される事により、偽色抑圧効果が得られる。
また、前記ローパスフィルタ手段は、前記タップ数Nを5とし、縦横6×6画素の領域内の隣接する6行×2列の画素データに対して、垂直方向に並列に色差データ生成処理を行うことにより同時に生成される5個の色差データに対する垂直ローパスフィルタ処理を、処理対象となる6行×2列の領域を水平方向に1列ずつシフトしながら5回繰り返し、これによって生成される5個の垂直ローパスフィルタ処理されたデータに対して水平ローパスフィルタ処理を行うことにより、垂直方向、水平方向のフィルタ係数が1:4:6:4:1の比を持った2次元タップ数5×5の2次元ローパスフィルタ処理を行ってもよい。
この構成によれば、並列処理により同時に生成する色差データの個数、及びローパスフィルタ行う際の領域の大きさが適当であるので、並列処理による負荷を余り大きくせずに、空間周波数の高い成分を抑制し、偽色の発生を抑える事が出来る。
また、前記ローパスフィルタ手段は、前記タップ数Nを3とし、縦横4×4画素の領域内の隣接する4行×2列の画素データに対して、垂直方向に並列に色差データ生成処理を行うことにより同時に生成される3個の色差データに対する垂直ローパスフィルタ処理を、処理対象となる4行×2列の領域を水平方向に1列ずつシフトしながら3回繰り返し、これによって生成される3個の垂直ローパスフィルタ処理されたデータに対して水平ローパスフィルタ処理を行うことにより、垂直方向、水平方向のフィルタ係数が1:2:1の比を持った2次元タップ数3×3の2次元ローパスフィルタ処理を行ってもよい。
この構成によれば、並列処理により同時に生成する色差データの個数、及びローパスフィルタ行う際の領域のサイズが小さい為、画面垂直方向に行う並列処理の負荷が軽減される。
また、前記ローパスフィルタ手段は、前記タップ数Nを7とし、縦横8×8画素の領域内の隣接する8行×2列の画素データに対して、垂直方向に並列に色差データ生成処理を行うことにより同時に生成される7個の色差データに対する垂直ローパスフィルタ処理を、処理対象となる8行×2列の領域を水平方向に1列ずつシフトしながら7回繰り返し、これによって生成される7個の垂直ローパスフィルタ処理されたデータに対して水平ローパスフィルタ処理を行うことにより、垂直方向、水平方向のフィルタ係数が1:6:15:20:15:6:1の比を持った2次元タップ数7×7の2次元ローパスフィルタ処理を行ってもよい。
この構成によれば、並列処理により同時に生成する色差データの個数、及びローパスフィルタ行う際の領域のサイズが大きい為、並列処理による負荷は大きいが、2次元ローパスフィルタによる空間周波数の高い成分を除去し、標本化定理で定まる限界周波数(ナイキスト周波数)以下に収まるように周波数帯域を制限して折り返し歪(エイリアス)の発生を防止する能力が向上する。
本発明の色分離処理方法は、撮像素子に入射する光を画素単位に1の色と、それと異なる複数の他の色とに色分解する色セルの配列を有し、前記色セルの配列は前記複数の他の色の色セルの各配置位置に対して水平方向、及び垂直方向に前記1の色の色セルがそれぞれ隣接して配置されてなる色セルの配列を最小単位とする色フィルタを備えた撮像素子から撮像データを得、この撮像データを色分離処理する色分離処理方法であって、前記撮像データを構成する各画素データを、色フィルタの色セルの色に対応づけて分離する色分離ステップと、前記分離された画素データの内、前記他の色に対応する画素データから、その水平、垂直方向に隣接する前記1の色に対応する画素データを各々減算し、色セルの配列の最小単位毎に複数の色差データを生成する色差データ生成ステップと、得られた複数の色差データの中から絶対値最小のものを、色セルの配列の最小単位毎に選択する選択実行ステップと、選択された色差データに対し、ローパスフィルタ処理を行うローパスフィルタステップとを含む。
この構成によれば、ベイヤー配列の最小単位毎に生成された垂直方向、及び水平方向の各色差データの中から絶対値最小、つまり色同士の相関が高いものを選択し、当該選択された複数の色差データに対してローパスフィルタ処理を行う事により、複数の色差データ間で平均化され空間周波数の高い成分が除去される前の色差データに対して色同士の相関を判定する為、撮像画像に斜め線、図形の角(エッジ成分)がある場合にも偽色の発生を大幅に軽減することができる。
本発明のプログラムは、撮像素子に入射する光を画素単位に1の色と、それと異なる複数の他の色とに色分解する色セルの配列を有し、前記色セルの配列は前記複数の他の色の色セルの各配置位置に対して水平方向、及び垂直方向に前記1の色の色セルがそれぞれ隣接して配置されてなる色セルの配列を最小単位とする色フィルタを備えた撮像素子から撮像データを得、この撮像データを色分離処理するためのコンピュータ実行可能なプログラムであって、前記撮像データを構成する各画素データを、色フィルタの色セルの色に対応づけて分離する色分離ステップと、前記分離された画素データの内、前記他の色に対応する画素データから、その水平、垂直方向に隣接する前記1の色に対応する画素データを各々減算し、色セルの配列の最小単位毎に複数の色差データを生成する色差データ生成ステップと、得られた複数の色差データの中から絶対値最小のものを、色セルの配列の最小単位毎に選択する選択実行ステップと、選択された色差データに対し、ローパスフィルタ処理を行うローパスフィルタステップとをコンピュータに実行させる。
この構成によれば、ベイヤー配列の最小単位毎に生成された垂直方向、及び水平方向の各色差データの中から絶対値最小、つまり色同士の相関が高いものを選択し、当該選択された複数の色差データに対してローパスフィルタ処理を行う事により、複数の色差データ間で平均化され空間周波数の高い成分が除去される前の色差データに対して色同士の相関を判定する為、撮像画像に斜め線、図形の角(エッジ成分)がある場合にも偽色の発生を大幅に軽減することができる。
本発明のデジタルカメラは、撮像素子に入射する光を光電変換することにより得られた撮像データを信号処理し、撮影された被写体の画像を表す情報を生成し記録するデジタルカメラであって、請求項1乃至請求項12のいずれか1つに記載の色分離処理回路を備える。
この構成によれば、ベイヤー配列の最小単位毎に生成された垂直方向、及び水平方向の各色差データの中から絶対値最小、つまり色同士の相関が高いものを選択し、当該選択された複数の色差データに対してローパスフィルタ処理を行う事により、複数の色差データ間で平均化され空間周波数の高い成分が除去される前の色差データに対して色同士の相関を判定する為、撮像画像に斜め線、図形の角(エッジ成分)がある場合にも偽色の発生を大幅に軽減することができるデジタルカメラが得られる。
本発明のデジタルカメラは、撮像素子に入射する光を光電変換することにより得られた撮像データを信号処理し、撮影された被写体の画像を表す情報を生成し記録するデジタルカメラであって、請求項13に記載の色分離処理方法を行う。
この構成によれば、ベイヤー配列の最小単位毎に生成された垂直方向、及び水平方向の各色差データの中から絶対値最小、つまり色同士の相関が高いものを選択し、当該選択された複数の色差データに対してローパスフィルタ処理を行う事により、複数の色差データ間で平均化され空間周波数の高い成分が除去される前の色差データに対して色同士の相関を判定する為、撮像画像に斜め線、図形の角(エッジ成分)がある場合にも偽色の発生を大幅に軽減することができるデジタルカメラが得られる。
本発明のデジタルカメラは、撮像素子に入射する光を光電変換することにより得られた撮像データを信号処理し、撮影された被写体の画像を表す情報を生成し記録するデジタルカメラであって、請求項14に記載のプログラムを記憶する記憶手段を備え、前記記憶手段により記憶された前記プログラムを実行することにより色分離処理を行う。
この構成によれば、ベイヤー配列の最小単位毎に生成された垂直方向、及び水平方向の各色差データの中から絶対値最小、つまり色同士の相関が高いものを選択し、当該選択された複数の色差データに対してローパスフィルタ処理を行う事により、複数の色差データ間で平均化され空間周波数の高い成分が除去される前の色差データに対して色同士の相関を判定する為、撮像画像に斜め線、図形の角(エッジ成分)がある場合にも偽色の発生を大幅に軽減することができるデジタルカメラが得られる。
(実施の形態1)以下、本実施の形態について、図面を参照しながら説明する。
(全体構成)
本実施の形態のデジタルカメラは、図1において、色フィルタ1、撮像素子2、CDS/AGC回路3、A/Dコンバータ4、バッファメモリ5、タイミングジェネレータ6、制御部7、及び色分離処理部10を含んで構成され、図中の色分離処理部10が、本実施の形態の色分離処理回路に相当する。
色フィルタには、図2(a)に示すR、G、Bの3色で構成される原色フィルタと、図2(b)に示すYe、Cy、Mg、Grの4色で構成される補色フィルタの2種類があるが、本実施の形態では、色フィルタ1としてセル配列の最小単位が図3に示す2×2のRGBベイヤー配列である原色フィルタを用いる。
撮像素子2の前面には、上記RGBベイヤー配列のセルを持つ色フィルタ1が配置され、図示しないレンズを通り、色フィルタ1を透過して撮像素子2に入射した光は、受光面に配置された受光素子(不図示)によって光電変換され、タイミングジェネレータ6が生成し撮像素子2を制御する垂直駆動、及び水平駆動信号により、連続的なアナログ輝度信号として出力される。CDS/AGC回路3は、撮像素子2から出力された前記アナログ輝度信号のノイズを除去すると共に、信号が所定のレベルになるよう可変利得増幅器(不図示)のゲインをコントロールする。
A/Dコンバータ4は、撮像素子2から出力されたアナログ輝度信号をデジタル信号に変換する。バッファメモリ5は、A/Dコンバータ4によりデジタル信号に変換された画素データを記憶すると共に、受け取ったデータを色分離処理部10に出力する。
色分離処理部10は、撮像素子2から出力されたアナログ輝度信号をデジタル変換した画素データを受け取り、色分離、色差データ生成、2次元ローパスフィルタ、及び色差マトリクスの各種デジタル信号処理を行い、その結果を色差信号R−Y、B−Yとして出力する。
タイミングジェネレータ5は、撮像素子2の垂直駆動、水平駆動を行う駆動パルスを発生する。制御部6は、具体的には、CPU(Central Processing Unit)、当該CPUが実行する各種の制御プログラムを記憶しているROM(Read Only Memory)、及び当該CPUがプログラムを実行する際の作業領域であるRAM(Random Access Memory)からなるコンピュータであり、本実施の形態の色分離処理回路に対して画素クロックを供給すると共に、本実施の形態のデジタルカメラ全体を制御する。
本実施の形態では、上記のように、先に色差データを生成してベイヤー配列の2×2の単位配列毎に色差データの相関を判定した後に、ローパスフィルタ処理(以下、フィルタ処理という)を行う。一般にフィルタ処理では、まとまった領域(フィルタ原画素領域)の複数個のデータに対して個別にフィルタ係数を掛けてから、それらを加えるという演算を行うが、背景技術の項で述べたように、先にフィルタ処理を行ってから色差データを生成する従来の方式では、1回分のフィルタ処理を行う画素データは、バッファメモリ内に予め格納されている為に、必要なデータを順次読み出して来るだけでよい。
これに対して本実施例のように、先に色差データを生成してからフィルタ処理を行う方式では、フィルタ処理を行う色差データは、画素データを各処理部が処理を行っていく過程で順次生成される為、ベイヤー配列の2×2の単位配列毎に生成される複数の色差データに対して同時にフィルタ処理を行う為には、生成される色差データを一時的に記憶領域に保持するか、又はそれらの色差データを1回分のフィルタ処理に必要なだけ同時に生成して処理する方法のいずれかを選択しなければならない。前者の場合には、所定量の色差データを一旦蓄積してからフィルタ処理を行う為、処理時間の増加やタイミングの遅れ等が問題となるが、後者の場合には、複数の色差データを同時に生成する事が出来れば、前者のような処理時間の増加やタイミングの遅れは最小限に抑えられる。
なお本明細書では、複数の色差データの「並列処理」や、色差データを「同時に」生成するという事を、制御部6が供給する画素クロック(撮像素子の1画素の輝度信号が出力されてから、隣の画素の輝度信号が出力される迄の時間)の範囲内で、複数の色差データを処理、もしくは生成するという意味で用いる。
(色分離処理部10の詳細)
色分離処理部10は、色分離部11、色補間部12、色差データ生成部13、選択実行部14、ローパスフィルタ部15、色差マトリクス部16、及び並列処理制御部17で構成され、色分離処理、色差データ生成処理、2次元ローパスフィルタ処理、及び色差マトリクス処理の各種デジタル信号処理を行う。
ここで、色分離処理部10は、具体的には、DSP(Digital Signal Processor)、当該DSPが実行する各種の制御プログラムを記憶しているROM(Read Only Memory)、及び当該DSPがプログラムを実行する際の作業領域であるRAM(Random Access Memory)からなり、当該各部の機能は、当該DSPが当該プログラムを実行することによって実現される。
並列処理制御部17は、処理開始時には、ローパスフィルタ部15に含まれる後述のタップ数記憶部に保持されているタップ数Nを取得して、上記に述べた理由により、各処理部がベイヤー配列の2×2の単位配列毎に生成される色差データN個分に関する並列処理を行う為の初期設定を行うと共に、並列処理実行時の動作が円滑に行われるように必要な制御を行う。並列処理制御部17の制御により、色分離部11、色補間部12、色差データ生成部13、選択実行部14が上記の並列動作を行う事により、ローパスフィルタ部15にはN個の色差データであるRi−Gi、及びBi−Gi(i=0、1、2、・・・、N−1)が、画素クロック毎に同時に供給される。
色分離処理部10に入力された画素データは、まず色分離部11に送られ、画面内での位置に基づいてRGBベイヤー配列の各色(R、B、G1、G2)と対応付ける色分離処理が行われる。
(色分離部11の詳細)
撮像素子2から1画素ごとに読み出され、A/Dコンバータ4によってデジタル変換された画素データは、バッファメモリ5により所定の画素数分の画素データが蓄積された後、画面上での位置に対応したRGBベイヤー配列の各色(R、B、G1、G2)と対応付ける色分離処理が行われる。
図4は、バッファメモリから読み出した画素データを基に、色分離部11による色分離処理、及び色補間部による色混合処理が行われる様子を示している。同図においてバッファメモリに格納された画素データ40は、本実施の形態の色分離処理の処理単位であるベイヤー配列の2×2の単位配列の画素データが、水平方向に並んでいる様子を表わしている。色分離処理の1回分の処理対象となるベイヤー配列の2×2の単位配列は、制御部7から供給される画素クロック毎に1画素ずつ右にシフトして行く。右端に到達した場合は、1行(1画素分)下がると共に、左端に戻る。
スイッチ回路41は、ベイヤー配列の2×2の単位配列の4画素を、画素クロックで1画素ずつ水平方向にシフトした際に、4画素中上方2画素のうち、常にR画素を選択し、同様にスイッチ回路42は、4画素中下方2画素のうち、常にB画素を選択し、同様にスイッチ回路43は、4画素中上方2画素のうち、常にG1画素を選択し、同様にスイッチ回路44は、4画素中下方2画素のうち、常にG2画素を選択する。
処理対象となるベイヤー配列の2×2の単位配列の4画素は、画素クロックが加えられ処理対象となる4画素が水平方向にシフトしていく度に、4画素内での色配置が変化する為、前記スイッチ回路41乃至44で切り替えることにより、各スイッチ回路から常に同一色の画素データが出力されるようにする。色分離部11により色分離処理された画素データの内、G1とG2に対応付けられた画素データからは、色補間部45により、Gの斜め方向成分G3が生成される。
(色補間部12の詳細)
図4において、色補間部45は加算器46、及び倍率器47で構成される。同図において加算器46は、G1、及びG2の画素データを加算し、G1+G2を生成する。倍率器47は、前記加算器46で加算されたG1+G2に対して、係数1/2を乗算する事により、G1、G2に対応する画素の中点を補間した値(G1+G2)/2を生成し、これを新たな画素データG3として出力する。
RGBベイヤー配列の2×2の単位配列に属する画素データから生成されたR、B、G1、G2、G3各色の画素データは、次の色差データ生成部に送られ、6つの色差データR―G1、R−G2、R−G3、B−G1、B−G2、B−G3が生成される。
(色差データ生成部13の詳細)
図5において、色差データ生成部は、加算器(引算器)50乃至55により構成される。同図において、加算器(引算器)50乃至55が、前記色分離部、及び色補間部から出力される画素データを引算する事により、6個の色差データR−G1、R−G2、R−G3、B−G1、B−G2、B−G3が生成される。
前記色差データ生成部が生成した2組の色差データ(R―G1、R−G2、R−G3)、及び(B−G1、B−G2、B−G3)は、次の選択実行部において絶対値が最小のものがそれぞれ選択され、色差データR−G、及びB−Gとして出力される。
(選択実行部14の詳細)
図5において、選択実行部は、絶対値生成回路56乃至61、最小値選択回路62、63、及び選択回路64、65により構成される。同図において、絶対値生成回路56乃至61は、色差データ生成部が生成した6個の色差データR−G1、R−G2、R−G3、B−G1、B−G2、B−G3の絶対値を各々生成する。最小値選択回路62、63は、色差データの組(R−G1、R−G2、R−G3)、及び(B−G1、B−G2、B−G3)に対し、絶対値生成回路56乃至61が生成した各色差データの絶対値の大小を比較する事により、絶対値が最小となるものをそれぞれ選択し、当該選択された色差データの情報を選択回路64、及び65に通知する。選択回路64、及び65は、(R−G1、R−G2、R−G3)、及び(B−G1、B−G2、B−G3)の各組から、最小値選択回路62、及び63により通知された信号をそれぞれ選択し、当該選択した信号を色差データR−G、及びB−Gとして出力する。
上記のように(R−G1、R−G2、R−G3)の組と、(B−G1、B−G2、B−G3)の組とで絶対値が最小のものを各々選択する事により、選択実行部14は色差データを生成した画素データの組み合わせのうち、色同士の相関が最も高いものを選択する。選択実行部14により色同士の相関が高いと判定され、選択された色差データR−G、及びB−Gはローパスフィルタ部15に送られるが、ローパスフィルタ部15がローパスフィルタ処理を行って空間周波数の高域成分が除去される前の色差データに対し相関を判定する事により、偽色の発生を大幅に抑制する効果が得られる。
前記選択実行部14がベイヤー配列の2×2の単位配列毎に選択した色差データであるR−G、及びB−Gに対し、次のローパスフィルタ部15が2次元ローパスフィルター処理を行う。
(ローパスフィルタ部15の詳細)
図6は、ローパスフィルタ部15の構成を示す図である。同図において、ローパスフィルタ部70は、タップ数記憶部71、フィルタ係数記憶部72、フィルタ係数取得部73、フィルタ演算部74を含んで構成される。
タップ数記憶部71は、ローパスフィルタ部70が色差データに対して垂直方向、及び水平方向のローパスフィルタ処理を行う際に、1回のフィルタ演算処理を行う際に使用する色差データの個数であるタップ数を記憶している。
フィルタ係数記憶部72は、垂直、及び水平の各方向のローパスフィルタ処理を行う為の異なる複数個のフィルタ係数を記憶し、フィルタ係数取得部73は、タップ数記憶部71が保持するタップ数Nの値に基づき、前記タップ数Nに対応付けて記憶されたN個のフィルタ係数を取得する。
フィルタ演算を行うフィルタ演算部74は、前記フィルタ係数取得部72が取得したN個のフィルタ係数を用いて、各々垂直方向、及び水平方向に2次元タップ数N×Nの2次元ローパスフィルタ処理を行い、垂直方向、及び水平方向にローパスフィルタ処理を行う垂直フィルタ演算部77、及び水平フィルタ演算部78を含んで構成される。
垂直フィルタ演算部77、及び水平フィルタ演算部78は、それぞれ前記フィルタ係数取得部73が取得したN個のフィルタ係数を用いて、各々垂直方向、及び水平方向の1次元ローパスフィルタ処理を行うが、これらの処理を続けて行う事により等価的に、N×Nの2次元領域の色差データに対する2次元ローパスフィルタ処理を行う。これにより、色差データから空間周波数の高い成分を除去し、空間周波数が標本化定理で定まる限界周波数(ナイキスト周波数)以下に収まるように周波数帯域を制限して折り返し歪(エイリアス)の発生を防止する。
上記フィルタ処理を経て得られた色差データR−G、B−Gは、色差マトリクス部76に出力される。
(フィルタ係数設定処理)
図7は、ローパスフィルタ部15が行う、フィルタ係数設定処理の流れを示すフローチャートである。ローパスフィルタ部15は、まずタップ数記憶部71が保持するタップ数の値Nを取得する(S80)。次にローパスフィルタ部15は、フィルタ係数記憶部72に保持されているフィルタ係数を検索し、前記取得されたタップ数の値Nに対応付けられたフィルタ係数ai、及びbj(i,j=0,1,・・・,N−1)を取得する(S81)。最後にローパスフィルタ部15は、並列処理制御部75に対して、前記取得されたタップ数Nの値を通知する(S82)。以上の処理により、ローパスフィルタ部15におけるフィルタ係数の設定処理が完了する。
(並列処理制御部17による初期化処理)
図8は、並列処理制御部17が、並列処理開始時に色分離部11、色補間部12、色差データ生成部13、及び選択実行部14に対して初期設定を行う際の処理の流れを示すフローチャートである。並列処理開始時において並列処理制御部17は、まずローパスフィルタ部15に含まれるタップ数記憶部71が保持するタップ数Nの値を取得する(S90)。次に並列処理制御部17は、上記の各処理部に対して、画面垂直方向に色差データN個分の並列処理を行うよう初期設定を行う(S91)。最後に並列処理制御部17は、色分離部11、色補間部12、色差データ生成部13、及び選択実行部14に対して、上記の設定に基づいて並列処理を開始するように指示する(S92)。以上の処理により、並列処理を行う各処理部に対する初期設定が行われ、色差データN個分の並列処理が開始される。
(ローパスフィルタ処理の概要)
図9は、垂直フィルタ演算部77、及び水平フィルタ演算部78が行うローパスフィルタ処理の概要を示す図である。
なお、本実施の形態のタップ数はN=5であり、フィルタ係数は ai=bi={1、4、6、4、1}(i=0,1,・・・,4)である。この場合、i番目のフィルタ係数は、ai、bi共に2項係数 N−1Ci で与えられ、左上を原点(0、0)として、座標(i、j)で指定される2次元等価LPF係数は、図9の下部において示すように、ai*bj=N−1Ci × N−1Cj で与えられる(i、j=0,1,・・・,4)。
同図において、1回分のフィルタ処理の対象領域である縦横6×6のフィルタ原画素領域の画素データが、バッファメモリ100に保持されている。
上述の図4に示した色分離部、及び色補間部、並びに図5に示した色差データ生成部、及び選択実行部を、ここではフィルタ前処理部101乃至105として模式的に表わしている。バッファメモリ100に保持された画素データからは、前記領域内に取られるベイヤー配列の2×2の単位配列毎に、1組の色差データ(R−G、B−G)が生成される。
ここで、背景技術の項で述べたのと同様、1回のフィルタ処理を行って1画素分の色差データR−G、B−Gを生成する為にバッファメモリから画素データを取り出す領域を、フィルタ原画素領域という。1回のフィルタ処理により生成される色差データは、前記フィルタ原画素領域のセンター位置における色差データである。ローパスフィルタのタップ数をNとすると、フィルタ原画素領域は本実施形態の場合、画面上縦横(N+1)×(N+1)のサイズの画素領域である。
従って縦横6×6のサイズのフィルタ原画素領域からは、縦横5×5組の色差データが1回分のフィルタ処理の為に生成される。ここで、行と行の間を整数i、列と列の間を整数jで指定すると、上記領域内に取られる5×5個の各ベイヤー配列の2×2の単位配列は、左上端を原点(0、0)として、(i、j)の組で指定される(i、j=0、1、2、3、4)。従って、各ベイヤー配列の2×2の単位配列から生成される1組の色差データ(R−G、B−G)は、2個の添字i、jを用いて(Rij−Gij、Bij−Gij)のように指定する事ができる。
本実施例では、垂直方向の色差データに対しては並列処理を行って同時に生成する為、添字jが同じ色差データは同時に生成される。一方、添字jが異なるものについては、画素クロックによりベイヤー配列の2×2の単位配列が1画素ずつ右にシフトする度にjを0から1ずつ加算して行くにつれて、添字jに対応する色差データ(Rij−Gij、Bij−Gij)(i=0、1、2、3、4)が順次生成される。
画素クロックに従ってjが0から4迄カウントされる事により、6×6の画素データから順次生成された色差データ(Rij−Gij、Bij−Gij)(i=0、1、2、3、4)は、j=0のもの((Ri0−Gi0)、及び(Bi0−Gi0))から順番にローパスフィルタ部に送られ、垂直フィルタ演算部106により垂直方向のローパスフィルタ処理が行われ、さらに水平フィルタ演算部109により水平方向のローパスフィルタ処理が行われる。これら2方向のローパスフィルタ処理を続けて行う事により、結果として2次元ローパスフィルタ処理が行われる。
(垂直フィルタ演算部106)
垂直フィルタ演算部106は、画素クロック毎に生成されるj列目の、2×N個の色差データ(Rkj−Gkj、Bkj−Gkj)(k=0、1、2、3、4)を1クロック毎に読み込み、その第i番目の成分(Rij−Gij、Bij−Gij)に対し、垂直フィルタ係数107のaiを乗算したものを、加算器108でi=0から4まで各々加算し、結果を水平フィルタ演算部109に出力する。
(水平フィルタ演算部109)
水平フィルタ演算部109は、垂直フィルタ演算部106の加算器108が加算した結果を、1クロック毎に取得する。前記取得された値であり、画素クロックに従ってj番目(j=0、1、2、3、4)に取得された値に対して、水平フィルタ係数110のbjを乗算したものを、加算器111でj=0から4まで各々加算し、色差データとして出力する。
(2次元等価フィルタ係数)
図9の下部に示す2次元等価LPF係数112は、前記垂直フィルタ演算部106と水平フィルタ演算部109が各々行うローパスフィルタ処理を続けて行った場合の、等価的な2次元フィルタ係数を表し、縦横6×6の領域にある各画素データから生成される縦横5×5の各色差データ(Rij−Gij、Bij−Gij)(i、j=0、1、2、3、4)に対して、総合的に乗算される係数である。
(2次元フィルタ処理)
図10は、ローパスフィルタ部15が行う、2次元フィルタ処理の流れを示すフローチャートである。ローパスフィルタ部15は、まずタップ数N=5を取得する(S120)。次に、色差データを規格化する定数Vとして、垂直フィルタ係数ai、及び水平フィルタ係数bj(i、j=0、1、2、・・・、N−1)の積 ai*bj の最大値をセットする(S121)。次に、列を指定する変数jに0をセットすると共に、UR-G に0をセット(S122)し、画素クロックに従って、j列目のN個の色差データ(Rkj−Gkj )(k=0、1、2、・・・、N−1)を取得する(S123)。次に、行を指定する変数iに0をセットすると共に、SR-G に0をセットする(S124)。次に、画素クロックに従って取得された、j列目のN個の色差データ(Rkj−Gkj)(k=0、1、2、3、4)のうちの、第i番目の成分(Rij−Gij)に対し、垂直フィルタ係数aiを乗算したものを、SR-G に加え(S125)た後、iに1を加算する(S126)。iがN以上(S127:Yes)であれば、ステップS128に進み、そうでなければ(S127:No)、ステップS123に戻る。次に、SR-Gに対し、水平フィルタ係数bjを乗算したものを、UR-G に加え(S128)た後、jに1を加算する(S129)。jがN以上(S130:Yes)であれば、ステップS131に進み、そうでなければ(S130:No)、ステップS123に戻る。最後に UR-Gを前記規格化定数Vで除算した UR-G/V を、縦横6×6画素の領域のセンター位置の色差データR−Gとして出力する(S131)。以上の処理により、ローパスフィルタ部15における2次元フィルタ処理が完了する。なお、もう一方の色差データB−Gについても、上記と同様に行う事により、センター位置の色差データR−Gが出力される。
(フィルタ係数を2項係数とした場合の画質の向上)
本実施の形態の場合のように、フィルタ係数が2項係数ai=bi=N−1Ci(i=0,1,・・・,N−1;Nはタップ数)で与えられる場合には、各色差データに対して乗算されるフィルタ係数の重心は、i*aiのiに関する和をaiのiに関する和で除算した値である、前記垂直フィルタ係数の重心iGが垂直方向のセンター位置iC=(N−1)/2であり、またj*bjのjに関する和をbjのjに関する和で除算した値である、前記水平フィルタ係数の重心jGが水平方向のセンター位置jC=(N−1)/2であるという性質がある。この為、フィルタ係数の重心が垂直方向、及び水平方向で各々センター位置となるローパスフィルタ処理を行うので、縦横N×Nのサイズのフィルタ対象領域のセンター位置(iC,jC)に近い色差データ程、寄与が大きくなる為、空間周波数の高域成分を抑えつつ、元の撮像画像に忠実な画像が再現できる。
(フィルタ係数を2項係数とした場合の偽色抑圧効果)
また前項と同様、本実施の形態の場合のように、フィルタ係数が2項係数ai=bi=N−1Ci(i=0,1,・・・,N−1;Nはタップ数)で与えられる場合には、以下のような特長がある。
N×N個の色差データRij−Gij、もしくはBij−Gij(i,j=0,1,・・・,N-1)を生成する元になった、(N+1)×(N+1)のフィルタ原画素領域の画素データについて考えると、前記フィルタ原画素領域に含まれる各画素データの位置を指定する座標(k,l)(k,l=−1/2,1/2,3/2,・・・,N−1/2)と、前記各画素データの位置を指定する座標(k,l)で指定される(N+1)×(N+1)個の各画素データに対してフィルタ処理を行う事によって乗算されるフィルタ係数Dklとの積に対し、色フィルタの各色(R、G1、G2、B)毎にk,lに関する和を取ったものを、前記乗算された各係数Dklに対し、色フィルタの各色(R、G1、G2、B)毎にk,lに関する和を取ったもので除算した結果である色フィルタの各色(R、G1、G2、B)毎の画素重心座標(kG,lG)が、色フィルタの色が前記他の複数の色セルの色(R、B)である場合に、前記縦横N×N領域のセンター位置座標(iC,jC)=((N−1)/2,(N−1)/2)に一致する。即ち、前記他の複数の色セルの色(R、B)に対応する画素間の位置ずれが、フィルタ処理により総体的に平均化され吸収される事により、ローパスフィルタ部から出力される色差データR−G、B−Gには、R、Bの各色について、画素間の位置ずれによる影響が、全体として打ち消される。
図11は、フィルタ処理によりフィルタ原画素領域(N=5)の各R画素に対してそれぞれ乗算される係数を示す図であり、また図12は、フィルタ処理によりフィルタ原画素領域(N=5)の各B画素に対してそれぞれ乗算される係数を示す図である。
両図において式で示すように、R、Bの各場合について、k*Dklについてk,lに関する和を取ったものを、Dklについてk,lに関する和を取ったもので除算した結果である画素重心kGは、フィルタ原画素領域(N=5)のセンター位置iC=(N−1)/2に一致し、また、l*Dklについてk,lに関する和を取ったものを、Dklについてk,lに関する和を取ったもので除算した結果である画素重心lGは、フィルタ原画素領域(N=5)のセンター位置jC=(N−1)/2に一致する。
従って、本実施形態のようにフィルタ係数を2項係数とした場合には、フィルタ処理においても偽色抑圧効果が得られる事により、全体的な画質が更に向上する。なお、G1、G2については、選択実行手段により色同士の相関を判定する際に、各ベイヤー配列の単位配列において、どちらを含んだ色差データが選択されるかは予め確定していない。この為、G1画素、及びG2画素の場合には、上記のR画素、B画素の場合のような特長は成立しない。
(色差マトリクス部16)
前記ローパスフィルタ部15により2次元ローパスフィルタ処理された画素データR−G、及びB−Gは、色差マトリクス部16において色差マトリクス処理が行われ、下記の変換式(5)、(6)により最終的に色信号から輝度信号を分離した形の色差信号R−Y、B−Yが出力される。
R−Y = 0.7(R−G)−0.11(B−G) ・・・(5)
B−Y = −0.3(R−G)+0.89(B−G) ・・・(6)
(色差信号の計算式)
本実施の形態の色分離処理回路で生成される色差データR−G、B−Gは、入力画像を具体的に与える事によって、数式を用いて計算する事ができる。背景技術の項で説明したのと同様に、バッファメモリ内の任意のフィルタ原画素領域における16個の画素を、図17の様にRa、Bb、G1c等、a、b、c、dの添字をつけて指定する。この方法によると、本実施の形態の色分離処理回路が生成するフィルタ原画素領域のセンター位置の色差信号は、フィルタ原画素領域内の各画素の輝度Ri、Bi、G1i、G2i(i=a、b、c、d)を用いて、次のような式で表わされる。
R−G =
absmin(Ra−G1a、Ra−G2a、Ra−(G1a+G2a)/2)+2×absmin(Rb−G1b、Rb−G2a、Ra−(G1b+G2a)/2)+absmin(Rb−G1b、Rb−G2b、Ra−(G1b+G2b)/2)+2×absmin(Ra−G1d、Ra−G2a、Ra−(G1d+G2a)/2)+4×absmin(Rb−G1c、Rb−G2a、Rb−(G1c+G2a)/2)+2×absmin(Rb−G1c、Rb−G2b、Rb−(G1c+G2b)/2)+absmin(Rd−G1d、Rd−G2d、Rd−(G1d+G2d)/2)+2×absmin(Rc−G1c、Rc−G2d、Rc−(G1c+G2d)/2)+absmin(Rc−G1c、Rc−G2c、Rc−(G1c+G2c)/2) ・・・(7)
B−G =
absmin(Ba−G1a、Ba−G2a、Ba−(G1a+G2a)/2)+2×absmin(Ba−G1b、Ba−G2a、Ba−(G1b+G2a)/2)+absmin(Bb−G1b、Bb−G2b、Bb−(G1b+G2b)/2)+2×absmin(Bd−G1d、Bd−G2a、Bd−(G1d+G2a)/2)+4×absmin(Bd−G1c、Bd−G2a、Bd−(G1c+G2a)/2)+2×absmin(Bc−G1c、Bc−G2b、Bc−(G1c+G2b)/2)+absmin(Bd−G1d、Bd−G2d、Bd−(G1d+G2d)/2)+2×absmin(Bd−G1c、Bd−G2d、Bd−(G1c+G2d)/2)+absmin(Bc−G1c、Bc−G2c、Bc−(G1c+G2c)/2) ・・・(8)
上式のabsmin()関数は、背景技術の項で説明したものと同様、引数として与えられた数値の絶対値を比較し、それが最小となるものを返す関数である。
撮像素子に対して任意の画像を入力した場合に、本実施の形態の色分離処理回路で生成される色差データは、上式を用いて計算する事ができる。
一方、本実施の形態の色分離処理回路で生成される色差データR−G、B−Gに含まれる偽色の度合いは、背景技術の項で述べた偽色レベルの定義を用いる。
(偽色レベルの計算)
上記の色差信号を計算する式(7)、及び式(8)に対し、入力した画像データに応じてRa、Rb、Rc、Rd、Ba、Bb、Bc、Bd、G1a、G1b、G1c、G1d、G2a、G2b、G2c、G2dの16画素の輝度(Rに対しては0からr迄、Bに対しては0からb迄、G1、及びG2に対しては、0からg迄)を具体的に代入する事により、フィルタ原画素領域のセンター位置の色差信号の値が計算される。
図18、及び図19は、それぞれ縦線、及び横線の白黒2値画像を撮像した場合の偽色の程度を示す図であり、元の画像を(a)撮像画像に、またバッファメモリ内のデータの様子を(b)バッファメモリに示す。このような画像について、色分離処理を行った結果出力される色差信号(R−G)、(B−G)に対し、偽色レベル(FR−G、FB−G)を式(7)乃至式(8)、及び式(3)乃至式(4)を用いて計算した結果を同図の(c)偽色レベルの比較において、「新方式」の欄に示している。
このように、4×4の16画素の領域を縦線や横線が横切る場合には、偽色レベル(FR−G、FB−G)はいずれも0となり、偽色が発生しない。この場合本実施の形態の色分離処理回路は、従来の色分離処理回路に比べて、少なくとも同等以上の性能を有する。
図20、図21、及び図22は、それぞれ斜め線、右下エッジ成分、及び右上エッジ成分の白黒2値画像を撮像した場合の偽色の程度を示す図であり、元の画像を(a)撮像画像に、またバッファメモリ内のデータの様子を(b)バッファメモリに示す。このような画像について色分離処理を行った結果出力される色差信号(R−G)、(B−G)について、偽色レベル(FR−G、FB−G)を式(7)乃至式(8)、及び式(3)乃至式(4)を用いて計算した結果を同図の(c)偽色レベルの比較において、「新方式」の欄に示している。
このように、16画素のフィルタ原画素領域内を斜め線が横切ったり、領域内に図形の角(エッジ成分)が存在している場合には、従来の色分離処理回路では偽色レベル(FR−G、FB−G)がいずれも0とならなかったが、一方、本実施の形態の色分離処理回路の場合には、偽色レベル(FR−G、FB−G)がいずれも0となる(斜め線、右下エッジ成分の場合)か、又は0とならない場合でも、従来の色分離処理回路の偽色レベルよりは小さい値となっている(右上エッジ成分の場合)。右上エッジ成分の場合は、本実施の形態の色分離処理回路においても偽色レベル(FR−G、FB−G)が0とならないが、(FR−G、FB−G)を2次元ベクトルとして考えた場合の大きさ(FR−G2+FB−G2の平方根)は、「従来方式」の場合が(40)1/2≒6.32455であり、一方「新方式」の場合は4である。両者の比を取ると「新方式」/「従来方式」≒0.6325となり、この場合、約37%の偽色抑圧効果が得られている。
従って本実施の形態の色分離処理回路は、従来の色分離処理回路に比べて、偽色を抑制する効果が高い。
(実施の形態2)
図13は、本実施の形態のデジタルカメラにおける色分離処理回路のローパスフィルタ処理の概要を示す図である。
実施の形態1では、タップ数N=5であり、フィルタ係数はN=5とした場合の2項係数 ai=bj={1、4、6、4、1}(i,j=0,1,2,3,4)であったが、本実施形態のタップ数は、N=3であり、フィルタ係数はN=3とした場合の2項係数 ai=bj={1、2、1}(i,j=0,1,2)である。本実施の形態はタップ数Nの値と、フィルタ係数ai、bjの各値が実施の形態1と異なるのみであり、これ以外の構成は実施の形態1と全く同じである。
この場合、左上を原点(0、0)として、座標(i、j)で指定される2次元フィルタ係数は、ai*bj=2Ci × 2Cj (i,j=0,1,2)で与えられる為、実施の形態1で述べたのと同様な画質向上効果が期待できる。
タップ数Nの値が実施の形態1よりも小さい為、垂直方向に色差データを同時生成する並列処理の負荷は軽減されるが、その一方、2次元ローパスフィルタ処理を行う際のフィルタ原画素領域のサイズが小さくなる事から、ローパスフィルタにより空間周波数が高い成分を除去し、標本化定理で定まる限界周波数(ナイキスト周波数)以下に収まるように周波数帯域を制限する能力が低下する事により、折り返し歪(エイリアス)が発生しやすくなる。
(実施の形態3)
図14は、本実施の形態のデジタルカメラにおける色分離処理回路のローパスフィルタ処理の概要を示す図である。
実施の形態1では、タップ数N=5であり、フィルタ係数はN=5とした場合の2項係数 ai=bj={1、4、6、4、1}(i,j=0,1,2,3,4)であったが、本実施形態のタップ数は、N=7であり、フィルタ係数はN=7とした場合の2項係数 ai=bj={1、6、15、20、15、6、1}(i,j=0,1,2,・・・,6)である。本実施の形態はタップ数Nの値と、フィルタ係数ai、bjの各値が実施の形態1、及び実施の形態2と異なるのみであり、これ以外の構成は実施の形態1と全く同じである。
この場合、左上を原点(0、0)として、座標(i、j)で指定される2次元フィルタ係数は、ai*bj=6Ci × 6Cj (i,j=0,1,2,・・・,6)で与えられる為、実施の形態1で述べたのと同様な画質向上効果が期待できる。
タップ数Nの値が実施の形態1よりも大きい為、2次元ローパスフィルタ処理を行う際のフィルタ原画素領域のサイズが大きくなり、垂直方向に色差データを同時生成する並列処理の負荷が増大するが、ローパスフィルタによる空間周波数の高い成分を除去し、標本化定理で定まる限界周波数(ナイキスト周波数)以下に収まるように周波数帯域を制限して折り返し歪(エイリアス)の発生を防止する能力が向上する。
(まとめ)
以上のようにしてRGBベイヤー配列の最小単位毎に生成された垂直方向、水平方向、及び斜め方向の各色差データの中から絶対値最小、つまり色同士の相関が高いものを選択し、当該選択された複数の色差データに対してローパスフィルタ処理を行う事により、複数の色差データ間で平均化され空間周波数の高い成分が除去される前の色差データに対して色同士の相関を判定する為、撮像画像に斜め線、図形の角(エッジ成分)がある場合にも偽色の発生を大幅に軽減することができる。
またフィルタ係数ai、bj(i,j=0,1,・・・,N−1;Nはタップ数)として2項係数を用いる事により、前記他の複数の色セルの色(R、B)に対応する画素間の位置ずれが、フィルタ処理により総体的に平均化され吸収される事により、ローパスフィルタ部から出力される色差データR−G、B−Gには、R、Bの各色について、画素間の位置ずれによる影響が、全体として打ち消される。
従って、本実施形態のようにフィルタ係数を2項係数とした場合には、フィルタ処理においても偽色抑圧効果が得られる事により、全体的な画質が更に向上する。
(その他の変形例)
なお、本発明を上記の形態に基づいて説明してきたが、本発明は、上記の実施の形態に限定されないのはもちろんである。以下のような場合も本発明に含まれる。
(1)本発明は、実施の形態で説明したステップを含む方法を、コンピュータシステムを用いて実現するためのコンピュータプログラムであるとしてもよいし、前記プログラムを表すデジタル信号であるとしてもよい。
また、本発明は、前記プログラム又は前記デジタル信号を記録したコンピュータ読取り可能な記録媒体、例えば、フレキシブルディスク、ハードディスク、CD、MO、DVD、半導体メモリ等であるとしてもよい。
また、本発明は、電気通信回線、無線又は有線通信回線、若しくはインターネットに代表されるネットワーク等を経由して伝送される前記コンピュータプログラム又は前記デジタル信号であるとしてもよい。
また、前記プログラム又は前記デジタル信号は、前記記録媒体に記録されて移送され、若しくは、前記ネットワーク等を経由して移送され、独立した他のコンピュータシステムにおいて実施されるとしてもよい。
(2)実施の形態では、タップ数をNとした場合、ベイヤー配列の2×2の単位配列毎に生成される色差データN個分に関する並列処理を行うものとしたが、並列処理は行わなくてもよい。その場合には、全体の処理時間の増加や、フィルタ処理の済んだ色差データが画素クロック毎に生成されない事による、表示タイミングの遅れが生じる。
(3)実施の形態では、画素クロック毎に生成され、選択実行部から出力されたN個の色差データは、メモリに保持せずにそのままローパスフィルタ部に送られる構成としたが、そのままローパスフィルタ部に送る構成でなくても良い。選択実行部から出力された後、一旦バッファメモリに1画面分、或いは複数行分蓄積する構成でも良い。その場合にはN個の色差データを同時に生成してローパスフィルタ部に供給する必要はないが、前項と同様に表示タイミングの遅れ等が生じる。
(4)実施の形態では、色差データに対して乗算されるフィルタ係数は全て2項係数として整数を用いたが、フィルタ係数は整数に限らない。フィルタ係数は実数であれば良い。その場合、各フィルタ係数の比が2項係数の比となるように値を設定する。また、各フィルタ係数の比が正確に2項係数の比に一致していなくても、誤差の範囲内(当該システムにおいて値を調整、もしくは制御可能な最小限度内)で一致していると認められる場合は、本発明に含まれる。
(5)実施の形態では、タップ数Nの値は、N={3、5、7}のうちのいずれかであったが、タップ数Nの値はこれに限らない。タップ数Nの値が任意の自然数である場合も、本発明に含まれる。
(6)実施の形態では、タップ数は処理開始時にタップ数記憶部に記憶された値を読み出し、読み出されたタップ数に応じて各処理部を初期設定する構成としたが、構成はこれに限らない。タップ数やフィルタ係数を始めからデフォルトで固定しておく場合も、本発明に含まれる。
(7)実施の形態では、他の色(R、又はB)に対して相関を判定する1の色(G1、又はG2)の画素データは、垂直方向(G1、又はG2)、水平方向(G2、又はG1)、及び垂直方向のセルと水平方向のセルの中点を補間したもの(R、Bに対してG3=(G1+G2)/2)の3つであったが、最後のG3は相関の判定に加えなくても良い。前記他の色(R、又はB)に対して、垂直方向と水平方向(G1、及びG2)のみで相関を判定する場合も、本発明に含まれる。
(8)実施の形態では、他の色(R、又はB)に対して相関を判定する1の色(G1、又はG2)の画素データは、垂直方向(G1、又はG2)、水平方向(G2、又はG1)、及び垂直方向のセルと水平方向のセルの中点を補間したもの(R、Bに対してG3=(G1+G2)/2)の3つであったが、G3はG1、G2の中点を補間した値でなくても良い。前記他の色(R、又はB)に対して、垂直方向と水平方向のセル(G1、及びG2)を通る直線上の任意の位置について補間した値をG3として用いる場合も、本発明に含まれる。
(9)実施の形態では、色フィルタとして、色セルの配列がRGBベイヤー配列である原色フィルタを用いる構成としたが、色フィルタの色セルの配列はこれに限らない。ベイヤー配列は、補色で構成されても良いし、または他の色で構成されても良い。更に、色フィルタの色セルの配列はベイヤー配列に限らず、他の色セルの配列で構成される色フィルタでも良い。その場合には、請求項1における複数の他の色の色セルに対し、1の色の色セルが水平方向、及び垂直方向に隣接する色セルの配列を持った色フィルタを使用する。
(10)上記実施の形態、及び上記変形例をそれぞれ組み合わせて実施する場合も、本発明に含まれる。
本発明の色分離処理回路は、デジタルスチルカメラ、デジタルビデオカメラ、及びデジタルカメラ付き携帯電話機といった、撮像素子から出力される輝度信号をデジタル信号処理するデジタルカメラにおける信号処理回路として有用である。
本発明の色分離処理回路の構成を示す、機能ブロック図である(実施の形態1)。 原色フィルタ、及び補色フィルタの例を示す図である。 RGBベイヤー配列の単位セル配列を示す図である。 本実施の形態の色分離処理回路の色分離部、及び色補間部を示す図である。 本実施の形態の色分離処理回路の色差データ生成部、及び選択実行部を示す図である。 本実施の形態の色分離処理回路のローパスフィルタ部の構成を示す、機能ブロック図である。 ローパスフィルタ部が行う、フィルタ係数設定処理の流れを示すフローチャートである。 並列処理制御部が行う、色差データの並列処理に関する初期設定の流れを示すフローチャートである。 実施の形態1の色分離処理回路のローパスフィルタ部を示す図である(N=5)。 ローパスフィルタ部が行う、2次元フィルタ処理の流れを示すフローチャートである。 フィルタ処理により、フィルタ原画素領域(N=5)のR画素に対して乗算される係数を示す図である。 フィルタ処理により、フィルタ原画素領域(N=5)のB画素に対して乗算される係数を示す図である。 実施の形態2の色分離処理回路のローパスフィルタ部を示す図である(N=3)。 実施の形態3の色分離処理回路のローパスフィルタ部を示す図である(N=7)。 従来の色分離処理回路の構成を示す、機能ブロック図である。 従来の色分離処理回路における色分離処理を示す図である。 バッファメモリ内の4×4画素フィルタ原画素領域における、各画素の指定方法を示す図である。 縦線の画像を入力した場合の、従来方式と新方式の色差信号、及び偽色レベルを示す図である。 横線の画像を入力した場合の、従来方式と新方式の色差信号、及び偽色レベルを示す図である。 斜め線の画像を入力した場合の、従来方式と新方式の色差信号、及び偽色レベルを示す図である。 右下エッジ成分の画像を入力した場合の、従来方式と新方式の色差信号、及び偽色レベルを示す図である。 右上エッジ成分の画像を入力した場合の、従来方式と新方式の色差信号、及び偽色レベルを示す図である。
符号の説明
1 色フィルタ
2 撮像素子
3 CDS/AGC回路
4 A/Dコンバータ
5 バッファメモリ
6 タイミングジェネレータ
7 制御部
10 色分離処理部
11 色分離部
12 色補間部
13 色差データ生成部
14 選択実行部
15 ローパスフィルタ部
16 色差マトリクス部
17 並列処理制御部
20 原色フィルタ
21 補色フィルタ
30 RGBベイヤー配列の単位セル配列
40 バッファメモリ
41 スイッチ回路(R)
42 スイッチ回路(B)
43 スイッチ回路(G1)
44 スイッチ回路(G2)
45 色補間部
46 加算器
47 倍率器
50 加算器(引算器)
51 加算器(引算器)
52 加算器(引算器)
53 加算器(引算器)
54 加算器(引算器)
55 加算器(引算器)
56 絶対値回路
57 絶対値回路
58 絶対値回路
59 絶対値回路
60 絶対値回路
61 絶対値回路
62 最小値選択回路
63 最小値選択回路
64 選択回路
65 選択回路
70 ローパスフィルタ部
71 タップ数記憶部
72 フィルタ係数記憶部
73 フィルタ係数取得部
74 フィルタ演算部
75 並列処理制御部
76 色差マトリクス部
77 垂直フィルタ演算部
78 水平フィルタ演算部
100 バッファメモリ
101 フィルタ前処理部
102 フィルタ前処理部
103 フィルタ前処理部
104 フィルタ前処理部
105 フィルタ前処理部
106 垂直フィルタ演算部
107 垂直フィルタ係数
108 加算器
109 水平フィルタ演算部
110 水平フィルタ係数
111 加算器
112 2次元等価LPF係数(N=5)
120 フィルタ原画素領域(N=5)のR画素に対して乗算される係数
130 フィルタ原画素領域(N=5)のB画素に対して乗算される係数
140 バッファメモリ
141 フィルタ前処理部
142 フィルタ前処理部
143 フィルタ前処理部
144 垂直フィルタ演算部
145 垂直フィルタ係数
146 加算器
147 水平フィルタ演算部
148 水平フィルタ係数
149 加算器
150 2次元等価LPF係数(N=3)
160 バッファメモリ
161 フィルタ前処理部
162 フィルタ前処理部
163 フィルタ前処理部
164 フィルタ前処理部
165 フィルタ前処理部
166 フィルタ前処理部
167 フィルタ前処理部
168 垂直フィルタ演算部
169 垂直フィルタ係数
170 加算器
171 水平フィルタ演算部
172 水平フィルタ係数
173 加算器
174 2次元等価LPF係数(N=7)
181 色フィルタ
182 撮像素子
183 CDS/AGC回路
184 A/Dコンバータ
185 バッファメモリ
186 タイミングジェネレータ
187 制御部
190 色分離制御部
191 色分離部
192 ローパスフィルタ部
193 色差データ生成部
194 選択実行部
195 色差マトリクス部
200 バッファメモリ
201 色分離部
202 フィルタ係数乗算器(R)
203 フィルタ係数乗算器(B)
204 フィルタ係数乗算器(G1)
205 フィルタ係数乗算器(G2)
206 色差データ生成部
207 2次元LPF係数(N=4)
210 バッファメモリ内の4×4画素フィルタ原画素領域における各画素の指定
220 撮像画像(縦線)
221 バッファメモリ
230 撮像画像(横線)
231 バッファメモリ
240 撮像画像(斜め線)
241 バッファメモリ
250 撮像画像(右下エッジ成分)
251 バッファメモリ
260 撮像画像(右上エッジ成分)
261 バッファメモリ

Claims (17)

  1. 撮像素子に入射する光を画素単位に1の色と、それと異なる複数の他の色とに色分解する色セルの配列を有し、前記色セルの配列は前記複数の他の色の色セルの各配置位置に対して水平方向、及び垂直方向に前記1の色の色セルがそれぞれ隣接して配置されてなる色セルの配列を最小単位とする色フィルタを備えた撮像素子から撮像データを得、この撮像データを色分離処理する色分離処理回路であって、
    前記撮像データを構成する各画素データを、色フィルタの色セルの色に対応づけて分離する色分離手段と、
    前記分離された画素データの内、前記他の色に対応する画素データから、その水平、垂直方向に隣接する前記1の色に対応する画素データを各々減算し、色セルの配列の最小単位毎に複数の色差データを生成する色差データ生成手段と、
    得られた複数の色差データの中から絶対値最小のものを、色セルの配列の最小単位毎に選択する選択実行手段と、
    選択された色差データに対し、ローパスフィルタ処理を行うローパスフィルタ手段と
    を備えることを特徴とする色分離処理回路。
  2. 前記色分離処理回路は、さらに、
    前記1の色に対応する複数の異なる位置の画素データを補間して、前記1の色に対応する新たな位置の画素データを色セルの配列の最小単位毎に生成する色補間手段
    を備え、
    前記色差データ生成手段は、さらに、
    前記色分離手段により色フィルタの前記他の色に対応付けられた画素データから、前記色補間手段により生成された前記1の色に対応する新たな位置の画素データを減算する事により新たな色差データを色セルの配列の最小単位毎に生成する
    ことを特徴とする請求項1に記載の色分離処理回路。
  3. 前記色分離処理回路は、さらに、
    前記色分離手段と、前記色差データ生成手段と、前記選択実行手段とに対し、Kを自然数として垂直方向にK個の色差データを同時に生成するよう制御する並列処理制御手段
    を備え、
    前記ローパスフィルタ手段は、前記色分離手段と、前記色差データ生成手段と、前記選択実行手段とにより、垂直方向に同時に生成されたK個の色差データに対してローパスフィルタ処理を行う
    ことを特徴とする請求項1に記載の色分離処理回路。
  4. 前記色分離処理回路は、さらに、
    前記色分離手段と、前記色補間手段と、前記色差データ生成手段と、前記選択実行手段とに対し、Kを自然数として垂直方向にK個の色差データを同時に生成するよう制御する並列処理制御手段
    を備え、
    前記ローパスフィルタ手段は、前記色分離手段と、前記色補間手段と、前記色差データ生成手段と、前記選択実行手段とにより、垂直方向に同時に生成されたK個の色差データに対してローパスフィルタ処理を行う
    ことを特徴とする請求項2に記載の色分離処理回路。
  5. 前記ローパスフィルタ手段は、
    垂直方向を添字i(i=0,1,・・・,L-1)、水平方向を添字j(j=0,1,・・・,M-1)で指定される縦横L×Mの領域に並んだ2次元配列データCij(i=0,1,・・・,L-1;j=0,1,・・・,M-1)の各要素に対し、L個の垂直フィルタ係数ai(i=0,1,・・・,L-1)と、M個の水平フィルタ係数bj(j=0,1,・・・,M-1)との積として構成されるL×M個のフィルタ係数fij=ai*bj(i=0,1,・・・,L-1;j=0,1,・・・,M-1)の各要素を各々乗算したfij*Cij に対し、i,jに関する和を取るローパスフィルタ処理を行う際の2次元配列データCijの垂直方向の個数である垂直タップ数Lと、水平方向の個数である水平タップ数Mとを記憶するタップ数記憶手段と、
    前記タップ数記憶手段に記憶された垂直タップ数Lと、L個の垂直フィルタ係数ai(i=0,1,・・・,L-1)とを対応づけて記憶し、また水平タップ数Mと、M個の水平フィルタ係数bj(j=0,1,・・・,M-1)とを対応づけて記憶するフィルタ係数記憶手段と、
    前記タップ数記憶手段に記憶された垂直タップ数Lの値に応じて、前記垂直タップ数Lの値に対応づけられたL個の垂直フィルタ係数ai(i=0,1,・・・,L-1)を取得し、また前記タップ数記憶手段に記憶された水平タップ数Mの値に応じて、前記垂直タップ数Mの値に対応づけられたM個の水平フィルタ係数bj(j=0,1,・・・,M-1)を取得するフィルタ係数取得手段と、
    前記フィルタ係数取得手段が取得したL個の垂直フィルタ係数ai(i=0,1,・・・,L-1)、及びM個の水平フィルタ係数bj(j=0,1,・・・,M-1)とを用いてfij=ai*bj(i=0,1,・・・,L-1;j=0,1,・・・,M-1)として構成されるL×M個のフィルタ係数fijを使用して、縦横L×Mの領域に並んだ前記2次元配列データCijの各要素に対しフィルタ係数fijを各々乗算したもの fij*Cij (i=0,1,・・・,L-1;j=0,1,・・・,M-1) に対し、i、及びjに関する和を取ることにより2次元ローパスフィルタ演算を行うフィルタ演算手段と
    を備えることを特徴とする請求項3、又は4記載の色分離処理回路。
  6. 前記フィルタ演算手段は、
    縦横L×M領域の中のj(j=0,1,・・・,M-1)で指定される列のL個の前記色差データCij(i=0,1,・・・,L-1;j=0,1,・・・,M-1)に対して、L個の垂直フィルタ係数ai(i=0,1,・・・,L-1)を各々乗算したai*Cij に対し、iに関する和をとることによりSj(j=0,1,・・・,M-1)を生成する垂直フィルタ演算手段と、
    前記垂直フィルタ演算手段が生成した、ai*Cijのiに関する和であるSj(j=0,1,・・・,M-1)に対して、M個の水平フィルタ係数bj(j=0,1,・・・,M-1)を各々乗算した後、jに関する和をとる水平フィルタ演算手段と
    を備えることを特徴とする請求項5に記載の色分離処理回路。
  7. 前記垂直フィルタ演算手段は、
    前記L個の垂直フィルタ係数ai(i=0,1,・・・,L-1)のi番目の要素を2項係数ai=L−1Ciとすることにより、i*aiのiに関する和をaiのiに関する和で除算した値である、前記垂直フィルタ係数の重心iGが垂直方向のセンター位置iC=(L−1)/2の垂直ローパスフィルタ処理を行い、
    前記水平フィルタ演算手段は、
    前記M個の水平フィルタ係数bj(j=0,1,・・・,M-1)のj番目の要素を2項係数bj=M−1Cjとすることにより、j*bjのjに関する和をbjのjに関する和で除算した値である、前記水平フィルタ係数の重心jGが水平方向のセンター位置jC=(M−1)/2の水平ローパスフィルタ処理を行い、
    前記ローパスフィルタ手段は、
    前記垂直フィルタ係数の重心iG、及び前記水平フィルタ係数の重心jGを用いて構成される前記L×M個のフィルタ係数fij=ai*bj(i=0,1,・・・,L-1;j=0,1,・・・,M-1)の重心座標(iG,jG)が、前記縦横L×Mの領域のセンター位置座標(iC,jC)=((L−1)/2,(M−1)/2)に一致する2次元ローパスフィルタ処理を行う
    ことを特徴とする請求項6に記載の色分離処理回路。
  8. 前記垂直タップ数Lと、前記水平タップ数Mとは同じ値であり、
    前記ローパスフィルタ手段は、
    前記同じ値をタップ数Nとし、2次元タップ数N×Nの2次元ローパスフィルタ処理を行う
    ことを特徴とする請求項7に記載の色分離処理回路。
  9. 前記ローパスフィルタ手段は、
    2次元タップ数N×Nのローパスフィルタ処理を行う際に元となる縦横(N+1)×(N+1)の画素領域に含まれる各画素データの位置を指定する座標(k,l)(k,l=−1/2,1/2,3/2,・・・,N−1/2)と、前記各画素データの位置を指定する座標(k,l)で指定される(N+1)×(N+1)個の各画素データに対して乗算された各画素データに対するフィルタ係数Dklとの積に対し、色フィルタの各色毎にk,lに関する和を取ったものを、前記乗算された各係数Dklに対し、色フィルタの各色毎にk,lに関する和を取ったもので除算した結果である色フィルタの各色毎の画素重心座標(kG,lG)が、色フィルタの色が前記他の複数の色セルの色である場合に、前記縦横(N+1)×(N+1)の画素領域のセンター位置座標(iC,jC)=((N−1)/2,(N−1)/2)に一致する2次元ローパスフィルタ処理を行う
    ことを特徴とする請求項8に記載の色分離処理回路。
  10. 前記ローパスフィルタ手段は、
    前記タップ数Nを5とし、縦横6×6画素の領域内の隣接する6行×2列の画素データに対して、垂直方向に並列に色差データ生成処理を行うことにより同時に生成される5個の色差データに対する垂直ローパスフィルタ処理を、処理対象となる6行×2列の領域を水平方向に1列ずつシフトしながら5回繰り返し、これによって生成される5個の垂直ローパスフィルタ処理されたデータに対して水平ローパスフィルタ処理を行うことにより、垂直方向、水平方向のフィルタ係数が1:4:6:4:1の比を持った2次元タップ数5×5の2次元ローパスフィルタ処理を行う
    ことを特徴とする請求項9に記載の色分離処理回路。
  11. 前記ローパスフィルタ手段は、
    前記タップ数Nを3とし、縦横4×4画素の領域内の隣接する4行×2列の画素データに対して、垂直方向に並列に色差データ生成処理を行うことにより同時に生成される3個の色差データに対する垂直ローパスフィルタ処理を、処理対象となる4行×2列の領域を水平方向に1列ずつシフトしながら3回繰り返し、これによって生成される3個の垂直ローパスフィルタ処理されたデータに対して水平ローパスフィルタ処理を行うことにより、垂直方向、水平方向のフィルタ係数が1:2:1の比を持った2次元タップ数3×3の2次元ローパスフィルタ処理を行う
    ことを特徴とする請求項9に記載の色分離処理回路。
  12. 前記ローパスフィルタ手段は、
    前記タップ数Nを7とし、縦横8×8画素の領域内の隣接する8行×2列の画素データに対して、垂直方向に並列に色差データ生成処理を行うことにより同時に生成される7個の色差データに対する垂直ローパスフィルタ処理を、処理対象となる8行×2列の領域を水平方向に1列ずつシフトしながら7回繰り返し、これによって生成される7個の垂直ローパスフィルタ処理されたデータに対して水平ローパスフィルタ処理を行うことにより、垂直方向、水平方向のフィルタ係数が1:6:15:20:15:6:1の比を持った2次元タップ数7×7の2次元ローパスフィルタ処理を行う
    ことを特徴とする請求項9に記載の色分離処理回路。
  13. 撮像素子に入射する光を画素単位に1の色と、それと異なる複数の他の色とに色分解する色セルの配列を有し、前記色セルの配列は前記複数の他の色の色セルの各配置位置に対して水平方向、及び垂直方向に前記1の色の色セルがそれぞれ隣接して配置されてなる色セルの配列を最小単位とする色フィルタを備えた撮像素子から撮像データを得、この撮像データを色分離処理する色分離処理方法であって、
    前記撮像データを構成する各画素データを、色フィルタの色セルの色に対応づけて分離する色分離ステップと、
    前記分離された画素データの内、前記他の色に対応する画素データから、その水平、垂直方向に隣接する前記1の色に対応する画素データを各々減算し、色セルの配列の最小単位毎に複数の色差データを生成する色差データ生成ステップと、
    得られた複数の色差データの中から絶対値最小のものを、色セルの配列の最小単位毎に選択する選択実行ステップと、
    選択された色差データに対し、ローパスフィルタ処理を行うローパスフィルタステップと
    を含むことを特徴とする色分離処理方法。
  14. 撮像素子に入射する光を画素単位に1の色と、それと異なる複数の他の色とに色分解する色セルの配列を有し、前記色セルの配列は前記複数の他の色の色セルの各配置位置に対して水平方向、及び垂直方向に前記1の色の色セルがそれぞれ隣接して配置されてなる色セルの配列を最小単位とする色フィルタを備えた撮像素子から撮像データを得、この撮像データを色分離処理するためのコンピュータ実行可能なプログラムであって、
    前記撮像データを構成する各画素データを、色フィルタの色セルの色に対応づけて分離する色分離ステップと、
    前記分離された画素データの内、前記他の色に対応する画素データから、その水平、垂直方向に隣接する前記1の色に対応する画素データを各々減算し、色セルの配列の最小単位毎に複数の色差データを生成する色差データ生成ステップと、
    得られた複数の色差データの中から絶対値最小のものを、色セルの配列の最小単位毎に選択する選択実行ステップと、
    選択された色差データに対し、ローパスフィルタ処理を行うローパスフィルタステップと
    をコンピュータに実行させることを特徴とするプログラム。
  15. 撮像素子に入射する光を光電変換することにより得られた撮像データを信号処理し、撮影された被写体の画像を表す情報を生成し記録するデジタルカメラであって、
    請求項1乃至請求項12のいずれか1つに記載の色分離処理回路
    を備えることを特徴とするデジタルカメラ 。
  16. 撮像素子に入射する光を光電変換することにより得られた撮像データを信号処理し、撮影された被写体の画像を表す情報を生成し記録するデジタルカメラであって、
    請求項13に記載の色分離処理方法を行う
    ことを特徴とするデジタルカメラ 。
  17. 撮像素子に入射する光を光電変換することにより得られた撮像データを信号処理し、撮影された被写体の画像を表す情報を生成し記録するデジタルカメラであって、
    請求項14に記載のプログラムを記憶する記憶手段を備え、
    前記記憶手段により記憶された前記プログラムを実行することにより色分離処理を行う
    ことを特徴とするデジタルカメラ 。
JP2003297665A 2003-08-21 2003-08-21 色分離処理回路、色分離処理方法、プログラム、及びデジタルカメラ Pending JP2005072786A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003297665A JP2005072786A (ja) 2003-08-21 2003-08-21 色分離処理回路、色分離処理方法、プログラム、及びデジタルカメラ

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003297665A JP2005072786A (ja) 2003-08-21 2003-08-21 色分離処理回路、色分離処理方法、プログラム、及びデジタルカメラ

Publications (1)

Publication Number Publication Date
JP2005072786A true JP2005072786A (ja) 2005-03-17

Family

ID=34403445

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003297665A Pending JP2005072786A (ja) 2003-08-21 2003-08-21 色分離処理回路、色分離処理方法、プログラム、及びデジタルカメラ

Country Status (1)

Country Link
JP (1) JP2005072786A (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100617651B1 (ko) 2005-12-29 2006-09-01 엠텍비젼 주식회사 격자 무늬 노이즈 제거 장치 및 방법
JP2007036765A (ja) * 2005-07-28 2007-02-08 Sony Corp 画像処理装置、画像処理方法および撮像装置
KR100699983B1 (ko) 2005-12-29 2007-03-26 엠텍비젼 주식회사 지퍼 노이즈 제거 장치 및 방법
JP2007293431A (ja) * 2006-04-21 2007-11-08 Megachips Lsi Solutions Inc 画像処理装置
WO2008001629A1 (fr) * 2006-06-29 2008-01-03 Olympus Corporation dispositif de traitement d'image, programme de traitement d'image et procédé de traitement d'image
WO2009022541A1 (ja) * 2007-08-10 2009-02-19 Olympus Corporation 画像処理装置、画像処理プログラム、画像処理方法
JP2009147762A (ja) * 2007-12-14 2009-07-02 Sony Corp 画像処理装置、画像処理方法、プログラム
JP2009246963A (ja) * 2008-03-28 2009-10-22 Seiko Epson Corp 画像処理装置、画像処理方法、およびプログラム
US8106969B2 (en) 2005-12-29 2012-01-31 Mtekvision Co., Ltd. Device and method for removing grid noise
CN110139087A (zh) * 2019-04-16 2019-08-16 上海集成电路研发中心有限公司 一种基于拜耳排布的图像处理方法

Cited By (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4635769B2 (ja) * 2005-07-28 2011-02-23 ソニー株式会社 画像処理装置、画像処理方法および撮像装置
JP2007036765A (ja) * 2005-07-28 2007-02-08 Sony Corp 画像処理装置、画像処理方法および撮像装置
KR100699983B1 (ko) 2005-12-29 2007-03-26 엠텍비젼 주식회사 지퍼 노이즈 제거 장치 및 방법
WO2007075039A1 (en) * 2005-12-29 2007-07-05 Mtekvision Co., Ltd. Apparatus and method for removing zipper noise
WO2007074958A1 (en) * 2005-12-29 2007-07-05 Mtekvision Co., Ltd. Device and method for removing grid noise
KR100617651B1 (ko) 2005-12-29 2006-09-01 엠텍비젼 주식회사 격자 무늬 노이즈 제거 장치 및 방법
US8106969B2 (en) 2005-12-29 2012-01-31 Mtekvision Co., Ltd. Device and method for removing grid noise
US9047694B2 (en) 2006-04-21 2015-06-02 Megachips Corporation Image processing apparatus having a plurality of image processing blocks that are capable of real-time processing of an image signal
US8810675B2 (en) 2006-04-21 2014-08-19 Megachips Corporation Image processing apparatus having a plurality of image processing blocks that are capable of real-time processing of an image signal
JP2007293431A (ja) * 2006-04-21 2007-11-08 Megachips Lsi Solutions Inc 画像処理装置
US9202292B2 (en) 2006-04-21 2015-12-01 Megachips Corporation Image processing apparatus having a plurality of image processing blocks that are capable of real-time processing of an image signal
US9330480B2 (en) 2006-04-21 2016-05-03 Megachips Corporation Image processing apparatus having a plurality of image processing blocks that are capable of real-time processing of an image signal
US9483848B2 (en) 2006-04-21 2016-11-01 Megachips Corporation Image processing apparatus having a plurality of image processing blocks that are capable of real-time processing of an image signal
JP2008035470A (ja) * 2006-06-29 2008-02-14 Olympus Corp 画像処理装置、画像処理プログラム、画像処理方法
US8018501B2 (en) 2006-06-29 2011-09-13 Olympus Corporation Image processing apparatus, computer-readable recording medium recording image processing program, and image processing method
WO2008001629A1 (fr) * 2006-06-29 2008-01-03 Olympus Corporation dispositif de traitement d'image, programme de traitement d'image et procédé de traitement d'image
WO2009022541A1 (ja) * 2007-08-10 2009-02-19 Olympus Corporation 画像処理装置、画像処理プログラム、画像処理方法
JP2009147762A (ja) * 2007-12-14 2009-07-02 Sony Corp 画像処理装置、画像処理方法、プログラム
JP2009246963A (ja) * 2008-03-28 2009-10-22 Seiko Epson Corp 画像処理装置、画像処理方法、およびプログラム
CN110139087A (zh) * 2019-04-16 2019-08-16 上海集成电路研发中心有限公司 一种基于拜耳排布的图像处理方法

Similar Documents

Publication Publication Date Title
KR100978688B1 (ko) 디지털 이미지의 컬러 아티팩트 저감 기법
JP4966035B2 (ja) 固体撮像装置
EP2039149A2 (en) Solid-state image sensor
US8086032B2 (en) Image processing device, image processing method, and image pickup apparatus
JP2008289090A (ja) 撮像信号処理装置
JP5041886B2 (ja) 画像処理装置、画像処理プログラム、画像処理方法
JP2002077928A (ja) 画像処理装置
WO2006054607A1 (ja) 映像処理装置
JP3991011B2 (ja) 画像信号処理装置
US6160593A (en) Image signal processing apparatus
JP2005072786A (ja) 色分離処理回路、色分離処理方法、プログラム、及びデジタルカメラ
JP2006311314A (ja) 色分離処理方法および色分離処理回路
JP2006211610A (ja) 撮像システム
JP3969836B2 (ja) 信号処理装置および撮像用信号処理方法
US5450124A (en) Color video camera for generating a luminance signal with unattenuated harmonics
JP5268321B2 (ja) 画像処理装置及び画像処理方法、画像処理プログラム
JPH11313338A (ja) 信号処理装置および撮像用信号処理方法
JPH11262022A (ja) 単板式カラーカメラ
JP2004193911A (ja) 画像処理装置および画像処理方法、デジタルスチルカメラ
JP4178919B2 (ja) ノイズ除去方法、撮像装置およびノイズ除去プログラム
JP3576600B2 (ja) カラー撮像装置
JP3660504B2 (ja) カラー固体撮像装置
JP4478981B2 (ja) 色雑音低減手法およびカラー撮像装置
JPH08256343A (ja) 映像信号処理装置
JP2001186534A (ja) 固体撮像装置