JP2004173207A - Signal processor - Google Patents

Signal processor Download PDF

Info

Publication number
JP2004173207A
JP2004173207A JP2002339751A JP2002339751A JP2004173207A JP 2004173207 A JP2004173207 A JP 2004173207A JP 2002339751 A JP2002339751 A JP 2002339751A JP 2002339751 A JP2002339751 A JP 2002339751A JP 2004173207 A JP2004173207 A JP 2004173207A
Authority
JP
Japan
Prior art keywords
luminance
signal
circuit
mixing
luminance signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002339751A
Other languages
Japanese (ja)
Other versions
JP4155559B2 (en
JP2004173207A5 (en
Inventor
Shinya Hirai
信也 平井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2002339751A priority Critical patent/JP4155559B2/en
Publication of JP2004173207A publication Critical patent/JP2004173207A/en
Publication of JP2004173207A5 publication Critical patent/JP2004173207A5/ja
Application granted granted Critical
Publication of JP4155559B2 publication Critical patent/JP4155559B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To obtain a luminance signal with higher quality and to suppress generation of moire due to chromatic aberration. <P>SOLUTION: This signal processor has an Out of Green luminance circuit (5) which outputs a luminance signal 1 by an Out of Green system based on an inputted image signal, a Switch Y luminance circuit (6) which outputs a luminance signal 2 by a Switch Y system based on the inputted image signal, a mixing ratio changing circuit (7) which determines ratio for mixing the luminance signals 1, 2 and a luminance mixing circuit (8) which mixes the luminance signals 1, 2 according to the ratio determined by the mixing ratio changing circuit. <P>COPYRIGHT: (C)2004,JPO

Description

【0001】
【発明の属する技術分野】
本発明は、信号処理に関し、特に複数のカラーフィルタを有する撮像素子からの出力信号から輝度信号を作成する処理に関するものである。
【0002】
【従来の技術】
従来、固体撮像素子からの出力色信号をもとに輝度信号を作成する方法として、SwitchY方式やOutofGreen方式が知られている。以下、固体撮像素子が図10のような原色ベイヤー配列のカラーフィルタにより覆われている場合を例にして、これらの方式を説明する。
【0003】
SwitchY方式は、固体撮像素子からの出力信号をA/D変換した後、ホワイトバランス(以下、WB)処理した信号を、そのまま輝度信号Yとみなす方式である。図11は、得られた輝度信号Yの概念を示す図で、Yの後の数字は画素の位置を示す。また、通常、サンプリングによるキャリアの発生を抑えるため、ナイキスト周波数で出力0となるローパスフィルタ(以下、LPF)を水平方向、垂直方向それぞれに適用した結果をベース信号とする。例えば、上記LPFのフィルタ係数を水平方向、垂直方向ともに[1 2 1]とすると、Y22の画素のLPFからの出力Y22’は、
Y22’ = (Y11 + 2 × Y12 + Y13 + 2 × Y21 + 4 × Y22 + 2 × Y23+ Y31 + 2×Y32 + Y33) / 16 …(1)
【0004】
のように求めることができる。
さらに、図12に示すように、ベース信号補間回路1201から得たベース信号から、高位桔梗町回路1202により高域強調信号を作り、加算器1203で元のベース信号を足しこむことにより、高域が補償された信号を得ることが可能である。
【0005】
ところが、実際の撮像系では、固体撮像素子の前にレンズ系が配置され、このレンズ系を通過した光が固体撮像素子でサンプリングされる。レンズ系を通過した光には色収差が発生するため、画像周辺になると、色によってサンプリングされる位置が異なってくる。
【0006】
この現象を図13を用いて説明する。同図において、101はレンズ系の射出瞳、102はCCD等の固体撮像素子である。図13は射出瞳101からの結像面への光を表しているが、例えば、実線が青、破線が赤い光の結像を示している。画像中心では図13(a)のようにたとえ色収差が発生してもサンプリングの重心は変化しないのに対し、画像周辺になると図13(b)のように色によってサンプリングの位置が異なってくる。
【0007】
したがって、特に画像周辺においては、サンプリングする画像の位置が撮像素子の色毎に異なってくることになるため、サンプリング位置ずれによるモアレが発生してしまう。例えば、図10のようなフィルタ配列の場合だと、G位置に対してR位置とB位置でのサンプリング位置が実質的にずれて画像に干渉パターンが発生してしまうことになる。
【0008】
【発明が解決しようとする課題】
上記のように、レンズ系を通った光は色収差が存在するため、固体撮像素子の配列が等間隔であっても、実質的にはカラーフィルタの色に依存してサンプリングがずれてしまい、モアレが発生してしていた。
【0009】
本発明は上記問題点を鑑みてなされたものであり、より質の高い輝度信号を得ると共に、色収差によるモアレの発生を抑制することを目的とする。
【0010】
【課題を解決するための手段】
上記目的を達成するために、本発明の信号処理装置は、入力した画像信号に基づいて、第1の方式により第1の輝度信号を出力する第1の輝度信号生成手段と、前記入力した画像信号に基づいて、第2の方式により第2の輝度信号を出力する第2の輝度信号生成手段と、前記第1及び第2の輝度信号を混合する割合を決定する混合比率決定手段と、前記混合比率決定手段により決定された割合に応じて、前記第1及び第2の輝度信号を混合する混合手段とを有することを特徴とする。
【0011】
【発明の実施の形態】
以下、添付図面を参照して本発明の好適な実施の形態を詳細に説明する。
【0012】
<第1の実施形態>
本第1の実施形態では、図10に示したR(赤)、G(緑)、B(青)の3色からなる原色ベイヤー配列のカラーフィルタにより覆われた単板撮像素子からの信号を用いて、輝度信号を得る場合について説明する。
【0013】
図1は本発明の第1の実施形態における撮像装置の概略構成を示すブロック図である。撮像装置は、例えば、デジタルスチルカメラやデジタルビデオカメラを含むが、これに限るものではなく、入射する光学像をエリアセンサなどの2次元配列された固体撮像素子を用いて光電変換により電気的な画像として取得するものであれば、本発明を適用することが可能である。
【0014】
図1において、1は、入射する光を光電変換して、電気信号を出力するCCDなどの撮像素子(以下、CCD)、2はA/D変換回路、3はホワイトバランス(WB)回路、4は信号処理装置である。上記構成において、CCD1より出力される信号をA/D変換回路2によりデジタル信号に変換し、WB回路3により公知のホワイトバランス(WB)処理を施した信号を信号処理装置4に入力する。なお、図1では、図の簡略化の為に本発明に直接関わりの無いγ変換回路や、色作成回路などは省略している。
【0015】
次に、本発明の第1の実施形態における信号処理装置4の構成及び動作について、図1乃至図6を参照して詳細に説明する。図2は、本第1の実施形態における輝度信号生成手順を示すフローチャートである。
【0016】
信号処理装置4は、図1に示すように、OutofGreen輝度回路5、SwichY輝度回路6、混合比率変更回路7、輝度混合回路8を有する。信号処理装置4は、WB回路3によりWB処理された信号を受け取とると(ステップS11)、Out of Green輝度回路5において、Out of Green方式により輝度信号1を作成する(ステップS12)。
【0017】
図3は、本第1の実施形態におけるOut of Green輝度回路5の構成例を示すブロック図である。CCD1の各カラーフィルタ位置に対応して、R、B、Gの各信号を独立に処理するために、R補間回路9、B補間回路10、G補間回路11を備える。例えば、R信号を処理する場合には、R以外の画素に0挿入しておき、水平、垂直方向それぞれに[1 2 1]の係数を持つLPFを適用してG信号、B信号に関しても同様に処理し、乗算回路13および加算回路14により次式のように輝度信号Yを生成する。
Y = 0.3R + 0.59G + 0.11B …(2)
【0018】
さらに、輪郭補正回路12により、G信号から高域強調信号を作成し、Yに足しこむ。このように、高域強調信号をG信号のみから作成するため、輝度信号Yにおいて、G信号が支配的になる。
【0019】
一方、SwichY輝度回路6により、例えば、従来技術で述べたSwichY方式により輝度信号2を作成する(ステップS13)。なお、このSwichY方式は、レッド(R)信号、グリーン(G)信号、ブルー(B)信号をそのまま輝度信号とみなす方式であり、本第1の実施形態で採用している原色ベイヤー配列の撮像素子の場合、輝度の色構成比は、R:G:B=1:2:1である。
【0020】
Switch Y方式により得られる輝度信号2は、従来例で述べたように、画像の周辺においてモアレが顕著に発生してしまう。一方、Out of Green方式による輝度信号1は、後述するようにG信号を中心に輝度信号を構成するため、色収差によりG信号に対してR信号およびB信号のサンプリングの位置がずれたとしても、その影響を受けにくい。しかし、Out of Green方式はSwitch Y方式に比べCCDの画素を約半分しか利用していないことになるため、画像の中心ではSwitch Y方式を利用した方が有利である。
【0021】
従って、本第1の実施形態においては、画像の中心ではSwitch Y方式を採用し、画像の周辺ではOut of Green方式を採用し、中間ではSwitch Y方式とOut of Green方式の両方を採用する。
【0022】
混合比率変更回路7では、画素位置に応じて(ステップS14)輝度信号1と輝度信号2との混合比率を変更する(ステップS15)。より具体的には、画面の中心(または光軸)から各画素までの距離dに応じて、混合比率rを決める。この混合比率の決め方については、詳細に後述する。
【0023】
次に、輝度混合回路8において、混合比率変更回路7により変更された混合比率rを用いて、輝度信号1と輝度信号2とを混合する(ステップS16)。この混合の仕方についても、詳細に後述する。
【0024】
図4は、本第1の実施形態における混合比率変更回路7の構成例を示すブロック図である。まず、画素位置検出回路15により処理している画素位置(x,y)を検出する。次に、距離演算回路16により画像中心(xc,yc)からの距離を演算する。例えば、距離dを
【0025】

Figure 2004173207
【0026】
のように演算する。次に、混合比率演算回路17において、距離dにより混合比率rを演算する。例えば、画像中心から最も距離の離れた画素位置までの距離をDmaxとすると、
r = d/Dmax …(4)
のように演算する。このようにすると、中心付近では混合比率rが0となり、周辺で1となる。
また、距離dと混合比率rの関係を図5のように作成しておき、テーブル変換によって距離dから混合比率rを求めるように構成してもよい。
【0027】
輝度混合回路8では、上記混合比率rを用いて、輝度信号1と輝度信号2を次式(5)のように混合して混合輝度信号Ymixを得る。なお、式(5)において、輝度信号1はY1、輝度信号2はY2、比率rは輝度信号1の混合比率を示すものとする。従って、輝度信号2の混合比率は(1−r)により表される。
Ymix = rY1 + (1−r)Y2 …(5)
【0028】
図6は、図5に示す比率を用いて、輝度混合回路8により輝度信号1及び輝度信号2を混合した結果を図示したものである。中央部ではSwitch Y方式の輝度が採用され、周辺ではOut Of Green方式の輝度、中間部では両方式の輝度を混合した輝度が採用されている。
【0029】
以上のように構成することで、画像の中心部分と周辺部分で異なる方式の輝度信号を採用することが可能となり、レンズ系の色収差の影響を受けにくい輝度信号を作成することが可能となる。
【0030】
即ち、本第1の実施形態によれば、入力した画像信号に基づいて、第1の方式により第1の輝度信号を生成し、同じ画像信号に基づいて、第2の方式により第2の輝度信号を生成し、第1及び第2の輝度信号を混合する割合を決定し、決定した割合に応じて、第1及び第2の輝度信号を混合する。
【0031】
より具体的には、混合する割合を決定する時には、画像信号の画像における位置を検出し、検出した位置に基づいて、混合する割合を決定する。
【0032】
更に具体的には、前記第1の方式は、Out of Green方式であって、前記第2の方式は、Switch Y方式である。
【0033】
<第2の実施形態>
本第2の実施形態では、第1の実施形態に加え、さらに、画像の特定個所のみ複数の輝度信号を混合することが可能な実施形態について説明する。
【0034】
第1の実施形態では、輝度信号1と輝度信号2を被写体によらず、画像の中心からの距離に応じて混合していたが、色の濃い被写体の場合、輝度信号の色構成比の違いにより輝度レベルが異なってくる。例えば、(R,G,B)=(200,0,0)という色の場合、色の構成比がR:G:B=3:6:1の場合、Y=60くらいになるが、色の構成比がR:G:B=1:2:1の場合、Y=50くらいになる。そのため、色の濃い被写体を撮影した場合、輝度信号1と輝度信号2の輝度レベルの差が激しくなり、切り替えポイントでの輝度段差が気になる場合がある。
【0035】
これを避けるためには、色の濃い部分については、輝度信号を混合せずに、Out of Green方式で得られた輝度信号1をそのまま用いる。
【0036】
図7は、本第2の実施形態における撮像装置の構成を示すブロック図である。図7では、図1の構成に信号処理装置4’内に混合位置検出回路18が加わったもので、その他の構成は図1と同じであるため、同じ構成については詳細説明を省略する。以下、本第2の実施形態における動作を、図8のフローチャートを参照しながら説明するが、第1の実施形態で説明した図2のフローチャートの処理と同様の処理には同じ参照番号を付し、一部説明を省略する。
【0037】
信号処理装置4は、WB回路3によりWB処理された信号を受け取とると(ステップS11)、Out of Green輝度回路5において、Out of Green方式により輝度信号1を作成し(ステップS12)、SwichY輝度回路6により、SwichY方式により輝度信号2を作成する(ステップS13)。その後、入力した信号の彩度から、輝度信号混合を行うか否かを判断するが(ステップS21)、この判断は混合位置検出回路18で行われる。
【0038】
図9は、本第2の実施形態における混合位置検出回路18の構成例を示すブロック図である。まず、彩度演算回路19において、例えば、次式(6)に従って彩度を演算する。なお、式(6)のChmは、彩度である。
【0039】
Figure 2004173207
【0040】
次に、混合度合い決定回路20において、ある閾値より彩度が小さい場合にのみ輝度を混合するように決定する。例えば、閾値THとChmを比較し、Chmの方が小さい場合には輝度を混合すると判定し、1の信号を発生する。逆の場合にはしないと判定し、0の信号を発生する。
【0041】
輝度混合回路8’において、この信号を受け取り、1が与えられた場合のみ、輝度の混合を実施するよう構成する(ステップS14〜S16)。なお、輝度の混合は、上記第1の実施形態で説明したようにして行われる。0の場合には、Out of Green方式で得られた輝度信号1を出力する。
【0042】
上記の通り第2の実施形態によれば、彩度が小さい部分のみ輝度の混合が実施されるため、上記問題を回避することが可能となる。
【0043】
なお、上記第2の実施形態では、混合するかしないかを彩度と閾値とを比較して0、1で判定したが、彩度に応じて0〜1の連続的な数値で混合度合いを決定するように構成してもよい。
【0044】
即ち、本第2の実施形態によれば、上記第1の実施形態の構成に加えて、画像信号の彩度に応じて、第1及び第2の輝度信号を混合するか否かを判断し、混合すると判断した場合に、第1及び第2の輝度信号を混合する。
【0045】
より具体的には、上記判断を行う時に、画像信号の彩度を検出し、検出した彩度を予め決められた閾値と比較し、閾値よりも小さい場合に第1及び第2の輝度信号を混合し、大きい場合に前記第1及び第2の輝度信号を混合しないと決定する。
【0046】
また、別の構成では、上記第1の実施形態の構成に加えて、前記画像信号の彩度に応じて、第1及び第2の輝度信号を混合する割合を判断し、上記決定された2種類の割合に応じて、第1及び第2の輝度信号を混合する。
【0047】
より具体的には、前記第1の方式は、Out of Green方式であって、彩度に基づく判断で混合しないと判断した場合に、第1の輝度信号をそのまま出力する。
【0048】
【他の実施形態】
なお、本発明は、複数の機器(例えばホストコンピュータ、インターフェイス機器、スキャナ、カメラヘッドなど)から構成されるシステムに適用しても、一つの機器からなる装置(例えば、デジタルスチルカメラ、デジタルビデオカメラ、複写機、ファクシミリ装置など)に適用してもよい。
【0049】
また、本発明の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体(または記録媒体)を、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し実行することによっても、達成されることは言うまでもない。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。また、コンピュータが読み出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。ここでプログラムコードを記憶する記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、ROM、RAM、磁気テープ、不揮発性のメモリカード、CD−ROM、CD−R、DVD、光ディスク、光磁気ディスク、MOなどが考えられる。
【0050】
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれた後、そのプログラムコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0051】
本発明を上記記憶媒体に適用する場合、その記憶媒体には、先に説明した図2または図8に示すフローチャートに対応するプログラムコードが格納されることになる。
【0052】
【発明の効果】
上記の通り本発明によれば、より質の高い輝度信号を得ると共に、色収差によるモアレの発生を抑制することができる。
【図面の簡単な説明】
【図1】本発明の第1の実施形態における撮像装置の概略構成を示すブロック図である。
【図2】本発明の第1の実施形態における輝度信号生成手順を示すフローチャートである。
【図3】本発明の第1の実施形態におけるOut of Green輝度回路の構成例を示すブロック図である。
【図4】本発明の第1の実施形態における混合比率変更回路の構成例を示すブロック図である。
【図5】本発明の第1の実施形態における中心から各画素までの距離に対する、混合比率の例を示す図である。
【図6】本発明の第1の実施形態における輝度信号1及び輝度信号2を混合した結果を示す図である。
【図7】本発明の第2の実施形態における撮像装置の構成を示すブロック図である。
【図8】本発明の第2の実施形態における輝度信号生成手順を示すフローチャートである。
【図9】本発明の第2の実施形態における混合位置検出回路の構成例を示すブロック図である。
【図10】原色ベイヤー配列を示す図である。
【図11】Switch Y方式の説明図である。
【図12】Switch Y方式で輝度信号生成を行う回路の構成例を示すブロック図である。
【図13】色収差を説明するための図である。
【符号の説明】
1 撮像素子
2 A/D変換回路
3 ホワイトバランス回路
4、4’ 信号処理装置
5 OutofGreen輝度回路
6 SwichY輝度回路
7 混合比率変更回路
8、8’ 輝度混合回路
9 R補間回路
10 B補間回路
11 G補間回路
12 輪郭補正回路
13 乗算回路
14 加算回路
15 画素位置検出回路
16 距離演算回路
17 混合比率演算回路
18 混合位置検出回路
19 彩度演算回路
20 混合度合い決定回路
101 射出瞳
102 固体撮像素子
1201 ベース信号補間回路
1202 高域強調回路
1203 加算器[0001]
TECHNICAL FIELD OF THE INVENTION
The present invention relates to signal processing, and more particularly to processing for creating a luminance signal from an output signal from an image sensor having a plurality of color filters.
[0002]
[Prior art]
Conventionally, as a method of creating a luminance signal based on an output color signal from a solid-state imaging device, a SwitchY method and an OutofGreen method are known. Hereinafter, these methods will be described by taking as an example a case where the solid-state imaging device is covered with a color filter having a primary color Bayer array as shown in FIG.
[0003]
The SwitchY system is a system in which an output signal from a solid-state imaging device is A / D converted, and a signal subjected to white balance (hereinafter, WB) processing is regarded as a luminance signal Y as it is. FIG. 11 is a diagram showing the concept of the obtained luminance signal Y, and the number after Y indicates the position of a pixel. Also, in order to suppress generation of carriers due to sampling, a result obtained by applying a low-pass filter (hereinafter, LPF) having an output of 0 at the Nyquist frequency in each of the horizontal direction and the vertical direction is used as a base signal. For example, if the filter coefficient of the LPF is [1 2 1] in both the horizontal and vertical directions, the output Y22 ′ from the LPF of the pixel Y22 is
Y22 ′ = (Y11 + 2 × Y12 + Y13 + 2 × Y21 + 4 × Y22 + 2 × Y23 + Y31 + 2 × Y32 + Y33) / 16 (1)
[0004]
You can ask as follows.
Further, as shown in FIG. 12, a high-frequency emphasis signal is generated by the high-rank bellflower town circuit 1202 from the base signal obtained from the base signal interpolation circuit 1201, and the original base signal is added by the adder 1203, thereby obtaining a high-frequency signal. Can be obtained.
[0005]
However, in an actual imaging system, a lens system is arranged before the solid-state imaging device, and light passing through the lens system is sampled by the solid-state imaging device. Since chromatic aberration occurs in light that has passed through the lens system, the sampling position differs depending on the color near the image.
[0006]
This phenomenon will be described with reference to FIG. In FIG. 1, reference numeral 101 denotes an exit pupil of a lens system; and 102, a solid-state imaging device such as a CCD. FIG. 13 shows light from the exit pupil 101 to the image forming plane. For example, the solid line shows blue and the broken line shows red light. At the center of the image, as shown in FIG. 13A, the center of gravity of the sampling does not change even if chromatic aberration occurs, whereas at the periphery of the image, the sampling position differs depending on the color as shown in FIG. 13B.
[0007]
Therefore, especially at the periphery of the image, the position of the image to be sampled is different for each color of the image sensor, so that moire due to the sampling position shift occurs. For example, in the case of the filter arrangement as shown in FIG. 10, the sampling positions at the R position and the B position are substantially shifted with respect to the G position, and an interference pattern is generated in the image.
[0008]
[Problems to be solved by the invention]
As described above, since light passing through the lens system has chromatic aberration, even if the arrangement of the solid-state imaging devices is at equal intervals, sampling is shifted substantially depending on the color of the color filter, and moiré is generated. Had occurred.
[0009]
The present invention has been made in view of the above problems, and has as its object to obtain a higher quality luminance signal and to suppress the occurrence of moire due to chromatic aberration.
[0010]
[Means for Solving the Problems]
In order to achieve the above object, a signal processing device according to the present invention comprises: a first luminance signal generation unit that outputs a first luminance signal in a first method based on an input image signal; A second luminance signal generating unit that outputs a second luminance signal according to a second method based on the signal; a mixing ratio determining unit that determines a mixing ratio of the first and second luminance signals; A mixing unit that mixes the first and second luminance signals in accordance with the ratio determined by the mixing ratio determination unit.
[0011]
BEST MODE FOR CARRYING OUT THE INVENTION
Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings.
[0012]
<First embodiment>
In the first embodiment, a signal from a single-chip image sensor covered with a color filter of a primary color Bayer array composed of three colors of R (red), G (green), and B (blue) shown in FIG. The case where a luminance signal is obtained will be described below.
[0013]
FIG. 1 is a block diagram illustrating a schematic configuration of the imaging apparatus according to the first embodiment of the present invention. The imaging device includes, for example, a digital still camera or a digital video camera, but is not limited to this, and electrically converts an incident optical image by photoelectric conversion using a two-dimensionally arranged solid-state imaging device such as an area sensor. The present invention can be applied as long as the image is obtained.
[0014]
In FIG. 1, reference numeral 1 denotes an image sensor (hereinafter, referred to as a CCD) such as a CCD that photoelectrically converts incident light and outputs an electric signal, 2 denotes an A / D conversion circuit, 3 denotes a white balance (WB) circuit, Is a signal processing device. In the above configuration, a signal output from the CCD 1 is converted into a digital signal by the A / D conversion circuit 2, and a signal subjected to a known white balance (WB) process by the WB circuit 3 is input to the signal processing device 4. In FIG. 1, for the sake of simplicity, a gamma conversion circuit, a color creation circuit, and the like, which are not directly related to the present invention, are omitted.
[0015]
Next, the configuration and operation of the signal processing device 4 according to the first embodiment of the present invention will be described in detail with reference to FIGS. FIG. 2 is a flowchart showing a luminance signal generation procedure in the first embodiment.
[0016]
As shown in FIG. 1, the signal processing device 4 includes an OutofGreen luminance circuit 5, a SwitchY luminance circuit 6, a mixture ratio changing circuit 7, and a luminance mixture circuit 8. When the signal processing device 4 receives the signal subjected to the WB processing by the WB circuit 3 (step S11), the Out of Green luminance circuit 5 creates the luminance signal 1 by the Out of Green method (step S12).
[0017]
FIG. 3 is a block diagram illustrating a configuration example of the Out of Green luminance circuit 5 according to the first embodiment. An R interpolation circuit 9, a B interpolation circuit 10, and a G interpolation circuit 11 are provided to independently process R, B, and G signals corresponding to each color filter position of the CCD 1. For example, when processing an R signal, 0 is inserted into pixels other than R, and the same applies to a G signal and a B signal by applying an LPF having a coefficient of [1 2 1] in each of the horizontal and vertical directions. And the multiplication circuit 13 and the addition circuit 14 generate a luminance signal Y as in the following equation.
Y = 0.3R + 0.59G + 0.11B (2)
[0018]
Further, a high-frequency emphasized signal is created from the G signal by the contour correction circuit 12 and added to Y. As described above, since the high-frequency emphasis signal is created from only the G signal, the G signal is dominant in the luminance signal Y.
[0019]
On the other hand, the luminance signal 2 is created by the SwitchY luminance circuit 6 by, for example, the SwitchY method described in the related art (step S13). Note that the SwitchY system is a system in which a red (R) signal, a green (G) signal, and a blue (B) signal are regarded as a luminance signal as they are, and an image of a primary color Bayer array used in the first embodiment is taken. In the case of the element, the color composition ratio of luminance is R: G: B = 1: 2: 1.
[0020]
In the luminance signal 2 obtained by the Switch Y method, as described in the conventional example, the moire is remarkably generated around the image. On the other hand, since the luminance signal 1 based on the Out of Green method forms a luminance signal around the G signal as described later, even if the sampling positions of the R signal and the B signal are shifted with respect to the G signal due to chromatic aberration, Less susceptible. However, the Out of Green method uses only about half of the pixels of the CCD as compared to the Switch Y method, and therefore, it is more advantageous to use the Switch Y method at the center of the image.
[0021]
Therefore, in the first embodiment, the Switch Y method is used at the center of the image, the Out of Green method is used around the image, and both the Switch Y method and the Out of Green method are used at the middle of the image.
[0022]
The mixing ratio changing circuit 7 changes the mixing ratio between the luminance signal 1 and the luminance signal 2 according to the pixel position (step S14). More specifically, the mixing ratio r is determined according to the distance d from the center (or optical axis) of the screen to each pixel. How to determine the mixing ratio will be described later in detail.
[0023]
Next, in the luminance mixing circuit 8, the luminance signal 1 and the luminance signal 2 are mixed using the mixing ratio r changed by the mixing ratio changing circuit 7 (step S16). This mixing method will be described later in detail.
[0024]
FIG. 4 is a block diagram illustrating a configuration example of the mixture ratio changing circuit 7 according to the first embodiment. First, the pixel position (x, y) being processed by the pixel position detection circuit 15 is detected. Next, the distance from the image center (xc, yc) is calculated by the distance calculation circuit 16. For example, if the distance d is
Figure 2004173207
[0026]
Is calculated as follows. Next, the mixture ratio calculation circuit 17 calculates the mixture ratio r from the distance d. For example, if the distance from the image center to the pixel position furthest from the image is Dmax,
r = d / Dmax (4)
Is calculated as follows. In this case, the mixing ratio r becomes 0 near the center and becomes 1 near the center.
Alternatively, the relationship between the distance d and the mixture ratio r may be created as shown in FIG. 5 and the mixture ratio r may be determined from the distance d by table conversion.
[0027]
In the luminance mixing circuit 8, the luminance signal 1 and the luminance signal 2 are mixed using the mixing ratio r as in the following equation (5) to obtain a mixed luminance signal Ymix. In Equation (5), the luminance signal 1 indicates Y1, the luminance signal 2 indicates Y2, and the ratio r indicates the mixing ratio of the luminance signal 1. Therefore, the mixing ratio of the luminance signal 2 is represented by (1-r).
Ymix = rY1 + (1-r) Y2 (5)
[0028]
FIG. 6 illustrates a result of mixing the luminance signal 1 and the luminance signal 2 by the luminance mixing circuit 8 using the ratio shown in FIG. The luminance of the Switch Y system is adopted in the center, the luminance of the Out Of Green system is adopted in the periphery, and the luminance obtained by mixing the luminances of both systems is adopted in the middle.
[0029]
With the above-described configuration, it is possible to adopt different types of luminance signals in the central part and the peripheral part of the image, and it is possible to create a luminance signal that is less affected by chromatic aberration of the lens system.
[0030]
That is, according to the first embodiment, the first luminance signal is generated by the first method based on the input image signal, and the second luminance signal is generated by the second method based on the same image signal. A signal is generated, a ratio of mixing the first and second luminance signals is determined, and the first and second luminance signals are mixed according to the determined ratio.
[0031]
More specifically, when determining the mixing ratio, the position of the image signal in the image is detected, and the mixing ratio is determined based on the detected position.
[0032]
More specifically, the first method is an Out of Green method, and the second method is a Switch Y method.
[0033]
<Second embodiment>
In the second embodiment, in addition to the first embodiment, an embodiment in which a plurality of luminance signals can be mixed only at a specific portion of an image will be described.
[0034]
In the first embodiment, the luminance signal 1 and the luminance signal 2 are mixed according to the distance from the center of the image regardless of the subject. However, in the case of a subject with a dark color, the difference in the color composition ratio of the luminance signal is different. , The brightness level differs. For example, in the case of a color of (R, G, B) = (200, 0, 0), when the color composition ratio is R: G: B = 3: 6: 1, Y = about 60. Is about 50 when the composition ratio of R: G: B = 1: 2: 1. Therefore, when an image of a dark-colored subject is captured, the difference between the luminance levels of the luminance signal 1 and the luminance signal 2 becomes large, and the luminance step at the switching point may be a concern.
[0035]
In order to avoid this, the luminance signal 1 obtained by the Out of Green method is used as it is without mixing the luminance signals for the dark portion.
[0036]
FIG. 7 is a block diagram illustrating a configuration of an imaging device according to the second embodiment. In FIG. 7, a mixed position detecting circuit 18 is added to the signal processing device 4 'in the configuration of FIG. 1, and the other configuration is the same as that of FIG. 1. Therefore, detailed description of the same configuration will be omitted. Hereinafter, the operation in the second embodiment will be described with reference to the flowchart of FIG. 8, but the same processes as those in the flowchart of FIG. 2 described in the first embodiment are denoted by the same reference numerals. And a part of the description is omitted.
[0037]
When the signal processing device 4 receives the signal subjected to the WB processing by the WB circuit 3 (step S11), the Out of Green luminance circuit 5 creates the luminance signal 1 by the Out of Green method (step S12), and the SwitchY luminance. The luminance signal 2 is created by the circuit 6 according to the SwitchY method (step S13). Thereafter, it is determined whether or not to perform luminance signal mixing based on the saturation of the input signal (step S21). This determination is performed by the mixed position detection circuit 18.
[0038]
FIG. 9 is a block diagram illustrating a configuration example of the mixed position detection circuit 18 according to the second embodiment. First, the saturation calculation circuit 19 calculates the saturation according to, for example, the following equation (6). Note that Chm in Expression (6) is saturation.
[0039]
Figure 2004173207
[0040]
Next, the mixing degree determination circuit 20 determines to mix the luminance only when the saturation is smaller than a certain threshold. For example, the threshold value TH is compared with Chm, and if Chm is smaller, it is determined that luminance is mixed, and one signal is generated. In the opposite case, it is determined not to be performed, and a signal of 0 is generated.
[0041]
The luminance mixing circuit 8 'is configured to receive this signal and perform luminance mixing only when 1 is given (steps S14 to S16). The mixing of the luminance is performed as described in the first embodiment. In the case of 0, the luminance signal 1 obtained by the Out of Green method is output.
[0042]
As described above, according to the second embodiment, since the mixing of the luminance is performed only in the portion where the saturation is low, the above problem can be avoided.
[0043]
In the second embodiment, whether or not mixing is performed is determined by comparing the saturation with a threshold value and determining whether the mixing is 0 or 1. However, according to the saturation, the mixing degree is determined by a continuous numerical value of 0 to 1. It may be configured to determine.
[0044]
That is, according to the second embodiment, in addition to the configuration of the first embodiment, it is determined whether to mix the first and second luminance signals according to the saturation of the image signal. When it is determined that the luminance signals are mixed, the first and second luminance signals are mixed.
[0045]
More specifically, when performing the above-described determination, the saturation of the image signal is detected, the detected saturation is compared with a predetermined threshold, and the first and second luminance signals are determined when the saturation is smaller than the threshold. It is determined that the first and second luminance signals are not mixed when they are mixed and large.
[0046]
In another configuration, in addition to the configuration of the first embodiment, the ratio of mixing the first and second luminance signals is determined in accordance with the saturation of the image signal, and the determined 2 The first and second luminance signals are mixed according to the type ratio.
[0047]
More specifically, the first method is an Out of Green method, and outputs a first luminance signal as it is when it is determined that mixing is not to be performed based on the saturation.
[0048]
[Other embodiments]
Note that the present invention is applicable to a system including a plurality of devices (for example, a host computer, an interface device, a scanner, a camera head, etc.), but is not limited to a single device (for example, a digital still camera, a digital video camera). , Copiers, facsimile machines, etc.).
[0049]
Further, an object of the present invention is to supply a storage medium (or a recording medium) in which a program code of software for realizing the functions of the above-described embodiments is recorded to a system or an apparatus, and a computer (or a CPU or a CPU) of the system or the apparatus. Needless to say, the present invention can also be achieved by an MPU) reading and executing a program code stored in a storage medium. In this case, the program code itself read from the storage medium realizes the function of the above-described embodiment, and the storage medium storing the program code constitutes the present invention. When the computer executes the readout program code, not only the functions of the above-described embodiments are realized, but also an operating system (OS) running on the computer based on the instruction of the program code. It goes without saying that a part or all of the actual processing is performed and the functions of the above-described embodiments are realized by the processing. Here, examples of the storage medium for storing the program code include a flexible disk, a hard disk, a ROM, a RAM, a magnetic tape, a nonvolatile memory card, a CD-ROM, a CD-R, a DVD, an optical disk, a magneto-optical disk, and an MO. Can be considered.
[0050]
Further, after the program code read from the storage medium is written into a memory provided in a function expansion card inserted into the computer or a function expansion unit connected to the computer, the function of the program is performed based on the instruction of the program code. It goes without saying that the CPU included in the expansion card or the function expansion unit performs part or all of the actual processing, and the processing realizes the functions of the above-described embodiments.
[0051]
When the present invention is applied to the storage medium, the storage medium stores program codes corresponding to the above-described flowcharts shown in FIG. 2 or FIG.
[0052]
【The invention's effect】
As described above, according to the present invention, a higher-quality luminance signal can be obtained, and the occurrence of moire due to chromatic aberration can be suppressed.
[Brief description of the drawings]
FIG. 1 is a block diagram illustrating a schematic configuration of an imaging device according to a first embodiment of the present invention.
FIG. 2 is a flowchart illustrating a luminance signal generation procedure according to the first embodiment of the present invention.
FIG. 3 is a block diagram illustrating a configuration example of an Out of Green luminance circuit according to the first embodiment of the present invention.
FIG. 4 is a block diagram illustrating a configuration example of a mixture ratio changing circuit according to the first embodiment of the present invention.
FIG. 5 is a diagram illustrating an example of a mixing ratio with respect to a distance from a center to each pixel according to the first embodiment of the present invention.
FIG. 6 is a diagram illustrating a result of mixing the luminance signal 1 and the luminance signal 2 according to the first embodiment of the present invention.
FIG. 7 is a block diagram illustrating a configuration of an imaging device according to a second embodiment of the present invention.
FIG. 8 is a flowchart illustrating a luminance signal generation procedure according to the second embodiment of the present invention.
FIG. 9 is a block diagram illustrating a configuration example of a mixed position detection circuit according to a second embodiment of the present invention.
FIG. 10 is a diagram showing a primary color Bayer array.
FIG. 11 is an explanatory diagram of a Switch Y system.
FIG. 12 is a block diagram illustrating a configuration example of a circuit that generates a luminance signal by a Switch Y method.
FIG. 13 is a diagram for explaining chromatic aberration.
[Explanation of symbols]
REFERENCE SIGNS LIST 1 imaging device 2 A / D conversion circuit 3 white balance circuit 4, 4 ′ signal processing device 5 OutofGreen luminance circuit 6 SwitchY luminance circuit 7 mixing ratio changing circuit 8, 8 ′ luminance mixing circuit 9 R interpolation circuit 10 B interpolation circuit 11 G Interpolation circuit 12 contour correction circuit 13 multiplication circuit 14 addition circuit 15 pixel position detection circuit 16 distance calculation circuit 17 mixing ratio calculation circuit 18 mixing position detection circuit 19 saturation calculation circuit 20 mixing degree determination circuit 101 exit pupil 102 solid-state image sensor 1201 base Signal interpolation circuit 1202 High frequency emphasis circuit 1203 Adder

Claims (1)

入力した画像信号に基づいて、第1の方式により第1の輝度信号を出力する第1の輝度信号生成手段と、
前記入力した画像信号に基づいて、第2の方式により第2の輝度信号を出力する第2の輝度信号生成手段と、
前記第1及び第2の輝度信号を混合する割合を決定する混合比率決定手段と、
前記混合比率決定手段により決定された割合に応じて、前記第1及び第2の輝度信号を混合する混合手段と
を有することを特徴とする信号処理装置。
First luminance signal generating means for outputting a first luminance signal based on the input image signal by a first method;
A second luminance signal generation unit that outputs a second luminance signal in a second method based on the input image signal;
Mixing ratio determining means for determining a ratio of mixing the first and second luminance signals;
A signal processing device comprising: a mixing unit that mixes the first and second luminance signals in accordance with the ratio determined by the mixing ratio determination unit.
JP2002339751A 2002-11-22 2002-11-22 Signal processing apparatus and method Expired - Fee Related JP4155559B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002339751A JP4155559B2 (en) 2002-11-22 2002-11-22 Signal processing apparatus and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002339751A JP4155559B2 (en) 2002-11-22 2002-11-22 Signal processing apparatus and method

Publications (3)

Publication Number Publication Date
JP2004173207A true JP2004173207A (en) 2004-06-17
JP2004173207A5 JP2004173207A5 (en) 2005-12-22
JP4155559B2 JP4155559B2 (en) 2008-09-24

Family

ID=32702633

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002339751A Expired - Fee Related JP4155559B2 (en) 2002-11-22 2002-11-22 Signal processing apparatus and method

Country Status (1)

Country Link
JP (1) JP4155559B2 (en)

Also Published As

Publication number Publication date
JP4155559B2 (en) 2008-09-24

Similar Documents

Publication Publication Date Title
JP4284628B2 (en) IMAGING DEVICE, IMAGE PROCESSING DEVICE, IMAGE PROCESSING METHOD, PROGRAM FOR IMAGE PROCESSING METHOD, AND RECORDING MEDIUM CONTAINING PROGRAM FOR IMAGE PROCESSING METHOD
JP4195169B2 (en) Solid-state imaging device and signal processing method
JP4709084B2 (en) Image processing apparatus and image processing method
JP4730412B2 (en) Image processing apparatus and image processing method
US20090160992A1 (en) Image pickup apparatus, color noise reduction method, and color noise reduction program
US8854511B2 (en) Apparatus and method for image processing and storage medium, and image pickup apparatus
WO2010016166A1 (en) Imaging device, image processing method, image processing program and semiconductor integrated circuit
JP2007306447A (en) Imaging apparatus, image processing method and computer program
JP5240194B2 (en) Signal processing method and signal processing apparatus
US20060050956A1 (en) Signal processing apparatus, signal processing method, and signal processing program
JP5041886B2 (en) Image processing apparatus, image processing program, and image processing method
JP4011861B2 (en) Signal processing apparatus and method
JP2007274532A (en) Imaging apparatus, high frequency component detection circuit, high frequency component detection method, and computer program
JP5621053B2 (en) Image processing apparatus, method and program, and imaging apparatus
JP2010219683A (en) Image processing device, image processing method, and program
JP2009055595A (en) Pixel interpolation circuit, and program
JP5291788B2 (en) Imaging device
JP4280462B2 (en) Signal processing apparatus and method
JP4539299B2 (en) Image processing apparatus, image processing method, and computer program
JP4958926B2 (en) Signal processing apparatus and method
JP2006135564A (en) Device and method for pixel interpolation
JP2004173207A (en) Signal processor
JP4077956B2 (en) Imaging apparatus and imaging method
JP2010016883A (en) Image signal processing method
JP2008079301A (en) Image capture device

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051107

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051107

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080118

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080125

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080321

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080418

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080610

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080704

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080707

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110718

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120718

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120718

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130718

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees