JP2011166535A - Imaging apparatus - Google Patents
Imaging apparatus Download PDFInfo
- Publication number
- JP2011166535A JP2011166535A JP2010028126A JP2010028126A JP2011166535A JP 2011166535 A JP2011166535 A JP 2011166535A JP 2010028126 A JP2010028126 A JP 2010028126A JP 2010028126 A JP2010028126 A JP 2010028126A JP 2011166535 A JP2011166535 A JP 2011166535A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- circuit
- imaging
- color
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Color Television Image Signal Generators (AREA)
- Studio Devices (AREA)
Abstract
Description
本発明は、撮像装置に関し、特に低照度の撮像環境においても、より正確な動き検出結果を出力することができ、より高画質な撮像画像が得られる撮像装置に関する。 The present invention relates to an imaging apparatus, and more particularly, to an imaging apparatus that can output a more accurate motion detection result and obtain a higher-quality captured image even in an imaging environment with low illuminance.
従来の撮像装置として、光源の色温度に応じた白バランス処理により、光源の色温度が高い時は原色信号Rを増幅し、光源の色温度が低い時は原色信号Bを増幅し白バランスが合うようにR、B信号を増幅するように構成したものがある(例えば、特許文献1参照)。 As a conventional imaging device, white balance processing according to the color temperature of the light source amplifies the primary color signal R when the color temperature of the light source is high, and amplifies the primary color signal B when the color temperature of the light source is low, thereby achieving white balance. There is one configured to amplify R and B signals so as to match (see, for example, Patent Document 1).
また、撮像素子から出力される映像信号から輝度差情報を得て当該輝度差情報を動き検出の検出パラメータと比較することによって被写体の動きの有無の判断処理を行うように構成した撮像装置も知られている(例えば、特許文献2参照)。 There is also known an imaging apparatus configured to determine whether there is a movement of a subject by obtaining luminance difference information from a video signal output from an imaging element and comparing the luminance difference information with a detection parameter for motion detection. (For example, refer to Patent Document 2).
特許文献1に記載された従来の撮像装置は、以上のように構成されているので、光源の色温度により原色信号Rまたは原色信号Bが増幅されるが、低照度の場合は原色信号Rまたは原色信号BのS/Nが低いため、アナログ信号処理により増幅すると回路ノイズが増加し、デジタル信号処理により増幅すると量子化ノイズが増加しS/Nが劣化する。
仮に特許文献1に記載された技術を、特許文献2に記載された撮像装置に組み込んだとしても、増幅された原色信号R及び原色信号Bと、原色信号Gから生成される輝度信号もS/Nが劣化するため、輝度信号のフレーム間差分信号には、動き成分だけでなく、ノイズ成分も多く含まれ、正確な動き検出ができないと言う問題があった。
Since the conventional imaging device described in
Even if the technique described in
この発明は、上述のような課題を解決するためになされたもので、より正確な動き検出結果を出力することができる動き検出を行なうことができるようにすること、及びより正確な動き検出結果に基づいてより高画質な撮像画像が得られる撮像装置を得ることを目的とする。 The present invention has been made in order to solve the above-described problems. It is possible to perform motion detection capable of outputting a more accurate motion detection result, and more accurate motion detection result. An object of the present invention is to obtain an imaging device capable of obtaining a higher quality captured image based on the above.
上記の課題を解決するため本発明の撮像装置は、
被写体を撮像する撮像手段を含み、該撮像手段による撮像の結果得られる、複数の色成分の撮像信号を生成する撮像信号生成手段と、
上記撮像信号生成手段から出力される複数の色成分の信号を、白バランスをとるために増幅する白バランス増幅回路と、
上記白バランス増幅回路の色成分毎の増幅率を白バランスがとれるよう制御する制御手段と、
上記白バランス増幅回路から出力される複数の色成分の信号から映像信号を生成する映像信号生成手段と、
上記撮像手段による撮像の結果得られる複数の色成分の信号であって、上記白バランス増幅回路による増幅を受けていない信号を入力とし、入力された複数の色成分の信号の和を色加算信号として生成する第1の色加算手段を備え、該色加算信号に基づいて、被写体の動きを検出する動き量算出回路とを備える。
In order to solve the above problems, an imaging apparatus according to the present invention provides:
An imaging signal generation unit that includes an imaging unit that images a subject, and that generates an imaging signal of a plurality of color components obtained as a result of imaging by the imaging unit;
A white balance amplifying circuit for amplifying the signals of a plurality of color components output from the imaging signal generating means for white balance;
Control means for controlling the amplification factor for each color component of the white balance amplifier circuit so as to achieve white balance;
Video signal generating means for generating a video signal from a plurality of color component signals output from the white balance amplifier circuit;
A signal of a plurality of color components obtained as a result of imaging by the imaging means, which has not been amplified by the white balance amplifier circuit, is input, and the sum of the input signals of the plurality of color components is a color addition signal And a motion amount calculation circuit for detecting the motion of the subject based on the color addition signal.
本発明によれば、白バランス制御による増幅処理が加えられていない原色信号R、G及びBを加算した信号に基づいて動き量を求めるように構成したので、動き量に含まれるノイズ成分が少なくなり、より正確な動き検出結果が得られるという効果がある。 According to the present invention, since the motion amount is obtained based on the signal obtained by adding the primary color signals R, G, and B to which the amplification processing by the white balance control is not applied, the noise component included in the motion amount is small. Thus, there is an effect that a more accurate motion detection result can be obtained.
実施の形態1.
図1は本発明の実施の形態1による撮像装置を示すブロック構成図である。以下では、NTSC方式テレビジョンに対応した撮像装置を例に説明する。
FIG. 1 is a block diagram showing an imaging apparatus according to
図1において、例えばCCDで構成される固体撮像素子11の撮像面上には、図示しないレンズで被写体像が結像される。固体撮像素子11で光電変換され転送出力された撮像信号は、相関二重サンプリング処理回路(CDS回路)12でノイズ等が除去される。
プログラマブル利得増幅回路(PGA)13は、CDS回路12の出力信号を後述の制御回路20から出力される制御信号Sgcによって制御される利得で増幅して出力する。
A/D変換回路(ADC)14は、PGA13の出力信号を、デジタル信号に変換する。
In FIG. 1, a subject image is formed by a lens (not shown) on an imaging surface of a solid-
The programmable gain amplifier circuit (PGA) 13 amplifies and outputs the output signal of the
The A / D conversion circuit (ADC) 14 converts the output signal of the
色補間回路15は、固体撮像素子11の色フィルタ配列に基づいて色補間処理を行い、原色信号R、G及びBを出力する。
The
以上のうち、固体撮像素子11、CDS回路12、PGA13、ADC14、及び色補間回路15により撮像信号生成手段10が構成される。
Among the above, the imaging
白バランス増幅回路16は、制御回路20で設定されるゲインに基づいて、原色信号R、G、Bのうちの一つ以上を増幅することで、白バランスの調整を行なう。図示の白バランス増幅回路16は、R信号増幅回路16RとB信号増幅回路16Bを有する。
R信号増幅回路16Rは、制御回路20で設定されるゲインに基づいて原色信号Rを増幅し原色信号RWを出力する。
B信号増幅回路16Bは、制御回路20で設定されるゲインに基づいて原色信号Bを増幅し原色信号BWを出力する。
尚、図示の例では、原色信号Gについては増幅を行なわないが、原色信号Gについても増幅を行なうこととしても良い。
The white
The R signal amplifier circuit 16R amplifies the primary color signal R based on the gain set by the
The B
In the illustrated example, the primary color signal G is not amplified, but the primary color signal G may be amplified.
信号レベル検出回路17は、白バランス増幅回路16から出力される原色信号RW、G及びBWの各々の画素積分値を算出して制御回路20へ供給する。
色マトリクス回路18は、原色信号RW、G及びBWを色マトリクス変換して、輝度信号Y並びに色差信号R−Y及びB−Yを出力する。
色変調回路19は、色副搬送波を色差信号R−Yと色差信号B−Yで直角二相変調して色信号Cを出力する。
出力端子21Yから輝度信号Yが出力され、出力端子21Cから色信号Cが出力される。
色マトリクス回路18から出力される輝度信号Y及び色信号R−Y及びB−Yで構成される画面(フィールド乃至フレーム)は、映像信号を構成するものであり、色マトリクス回路18により、映像信号生成回路が構成されている。
The signal
The
The
A luminance signal Y is output from the
A screen (field or frame) composed of the luminance signal Y and the color signals RY and BY output from the
動き量算出回路30は、図3に示すように、色加算回路(SUM)31と、遅延回路(FDL)32と、差分絶対値算出回路33とを有する。
色加算回路31は、それぞれ入力端子36R、36G、36Bを介して供給される、原色信号R、G及びBを加算し色加算信号MDiを生成する。色加算信号MDiは、動き検出用信号とも呼ばれる。
遅延回路32は、色加算信号MDiを1フレーム期間遅延させた遅延色加算信号MDdを生成する。
As illustrated in FIG. 3, the motion
The
The
差分絶対値算出回路33は、色加算信号MDiと遅延色加算信号MDdの差の絶対値を求め、動き量信号MDとして出力する。
差分絶対値算出回路33は、減算回路34と絶対値回路(ABS)35とを有する。減算回路34は色加算信号MDiから遅延色加算信号MDdを差引くことで得られる差分信号を出力する。絶対値回路35は、減算回路34から出力される差分信号の符号を外して絶対値とした、動き量信号MDを生成する。このように差分絶対値算出回路33は、色加算信号のフレーム間差分に基づき、画素毎の動きを表す動き量信号MDを生成する。動き量信号MDは出力端子37を介して出力される。
The difference absolute
The difference absolute
動き閾値生成回路41は、制御回路20から入力されるノイズレベル情報に基づいて動き閾値THを生成する。
判定回路42は、動き量信号MDと動き閾値生成回路41により設定される動き閾値THに基づいて動き判定を行い、動き検出信号MVを生成する。
動き検出信号MVは、出力端子21Mから出力される。
The motion
The
The motion detection signal MV is output from the
制御回路20は、各回路の設定値を設定する。制御回路20は、映像信号の信号レベルを観測して、レンズの絞りや、固体撮像素子の露光時間や、プログラマブル利得増幅回路(PGA)の利得を設定して自動露光制御する。また画像の解析結果に基づいて各回路の設定値を設定する。
The
同期信号発生回路43は、垂直同期信号及び水平同期信号を生成してタイミング発生回路44に供給する。
タイミング発生回路44は固体撮像素子11の駆動タイミング信号を発生してドライブ回路45に供給する。
ドライブ回路45は、タイミング発生回路44から出力された駆動タイミング信号に基づいて固体撮像素子11の駆動信号を生成する。
固体撮像素子11は、ドライブ回路45から出力された駆動信号に基づいて、光電変換及び電荷転送を行う。
The synchronization signal generation circuit 43 generates a vertical synchronization signal and a horizontal synchronization signal and supplies them to the timing generation circuit 44.
The timing generation circuit 44 generates a drive timing signal for the solid-
The drive circuit 45 generates a drive signal for the solid-
The solid-
図2は固体撮像素子11の色フィルタアレイの模式図である。画素ごとにR、G、Bの色フィルタがベイヤ配列されている。固体撮像素子11の一つの走査線(例えばL1)からは、水平方向にG、B、G、Bの順番で画素ごとに色成分が読み出される。次の走査線(例えばL2)からは、R、G、R、Gの順番で画素ごとに色成分が読み出される。固体撮像素子11からは、画素ごとに色成分が1色しかない信号(1つの色成分のみが存在し、他の色成分が欠落している信号)が読み出される。
FIG. 2 is a schematic diagram of a color filter array of the solid-
色補間回路15は、各画素について全ての色成分を揃えるため周辺の(各画素とその周辺の画素を含む近傍の領域内に位置する)同色の画素を使った補間処理で、欠落する色成分を補間生成する。例えば、第2ライン(行)L2の2番目の画素、即ち第2列P2の画素についてR成分は、左右に隣接する画素、即ち同じライン(第2ライン)L2の第1列P1及び第3列P3の画素のR成分画素に基づいて補間生成する。同じくB成分は、上下に隣接する画素、即ち同じ列(第2列)P2の第1ラインL1及び第3ラインL3の画素のB成分画素に基づいて補間生成する。次に第2ラインL2、第3列P3の画素についてG成分は、上下左右に隣接する画素、即ち第1ラインL1、第3列P3の画素、第3ラインL3、第3列P3の画素、第2ラインL2、第2列P2の画素、及び第2ラインL2、第4列P4の画素のG成分画素に基づいて補間生成する。同じくB成分は、斜め方向に隣接する画素、即ち第1ラインL1、第2列P2の画素、第3ラインL3、第2列P2の画素、第1ラインL1、第4列P4の画素、及び第3ラインL3、第4列P4の画素のB成分画素に基づいて補間生成する。他の画素についても隣接する周辺画素から欠落する色成分を補間生成する。画素ごとに欠落する色成分を補間することで、R成分について全画素値が揃った原色信号R、G成分について全画素値が揃った原色信号G、B成分について全画素値が揃った原色信号Bを生成することができる。
The
信号レベル検出回路17は、原色信号RW、G及びBWの各々の画素積分値を算出して、制御回路20へ供給する。
例えば、信号レベル検出回路17は、原色信号RWの、1フィールド期間の全画素値を加算して、R総和信号RIを制御回路20へ供給し、原色信号Gの、1フィールド期間の全画素値を加算して、G総和信号GIを制御回路20へ供給し、原色信号BWの、1フィールド期間の全画素値を加算して、B総和信号BIを制御回路20へ供給する。
The signal
For example, the signal
上記の例では信号レベル検出回路17の動作として、1フィールド期間の全画素値を加算するとして説明したが、1フレーム期間の全画素値を加算するように構成しても良いし、画角中央に位置する被写体を重視するカメラでは、画面内の中央部分に限り、その画素値の総和を求めるように構成しても良く、さらに画面内の中央部部分に限らず、特定の部分に限り、その画素値の総和を求めるように構成して良くその場合にも同様に動作し、同様な効果が得られる。
In the above example, the operation of the signal
また、信号レベル検出回路17として、信号の積分値を求めるものの代わりに、信号の平均値を求める回路を用いても良い。なお、積分値を求める処理は、積分の対象となっている画素の数が既知であれば平均値を求めることと等価である。
Further, as the signal
制御回路20における白バランス制御の動作について説明する。制御回路20は、多くのシーンで撮像する画面に含まれる色成分の総和(多くのフィード乃至フレームについての総和)は、無彩色に近いという前提に基づいて白バランス制御する。制御回路20は、信号レベル検出回路17から入力されるR総和信号RI、B総和信号BIが、G総和信号GIの値に近づくようにR信号増幅回路16RとB信号増幅回路16Bの利得を制御する。例えば、RI=GIになるまで、R信号増幅回路16Rの利得を1ステップずつ変化させ、BI=GIになるまで、B信号増幅回路16Bの利得を1ステップずつ変化させる。色変化がハンチングしないように総和GIに十分に近づいた(差が所定値以下になった)ときに利得の変更を止め、また総和GIから所定値以上離れたときに利得の変更を始める。
An operation of white balance control in the
固体撮像素子11のフォトダイオードなど光電変換回路を形成するシリコン材料は一般にBlue(青)側の短波長成分において感度が低く、Red(赤)側の長波長成分において感度が高い。このため、分光発光特性がフラットな照明環境においても、Blueの露光電荷量は、Green(緑)、Redの露光電荷量に較べて少ない。そこで白バランス制御は、B信号増幅回路16Bの利得を大きく設定して、原色信号Bを増幅して信号レベルを原色信号Gに近づけるように動作する。
A silicon material forming a photoelectric conversion circuit such as a photodiode of the solid-
また、色温度が低い照明環境においては、Red側の長波長成分の放射パワーが大きく、Blue側の短波長成分の放射パワーが小さい。分光発光特性がフラットな照明環境においても、Blueの露光電荷量は、Green、Redの露光電荷量に較べて少ないのに、Blue側の短波長成分の放射パワーが小さい照明環境では、Blueの露光電荷量はさらに低下し、Green、Redの露光電荷量に較べて大幅に少なくなる。そこで白バランス制御は、B信号増幅回路16Bの利得を大幅に大きく設定して、原色信号Bを増幅して信号レベルを原色信号Gに近づけるように動作する。色温度が低い照明環境としては、例えば白熱電灯を照明に用いた場合があり、色温度は3000K前後である。
In an illumination environment where the color temperature is low, the radiant power of the long wavelength component on the Red side is large, and the radiant power of the short wavelength component on the Blue side is small. Even in an illumination environment where the spectral emission characteristics are flat, the amount of blue exposure charge is smaller than that of green and red, but in an illumination environment where the radiant power of the short wavelength component on the blue side is small, blue exposure The amount of charge further decreases, and is significantly smaller than the exposure amount of Green and Red. Therefore, the white balance control operates so that the gain of the B
また、色温度の高い照明環境においては、Blue側の短波長成分の放射パワーが大きく、Red側の長波長成分の放射パワーが小さい。Red側の長波長成分の放射パワーが小さい照明環境では、Redの露光電荷量は低下し、Greenの露光電荷量に較べて大幅に少なくなる。そこで白バランス制御は、R信号増幅回路16Rの利得を大きく設定して、原色信号Rを増幅して信号レベルを原色信号Gに近づけるように動作する。 In an illumination environment with a high color temperature, the radiant power of the short wavelength component on the Blue side is large and the radiant power of the long wavelength component on the Red side is small. In an illumination environment where the radiant power of the long-wavelength component on the Red side is small, the Red exposure charge amount decreases and becomes significantly smaller than the Green exposure charge amount. Therefore, the white balance control operates so that the gain of the R signal amplifier circuit 16R is set large, the primary color signal R is amplified, and the signal level is brought close to the primary color signal G.
上記のとおり、白バランス制御はR信号増幅回路16Rにより原色信号Rを増幅し、B信号増幅回路16Bにより原色信号Bを増幅する。S/Nの悪い極めて暗い低照度環境では、低S/Nの原色信号R及び原色信号Bが増幅され、さらにアンプノイズが加わりS/Nが悪化する。
As described above, in the white balance control, the primary color signal R is amplified by the R signal amplification circuit 16R, and the primary color signal B is amplified by the B
上記の例では、白バランス制御のための信号レベル検出回路(17)を、原色信号R、G及びBに対して設けたが、色マトリクス回路18から出力される色差信号R−Y、色差信号B−Yを積分するように構成して、制御回路20が色差信号R−Yの総和と色差信号B−Yの総和の差が零に向かうようにR信号増幅回路16RとB信号増幅回路16Bの利得を制御するように構成しても良い。同様に動作し、同様な効果が得られる。
In the above example, the signal level detection circuit (17) for white balance control is provided for the primary color signals R, G and B. However, the color difference signal RY and color difference signal output from the
色マトリクス回路18は、以下の色マトリクス変換式に基づいて、原色信号RW、G及びBWから輝度信号Y並びに色差信号R−Y及びB−Yを生成する。
Y = +0.30RW+0.59G+0.11BW
R−Y= +0.70RW−0.59G−0.11BW
B−Y= −0.30RW−0.59G+0.89BW
The
Y = + 0.30RW + 0.59G + 0.11BW
RY = + 0.70RW-0.59G-0.11BW
BY = −0.30RW−0.59G + 0.89BW
色変調回路19は、色副搬送波を色差信号R−Yと色差信号B−Yで直角二相変調して色信号Cを出力する。色副搬送周波数の4倍のクロック周波数を色差信号R−Yと色差信号B−Yでデジタル直角二相変調して色信号Cを生成する。
The
動き量算出回路30の入力端子36R、36G及び36Bにそれぞれ色補間回路15の出力信号R、G及びBが供給される。
色加算回路31は、下式のとおり原色信号R、G及びBを画素ごとに加算して、色加算信号MDiを生成する。
MDi=R+G+B
The output signals R, G, and B of the
The
MDi = R + G + B
1フレーム遅延回路32は色加算信号MDiを1フレーム期間遅延させて遅延色加算信号MDdを出力する。
差分絶対値和生成回路33は、色加算信号MDiと遅延色加算信号MDdの差分、即ち色加算信号のフレーム間差分に基づき、画素毎の被写体の動きを表す動き量信号MDを生成する。
遅延回路32と差分絶対値算出回路33の組合せにより、色加算信号MDiのフレーム間差分に基づく動き量信号MDが生成される。
動き量信号MDは出力端子37から出力される。
なお、遅延回路32の遅延時間は、1フレーム期間に限らず、垂直走査周期の偶数倍であれば良い。
The 1-
The difference absolute value
The combination of the
The motion amount signal MD is output from the
The delay time of the
図4は動き量算出回路30の別の構成例を、該動き量算出回路30とともに用いられる1フレーム遅延回路22R、22G及び22Bとともに示す。
図4の動き量算出回路30においても、図3の動き量算出回路30と同様に、色補間回路15の出力信号R、G及びBが入力端子36R、36G及び36Bに供給される。
色加算回路31は、下式のとおり原色信号R、G及びBを画素ごとに加算し色加算信号MDiを生成する。
MDi=R+G+B
FIG. 4 shows another configuration example of the motion
Also in the motion
The
MDi = R + G + B
1フレーム遅延回路22Rは、色補間回路15から出力された原色信号Rを1フレーム期間遅延させてフレーム遅延原色信号Rdを出力する。1フレーム遅延回路22Gは、色補間回路15から出力された原色信号Gを1フレーム期間遅延させてフレーム遅延原色信号Gdを出力する。1フレーム遅延回路22Bは、色補間回路15から出力された原色信号Bを1フレーム期間遅延させてフレーム遅延原色信号Bdを出力する。
The 1-frame delay circuit 22R delays the primary color signal R output from the
1フレーム遅延回路22R、22G及び22Bにより遅延されたフレーム遅延原色信号Rd、Gd及びBdは動き量算出回路30の入力端子38R、38G及び38Bに入力される。
色加算回路(SUM)39は、入力端子38R、38G及び38Bに入力されたフレーム遅延信号Rd、Gd及びを受けて、下式のとおりフレーム遅延原色信号Rd、Gd及びBdを画素ごとに加算し遅延色加算信号MDdを生成する。
MDd=Rd+Gd+Bd
The frame delay primary color signals Rd, Gd, and Bd delayed by the one-
The color addition circuit (SUM) 39 receives the frame delay signals Rd, Gd and the input to the
MDd = Rd + Gd + Bd
差分絶対値算出回路33は、色加算信号MDiと遅延色加算信号MDdの差の絶対値を算出し、画素毎の動き量を示す信号(動き量信号)MDとして出力する。
動き量信号MDは出力端子37から出力される。
なお、遅延回路22R、22G及び22Bの遅延時間は、1フレーム期間に限らず、垂直走査周期の偶数倍であれば良い。
The difference absolute
The motion amount signal MD is output from the
Note that the delay time of the
図1に戻り、判定回路42は、動き量信号MDと動き閾値生成回路41により設定される動き閾値THに基づいて動き判定を行い、動き検出信号MVを生成する。動き検出信号MVは出力端子21Mから出力される。動き量信号MDが動き閾値THよりも大きいとき、「動き有り」と判定して動き検出信号MVを有意にする。動き量信号MDが動き閾値THよりも小さいとき、「動き無し」と判定して動き検出信号MVを無意にする。画素毎の動き検出信号MVに基づいて、画面全体の動き判定を行い、例えば非常ベルを鳴動させたり、非常照明を点灯させたりする。また、画素毎の動き検出信号MVに基づいて、画面を例えば水平8分割、垂直8分割の64の部分領域に分割して、部分領域単位での動き判定を行い、出力端子21Yから出力される輝度信号Y、及び出力端子21Cから出力される色信号Cに64個の動き検出点を重畳し、上記検出点の表示色で動きの有無を表示することとしても良い。
Returning to FIG. 1, the
制御回路20は、自動露光制御のために観測している信号積分レベルと、自動露光制御のために設定しているレンズの絞りや、固体撮像素子の露光時間や、PGAの利得から被写体の照度を推測する。推測した照度、及びレンズの絞りや、固体撮像素子の露光時間や、PGAの利得の各設定値からノイズレベルを推測し、ノイズレベル情報を動き閾値生成回路41へ供給する。照度が低いと信号レベルを確保するためPGAの利得を大きく設定するためノイズレベルは大きくなる。
The
動き閾値生成回路41は、推測したノイズレベルに応じて動き量信号MDに含まれるノイズレベルを算出する。原色信号R、G及びBのノイズレベルに動き検出を行うための加算演算、フレーム間差分演算を考慮して、動き量信号MDに含まれるノイズレベルを算出する。動き閾値生成回路41は、動き成分の方がノイズ成分よりも大きいという前提で上記動き量信号MDに含まれるノイズレベルを上回るような動き閾値THを判定回路42へ供給する。
The motion
例えば、白バランス制御後の原色信号R、G及びBから生成した輝度信号の差分に基づいて動き量を求めるように構成した場合は、制御回路20は、観測している信号積分レベルと、自動露光制御のために設定しているレンズの絞りや、固体撮像素子の露光時間や、PGAの利得から照度を推測する。推測した照度、及びレンズの絞りや、固体撮像素子の露光時間や、PGAの利得の各設定値からノイズレベルを推測する。上記ノイズレベルに、自動白バランス制御のために設定したR信号増幅回路の利得とB信号増幅回路の利得によって生じるノイズが加わったノイズレベルを推測する。
For example, when the movement amount is obtained based on the difference between the luminance signals generated from the primary color signals R, G, and B after the white balance control, the
動き閾値生成回路41は、自動白バランス制御を考慮したノイズレベルに応じて動き量信号MDに含まれるノイズレベルを算出する。動き閾値生成回路41は、動き成分の方がノイズ成分よりも大きいという前提で上記動き量信号MDに含まれるノイズレベルを上回るような動き閾値THを判定回路42へ供給する。上記動き量信号MDに含まれるノイズレベル以下の微小な動きは検出できない。
The motion threshold
以上のように、本発明では、白バランス制御による増幅処理が加えられていない原色信号R、G及びBを加算した信号に基づいて動き量を求めるように構成したので、動き量信号MDに含まれるノイズ成分が少なくなり、判定回路42の動き閾値THを小さく設定でき、微小な動きまで検出できる効果がある。
As described above, in the present invention, since the motion amount is obtained based on the signal obtained by adding the primary color signals R, G, and B to which the amplification process by the white balance control is not added, it is included in the motion amount signal MD. The noise component generated is reduced, the motion threshold TH of the
色加算回路31は、上式のとおり、白バランス制御による増幅処理が加えられていない原色信号R、G及びBを加算し、白バランス制御によって大幅にS/Nが悪化する信号を使わないので、色加算信号MDiをS/N悪化させることなく生成することができる。動き検出に使う信号のノイズ成分が少なくなり、S/Nの悪い極めて暗い低照度環境においても動きを正しく検出できる効果がある。動き閾値THを小さく設定でき、微小な動きまで検出できる効果がある。
また、輝度信号だけでなく、すべての色成分を含む信号を使って動き検出するので、色の動き変化も検出できる。輝度レベルは同じで色が異なる被写体が動いても動きを検出できる効果がある。
Since the
In addition, since motion detection is performed using not only a luminance signal but also a signal including all color components, a change in color motion can also be detected. This has the effect of detecting motion even when subjects with the same brightness level but different colors move.
動き量算出回路30は、色加算信号MDiのフレーム間差分に基づく動き量信号MDを生成する。色加算信号MDiのS/Nが高いと、フレーム間差分によって動き成分が求まるが、色加算信号MDiのS/Nが低いと、フレーム間差分には動き成分だけでなく、色加算信号MDiに含まれるノイズの差分も多く含まれることになる。そのため色加算信号MDiのS/Nが低いと、ノイズが原因で誤った動き検出結果を出力する危険性が高くなる。
The motion
撮像装置を含む監視システムでは、動きが検出されると侵入者ありと判断して警報が発せられ、非常ベルが鳴ったり、非常照明が点灯したり、警備員が駆けつけたりするようなシステムが構築されている。白バランス制御による増幅処理が加えられていない原色信号R、G及びBを加算した信号に基づいて動き検出するように構成したので、誤った動き検出結果を出力する危険性が低くなり、誤報による非常ベルや非常照明で騒がせることを防ぎ、無駄な警備員の出動を減らす効果がある。 In a surveillance system that includes an imaging device, if a motion is detected, an intruder is judged and an alarm is issued, and an emergency bell sounds, emergency lights turn on, and security guards rush Has been. Since it is configured to detect motion based on a signal obtained by adding the primary color signals R, G, and B to which amplification processing by white balance control has not been added, the risk of outputting an erroneous motion detection result is reduced, resulting in false alarms. Prevents noise from emergency bells and lights, reducing the number of useless guards.
図4の構成では、複数の色成分を加算した色加算信号のフレーム間差分を求めるのに、複数の色成分を加算した色加算信号を1フレーム遅延させるのではなく、複数の色成分のまま1フレーム遅延させて、1フレーム遅延の前後で複数の色成分を加算するように構成したので、1フレーム遅延させるためのメモリ回路を他のメモリ応用回路と共用でき、一方のメモリ回路を削減でき、部品コストや回路実装面積や消費電力を削減できる効果がある。 In the configuration of FIG. 4, in order to obtain the inter-frame difference of the color addition signal obtained by adding a plurality of color components, the color addition signal obtained by adding the plurality of color components is not delayed by one frame, but remains as a plurality of color components. Since it is configured to delay one frame and add a plurality of color components before and after one frame delay, the memory circuit for delaying one frame can be shared with other memory application circuits, and one memory circuit can be reduced. There is an effect that the component cost, the circuit mounting area and the power consumption can be reduced.
実施の形態2.
図5は本発明の実施の形態2による撮像装置を示すブロック構成図である。実施の形態2の撮像装置は、図1を参照して説明した実施の形態1の撮像装置と概して同じであるが、周辺画素加算回路47が付加されている点で異なる。なお、図5では、図1に示される構成のうち、A/D変換回路14よりも左側の部分は、図示を省略している。
Embodiment 2. FIG.
FIG. 5 is a block diagram showing an imaging apparatus according to Embodiment 2 of the present invention. The image pickup apparatus according to the second embodiment is generally the same as the image pickup apparatus according to the first embodiment described with reference to FIG. 1, but is different in that a peripheral pixel addition circuit 47 is added. In FIG. 5, in the configuration shown in FIG. 1, the portion on the left side of the A /
周辺画素加算回路47は、固体撮像素子11の色フィルタ配列に基づいて周辺画素加算を行い、原色信号Rm、Gm及びBmを出力する。
動き量算出回路30の色加算回路31は、原色信号Rm、Gm及びBmを加算し色加算信号MDiを生成する。
The peripheral pixel addition circuit 47 performs peripheral pixel addition based on the color filter array of the solid-
The
実施の形態1に関して述べたように、固体撮像素子11の色フィルタアレイは、例えば図2に示されるように構成されている。図2を参照して周辺画素加算回路47の動作を説明する。まず水平3画素、垂直3画素の範囲の周辺画素を使う場合について説明する。着目画素がG44のとき、下式で得られ得るRm(44)、Gm(44)及びBm(44)を、原色信号Rm、Gm及びBmとして出力する。
Gm(44)=(G33+G35+G44+G53+G55)/5
Bm(44)=(B43+B45)/2
Rm(44)=(R34+R54)/2
As described in connection with the first embodiment, the color filter array of the solid-
Gm (44) = (G33 + G35 + G44 + G53 + G55) / 5
Bm (44) = (B43 + B45) / 2
Rm (44) = (R34 + R54) / 2
着目画素がR54のとき、下式で得られるRm(54)、Gm(54)及びBm(54)を、原色信号Rm、Gm及びBmとして出力する。
Gm(54)=(G44+G53+G55+G64)/4
Bm(54)=(B43+B45+B63+B65)/4
Rm(54)= R54
When the pixel of interest is R54, Rm (54), Gm (54) and Bm (54) obtained by the following equations are output as primary color signals Rm, Gm and Bm.
Gm (54) = (G44 + G53 + G55 + G64) / 4
Bm (54) = (B43 + B45 + B63 + B65) / 4
Rm (54) = R54
着目画素がB45のとき、下式で得られるRm(45)、Gm(45)及びBm(45)を、原色信号Rm、Gm及びBmとして出力する。
Gm(45)=(G35+G44+G46+G55)/4
Bm(45)= B45
Rm(45)=(R34+R36+R54+R56)/4
When the pixel of interest is B45, Rm (45), Gm (45) and Bm (45) obtained by the following equation are output as primary color signals Rm, Gm and Bm.
Gm (45) = (G35 + G44 + G46 + G55) / 4
Bm (45) = B45
Rm (45) = (R34 + R36 + R54 + R56) / 4
水平5画素、垂直5画素の範囲の周辺画素を使う場合について説明する。着目画素がG44のとき、下式で得られるRm(44)、Gm(44)及びBm(44)を、原色信号Rm、Gm及びBmとして出力する。
Gm(44)=(G22+G24+G26+G33+G35+G42+G44+G46+G53+G55+G62+G64+G66)/13
Bm(44)=(B23+B25+B43+B45+B63+B65)/6
Rm(44)=(R32+R34+R36+R52+R54+R56)/6
A case where peripheral pixels in the range of 5 horizontal pixels and 5 vertical pixels are used will be described. When the pixel of interest is G44, Rm (44), Gm (44) and Bm (44) obtained by the following equations are output as primary color signals Rm, Gm and Bm.
Gm (44) = (G22 + G24 + G26 + G33 + G35 + G42 + G44 + G46 + G53 + G55 + G62 + G64 + G66) / 13
Bm (44) = (B23 + B25 + B43 + B45 + B63 + B65) / 6
Rm (44) = (R32 + R34 + R36 + R52 + R54 + R56) / 6
着目画素がR54のとき、下式で得られるRm(54)、Gm(54)及びBm(54)を、原色信号Rm、Gm及びBmとして出力する。
Gm(54)=(G33+G35+G42+G44+G46+G53+G55+G62+G64+G66+G73+G75)/12
Bm(54)=(B43+B45+B63+B65)/4
Rm(54)=(R32+R34+R36+R52+R54+R56+R72+R74+R76)/9
When the pixel of interest is R54, Rm (54), Gm (54) and Bm (54) obtained by the following equations are output as primary color signals Rm, Gm and Bm.
Gm (54) = (G33 + G35 + G42 + G44 + G46 + G53 + G55 + G62 + G64 + G66 + G73 + G75) / 12
Bm (54) = (B43 + B45 + B63 + B65) / 4
Rm (54) = (R32 + R34 + R36 + R52 + R54 + R56 + R72 + R74 + R76) / 9
着目画素がB45のとき、下式で得られるRm(45)、Gm(45)及びBm(45)を、原色信号Rm、Gm及びBmとして出力する。
Gm(45)=(G24+G26+G33+G35+G37+G44+G46+G53+G55+G57+G64+G66)/12
Bm(45)=(B23+B25+B27+B43+B45+B47+B63+B65+B67)/9
Rm(45)=(R34+R36+R54+R56)/4
When the pixel of interest is B45, Rm (45), Gm (45) and Bm (45) obtained by the following equation are output as primary color signals Rm, Gm and Bm.
Gm (45) = (G24 + G26 + G33 + G35 + G37 + G44 + G46 + G53 + G55 + G57 + G64 + G66) / 12
Bm (45) = (B23 + B25 + B27 + B43 + B45 + B47 + B63 + B65 + B67) / 9
Rm (45) = (R34 + R36 + R54 + R56) / 4
以上のように、本実施の形態では、1画素だけでなく、注目画素を中心とする近傍領域内の画素、例えば注目画素を中心に同じ距離にある周辺画素平均値を使って動き検出するので、ノイズ成分が少なくなり、S/Nの悪い極めて暗い低照度環境においても動きを正しく検出できる効果がある。近傍領域内の画素として、水平3画素、垂直3画素の範囲の周辺画素を使う場合よりも、水平5画素、垂直5画素の範囲の周辺画素、水平7画素、垂直7画素の範囲の周辺画素を使う場合の方が、色加算信号のS/Nは改善する。ベイヤ配列信号の注目画素を中心とした周辺画素から原色信号Rm、Gm及びBmを生成し、原色信号Rm、Gm及びBmを加算した信号に基づいて動き量を求めるので動き検出に使う信号のノイズ成分が少なくなり、S/Nの悪い極めて暗い低照度環境においても動きを正しく検出できる効果がある。動き閾値THを小さく設定でき、微小な動きまで検出できる効果がある。 As described above, according to the present embodiment, not only one pixel but also a pixel in a neighboring region centered on the target pixel, for example, a peripheral pixel average value having the same distance centered on the target pixel is used for motion detection. The noise component is reduced, and there is an effect that the motion can be detected correctly even in an extremely dark low light environment where the S / N is poor. Compared to the case where peripheral pixels in the range of 3 horizontal pixels and 3 vertical pixels are used as the pixels in the vicinity region, peripheral pixels in the range of 5 horizontal pixels, 5 vertical pixels, peripheral pixels in the 7 horizontal and 7 vertical pixels range The S / N of the color addition signal is improved when using. Noise of signals used for motion detection because primary color signals Rm, Gm, and Bm are generated from peripheral pixels centered on a target pixel of a Bayer array signal, and a motion amount is obtained based on a signal obtained by adding the primary color signals Rm, Gm, and Bm. There is an effect that the components can be reduced and the motion can be correctly detected even in an extremely dark low light environment where the S / N is poor. The movement threshold TH can be set small, and there is an effect that even a minute movement can be detected.
また、固体撮像素子から読み出されたベイヤ配列信号の注目画素を中心とした周辺画素を加算した信号に基づいて動き検出を行うので、画素単位での動きがより正確に検出できる。映像信号処理されて生成された輝度信号は、補間処理やフィルタ処理の影響で、撮像時点の画素位置からずれが生じる可能性があることから厳密に画素単位での動きを検出することが難しい。 In addition, since motion detection is performed based on a signal obtained by adding peripheral pixels centered on the target pixel of the Bayer array signal read from the solid-state imaging device, it is possible to more accurately detect motion in units of pixels. Since the luminance signal generated by the video signal processing may be displaced from the pixel position at the time of imaging due to the influence of the interpolation processing or the filter processing, it is difficult to detect the motion in units of pixels strictly.
実施の形態3.
図6は本発明の実施の形態3による撮像装置を示すブロック構成図である。実施の形態3の撮像装置は、図1を参照して説明した実施の形態1の撮像装置と概して同じであるが、以下のような違いがある。即ち、図6に示す撮像装置は、固体撮像素子を3枚使用する三板カメラであり、図1の撮像素子11の代りに、R成分の入射光を光電変換するための固体撮像素子11Rと、G成分の入射光を光電変換するための固体撮像素子11Gと、B成分の入射光を光電変換するための固体撮像素子11Bとを備えている。さらに、CDS回路12、PGA13及びADC14の代りに、それぞれ固体撮像素子11R、11G、11Bに対応して設けられたCDS回路12R、12G、12B、PGA13R、13G、13B、ADC14R、14G、14Bを備えている。
Embodiment 3 FIG.
FIG. 6 is a block diagram showing an imaging apparatus according to Embodiment 3 of the present invention. The imaging apparatus according to the third embodiment is generally the same as the imaging apparatus according to the first embodiment described with reference to FIG. 1, but has the following differences. That is, the image pickup apparatus shown in FIG. 6 is a three-plate camera using three solid-state image pickup devices, and instead of the
レンズ48は、被写体像を固体撮像素子11R、11G及び11Bの撮像面上に結像させる。
プリズム49は、レンズ48からの入射光をダイクロイック膜の反射によってRGBの3原色に分光する。
The
The
固体撮像素子11Rはプリズム49で分光されたR成分の入射光を光電変換し電荷転送して出力する。CDS回路12Rは、固体撮像素子11Rから出力される撮像信号のノイズ等を除去する。PGA13Rは、CDS回路12Rの出力信号を制御回路20から出力された制御信号によって制御された利得で増幅して出力する。ADC14Rは、PGA13Rの出力信号を、デジタル信号に変換して原色信号Rを出力する。
The solid-
固体撮像素子11Gはプリズム49で分光されたG成分の入射光を光電変換し電荷転送して出力する。CDS回路12Gは、固体撮像素子11Gから出力される撮像信号のノイズ等を除去する。PGA13Gは、CDS回路12Gの出力信号を制御回路20から出力された制御信号によって制御された利得で増幅して出力する。ADC14Gは、PGA13Gの出力信号を、デジタル信号に変換して原色信号Gを出力する。
The solid-
固体撮像素子11Bはプリズム49で分光されたB成分の入射光を光電変換し電荷転送して出力する。CDS回路12Bは、固体撮像素子11Bから出力される撮像信号のノイズ等を除去する。PGA13Bは、CDS回路12Bの出力信号を制御回路20から出力された制御信号によって制御された利得で増幅して出力する。ADC14Bは、PGA13Bの出力信号を、デジタル信号に変換して原色信号Bを出力する。
The solid-
図6に示される撮像装置では、図1の色補間回路15は設けられておらず、ADC14R、14G及び14Bから出力される原色信号R、G及びBが、図1の色補間回路15から出力される原色信号R、G及びBの代わりに、白バランス増幅回路16及び動き量算出回路30に供給される。
動き量算出回路30は、ADC14R、14G及び14Bから出力される原色信号R、G及びBに基づいて動き量信号MDを生成する。
In the imaging apparatus shown in FIG. 6, the
The motion
図6には、図1において、白バランス増幅回路16及び動き量算出回路30よりも右側の部分は図示を省略しているが、図1と同様に構成されている。
In FIG. 6, the portion on the right side of the white
実施の形態4.
図7は本発明の実施の形態4による撮像装置を示すブロック構成図である。実施の形態4の撮像装置は、図1を参照して説明した実施の形態1の撮像装置と概して同じであるが、ノイズ低減回路50が付加されている点で異なる。なお、図7では、図1に示される構成のうち、色補間回路15よりも左側の部分は図示を省略している。
Embodiment 4 FIG.
FIG. 7 is a block diagram showing an imaging apparatus according to Embodiment 4 of the present invention. The image pickup apparatus according to the fourth embodiment is generally the same as the image pickup apparatus according to the first embodiment described with reference to FIG. 1, but is different in that a
図7では、色マトリクス回路18から出力される輝度信号が符号「Yi」で示され、色差信号が「R−Yi」、「B−Yi」で示されている。
ノイズ低減回路50は、輝度信号Yi並びに色差信号R−Yi及びB−Yiを受けて、フレーム相関を利用した時間軸方向の平均演算に基づくノイズ低減処理を行い、輝度信号Y並びに色差信号R−Y及びB−Yを出力する。輝度信号Yは出力端子21Yから出力され、色差信号R−Y及びB−Yは色変調回路19へ供給される。
In FIG. 7, the luminance signal output from the
The
図8は、ノイズ低減回路50のうちの輝度信号Yiに対する処理を行なう部分50Yの構成例を示すブロック構成図である。なお、ノイズ低減回路50は、色差信号R−Yiに対する処理を行なう部分、及び色差信号B−Yiに対する処理を行なう部分をも有するが、これらは各々輝度信号Yiに対する処理を行なう部分50Yと同様に構成され、同様に動作するので、図示及び詳細な説明を省略する。
FIG. 8 is a block diagram illustrating a configuration example of a
ノイズ低減回路50の上記回路部分50Yは巡回型フィルタで構成されている。図8において、入力端子51には色マトリクス回路18から出力された輝度信号Yiが入力される。
合成回路(MIX)52は輝度信号Yiと後述のフレーム遅延輝度信号Ydを、合成比生成回路54により設定される所定の合成比で合成して、合成輝度信号Yを生成するものであり、映像信号合成回路とも呼ばれ、合成比は映像信号合成比生成回路とも呼ばれる。合成回路52で生成された合成輝度信号Yは出力端子55から出力される。さらに、ノイズ低減回路50は、映像信号ノイズ低減回路とも呼ばれる。
The
A synthesis circuit (MIX) 52 synthesizes a luminance signal Yi and a frame delay luminance signal Yd, which will be described later, at a predetermined synthesis ratio set by the synthesis
1フレーム遅延回路53は、合成回路52から出力された合成輝度信号Yを1フレーム期間遅延させてフレーム遅延輝度信号Ydを出力する。
The 1-
入力端子56には動き量算出回路30から出力された動き量信号MDが入力される。入力端子57には制御回路20から出力されたノイズ低減特性設定値KCONが入力される。
A motion amount signal MD output from the motion
合成比生成回路54は、制御回路20により設定されるノイズ低減特性設定値KCONに基づいて、動き量算出回路30から出力された動き量信号MDに対応するノイズ低減係数K(0≦K≦1)を求めて合成回路52へ供給する。
合成回路52は、合成比生成回路54により設定されたノイズ低減係数Kに基づいて輝度信号Yiとフレーム遅延輝度信号Ydを合成する。
なお、遅延回路53の遅延時間は、1フレーム期間に限らず、垂直走査周期の偶数倍であれば良い。
Based on the noise reduction characteristic setting value KCON set by the
The combining
The delay time of the
図9は、合成回路52の構成例を示すブロック構成図である。図9において、入力端子61は入力端子51に供給される輝度信号Yiが入力される。入力端子62には1フレーム遅延回路53から出力されるフレーム遅延輝度信号Ydが入力される。入力端子67には合成比生成回路54から出力されるノイズ低減係数Kが入力される。乗算回路63は輝度信号Yiと1−Kを乗算し、(1−K)・Yiを出力する。乗算回路64はフレーム遅延輝度信号YdとKを乗算し、K・Ydを出力する。加算回路65は、下式に基づいて(1−K)・YiとK・Ydを加算し輝度信号Yを出力する。
Y=(1−K)・Yi+K・Yd
加算回路65から出力される輝度信号Yは出力端子66を介して出力される。
FIG. 9 is a block configuration diagram illustrating a configuration example of the
Y = (1−K) · Yi + K · Yd
The luminance signal Y output from the
ノイズ低減係数Kは、巡回係数とも呼ばれるものであり、ノイズ低減係数Kを大きくすると、フレーム遅延輝度信号Ydの占める割合が大きくなり、ノイズ低減効果は大きくなるが、動きがある部分で画像がぼやける弊害も大きくなる。ノイズ低減係数Kを小さくすると、輝度信号Yiの占める割合が大きくなり、ノイズ低減効果が小さくなるが、動きがある部分で画像がぼやける弊害は小さくなる。 The noise reduction coefficient K is also called a cyclic coefficient. When the noise reduction coefficient K is increased, the proportion of the frame delay luminance signal Yd increases and the noise reduction effect increases, but the image is blurred in a portion where there is motion. The harmful effect is also increased. When the noise reduction coefficient K is reduced, the proportion of the luminance signal Yi increases, and the noise reduction effect is reduced. However, the adverse effect of blurring the image in a portion where there is motion is reduced.
図8の合成比生成回路54は、動き量信号MDに対応したノイズ低減係数Kを画素ごとに生成する。動き量信号MDから、ノイズ低減特性設定値KCONに基づいてノイズ低減係数Kを生成する。制御回路20により設定されるノイズ低減特性設定値KCONには、ノイズ低減係数Kの最大値、最小値や、動画判定の閾値、静止画判定の閾値が含まれている。合成比生成回路54は、制御回路20により設定されるノイズ低減特性設定値KCONをパラメータとして、動き量信号MDに対応したノイズ低減係数Kを生成する。例えば、動き量信号MDが上記動画判定の閾値よりも大きいとき(動きの量が大きく動画と判定されたとき)ノイズ低減係数Kを上記最小値に設定して、動きによるぼやけを軽減する。動き量信号MDが上記静止画判定の閾値よりも小さいとき(動きの量が少なく静止画と判定されたとき)ノイズ低減係数Kを上記最大値に設定して、ノイズを低減する。
The synthesis
本実施の形態では、白バランス制御による増幅処理が加えられていない原色信号R、G及びBを加算した信号に基づいて動き量信号MDを求めるように構成したので、動き量信号MDに含まれるノイズ成分が少なくなり、動き量信号MDに含まれるノイズ成分の影響によるノイズ低減係数Kの誤った設定がなくなり、動きによるぼやけが少なく、ノイズ低減された画像が得られる効果がある。また、合成比生成回路54は、ノイズの少ない動き量に基づいてノイズ低減係数Kを最適に設定でき、ぼやけが少なく、ノイズ低減された画像が得られる効果がある。
In the present embodiment, since the motion amount signal MD is obtained based on the signal obtained by adding the primary color signals R, G, and B to which the amplification process by the white balance control is not added, it is included in the motion amount signal MD. The noise component is reduced, the erroneous setting of the noise reduction coefficient K due to the influence of the noise component included in the motion amount signal MD is eliminated, there is less blur due to motion, and an image with reduced noise can be obtained. In addition, the synthesis
実施の形態5.
図10は本発明の実施の形態5による撮像装置を示すブロック構成図である。実施の形態5の撮像装置は、図7を参照して説明した実施の形態4の撮像装置と概して同じであるが、周辺画素加算回路47が付加されている点で異なる。なお、図10でも、A/D変換回路14よりも左側の部分は図示を省略しているが、例えば、図1に示されるのと同様の構成とすることができる。
Embodiment 5 FIG.
FIG. 10 is a block diagram showing an imaging apparatus according to Embodiment 5 of the present invention. The image pickup apparatus according to the fifth embodiment is generally the same as the image pickup apparatus according to the fourth embodiment described with reference to FIG. 7, but is different in that a peripheral pixel addition circuit 47 is added. In FIG. 10, the left side of the A /
周辺画素加算回路47は、固体撮像素子11の色フィルタ配列に基づいて周辺画素加算を行い、原色信号Rm、Gm及びBmを出力する。
動き量算出回路30の色加算回路31は、原色信号Rm、Gm及びBmを加算し色加算信号MDiを生成する。
周辺画素加算回路47は実施の形態2に関して図5を参照して説明したのと同様に動作し、同様な効果を奏するので説明を省略する。
The peripheral pixel addition circuit 47 performs peripheral pixel addition based on the color filter array of the solid-
The
The peripheral pixel adding circuit 47 operates in the same manner as described with reference to FIG. 5 with respect to the second embodiment, and provides the same effect, so that the description thereof is omitted.
本実施の形態でも、1画素だけでなく、注目画素を中心とする近傍領域内の画素、例えば、注目画素を中心に同じ距離にある周辺画素平均値を使って動き検出するので、ノイズ成分が少なくなり、S/Nの悪い極めて暗い低照度環境においても動きを正しく検出できる効果がある。近傍領域内の画素として、水平3画素、垂直3画素の範囲の周辺画素を使う場合よりも、水平5画素、垂直5画素の範囲の周辺画素、水平7画素、垂直7画素の範囲の周辺画素を使う場合の方が、色加算信号のS/Nは改善する。ベイヤ配列信号の注目画素を中心とした周辺画素から原色信号Rm、Gm及びBmを生成し、原色信号Rm、Gm及びBmを加算した信号に基づいて動き量を求めるので動き検出に使う信号のノイズ成分が少なくなり、S/Nの悪い極めて暗い低照度環境においても動きを正しく検出できる効果がある。動き閾値THを小さく設定でき、微小な動きまで検出できる効果がある。 Also in this embodiment, since the motion detection is performed using not only one pixel but also a pixel in a neighboring region centered on the target pixel, for example, an average value of peripheral pixels at the same distance centering on the target pixel, There is an effect that motion can be correctly detected even in an extremely dark low-light environment where the S / N is poor. Compared to the case where peripheral pixels in the range of 3 horizontal pixels and 3 vertical pixels are used as the pixels in the vicinity region, peripheral pixels in the range of 5 horizontal pixels, 5 vertical pixels, peripheral pixels in the 7 horizontal and 7 vertical pixels range The S / N of the color addition signal is improved when using. Noise of signals used for motion detection because primary color signals Rm, Gm, and Bm are generated from peripheral pixels centered on a target pixel of a Bayer array signal, and a motion amount is obtained based on a signal obtained by adding the primary color signals Rm, Gm, and Bm. There is an effect that the components can be reduced and the motion can be correctly detected even in an extremely dark low light environment where the S / N is poor. The movement threshold TH can be set small, and there is an effect that even a minute movement can be detected.
本実施の形態では、1画素だけでなく、注目画素を中心とする近傍領域内の画素、例えば、注目画素を中心に同じ距離にある周辺画素平均値を使って動き量を求めるように構成したので、動き量信号MDに含まれるノイズ成分が少なくなり、動き量信号MDに含まれるノイズ成分の影響によるノイズ低減係数Kの誤った設定がなくなり、動きによるぼやけが少なく、ノイズ低減された画像が得られる効果がある。 In the present embodiment, not only one pixel but also a pixel in the vicinity region centered on the target pixel, for example, a peripheral pixel average value at the same distance centered on the target pixel is used to determine the amount of motion. Therefore, the noise component included in the motion amount signal MD is reduced, the erroneous setting of the noise reduction coefficient K due to the influence of the noise component included in the motion amount signal MD is eliminated, the blur due to motion is small, and the noise-reduced image is obtained. There is an effect to be obtained.
実施の形態6.
図11は本発明の実施の形態6による撮像装置を示すブロック構成図である。実施の形態6の撮像装置は、図1を参照して説明した実施の形態1の撮像装置と概して同じであるが、画素加算回路70が付加されている点で異なる。なお、図11では、図1に示された構成のうち、色補間回路15よりも左側の部分の図示が省略されている。
Embodiment 6 FIG.
FIG. 11 is a block diagram showing an imaging apparatus according to Embodiment 6 of the present invention. The image pickup apparatus according to the sixth embodiment is generally the same as the image pickup apparatus according to the first embodiment described with reference to FIG. 1 except that a
図11では、図7と同様に、色マトリクス回路18から出力される輝度信号が符号「Yi」で示され、色差信号が「R−Yi」、「B−Yi」で示されている。
画素加算回路70は、輝度信号Yi並びに色差信号R−Yi及びB−Yiを受けて、フレーム相関を利用した時間軸方向の画素加算による高感度化処理を行い、輝度信号Y並びに色差信号R−Y及び色差信号B−Yを出力する。輝度信号Yは出力端子21Yから出力され、色差信号R−Y及び色差信号B−Yは色変調回路19へ供給される。
In FIG. 11, as in FIG. 7, the luminance signal output from the
The
図12は、画素加算回路70のうちの輝度信号Yiに対する処理を行なう部分70Yの構成例を示すブロック構成図である。なお、画素加算回路70は、色差信号R−Yiに対する処理を行なう部分、及び色差信号B−Yiに対する処理を行なう部分をも有するが、これらは各々輝度信号Yiに対する処理を行なう部分70Yと同様に構成され、同様に動作するので、図示及び詳細な説明を省略する。
FIG. 12 is a block diagram illustrating a configuration example of a
図12において、入力端子71には色マトリクス回路18から出力された輝度信号Yiが入力される。
1フィールド遅延回路72は、入力端子71から入力された輝度信号Yiを1フィールド期間遅延させてフィールド遅延輝度信号Yjを出力する。
1フィールド遅延回路73は、フィールド遅延輝度信号Yjを1フィールド期間遅延させてフレーム遅延輝度信号Ykを出力する。
面内画素加算回路74はフィールド遅延輝度信号Yjの同一フィールド内で面内画素加算を行って面内画素加算信号Yvを出力する。
面間画素加算回路75は、輝度信号Yiとフィールド遅延輝度信号Yjとフレーム遅延輝度信号Ykのフィールド間で面間画素加算を行って面間画素加算信号Yfを出力する。
入力端子79には動き量算出回路30から出力された動き量信号MDが入力される。
合成比生成回路(KG)77は、入力端子79を介して供給された動き量信号MDに基づいて合成比を決定する。
合成回路(MIX回路)76は、面内画素加算信号Yvと面間画素加算信号Yfを、合成比生成回路77で決定された所定の合成比で合成し、合成輝度信号Yを生成するものであり、映像信号合成回路とも呼ばれ、合成比生成回路77は、映像信号合成比生成回路とも呼ばれる。さらに画素加算回路70は、映像信号画素加算回路とも呼ばれる。
合成回路76で生成された合成輝度信号Yは出力端子78から出力される。
なお、遅延回路72及び73の遅延時間は、1フィールド期間に限らず、垂直走査周期の整数倍(1倍を含む)であれば良い。
In FIG. 12, the luminance signal Yi output from the
The one-
The one-
The in-plane
The inter-plane
A motion amount signal MD output from the motion
The composition ratio generation circuit (KG) 77 determines a composition ratio based on the motion amount signal MD supplied via the
The synthesis circuit (MIX circuit) 76 synthesizes the in-plane pixel addition signal Yv and the inter-plane pixel addition signal Yf at a predetermined synthesis ratio determined by the synthesis
The combined luminance signal Y generated by the combining
Note that the delay time of the
例えば、動き量信号MDが大きいとき面内画素加算信号Yvが大きな割合を占め、動き量信号MDが小さいとき面間画素加算信号Yfが大きな割合を占めるように制御することで、動きによるぼやけを軽減しながら高感度化する。非常に低照度な環境でも、動きによるぼやけを軽減しながら十分な信号振幅が確保でき、被写体の視認性が良くなる。 For example, by controlling so that the in-plane pixel addition signal Yv occupies a large proportion when the motion amount signal MD is large and the inter-plane pixel addition signal Yf occupies a large proportion when the motion amount signal MD is small, blur due to motion is suppressed. Increase sensitivity while reducing. Even in a very low-light environment, sufficient signal amplitude can be secured while reducing blur due to movement, and the visibility of the subject is improved.
図13を参照して面内画素加算回路74で加算される信号の空間的位置関係を説明する。図13は、縦に垂直軸、横に水平軸をとった飛び越し走査方式の映像信号の画素配置図である。ライン1からライン263の真ん中までがAフィールドの走査線、ライン263の真ん中からライン525までがBフィールドの走査線に対応する。また実線でAフィールドの走査線を、破線でBフィールドの走査線を表記している。面内画素加算回路74は、注目画素P22に対して、同じフィールド内の、注目画素P22を中心とする近傍の領域内の画素、例えば、同じフィールドの上下左右に位置する画素T22、B22、L22、R22の画素値を加えて面内画素加算信号Yvを生成する。面内画素加算信号Yvは次式で算出する。
Yv=P22+T22+B22+L22+R22
A spatial positional relationship of signals added by the in-plane
Yv = P22 + T22 + B22 + L22 + R22
図14を参照して面間画素加算回路75で加算される信号の空間的位置関係を説明する。図14は、縦に垂直軸、横に時間軸をとった飛び越し走査方式の映像信号の画素配置図である。1フレーム目のAフィールドを1A、1フレーム目のBフィールドを1B、2フレーム目のAフィールドを2A、2フレーム目のBフィールドを2B、3フレーム目のAフィールドを3Aと表記している。また実線でAフィールドの画面を、破線でBフィールドの画面を表記している。図において、フィールド周期は1/60秒、フレーム周期は1/30秒である。面間画素加算回路75は、注目画素P22に対して、隣接フィールド内において、注目画素を中心とする近傍の領域内に位置する画素、例えば、上下方向に隣接する画素、即ち最も近くに位置する画素P11、P13、P31、P33の画素値を加えて面間画素加算信号Yfを生成する。面間画素加算信号Yfは次式で算出する。
Yf=P22+P11+P13+P31+P33
The spatial positional relationship of signals added by the inter-plane
Yf = P22 + P11 + P13 + P31 + P33
さらに図13を参照して面間画素加算回路75で加算される信号の空間的位置関係を説明する。面間画素加算回路75は、注目画素P22に対して、隣接フィールドの上下方向に隣接する画素、即ち最も近くに位置する画素P11、P13、P31、P33の画素値を加えて面間画素加算信号Yfを生成する。図13の縦に垂直軸、横に水平軸をとった空間では、画素P11と画素P31、画素P13と画素P33は重なって見える。
Further, the spatial positional relationship of signals added by the inter-plane
本実施の形態でも、白バランス制御による増幅処理が加えられていない原色信号R、G及びBを加算した信号に基づいて動き量を求めるように構成したので、
動き量信号MDに含まれるノイズ成分が少なくなり、動き量信号MDに含まれるノイズ成分の影響による面内画素加算信号Yvと面間画素加算信号Yfの合成処理に誤動作がなくなり、動きによるぼやけを軽減しながら十分な信号振幅が確保でき、被写体の視認性が良くなる効果がある。
また、合成比生成回路77は、ノイズの少ない動き量信号MDに基づいて、合成回路76における、合成比を最適に設定するので、動きによるぼやけを軽減しながら十分な信号振幅が確保でき、被写体の視認性が良くなる効果がある。
Even in the present embodiment, since the movement amount is obtained based on the signal obtained by adding the primary color signals R, G, and B to which the amplification process by the white balance control is not added,
The noise component included in the motion amount signal MD is reduced, and there is no malfunction in the synthesis processing of the in-plane pixel addition signal Yv and the inter-plane pixel addition signal Yf due to the influence of the noise component included in the motion amount signal MD, and blur due to motion is eliminated. Sufficient signal amplitude can be secured while reducing, and the visibility of the subject is improved.
Further, since the synthesis
上記の例では、面内画素加算74の動作を1フィールド内の画素の加算、面間画素加算回路75の動作をフィールド間の画素の加算としたが、それぞれを1フレーム内の画素の加算、フレーム間の画素の加算を行うように構成しても良い。その場合にも、同様に動作し、同様な効果が得られる。
In the above example, the operation of the in-
実施の形態7.
図15は本発明の実施の形態7による撮像装置を示すブロック構成図である。実施の形態7の撮像装置は、図11を参照して説明した実施の形態6の撮像装置と概して同じであるが、周辺画素加算回路47が付加されている点で異なる。なお、図15でも、A/D変換回路14よりも左側の部分は図示を省略しているが、例えば、図1に示されるのと同様の構成とすることができる。
Embodiment 7 FIG.
FIG. 15 is a block diagram showing an imaging apparatus according to Embodiment 7 of the present invention. The image pickup apparatus according to the seventh embodiment is generally the same as the image pickup apparatus according to the sixth embodiment described with reference to FIG. 11 except that a peripheral pixel addition circuit 47 is added. In FIG. 15, the portion on the left side of the A /
周辺画素加算回路47は、固体撮像素子11の色フィルタ配列に基づいて周辺画素加算を行い、原色信号Rm、Gm及びBmを出力する。
動き量算出回路30の色加算回路31は、原色信号Rm、Gm及びBmを加算し色加算信号MDiを生成する。
周辺画素加算回路47は実施の形態2に関して図5を参照して説明したのと同様に動作し、同様な効果を奏するので説明を省略する。
The peripheral pixel addition circuit 47 performs peripheral pixel addition based on the color filter array of the solid-
The
The peripheral pixel adding circuit 47 operates in the same manner as described with reference to FIG. 5 with respect to the second embodiment, and provides the same effect, so that the description thereof is omitted.
本実施の形態では、1画素だけでなく、注目画素を中心とする近傍領域内の画素、例えば、注目画素を中心に同じ距離にある周辺画素平均値を使って動き検出するので、ノイズ成分が少なくなり、S/Nの悪い極めて暗い低照度環境においても動きを正しく検出できる効果がある。近傍領域内の画素として、水平3画素、垂直3画素の範囲の周辺画素を使う場合よりも、水平5画素、垂直5画素の範囲の周辺画素、水平7画素、垂直7画素の範囲の周辺画素を使う場合の方が、色加算信号のS/Nは改善する。ベイヤ配列信号の注目画素を中心とした周辺画素から原色信号Rm、Gm及びBmを生成し、原色信号Rm、Gm及びBmを加算した信号に基づいて動き量を求めるので動き検出に使う信号のノイズ成分が少なくなり、S/Nの悪い極めて暗い低照度環境においても動きを正しく検出できる効果がある。動き閾値THを小さく設定でき、微小な動きまで検出できる効果がある。 In this embodiment, since the motion detection is performed using not only one pixel but also a pixel in a neighboring region centered on the target pixel, for example, an average value of peripheral pixels at the same distance centering on the target pixel, There is an effect that motion can be correctly detected even in an extremely dark low-light environment where the S / N is poor. Compared to the case where peripheral pixels in the range of 3 horizontal pixels and 3 vertical pixels are used as the pixels in the vicinity region, peripheral pixels in the range of 5 horizontal pixels, 5 vertical pixels, peripheral pixels in the 7 horizontal and 7 vertical pixels range The S / N of the color addition signal is improved when using. Noise of signals used for motion detection because primary color signals Rm, Gm, and Bm are generated from peripheral pixels centered on a target pixel of a Bayer array signal, and a motion amount is obtained based on a signal obtained by adding the primary color signals Rm, Gm, and Bm. There is an effect that the components can be reduced and the motion can be correctly detected even in an extremely dark low light environment where the S / N is poor. The movement threshold TH can be set small, and there is an effect that even a minute movement can be detected.
また、1画素だけでなく、注目画素を中心とする近傍領域内の画素、例えば、注目画素を中心に同じ距離にある周辺画素平均値を使って動き量を求めるように構成したので、
動き量信号MDに含まれるノイズ成分が少なくなり、動き量信号MDに含まれるノイズ成分の影響による面内画素加算信号Yvと面間画素加算信号Yfの合成処理に誤動作がなくなり、動きによるぼやけを軽減しながら十分な信号振幅が確保でき、被写体の視認性が良くなる効果がある。
In addition, since not only one pixel but also a pixel in a neighboring area centered on the target pixel, for example, a peripheral pixel average value at the same distance centered on the target pixel, the amount of motion is obtained.
The noise component included in the motion amount signal MD is reduced, and there is no malfunction in the synthesis processing of the in-plane pixel addition signal Yv and the inter-plane pixel addition signal Yf due to the influence of the noise component included in the motion amount signal MD, and blur due to motion is eliminated. Sufficient signal amplitude can be secured while reducing, and the visibility of the subject is improved.
実施の形態8.
図16は本発明の実施の形態8による撮像装置を示すブロック構成図である。実施の形態8の撮像装置は、図1を参照して説明した実施の形態1の撮像装置と概して同じであるが、ノイズ低減回路90R、90G及び90Bが付加されている点で異なる。図16では、図1に示される構成のうち、色補間回路15よりも左側の部分並びに白バランス増幅回路16及び動き量算出回路30よりも右側の部分は、図示を省略している。
FIG. 16 is a block diagram showing an imaging apparatus according to
ノイズ低減回路90R、90G及び90Bの各々は、図8及び図9を参照して説明したのノイズ低減回路50Yと同様の構成を有する。即ち、ノイズ低減回路90Rは、合成回路(MIX)92Rと、1フレーム期間遅延回路(FDL)93Rと、合成比生成回路(KG)94Rとを有する。ノイズ低減回路90Gは、合成回路92Gと、1フレーム期間遅延回路93Gと、合成比生成回路94Gとを有する。ノイズ低減回路90Bは、合成回路92Bと、1フレーム期間遅延回路93Bと、合成比生成回路94Bとを有する。
Each of the
合成回路92Rは、色補間回路15から出力される原色信号Rとフレーム遅延原色信号Rdを、合成比生成回路94Rにより設定される所定の合成比で合成し、合成原色信号Rnを生成する。合成回路92Rで生成された合成原色信号RnはR信号増幅回路16Rへ供給される。1フレーム遅延回路93Rは、合成回路92Rから出力された原色信号Rnを1フレーム期間遅延させてフレーム遅延原色信号Rdを出力する。合成比生成回路94Rは、制御回路20により設定されるノイズ低減特性設定値KCONに基づいて、動き量算出回路30から出力された動き量信号MDに対応するノイズ低減係数Kを求めて合成回路92Rへ供給する。合成回路92Rは、合成比生成回路94Rにより設定されたノイズ低減係数Kに基づいて原色信号Rとフレーム遅延原色信号Rdを合成する。
The
合成回路92R、1フレーム遅延回路93R、合成比生成回路94Rの詳細な動作は、上記実施の形態4に関し、図8を参照して説明した合成回路52、1フレーム遅延回路53、合成比生成回路54の動作と同様であり、詳細な説明は省略する。
Detailed operations of the combining
合成回路92Gは色補間回路15から出力される原色信号Gとフレーム遅延原色信号Gdを、合成比生成回路94Gにより設定される所定の合成比で合成して合成原色信号Gnを生成する。合成回路92Gで生成された合成原色信号Gnは信号レベル検出回路17及び色マトリクス回路18へ供給される。1フレーム遅延回路93Gは、合成回路92Gから出力された原色信号Gnを1フレーム期間遅延させてフレーム遅延原色信号Gdを出力する。合成比生成回路94Gは、制御回路20により設定されるノイズ低減特性設定値KCONに基づいて、動き量算出回路30から出力された動き量信号MDに対応するノイズ低減係数Kを求めて合成回路92Gへ供給する。合成回路92Gは、合成比生成回路94Gにより設定されたノイズ低減係数Kに基づいて原色信号Gとフレーム遅延原色信号Gdを合成する。
The combining
合成回路92G、1フレーム遅延回路93G、合成比生成回路94Gの詳細な動作は、上記実施の形態4に関して図8を参照して説明した合成回路52、1フレーム遅延回路53、合成比生成回路54の動作と同様であり、詳細な説明は省略する。
Detailed operations of the combining
合成回路92Bは色補間回路15から出力される原色信号Bとフレーム遅延原色信号Bdを、合成比生成回路94Bにより設定される所定の合成比で合成して合成原色信号Bnを生成する。合成回路92Bで生成された合成原色信号BnはB信号増幅回路16Bへ供給される。1フレーム遅延回路93Bは、合成回路92Bから出力された原色信号Bnを1フレーム期間遅延させてフレーム遅延原色信号Bdを出力する。合成比生成回路94Bは、制御回路20により設定されるノイズ低減特性設定値KCONに基づいて、動き量算出回路30から出力された動き量信号MDに対応するノイズ低減係数Kを求めて合成回路92Bへ供給する。合成回路92Bは、合成比生成回路94Bにより設定されたノイズ低減係数Kに基づいて原色信号Bとフレーム遅延原色信号Bdを合成する。
The
合成回路92B、1フレーム遅延回路93B、合成比生成回路94Bの詳細な動作は、上記実施の形態4に関して図8を参照して説明した合成回路52、1フレーム遅延回路53、合成比生成回路54の動作と同様であり、詳細な説明は省略する。
Detailed operations of the combining
合成回路92R、92G及び92Bは、合成回路(映像信号合成回路)52と同様のものであるが、区別のため撮像信号合成回路とも呼ばれ、合成比生成回路94R、94G及び94Bは、合成比生成回路(映像信号合成比生成回路)54と同様のものであるが、区別のため撮像信号合成比生成回路とも呼ばれる。さらに、ノイズ低減回路90R、90G及び90Bは、ノイズ低減回路50との区別のため、撮像信号ノイズ低減回路とも呼ばれる。
The combining
なお、遅延回路93R、93G及び93Bの遅延時間は、1フレーム期間に限らず、垂直走査周期の偶数倍であれば良い。
Note that the delay time of the
動き量算出回路30の色加算回路31は、下式のとおり原色信号R、G及びBを画素ごとに加算し色加算信号MDiを生成する。
MDi=R+G+B
The
MDi = R + G + B
色加算回路39は、下式のとおりフレーム遅延原色信号Rd、Gd及びBdを画素ごとに加算し色加算信号MDdを生成する。
MDd=Rd+Gd+Bd
The
MDd = Rd + Gd + Bd
差分絶対値算出回路33は、信号MDiと信号MDdの差の絶対値を求めて、画素毎の動き量を示す動き量信号MDとして出力する。
動き量信号MDは判定回路42、並びに合成比生成回路94R、94G及び94Bへ供給される。
The difference absolute
The motion amount signal MD is supplied to the
本実施の形態では、動き量算出回路30で複数の色成分を加算した色加算信号MDiのフレーム間差分を求めるのに、ノイズ低減回路90R、90G及び90Bで生成される1フレーム遅延した複数の色成分(Rd,Gd、Bd)を加算して、1フレーム遅延した色加算信号MDdを生成するように構成したので、1フレーム遅延させるためのメモリ回路をノイズ低減回路と共用でき、動き検出のためのメモリ回路を削減でき、部品コストや回路実装面積や消費電力を削減できる効果がある。また、ノイズ低減回路90R、90G及び90Bから出力された複数の色成分を加算して、1フレーム遅延した色加算信号MDdを生成するように構成したので、動き検出に使う信号のノイズ成分がさらに少なくなり、S/Nの悪い極めて暗い低照度環境においても動きを正しく検出できる効果がある。
In the present embodiment, in order to obtain the inter-frame difference of the color addition signal MDi obtained by adding a plurality of color components by the motion
実施の形態9.
図17は本発明の実施の形態9による撮像装置を示すブロック構成図である。実施の形態9の撮像装置は、図1を参照して説明した実施の形態1の撮像装置と概して同じであるが、画素加算回路100R、100G及び100Bが付加されている点で異なる。なお、図17でも、図1に示される構成のうち、色補間回路15よりも左側の部分並びに白バランス増幅回路16及び動き量算出回路30よりも右側の部分は、図示を省略している。
Embodiment 9 FIG.
FIG. 17 is a block diagram showing an imaging apparatus according to Embodiment 9 of the present invention. The image pickup apparatus according to the ninth embodiment is generally the same as the image pickup apparatus according to the first embodiment described with reference to FIG. 1 except that
画素加算回路100R、100G及び100Bの各々は、図12を参照して説明した画素加算回路70Yと同様の構成を有する。即ち、画素加算回路100Rは、1フィールド遅延回路(VDL)102R及び103Rと、面内画素加算回路(VADD)104Rと、面間画素加算回路(FADD)105Rと、合成回路(MIX)106Rと、合成比生成回路(KG)107Rとを備えている。画素加算回路100Gは、1フィールド遅延回路102G及び103Gと、面内画素加算回路104Gと、面間画素加算回路105Gと、合成回路106Gと、合成比生成回路107Gとを備えている。画素加算回路100Bは、1フィールド遅延回路102B及び103Bと、面内画素加算回路104Bと、面間画素加算回路105Bと、合成回路106Bと、合成比生成回路107Bとを備えている。
Each of the
1フィールド遅延回路102Rは、色補間回路15から出力された原色信号Rを1フィールド期間遅延させてフィールド遅延原色信号Rjを出力する。1フィールド遅延回路15は、フィールド遅延原色信号Rjを1フィールド期間遅延させてフレーム遅延原色信号Rkを出力する。面内画素加算回路104Rはフィールド遅延原色信号Rjの同一フィールド内で面内画素加算を行って面内画素加算信号Rvを出力する。面間画素加算回路105Rは、原色信号Rとフィールド遅延原色信号Rjとフレーム遅延原色信号Rkのフィールド間で面間画素加算を行って面間画素加算信号Rfを出力する。合成回路106Rは、面内画素加算信号Rvと面間画素加算信号Rfを、合成比生成回路107Rで決定された所定の合成比で合成する。合成回路106Rで面内画素加算信号Rvと面間画素加算信号Rfを合成して生成された原色信号RaはR信号増幅回路16Rへ供給される。
The one-
1フィールド遅延回路102R及び103R、面内画素加算回路104R、面間画素加算回路105R、合成回路106R及び合成比生成回路107Rの詳細な動作は、上記実施の形態6に関して図12を参照して説明した1フィールド遅延回路72、1フィールド遅延回路73、面内画素加算回路74、面間画素加算回路75、合成回路76及び合成比生成回路77の動作と同様であり、詳細な説明は省略する。
Detailed operations of the one-
1フィールド遅延回路102Gは、色補間回路15から出力された原色信号Gを1フィールド期間遅延させてフィールド遅延原色信号Gjを出力する。1フィールド遅延回路25は、フィールド遅延原色信号Gjを1フィールド期間遅延させてフレーム遅延原色信号Gkを出力する。面内画素加算回路104Gはフィールド遅延原色信号Gjの同一フィールド内で面内画素加算を行って面内画素加算信号Gvを出力する。面間画素加算回路105Gは、原色信号Gとフィールド遅延原色信号Gjとフレーム遅延原色信号Gkのフィールド間で面間画素加算を行って面間画素加算信号Gfを出力する。合成回路106Gは、面内画素加算信号Gvと面間画素加算信号Gfを、合成比生成回路107Gで決定された所定の合成比で合成する。合成回路106Gで面内画素加算信号Gvと面間画素加算信号Gfを合成して生成された原色信号Gaは信号レベル検出回路17及び色マトリクス回路18へ供給される。
The 1-
1フィールド遅延回路102G及び103G、面内画素加算回路104G、面間画素加算回路105G、合成回路106G及び合成比生成回路107Gの詳細な動作は、上記実施の形態6に関して図12を参照して説明した1フィールド遅延回路72、1フィールド遅延回路73、面内画素加算回路74、面間画素加算回路75、合成回路76及び合成比生成回路77の動作と同様であり、詳細な説明は省略する。
Detailed operations of the 1-
1フィールド遅延回路102Bは、色補間回路15から出力された原色信号Bを1フィールド期間遅延させてフィールド遅延原色信号Bjを出力する。1フィールド遅延回路35は、フィールド遅延原色信号Bjを1フィールド期間遅延させてフレーム遅延原色信号Bkを出力する。面内画素加算回路104Bはフィールド遅延原色信号Bjの同一フィールド内で面内画素加算を行って面内画素加算信号Bvを出力する。面間画素加算回路105Bは、原色信号Bとフィールド遅延原色信号Bjとフレーム遅延原色信号Bkのフィールド間で面間画素加算を行って面間画素加算信号Bfを出力する。合成回路106Bは、面内画素加算信号Bvと面間画素加算信号Bfを、合成比生成回路107Bで決定された所定の合成比で合成する。合成回路106Bで面内画素加算信号Bvと面間画素加算信号Bfを合成して生成された原色信号BaはB信号増幅回路16Bへ供給される。
The 1-
1フィールド遅延回路102B及び103B、面内画素加算回路104B、面間画素加算回路105B、合成回路106B及び合成比生成回路107Bの詳細な動作は、上記実施の形態6に関して図12を参照して説明した1フィールド遅延回路72、1フィールド遅延回路73、面内画素加算回路74、面間画素加算回路75、合成回路76及び合成比生成回路77の動作と同様であり、詳細な説明は省略する。
Detailed operations of the 1-
合成回路106R、106G及び106Bは、合成回路(映像信号合成回路)76と同様のものであるが、区別のため撮像信号合成回路とも呼ばれ、合成比生成回路107R、107G及び107Bは、合成比生成回路(映像信号合成比生成回路)77と同様のものであるが、区別のため撮像信号合成比生成回路とも呼ばれる。さらに、画素加算回路100R、100G及び100Bは、画素加算回路70との区別のため、撮像信号画素加算回路とも呼ばれる。
The synthesizing
なお、遅延回路102R、103R、102G、103G、102B及び103Bの遅延時間は、1フィールド期間に限らず、垂直走査周期の整数倍(1倍を含む)であれば良い。
Note that the delay time of the
動き量算出回路30の色加算回路31は、下式のとおり原色信号R、G及びBを画素ごとに加算し色加算信号MDiを生成する。
MDi=R+G+B
The
MDi = R + G + B
色加算回路39は、下式のとおりフレーム遅延原色信号Rkとフレーム遅延原色信号Gkとフレーム遅延原色信号Bkを画素ごとに加算し色加算信号MDdを生成する。
MDd=Rk+Gk+Bk
The
MDd = Rk + Gk + Bk
差分絶対値算出回路33は、信号MDiから信号MDdを差引いた値の絶対値を、画素毎の動き量を示す動き量信号MDとして出力する。動き量信号MDは判定回路42及び合成比生成回路107R、107G、107Bへ供給される。
The difference absolute
合成比生成回路107R、107G、107Bは、動き量信号MDに基づいてそれぞれ合成回路106R、106G、106Bにおける合成比を決定する。
The synthesis
本実施の形態では、動き量算出回路30で複数の色成分を加算した色加算信号MDiのフレーム間差分を求めるのに、画素加算回路100R、100G及び100Bで生成される1フレーム遅延した複数の色成分(Rk、Gk及びBk)を加算して、1フレーム遅延した色加算信号MDdを生成するように構成したので、1フレーム遅延させるためのメモリ回路を画素加算回路100R、100G及び100Bと共用でき、動き検出のためのメモリ回路を削減でき、部品コストや回路実装面積や消費電力を削減できる効果がある。
In the present embodiment, in order to obtain the inter-frame difference of the color addition signal MDi obtained by adding a plurality of color components by the motion
上記各実施の形態において、フレーム相関を利用したノイズ低減回路に基づいて説明したが、フィールド相関を利用したノイズ低減回路であっても良い。フレーム相関を利用したノイズ低減回路では、遅延回路がフレームメモリになるが、フィールド相関を利用したノイズ低減回路では、遅延回路がフィールドメモリになる。フレーム間あるいはフィールド間信号処理により、動きのある部分の画像がぼやける画質低下を、動き検出結果に応じて制御することで改善する信号処理であれば同様に動作し同様の効果が得られる。 In each of the above embodiments, the noise reduction circuit using frame correlation has been described. However, a noise reduction circuit using field correlation may be used. In the noise reduction circuit using the frame correlation, the delay circuit is a frame memory. In the noise reduction circuit using the field correlation, the delay circuit is a field memory. If the signal processing is improved by controlling the inter-frame or inter-field signal processing in which the image of the moving portion is blurred by controlling according to the motion detection result, the same operation and the same effect can be obtained.
ノイズ低減回路がフィールド相関を利用したものとなる場合には、遅延回路として遅延時間が1フィールド期間 (より一般的には、垂直走査周期の整数倍(1倍を含む))のものが用いられる。 When the noise reduction circuit uses field correlation, a delay circuit having a delay time of one field period (more generally, an integral multiple of the vertical scanning period (including 1 time)) is used. .
上記各実施の形態において、画素単位で動きを検出する動き量算出回路を用いる場合について説明したが、図5(実施の形態2)、図10(実施の形態5)及び図15(実施の形態7)に示す例のように、周辺の画素を注目画素に加算して、さらにノイズの影響を軽減しても良い。信号S/Nに応じて周辺画素も加えることで同様に動作しより良い効果が得られる。 In each of the above embodiments, the case of using a motion amount calculation circuit that detects motion in units of pixels has been described, but FIG. 5 (Embodiment 2), FIG. 10 (Embodiment 5), and FIG. As in the example shown in 7), surrounding pixels may be added to the target pixel to further reduce the influence of noise. By adding peripheral pixels in accordance with the signal S / N, the same operation is performed and a better effect can be obtained.
上記各実施の形態において、固体撮像素子の一構成例に基づいて説明を行ったが、動画撮像可能な2次元イメージセンサであれば実際には固体撮像素子でもCMOSイメージセンサでも、どのようなものでも良い。またインターライントランスファー固体撮像素子に限らず、フレームトランスファー固体撮像素子でもフレームインターライントランスファー固体撮像素子であっても良い。 In each of the above embodiments, the description has been made based on one configuration example of the solid-state imaging device. However, any two-dimensional image sensor capable of capturing a moving image is actually a solid-state imaging device or a CMOS image sensor. But it ’s okay. Moreover, not only an interline transfer solid-state image sensor but also a frame transfer solid-state image sensor or a frame interline transfer solid-state image sensor may be used.
上記各実施の形態において、説明の便宜上、原色信号R、G及びBで白バランス制御するシステムを例に説明したが、輝度信号、R−Y色差信号及びB−Y色差信号であってもよく、原色信号R、G及びBの場合と同様に動作し同様の効果が得られる。 In each of the above embodiments, for the sake of convenience of explanation, a system that controls white balance with primary color signals R, G, and B has been described as an example. However, a luminance signal, an RY color difference signal, and a BY color difference signal may be used. The operation is the same as in the case of the primary color signals R, G and B, and the same effect is obtained.
上記各実施の形態において、説明の便宜上、複数の色成分がR(Red)成分とG(Green)成分とB(Blue)成分の撮像手段を例に説明したが、Ye(Yellow)成分とCy(Cyan)成分とMg(Magenta)成分とG(Green)成分の撮像素子でも良く、同様に動作し同様の効果が得られる。また、上記色成分を各々透過する色フィルタが市松模様状に配列された撮像素子から二行混合読出し方式で読み出す場合は、Cy+G成分とYe+Mg成分とCy+Mg成分とYe+G成分の色成分でも良く、同様に動作し同様の効果が得られる。 In each of the above embodiments, for the sake of convenience of explanation, a plurality of color components have been described by taking an example of an imaging unit having an R (Red) component, a G (Green) component, and a B (Blue) component. However, a Ye (Yellow) component and Cy An image sensor having a (Cyan) component, an Mg (Magenta) component, and a G (Green) component may be used, and the same operation is performed and the same effect is obtained. Further, when reading out by the two-row mixed readout method from the image sensor in which the color filters that transmit the color components are arranged in a checkered pattern, the color components of Cy + G component, Ye + Mg component, Cy + Mg component, and Ye + G component may be used. The same effect can be obtained.
上記各実施の形態において、説明の便宜上、NTSC方式テレビジョンに対応した撮像装置を例に説明したが、飛び越し走査に対応した表示フォーマットに限らず、ノンインタレースの表示フォーマットであっても良く、インタレースの場合と同様に動作し同様の効果が得られる。 In each of the above embodiments, for the sake of convenience of explanation, an imaging apparatus compatible with NTSC television has been described as an example. However, the display apparatus is not limited to interlaced scanning, and may be a non-interlaced display format. It operates in the same way as in the case of interlace and the same effect is obtained.
以上説明した各実施の形態の特徴は互いに組み合わせて用いることができる。
例えば、実施の形態8に関し図16を参照して説明したように、ノイズ低減装置90R,90G,90Bを設けた上で、さらに白バランス増幅回路の出力側に実施の形態4に関して図7を参照して説明したように、ノイズ低減回路50を設けたり、実施の形態6に関して図11を参照して説明したように、画素加算回路70を設けても良く、同様に、実施の形態9に関し図17を参照して説明したように、画素加算回路100R,100G,100Bを設けた上で、さらに白バランス増幅回路の出力側に実施の形態4に関して図7を参照して説明したように、ノイズ低減回路50を設けたり、実施の形態6に関して図11を参照して説明したように、画素加算回路70を設けても良い。
The features of the embodiments described above can be used in combination with each other.
For example, as described with reference to FIG. 16 regarding the eighth embodiment, after providing the
また、図5(実施の形態2)、図10(実施の形態5)及び図15(実施の形態7)に示す周辺加算回路47を、図6(実施の形態3)、図7(実施の形態4)、図11(実施の形態6)、図16(実施の形態8)、図17(実施の形態9)の撮像装置に組み込んでも良い。 Further, the peripheral addition circuit 47 shown in FIG. 5 (Embodiment 2), FIG. 10 (Embodiment 5) and FIG. 15 (Embodiment 7) is replaced with FIG. 6 (Embodiment 3), FIG. (Embodiment 4), FIG. 11 (Embodiment 6), FIG. 16 (Embodiment 8), and FIG. 17 (Embodiment 9) may be incorporated.
10 撮像信号生成手段、 11、11R、11G、11B 固体撮像素子、 12、12R、12G、12B 相関二重サンプリング処理回路(CDS回路)、 13、13R、13G、13B プログラマブル利得増幅回路(PGA)、 14、14R、14G、14B A/D変換回路(ADC)、 15 色補間回路、 16 白バランス増幅回路、 16R R信号増幅回路、 16B B信号増幅回路、 17 信号レベル検出回路、 18 色マトリクス回路、 19 色変調回路、 20 制御回路、 21M 出力端子、 21Y 出力端子、 21C 出力端子、 22R、22G、22B 1フレーム遅延回路、 30 動き量算出回路、 31 色加算回路、 32 1フレーム遅延回路、 33 差分絶対値算出回路、 34 減算回路、 35 絶対値回路、 36R、36G、36B 入力端子、 37 出力端子、 38R、38G、38B 入力端子、 39 色加算回路、 41 動き閾値生成回路、 42 判定回路、 43 同期信号発生回路、 44 タイミング発生回路、 45 ドライブ回路、 47 周辺画素加算回路、 48 レンズ、 49 プリズム、 50 ノイズ低減回路、 51 入力端子、 52 合成回路、 53 1フレーム遅延回路、 54 合成比生成回路、 55 出力端子、 56 入力端子、 57 入力端子、 61 入力端子、 62 入力端子、 63 乗算回路、 64 乗算回路、 65 加算回路、 66 出力端子、 67 入力端子、 70 画素加算回路、 71 入力端子、 72 1フィールド遅延回路、 73 1フィールド遅延回路、 74 面内画素加算回路、 75 面間画素加算回路、 76 合成回路、 77 合成比生成回路、 78 出力端子、 79 入力端子、 90R、90G、90B ノイズ低減回路、 92R、92G、92B 合成回路、 93R、93G、93B 1フレーム遅延回路、 94R、94G、94B 合成比生成回路、 100R、100G、100B 画素加算回路、 102R、102G、102B 1フィールド遅延回路、 103R、103G、103B 1フィールド遅延回路、 104R、104G、104B 面内画素加算回路、 105R、105G、105B 面間画素加算回路、 106R、106G、106B 合成回路、 107R、107G、107B 合成比生成回路。 DESCRIPTION OF SYMBOLS 10 Imaging signal production | generation means 11, 11R, 11G, 11B Solid-state image sensor, 12, 12R, 12G, 12B Correlated double sampling processing circuit (CDS circuit), 13, 13R, 13G, 13B Programmable gain amplifier circuit (PGA), 14, 14R, 14G, 14B A / D conversion circuit (ADC), 15 color interpolation circuit, 16 white balance amplification circuit, 16R R signal amplification circuit, 16B B signal amplification circuit, 17 signal level detection circuit, 18 color matrix circuit, 19 color modulation circuit, 20 control circuit, 21M output terminal, 21Y output terminal, 21C output terminal, 22R, 22G, 22B 1 frame delay circuit, 30 motion amount calculation circuit, 31 color addition circuit, 32 1 frame delay circuit, 33 difference Absolute value calculation circuit, 34 Subtraction circuit, 35 Absolute value circuit, 36R, 36G, 36B input terminal, 37 output terminal, 38R, 38G, 38B input terminal, 39 color addition circuit, 41 motion threshold value generation circuit, 42 determination circuit, 43 synchronization signal generation circuit, 44 timing generation circuit, 45 drive circuit, 47 peripheral pixel addition circuit, 48 lens, 49 prism, 50 noise reduction circuit, 51 input terminal, 52 synthesis circuit, 53 1 frame delay circuit, 54 synthesis ratio generation circuit, 55 output terminal, 56 input terminal, 57 Input terminal 61 Input terminal 62 Input terminal 63 Multiplier circuit 64 Multiplier circuit 65 Adder circuit 66 Output terminal 67 Input terminal 70 Pixel adder circuit 71 Input terminal 72 One field delay circuit 73 One field delay Circuit, 74 in-plane painting Element addition circuit, 75 inter-pixel addition circuit, 76 composition circuit, 77 composition ratio generation circuit, 78 output terminal, 79 input terminal, 90R, 90G, 90B noise reduction circuit, 92R, 92G, 92B composition circuit, 93R, 93G, 93B 1 frame delay circuit, 94R, 94G, 94B synthesis ratio generation circuit, 100R, 100G, 100B pixel addition circuit, 102R, 102G, 102B 1 field delay circuit, 103R, 103G, 103B 1 field delay circuit, 104R, 104G, 104B In-plane pixel addition circuit, 105R, 105G, 105B Inter-plane pixel addition circuit, 106R, 106G, 106B synthesis circuit, 107R, 107G, 107B synthesis ratio generation circuit.
Claims (13)
上記撮像信号生成手段から出力される複数の色成分の信号を、白バランスをとるために増幅する白バランス増幅回路と、
上記白バランス増幅回路の色成分毎の増幅率を白バランスがとれるよう制御する制御手段と、
上記白バランス増幅回路から出力される複数の色成分の信号から映像信号を生成する映像信号生成手段と、
上記撮像手段による撮像の結果得られる複数の色成分の信号であって、上記白バランス増幅回路による増幅を受けていない信号を入力とし、入力された複数の色成分の信号の和を色加算信号として生成する第1の色加算手段を備え、該色加算信号に基づいて、被写体の動きを検出する動き量算出回路とを備える
撮像装置。 An imaging signal generation unit that includes an imaging unit that images a subject, and that generates an imaging signal of a plurality of color components obtained as a result of imaging by the imaging unit;
A white balance amplifying circuit for amplifying the signals of a plurality of color components output from the imaging signal generating means for white balance;
Control means for controlling the amplification factor for each color component of the white balance amplifier circuit so as to achieve white balance;
Video signal generating means for generating a video signal from a plurality of color component signals output from the white balance amplifier circuit;
A signal of a plurality of color components obtained as a result of imaging by the imaging means, which has not been amplified by the white balance amplifier circuit, is input, and the sum of the input signals of the plurality of color components is a color addition signal An image pickup apparatus comprising: a first color adding unit that generates a movement amount calculating circuit that detects a movement of a subject based on the color addition signal.
上記色加算信号の、異なる画面間での差分の絶対値を算出する差分絶対値算出手段をさらに備え、
上記画面間の差分の絶対値に基づいて、上記被写体の動きを検出する
ことを特徴とする請求項1に記載の撮像装置。 The motion amount calculation circuit is
A difference absolute value calculating means for calculating an absolute value of a difference between different screens of the color addition signal;
The imaging apparatus according to claim 1, wherein the movement of the subject is detected based on an absolute value of a difference between the screens.
上記色加算信号を垂直走査周期の整数倍の期間遅延させて遅延色加算信号を出力する遅延手段をさらに備え、
上記差分絶対値算出手段は、上記色加算信号と上記遅延色加算信号の差分の絶対値を算出する
ことを特徴とする請求項2に記載の撮像装置。 The motion amount calculation circuit is
Delay means for delaying the color addition signal for an integer multiple of the vertical scanning period and outputting a delayed color addition signal;
The imaging apparatus according to claim 2, wherein the difference absolute value calculation unit calculates an absolute value of a difference between the color addition signal and the delayed color addition signal.
上記動き量算出回路は、
上記遅延手段から出力される、遅延された複数の色成分の信号を加算して遅延色加算信号を生成する第2の色加算手段とをさらに備え、
上記差分絶対値算出手段は、
上記第1の色加算手段から出力された色加算信号と上記第2の色加算手段から出力された遅延色加算信号の差分絶対値を求める
ことを特徴とする請求項2に記載の撮像装置。 A delay unit that delays the signals of the plurality of color components input to the motion amount calculation circuit by an integer multiple of a vertical scanning period;
The motion amount calculation circuit is
A second color addition unit that generates a delayed color addition signal by adding the delayed plurality of color component signals output from the delay unit;
The difference absolute value calculation means is:
The imaging apparatus according to claim 2, wherein an absolute difference between the color addition signal output from the first color addition unit and the delayed color addition signal output from the second color addition unit is obtained.
被写体の像を上記撮像手段に結像させるレンズと、
上記撮像手段から出力される信号を可変利得で増幅するプログラマブル利得増幅回路をさらに有し、
上記白バランス増幅回路で増幅された色成分の信号を受けて、画面全体又は特定の部分内の複数の画素について積分し、又は平均を求めることで、該色成分の信号レベルを求めるレベル検出回路をさらに備え、
上記制御手段が、
上記レベル検出手段で求められた上記色成分の信号レベルに基づいて、
上記レンズの絞りと、上記撮像手段の露光時間と、上記プログラマブル利得増幅回路の増幅利得を設定するとともに、被写体の照度を求め、
さらに、求められた上記照度と、上記設定されたレンズの絞り、露光時間及び増幅利得の値とからノイズレベルを生成し、
上記生成されたノイズレベルに基づいて上記動き閾値を生成する閾値生成手段と、
上記差分絶対値算出手段から出力された差分絶対値信号が所定の動き閾値よりも大きい時に動きがあると検出する判定手段とをさらに備える
ことを特徴とする請求項2、3又は4に記載の撮像装置。 The imaging signal generation means includes
A lens that forms an image of a subject on the imaging means;
A programmable gain amplifying circuit for amplifying a signal output from the imaging means with a variable gain;
A level detection circuit that receives the signal of the color component amplified by the white balance amplifier circuit and integrates or averages a plurality of pixels in the entire screen or a specific portion to obtain the signal level of the color component. Further comprising
The control means is
Based on the signal level of the color component obtained by the level detection means,
While setting the aperture of the lens, the exposure time of the imaging means, and the amplification gain of the programmable gain amplification circuit, obtain the illuminance of the subject,
Furthermore, a noise level is generated from the obtained illuminance and the set lens aperture, exposure time and amplification gain value,
Threshold generation means for generating the motion threshold based on the generated noise level;
5. The determination unit according to claim 2, further comprising: a determination unit that detects that there is a movement when the difference absolute value signal output from the difference absolute value calculation unit is larger than a predetermined movement threshold value. Imaging device.
上記撮像信号生成手段が、上記カラー撮像手段の各画素について欠落した色の成分を、当該画素の周辺の画素の同じ色の成分の信号からの補間を行なう色補間手段をさらに備え、
上記動き量算出回路は、上記色補間手段から出力される色成分の信号を、
上記撮像手段による撮像の結果得られる複数の色成分の信号であって、上記白バランス増幅回路による増幅を受けていない信号として用いる
ことを特徴とする請求項1から5のいずれか一項に記載の撮像装置。 The imaging unit outputs only one color component for each pixel, and the signal output from the imaging unit is a component in which other color components are missing,
The imaging signal generating means further comprises color interpolation means for interpolating the missing color component for each pixel of the color imaging means from the signal of the same color component of pixels around the pixel,
The motion amount calculation circuit outputs a color component signal output from the color interpolation means.
6. The signal according to claim 1, wherein the signal is a signal of a plurality of color components obtained as a result of imaging by the imaging unit, and is not amplified by the white balance amplifier circuit. Imaging device.
上記動き量算出回路は、上記周辺画素加算手段から出力される周辺画素加算信号を、上記撮像手段による撮像の結果得られる複数の色成分の信号であって、上記白バランス増幅回路による増幅を受けていない信号として用いる
ことを特徴とする請求項1から5のいずれか一項に記載の撮像装置。 Among the signals output from the imaging means, the sum of signals having the same color components as the pixels of a plurality of pixels in the vicinity region centered on each pixel is output as a peripheral pixel addition signal for each pixel. It further has peripheral pixel addition means,
The motion amount calculation circuit is a signal of a plurality of color components obtained as a result of imaging by the imaging unit, and is amplified by the white balance amplification circuit. The imaging apparatus according to claim 1, wherein the imaging apparatus is used as a signal that is not used.
上記撮像信号生成手段から出力される撮像信号に含まれるノイズを抑圧した撮像信号を出力する撮像信号ノイズ低減回路と、
上記ノイズ低減撮像信号を、白バランスをとるために増幅する白バランス増幅回路と、
上記白バランス増幅回路の色成分毎の増幅率を白バランスがとれるよう制御する制御手段と、
上記白バランス増幅回路から出力される複数の色成分の信号から映像信号を生成する映像信号生成手段と、
上記撮像信号に基いて、被写体の動きを検出する動き量算出回路とを備え、
上記撮像信号ノイズ低減回路が、
上記ノイズ低減撮像信号を垂直走査周期の整数倍の期間遅延させて上記遅延撮像信号を出力する遅延手段と、
上記撮像信号と上記遅延撮像信号を所定の合成比で合成してノイズ抑圧されたノイズ低減撮像信号を出力する撮像信号合成回路と、
上記動き量算出回路で検出された動きの量を表す動き量信号に基づいて上記撮像信号合成回路の上記合成比を決定する撮像信号合成比生成回路とを備え、
上記動き量算出回路は、
上記撮像信号合成回路に入力される撮像信号の複数の色成分の信号を加算して色加算信号を生成する第1の色加算手段と、
上記遅延手段から出力される複数の色成分の信号を加算して遅延色加算信号を生成する第2の加算手段と、
上記色加算信号と上記遅延色加算信号の差分の絶対値を算出する差分絶対値算出手段とを備え、
上記撮像信号合成比生成回路は、上記動き量算出回路の上記差分絶対値算出手段で検出された差分の絶対値を表す信号を、上記動きの量を表す動き量信号とし、これに基づいて上記撮像信号合成回路における上記合成比を生成する
ことを特徴とする撮像装置。 An imaging signal generation unit that includes an imaging unit that images a subject, and that generates an imaging signal of a plurality of color components obtained as a result of imaging by the imaging unit;
An imaging signal noise reduction circuit that outputs an imaging signal in which noise included in the imaging signal output from the imaging signal generation means is suppressed;
A white balance amplifying circuit for amplifying the noise-reduced imaging signal for white balance;
Control means for controlling the amplification factor for each color component of the white balance amplifier circuit so as to achieve white balance;
Video signal generating means for generating a video signal from a plurality of color component signals output from the white balance amplifier circuit;
A movement amount calculation circuit for detecting the movement of the subject based on the imaging signal,
The imaging signal noise reduction circuit is
Delay means for delaying the noise-reduced imaging signal for an integer multiple of a vertical scanning period and outputting the delayed imaging signal;
An imaging signal synthesis circuit that synthesizes the imaging signal and the delayed imaging signal at a predetermined synthesis ratio and outputs a noise-reduced imaging signal in which noise is suppressed;
An imaging signal synthesis ratio generation circuit that determines the synthesis ratio of the imaging signal synthesis circuit based on a motion quantity signal representing the amount of motion detected by the motion quantity calculation circuit;
The motion amount calculation circuit is
First color adding means for adding a plurality of color component signals of an image pickup signal input to the image pickup signal combining circuit to generate a color addition signal;
Second addition means for generating a delayed color addition signal by adding a plurality of color component signals output from the delay means;
A difference absolute value calculating means for calculating an absolute value of a difference between the color addition signal and the delayed color addition signal;
The imaging signal synthesis ratio generation circuit uses a signal representing the absolute value of the difference detected by the difference absolute value calculation means of the motion amount calculation circuit as a motion amount signal representing the amount of motion, and based on the signal, An image pickup apparatus that generates the above-described combination ratio in an image pickup signal combining circuit.
上記撮像信号生成手段から出力される撮像信号を入力として、加算撮像信号を生成する撮像信号画素加算回路と、
上記第加算撮像信号を、白バランスをとるために増幅する白バランス増幅回路と、
上記白バランス増幅回路の色成分毎の増幅率を白バランスがとれるよう制御する制御手段と、
上記白バランス増幅回路から出力される複数の色成分の信号から映像信号を生成する映像信号生成手段と、
上記撮像信号に基いて、被写体の動きを検出する動き量算出回路とを備え、
上記撮像信号画素加算回路が、
上記カラー撮像手段による撮像の結果得られる複数の色成分の撮像信号を垂直走査周期の整数倍の期間遅延させて第1の遅延撮像信号を出力する第1の遅延手段と、
上記第1の遅延撮像信号を垂直走査周期の整数倍の期間遅延させて第2の遅延撮像信号を出力する第2の遅延手段と、
上記遅延撮像信号のうちの注目画素の信号に、該注目画素と同じフィールド内において、該注目画素を中心とする近傍の領域内に位置する画素の信号を加算する面内画素加算手段と、
上記撮像信号と、上記第1の遅延撮像信号と、上記第2の遅延撮像信号を入力とし、上記第1の遅延撮像信号の注目画素の信号に、上記第1の遅延撮像信号の属するフィールドに隣接するフィールド内において、上記注目画素を中心とする近傍の領域内に位置する画素の信号を加算する面間画素加算手段と、
上記面内画素加算手段から出力される信号と、上記面間画素加算手段から出力される信号とを合成する撮像信号合成回路と、
上記動き量算出回路で検出される動きの量を表す動き量信号に基づいて、上記撮像信号合成回路における合成比を生成する撮像信号合成比生成回路と、
を備え、
上記動き量算出回路は、
上記撮像信号の複数の色成分の信号の和を色加算信号として出力する第1の色加算手段と、
上記第2の遅延撮像信号の複数の色成分の信号の和を遅延色加算信号として出力する第2の加算手段と、
上記色加算信号と上記遅延色加算信号の差の絶対値を算出する差分絶対値算出手段とを備え、
上記撮像信号合成比生成回路は、上記動き量算出回路の上記差分絶対値算出手段で検出された差分の絶対値を表す信号を、上記動きの量を表す動き量信号とし、これに基づいて上記撮像信号合成回路における上記合成比を生成する
ことを特徴とする撮像装置。 An imaging signal generation unit that includes an imaging unit that images a subject, and that generates an imaging signal of a plurality of color components obtained as a result of imaging by the imaging unit;
An imaging signal pixel addition circuit that generates an added imaging signal using an imaging signal output from the imaging signal generation unit as an input;
A white balance amplifying circuit for amplifying the first addition imaging signal for white balance;
Control means for controlling the amplification factor for each color component of the white balance amplifier circuit so as to achieve white balance;
Video signal generating means for generating a video signal from a plurality of color component signals output from the white balance amplifier circuit;
A movement amount calculation circuit for detecting the movement of the subject based on the imaging signal,
The imaging signal pixel adding circuit is
First delay means for outputting a first delayed imaging signal by delaying imaging signals of a plurality of color components obtained as a result of imaging by the color imaging means for an integer multiple of a vertical scanning period;
Second delay means for outputting the second delayed imaging signal by delaying the first delayed imaging signal by an integral multiple of the vertical scanning period;
In-plane pixel addition means for adding a signal of a pixel located in a region near the pixel of interest in the same field as the pixel of interest to the signal of the pixel of interest of the delayed imaging signal;
The imaging signal, the first delayed imaging signal, and the second delayed imaging signal are input, and the signal of the target pixel of the first delayed imaging signal is included in the field to which the first delayed imaging signal belongs. In an adjacent field, an inter-plane pixel addition means for adding signals of pixels located in a neighboring region centered on the pixel of interest;
An imaging signal combining circuit that combines a signal output from the in-plane pixel addition unit and a signal output from the inter-plane pixel addition unit;
An imaging signal synthesis ratio generation circuit that generates a synthesis ratio in the imaging signal synthesis circuit based on a motion amount signal representing the amount of motion detected by the motion amount calculation circuit;
With
The motion amount calculation circuit is
First color addition means for outputting a sum of a plurality of color component signals of the imaging signal as a color addition signal;
Second addition means for outputting a sum of a plurality of color component signals of the second delayed imaging signal as a delayed color addition signal;
A difference absolute value calculating means for calculating an absolute value of a difference between the color addition signal and the delayed color addition signal;
The imaging signal synthesis ratio generation circuit uses a signal representing the absolute value of the difference detected by the difference absolute value calculation means of the motion amount calculation circuit as a motion amount signal representing the amount of motion, and based on the signal, An image pickup apparatus that generates the above-described combination ratio in an image pickup signal combining circuit.
上記映像信号ノイズ低減回路が、
上記ノイズ低減映像信号を垂直走査周期の整数倍の期間遅延させて上記遅延映像信号を出力する遅延手段と、
上記映像信号と上記遅延映像信号を所定の合成比で合成して上記ノイズ低減映像信号を出力する映像信号合成回路と、
上記動き量信号に基づいて上記映像信号合成回路における、上記映像信号と上記遅延映像信号の合成比を生成する映像信号合成比生成回路と
を備えることを特徴とする請求項1から9のいずれか一項に記載の撮像装置。 Further comprising a video signal noise reduction circuit that suppresses noise included in the video signal output from the video signal generation means and outputs a noise-reduced video signal that has been subjected to noise suppression;
The video signal noise reduction circuit is
Delay means for delaying the noise-reduced video signal for an integral multiple of a vertical scanning period and outputting the delayed video signal;
A video signal synthesis circuit for synthesizing the video signal and the delayed video signal at a predetermined synthesis ratio and outputting the noise-reduced video signal;
10. A video signal synthesis ratio generation circuit for generating a synthesis ratio of the video signal and the delayed video signal in the video signal synthesis circuit based on the motion amount signal. The imaging device according to one item.
上記動き量信号が、動き量が大きいことを示すものとなる場合に、上記映像信号合成回路において上記映像信号の割合を高くするような合成比を生成し、
上記動き量信号が、動き量が小さいことを示すものである場合に、上記映像信号合成回路において上記遅延映像信号の割合を高くするような合成比を生成することを特徴とする請求項10に記載の撮像装置。 The video signal synthesis ratio generation circuit
When the motion amount signal indicates that the motion amount is large, a synthesis ratio that increases the ratio of the video signal in the video signal synthesis circuit is generated,
11. The composition ratio according to claim 10, wherein when the motion amount signal indicates that the motion amount is small, a composite ratio that increases the ratio of the delayed video signal is generated in the video signal composition circuit. The imaging device described.
上記映像信号画素加算回路が、
上記映像信号の注目画素の信号に、該注目画素と同じフィールド内において、該注目画素を中心とする近傍の領域内に位置する画素の信号を加算する面内画素加算手段と、
上記映像信号の注目画素の信号に、該注目画素の属するフィールドに隣接するフィールド内において、上記注目画素を中心とする近傍の領域内に位置する画素の信号を加算する面間画素加算手段と、
上記面内画素加算手段から出力される信号と上記面間画素加算手段から出力される信号を所定の合成比で合成する映像信号合成回路と、
上記動き量信号に基づいて上記面内画素加算手段から出力される信号と上記面間画素手段から出力される信号の合成比を生成する映像信号合成比生成回路
を備えることを特徴とする請求項1から9のいずれか一項に記載の撮像装置。 A video signal pixel adding circuit for receiving the video signal output from the video signal generating means and generating an added video signal;
The video signal pixel adding circuit is
In-plane pixel addition means for adding a signal of a pixel located in a region near the pixel of interest in the same field as the pixel of interest to the signal of the pixel of interest of the video signal;
An inter-plane pixel addition means for adding a signal of a pixel located in a neighboring region centered on the target pixel in a field adjacent to the field to which the target pixel belongs to the signal of the target pixel of the video signal;
A video signal synthesis circuit for synthesizing the signal output from the in-plane pixel addition means and the signal output from the inter-plane pixel addition means at a predetermined synthesis ratio;
6. A video signal synthesis ratio generation circuit for generating a synthesis ratio of a signal output from the in-plane pixel addition means and a signal output from the inter-plane pixel means based on the motion amount signal. The imaging device according to any one of 1 to 9.
上記動き量信号が、動き量が大きいことを示すときは、上記面内画素加算手段の出力信号の割合を高くするような合成比を生成し、
上記動き量信号が、動き量が小さいことを示すときは、上記面間画素加算手段の出力信号の割合を高くするような合成比を生成することを特徴とする請求項12に記載の撮像装置。 The video signal synthesis ratio generation circuit
When the motion amount signal indicates that the motion amount is large, a synthesis ratio that increases the ratio of the output signal of the in-plane pixel addition means is generated,
13. The imaging apparatus according to claim 12, wherein when the motion amount signal indicates that the motion amount is small, a composition ratio is generated so as to increase a ratio of an output signal of the inter-plane pixel adding means. .
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010028126A JP2011166535A (en) | 2010-02-10 | 2010-02-10 | Imaging apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010028126A JP2011166535A (en) | 2010-02-10 | 2010-02-10 | Imaging apparatus |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2011166535A true JP2011166535A (en) | 2011-08-25 |
Family
ID=44596677
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010028126A Withdrawn JP2011166535A (en) | 2010-02-10 | 2010-02-10 | Imaging apparatus |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2011166535A (en) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014069212A1 (en) | 2012-10-29 | 2014-05-08 | Sekine Hirokazu | Motion detection solid-state image pickup device and motion detection system |
JP2015019388A (en) * | 2014-08-26 | 2015-01-29 | 関根 弘一 | Imaging apparatus for motion detection, motion detection camera, and motion detection system |
JP2015204488A (en) * | 2014-04-11 | 2015-11-16 | ハンファテクウィン株式会社Hanwha Techwin Co.,Ltd. | Motion detection apparatus and motion detection method |
CN110959284A (en) * | 2017-08-03 | 2020-04-03 | Eizo株式会社 | Image processing device, image processing method, and image processing program |
-
2010
- 2010-02-10 JP JP2010028126A patent/JP2011166535A/en not_active Withdrawn
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014069212A1 (en) | 2012-10-29 | 2014-05-08 | Sekine Hirokazu | Motion detection solid-state image pickup device and motion detection system |
KR20150081298A (en) | 2012-10-29 | 2015-07-13 | 히로카즈 세키네 | Motion detection solid-state image pickup device and motion detection system |
US9924076B2 (en) | 2012-10-29 | 2018-03-20 | Setech Co., Ltd. | Motion detection solid-state image capturing device and motion detection system |
JP2015204488A (en) * | 2014-04-11 | 2015-11-16 | ハンファテクウィン株式会社Hanwha Techwin Co.,Ltd. | Motion detection apparatus and motion detection method |
JP2015019388A (en) * | 2014-08-26 | 2015-01-29 | 関根 弘一 | Imaging apparatus for motion detection, motion detection camera, and motion detection system |
CN110959284A (en) * | 2017-08-03 | 2020-04-03 | Eizo株式会社 | Image processing device, image processing method, and image processing program |
CN110959284B (en) * | 2017-08-03 | 2021-09-21 | Eizo株式会社 | Image processing apparatus, image processing method, and recording medium |
US11132776B2 (en) | 2017-08-03 | 2021-09-28 | Eizo Corporation | Image processing device, image processing method, and image processing program for maintaining sharpness of image |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2021196554A1 (en) | Image sensor, processing system and method, electronic device, and storage medium | |
WO2021208593A1 (en) | High dynamic range image processing system and method, electronic device, and storage medium | |
US8508625B2 (en) | Image processing apparatus | |
WO2010089830A1 (en) | Image pick-up device | |
US9936172B2 (en) | Signal processing device, signal processing method, and signal processing program for performing color reproduction of an image | |
WO2017104411A1 (en) | Imaging element, image processing device and method, and program | |
JP2011014966A (en) | Image processing device, image processing method, image capturing device, and computer program | |
US8111298B2 (en) | Imaging circuit and image pickup device | |
US7667735B2 (en) | Image pickup device and image processing method having a mask function | |
KR20070090106A (en) | Method of controlling camera system and camera system using the method | |
US8218021B2 (en) | Image capture apparatus, method of controlling the same, and program | |
JPH0724422B2 (en) | Luminance signal generation circuit for color TV camera | |
JP2011166535A (en) | Imaging apparatus | |
KR20120024448A (en) | Imaging apparatus, signal processing method, and program | |
US7688362B2 (en) | Single sensor processing to obtain high resolution color component signals | |
JP6095519B2 (en) | Imaging device | |
JPH0785584B2 (en) | Video signal processing circuit of color camera | |
JP2004357335A (en) | Solid-state imaging apparatus | |
JP6632093B2 (en) | Imaging device | |
JP4178571B2 (en) | Image processing apparatus, image processing method, and camera | |
JP2010268354A (en) | Image sensor and imaging device equipped with the image sensor | |
JPH11177995A (en) | Image processing device and method and camera | |
US11496715B2 (en) | Image color brightness compensation method and image color brightness compensation system by using a bayer color filter and a demosaic process | |
JP2000078594A (en) | Dynamic range widening process method for single-plate type color camera | |
JP2001186534A (en) | Solid-state image pickup device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20130507 |