JP2002010273A - Imaging device - Google Patents
Imaging deviceInfo
- Publication number
- JP2002010273A JP2002010273A JP2000188028A JP2000188028A JP2002010273A JP 2002010273 A JP2002010273 A JP 2002010273A JP 2000188028 A JP2000188028 A JP 2000188028A JP 2000188028 A JP2000188028 A JP 2000188028A JP 2002010273 A JP2002010273 A JP 2002010273A
- Authority
- JP
- Japan
- Prior art keywords
- color
- image
- pixel
- mode
- signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 56
- 238000012545 processing Methods 0.000 claims abstract description 38
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 claims description 9
- 238000006243 chemical reaction Methods 0.000 claims description 4
- 239000003086 colorant Substances 0.000 claims description 3
- 238000000034 method Methods 0.000 abstract description 16
- 230000006870 function Effects 0.000 description 5
- 230000006866 deterioration Effects 0.000 description 4
- 230000000750 progressive effect Effects 0.000 description 4
- 238000001454 recorded image Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 230000035945 sensitivity Effects 0.000 description 3
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 208000035126 Facies Diseases 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Landscapes
- Color Television Image Signal Generators (AREA)
Abstract
Description
【0001】[0001]
【発明の属する技術分野】本発明はCCD等のカラー撮
像素子を用いた撮像装置に関し、特に撮像素子の加算駆
動を用いて撮像信号を得るように構成された撮像装置に
関する。BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an image pickup apparatus using a color image pickup device such as a CCD, and more particularly to an image pickup device configured to obtain an image pickup signal by using an addition drive of the image pickup device.
【0002】[0002]
【従来の技術】従来より、色配列としてベイヤ配列を用
いた単板カラー撮像装置が広く用いられている。ここで
扱うベイヤ配列とは、2×2の4画素を単位配列とする
周期配列で、その単位配列の4画素中2画素が同色であ
り、この同色の2画素が対角配置されたものである。代
表的なRGBベイヤ配列の一例を図4に示す。2. Description of the Related Art Conventionally, a single-chip color image pickup apparatus using a Bayer array as a color array has been widely used. The Bayer array handled here is a periodic array in which two 2 × 2 pixels are arranged as a unit array. Two of the four pixels in the unit array have the same color, and two pixels of the same color are arranged diagonally. is there. FIG. 4 shows an example of a typical RGB Bayer arrangement.
【0003】図4に示すようなRGBベイヤ配列を用い
てコンポーネント色信号(R、G、BあるいはY、R−
Y、B−Y)を生成する信号処理方式には各種あるが、
典型的な例を以下に示す。[0003] A component color signal (R, G, B or Y, R-
Y, BY) are generated in various signal processing systems.
A typical example is shown below.
【0004】なお、以下では、原画素点および着目点
(生成画素点)の座標を(i,j)とし、また簡単のた
めにR,G,B毎にインデックス関数eG,eR,eB
を導入することにする。図4の左端と上端に示すように
原画素点と生成画素点では格子位相が半ピッチずれてい
るから、同じ数値の座標の場合にも空間位置がその分だ
け異なっている。また、インデックス関数eGはある信
号処理領域の中からG成分のみを抽出するための関数で
あり、Gの画素領域に対しては“1”、他の色の画素領
域に対しては“0”となる。例えば図4のR00,G0
1,G10,B11の4画素に対してインデックス関数
eGを適用すると、“0”,“1”,“1”,“0”が
得られることになる。eR,eBについても同様であ
る。In the following, the coordinates of an original pixel point and a point of interest (generated pixel point) are represented by (i, j), and for simplicity, index functions eG, eR, eB for R, G, and B, respectively.
Will be introduced. As shown in the left and upper ends of FIG. 4, the lattice phase is shifted by a half pitch between the original pixel point and the generated pixel point. Therefore, even in the case of the coordinates having the same numerical value, the spatial positions are different by that amount. The index function eG is a function for extracting only a G component from a certain signal processing area, and is “1” for a G pixel area and “0” for another color pixel area. Becomes For example, R00, G0 in FIG.
When the index function eG is applied to four pixels of 1, G10, and B11, "0", "1", "1", and "0" are obtained. The same applies to eR and eB.
【0005】高域輝度信号HY(i,j)は、共有画素
を含むように1画素ずつずらして組み合わせを変えた4
画素単位{(R00,G01,G10,B11),(G01,R02,B11,G12),(R0
2,G03,G12,B13),(G03,R04,B13,G14),(R04,G05,G14,B1
5),…}でそこに含まれるGのみを用いて生成される。 HY(i,j)=Σ[2×2(i,j)]eG×P(i’,j’) …(1) ここで、記号Σ[2×2(i,j)]は着目点(i,j)の隣接す
る2×2の(原画素の)4画素領域に関する(画素座標
を変数とする)総和を意味し、またP(i’,j’)は座
標(i’,j’)の原画素の信号出力値を示している。よ
って、図4の(i,j)=(0,0)に対応する高域輝
度信号HY(i,j){=HY(0,0)}は、近接す
る4画素R00,G01,G10,B11の中の、G0
1とG10の画像信号の和から生成されることになる。
同様にして、G01とG12の画像信号の和からHY
(0,1)が、G12とG03の画像信号の和からHY
(0,2)が生成される。[0005] The high-frequency luminance signal HY (i, j) is shifted by one pixel at a time so as to include a shared pixel.
Pixel unit {(R00, G01, G10, B11), (G01, R02, B11, G12), (R0
2, G03, G12, B13), (G03, R04, B13, G14), (R04, G05, G14, B1
5),... Are generated using only the G included therein. HY (i, j) = Σ [2 × 2 (i, j)] eG × P (i ′, j ′) (1) where the symbol Σ [2 × 2 (i, j)] is the point of interest. P (i ′, j ′) means the sum (with the pixel coordinates as variables) of the adjacent 2 × 2 (original pixels) 4-pixel area of (i, j), and P (i ′, j ′) represents the coordinates (i ′, j). The signal output value of the original pixel in ') is shown. Accordingly, the high-frequency luminance signal HY (i, j) {= HY (0,0)} corresponding to (i, j) = (0,0) in FIG. G0 in B11
It is generated from the sum of 1 and G10 image signals.
Similarly, HY is calculated from the sum of the image signals of G01 and G12.
(0, 1) is HY from the sum of the image signals of G12 and G03.
(0,2) is generated.
【0006】このようにして求めた各高域輝度信号HY
(i,j)に関して、それぞれ隣接する(生成画素点
の)座標の高域輝度信号HY(i−1,j),HY
(i,j−1),HY(i,j+1),HY(i+1,
j)との差分信号を求め、これを輝度エッジ信号AP
(アパーチャー信号)とする。 AP(i,j)=4HY(i,j)-{HY(i-1,j)+HY(i,j-1)+HY(i,j+1)+HY(i+1,j)} …(2) また、低域原色信号LR,LG,LBについては、高域
輝度信号HYよりも大きな領域、例えば着目点(i,
j)の周囲の4×4=16画素の平均値、すなわちGに
ついては16画素中に含まれる8画素の画素信号の平均
値、R,Bについては16画素中に含まれる対応する4
画素の画素信号の平均値を用いて算出される。上記と同
様の表記を用いれば、 LR(i,j)={Σ[4×4(i,j)]eR×P(i’,j’)}/4 …(3)R LG(i,j)={Σ[4×4(i,j)]eG×P(i’,j’)}/8 …(3)G LB(i,j)={Σ[4×4(i,j)]eB×P(i’,j’)}/4 …(3)B 低域輝度信号LYは、0.3R+0.59G+0.11Bのマトリ
クス演算を低域原色信号LR,LG,LBに対して施す
ことにより、 LY(i,j)=0.3LR(i,j)+0.59LG(i,j)+0.11LB(i,j) …(4) によって求められる。The high-frequency luminance signal HY obtained in this manner is
Regarding (i, j), the high-frequency luminance signals HY (i−1, j), HY of the coordinates (of the generated pixel point) adjacent to each other, respectively.
(I, j-1), HY (i, j + 1), HY (i + 1,
j) and a difference signal from the luminance edge signal AP
(Aperture signal). AP (i, j) = 4HY (i, j)-{HY (i-1, j) + HY (i, j-1) + HY (i, j + 1) + HY (i + 1, j) } (2) In addition, as for the low-frequency primary color signals LR, LG, and LB, an area larger than the high-frequency luminance signal HY, for example, a point of interest (i,
The average value of 4 × 4 = 16 pixels around j), that is, the average value of the pixel signals of 8 pixels included in 16 pixels for G, and the corresponding 4 values included in 16 pixels for R and B
It is calculated using the average value of the pixel signals of the pixels. Using the same notation as above, LR (i, j) = {Σ [4 × 4 (i, j)] eR × P (i ′, j ′)} / 4 (3) R LG (i, j) = {Σ [4 × 4 (i, j)] eG × P (i ′, j ′)} / 8 (3) G LB (i, j) = {Σ [4 × 4 (i, j )] eB × P (i ′, j ′)} / 4 (3) B For the low-frequency luminance signal LY, a matrix operation of 0.3R + 0.59G + 0.11B is performed on the low-frequency primary color signals LR, LG, and LB. Thus, LY (i, j) = 0.3LR (i, j) + 0.59LG (i, j) + 0.11LB (i, j) (4)
【0007】広帯域の輝度信号Y、および色差信号R−
Y,B−Yは、 Y(i,j)=LY(i,j)+k×AP(i,j) R-Y(i,j)=LR(i,j)-LY(i,j) B-Y(i,j)=LB(i,j)-LY(i,j) …(5) によって算出される。kは所定の計数である。式(5)
をR,G,B信号で表すと、 R(i,j)=LR(i,j)+k×AP(i,j) G(i,j)=LG(i,j)+k×AP(i,j) B(i,j)=LB(i,j)+k×AP(i,j) …(6) となる。この式(6)は式(5)と全く等価なものであ
る。[0007] A broadband luminance signal Y and a color difference signal R-
Y (BY) is Y (i, j) = LY (i, j) + k × AP (i, j) RY (i, j) = LR (i, j) -LY (i, j) BY (i, j) = LB (i, j) -LY (i, j) (5) k is a predetermined count. Equation (5)
R (i, j) = LR (i, j) + k × AP (i, j) G (i, j) = LG (i, j) + k × AP (i, j) B (i, j) = LB (i, j) + k × AP (i, j) (6) Equation (6) is completely equivalent to equation (5).
【0008】このように、式(1)(2)によって求め
た輝度エッジ信号(高域輝度信号)APを、式(4)で
得られる低域輝度信号LYに加えることで広帯域の輝度
信号Yを得ることができるが、色差信号R−Y,B−Y
については、低域のみで処理することで、式(6)から
も分かるように、RGBそれぞれの低域原色信号LR,
LG,LBの上にRGBでどれも同じ(従って無彩色
の)高域信号(k×AP)が重畳される形となるのでエ
ッジ部の偽色が生じにくい信号処理となっている。(例
えばこのような帯域別処理を行なわずベイヤの単位4画
素のみの情報からそのまま(広帯域の)輝度信号を算出
し、単純にマトリクス演算を行なうと、エッジ部に偽色
が顕著に生じてしまう不都合がある。) また、式(1)により高域輝度信号HYはGのみから求
めているから、色エッジ部による輝度信号のギザも抑え
られている。As described above, by adding the luminance edge signal (high-frequency luminance signal) AP obtained by the equations (1) and (2) to the low-frequency luminance signal LY obtained by the equation (4), a wide-band luminance signal Y is obtained. Can be obtained, but the color difference signals RY, BY
Is processed only in the low band, and as can be seen from equation (6), the low-band primary color signals LR,
Since the same (and thus achromatic) high-frequency signal (k × AP) is superimposed on the RGB and LB in RGB, the signal processing is less likely to cause false colors in the edge portion. (For example, if a (broadband) luminance signal is calculated as it is from the information of only the Bayer unit 4 pixels without performing such band-by-band processing and a simple matrix operation is performed, a false color is remarkably generated at an edge portion. In addition, since the high-frequency luminance signal HY is obtained only from G according to the equation (1), the jagged luminance signal due to the color edge portion is suppressed.
【0009】すなわち式(1)を書き下せば HY(i,j)=G(i,j+1)+G(i+1,j) …i+jが偶数の場合 G(i,j)+G(i+1,j+1) …i+jが奇数の場合 となり、原画素Gの情報は、隣接する4生成点に広がっ
てはいるものの(例えばG12の場合は、(i,j)=(0,
1),(0,2),(1,1).(1,2)の4生成点)、1生成点に対
する寄与は常に1/2であって、隣接する同色Gの原画
素点の情報と平均されるから、スムージング効果によっ
てギザは目立たない。つまり、原画素Gについては必ず
同色Gの原画素点が隣接するので(例えばG12につい
ては、G01,G03,G21,G23)、4生成点の
どの生成点についても、隣接する2つの原画素Gから信
号が作られることになる。That is, if equation (1) is rewritten, HY (i, j) = G (i, j + 1) + G (i + 1, j)... When i + j is an even number, G (i, j) + G (i + 1, j + 1)... I + j is an odd number, and the information of the original pixel G is spread over four adjacent generation points (for example, in the case of G12, (i, j) = ( 0,
1), (0,2), (1,1). (4 generation points of (1,2)) The contribution to one generation point is always 2 and is averaged with the information of the adjacent original pixel point of the same color G, so that the jaggedness is not noticeable due to the smoothing effect. In other words, since the original pixel point of the same color G is always adjacent to the original pixel G (for example, G01, G03, G21, G23 for G12), the two adjacent original pixel G From the signal.
【0010】この点補足すれば、高域輝度信号HYをG
のみから求めるということはRBの情報を捨てているこ
とになるから、その分SNの低下を招いているものであ
るが、もしRBも加算すると色エッジ部による輝度信号
のギザが強く生じるため好ましくないものである。すな
わち、ベイヤ単位配列の4画素全てを加算して高域輝度
信号HYを生成する場合、つまり、式(1)の代わり
に、 HY(i,j)=Σ[2×2(i,j)]×P(i’,j’) …(1)’ とした場合、これを書き下せば HY(i,j) =R(i,j)+G(i,j+1)+G(i+1,j)+B(i+1,j+1) …i,jがともに偶数の場合 =G(i,j)+R(i,j+1)+B(i+1,j)+G(i+1,j+1) …iが偶数、jが奇数の場合 =G(i,j)+B(i,j+1)+R(i+1,j)+G(i+1,j+1) …iが奇数、jが偶数の場合 =B(i,j)+G(i,j+1)+G(i+1,j)+R(i+1,j+1) …i,jがともに奇数の場合 となり、RまたはBの原画素情報は隣接する4生成点
に、寄与1で広がることになる。すなわち、RまたはB
に関しては4生成点のどの生成点についても隣接する同
色の原画素を持たないので、各々の隣接4生成点に関し
て言えば全く同じ情報となっているものである(1画素
のみの情報がそのまま隣接4生成点の情報となる)。従
って、例えばG,B情報を含まない赤のエッジ部あるい
はR,G情報を含まない青のエッジ部や赤と青のエッジ
部では、実質的に画素密度が1/4に下がったのと同じ
状態となり、見かけ上は4点ある画素が実際には1画素
でしかないので、上記ギザが生じるものである。特にこ
れは局所的に生じるため、画像全体の一様な解像度低下
よりもより一層顕著に目立つものであった。To supplement this point, the high-frequency luminance signal HY is
Obtaining only from RB means discarding RB information, which leads to a corresponding decrease in SN. However, if RB is added, the luminance signal is strongly jagged due to the color edge portion. Not something. In other words, when the high-frequency luminance signal HY is generated by adding all four pixels in the Bayer unit array, that is, instead of Expression (1), HY (i, j) = Σ [2 × 2 (i, j) ] × P (i ′, j ′)… (1) ′, and if this is written down, HY (i, j) = R (i, j) + G (i, j + 1) + G ( i + 1, j) + B (i + 1, j + 1)… When both i and j are even = G (i, j) + R (i, j + 1) + B (i + 1, j ) + G (i + 1, j + 1)… when i is even and j is odd = G (i, j) + B (i, j + 1) + R (i + 1, j) + G ( i + 1, j + 1) ... i is odd and j is even = B (i, j) + G (i, j + 1) + G (i + 1, j) + R (i + 1, j + 1)... i and j are both odd numbers, and the original pixel information of R or B spreads to four adjacent generation points with a contribution of 1. That is, R or B
Since there is no adjacent original pixel of the same color at any of the four generation points, the information is exactly the same for each of the four generation points (information of only one pixel is directly adjacent to the four generation points). 4 generation points). Therefore, for example, at a red edge portion that does not include G and B information, a blue edge portion that does not include R and G information, or a red and blue edge portion, the pixel density is substantially the same as that in which the pixel density is reduced to 4. In this state, apparently four pixels are actually only one pixel, so that the above-mentioned jaggedness occurs. In particular, since this occurs locally, it was even more noticeable than a uniform reduction in resolution of the entire image.
【0011】このような事情から、SNの低下を含んで
もなお、上記Gのみを用いた処理が用いられているもの
であった。そして、上記のような処理により、撮像素子
の画素数(被写体に対する画素密度)と同じ画素数(画
素密度)の高解像度な画像生成が可能となっている。[0011] Under such circumstances, the processing using only G is used even if the SN is reduced. With the above-described processing, it is possible to generate a high-resolution image having the same number of pixels (pixel density) as the number of pixels of the image sensor (pixel density for the subject).
【0012】一方、近年では撮像素子の高画素化が進
み、画像の記録に際して撮像素子の画素数と同数の記録
は必ずしも適当では無くなりつつある。すなわち、最近
では、400万画素の撮像素子を用いたものも民生用と
して供給されつつあり、今後600万画素、さらには1
000万画素を持つものも実現されることが予想されて
いる。このような多画素化(高画素密度化)に伴い、撮
像素子の画素数と同数の記録画素数で記録画像を生成し
たのでは、記録画像のファイルサイズの肥大によりパー
ソナルコンピュータなどの実使用環境では過負荷となる
ことはもちろん、フレームレートの低下、さらには撮像
素子の1画素当たりの蓄積光電荷量の不足という撮像素
子そのものによる原理的な要因によって画質(S/N、
ダイナミックレンジ)が劣化する、という問題を招くこ
とになる。On the other hand, in recent years, the number of pixels of an image sensor has been increased, and recording of the same number of pixels as the number of pixels of an image sensor is not always appropriate when recording an image. That is, recently, an image sensor using a 4 million pixel image sensor has been supplied for consumer use.
It is expected that a device having 10 million pixels will be realized. With the increase in the number of pixels (higher pixel density), if a recorded image is generated with the same number of recording pixels as the number of pixels of the image sensor, the actual use environment of a personal computer or the like is increased due to an increase in the file size of the recorded image. In this case, the image quality (S / N, S / N, S / N) is reduced due to the principle of the image sensor itself such as an overload, a decrease in the frame rate, and a shortage of the accumulated photocharge per pixel of the image sensor.
(Dynamic range) is deteriorated.
【0013】この点特に画素加算を行なう記録モードを
設定し、感度とフレームレートを向上する技術が知られ
ており、特にカラー撮像素子を用いた場合にも、読み出
し方を工夫して同色画素の加算を行なうことによって加
算カラー撮像を行なう画素加算読み出し技術を本出願人
自身も出願している(特願2000−173947号明
細書)。本技術では、撮像素子内での同色2画素加算と
素子外同色2画素加算との併用により、400万画素の
画像信号に対して同色4画素加算処理を施し、これによ
って100万画素の画像信号が生成される。これによ
り、十分な感度およびダイナミックレンジを確保できる
ようになり、記録画質の向上を図ることができる。な
お、少なくともカラー撮像に関しては、画素加算を行な
った後の信号に対して、上記従来の信号処理がそのまま
適用されるものである。In this respect, there is known a technique for improving the sensitivity and the frame rate by setting a recording mode in which pixel addition is particularly performed. In particular, even when a color image pickup device is used, a reading method is devised to improve the sensitivity and the frame rate. The present applicant has also applied for a pixel addition reading technique for performing addition color imaging by performing addition (Japanese Patent Application No. 2000-173947). According to the present technology, by using both the same-color two-pixel addition inside the imaging device and the same-color two-pixel addition outside the device, the same-color four-pixel addition processing is performed on the four-million-pixel image signal. Is generated. As a result, a sufficient sensitivity and a dynamic range can be secured, and the recording image quality can be improved. Note that at least with respect to color imaging, the above-described conventional signal processing is directly applied to a signal after pixel addition.
【0014】[0014]
【発明が解決しようとする課題】しかし、上記したよう
な従来の信号処理(式(1)〜(5))は、カラー撮像
時の総合画質を最適にすることを前提としており、輝度
信号のみに着目すれば上記したようなSNの低下あるい
は擬似信号(色エッジ部のギザ)の他に、解像度もかな
り低いものであった。すなわち同色4画素加算を行なっ
た後の信号に対して従来の信号処理(式(1)〜
(5))が施されることになるので、式(1)において
加算される2つのGの、元の撮像素子上での分布を考え
れば、これは4×4=16画素領域に広がっていること
になる。つまり、図5に示すように、同色4画素加算で
は、奇数フィールド読み出し時における奇数ライン同士
の同色加算と偶数フィールド読み出し時における偶数ラ
イン同士の同色加算とにより、4×4=16画素領域か
ら2×2の4画素信号(G1+G2+G5+G6,R1
+R2+R3+R4,B1+B2+B3+B4,G3+
G4+G7+G8)が生成される。この4画素信号に対
して式(1)を適用すると、4×4=16画素領域内の
全G画素、つまりG1+G2+G5+G6と,G3+G
4+G7+G8との加算が行われ、結果として輝度サン
プリング点は4×4=16画素領域に1つとなるから輝
度信号の解像度低下を招くのである。However, the above-described conventional signal processing (Equations (1) to (5)) is based on the premise that the overall image quality at the time of color imaging is optimized. In addition to the above, the resolution was considerably low in addition to the decrease in SN or the pseudo signal (jagged color edge portion) as described above. That is, the signal after the addition of the same color four pixels is subjected to the conventional signal processing (formula (1) to
Since (5)) is performed, considering the distribution of the two Gs added in Expression (1) on the original image sensor, this spreads to a 4 × 4 = 16 pixel area. Will be. That is, as shown in FIG. 5, in the same-color four-pixel addition, the same-color addition between the odd-numbered lines when reading out the odd-numbered fields and the same-color addition between the even-numbered lines when reading out the even-numbered fields result in 2 × 4 × 4 = 16 pixel areas. × 2 four pixel signals (G1 + G2 + G5 + G6, R1
+ R2 + R3 + R4, B1 + B2 + B3 + B4, G3 +
G4 + G7 + G8) is generated. When equation (1) is applied to these four pixel signals, all G pixels in a 4 × 4 = 16 pixel area, that is, G1 + G2 + G5 + G6 and G3 + G
The addition of 4 + G7 + G8 is performed, and as a result, the number of luminance sampling points is one in 4 × 4 = 16 pixel areas, so that the resolution of the luminance signal is reduced.
【0015】この解像度自体は1/4画素数(例えば1
00万画素)の撮像素子と比較した場合にはその撮像素
子の2×2画素領域に相当しているから決して劣るもの
では無いが、400万画素、600万画素、1000万
画素等の高画素撮像素子においてはその画素密度を十分
に利用しているとは言えず、画質劣化要因と見ることが
できる。The resolution itself is 1/4 pixel number (for example, 1
When compared with an image sensor of (00000 pixels), it is not inferior because it corresponds to a 2 × 2 pixel area of the image sensor, but high pixels such as 4 million pixels, 6 million pixels, and 10 million pixels It cannot be said that the image density is sufficiently utilized in the image pickup device, and it can be considered as a factor of image quality deterioration.
【0016】このように、従来の画素加算読み出し方式
では、輝度信号を記録画像信号として利用する白黒撮影
時(被写体は白黒に限らない一般のカラー被写体である
が、画像としての利用目的が白黒写真)においても、カ
ラー撮像用の加算読み出しをそのまま利用しているた
め、解像度の低下および複雑な信号処理が必要とされる
ものであった。すなわち、白黒撮影(以下、モノクロ撮
像と称する)を行なう場合には、式(5)の輝度信号Y
(i,j)のみを記録(あるいは外部に出力)すれば一
応の目的は達せられるものの、本来無用な色情報に関す
る信号処理を行なう必要がある上、解像度低下という上
記画質劣化を含んだ信号しか得られないという不具合が
あった。As described above, in the conventional pixel addition readout method, when photographing in black and white using a luminance signal as a recording image signal (the object is not limited to black and white but is a general color subject, In (2), since addition reading for color imaging is used as it is, a reduction in resolution and complicated signal processing are required. That is, when performing black-and-white shooting (hereinafter, referred to as monochrome imaging), the luminance signal Y of Expression (5) is used.
Recording (or outputting to the outside) only (i, j) achieves the prima facie purpose, but it is necessary to perform signal processing relating to color information that is originally useless. There was a problem that it could not be obtained.
【0017】本発明は上述の事情を考慮してなされたも
のであり、加算読み出しによる高フレームレートを維持
しつつ、少なくともモノクロ撮像時においては従来に比
し簡単な信号処理で且つ画質劣化のない良好な画像を得
ることが可能な撮像装置を提供することを目的とする。The present invention has been made in view of the above-mentioned circumstances, and at the time of monochrome imaging, at least at the time of monochrome imaging, is simpler signal processing and has no image quality deterioration, while maintaining a high frame rate by addition reading. It is an object to provide an imaging device capable of obtaining a good image.
【0018】[0018]
【課題を解決するための手段】上述の課題を解決するた
め、本発明は、ベイヤ配列のカラー撮像素子と、前記撮
像素子を駆動して撮像信号を読み出す駆動手段と、前記
撮像信号を処理して所定フォーマットのカラー画像信号
およびモノクロ画像信号を選択的に生成可能な画像信号
生成手段と、前記画像信号生成手段が生成する画像がカ
ラーであるカラーモードおよびモノクロであるモノクロ
モードのいずれかを選択的に指定するモード制御手段と
を有した撮像装置であって、前記駆動手段は、前記モー
ド制御手段が指定したモードがカラーモードである場合
には第1の読み出し駆動を、モノクロモードである場合
には第1の読み出し駆動とは異なる第2の読み出し駆動
を行うように構成されていることを特徴とする。SUMMARY OF THE INVENTION In order to solve the above-mentioned problems, the present invention provides a color image sensor having a Bayer array, driving means for driving the image sensor to read out an image signal, and processing the image signal. An image signal generating means capable of selectively generating a color image signal and a monochrome image signal of a predetermined format, and selecting one of a color mode in which the image generated by the image signal generating means is a color mode and a monochrome mode in which the image is monochrome An image pickup apparatus comprising: a mode control unit for designating the first readout drive when the mode designated by the mode control unit is the color mode; Is characterized in that it is configured to perform a second read drive different from the first read drive.
【0019】このベイヤ配列のカラー撮像素子を用いた
撮像装置においては、カラー撮像モードとモノクロ撮像
モードとが用意されており、カラー撮像モード時とモノ
クロ撮像モード時とで読み出し駆動の仕方が切り替えら
れる。このようにカラー撮像モード時とモノクロ撮像モ
ード時とで異なる加算読み出しを用いることにより、モ
ノクロ撮像モードにおいては色生成を考慮することな
く、モノクロ画像の画質向上に最適な画素同士の加算を
行うことができるので、加算読み出しによる高フレーム
レートを維持しつつ、従来に比し簡単な信号処理で且つ
画質劣化のない良好なモノクロ画像を得ることが可能と
なる。In the image pickup apparatus using the color image pickup device of the Bayer arrangement, a color image pickup mode and a monochrome image pickup mode are prepared, and the read driving method is switched between the color image pickup mode and the monochrome image pickup mode. . By using different addition readouts in the color imaging mode and the monochrome imaging mode in this way, in the monochrome imaging mode, it is possible to perform optimal pixel addition for improving the image quality of a monochrome image without considering color generation. Therefore, it is possible to obtain a good monochrome image with simple signal processing and no image quality deterioration compared to the related art while maintaining a high frame rate by addition reading.
【0020】この場合、特に前記カラー撮像モード時に
おいては同色の受像画素に対応する単位画素信号同士を
前記カラー撮像素子内部で加算しつつ読み出す第1の加
算読み出しを行い、前記モノクロ撮像モード時において
は隣接する受像画素に対応する単位画素信号同士を前記
カラー撮像素子内部で加算しつつ読み出す第2の加算読
み出しを実行することが望ましい。In this case, especially in the color imaging mode, a first addition reading is performed in which the unit pixel signals corresponding to the image receiving pixels of the same color are added together inside the color imaging device, and the first addition reading is performed. It is preferable to execute a second addition readout in which the unit pixel signals corresponding to the adjacent image receiving pixels are read out while being added together inside the color image sensor.
【0021】このように、カラー撮像モード時において
は色を考慮した従来と同様の加算読み出しを行うことに
よりギザの発生を防ぎ、またモノクロ撮像モード時にお
いては色別ではなく隣接する受像画素同士の加算を行う
ことにより、同色加算を行う場合に比べ、輝度サンプリ
ング点に対応する元の撮像素子上の画素領域の広がりを
抑えることができ、十分な解像度の向上を図ることがで
きる。As described above, in the color imaging mode, by performing the same addition and reading as in the related art in consideration of the color, the occurrence of the jaggedness is prevented. By performing the addition, it is possible to suppress the spread of the pixel area on the original image sensor corresponding to the luminance sampling point, and to sufficiently improve the resolution, as compared with the case of performing the same color addition.
【0022】さらにこの場合、第1および第2の読み出
し駆動における加算読み出し駆動は、前記撮像素子の垂
直転送路から水平転送路への電荷転送に際して、毎回の
水平ブランキング期間に2n画素(2n転送単位:nは
自然数)分の電荷転送を行う2n加算駆動を用いるもの
であって、さらに上記電荷転送に先立つ光電変換蓄積部
から垂直転送路への電荷移送に際しては、前記第1の読
み出し駆動は、前記電荷移送のための移送ゲートパルス
を相毎にタイミングをずらして複数回出力し該移送ゲー
トパルスの複数回出力の間に所定画素(所定転送単位)
分の垂直転送路駆動を伴うことによって垂直転送路上に
て同色の画素信号電荷が少なくとも2n画素分連続する
ように並べ替えるものである同色隣接化電荷移送を行な
うものであり、前記第2の読み出し駆動は、前記同色隣
接化電荷移送を行わないものであることが好ましい。Further, in this case, the addition readout drive in the first and second readout drive is performed in such a manner that the charge transfer from the vertical transfer path to the horizontal transfer path of the image pickup device is performed for 2n pixels (2n transfer) in each horizontal blanking period. (2: n is a natural number). 2n addition driving is used to transfer charges. Further, when the charges are transferred from the photoelectric conversion storage unit to the vertical transfer path prior to the charge transfer, the first read drive is performed by A plurality of transfer gate pulses for transferring the charges are output a plurality of times with the timing shifted for each phase, and a predetermined pixel (a predetermined transfer unit) is output during the plurality of output of the transfer gate pulses.
The same-color adjacent charge transfer, in which the pixel signal charges of the same color are rearranged on the vertical transfer path so as to be continuous for at least 2n pixels by accompanying the vertical transfer path driving for the second reading. It is preferable that the driving does not perform the same color adjacent charge transfer.
【0023】これにより、プログレッシブ走査型の撮像
素子に対しても容易に同色画素加算および隣接画素加算
を実現できる。As a result, the same-color pixel addition and the adjacent pixel addition can be easily realized even for a progressive scanning type image pickup device.
【0024】また、本発明は、ベイヤ配列のカラー撮像
素子と、前記撮像素子を駆動して撮像信号を読み出す駆
動手段と、生成する画像の画素密度が前記撮像素子の画
素密度よりも小さい場合に前記生成画像の画素密度に対
応した画素密度の単位画素情報を生成する画素密度整合
手段と、前記画素密度整合手段の出力に基づいて所定フ
ォーマットのカラー画像信号およびモノクロ画像信号の
いずれかを選択的に生成可能な画像信号生成手段と、前
記画像信号生成手段が生成する画像がカラーであるカラ
ーモードおよびモノクロであるモノクロモードとを選択
的に指定するモード制御手段と、を有した撮像装置であ
って、前記画素密度整合手段は、前記モード制御手段が
指定したモードがカラーモードである場合には、同色の
画素信号情報を加算することにより前記画像信号生成手
段における前記カラー画像信号生成のための単位画素情
報を生成し、前記モード制御手段が指定したモードがモ
ノクロモードである場合には、全色の画素信号情報を加
算することにより画像信号生成手段における前記モノク
ロ画像信号生成のための単位画素情報を生成するもので
あることを特徴とする。Further, the present invention provides a color image pickup device having a Bayer array, driving means for driving the image pickup device to read out an image pickup signal, and an image pickup device having a pixel density smaller than that of the image pickup device. A pixel density matching unit that generates unit pixel information of a pixel density corresponding to the pixel density of the generated image; and selectively one of a color image signal and a monochrome image signal of a predetermined format based on an output of the pixel density matching unit. An image pickup apparatus comprising: an image signal generation unit capable of generating a color image; and a mode control unit that selectively designates a color mode in which an image generated by the image signal generation unit is monochrome and a monochrome mode in which the image is monochrome. When the mode specified by the mode control unit is a color mode, the pixel density matching unit adds pixel signal information of the same color. To generate unit pixel information for generating the color image signal in the image signal generating unit, and when the mode specified by the mode control unit is a monochrome mode, add pixel signal information of all colors. In this case, the image signal generating means generates unit pixel information for generating the monochrome image signal.
【0025】この構成により、カラー撮像素子を用いて
モノクロ撮像を行う場合に最適な信号処理を実現でき、
高フレームレートで高解像度、しかも無駄な画素点生成
が不要で、かつ色エッジによるギザの発生も無く低い画
素密度のモノクロ画像信号を生成できるから、400万
画素、600万画素あるいはそれ以上の多画素化された
カラー撮像素子により得られた信号から画素密度1/4
のモノクロ画像を生成するに際しての最適な信号処理を
実現でき、少ない信号処理数で、記録画像の画質の向上
を図ることが可能となる。With this configuration, optimal signal processing can be realized when performing monochrome imaging using a color imaging device.
Since a monochrome image signal having a low pixel density can be generated with a high frame rate, a high resolution, no need to generate unnecessary pixel points, and no generation of jaggedness due to color edges, a large number of 4 million pixels, 6 million pixels or more can be generated. Pixel density 1/4 from signal obtained by pixelated color image sensor
Therefore, it is possible to realize optimal signal processing when generating a monochrome image, and to improve the image quality of a recorded image with a small number of signal processings.
【0026】なお、本発明で用いるベイヤ配列はRGB
ベイヤ配列であることが好ましい。The Bayer arrangement used in the present invention is RGB.
A Bayer arrangement is preferred.
【0027】これによって、上記した各作用を、カラー
撮像時の高い色再現性を確保しつつ、得ることができ
る。Thus, each of the above-described functions can be obtained while securing high color reproducibility during color imaging.
【0028】[0028]
【発明の実施の形態】以下、図面を参照して本発明の実
施形態を説明する。図1には、本発明の一実施形態に係
わる撮像装置の構成が示されている。ここでは、デジタ
ルカメラとして実現した場合を例示して説明することに
する。Embodiments of the present invention will be described below with reference to the drawings. FIG. 1 shows a configuration of an imaging device according to an embodiment of the present invention. Here, a case where the present invention is implemented as a digital camera will be described as an example.
【0029】図中101は各種レンズからなる撮像レン
ズ系、102はレンズ系101を駆動するためのレンズ
駆動機構、103はレンズ系101の絞りを制御するた
めの露出制御機構、104はローパスおよび赤外カット
用の光学フィルタ、105はベイヤ配列のカラーフィル
タを備えたCCDカラー撮像素子、106は撮像素子1
05を駆動するためのCCDドライバ、107はゲイン
コントロールアンプ,A/D変換器等を含むプリプロセ
ス回路、108はコンポーネント信号生成処理,その他
各種のデジタル処理を行うためのデジタルプロセス回
路、109はカードインターフェース、110はメモリ
カード、111はLCD画像表示系を示している。In the figure, reference numeral 101 denotes an imaging lens system including various lenses; 102, a lens driving mechanism for driving the lens system 101; 103, an exposure control mechanism for controlling the aperture of the lens system 101; An optical filter for outer cut, 105 is a CCD color image sensor having a Bayer array color filter, and 106 is an image sensor 1
05, a CCD driver for driving the CCD, 107, a pre-processing circuit including a gain control amplifier, an A / D converter, etc., 108, a digital processing circuit for performing component signal generation processing and other various digital processing, and 109, a card An interface 110 is a memory card, and 111 is an LCD image display system.
【0030】カラー撮像素子105は複数の光電変換素
子を受像画素として有しており、例えば例えば400万
画素ベイヤ配列の順次走査(プログレッシブスキャン)
型のものなどが利用される。The color image sensor 105 has a plurality of photoelectric conversion elements as image receiving pixels. For example, a progressive scan (progressive scan) in a Bayer array of 4 million pixels, for example, is performed.
A type or the like is used.
【0031】また、図中の112は各部を統括的に制御
するためのシステムコントローラ(CPU)、113は
各種スイッチからなる操作スイッチ系、114は操作状
態及びモード状態等を表示するための操作表示系、11
5はレンズ駆動機構102を制御するためのレンズドラ
イバ、116は発光手段としてのストロボ、117はス
トロボ116を制御するための露出制御ドライバ、11
8は各種設定情報等を記憶するための不揮発性メモリ
(EEPROM)を示している。In the figure, reference numeral 112 denotes a system controller (CPU) for overall control of each unit, 113 denotes an operation switch system including various switches, and 114 denotes an operation display for displaying an operation state and a mode state. System, 11
Reference numeral 5 denotes a lens driver for controlling the lens driving mechanism 102; 116, a strobe as a light emitting unit; 117, an exposure control driver for controlling the strobe 116;
Reference numeral 8 denotes a nonvolatile memory (EEPROM) for storing various setting information and the like.
【0032】本実施形態のデジタルカメラにおいては、
システムコントローラ112が全ての制御を統括的に行
っており、特にCCDドライバ106によるCCDカラ
ー撮像素子105の駆動を制御して露光(電荷蓄積)及
び信号の読み出しを行い、それをプリプロセス回路10
7を介してデジタルプロセス回路108に取込んで記録
用の画像信号を生成した後にカードインターフェース1
09を介してメモリカード110に記録するようになっ
ている。In the digital camera of the present embodiment,
The system controller 112 performs overall control, and in particular controls the driving of the CCD color image pickup device 105 by the CCD driver 106 to perform exposure (charge accumulation) and signal reading, and the signal is transferred to the pre-processing circuit 10.
7 to generate a recording image signal by taking it into the digital process circuit 108 through the card interface 1
09 to the memory card 110.
【0033】本実施形態のデジタルカメラに於いては、
画素加算読み出しを用いた加算撮像をいわゆるデフォル
トの撮像モードとして使用して被写体の撮像・記録を行
うように構成されている。すなわち、非加算モードは無
く、常に2ライン加算駆動(Hブランキング期間に2転
送単位の垂直転送Vクロックを出力)による素子内垂直
2画素加算が行われる。これにより撮像素子105の水
平転送路上で各垂直転送路毎に2画素分の単位画素信号
が加算されて1ライン分の画素信号として読み出され
る。そして、この読み出し信号に対してデジタルプロセ
ス回路108において素子外水平2画素加算が行われる
ことにより、撮像素子105の1/4画素数の画像が記
録される。従ってフレームレートは標準(非加算)駆動
の2倍に向上する。In the digital camera of the present embodiment,
The imaging / recording of the subject is performed by using the addition imaging using the pixel addition reading as a so-called default imaging mode. That is, there is no non-addition mode, and vertical two-pixel addition in the element is always performed by two-line addition driving (outputting a vertical transfer V clock of two transfer units in the H blanking period). As a result, two pixel unit pixel signals are added for each vertical transfer path on the horizontal transfer path of the image sensor 105 and read as one line of pixel signals. Then, by adding two horizontal pixels outside the element to the read signal in the digital process circuit 108, an image of 1 / pixel number of the image sensor 105 is recorded. Therefore, the frame rate is improved to twice that of the standard (non-addition) driving.
【0034】撮像モードには、カラー画像信号を記録用
の出力画像信号として得るための「カラー撮像モード」
と、モノクロ画像信号を記録用の出力画像信号として得
るための「モノクロ撮像モード」とが用意されている。
「カラー撮像モード」と「モノクロ撮像モード」は、ユ
ーザによる操作スイッチ系113の手動操作により切り
替えることができる。The imaging mode includes a "color imaging mode" for obtaining a color image signal as an output image signal for recording.
And a “monochrome imaging mode” for obtaining a monochrome image signal as an output image signal for recording.
“Color imaging mode” and “monochrome imaging mode” can be switched by a manual operation of the operation switch system 113 by the user.
【0035】これら「カラー撮像モード」および「モノ
クロ撮像モード」のどちらにおいても素子内外併用方式
の4画素加算(水平垂直共に2画素)が行われるが、本
実施形態においては、「カラー撮像モード」時と「モノ
クロ撮像モード」とで異なる加算読み出しが行われる。
これを実現するため、システムコントローラ112に
は、加算読み出し駆動切換制御部201が設けられてい
る。この加算読み出し駆動切換制御部201は、CCD
ドライバ106を用いてCCDカラー撮像素子105の
駆動を制御するためのものであり、「カラー撮像モー
ド」時においては垂直方向に2画素の同色加算が行われ
るようにCCDドライバ106による撮像素子105の
駆動を制御し、また「モノクロ撮像モード」時において
は垂直方向に2画素の隣接画素加算が行われるようにC
CDドライバ106による撮像素子105の駆動を制御
する。In both the "color image pickup mode" and the "monochrome image pickup mode", four-pixel addition (two pixels in both the horizontal and vertical directions) of the combined use of the inside and outside elements is performed. Different addition reading is performed between the time and the “monochrome imaging mode”.
To realize this, the system controller 112 is provided with an addition read drive switching control unit 201. The addition read drive switching control unit 201 includes a CCD
This is for controlling the driving of the CCD color image pickup device 105 using the driver 106. In the “color image pickup mode”, the CCD driver 106 controls the image pickup device 105 so that the same color addition of two pixels is performed in the vertical direction. In the “monochrome imaging mode”, C is controlled so that two adjacent pixels are added in the vertical direction.
The driving of the image sensor 105 by the CD driver 106 is controlled.
【0036】このように「カラー撮像モード」時と「モ
ノクロ撮像モード」時とで異なる加算読み出し方式を用
いることにより、「モノクロ撮像モード」においては色
生成を考慮する必要がなくなり、信号処理数が少なく、
且つモノクロ画像の画質向上に最適な出力画像信号を得
るための素子内加算を行うことができる。以下、「カラ
ー撮像モード」および「モノクロ撮像モード」それぞれ
における具体的な動作について説明する。As described above, by using a different addition reading method between the “color imaging mode” and the “monochrome imaging mode”, it is not necessary to consider the color generation in the “monochrome imaging mode”, and the number of signal processes is reduced. Less,
In addition, in-element addition for obtaining an output image signal optimal for improving the image quality of a monochrome image can be performed. Hereinafter, specific operations in the “color imaging mode” and the “monochrome imaging mode” will be described.
【0037】(カラー撮像モード)カラー撮像モードで
は、素子内垂直2ラインの同色画素加算と素子外水平2
画素の同色画素加算との併用により、図5で説明したよ
うな従来と同様の色別4画素加算処理が行われる。加算
後の信号すなわち、1/4画素数のベイヤデータに対し
て上記式(1)〜(5)で示した従来のベイヤ信号処理
を行ない、得られたコンポーネントカラー画像信号を、
必要に応じて圧縮を含む記録処理を施し、媒体に記録す
る。(Color Imaging Mode) In the color imaging mode, the same color pixel addition of two vertical lines inside the element and two horizontal lines outside the element are performed.
The combined use of the same-color pixel addition of the pixels results in the same four-pixel addition processing for each color as described with reference to FIG. The signal after the addition, that is, the conventional Bayer signal processing shown in the above equations (1) to (5) is performed on the Bayer data of 1/4 pixel number, and the obtained component color image signal is
A recording process including compression is performed as necessary, and recorded on a medium.
【0038】なお、本実施形態では、撮像素子105が
プログレッシブスキャン型であるため、素子内垂直2ラ
インの加算駆動としては、図5とは異なり、垂直画素順
入替え型の2ライン加算駆動を用いる。この様子を図2
に示す。In this embodiment, since the image pickup device 105 is of a progressive scan type, the vertical drive of two lines in the device is different from that shown in FIG. . Figure 2 shows this situation.
Shown in
【0039】図2においては、撮像素子105における
特定の1列(垂直方向)の画素の並びとそれに対応する
垂直転送路内の画素信号の並びとの関係が示されてい
る。また、TGは光電変換素子からなる電荷蓄積部と垂
直転送路との間に設けられた転送ゲート(またはそれを
制御するための電荷移送パルス)を示している。TGは
TG1〜TG4の4つに分割され、且つその順で周期的
に並んでおり、1列分の画素を複数に分割して電荷蓄積
部から垂直転送路に移送することができる。FIG. 2 shows the relationship between the arrangement of pixels in a specific column (vertical direction) of the image sensor 105 and the arrangement of corresponding pixel signals in the vertical transfer path. In addition, TG indicates a transfer gate (or a charge transfer pulse for controlling the transfer gate) provided between the charge storage unit including the photoelectric conversion element and the vertical transfer path. The TG is divided into four, TG1 to TG4, and is periodically arranged in that order. One column of pixels can be divided into a plurality of pixels and transferred from the charge storage unit to the vertical transfer path.
【0040】1. 最初に、TG1,TG2に対応する
電荷移送パルスを出力することにより、図示のように、
垂直方向4画素ずつの各画素列の中からTG1,TG2
に対応する上位2画素の信号だけを垂直転送路に移送す
る(R0,G0、R2,G2、R4,G4、R6,G
6)。1. First, by outputting charge transfer pulses corresponding to TG1 and TG2, as shown in the figure,
TG1, TG2 from each pixel column of 4 pixels in the vertical direction
Are transferred to the vertical transfer path (R0, G0, R2, G2, R4, G4, R6, G
6).
【0041】2. 垂直転送路を1クロック分駆動し、
垂直転送路内の画素信号を1画素分シフトする。これに
より、元々Rを挟んで入れ子構造となっていたG同士の
位置(例えばG0とG1)が隣接するように揃えられ
る。3. TG4に対応する電荷移送パルスを出力する
ことにより、垂直方向4画素ずつの各画素列の中からT
G4に対応する1画素の信号だけを垂直転送路に移送す
る(G1、G3、G5、G7)。これにより、垂直転送
路内では、図示のように、R0,G0,G1、R2,G
2,G3、R4,G4,G5、R6,G6,G7の並び
になる。2. Driving the vertical transfer path for one clock,
The pixel signal in the vertical transfer path is shifted by one pixel. As a result, the positions of Gs (for example, G0 and G1) that originally had a nested structure with R interposed therebetween are aligned so as to be adjacent to each other. 3. By outputting the charge transfer pulse corresponding to TG4, T is output from each pixel column of four pixels in the vertical direction.
Only the signal of one pixel corresponding to G4 is transferred to the vertical transfer path (G1, G3, G5, G7). As a result, R0, G0, G1, R2, G
2, G3, R4, G4, G5, R6, G6, G7.
【0042】4. 垂直転送路を2クロック分駆動し、
垂直転送路内の画素信号を2画素分シフトする。これに
より、今度はR同士の位置(例えばR0とR1)が隣接
するように揃えられる。5. TG3に対応する電荷移
送パルスを出力することにより、垂直方向4画素ずつの
各画素列の中からTG3に対応する1画素の信号だけを
垂直転送路に移送する(R1、R3、R5、R7)。こ
れにより、垂直転送路内では、図示のように、同色の2
画素が隣接して配置されることになる。Rについては、
元々の画素の並びに対して上下が逆転した並びとなる
が、加算処理を行うので問題はない。4. Driving the vertical transfer path for two clocks,
The pixel signal in the vertical transfer path is shifted by two pixels. Thereby, the positions of R (for example, R0 and R1) are aligned so that they are adjacent to each other. 5. By outputting the charge transfer pulse corresponding to TG3, only the signal of one pixel corresponding to TG3 is transferred to the vertical transfer path from each pixel row of four pixels in the vertical direction (R1, R3, R5, R7). . As a result, in the vertical transfer path, as shown in FIG.
Pixels will be arranged adjacently. For R,
Although the arrangement is inverted upside down with respect to the original arrangement of pixels, there is no problem because the addition processing is performed.
【0043】6. Hブランキング期間に2転送単位の
垂直転送を行い、且つ水平転送路については通常の転送
を行うことにより、同色画素同士の2nライン加算読み
出しを行う。そして、信号読み出し後には、従来と同様
にデジタル演算で1画素おき2画素加算を行う。6. Vertical transfer of two transfer units is performed during the H blanking period, and normal transfer is performed on the horizontal transfer path, thereby performing 2n-line addition reading between pixels of the same color. Then, after the signal is read, two pixels are added every other pixel by digital operation as in the conventional case.
【0044】(モノクロ撮像モード)図3には、400
万画素のCCD撮像素子105のベイヤ配列と100万
画素のモノクロ記録画像を得るための画素点(画素生成
点)との関係が示されている。モノクロ撮像モードで
は、図3の太線で示すように、オーバーラップしない2
×2のベイヤ単位画素配列毎に1つの割合で画素点Y
(黒丸で図示)が生成される。つまり、画素点(Y)は
共有画素を持たない(重複無しの)隣接する2×2の4
画素単位で生成される。すなわち、着目する生成画素点
の座標を(i,j)とすると、i=2m(偶数)、かつ
j=2n(偶数)の点でのみ以下の輝度信号Yの生成を
行なう。(Monochrome Imaging Mode) FIG.
The relationship between the Bayer array of the 10,000 pixel CCD image sensor 105 and the pixel points (pixel generation points) for obtaining a monochrome recorded image of 1 million pixels is shown. In the monochrome imaging mode, as shown by the thick line in FIG.
Pixel point Y at one rate for every × 2 Bayer unit pixel array
(Shown by a black circle) is generated. That is, the pixel point (Y) is an adjacent 2 × 2 4 having no shared pixel (no overlap).
Generated in pixel units. That is, assuming that the coordinates of the generated pixel point of interest are (i, j), the following luminance signal Y is generated only at the points of i = 2m (even number) and j = 2n (even number).
【0045】 Y(i,j)=Σ[2×2(i,j)]P(i’,j’) =R(i,j)+G(i,j+1)+G(i+1,j)+B(i+1,j+1) …(7) ここで、記号Σ[2×2(i,j)]は着目点(i,j)の隣接す
る2×2の(原画素の)4画素領域に関する(画素座標
を変数とする)総和を意味し、またP(i’,j’)は座
標(i’,j’)の原画素の信号出力値を示している。Y (i, j) = Σ [2 × 2 (i, j)] P (i ′, j ′) = R (i, j) + G (i, j + 1) + G (i + 1, j) + B (i + 1, j + 1) (7) Here, the symbol Σ [2 × 2 (i, j)] is a 2 × 2 ( It means the sum (with the pixel coordinates as variables) for the four pixel area (of the original pixels), and P (i ', j') indicates the signal output value of the original pixels at the coordinates (i ', j'). .
【0046】つまり、R00,G01,G10,B11
の4画素加算により輝度信号Y(0,0)が生成され、
同様に、R02,G03,G12,B13の4画素加算
により輝度信号Y(0,2)が、R04,G05,G1
4,B15の4画素加算により輝度信号Y(0,4)
が、というようにベイヤ単位画素配列毎にその4画素全
ての加算により対応する画素点の輝度信号が生成され
る。That is, R00, G01, G10, B11
A luminance signal Y (0,0) is generated by adding the four pixels of
Similarly, the luminance signal Y (0, 2) is obtained by adding four pixels of R02, G03, G12, and B13 to R04, G05, and G1.
The luminance signal Y (0, 4) is obtained by adding four pixels of B4 and B15.
However, a luminance signal of a corresponding pixel point is generated by adding all four pixels for each Bayer unit pixel array.
【0047】このようにして得られた輝度画像信号をモ
ノクロ画像信号として、必要に応じて圧縮を含む記録処
理を施し、媒体に記録する。式(1)〜(5)のような
ベイヤ信号処理は不要である。(ただし、ガンマやKn
ee、セットアップなどの一般的な信号処理が、必要に
応じて適宜施されることは無論である。)なお、4画素
加算の内、垂直方向の2画素の加算は素子内加算駆動に
よって行われ、水平方向の2画素の加算はデジタルプロ
セス回路108によるディジタル演算によって行われ
る。モノクロ撮像モードにおける素子内加算駆動では、
図2のような画素順入れ替えは行われない。具体的には
縦2画素(2ライン)に関しては全ライン同時TG移送
による単純な2ライン加算駆動を行ない、信号読み出し
後にデジタル演算で隣接2画素加算を行なう。The luminance image signal obtained in this way is subjected to a recording process including compression as necessary as a monochrome image signal, and is recorded on a medium. The Bayer signal processing as in the equations (1) to (5) is unnecessary. (However, gamma and Kn
It is a matter of course that general signal processing such as ee and setup is appropriately performed as needed. Of the four-pixel addition, addition of two pixels in the vertical direction is performed by in-element addition driving, and addition of two pixels in the horizontal direction is performed by digital operation by the digital process circuit 108. In the intra-element addition drive in the monochrome imaging mode,
The pixel order permutation as in FIG. 2 is not performed. Specifically, for two vertical pixels (two lines), simple two-line addition driving is performed by simultaneous TG transfer of all lines, and adjacent two pixels are added by digital operation after signal reading.
【0048】このように、モノクロ撮像モード専用の加
算読み出しを利用することにより、モノクロ画像の画質
向上に最適な画素同士の加算を行うことができるので、
加算読み出しによる高フレームレートを維持しつつ、従
来に比し簡単な信号処理で且つ画質劣化のない良好なモ
ノクロ画像を得ることが可能となる。As described above, by using the addition readout dedicated to the monochrome imaging mode, it is possible to perform the addition between the pixels optimal for improving the image quality of the monochrome image.
While maintaining the high frame rate by the addition reading, it is possible to obtain a good monochrome image with simple signal processing and no image quality deterioration compared to the related art.
【0049】例えば、従来の処理を行なった場合(すな
わちカラーモード時の輝度信号)に比しては、 ・生成画像1画素に対応する撮像素子上の画素領域は2
×2の4画素領域であり、解像度が極めて高くなる ・信号処理が単純で無駄が無い ・生成画素が全て同一構造であるから画像の均一性が高
い(R,Bの1画素がいずれも生成1画素のみに対応し
ているので色エッジ部におけるギザも無い) という効果が得られる。For example, as compared with the case where the conventional processing is performed (that is, the luminance signal in the color mode), the pixel area on the image sensor corresponding to one pixel of the generated image is 2
× 2 4 pixel area, extremely high resolution ・ Signal processing is simple and no waste ・ The uniformity of the image is high because all generated pixels have the same structure (one pixel of R and B is generated) (Because it corresponds to only one pixel, there is no jaggedness at the color edge portion.)
【0050】なお、この他にも様々な実施形態が考えら
れる。Various other embodiments are conceivable.
【0051】例えば、本実施形態では、水平方向の加算
については外部のディジタル演算によって行ったが、撮
像素子の駆動をさらに改良することにより可能となれ
ば、水平方向の加算についても素子内で行うことが好ま
しい。また、本実施形態の信号処理は4画素加算に限ら
ず、任意の(2n)2加算に拡張する事ができ、画素密
度1/2n2(水平垂直とも1/2n)となるような信
号処理に適用することができる。ここで、nは1以上の
整数である。すなわち、本実施形態では画素密度1/4
の画像を生成する場合の信号処理を例示したが、画素密
度1/16、画素密度1/36、…の画像生成のための
信号処理にも適用することができる。いずれの場合も、
垂直方向の少なくとも2ライン(好ましくは2nライ
ン)の加算は素子内で行われる。For example, in this embodiment, the addition in the horizontal direction is performed by an external digital operation. However, if it becomes possible by further improving the driving of the image pickup device, the addition in the horizontal direction is also performed in the device. Is preferred. Further, the signal processing of the present embodiment is not limited to four-pixel addition, but can be extended to arbitrary (2n) 2 addition, so that the pixel density becomes 1 / 2n 2 (1 / 2n both horizontally and vertically). Can be applied to Here, n is an integer of 1 or more. That is, in this embodiment, the pixel density is 1/4.
Although the signal processing in the case of generating the image of (1) is exemplified, the present invention can also be applied to the signal processing for image generation of the pixel density of 1/16, the pixel density of 1/36,. In either case,
The addition of at least two lines (preferably 2n lines) in the vertical direction is performed in the element.
【0052】また、(2n)2加算における水平方向の
2n加算に際しては、着目点からの距離や画素の色に応
じた任意の重み付けを各画素の信号P(i,j)に対し
て施しても良い。In addition, at the time of 2n addition in the horizontal direction in (2n) 2 addition, arbitrary weighting is performed on the signal P (i, j) of each pixel according to the distance from the point of interest and the color of the pixel. Is also good.
【0053】[0053]
【発明の効果】以上のように、本発明によれば、加算読
み出しによる高速フレームレートを維持しつつ、モノク
ロ時に関しては従来の処理よりも単純な信号処理で、し
かも従来に比して擬似信号の少ない均質で解像度の高
い、良好な画像を得ることが可能となる。As described above, according to the present invention, while maintaining the high frame rate by the addition reading, the signal processing is simpler than the conventional processing in the monochrome mode, and the pseudo signal is more than the conventional one. It is possible to obtain a homogeneous, high-resolution, and good image with less image quality.
【図1】本発明の一実施形態に係る撮像装置の構成を示
すブロック図。FIG. 1 is a block diagram showing a configuration of an imaging device according to an embodiment of the present invention.
【図2】同実施形態におけるカラー撮像モード時に行わ
れる垂直画素順入れ換え型の2ライン加算駆動を説明す
るための図。FIG. 2 is an exemplary view for explaining a vertical pixel permutation type two-line addition drive performed in a color imaging mode according to the embodiment;
【図3】同実施形態におけるモノクロ撮像モード時の画
素生成点と隣接4画素加算処理を説明するための図。FIG. 3 is an exemplary view for explaining a pixel generation point and an adjacent four-pixel addition process in a monochrome imaging mode according to the embodiment;
【図4】従来の画素生成点とベイヤ信号処理を説明する
ための図。FIG. 4 is a diagram for explaining conventional pixel generation points and Bayer signal processing.
【図5】従来の4画素加算処理を説明するための図。FIG. 5 is a diagram for explaining a conventional four-pixel addition process.
101…レンズ系 102…レンズ駆動機構 103…露出制御機構 104…フィルタ 105…CCDカラー撮像素子 106…CCDドライバ 107…プリプロセス回路 108…デジタルプロセス回路 109…カードインターフェース 110…メモリカード 111…LCD画像表示系 112…システムコントローラ(CPU) 201…加算読み出し駆動切換制御部 DESCRIPTION OF SYMBOLS 101 ... Lens system 102 ... Lens drive mechanism 103 ... Exposure control mechanism 104 ... Filter 105 ... CCD color image sensor 106 ... CCD driver 107 ... Preprocess circuit 108 ... Digital process circuit 109 ... Card interface 110 ... Memory card 111 ... LCD image display System 112: System controller (CPU) 201: Addition read drive switching control unit
Claims (5)
素子を駆動して撮像信号を読み出す駆動手段と、前記撮
像信号を処理して所定フォーマットのカラー画像信号お
よびモノクロ画像信号を選択的に生成可能な画像信号生
成手段と、前記画像信号生成手段が生成する画像がカラ
ーであるカラーモードおよびモノクロであるモノクロモ
ードのいずれかを選択的に指定するモード制御手段とを
有した撮像装置であって、前記駆動手段は、前記モード
制御手段が指定したモードがカラーモードである場合に
は第1の読み出し駆動を、モノクロモードである場合に
は第1の読み出し駆動とは異なる第2の読み出し駆動を
行うように構成されたものであることを特徴とする撮像
装置。1. A color image pickup device having a Bayer array, driving means for driving the image pickup device to read out an image pickup signal, and processing the image pickup signal to selectively generate a color image signal and a monochrome image signal in a predetermined format. An image pickup apparatus comprising: a possible image signal generation unit; and a mode control unit that selectively designates one of a color mode in which an image generated by the image signal generation unit is in color and a monochrome mode in which the image is monochrome. The drive means performs first readout drive when the mode specified by the mode control means is the color mode, and performs second readout drive different from the first readout drive when the mode specified by the mode control means is the monochrome mode. An imaging apparatus characterized in that the imaging apparatus is configured to perform the operation.
ける同色画素の電荷を加算しつつ読み出す同色加算読み
出し駆動であり、第2の読み出し駆動は、前記撮像素子
における隣接画素の電荷を加算しつつ読み出す隣接加算
読み出し駆動であることを特徴とする請求項1に記載の
撮像装置。2. A first read-out drive is a same-color addition read-out drive for reading out while adding electric charges of the same-color pixels in the image pickup device. A second read-out drive adds electric charges of adjacent pixels in the image pickup device. 2. The imaging apparatus according to claim 1, wherein adjacent addition read driving is performed while reading.
算読み出し駆動は、前記撮像素子の垂直転送路から水平
転送路への電荷転送に際して、毎回の水平ブランキング
期間に2n画素(2n転送単位:nは自然数)分の電荷
転送を行う2n加算駆動を用いるものであって、さらに
上記電荷転送に先立つ光電変換蓄積部から垂直転送路へ
の電荷移送に際しては、前記第1の読み出し駆動は、前
記電荷移送のための移送ゲートパルスを相毎にタイミン
グをずらして複数回出力し該移送ゲートパルスの複数回
出力の間に所定画素(所定転送単位)分の垂直転送路駆
動を伴うことによって垂直転送路上にて同色の画素信号
電荷が少なくとも2n画素分連続するように並べ替える
ものである同色隣接化電荷移送を行なうものであり、前
記第2の読み出し駆動は、前記同色隣接化電荷移送を行
わないものであることを特徴とする請求項2に記載の撮
像装置。3. The addition readout drive in the first and second readout drives is such that, at the time of charge transfer from the vertical transfer path to the horizontal transfer path of the image sensor, 2n pixels (2n transfer units: n is a natural number), and 2n addition driving is used to transfer electric charges by an amount equal to (n is a natural number). Further, when electric charges are transferred from the photoelectric conversion storage section to the vertical transfer path prior to the above-described electric charge transfer, the first read driving is performed by The transfer gate pulse for charge transfer is output a plurality of times with the timing shifted for each phase, and vertical transfer is performed by driving a vertical transfer path for a predetermined pixel (a predetermined transfer unit) between the plurality of output of the transfer gate pulse. And performing the same-color adjacent charge transfer that rearranges pixel signal charges of the same color on the road so as to be continuous for at least 2n pixels. Moving the imaging device according to claim 2, characterized in that is not conducted the same color adjacent of charge transfer.
素子を駆動して撮像信号を読み出す駆動手段と、生成す
る画像の画素密度が前記撮像素子の画素密度よりも小さ
い場合に前記生成画像の画素密度に対応した画素密度の
単位画素情報を生成する画素密度整合手段と、前記画素
密度整合手段の出力に基づいて所定フォーマットのカラ
ー画像信号およびモノクロ画像信号のいずれかを選択的
に生成可能な画像信号生成手段と、前記画像信号生成手
段が生成する画像がカラーであるカラーモードおよびモ
ノクロであるモノクロモードとを選択的に指定するモー
ド制御手段と、を有した撮像装置であって、 前記画素密度整合手段は、前記モード制御手段が指定し
たモードがカラーモードである場合には、同色の画素信
号情報を加算することにより前記画像信号生成手段にお
ける前記カラー画像信号生成のための単位画素情報を生
成し、前記モード制御手段が指定したモードがモノクロ
モードである場合には、全色の画素信号情報を加算する
ことにより画像信号生成手段における前記モノクロ画像
信号生成のための単位画素情報を生成するものであるこ
とを特徴とする撮像装置。4. A color image pickup device having a Bayer array, driving means for driving the image pickup device to read out an image pickup signal, and when the pixel density of the image to be generated is smaller than the pixel density of the image pickup device, A pixel density matching unit that generates unit pixel information of a pixel density corresponding to the pixel density; and a color image signal or a monochrome image signal of a predetermined format can be selectively generated based on an output of the pixel density matching unit. An image pickup apparatus comprising: an image signal generation unit; and a mode control unit that selectively designates a color mode in which an image generated by the image signal generation unit is a color mode and a monochrome mode in which the image is monochrome. The density matching unit adds the pixel signal information of the same color when the mode specified by the mode control unit is the color mode. The image signal generation unit generates unit pixel information for generating the color image signal, and when the mode specified by the mode control unit is a monochrome mode, adds pixel signal information of all colors to generate an image. An imaging apparatus for generating unit pixel information for generating the monochrome image signal in a signal generation unit.
ことを特徴とする請求項1〜4のいずれか1項に記載の
撮像装置。5. The image pickup apparatus according to claim 1, wherein said Bayer array is an RGB Bayer array.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000188028A JP2002010273A (en) | 2000-06-22 | 2000-06-22 | Imaging device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000188028A JP2002010273A (en) | 2000-06-22 | 2000-06-22 | Imaging device |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2002010273A true JP2002010273A (en) | 2002-01-11 |
Family
ID=18687885
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000188028A Pending JP2002010273A (en) | 2000-06-22 | 2000-06-22 | Imaging device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2002010273A (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009538563A (en) * | 2006-05-22 | 2009-11-05 | イーストマン コダック カンパニー | Image sensor with improved light sensitivity |
US8711452B2 (en) | 2005-07-28 | 2014-04-29 | Omnivision Technologies, Inc. | Processing color and panchromatic pixels |
-
2000
- 2000-06-22 JP JP2000188028A patent/JP2002010273A/en active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8711452B2 (en) | 2005-07-28 | 2014-04-29 | Omnivision Technologies, Inc. | Processing color and panchromatic pixels |
JP2009538563A (en) * | 2006-05-22 | 2009-11-05 | イーストマン コダック カンパニー | Image sensor with improved light sensitivity |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4195169B2 (en) | Solid-state imaging device and signal processing method | |
JP2002010276A (en) | Imaging apparatus | |
JP4098438B2 (en) | Color imaging device and color imaging device | |
JP3946492B2 (en) | How to generate a low resolution image | |
US20100149393A1 (en) | Increasing the resolution of color sub-pixel arrays | |
US20080186391A1 (en) | Solid-state image pickup apparatus with horizontal thinning and a signal reading method for the same | |
JPWO2002056604A1 (en) | Image processing device | |
JPWO2002056603A1 (en) | Imaging device | |
JPWO2012169140A1 (en) | Image processing apparatus, image processing method, and digital camera | |
JP2001285885A (en) | Solid-state image pickup element and signal processing method | |
JP5068158B2 (en) | Imaging device | |
JP4905279B2 (en) | Imaging circuit and imaging apparatus | |
US20070058050A1 (en) | Reconstructing a full color image from an image encoded by a bayer pattern | |
JP5607265B2 (en) | IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND CONTROL PROGRAM | |
JP5033711B2 (en) | Imaging device and driving method of imaging device | |
JPH09238355A (en) | Method for eliminating line noise of image pickup device and line noise elimination device using it | |
JP2004023683A (en) | Defect correction apparatus and method for solid-state imaging device | |
US20060001747A1 (en) | Image processing device | |
JP5411390B2 (en) | Color image sensor | |
JP2002010273A (en) | Imaging device | |
JP5624228B2 (en) | IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND CONTROL PROGRAM | |
JP4334740B2 (en) | Image generating apparatus and imaging apparatus | |
JP2000253412A (en) | Image pickup element and image pickup device | |
JP4309506B2 (en) | Imaging device and imaging apparatus | |
JP2001078208A (en) | Solid-state image pickup device and signal read method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070214 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090514 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090526 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20091006 |