JP4967432B2 - Imaging apparatus and camera system - Google Patents

Imaging apparatus and camera system Download PDF

Info

Publication number
JP4967432B2
JP4967432B2 JP2006111732A JP2006111732A JP4967432B2 JP 4967432 B2 JP4967432 B2 JP 4967432B2 JP 2006111732 A JP2006111732 A JP 2006111732A JP 2006111732 A JP2006111732 A JP 2006111732A JP 4967432 B2 JP4967432 B2 JP 4967432B2
Authority
JP
Japan
Prior art keywords
signal
pixel
color filter
clear
array
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006111732A
Other languages
Japanese (ja)
Other versions
JP2007288403A (en
Inventor
洪偉 張
正章 佐藤
新一郎 齊藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2006111732A priority Critical patent/JP4967432B2/en
Publication of JP2007288403A publication Critical patent/JP2007288403A/en
Application granted granted Critical
Publication of JP4967432B2 publication Critical patent/JP4967432B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)
  • Color Television Image Signal Generators (AREA)

Description

本発明は、CCD(Charge Coupled Device)、CMOS(Complementary Metal Oxide Semiconductor)センサなどの固体撮像素子を備えた撮像装置およびカメラシステムに係り、特に、複数の色フィルタを用いた2次元画素アレイを有する撮像装置およびカメラシステムに関するものである。   The present invention relates to an imaging apparatus and a camera system including a solid-state imaging device such as a CCD (Charge Coupled Device) and a CMOS (Complementary Metal Oxide Semiconductor) sensor, and in particular, has a two-dimensional pixel array using a plurality of color filters. The present invention relates to an imaging apparatus and a camera system.

撮像素子の色フィルタの配列としては、色再現性が良好な、色の3原色のうち緑(G)を2つ、赤(R)、青(B)を一つずつ用いたベイヤー配列が知られている。
このベイヤー配列は、色よりも輝度の解像度を重視した配列である。
As a color filter arrangement of the image sensor, a Bayer arrangement using two green (G), one red (R), and one blue (B) of the three primary colors with good color reproducibility is known. It has been.
This Bayer array is an array in which luminance resolution is more important than color.

ところで、このような色フィルタ配列において、良好な色再現性を保持しながら、感度アップをできるように、透明なフィルタを配置した画素配列を有する撮像装置が提案されている(たとえば特許文献1参照)。   By the way, in such a color filter array, an imaging apparatus having a pixel array in which a transparent filter is arranged so as to increase sensitivity while maintaining good color reproducibility has been proposed (for example, see Patent Document 1). ).

また、透明なフィルタ配置を改善することにより、画素を微細化しても、信号電荷量および色解像度を確保するようにした撮像装置が提案されている(たとえば特許文献2参照)。
特開平8−23542号公報 特開2004−304706号公報
In addition, an image pickup apparatus has been proposed in which the signal charge amount and the color resolution are ensured even if the pixels are miniaturized by improving the transparent filter arrangement (see, for example, Patent Document 2).
JP-A-8-23542 JP 2004-304706 A

しかしながら、上述した撮像装置においては、解像度の向上、色再現性の向上には限界がある。
また、イメージセンサ画素の微細化により、センサの撮像素子の集光量が減り、感度が低下するという不利益がある。
また、感度を改善するため、透明なフィルタを原色/補色と混載して固体撮像素子に搭載する場合、平均透過率が違うフィルタを搭載した撮像素子から出力された映像信号のレベルがばらつき、画像品質に影響を及ぼすという不利益がある。
However, in the above-described imaging apparatus, there is a limit to improvement in resolution and color reproducibility.
Further, there is a disadvantage that the fineness of the image sensor pixel reduces the amount of light collected by the image sensor of the sensor and lowers the sensitivity.
In addition, in order to improve sensitivity, when a transparent filter is mounted on a solid-state image sensor mixed with primary / complementary colors, the level of the video signal output from the image sensor equipped with a filter with a different average transmittance varies, and the image There is a disadvantage of affecting the quality.

本発明は、解像度の向上を図れ、しかも撮像素子の特性のばらつきを防止でき、画質改善を図ることができる撮像装置およびカメラシステムを提供することにある。   It is an object of the present invention to provide an imaging apparatus and a camera system that can improve resolution, prevent variation in characteristics of imaging elements, and improve image quality.

本発明の第1の観点の撮像装置は、分光感度特性の異なる複数の画素がアレイ状に配列され、上記画素を透過した光を電気信号に変換する画素アレイ部と、上記画素アレイ部から読み出された信号レベルの調整を行う信号処理部と、を有し、上記画素アレイ部は、色フィルタを含む分光感度特性のピークが赤色にある第1の色フィルタ画素、ピークが青色にある第2の色フィルタ画素、ピークが緑色にある第3の色フィルタ画素がアレイ状に配列され、かつ、当該アレイ画素配列の任意の行、列の任意の位置に、上記第1の色フィルタ画素、上記第2の色フィルタ画素、および上記第3の色フィルタ画素に対して透過率の高いクリア画素が配置され、上記信号処理部は、上記各色フィルタ画素の読み出し信号から輝度信号を生成し、上記クリア画素の読み出し信号と生成した輝度信号の低域成分を取り出して所定帯域の信号レベルの比を求め、クリア画素信号または輝度信号を基準した比をゲイン値として当該ゲイン値に基づいて、または、上記輝度信号と各色フィルタ画素の低域成分を取り出して所定帯域の信号レベルの比をそれぞれ求めてゲイン値として当該各ゲイン値およびクリア画素信号に基づいて、上記輝度信号並びに上記各色フィルタ画素信号または上記クリア画素信号、または、上記輝度信号以外の上記各色フィルタ画素信号の信号レベルを調整する。 An image pickup apparatus according to a first aspect of the present invention includes a pixel array unit in which a plurality of pixels having different spectral sensitivity characteristics are arranged in an array, and converts light transmitted through the pixels into an electrical signal, and reads from the pixel array unit. A signal processing unit that adjusts a signal level that is output, and the pixel array unit includes a first color filter pixel in which a peak of a spectral sensitivity characteristic including a color filter is in red, and a first in which a peak is in blue. Two color filter pixels, a third color filter pixel whose peak is green, is arranged in an array, and the first color filter pixel at any position in any row or column of the array pixel arrangement, A clear pixel having a high transmittance with respect to the second color filter pixel and the third color filter pixel is disposed, and the signal processing unit generates a luminance signal from a read signal of each color filter pixel, Chestnut Obtains the ratio of the signal level of a predetermined band removed low frequency component of the luminance signal generated and read signals of the pixels, based on the gain value ratio relative to the clear pixel signal or luminance signal as a gain value, or, The luminance signal and the low-frequency component of each color filter pixel are taken out to obtain a ratio between the signal levels in a predetermined band, and based on each gain value and clear pixel signal as a gain value, the luminance signal and each color filter pixel signal or The signal level of each color filter pixel signal other than the clear pixel signal or the luminance signal is adjusted.

本発明の第2の観点のカメラシステムは、撮像装置と、上記撮像装置の撮像部に入射光を導く光学系と、上記撮像装置の出力信号を処理する信号処理回路と、を有し、記撮像装置は、分光感度特性の異なる複数の画素がアレイ状に配列され、上記画素を透過した光を電気信号に変換する画素アレイ部と、上記画素アレイ部から読み出された信号レベルの調整を行う信号処理部と、を有し、上記画素アレイ部は、色フィルタを含む分光感度特性のピークが赤色にある第1の色フィルタ画素、ピークが青色にある第2の色フィルタ画素、ピークが緑色にある第3の色フィルタ画素がアレイ状に配列され、かつ、当該アレイ画素配列の任意の行、列の任意の位置に、上記第1の色フィルタ画素、上記第2の色フィルタ画素、および上記第3の色フィルタ画素に対して透過率の高いクリア画素が配置され、上記信号処理部は、上記各色フィルタ画素の読み出し信号から輝度信号を生成し、上記クリア画素の読み出し信号と生成した輝度信号の低域成分を取り出して所定帯域の信号レベルの比を求め、クリア画素信号または輝度信号を基準した比をゲイン値として当該ゲイン値に基づいて、または、上記輝度信号と各色フィルタ画素の低域成分を取り出して所定帯域の信号レベルの比をそれぞれ求めてゲイン値として当該各ゲイン値およびクリア画素信号に基づいて、上記輝度信号並びに上記各色フィルタ画素信号または上記クリア画素信号、または、上記輝度信号以外の上記各色フィルタ画素信号の信号レベルを調整する。 The second aspect camera system of the present invention includes an imaging device, an optical system for guiding incident light to the imaging unit of the imaging device, a signal processing circuit for processing an output signal of the imaging device, the upper The imaging apparatus includes a plurality of pixels having different spectral sensitivity characteristics arranged in an array, a pixel array unit that converts light transmitted through the pixels into an electrical signal, and adjustment of a signal level read from the pixel array unit The pixel array unit includes a first color filter pixel in which a peak of spectral sensitivity characteristics including a color filter is red, a second color filter pixel in which a peak is blue, a peak Are arranged in an array, and the first color filter pixel and the second color filter pixel are located at any position in any row or column of the array pixel array. , And the third color frame High transmittance clear pixels are arranged with respect to filter pixel, the signal processing unit generates a luminance signal from the read signal of each color filter pixels, the low-frequency component of the luminance signal and the generated read signal of the clear pixels the calculated ratio of the signal level of a predetermined band removed, based on the gain value of the ratio based on the clear pixel signal or luminance signal as a gain value, or takes out the luminance signal and the low frequency component of each color filter pixels A ratio of signal levels in a predetermined band is obtained as a gain value based on each gain value and the clear pixel signal, and the brightness signal and each color filter pixel signal or the clear pixel signal, or the other than the brightness signal. The signal level of each color filter pixel signal is adjusted.

本発明によれば、解像度の向上を図れ、しかも像素子の特性のばらつきを防止でき、画質改善を図ることができる。 According to the present invention, Hakare the increased resolution, yet can prevent variations in characteristics of an imaging device, it is possible to image quality improvement.

以下、本発明の実施形態を図面に関連付けて説明する。   Hereinafter, embodiments of the present invention will be described with reference to the drawings.

図1は、本発明の実施形態に係る撮像装置の要部の構成例を示すブロック図である。   FIG. 1 is a block diagram illustrating a configuration example of a main part of an imaging apparatus according to an embodiment of the present invention.

本撮像装置10は、図1に示すように、画素アレイ部(ARY)11、クリア画素用水平スキャン回路(CHSCAN)12、カラー画素用水平スキャン回路(CLRHSCAN)13、垂直スキャン回路(VSCAN)14−1,14−2、タイミング制御部15、電源部16、クリア画素用アナログフロントエンド部(CAFE)17、カラー画素用アナログフロントエンド部(CLRAFE)18、および信号処理部(SPRC)20を有する。   As shown in FIG. 1, the imaging apparatus 10 includes a pixel array unit (ARY) 11, a clear pixel horizontal scan circuit (CHSCAN) 12, a color pixel horizontal scan circuit (CLRHSCAN) 13, and a vertical scan circuit (VSCAN) 14. -1, 14-2, timing control unit 15, power supply unit 16, clear pixel analog front end unit (CAFE) 17, color pixel analog front end unit (CLRAFE) 18, and signal processing unit (SPRC) 20. .

画素アレイ部11は、たとえばセンサ単位画素が所定の配列形態をもってアレイ状に配列されている。
また、画素アレイ部11には、画素配列の各行(ロウ)に転送選択線、リセット線、セレクト線が配線され、画素配列の各列(カラム)に信号線が配線されている。
In the pixel array unit 11, for example, sensor unit pixels are arranged in an array with a predetermined arrangement form.
In the pixel array unit 11, a transfer selection line, a reset line, and a select line are wired to each row (row) of the pixel array, and a signal line is wired to each column (column) of the pixel array.

図2は、本実施形態の単位画素の一例を示す回路図である。図2では、CMOSセンサを一例として示している。   FIG. 2 is a circuit diagram illustrating an example of a unit pixel according to the present embodiment. In FIG. 2, a CMOS sensor is shown as an example.

図2の単位画素110は、フォトダイオード111、転送トランジスタ112、増幅トランジスタ113、セレクトトランジスタ114、リセットトランジスタ115、およびフローティングノードND111を有している。   The unit pixel 110 in FIG. 2 includes a photodiode 111, a transfer transistor 112, an amplification transistor 113, a select transistor 114, a reset transistor 115, and a floating node ND111.

フォトダイオード111は、入射光をその光量に応じた電荷量の信号電荷(たとえば電子)に光電変換して蓄積する。
転送トランジスタ112は、フォトダイオード111のカソードとフローティングノードND111との間に接続され、ゲートが転送選択線TRFLに接続されており、導通(オン)することにより、フォトダイオード111に蓄積されている信号電荷をフローティングノードND111に転送する機能を有している。
増幅トランジスタ113とセレクトトランジスタ114は電源電位VDDと信号線SGNLとの間に直列に接続されている。
増幅トランジスタ113はゲートがフローティングノードND111に接続され、フローティングノードND111の電位を増幅しセレクトトランジスタ114を介して信号線SGNLに出力する。
セレクトトランジスタ114のゲートはセレクト線SELLに接続されている。
リセットトランジスタ115は、ソースがフローティングノードND111に接続され、ドレインが所定電位線に接続され、ゲートがリセット線RSTLに接続され、フローティングノードND111の電位をリセットする機能を有している。
The photodiode 111 photoelectrically converts incident light into signal charges (for example, electrons) having a charge amount corresponding to the amount of light, and stores the signal charges.
The transfer transistor 112 is connected between the cathode of the photodiode 111 and the floating node ND111, and the gate is connected to the transfer selection line TRFL. When the transfer transistor 112 is turned on, the signal stored in the photodiode 111 is transferred. It has a function of transferring charges to the floating node ND111.
The amplification transistor 113 and the select transistor 114 are connected in series between the power supply potential VDD and the signal line SGNL.
The amplifying transistor 113 has a gate connected to the floating node ND111, amplifies the potential of the floating node ND111, and outputs the amplified potential to the signal line SGNL via the select transistor 114.
The gate of the select transistor 114 is connected to the select line SELL.
The reset transistor 115 has a source connected to the floating node ND111, a drain connected to a predetermined potential line, a gate connected to the reset line RSTL, and a function of resetting the potential of the floating node ND111.

画素配列の各行に配線される転送選択線TRFL、セレクト線SELL、リセット線RSTLは、垂直スキャン回路14(−1,−2)により選択的に駆動され、信号線SGNLはクリア画素用水平スキャン回路12、カラー画素用水平スキャン回路13に画素から読み出した信号を選択的転送する。
水平スキャン回路12,13、垂直スキャン回路14は、タイミング制御部15により駆動タイミングが制御される。
The transfer selection line TRFL, the select line SELL, and the reset line RSTL wired in each row of the pixel array are selectively driven by the vertical scan circuit 14 (-1, -2), and the signal line SGNL is a horizontal pixel scan circuit for clear pixels. 12. Selectively transfer the signal read from the pixel to the color pixel horizontal scan circuit 13.
The horizontal scanning circuits 12 and 13 and the vertical scanning circuit 14 are controlled in driving timing by the timing control unit 15.

図3は、本実施形態の画素アレイ部11の画素配列の一例を模式的に示す図である。   FIG. 3 is a diagram schematically illustrating an example of a pixel array of the pixel array unit 11 of the present embodiment.

図3の画素アレイ部11は、図3に示すように、斜め画素配列を採用し、かつ、色フィルタを含む分光感度特性のピークが赤色にある色フィルタ画素R、ピークが緑色にある色フィルタ画素G、ピークが青色にある色フィルタ画素Bに対して透過率の高いクリア画素Cを上下斜め方向に均等に挿入し、解像度の偏りをなくすようにした画素配列として形成されている。
なお、クリア画素Cは白色である必要はない。
図3の画素配列においては、第0行、第0列を含む偶数行、偶数列は、色フィルタ画素のみで形成され、奇数行、奇数列はクリア画素Cのみで形成されている。
As shown in FIG. 3, the pixel array unit 11 in FIG. 3 adopts an oblique pixel arrangement, and includes a color filter pixel R in which the peak of spectral sensitivity characteristics including the color filter is red, and a color filter in which the peak is green. A clear pixel C having a high transmittance is inserted evenly in the vertical and diagonal directions with respect to the pixel G and the color filter pixel B whose peak is blue, and is formed as a pixel array in which resolution bias is eliminated.
Note that the clear pixel C does not have to be white.
In the pixel array of FIG. 3, the even-numbered rows and even-numbered columns including the 0th row and the 0th column are formed by only the color filter pixels, and the odd-numbered rows and odd-numbered columns are formed by only the clear pixels C.

図4は、各色フィルタ画素R,G,Bとクリア画素Cの分光特性を概念的に示す図である。
図4において、横軸が波長を、縦軸が相対出力をそれぞれ示している。
図4から分かるように、クリア画素Cは可視光領域(波長360nmから700nm)の略全域にわたって感度を持っている。
すなわち、クリア画素Cでは、広い波長領域成分を持っていることから(全ての色信号は含まれる)クリア画素との境目の色再現をしやすい。
FIG. 4 is a diagram conceptually showing the spectral characteristics of the color filter pixels R, G, B and the clear pixel C.
In FIG. 4, the horizontal axis indicates the wavelength and the vertical axis indicates the relative output.
As can be seen from FIG. 4, the clear pixel C has sensitivity over substantially the entire visible light region (wavelength 360 nm to 700 nm).
That is, since the clear pixel C has a wide wavelength region component (all color signals are included), it is easy to reproduce the color at the boundary with the clear pixel.

以下、画素アレイ部11の特徴的な構成について、図5から図9に関連付けてさらに具体的に説明する。   Hereinafter, the characteristic configuration of the pixel array unit 11 will be described in more detail with reference to FIGS.

本実施形態の画素アレイ部11は、図5に示すように、いわゆる正方単位画素RGPXLを、カラム方向軸CAXを中心として所定角度θ(θ=0度〜90度の間)回転させたいわゆる斜め画素OBLPXLとして配置している。   As shown in FIG. 5, the pixel array unit 11 according to the present embodiment is a so-called slant formed by rotating a so-called square unit pixel RGPXL by a predetermined angle θ (between θ = 0 and 90 degrees) about the column direction axis CAX. It arrange | positions as pixel OBLPXL.

このような斜め画素OBLPXLの配列を採用することによる利点を、図6に関連付けて説明する。なお、図6では、ベイヤー配列を例としている。
正方画素RGPXLの画素ピッチPTCを1とすると、斜め画素OBLPXLの画素ピッは、回転角度θが45度のとき1/√2となり、画素の大きさを変えずに画素ピッチを小さくできる。
The advantage of adopting such an array of oblique pixels OBLPXL will be described with reference to FIG. In FIG. 6, a Bayer array is taken as an example.
When 1 pixel pitch PTC square pixel RGPXL, pixel pitch in the diagonal pixel OBLPXL is, 1 / √2 next when the rotational angle θ is 45 degrees, the pixel pitch without changing the size of the pixel can be reduced.

そして、本実施形態においては、図7に示すように、この斜め画素配列のベイヤー配列の4つの色フィルタ画素R,G,G,Bの真ん中にクリア画素Cを挿入して、基本的な斜め画素配列ユニットが形成されている。
ベイヤー配列を残しておくことで、信号処理系の色の補間処理が容易にできる。
In this embodiment, as shown in FIG. 7, a basic pixel is formed by inserting a clear pixel C in the middle of the four color filter pixels R, G, G, and B in the Bayer array of the diagonal pixel array. A pixel array unit is formed.
By leaving the Bayer array, it is possible to easily perform color interpolation processing in the signal processing system.

以上の構成を有する画素アレイ部11に対する駆動時の読み出し方式として、クリア画素Cと、色フィルタ画素(カラー画素)R,G,Bとを、別のチャネルによって読み出す。
本実施形態においては、たとえば、図8に示すように、クリア画素専用読み出しチャネルCH−Aと色フィルタ画素専用読み出しチャネルCH−Bを別にし、クリア画素Cと色フィルタ画素R,G,Bの読み出しを独立に行うように構成されている。
図8の例では、図中の上側にクリア画素用水平スキャン回路12がチャネルCH−Aの読み出し処理系として配置され、図中の下側に色フィルタ画素(カラー画素)用水平スキャン回路13がチャネルCH−Bの読み出し系として配置されている。
そして、本実施形態においては、奇数列に配線されている信号線SGNL−Oがクリア画素用水平スキャン回路12に接続され、偶数列に配線されている信号線SGNL−Eが色フィルタ画素(カラー画素)用水平スキャン回路13に接続される。
As a readout method for driving the pixel array unit 11 having the above configuration, the clear pixel C and the color filter pixels (color pixels) R, G, and B are read out by different channels.
In the present embodiment, for example, as shown in FIG. 8, the clear pixel dedicated read channel CH-A and the color filter pixel dedicated read channel CH-B are separated, and the clear pixel C and the color filter pixels R, G, B are separated. Reading is performed independently.
In the example of FIG. 8, the clear scan horizontal scan circuit 12 is arranged on the upper side in the figure as a channel CH-A readout processing system, and the color filter pixel (color pixel) horizontal scan circuit 13 is on the lower side in the figure. It is arranged as a readout system for channel CH-B.
In this embodiment, the signal line SGNL-O wired in the odd-numbered column is connected to the clear pixel horizontal scan circuit 12, and the signal line SGNL-E wired in the even-numbered column is connected to the color filter pixel (color Pixel) horizontal scan circuit 13.

さらに、本実施形態においては、クリア画素Cと色フィルタ画素(カラー画素)R,G,Bを別チャネルで読み出す方式を採用していることに加えて、電子シャッター(ローリングシャッター)の時間、速度、後段の処理でのゲインを、クリア画素Cと色フィルタ画素(カラー画素)R,G,Bで独立に変えるように構成される。   Further, in the present embodiment, in addition to adopting a method of reading the clear pixel C and the color filter pixels (color pixels) R, G, and B with different channels, the time and speed of the electronic shutter (rolling shutter) The gain in the subsequent processing is configured to be changed independently between the clear pixel C and the color filter pixels (color pixels) R, G, and B.

図9は、本実施形態における電子シャッターの駆動方式を模式的に示す図である。   FIG. 9 is a diagram schematically showing a driving method of the electronic shutter in the present embodiment.

本実施形態においては、図9に示すように。ローリングシャッターの時間をクリア画素とカラー画素の蓄積時間を変えて読み出すことができる。
また、シャッター速度をクリア画素Cと色フィルタ画素(カラー画素)R,G,Bとで、独立に変えることもできる。
たとえば、明るい所ではクリア画素のシャッターを早く切り、クリア画素の飽和を防ぎ、暗い所では逆にクリア画素のシャッターを遅く切ることで、感度を上げる。
このように構成することにより、明るい所では色情報を多く、暗い所では色情報を少なくし、自然な色を作ることができる。
In this embodiment, as shown in FIG. The rolling shutter time can be read by changing the accumulation time of clear pixels and color pixels.
Further, the shutter speed can be changed independently between the clear pixel C and the color filter pixels (color pixels) R, G, and B.
For example, the clear pixel shutter is quickly turned off in a bright place to prevent clear pixel saturation, and the clear pixel shutter is turned off late in a dark place to increase sensitivity.
With this configuration, it is possible to create a natural color by increasing the color information in a bright place and reducing the color information in a dark place.

このような構成を有する画素アレイ部11から読み出したクリア画素Cの読み出し信号は水平スキャン回路12を介してクリア画素用AFE17に転送される。
また、色フィルタ画素(カラー画素)R,G,Bの読み出し信号は水平スキャン回路13を介してクリア画素用AFE18に転送される。
AFE17,18において、読み出し信号に対して増幅処理等のアナログ処理を行い、デジタル信号に変換されて後段の信号処理部20に転送される。
The read signal of the clear pixel C read from the pixel array unit 11 having such a configuration is transferred to the clear pixel AFE 17 via the horizontal scan circuit 12.
The read signals of the color filter pixels (color pixels) R, G, B are transferred to the clear pixel AFE 18 via the horizontal scan circuit 13.
In the AFEs 17 and 18, analog processing such as amplification processing is performed on the read signal, converted into a digital signal, and transferred to the signal processing unit 20 in the subsequent stage.

図10は、本実施形態の信号処理部の構成例を示すブロック図である。   FIG. 10 is a block diagram illustrating a configuration example of the signal processing unit of the present embodiment.

この信号処理部20は、図10に示すように、ホワイトバランス調整部21、カラー画素部の補間処理部22、輝度調整部23、およびクリア画素部の補間処理部24を有する。   As shown in FIG. 10, the signal processing unit 20 includes a white balance adjustment unit 21, a color pixel unit interpolation processing unit 22, a luminance adjustment unit 23, and a clear pixel unit interpolation processing unit 24.

ホワイトバランス調整部21は,AFE17,18から転送されたクリア画素信号C、色フィルタ画素(カラー画素)信号R,G,Bに基づいてホワイトバランス調整を行う。   The white balance adjustment unit 21 performs white balance adjustment based on the clear pixel signal C and the color filter pixel (color pixel) signals R, G, and B transferred from the AFEs 17 and 18.

図11は、本実施形態における明るい場所でのホワイトバランス調整処理を説明するための図である。
図12は、本実施形態における暗い場所でのホワイトバランス調整処理を説明するための図である。
FIG. 11 is a diagram for explaining white balance adjustment processing in a bright place in the present embodiment.
FIG. 12 is a diagram for explaining white balance adjustment processing in a dark place in the present embodiment.

ホワイトバランス調整部21は、明るい場所の場合では、色フィルタ画素(カラー画素)Gの信号を基準にして、クリア画素C、他の色フィルタ画素(カラー画素)R,Bの信号を調整する。
一方、ホワイトバランス調整部21は、暗い場所では、クリア画素Cの信号を基準にして、色フィルタ画素(カラー画素)R,G,Bの信号を調整する。
The white balance adjustment unit 21 adjusts the signals of the clear pixel C and the other color filter pixels (color pixels) R and B on the basis of the signal of the color filter pixel (color pixel) G in a bright place.
On the other hand, the white balance adjustment unit 21 adjusts the signals of the color filter pixels (color pixels) R, G, and B on the basis of the signal of the clear pixel C in a dark place.

補間処理部22は、ホワイトバランス調整後の色フィルタ画素(カラー画素)部のみで補間処理を行い、カラー情報(RGB)と輝度情報とに分けて、輝度信号Yを輝度調整部23に供給し、RGB信号を補間処理部24に供給する。   The interpolation processing unit 22 performs interpolation processing only with the color filter pixel (color pixel) unit after white balance adjustment, and supplies the luminance signal Y to the luminance adjustment unit 23 by dividing into color information (RGB) and luminance information. , RGB signals are supplied to the interpolation processing unit 24.

輝度調整部23は、色フィルタ画素(カラー画素)R,G,Bの輝度信号と、クリア画素Cの輝度信号の調整を行い、輝度信号Yを出力する。   The luminance adjusting unit 23 adjusts the luminance signals of the color filter pixels (color pixels) R, G, and B and the luminance signal of the clear pixel C, and outputs a luminance signal Y.

補間処理部24は、輝度信号Yを基にホワイト(クリア)画素での補間処理を行い、色信号SCを出力する。   The interpolation processing unit 24 performs interpolation processing with white (clear) pixels based on the luminance signal Y, and outputs a color signal SC.

以下、本実施形態の信号処理部の輝度調整部と補間処理部の具体的な構成および機能について説明する。
輝度調整部23と補間処理部24は、協同して輝度調整および補間処理を行い、信号レベルを調整して輝度信号Yおよび色信号SC(色差信号Cr,Cb)を生成する。
以下、輝度調整部23と補間処理部24を一つの信号レベル調整回路として説明する。
Hereinafter, specific configurations and functions of the luminance adjustment unit and the interpolation processing unit of the signal processing unit of the present embodiment will be described.
The luminance adjustment unit 23 and the interpolation processing unit 24 cooperate to perform luminance adjustment and interpolation processing, adjust the signal level, and generate the luminance signal Y and the color signal SC (color difference signals Cr, Cb).
Hereinafter, the luminance adjustment unit 23 and the interpolation processing unit 24 will be described as one signal level adjustment circuit.

信号レベル調整回路は、上述した構成を有する画素アレイ部11から読み出された画像信号の感度差を吸収する回路を含み、感度差または撮像素子の特性のばらつきを防ぎ、画像品質を改善する機能を有している。
信号レベル調整回路は、RGB信号から輝度信号Yを生成し、各色信号の位相差を吸収可能なフィルタであるローパスフィルタ(LPF)において、クリア画素C、輝度信号Yの低域成分を取り出し、低域信号レベルの比を求め、CあるいはY信号を基準にゲインを調整する機能を有する。
また、信号レベル調整回路は、クリア画素Cの信号を基準にする場合、輝度信号Y以外の、RGB信号レベルを調整する。
The signal level adjustment circuit includes a circuit that absorbs the sensitivity difference between the image signals read from the pixel array unit 11 having the above-described configuration, and prevents the sensitivity difference or the variation in the characteristics of the image sensor, thereby improving the image quality. have.
The signal level adjustment circuit generates a luminance signal Y from the RGB signal, extracts a low-frequency component of the clear pixel C and the luminance signal Y in a low-pass filter (LPF) that is a filter that can absorb the phase difference of each color signal, It has a function of obtaining the ratio of the area signal levels and adjusting the gain with reference to the C or Y signal.
The signal level adjustment circuit adjusts the RGB signal levels other than the luminance signal Y when the signal of the clear pixel C is used as a reference.

図13は、本実施形態に係る信号レベル調整回路の要部の一構成例を示す回路図である。   FIG. 13 is a circuit diagram showing a configuration example of a main part of the signal level adjustment circuit according to the present embodiment.

図13の信号レベル調整回路30は、LPF31,32、除算器33、ゲイン調整部34、乗算器35〜39、および輝度合成部40を有する。   The signal level adjustment circuit 30 of FIG. 13 includes LPFs 31 and 32, a divider 33, a gain adjustment unit 34, multipliers 35 to 39, and a luminance synthesis unit 40.

LPF31は、輝度画素Yの低域成分Ylpfを取り出し、除算器33に出力する。
LPF32は、クリア画素C信号の低域成分C(W)lpfを取り出し、除算器33に出力する。
The LPF 31 extracts the low frequency component Ylpf of the luminance pixel Y and outputs it to the divider 33.
The LPF 32 extracts the low frequency component C (W) lpf of the clear pixel C signal and outputs it to the divider 33.

除算器33は、LPF32およびLPF32による低域成分Clpf、Ylpfの比を演算して、信号レベル調整のためのゲイン値Kyを生成し、ゲイン調整部34に出力する。
信号レベルの調整はC(W)基準、Y基準の2通りがある。
The divider 33 calculates the ratio of the low frequency components Clpf and Ylpf by the LPF 32 and the LPF 32, generates a gain value Ky for signal level adjustment, and outputs the gain value Ky to the gain adjustment unit 34.
There are two types of signal level adjustment: C (W) standard and Y standard.

ゲイン調整部34は、信号レベルの調整の基準を輝度信号Yとする場合には、除算器33で求めたゲイン値Kyを乗算器35に供給し、乗算器36〜39にはY、RGBのレベルを調整する必要がないため、定数「1」を供給する。
ゲイン調整部34は、信号レベルの調整の基準をクリア画素Cの信号とする場合には、乗算器35には定数「1」を供給し、除算器33で求めたゲイン値Kyを乗算器36〜39に供給する。
When the signal level adjustment reference is the luminance signal Y, the gain adjustment unit 34 supplies the gain value Ky obtained by the divider 33 to the multiplier 35, and Y and RGB are supplied to the multipliers 36 to 39. Since there is no need to adjust the level, a constant “1” is supplied.
When the signal level adjustment reference is the signal of the clear pixel C, the gain adjustment unit 34 supplies a constant “1” to the multiplier 35, and uses the gain value Ky obtained by the divider 33 as the multiplier 36. ~ 39.

乗算器35は、ゲイン調整部34から供給されるゲイン値Kyまたは定数「1」をクリア画素Cの信号に乗算し、その結果をC'として輝度合成部40に出力する。
乗算器36は、ゲイン調整部34から供給されるゲイン値Kyまたは定数「1」を輝度信号Yに乗算し、その結果をY'として輝度合成部40に出力する。
乗算器37は、ゲイン調整部34から供給されるゲイン値Kyまたは定数「1」を信号Rに乗算し、その結果をR'として出力する。
乗算器38は、ゲイン調整部34から供給されるゲイン値Kyまたは定数「1」を信号Gに乗算し、その結果をG'として出力する。
乗算器39は、ゲイン調整部34から供給されるゲイン値Kyまたは定数「1」を信号Bに乗算し、その結果をB'として出力する。
The multiplier 35 multiplies the signal of the clear pixel C by the gain value Ky or the constant “1” supplied from the gain adjustment unit 34, and outputs the result to the luminance synthesis unit 40 as C ′.
The multiplier 36 multiplies the luminance signal Y by the gain value Ky or constant “1” supplied from the gain adjusting unit 34 and outputs the result to the luminance combining unit 40 as Y ′.
The multiplier 37 multiplies the signal R by the gain value Ky or the constant “1” supplied from the gain adjustment unit 34, and outputs the result as R ′.
The multiplier 38 multiplies the signal G by the gain value Ky or constant “1” supplied from the gain adjustment unit 34, and outputs the result as G ′.
The multiplier 39 multiplies the signal B by the gain value Ky or the constant “1” supplied from the gain adjustment unit 34, and outputs the result as B ′.

輝度合成部40は、乗算器35の出力信号C'と乗算器36の出力信号Y'に基づき合成処理を行って最終的な輝度信号Y"を生成する。   The luminance synthesis unit 40 performs a synthesis process based on the output signal C ′ of the multiplier 35 and the output signal Y ′ of the multiplier 36 to generate a final luminance signal Y ″.

信号レベル調整回路30のレベル調整を行う場合の動作を、C(W)基準、Y基準の2通りに分けて説明する。   The operation when the signal level adjustment circuit 30 performs level adjustment will be described separately for the C (W) standard and the Y standard.

Y基準にクリア画素Cの信号レベルを調整する場合、除算器33においてゲイン値Ky次式で演算される。   When the signal level of the clear pixel C is adjusted based on the Y reference, the gain value Ky is calculated by the divider 33 in the following equation.

[数1]
Ky=Ylpf/Wlpf
[Equation 1]
Ky = Ylpf / Wlpf

この場合、ゲイン値Kyが乗算器3に供給される。乗算器35においては、調整後の信号C’が次式で求められ、輝度合成部40に出力される。 In this case, the gain value Ky is supplied to the multiplier 35. In the multiplier 35, the adjusted signal C ′ is obtained by the following equation and output to the luminance synthesis unit 40.

[数2]
C'=C*Ky
[Equation 2]
C '= C * Ky

この場合、信号R、G、Bを調整する必要がないため、定数「1」が乗算器36〜39に供給される。その結果、R'=R、G'=G、B'=Bとして得られ、色信号が得られる。   In this case, since it is not necessary to adjust the signals R, G, and B, the constant “1” is supplied to the multipliers 36 to 39. As a result, R ′ = R, G ′ = G, and B ′ = B are obtained, and a color signal is obtained.

C基準にY、R、G、Bを調整する場合、除算器33においてゲイン値Kyは次式で演算される。   When adjusting Y, R, G, and B to the C reference, the gain value Ky is calculated by the following equation in the divider 33.

[数3]
Ky=Wlpf/Ylpf
[Equation 3]
Ky = Wlpf / Ylpf

そして、ゲイン値Kyが乗算器36〜39に供給される。乗算器35〜39においては、調整後の信号Y'、R'、G'、B'が下記のようにして演算される。また、信号Y'は輝度合成部40に出力される。   Then, the gain value Ky is supplied to the multipliers 36 to 39. In the multipliers 35 to 39, the adjusted signals Y ′, R ′, G ′, and B ′ are calculated as follows. The signal Y ′ is output to the brightness synthesizer 40.

[数4]
Y'=Y*Ky
R'=R*Ky
G'=G*Ky
B'=B*Ky
[Equation 4]
Y '= Y * Ky
R '= R * Ky
G '= G * Ky
B '= B * Ky

そして、最終的な輝度信号Y"は輝度合成部40において信号C'とY'より生成される。また、色差信号はR'、G'、B'より生成される。   Then, the final luminance signal Y ″ is generated from the signals C ′ and Y ′ in the luminance combining unit 40. Further, the color difference signal is generated from R ′, G ′, and B ′.

以上のように、図13の信号レベル調整回路30は、信号レベルを調整するのに2通りの基準、すなわちC基準とY基準とを選択することが可能である。
たとえば、図14に示すように、制御信号CTLにより2通りの基準を明るさに応じて切り替えて選択することにより、より自然に近い画像を得ることが可能となる。
図14の例では、たとえば明るい場所ではY基準を採用した信号レベル調整回路30Aの出力をセレクタ41で選択し、暗い場所では、C基準を採用した信号レベル調整回路30Bの出力をセレクタ41で選択する。
As described above, the signal level adjustment circuit 30 of FIG. 13 can select two types of reference, that is, the C reference and the Y reference for adjusting the signal level.
For example, as shown in FIG. 14, it is possible to obtain a more natural image by switching and selecting two types of reference according to the brightness according to the control signal CTL.
In the example of FIG. 14, for example, the output of the signal level adjustment circuit 30A adopting the Y reference is selected by the selector 41 in a bright place, and the output of the signal level adjustment circuit 30B adopting the C reference is selected by the selector 41 in a dark place. To do.

図15は、本実施形態に係る信号レベル調整回路の要部の他の構成例を示す回路図である。   FIG. 15 is a circuit diagram showing another configuration example of the main part of the signal level adjustment circuit according to the present embodiment.

図15の信号レベル調整回路50は、LPF51〜54、除算器55〜57、および乗算器58〜60を有する。
なお、図15の信号レベル調整回路50においては、輝度信号の合成処理部分は省略している。
The signal level adjustment circuit 50 of FIG. 15 includes LPFs 51 to 54, dividers 55 to 57, and multipliers 58 to 60.
In the signal level adjustment circuit 50 of FIG. 15, the luminance signal synthesis processing part is omitted.

LPF51は、輝度信号Yの低域成分Ylpfを取り出し、除算器55〜57に出力する。
LPF52は、色フィルタ画素(カラー画素)信号Rの低域成分Rlpfを取り出し、除算器55に出力する。
LPF53は、色フィルタ画素(カラー画素)信号Gの低域成分Glpfを取り出し、除算器56に出力する。
LPF54は、色フィルタ画素(カラー画素)信号Bの低域成分Blpfを取り出し、除算器57に出力する。
The LPF 51 extracts the low frequency component Ylpf of the luminance signal Y and outputs it to the dividers 55 to 57.
The LPF 52 extracts the low frequency component Rlpf of the color filter pixel (color pixel) signal R and outputs it to the divider 55.
The LPF 53 extracts the low frequency component Glpf of the color filter pixel (color pixel) signal G and outputs it to the divider 56.
The LPF 54 extracts the low frequency component Blpf of the color filter pixel (color pixel) signal B and outputs it to the divider 57.

除算器55は、LPF52およびLPF51による低域成分Rlpf、Ylpfの比を演算して、信号レベル調整のためのゲイン値Krを次式に基づいて生成し、乗算器58に出力する。   The divider 55 calculates the ratio of the low frequency components Rlpf and Ylpf by the LPF 52 and the LPF 51, generates a gain value Kr for signal level adjustment based on the following equation, and outputs the gain value Kr to the multiplier 58.

[数5]
Kr=Rlpf/Ylpf
[Equation 5]
Kr = Rlpf / Ylpf

除算器56は、LPF53およびLPF51による低域成分Glpf、Ylpfの比を演算して、信号レベル調整のためのゲイン値Kgを次式に基づいて生成し、乗算器59に出力する。   The divider 56 calculates the ratio of the low frequency components Glpf and Ylpf by the LPF 53 and the LPF 51, generates a gain value Kg for signal level adjustment based on the following equation, and outputs the gain value Kg to the multiplier 59.

[数6]
Kg=Glpf/Ylpf
[Equation 6]
Kg = Glpf / Ylpf

除算器57は、LPF54およびLPF51による低域成分Blpf、Ylpfの比を演算して、信号レベル調整のためのゲイン値Kbを次式に基づいて生成し、乗算器60に出力する。   The divider 57 calculates the ratio of the low frequency components Blpf and Ylpf by the LPF 54 and the LPF 51, generates a gain value Kb for signal level adjustment based on the following equation, and outputs the gain value Kb to the multiplier 60.

[数7]
Kb=Blpf/Ylpf
[Equation 7]
Kb = Blpf / Ylpf

乗算器58は、除算器55から供給されるゲイン値Krを信号Cに乗算し、その結果をR'として出力する。
乗算器59は、除算器56から供給されるゲイン値Kgを信号Cに乗算し、その結果をG'として出力する。
乗算器60は、除算器57から供給されるゲイン値Kbを信号Cに乗算し、その結果をB'として出力する。
The multiplier 58 multiplies the signal C by the gain value Kr supplied from the divider 55 and outputs the result as R ′.
The multiplier 59 multiplies the signal C by the gain value Kg supplied from the divider 56, and outputs the result as G ′.
The multiplier 60 multiplies the signal C by the gain value Kb supplied from the divider 57 and outputs the result as B ′.

図15の信号レベル調整回路50は、R/G/B信号の調整のために、R/G/BをLPF52〜54に通過させ、それぞれ低域成分としてRlpf/Glpf/Blpfを取り出す。
そして、R/G/B信号レベル調整ゲイン値をKr、Kg、Kbとするとき、除算器55〜57において、Kr=Rlpf/Ylpf、Kg=Glpf/Ylpf、Kb=Blpf/Ylpfが演算される。
Signal level adjustment circuit 50 of FIG. 15, in order to adjust the R / G / B signal, passed through a R / G / B in LPF52~54, to respectively eject the Rlpf / Glpf / Blpf as a low-frequency component.
When the R / G / B signal level adjustment gain values are Kr, Kg, and Kb, the dividers 55 to 57 calculate Kr = Rlpf / Ylpf, Kg = Glpf / Ylpf, and Kb = Blpf / Ylpf. .

次に、乗算器58〜60において、次式によりR'、G'、B'が求められる。   Next, in multipliers 58 to 60, R ′, G ′, and B ′ are obtained by the following equations.

[数8]
R'=C*Kr
G'=C*Kg
B'=C*Kb
[Equation 8]
R ′ = C * Kr
G '= C * Kg
B '= C * Kb

図16は、図15の信号レベル調整回路の変形例を示す回路図である。   FIG. 16 is a circuit diagram showing a modification of the signal level adjustment circuit of FIG.

図16の信号レベル調整回路50Aが図15の信号レベル調整回路50と異なる点は、クリア画素信号CのLPF61を通過させて低域成分Clpfを取り出し、乗算器58〜60に供給するように構成したことにある。
この場合、乗算器58〜60では、次の演算が行われる。
The signal level adjustment circuit 50A in FIG. 16 is different from the signal level adjustment circuit 50 in FIG. 15 in that the low-frequency component Clpf is extracted by passing through the LPF 61 of the clear pixel signal C and supplied to the multipliers 58-60. It is to have done.
In this case, the multipliers 58 to 60 perform the following calculation.

[数9]
R'=Wlpf*Kr
G'=Wlpf*Kg
B'=Wlpf*Kb
[Equation 9]
R '= Wlpf * Kr
G '= Wlpf * Kg
B '= Wlpf * Kb

以上説明したように、本実施形態によれば、RGB信号から輝度信号Yを生成し、各色信号の位相差を吸収可能なフィルタであるローパスフィルタ(LPF)において、クリア画素C、輝度信号Yの低域成分を取り出し、低域信号レベルの比を求め、CあるいはY信号を基準にゲインを調整する機能を有し、クリア画素Cの信号を基準にする場合、輝度信号Y以外の、RGB信号レベルを調整する機能を有する信号レベル調整回路30,50,50Aを設けたので、感度差または撮像素子の特性のばらつきを防ぎ、画像品質を改善することができる。
すなわち、図13〜図15の回路において、上記の調整により、CとRGB信号のレベルを合わせると同時に、C、Yにより輝度信号を合成することで、高い輝度解像度が得られる。
また、C基準にY/R/G/Bを調整することで、感度を高め、S/Nを改善する効果がある。
さらに、図16の回路のように、R/G/B信号をLPFに通過させ、低域成分を取り出してClpfとともに、R'/G'/B'の調整に利用する場合、色差ノイズを抑制する効果が得られる。
As described above, according to the present embodiment, the luminance signal Y is generated from the RGB signals, and the clear pixel C and the luminance signal Y of the luminance signal Y are obtained in the low-pass filter (LPF) that can absorb the phase difference of each color signal. The low-frequency component is extracted, the ratio of the low-frequency signal level is obtained, and the gain is adjusted based on the C or Y signal. When the clear pixel C signal is used as a reference, the RGB signal other than the luminance signal Y Since the signal level adjustment circuits 30, 50, and 50A having the function of adjusting the level are provided, it is possible to prevent the difference in sensitivity or the variation in the characteristics of the image sensor and improve the image quality.
That is, in the circuits of FIGS. 13 to 15, by adjusting the levels of the C and RGB signals by the above adjustment, the luminance signal is synthesized by C and Y, thereby obtaining a high luminance resolution.
Further, adjusting Y / R / G / B to the C standard has the effect of increasing sensitivity and improving S / N.
Further, as in the circuit of FIG. 16, when the R / G / B signal is passed through the LPF, the low frequency component is extracted and used together with Clpf to adjust R ′ / G ′ / B ′, the color difference noise is suppressed. Effect is obtained.

また、本実施形態によれば、画素アレイ部11は、斜め画素配列を採用し、かつ、色フィルタを含む分光感度特性のピークが赤色にある色フィルタ画素R、ピークが緑色にある色フィルタ画素G、ピークが青色にある色フィルタ画素Bに対して透過率の高いクリア画素Cを上下斜め方向に均等に挿入し、解像度の偏りをなくすようにした画素配列として形成され、クリア画素専用読み出しチャネルCH−Aと色フィルタ画素専用読み出しチャネルCH−Bを別にし、クリア画素Cと色フィルタ画素R,G,Bの読み出しを独立に行うように構成され、クリア画素Cと色フィルタ画素(カラー画素)R,G,Bを別チャネルで読み出す方式を採用していることに加えて、電子シャッター(ローリングシャッター)の時間、速度、後段の処理でのゲインを、クリア画素Cと色フィルタ画素(カラー画素)R,G,Bで独立に変えるように構成されていることから、以下の効果を得ることができる。   In addition, according to the present embodiment, the pixel array unit 11 adopts an oblique pixel arrangement, and includes a color filter pixel R in which the peak of spectral sensitivity characteristics including the color filter is red, and a color filter pixel in which the peak is green. G, clear pixel C having a high transmittance with respect to the color filter pixel B whose peak is blue, is formed as a pixel array so as to eliminate the unevenness of resolution by evenly inserting the clear pixels C in the vertical direction, and the clear pixel dedicated read channel The CH-A and the color filter pixel dedicated readout channel CH-B are separated, and the clear pixel C and the color filter pixels R, G, and B are independently read out. The clear pixel C and the color filter pixel (color pixel) ) In addition to adopting a method of reading out R, G, and B on separate channels, electronic shutter (rolling shutter) time, speed, and gain in subsequent processing Since the clear pixel C and the color filter pixels (color pixels) R, G, and B are independently changed, the following effects can be obtained.

画素を、たとえば45度回転させることで、画素ピッチを1/√2にし、解像度を上げることができる。また一般的な画素配列で同じピッチにするよりも面積を二倍にすることができ、感度をあげることができ、かつ、この斜め画素配列のカラーコーティングにクリア(透明)な画素を入れることでさらなる感度の向上が可能になる。
また、ベイヤー配列の真ん中にクリア画素を配置した場合、色の補間処理が容易になる。
また、クリア画素Cと色フィルタ画素(カラー画素)R,B,Gでは独立にシャッター時間やゲインを変えることができるので、明るい所ではクリア画素の出力を控えめにし、暗い所では出力を大きくして、目で見ている時と同じようなより自然な絵を作り出せる。
このように、感度が向上することによりS/N比の改善を図ることが可能となり、感度向上による低照度での高速読み出しを実現することができる。
By rotating the pixel by 45 degrees, for example, the pixel pitch can be reduced to 1 / √2 and the resolution can be increased. In addition, the area can be doubled compared to the same pitch in a general pixel array, the sensitivity can be increased, and clear (transparent) pixels are included in the color coating of this diagonal pixel array. Further improvement in sensitivity becomes possible.
In addition, when the clear pixel is arranged in the middle of the Bayer array, color interpolation processing is facilitated.
In addition, the clear pixel C and color filter pixels (color pixels) R, B, and G can change the shutter time and gain independently, so the output of the clear pixel is conservative in bright places and the output is increased in dark places. And you can create a more natural picture similar to what you see with your eyes.
As described above, it is possible to improve the S / N ratio by improving the sensitivity, and it is possible to realize high-speed reading with low illuminance by improving the sensitivity.

なお、上述の説明においては、画素アレイ部11は、図3に示すように、斜め画素配列を採用し、かつ、色フィルタを含む分光感度特性のピークが赤色にある色フィルタ画素R、ピークが緑色にある色フィルタ画素G、ピークが青色にある色フィルタ画素Bに対して透過率の高いクリア画素Cを上下斜め方向に均等に挿入し、解像度の偏りをなくすようにした画素配列として形成されている例を説明した。
しかし、本発明は図3の画素配列に限らず、クリア画素を挿入した画素配列として種々の形態を採用することが可能であり、上述の効果と同様の効果を得ることが可能である。
In the above description, as shown in FIG. 3, the pixel array unit 11 employs an oblique pixel array, and the color filter pixel R in which the peak of the spectral sensitivity characteristic including the color filter is red, the peak is It is formed as a pixel array in which clear pixels C having a high transmittance are evenly inserted in the vertical and diagonal directions with respect to the color filter pixel G in green and the color filter pixel B in peak blue to eliminate the bias in resolution. Explained the example.
However, the present invention is not limited to the pixel array of FIG. 3, and various forms can be adopted as a pixel array into which clear pixels are inserted, and the same effects as those described above can be obtained.

以上、斜め画素配列の構成例について説明したが、信号レベル調整回路を適用できる構成、また、画素配列において、カラー画素の部分とは独立にシャッターを切ることができ、また独立に読み出すことができるといった特徴的な構成は、斜め画素配列のみではなく、たとえば図17に示すような、正方配列の画素配列にも適用でき、斜め配列の場合と同様の効果を得ることができる。
図17の例は図3の斜め画素配列を正方配列とした例を示している。
As described above, the configuration example of the diagonal pixel array has been described. However, in the configuration in which the signal level adjustment circuit can be applied, and in the pixel array, the shutter can be released independently from the color pixel portion, and can be read out independently. Such a characteristic configuration can be applied not only to a diagonal pixel array but also to a square pixel array as shown in FIG. 17, for example, and the same effect as in the diagonal array can be obtained.
The example of FIG. 17 shows an example in which the diagonal pixel arrangement of FIG. 3 is a square arrangement.

図18は、本発明の実施形態に係るカメラシステムの構成の概略を示すブロック図である。   FIG. 18 is a block diagram showing an outline of the configuration of the camera system according to the embodiment of the present invention.

本カメラシステム70は、撮像デバイス71と、この撮像デバイス71の画素領域に入射光を導く光学系、たとえば入射光(像光)を撮像面上に結像させるレンズ72と、撮像デバイス71を駆動する駆動回路73と、撮像デバイス71の出力信号を処理する信号処理回路74などを有する構成となっている。   The camera system 70 drives an imaging device 71, an optical system that guides incident light to the pixel region of the imaging device 71, for example, a lens 72 that forms incident light (image light) on an imaging surface, and the imaging device 71. And a signal processing circuit 74 that processes an output signal of the imaging device 71, and the like.

このカメラシステム70において、撮像デバイス71として、上記実施形態に係る撮像装置が用いられる。   In this camera system 70, the imaging apparatus according to the above embodiment is used as the imaging device 71.

駆動回路73は、図1におけるタイミング制御部にも相当する回路であって、撮像デバイス71を駆動する。
信号処理回路74は、撮像デバイス71の出力信号Voutに対して種々の信号処理を施して映像信号として出力する。
The drive circuit 73 is a circuit corresponding to the timing control unit in FIG. 1 and drives the imaging device 71.
The signal processing circuit 74 performs various signal processing on the output signal Vout of the imaging device 71 and outputs it as a video signal.

このように、本カメラシステムによれば、先述した実施形態に係る撮像装置を撮像デバイス71として用いることにより、高速動作を確保できることから、小回路規模・低消費電力にて雑音の少ない、高画質の撮像画像を得ることができる。   As described above, according to this camera system, since the high-speed operation can be secured by using the imaging apparatus according to the above-described embodiment as the imaging device 71, the image quality is small with a small circuit scale, low power consumption, and low noise. Can be obtained.

なお、本発明の撮像装置は、1チップとして形成された撮像装置であっても、複数のチップの集合体として形成されたモジュールタイプの撮像装置であってもよい。複数チップの集合体として形成された撮像装置である場合、撮像を行うセンサチップ、デジタル信号処理を行う信号処理チップなどに分かれて形成され、さらに、光学系を含むこともある。   The imaging device of the present invention may be an imaging device formed as a single chip or a module type imaging device formed as an aggregate of a plurality of chips. In the case of an imaging device formed as an assembly of a plurality of chips, the imaging device is divided into a sensor chip that performs imaging, a signal processing chip that performs digital signal processing, and the like, and may further include an optical system.

本発明の実施形態に係る撮像装置の要部の構成例を示すブロック図である。It is a block diagram which shows the structural example of the principal part of the imaging device which concerns on embodiment of this invention. 本実施形態の単位画素の一例を示す回路図である。It is a circuit diagram which shows an example of the unit pixel of this embodiment. 本実施形態の画素アレイ部の画素配列の一例を模式的に示す図である。It is a figure which shows typically an example of the pixel arrangement | sequence of the pixel array part of this embodiment. 各色フィルタ画素R,G,Bとクリア画素Cの分光特性を概念的に示す図である。3 is a diagram conceptually showing spectral characteristics of each color filter pixel R, G, B and clear pixel C. FIG. 斜め画素配列について説明するための図である。It is a figure for demonstrating a diagonal pixel arrangement | sequence. 斜め画素配列を採用することによる利点を説明するための図である。It is a figure for demonstrating the advantage by employ | adopting diagonal pixel arrangement | sequence. ベイヤー配列の4つの色フィルタ画素R,G,G,Bの真ん中にクリア画素Cを挿入した基本的な斜め画素配列ユニットを示す図である。It is a figure which shows the basic diagonal pixel arrangement | sequence unit which inserted the clear pixel C in the middle of four color filter pixels R, G, G, B of a Bayer arrangement. 本実施形態における画素アレイ部に対する駆動時の読み出し方式を説明するための図である。It is a figure for demonstrating the read-out system at the time of the drive with respect to the pixel array part in this embodiment. 本実施形態における電子シャッターの駆動方式を模式的に示す図である。It is a figure which shows typically the drive system of the electronic shutter in this embodiment. 本実施形態の信号処理部の構成例を示すブロック図である。It is a block diagram which shows the structural example of the signal processing part of this embodiment. 本実施形態における明るい場所でのホワイトバランス調整処理を説明するための図である。It is a figure for demonstrating the white balance adjustment process in the bright place in this embodiment. 本実施形態における暗い場所でのホワイトバランス調整処理を説明するための図である。It is a figure for demonstrating the white balance adjustment process in the dark place in this embodiment. 本実施形態に係る信号レベル調整回路の要部の一構成例を示す回路図である。It is a circuit diagram which shows one structural example of the principal part of the signal level adjustment circuit which concerns on this embodiment. 2通りの基準を採用した信号レベル調整回路の好適な例を示す図である。It is a figure which shows the suitable example of the signal level adjustment circuit which employ | adopted two kinds of references | standards. 本実施形態に係る信号レベル調整回路の要部の他の構成例を示す回路図である。It is a circuit diagram which shows the other structural example of the principal part of the signal level adjustment circuit which concerns on this embodiment. 図15の信号レベル調整回路の変形例を示す回路図である。FIG. 16 is a circuit diagram showing a modification of the signal level adjustment circuit of FIG. 15. 図3の斜め画素配列を正方配列とした例を示す図である。It is a figure which shows the example which made the diagonal pixel arrangement | sequence of FIG. 3 square. 本発明の実施形態に係るカメラシステムの構成の概略を示すブロック図である。It is a block diagram which shows the outline of a structure of the camera system which concerns on embodiment of this invention.

符号の説明Explanation of symbols

10・・・撮像装置、11・・・画素アレイ部(ARY)、12・・・クリア画素用水平スキャン回路(CHSCAN)、13・・・カラー画素用水平スキャン回路(CLRHSCAN)、14・・・垂直スキャン回路(VSCAN)、15・・・タイミング制御部、16・・・電源部、17・・・クリア画素用アナログフロントエンド部(CAFE)、18・・・カラー画素用アナログフロントエンド部(CLRAFE)、20・・・信号処理部、21・・・ホワイトバランス調整部、22・・・カラー画素部の補間処理部、23・・・輝度調整部、24・・・補間処理部、30,30A,30B,50,50A・・・信号レベル調整回路、31,32,51〜54,61・・・LPF、33,55〜57・・・除算器、34・・・ゲイン調整部、35〜39,58〜60・・・乗算器、40・・・輝度合成部、70・・・カメラシステム、71・・・撮像デバイス、72・・・レンズ、73・・・駆動回路、74・・・信号処理回路。

DESCRIPTION OF SYMBOLS 10 ... Imaging device, 11 ... Pixel array part (ARY), 12 ... Horizontal scan circuit for clear pixels (CHSCAN), 13 ... Horizontal scan circuit for color pixels (CLRHSCAN), 14 ... Vertical scan circuit (VSCAN), 15... Timing control section, 16... Power supply section, 17... Analog front end section for clear pixels (CAFE), 18... Analog front end section for color pixels (CLRAFE) ), 20... Signal processing unit, 21... White balance adjustment unit, 22... Color pixel unit interpolation processing unit, 23 .. brightness adjustment unit, 24. , 30B, 50, 50A ... signal level adjustment circuit, 31, 32, 51-54, 61 ... LPF, 33, 55-57 ... divider, 34 ... gain Adjusting unit, 35-39, 58-60 ... multiplier, 40 ... luminance combining unit, 70 ... camera system, 71 ... imaging device, 72 ... lens, 73 ... driving circuit 74... Signal processing circuit.

Claims (8)

分光感度特性の異なる複数の画素がアレイ状に配列され、上記画素を透過した光を電気信号に変換する画素アレイ部と、
上記画素アレイ部から読み出された信号レベルの調整を行う信号処理部と、を有し、
上記画素アレイ部は、
色フィルタを含む分光感度特性のピークが赤色にある第1の色フィルタ画素、ピークが青色にある第2の色フィルタ画素、ピークが緑色にある第3の色フィルタ画素がアレイ状に配列され、かつ、
当該アレイ画素配列の任意の行、列の任意の位置に、上記第1の色フィルタ画素、上記第2の色フィルタ画素、および上記第3の色フィルタ画素に対して透過率の高いクリア画素が配置され、
上記信号処理部は、
上記各色フィルタ画素の読み出し信号から輝度信号を生成し、上記クリア画素の読み出し信号と生成した輝度信号の低域成分を取り出して所定帯域の信号レベルの比を求め、クリア画素信号または輝度信号を基準した比をゲイン値として当該ゲイン値に基づいて、または、上記輝度信号と各色フィルタ画素の低域成分を取り出して所定帯域の信号レベルの比をそれぞれ求めてゲイン値として当該各ゲイン値およびクリア画素信号に基づいて、上記輝度信号並びに上記各色フィルタ画素信号または上記クリア画素信号、または、上記輝度信号以外の上記各色フィルタ画素信号の信号レベルを調整する
撮像装置。
A plurality of pixels having different spectral sensitivity characteristics are arranged in an array, and a pixel array unit that converts light transmitted through the pixels into an electrical signal;
A signal processing unit that adjusts the signal level read from the pixel array unit,
The pixel array section is
A first color filter pixel having a spectral sensitivity characteristic peak including a color filter in red, a second color filter pixel having a peak in blue, and a third color filter pixel having a peak in green are arranged in an array, And,
A clear pixel having a high transmittance with respect to the first color filter pixel, the second color filter pixel, and the third color filter pixel is located at an arbitrary position of the row and column of the array pixel array. Arranged,
The signal processor is
Generate a luminance signal from the readout signal of each color filter pixel, extract the low-frequency component of the readout signal of the clear pixel and the generated luminance signal, obtain the ratio of the signal level of the predetermined band, and use the clear pixel signal or the luminance signal as a reference and the ratio based on the gain value as a gain value, or, the respective gain values and the gain value respectively determined the ratio of the signal level of a predetermined band removed the luminance signal and the low frequency component of each color filter pixels clear An image pickup apparatus that adjusts signal levels of the luminance signal and the color filter pixel signals or the clear pixel signal or the color filter pixel signals other than the luminance signal based on a pixel signal .
上記信号処理部は、上記輝度信号を基準とする場合、上記クリア画素信号を上記ゲイン値でレベル調整し、上記各色フィルタ画素の信号レベルはそのままに保持する
請求項1記載の撮像装置。
The imaging apparatus according to claim 1, wherein when the luminance signal is used as a reference, the signal processing unit adjusts the level of the clear pixel signal with the gain value and holds the signal level of each color filter pixel as it is.
上記信号処理部は、上記クリア画素信号を基準とする場合、上記輝度信号並びに上記各色フィルタ画素信号を上記ゲイン値でレベル調整する
請求項1記載の撮像装置。
The imaging apparatus according to claim 1, wherein the signal processing unit adjusts the level of the luminance signal and each color filter pixel signal with the gain value when the clear pixel signal is used as a reference.
上記信号処理部は、制御信号に応じてクリア信号を基準にレベル調整するか、輝度信号を基準にレベル調整するかを選択可能である
請求項1記載の撮像装置。
The imaging apparatus according to claim 1, wherein the signal processing unit is capable of selecting level adjustment based on a clear signal or level adjustment based on a luminance signal in accordance with a control signal.
上記信号処理部は、上記クリア画素信号を基準とする場合、上記輝度信号と各色フィルタ画素の所定帯域の信号レベルの比をそれぞれ求めてゲイン値とし、当該ゲイン値およびクリア画素信号に基づいて、上記輝度信号以外の上記各色フィルタ画素信号のレベルを調整する
請求項1記載の撮像装置。
When the signal processing unit is based on the clear pixel signal, a ratio of the luminance signal and a signal level of a predetermined band of each color filter pixel is obtained as a gain value, and based on the gain value and the clear pixel signal, The imaging apparatus according to claim 1, wherein the level of each color filter pixel signal other than the luminance signal is adjusted.
上記信号処理部は、上記クリア画素信号を基準とする場合、上記輝度信号と各色フィルタ画素の所定帯域の信号レベルの比をそれぞれ求めてゲイン値とし、当該ゲイン値およびクリア画素信号の低域成分に基づいて、上記輝度信号以外の上記各色フィルタ画素信号のレベルを調整する
請求項1記載の撮像装置。
When the clear pixel signal is used as a reference, the signal processing unit obtains a ratio of the luminance signal and a signal level of a predetermined band of each color filter pixel to obtain a gain value, and the gain value and the low frequency component of the clear pixel signal The image pickup apparatus according to claim 1, wherein the level of each color filter pixel signal other than the luminance signal is adjusted based on the image signal.
上記画素アレイ部は、上記各色フィルタ画素およびクリア画素が斜め画素配列方式で配置されている
請求項1から6のいずれか一に記載の撮像装置。
The imaging device according to any one of claims 1 to 6, wherein the pixel array unit includes the color filter pixels and the clear pixels arranged in an oblique pixel arrangement method.
撮像装置と、
上記撮像装置の撮像部に入射光を導く光学系と、
上記撮像装置の出力信号を処理する信号処理回路と、を有し、
記撮像装置は、
分光感度特性の異なる複数の画素がアレイ状に配列され、上記画素を透過した光を電気信号に変換する画素アレイ部と、
上記画素アレイ部から読み出された信号レベルの調整を行う信号処理部と、を有し、
上記画素アレイ部は、
色フィルタを含む分光感度特性のピークが赤色にある第1の色フィルタ画素、ピークが青色にある第2の色フィルタ画素、ピークが緑色にある第3の色フィルタ画素がアレイ状に配列され、かつ、
当該アレイ画素配列の任意の行、列の任意の位置に、上記第1の色フィルタ画素、上記第2の色フィルタ画素、および上記第3の色フィルタ画素に対して透過率の高いクリア画素が配置され、
上記信号処理部は、
上記各色フィルタ画素の読み出し信号から輝度信号を生成し、上記クリア画素の読み出し信号と生成した輝度信号の低域成分を取り出して所定帯域の信号レベルの比を求め、クリア画素信号または輝度信号を基準した比をゲイン値として当該ゲイン値に基づいて、または、上記輝度信号と各色フィルタ画素の低域成分を取り出して所定帯域の信号レベルの比をそれぞれ求めてゲイン値として当該各ゲイン値およびクリア画素信号に基づいて、上記輝度信号並びに上記各色フィルタ画素信号または上記クリア画素信号、または、上記輝度信号以外の上記各色フィルタ画素信号の信号レベルを調整する
カメラシステム。
An imaging device;
An optical system for guiding incident light to the imaging unit of the imaging device;
A signal processing circuit for processing an output signal of the imaging device,
Above Symbol imaging device,
A plurality of pixels having different spectral sensitivity characteristics are arranged in an array, and a pixel array unit that converts light transmitted through the pixels into an electrical signal;
A signal processing unit that adjusts the signal level read from the pixel array unit,
The pixel array section is
A first color filter pixel having a spectral sensitivity characteristic peak including a color filter in red, a second color filter pixel having a peak in blue, and a third color filter pixel having a peak in green are arranged in an array, And,
A clear pixel having a high transmittance with respect to the first color filter pixel, the second color filter pixel, and the third color filter pixel is located at an arbitrary position of the row and column of the array pixel array. Arranged,
The signal processor is
Generate a luminance signal from the readout signal of each color filter pixel, extract the low-frequency component of the readout signal of the clear pixel and the generated luminance signal, obtain the ratio of the signal level of the predetermined band, and use the clear pixel signal or the luminance signal as a reference and the ratio based on the gain value as a gain value, or, the respective gain values and the gain value respectively determined the ratio of the signal level of a predetermined band removed the luminance signal and the low frequency component of each color filter pixels clear A camera system that adjusts signal levels of the luminance signal and the color filter pixel signals or the clear pixel signal or the color filter pixel signals other than the luminance signal based on a pixel signal .
JP2006111732A 2006-04-14 2006-04-14 Imaging apparatus and camera system Expired - Fee Related JP4967432B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006111732A JP4967432B2 (en) 2006-04-14 2006-04-14 Imaging apparatus and camera system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006111732A JP4967432B2 (en) 2006-04-14 2006-04-14 Imaging apparatus and camera system

Publications (2)

Publication Number Publication Date
JP2007288403A JP2007288403A (en) 2007-11-01
JP4967432B2 true JP4967432B2 (en) 2012-07-04

Family

ID=38759773

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006111732A Expired - Fee Related JP4967432B2 (en) 2006-04-14 2006-04-14 Imaging apparatus and camera system

Country Status (1)

Country Link
JP (1) JP4967432B2 (en)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4187004B2 (en) 2006-04-17 2008-11-26 ソニー株式会社 Imaging apparatus and exposure control method for imaging apparatus
JP5106870B2 (en) * 2006-06-14 2012-12-26 株式会社東芝 Solid-state image sensor
JP5222625B2 (en) * 2007-06-01 2013-06-26 富士フイルム株式会社 Imaging device
JP5033700B2 (en) * 2008-04-02 2012-09-26 富士フイルム株式会社 Imaging device
JP5066476B2 (en) * 2008-04-04 2012-11-07 富士フイルム株式会社 Imaging device
JP5033702B2 (en) * 2008-04-04 2012-09-26 富士フイルム株式会社 Imaging device
JP2010157951A (en) * 2009-01-05 2010-07-15 Fujifilm Corp Output level estimation apparatus and method, photographing apparatus and control method of the same, and program
DE112013003422B4 (en) 2012-07-06 2017-09-07 Fujifilm Corporation Color image pickup element and image pickup device

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4517493B2 (en) * 2000-10-18 2010-08-04 ソニー株式会社 Solid-state imaging device and signal processing method thereof
JP2004304706A (en) * 2003-04-01 2004-10-28 Fuji Photo Film Co Ltd Solid-state imaging apparatus and interpolation processing method thereof
WO2006064564A1 (en) * 2004-12-16 2006-06-22 Fujitsu Limited Imaging device, imaging element, and image processing method

Also Published As

Publication number Publication date
JP2007288403A (en) 2007-11-01

Similar Documents

Publication Publication Date Title
US11056526B2 (en) Imaging device camera system and driving method of the same
JP4967432B2 (en) Imaging apparatus and camera system
TWI521965B (en) Camera and camera methods, electronic machines and programs
US20100149393A1 (en) Increasing the resolution of color sub-pixel arrays
US8072504B2 (en) Method and system for aiding user alignment for capturing partially overlapping digital images
US20080218598A1 (en) Imaging method, imaging apparatus, and driving device
JP4291793B2 (en) Solid-state imaging device and solid-state imaging device
WO2017119477A1 (en) Imaging element and imaging device
JP2006270364A (en) Solid-state image pickup element and solid-state image pickup device, and driving method thereof
US20110063481A1 (en) Solid-state imaging device and electronic apparatus
US20220201179A1 (en) Image sensor and imaging device
KR20060057940A (en) System on a chip camera system employing complementary color filter
JP4317117B2 (en) Solid-state imaging device and imaging method
WO2018092400A1 (en) Solid-state imaging element, signal processing circuit, and electronic device
US20070222874A1 (en) Image signal processor
JP5256084B2 (en) Imaging device and driving method of imaging device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090331

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110512

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110524

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110708

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120306

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120319

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150413

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150413

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees