JP7150515B2 - Imaging element and imaging device - Google Patents

Imaging element and imaging device Download PDF

Info

Publication number
JP7150515B2
JP7150515B2 JP2018150743A JP2018150743A JP7150515B2 JP 7150515 B2 JP7150515 B2 JP 7150515B2 JP 2018150743 A JP2018150743 A JP 2018150743A JP 2018150743 A JP2018150743 A JP 2018150743A JP 7150515 B2 JP7150515 B2 JP 7150515B2
Authority
JP
Japan
Prior art keywords
color
pixels
region
spectral characteristics
wavelength band
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018150743A
Other languages
Japanese (ja)
Other versions
JP2020027980A (en
Inventor
宏 矢野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018150743A priority Critical patent/JP7150515B2/en
Publication of JP2020027980A publication Critical patent/JP2020027980A/en
Application granted granted Critical
Publication of JP7150515B2 publication Critical patent/JP7150515B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、撮像素子及び撮像装置に関する。 The present invention relates to an imaging device and an imaging device.

デジタルスチルカメラやデジタルビデオカメラ等の撮像装置には、CMOSイメージセンサーやCCDイメージセンサーなどの撮像素子が用いられている。近年、撮像素子の高画素化が進んだことによって、撮像時の色数、すなわち分光する波長帯域の種類を増やすことにより、被写体の色成分をより正確に検出して色再現性を向上させることを目的としたマルチスペクトルセンサを用いた撮像装置が提案されている。例えば、挟帯域特性を持つ16種類のカラーフィルタを用いる技術(特許文献1)や、ベイヤー配列における1つずつの領域を分割して分光する波長帯域を分割する技術が提案されている(特許文献2)。 Imaging devices such as digital still cameras and digital video cameras use imaging devices such as CMOS image sensors and CCD image sensors. In recent years, as the number of pixels in imaging devices has increased, the number of colors at the time of imaging, that is, the types of wavelength bands that are dispersed, has increased to more accurately detect the color components of the subject and improve color reproducibility. An imaging device using a multispectral sensor has been proposed for the purpose of. For example, a technique using 16 types of color filters with narrow band characteristics (Patent Document 1) and a technique of dividing each region in the Bayer array to divide the spectral wavelength band have been proposed (Patent Document 1). 2).

特開2003-87806号公報JP-A-2003-87806 特開2012-44519号公報JP 2012-44519 A

特許文献1に記載の技術では、撮像素子における画素配列が、いわゆるベイヤー配列とはなっていないため、実際に出力する画像としてカラー画像を出力することができない。特許文献2には、ベイヤー配列でのRGBの各色のバンド幅よりも狭いバンド幅の複数のカラーフィルタを用いた撮像素子が記載されている。そして、それぞれRGBの色に対応した複数の狭いバンド幅の画素信号を加算することで、従来のベイヤー配列での処理を可能としている。 In the technique described in Patent Document 1, the pixel arrangement in the imaging element is not a so-called Bayer arrangement, so a color image cannot be output as an image to be actually output. Patent Document 2 describes an imaging device using a plurality of color filters having narrower band widths than the band widths of RGB colors in the Bayer array. By adding a plurality of narrow-bandwidth pixel signals corresponding to RGB colors, processing in the conventional Bayer array is made possible.

しかしながら、特許文献2に記載の撮像素子は、いわゆるRGGB配列となっているため、16画素分を使用しているにもかかわらず、12種類の波長帯域の情報しか得ることができない。本発明は、このような事情に鑑みてなされたものであり、撮像素子において情報を取得する波長帯域の種類を増加させることを目的とする。 However, since the imaging device described in Patent Document 2 has a so-called RGGB arrangement, it is possible to obtain information of only 12 wavelength bands even though 16 pixels are used. The present invention has been made in view of such circumstances, and an object of the present invention is to increase the types of wavelength bands for acquiring information in an image sensor.

本発明に係る撮像素子は、第1、第2、第3の色からなるベイヤー配列における前記第2の色に対応する2つの領域の内の第1の領域に配置され、前記第2の色に係る互いに異なる波長帯域の分光特性を有する複数の第1の画素と、前記第2の色に対応する2つの領域の内の第2の領域に配置され、前記第2の色に係る互いに異なる波長帯域の分光特性を有する複数の第2の画素とを有し、前記第1の領域に配置される前記複数の第1の画素が有する分光特性の波長帯域と、前記第2の領域に配置される前記複数の第2の画素が有する分光特性の波長帯域とは、一部又は全部が異なり、前記第1の領域に配置される前記第1の画素及び前記第2の領域に配置される前記第2の画素は、4以上であることを特徴とする。 The imaging device according to the present invention is arranged in a first region of two regions corresponding to the second color in a Bayer array consisting of first, second, and third colors, and a plurality of first pixels having spectral characteristics in wavelength bands different from each other according to the second color; and a plurality of second pixels having spectral characteristics of a wavelength band, wherein the wavelength band of the spectral characteristics of the plurality of first pixels arranged in the first region and arranged in the second region The wavelength band of the spectral characteristics of the plurality of second pixels, which are arranged in the first region and the wavelength bands of the spectral characteristics of the plurality of second pixels, are partly or entirely different, and are arranged in the first region and the second region. The number of the second pixels is 4 or more .

本発明によれば、第1、第2、第3の色からなるベイヤー配列における第2の色に対応する2つの領域を異なる分光特性にし、情報を取得する波長帯域の種類を増加させることができ、より細かなスペクトル分光が可能となる。 According to the present invention, the two regions corresponding to the second color in the Bayer array consisting of the first, second, and third colors have different spectral characteristics, thereby increasing the types of wavelength bands from which information is obtained. This allows for finer spectral spectroscopy.

本発明の実施形態における撮像素子を有する撮像装置の構成例を示す図である。1 is a diagram showing a configuration example of an imaging device having an imaging device according to an embodiment of the present invention; FIG. ベイヤー配列のカラーフィルタ配列の例を示す図である。It is a figure which shows the example of the color filter arrangement|sequence of a Bayer arrangement. 図2に示すカラーフィルタの分光透過率特性を示す図である。3 is a diagram showing spectral transmittance characteristics of the color filter shown in FIG. 2; FIG. ベイヤー配列のカラーフィルタ配列の他の例を示す図である。FIG. 10 is a diagram showing another example of a Bayer array color filter array; 図4に示すカラーフィルタの分光透過率特性を示す図である。5 is a diagram showing spectral transmittance characteristics of the color filter shown in FIG. 4; FIG. 本実施形態におけるカラーフィルタの分光透過率特性の例を示す図である。FIG. 4 is a diagram showing an example of spectral transmittance characteristics of color filters according to the present embodiment; 本実施形態におけるカラーフィルタの分光透過率特性の例を示す図である。FIG. 4 is a diagram showing an example of spectral transmittance characteristics of color filters according to the present embodiment; 本実施形態におけるカラーフィルタ配列の第1の例を説明する図である。It is a figure explaining the 1st example of the color filter arrangement|sequence in this embodiment. 本実施形態におけるカラーフィルタ配列の第2の例を説明する図である。It is a figure explaining the 2nd example of the color filter arrangement|sequence in this embodiment. 本実施形態におけるカラーフィルタ配列の第3の例を説明する図である。It is a figure explaining the 3rd example of the color filter arrangement|sequence in this embodiment. 本実施形態におけるカラーフィルタ配列の第4の例を説明する図である。It is a figure explaining the 4th example of the color filter arrangement|sequence in this embodiment. 本実施形態におけるカラーフィルタ配列の第5の例を説明する図である。It is a figure explaining the 5th example of the color filter arrangement|sequence in this embodiment. 本実施形態におけるカラーフィルタ配列の第6の例を説明する図である。It is a figure explaining the 6th example of the color filter arrangement|sequence in this embodiment.

以下、本発明の実施形態を図面に基づいて説明する。以下に説明する本実施形態における撮像素子を有する撮像装置は、デジタルスチルカメラやデジタルビデオカメラ等だけでなく、例えば、スマートフォンやタブレット等の各種携帯機器や、工業用カメラ、車載用カメラ、医療用カメラ等にも適用可能である。 BEST MODE FOR CARRYING OUT THE INVENTION An embodiment of the present invention will be described below with reference to the drawings. Imaging devices having an imaging device according to the present embodiment described below are not limited to digital still cameras, digital video cameras, etc.; It is also applicable to cameras and the like.

図1は、本発明の一実施形態における撮像素子を有する撮像装置の構成例を示すブロック図である。本実施形態における撮像装置は、撮像素子101、画像取得部102、画素データ加算部103、ラインメモリ104、画像処理部105、スペクトルデータ解析部106、データ出力部107、及び画像出力部108を有する。 FIG. 1 is a block diagram showing a configuration example of an imaging device having an imaging device according to one embodiment of the present invention. The imaging apparatus in this embodiment has an imaging device 101, an image acquisition unit 102, a pixel data addition unit 103, a line memory 104, an image processing unit 105, a spectral data analysis unit 106, a data output unit 107, and an image output unit 108. .

撮像素子101は、例えば、CMOSイメージセンサーやCCDイメージセンサー等が用いられ、従来のベイヤー配列におけるR(赤)、G(緑)、B(青)の3種類の分光透過率特性だけではなく、様々な分光透過率特性を有する撮像素子である。画像取得部102は、撮像素子101から出力される各々の画素信号(画素データ)を取得して、画素データ加算部103及びスペクトルデータ解析部106へ出力する。 The imaging device 101 is, for example, a CMOS image sensor, a CCD image sensor, or the like. It is an imaging device having various spectral transmittance characteristics. The image acquisition unit 102 acquires each pixel signal (pixel data) output from the image pickup device 101 and outputs it to the pixel data addition unit 103 and the spectrum data analysis unit 106 .

画素データ加算部103は、狭い波長帯域(狭帯域)の画素信号(画素データ)を加算してR、G、Bの各色に対応する信号を生成したり、さらには狭帯域の画素信号をブロード(幅の広い)の波長帯域の画素信号(画素データ)に加算したりする。画素信号(画素データ)の加算は、例えばラインメモリ104等のメモリを用いて処理を行うが、ラインメモリ104等のメモリは本実施形態において必須なものではない。 The pixel data addition unit 103 adds pixel signals (pixel data) of narrow wavelength bands (narrow bands) to generate signals corresponding to the respective colors of R, G, and B, and broadens the pixel signals of narrow bands. It is added to the pixel signal (pixel data) of the (wide) wavelength band. Addition of pixel signals (pixel data) is performed using a memory such as the line memory 104, for example, but the memory such as the line memory 104 is not essential in this embodiment.

画像処理部105は、画素データ加算部103で得られたR、G、Bの信号に画像処理を施す。画像処理部105は、例えば、R、G、Bの各色の信号に対して、映像を出力するための形態に沿ってホワイトバランス処理やガンマ処理等の処理を行う。また、画像処理部105は、画素データ加算部103での信号の加算方法等に応じて、重心ずれ補正処理や偽色抑圧処理等を適宜行う。 The image processing unit 105 performs image processing on the R, G, and B signals obtained by the pixel data addition unit 103 . For example, the image processing unit 105 performs white balance processing, gamma processing, and the like on the R, G, and B color signals according to a form for outputting video. Further, the image processing unit 105 appropriately performs center-of-gravity shift correction processing, false color suppression processing, and the like according to the signal addition method in the pixel data addition unit 103 .

スペクトルデータ解析部106は、各波長帯域の信号を解析して、任意の画像処理を行う。スペクトルデータ解析部106は、例えば、ブロードの帯域よりも波長帯域が狭い信号を得ることで、被写体にあたっている光の光源を推定して映像データに適切なホワイトバランス処理を施すように制御する。また、スペクトルデータ解析部106は、ある波長帯域のみの出力を基に特定の処理や判定を行ったりする。スペクトルデータ解析部106は、処理結果をデータ出力部107にデータとして出力したり、画像出力部108へフィードバックしたりする。なお、このスペクトルデータの解析手法等は、本実施形態では特に限定せず、任意の手法が適用可能である。 The spectrum data analysis unit 106 analyzes the signal of each wavelength band and performs arbitrary image processing. For example, the spectral data analysis unit 106 obtains a signal with a narrower wavelength band than a broad band, estimates the light source of the light impinging on the subject, and controls the video data to perform appropriate white balance processing. Also, the spectrum data analysis unit 106 performs specific processing or determination based on the output of only a certain wavelength band. The spectrum data analysis unit 106 outputs the processing result as data to the data output unit 107 or feeds it back to the image output unit 108 . It should be noted that the method for analyzing the spectrum data and the like are not particularly limited in this embodiment, and any method can be applied.

データ出力部107は、スペクトルデータ解析部106から供給される処理結果等を外部に出力する。画像出力部108は、画像処理部105により画像処理して得られる映像データを出力する。画像出力部108は、例えばスペクトルデータ解析部106から供給される処理結果等に応じて、画像処理部105から出力される映像データに適宜処理を施して出力する。 The data output unit 107 outputs the processing results and the like supplied from the spectrum data analysis unit 106 to the outside. The image output unit 108 outputs video data obtained by image processing by the image processing unit 105 . The image output unit 108 appropriately processes the video data output from the image processing unit 105 according to the processing result or the like supplied from the spectrum data analysis unit 106, and outputs the processed video data.

次に、撮像素子におけるカラーフィルタ配列について説明する。
図2は、一般的なベイヤー配列での各画素に対するカラーフィルタの配列の例を示す図である。上下方向及び左右方向にそれぞれ2画素ずつの4つの画素をひとかたまりとし、4画素のうちの2画素をG(緑)に相当する波長の光を取り込む画素(G画素)とする。また、残りの2画素は、1画素をR(赤)に相当する波長の光を取り込む画素(R画素)とし、もう1画素をB(青)に相当する波長の光を取り込む画素(B画素)とする。
Next, the color filter arrangement in the image sensor will be described.
FIG. 2 is a diagram showing an example of an arrangement of color filters for each pixel in a general Bayer arrangement. A group of four pixels, two pixels each in the vertical direction and the horizontal direction, is defined as two pixels among the four pixels (G pixels) that capture light of a wavelength corresponding to G (green). For the remaining two pixels, one pixel is a pixel (R pixel) that captures light with a wavelength corresponding to R (red), and another pixel is a pixel (B pixel) that captures light with a wavelength corresponding to B (blue). ).

例えば、図2に示したように、4つの画素201~204において、Bに相当する波長帯域の光を透過させる分光特性を有するカラーフィルタ(B)が画素201に対して配置される。また、Gに相当する波長帯域の光を透過させる分光特性を有するカラーフィルタ(G)が画素202、203に対して配置され、Rに相当する波長帯域の光を透過させる分光特性を有するカラーフィルタ(R)が画素204に対して配置される。なお、図2において、Gbは、B画素のとなりのG画素であることを示し、Grは、R画素のとなりのG画素であることを示す。 For example, as shown in FIG. 2, in four pixels 201 to 204, a color filter (B) having spectral characteristics for transmitting light in a wavelength band corresponding to B is arranged with respect to the pixel 201. FIG. Further, a color filter (G) having spectral characteristics for transmitting light in a wavelength band corresponding to G is arranged for the pixels 202 and 203, and a color filter having spectral characteristics for transmitting light in a wavelength band corresponding to R. (R) is positioned relative to pixel 204 . In FIG. 2, Gb indicates a G pixel next to a B pixel, and Gr indicates a G pixel next to an R pixel.

このようにベイヤー配列では、2つのG画素と、それぞれ1つのR画素及びB画素とが配置され、またG画素は対角上に配置される。撮像素子の画素は、この組み合わせを単位として、それを連続させたものになっている。なお、図2に示した例では、B画素が左上に配置されているが、指定があるわけではない。 Thus, in the Bayer array, two G pixels and one R pixel and one B pixel are arranged, and the G pixels are arranged diagonally. The pixels of the image sensor are a series of such combinations as a unit. In addition, in the example shown in FIG. 2, the B pixel is arranged at the upper left, but it is not specified.

図3は、図2に示したようなベイヤー配列を適用したCMOSセンサーのフォトダイオード単体における分光透過率特性の例を示す図である。図3において、横軸は光の波長とし、縦軸は分光透過率とする。図3において、301がB画素における分光透過率特性を示し、302がG画素における分光透過率特性を示し、303がR画素における分光透過率特性を示している。 FIG. 3 is a diagram showing an example of spectral transmittance characteristics of a single photodiode of a CMOS sensor to which the Bayer arrangement shown in FIG. 2 is applied. In FIG. 3, the horizontal axis is the wavelength of light, and the vertical axis is the spectral transmittance. In FIG. 3, 301 indicates the spectral transmittance characteristic of the B pixel, 302 indicates the spectral transmittance characteristic of the G pixel, and 303 indicates the spectral transmittance characteristic of the R pixel.

一般的にCMOSセンサーのフォトダイオードはシリコンウェハ上に作製されており、Gに相当する波長帯域480~600nm付近が最も分光透過率特性が高い。Rに相当する波長帯域は590~720nm付近とし、Bに相当する波長帯域は400~540nm付近としている。本実施形態では、この図3に示したような特性を、ベイヤー配列におけるブロード(幅の広い)の波長帯域の分光透過率特性と称す。以上のように、ベイヤー配列では、R、G、Bの3種類の波長帯域のカラーフィルタを用いることが一般的である。 A photodiode of a CMOS sensor is generally fabricated on a silicon wafer, and has the highest spectral transmittance characteristics in the vicinity of a wavelength band of 480 to 600 nm corresponding to G. The wavelength band corresponding to R is around 590 to 720 nm, and the wavelength band corresponding to B is around 400 to 540 nm. In this embodiment, the characteristics shown in FIG. 3 are referred to as spectral transmittance characteristics in a broad wavelength band in the Bayer array. As described above, the Bayer array generally uses color filters of three wavelength bands of R, G, and B. FIG.

図4は、ベイヤー配列での各画素に対するカラーフィルタの配列の他の例を示す図である。図4に示す撮像素子は、ベイヤー配列での各色に対応する領域を、異なる波長帯域の分光特性を有する4つの画素で構成している。例えば、B(青)の色に対応する領域401が、Bに相当する波長帯域の一部であるλ1~λ4の波長帯域の光を取り込むλ1画素、λ2画素、λ3画素、及びλ4画素で構成される。 FIG. 4 is a diagram showing another example of the arrangement of color filters for each pixel in the Bayer arrangement. In the imaging device shown in FIG. 4, regions corresponding to respective colors in the Bayer array are composed of four pixels having spectral characteristics in different wavelength bands. For example, an area 401 corresponding to the color B (blue) is composed of λ1 pixels, λ2 pixels, λ3 pixels, and λ4 pixels that capture light in the wavelength band of λ1 to λ4, which is part of the wavelength band corresponding to B. be done.

また、G(緑)の色に対応する領域402、403が、Gに相当する波長帯域の一部であるλ5~λ8の波長帯域の光を取り込むλ5画素、λ6画素、λ7画素、及びλ8画素で構成される。さらに、R(赤)の色に対応する領域404が、Rに相当する波長帯域の一部であるλ9~λ12の波長帯域の光を取り込むλ9画素、λ10画素、λ11画素、及びλ12画素で構成される。 Regions 402 and 403 corresponding to the color G (green) are λ5 pixels, λ6 pixels, λ7 pixels, and λ8 pixels that capture light in the wavelength band of λ5 to λ8, which is part of the wavelength band corresponding to G. consists of Furthermore, an area 404 corresponding to the color R (red) is composed of λ9 pixels, λ10 pixels, λ11 pixels, and λ12 pixels that capture light in the wavelength band of λ9 to λ12, which is part of the wavelength band corresponding to R. be done.

図4に示したλ1画素~λ12画素の各画素には、ベイヤー配列におけるブロードの波長帯域よりも狭帯域にした波長帯域の光を透過させるカラーフィルタが配置され、各画素における分光透過率特性は、例えば図5に示すようになる。図5は、図4に示した各画素における分光透過率特性の例を示す図である。 Each of the λ1 to λ12 pixels shown in FIG. 4 is provided with a color filter that transmits light in a narrower wavelength band than the broad wavelength band in the Bayer array. , for example, as shown in FIG. FIG. 5 is a diagram showing an example of spectral transmittance characteristics in each pixel shown in FIG.

ここで、図4及び図5に示したようなλ1~λ12の波長帯域とする構成では、Gに相当する波長帯域が、Gの色に対応する2つの領域402、403において同じλ5~λ8の波長帯域で構成されている。そのため、16画素分の領域を使用しているにもかかわらず、12種類の波長帯域の情報しか得られない。 Here, in the configuration with the wavelength band of λ1 to λ12 as shown in FIG. 4 and FIG. It consists of wavelength bands. Therefore, although the area for 16 pixels is used, only 12 types of wavelength band information can be obtained.

これでは、例えば農業用途における生育具合を確認するためのGの波長領域をより細かく分析したいというニーズを満たすことができない。一方、分光する波長帯域の種類を単に増やすだけでは、Gの色に対応する2つの領域での色差が大きくなり、偽色が発生しやすくなってしまう。 In this case, for example, it is not possible to meet the need for more detailed analysis of the G wavelength region for checking the growth condition in agricultural applications. On the other hand, simply increasing the types of wavelength bands to be spectrally dispersed increases the color difference between the two regions corresponding to the color of G, making false colors more likely to occur.

そこで、本実施形態における撮像素子は、ベイヤー配列におけるGの色に対応する2つの領域について、それぞれ異なる波長帯域を持つ挟帯域のカラーフィルタを有しながら配列を工夫することにより偽色等の発生を抑える。なお、以下の説明において、λi(iは添え字であり、i=1~16)の波長帯域の光を透過させる分光特性を有するカラーフィルタを“カラーフィルタ(λi)”と記す。 Therefore, in the imaging device of this embodiment, two regions corresponding to the G color in the Bayer array are provided with narrow band color filters having different wavelength bands, and the arrangement is devised to generate false colors. suppress. In the following description, a color filter having spectral characteristics for transmitting light in a wavelength band of λi (where i is a subscript and i=1 to 16) is referred to as “color filter (λi)”.

また、カラーフィルタ(λi)が配置されてλiの波長帯域の光を取り込む画素、すなわちλiの波長帯域の情報を取得する画素を“λi画素”と記す。また、撮像素子における画素配列(カラーフィルタ配列)については単位配列だけを示すが、撮像素子では、その単位配列が互いに隣接するように連続して配置されている。 Also, a pixel in which a color filter (λi) is arranged and which captures light in the wavelength band of λi, that is, a pixel that acquires information in the wavelength band of λi is referred to as a “λi pixel”. Also, although only a unit array is shown for the pixel array (color filter array) in the image sensor, in the image sensor, the unit arrays are arranged continuously so as to be adjacent to each other.

図6は、本実施形態におけるカラーフィルタ(λ1)~カラーフィルタ(λ16)による分光透過率特性、言い換えればλ1画素~λ16画素における分光透過率特性の例を示す図である。図6に示すように、λ1~λ4の波長帯域はBに相当する波長帯域の一部であり、λ5~λ8及びλ13~λ16の波長帯域はGに相当する波長帯域の一部であり、λ9~λ12の波長帯域はRに相当する波長帯域の一部である。 FIG. 6 is a diagram showing an example of the spectral transmittance characteristics of the color filters (λ1) to (λ16) in this embodiment, in other words, the spectral transmittance characteristics of the λ1 to λ16 pixels. As shown in FIG. 6, the wavelength band λ1 to λ4 is part of the wavelength band corresponding to B, the wavelength bands λ5 to λ8 and λ13 to λ16 are part of the wavelength band corresponding to G, and λ9 The wavelength band of ~λ12 is part of the wavelength band corresponding to R.

本実施形態では、Gに相当する波長帯域内に、λ5~λ8及びλ13~λ16の異なる8種類の狭い波長帯域(狭帯域)の分光特性を持つ。λ5~λ8及びλ13~λ16の波長帯域は、λ5の波長帯域における中心波長が一番短く、λ5、λ13、λ6、λ14、λ7、λ15、λ8、λ16の順に、同様の波長間隔で中心波長が長くなる。つまり、λ5~λ8及びλ13~λ16の各波長帯域は、Gに相当する波長帯域を8分割したときのそれぞれの波長帯域に対応する。 In this embodiment, the wavelength band corresponding to G has spectral characteristics of eight different narrow wavelength bands (narrow bands) of λ5 to λ8 and λ13 to λ16. The wavelength bands of λ5 to λ8 and λ13 to λ16 have the shortest center wavelength in the wavelength band of λ5, and the center wavelengths are at similar wavelength intervals in the order of λ5, λ13, λ6, λ14, λ7, λ15, λ8, and λ16. become longer. That is, each of the wavelength bands λ5 to λ8 and λ13 to λ16 corresponds to each wavelength band when the wavelength band corresponding to G is divided into eight.

図7(a)は、図6に示した分光透過率特性の内、Gに相当する波長帯域における挟帯域のカラーフィルタ(λ5)~(λ8)及びカラーフィルタ(λ13)~(λ16)による分光透過率特性を示す図である。カラーフィルタ(λ1)~(λ16)のそれぞれのカラーフィルタが略同一の波長帯域幅(半値幅)を有するように構成すると、Gの波長帯域において隣の帯域のカラーフィルタと重なる分光透過率の値T1は、他のB、Rの波長帯域と比べて高い。 FIG. 7(a) shows the spectral transmittance characteristics shown in FIG. 6 by narrow-band color filters (λ5) to (λ8) and color filters (λ13) to (λ16) in the wavelength band corresponding to G. It is a figure which shows the transmittance|permeability characteristic. When each of the color filters (λ1) to (λ16) is configured to have substantially the same wavelength bandwidth (half width), the spectral transmittance value overlaps with the color filter of the adjacent band in the G wavelength band. T1 is higher than other B and R wavelength bands.

この場合、光量確保という面では他のカラーフィルタと同様のため、画像データの加算やゲインの確保といった面では有利であるが、スペクトル分離といった面では重なり部分が大きいため隣の特性も多く拾ってしまう。そこで、例えば図7(b)に示すように、Gの波長帯域に含まれるカラーフィルタ(λ5)~(λ8)及びカラーフィルタ(λ13)~(λ16)の波長帯域幅(半値幅)を狭く(例えば、約1/2に)する。このようにすることで、隣の帯域のカラーフィルタと重なる分光透過率の値T2を低下させ、他のB、Rの波長帯域と同等の重なり量とし、スペクトル分離の精度を高めることが可能である。 In this case, since it is the same as other color filters in terms of securing the amount of light, it is advantageous in terms of adding image data and securing gain. put away. Therefore, for example, as shown in FIG. 7B, the wavelength bandwidth (half width) of the color filters (λ5) to (λ8) and the color filters (λ13) to (λ16) included in the wavelength band of G is narrowed ( for example, about 1/2). By doing so, it is possible to reduce the value T2 of the spectral transmittance that overlaps with the color filter of the adjacent band, make the amount of overlap equivalent to that of the other B and R wavelength bands, and improve the accuracy of spectral separation. be.

・第1の配列例
図8(a)~図8(c)は、本実施形態における撮像素子のカラーフィルタ配列の第1の例を説明する図である。第1の例において、撮像素子は、図8(a)に例示するように、ベイヤー配列での各色に対応する領域を、互いに異なる波長帯域の分光特性を有する4つの画素で構成している。また、Gの色に対応する2つの領域間で、分光特性の波長帯域を全部異ならせて画素が配置されている。
First Arrangement Example FIGS. 8A to 8C are diagrams for explaining a first example of the color filter arrangement of the imaging device according to the present embodiment. In the first example, as illustrated in FIG. 8(a), the image pickup device has four pixels having spectral characteristics in different wavelength bands in regions corresponding to respective colors in the Bayer array. In addition, the pixels are arranged so that the wavelength bands of the spectral characteristics are all different between the two regions corresponding to the color of G.

例えば、ベイヤー配列におけるBの色に対応する領域801が、Bの色に係るカラーフィルタ(λ1)~(λ4)を配置したλ1画素~λ4画素で構成される。ベイヤー配列におけるGの色に対応する2つの領域のうち、第1の領域(Gbの領域)802が、Gの色に係るカラーフィルタ(λ5)~(λ8)を配置したλ5画素~λ8画素で構成される。 For example, an area 801 corresponding to the B color in the Bayer array is composed of λ1 to λ4 pixels in which color filters (λ1) to (λ4) for the B color are arranged. Of the two regions corresponding to the G color in the Bayer array, the first region (Gb region) 802 is λ5 to λ8 pixels in which the color filters (λ5) to (λ8) related to the G color are arranged. Configured.

また、Gの色に対応する第2の領域(Grの領域)803が、Gの色に係るカラーフィルタ(λ13)~(λ16)を配置したλ13画素~λ16画素で構成される。また、ベイヤー配列におけるRの色に対応する領域804が、Rの色に係るカラーフィルタ(λ9)~(λ12)を配置したλ9画素~λ12画素で構成される。 A second area (Gr area) 803 corresponding to the G color is composed of λ13 to λ16 pixels in which the color filters (λ13) to (λ16) for the G color are arranged. A region 804 corresponding to the R color in the Bayer array is composed of λ9 pixels to λ12 pixels in which color filters (λ9) to (λ12) related to the R color are arranged.

これにより、B、Gr、Gb、Rの各領域の信号を加算算出する場合、以下に例示する数式により算出できる。
B=λ1+λ2+λ3+λ4
Gb=λ5+λ6+λ7+λ8
Gr=λ13+λ14+λ15+λ16
R=λ9+λ10+λ11+λ12
なお、これらの式において、λiはλi画素から取得した信号を示す(以下の式においても同様)。
As a result, when the signals of the B, Gr, Gb, and R regions are added and calculated, the calculation can be performed using the following formulas.
B=λ1+λ2+λ3+λ4
Gb=λ5+λ6+λ7+λ8
Gr=λ13+λ14+λ15+λ16
R=λ9+λ10+λ11+λ12
In these equations, λi indicates the signal obtained from the λi pixel (the same applies to the following equations).

前述の数式により算出されるGbの領域及びGrの領域の分光特性は、それぞれ図8(b)及び図8(c)に示すようになる。図8(b)及び図8(c)に示したように、Gb、Grの領域において、分光特性の波長の中心値λGb、λGrが近い値であり、且つ得られるゲインも一般的な被写体であれば略同一のゲインが得られる。そのため、GrとGbの領域を略同一のGの色に対応する領域として扱うことができ、また、GrとGbの領域間での色ズレが少ないために偽色が発生しにくい。また、GrとGbの各領域でのそれぞれの4画素の分光特性の波長帯域が略等間隔で分離されているので、スペクトルデータ解析上も有利となる。 The spectral characteristics of the Gb region and the Gr region calculated by the above formula are shown in FIGS. 8B and 8C, respectively. As shown in FIGS. 8(b) and 8(c), in the Gb and Gr regions, the center values λ Gb and λ Gr of the wavelengths of the spectral characteristics are close values, and the obtained gain is also a general value. Almost the same gain can be obtained for the object. Therefore, the Gr and Gb regions can be treated as regions corresponding to substantially the same G color, and since there is little color shift between the Gr and Gb regions, false colors are less likely to occur. In addition, since the wavelength bands of the spectral characteristics of the four pixels in each region of Gr and Gb are separated at approximately equal intervals, it is also advantageous in terms of spectrum data analysis.

このように、ベイヤー配列の各色に対応する領域を狭帯域のカラーフィルタが配置された複数の画素で構成し、カラーフィルタの配列を工夫することにより、効率的な分光特性の配列を構成し、より細かなスペクトル分光が可能になる。また、Gの色に対応する2つの領域において、第1の領域(Gbの領域)における分光特性と第2の領域(Grの領域)における分光特性の中心波長を略同一にし、偽色の発生を抑制することが可能になる。 In this way, the area corresponding to each color of the Bayer array is composed of a plurality of pixels in which narrow-band color filters are arranged, and by devising the arrangement of the color filters, an efficient spectral characteristic array is configured, Finer spectral spectroscopy becomes possible. Further, in two regions corresponding to the color of G, the central wavelengths of the spectral characteristics in the first region (Gb region) and the spectral characteristics in the second region (Gr region) are made substantially the same to generate false colors. can be suppressed.

・第2の配列例
図9(a)~図9(c)は、本実施形態における撮像素子のカラーフィルタ配列の第2の例を説明する図である。第2の例においても、撮像素子は、図9(a)に例示するように、ベイヤー配列での各色に対応する領域を、互いに異なる波長帯域の分光特性を有する4つの画素で構成している。また、第1の例と同様に、Gの色に対応する2つの領域間で、分光特性の波長帯域を全部異ならせて画素が配置されている。
Second Arrangement Example FIGS. 9A to 9C are diagrams for explaining a second example of the color filter arrangement of the image sensor in this embodiment. Also in the second example, as illustrated in FIG. 9(a), the image pickup element is composed of four pixels having spectral characteristics in mutually different wavelength bands in regions corresponding to respective colors in the Bayer array. . Also, as in the first example, the pixels are arranged such that the wavelength bands of the spectral characteristics are all different between the two regions corresponding to the color G. FIG.

例えば、ベイヤー配列におけるBの色に対応する領域901が、Bの色に係るカラーフィルタ(λ1)~(λ4)を配置したλ1画素~λ4画素で構成される。ベイヤー配列におけるGの色に対応する2つの領域のうち、第1の領域(Gbの領域)902が、Gの色に係るカラーフィルタ(λ5)、(λ6)、(λ15)、及び(λ16)を配置したλ5画素、λ6画素、λ15画素、及びλ16画素で構成される。 For example, an area 901 corresponding to the B color in the Bayer array is composed of λ1 to λ4 pixels in which color filters (λ1) to (λ4) for the B color are arranged. Of the two regions corresponding to the G color in the Bayer array, the first region (Gb region) 902 contains color filters (λ5), (λ6), (λ15), and (λ16) related to the G color. λ5 pixels, λ6 pixels, λ15 pixels, and λ16 pixels are arranged.

また、Gの色に対応する第2の領域(Grの領域)903が、Gの色に係るカラーフィルタ(λ13)、(λ14)、(λ7)、及び(λ8)を配置したλ13画素、λ14画素、λ7画素、及びλ8画素で構成される。また、ベイヤー配列におけるRの色に対応する領域904が、Rの色に係るカラーフィルタ(λ9)~(λ12)を配置したλ9画素~λ12画素で構成される。 In addition, a second region (Gr region) 903 corresponding to the G color has λ13 pixels and λ14 pixels in which color filters (λ13), (λ14), (λ7), and (λ8) related to the G color are arranged. λ7 pixels and λ8 pixels. A region 904 corresponding to the R color in the Bayer array is composed of λ9 to λ12 pixels in which color filters (λ9) to (λ12) related to the R color are arranged.

これにより、B、Gr、Gb、Rの各領域の信号を加算算出する場合、以下に例示する数式により算出できる。
B=λ1+λ2+λ3+λ4
Gb=λ5+λ6+λ15+λ16
Gr=λ13+λ14+λ7+λ8
R=λ9+λ10+λ11+λ12
As a result, when the signals of the B, Gr, Gb, and R regions are added and calculated, the calculation can be performed using the following formulas.
B=λ1+λ2+λ3+λ4
Gb=λ5+λ6+λ15+λ16
Gr=λ13+λ14+λ7+λ8
R=λ9+λ10+λ11+λ12

前述の数式により算出されるGbの領域及びGrの領域の分光特性は、それぞれ図9(b)及び図9(c)に示すようになる。図9(b)及び図9(c)に示したように、Gb、Grの領域において、分光特性の波長の中心値λGb、λGrが同一となり、且つ得られるゲインも一般的な被写体であれば略同一のゲインが得られる。そのため、GrとGbの領域を略同一のGの色に対応する領域として扱うことができ、また、GrとGbの領域間での色ズレが少ないために偽色が発生しにくい。 The spectral characteristics of the Gb region and the Gr region calculated by the above formula are shown in FIGS. 9B and 9C, respectively. As shown in FIGS. 9(b) and 9(c), in the Gb and Gr regions, the center values λ Gb and λ Gr of the wavelengths of the spectral characteristics are the same, and the obtained gain is Approximately the same gain can be obtained. Therefore, the Gr and Gb regions can be treated as regions corresponding to substantially the same G color, and since there is little color shift between the Gr and Gb regions, false colors are less likely to occur.

このように、狭帯域のカラーフィルタの配列を工夫することにより、効率的な分光特性の配列を構成し、より細かなスペクトル分光が可能になる。また、Gの色に対応する2つの領域において分光特性の中心波長を同一にし、偽色の発生を抑制することが可能になる。 In this way, by devising the arrangement of narrow-band color filters, an efficient arrangement of spectral characteristics can be formed, and finer spectrum spectroscopy becomes possible. In addition, it is possible to make the center wavelengths of the spectral characteristics the same in the two regions corresponding to the color of G, thereby suppressing the occurrence of false colors.

・第3の配列例
図10(a)~図10(c)は、本実施形態における撮像素子のカラーフィルタ配列の第3の例を説明する図である。第3の例においても、撮像素子は、図10(a)に例示するように、ベイヤー配列での各色に対応する領域を、互いに異なる波長帯域の分光特性を有する4つの画素で構成している。また、前述した例と同様に、Gの色に対応する2つの領域間で、分光特性の波長帯域を全部異ならせて画素が配置されている。
Third Arrangement Example FIGS. 10(a) to 10(c) are diagrams for explaining a third example of the color filter arrangement of the imaging element in this embodiment. Also in the third example, as illustrated in FIG. 10(a), the imaging element is composed of four pixels having spectral characteristics in mutually different wavelength bands in regions corresponding to respective colors in the Bayer array. . Also, in the same manner as in the above example, the pixels are arranged so that the wavelength bands of the spectral characteristics are all different between the two regions corresponding to the G color.

例えば、ベイヤー配列におけるBの色に対応する領域1001が、Bの色に係るカラーフィルタ(λ1)~(λ4)を配置したλ1画素~λ4画素で構成される。ベイヤー配列におけるGの色に対応する2つの領域のうち、第1の領域(Gbの領域)1002が、Gの色に係るカラーフィルタ(λ5)、(λ13)、(λ8)、及び(λ16)を配置したλ5画素、λ13画素、λ8画素、及びλ16画素で構成される。 For example, an area 1001 corresponding to the B color in the Bayer array is composed of λ1 to λ4 pixels in which color filters (λ1) to (λ4) for the B color are arranged. Of the two regions corresponding to the G color in the Bayer array, the first region (Gb region) 1002 is the color filters (λ5), (λ13), (λ8), and (λ16) associated with the G color. λ5 pixels, λ13 pixels, λ8 pixels, and λ16 pixels are arranged.

また、Gの色に対応する第2の領域(Grの領域)1003が、Gの色に係るカラーフィルタ(λ6)、(λ14)、(λ7)、及び(λ15)を配置したλ6画素、λ14画素、λ7画素、及びλ15画素で構成される。また、ベイヤー配列におけるRの色に対応する領域1004が、Rの色に係るカラーフィルタ(λ9)~(λ12)を配置したλ9画素~λ12画素で構成される。 In addition, the second region (Gr region) 1003 corresponding to the G color is λ6 pixels, λ14 pixels, in which the color filters (λ6), (λ14), (λ7), and (λ15) related to the G color are arranged. λ7 pixels and λ15 pixels. A region 1004 corresponding to the R color in the Bayer array is composed of λ9 pixels to λ12 pixels in which color filters (λ9) to (λ12) related to the R color are arranged.

これにより、B、Gr、Gb、Rの各領域の信号を加算算出する場合、以下に例示する数式により算出できる。
B=λ1+λ2+λ3+λ4
Gb=λ5+λ13+λ8+λ16
Gr=λ6+λ14+λ7+λ15
R=λ9+λ10+λ11+λ12
As a result, when the signals of the B, Gr, Gb, and R regions are added and calculated, the calculation can be performed using the following formulas.
B=λ1+λ2+λ3+λ4
Gb=λ5+λ13+λ8+λ16
Gr=λ6+λ14+λ7+λ15
R=λ9+λ10+λ11+λ12

前述の数式により算出されるGbの領域及びGrの領域の分光特性は、それぞれ図10(b)及び図10(c)に示すようになる。図10(b)及び図10(c)に示したように、Gb、Grの領域において、分光特性の波長の中心値λGb、λGrが同一となり、簡易にGrとGbの領域を略同一のGの色に対応する領域として扱うことができる。 The spectral characteristics of the Gb region and the Gr region calculated by the above formulas are shown in FIGS. 10(b) and 10(c), respectively. As shown in FIGS. 10(b) and 10(c), in the Gb and Gr regions, the center values λ Gb and λ Gr of the wavelengths of the spectral characteristics are the same. can be treated as a region corresponding to the G color of .

・第4の配列例
図11(a)~図11(c)は、本実施形態における撮像素子のカラーフィルタ配列の第4の例を説明する図である。第4の例においても、撮像素子は、図11(a)に例示するように、ベイヤー配列での各色に対応する領域を、互いに異なる波長帯域の分光特性を有する複数の画素で構成している。また、前述した例と同様に、Gの色に対応する2つの領域間で、分光特性の波長帯域を全部異ならせて画素が配置されている。
Fourth Arrangement Example FIGS. 11A to 11C are diagrams for explaining a fourth example of the color filter arrangement of the imaging device according to this embodiment. Also in the fourth example, as illustrated in FIG. 11( a ), the image pickup element is composed of a plurality of pixels having spectral characteristics in different wavelength bands in regions corresponding to respective colors in the Bayer array. . Also, in the same manner as in the above example, the pixels are arranged so that the wavelength bands of the spectral characteristics are all different between the two regions corresponding to the G color.

例えば、ベイヤー配列におけるBの色に対応する領域1101が、Bの色に係るカラーフィルタ(λ1)~(λ4)を配置したλ1画素~λ4画素で構成される。ベイヤー配列におけるGの色に対応する2つの領域のうち、第1の領域(Gbの領域)1102が、Gの色に係るカラーフィルタ(λ5)、(λ14)、(λ7)、及び(λ16)を配置したλ5画素、λ14画素、λ7画素、及びλ16画素で構成される。 For example, an area 1101 corresponding to the B color in the Bayer array is composed of λ1 to λ4 pixels in which color filters (λ1) to (λ4) for the B color are arranged. Of the two regions corresponding to the G color in the Bayer array, the first region (Gb region) 1102 contains color filters (λ5), (λ14), (λ7), and (λ16) related to the G color. λ5 pixels, λ14 pixels, λ7 pixels, and λ16 pixels are arranged.

また、Gの色に対応する第2の領域(Grの領域)1103が、Gの色に係るカラーフィルタ(λ13)、(λ6)、(λ15)、及び(λ8)を配置したλ13画素、λ6画素、λ15画素、及びλ8画素で構成される。また、ベイヤー配列におけるRの色に対応する領域1104が、Rの色に係るカラーフィルタ(λ9)~(λ12)を配置したλ9画素~λ12画素で構成される。 A second region (Gr region) 1103 corresponding to the G color is λ13 pixels, λ6 pixels, in which color filters (λ13), (λ6), (λ15), and (λ8) related to the G color are arranged. λ15 pixels and λ8 pixels. A region 1104 corresponding to the R color in the Bayer array is composed of λ9 to λ12 pixels in which color filters (λ9) to (λ12) related to the R color are arranged.

これにより、B、Gr、Gb、Rの各領域の信号を加算算出する場合、以下に例示する数式により算出できる。
B=λ1+λ2+λ3+λ4
Gb=λ5+λ14+λ7+λ16
Gr=λ13+λ6+λ15+λ8
R=λ9+λ10+λ11+λ12
As a result, when the signals of the B, Gr, Gb, and R regions are added and calculated, the calculation can be performed using the following formulas.
B=λ1+λ2+λ3+λ4
Gb=λ5+λ14+λ7+λ16
Gr=λ13+λ6+λ15+λ8
R=λ9+λ10+λ11+λ12

前述の数式により算出されるGbの領域及びGrの領域の分光特性は、それぞれ図11(b)及び図11(c)に示すようになる。図11(b)及び図11(c)に示したように、Gb、Grの領域において、分光特性の波長の中心値λGb、λGrが同一となり、且つ得られるゲインも一般的な被写体であれば略同一のゲインが得られる。そのため、GrとGbの領域を略同一のGの色に対応する領域として扱うことができ、また、GrとGbの領域間での色ズレが少ないために偽色が発生しにくい。 The spectral characteristics of the Gb region and the Gr region calculated by the above formula are shown in FIGS. 11(b) and 11(c), respectively. As shown in FIGS. 11(b) and 11(c), in the Gb and Gr regions, the center values λ Gb and λ Gr of the wavelengths of the spectral characteristics are the same, and the obtained gain is Approximately the same gain can be obtained. Therefore, the Gr and Gb regions can be treated as regions corresponding to substantially the same G color, and since there is little color shift between the Gr and Gb regions, false colors are less likely to occur.

このように、狭帯域のカラーフィルタの配列を工夫することにより、効率的な分光特性の配列を構成し、より細かなスペクトル分光が可能になる。また、Gの色に対応する2つの領域において分光特性の中心波長を同一にし、偽色の発生を抑制することが可能になる。 In this way, by devising the arrangement of narrow-band color filters, an efficient arrangement of spectral characteristics can be formed, and finer spectrum spectroscopy becomes possible. In addition, it is possible to make the center wavelengths of the spectral characteristics the same in the two regions corresponding to the color of G, thereby suppressing the occurrence of false colors.

なお、前述した第1~第4の例に示したカラーフィルタ配列は一例であり、これに限定されるものではない。ベイヤー配列での各色に対応する領域を互いに異なる波長帯域の分光特性を有する4つの画素で構成し、かつGの色に対応する2つの領域間で分光特性の波長帯域を全部異ならせて画素が配置されるような任意のカラーフィルタ配列が適用可能である。 Note that the color filter arrays shown in the above-described first to fourth examples are merely examples, and the present invention is not limited to these. The area corresponding to each color in the Bayer array is composed of four pixels having spectral characteristics in different wavelength bands, and the two areas corresponding to the color G are completely different in the wavelength band of the spectral characteristics. Any color filter arrangement as arranged is applicable.

・第5の配列例
図12(a)~図12(c)は、本実施形態における撮像素子のカラーフィルタ配列の第5の例を説明する図である。第5の例においては、撮像素子は、図12(a)に例示するように、ベイヤー配列での各色に対応する領域を、異なる波長帯域の分光特性を有する4つの画素で構成している。また、第5の例においては、ベイヤー配列におけるGの色に対応する2つの領域間において、少なくとも1つ同じ波長帯域の分光特性を持つ。すなわち、第5の例では、Gの色に対応する2つの領域間で、分光特性の波長帯域を一部異ならせて画素が配置されている。
Fifth Arrangement Example FIGS. 12(a) to 12(c) are diagrams for explaining a fifth example of the color filter arrangement of the imaging element in this embodiment. In the fifth example, as illustrated in FIG. 12(a), the image pickup device has four pixels having spectral characteristics in different wavelength bands in regions corresponding to respective colors in the Bayer array. Also, in the fifth example, at least one spectral characteristic of the same wavelength band is present between two regions corresponding to the G color in the Bayer array. That is, in the fifth example, the pixels are arranged such that the wavelength bands of the spectral characteristics are partially different between the two regions corresponding to the color of G.

例えば、ベイヤー配列におけるBの色に対応する領域1201が、Bの色に係るカラーフィルタ(λ1)~(λ4)を配置したλ1画素~λ4画素で構成される。ベイヤー配列におけるGの色に対応する2つの領域のうち、第1の領域(Gbの領域)1202が、Gの色に係るカラーフィルタ(λ5)~(λ8)を配置したλ5画素~λ8画素で構成される。 For example, an area 1201 corresponding to the B color in the Bayer array is composed of λ1 to λ4 pixels in which color filters (λ1) to (λ4) for the B color are arranged. Of the two regions corresponding to the G color in the Bayer array, the first region (Gb region) 1202 is λ5 to λ8 pixels in which the color filters (λ5) to (λ8) related to the G color are arranged. Configured.

また、Gの色に対応する第2の領域(Grの領域)1203が、Gの色に係るカラーフィルタ(λ13)、(λ14)、(λ7)、及び(λ16)を配置したλ13画素、λ14画素、λ7画素、及びλ16画素で構成される。また、ベイヤー配列におけるRの色に対応する領域1204が、Rの色に係るカラーフィルタ(λ9)~(λ12)を配置したλ9画素~λ12画素で構成される。 In addition, the second region (Gr region) 1203 corresponding to the G color is λ13 pixel, λ14 pixel, in which the color filters (λ13), (λ14), (λ7), and (λ16) related to the G color are arranged. λ7 pixels and λ16 pixels. A region 1204 corresponding to the R color in the Bayer array is composed of λ9 to λ12 pixels in which color filters (λ9) to (λ12) related to the R color are arranged.

このように、GbとGrの領域で、同じλ7の波長帯域の分光特性を有するλ7画素を配置することで、λ7画素で取得される信号を重心調整の基準としてGbとGrの領域での値を合わせやすくすることが可能となる。なお、B、Gr、Gb、Rの各領域の信号を加算算出する場合、以下に例示する数式により算出できる。
B=λ1+λ2+λ3+λ4
Gb=λ5+λ6+λ7+λ8
Gr=λ13+λ14+λ7+λ16
R=λ9+λ10+λ11+λ12
In this way, by arranging the λ7 pixels having the spectral characteristics of the same λ7 wavelength band in the Gb and Gr regions, the signals obtained by the λ7 pixels are used as the reference for center-of-gravity adjustment, and the values in the Gb and Gr regions can be easily matched. In addition, when the signal of each area|region of B, Gr, Gb, and R is added and calculated, it can calculate by the numerical formula illustrated below.
B=λ1+λ2+λ3+λ4
Gb=λ5+λ6+λ7+λ8
Gr=λ13+λ14+λ7+λ16
R=λ9+λ10+λ11+λ12

前述の数式により算出されるGbの領域及びGrの領域の分光特性は、それぞれ図12(b)及び図12(c)に示すようになる。図12(b)及び図12(c)に示したように、Gb、Grの領域において、分光特性の波長の中心値λGb、λGrが近い値であり、且つ得られるゲインも一般的な被写体であれば略同一のゲインが得られる。 The spectral characteristics of the Gb region and the Gr region calculated by the above formula are shown in FIGS. 12(b) and 12(c), respectively. As shown in FIGS. 12(b) and 12(c), in the Gb and Gr regions, the center values λ Gb and λ Gr of the wavelengths of the spectral characteristics are close values, and the obtained gain is also a general value. Almost the same gain can be obtained for the object.

そのため、GrとGbの領域を略同一のGの色に対応する領域として扱うことができ、また、GrとGbの領域間での色ズレが少ないために偽色が発生しにくい。GbとGrのそれぞれの領域に、λ7の波長帯域の分光特性を有する画素を配置することで、1波長帯域分の分解能は減るものの、15種類の波長帯域のスペクトルデータを入手することが可能となる。 Therefore, the Gr and Gb regions can be treated as regions corresponding to substantially the same G color, and since there is little color shift between the Gr and Gb regions, false colors are less likely to occur. By arranging pixels having spectral characteristics in the λ7 wavelength band in each of the Gb and Gr regions, it is possible to obtain spectral data for 15 different wavelength bands, although the resolution for one wavelength band is reduced. Become.

また、本例ではλ7の波長帯域の分光特性をGの色に対応する2つの領域が持つように構成しているが、この波長帯域に限定されず、他の波長帯域の分光特性をGの色に対応する2つの領域が持つように構成してもよい。また、Gの色に対応する2つの領域間で、同じ分光特性を有する1つの画素だけではなく、それぞれ同じ分光特性を有する複数の画素を持つように構成してもよい。 In this example, the spectral characteristics of the wavelength band of λ7 are configured so that two regions corresponding to the color of G have the spectral characteristics, but the present invention is not limited to this wavelength band. It may be configured to have two areas corresponding to colors. Also, two regions corresponding to the color G may be configured to have not only one pixel having the same spectral characteristic but also a plurality of pixels each having the same spectral characteristic.

このように、第5の例に示した構成でも、狭帯域のカラーフィルタの配列を工夫することにより、効率的な分光特性の配列を構成し、より細かなスペクトル分光が可能になる。また、Gの色に対応する2つの領域において分光特性の中心波長を同一にし、偽色の発生を抑制することが可能になる。 In this manner, even in the configuration shown in the fifth example, by devising the arrangement of narrow-band color filters, an efficient arrangement of spectral characteristics can be formed, and finer spectrum spectroscopy becomes possible. In addition, it is possible to make the center wavelengths of the spectral characteristics the same in the two regions corresponding to the color of G, thereby suppressing the occurrence of false colors.

・第6の配列例
図13(a)~図13(c)は、本実施形態における撮像素子のカラーフィルタ配列の第6の例を説明する図である。第6の例において、撮像素子は、図13(a)に例示するように、ベイヤー配列におけるBの色に対応する領域1301が、Bの色に係るカラーフィルタ(λ1)~(λ4)を配置したλ1画素~λ4画素で構成される。ベイヤー配列におけるGの色に対応する2つの領域のうち、第1の領域(Gbの領域)1302が、Gの色に係るカラーフィルタ(λ5)、(λ13)、(λ6)、及び(λ14)を配置したλ5画素、λ13画素、λ6画素、及びλ14画素で構成される。
Sixth Arrangement Example FIGS. 13A to 13C are diagrams for explaining a sixth example of the color filter arrangement of the imaging device according to the present embodiment. In the sixth example, as illustrated in FIG. 13(a), the imaging element has color filters (λ1) to (λ4) for the B color in a region 1301 corresponding to the B color in the Bayer array. λ1 pixel to λ4 pixel. Of the two regions corresponding to the G color in the Bayer array, the first region (Gb region) 1302 is the color filters (λ5), (λ13), (λ6), and (λ14) associated with the G color. λ5 pixels, λ13 pixels, λ6 pixels, and λ14 pixels are arranged.

また、Gの色に対応する第2の領域(Grの領域)1303が、Gの色に係るカラーフィルタ(λ7)、(λ15)、(λ8)、及び(λ16)を配置したλ7画素、λ15画素、λ8画素、及びλ16画素で構成される。また、ベイヤー配列におけるRの色に対応する領域1304が、Rの色に係るカラーフィルタ(λ9)~(λ12)を配置したλ9画素~λ12画素で構成される。 A second region (Gr region) 1303 corresponding to the G color is λ7 pixels, λ15 pixels, and λ15 pixels in which the color filters (λ7), (λ15), (λ8), and (λ16) related to the G color are arranged. λ8 pixels and λ16 pixels. A region 1304 corresponding to the R color in the Bayer array is composed of λ9 pixels to λ12 pixels in which color filters (λ9) to (λ12) related to the R color are arranged.

これにより、B、Gr、Gb、Rの各領域の信号を加算算出する場合、以下に例示する数式により算出できる。
B=λ1+λ2+λ3+λ4
Gb=λ5+λ13+λ6+λ14
Gr=λ7+λ15+λ8+λ16
R=λ9+λ10+λ11+λ12
As a result, when the signals of the B, Gr, Gb, and R regions are added and calculated, the calculation can be performed using the following formulas.
B=λ1+λ2+λ3+λ4
Gb=λ5+λ13+λ6+λ14
Gr=λ7+λ15+λ8+λ16
R=λ9+λ10+λ11+λ12

前述の数式により算出されるGbの領域及びGrの領域の分光特性は、それぞれ図13(b)及び図13(c)に示すようになる。Gbの領域が、Gの色に係る波長帯域の内の青色側の波長帯域の分光特性を有し、Grの領域が、Gの色に係る波長帯域の内の赤色側の波長帯域の分光特性を有する。これにより、GbとGrの領域間での色ずれは発生するものの、波長成分を順番に並べて加算することができ、スペクトルデータの解析がよりスムーズに実行することが可能となる。 The spectral characteristics of the Gb region and the Gr region calculated by the above formula are shown in FIGS. 13(b) and 13(c), respectively. The Gb region has the spectral characteristics of the wavelength band on the blue side within the wavelength band associated with the color G, and the region Gr has the spectral characteristics of the wavelength band on the red side of the wavelength band associated with the color G. have As a result, although a color shift occurs between the Gb and Gr regions, the wavelength components can be arranged in order and added, and the spectrum data can be analyzed more smoothly.

なお、前述した説明では、ベイヤー配列での各色に対応する領域を、それぞれ異なる波長帯域の分光特性を有する4つの画素で構成した例を示して説明したが、これに限定されるものではない。ベイヤー配列での各色に対応する領域を、それぞれ異なる波長帯域の分光特性を有する複数の画素で構成すればよく、例えば各領域をそれぞれ異なる波長帯域の分光特性を有する4以上の画素で構成してもよい。
また、分光透過率特性を決定する要素として、本実施形態ではカラーフィルタとフォトダイオード単体の分光透過率特性を例としたが、本実施形態は撮像素子の分光透過率特性を変更させるための手段を限定するものではない。
In the above description, an example in which the regions corresponding to the respective colors in the Bayer array are composed of four pixels having spectral characteristics of different wavelength bands has been described, but the present invention is not limited to this. A region corresponding to each color in the Bayer array may be composed of a plurality of pixels having spectral characteristics of different wavelength bands. For example, each region may be composed of four or more pixels having spectral characteristics of different wavelength bands. good too.
In this embodiment, the spectral transmittance characteristics of the color filter and the photodiode alone are used as factors for determining the spectral transmittance characteristics. is not limited to

なお、前記実施形態は、何れも本発明を実施するにあたっての具体化のほんの一例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。 It should be noted that the above-described embodiments are merely examples of specific implementations of the present invention, and the technical scope of the present invention should not be construed to be limited by these. That is, the present invention can be embodied in various forms without departing from its technical concept or main features.

101:撮像素子 102:画像取得部 103:画素データ加算部 104:ラインメモリ 105:画像処理部 106:スペクトルデータ解析部 107:データ出力部 108:画像出力部 101: image sensor 102: image acquisition unit 103: pixel data addition unit 104: line memory 105: image processing unit 106: spectral data analysis unit 107: data output unit 108: image output unit

Claims (8)

第1、第2、第3の色からなるベイヤー配列における前記第2の色に対応する2つの領域の内の第1の領域に配置され、前記第2の色に係る互いに異なる波長帯域の分光特性を有する複数の第1の画素と、
前記第2の色に対応する2つの領域の内の第2の領域に配置され、前記第2の色に係る互いに異なる波長帯域の分光特性を有する複数の第2の画素とを有し、
前記第1の領域に配置される前記複数の第1の画素が有する分光特性の波長帯域と、前記第2の領域に配置される前記複数の第2の画素が有する分光特性の波長帯域とは、一部又は全部が異なり、
前記第1の領域に配置される前記第1の画素及び前記第2の領域に配置される前記第2の画素は、4以上であることを特徴とする撮像素子。
spectrum of different wavelength bands associated with the second color, arranged in the first region of two regions corresponding to the second color in a Bayer array consisting of first, second, and third colors; a plurality of first pixels having characteristics;
a plurality of second pixels arranged in a second region of the two regions corresponding to the second color and having spectral characteristics in different wavelength bands related to the second color;
The wavelength band of the spectral characteristics of the plurality of first pixels arranged in the first region and the wavelength band of the spectral characteristics of the plurality of second pixels arranged in the second region , partly or wholly different,
The imaging device , wherein the number of the first pixels arranged in the first region and the number of the second pixels arranged in the second region are four or more .
前記第1の領域での分光特性の波長の中心値と前記第2の領域での分光特性の波長の中心値とが同一であることを特徴とする請求項1記載の撮像素子。 2. The imaging device according to claim 1, wherein the center value of the wavelength of the spectral characteristics in said first region and the center value of the wavelengths of the spectral characteristics in said second region are the same . 前記第1の領域に配置される前記複数の第1の画素が有する分光特性を合わせたときの中心波長と、前記第2の領域に配置される前記複数の第2の画素が有する分光特性を合わせたときの中心波長とが同一であることを特徴とする請求項1記載の撮像素子。 A central wavelength when the spectral characteristics of the plurality of first pixels arranged in the first region are combined, and the spectral characteristics of the plurality of second pixels arranged in the second region. 2. The imaging device according to claim 1, wherein the central wavelengths are the same when they are combined. 前記第1の画素及び前記第2の画素がそれぞれ有する分光特性の半値幅は、ベイヤー配列における前記第2の色とは異なる他の色に係る画素が有する分光特性の半値幅よりも狭いことを特徴とする請求項1~3の何れか1項に記載の撮像素子。 The half width of the spectral characteristics of each of the first pixel and the second pixel is narrower than the half width of the spectral characteristics of the pixels of a color other than the second color in the Bayer array. 4. The imaging device according to any one of claims 1 to 3. 前記第1の画素及び前記第2の画素がそれぞれ有する分光特性の半値幅は、ベイヤー配列における前記第2の色とは異なる他の色に係る画素が有する分光特性の半値幅の(1/2)であることを特徴とする請求項1~3の何れか1項に記載の撮像素子。 The half width of the spectral characteristics of each of the first pixel and the second pixel is (1/2) the half width of the spectral characteristics of the pixels of the other color different from the second color in the Bayer array. ), the imaging device according to any one of claims 1 to 3. 前記第1の領域に配置される前記複数の第1の画素の内の1つの前記第1の画素と、前記第2の領域に配置される前記複数の第2の画素の内の1つの前記第2の画素とは、分光特性の波長帯域が同じであることを特徴とする請求項1~5の何れか1項に記載の撮像素子。 One of the plurality of first pixels arranged in the first region and one of the plurality of second pixels arranged in the second region 6. The imaging device according to claim 1, wherein the wavelength band of spectral characteristics of the second pixel is the same as that of the second pixel. 前記第1の領域に配置される前記複数の第1の画素が有する分光特性の波長帯域は、前記第2の色に係る波長帯域の内の前記第1の色側の波長帯域であり、前記第2の領域に配置される前記複数の第2の画素が有する分光特性の波長帯域は、前記第2の色に係る波長帯域の内の前記第3の色側の波長帯域であることを特徴とする請求項1、4及び5の何れか1項に記載の撮像素子。 The wavelength band of the spectral characteristics of the plurality of first pixels arranged in the first region is a wavelength band on the side of the first color in the wavelength band associated with the second color, and The wavelength band of the spectral characteristics of the plurality of second pixels arranged in the second region is a wavelength band on the side of the third color in the wavelength band associated with the second color. The imaging device according to any one of claims 1, 4 and 5. 請求項1~の何れか1項に記載の撮像素子と、
前記撮像素子から画素データを取得する取得手段と、
取得した前記画素データを加算する加算手段と、
取得した前記画素データを解析する解析手段とを有することを特徴とする撮像装置。
An imaging device according to any one of claims 1 to 7 ,
Acquisition means for acquiring pixel data from the imaging device;
addition means for adding the acquired pixel data;
and analysis means for analyzing the acquired pixel data.
JP2018150743A 2018-08-09 2018-08-09 Imaging element and imaging device Active JP7150515B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018150743A JP7150515B2 (en) 2018-08-09 2018-08-09 Imaging element and imaging device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018150743A JP7150515B2 (en) 2018-08-09 2018-08-09 Imaging element and imaging device

Publications (2)

Publication Number Publication Date
JP2020027980A JP2020027980A (en) 2020-02-20
JP7150515B2 true JP7150515B2 (en) 2022-10-11

Family

ID=69620384

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018150743A Active JP7150515B2 (en) 2018-08-09 2018-08-09 Imaging element and imaging device

Country Status (1)

Country Link
JP (1) JP7150515B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114079754A (en) * 2020-08-19 2022-02-22 华为技术有限公司 Image sensor, signal processing method and equipment

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003087806A (en) 2001-09-12 2003-03-20 Fuji Photo Film Co Ltd Filter for multi-band camera, its forming method, program for this method, and recording medium with the program recorded
JP2012044519A (en) 2010-08-20 2012-03-01 Olympus Corp Digital camera
JP2012199908A (en) 2011-02-16 2012-10-18 Canon Inc Image sensor compensation
US20150281666A1 (en) 2014-03-27 2015-10-01 Himax Imaging Limited Image sensor equipped with additional group of selectively transmissive filters for illuminant estimation, and associated illuminant estimation method

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003087806A (en) 2001-09-12 2003-03-20 Fuji Photo Film Co Ltd Filter for multi-band camera, its forming method, program for this method, and recording medium with the program recorded
JP2012044519A (en) 2010-08-20 2012-03-01 Olympus Corp Digital camera
JP2012199908A (en) 2011-02-16 2012-10-18 Canon Inc Image sensor compensation
US20150281666A1 (en) 2014-03-27 2015-10-01 Himax Imaging Limited Image sensor equipped with additional group of selectively transmissive filters for illuminant estimation, and associated illuminant estimation method

Also Published As

Publication number Publication date
JP2020027980A (en) 2020-02-20

Similar Documents

Publication Publication Date Title
US10257484B2 (en) Imaging processing device and imaging processing method
US9494768B2 (en) Image capturing module and image capturing apparatus
US8339489B2 (en) Image photographing apparatus, method and medium with stack-type image sensor, complementary color filter, and white filter
US7414630B2 (en) Hexagonal color pixel structure with white pixels
KR101130023B1 (en) Solid-state image sensing device
KR101639382B1 (en) Apparatus and method for generating HDR image
US8576313B2 (en) Color filters and demosaicing techniques for digital imaging
JP7349806B2 (en) Image processing method and filter array
US9118879B2 (en) Camera array system
JP6074813B2 (en) Color filter array and image sensor
US10334185B2 (en) Image capturing device, signal separation device, and image capturing method
US11128819B2 (en) Combined spectral measurement and imaging sensor
JP7150515B2 (en) Imaging element and imaging device
JP2015053578A (en) Color image pickup device and color image pickup method
US8692910B2 (en) Image processing device, image signal correction method, correction matrix calculation method, and imaging device
JP6692749B2 (en) Multispectral camera
JP2005286649A (en) Color filter array and imaging apparatus using it
JP6794989B2 (en) Video processing equipment, shooting equipment, video processing methods and programs
US10056418B2 (en) Imaging element for generating a pixel signal corresponding to light receiving elements
JP2019062475A (en) Imaging device and imaging apparatus
JP5896603B2 (en) Imaging apparatus and image processing apparatus
KR20170025087A (en) Image sensor, digital image processing apparatus using the sensor and image processing method of the same
WO2013111824A1 (en) Image processing device, image pickup device and image processing method
IL308021A (en) Multi-spectral filter
KR20160142512A (en) Color filer array for imaging device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210727

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220609

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220628

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220805

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220830

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220928

R151 Written notification of patent or utility model registration

Ref document number: 7150515

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151