JP4407448B2 - Imaging device - Google Patents
Imaging device Download PDFInfo
- Publication number
- JP4407448B2 JP4407448B2 JP2004276761A JP2004276761A JP4407448B2 JP 4407448 B2 JP4407448 B2 JP 4407448B2 JP 2004276761 A JP2004276761 A JP 2004276761A JP 2004276761 A JP2004276761 A JP 2004276761A JP 4407448 B2 JP4407448 B2 JP 4407448B2
- Authority
- JP
- Japan
- Prior art keywords
- color
- signal
- imaging
- correction
- wavelength
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000003384 imaging method Methods 0.000 title claims description 162
- 230000003595 spectral effect Effects 0.000 claims description 113
- 239000011159 matrix material Substances 0.000 claims description 98
- 238000012937 correction Methods 0.000 claims description 93
- 230000035945 sensitivity Effects 0.000 claims description 86
- 230000003287 optical effect Effects 0.000 claims description 37
- 239000003086 colorant Substances 0.000 claims description 34
- 238000005286 illumination Methods 0.000 claims description 33
- 238000006243 chemical reaction Methods 0.000 description 34
- 238000002834 transmittance Methods 0.000 description 25
- 238000010586 diagram Methods 0.000 description 21
- 230000006870 function Effects 0.000 description 18
- 238000004364 calculation method Methods 0.000 description 14
- 230000004456 color vision Effects 0.000 description 12
- 230000002238 attenuated effect Effects 0.000 description 9
- 230000005855 radiation Effects 0.000 description 8
- 230000003321 amplification Effects 0.000 description 6
- 230000000295 complement effect Effects 0.000 description 6
- 238000003199 nucleic acid amplification method Methods 0.000 description 6
- 238000000926 separation method Methods 0.000 description 6
- 244000025254 Cannabis sativa Species 0.000 description 5
- 230000007246 mechanism Effects 0.000 description 5
- 238000000034 method Methods 0.000 description 5
- 239000004065 semiconductor Substances 0.000 description 5
- 230000007423 decrease Effects 0.000 description 4
- 239000012209 synthetic fiber Substances 0.000 description 4
- 229920002994 synthetic fiber Polymers 0.000 description 4
- 238000011156 evaluation Methods 0.000 description 3
- 239000000203 mixture Substances 0.000 description 3
- 239000003973 paint Substances 0.000 description 3
- 230000006978 adaptation Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 239000000975 dye Substances 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 229910044991 metal oxide Inorganic materials 0.000 description 2
- 150000004706 metal oxides Chemical class 0.000 description 2
- 239000000049 pigment Substances 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 229910052710 silicon Inorganic materials 0.000 description 2
- 239000010703 silicon Substances 0.000 description 2
- 238000001228 spectrum Methods 0.000 description 2
- 239000010409 thin film Substances 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 241000196324 Embryophyta Species 0.000 description 1
- 241000282412 Homo Species 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000031700 light absorption Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000004297 night vision Effects 0.000 description 1
- 235000012736 patent blue V Nutrition 0.000 description 1
- 230000035699 permeability Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
Images
Landscapes
- Optical Filters (AREA)
- Color Television Image Signal Generators (AREA)
Description
本発明は、撮像装置に関し、特に、高感度での撮像および色再現性の良好なカラー撮像を可能とする撮像装置に関する。 The present invention relates to an imaging apparatus, and more particularly to an imaging apparatus that enables imaging with high sensitivity and color imaging with good color reproducibility.
従来の撮像装置は、レンズと、レンズにより結像した光学像を電気信号に変換する撮像素子と、撮像素子から得られた電気信号を信号処理を施すことにより所定の画像信号を得る信号処理手段を有している。通常撮像素子として用いるCCD(Charge Coupled Device)センサまたはCMOS(Complimentary Metal Oxide Semiconductor)センサは一枚(以下単板センサ)だけを撮像装置に具備する場合、色分解を行う色フィルタを画素ごとに異なる色が単板センサ上に構成されている。 A conventional imaging apparatus includes a lens, an imaging element that converts an optical image formed by the lens into an electrical signal, and a signal processing unit that obtains a predetermined image signal by performing signal processing on the electrical signal obtained from the imaging element. have. When a CCD (Charge Coupled Device) sensor or a CMOS (Complementary Metal Oxide Semiconductor) sensor used as a normal image sensor is equipped with only one sheet (hereinafter referred to as a single-plate sensor) in an image pickup device, the color filter for color separation differs for each pixel. Color is configured on a single plate sensor.
R、G、Bの色信号を得る場合には、R、G、Bに対応する光の帯域を透過させる、R(赤)、G(緑)、B(青)の原色フィルタの場合と、Mg(マジェンタ)、Cy(シアン)、Ye(イエロー)、Gの補色フィルタの場合がある。前記いずれの色フィルタも染料もしくは顔料を用いて目的の色を透過させるようにその分光透過特性が設計されているが、赤外領域は一定の透過率を有してしまう。 When obtaining R, G, and B color signals, R (red), G (green), and B (blue) primary color filters that transmit light bands corresponding to R, G, and B; In some cases, Mg (magenta), Cy (cyan), Ye (yellow), and G complementary color filters. Each of the color filters has a spectral transmission characteristic designed to transmit a target color using a dye or pigment, but the infrared region has a certain transmittance.
また、撮像素子の光電変換部分は主にSi(シリコン)などの半導体で構成されているため、光電変換部の分光感度特性は波長の長い赤外光まで感度を有している。よって、前記色フィルタを具備した撮像素子から得られた信号は赤外領域の光線にも反応している。一方、人間の色に対する感度特性である色覚特性および明るさに対する感度特性である比視感度特性はその感度が可視領域といわれる380nmから780nmまでの感度特性であり、700nmより長波長域ではほとんど感度を有さない。 Further, since the photoelectric conversion portion of the image sensor is mainly composed of a semiconductor such as Si (silicon), the spectral sensitivity characteristic of the photoelectric conversion portion is sensitive to infrared light having a long wavelength. Therefore, the signal obtained from the image sensor provided with the color filter also reacts to light in the infrared region. On the other hand, the color vision characteristic, which is a sensitivity characteristic for human colors, and the relative visual sensitivity characteristic, which is a sensitivity characteristic for brightness, are sensitivity characteristics from 380 nm to 780 nm, which are referred to as the visible region, and are almost in the wavelength region longer than 700 nm. Does not have.
よって、人間の色覚特性に合わせて撮像装置の色再現性を良好とするため、前記撮像素子の前に赤外領域の光線を通過させない視感度補正用の赤外線除去フィルタ(以後、IRCF:Infrared Cut Filterと称する)を具備する必要があった。 Therefore, in order to improve the color reproducibility of the image pickup apparatus in accordance with human color vision characteristics, an infrared removal filter for correcting visibility (hereinafter referred to as IRCF: Infrared Cut) that does not allow light in the infrared region to pass through the image pickup device. (Referred to as Filter).
一方、IRCFは赤外領域の光を減光してしまうため、例えば監視カメラ等のように色再現性よりも感度を重視する場合には、前記IRCFの装備を除去する必要があった。 On the other hand, since IRCF diminishes light in the infrared region, when the sensitivity is more important than color reproducibility, such as a surveillance camera, it is necessary to remove the IRCF.
そこで、上述のような課題に鑑み、ある撮像装置は、入射光光量を調整する絞り手段に連動して動く視感度補正用の光学フィルタ手段を備え、絞りが絞られた状態では当該フィルタ手段によって視感度補正を行なうことにより良好な色再現を得る。一方、一定照度よりも暗い時には、前記絞り手段に連動して前記光学フィルタが光路から外れることにより、近赤外光を用いた高感度の撮像を行っている。なお、前記視感度補正用の光学フィルタ手段としては、赤外線除去フィルタ(以下、IRCF(Infrared Cut Filter)という。)が使用される。そして、前記視感度補正を行なう際には所定の波長以上(具体的には略650nm以上)の光を減衰させる(例えば、特許文献1)。 Accordingly, in view of the above-described problems, a certain imaging apparatus includes an optical filter unit for correcting visibility that moves in conjunction with a diaphragm unit that adjusts the amount of incident light. Good color reproduction is obtained by correcting the visibility. On the other hand, when the illuminance is darker than a certain illuminance, the optical filter moves out of the optical path in conjunction with the aperture means, thereby performing high-sensitivity imaging using near-infrared light. Note that an infrared filter (hereinafter referred to as IRCF (Infrared Cut Filter)) is used as the optical filter means for correcting the visibility. When the visibility correction is performed, light having a predetermined wavelength or more (specifically, approximately 650 nm or more) is attenuated (for example, Patent Document 1).
また、他の撮像装置は、高感度撮影時には赤外線を減衰させる赤外線除去フィルタを用い、高感度および色再現を両立させる撮像時には前記赤外線除去フィルタと、黄緑を減衰させる帯域減衰フィルタとを組み合わせる。そして、目的とする撮像に応じてフィルタを切替えることによりR、G、B信号の混合比を調整して映像信号を得ている(例えば、特許文献2)。 Other imaging devices use an infrared removal filter that attenuates infrared rays during high-sensitivity imaging, and combine the infrared removal filter and a band attenuation filter that attenuates yellowish green during imaging that achieves both high sensitivity and color reproduction. Then, the video signal is obtained by adjusting the mixing ratio of the R, G, and B signals by switching the filter according to the target imaging (for example, Patent Document 2).
さらに、他の撮像装置は、所定入射光量以上あるいは可視光を主とする光源下で撮像する場合には所定のカラー映像信号を出力し、所定の入射光量以下あるいは近赤外光を主とする光源下で撮像する場合には所定のモノクロ映像信号を出力する手段を備える。なお、前記所定のカラー映像信号を出力する場合には、R、G、B信号を所定の混色比とすることによりホワイトバランスを補正する(例えば、特許文献3)。 Furthermore, other imaging devices output a predetermined color video signal when imaged under a light source mainly including a predetermined incident light amount or visible light, and mainly include a predetermined incident light amount or less or near infrared light. In the case of imaging under a light source, there is provided means for outputting a predetermined monochrome video signal. When outputting the predetermined color video signal, white balance is corrected by setting the R, G, and B signals to a predetermined color mixture ratio (for example, Patent Document 3).
しかしながら、特許文献1に記載の撮像装置は、前記絞り手段に連動してIRCFを移動させるための手段(機構)が必要であり、撮像素子周りの小型化を実現することが困難である。また、通常、撮像素子の電子シャッタを用いて光量調整を行なう簡易的な撮像装置(例えば、PCカメラ、携帯電話用カメラ、TOYカメラ、民生用監視カメラ)は、絞り機構を有していない。したがって、特許文献1に記載の撮像装置を当該簡易的な撮像装置に適用する場合には、IRCFを着脱するための手段(機構)を新たに設けなければならない。
However, the image pickup apparatus described in
また、特許文献2または特許文献3に記載の撮像装置においてカラー映像信号を得る場合、当該撮像装置は色信号の補正をせず、ホワイトバランスを合わせるのみで輝度信号を生成する。また、当該輝度信号の生成に使用するR、G、B信号の混色比は、人間の比視感度特性を考慮せずに決定されているものである。そのため、前記カラー映像信号に対応するR、G、B値は、人間の色覚特性に対応する分光感度特性によって得られるR、G、B値と異なった値となってしまう。したがって、当該カラー映像信号は、色差ΔE*ab(JIS Z8730)の大きな信号となってしまう。すなわち、前記特許文献2または特許文献3に記載のような撮像装置においては、人間の色覚特性に合わせた色再現性を得ることが困難である。
Further, when a color video signal is obtained in the imaging device described in
さらに、特許文献2に記載の撮像装置においても特許文献1と同様に、目的とする撮像に応じてフィルタを切替える手段を必要とする。また、特許文献3に記載の撮像装置においては、R、G、B信号を所定の混色比をフィルタの切替えによって変更しているため、当該特許文献3に記載の撮像装置も特許文献1と同様にフィルタを切替える手段を必要とする。したがって、特許文献2または特許文献3に記載の撮像装置も小型化を実現するのは困難である。
Further, in the imaging apparatus described in
また、特許文献2に記載の撮像装置においては、高感度を実現する際にも700nm以上の赤外線を除去するフィルタを装着するため、人間の目には見えない領域の光を撮像することができない。
In addition, since the imaging device described in
この発明は、上述のような課題を解決するためになされたものであって、光学フィルタを光路上から移動させる手段、または光学フィルタの切替えをするための手段(機構)を必要とせずに、高感度での撮像を可能とし、また、人間の色覚特性と合致した色再現性の良好な撮像をも可能とする撮像装置を得ることを目的とする。 The present invention has been made to solve the above-described problems, and does not require means for moving the optical filter from the optical path or means (mechanism) for switching the optical filter. It is an object of the present invention to obtain an imaging device that enables imaging with high sensitivity and also enables imaging with good color reproducibility that matches human color vision characteristics.
本発明に係る撮像装置は、入射した光のうち、可視領域における長波長領域を減衰させ、かつ赤外領域を透過させる光学フィルタと、前記光学フィルタから出射した光が入射する位置に配置された少なくとも3色以上のカラーフィルターを有し、前記光学フィルタから出射した光に対応する少なくとも3種以上の色信号を出力する撮像素子とを備え、前記光学フィルタは、前記赤外領域の短波長側において透過させる下限の波長から前記撮像素子の感度特性がなくなる波長までの全ての波長領域の光を透過させることを特徴とする。 Imaging device according to the present invention, among the incident light, is disposed at a position where the optical filter attenuates the long wavelength region in the visible region and transmits the infrared area, the light emitted from the optical filter incident at least 3 or more colors of the color filters were, and an imaging device that outputs at least three or more color signals corresponding to the light emitted from the optical filter, the optical filter, short wavelength of the infrared region And transmitting light in all wavelength regions from the lower limit wavelength to be transmitted on the side to the wavelength at which the sensitivity characteristic of the image sensor disappears .
本発明に係る撮像装置によれば、光学フィルタを光路上から移動させる手段、または光学フィルタの切替えをするための手段(機構)を必要とせずに、高感度での撮像を可能とし、また、人間の色覚特性と合致した色再現性の良好な撮像をも可能とすることができる。また、高感度撮像時においては、光学フィルタを外すことなく人間の目には見えない近赤外領域の光に対応する撮像を行なうこともできる。 According to the imaging device of the present invention, it is possible to perform imaging with high sensitivity without requiring a means for moving the optical filter from the optical path or a means (mechanism) for switching the optical filter, and It is also possible to perform imaging with good color reproducibility that matches human color vision characteristics. In high-sensitivity imaging, it is also possible to perform imaging corresponding to light in the near infrared region that is invisible to the human eye without removing the optical filter.
実施の形態1.
図1は、実施の形態1における撮像装置の構成を示すブロック図である。図1において、レンズ1は、当該撮像装置によって撮像する被写体から反射された光を撮像素子3の受光面上に結像させるように集光する。そして、集光した光を光学フィルタ2に入射させる。
FIG. 1 is a block diagram illustrating a configuration of the imaging apparatus according to the first embodiment. In FIG. 1, a
光学フィルタ2は、レンズ1と撮像素子3との間に配置され、入射した光のうち、所定の波長範囲(詳細については後述する。)の光を減衰させる。そして、当該光学フィルタ2を出射した光は、前記受光面に入射する。
The
図2は、実施の形態1における光学フィルタ2の透過率を説明するための説明図である。図2に示すように、実施の形態1における光学フィルタ2は、略700nmから略780nmまでの波長範囲に対応する光に対して透過率が低く、他の領域における光に対しては透過率が高い。なお、以下の説明においては、当該光学フィルタ2を、長波長光フィルタ2または、NIRBCF2(Near Infrared Band Cut Filter)という。
FIG. 2 is an explanatory diagram for explaining the transmittance of the
撮像素子3は、NIRBCF2から出射した光に対応する、R信号、G信号またはB信号(以下、R信号、G信号またはB信号を色信号ともいう。)を増幅手段4に出力する。撮像素子3としては、例えば、CCD(Charge Coupled Device)センサ、またはCMOS(Complimentary Metal Oxide Semiconductor)センサが使用される。
The
そして、CCDセンサまたはCMOSセンサを一枚(以下、単板センサという。)だけ撮像装置に具備する場合には、当該単板センサに入射した光の色分解を行なう色フィルタ(以下、色分解フィルタという。)を当該単板センサ上に配置する。色分解フィルタは、撮像素子3における各画素に対応付けて設ける複数の色フィルタによって構成される。
When the image pickup apparatus includes only one CCD sensor or CMOS sensor (hereinafter referred to as a single plate sensor), a color filter that performs color separation of light incident on the single plate sensor (hereinafter referred to as a color separation filter). Is arranged on the single plate sensor. The color separation filter is configured by a plurality of color filters provided in association with each pixel in the
前記色分解フィルタとしては、例えば、R、G、Bの各色に対応する色信号を得る場合には、R、G、Bに対応する光の帯域を透過させる、R(赤)、G(緑)、B(青)の色フィルタで構成される原色フィルタを使用することができる。また、Mg(マジェンタ)、Cy(シアン)、Ye(イエロー)、Gの色フィルタから構成される補色フィルタを使用することもできる。なお、実施の形態1においては、当該撮像素子3上に原色フィルタを配設した場合について説明する。
As the color separation filter, for example, when obtaining color signals corresponding to R, G, and B colors, R (red) and G (green) that transmit light bands corresponding to R, G, and B are transmitted. ), A primary color filter composed of B (blue) color filters can be used. A complementary color filter composed of color filters of Mg (magenta), Cy (cyan), Ye (yellow), and G can also be used. In the first embodiment, a case where a primary color filter is provided on the
より具体的に説明すると、上述したCCDまたはCMOS等の撮像素子3は、フォトダイオード(図示せず)を有して構成され、フォトダイオードは当該撮像素子の画素を構成する。そして、当該撮像素子3上には、前記原色フィルタが配置され、前記フォトダイオード上には、Rの光を通過させるRフィルタ、Gの光を通過させるGフィルタ、Bの光を通過させるBフィルタが配置される。
More specifically, the above-described
そして、Rフィルタに対応するフォトダイオードにおいてはR信号、Gフィルタに対応するフォトダイオードにおいてはG信号、Bフィルタに対応するフォトダイオードにおいてはB信号が生成され、前記R信号、G信号、B信号は当該撮像素子3から増幅手段4に出力される。
An R signal is generated in the photodiode corresponding to the R filter, a G signal is generated in the photodiode corresponding to the G filter, and a B signal is generated in the photodiode corresponding to the B filter, and the R signal, the G signal, and the B signal are generated. Is output from the
増幅手段4は、撮像素子3から出力された信号を増幅してA/Dコンバータ5(以下、ADC5という。)に出力する。ADC5は、増幅手段4から出力された信号をデジタル信号に変換してDC再生手段6に出力する。DC再生手段6は、ADC5から出力されたデジタル信号に基づいてDCレベルを再生してR信号、G信号、B信号を積算手段7およびホワイトバランス手段10に出力する。
The amplifying unit 4 amplifies the signal output from the
なお、通常、当該DC再生手段6におけるDC再生は、通常、入力された映像信号の黒レベルが0になるように、増幅手段4から出力された映像信号が有するオフセットレベルをDCシフトするか、または、当該映像信号に対してクランプ処理を行うことにより行なう。なお、以下の説明においては、DC再生手段6から出力されるR信号、G信号、B信号をそれぞれ第1のR信号、第1のG信号、第1のB信号、または、R1、G1、B1という。
Normally, the DC reproduction in the DC reproduction means 6 is normally performed by DC-shifting the offset level of the video signal output from the amplification means 4 so that the black level of the input video signal becomes zero. Alternatively, it is performed by performing a clamping process on the video signal. In the following description, the R signal, G signal, and B signal output from the
積算手段7は、DC再生手段6から出力されたR1、G1、B1のそれぞれに対応する値を少なくとも1画面以上の画面毎に積算することにより、R1に対応する積算値ΣR1、G1に対応する積算値ΣG1、およびB1に対応する積算値ΣB1を算出する。そして、各積算値に対応する信号を除算手段8に出力する。 The integrating means 7 corresponds to the integrated values ΣR1, G1 corresponding to R1 by integrating the values corresponding to each of R1, G1, B1 output from the DC reproducing means 6 for each screen of at least one screen. The integrated value ΣG1 and the integrated value ΣB1 corresponding to B1 are calculated. Then, a signal corresponding to each integrated value is output to the dividing means 8.
除算手段8は、積算手段7から出力されたΣR1またはΣB1をΣG1で除算して積算値の比ΣR1/ΣG1およびΣB1/ΣG1を算出する。そして、前記積算値の比ΣR1/ΣG1およびΣB1/ΣG1を逆数演算手段9に出力する。逆数演算手段9は前記積算値の比の逆数、すなわち、ΣR1/ΣG1の逆数(以下、第1の逆数ともいう。)およびΣB1/ΣG1の逆数(以下、第2の逆数ともいう。)を演算して前記ホワイトバランス手段10に出力する。
The dividing means 8 divides ΣR1 or ΣB1 output from the integrating
ホワイトバランス手段(以下、WB(White Balance)手段10ともいう。)は、前記DC再生手段6から出力されたR1、G1、B1、および前記逆数演算手段9から出力された第1の逆数および第2の逆数に基づいてホワイトバランスを行なう。
White balance means (hereinafter also referred to as WB (White Balance) means 10) includes
具体的に説明すると、WB手段10は、R1、G1、B1の各々に対応する増幅手段(図示せず)を有しており、R1に対応する増幅手段においては第1の逆数(ΣR1/ΣG1の逆数)を係数(利得)として当該R1を増幅する。同様に、B1に対応する増幅手段においては、第2の逆数(ΣB1/ΣG1の逆数)を係数(利得)として当該B1を増幅する。なお、G1に対応する増幅手段における係数は「1」とする。 More specifically, the WB means 10 has amplification means (not shown) corresponding to each of R1, G1, and B1, and the amplification means corresponding to R1 has a first inverse (ΣR1 / ΣG1). R1 is amplified using a coefficient (gain) as a coefficient. Similarly, the amplification means corresponding to B1 amplifies B1 using the second reciprocal (reciprocal of ΣB1 / ΣG1) as a coefficient (gain). The coefficient in the amplification means corresponding to G1 is “1”.
上述のようにして、WB手段10は、R1、G1、B1を各信号に対応する増幅手段によって増幅することでホワイトバランスを行ない、当該ホワイトバランスをした後のR信号、G信号およびB信号を色信号補正手段11に出力する。なお、以下の説明においては、ホワイトバランス手段10から出力されるR信号、G信号、B信号をそれぞれ第2のR信号、第2のG信号、第2のB信号、またはR2、G2、B2という。 As described above, the WB means 10 performs white balance by amplifying R1, G1, and B1 by the amplifying means corresponding to each signal, and the R signal, G signal, and B signal after the white balance are obtained. Output to the color signal correction means 11. In the following description, the R signal, G signal, and B signal output from the white balance means 10 are respectively used as the second R signal, the second G signal, the second B signal, or R2, G2, and B2. That's it.
色信号補正手段11は、前記WB手段10から出力されたR2、G2、B2に基づいてマトリクス演算を行なうことにより、当該撮像装置によって得られる画像の色が予め定めるターゲットカラー(詳細は後述する。)と一致するように前記R2、G2、B2を補正する。そして、当該補正をした結果得られるR信号、G信号およびB信号をγ(ガンマ)補正手段12に出力する。
The color signal correcting unit 11 performs a matrix operation based on R2, G2, and B2 output from the
なお、当該色信号補正手段11において行なうマトリクス演算に使用するマトリクス係数は前記ターゲットカラーに基づいて設定される(詳細は後述)。また、以下の説明においては、当該色信号補正手段11から出力される色信号をそれぞれ、Rideal、Gideal、Bidealという。 The matrix coefficient used for the matrix calculation performed in the color signal correcting unit 11 is set based on the target color (details will be described later). In the following description, the color signals output from the color signal correcting unit 11 are referred to as R ideal , G ideal , and B ideal , respectively.
具体的に説明すると、色信号補正手段11は、R2、G2、B2に基づいて下記式1のような線形マトリクス演算を行なって、当該撮像装置によって再現される色がターゲットカラーとなるようにR、G、B信号を補正する。
More specifically, the color signal correcting unit 11 performs a linear matrix operation such as the following
なお、式1において、r11、r12、r13、g11、g12、g13、b11、b12、b13はマトリクス係数であり、予め定めた定数である(詳細については後述する。)。また、以下、当該マトリクス係数を補正マトリクス係数といい、当該補正マトリクス係数で構成されるマトリクスを補正係数マトリクスという。
In
γ補正手段12は、前記色信号補正手段11から出力されたRideal、Gideal、Bidealに対してガンマ補正を行なう。具体的には、前記色信号補正手段11から出力された色信号に対して非線形な階調変換を行なう。YCrCb変換手段13は、γ補正手段12から出力されたRideal、Gideal、BidealをY信号、Cr信号、Cb信号に変換して出力する。なお、Y信号は輝度信号、Cr信号およびCb信号は色差信号である。
The
通常、色信号(実施の形態1においては、Rideal、Gideal、Bideal)から輝度信号または色差信号への変換は、前記色信号と3行3列の係数マトリクスとのマトリクス演算により行なう。具体的には、下記式2に示す線形マトリクス演算を行なう。
Normally, conversion from a color signal (R ideal , G ideal , B ideal in the first embodiment) into a luminance signal or a color difference signal is performed by matrix operation of the color signal and a coefficient matrix of 3 rows and 3 columns. Specifically, the linear matrix calculation shown in the following
なお、前記式2における3行3列の係数マトリクス中のマトリクス係数(以下、変換マトリクス係数ともいい、当該変換マトリクス係数で構成されるマトリクスを変換係数マトリクスという。)は、例えば、IEC(International Electronical Commission)61966−2−1に示されている係数、すなわち、y11=0.2990、y12=0.5870、y13=0.1140、Cr21=−0.1687、Cr22=−0.3313、Cr23=0.5000、cb31=0.5000、cb32=−0.4187、cb33=−0.0813を使用する。 Note that the matrix coefficient in the coefficient matrix of 3 rows by 3 columns in Equation 2 (hereinafter also referred to as a conversion matrix coefficient, and a matrix composed of the conversion matrix coefficient is referred to as a conversion coefficient matrix) is, for example, IEC (International Electronic). (Commission) 61966-2-1, ie, y11 = 0.2990, y12 = 0.5870, y13 = 0.1140, Cr21 = −0.1687, Cr22 = −0.3313, Cr23 = Use 0.5000, cb31 = 0.5000, cb32 = −0.4187, cb33 = −0.0813.
YCrCb変換手段13から出力された輝度信号および色差信号は、当該撮像装置を適用する装置またはシステムに応じて処理される。例えば、当該撮像装置をデジタルカメラや携帯電話に適用した場合、当該YCrCb変換手段13から出力された輝度信号および色差信号はJPEG圧縮を施された後、半導体メモリや所定の記録媒体等のメモリ手段に保存される。また、YCrCb変換手段13から出力された前記輝度信号および前記色差信号をテレビ信号として使用する場合、当該輝度信号および色差信号は、例えば、NTSC信号にエンコードされる。
The luminance signal and the color difference signal output from the
前記色信号補正手段11における色信号の補正(以下、色信号の補正を色補正ともいう。)について以下にその詳細を説明する。 Details of color signal correction (hereinafter, color signal correction is also referred to as color correction) in the color signal correction means 11 will be described below.
図3は、人間の色覚特性を表したR,G,Bの分光感度特性(RGB表色系の等色関数、または単に、等色関数ともいう)を説明するための説明図である。なお、図3において、横軸は波長、縦軸は三刺激値である。 FIG. 3 is an explanatory diagram for explaining R, G, and B spectral sensitivity characteristics (also referred to as RGB color system color matching functions or simply color matching functions) representing human color vision characteristics. In FIG. 3, the horizontal axis represents wavelength, and the vertical axis represents tristimulus values.
図3に示した特性は、正常色覚者の等色関数の平均値であり、CIE(Commission Internationale de l‘E’clairage)1931にて規定されている。 The characteristic shown in FIG. 3 is an average value of the color matching function of a normal color vision person, and is defined by CIE (Commission Internationale de l'E'claage) 1931.
人間が感じる色は、人間の色覚が備える順応機能(例えば、色順応等)を無視して簡単に表すのであれば、図3に示したR、G、Bの各色に対応する等色関数(r1(λ)、g1(λ)、b1(λ))、被写体の分光反射率、および照明の分光放射強度を乗算し、当該乗算した結果を可視領域において各色毎に積算した値(R、G、Bの各色毎に積算した3つの積算値)として表すことができる。なお、等色関数は既知のものであり、また、被写体の分光反射率および照明の分光放射強度は、被写体および照明が定まれば一義的に定まる。したがって、被写体および照明を決定することにより、前記3つの積算値を求めることができる。なお、実施の形態1の撮像装置においては、図3に示した等色関数から得られる色をカラーターゲットとする。また、当該等色関数から得られる色に近い色を再現できた場合を色再現性がよいという。
If the color perceived by humans is simply expressed by ignoring the adaptation function (for example, chromatic adaptation) provided by human color vision, color matching functions (corresponding to the R, G, and B colors shown in FIG. A value obtained by multiplying r 1 (λ), g 1 (λ), b 1 (λ)), the spectral reflectance of the object, and the spectral radiant intensity of the illumination, and integrating the result of multiplication for each color in the visible region ( 3 integrated values integrated for each color of R, G, and B). The color matching functions are known, and the spectral reflectance of the subject and the spectral radiant intensity of the illumination are uniquely determined if the subject and the illumination are determined. Therefore, the three integrated values can be obtained by determining the subject and the illumination. In the imaging apparatus according to
図3に示すように人間の色覚は、いわゆる可視領域と呼ばれる、略380nmから略780nmまでの波長範囲にだけ感度を有する。また、可視領域内であっても、当該可視領域の長波長側、具体的には、波長が略700nmよりも長波長の領域ではほとんど感度特性がない。 As shown in FIG. 3, human color vision has sensitivity only in a wavelength range from approximately 380 nm to approximately 780 nm, which is called a visible region. Even within the visible region, there is almost no sensitivity characteristic on the long wavelength side of the visible region, specifically, in the region where the wavelength is longer than about 700 nm.
それに対して、撮像素子3は、当該撮像素子3を構成し、光電変換を行なうフォトダイオードがSi(シリコン)などの半導体で形成されている。そのため、撮像素子3は、可視領域から赤外領域(1000nm近辺)まで感度特性を有する。よって、撮像素子3に色分解を行なうRGBの色フィルタを設けた場合、当該色フィルタの分光特性とフォトダイオードの分光感度特性の積に応じたR、G、Bの信号が撮像素子3から出力される。
On the other hand, the
図4は、撮像素子3の分光感度特性を説明するための説明図である。図4は、色フィルタの分光特性と撮像素子3を構成するフォトダイオードの分光感度特性との積で表される撮像素子3のR,G,B信号の分光感度特性を示したものであり、縦軸は分光感度特性、横軸は波長である。また、図中、r2(λ)はRに対する分光感度特性、g2(λ)はGに対する分光感度特性、b2(λ)はBに対する分光感度特性である。
FIG. 4 is an explanatory diagram for explaining the spectral sensitivity characteristics of the
当該分光感度特性について、具体的に説明すると、図4において、B信号に対応する分光感度特性(b2(λ))は、波長が略380nmになると徐々に値が大きくなり、略450nm近傍で値が最大になった後、徐々に値が小さくなり略550nmよりも大きい波長領域で値が小さくなる。そして、波長が赤外領域である略800nmとなると再び値が大きくなるような特性を有する。 The spectral sensitivity characteristic will be described in detail. In FIG. 4, the spectral sensitivity characteristic (b 2 (λ)) corresponding to the B signal gradually increases when the wavelength is approximately 380 nm, and is approximately 450 nm. After the value becomes maximum, the value gradually decreases and decreases in a wavelength region larger than about 550 nm. And it has the characteristic that the value increases again when the wavelength is about 800 nm, which is the infrared region.
また、G信号に対応する分光感度特性(g2(λ))は、波長が略450nmになると徐々に値が大きくなり、略550nm近傍で値が最大になった後、徐々に値が小さくなり略650nm近傍で値が最小となる。そして、波長が略700nmになると再び値が大きくなるような特性を有する。さらに、R信号に対応する分光感度特性(r2(λ))は、波長が略560nmになると値が徐々に大きくなり、略600nm近傍で値が最大になった後、赤外領域にわたって徐々に値が小さくなる特性を有する。 In addition, the spectral sensitivity characteristic (g 2 (λ)) corresponding to the G signal gradually increases when the wavelength is about 450 nm, and gradually decreases after reaching the maximum value near about 550 nm. The value is minimum in the vicinity of about 650 nm. And it has the characteristic that the value increases again when the wavelength is about 700 nm. Further, the spectral sensitivity characteristic (r 2 (λ)) corresponding to the R signal gradually increases as the wavelength reaches approximately 560 nm, reaches a maximum in the vicinity of approximately 600 nm, and gradually increases over the infrared region. It has the characteristic that the value becomes smaller.
Rの色フィルタは赤外領域の透過率が他の色フィルタよりも比較的高いため、撮像素子3は赤外線に対しても感度を有する。また、Bの光を入射するためのBの色フィルタや、Gの光を入射するためのGの色フィルタも同様に赤外領域に一定の透過率を有する。これは、R、G、Bの色フィルタは通常それぞれの色を含んだ染料や顔料を用いてフィルタを構成するが、その分光透過率は構成する材質に依存し、可視領域の長波長側から赤外領域に掛けて再び透過率が上がる特性を有しているためである。
Since the R color filter has a relatively higher transmittance in the infrared region than other color filters, the
ここで、図3に示した等色関数(人間の色覚特性)と、図4に示した撮像素子3の分光感度特性(r2(λ)、g2(λ)、b2(λ))とを比較すると、当該撮像素子3は可視領域の長波長側から赤外領域の波長範囲においても感度を有するのに対し、人間の色覚特性は当該波長範囲において感度を有しない点で大きく異なる。特に、赤外領域(780nmから1100nm)における分光感度特性の相違は著しい。
Here, the color matching function (human color vision characteristic) shown in FIG. 3 and the spectral sensitivity characteristics (r 2 (λ), g 2 (λ), b 2 (λ)) of the
そのため、従来の撮像装置においては、等色関数と撮像素子3の分光感度特性との赤外領域における相違に鑑み、当該撮像素子3の分光特性のうち赤外領域における影響を排除するため、赤外カットフィルタ(IRCF)をレンズ1と撮像素子3との間に配設して赤外領域における光を除去する。
Therefore, in the conventional imaging device, in view of the difference in the infrared region between the color matching function and the spectral sensitivity characteristic of the
従来の撮像装置に使用されるIRCFは、短波長の領域から波長が略650nmまでの範囲における光の透過率が100%であり、波長が略650〜700nmの範囲において当該透過率が急激に低下し、以降撮像素子の感度がなくなる長波長領域(赤外領域)における透過率が略0%となるような特性を有する。 The IRCF used in a conventional imaging apparatus has a light transmittance of 100% in a short wavelength region to a wavelength of approximately 650 nm, and the transmittance sharply decreases in a wavelength range of approximately 650 to 700 nm. Thereafter, the transmittance in the long wavelength region (infrared region) where the sensitivity of the imaging device is lost is approximately 0%.
図5は、当該IRCFの透過率の一例を説明するための説明図である。図5に示した例においては、略700nmを半値(50%透過率)として、略750nm以上の波長の赤外線を全て除去するような特性を有する。 FIG. 5 is an explanatory diagram for explaining an example of the transmittance of the IRCF. The example shown in FIG. 5 has a characteristic of removing all infrared rays having a wavelength of about 750 nm or more, with about 700 nm as a half value (50% transmittance).
なお、IRCFは、当該IRCFの構成や使用する材質によって透過率の特性が異なる。図5に示した例のIRCFは、光の干渉を利用して複数の薄膜を重ねて構成されるIRCFであり、急峻なカットオフ特性を実現することができるという特徴がある。また、複数の薄膜を重ねて構成されるIRCFは、赤外領域の長波長側で透過率の値が再度大きくなるという特性があり、図5に示したIRCFでは概1000nmで透過率が再び高くなっている。しかし、1000nm近辺では撮像素子の分光感度特性の値が略0であるため、これらの積の値は略0となり、色再現性には影響を与えない。 The IRCF has different transmittance characteristics depending on the configuration of the IRCF and the material used. The IRCF in the example shown in FIG. 5 is an IRCF configured by stacking a plurality of thin films using light interference, and has a feature that a steep cut-off characteristic can be realized. In addition, IRCF configured by stacking a plurality of thin films has a characteristic that the transmittance value increases again on the long wavelength side in the infrared region, and the IRCF shown in FIG. 5 has a high transmittance again at approximately 1000 nm. It has become. However, since the value of the spectral sensitivity characteristic of the image sensor is approximately 0 near 1000 nm, the value of these products is approximately 0, and the color reproducibility is not affected.
一方、光の吸収を利用したIRCFの例としては、通常、青ガラスと呼ばれるIRCFが使用される。なお、青ガラスの場合には急峻なカットオフ特性を実現することはできず、半値が略650nmとなる。いずれのIRCFを使用するにしても、当該IRCFを使用する目的は、撮像素子の分光感度特性を等色関数に近づけることである。そのため、当該IRCFは、700nm以上の透過率が略0となるようなカットオフ特性を有するように設計される。 On the other hand, as an example of IRCF utilizing light absorption, IRCF called blue glass is usually used. In the case of blue glass, a steep cut-off characteristic cannot be realized, and the half value is approximately 650 nm. Regardless of which IRCF is used, the purpose of using the IRCF is to bring the spectral sensitivity characteristic of the image sensor closer to a color matching function. Therefore, the IRCF is designed to have a cut-off characteristic such that the transmittance of 700 nm or more is substantially zero.
図6は、従来の撮像装置の分光感度特性を説明するための説明図である。図6において、IRCF(λ)は図5に示したIRCFの透過率、r2(λ)、g2(λ)、b2(λ)は前記図4において説明した分光感度特性を示す。また、r3(λ)、g3(λ)、b3(λ)は、図4における分光感度特性(r2(λ)、g2(λ)、b2(λ))と図5におけるIRCFの透過率との積から得られる分光感度特性特性(すなわち、従来の撮像装置の分光感度特性)である。 FIG. 6 is an explanatory diagram for explaining spectral sensitivity characteristics of a conventional imaging apparatus. In FIG. 6, IRCF (λ) indicates the transmittance of the IRCF shown in FIG. 5, and r 2 (λ), g 2 (λ), and b 2 (λ) indicate the spectral sensitivity characteristics described in FIG. Further, r 3 (λ), g 3 (λ), and b 3 (λ) are spectral sensitivity characteristics (r 2 (λ), g 2 (λ), b 2 (λ)) in FIG. 4 and in FIG. This is a spectral sensitivity characteristic obtained from the product of the IRCF transmittance (that is, the spectral sensitivity characteristic of a conventional imaging device).
上述したように従来の撮像装置は、図6においてr3(λ)、g3(λ)、b3(λ)で示した撮像素子3の分光感度特性にて撮像を行なうが、正確には、図6に示した従来の撮像装置の分光感度特性と図3で示した等色関数とは異なる。そのため、図6に示した従来の撮像装置の分光感度特性では、図3の等色関数から得られる画像とまったく同値の色再現性は得られない。しかし、ほぼ同等の色再現性が得られるため、従来の撮像装置では本特性にて充分な性能が得られたとしていた。ここでの色再現性とは人間の目で見える色に概一致させることであり、かつ目で違うものに見える色は違う色に、同じものに見える色は同じ色に再現することを意味する。
As described above, the conventional imaging apparatus performs imaging with the spectral sensitivity characteristics of the
このように撮像素子3単体の分光感度特性と人間の感度特性とは、特に赤外領域において著しくその特性が異なるため、撮像素子3の前にIRCFを挿入し、分光感度特性を近似するということを行っていた。なお、図3に示した人間の感度特性の分光特性から得られる色再現性を本実施の形態における色再現性のカラーターゲットとする。
As described above, the spectral sensitivity characteristic of the
図7は、実施の形態1における撮像装置の分光感度特性を説明するための説明図である。図7のように、実施の形態1における撮像装置の分光感度特性は、NIRBCF2の透過率(図2)と撮像素子3の分光感度特性(図4)との積で表されるため、NIRBCF2で透過されない波長領域だけ感度を有さない分光感度特性となる。そして、実施の形態1の撮像装置における撮像素子3から出力される信号は、NIRBCF2の透過率(図2)と撮像素子3の分光感度特性(図4)との積で表される分光感度特性、すなわち図7に示した分光感度特性を介した値となる。
FIG. 7 is an explanatory diagram for explaining the spectral sensitivity characteristics of the imaging apparatus according to the first embodiment. As shown in FIG. 7, the spectral sensitivity characteristic of the imaging apparatus according to the first embodiment is expressed by the product of the transmittance of NIRBCF2 (FIG. 2) and the spectral sensitivity characteristic of imaging element 3 (FIG. 4). The spectral sensitivity characteristic has no sensitivity only in the wavelength region that is not transmitted. The signal output from the
次に、色信号補正手段11の動作について説明する。上述のように、色信号補正手段11は、前記WB手段7から出力されるR2,G2,B2の信号を入力として、式1に示した線形マトリクス演算を行ない、ターゲットカラーとするRideal、Gideal、Bidealを算出する。
Next, the operation of the color signal correction unit 11 will be described. As described above, the color signal correcting unit 11 receives the signals R2, G2, and B2 output from the
ここで、前記色信号補正手段11の補正マトリクス係数は、例えば以下のように算出することができる。色再現性を評価するための評価チャートとして24種のカラーパッチ(色票)を有するMACBETH(マクベス)のカラーチェッカー(以下、単に、カラーチェッカーともいう。)がある。なお、MACBETHは、「グレタグ−マクベス ホールディング アクチエンゲゼルシャフト」の登録商標である。 Here, the correction matrix coefficients of the color signal correction means 11 can be calculated as follows, for example. As an evaluation chart for evaluating color reproducibility, there is a MACBETH color checker (hereinafter, simply referred to as a color checker) having 24 types of color patches (color charts). MACBETH is a registered trademark of “Gretag-Macbeth Holding Aktiengesellschaft.
前記カラーチェッカーは、被写体として現存する色を代表するカラーパッチ(色票)を多く含み、かつ人間の記憶色(肌色、植物の緑、空の青等)を重視した24種のカラーパッチを有するチャートである。なお、24種類のカラーパッチとは、1:暗い肌色、2:明るい肌色、3:青空の色、4:草の色、5:青色の花、6:青みの緑色、7:オレンジ色、8:紫みの青色、9:中程の赤色、10:紫色、11:黄緑色、12:オレンジみの黄色、13:青色、14:緑色、15:赤色、16:黄色、17:マジェンタ、18:シアン、19:白色、20:グレイ8、21:グレイ6.5、22:グレイ5、23:グレイ3.5、24:黒色である。 The color checker includes many color patches (color charts) representing existing colors as subjects, and has 24 color patches that emphasize human memory colors (skin color, plant green, sky blue, etc.). It is a chart. The 24 types of color patches are: 1 dark skin color, 2 light skin color, 3 blue sky color, 4 grass color, 5 blue flower, 6 bluish green, 7 orange and 8 : Purple blue, 9: medium red, 10: purple, 11: yellow green, 12: orange yellow, 13: blue, 14: green, 15: red, 16: yellow, 17: magenta, 18 : Cyan, 19: white, 20: gray 8, 21: gray 6.5, 22: gray 5, 23: gray 3.5, 24: black.
図8は、マクベスのカラーチェッカーに含まれるカラーパッチに対する300nmから1200nmの分感反射率の一例である。具体的には、1:暗い肌色、2:明るい肌色、4:草の色、6:青みの緑色、11:黄緑色、13:青色、14:緑色を一例として示した。 FIG. 8 is an example of the differential reflectance from 300 nm to 1200 nm for the color patches included in the Macbeth color checker. Specifically, 1: dark skin color, 2: bright skin color, 4: grass color, 6: bluish green, 11: yellowish green, 13: blue, 14: green are shown as examples.
実施の形態1における撮像素子3の分光感度特性とNIRBCF2の透過率との積である図7に示した分光感度特性と、照明の分光放射強度と、前記カラーチェッカーの分光反射特性との積(第1の積)から、各カラーパッチに対応するR,G,Bの値を算出することができる。一方、カラーターゲットに対応するR,G,Bの値は、図3に示した等色関数と、各カラーパッチに対応するR,G,Bの値の算出に用いた照明の分光放射強度と、前記カラーチェッカーの分光反射特性との積(第2の積)から同様に求めることができる。
The product of the spectral sensitivity characteristic shown in FIG. 7, which is the product of the spectral sensitivity characteristic of the
そして、前記第1の積によって算出した24種類の各カラーパッチに対応するR、G、Bの値と、前記第2の積によって算出した24種類の各カラーパッチに対応するR、G、B値(カラーターゲット)との差が最小となるように、最小二乗誤差法を用いて前記式1に示した補正係数マトリクスにおける9つの補正マトリクス係数を算出することができる。なお、実施の形態1の撮像装置においては、5000Kの照明に対応する分光放射強度を使用して補正マトリクス係数の算出を行なった。
Then, the R, G, and B values corresponding to the 24 types of color patches calculated by the first product and the R, G, and B values corresponding to the 24 types of color patches calculated by the second product are used. Nine correction matrix coefficients in the correction coefficient matrix shown in
以上のように、補正マトリクス係数を算出して色信号補正手段11に設定しておくことにより、色信号を補正して良好な色再現性を得ることができる。 As described above, by calculating the correction matrix coefficient and setting it in the color signal correction means 11, the color signal can be corrected and good color reproducibility can be obtained.
以下、NIRBCF2において減衰させる波長範囲の設定について説明する。通常、色再現性を設計する上で、評価チャートとして使用される代表的なものとして、マクベスのカラーチェッカーが挙げられる。
Hereinafter, setting of the wavelength range to be attenuated in the
一方、補正マトリクス係数は、被写体をカラーチェッカーとし、当該カラーチェッカーに含まれるカラーパッチのみで算出した係数である。また、前記カラーチェッカーは、自然界に存在する特徴的な色を可能な限り網羅して作成されているが、当該カラーチェッカーの分光反射率は、可視領域だけを考慮して作成されている。すなわち、赤外領域における分光反射率は考慮されていない。したがって、当該カラーチェッカーによって算出された補正マトリクス係数を用いた場合、当該撮像装置によって撮像する被写体の色に対応する分光反射率の赤外領域の影響によって、当該被写体の色に対して良好な色再現を実現することができない場合がある。なお、以下の説明においては、当該撮像装置によって良好な色再現性を実現することができない被写体の色を例外色という。 On the other hand, the correction matrix coefficient is a coefficient calculated using only the color patch included in the color checker with the subject as a color checker. The color checker is created to cover as much as possible the characteristic colors existing in nature, but the spectral reflectance of the color checker is created taking into consideration only the visible region. That is, the spectral reflectance in the infrared region is not considered. Therefore, when the correction matrix coefficient calculated by the color checker is used, the color of the subject is good due to the influence of the infrared region of the spectral reflectance corresponding to the color of the subject imaged by the imaging device. There are cases where reproduction cannot be realized. In the following description, a subject color for which good color reproducibility cannot be realized by the imaging apparatus is referred to as an exceptional color.
ここで、赤外領域の影響とは、例えば、可視領域においては、被写体の分光反射率とカラーパッチの分光反射率とが似たような傾向であるが(すなわち、人間の目には同じ色に見えるが)、赤外領域における被写体の分光反射率の値が大きいことにより、撮像装置によって再現される色が実際の色とは異なる色になってしまう場合である。 Here, for example, in the visible region, the influence of the infrared region has a tendency that the spectral reflectance of the subject and the spectral reflectance of the color patch are similar (that is, the same color for human eyes). This is a case where the color reproduced by the imaging device is different from the actual color due to the large value of the spectral reflectance of the subject in the infrared region.
例外色としては、例えば、木の葉、化繊の服等がある。例えば、人間の目には絵の具の緑と木の葉とは同じ色に見える(すなわち、可視領域における両者の分光反射率の傾向が同じである)が、前記木の葉の赤外領域における分光反射率と絵の具の緑の赤外領域における分光反射率との違いによって、当該撮像装置において再現される木の葉の色と絵の具の緑色とは異なる色となってしまう。 Exceptional colors include, for example, foliage and synthetic clothing. For example, the green color of the paint and the leaves of the leaves appear to be the same color to the human eye (that is, the tendency of the spectral reflectance of both in the visible region is the same), but the spectral reflectance and the paint in the infrared region of the leaves of the tree are the same. Due to the difference in the spectral reflectance in the green infrared region, the color of the leaves of the tree reproduced in the imaging device and the color of the paint are different.
図8は、例外色の一例である木の葉に対応する分光反射率を説明するための説明図である。図8においては、カラーチェッカーにおける緑色の例である草の色(foliage)、青みの緑色(bluish green)ならびに黄緑色(yellow green、green)および自然界に自生している木の葉(木の葉(1)、木の葉(2))の分光反射率を示した。 FIG. 8 is an explanatory diagram for explaining the spectral reflectance corresponding to a leaf of a tree which is an example of an exceptional color. In FIG. 8, examples of green color in the color checker include grass color (foliage), blue green (green), yellow green (yellow green, green), and leaves of trees naturally occurring in nature (leaves (1), The spectral reflectance of the leaves (2)) of the tree was shown.
例えば、木の葉の色を再現する場合には、図8に示した草の色のカラーパッチが使用される。当該草の色に対応する分光反射率と、木の葉(1)または木の葉(2)に対応する分光反射率とは、500nm〜600nmにおいてピークを有する点で可視光領域においては同じような傾向にある。この点については、他の緑色系の色についても同様である。しかしながら、木の葉(1)または木の葉(2)については、他の色と異なり、700nm近傍から急激に分光反射率の値が大きくなる。 For example, when reproducing the color of a leaf, the color patch of the grass color shown in FIG. 8 is used. The spectral reflectance corresponding to the color of the grass and the spectral reflectance corresponding to the leaf (1) or the leaf (2) of the tree have the same tendency in the visible light region in that it has a peak at 500 nm to 600 nm. . The same applies to other green colors. However, for the leaf (1) or the leaf (2) of the tree, the spectral reflectance value suddenly increases from around 700 nm, unlike other colors.
上述のように、人間の目は700nm近傍から長波長側についてはほとんど感度を有しない。そのため、人間の目は、図8のように可視領域において似たような分光反射率を有する色を略同じ色として認識する。しかしながら、前記図4に示したように、撮像素子3の分光感度特性は赤外領域においても感度を有することから、人間の目では認識することができない赤外領域の光にも感応してしまう。そのため、赤外領域の光に感応する撮像素子3を使用した場合には、当該撮像装置によって得られる色再現が大きく異なってしまう。具体的には、R信号の割合がG信号またはB信号に対して必要以上に大きくなることによって、本来、緑であるはずの木の葉の色が茶色っぽく再現されてしまう。
As described above, the human eye has little sensitivity on the long wavelength side from around 700 nm. Therefore, human eyes recognize colors having similar spectral reflectances in the visible region as substantially the same color as shown in FIG. However, as shown in FIG. 4, the spectral sensitivity characteristic of the
図9は、例外色の他の例である化繊の服に対応する分光反射率を説明するための説明図である。なお、図9においては、化繊の服の例である青色の服(以下、青服という。)に対応する分光反射率、およびカラーチェッカーにおける青色(blue)に対応する分光反射率を示す。 FIG. 9 is an explanatory diagram for explaining the spectral reflectance corresponding to the clothes of synthetic fibers, which is another example of the exceptional color. FIG. 9 shows the spectral reflectance corresponding to blue clothing (hereinafter referred to as blue clothing), which is an example of a synthetic fiber clothing, and the spectral reflectance corresponding to blue in the color checker.
青服に対応する分光反射率と、青色に対応する分光反射率とは、450nm近傍においてピークを有する点で可視光領域においては似たような傾向にある。しかしながら、青服については650nm近傍から分光反射率の値が急激に上昇する。したがって、前記木の葉(1)および木の葉(2)の場合と同様に、赤外領域に感応しない人間の目の場合には、青服の青色も、カラーチェッカーの青色も同じ青色に見えるが、赤外領域に感応してしまう撮像装置の場合には青服の青色とカラーチェッカーの青色とが異なる色として再現されてしまう。具体的には、R信号の割合がG信号またはB信号に対して必要以上に大きくなることによって、本来、青色であるはずの青服が紫色に再現されてしまう。 The spectral reflectance corresponding to blue clothes and the spectral reflectance corresponding to blue tend to be similar in the visible light region in that they have a peak in the vicinity of 450 nm. However, for blue clothing, the value of spectral reflectance rapidly increases from around 650 nm. Therefore, as in the case of the leaves (1) and leaves (2) of the tree, in the case of human eyes that do not respond to the infrared region, the blue color of the blue clothes and the blue color of the color checker appear to be the same blue, In the case of an imaging device that is sensitive to the outside region, the blue color of the blue clothes and the blue color of the color checker are reproduced as different colors. Specifically, when the ratio of the R signal becomes larger than necessary with respect to the G signal or the B signal, the blue clothes that should originally be blue are reproduced in purple.
そこで、NIRBCF2によって減衰させる波長範囲は、例外色に対して必要以上にR信号が大きくなることを抑圧することによって、当該撮像装置において再現される色と、人間の目によって認識される色とが、ほぼ同一の色となるような色再現性を得ることができ、かつ、高感度での撮像が可能な程度に長波長の光を透過するように設定する。以上の理由により、実施の形態1において使用するNIRBCF2においては、700nm〜780nmの波長範囲を減衰させることによってR信号が必要以上に大きくなることを抑制するとともに、当該NIRBCF2を透過する780nmよりも長波長の光を利用して高感度での撮像を可能とした。 Therefore, the wavelength range attenuated by the NIRBCF2 is such that the color reproduced by the imaging device and the color recognized by the human eye are suppressed by suppressing the R signal from becoming larger than necessary for the exceptional colors. It is set so that color reproducibility so as to obtain substantially the same color can be obtained and light having a long wavelength is transmitted to such an extent that imaging with high sensitivity is possible. For the above reasons, in the NIRBCF2 used in the first embodiment, it is possible to suppress the R signal from becoming larger than necessary by attenuating the wavelength range of 700 nm to 780 nm and to be longer than 780 nm that transmits the NIRBCF2. High-sensitivity imaging using wavelength light is possible.
図11は、実施の形態1における撮像素子3から出力されるR、G、Bの各々に対応する信号のレベル(以下、信号レベルという。)を説明するための説明図である。図11において、横軸は被写体の名称、縦軸は信号レベルである。また、棒グラフ内に示したR、G、BはそれぞれR信号、G信号、B信号を示し、各棒グラフの上に付した数字は各色信号に対応する信号レベルの値を示す。
FIG. 11 is an explanatory diagram for describing signal levels (hereinafter referred to as signal levels) corresponding to R, G, and B output from the
図11(a)は、前記図4に示した分光感度特性(すなわち、色フィルタの分光感度特性と、撮像素子3を構成するフォトダイオードの分光感度特性との積)、照明の分光放射強度、および被写体の分光反射率の積から算出して得られる信号レベルである。 11A shows the spectral sensitivity characteristic shown in FIG. 4 (that is, the product of the spectral sensitivity characteristic of the color filter and the spectral sensitivity characteristic of the photodiode constituting the image sensor 3), the spectral radiant intensity of illumination, And the signal level calculated from the product of the spectral reflectance of the subject.
一方、図11(b)は、前記図7に示した分光感度特性(すなわち、NIRBCF2の透過率、色フィルタの分光感度特性および撮像素子3を構成するフォトダイオードの分光感度特性との積)、照明の分光放射強度、および被写体の分光反射率の積から算出して得られる信号レベルである。 On the other hand, FIG. 11B shows the spectral sensitivity characteristic shown in FIG. 7 (that is, the product of the transmittance of NIRBCF2, the spectral sensitivity characteristic of the color filter, and the spectral sensitivity characteristic of the photodiode constituting the imaging device 3), It is a signal level obtained by calculating from the product of the spectral radiation intensity of illumination and the spectral reflectance of the subject.
なお、図11(a)および図11(b)における信号レベルの演算に使用した照明の分光放射強度は、5000Kの照明に対応する分光反射強度である。また、被写体の分光反射率のうち、暗い肌色および明るい肌色はマクベスカラーチェッカーの分光反射率(図7)であり、木の葉(1)および木の葉(2)は図8に示した木の葉(1)および木の葉(2)の分光反射率である。 Note that the spectral radiant intensity of the illumination used for the calculation of the signal level in FIGS. 11A and 11B is a spectral reflection intensity corresponding to an illumination of 5000K. Among the spectral reflectances of the subject, dark skin color and light skin color are spectral reflectances of Macbeth color checker (FIG. 7), and leaves (1) and leaves (2) of leaves are the leaves (1) and leaves shown in FIG. It is a spectral reflectance of a leaf (2) of a tree.
図11(a)および図11(b)における「暗い肌色」および「明るい肌色」は例外色ではないため、当該撮像装置においてはカラーターゲットに近い色を再現することができる。しかしながら、「木の葉(1)」および「木の葉(2)」は例外色であることから、従来の撮像装置においては、赤外領域における光の影響により、図11(a)に示すように、G信号またはB信号と比較してR信号のレベルが大きくなってしまう。その結果、「木の葉(1)」または「木の葉(2)」に対応するG信号またはB信号に対するR信号の比は、「暗い肌色」および「明るい肌色」と同じような比となってしまう。 Since “dark skin color” and “light skin color” in FIGS. 11A and 11B are not exceptional colors, the imaging apparatus can reproduce colors close to a color target. However, since “leaves (1)” and “leaves (2)” are exceptional colors, in the conventional imaging device, as shown in FIG. The level of the R signal becomes larger than that of the signal or the B signal. As a result, the ratio of the R signal to the G signal or B signal corresponding to “leaves (1)” or “leaves (2)” is similar to “dark skin color” and “light skin color”.
そして、「木の葉(1)」および「木の葉(2)」の緑色を再現するに際して、G信号の信号レベルに対するR信号の信号レベルが大きくなりすぎた場合には、当該撮像装置3の後段におけるWB手段10または色信号補正手段11においてホワイトバランスまたは色補正を施しても、R信号の補正を的確に行なうことができない。したがって、木の葉の緑色を的確に再現することができない。その結果、撮像装置によって再現される木の葉の色は、実施の形態1のターゲットカラーにおける肌色や茶色と同様な色として再現されてしまう。
Then, when reproducing the green color of “leaves (1)” and “leaves (2)”, if the signal level of the R signal is too large relative to the signal level of the G signal, the WB in the subsequent stage of the
一方、NIRBCF2を使用した場合には、図11(b)に示すように、R信号の信号レベルが抑制される。これは、当該NIRBCF2によって、700nm〜780nmの光が減衰されるためである。特に、「木の葉(1)」および「木の葉(2)」については、急激に分光反射率の値が大きくなる範囲(図9における700nm近傍)を除去することができるため、G信号の信号レベルに対するR信号の信号レベルの大きさ(比)を効果的に調整することができる。すなわち、図11(a)の場合と異なり、G信号またはB信号に対するR信号の割合を小さくすることができる。 On the other hand, when NIRBCF2 is used, the signal level of the R signal is suppressed as shown in FIG. This is because light of 700 nm to 780 nm is attenuated by the NIRBCF2. In particular, for “leaves (1)” and “leaves (2)”, the range in which the spectral reflectance value suddenly increases (near 700 nm in FIG. 9) can be removed. The magnitude (ratio) of the signal level of the R signal can be adjusted effectively. That is, unlike the case of FIG. 11A, the ratio of the R signal to the G signal or the B signal can be reduced.
以上の説明のように、実施の形態1における撮像装置によれば、光学フィルタを光路上から移動するための手段や、光学フィルタの切替えをするための手段を必要とせずに、高感度での撮像および色再現性の良好なカラー撮像を可能とすることができる。 As described above, according to the imaging apparatus in the first embodiment, it is possible to achieve high sensitivity without requiring a means for moving the optical filter from the optical path or a means for switching the optical filter. Color imaging with good imaging and color reproducibility can be made possible.
また、実施の形態1における撮像装置に使用する撮像素子の分光感度特性や被写体の分光放射率に応じて、NIRBCF2によって減衰させる波長範囲を適宜選択することで、赤外領域の影響を抑制し、例外色および例外色以外の色の全ての色について良好な色再現性を得ることができる。
Further, by appropriately selecting the wavelength range to be attenuated by the
さらに、実施の形態1における撮像装置は、赤外領域に対する感度をも有しているため、白黒の高感度撮像を信号処理方式の切替えのみで実現することができる。
Furthermore, since the imaging apparatus according to
また、光学フィルタの移動、切替えを行なうための手段を必要としないため、撮像装置の小型化を容易に実現することができる。 Further, since no means for moving and switching the optical filter is required, the image pickup apparatus can be easily downsized.
なお、実施の形態1においては、例外色の一例として木の葉の色および青服について説明したが、実施の形態1における撮像装置は、可視光領域における赤外領域側において分光反射率の値が急激に上昇するような被写体の色に対して、前記木の葉および青服と同様に良好な色再現性を得ることができる。 In the first embodiment, leaf color and blue clothing have been described as examples of exceptional colors. However, the imaging apparatus according to the first embodiment has a sharp spectral reflectance value on the infrared region side in the visible light region. As with the leaves and blue clothes, good color reproducibility can be obtained with respect to the color of the subject that rises rapidly.
また、実施の形態1においては、NIRBCF2によって減衰させる波長範囲を700nm〜780nmとする場合について説明したが、高感度撮像のために赤外領域の波長をある程度透過させることができる範囲であれば、より広い波長範囲を設定してもよい。したがって、例えば、光を減衰させる波長範囲を700nm〜850nmとしてもよい。 In the first embodiment, the case where the wavelength range attenuated by NIRBCF2 is set to 700 nm to 780 nm has been described. However, as long as the wavelength in the infrared region can be transmitted to some extent for high-sensitivity imaging, A wider wavelength range may be set. Therefore, for example, the wavelength range in which light is attenuated may be 700 nm to 850 nm.
また、実施の形態1においては、マクベスカラーチェッカー24色を用いて予め定める補正マトリクス係数を算出したが、例外色として上述した、木の葉や化繊の色などを加えた24色以上の評価色の分光反射率を用い、最小2乗法によってカラーターゲットに対して色差が最小となるように補正マトリクス係数を算出しても良い。 In the first embodiment, the predetermined correction matrix coefficients are calculated using 24 colors of Macbeth color checker. However, the spectrum of evaluation colors of 24 colors or more including the leaves and the colors of the synthetic fibers described above as exceptional colors is added. The correction matrix coefficient may be calculated using the reflectance so that the color difference with respect to the color target is minimized by the least square method.
また、実施の形態1においては、色信号補正手段11において3行3列の補正係数マトリクスを設定する場合について説明したが、例えば、例外色以外の色に対応する第1の補正係数マトリクスと、木の葉や化繊の色などの例外色に対応する第2の補正係数マトリクスを設定してもよい。 In the first embodiment, the case where the color signal correction unit 11 sets the correction coefficient matrix of 3 rows and 3 columns has been described. For example, a first correction coefficient matrix corresponding to colors other than exceptional colors, You may set the 2nd correction coefficient matrix corresponding to exceptional colors, such as the color of a leaf or a synthetic fiber.
また、実施の形態1においては、R、G、Bの色フィルタで構成される原色フィルタを具備した撮像素子を使用する場合について説明したが、Ye、Mg、Cy、Gの色フィルタで構成される補色フィルタを設けた撮像素子を使用することもできる。なお、補色フィルタを使用する場合には、下記式3で示す3行4列の補正係数マトリクスを色信号補正手段11に設定し、原色フィルタを使用する場合と同様に、適切な補正マトリクス係数を算出する。
Further, in the first embodiment, the case where an image sensor having a primary color filter composed of R, G, and B color filters is used has been described. However, the image sensor is composed of Ye, Mg, Cy, and G color filters. An image sensor provided with a complementary color filter can also be used. When a complementary color filter is used, a correction coefficient matrix of 3 rows and 4 columns shown in the
実施の形態2.
図12は、実施の形態2における撮像装置の構成を示すブロック図である。なお、以下の説明において、前記実施の形態1において説明した構成については同一の符号を付記し、説明を省略する。図12において、色信号補正手段21は、記憶手段21aおよび選択手段21bを備える。
FIG. 12 is a block diagram illustrating a configuration of the imaging apparatus according to the second embodiment. In the following description, the same reference numerals are given to the configurations described in the first embodiment, and description thereof is omitted. In FIG. 12, the color signal correction means 21 includes a storage means 21a and a selection means 21b.
記憶手段21aは、当該色信号補正手段21のマトリクス演算に使用する補正マトリクス係数を複数記憶する。なお、当該複数の補正マトリクス係数は、撮像装置によって撮像する際に使用する照明の色温度に応じて設定される(詳細は後述する。)。
The storage unit 21 a stores a plurality of correction matrix coefficients used for matrix calculation of the color
選択手段21bは、除算手段8から入力される積算値の比に基づいて、照明の色温度を特定して、前記記憶手段21aに記憶された補正マトリクス係数を読み出す。そして、色信号補正手段21は、前記選択手段21aによって選択された補正マトリクス係数を用いてマトリクス演算を行なう。
The
図13は、色温度が3000Kの照明に対応する分光放射強度、図14は、色温度が6500Kの照明に対応する分光放射強度である。図13と図14とを比較すると、色温度によって分光放射強度が異なることがわかる。 FIG. 13 shows the spectral radiation intensity corresponding to illumination with a color temperature of 3000K, and FIG. 14 shows the spectral radiation intensity corresponding to illumination with a color temperature of 6500K. Comparing FIG. 13 and FIG. 14, it can be seen that the spectral radiation intensity varies depending on the color temperature.
例えば、撮像装置の分光感度特性と、図3に示した等色関数とが同一の曲線で示される場合には、WB手段10においてホワイトバランスを行なうことにより、当該撮像装置によって再現される色は照明の分光放射強度の変化の影響を受けず、常に、良好な色再現を得ることができる。 For example, when the spectral sensitivity characteristic of the image pickup device and the color matching function shown in FIG. 3 are indicated by the same curve, the color reproduced by the image pickup device is obtained by performing white balance in the WB means 10. Good color reproduction can always be obtained without being affected by the change in the spectral radiation intensity of illumination.
しかしながら、実施の形態1において説明したように、当該撮像装置の分光感度特性(図7)と、等色関数(図3)とは大きく異なる。よって、実施の形態1における、5000Kの照明下において演算した補正マトリクス係数の場合、5000Kの照明下における撮像においては、良好な色再現性を得ることができる(条件等色)が、色温度が異なる照明下においては、良好な色再現性を得られるとは限らない。
However, as described in
すなわち、例えば、図13に示した3000Kの照明下における撮像や、図14に示した6500Kの照明下における撮像等、異なる色温度の照明下での撮像において、実施の形態1において算出した補正マトリクス係数を使用すると当該撮像装置によって得られる色再現性が異なる色再現性となってしまう。 That is, for example, the correction matrix calculated in the first embodiment in imaging under illumination with different color temperatures, such as imaging under 3000K illumination shown in FIG. 13 or imaging under 6500K illumination shown in FIG. When the coefficient is used, the color reproducibility obtained by the imaging apparatus becomes different color reproducibility.
そのため、実施の形態2の撮像装置においては、異なる色温度の照明下において最適な補正マトリクス係数を予め演算し、記憶手段21aに記憶させる。なお、補正マトリクス係数の演算は実施の形態1において説明した方法によって行なうことができる。すなわち、任意に設定した色温度の照明に対応する分光放射強度、カラーチェッカーの分光反射率および撮像装置の分光感度特性(図7)の積に対応するR、G、Bの値と、等色関数、任意に設定した色温度の照明に対応する分光放射強度およびカラーチェッカーの分光反射特性の積に対応するR、G、Bの値との差が最も小さくなるように最小二乗誤差法により算出することができる。 For this reason, in the imaging apparatus according to the second embodiment, optimal correction matrix coefficients are calculated in advance under illumination with different color temperatures, and are stored in the storage unit 21a. The calculation of the correction matrix coefficient can be performed by the method described in the first embodiment. That is, the R, G, and B values corresponding to the product of the spectral radiant intensity corresponding to the illumination of the color temperature set arbitrarily, the spectral reflectance of the color checker, and the spectral sensitivity characteristic of the imaging device (FIG. 7), and the same color Calculated by the least square error method so that the difference between the function, the spectral radiant intensity corresponding to the illumination of the color temperature set arbitrarily, and the R, G, B values corresponding to the product of the spectral reflection characteristics of the color checker is minimized. can do.
図15は、除算手段8から入力される積算値の比と色温度との関係を説明するための説明図である。図15において、横軸はR1の積算値とG1の積算値との比(ΣR1/ΣG1)、縦軸はB1の積算値とG1の積算値との比(ΣB1/ΣG1)である。また、図中の○は各色温度に対応する点を示したものである。 FIG. 15 is an explanatory diagram for explaining the relationship between the ratio of integrated values input from the dividing means 8 and the color temperature. In FIG. 15, the horizontal axis represents the ratio between the integrated value of R1 and the integrated value of G1 (ΣR1 / ΣG1), and the vertical axis represents the ratio of the integrated value of B1 to the integrated value of G1 (ΣB1 / ΣG1). In the figure, ◯ indicates the point corresponding to each color temperature.
図15に示すように、色温度に応じてΣR1/ΣG1とΣB1/ΣG1との関係は一義的に求まる。すなわち、ΣR1/ΣG1またはΣB1/ΣG1が分かれば照明の色温度を特定することができる。 As shown in FIG. 15, the relationship between ΣR1 / ΣG1 and ΣB1 / ΣG1 is uniquely determined according to the color temperature. That is, if ΣR1 / ΣG1 or ΣB1 / ΣG1 is known, the color temperature of the illumination can be specified.
そこで、選択手段21bに、図15に示した曲線を予め設定する。そして、当該選択手段21bは、除算手段8から出力された積算値の比に応じて、前記記憶手段21aに記憶した補正マトリクス係数を選択する。すなわち、積算値の比によって示される色温度に対応した補正マトリクス係数を選択する。
Therefore, the curve shown in FIG. 15 is set in advance in the selection means 21b. Then, the
そして、色信号補正手段11は、選択手段21bによって選択された補正マトリクス係数を使用してマトリクス演算を行うことにより色信号の補正を行なう。なお、実施の形態2における色信号補正手段21でのマトリクス演算は下記式4のように示される。
The color signal correcting unit 11 corrects the color signal by performing matrix calculation using the correction matrix coefficient selected by the selecting
なお、式4の各補正マトリクス係数に付した(ΣR1/G1orΣB1/ΣG1)は、除算手段8から出力された積算値の比(ΣR1/G1またはΣB1/ΣG1)によって選択されることを示す。
Note that (ΣR1 / G1 or ΣB1 / ΣG1) given to each correction matrix coefficient in Expression 4 indicates that the correction matrix coefficient is selected by the ratio (ΣR1 / G1 or ΣB1 / ΣG1) of the integrated value output from the dividing
以上の説明のように、実施の形態2における撮像装置によれば、色温度に応じて補正マトリクス係数を選択し、選択された補正マトリクス係数を使用してマトリクス演算を行なって色補正を行なうことにより、異なる色温度の照明下においても良好な色再現を得ることができる。 As described above, according to the imaging apparatus in the second embodiment, the correction matrix coefficient is selected according to the color temperature, and the matrix calculation is performed using the selected correction matrix coefficient to perform the color correction. Thus, good color reproduction can be obtained even under illumination with different color temperatures.
なお、実施の形態2の説明においては前記図15に示した曲線を前記選択手段21bに記憶する場合について説明したが、曲線を記憶させなくてもよく、例えば、当該曲線において所定の色温度に対応する点(例えば、図15における3000K、4000K、5s000Kおよび6000Kに対応する点)を記憶させ、当該選択手段21bに入力された積算値の比が最も近い点によって示される色温度に対応する補正マトリクス係数を選択してもよい。
In the description of the second embodiment, the case where the curve shown in FIG. 15 is stored in the
実施の形態3.
図16は、実施の形態3における撮像装置の構成を示すブロック図である。なお、当該撮像装置は、図16における破線内の各手段によって構成される。また、図16において、実施の形態1または実施の形態2と同様の構成については同一の符号を付記し、説明を省略する。
FIG. 16 is a block diagram illustrating a configuration of the imaging device according to the third embodiment. Note that the imaging apparatus is configured by each unit within the broken line in FIG. In FIG. 16, the same components as those in the first or second embodiment are denoted by the same reference numerals, and the description thereof is omitted.
切替スイッチ34は、当該撮像装置において、カラーでの撮像(以下、第1の撮像モードともいう。)または感度を上げての撮像(以下、第2の撮像モードともいう。)の選択を行なう際、ユーザーによって操作される。そして、制御手段35は、当該切替えスイッチ34が示す撮像モードに対応する信号(以下、選択信号ともいう。)を色信号補正手段31およびYCrCb変換手段33に出力する。
The change-
色信号補正手段31は、第1の記憶手段31aおよび選択手段31bを備える。第1の記憶手段31aは、実施の形態1において説明した補正マトリクス係数、およびR、G、B信号が補正されずに当該色信号補正手段31から出力されるように設定するマトリクス係数(以下、非補正マトリクス係数という。)を記憶する。なお、非補正マトリクス係数は、具体的には、r11=1、r12=0、r13=0、g21=0、g22=1、g23=0、b31=0、b32=0、b33=1である。すなわち、非補正マトリクス係数によって構成される係数マトリクスは単位行列である。
The color
選択手段31bは、制御手段35から出力された選択信号に応じて、記憶手段31aに記憶された、補正マトリクス係数または非補正マトリクス係数のいずれかを選択する。具体的には、前記第2の制御手段35から、第1の撮像モードが選択された旨の選択信号が入力された場合には補正マトリクス係数を選択し、第2の撮像モードが選択された旨の選択信号が入力された場合には非補正マトリクス係数を選択する。そして、当該色信号補正手段31は、選択手段31bによって選択された、補正マトリクス係数または非補正マトリクス係数のいずれかを使用して色信号の補正を行なって、補正後の色信号(Rideal、Gideal、Bideal)をγ補正手段12に出力する。
The
YCrCb変換手段33は、第2の記憶手段33aおよび選択手段33bを備える。第2の記憶手段31aは、実施の形態1において説明した変換マトリクス係数を予め記憶する。また、Y信号のみを生成し、色差信号を“0”とするようなマトリクス係数(以下、Y変換マトリクス係数ともいう。)も予め記憶する。なお、Y変換マトリクス係数は、具体的には、y11=1、y12=1、y13=1、Cr21=0、Cr22=0、Cr23=0、Cb31=0、Cb32=0、Cb33=0である。すなわち、当該Y変換マトリクス係数によって色信号の変換を行なった場合、当該撮像素子から出力された信号に対応する映像(画像)は白黒の映像となる。
The
選択手段33bは、制御手段35から出力された選択信号に応じて、記憶手段33aに記憶された、変換マトリクス係数またはY変換マトリクス係数のいずれかを選択する。具体的には、前記制御手段35から、第1の撮像モードが選択された旨の信号が入力された場合には変換マトリクス係数を選択し、第2の撮像モードが選択された旨の信号が入力された場合にはY変換マトリクス係数を選択する。そして、当該YCrCb変換手段33は、選択手段33bによって選択された、変換マトリクス係数またはY変換マトリクス係数のいずれかを使用して輝度信号または色差信号を生成して出力する。
The
以上の説明のように、実施の形態3における撮像装置においては、第2の撮像モードが選択された場合、色信号補正手段31においては非補正マトリクス係数が選択される。よって、R2、G2、B2の信号レベルは、補正マトリクス係数を使用した場合のように減衰されない。また、YCrCb変換手段33においては、Y変換マトリクス係数が選択されるため、減衰されないR2、G2、B2が単純加算される。すなわち、選択された撮像モードに適応するように補正手段31およびYCrCb変換手段33によって、色信号の補正および選択を行なう。
As described above, in the imaging apparatus according to
したがって、実施の形態3における撮像装置によれば、R信号、G信号またはB信号の信号レベルが小さい場合であっても、被写体をより確実に撮像することができる。すなわち、より高感度での撮像が可能となる。
Therefore, according to the imaging apparatus in
なお、発明者の実験およびシミュレーションにより、非補正係数マトリクスによる演算およびY変換係数マトリクスによるマトリクス演算を行なうことによって、例えば、図13に示した3000Kの照明下では、従来の撮像装置と比較して1.8倍以上に感度が向上することが確認されている。 It should be noted that, by performing the calculation using the non-correction coefficient matrix and the matrix calculation using the Y conversion coefficient matrix by the inventors' experiments and simulations, for example, under illumination of 3000K shown in FIG. It has been confirmed that the sensitivity is improved by 1.8 times or more.
また、実施の形態3の撮像装置によれば、マトリクス係数を選択する手段を設けることで、光学フィルタの移動のための手段を必要とせず、簡易な構成で色再現性の良好なカラーでの撮像、および感度の高い白黒撮像を切替えて行なうことができる Further, according to the imaging apparatus of the third embodiment, by providing means for selecting a matrix coefficient, no means for moving the optical filter is required, and a simple configuration with good color reproducibility can be achieved. Capable of switching between imaging and monochrome imaging with high sensitivity
なお、実施の形態3においては、色信号補正手段31に第1の記憶手段31aおよび第1の選択手段31bを設ける場合について説明したが、例えば、当該撮像装置を図17のように構成してもよい。
In the third embodiment, the case where the color
すなわち、WB手段10の後段にスイッチ手段36を設け、制御手段35からの制御信号を当該スイッチ手段36に入力する。そして、スイッチ手段36は、カラー撮像に対応する制御信号が入力された場合、第1のスイッチ361、第2のスイッチ362および第3のスイッチ363によってR2、G2、およびB2を色信号補正手段31に入力させる。
That is, the switch means 36 is provided at the subsequent stage of the WB means 10, and a control signal from the control means 35 is input to the switch means 36. Then, when a control signal corresponding to color imaging is input to the switch means 36, the color signal correction means 31
一方、高感度の撮像に対応する制御信号が入力された場合、スイッチ手段36は、第1のスイッチ361、第2のスイッチ362および第3のスイッチ363によってR2、G2、およびB2をγ補正手段12に入力させる。なお、図17のように構成した場合、記憶手段31aに記憶するマトリクス係数は、補正マトリクス係数のみでよい。
On the other hand, when a control signal corresponding to high-sensitivity imaging is input, the
また、実施の形態3においては、色信号補正手段31に第1の記憶手段31aおよび第1の選択手段31bを設け、YCrCb変換手段33に第2の記憶手段33aおよび第2の選択手段33bを設ける場合について説明したが、例えば、図18に示すように、第2の制御手段45に記憶手段45aおよび選択手段45bを設け、当該記憶手段45aに補正マトリクス係数、非補正マトリクス係数、変換マトリクス係数およびY変換マトリクス係数を記憶させ、切替スイッチが示す撮像モードに応じて選択手段45bにマトリクス係数の選択を行なわせてもよい。
In the third embodiment, the color
また、撮像モードの切替えは、切替えスイッチによってユーザーが行なってもよいし、例えば、光電素子等を利用し、周囲の明るさに応じて自動的に撮像モードの切替えを行なうようにしてもよい。 Further, the imaging mode may be switched by the user with a changeover switch, or the imaging mode may be automatically switched according to the ambient brightness by using, for example, a photoelectric element.
また、以上の説明においては、切替スイッチ34を撮像装置内に設けない場合について説明したが、当該撮像装置の設計等に応じて、切替スイッチ34を撮像装置内に設けてもよい。
In the above description, the case where the
また、実施の形態2において説明した構成と、実施の形態3において説明した構成とを組み合わせて撮像装置を構成してもよい。したがって、例えば、実施の形態2において説明した撮像装置に、実施の形態3において説明した切替スイッチ34、制御手段35、非補正マトリクス係数、Y変換マトリクス係数を記憶する手段等を設け、カラー撮像と高感度の撮像との切替えを可能にするとともに、照明の色温度に応じた撮像をも可能とするようにしてもよい。
Further, the imaging device may be configured by combining the configuration described in
また、前記実施の形態1ないし3において説明した撮像装置は、映像もしくは静止画を撮像するビデオカメラ、カメラ一体型VTR、デジタルスチルカメラ、PCカメラ、携帯電話もしくは携帯端末機(例えば、PDA:Personal Degital Assistants)に内蔵されるデジタルスチルカメラ、暗視に利用される監視カメラまたは車載カメラ等に適用することができる。 In addition, the imaging apparatus described in the first to third embodiments includes a video camera that captures video or still images, a camera-integrated VTR, a digital still camera, a PC camera, a mobile phone, or a mobile terminal (for example, PDA: Personal The present invention can be applied to a digital still camera built in Digital Assistants, a surveillance camera used for night vision, an in-vehicle camera, or the like.
1 レンズ、2 NIRBCF、3 撮像素子、4 増幅手段、5 ADコンバータ、6 DC再生手段、7 積算手段、8 除算手段、9 逆数演算手段、10 ホワイトバランス手段、11,21,31,41 色信号補正手段、12 ガンマ補正手段、13,33,43 YCrCb変換手段、21a,31a,33a,45a 記憶手段、21b,31a,33b,45b 選択手段、34 切替スイッチ、35,45 制御手段、36 スイッチ手段。
DESCRIPTION OF
Claims (8)
前記光学フィルタから出射した光が入射する位置に配置された少なくとも3色以上のカラーフィルターを有し、前記光学フィルタから出射した光に対応する少なくとも3種以上の色信号を出力する撮像素子とを備え、
前記光学フィルタは、前記赤外領域の短波長側において透過させる下限の波長から前記撮像素子の感度特性がなくなる波長までの全ての波長領域の光を透過させることを特徴とする撮像装置。 Of the incident light, an optical filter which attenuates a long wavelength region in the visible region and transmits the infrared area,
An imaging device having at least three or more color filters arranged at a position where light emitted from the optical filter is incident , and outputting at least three or more color signals corresponding to the light emitted from the optical filter; Prepared ,
The optical filter, the image pickup device you characterized by transmitting light of all wavelength range of from the lower limit wavelength of which transmits the short wavelength side of the infrared region to the wavelength sensitivity characteristics is eliminated of the imaging device.
当該撮像装置によって撮像を行なう際に使用する照明の色温度に応じて予め設定される、複数の補正係数を記憶する記憶手段と、
前記撮像素子から出力される色信号に基づいて、当該撮像装置の撮像時における前記照明の色温度を特定して、当該色温度に対応する補正係数を前記記憶手段から選択する選択手段とを更に備え、
前記選択手段によって選択された補正係数と、撮像素子から出力された複数の色信号とのマトリクス演算を行なうことにより、前記補正を行なうように構成されてなる請求項5に記載の撮像装置。 The color signal correcting means includes
Storage means for storing a plurality of correction coefficients set in advance according to the color temperature of the illumination used when imaging with the imaging device;
Selecting means for specifying a color temperature of the illumination at the time of image pickup by the image pickup device based on a color signal output from the image pickup device and selecting a correction coefficient corresponding to the color temperature from the storage means; Prepared,
6. The image pickup apparatus according to claim 5 , wherein the correction is performed by performing a matrix operation on the correction coefficient selected by the selection unit and a plurality of color signals output from the image pickup device.
前記制御信号に応じて、前記撮像素子から出力された色信号を補正して出力する色信号補正手段と、
該色信号補正手段から出力された信号を前記第1の撮像モードに対応する第1の信号、または前記第2の撮像モードに対応する第2の信号のいずれかの信号に変換する手段とを更に備える請求項1に記載の撮像装置。 Control means for outputting a control signal corresponding to any one of the first imaging mode for performing color imaging or the second imaging mode for performing imaging with high sensitivity;
Color signal correction means for correcting and outputting the color signal output from the image sensor in accordance with the control signal;
Means for converting the signal output from the color signal correction means into either a first signal corresponding to the first imaging mode or a second signal corresponding to the second imaging mode; The imaging device according to claim 1, further comprising:
前記光学フィルタから出射した光が入射する位置に配置された少なくとも3色以上のカラーフィルターを有し、前記光学フィルタから出射した光に対応する少なくとも3種以上の色信号を出力する撮像素子とを備える撮像装置。An imaging device having at least three or more color filters arranged at a position where light emitted from the optical filter is incident, and outputting at least three or more color signals corresponding to the light emitted from the optical filter; An imaging apparatus provided.
Priority Applications (6)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004276761A JP4407448B2 (en) | 2004-09-24 | 2004-09-24 | Imaging device |
US11/547,069 US7663668B2 (en) | 2004-04-05 | 2005-01-14 | Imaging device |
PCT/JP2005/000359 WO2005101853A1 (en) | 2004-04-05 | 2005-01-14 | Imaging device |
GB0621263A GB2430105B (en) | 2004-04-05 | 2005-01-14 | Imaging device |
KR1020067020711A KR100825172B1 (en) | 2004-04-05 | 2005-01-14 | Imaging device |
TW094101764A TWI255645B (en) | 2004-04-05 | 2005-01-21 | Image pickup device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004276761A JP4407448B2 (en) | 2004-09-24 | 2004-09-24 | Imaging device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2006094112A JP2006094112A (en) | 2006-04-06 |
JP4407448B2 true JP4407448B2 (en) | 2010-02-03 |
Family
ID=36234658
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004276761A Expired - Fee Related JP4407448B2 (en) | 2004-04-05 | 2004-09-24 | Imaging device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4407448B2 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014129319A1 (en) | 2013-02-21 | 2014-08-28 | クラリオン株式会社 | Imaging device |
Families Citing this family (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2007136061A1 (en) * | 2006-05-22 | 2007-11-29 | Kyocera Corporation | Imaging device |
JP2007322560A (en) | 2006-05-30 | 2007-12-13 | Kyocera Corp | Imaging apparatus, and apparatus and method of manufacturing the same |
JP2008048293A (en) | 2006-08-18 | 2008-02-28 | Kyocera Corp | Imaging device and method for manufacturing same |
JP4749984B2 (en) | 2006-09-25 | 2011-08-17 | 京セラ株式会社 | Imaging device, manufacturing apparatus and manufacturing method thereof |
WO2008081903A1 (en) | 2006-12-27 | 2008-07-10 | Kyocera Corporation | Imaging device and information code reading device |
US8567678B2 (en) | 2007-01-30 | 2013-10-29 | Kyocera Corporation | Imaging device, method of production of imaging device, and information code-reading device |
JP4386096B2 (en) | 2007-05-18 | 2009-12-16 | ソニー株式会社 | Image input processing apparatus and method |
JP2008289000A (en) * | 2007-05-18 | 2008-11-27 | Sony Corp | Image input processing device, and method thereof |
JP2009010730A (en) | 2007-06-28 | 2009-01-15 | Kyocera Corp | Image processing method and imaging apparatus employing the same |
JP4658162B2 (en) | 2008-06-27 | 2011-03-23 | 京セラ株式会社 | Imaging apparatus and electronic apparatus |
US8363129B2 (en) | 2008-06-27 | 2013-01-29 | Kyocera Corporation | Imaging device with aberration control and method therefor |
JP5017193B2 (en) * | 2008-06-30 | 2012-09-05 | パナソニック株式会社 | Solid-state imaging device and camera |
US8502877B2 (en) | 2008-08-28 | 2013-08-06 | Kyocera Corporation | Image pickup apparatus electronic device and image aberration control method |
JP4743553B2 (en) | 2008-09-29 | 2011-08-10 | 京セラ株式会社 | Lens unit, imaging device, and electronic device |
JP5259381B2 (en) | 2008-12-25 | 2013-08-07 | 京セラ株式会社 | Imaging apparatus and imaging method |
JP5655441B2 (en) * | 2010-09-02 | 2015-01-21 | 株式会社リコー | Image sensor, imaging device using the image sensor, and in-vehicle monitoring device using the imaging device |
JP5910043B2 (en) | 2011-12-02 | 2016-04-27 | 富士通株式会社 | Imaging apparatus, image processing program, image processing method, and image processing apparatus |
JP5906755B2 (en) * | 2012-01-23 | 2016-04-20 | 富士通株式会社 | Imaging apparatus, imaging method, and program |
JP6291048B2 (en) | 2014-06-24 | 2018-03-14 | マクセル株式会社 | Imaging processing apparatus and imaging processing method |
JP2016096423A (en) * | 2014-11-13 | 2016-05-26 | ジェコー株式会社 | Imaging apparatus |
JP6426753B2 (en) * | 2014-11-28 | 2018-11-21 | マクセル株式会社 | Imaging system |
JP2016114683A (en) * | 2014-12-12 | 2016-06-23 | 日本放送協会 | Filter and imaging apparatus |
JP7280681B2 (en) * | 2017-11-30 | 2023-05-24 | ブリルニクス シンガポール プライベート リミテッド | Solid-state imaging device, driving method for solid-state imaging device, and electronic device |
CN112585960B (en) * | 2018-09-19 | 2022-02-25 | 奥林巴斯株式会社 | Image pickup element, image pickup apparatus, image pickup method, and storage medium |
-
2004
- 2004-09-24 JP JP2004276761A patent/JP4407448B2/en not_active Expired - Fee Related
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014129319A1 (en) | 2013-02-21 | 2014-08-28 | クラリオン株式会社 | Imaging device |
US9906766B2 (en) | 2013-02-21 | 2018-02-27 | Clarion Co., Ltd. | Imaging device |
Also Published As
Publication number | Publication date |
---|---|
JP2006094112A (en) | 2006-04-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4407448B2 (en) | Imaging device | |
KR100825172B1 (en) | Imaging device | |
JP5168353B2 (en) | Imaging device and imaging device | |
US8666153B2 (en) | Image input apparatus | |
WO2015199163A1 (en) | Image pickup sensor and image pickup device | |
US8508633B2 (en) | Image device with color and brightness signal processing | |
US8411176B2 (en) | Image input device | |
JP5259381B2 (en) | Imaging apparatus and imaging method | |
CN104756488B (en) | Signal processing device and signal processing method | |
JP4011039B2 (en) | Imaging apparatus and signal processing method | |
US10395347B2 (en) | Image processing device, imaging device, image processing method, and image processing program | |
CN105323567B (en) | Color management system and device | |
JP3966866B2 (en) | Imaging apparatus, camera, and signal processing method | |
JP3966868B2 (en) | Imaging apparatus, camera, and signal processing method | |
JP3933651B2 (en) | Imaging apparatus and signal processing method thereof | |
JP4298595B2 (en) | Imaging apparatus and signal processing method thereof | |
JP4397724B2 (en) | Imaging apparatus, camera, and signal processing method | |
JP2010171950A (en) | Imaging apparatus and color correcting method of imaging apparatus | |
JP4024230B2 (en) | Imaging device | |
JP3933649B2 (en) | Imaging apparatus and signal processing method | |
CN112335233B (en) | Image generation device and imaging device | |
JP3880276B2 (en) | Imaging device | |
JP5920144B2 (en) | Imaging apparatus and imaging method | |
JP2005303702A (en) | Image pickup device, camera and signal processing method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060412 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090414 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090611 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20091020 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20091102 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121120 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121120 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131120 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |