WO2021171796A1 - 固体撮像装置及び電子機器 - Google Patents

固体撮像装置及び電子機器 Download PDF

Info

Publication number
WO2021171796A1
WO2021171796A1 PCT/JP2021/000379 JP2021000379W WO2021171796A1 WO 2021171796 A1 WO2021171796 A1 WO 2021171796A1 JP 2021000379 W JP2021000379 W JP 2021000379W WO 2021171796 A1 WO2021171796 A1 WO 2021171796A1
Authority
WO
WIPO (PCT)
Prior art keywords
filter
pixel
unit
color filter
solid
Prior art date
Application number
PCT/JP2021/000379
Other languages
English (en)
French (fr)
Inventor
小笠原　隆行
Original Assignee
ソニーセミコンダクタソリューションズ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニーセミコンダクタソリューションズ株式会社 filed Critical ソニーセミコンダクタソリューションズ株式会社
Priority to CN202180014918.XA priority Critical patent/CN115136592A/zh
Priority to US17/800,618 priority patent/US20230343802A1/en
Priority to DE112021001249.5T priority patent/DE112021001249T5/de
Publication of WO2021171796A1 publication Critical patent/WO2021171796A1/ja

Links

Images

Classifications

    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14601—Structural or functional details thereof
    • H01L27/1462—Coatings
    • H01L27/14621—Colour filter arrangements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14601—Structural or functional details thereof
    • H01L27/14603—Special geometry or disposition of pixel-elements, address-lines or gate-electrodes
    • H01L27/14605—Structural or functional details relating to the position of the pixel elements, e.g. smaller pixel elements in the center of the imager compared to pixel elements at the periphery
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14601—Structural or functional details thereof
    • H01L27/14625—Optical elements or arrangements associated with the device
    • H01L27/14627—Microlenses

Definitions

  • This technology relates to solid-state image sensors and electronic devices.
  • Patent Document 1 a solid-state image sensor having a configuration in which one pixel of a Bayer array is divided into a plurality of pixels has been proposed (see, for example, Patent Document 1).
  • a high-resolution captured image can be obtained by performing a full-resolution demosaic process (a series of processes in which the demosaic process is performed after the re-mosaic process), and a binning process is performed.
  • a full-resolution demosaic process a series of processes in which the demosaic process is performed after the re-mosaic process
  • a binning process is performed.
  • an image pickup image having an excellent SN ratio can be obtained
  • an image pickup image having a high dynamic range (HDR) can be obtained by changing the exposure conditions for each of the plurality of pixels.
  • HDR high dynamic range
  • An object of the present disclosure is to provide a solid-state image sensor and an electronic device capable of improving the color reproducibility of a captured image.
  • the solid-state imaging device of the present disclosure has (a) a matrix of pixels having m ⁇ n (m and n are natural numbers of 2 or more) having a photoelectric conversion unit and a color filter formed corresponding to the photoelectric conversion unit.
  • Each of the pixel unit groups includes a pixel array unit in which a plurality of pixel unit groups arranged in a 2 ⁇ 2 matrix are arranged. Of the four pixel units, one pixel unit contains an R filter as a color filter, two pixel units include a G filter as a color filter, and one pixel unit contains a B filter as a color filter.
  • At least one of the pixel unit groups includes as a color filter a predetermined color filter having a peak wavelength having a transmission coefficient different from that of the R filter, the G filter, and the B filter.
  • pixels having a photoelectric conversion unit and a color filter formed corresponding to the photoelectric conversion unit are arranged in a matrix of m ⁇ n (m and n are natural numbers of 2 or more).
  • a pixel array unit is provided in which a plurality of pixel unit groups formed by arranging the pixel units formed in a 2 ⁇ 2 matrix are arranged, and each of the pixel unit groups constitutes four pixel unit groups.
  • one pixel unit contains an R filter as a color filter
  • two pixel units include a G filter as a color filter
  • one pixel unit contains a B filter as a color filter.
  • At least one is a solid-state image pickup device that includes a predetermined color filter having a peak wavelength of transmission that is different from that of the R filter, G filter, and B filter as a color filter, and (b) a solid-state image pickup device that captures image light from a subject. It includes an optical lens for forming an image on an imaging surface, and (c) a signal processing circuit for processing a signal output from a solid-state imaging device.
  • FIG. 1 is a schematic view showing the entire electronic device 100 according to the first embodiment of the present disclosure.
  • the electronic device 100 includes a solid-state image sensor 101 (hereinafter, also referred to as “solid-state image sensor 1”), an optical lens 102, a shutter device 103, a drive circuit 104, and a signal processing circuit 105. It has.
  • the optical lens 102 forms an image of the image light (incident light 106) from the subject on the image pickup surface of the solid-state image sensor 101, and the solid-state image sensor 101 electrifies the amount of light of the incident light 106 in pixel units.
  • the pixel signal is converted into a signal and output, and the signal processing circuit 105 performs signal processing on the pixel signal output from the solid-state image sensor 101.
  • the shutter device 103 controls the light irradiation period and the light blocking period for the solid-state image sensor 101.
  • the drive circuit 104 supplies a drive signal for controlling the pixel signal transfer operation and the shutter operation of the shutter device 103.
  • FIG. 2 is a schematic configuration diagram showing a solid-state image sensor 1.
  • the solid-state image sensor 1 of FIG. 2 is a back-illuminated CMOS (Complementary Metal Oxide Semiconductor) image sensor.
  • the solid-state image sensor 1 includes a substrate 2, a pixel array unit 3, a vertical drive circuit 4, a column signal processing circuit 5, a horizontal drive circuit 6, an output circuit 7, and a control circuit 8. And have.
  • the pixel array unit 3 has a plurality of pixels 9 arranged in a matrix on the substrate 2. As shown in FIGS. 3A and 3B, each of the pixels 9 has a photoelectric conversion unit 24, a color filter 19 formed corresponding to the photoelectric conversion unit 24, and a microlens 20.
  • the pixel 9 is composed of four pixels 9 arranged in a 2 ⁇ 2 matrix to form one pixel unit 10. Further, the pixel unit 10 is composed of four pixel units 10 arranged in a 2 ⁇ 2 matrix to form one pixel unit group 11. That is, the pixel array unit 3 is configured by arranging a plurality of pixel unit groups 11 in a matrix.
  • the pixel array unit 3 is configured by arranging a plurality of pixel unit groups 11 in a matrix.
  • one pixel unit 10 is composed of pixels 9 arranged in a 2 ⁇ 2 matrix is shown, but other configurations can also be adopted.
  • it may be composed of pixels 9 arranged in a matrix of m ⁇ n (m and n are natural numbers of 2 or more).
  • FIG. 4 illustrates a case where m and n are 5 or more.
  • the vertical drive circuit 4 is composed of, for example, a shift register, selects a desired pixel drive wiring 12, supplies a pulse for driving the pixel 9 to the selected pixel drive wiring 12, and transfers each pixel 9 in rows. Drive. That is, the vertical drive circuit 4 selectively scans each pixel 9 of the pixel array unit 3 in row units in the vertical direction, and a pixel signal based on the signal charge generated by the photoelectric conversion unit 24 of each pixel 9 according to the amount of light received. Is supplied to the column signal processing circuit 5 via the vertical signal line 13.
  • the column signal processing circuit 5 is arranged for each column of the pixel 9, for example, and performs signal processing such as noise removal for each pixel string with respect to the signal output from the pixel 9 for one row.
  • the column signal processing circuit 5 performs signal processing such as CDS (Correlated Double Sampling) and AD (Analog Digital) conversion for removing fixed pattern noise peculiar to pixels.
  • the horizontal drive circuit 6 is composed of, for example, a shift register, sequentially outputs horizontal scanning pulses to the column signal processing circuit 5, selects each of the column signal processing circuits 5 in order, and from each of the column signal processing circuits 5.
  • the signal-processed pixel signal (hereinafter, also referred to as “pixel value”) is output to the horizontal signal line 14.
  • the output circuit 7 performs signal processing on pixel signals (pixel values) sequentially supplied from each of the column signal processing circuits 5 through the horizontal signal line 14, and outputs the signals.
  • the signal processing for example, buffering, black level adjustment, column variation correction, and various digital signal processing can be adopted.
  • the control circuit 8 Based on the vertical synchronization signal, the horizontal synchronization signal, and the master clock signal, the control circuit 8 transmits a clock signal or a control signal that serves as a reference for the operation of the vertical drive circuit 4, the column signal processing circuit 5, the horizontal drive circuit 6, and the like. Generate. Then, the control circuit 8 outputs the generated clock signal and control signal to the vertical drive circuit 4, the column signal processing circuit 5, the horizontal drive circuit 6, and the like.
  • FIG. 3A is a diagram showing a cross-sectional configuration of the pixel array unit 3 of the solid-state image sensor 1.
  • FIG. 3B is a diagram showing the minimum unit arrangement of the color filter 19 when the color filter 19 is broken along the line BB of FIG. 3A.
  • a back-illuminated CMOS image sensor is used as the solid-state image sensor 1.
  • the solid-state image sensor 1 of the first embodiment includes a light receiving layer 18 in which a substrate 2, an insulating film 15, a light-shielding film 16, and a flattening film 17 are laminated in this order. There is. Further, on the surface of the light receiving layer 18 on the insulating film 15 side (hereinafter, also referred to as “back surface S1”), a light collecting layer 21 formed by laminating a color filter 19 and a microlens 20 (on-chip lens) in this order is formed. Has been done. Further, the wiring layer 22 and the support substrate 23 are laminated in this order on the surface of the light receiving layer 18 on the substrate 2 side (hereinafter, also referred to as “surface S2”).
  • back surface S1 of the light receiving layer 18 and the back surface of the flattening film 17 are the same surface, the back surface of the flattening film 17 is also referred to as “back surface S1” in the following description.
  • surface S2 of the light receiving layer 18 and the surface of the substrate 2 are the same surface, the surface of the substrate 2 is also referred to as “surface S2” in the following description.
  • the substrate 2 is composed of, for example, a semiconductor substrate made of silicon (Si), and forms the pixel array portion 3 shown in FIG.
  • a plurality of photoelectric conversion units 24 formed on the substrate 2 are arranged in a matrix.
  • the photoelectric conversion unit 24 generates and accumulates signal charges according to the amount of incident light 106.
  • the pixel separation unit 25 is arranged so that the light transmitted through the other photoelectric conversion units 24 does not enter.
  • the insulating film 15 continuously covers the entire back surface S1 side (the entire light receiving surface side) of the substrate 2.
  • the light-shielding film 16 is formed in a grid pattern so that the light-receiving surfaces of the plurality of photoelectric conversion units 24 are opened in a part of the back surface S3 side (a part of the light-receiving surface side) of the insulating film 15. ing.
  • the color filter 19 is formed on the back surface S1 side (light receiving surface side) of the insulating film 15 corresponding to each photoelectric conversion unit 24. That is, one color filter 19 is formed for one photoelectric conversion unit 24 (pixel 9). As a result, the color filters 19 form a color filter array 26 that is regularly arranged in a matrix. Each of the color filters 19 transmits light of a specific wavelength (red light, green light, blue light, orange light, emerald green color light) of the incident light 106, and the transmitted light is incident on the photoelectric conversion unit 24. It has become.
  • the color filter 19 includes an R filter 19 R that transmits red light, a G filter 19 G that transmits green light, a B filter 19 B that transmits blue light, and a predetermined color filter that transmits orange light (hereinafter, “O filter”).
  • a predetermined color filter (hereinafter, also referred to as “EG filter 19 EG ”) that transmits emerald green color light (also referred to as “19 O”) is used.
  • reference numeral R indicates R filter 19 R
  • reference numeral G indicates G filter 19 G
  • reference numeral B indicates B filter 19 B
  • reference numeral O indicates O filter 19 O
  • reference numeral EG indicates O filter 19 O.
  • EG filter 19 EG is shown.
  • the following description represents the pixel 9 including the R filter 19 R the red pixel 9 R, represents a pixel 9 including the G filter 19 G green pixel 9 G, the blue pixel pixel 9 including the B filter 19 B It is represented as 9 B , the pixel 9 including the O filter 19 O is represented by the orange pixel 9 O, and the pixel 9 including the EG filter 19 EG is represented by the emerald green color pixel 9 EG .
  • the peak wavelength of the transmittance of the O filter 19 O a numerical value within the first range that is larger than the peak wavelength of the transmittance of the B filter 19 B and less than the peak wavelength of the transmittance of the G filter 19 G is used.
  • the peak wavelength of the transmittance of the EG filter 19 EG a numerical value within the second range larger than the peak wavelength of the transmittance of the G filter 19 G and less than the peak wavelength of the transmittance of the R filter 19 R is used. ..
  • the first range is set. Is preferably in the range greater than 465 nm and less than 525 nm, and the second range is greater than 535 nm and less than 595 nm.
  • the first range and the second range can be separated from the peak wavelength of the transmittance of the R filter 19 R , the G filter 19 G, and the B filter 19 B by 5 nm or more.
  • the arrangement pattern of the color filter 19 (the arrangement pattern of the R filter 19 R , the G filter 19 G , the B filter 19 B , the O filter 19 O , and the EG filter 19 EG ) is a 4 ⁇ 4 matrix as shown in FIG. 3B.
  • the array of the color filters 19 arranged in a shape is defined as the minimum unit of the array of the color filters 19 (hereinafter, also referred to as "minimum unit array"), and as shown in FIG. 5, the minimum unit array is all of the pixel array unit 3. It is configured to be arranged in the pixel unit group 11 of. As shown in FIG.
  • the minimum unit array of the color filter 19 is such that the R filter 19 R is arranged on the upper right pixel unit 10 of the four pixel units 10 constituting the pixel unit group 11, and the upper left side and the upper left side and
  • the G filter 19 G is arranged in the lower right pixel unit 10
  • the B filter 19 B is arranged in the lower left pixel unit 10.
  • the R filter 19 R of the pixel 9 on the upper left side is replaced with the O filter 19 O
  • the B filter 19 B of the upper left pixel 9 is replaced with the EG filter 19 EG.
  • the transmission of the R filter 19 R , the G filter 19 G, and the B filter 19 B is transmitted.
  • Light having a wavelength outside the peak wavelength of the rate (hereinafter, also referred to as “out-of-peak wavelength”) hardly reaches the photoelectric conversion unit 24 and is not detected by the red pixel 9 R , the green pixel 9 G, and the blue pixel 9 B. .. Therefore, as shown in FIG. 6, when there are two subjects A and B having different reflectances of the wavelengths outside the peak, the difference in color between the subjects A and B cannot be quantified. Therefore, in the conventional solid-state image sensor, the subjects A and B are determined to be the same color.
  • the color filter 19 in addition to the R filter 19 R , the G filter 19 G and the B filter 19 B , the O filter 19 O and the EG filter 19 EG are used as the color filter 19 as in the solid-state imaging device 1 according to the first embodiment.
  • the configuration also includes, the light having a wavelength between the peak wavelength of the transmittance of the R filter 19 R and the peak wavelength of the transmittance of the G filter 19 G passes through the EG filter 19 EG , and the emerald green color pixel 9 Detected by EG.
  • the sampling points of the incident light 106 can be increased by the configuration including the O filter 19 O and the EG filter 19 EG. Therefore, as shown in FIG. 7, when there are two subjects A and B having different reflectances of the wavelengths outside the peak, the color difference ⁇ between the subjects A and B can be quantified. Therefore, in the solid-state image sensor 1 according to the first embodiment, the subjects A and B can be determined as different colors.
  • the pixel signals of the red pixel 9 R , the green pixel 9 G, and the blue pixel 9 B are used to estimate the color temperature of the light source.
  • the color temperature can be estimated with higher accuracy. Therefore, the color reproducibility of the captured image can be improved by adjusting the white balance of the captured image based on the color temperature. For example, when the color temperature of the light source is low, the image light (incident light 106) from the subject contains a large amount of light having a long wavelength, but as shown in FIG. 8, the orange pixel 9 O has a long wavelength. Since the number of sampling points on the side (points circled by dotted lines in FIG.
  • the color reproducibility of the captured image can be improved.
  • the incident light 106 from the subject contains a large amount of light having a short wavelength, but the emerald green color pixel 9 EG is used for sampling on the short wavelength side. Since the number of points increases (the part circled by the dotted line in FIG. 9), the color reproducibility of the captured image can be improved.
  • the G filter 19 G is arranged in the pixel units 10 on the upper left side and the lower right side, but other configurations can also be adopted.
  • the G filter 19 G is arranged in the upper right side and the lower left side pixel unit 10, the upper left side and the lower left side pixel unit 10, and the upper right side and the lower right side pixel unit 10.
  • a configuration in which the R filter 19 R is arranged in the lower pixel unit 10 and the B filter 19 B is arranged in the upper pixel unit 10 can be adopted.
  • each of the pixel unit groups 11 includes an R filter 19 R as a color filter 19 in one pixel unit 10 of the four pixel units 10 constituting the pixel unit group 11, and G in the two pixel units 10.
  • the configuration may be such that the filter 19 G is included as the color filter 19 and the B filter 19 B is included as the color filter 19 in one pixel unit 10.
  • the pixel unit groups 11 of the pixel array unit 3 include the O filter 19 O and the EG filter 19 EG , but other configurations can also be adopted. ..
  • at least one of the pixel unit group 11 constituting the pixel array unit 3 may be configured to include an O filter 19 O and an EG filter 19 EG (predetermined color filter).
  • the O filter 19 O and the EG filter 19 EG are used as the color filter 19 (predetermined color filter) arranged together with the R filter 19 R , the G filter 19 G, and the B filter 19 B.
  • the predetermined color filter a color filter 19 having a peak wavelength having a transmittance different from that of the R filter 19 R , the G filter 19 G, and the B filter 19 B may be used.
  • any one of the R filter 19 R of the lower left pixel 9, the upper right pixel 9 and the lower right pixel 9 may be replaced with the O filter 19 O.
  • the G filter 19 G of any of the 2 ⁇ 2 pixels 9 constituting the pixel unit 10 including the G filter 19 G may be replaced with the O filter 19 O.
  • 2 ⁇ 2 pixels 9 constituting the pixel unit 10 including a B filter 19 B may be either a B filter 19 B of the pixel 9 a configuration obtained by replacing the O filter 19 O.
  • the O filter 19 O predetermined color filter
  • the EG filter 19 EG predetermined color filter
  • the pixel unit 10 including the R filter 19 R or the B filter 19 B similarly to the O filter 19 O.
  • the first embodiment there are two types of color filters 19 included in one pixel unit 10, two types of R filter 19 R and O filter 19 O, and two types of B filter 19 B and EG filter 19 EG.
  • An example of any of the types is shown, but other configurations can be adopted.
  • the number of types of color filters 19 included in one pixel unit 10 is 2 or less. With such a configuration, it is possible to suppress a decrease in the area occupied by the red pixel 9 R , the green pixel 9 G, and the blue pixel 9 B.
  • the microlens 20 is formed on the back surface S4 side (light receiving surface side) of the color filter 19 corresponding to each photoelectric conversion unit 24. That is, one microlens 20 is formed for one photoelectric conversion unit 24 (pixel 9). As a result, the microlens 20 forms a microlens array 27 that is regularly arranged in a matrix.
  • Each of the microlenses 20 has a configuration in which the image light (incident light 106) from the subject is condensed and the collected incident light 106 is guided to the vicinity of the back surface (light receiving surface) of the photoelectric conversion unit 24 via the color filter 19. ing.
  • an example in which one microlens 20 is formed for one photoelectric conversion unit 24 is shown, but other configurations can also be adopted.
  • the green pixel 9 G is used as the phase difference pixel, as shown in FIG. 10, two green pixels 9 G arranged in a 1 ⁇ 2 matrix are used as the phase difference pixel, and the two green pixels 9 are used.
  • One microlens 20 may be formed for G (phase difference pixel). According to such a configuration, the phase difference of the captured image can be detected between two green pixels 9 G (phase difference pixels) sharing one microlens 20. Further, for example, one microlens 20 may be formed for one pixel unit 10 (pixels 9 arranged in a 2 ⁇ 2 matrix). In this case, as shown in FIG.
  • phase difference pixels for example, when green pixels 9 G are used as retardation pixels, four green pixels 9 G arranged in a 2 ⁇ 2 matrix are used as retardation pixels, and the four are One microlens 20 is formed for each green pixel 9 G (phase difference pixel). According to such a configuration, the phase difference of the captured image can be detected between the four green pixels 9 G (phase difference pixels) sharing one microlens 20.
  • the wiring layer 22 is formed on the surface S2 side of the substrate 2, and includes an interlayer insulating film 28 and wiring 29 laminated in a plurality of layers via the interlayer insulating film 28. Then, the wiring layer 22 drives the pixel transistors constituting each pixel 9 via the wirings 29 having a plurality of layers.
  • the support substrate 23 is formed on a surface of the wiring layer 22 opposite to the side facing the substrate 2.
  • the support substrate 23 is a substrate for ensuring the strength of the substrate 2 in the manufacturing stage of the solid-state image sensor 1.
  • silicon (Si) can be used as the material of the support substrate 23, for example.
  • the signal processing circuit 105 first, for example, is based on a pixel signal (pixel value) output from a red pixel 9 R , a green pixel 9 G , a blue pixel 9 B , an orange pixel 9 O, and an emerald green color pixel 9 EG. As shown in 12, a process of generating a mosaic image 30 corresponding to the arrangement of the color filters 19 is performed. In FIG.
  • reference numeral R indicates an image pixel having only red color information (hereinafter, also referred to as “red image pixel”) 31 R
  • reference numeral G indicates an image pixel having only green color information (hereinafter, also referred to as “red image pixel”) 31 R
  • reference numeral B indicates an image pixel having only blue color information (hereinafter, also referred to as “blue image pixel”) 31 B
  • reference numeral O is orange.
  • the pixel values of each image pixel 31 of the generated mosaic image 30 (pixel values of red, green, blue, orange, and emerald green image pixels 31 R , 31 G , 31 B , 31 O , and 31 EG ).
  • the color temperature of the light source is estimated based on the above, and the white balance is adjusted based on the estimated color temperature.
  • the color temperature of the light source is low, as shown in FIG. 13, the component on the long wavelength side of the reflectance of the subject increases, and the amount of light on the long wavelength side included in the incident light 106.
  • the color temperature is estimated using the pixel values of the orange image pixels 31 O in addition to the pixel values of the red, green, and blue image pixels 31 R , 31 G , and 31 B of the mosaic image 30.
  • the color temperature of the light source is flat, that is, when the reflectance of the subject is about the same at all wavelengths from the short wavelength side to the long wavelength side as shown in FIG. 14, the incident light 106 Since the amount of light of each wavelength contained is about the same, the color temperature is estimated using only the pixel values of the red, green, and blue image pixels 31 R , 31 G , and 31 B of the mosaic image 30.
  • the pixel values of the orange and emerald green image pixels 31 O and 31 EG may also be used for estimating the color temperature.
  • the color temperature of the light source is high, the component on the short wavelength side of the reflectance of the subject increases, and the amount of light on the short wavelength side contained in the incident light 106 increases, as shown in FIG.
  • the color temperature is estimated using the pixel values of the emerald green image pixel 31 EG.
  • the white balance may be adjusted directly from the pixel value.
  • Smax is the maximum value of the pixel values (e.g., in the case of 8bit 1023 For 255,10Bit) a, S R (W), S G (W), S B (W), SO (W) and S EG (W) are white plates (standard white plates with 100% reflectance), red pixels 9 R , green pixels 9 G , blue pixels 9 B , orange pixels 9 O, and emerald green pixels. 9 Pixel signal (pixel value) from EG.
  • FIG. 16 shows a part of the mosaic image 30 and the RGB mosaic image 32 in an enlarged manner.
  • the mosaic image 30 whose white balance has been corrected is subjected to binning processing.
  • the pixel values of a plurality of adjacent image pixels 31 of the same color are added to obtain the pixel value of one image pixel 31.
  • the binning process considers the image pixels 31 EG emerald green color and the image pixels 31 less colorless, adds the pixel values of the three blue image pixels 31 B, except for the image pixels 31 less colorless.
  • an RGB mosaic image 34 composed of red, green and blue image pixels 33 R , 33 G and 33 B is generated.
  • the RGB mosaic image 32 (see FIG. 16) obtained by the remosaic processing or the RGB mosaic image 34 obtained by the binning processing is subjected to the demosaic processing.
  • FIG. 17 shows a part of the mosaic image 30 and the RGB mosaic image 34 in an enlarged manner.
  • the solid-state image sensor 1 is different from any of the R filter 19 R , the G filter 19 G, and the B filter 19 B in at least one of the pixel unit group 11.
  • the O filter 19 O and the EG filter 19 EG (predetermined color filter) having a peak wavelength of transmittance are included as the color filter 19. Therefore, the color temperature of the light source can be estimated with higher accuracy. Therefore, by adjusting the white balance of the mosaic image 30 based on the color temperature, it is possible to provide the solid-state image sensor 1 capable of improving the color reproducibility of the captured image.
  • the solid-state image sensor 1 includes an O filter 19 O and an EG filter 19 EG as color filters 19 in each of the pixel unit groups 11. Therefore, all the pixel unit groups 11, that is, the pixel unit groups 11 of each part of the pixel array unit 3 can be used for adjusting the white balance, and the color reproducibility can be improved more appropriately.
  • FIG. 18 is a diagram showing a configuration of a color filter array 26 of the solid-state image sensor 1 according to the second embodiment.
  • FIG. 19 is a diagram showing a minimum unit array of the color filter 19.
  • the parts corresponding to FIGS. 3B are designated by the same reference numerals, and duplicate description will be omitted.
  • the arrangement of the O filter 19 O and the EG filter 19 EG is different from that of the solid-state image sensor 1 according to the first embodiment.
  • the O filter 19 O is arranged in the pixels 9 on the upper left side and the lower right side.
  • the EG filter 19 EG is arranged on the upper left side and the lower right side pixel 9 of the 2 ⁇ 2 pixels 9 constituting the lower left pixel unit 10. That is, each of the pixel unit 10 on the upper right side and the pixel unit 10 on the lower left side includes the same type of predetermined color filter in the two pixels 9 of one pixel unit 10.
  • each of the pixel units 10 including the O filter 19 O and the EG filter 19 EG is two pixels 9 of one pixel unit 10. Includes the same type of predetermined color filter. Therefore, as shown in FIGS. 20 and 21, by performing the binning process on the mosaic image 30 corresponding to the arrangement of the color filters 19, the image pixels 35 R and 35 G having only the color information of red, green and blue. , 35 B In addition to the RGB mosaic image 36, a CMY mosaic image 38 consisting of image pixels 37 O and 37 EG having only orange and emerald green color information can be generated.
  • FIG. 20 shows a part of the mosaic image 30 and the RGB mosaic image 36 in an enlarged manner.
  • FIG. 21 shows an enlarged part of the mosaic image 30 and the CMY mosaic image 38.
  • FIGS. 22 and 23 a case where the O filter 19 O and the EG filter 19 EG are arranged only in the four pixel unit groups 11 is illustrated.
  • only one of the O filter 19 O and the EG filter 19 EG is arranged in one pixel unit group 11.
  • FIG. 22 shows a case where it is applied to the solid-state image sensor 1 according to the first embodiment.
  • FIG. 23 shows a case where it is applied to the solid-state image sensor 1 according to the second embodiment.
  • the technology according to the present disclosure can be applied to various products.
  • the technology according to the present disclosure is realized as a device mounted on a moving body of any kind such as an automobile, an electric vehicle, a hybrid electric vehicle, a motorcycle, a bicycle, a personal mobility, an airplane, a drone, a ship, and a robot. You may.
  • FIG. 24 is a block diagram showing a schematic configuration example of a vehicle control system, which is an example of a mobile control system to which the technology according to the present disclosure can be applied.
  • the vehicle control system 12000 includes a plurality of electronic control units connected via the communication network 12001.
  • the vehicle control system 12000 includes a drive system control unit 12010, a body system control unit 12020, an outside information detection unit 12030, an in-vehicle information detection unit 12040, and an integrated control unit 12050.
  • a microcomputer 12051, an audio image output unit 12052, and an in-vehicle network I / F (interface) 12053 are shown as a functional configuration of the integrated control unit 12050.
  • the drive system control unit 12010 controls the operation of the device related to the drive system of the vehicle according to various programs.
  • the drive system control unit 12010 provides a driving force generator for generating the driving force of the vehicle such as an internal combustion engine or a driving motor, a driving force transmission mechanism for transmitting the driving force to the wheels, and a steering angle of the vehicle. It functions as a control device such as a steering mechanism for adjusting and a braking device for generating braking force of the vehicle.
  • the body system control unit 12020 controls the operation of various devices mounted on the vehicle body according to various programs.
  • the body system control unit 12020 functions as a keyless entry system, a smart key system, a power window device, or a control device for various lamps such as headlamps, back lamps, brake lamps, blinkers or fog lamps.
  • the body system control unit 12020 may be input with radio waves transmitted from a portable device that substitutes for the key or signals of various switches.
  • the body system control unit 12020 receives inputs of these radio waves or signals and controls a vehicle door lock device, a power window device, a lamp, and the like.
  • the vehicle outside information detection unit 12030 detects information outside the vehicle equipped with the vehicle control system 12000.
  • the image pickup unit 12031 is connected to the vehicle exterior information detection unit 12030.
  • the vehicle outside information detection unit 12030 causes the image pickup unit 12031 to capture an image of the outside of the vehicle and receives the captured image.
  • the vehicle exterior information detection unit 12030 may perform object detection processing or distance detection processing such as a person, a vehicle, an obstacle, a sign, or a character on the road surface based on the received image.
  • the imaging unit 12031 is an optical sensor that receives light and outputs an electric signal according to the amount of the light received.
  • the image pickup unit 12031 can output an electric signal as an image or can output it as distance measurement information. Further, the light received by the imaging unit 12031 may be visible light or invisible light such as infrared light.
  • the in-vehicle information detection unit 12040 detects the in-vehicle information.
  • a driver state detection unit 12041 that detects the driver's state is connected to the in-vehicle information detection unit 12040.
  • the driver state detection unit 12041 includes, for example, a camera that images the driver, and the in-vehicle information detection unit 12040 determines the degree of fatigue or concentration of the driver based on the detection information input from the driver state detection unit 12041. It may be calculated, or it may be determined whether the driver is dozing.
  • the microcomputer 12051 calculates the control target value of the driving force generator, the steering mechanism, or the braking device based on the information inside and outside the vehicle acquired by the vehicle exterior information detection unit 12030 or the vehicle interior information detection unit 12040, and the drive system control unit.
  • a control command can be output to 12010.
  • the microcomputer 12051 realizes ADAS (Advanced Driver Assistance System) functions including vehicle collision avoidance or impact mitigation, follow-up driving based on inter-vehicle distance, vehicle speed maintenance driving, vehicle collision warning, vehicle lane deviation warning, and the like. It is possible to perform cooperative control for the purpose of.
  • ADAS Advanced Driver Assistance System
  • the microcomputer 12051 controls the driving force generator, the steering mechanism, the braking device, and the like based on the information around the vehicle acquired by the vehicle exterior information detection unit 12030 or the vehicle interior information detection unit 12040. It is possible to perform coordinated control for the purpose of automatic driving, etc., which runs autonomously without depending on the operation.
  • the microcomputer 12051 can output a control command to the body system control unit 12020 based on the information outside the vehicle acquired by the vehicle exterior information detection unit 12030.
  • the microcomputer 12051 controls the headlamps according to the position of the preceding vehicle or the oncoming vehicle detected by the external information detection unit 12030, and performs coordinated control for the purpose of anti-glare such as switching the high beam to the low beam. It can be carried out.
  • the audio image output unit 12052 transmits an output signal of at least one of audio and image to an output device capable of visually or audibly notifying information to the passenger or the outside of the vehicle.
  • an audio speaker 12061, a display unit 12062, and an instrument panel 12063 are exemplified as output devices.
  • the display unit 12062 may include, for example, at least one of an onboard display and a heads-up display.
  • FIG. 25 is a diagram showing an example of the installation position of the imaging unit 12031.
  • the vehicle 12100 has image pickup units 12101, 12102, 12103, 12104, 12105 as the image pickup unit 12031.
  • the imaging units 12101, 12102, 12103, 12104, 12105 are provided at positions such as the front nose, side mirrors, rear bumpers, back doors, and the upper part of the windshield in the vehicle interior of the vehicle 12100, for example.
  • the imaging unit 12101 provided on the front nose and the imaging unit 12105 provided on the upper part of the windshield in the vehicle interior mainly acquire an image in front of the vehicle 12100.
  • the imaging units 12102 and 12103 provided in the side mirrors mainly acquire images of the side of the vehicle 12100.
  • the imaging unit 12104 provided on the rear bumper or the back door mainly acquires an image of the rear of the vehicle 12100.
  • the images in front acquired by the imaging units 12101 and 12105 are mainly used for detecting a preceding vehicle, a pedestrian, an obstacle, a traffic light, a traffic sign, a lane, or the like.
  • FIG. 25 shows an example of the photographing range of the imaging units 12101 to 12104.
  • the imaging range 12111 indicates the imaging range of the imaging unit 12101 provided on the front nose
  • the imaging ranges 12112 and 12113 indicate the imaging ranges of the imaging units 12102 and 12103 provided on the side mirrors, respectively
  • the imaging range 12114 indicates the imaging range of the imaging units 12102 and 12103.
  • the imaging range of the imaging unit 12104 provided on the rear bumper or the back door is shown. For example, by superimposing the image data captured by the imaging units 12101 to 12104, a bird's-eye view image of the vehicle 12100 as viewed from above can be obtained.
  • At least one of the imaging units 12101 to 12104 may have a function of acquiring distance information.
  • at least one of the image pickup units 12101 to 12104 may be a stereo camera composed of a plurality of image pickup elements, or may be an image pickup element having pixels for phase difference detection.
  • the microcomputer 12051 has a distance to each three-dimensional object within the imaging range 12111 to 12114 based on the distance information obtained from the imaging units 12101 to 12104, and a temporal change of this distance (relative velocity with respect to the vehicle 12100). By obtaining can. Further, the microcomputer 12051 can set an inter-vehicle distance to be secured in front of the preceding vehicle in advance, and can perform automatic brake control (including follow-up stop control), automatic acceleration control (including follow-up start control), and the like. In this way, it is possible to perform coordinated control for the purpose of automatic driving or the like in which the vehicle travels autonomously without depending on the operation of the driver.
  • automatic brake control including follow-up stop control
  • automatic acceleration control including follow-up start control
  • the microcomputer 12051 converts three-dimensional object data related to a three-dimensional object into two-wheeled vehicles, ordinary vehicles, large vehicles, pedestrians, utility poles, and other three-dimensional objects based on the distance information obtained from the imaging units 12101 to 12104. It can be classified and extracted and used for automatic avoidance of obstacles. For example, the microcomputer 12051 distinguishes obstacles around the vehicle 12100 into obstacles that can be seen by the driver of the vehicle 12100 and obstacles that are difficult to see. Then, the microcomputer 12051 determines the collision risk indicating the risk of collision with each obstacle, and when the collision risk is equal to or higher than the set value and there is a possibility of collision, the microcomputer 12051 is used via the audio speaker 12061 or the display unit 12062. By outputting an alarm to the driver and performing forced deceleration and avoidance steering via the drive system control unit 12010, driving support for collision avoidance can be provided.
  • At least one of the imaging units 12101 to 12104 may be an infrared camera that detects infrared rays.
  • the microcomputer 12051 can recognize a pedestrian by determining whether or not a pedestrian is present in the captured image of the imaging units 12101 to 12104.
  • pedestrian recognition includes, for example, a procedure for extracting feature points in an image captured by an imaging unit 12101 to 12104 as an infrared camera, and pattern matching processing for a series of feature points indicating the outline of an object to determine whether or not the pedestrian is a pedestrian. It is done by the procedure to determine.
  • the audio image output unit 12052 When the microcomputer 12051 determines that a pedestrian is present in the captured images of the imaging units 12101 to 12104 and recognizes the pedestrian, the audio image output unit 12052 outputs a square contour line for emphasizing the recognized pedestrian.
  • the display unit 12062 is controlled so as to superimpose and display. Further, the audio image output unit 12052 may control the display unit 12062 so as to display an icon or the like indicating a pedestrian at a desired position.
  • the above is an example of a vehicle control system to which the technology according to the present disclosure can be applied.
  • the technique according to the present disclosure can be applied to the imaging unit 12031 among the configurations described above.
  • the solid-state image pickup devices 101 and 1 in FIGS. 1 and 2 and the signal processing circuit 105 in FIG. 1 can be applied to the image pickup unit 12031.
  • the technique according to the present disclosure may be applied to, for example, an endoscopic surgery system.
  • FIG. 26 is a diagram showing an example of a schematic configuration of an endoscopic surgery system to which the technique according to the present disclosure (the present technique) can be applied.
  • FIG. 26 shows a surgeon (doctor) 11131 performing surgery on patient 11132 on patient bed 11133 using the endoscopic surgery system 11000.
  • the endoscopic surgery system 11000 includes an endoscope 11100, other surgical tools 11110 such as an abdominal tube 11111 and an energy treatment tool 11112, and a support arm device 11120 that supports the endoscope 11100.
  • a cart 11200 equipped with various devices for endoscopic surgery.
  • the endoscope 11100 is composed of a lens barrel 11101 in which a region having a predetermined length from the tip is inserted into the body cavity of the patient 11132, and a camera head 11102 connected to the base end of the lens barrel 11101.
  • the endoscope 11100 configured as a so-called rigid mirror having a rigid barrel 11101 is illustrated, but the endoscope 11100 may be configured as a so-called flexible mirror having a flexible barrel. good.
  • An opening in which an objective lens is fitted is provided at the tip of the lens barrel 11101.
  • a light source device 11203 is connected to the endoscope 11100, and the light generated by the light source device 11203 is guided to the tip of the lens barrel by a light guide extending inside the lens barrel 11101, and is an objective. It is irradiated toward the observation target in the body cavity of the patient 11132 through the lens.
  • the endoscope 11100 may be a direct endoscope, a perspective mirror, or a side endoscope.
  • An optical system and an image sensor are provided inside the camera head 11102, and the reflected light (observation light) from the observation target is focused on the image sensor by the optical system.
  • the observation light is photoelectrically converted by the image sensor, and an electric signal corresponding to the observation light, that is, an image signal corresponding to the observation image is generated.
  • the image signal is transmitted as RAW data to the camera control unit (CCU: Camera Control Unit) 11201.
  • CCU Camera Control Unit
  • the CCU11201 is composed of a CPU (Central Processing Unit), a GPU (Graphics Processing Unit), and the like, and comprehensively controls the operations of the endoscope 11100 and the display device 11202. Further, the CCU 11201 receives an image signal from the camera head 11102, and performs various image processing on the image signal for displaying an image based on the image signal, such as development processing (demosaic processing).
  • a CPU Central Processing Unit
  • GPU Graphics Processing Unit
  • the display device 11202 displays an image based on the image signal processed by the CCU 11201 under the control of the CCU 11201.
  • the light source device 11203 is composed of, for example, a light source such as an LED (Light Emitting Diode), and supplies irradiation light to the endoscope 11100 when photographing an operating part or the like.
  • a light source such as an LED (Light Emitting Diode)
  • LED Light Emitting Diode
  • the input device 11204 is an input interface for the endoscopic surgery system 11000.
  • the user can input various information and input instructions to the endoscopic surgery system 11000 via the input device 11204.
  • the user inputs an instruction to change the imaging conditions (type of irradiation light, magnification, focal length, etc.) by the endoscope 11100.
  • the treatment tool control device 11205 controls the drive of the energy treatment tool 11112 for cauterizing, incising, sealing a blood vessel, or the like of a tissue.
  • the pneumoperitoneum device 11206 uses a gas in the pneumoperitoneum tube 11111 to inflate the body cavity of the patient 11132 for the purpose of securing the field of view by the endoscope 11100 and securing the work space of the operator.
  • Recorder 11207 is a device capable of recording various information related to surgery.
  • the printer 11208 is a device capable of printing various information related to surgery in various formats such as texts, images, and graphs.
  • the light source device 11203 that supplies the irradiation light to the endoscope 11100 when photographing the surgical site can be composed of, for example, an LED, a laser light source, or a white light source composed of a combination thereof.
  • a white light source is configured by combining RGB laser light sources, the output intensity and output timing of each color (each wavelength) can be controlled with high accuracy. Therefore, the light source device 11203 adjusts the white balance of the captured image. It can be carried out.
  • the laser light from each of the RGB laser light sources is irradiated to the observation target in a time-division manner, and the drive of the image sensor of the camera head 11102 is controlled in synchronization with the irradiation timing to correspond to each of RGB. It is also possible to capture the image in a time-division manner. According to this method, a color image can be obtained without providing a color filter on the image sensor.
  • the drive of the light source device 11203 may be controlled so as to change the intensity of the output light at predetermined time intervals.
  • the drive of the image sensor of the camera head 11102 in synchronization with the timing of changing the light intensity to acquire an image in a time-divided manner and synthesizing the image, so-called high dynamic without blackout and overexposure. Range images can be generated.
  • the light source device 11203 may be configured to be able to supply light in a predetermined wavelength band corresponding to special light observation.
  • special light observation for example, by utilizing the wavelength dependence of light absorption in body tissue to irradiate light in a narrow band as compared with the irradiation light (that is, white light) in normal observation, the surface layer of the mucous membrane.
  • a so-called narrow band imaging is performed in which a predetermined tissue such as a blood vessel is photographed with high contrast.
  • fluorescence observation may be performed in which an image is obtained by fluorescence generated by irradiating with excitation light.
  • the body tissue is irradiated with excitation light to observe the fluorescence from the body tissue (autofluorescence observation), or a reagent such as indocyanine green (ICG) is locally injected into the body tissue and the body tissue is injected. It is possible to obtain a fluorescence image by irradiating excitation light corresponding to the fluorescence wavelength of the reagent.
  • the light source device 11203 may be configured to be capable of supplying narrow band light and / or excitation light corresponding to such special light observation.
  • FIG. 27 is a block diagram showing an example of the functional configuration of the camera head 11102 and CCU11201 shown in FIG. 26.
  • the camera head 11102 includes a lens unit 11401, an imaging unit 11402, a driving unit 11403, a communication unit 11404, and a camera head control unit 11405.
  • CCU11201 has a communication unit 11411, an image processing unit 11412, and a control unit 11413.
  • the camera head 11102 and CCU11201 are communicatively connected to each other by a transmission cable 11400.
  • the lens unit 11401 is an optical system provided at a connection portion with the lens barrel 11101.
  • the observation light taken in from the tip of the lens barrel 11101 is guided to the camera head 11102 and incident on the lens unit 11401.
  • the lens unit 11401 is configured by combining a plurality of lenses including a zoom lens and a focus lens.
  • the image pickup unit 11402 is composed of an image pickup element.
  • the image sensor constituting the image pickup unit 11402 may be one (so-called single plate type) or a plurality (so-called multi-plate type).
  • each image pickup element may generate an image signal corresponding to each of RGB, and a color image may be obtained by synthesizing them.
  • the image pickup unit 11402 may be configured to have a pair of image pickup elements for acquiring image signals for the right eye and the left eye corresponding to 3D (Dimensional) display, respectively.
  • the 3D display enables the operator 11131 to more accurately grasp the depth of the biological tissue in the surgical site.
  • a plurality of lens units 11401 may be provided corresponding to each image pickup element.
  • the imaging unit 11402 does not necessarily have to be provided on the camera head 11102.
  • the imaging unit 11402 may be provided inside the lens barrel 11101 immediately after the objective lens.
  • the drive unit 11403 is composed of an actuator, and the zoom lens and focus lens of the lens unit 11401 are moved by a predetermined distance along the optical axis under the control of the camera head control unit 11405. As a result, the magnification and focus of the image captured by the imaging unit 11402 can be adjusted as appropriate.
  • the communication unit 11404 is composed of a communication device for transmitting and receiving various information to and from the CCU11201.
  • the communication unit 11404 transmits the image signal obtained from the image pickup unit 11402 as RAW data to the CCU 11201 via the transmission cable 11400.
  • the communication unit 11404 receives a control signal for controlling the drive of the camera head 11102 from the CCU 11201 and supplies the control signal to the camera head control unit 11405.
  • the control signal includes, for example, information to specify the frame rate of the captured image, information to specify the exposure value at the time of imaging, and / or information to specify the magnification and focus of the captured image. Contains information about the condition.
  • the imaging conditions such as the frame rate, exposure value, magnification, and focus may be appropriately specified by the user, or may be automatically set by the control unit 11413 of CCU11201 based on the acquired image signal. good.
  • the so-called AE (Auto Exposure) function, AF (Auto Focus) function, and AWB (Auto White Balance) function are mounted on the endoscope 11100.
  • the camera head control unit 11405 controls the drive of the camera head 11102 based on the control signal from the CCU 11201 received via the communication unit 11404.
  • the communication unit 11411 is composed of a communication device for transmitting and receiving various information to and from the camera head 11102.
  • the communication unit 11411 receives an image signal transmitted from the camera head 11102 via the transmission cable 11400.
  • the communication unit 11411 transmits a control signal for controlling the drive of the camera head 11102 to the camera head 11102.
  • Image signals and control signals can be transmitted by telecommunications, optical communication, or the like.
  • the image processing unit 11412 performs various image processing on the image signal which is the RAW data transmitted from the camera head 11102.
  • the control unit 11413 performs various controls related to the imaging of the surgical site and the like by the endoscope 11100 and the display of the captured image obtained by the imaging of the surgical site and the like. For example, the control unit 11413 generates a control signal for controlling the drive of the camera head 11102.
  • control unit 11413 causes the display device 11202 to display an image captured by the surgical unit or the like based on the image signal processed by the image processing unit 11412.
  • the control unit 11413 may recognize various objects in the captured image by using various image recognition techniques. For example, the control unit 11413 detects the shape, color, and the like of the edge of an object included in the captured image to remove surgical tools such as forceps, a specific biological part, bleeding, and mist when using the energy treatment tool 11112. Can be recognized.
  • the control unit 11413 may superimpose and display various surgical support information on the image of the surgical unit by using the recognition result. By superimposing and displaying the surgical support information and presenting it to the surgeon 11131, it is possible to reduce the burden on the surgeon 11131 and to allow the surgeon 11131 to proceed with the surgery reliably.
  • the transmission cable 11400 that connects the camera head 11102 and CCU11201 is an electric signal cable that supports electrical signal communication, an optical fiber that supports optical communication, or a composite cable thereof.
  • the communication was performed by wire using the transmission cable 11400, but the communication between the camera head 11102 and the CCU11201 may be performed wirelessly.
  • the above is an example of an endoscopic surgery system to which the technology according to the present disclosure can be applied.
  • the technique according to the present disclosure can be applied to the image pickup unit 11402 of the camera head 11102, the image processing unit 11412 of the CCU 11201, and the like among the configurations described above.
  • the solid-state image pickup devices 101 and 1 of FIGS. 1 and 2 can be applied to the image pickup unit 10402, and the signal processing circuit 105 of FIG. 1 can be applied to the image processing unit 11412.
  • the technique according to the present disclosure to the imaging unit 10402 and the image processing unit 11412, a clearer surgical site image can be obtained, so that the operator can surely confirm the surgical site.
  • the technique according to the present disclosure may be applied to other, for example, a microscopic surgery system.
  • a pixel unit in which pixels having a photoelectric conversion unit and a color filter formed corresponding to the photoelectric conversion unit are arranged in a matrix of m ⁇ n (m and n are natural numbers of 2 or more) is 2 ⁇ . It is provided with a pixel array unit in which a plurality of pixel unit groups arranged in a matrix of 2 are arranged. Each of the pixel unit groups includes an R filter as the color filter in one of the four pixel units constituting the pixel unit group, and a G filter in the two pixel units in the color.
  • one pixel unit includes a B filter as the color filter
  • At least one of the pixel unit groups is a solid-state image sensor that includes a predetermined color filter having a peak wavelength of transmittance different from that of the R filter, the G filter, and the B filter as the color filter.
  • the peak wavelength of the transmittance of the predetermined color filter is in the first range larger than the peak wavelength of the transmittance of the B filter and less than the peak wavelength of the transmittance of the G filter, and the peak wavelength of the transmittance of the G filter.
  • the first range is greater than 465 nm and less than 525 nm.
  • m, n 2 The solid-state image sensor according to (1) or (2), wherein the type of the color filter included in one pixel unit is 2 or less.
  • a pixel unit in which pixels having a photoelectric conversion unit and a color filter formed corresponding to the photoelectric conversion unit are arranged in a matrix of m ⁇ n (m and n are natural numbers of 2 or more) is 2 ⁇ It includes a pixel array unit in which a plurality of pixel unit groups arranged in a matrix of two are arranged, and each of the pixel unit groups is one of the four pixel units constituting the pixel unit group.
  • One of the pixel units includes an R filter as the color filter, two of the pixel units include a G filter as the color filter, and one of the pixel units contains a B filter as the color filter, and the pixel units of the pixel unit group.
  • At least one is a solid-state imaging device that includes as the color filter a predetermined color filter having a peak wavelength having a transmittance different from that of the R filter, the G filter, and the B filter.
  • An optical lens that forms an image of image light from a subject on the imaging surface of the solid-state image sensor, and
  • An electronic device including a signal processing circuit that processes a signal output from the solid-state image sensor.

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Power Engineering (AREA)
  • Electromagnetism (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

色再現性の高い画像を得られる固体撮像装置を提供する。光電変換部と、光電変換部に対応して形成されたカラーフィルタとを有する画素が２×２の行列状に配置されてなる画素ユニットを、２×２の行列状に配置してなる複数の画素ユニット群が複数配列されている画素アレイ部を備える構成とした。そして、画素ユニット群のそれぞれが、画素ユニット群を構成する４つの画素ユニットのうちの、１つの画素ユニットにＲフィルタをカラーフィルタとして含み、２つの画素ユニットにＧフィルタをカラーフィルタとして含み、１つの画素ユニットにＢフィルタをカラーフィルタとして含む構成とした。また、画素ユニット群の少なくとも１つが、Ｒフィルタ、Ｇフィルタ及びＢフィルタの何れとも異なる透過率のピーク波長を有する所定色フィルタをカラーフィルタとして含む構成とした。

Description

固体撮像装置及び電子機器
　本技術は、固体撮像装置及び電子機器に関する。
　従来、ベイヤー配列の１画素を複数画素に分割した構成の固体撮像装置が提案されている（例えば、特許文献１参照。）。特許文献１に記載の固体撮像装置では、フル解像度デモザイク処理（リモザイク処理後に、デモザイク処理を行う一連の処理）を行うことで、高解像度の撮像画像を得ることができ、また、ビニング処理を行うことで、ＳＮ比に優れた撮像画像を得ることができ、さらには、複数画素のそれぞれで露光条件を変えることで、高ダイナミックレンジ(ＨＤＲ：High Dynamic Range)の撮像画像を得ることができる。
特開２０１９－１７５９１２号公報
　このような固体撮像装置では、撮像画像の色再現性のさらなる向上が求められている。
　本開示は、撮像画像の色再現性を向上可能な固体撮像装置及び電子機器を提供することを目的とする。
　本開示の固体撮像装置は、（ａ）光電変換部と、光電変換部に対応して形成されたカラーフィルタとを有する画素がｍ×ｎ（ｍ、ｎは２以上の自然数）の行列状に配置されてなる画素ユニットを、２×２の行列状に配置してなる複数の画素ユニット群が複数配列されている画素アレイ部を備え、（ｂ）画素ユニット群のそれぞれは、画素ユニット群を構成する４つの画素ユニットのうちの、１つの画素ユニットにＲフィルタをカラーフィルタとして含み、２つの画素ユニットにＧフィルタをカラーフィルタとして含み、１つの画素ユニットにＢフィルタをカラーフィルタとして含むとともに、（ｃ）画素ユニット群の少なくとも１つは、Ｒフィルタ、Ｇフィルタ及びＢフィルタの何れとも異なる透過率のピーク波長を有する所定色フィルタをカラーフィルタとして含む。
　本開示の電子機器は、（ａ）光電変換部と、光電変換部に対応して形成されたカラーフィルタとを有する画素がｍ×ｎ（ｍ、ｎは２以上の自然数）の行列状に配置されてなる画素ユニットを、２×２の行列状に配置してなる複数の画素ユニット群が複数配列されている画素アレイ部を備え、画素ユニット群のそれぞれは、画素ユニット群を構成する４つの画素ユニットのうちの、１つの画素ユニットにＲフィルタをカラーフィルタとして含み、２つの画素ユニットにＧフィルタをカラーフィルタとして含み、１つの画素ユニットにＢフィルタをカラーフィルタとして含むとともに、画素ユニット群の少なくとも１つは、Ｒフィルタ、Ｇフィルタ及びＢフィルタの何れとも異なる透過率のピーク波長を有する所定色フィルタをカラーフィルタとして含む固体撮像装置と、（ｂ）被写体からの像光を固体撮像装置の撮像面上に結像させる光学レンズと、（ｃ）固体撮像装置から出力される信号に信号処理を行う信号処理回路とを備える。
本開示の第１の実施形態に係る電子機器の全体構成を示す図である。 本開示の第１の実施形態に係る固体撮像装置の全体構成を示す図である。 図２のＡ－Ａ線で破断した場合の、画素アレイ部の断面構成を示す図である。 図３ＡのＢ－Ｂ線で破断した場合の、カラーフィルタの最小単位配列を示す図である。 変形例に係るカラーフィルタの最小単位配列を示す図である。 カラーフィルタアレイの構成を示す図である。 従来の固体撮像装置の各画素の透過率を示す図である。 第１の実施形態係る固体撮像装置の各画素の透過率を示す図である。 第１の実施形態係る固体撮像装置の各画素の透過率を示す図である。 第１の実施形態係る固体撮像装置の各画素の透過率を示す図である。 変形例に係るマイクロレンズの配置を示す図である。 変形例に係るマイクロレンズの配置を示す図である。 信号処理回路で生成される撮像画像を示す図である。 色温度が低い場合に色温度の推定に用いる画素を示す図である。 色温度がフラットである場合に色温度の推定に用いる画素を示す図である。 色温度が高い場合に色温度の推定に用いる画素を示す図である。 リモザイク処理の処理内容を示す図である。 ビニング処理の処理内容を示す図である。 本開示の第２の実施形態に係る固体撮像装置の、カラーフィルタアレイの構成を示す図である。 カラーフィルタの最小単位配列を示す図である。 ビニング処理の処理内容を示す図である。 ビニング処理の処理内容を示す図である。 変形例に係るカラーフィルタアレイの構成を示す図である。 変形例に係るカラーフィルタアレイの構成を示す図である。 車両制御システムの概略的な構成の一例を示すブロック図である。 車外情報検出部及び撮像部の設置位置の一例を示す説明図である。 内視鏡手術システムの概略的な構成の一例を示す図である。 カメラヘッド及びＣＣＵの機能構成の一例を示すブロック図である。
　以下に、本開示の実施形態に係る固体撮像装置１及び電子機器の一例を、図１～図２７を参照しながら説明する。本開示の実施形態は以下の順序で説明する。なお、本開示は以下の例に限定されるものではない。また、本明細書に記載された効果は例示であって限定されるものではなく、また他の効果があってもよい。
１．第１の実施形態：電子機器
　１－１　電子機器の全体の構成
　１－２　要部の構成
２．第２の実施形態：電子機器
　２－１　要部の構成
　２－２　変形例
３．移動体への応用例
４．内視鏡手術システムへの応用例
〈１．第１の実施形態：電子機器〉
［１－１　電子機器の全体の構成］
　本開示の第１の実施形態に係る電子機器１００について説明する。電子機器１００としては、例えば、デジタルスチルカメラ、デジタルビデオカメラ等の撮像装置、撮像機能を備えた携帯電話機、又は撮像機能を備えた他の機器といった各種の電子機器を採用できる。図１は、本開示の第１の実施形態に係る電子機器１００の全体を示す概略図である。
　図１に示すように、電子機器１００は、固体撮像装置１０１（以下、「固体撮像装置１」とも呼ぶ）と、光学レンズ１０２と、シャッタ装置１０３と、駆動回路１０４と、信号処理回路１０５とを備えている。電子機器１００では、光学レンズ１０２が、被写体からの像光（入射光１０６）を固体撮像装置１０１の撮像面上に結像させ、固体撮像装置１０１が、入射光１０６の光量を画素単位で電気信号に変換して画素信号を出力し、信号処理回路１０５が、固体撮像装置１０１から出力される画素信号に信号処理を行う。その際、シャッタ装置１０３は、固体撮像装置１０１への光照射期間及び遮光期間を制御する。また、駆動回路１０４は、画素信号の転送動作、及びシャッタ装置１０３のシャッタ動作を制御する駆動信号を供給する。
　図２は、固体撮像装置１を示す概略構成図である。図２の固体撮像装置１は、裏面照射型のＣＭＯＳ（Complementary Metal Oxide Semiconductor）イメージセンサである。
　図２に示すように、固体撮像装置１は、基板２と、画素アレイ部３と、垂直駆動回路４と、カラム信号処理回路５と、水平駆動回路６と、出力回路７と、制御回路８とを備えている。
　画素アレイ部３は、基板２上に、行列状に配列された複数の画素９を有している。画素９のそれぞれは、図３Ａ及び図３Ｂに示すように、光電変換部２４、光電変換部２４に対応して形成されたカラーフィルタ１９及びマイクロレンズ２０を有している。画素９は、２×２の行列状に配置された４つの画素９で１つの画素ユニット１０を構成している。また、画素ユニット１０は、２×２の行列状に配置された４つの画素ユニット１０で１つの画素ユニット群１１を構成している。即ち、画素アレイ部３は、画素ユニット群１１が行列状に複数配列されて構成されている。
　なお、第１の実施形態では、１つの画素ユニット１０を、２×２の行列状に配置された画素９で構成する例を示したが、他の構成を採用することもできる。例えば、図４に示すように、ｍ×ｎ（ｍ、ｎは２以上の自然数）の行列状に配置されてなる画素９で構成してもよい。図４では、ｍ、ｎが５以上である場合を例示している。
　垂直駆動回路４は、例えば、シフトレジスタによって構成され、所望の画素駆動配線１２を選択し、選択した画素駆動配線１２に画素９を駆動するためのパルスを供給し、各画素９を行単位で駆動する。即ち、垂直駆動回路４は、画素アレイ部３の各画素９を行単位で順次垂直方向に選択走査し、各画素９の光電変換部２４において受光量に応じて生成した信号電荷に基づく画素信号を垂直信号線１３経由でカラム信号処理回路５に供給する。
　カラム信号処理回路５は、例えば、画素９の列毎に配置されており、１行分の画素９から出力される信号に対して画素列毎にノイズ除去等の信号処理を行う。例えばカラム信号処理回路５は画素固有の固定パターンノイズを除去するためのＣＤＳ(Correlated Double Sampling：相関２重サンプリング)及びＡＤ(Analog Digital)変換等の信号処理を行う。
　水平駆動回路６は、例えば、シフトレジスタによって構成され、水平走査パルスをカラム信号処理回路５に順次出力して、カラム信号処理回路５の各々を順番に選択し、カラム信号処理回路５の各々から信号処理が行われた画素信号（以下、「画素値」とも呼ぶ）を水平信号線１４に出力させる。
　出力回路７は、カラム信号処理回路５の各々から水平信号線１４を通して、順次に供給される画素信号（画素値）に対し信号処理を行って出力する。信号処理としては、例えば、バファリング、黒レベル調整、列ばらつき補正、各種デジタル信号処理を採用できる。
　制御回路８は、垂直同期信号、水平同期信号、及びマスタクロック信号に基づいて、垂直駆動回路４、カラム信号処理回路５、及び水平駆動回路６等の動作の基準となるクロック信号や制御信号を生成する。そして、制御回路８は、生成したクロック信号や制御信号を、垂直駆動回路４、カラム信号処理回路５、及び水平駆動回路６等に出力する。
［１－２　要部の構成］
　次に、図１の固体撮像装置１の詳細構造について説明する。図３Ａは、固体撮像装置１の画素アレイ部３の断面構成を示す図である。図３Ｂは、図３ＡのＢ－Ｂ線で破断した場合の、カラーフィルタ１９の最小単位配列を示す図である。図３Ａ及び図３Ｂでは、固体撮像装置１として、裏面照射型のＣＭＯＳイメージセンサを用いている。
　図３Ａ及び図３Ｂに示すように、第１の実施形態の固体撮像装置１は、基板２、絶縁膜１５、遮光膜１６及び平坦化膜１７がこの順に積層されてなる受光層１８を備えている。また、受光層１８の絶縁膜１５側の面（以下、「裏面Ｓ１」とも呼ぶ）には、カラーフィルタ１９及びマイクロレンズ２０（オンチップレンズ）がこの順に積層されてなる集光層２１が形成されている。さらに、受光層１８の基板２側の面（以下、「表面Ｓ２」とも呼ぶ）には、配線層２２及び支持基板２３がこの順に積層されている。なお、受光層１８の裏面Ｓ１と平坦化膜１７の裏面とは同一の面であるため、以下の記載では、平坦化膜１７の裏面についても「裏面Ｓ１」と表す。また、受光層１８の表面Ｓ２と基板２の表面とは同一の面であるため、以下の記載では、基板２の表面についても「表面Ｓ２」と表す。
　基板２は、例えば、シリコン（Si）からなる半導体基板によって構成され、図１に示した画素アレイ部３を形成している。画素アレイ部３には、基板２に形成された複数の光電変換部２４が行列状に配置されている。光電変換部２４では、入射光１０６の光量に応じた信号電荷が生成されて蓄積される。また、互いに隣接する光電変換部２４間には、他の光電変換部２４を透過した光が侵入しないように、画素分離部２５が配置されている。
　絶縁膜１５は、基板２の裏面Ｓ１側の全体（受光面側の全体）を連続的に被覆している。また、遮光膜１６は、絶縁膜１５の裏面Ｓ３側の一部（受光面側の一部）に、複数の光電変換部２４のそれぞれの受光面が開口されるように、格子状に形成されている。
　カラーフィルタ１９は、絶縁膜１５の裏面Ｓ１側（受光面側）に、各光電変換部２４に対応して形成されている。即ち、１つの光電変換部２４（画素９）に対して１つのカラーフィルタ１９が形成されている。これにより、カラーフィルタ１９は、行列状に規則的に配列されてなるカラーフィルタアレイ２６を形成している。カラーフィルタ１９のそれぞれは、入射光１０６の特定の波長の光（赤色光、緑色光、青色光、オレンジ色光、エメラルドグリーン色光）を透過し、透過させた光を光電変換部２４に入射させる構成となっている。カラーフィルタ１９としては、赤色光を透過させるＲフィルタ１９R、緑色光を透過させるＧフィルタ１９G、青色光を透過させるＢフィルタ１９B、オレンジ色光を透過させる所定色フィルタ（以下、「Ｏフィルタ１９O」とも呼ぶ）、エメラルドグリーン色光を透過させる所定色フィルタ（以下、「ＥＧフィルタ１９EG」とも呼ぶ）が用いられる。
　図３Ａ及び図３Ｂ中、符号ＲはＲフィルタ１９Rを示し、符号ＧはＧフィルタ１９Gを示し、符号ＢはＢフィルタ１９Bを示し、符号ＯはＯフィルタ１９Oを示し、符号ＥＧはＥＧフィルタ１９EGを示す。また、以下の記載では、Ｒフィルタ１９Rを含む画素９を赤色画素９Rと表し、Ｇフィルタ１９Gを含む画素９を緑色画素９Gと表し、Ｂフィルタ１９Bを含む画素９を青色画素９Bと表し、Ｏフィルタ１９Oを含む画素９をオレンジ色画素９Oと表し、ＥＧフィルタ１９EGを含む画素９をエメラルドグリーン色画素９EGと表す。
　Ｏフィルタ１９Oの透過率のピーク波長としては、Ｂフィルタ１９Bの透過率のピーク波長より大きく、Ｇフィルタ１９Gの透過率のピーク波長未満の第１の範囲内の数値が用いられる。また、ＥＧフィルタ１９EGの透過率のピーク波長としては、Ｇフィルタ１９Gの透過率のピーク波長より大きく、Ｒフィルタ１９Rの透過率のピーク波長未満の第２の範囲内の数値が用いられる。例えば、Ｒフィルタ１９Rの透過率のピーク波長が６００ｎｍ、Ｇフィルタ１９Gの透過率のピーク波長が５３０ｎｍ、Ｂフィルタ１９Bの透過率のピーク波長が４６０ｎｍである場合には、第１の範囲は４６５ｎｍより大きく５２５ｎｍ未満の範囲とし、第２の範囲は５３５ｎｍより大きく５９５ｎｍ未満の範囲とすることが好ましい。これにより、Ｒフィルタ１９R、Ｇフィルタ１９G及びＢフィルタ１９Bの透過率のピーク波長から第１の範囲及び第２の範囲を５ｎｍ以上離すことができる。
　また、カラーフィルタ１９の配列パターン（Ｒフィルタ１９R、Ｇフィルタ１９G、Ｂフィルタ１９B、Ｏフィルタ１９O、ＥＧフィルタ１９EGの配列パターン）は、図３Ｂに示すような４×４の行列状に配置されたカラーフィルタ１９の配列を、カラーフィルタ１９の配列の最小単位（以下「最小単位配列」とも呼ぶ）とし、図５に示すように、その最小単位配列が画素アレイ部３のすべての画素ユニット群１１に配置された構成となっている。
　カラーフィルタ１９の最小単位配列は、図３Ｂに示すように、画素ユニット群１１を構成する４つの画素ユニット１０のうちの、右上側の画素ユニット１０にＲフィルタ１９Rが配置され、左上側及び右下側の画素ユニット１０にＧフィルタ１９Gが配置され、左下側の画素ユニット１０にＢフィルタ１９Bが配置されてなる４分割ベイヤー配列の一部が修正された配列となっている。具体的には、４分割ベイヤー配列の、右上側の画素ユニット１０を構成する２×２の画素９のうちの、左上側の画素９のＲフィルタ１９RがＯフィルタ１９Oに置き換えられ、左下側の画素ユニット１０を構成する２×２の画素９のうちの、左上側の画素９のＢフィルタ１９BがＥＧフィルタ１９EGに置き換えられている。
　ここで、例えば、カラーフィルタ１９として、Ｒフィルタ１９R、Ｇフィルタ１９G及びＢフィルタ１９Bのみを含む従来の固体撮像装置では、Ｒフィルタ１９R、Ｇフィルタ１９G及びＢフィルタ１９Bの透過率のピーク波長から外れた波長（以下、「ピーク外波長」とも呼ぶ）の光は、光電変換部２４に殆ど到達せず、赤色画素９R、緑色画素９G及び青色画素９Bで検出されない。それゆえ、図６に示すように、ピーク外波長の反射率が異なる２つの被写体Ａ、Ｂがあった場合、被写体Ａ、Ｂの色の差異を定量化することができない。そのため、従来の固体撮像装置では、被写体Ａ、Ｂが同じ色として判断されてしまう。
　これに対し、第１の実施形態に係る固体撮像装置１のように、カラーフィルタ１９として、Ｒフィルタ１９R、Ｇフィルタ１９G及びＢフィルタ１９Bに加え、Ｏフィルタ１９O及びＥＧフィルタ１９EGも含む構成とした場合、Ｒフィルタ１９Rの透過率のピーク波長とＧフィルタ１９Gの透過率のピーク波長との間の波長の光は、ＥＧフィルタ１９EGを透過し、エメラルドグリーン色画素９EGで検出される。また、Ｇフィルタ１９Gの透過率のピーク波長とＢフィルタ１９Bの透過率のピーク波長との間の波長の光は、Ｏフィルタ１９Oを透過し、オレンジ色画素９Oで検出される。即ち、Ｏフィルタ１９O及びＥＧフィルタ１９EGも含む構成とすることで、入射光１０６のサンプリングポイントを増やすことができる。それゆえ、図７に示すように、ピーク外波長の反射率が異なる２つの被写体Ａ、Ｂがあった場合、被写体Ａ、Ｂの色の差異Δを定量化することができる。そのため、第1の実施形態に係る固体撮像装置１では被写体Ａ、Ｂを別の色として判断することができる。
　それゆえ、赤色画素９R、緑色画素９G及び青色画素９Bの画素信号に加え、オレンジ色画素９Oやエメラルドグリーン色画素９EGの画素信号を色温度の推定に用いることで、光源の色温度をより高精度に推定できる。そのため、色温度に基づき撮像画像のホワイトバランスを調整することで、撮像画像の色再現性を向上できる。例えば、光源の色温度が低い場合には、被写体からの像光（入射光１０６）に波長の長い光の量が多く含まれるが、図８に示すように、オレンジ色画素９Oで長波長側のサンプリングポイント（図８中、点線の丸で囲んだ箇所）が増えるため、撮像画像の色再現性を向上できる。また、例えば、色温度が高い場合には、図９に示すように、被写体からの入射光１０６に波長の短い光の量が多く含まれるが、エメラルドグリーン色画素９EGで短波長側のサンプリングポイントが増えるため（図９中、点線の丸で囲んだ箇所）、撮像画像の色再現性を向上できる。
　なお、第１の実施形態では、Ｇフィルタ１９Gを左上側及び右下側の画素ユニット１０に配置する例を示したが、他の構成を採用することもできる。例えば、Ｇフィルタ１９Gを右上側及び左下側の画素ユニット１０に配置する構成や、左上側及び左下側の画素ユニット１０に配置する構成、右上側及び右下側の画素ユニット１０に配置する構成を採用することもできる。また例えば、Ｒフィルタ１９Rを下側の画素ユニット１０に配置し、Ｂフィルタ１９Bを上側の画素ユニット１０に配置する構成を採用することもできる。即ち、画素ユニット群１１のそれぞれが、画素ユニット群１１を構成する４つの画素ユニット１０のうちの、１つの画素ユニット１０にＲフィルタ１９Rをカラーフィルタ１９として含み、２つの画素ユニット１０にＧフィルタ１９Gをカラーフィルタ１９として含み、１つの画素ユニット１０にＢフィルタ１９Bをカラーフィルタ１９として含む構成であればよい。
　また、第１の実施形態では、画素アレイ部３のすべての画素ユニット群１１がＯフィルタ１９O及びＥＧフィルタ１９EGを含む構成とする例を示したが、他の構成を採用することもできる。例えば、画素アレイ部３を構成する画素ユニット群１１の少なくとも１つがＯフィルタ１９O及びＥＧフィルタ１９EG（所定色フィルタ）を含む構成であればよい。
　また、第１の実施形態では、Ｒフィルタ１９R、Ｇフィルタ１９G及びＢフィルタ１９Bとともに配置されるカラーフィルタ１９（所定色フィルタ）として、Ｏフィルタ１９O及びＥＧフィルタ１９EGを用いる例を示したが、他の構成を採用することもできる。例えば、所定色フィルタとしては、Ｒフィルタ１９R、Ｇフィルタ１９G及びＢフィルタ１９Bの何れとも異なる透過率のピーク波長を有するカラーフィルタ１９を用いる構成であればよい。
　また、第１の実施形態では、Ｒフィルタ１９Rを含む画素ユニット１０を構成する２×２の画素９のうちの、左上側の画素９のＲフィルタ１９RをＯフィルタ１９Oに置換した例を示したが、他の構成を採用することもできる。例えば、この２×２の画素９のうちの、左下側の画素９、右上側の画素９及び右下側の画素９のＲフィルタ１９Rの何れかをＯフィルタ１９Oに置換する構成としてもよい。また、例えば、Ｇフィルタ１９Gを含む画素ユニット１０を構成する２×２の画素９のうちの、何れかの画素９のＧフィルタ１９GをＯフィルタ１９Oに置換した構成としてもよい。また、例えば、Ｂフィルタ１９Bを含む画素ユニット１０を構成する２×２の画素９のうちの、何れかの画素９のＢフィルタ１９BをＯフィルタ１９Oに置換した構成としてもよい。特に、Ｏフィルタ１９O（所定色フィルタ）がＲフィルタ１９R又はＢフィルタ１９Bを含む画素ユニット１０に含まれる構成がより好ましい。また、ＥＧフィルタ１９EG（所定色フィルタ）についても、Ｏフィルタ１９Oと同様に、Ｒフィルタ１９R又はＢフィルタ１９Bを含む画素ユニット１０に含まれる構成がより好ましい。このような構成とすることにより、緑色画素９Gを輝度情報や解像度情報を取得するための画素、さらには位相差画素として使用することができる。
　また、第１の実施形態では、１つの画素ユニット１０に含まれるカラーフィルタ１９の種類を、Ｒフィルタ１９RとＯフィルタ１９Oとの２種類、Ｂフィルタ１９BとＥＧフィルタ１９EGとの２種類の何れかとする例を示したが、他の構成を採用することもできる。例えば、Ｒフィルタ１９R、Ｇフィルタ１９G及びＢフィルタ１９Bのうちの１種類のみとする構成としてもよく、３種類とする構成としてもよい。特に、１つの画素ユニット１０に含まれるカラーフィルタ１９の種類が２以下である構成がより好ましい。このような構成により、赤色画素９R、緑色画素９G及び青色画素９Bが占める面積の減少を抑制できる。
　マイクロレンズ２０は、カラーフィルタ１９の裏面Ｓ４側（受光面側）に、各光電変換部２４に対応して形成されている。即ち、１つの光電変換部２４（画素９）に対して１つのマイクロレンズ２０が形成されている。これにより、マイクロレンズ２０は、行列状に規則的に配列されてなるマイクロレンズアレイ２７を形成している。マイクロレンズ２０のそれぞれは、被写体からの像光（入射光１０６）を集光し、集光した入射光１０６をカラーフィルタ１９を介して光電変換部２４裏面（受光面）付近に導く構成となっている。
　なお、第１の実施形態では、１つの光電変換部２４に対して１つのマイクロレンズ２０を形成する例を示したが、他の構成を採用することもできる。例えば、緑色画素９Gを位相差画素として使用する場合、図１０に示すように、１×２の行列状に配置された２つの緑色画素９Gを位相差画素とし、その２つの緑色画素９G（位相差画素）に対して１つのマイクロレンズ２０を形成する構成としてもよい。このような構成によれば１つのマイクロレンズ２０を共有する２つの緑色画素９G（位相差画素）間で撮像画像の位相差を検出できる。
　また例えば、１つの画素ユニット１０（２×２の行列状に配置された画素９）に対して１つのマイクロレンズ２０を形成する構成としてもよい。この場合、図１１に示すように、例えば、緑色画素９Gを位相差画素として使用する場合、２×２の行列状に配置された４つの緑色画素９Gを位相差画素とし、その４つの緑色画素９G（位相差画素）に対して１つのマイクロレンズ２０を形成する構成となる。このような構成によれば１つのマイクロレンズ２０を共有する４つの緑色画素９G（位相差画素）間で撮像画像の位相差を検出できる。
　配線層２２は、基板２の表面Ｓ２側に形成されており、層間絶縁膜２８と、層間絶縁膜２８を介して複数層に積層された配線２９とを含んで構成されている。そして、配線層２２は、複数層の配線２９を介して、各画素９を構成する画素トランジスタを駆動する。
　支持基板２３は、配線層２２の基板２に面する側とは反対側の面に形成されている。支持基板２３は、固体撮像装置１の製造段階において、基板２の強度を確保するための基板である。支持基板２３の材料としては、例えば、シリコン(Si)を用いることができる。
　次に、図１の信号処理回路１０５で実行される信号処理について説明する。
　信号処理回路１０５は、例えば、まず赤色画素９R、緑色画素９G、青色画素９B、オレンジ色画素９O及びエメラルドグリーン色画素９EGから出力される画素信号（画素値）に基づき、図１２に示すように、カラーフィルタ１９の配列に対応するモザイク画像３０を生成する処理を行う。図１２中、符号Ｒは赤色の色情報のみを有する画像画素（以下、「赤色の画像画素」とも呼ぶ）３１Rを示し、以下同様に、符号Ｇは緑色の色情報のみを有する画像画素（以下、「緑色の画像画素」とも呼ぶ）３１Gを示し、符号Ｂは青色の色情報のみを有する画像画素（以下、「青色の画像画素」とも呼ぶ）３１Bを示し、符号Ｏはオレンジ色の色情報のみを有する画像画素（以下、「オレンジ色の画像画素」とも呼ぶ）３１Oを示し、符号ＥＧはエメラルドグリーン色の色情報のみを有する画像画素（以下、「エメラルドグリーン色の画像画素」とも呼ぶ）３１EGを示す。
　続いて、生成したモザイク画像３０の各画像画素３１の画素値（赤色、緑色、青色、オレンジ色及びエメラルドグリーン色の画像画素３１R、３１G、３１B、３１O、３１EGの画素値）に基づき光源の色温度を推定し、推定した色温度に基づきホワイトバランスを調整する処理を行う。色温度の推定では、光源の色温度が低い場合には、図１３に示すように、被写体の反射率の長波長側の成分が多くなり、入射光１０６に含まれる長波長側の光の量が多くなるため、モザイク画像３０の赤色、緑色及び青色の画像画素３１R、３１G、３１Bの画素値に加え、オレンジ色の画像画素３１Oの画素値を用いて色温度を推定する。
　一方、光源の色温度がフラットである場合、つまり、図１４に示すように、被写体の反射率が短波長側～長波長側のすべての波長で同程度である場合には、入射光１０６に含まれる各波長の光の量が同程度となるため、モザイク画像３０の赤色、緑色及び青色の画像画素３１R、３１G、３１Bの画素値のみを用いて色温度を推定する。なお、必要に応じて、色温度の推定に、オレンジ色やエメラルドグリーン色の画像画素３１O、３１EGの画素値も用いる構成としてもよい。また一方、光源の色温度が高い場合には、被写体の反射率の短波長側の成分が多くなり、入射光１０６に含まれる短波長側の光の量が多くなるため、図１５に示すように、赤色、緑色及び青色の画像画素３１R、３１G、３１Bの画素値に加え、エメラルドグリーン色の画像画素３１EGの画素値を用いて色温度を推定する。
　なお、第１の実施形態では、画素値から色温度を推定し、推定結果を基にホワイトバランスの調整を行う例を示したが、他の構成を採用することもできる。例えば、画素値から直接にホワイトバランスの調整を行う構成としてもよい。具体的には、赤色画素９R、緑色画素９G、青色画素９B、オレンジ色画素９O、エメラルドグリーン色画素９EGの画素値ＳＲ(A)、ＳＧ(A)、ＳＢ(A)、ＳＯ(A)、ＳEG(A)に基づき、下記（１）式に従ってホワイトバランス調整後の画素値ＳＲ’(A)、ＳＧ’(A)、ＳＢ’(A)、ＳＯ’(A)、ＳEG’(A)を算出する。
　ＳＲ’(A)＝Ｓmax×ＳＲ(A)/ＳＲ(W)
　ＳＧ’(A)＝Ｓmax×ＳＧ(A)/ ＳＧ(W)
　ＳＢ’(A)＝Ｓmax×ＳＢ(A)/ ＳＢ(W)
　ＳＯ’(A)＝Ｓmax×ＳＯ(A)/ ＳＯ(W)
　ＳEG’(A)＝Ｓmax×ＳＢ(A)/ ＳEG(W)
　上記（１）式において、Ｓmaxは画素値の最大値（例えば、８bitの場合は２５５、１０bitの場合は１０２３）であり、ＳＲ(W)、ＳＧ(W)、ＳＢ(W)、ＳＯ(W)、ＳEG(W)は白板（反射率１００％の基準白板）撮影時の赤色画素９R、緑色画素９G、青色画素９B、オレンジ色画素９O及びエメラルドグリーン色画素９EGからの画素信号（画素値）である。
　続いて、モザイク画像３０の各画像画素３１の画素値に基づき被写体が明るいかを判定する処理を行う。そして、明るいと判定した場合には、ホワイトバランスを修正したモザイク画像３０に対してリモザイク処理を行う。リモザイク処理では、図１６に示すようにベイヤー配列のＲＧＢモザイク画像３２を生成する。リモザイク処理の実行時には、オレンジ色及びエメラルドグリーン色の画像画素３１O、３１EGを無色の画像画素３１lessとみなし、無色の画像画素３１lessの画素値を周辺の画像画素３１の画素値を用いて補完する。図１６はモザイク画像３０及びＲＧＢモザイク画像３２の一部を拡大して示している。
　一方、被写体が暗いと判定した場合には、ホワイトバランスを修正したモザイク画像３０に対してビニング処理を行う。ビニング処理では、図１７に示すように、隣接する同色の複数の画像画素３１の画素値を加算して１つの画像画素３１の画素値とする。ビニング処理の実行時には、図１７に示すように、オレンジ色の画像画素３１Oを無色の画像画素３１lessとみなし、無色の画像画素３１lessを除いた３つの赤色の画像画素３１Rの画素値を加算する。また、ビニング処理では、エメラルドグリーン色の画像画素３１EGを無色の画像画素３１lessとみなし、無色の画像画素３１lessを除いた３つの青色の画像画素３１Bの画素値を加算する。これにより、赤色、緑色及び青色の画像画素３３R、３３G、３３BからなるＲＧＢモザイク画像３４を生成する。ビニング処理を行うことにより、ＲＧＢモザイク画像３４の画素数が減少するが、暗所での撮影時のノイズ等を低減できる。
　続いて、リモザイク処理で得られたＲＧＢモザイク画像３２（図１６参照）、又はビニング処理で得られたＲＧＢモザイク画像３４に対してデモザイク処理を行う。図１７は、モザイク画像３０及びＲＧＢモザイク画像３４の一部を拡大して示している。
　以上説明したように、本開示の第１の実施形態に係る固体撮像装置１は、画素ユニット群１１の少なくとも１つに、Ｒフィルタ１９R、Ｇフィルタ１９G及びＢフィルタ１９Bの何れとも異なる透過率のピーク波長を有するＯフィルタ１９OやＥＧフィルタ１９EG（所定色フィルタ）をカラーフィルタ１９として含むようにした。それゆえ、光源の色温度をより高精度に推定することができる。そのため、色温度に基づきモザイク画像３０のホワイトバランスを調整することで、撮像画像の色再現性を向上可能な固体撮像装置１を提供できる。
　また、本開示の第１の実施形態に係る固体撮像装置１は、画素ユニット群１１のそれぞれに、Ｏフィルタ１９O及びＥＧフィルタ１９EGをカラーフィルタ１９として含むようにした。それゆえ、すべての画素ユニット群１１、つまり、画素アレイ部３の各部の画素ユニット群１１をホワイトバランスの調整に用いることができ、色再現性をより適切に向上できる。
〈２．第２の実施形態：電子機器〉
［２－１　要部の構成］
　次に、本開示の第２の実施形態に係る電子機器１００について説明する。第２の実施形態に係る電子機器１００の全体構成は、図１と同様であるから図示を省略する。図１８は、第２の実施形態に係る固体撮像装置１のカラーフィルタアレイ２６の構成を示す図である。また、図１９は、カラーフィルタ１９の最小単位配列を示す図である。図１８及び図１９において、図３Ｂに対応する部分には同一符号を付し重複説明を省略する。
　第２の実施形態に係る固体撮像装置１は、Ｏフィルタ１９O及びＥＧフィルタ１９EGの配置が第１の実施形態に係る固体撮像装置１と異なっている。第２の実施形態に係る固体撮像装置１では、図１８及び図１９に示すように、カラーフィルタ１９の最小単位配列において、右上側の画素ユニット１０を構成する２×２の画素９のうちの、左上側及び右下側の画素９にＯフィルタ１９Oが配置されている。また左下側の画素ユニット１０を構成する２×２の画素９のうちの左上側及び右下側の画素９にＥＧフィルタ１９EGが配置されている。即ち、右上側の画素ユニット１０及び左下側の画素ユニット１０のそれぞれが、１つの画素ユニット１０の２つの画素９に同じ種類の所定色フィルタを含むようにした。
　以上説明したように、本開示の第２の実施形態に係る固体撮像装置１では、Ｏフィルタ１９O及びＥＧフィルタ１９EGを含む画素ユニット１０のそれぞれが、１つの画素ユニット１０の２つの画素９に同じ種類の所定色フィルタを含むようにした。それゆえ、図２０及び図２１に示すように、カラーフィルタ１９の配列に対応するモザイク画像３０にビニング処理を行うことで、赤色、緑色及び青色の色情報のみを有する画像画素３５R、３５G、３５BからなるＲＧＢモザイク画像３６に加え、オレンジ色及びエメラルドグリーン色の色情報のみを有する画像画素３７O、３７EGからなるＣＭＹモザイク画像３８を生成することができる。また、ＲＧＢモザイク画像３６及びＣＭＹモザイク画像３８を組み合わせることで、色再現性がより高い撮像画像を生成することができる。図２０は、モザイク画像３０及びＲＧＢモザイク画像３６の一部を拡大して示している。また、図２１は、モザイク画像３０及びＣＭＹモザイク画像３８の一部を拡大して示している。
［２－２　変形例］
　なお、第１の実施形態及び第２の実施形態では、Ｏフィルタ１９OやＥＧフィルタ１９EG（所定色フィルタ）が、画素アレイ部３のすべての画素ユニット群１１それぞれに含まれる例を示したが、他の構成を採用することもできる。例えば、図２２及び図２３に示すように、画素アレイ部３のすべての画素ユニット群１１のうちの、一部の画素ユニット群１１にのみ含まれる構成としてもよい。「一部の画素ユニット群１１」としては、例えば、光源の色温度の推定に必要なＳＮ(signal noise)比を確保できる数であればよい。
　図２２及び図２３では、４つの画素ユニット群１１にのみＯフィルタ１９OやＥＧフィルタ１９EGを配置した場合を例示している。この例示では、１つの画素ユニット群１１にＯフィルタ１９O及びＥＧフィルタ１９EGの一方のみが配置された構成となっている。図２２は、第１の実施形態に係る固体撮像装置１に適用した場合を示している。また、図２３は、第２の実施形態に係る固体撮像装置１に適用した場合を示している。Ｏフィルタ１９OやＥＧフィルタ１９EGを一部の画素ユニット群１１にのみ配置させる構成とすることで、色再現性を向上しつつ、解像度やＨＤＲ等の他の特性の劣化を抑制できる。
〈３．移動体への応用例〉
　本開示に係る技術（本技術）は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
　図２４は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
　車両制御システム１２０００は、通信ネットワーク１２００１を介して接続された複数の電子制御ユニットを備える。図２４に示した例では、車両制御システム１２０００は、駆動系制御ユニット１２０１０、ボディ系制御ユニット１２０２０、車外情報検出ユニット１２０３０、車内情報検出ユニット１２０４０、及び統合制御ユニット１２０５０を備える。また、統合制御ユニット１２０５０の機能構成として、マイクロコンピュータ１２０５１、音声画像出力部１２０５２、及び車載ネットワークＩ／Ｆ（ｉｎｔｅｒｆａｃｅ）１２０５３が図示されている。
　駆動系制御ユニット１２０１０は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット１２０１０は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
　ボディ系制御ユニット１２０２０は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット１２０２０は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット１２０２０には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット１２０２０は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
　車外情報検出ユニット１２０３０は、車両制御システム１２０００を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット１２０３０には、撮像部１２０３１が接続される。車外情報検出ユニット１２０３０は、撮像部１２０３１に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット１２０３０は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
　撮像部１２０３１は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部１２０３１は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部１２０３１が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
　車内情報検出ユニット１２０４０は、車内の情報を検出する。車内情報検出ユニット１２０４０には、例えば、運転者の状態を検出する運転者状態検出部１２０４１が接続される。運転者状態検出部１２０４１は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット１２０４０は、運転者状態検出部１２０４１から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
　マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０又は車内情報検出ユニット１２０４０で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット１２０１０に対して制御指令を出力することができる。例えば、マイクロコンピュータ１２０５１は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むＡＤＡＳ（Ａｄｖａｎｃｅｄ　Ｄｒｉｖｅｒ　Ａｓｓｉｓｔａｎｃｅ　Ｓｙｓｔｅｍ）の機能実現を目的とした協調制御を行うことができる。
　また、マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０又は車内情報検出ユニット１２０４０で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
　また、マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０で取得される車外の情報に基づいて、ボディ系制御ユニット１２０２０に対して制御指令を出力することができる。例えば、マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
　音声画像出力部１２０５２は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図２４の例では、出力装置として、オーディオスピーカ１２０６１、表示部１２０６２及びインストルメントパネル１２０６３が例示されている。表示部１２０６２は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
　図２５は、撮像部１２０３１の設置位置の例を示す図である。
　図２５では、車両１２１００は、撮像部１２０３１として、撮像部１２１０１，１２１０２，１２１０３，１２１０４，１２１０５を有する。
　撮像部１２１０１，１２１０２，１２１０３，１２１０４，１２１０５は、例えば、車両１２１００のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部１２１０１及び車室内のフロントガラスの上部に備えられる撮像部１２１０５は、主として車両１２１００の前方の画像を取得する。サイドミラーに備えられる撮像部１２１０２，１２１０３は、主として車両１２１００の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部１２１０４は、主として車両１２１００の後方の画像を取得する。撮像部１２１０１及び１２１０５で取得される前方の画像は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
　なお、図２５には、撮像部１２１０１ないし１２１０４の撮影範囲の一例が示されている。撮像範囲１２１１１は、フロントノーズに設けられた撮像部１２１０１の撮像範囲を示し、撮像範囲１２１１２，１２１１３は、それぞれサイドミラーに設けられた撮像部１２１０２，１２１０３の撮像範囲を示し、撮像範囲１２１１４は、リアバンパ又はバックドアに設けられた撮像部１２１０４の撮像範囲を示す。例えば、撮像部１２１０１ないし１２１０４で撮像された画像データが重ね合わせられることにより、車両１２１００を上方から見た俯瞰画像が得られる。
　撮像部１２１０１ないし１２１０４の少なくとも１つは、距離情報を取得する機能を有していてもよい。例えば、撮像部１２１０１ないし１２１０４の少なくとも１つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
　例えば、マイクロコンピュータ１２０５１は、撮像部１２１０１ないし１２１０４から得られた距離情報を基に、撮像範囲１２１１１ないし１２１１４内における各立体物までの距離と、この距離の時間的変化（車両１２１００に対する相対速度）を求めることにより、特に車両１２１００の進行路上にある最も近い立体物で、車両１２１００と略同じ方向に所定の速度（例えば、０ｋｍ／ｈ以上）で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ１２０５１は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御（追従停止制御も含む）や自動加速制御（追従発進制御も含む）等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
　例えば、マイクロコンピュータ１２０５１は、撮像部１２１０１ないし１２１０４から得られた距離情報を元に、立体物に関する立体物データを、２輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ１２０５１は、車両１２１００の周辺の障害物を、車両１２１００のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ１２０５１は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ１２０６１や表示部１２０６２を介してドライバに警報を出力することや、駆動系制御ユニット１２０１０を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
　撮像部１２１０１ないし１２１０４の少なくとも１つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ１２０５１は、撮像部１２１０１ないし１２１０４の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部１２１０１ないし１２１０４の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ１２０５１が、撮像部１２１０１ないし１２１０４の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部１２０５２は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部１２０６２を制御する。また、音声画像出力部１２０５２は、歩行者を示すアイコン等を所望の位置に表示するように表示部１２０６２を制御してもよい。
　以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、撮像部１２０３１に適用され得る。具体的には、図１及び図２の固体撮像装置１０１、１、図１の信号処理回路１０５は、撮像部１２０３１に適用することができる。撮像部１２０３１に本開示に係る技術を適用することにより、より見やすい撮影画像を得ることができるため、ドライバの疲労を軽減することが可能になる。
〈４．内視鏡手術システムへの応用例〉
　本開示に係る技術（本技術）は、例えば、内視鏡手術システムに適用されてもよい。
　図２６は、本開示に係る技術（本技術）が適用され得る内視鏡手術システムの概略的な構成の一例を示す図である。
　図２６では、術者（医師）１１１３１が、内視鏡手術システム１１０００を用いて、患者ベッド１１１３３上の患者１１１３２に手術を行っている様子が図示されている。図示するように、内視鏡手術システム１１０００は、内視鏡１１１００と、気腹チューブ１１１１１やエネルギー処置具１１１１２等の、その他の術具１１１１０と、内視鏡１１１００を支持する支持アーム装置１１１２０と、内視鏡下手術のための各種の装置が搭載されたカート１１２００と、から構成される。
　内視鏡１１１００は、先端から所定の長さの領域が患者１１１３２の体腔内に挿入される鏡筒１１１０１と、鏡筒１１１０１の基端に接続されるカメラヘッド１１１０２と、から構成される。図示する例では、硬性の鏡筒１１１０１を有するいわゆる硬性鏡として構成される内視鏡１１１００を図示しているが、内視鏡１１１００は、軟性の鏡筒を有するいわゆる軟性鏡として構成されてもよい。
　鏡筒１１１０１の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡１１１００には光源装置１１２０３が接続されており、当該光源装置１１２０３によって生成された光が、鏡筒１１１０１の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者１１１３２の体腔内の観察対象に向かって照射される。なお、内視鏡１１１００は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
　カメラヘッド１１１０２の内部には光学系及び撮像素子が設けられており、観察対象からの反射光（観察光）は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、ＲＡＷデータとしてカメラコントロールユニット（ＣＣＵ：　Ｃａｍｅｒａ　Ｃｏｎｔｒｏｌ　Ｕｎｉｔ）１１２０１に送信される。
　ＣＣＵ１１２０１は、ＣＰＵ（Ｃｅｎｔｒａｌ　Ｐｒｏｃｅｓｓｉｎｇ　Ｕｎｉｔ）やＧＰＵ（Ｇｒａｐｈｉｃｓ　Ｐｒｏｃｅｓｓｉｎｇ　Ｕｎｉｔ）等によって構成され、内視鏡１１１００及び表示装置１１２０２の動作を統括的に制御する。さらに、ＣＣＵ１１２０１は、カメラヘッド１１１０２から画像信号を受け取り、その画像信号に対して、例えば現像処理（デモザイク処理）等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。
　表示装置１１２０２は、ＣＣＵ１１２０１からの制御により、当該ＣＣＵ１１２０１によって画像処理が施された画像信号に基づく画像を表示する。
　光源装置１１２０３は、例えばＬＥＤ（Ｌｉｇｈｔ　Ｅｍｉｔｔｉｎｇ　Ｄｉｏｄｅ）等の光源から構成され、術部等を撮影する際の照射光を内視鏡１１１００に供給する。
　入力装置１１２０４は、内視鏡手術システム１１０００に対する入力インタフェースである。ユーザは、入力装置１１２０４を介して、内視鏡手術システム１１０００に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、内視鏡１１１００による撮像条件（照射光の種類、倍率及び焦点距離等）を変更する旨の指示等を入力する。
　処置具制御装置１１２０５は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具１１１１２の駆動を制御する。気腹装置１１２０６は、内視鏡１１１００による視野の確保及び術者の作業空間の確保の目的で、患者１１１３２の体腔を膨らめるために、気腹チューブ１１１１１を介して当該体腔内にガスを送り込む。レコーダ１１２０７は、手術に関する各種の情報を記録可能な装置である。プリンタ１１２０８は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
　なお、内視鏡１１１００に術部を撮影する際の照射光を供給する光源装置１１２０３は、例えばＬＥＤ、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成することができる。ＲＧＢレーザ光源の組み合わせにより白色光源が構成される場合には、各色（各波長）の出力強度及び出力タイミングを高精度に制御することができるため、光源装置１１２０３において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、ＲＧＢレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド１１１０２の撮像素子の駆動を制御することにより、ＲＧＢそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
　また、光源装置１１２０３は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド１１１０２の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
　また、光源装置１１２０３は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光（すなわち、白色光）に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察（Ｎａｒｒｏｗ　Ｂａｎｄ　Ｉｍａｇｉｎｇ）が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察すること（自家蛍光観察）、又はインドシアニングリーン（ＩＣＧ）等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得ること等を行うことができる。光源装置１１２０３は、このような特殊光観察に対応した狭帯域光及び／又は励起光を供給可能に構成され得る。
　図２７は、図２６に示すカメラヘッド１１１０２及びＣＣＵ１１２０１の機能構成の一例を示すブロック図である。
　カメラヘッド１１１０２は、レンズユニット１１４０１と、撮像部１１４０２と、駆動部１１４０３と、通信部１１４０４と、カメラヘッド制御部１１４０５と、を有する。ＣＣＵ１１２０１は、通信部１１４１１と、画像処理部１１４１２と、制御部１１４１３と、を有する。カメラヘッド１１１０２とＣＣＵ１１２０１とは、伝送ケーブル１１４００によって互いに通信可能に接続されている。
　レンズユニット１１４０１は、鏡筒１１１０１との接続部に設けられる光学系である。鏡筒１１１０１の先端から取り込まれた観察光は、カメラヘッド１１１０２まで導光され、当該レンズユニット１１４０１に入射する。レンズユニット１１４０１は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。
　撮像部１１４０２は、撮像素子で構成される。撮像部１１４０２を構成する撮像素子は、１つ（いわゆる単板式）であってもよいし、複数（いわゆる多板式）であってもよい。撮像部１１４０２が多板式で構成される場合には、例えば各撮像素子によってＲＧＢそれぞれに対応する画像信号が生成され、それらが合成されることによりカラー画像が得られてもよい。あるいは、撮像部１１４０２は、３Ｄ（Ｄｉｍｅｎｓｉｏｎａｌ）表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための１対の撮像素子を有するように構成されてもよい。３Ｄ表示が行われることにより、術者１１１３１は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部１１４０２が多板式で構成される場合には、各撮像素子に対応して、レンズユニット１１４０１も複数系統設けられ得る。
　また、撮像部１１４０２は、必ずしもカメラヘッド１１１０２に設けられなくてもよい。例えば、撮像部１１４０２は、鏡筒１１１０１の内部に、対物レンズの直後に設けられてもよい。
　駆動部１１４０３は、アクチュエータによって構成され、カメラヘッド制御部１１４０５からの制御により、レンズユニット１１４０１のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部１１４０２による撮像画像の倍率及び焦点が適宜調整され得る。
　通信部１１４０４は、ＣＣＵ１１２０１との間で各種の情報を送受信するための通信装置によって構成される。通信部１１４０４は、撮像部１１４０２から得た画像信号をＲＡＷデータとして伝送ケーブル１１４００を介してＣＣＵ１１２０１に送信する。
　また、通信部１１４０４は、ＣＣＵ１１２０１から、カメラヘッド１１１０２の駆動を制御するための制御信号を受信し、カメラヘッド制御部１１４０５に供給する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに／又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。
　なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、ユーザによって適宜指定されてもよいし、取得された画像信号に基づいてＣＣＵ１１２０１の制御部１１４１３によって自動的に設定されてもよい。後者の場合には、いわゆるＡＥ（Ａｕｔｏ　Ｅｘｐｏｓｕｒｅ）機能、ＡＦ（Ａｕｔｏ　Ｆｏｃｕｓ）機能及びＡＷＢ（Ａｕｔｏ　Ｗｈｉｔｅ　Ｂａｌａｎｃｅ）機能が内視鏡１１１００に搭載されていることになる。
　カメラヘッド制御部１１４０５は、通信部１１４０４を介して受信したＣＣＵ１１２０１からの制御信号に基づいて、カメラヘッド１１１０２の駆動を制御する。
　通信部１１４１１は、カメラヘッド１１１０２との間で各種の情報を送受信するための通信装置によって構成される。通信部１１４１１は、カメラヘッド１１１０２から、伝送ケーブル１１４００を介して送信される画像信号を受信する。
　また、通信部１１４１１は、カメラヘッド１１１０２に対して、カメラヘッド１１１０２の駆動を制御するための制御信号を送信する。画像信号や制御信号は、電気通信や光通信等によって送信することができる。
　画像処理部１１４１２は、カメラヘッド１１１０２から送信されたＲＡＷデータである画像信号に対して各種の画像処理を施す。
　制御部１１４１３は、内視鏡１１１００による術部等の撮像、及び、術部等の撮像により得られる撮像画像の表示に関する各種の制御を行う。例えば、制御部１１４１３は、カメラヘッド１１１０２の駆動を制御するための制御信号を生成する。
　また、制御部１１４１３は、画像処理部１１４１２によって画像処理が施された画像信号に基づいて、術部等が映った撮像画像を表示装置１１２０２に表示させる。この際、制御部１１４１３は、各種の画像認識技術を用いて撮像画像内における各種の物体を認識してもよい。例えば、制御部１１４１３は、撮像画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具１１１１２の使用時のミスト等を認識することができる。制御部１１４１３は、表示装置１１２０２に撮像画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させてもよい。手術支援情報が重畳表示され、術者１１１３１に提示されることにより、術者１１１３１の負担を軽減することや、術者１１１３１が確実に手術を進めることが可能になる。
　カメラヘッド１１１０２及びＣＣＵ１１２０１を接続する伝送ケーブル１１４００は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
　ここで、図示する例では、伝送ケーブル１１４００を用いて有線で通信が行われていたが、カメラヘッド１１１０２とＣＣＵ１１２０１との間の通信は無線で行われてもよい。
　以上、本開示に係る技術が適用され得る内視鏡手術システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、カメラヘッド１１１０２の撮像部１１４０２や、ＣＣＵ１１２０１の画像処理部１１４１２等に適用され得る。具体的には、図１及び図２の固体撮像装置１０１、１は、撮像部１０４０２に適用することができ、図１の信号処理回路１０５は、画像処理部１１４１２に適用することができる。撮像部１０４０２、画像処理部１１４１２に本開示に係る技術を適用することにより、より鮮明な術部画像を得ることができるため、術者が術部を確実に確認することが可能になる。
　なお、ここでは、一例として内視鏡手術システムについて説明したが、本開示に係る技術は、その他、例えば、顕微鏡手術システム等に適用されてもよい。
　なお、本技術は、以下のような構成を取ることができる。
（１）
　光電変換部と、前記光電変換部に対応して形成されたカラーフィルタとを有する画素がｍ×ｎ（ｍ、ｎは２以上の自然数）の行列状に配置されてなる画素ユニットを、２×２の行列状に配置してなる複数の画素ユニット群が配列されている画素アレイ部を備え、
　前記画素ユニット群のそれぞれは、前記画素ユニット群を構成する４つの前記画素ユニットのうちの、１つの前記画素ユニットにＲフィルタを前記カラーフィルタとして含み、２つの前記画素ユニットにＧフィルタを前記カラーフィルタとして含み、１つの前記画素ユニットにＢフィルタを前記カラーフィルタとして含むとともに、
　前記画素ユニット群の少なくとも１つは、Ｒフィルタ、Ｇフィルタ及びＢフィルタの何れとも異なる透過率のピーク波長を有する所定色フィルタを前記カラーフィルタとして含む
　固体撮像装置。
（２）
　前記所定色フィルタの透過率のピーク波長は、前記Ｂフィルタの透過率のピーク波長より大きく前記Ｇフィルタの透過率のピーク波長未満の第１の範囲内、及び前記Ｇフィルタの透過率のピーク波長より大きく前記Ｒフィルタの透過率のピーク波長未満の第２の範囲内の少なくとも何れかに含まれる
　前記（１）に記載の固体撮像装置。
（３）
　前記第１の範囲は、４６５ｎｍより大きく５２５ｎｍ未満の範囲であり、
　前記第２の範囲は、５３５ｎｍより大きく５９５ｎｍ未満である
　前記（２）に記載の固体撮像装置。
（４）
　ｍ、ｎ＝２であり、
　１つの前記画素ユニットが含む前記カラーフィルタの種類は、２以下である
　前記（１）又は（２）に記載の固体撮像装置。
（５）
　前記所定色フィルタは、前記少なくとも１つの前記画素ユニット群を構成する前記画素ユニットのうちの、Ｒフィルタ又はＢフィルタを含む前記画素ユニットに含まれている
　前記（４）に記載の固体撮像装置。
（６）
　前記所定色フィルタは、前記画素アレイ部のすべての前記画素ユニット群のうちの、一部の前記画素ユニット群にのみ含まれている
　前記（４）又は（５）に記載の固体撮像装置。
（７）
　前記所定色フィルタは、前記画素アレイ部のすべての前記画素ユニット群それぞれに含まれている
　前記（４）又は（５）に記載の固体撮像装置。
（８）
　前記所定色フィルタを含む前記画素ユニットのそれぞれは、１つの当該画素ユニットの２つの前記画素に同じ種類の前記所定色フィルタを含んでいる
　前記（７）に記載の固体撮像装置。
（９）
　光電変換部と、前記光電変換部に対応して形成されたカラーフィルタとを有する画素がｍ×ｎ（ｍ、ｎは２以上の自然数）の行列状に配置されてなる画素ユニットを、２×２の行列状に配置してなる複数の画素ユニット群が配列されている画素アレイ部を備え、前記画素ユニット群のそれぞれは、前記画素ユニット群を構成する４つの前記画素ユニットのうちの、１つの前記画素ユニットにＲフィルタを前記カラーフィルタとして含み、２つの前記画素ユニットにＧフィルタを前記カラーフィルタとして含み、１つの前記画素ユニットにＢフィルタを前記カラーフィルタとして含むとともに、前記画素ユニット群の少なくとも１つは、Ｒフィルタ、Ｇフィルタ及びＢフィルタの何れとも異なる透過率のピーク波長を有する所定色フィルタを前記カラーフィルタとして含む固体撮像装置と、
　被写体からの像光を前記固体撮像装置の撮像面上に結像させる光学レンズと、
　前記固体撮像装置から出力される信号に信号処理を行う信号処理回路とを備える
　電子機器。
　１…固体撮像装置、２…基板、３…画素アレイ部、４…垂直駆動回路、５…カラム信号処理回路、６…水平駆動回路、７…出力回路、８…制御回路、９…画素、１０…画素ユニット、１１…画素ユニット群、１２…画素駆動配線、１３…垂直信号線、１４…水平信号線、１５…絶縁膜、１６…遮光膜、１７…平坦化膜、１８…受光層、１９…カラーフィルタ、２０…マイクロレンズ、２１…集光層、２２…配線層、２３…支持基板、２４…光電変換部、２５…画素分離部、２６…カラーフィルタアレイ、２７…マイクロレンズアレイ、２８…層間絶縁膜、２９…配線、３０…モザイク画像、３１…画像画素３２…ＲＧＢモザイク画像、３３…画像画素３４…ＲＧＢモザイク画像、３５…画像画素３６…ＲＧＢモザイク画像、３７…画像画素３８…ＣＭＹモザイク画像、１００…電子機器、１０１…固体撮像装置、１０２…光学レンズ、１０３…シャッタ装置、１０４…駆動回路、１０５…信号処理回路、１０６…入射光

Claims (9)

  1. 　光電変換部と、前記光電変換部に対応して形成されたカラーフィルタとを有する画素がｍ×ｎ（ｍ、ｎは２以上の自然数）の行列状に配置されてなる画素ユニットを、２×２の行列状に配置してなる複数の画素ユニット群が配列されている画素アレイ部を備え、
    　前記画素ユニット群のそれぞれは、前記画素ユニット群を構成する４つの前記画素ユニットのうちの、１つの前記画素ユニットにＲフィルタを前記カラーフィルタとして含み、２つの前記画素ユニットにＧフィルタを前記カラーフィルタとして含み、１つの前記画素ユニットにＢフィルタを前記カラーフィルタとして含むとともに、
    　前記画素ユニット群の少なくとも１つは、Ｒフィルタ、Ｇフィルタ及びＢフィルタの何れとも異なる透過率のピーク波長を有する所定色フィルタを前記カラーフィルタとして含む
    　固体撮像装置。
  2. 　前記所定色フィルタの透過率のピーク波長は、前記Ｂフィルタの透過率のピーク波長より大きく前記Ｇフィルタの透過率のピーク波長未満の第１の範囲内、及び前記Ｇフィルタの透過率のピーク波長より大きく前記Ｒフィルタの透過率のピーク波長未満の第２の範囲内の少なくとも何れかに含まれる
    　請求項１に記載の固体撮像装置。
  3. 　前記第１の範囲は、４６５ｎｍより大きく５２５ｎｍ未満の範囲であり、
    　前記第２の範囲は、５３５ｎｍより大きく５９５ｎｍ未満である
    　請求項２に記載の固体撮像装置。
  4. 　ｍ、ｎ＝２であり、
    　１つの前記画素ユニットが含む前記カラーフィルタの種類は、２以下である
    　請求項１に記載の固体撮像装置。
  5. 　前記所定色フィルタは、前記少なくとも１つの前記画素ユニット群を構成する前記画素ユニットのうちの、Ｒフィルタ又はＢフィルタを含む前記画素ユニットに含まれている
    　請求項４に記載の固体撮像装置。
  6. 　前記所定色フィルタは、前記画素アレイ部のすべての前記画素ユニット群のうちの、一部の前記画素ユニット群にのみ含まれている
    　請求項４に記載の固体撮像装置。
  7. 　前記所定色フィルタは、前記画素アレイ部のすべての前記画素ユニット群それぞれに含まれている
    　請求項４に記載の固体撮像装置。
  8. 　前記所定色フィルタを含む前記画素ユニットのそれぞれは、１つの当該画素ユニットの２つの前記画素に同じ種類の前記所定色フィルタを含んでいる
    　請求項７に記載の固体撮像装置。
  9. 　光電変換部と、前記光電変換部に対応して形成されたカラーフィルタとを有する画素がｍ×ｎ（ｍ、ｎは２以上の自然数）の行列状に配置されてなる画素ユニットを、２×２の行列状に配置してなる複数の画素ユニット群が配列されている画素アレイ部を備え、前記画素ユニット群のそれぞれは、前記画素ユニット群を構成する４つの前記画素ユニットのうちの、１つの前記画素ユニットにＲフィルタを前記カラーフィルタとして含み、２つの前記画素ユニットにＧフィルタを前記カラーフィルタとして含み、１つの前記画素ユニットにＢフィルタを前記カラーフィルタとして含むとともに、前記画素ユニット群の少なくとも１つは、Ｒフィルタ、Ｇフィルタ及びＢフィルタの何れとも異なる透過率のピーク波長を有する所定色フィルタを前記カラーフィルタとして含む固体撮像装置と、
    　被写体からの像光を前記固体撮像装置の撮像面上に結像させる光学レンズと、
    　前記固体撮像装置から出力される信号に信号処理を行う信号処理回路とを備える
    　電子機器。
PCT/JP2021/000379 2020-02-26 2021-01-07 固体撮像装置及び電子機器 WO2021171796A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN202180014918.XA CN115136592A (zh) 2020-02-26 2021-01-07 固态成像装置和电子设备
US17/800,618 US20230343802A1 (en) 2020-02-26 2021-01-07 Solid-state imaging device and electronic device
DE112021001249.5T DE112021001249T5 (de) 2020-02-26 2021-01-07 Festkörperbildgebungsvorrichtung und elektronische vorrichtung

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020030457 2020-02-26
JP2020-030457 2020-02-26

Publications (1)

Publication Number Publication Date
WO2021171796A1 true WO2021171796A1 (ja) 2021-09-02

Family

ID=77491374

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/000379 WO2021171796A1 (ja) 2020-02-26 2021-01-07 固体撮像装置及び電子機器

Country Status (4)

Country Link
US (1) US20230343802A1 (ja)
CN (1) CN115136592A (ja)
DE (1) DE112021001249T5 (ja)
WO (1) WO2021171796A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113418864B (zh) * 2021-06-03 2022-09-16 奥比中光科技集团股份有限公司 一种多光谱图像传感器及其制造方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009017152A (ja) * 2007-07-04 2009-01-22 Nikon Corp 固体撮像素子及びこれを用いた撮像装置
JP2009157198A (ja) * 2007-12-27 2009-07-16 Nikon Corp 固体撮像素子及びこれを用いた撮像装置
JP2013081222A (ja) * 2005-07-28 2013-05-02 Eastman Kodak Company 光感度が改善されたイメージ・センサー
JP2013197609A (ja) * 2012-03-15 2013-09-30 Nikon Corp 撮像装置
JP2018061087A (ja) * 2016-10-03 2018-04-12 株式会社デンソー 画像センサ

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019175912A (ja) 2018-03-27 2019-10-10 ソニーセミコンダクタソリューションズ株式会社 撮像装置、及び、画像処理システム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013081222A (ja) * 2005-07-28 2013-05-02 Eastman Kodak Company 光感度が改善されたイメージ・センサー
JP2009017152A (ja) * 2007-07-04 2009-01-22 Nikon Corp 固体撮像素子及びこれを用いた撮像装置
JP2009157198A (ja) * 2007-12-27 2009-07-16 Nikon Corp 固体撮像素子及びこれを用いた撮像装置
JP2013197609A (ja) * 2012-03-15 2013-09-30 Nikon Corp 撮像装置
JP2018061087A (ja) * 2016-10-03 2018-04-12 株式会社デンソー 画像センサ

Also Published As

Publication number Publication date
US20230343802A1 (en) 2023-10-26
DE112021001249T5 (de) 2022-12-29
CN115136592A (zh) 2022-09-30

Similar Documents

Publication Publication Date Title
JPWO2019102887A1 (ja) 固体撮像素子および電子機器
WO2021171797A1 (ja) 固体撮像装置及び電子機器
WO2021131318A1 (ja) 固体撮像装置及び電子機器
WO2021124975A1 (ja) 固体撮像装置および電子機器
WO2019207978A1 (ja) 撮像素子および撮像素子の製造方法
WO2021002213A1 (ja) 固体撮像装置およびその駆動方法、並びに電子機器
WO2021171796A1 (ja) 固体撮像装置及び電子機器
WO2022131034A1 (ja) 撮像装置
WO2022009627A1 (ja) 固体撮像装置および電子機器
WO2021100338A1 (ja) 固体撮像素子
WO2021186907A1 (ja) 固体撮像装置及びその製造方法、並びに電子機器
JP7034925B2 (ja) 固体撮像装置および撮像方法
WO2023195315A1 (en) Light detecting device
WO2023162496A1 (ja) 撮像装置
WO2023195316A1 (en) Light detecting device
WO2023080011A1 (ja) 撮像装置及び電子機器
WO2024095832A1 (en) Photodetector, electronic apparatus, and optical element
WO2021157250A1 (ja) 受光素子、固体撮像装置及び電子機器
WO2023013156A1 (ja) 撮像素子及び電子機器
WO2023058326A1 (ja) 撮像装置
WO2021090663A1 (ja) 撮像デバイス及び撮像デバイスにおける画素信号の補正処理方法
WO2023132137A1 (ja) 撮像素子および電子機器
WO2023013393A1 (ja) 撮像装置
WO2023095518A1 (ja) 光検出装置及び電子機器
WO2022130987A1 (ja) 固体撮像装置およびその製造方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21759964

Country of ref document: EP

Kind code of ref document: A1

122 Ep: pct application non-entry in european phase

Ref document number: 21759964

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: JP