WO2018110573A1 - 撮像素子及び電子機器 - Google Patents

撮像素子及び電子機器 Download PDF

Info

Publication number
WO2018110573A1
WO2018110573A1 PCT/JP2017/044629 JP2017044629W WO2018110573A1 WO 2018110573 A1 WO2018110573 A1 WO 2018110573A1 JP 2017044629 W JP2017044629 W JP 2017044629W WO 2018110573 A1 WO2018110573 A1 WO 2018110573A1
Authority
WO
WIPO (PCT)
Prior art keywords
pixel
filter
optical filter
light
wavelength
Prior art date
Application number
PCT/JP2017/044629
Other languages
English (en)
French (fr)
Inventor
淳 森光
Original Assignee
ソニーセミコンダクタソリューションズ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニーセミコンダクタソリューションズ株式会社 filed Critical ソニーセミコンダクタソリューションズ株式会社
Priority to CN201780069410.3A priority Critical patent/CN110073491B/zh
Priority to US16/465,702 priority patent/US11181672B2/en
Priority to EP17881226.9A priority patent/EP3557627B1/en
Publication of WO2018110573A1 publication Critical patent/WO2018110573A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/20Filters
    • G02B5/201Filters in the form of arrays
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/20Filters
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14603Special geometry or disposition of pixel-elements, address-lines or gate-electrodes
    • H01L27/14605Structural or functional details relating to the position of the pixel elements, e.g. smaller pixel elements in the center of the imager compared to pixel elements at the periphery
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1462Coatings
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1462Coatings
    • H01L27/14621Colour filter arrangements
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14625Optical elements or arrangements associated with the device
    • H01L27/14627Microlenses
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14643Photodiode arrays; MOS imagers
    • H01L27/14645Colour imagers
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L31/00Semiconductor devices sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation; Processes or apparatus specially adapted for the manufacture or treatment thereof or of parts thereof; Details thereof
    • H01L31/02Details
    • H01L31/0232Optical elements or arrangements associated with the device
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14618Containers

Definitions

  • the technology according to the present disclosure (hereinafter also referred to as the present technology) relates to an imaging device and an electronic device, and particularly relates to an imaging device and an electronic device suitable for use when detecting light in a narrow wavelength band.
  • the present technology has been made in view of such a situation, and is intended to suppress a decrease in detection accuracy of narrowband light.
  • the imaging device includes a pixel array including an effective region used for acquiring an image and a peripheral region around the effective region, and a plurality of types of light that transmit light of different wavelengths.
  • a first optical filter is provided for each pixel in the effective area, and a second optical filter having a transmission band narrower than the transmission band of the first optical filter is the first optical filter in the peripheral area.
  • a third optical filter having a transmission band difference from the second optical filter equal to or greater than a predetermined wavelength or having a transmittance equal to or lower than the second optical filter is provided in the first pixel. Is provided in a second pixel adjacent to.
  • the difference between the peak wavelength of the second optical filter and the peak wavelength of the third optical filter can be greater than or equal to the predetermined wavelength.
  • the transmittance at the peak wavelength of the third optical filter can be made equal to or lower than the transmittance at the peak wavelength of the second optical filter.
  • the transmittance at the peak wavelength of the second optical filter and the peak of the third optical filter can be greater than or equal to a predetermined threshold.
  • an optical filter having the same transmission band as that of the second optical filter can be provided.
  • the second optical filter can be a plasmon filter.
  • the third optical filter can be any one of a plurality of types of the first optical filters.
  • An electronic apparatus includes an imaging element and a signal processing unit that processes a signal output from the imaging element, and the imaging element includes an effective area used for acquiring an image, and A plurality of types of first optical filters each including a pixel array including a peripheral region around the effective region and transmitting light of different wavelengths are provided in each pixel in the effective region, and the first optical A second optical filter having a transmission band narrower than the transmission band of the filter is provided in the first pixel in the peripheral region, and a difference in transmission band from the second optical filter is a predetermined wavelength or more.
  • a third optical filter having a transmittance equal to or lower than that of the second optical filter is provided in a second pixel adjacent to the first pixel.
  • narrowband light is detected by the first pixel, and light having a wider bandwidth than the first pixel is detected by the second pixel.
  • the first aspect or the second aspect of the present technology it is possible to suppress a decrease in detection accuracy of light in a narrow wavelength band.
  • FIG. 1 shows typically the structural example of 3rd Embodiment of an image pick-up element. It is a figure which shows the structural example of a pixel array. It is a figure which shows the 1st example of the spectral characteristic of a multispectral pixel and an adjacent pixel. It is a figure which shows the 1st example of arrangement
  • FIG. 1 is a block diagram illustrating an embodiment of an imaging apparatus that is a type of electronic apparatus to which the present technology is applied.
  • the imaging apparatus 10 includes, for example, a digital camera that can capture both still images and moving images.
  • the imaging apparatus 10 may be, for example, a conventional R (red), G (green), B (blue), or Y (yellow), M (magenta), C (based on the three primary colors or color matching functions. It is composed of a multispectral camera capable of detecting light (multispectrum) in four or more wavelength bands (4 bands or more), which is larger than the three wavelength bands (3 bands) of cyan.
  • the imaging apparatus 10 includes an optical system 11, an imaging element 12, a memory 13, a signal processing unit 14, an output unit 15, and a control unit 16.
  • the optical system 11 includes, for example, a zoom lens, a focus lens, a diaphragm, and the like (not shown), and makes light from the outside enter the image sensor 12.
  • the optical system 11 is provided with various filters such as a polarizing filter as necessary.
  • the image sensor 12 is composed of, for example, a CMOS (Complementary Metal Metal Oxide Semiconductor) image sensor.
  • the image sensor 12 receives incident light from the optical system 11, performs photoelectric conversion, and outputs image data corresponding to the incident light.
  • CMOS Complementary Metal Metal Oxide Semiconductor
  • the memory 13 temporarily stores the image data output from the image sensor 12.
  • the signal processing unit 14 performs signal processing (for example, processing such as noise removal and white balance adjustment) using the image data stored in the memory 13 and supplies the processed signal to the output unit 15.
  • signal processing for example, processing such as noise removal and white balance adjustment
  • the output unit 15 outputs the image data from the signal processing unit 14.
  • the output unit 15 includes a display (not shown) configured with a liquid crystal or the like, and displays a spectrum (image) corresponding to the image data from the signal processing unit 14 as a so-called through image.
  • the output unit 15 includes a driver (not shown) that drives a recording medium such as a semiconductor memory, a magnetic disk, and an optical disk, and records the image data from the signal processing unit 14 on the recording medium.
  • the output unit 15 functions as a communication interface that performs communication with an external device (not shown), and transmits image data from the signal processing unit 14 to the external device wirelessly or by wire.
  • the control unit 16 controls each unit of the imaging device 10 according to a user operation or the like.
  • FIG. 2 is a block diagram illustrating a configuration example of the circuit of the image sensor 12 of FIG.
  • the image sensor 12 includes a pixel array 31, a row scanning circuit 32, a PLL (Phase Locked Loop) 33, a DAC (Digital Analog Converter) 34, a column ADC (Analog Digital Converter) circuit 35, a column scanning circuit 36, and a sense amplifier 37. Is provided.
  • PLL Phase Locked Loop
  • DAC Digital Analog Converter
  • column ADC Analog Digital Converter
  • a plurality of pixels 51 are two-dimensionally arranged.
  • the pixels 51 are respectively arranged at points where the horizontal signal line H connected to the row scanning circuit 32 and the vertical signal line V connected to the column ADC circuit 35 intersect, and a photodiode 61 that performs photoelectric conversion and And several types of transistors for reading the accumulated signals. That is, the pixel 51 includes a photodiode 61, a transfer transistor 62, a floating diffusion 63, an amplification transistor 64, a selection transistor 65, and a reset transistor 66 as shown enlarged on the right side of FIG.
  • the charge accumulated in the photodiode 61 is transferred to the floating diffusion 63 via the transfer transistor 62.
  • the floating diffusion 63 is connected to the gate of the amplification transistor 64.
  • the selection transistor 65 is turned on from the row scanning circuit 32 via the horizontal signal line H, and the signal of the selected pixel 51 causes the amplification transistor 64 to be a source follower (Source follower).
  • Source follower Source follower
  • the row scanning circuit 32 sequentially outputs a drive signal for driving the pixels 51 of the pixel array 31 (for example, transfer, selection, reset, etc.) for each row.
  • the PLL 33 generates and outputs a clock signal having a predetermined frequency necessary for driving each part of the image sensor 12 based on a clock signal supplied from the outside.
  • the DAC 34 generates and outputs a ramp signal having a shape (substantially saw-tooth shape) that returns to the predetermined voltage value after the voltage drops from the predetermined voltage value with a certain slope.
  • the column ADC circuit 35 has the same number of comparators 71 and counters 72 as the columns of the pixels 51 of the pixel array 31, and from the pixel signals output from the pixels 51, CDS (Correlated Double Sampling: correlation 2
  • CDS Correlated Double Sampling: correlation 2
  • the signal level is extracted by a multiple sampling operation, and pixel data is output. That is, the comparator 71 compares the ramp signal supplied from the DAC 34 with the pixel signal (luminance value) output from the pixel 51, and supplies the comparison result signal obtained as a result to the counter 72. Then, the counter 72 counts a counter clock signal having a predetermined frequency in accordance with the comparison result signal output from the comparator 71, whereby the pixel signal is A / D converted.
  • the column scanning circuit 36 supplies a signal for outputting pixel data sequentially to the counter 72 of the column ADC circuit 35 at a predetermined timing.
  • the sense amplifier 37 amplifies the pixel data supplied from the column ADC circuit 35 and outputs it to the outside of the image sensor 12.
  • FIG. 3 schematically illustrates a configuration example of a cross section of the image sensor 12A which is the first embodiment of the image sensor 12 of FIG.
  • FIG. 3 shows a cross section of four pixels of the pixels 51-1 to 51-4 of the image sensor 12.
  • the pixels 51-1 to 51-4 are simply referred to as the pixels 51 when it is not necessary to individually distinguish them.
  • each pixel 51 an on-chip microlens 101, an interlayer film 102, a narrow band filter layer 103, an interlayer film 104, a photoelectric conversion element layer 105, and a signal wiring layer 106 are stacked in order from the top. That is, the image sensor 12 is composed of a back-illuminated CMOS image sensor in which the photoelectric conversion element layer 105 is disposed on the light incident side from the signal wiring layer 106.
  • the on-chip microlens 101 is an optical element for condensing light on the photoelectric conversion element layer 105 of each pixel 51.
  • the interlayer film 102 and the interlayer film 104 are made of a dielectric such as SiO2. As will be described later, the dielectric constants of the interlayer film 102 and the interlayer film 104 are desirably as low as possible.
  • each pixel 51 is provided with a narrowband filter NB that is an optical filter that transmits narrowband light of a predetermined narrow wavelength band (narrowband).
  • a narrowband filter NB that is an optical filter that transmits narrowband light of a predetermined narrow wavelength band (narrowband).
  • it is a kind of metal thin film filter using a metal thin film such as aluminum, and a plasmon filter using surface plasmons is used for the narrow band filter NB.
  • the transmission band of the narrow band filter NB is set for each pixel 51.
  • the type (number of bands) of the transmission band of the narrow band filter NB is arbitrary, and is set to 4 or more, for example.
  • the narrow band is, for example, conventional R (red), G (green), B (blue), Y (yellow), M (magenta), C based on the three primary colors or color matching functions.
  • the wavelength band is narrower than the transmission band of the (cyan) color filter.
  • the pixel that receives the narrowband light transmitted through the narrowband filter NB is referred to as a multispectral pixel or an MS pixel.
  • the photoelectric conversion element layer 105 includes, for example, the photodiode 61 of FIG. 2, receives light (narrowband light) that has passed through the narrowband filter layer 103 (narrowband filter NB), and converts the received light into electric charges. To do.
  • the photoelectric conversion element layer 105 is configured such that the pixels 51 are electrically separated by an element separation layer.
  • the signal wiring layer 106 is provided with wiring or the like for reading the charges accumulated in the photoelectric conversion element layer 105.
  • FIG. 4 shows a configuration example of a plasmon filter 121A having a hole array structure.
  • the plasmon filter 121A is configured by a plasmon resonator in which holes 132A are arranged in a honeycomb shape in a metal thin film (hereinafter referred to as a conductor thin film) 131A.
  • Each hole 132A penetrates the conductor thin film 131A and acts as a waveguide.
  • a waveguide has a cut-off frequency and a cut-off wavelength determined by the shape such as the length of the side and the diameter, and has a property that light having a frequency lower than that (wavelength higher than that) does not propagate.
  • the cutoff wavelength of the hole 132A mainly depends on the opening diameter D1, and the cutoff wavelength becomes shorter as the opening diameter D1 is smaller.
  • the aperture diameter D1 is set to a value smaller than the wavelength of light that is desired to be transmitted.
  • FIG. 5 is a graph showing the dispersion relation of surface plasmons.
  • the horizontal axis of the graph represents the angular wave number vector k, and the vertical axis represents the angular frequency ⁇ .
  • ⁇ p indicates the plasma frequency of the conductive thin film 131A.
  • ⁇ sp indicates the surface plasma frequency at the boundary surface between the interlayer film 102 and the conductive thin film 131A, and is represented by the following equation (1).
  • ⁇ d represents the dielectric constant of the dielectric constituting the interlayer film 102.
  • the surface plasma frequency ⁇ sp increases as the plasma frequency ⁇ p increases. Further, the surface plasma frequency ⁇ sp increases as the dielectric constant ⁇ d decreases.
  • the line L1 indicates the light dispersion relationship (light line) and is expressed by the following equation (2).
  • the line L2 represents the dispersion relation of the surface plasmon and is represented by the following formula (3).
  • ⁇ m represents the dielectric constant of the conductive thin film 131A.
  • the dispersion relation of the surface plasmon represented by the line L2 is asymptotic to the light line represented by the line L1 in the range where the angular wave vector k is small, and asymptotic to the surface plasma frequency ⁇ sp as the angular wave vector k increases. To do.
  • represents the wavelength of incident light.
  • represents the incident angle of incident light.
  • G x and G y are expressed by the following equation (5).
  • a 0 represents the lattice constant of the hole array structure composed of the holes 132A of the conductor thin film 131A.
  • Equation (4) represents the angular wave number vector of the surface plasmon
  • the right side represents the angular wave vector of the hole array period of the conductor thin film 131A. Therefore, when the angular wave number vector of the surface plasmon is equal to the angular wave vector of the hole array period of the conductor thin film 131A, an abnormal plasmon transmission phenomenon occurs.
  • the value of ⁇ at this time is the plasmon resonance wavelength (the transmission wavelength of the plasmon filter 121A).
  • the angular wave number vector of the surface plasmon on the left side of Equation (4) is determined by the dielectric constant ⁇ m of the conductive thin film 131A and the dielectric constant ⁇ d of the interlayer film 102.
  • the angular wave vector of the hole array period on the right side is determined by the incident angle ⁇ of light and the pitch (hole pitch) P1 between adjacent holes 132A of the conductive thin film 131A.
  • the plasmon resonance wavelength and resonance frequency are determined by the dielectric constant ⁇ m of the conductor thin film 131A, the dielectric constant ⁇ d of the interlayer film 102, the incident angle ⁇ of light, and the hole pitch P1.
  • the plasmon resonance wavelength and resonance frequency are determined by the dielectric constant ⁇ m of the conductor thin film 131A, the dielectric constant ⁇ d of the interlayer film 102, and the hole pitch P1.
  • the transmission band (plasmon resonance wavelength) of the plasmon filter 121A includes the material and film thickness of the conductive thin film 131A, the material and film thickness of the interlayer film 102, and the pattern period of the hole array (for example, the hole 132A opening diameter D1 and hole pitch). P1) etc.
  • the transmission band of the plasmon filter 121A changes depending on the pattern period of the hole array, particularly the hole pitch P1.
  • the transmission band of the plasmon filter 121A is shifted to the short wavelength side, and as the hole pitch P1 is widened, the transmission band of the plasmon filter 121A is shifted to the long wavelength side.
  • FIG. 6 is a graph showing an example of spectral characteristics of the plasmon filter 121A when the hole pitch P1 is changed.
  • the horizontal axis of the graph represents wavelength (unit: nm), and the vertical axis represents sensitivity (unit: arbitrary unit).
  • the line L11 shows the spectral characteristics when the hole pitch P1 is set to 250 nm
  • the line L12 shows the spectral characteristics when the hole pitch P1 is set to 325 nm
  • the line L13 sets the hole pitch P1 to 500 nm. The spectral characteristics are shown.
  • the plasmon filter 121A When the hole pitch P1 is set to 250 nm, the plasmon filter 121A mainly transmits light in the blue wavelength band. When the hole pitch P1 is set to 325 nm, the plasmon filter 121A mainly transmits light in the green wavelength band. When the hole pitch P1 is set to 500 nm, the plasmon filter 121A mainly transmits light in the red wavelength band. However, when the hole pitch P1 is set to 500 nm, the plasmon filter 121A transmits a large amount of light in a band having a wavelength lower than that of red due to a waveguide mode described later.
  • FIG. 7 is a graph showing another example of the spectral characteristics of the plasmon filter 121A when the hole pitch P1 is changed.
  • the horizontal axis of the graph represents wavelength (unit: nm), and the vertical axis represents sensitivity (unit: arbitrary unit).
  • This example shows an example of spectral characteristics of 16 types of plasmon filters 121A when the hole pitch P1 is changed from 250 nm to 625 nm in increments of 25 nm.
  • the transmittance of the plasmon filter 121A is mainly determined by the opening diameter D1 of the hole 132A. As the opening diameter D1 increases, the transmittance increases, but color mixing tends to occur. In general, it is desirable to set the opening diameter D1 so that the opening ratio is 50% to 60% of the hole pitch P1.
  • each hole 132A of the plasmon filter 121A functions as a waveguide. Therefore, depending on the pattern of the hole array of the plasmon filter 121A, in the spectral characteristics, not only the wavelength component transmitted by surface plasmon resonance (the wavelength component in plasmon mode) but also the wavelength component transmitted through the hole 132A (waveguide) ( The wavelength component in the waveguide mode may increase.
  • FIG. 8 shows the spectral characteristics of the plasmon filter 121A when the hole pitch P1 is set to 500 nm, similar to the spectral characteristics represented by the line L13 in FIG.
  • the wavelength component in the plasmon mode is longer than the cutoff wavelength near 630 nm, and the wavelength component in the waveguide mode is shorter than the cutoff wavelength.
  • the cutoff wavelength mainly depends on the opening diameter D1 of the hole 132A.
  • the wavelength resolution characteristic of the plasmon filter 121A is improved.
  • the transmission band of the plasmon filter 121A it is possible to set the transmission band of the plasmon filter 121A to a shorter wavelength band when a metal having a lower plasma frequency ⁇ p is used for the conductive thin film 131A.
  • a metal having a lower plasma frequency ⁇ p for the conductive thin film 131A.
  • aluminum, silver, gold, etc. are suitable.
  • the transmission band is set to a long wavelength band such as infrared light, copper or the like can also be used.
  • the transmission band of the plasmon filter 121A can be set to a shorter wavelength band.
  • SiO2, Low-K, etc. are suitable.
  • FIG. 9 is a graph showing the propagation characteristics of surface plasmons at the interface between the conductive thin film 131A and the interlayer film 102 when aluminum is used for the conductive thin film 131A and SiO 2 is used for the interlayer film 102.
  • the horizontal axis of the graph indicates the wavelength of light (unit: nm), and the vertical axis indicates the propagation distance (unit: ⁇ m).
  • the line L21 indicates the propagation characteristic in the interface direction
  • the line L22 indicates the propagation characteristic in the depth direction of the interlayer film 102 (direction perpendicular to the interface)
  • the line L23 indicates the depth direction (in the depth direction of the conductor thin film 131A). The propagation characteristics in the direction perpendicular to the interface are shown.
  • k SPP indicates the absorption coefficient of the material through which the surface plasmon propagates.
  • ⁇ m ( ⁇ ) represents a dielectric constant of the conductive thin film 131A with respect to light having a wavelength ⁇ .
  • ⁇ d ( ⁇ ) represents a dielectric constant of the interlayer film 102 with respect to light having a wavelength ⁇ .
  • the surface plasmon for light having a wavelength of 400 nm propagates from the surface of the interlayer film 102 made of SiO 2 to about 100 nm in the depth direction. Therefore, by setting the thickness of the interlayer film 102 to 100 nm or more, the influence of the material laminated on the surface of the interlayer film 102 opposite to the conductor thin film 131A on the surface plasmon at the interface between the interlayer film 102 and the conductor thin film 131A. Is prevented from reaching.
  • the surface plasmon for light having a wavelength of 400 nm propagates from the surface of the conductor thin film 131A made of aluminum to about 10 nm in the depth direction. Therefore, by setting the thickness of the conductor thin film 131A to 10 nm or more, the influence of the interlayer film 104 on the surface plasmon at the interface between the interlayer film 102 and the conductor thin film 131A is prevented.
  • 10A includes a plasmon resonator in which holes 132B are arranged in an orthogonal matrix in the conductive thin film 131B.
  • the transmission band changes depending on the pitch P2 between the adjacent holes 132B.
  • the plasmon resonator not all holes need to penetrate the conductor thin film, and the plasmon resonator functions as a filter even if some holes are configured by non-through holes that do not penetrate the conductor thin film.
  • FIG. 10B shows a plan view of a plasmon filter 121C configured by a plasmon resonator in which holes 132C made of through holes and holes 132C ′ made of non-through holes are arranged in a honeycomb shape in the conductive thin film 131C. And a sectional view (a sectional view taken along line AA ′ in the plan view) is shown. That is, in the plasmon filter 121C, holes 132C made of through holes and holes 132C 'made of non-through holes are periodically arranged.
  • a single-layer plasmon resonator is basically used, but for example, it can be constituted by a two-layer plasmon resonator.
  • the plasmon filter 121D shown in FIG. 11 includes a two-layer plasmon filter 121D-1 and a plasmon filter 121D-2.
  • the plasmon filter 121D-1 and the plasmon filter 121D-2 have a structure in which holes are arranged in a honeycomb shape, like the plasmon resonator constituting the plasmon filter 121A of FIG.
  • the distance D2 between the plasmon filter 121D-1 and the plasmon filter 121D-2 is about 1 ⁇ 4 of the peak wavelength of the transmission band.
  • the interval D2 is more preferably 1 ⁇ 2 or less of the peak wavelength of the transmission band.
  • holes are arranged in the same pattern in the plasmon filter 121D-1 and the plasmon filter 121D-2, for example, in a pattern similar to each other in a two-layer plasmon resonator structure.
  • a hole may be arranged.
  • holes and dots may be arranged in a pattern in which a hole array structure and a dot array structure (described later) are reversed.
  • the plasmon filter 121D has a two-layer structure, it can be multi-layered with three or more layers.
  • a configuration example of a plasmon filter using a plasmon resonator having a hole array structure has been described.
  • a plasmon resonator having a dot array structure may be employed as the plasmon filter.
  • the plasmon filter 121A ′ of FIG. 12A is a structure in which the negative positivity is inverted with respect to the plasmon resonator of the plasmon filter 121A of FIG. Has been.
  • a dielectric layer 134A is filled between the dots 133A.
  • the plasmon filter 121A ' is used as a complementary color filter in order to absorb light in a predetermined wavelength band.
  • the wavelength band of light absorbed by the plasmon filter 121A '(hereinafter referred to as an absorption band) varies depending on the pitch (hereinafter referred to as dot pitch) P3 between adjacent dots 133A. Further, the diameter D3 of the dot 133A is adjusted according to the dot pitch P3.
  • the plasmon filter 121B ′ of FIG. 12B has a negative-positive inversion structure with respect to the plasmon resonator of the plasmon filter 121B of FIG. It is composed of body structure.
  • a dielectric layer 134B is filled between the dots 133B.
  • the absorption band of the plasmon filter 121B 'varies depending on the dot pitch P4 between adjacent dots 133B. Further, the diameter D3 of the dot 133B is adjusted according to the dot pitch P4.
  • FIG. 13 is a graph showing an example of spectral characteristics when the dot pitch P3 of the plasmon filter 121A ′ in FIG. 12A is changed.
  • the horizontal axis of the graph indicates the wavelength (unit: nm), and the vertical axis indicates the transmittance.
  • the line L31 shows the spectral characteristics when the dot pitch P3 is set to 300 nm
  • the line L32 shows the spectral characteristics when the dot pitch P3 is set to 400 nm
  • the line L33 sets the dot pitch P3 to 500 nm. The spectral characteristics are shown.
  • the dot pitch P3 becomes narrower, the absorption band of the plasmon filter 121A ′ shifts to the short wavelength side, and as the dot pitch P3 becomes wider, the absorption band of the plasmon filter 121A ′ becomes longer. Shift to.
  • the transmission band or the absorption band can be adjusted only by adjusting the pitch in the plane direction of the holes or dots. Therefore, for example, it is possible to individually set the transmission band or absorption band for each pixel simply by adjusting the pitch of holes or dots in the lithography process, and it is possible to increase the number of colors of the filter with fewer processes. .
  • the thickness of the plasmon filter is about 100 to 500 nm, which is almost the same as that of the organic material color filter, and the process affinity is good.
  • the plasmon filter 151 using GMR (Guided Mode Resonant) shown in FIG. 14 can also be used for the narrow band filter NB.
  • a conductor layer 161, a SiO2 film 162, a SiN film 163, and a SiO2 substrate 164 are laminated in order from the top.
  • the conductor layer 161 is included in, for example, the narrow band filter layer 103 in FIG. 3, and the SiO 2 film 162, the SiN film 163, and the SiO 2 substrate 164 are included in, for example, the interlayer film 104 in FIG.
  • rectangular conductor thin films 161A made of, for example, aluminum are arranged at a predetermined pitch P5 so that the long sides of the conductor thin films 161A are adjacent to each other. Then, the transmission band of the plasmon filter 151 changes depending on the pitch P5 and the like.
  • FIG. 15 is a graph showing an example of spectral characteristics of the plasmon filter 151 when the pitch P5 is changed.
  • the horizontal axis of the graph indicates the wavelength (unit: nm), and the vertical axis indicates the transmittance.
  • This example shows an example of spectral characteristics when the pitch P5 is changed from six types in increments of 40 nm from 280 nm to 480 nm and the width of the slit between adjacent conductive thin films 161A is set to 1/4 of the pitch P5. ing.
  • the waveform with the shortest peak wavelength in the transmission band shows the spectral characteristics when the pitch P5 is set to 280 nm, and the peak wavelength becomes longer as the pitch P5 becomes wider. That is, as the pitch P5 becomes narrower, the transmission band of the plasmon filter 151 shifts to the short wavelength side, and as the pitch P5 becomes wider, the transmission band of the plasmon filter 151 shifts to the long wavelength side.
  • the plasmon filter 151 using the GMR has a good affinity with an organic material type color filter in the same manner as the plasmon filter having the hole array structure and the dot array structure described above.
  • FIG. 16 schematically illustrates a configuration example of a cross-section of an image sensor 12B that is the second embodiment of the image sensor 12.
  • portions corresponding to the image sensor 12A of FIG. 3 are denoted by the same reference numerals, and the description thereof is omitted as appropriate.
  • the image sensor 12B is different from the image sensor 12A in that a color filter layer 107 is laminated between the on-chip microlens 101 and the interlayer film 102.
  • the narrowband filter NB is provided only in some of the pixels 51 instead of all the pixels 51.
  • the type (number of bands) of the transmission band of the narrow band filter NB is arbitrary, and is set to 1 or more, for example.
  • a color filter is provided in each pixel 51.
  • any one of a general red filter R, a green filter G, and a blue filter B (not shown) is provided in the pixel 51 where the narrow band filter NB is not provided.
  • a general red filter R a green filter G
  • a blue filter B (not shown) is provided in the pixel 51.
  • an R pixel provided with a red filter R, a G pixel provided with a green filter G, a B pixel provided with a blue filter, and an MS pixel provided with a narrowband filter NB are converted into a pixel array. 31.
  • the transmission filter P is provided in the color filter layer 107.
  • the transmission filter P is configured by an optical filter (a low-pass filter, a high-pass filter, or a band-pass filter) that transmits light in a wavelength band including the transmission band of the narrow-band filter NB of the same pixel 51.
  • the color filter provided in the color filter layer 107 may be either an organic material type or an inorganic material type.
  • Organic material color filters include, for example, dyeing and coloring systems using synthetic resins or natural proteins, and pigment-containing systems using pigment pigments or dye pigments.
  • the inorganic material type color filter materials such as TiO2, ZnS, SiN, MgF2, SiO2, and Low-k are used, for example.
  • techniques such as vapor deposition, sputtering, and CVD (Chemical Vapor Deposition) film formation are used to form an inorganic material color filter.
  • the interlayer film 102 can prevent the influence of the color filter layer 107 on the surface plasmon at the interface between the interlayer film 102 and the narrowband filter layer 103.
  • FIG. 17 schematically shows how flare occurs in the imaging apparatus 10 using the imaging element 12A of FIG. 2 in which the color filter layer 107 is not provided.
  • the image sensor 12A is provided on the semiconductor chip 203.
  • the semiconductor chip 203 is mounted on the substrate 213, and the periphery is covered with a seal glass 211 and a resin 212.
  • transmitted the lens 201 and IR cut filter 202 provided in the optical system 11 of FIG. 1, and the seal glass 211 injects into the image pick-up element 12A.
  • the narrow band filter NB of the narrow band filter layer 103 of the image sensor 12A is formed of a plasmon filter
  • a metal conductive thin film is formed on the plasmon filter. Since this conductor thin film has a high reflectance, it easily reflects light having a wavelength other than the transmission band. Then, a part of the light reflected by the conductive thin film is reflected by the seal glass 211, the IR cut filter 202, or the lens 201 as shown in FIG. 17, for example, and reenters the imaging element 12A. Flare is generated by the re-incident light.
  • a plasmon filter using a hole array structure has a low aperture ratio, so flare is likely to occur.
  • an antireflection film made of a metal different from the conductor thin film or a material having a high dielectric constant.
  • the plasmon filter uses surface plasmon resonance, and when such an antireflection film touches the surface of the conductive thin film, the characteristics of the plasmon filter deteriorate or it is difficult to obtain desired characteristics. There is a possibility.
  • FIG. 18 schematically shows how flare occurs in the imaging apparatus 10 using the imaging element 12B of FIG. 16 provided with the color filter layer 107.
  • FIG. 18 differs from the example of FIG. 17 in that a semiconductor chip 221 is provided instead of the semiconductor chip 203.
  • the semiconductor chip 221 is different from the semiconductor chip 203 in that an image sensor 12B is provided instead of the image sensor 12A.
  • the transmission filter P is provided above the narrow band filter NB (on the light incident side). Therefore, the light incident on the image sensor 12B is incident on the narrowband filter NB after a predetermined wavelength band is blocked by the transmission filter P, so that the amount of light incident on the narrowband filter NB is suppressed. As a result, the amount of light reflected by the conductive thin film of the narrow band filter NB (plasmon filter) is also reduced, so that flare is reduced.
  • 19 to 21 show examples of spectral characteristics of the narrow band filter NB and spectral characteristics of the transmission filter P disposed above the narrow band filter NB.
  • the horizontal axis indicates the wavelength (unit: nm), and the vertical axis indicates the sensitivity (unit: arbitrary unit).
  • a line L41 in FIG. 19 indicates the spectral characteristic of the narrow band filter NB.
  • the peak wavelength of the spectral characteristics of the narrow band filter NB is about 430 nm.
  • a line L42 indicates the spectral characteristic of the low-pass transmission filter P.
  • a line L43 indicates the spectral characteristic of the high-pass transmission filter P.
  • a line L44 indicates the spectral characteristics of the bandpass transmission filter P.
  • the sensitivity of any transmission filter P exceeds the sensitivity of the narrow band filter NB in a predetermined wavelength band including the peak wavelength of the spectral characteristics of the narrow band filter NB. Therefore, regardless of which transmission filter P is used, the amount of incident light incident on the narrowband filter NB can be reduced without substantially attenuating the light in the transmission band of the narrowband filter NB.
  • the 20 shows a spectral characteristic of the narrow band filter NB.
  • the peak wavelength of the spectral characteristics of the narrow band filter NB is about 530 nm.
  • a line L52 indicates the spectral characteristics of the low-pass transmission filter P.
  • a line L53 indicates the spectral characteristic of the high-pass transmission filter P.
  • a line L54 indicates the spectral characteristic of the bandpass transmission filter P.
  • the sensitivity of any of the transmission filters exceeds the sensitivity of the narrow band filter NB in a predetermined wavelength band including the peak wavelength of the spectral characteristics of the narrow band filter NB. Therefore, regardless of which transmission filter P is used, the amount of incident light incident on the narrowband filter NB can be reduced without substantially attenuating the light in the transmission band of the narrowband filter NB.
  • the 21 represents the spectral characteristic of the narrow band filter NB.
  • the peak wavelength in the plasmon mode of the spectral characteristics of the narrow band filter NB is about 670 nm.
  • a line L62 indicates the spectral characteristic of the low-pass transmission filter P.
  • a line L63 indicates the spectral characteristic of the high-pass transmission filter P.
  • a line L64 indicates the spectral characteristic of the bandpass transmission filter P.
  • the sensitivity of any transmission filter P exceeds the sensitivity of the narrow band filter NB in a predetermined wavelength band including the peak wavelength of the plasmon mode of about 630 nm or more, which is the cutoff wavelength of the spectral characteristics of the narrow band filter NB.
  • the amount of incident light incident on the narrow band filter NB can be reduced without substantially attenuating light in the transmission band in the plasmon mode of the narrow band filter NB.
  • the use of the high-pass or band-pass type transmission filter P is more preferable as a narrow-band filter characteristic because it can block light in the wavelength band of the waveguide mode of the narrow-band filter NB.
  • the transmission band of the red filter R, the green filter G, or the blue filter B includes the transmission band of the lower narrowband filter NB, these filters may be used as the transmission filter P.
  • the narrow band filter NB is provided in only some of the pixels 51 , but it is also possible to provide the narrow band filter NB in all the pixels 51.
  • a transmission filter P having a transmission band including the transmission band of the narrow band filter NB of the pixel 51 may be provided in the color filter layer 107 for each pixel 51.
  • the color filter color combination of the color filter layer 107 is not limited to the above-described example, and can be arbitrarily changed.
  • the transmission filter P may not be provided above the narrow band filter NB, or a dummy filter that transmits light of all wavelengths may be provided. Good.
  • FIG. 22 schematically illustrates a configuration example of a cross section of an image sensor 12 ⁇ / b> C that is the third embodiment of the image sensor 12.
  • portions corresponding to the image sensor 12A of FIG. 3 are denoted by the same reference numerals, and the description thereof is omitted as appropriate.
  • the image sensor 12C is different from the image sensor 12A in that a filter layer 108 is provided instead of the narrowband filter layer 103. Further, the image sensor 12C is provided with a narrowband filter NB and color filters (for example, a red filter R, a green filter G, and a blue filter B) in the same filter layer 108 as compared with the image sensor 12B of FIG. The point is different.
  • a filter layer 108 is provided instead of the narrowband filter layer 103.
  • color filters for example, a red filter R, a green filter G, and a blue filter B
  • the color filter layer 107 can be omitted.
  • a color filter layer may be laminated between the on-chip microlens 101 and the interlayer film 102, as with the image sensor 12B.
  • the above-described transmission filter P is provided in the color filter layer.
  • the color filter is provided in the filter layer 108, no filter is provided in the color filter layer, or the same as the dummy filter or the filter layer 108 that transmits light of all wavelengths. Color filters for colors are provided.
  • the case where the image pickup device 12C of FIG. 22 is used as the image pickup device 12 of the image pickup apparatus 10 will be described as an example.
  • FIG. 23 shows a configuration example of the pixel array 31 of the image sensor 12C.
  • the pixel array 31 is provided on a predetermined surface of the semiconductor chip 301 including the image sensor 12C.
  • the pixel array 31 is divided into an effective area 31A arranged in the center and a peripheral area 31B surrounding the periphery of the effective area 31A.
  • the effective area 31A is an area used for image acquisition.
  • any one of the red filter R, the green filter G, and the blue filter B that transmits light of different wavelengths is provided for each pixel 51 in the effective region 31A.
  • the R pixel provided with the red filter R, the G pixel provided with the green filter G, and the B pixel provided with the blue filter are arranged in the effective region 31A. Then, an image to be displayed is generated based on the pixel signal output from each pixel 51 in the effective area 31A.
  • the peripheral region 31B is a region for acquiring, for example, more types of color spectra than the effective region 31A.
  • a narrow band filter NB is provided for each pixel 51 in the peripheral region 31B.
  • the multispectral pixel MS provided with the narrow band filter NB is arranged in the peripheral region 31B.
  • the transmission band of the narrow band filter NB is not limited to one type, and is set to two or more types as necessary. Accordingly, the wavelength band of light detected by the multispectral pixel MS (hereinafter referred to as a detection band) is set to two or more types as necessary.
  • the pixel signal output from the multispectral pixel MS is independent of the pixel signals output from the other pixels (for example, R pixel, G pixel, B pixel) in the effective region 31A and the peripheral region 31B. Used.
  • the former pixel signal and the latter pixel signal are not used for synthesizing and interpolating between each other.
  • the multispectral pixel MS arranged in the peripheral region 31B. Further, since the multispectral pixel MS is not provided in the effective region 31A, the resolution of the image generated by the pixel signal in the effective region 31A does not decrease.
  • the multispectral pixels MS are arranged at substantially the same image height with reference to the image height center C1 of a lens (not shown) constituting the optical system 11 of FIG. 1 that substantially coincides with the center of the effective region 31A.
  • the multispectral pixels MS are arranged at positions symmetrical with respect to the image height center C1 in the upper left corner region R1 and the lower right corner region R4 of the peripheral region 31B.
  • the multispectral pixels MS are arranged at positions symmetrical with respect to the image height center C1.
  • a narrowband filter NB having a similar transmission band is provided for multispectral pixels MS having substantially the same image height.
  • the detection bands of the multispectral pixels MS having substantially the same image height are equalized.
  • the spectral characteristics of lens aberration in the same wavelength band can be detected at the same image height position in the peripheral region 31B.
  • a pixel 51 that is unlikely to adversely affect the detection accuracy of the multispectral pixel MS is arranged except when the multispectral pixels MS of the same detection band are arranged.
  • a pixel 51 having a sensitivity equal to or lower than the multispectral pixel MS is arranged.
  • FIG. 24 is a graph showing an example of spectral characteristics of the multispectral pixel MS and a pixel 51 (hereinafter referred to as an adjacent pixel) adjacent to the multispectral pixel MS in the vertical direction or the horizontal direction.
  • the horizontal axis of the graph indicates the wavelength (unit: nm), and the vertical axis indicates the output level.
  • the solid line waveform indicates the spectral characteristics of the multispectral pixel MS, and the dotted line waveform indicates the spectral characteristics of the adjacent pixels.
  • a pixel 51 having a sensitivity equal to or lower than the multispectral pixel MS is arranged as an adjacent pixel around the multispectral pixel MS. That is, for example, an optical filter having a spectral characteristic with a transmittance equal to or lower than the narrow band filter NB provided in the multispectral pixel MS is provided in the adjacent pixel. More specifically, for example, an optical filter having spectral characteristics in which the transmittance at the peak wavelength is equal to or lower than the transmittance at the peak wavelength of the narrowband filter NB provided in the multispectral pixel MS is provided in the adjacent pixel.
  • the amount of light leaking from the adjacent pixel to the multispectral pixel MS can be reduced, the spectral characteristics of the multispectral pixel MS are deteriorated due to color mixing, attenuation, etc., and the detection accuracy of narrowband light is reduced. Is suppressed.
  • the green filter G has a higher transmittance than the red filter R and the blue filter G. Therefore, the G pixel has higher sensitivity than the R pixel and the B pixel, and the output level for the same incident light is increased. Therefore, for example, as shown in FIG. 25, R pixels or B are placed above, below, and right and left of the multispectral pixel MS, as shown in FIG. 26, rather than arranging G pixels above, below, and right and left of the multispectral pixel MS. It is desirable to arrange the pixels.
  • peak wavelength difference W1 (FIG. 24) between the peak wavelength of the multispectral pixel MS and the peak wavelength of the adjacent pixel is larger.
  • a pixel 51 having a large difference in detection band from the multispectral pixel MS is arranged around the multispectral pixel MS.
  • FIG. 27 is a graph showing an example of the spectral characteristics of the multispectral pixel MS and adjacent pixels, as in FIG.
  • a pixel 51 whose detection band difference from the multispectral pixel MS is equal to or greater than a predetermined wavelength is arranged around the multispectral pixel MS as an adjacent pixel. That is, for example, an adjacent filter is provided with an optical filter having spectral characteristics such that a transmission band difference from the narrowband filter NB provided in the multispectral pixel MS is equal to or greater than a predetermined wavelength.
  • a pixel 51 whose peak wavelength difference W2 from the multispectral pixel MS is equal to or greater than a predetermined wavelength is arranged around the multispectral pixel MS as an adjacent pixel. That is, for example, an optical filter having spectral characteristics in which a difference in peak wavelength from the narrowband filter NB provided in the multispectral pixel MS is a predetermined wavelength or more (for example, 20 nm or more) is provided in the adjacent pixel.
  • the amount of light leaking from adjacent pixels within the detection band range of the multispectral pixel MS can be reduced, and the spectral characteristics of the multispectral pixel MS deteriorate due to color mixing, attenuation, etc. A decrease in detection accuracy is suppressed.
  • the pixel 51 having a sensitivity lower than that of the multispectral pixel and having a sensitivity difference as large as possible is used as the adjacent pixel.
  • FIG. 28 is a graph showing an example of the spectral characteristics of the multispectral pixel MS and adjacent pixels, similarly to FIGS. 24 and 27.
  • the output level at the peak wavelength of the multispectral pixel MS and the output level at the peak wavelength of the adjacent pixel is used as an adjacent pixel. That is, for example, an optical filter having spectral characteristics in which the transmittance at the peak wavelength is lower than the transmittance at the peak wavelength of the narrowband filter NB provided in the multispectral pixel MS, and the difference between them is equal to or greater than a predetermined threshold. Is provided.
  • the amount of light leaking from the adjacent pixel to the multispectral pixel MS can be reduced, the spectral characteristics of the multispectral pixel MS are deteriorated due to color mixing, attenuation, etc., and the detection accuracy of narrowband light is reduced. Is suppressed.
  • the optical filter provided in the adjacent pixel may be any one of the red filter R, the green filter G, and the blue filter G provided in the pixel 51 in the effective region 31A, or other optical It may be a filter.
  • Other optical filters include, for example, a color filter that transmits light of colors other than red, green, and blue, and a narrowband filter NB having a transmission band different from that of the narrowband filter NB provided in the multispectral pixel MS. Used. In the latter case, multispectral pixels MS having different detection bands are adjacent to each other.
  • an optical black region may be provided by providing a light shielding film on the light incident side of each pixel 51.
  • the light-shielding film indicated by hatching is provided on the pixels 51 around the multispectral pixel MS, whereas the light-shielding film is not provided in the multispectral pixel MS.
  • the amount of light leaking from the adjacent pixel to the multispectral pixel MS can be reduced, and the spectral characteristics of the multispectral pixel MS are deteriorated due to color mixing, attenuation, etc., and the detection accuracy of narrowband light is prevented from being lowered. Is done.
  • FIG. 30 shows an example in which the density of the multispectral pixel MS is 1/9 pixel. That is, one multispectral pixel MS is arranged in the center of a pixel block 351 composed of nine pixels 51 of 3 rows ⁇ 3 columns surrounded by a dotted line.
  • FIG. 31 shows an example in which the density of the multispectral pixel MS is 1/7 pixel. That is, one multispectral pixel MS is arranged at the center of a pixel block 352 composed of seven pixels 51 surrounded by a dotted line. In this example, two pixels 51 are adjacent to each other above and below the multispectral pixel MS.
  • FIG. 32 shows an example in which the density of the multispectral pixel MS is 1/6 pixel. That is, two multispectral pixels MS are arranged in the horizontal direction at the center in a pixel block 353 composed of 12 pixels of 3 rows ⁇ 4 columns surrounded by a dotted line.
  • FIG. 33 shows an example in which the density of the multispectral pixel MS is 1/4 pixel. That is, four multispectral pixels MS are arranged in 2 rows ⁇ 2 columns in the center in a pixel block 354 composed of 16 pixels of 4 rows ⁇ 4 columns surrounded by a dotted line.
  • the image sensor 12B of FIG. it is also possible to use the image sensor 12B of FIG. That is, for example, the color filter and the narrow band filter NB may be provided in different layers.
  • the above-described example of the pixel arrangement of the peripheral region 31B is an example thereof, and other pixel arrangements can be adopted.
  • peripheral region 31B does not necessarily have to be provided in the four directions of the effective region 31A, and may be provided in one to three directions of the effective region 31A.
  • the transmission band of an optical filter (for example, a color filter, a narrow band filter, etc.) used in the present technology is not necessarily limited to the wavelength band of visible light, for example, an optical that transmits ultraviolet light or infrared light. It is also possible to use a filter.
  • the present technology can be applied not only to the back-illuminated CMOS image sensor described above, but also to other image pickup devices using a plasmon filter.
  • the present technology can be applied to a front-illuminated CMOS image sensor, a CCD (Charge Coupled Device) image sensor, an image sensor having a photoconductor structure including an organic photoelectric conversion film, a quantum dot structure, and the like.
  • CCD Charge Coupled Device
  • the present technology can be applied to, for example, a stacked solid-state imaging device shown in FIG.
  • the solid-state imaging device 1010 has one die (semiconductor substrate) 1011 as shown in FIG.
  • the die 1011 is mounted with a pixel area 1012 in which pixels are arranged in an array, a control circuit 1013 for driving the pixel and other various controls, and a logic circuit 1014 for signal processing.
  • FIG. 34B and FIG. 34C show schematic configuration examples of the stacked solid-state imaging device.
  • the solid-state imaging device 1020 is configured by stacking and electrically connecting two dies, a sensor die 1021 and a logic die 1022, as one semiconductor chip. ing.
  • the sensor die 1021 includes a pixel region 1012 and a control circuit 1013
  • the logic die 1022 includes a logic circuit 1014 including a signal processing circuit that performs signal processing.
  • the pixel region 1012 is mounted on the sensor die 1021, and the control circuit 1013 and the logic circuit 1014 are mounted on the logic die 1024.
  • the present technology can also be applied to an image sensor using a narrow band filter such as a metal thin film filter other than the plasmon filter.
  • a narrow band filter such as a metal thin film filter other than the plasmon filter.
  • an optical filter using a photonic crystal using a semiconductor material is also conceivable.
  • the present technology can be applied to various cases of sensing light such as visible light, infrared light, ultraviolet light, and X-ray, as shown in FIG.
  • Devices for taking images for viewing such as digital cameras and mobile devices with camera functions
  • Devices used for traffic such as in-vehicle sensors that capture the back, surroundings, and interiors of vehicles, surveillance cameras that monitor traveling vehicles and roads, and ranging sensors that measure distances between vehicles, etc.
  • Equipment used for home appliances such as TVs, refrigerators, air conditioners, etc. to take pictures and operate the equipment according to the gestures ⁇ Endoscopes, equipment that performs blood vessel photography by receiving infrared light, etc.
  • Equipment used for medical and health care ⁇ Security equipment such as security surveillance cameras and personal authentication cameras ⁇ Skin measuring instrument for photographing skin and scalp photography Such as a microscope to do beauty Equipment used for sports such as action cameras and wearable cameras for sports applications etc.
  • Equipment used for agriculture such as cameras for monitoring the condition of fields and crops
  • the wavelength band (detection band) of the light detected by each pixel 51 of the imaging device 10 can be adjusted by adjusting the transmission band of the narrow band filter NB of each pixel 51 of the imaging device 10 of FIG. .
  • the imaging device 10 can be used for various uses by setting the detection band of each pixel 51 appropriately.
  • FIG. 36 shows an example of a detection band when detecting the taste and freshness of food.
  • the peak wavelength of the detection band is in the range of 580 to 630 nm, and the half width is in the range of 30 to 50 nm.
  • the peak wavelength of the detection band is 980 nm, and the half width is in the range of 50 to 100 nm.
  • the peak wavelength of the detection band is in the range of 650 to 700 nm, and the half-value width is in the range of 50 to 100 nm.
  • FIG. 37 shows an example of a detection band in the case of detecting the sugar content and moisture of the fruit.
  • the peak wavelength of the detection band in the case of detecting the pulp optical path length indicating the sugar content of raiden, a kind of melon is 880 nm, and the half width is in the range of 20 to 30 nm.
  • the peak wavelength of the detection band is 910 nm, and the half width is in the range of 40 to 50 nm.
  • the peak wavelength of the detection band when detecting sucrose showing the sugar content of Leiden Red, another varieties of melons, is 915 nm, and the half width is in the range of 40 to 50 nm.
  • the peak wavelength of the detection band in the case of detecting water indicating the sugar content of raiden red is 955 nm, and the half width is in the range of 20 to 30 nm.
  • the peak wavelength of the detection band is 912 nm, and the half width is in the range of 40 to 50 nm.
  • the peak wavelength of the detection band in the case of detecting water showing the water of mandarin orange is 844 nm, and the half width is 30 nm.
  • the peak wavelength of the detection band in the case of detecting sucrose showing the sugar content of mandarin orange is 914 nm, and the half width is in the range of 40 to 50 nm.
  • FIG. 38 shows an example of a detection band when plastics are sorted.
  • the peak wavelength of the detection band is 1669 nm, and the half width is in the range of 30 to 50 nm.
  • the peak wavelength of the detection band is 1688 nm, and the half width is in the range of 30 to 50 nm.
  • the peak wavelength of the detection band is 1735 nm, and the half width is in the range of 30 to 50 nm.
  • the peak wavelength of the detection band is in the range of 1716 to 1726 nm, and the half width is in the range of 30 to 50 nm.
  • PP Polyepropylene
  • the peak wavelength of the detection band is in the range of 1716 to 1735 nm, and the half width is in the range of 30 to 50 nm.
  • the present technology can be applied to freshness management of cut flowers.
  • the present technology can be applied to inspection of foreign matters mixed in food.
  • the present technology can be applied to detection of foreign matters such as skin, shells, stones, leaves, branches, and wood fragments mixed in nuts and fruits such as almonds, blueberries, and walnuts.
  • the present technology can be applied to detection of foreign matters such as plastic pieces mixed in processed foods and beverages.
  • the present technology can be applied to detection of NDVI (Normalized Difference Difference Vegetation Index) that is an index of vegetation.
  • NDVI Normalized Difference Difference Vegetation Index
  • the present technology is based on either or both of a spectral shape near a wavelength of 580 nm derived from hemoglobin of human skin and a spectral shape near a wavelength of 960 nm derived from melanin contained in human skin. Can be applied to human detection.
  • the present technology can be applied to biometric detection (biometric authentication), user interface, anti-counterfeiting such as a signature, and monitoring.
  • the technology (present technology) according to the present disclosure may be applied to an endoscopic surgery system.
  • FIG. 39 is a diagram illustrating an example of a schematic configuration of an endoscopic surgery system to which the technology (present technology) according to the present disclosure can be applied.
  • FIG. 39 shows a state where an operator (doctor) 11131 is performing an operation on a patient 11132 on a patient bed 11133 using an endoscopic operation system 11000.
  • an endoscopic surgery system 11000 includes an endoscope 11100, other surgical instruments 11110 such as an insufflation tube 11111 and an energy treatment instrument 11112, and a support arm device 11120 that supports the endoscope 11100. And a cart 11200 on which various devices for endoscopic surgery are mounted.
  • the endoscope 11100 includes a lens barrel 11101 in which a region having a predetermined length from the distal end is inserted into the body cavity of the patient 11132, and a camera head 11102 connected to the proximal end of the lens barrel 11101.
  • a lens barrel 11101 in which a region having a predetermined length from the distal end is inserted into the body cavity of the patient 11132, and a camera head 11102 connected to the proximal end of the lens barrel 11101.
  • an endoscope 11100 configured as a so-called rigid mirror having a rigid lens barrel 11101 is illustrated, but the endoscope 11100 may be configured as a so-called flexible mirror having a flexible lens barrel. Good.
  • An opening into which the objective lens is fitted is provided at the tip of the lens barrel 11101.
  • a light source device 11203 is connected to the endoscope 11100, and light generated by the light source device 11203 is guided to the tip of the lens barrel by a light guide extending inside the lens barrel 11101. Irradiation is performed toward the observation target in the body cavity of the patient 11132 through the lens.
  • the endoscope 11100 may be a direct endoscope, a perspective mirror, or a side endoscope.
  • An optical system and an image sensor are provided inside the camera head 11102, and reflected light (observation light) from the observation target is condensed on the image sensor by the optical system. Observation light is photoelectrically converted by the imaging element, and an electrical signal corresponding to the observation light, that is, an image signal corresponding to the observation image is generated.
  • the image signal is transmitted to a camera control unit (CCU: “Camera Control Unit”) 11201 as RAW data.
  • the CCU 11201 is configured by a CPU (Central Processing Unit), a GPU (Graphics Processing Unit), and the like, and comprehensively controls the operations of the endoscope 11100 and the display device 11202. Further, the CCU 11201 receives an image signal from the camera head 11102 and performs various kinds of image processing for displaying an image based on the image signal, such as development processing (demosaic processing), for example.
  • image processing for example, development processing (demosaic processing
  • the display device 11202 displays an image based on an image signal subjected to image processing by the CCU 11201 under the control of the CCU 11201.
  • the light source device 11203 includes a light source such as an LED (light emitting diode), and supplies irradiation light to the endoscope 11100 when photographing a surgical site or the like.
  • a light source such as an LED (light emitting diode)
  • the input device 11204 is an input interface for the endoscopic surgery system 11000.
  • a user can input various information and instructions to the endoscopic surgery system 11000 via the input device 11204.
  • the user inputs an instruction to change the imaging conditions (type of irradiation light, magnification, focal length, etc.) by the endoscope 11100.
  • the treatment instrument control device 11205 controls the drive of the energy treatment instrument 11112 for tissue ablation, incision, blood vessel sealing, or the like.
  • the pneumoperitoneum device 11206 passes gas into the body cavity via the pneumoperitoneum tube 11111.
  • the recorder 11207 is an apparatus capable of recording various types of information related to surgery.
  • the printer 11208 is a device that can print various types of information related to surgery in various formats such as text, images, or graphs.
  • the light source device 11203 that supplies the irradiation light when the surgical site is imaged to the endoscope 11100 can be configured by, for example, a white light source configured by an LED, a laser light source, or a combination thereof.
  • a white light source is configured by a combination of RGB laser light sources, the output intensity and output timing of each color (each wavelength) can be controlled with high accuracy. Therefore, the light source device 11203 adjusts the white balance of the captured image. It can be carried out.
  • the driving of the light source device 11203 may be controlled so as to change the intensity of the output light every predetermined time. Synchronously with the timing of changing the intensity of the light, the drive of the image sensor of the camera head 11102 is controlled to acquire an image in a time-sharing manner, and the image is synthesized, so that high dynamic without so-called blackout and overexposure A range image can be generated.
  • the light source device 11203 may be configured to be able to supply light of a predetermined wavelength band corresponding to special light observation.
  • special light observation for example, by utilizing the wavelength dependence of light absorption in body tissue, the surface of the mucous membrane is irradiated by irradiating light in a narrow band compared to irradiation light (ie, white light) during normal observation.
  • a so-called narrow-band light observation (Narrow Band Imaging) is performed in which a predetermined tissue such as a blood vessel is imaged with high contrast.
  • fluorescence observation may be performed in which an image is obtained by fluorescence generated by irradiating excitation light.
  • the body tissue is irradiated with excitation light to observe fluorescence from the body tissue (autofluorescence observation), or a reagent such as indocyanine green (ICG) is locally administered to the body tissue and applied to the body tissue. It is possible to obtain a fluorescence image by irradiating excitation light corresponding to the fluorescence wavelength of the reagent.
  • the light source device 11203 can be configured to be able to supply narrowband light and / or excitation light corresponding to such special light observation.
  • FIG. 40 is a block diagram illustrating an example of a functional configuration of the camera head 11102 and the CCU 11201 illustrated in FIG.
  • the camera head 11102 includes a lens unit 11401, an imaging unit 11402, a drive unit 11403, a communication unit 11404, and a camera head control unit 11405.
  • the CCU 11201 includes a communication unit 11411, an image processing unit 11412, and a control unit 11413.
  • the camera head 11102 and the CCU 11201 are connected to each other by a transmission cable 11400 so that they can communicate with each other.
  • the lens unit 11401 is an optical system provided at a connection portion with the lens barrel 11101. Observation light taken from the tip of the lens barrel 11101 is guided to the camera head 11102 and enters the lens unit 11401.
  • the lens unit 11401 is configured by combining a plurality of lenses including a zoom lens and a focus lens.
  • the imaging device constituting the imaging unit 11402 may be one (so-called single plate type) or plural (so-called multi-plate type).
  • image signals corresponding to RGB may be generated by each imaging element, and a color image may be obtained by combining them.
  • the imaging unit 11402 may be configured to include a pair of imaging elements for acquiring right-eye and left-eye image signals corresponding to 3D (dimensional) display. By performing the 3D display, the operator 11131 can more accurately grasp the depth of the living tissue in the surgical site.
  • a plurality of lens units 11401 can be provided corresponding to each imaging element.
  • the imaging unit 11402 is not necessarily provided in the camera head 11102.
  • the imaging unit 11402 may be provided inside the lens barrel 11101 immediately after the objective lens.
  • the driving unit 11403 is configured by an actuator, and moves the zoom lens and the focus lens of the lens unit 11401 by a predetermined distance along the optical axis under the control of the camera head control unit 11405. Thereby, the magnification and the focus of the image captured by the imaging unit 11402 can be adjusted as appropriate.
  • the communication unit 11404 is configured by a communication device for transmitting and receiving various types of information to and from the CCU 11201.
  • the communication unit 11404 transmits the image signal obtained from the imaging unit 11402 as RAW data to the CCU 11201 via the transmission cable 11400.
  • the communication unit 11404 receives a control signal for controlling driving of the camera head 11102 from the CCU 11201 and supplies the control signal to the camera head control unit 11405.
  • the control signal includes, for example, information for designating the frame rate of the captured image, information for designating the exposure value at the time of imaging, and / or information for designating the magnification and focus of the captured image. Contains information about the condition.
  • the imaging conditions such as the frame rate, exposure value, magnification, and focus may be appropriately specified by the user, or may be automatically set by the control unit 11413 of the CCU 11201 based on the acquired image signal. Good.
  • a so-called AE (Auto-Exposure) function, AF (Auto-Focus) function, and AWB (Auto-White Balance) function are mounted on the endoscope 11100.
  • the camera head control unit 11405 controls driving of the camera head 11102 based on a control signal from the CCU 11201 received via the communication unit 11404.
  • the communication unit 11411 is configured by a communication device for transmitting and receiving various types of information to and from the camera head 11102.
  • the communication unit 11411 receives an image signal transmitted from the camera head 11102 via the transmission cable 11400.
  • the communication unit 11411 transmits a control signal for controlling driving of the camera head 11102 to the camera head 11102.
  • the image signal and the control signal can be transmitted by electrical communication, optical communication, or the like.
  • the image processing unit 11412 performs various types of image processing on the image signal that is RAW data transmitted from the camera head 11102.
  • the control unit 11413 performs various types of control related to imaging of the surgical site by the endoscope 11100 and display of a captured image obtained by imaging of the surgical site. For example, the control unit 11413 generates a control signal for controlling driving of the camera head 11102.
  • control unit 11413 causes the display device 11202 to display a picked-up image showing the surgical part or the like based on the image signal subjected to the image processing by the image processing unit 11412.
  • the control unit 11413 may recognize various objects in the captured image using various image recognition techniques.
  • the control unit 11413 detects surgical tools such as forceps, specific biological parts, bleeding, mist when using the energy treatment tool 11112, and the like by detecting the shape and color of the edge of the object included in the captured image. Can be recognized.
  • the control unit 11413 may display various types of surgery support information superimposed on the image of the surgical unit using the recognition result. Surgery support information is displayed in a superimposed manner and presented to the operator 11131, thereby reducing the burden on the operator 11131 and allowing the operator 11131 to proceed with surgery reliably.
  • the transmission cable 11400 for connecting the camera head 11102 and the CCU 11201 is an electric signal cable corresponding to electric signal communication, an optical fiber corresponding to optical communication, or a composite cable thereof.
  • communication is performed by wire using the transmission cable 11400.
  • communication between the camera head 11102 and the CCU 11201 may be performed wirelessly.
  • the technology according to the present disclosure can be applied to, for example, the camera head 11102 and the imaging unit 11402 of the camera head 11102 among the configurations described above.
  • the imaging element 12 in FIG. 1 can be applied to the imaging unit 11402.
  • the technology according to the present disclosure is a device that is mounted on any type of mobile body such as an automobile, an electric vehicle, a hybrid electric vehicle, a motorcycle, a bicycle, a personal mobility, an airplane, a drone, a ship, and a robot. It may be realized.
  • FIG. 41 is a block diagram illustrating a schematic configuration example of a vehicle control system that is an example of a mobile control system to which the technology according to the present disclosure can be applied.
  • the vehicle control system 12000 includes a plurality of electronic control units connected via a communication network 12001.
  • the vehicle control system 12000 includes a drive system control unit 12010, a body system control unit 12020, an outside vehicle information detection unit 12030, an in-vehicle information detection unit 12040, and an integrated control unit 12050.
  • a microcomputer 12051, a sound image output unit 12052, and an in-vehicle network I / F (Interface) 12053 are illustrated as a functional configuration of the integrated control unit 12050.
  • the drive system control unit 12010 controls the operation of the device related to the drive system of the vehicle according to various programs.
  • the drive system control unit 12010 includes a driving force generator for generating a driving force of a vehicle such as an internal combustion engine or a driving motor, a driving force transmission mechanism for transmitting the driving force to wheels, and a steering angle of the vehicle. It functions as a control device such as a steering mechanism that adjusts and a braking device that generates a braking force of the vehicle.
  • the body system control unit 12020 controls the operation of various devices mounted on the vehicle body according to various programs.
  • the body system control unit 12020 functions as a keyless entry system, a smart key system, a power window device, or a control device for various lamps such as a headlamp, a back lamp, a brake lamp, a blinker, or a fog lamp.
  • the body control unit 12020 can be input with radio waves transmitted from a portable device that substitutes for a key or signals from various switches.
  • the body system control unit 12020 receives input of these radio waves or signals, and controls a door lock device, a power window device, a lamp, and the like of the vehicle.
  • the vehicle outside information detection unit 12030 detects information outside the vehicle on which the vehicle control system 12000 is mounted.
  • the imaging unit 12031 is connected to the vehicle exterior information detection unit 12030.
  • the vehicle exterior information detection unit 12030 causes the imaging unit 12031 to capture an image outside the vehicle and receives the captured image.
  • the vehicle outside information detection unit 12030 may perform an object detection process or a distance detection process such as a person, a car, an obstacle, a sign, or a character on a road surface based on the received image.
  • the imaging unit 12031 is an optical sensor that receives light and outputs an electrical signal corresponding to the amount of received light.
  • the imaging unit 12031 can output an electrical signal as an image, or can output it as distance measurement information. Further, the light received by the imaging unit 12031 may be visible light or invisible light such as infrared rays.
  • the vehicle interior information detection unit 12040 detects vehicle interior information.
  • a driver state detection unit 12041 that detects a driver's state is connected to the in-vehicle information detection unit 12040.
  • the driver state detection unit 12041 includes, for example, a camera that images the driver, and the vehicle interior information detection unit 12040 determines the degree of fatigue or concentration of the driver based on the detection information input from the driver state detection unit 12041. It may be calculated or it may be determined whether the driver is asleep.
  • the microcomputer 12051 calculates a control target value of the driving force generator, the steering mechanism, or the braking device based on the information inside / outside the vehicle acquired by the vehicle outside information detection unit 12030 or the vehicle interior information detection unit 12040, and the drive system control unit A control command can be output to 12010.
  • the microcomputer 12051 realizes ADAS (Advanced Driver Assistance System) functions including vehicle collision avoidance or impact mitigation, following traveling based on inter-vehicle distance, vehicle speed maintaining traveling, vehicle collision warning, or vehicle lane departure warning. It is possible to perform cooperative control for the purpose.
  • ADAS Advanced Driver Assistance System
  • the microcomputer 12051 controls the driving force generator, the steering mechanism, the braking device, and the like based on the information around the vehicle acquired by the vehicle exterior information detection unit 12030 or the vehicle interior information detection unit 12040. It is possible to perform cooperative control for the purpose of automatic driving that autonomously travels without depending on the operation.
  • the microcomputer 12051 can output a control command to the body system control unit 12020 based on information outside the vehicle acquired by the vehicle outside information detection unit 12030.
  • the microcomputer 12051 controls the headlamp according to the position of the preceding vehicle or the oncoming vehicle detected by the outside information detection unit 12030, and performs cooperative control for the purpose of anti-glare, such as switching from a high beam to a low beam. It can be carried out.
  • the sound image output unit 12052 transmits an output signal of at least one of sound and image to an output device capable of visually or audibly notifying information to a vehicle occupant or the outside of the vehicle.
  • an audio speaker 12061, a display unit 12062, and an instrument panel 12063 are illustrated as output devices.
  • the display unit 12062 may include at least one of an on-board display and a head-up display, for example.
  • FIG. 42 is a diagram illustrating an example of an installation position of the imaging unit 12031.
  • the imaging unit 12031 includes imaging units 12101, 12102, 12103, 12104, and 12105.
  • the imaging units 12101, 12102, 12103, 12104, and 12105 are provided, for example, at positions such as a front nose, a side mirror, a rear bumper, a back door, and an upper part of a windshield in the vehicle interior of the vehicle 12100.
  • the imaging unit 12101 provided in the front nose and the imaging unit 12105 provided in the upper part of the windshield in the vehicle interior mainly acquire an image in front of the vehicle 12100.
  • the imaging units 12102 and 12103 provided in the side mirror mainly acquire an image of the side of the vehicle 12100.
  • the imaging unit 12104 provided in the rear bumper or the back door mainly acquires an image behind the vehicle 12100.
  • the imaging unit 12105 provided on the upper part of the windshield in the passenger compartment is mainly used for detecting a preceding vehicle or a pedestrian, an obstacle, a traffic light, a traffic sign, a lane, or the like.
  • FIG. 42 shows an example of the shooting range of the imaging units 12101 to 12104.
  • the imaging range 12111 indicates the imaging range of the imaging unit 12101 provided in the front nose
  • the imaging ranges 12112 and 12113 indicate the imaging ranges of the imaging units 12102 and 12103 provided in the side mirrors, respectively
  • the imaging range 12114 The imaging range of the imaging part 12104 provided in the rear bumper or the back door is shown. For example, by superimposing the image data captured by the imaging units 12101 to 12104, an overhead image when the vehicle 12100 is viewed from above is obtained.
  • At least one of the imaging units 12101 to 12104 may have a function of acquiring distance information.
  • at least one of the imaging units 12101 to 12104 may be a stereo camera including a plurality of imaging elements, or may be an imaging element having pixels for phase difference detection.
  • the microcomputer 12051 based on the distance information obtained from the imaging units 12101 to 12104, the distance to each three-dimensional object in the imaging range 12111 to 12114 and the temporal change in this distance (relative speed with respect to the vehicle 12100).
  • a predetermined speed for example, 0 km / h or more
  • the microcomputer 12051 can set an inter-vehicle distance to be secured in advance before the preceding vehicle, and can perform automatic brake control (including follow-up stop control), automatic acceleration control (including follow-up start control), and the like.
  • automatic brake control including follow-up stop control
  • automatic acceleration control including follow-up start control
  • cooperative control for the purpose of autonomous driving or the like autonomously traveling without depending on the operation of the driver can be performed.
  • the microcomputer 12051 converts the three-dimensional object data related to the three-dimensional object to other three-dimensional objects such as a two-wheeled vehicle, a normal vehicle, a large vehicle, a pedestrian, and a utility pole based on the distance information obtained from the imaging units 12101 to 12104. It can be classified and extracted and used for automatic avoidance of obstacles.
  • the microcomputer 12051 identifies obstacles around the vehicle 12100 as obstacles that are visible to the driver of the vehicle 12100 and obstacles that are difficult to see.
  • the microcomputer 12051 determines the collision risk indicating the risk of collision with each obstacle, and when the collision risk is equal to or higher than the set value and there is a possibility of collision, the microcomputer 12051 is connected via the audio speaker 12061 or the display unit 12062. By outputting an alarm to the driver and performing forced deceleration or avoidance steering via the drive system control unit 12010, driving assistance for collision avoidance can be performed.
  • At least one of the imaging units 12101 to 12104 may be an infrared camera that detects infrared rays.
  • the microcomputer 12051 can recognize a pedestrian by determining whether a pedestrian is present in the captured images of the imaging units 12101 to 12104. Such pedestrian recognition is, for example, whether or not the user is a pedestrian by performing a pattern matching process on a sequence of feature points indicating the outline of an object and a procedure for extracting feature points in the captured images of the imaging units 12101 to 12104 as infrared cameras. It is carried out by the procedure for determining.
  • the audio image output unit 12052 When the microcomputer 12051 determines that there is a pedestrian in the captured images of the imaging units 12101 to 12104 and recognizes the pedestrian, the audio image output unit 12052 has a rectangular contour line for emphasizing the recognized pedestrian.
  • the display unit 12062 is controlled so as to be superimposed and displayed.
  • voice image output part 12052 may control the display part 12062 so that the icon etc. which show a pedestrian may be displayed on a desired position.
  • the technology according to the present disclosure may be applied to the imaging unit 12031, for example.
  • the imaging device 10 in FIG. 1 can be applied to the imaging unit 12031.
  • this technique can also take the following structures.
  • An image sensor provided in the pixel.
  • An image sensor A signal processing unit that processes a signal output from the imaging device,
  • the image sensor is An effective area used for image acquisition, and a pixel array including a peripheral area around the effective area, A plurality of types of first optical filters that transmit light of different wavelengths are provided for each pixel in the effective region, A second optical filter having a transmission band whose bandwidth is narrower than the transmission band of the first optical filter is provided in the first pixel in the peripheral region; A third optical filter having a transmission band difference with the second optical filter equal to or greater than a predetermined wavelength or having a transmittance equal to or less than the second optical filter is adjacent to the first pixel.
  • Electronic equipment provided in the pixel.

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Power Engineering (AREA)
  • General Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Optics & Photonics (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Optical Filters (AREA)
  • Light Receiving Elements (AREA)

Abstract

本開示は、狭い波長帯域の光の検出精度を向上させることができるようにする撮像素子及び電子機器に関する。 撮像素子は、画像の取得に用いられる有効領域、及び、前記有効領域の周辺の周辺領域を含む画素アレイを備え、それぞれ異なる波長の光を透過する複数の種類の第1の光学フィルタが、前記有効領域内の各画素に設けられ、前記第1の光学フィルタの透過帯域より帯域幅が狭い透過帯域を有する第2の光学フィルタが、前記周辺領域内の第1の画素に設けられ、前記第2の光学フィルタとの透過帯域の差が所定の波長以上、又は、透過率が前記第2の光学フィルタ以下である第3の光学フィルタが、前記第1の画素に隣接する第2の画素に設けられている。本技術は、例えば、CMOSイメージセンサに適用できる。

Description

撮像素子及び電子機器
 本開示に係る技術(以下、本技術とも称する)は、撮像素子及び電子機器に関し、特に、狭い波長帯域の光を検出する場合に用いて好適な撮像素子及び電子機器に関する。
 従来、プラズモンフィルタを用いて所定の狭い波長帯域(狭帯域)の光(以下、狭帯域光とも称する)を検出する画素を、画像の取得に利用される領域の周辺の領域に設けた撮像素子が提案されている(例えば、特許文献1参照)。
特開2012-59865号公報
 しかしながら、特許文献1に記載の発明では、狭帯域光を検出する画素に隣接する画素については特に検討されていない。従って、狭帯域光を検出する画素が隣接する画素の影響を受けて、検出精度が低下する場合が想定される。
 本技術は、このような状況に鑑みてなされたものであり、狭帯域光の検出精度の低下を抑制するようにするものである。
 本技術の第1の側面の撮像素子は、画像の取得に用いられる有効領域、及び、前記有効領域の周辺の周辺領域を含む画素アレイを備え、それぞれ異なる波長の光を透過する複数の種類の第1の光学フィルタが、前記有効領域内の各画素に設けられ、前記第1の光学フィルタの透過帯域より帯域幅が狭い透過帯域を有する第2の光学フィルタが、前記周辺領域内の第1の画素に設けられ、前記第2の光学フィルタとの透過帯域の差が所定の波長以上、又は、透過率が前記第2の光学フィルタ以下である第3の光学フィルタが、前記第1の画素に隣接する第2の画素に設けられている。
 前記第2の光学フィルタのピーク波長と前記第3の光学フィルタのピーク波長との差を前記所定の波長以上とすることができる。
 前記第3の光学フィルタのピーク波長における透過率を、前記第2の光学フィルタのピーク波長における透過率以下とすることができる。
 前記第3の光学フィルタと前記第4の光学フィルタとの透過帯域の差が前記所定の波長未満である場合、前記第2の光学フィルタのピーク波長における透過率と前記第3の光学フィルタのピーク波長における透過率との差を、所定の閾値以上とすることができる。
 前記第2の画素の光の入射側に遮光膜を設け、前記第1の画素の光の入射側に前記遮光膜を設けないようにすることができる。
 前記第2の画素と像高が同じ第3の画素において、前記第2の光学フィルタと透過帯域が同様の光学フィルタを設けることができる。
 前記第2の光学フィルタを、プラズモンフィルタとすることができる。
 前記第3の光学フィルタを、複数の種類の前記第1の光学フィルタのいずれかとすることができる。
 本技術の第2の側面の電子機器は、撮像素子と、前記撮像素子から出力される信号を処理する信号処理部とを備え、前記撮像素子は、画像の取得に用いられる有効領域、及び、前記有効領域の周辺の周辺領域を含む画素アレイを備え、それぞれ異なる波長の光を透過する複数の種類の第1の光学フィルタが、前記有効領域内の各画素に設けられ、前記第1の光学フィルタの透過帯域より帯域幅が狭い透過帯域を有する第2の光学フィルタが、前記周辺領域内の第1の画素に設けられ、前記第2の光学フィルタとの透過帯域の差が所定の波長以上、又は、透過率が前記第2の光学フィルタ以下である第3の光学フィルタが、前記第1の画素に隣接する第2の画素に設けられている。
 本技術の第1の側面、又は、第2の側面においては、第1の画素により、狭帯域光が検出され、第2の画素により、前記第1の画素より帯域幅が広い光が検出される。
 本技術の第1の側面、又は、第2の側面によれば、狭い波長帯域の光の検出精度の低下を抑制することができる。
 なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
本技術を適用した撮像装置の一実施の形態を示すブロック図である。 撮像素子の回路の構成例を示すブロック図である。 撮像素子の第1の実施形態の構成例を模式的に示す断面図である。 ホールアレイ構造のプラズモンフィルタの構成例を示す図である。 表面プラズモンの分散関係を示すグラフである。 ホールアレイ構造のプラズモンフィルタの分光特性の第1の例を示すグラフである。 ホールアレイ構造のプラズモンフィルタの分光特性の第2の例を示すグラフである。 プラズモンモードと導波管モードを示すグラフである。 表面プラズモンの伝搬特性の例を示すグラフである。 ホールアレイ構造のプラズモンフィルタの他の構成例を示す図である。 2層構造のプラズモンフィルタの構成例を示す図である。 ドットアレイ構造のプラズモンフィルタの構成例を示す図である。 ドットアレイ構造のプラズモンフィルタの分光特性の例を示すグラフである。 GMRを用いたプラズモンフィルタの構成例を示す図である。 GMRを用いたプラズモンフィルタの分光特性の例を示すグラフである。 撮像素子の第2の実施形態の構成例を模式的に示す断面図である。 撮像装置のフレアの発生の様子を模式的に示す図である。 撮像装置のフレアの低減方法を説明するための図である。 狭帯域フィルタと透過フィルタの分光特性の第1の例を示すグラフである。 狭帯域フィルタと透過フィルタの分光特性の第2の例を示すグラフである。 狭帯域フィルタと透過フィルタの分光特性の第3の例を示すグラフである。 撮像素子の第3の実施形態の構成例を模式的に示す断面図である。 画素アレイの構成例を示す図である。 マルチスペクトル画素と隣接画素の分光特性の第1の例を示す図である。 画素の第1の配列例を示す図である。 画素の第2の配列例を示す図である。 マルチスペクトル画素と隣接画素の分光特性の第2の例を示す図である。 マルチスペクトル画素と隣接画素の分光特性の第3の例を示す図である。 画素の第3の配列例を示す図である。 画素の第4の配列例を示す図である。 画素の第5の配列例を示す図である。 画素の第6の配列例を示す図である。 画素の第7の配列例を示す図である。 本技術を適用し得る積層型の固体撮像装置の構成例の概要を示す図である。 本技術の応用例を示す図である。 食品のうまみや鮮度を検出する場合の検出帯域の例を示す図である。 果物の糖度や水分を検出する場合の検出帯域の例を示す図である。 プラスチックの分別を行う場合の検出帯域の例を示す図である。 内視鏡手術システムの概略的な構成の一例を示す図である。 カメラヘッド及びCCUの機能構成の一例を示すブロック図である。 車両制御システムの概略的な構成の一例を示すブロック図である。 車外情報検出部及び撮像部の設置位置の一例を示す説明図である。
 以下、発明を実施するための形態(以下、「実施形態」と称する)について図面を用いて詳細に説明する。なお、説明は以下の順序で行う。
 1.第1の実施形態
 2.第2の実施形態
 3.変形例
 4.応用例
 <<1.第1の実施形態>>
 まず、図1乃至図22を参照して、本技術の第1の実施形態について説明する。
 <撮像装置の構成例>
 図1は、本技術を適用した電子機器の一種である撮像装置の一実施の形態を示すブロック図である。
 図1の撮像装置10は、例えば、静止画及び動画のいずれも撮像することが可能なデジタルカメラからなる。また、撮像装置10は、例えば、色の3原色若しくは等色関数に基づく従来のR(赤)、G(緑)、B(青)、又は、Y(黄)、M(マゼンダ)、C(シアン)の3つの波長帯域(3バンド)より多い4以上の波長帯域(4バンド以上)の光(マルチスペクトル)を検出可能なマルチスペクトルカメラからなる。
 撮像装置10は、光学系11、撮像素子12、メモリ13、信号処理部14、出力部15、及び、制御部16を備える。
 光学系11は、例えば、図示せぬズームレンズ、フォーカスレンズ、絞り等を備え、外部からの光を、撮像素子12に入射させる。また、光学系11には、必要に応じて偏光フィルタ等の各種のフィルタが設けられる。
 撮像素子12は、例えば、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサからなる。撮像素子12は、光学系11からの入射光を受光し、光電変換を行って、入射光に対応する画像データを出力する。
 メモリ13は、撮像素子12が出力する画像データを一時的に記憶する。
 信号処理部14は、メモリ13に記憶された画像データを用いた信号処理(例えば、ノイズの除去、ホワイトバランスの調整等の処理)を行い、出力部15に供給する。
 出力部15は、信号処理部14からの画像データを出力する。例えば、出力部15は、液晶等で構成されるディスプレイ(不図示)を有し、信号処理部14からの画像データに対応するスペクトル(画像)を、いわゆるスルー画として表示する。例えば、出力部15は、半導体メモリ、磁気ディスク、光ディスク等の記録媒体を駆動するドライバ(不図示)を備え、信号処理部14からの画像データを記録媒体に記録する。例えば、出力部15は、図示せぬ外部の装置との通信を行う通信インタフェースとして機能し、信号処理部14からの画像データを、外部の装置に無線又は有線で送信する。
 制御部16は、ユーザの操作等に従い、撮像装置10の各部を制御する。
 <撮像素子の回路の構成例>
 図2は、図1の撮像素子12の回路の構成例を示すブロック図である。
 撮像素子12は、画素アレイ31、行走査回路32、PLL(Phase Locked Loop)33、DAC(Digital Analog Converter)34、カラムADC(Analog Digital Converter)回路35、列走査回路36、及び、センスアンプ37を備える。
 画素アレイ31には、複数の画素51が2次元に配列されている。
 画素51は、行走査回路32に接続される水平信号線Hと、カラムADC回路35に接続される垂直信号線Vとが交差する点にそれぞれ配置されており、光電変換を行うフォトダイオード61と、蓄積された信号を読み出すための数種類のトランジスタを備える。すなわち、画素51は、図2の右側に拡大して示されているように、フォトダイオード61、転送トランジスタ62、フローティングディフュージョン63、増幅トランジスタ64、選択トランジスタ65、及び、リセットトランジスタ66を備える。
 フォトダイオード61に蓄積された電荷は、転送トランジスタ62を介してフローティングディフュージョン63に転送される。フローティングディフュージョン63は、増幅トランジスタ64のゲートに接続されている。画素51が信号の読み出しの対象となると、行走査回路32から水平信号線Hを介して選択トランジスタ65がオンにされ、選択された画素51の信号は、増幅トランジスタ64をソースフォロワ(Source Follower)駆動することで、フォトダイオード61に蓄積された電荷の蓄積電荷量に対応する画素信号として、垂直信号線Vに読み出される。また、画素信号はリセットトランジスタ66をオンすることでリセットされる。
 行走査回路32は、画素アレイ31の画素51の駆動(例えば、転送、選択、リセット等)を行うための駆動信号を、行ごとに順次、出力する。
 PLL33は、外部から供給されるクロック信号に基づいて、撮像素子12の各部の駆動に必要な所定の周波数のクロック信号を生成して出力する。
 DAC34は、所定の電圧値から一定の傾きで電圧が降下した後に所定の電圧値に戻る形状(略鋸形状)のランプ信号を生成して出力する。
 カラムADC回路35は、比較器71及びカウンタ72を、画素アレイ31の画素51の列に対応する個数だけ有しており、画素51から出力される画素信号から、CDS(Correlated Double Sampling:相関2重サンプリング)動作により信号レベルを抽出して、画素データを出力する。すなわち、比較器71が、DAC34から供給されるランプ信号と、画素51から出力される画素信号(輝度値)とを比較し、その結果得られる比較結果信号をカウンタ72に供給する。そして、カウンタ72が、比較器71から出力される比較結果信号に応じて、所定の周波数のカウンタクロック信号をカウントすることで、画素信号がA/D変換される。
 列走査回路36は、カラムADC回路35のカウンタ72に、順次、所定のタイミングで、画素データを出力させる信号を供給する。
 センスアンプ37は、カラムADC回路35から供給される画素データを増幅し、撮像素子12の外部に出力する。
 <撮像素子の第1の実施形態>
 図3は、図1の撮像素子12の第1の実施形態である撮像素子12Aの断面の構成例を模式的に示している。図3には、撮像素子12の画素51-1乃至画素51-4の4画素分の断面が示されている。なお、以下、画素51-1乃至画素51-4を個々に区別する必要がない場合、単に画素51と称する。
 各画素51においては、上から順に、オンチップマイクロレンズ101、層間膜102、狭帯域フィルタ層103、層間膜104、光電変換素子層105、及び、信号配線層106が積層されている。すなわち、撮像素子12は、光電変換素子層105が信号配線層106より光の入射側に配置された裏面照射型のCMOSイメージセンサからなる。
 オンチップマイクロレンズ101は、各画素51の光電変換素子層105に光を集光するための光学素子である。
 層間膜102及び層間膜104は、SiO2等の誘電体からなる。後述するように、層間膜102及び層間膜104の誘電率は、できる限り低い方が望ましい。
 狭帯域フィルタ層103には、所定の狭い波長帯域(狭帯域)の狭帯域光を透過する光学フィルタである狭帯域フィルタNBが各画素51に設けられている。例えば、アルミニウム等の金属製の薄膜を用いた金属薄膜フィルタの一種であり、表面プラズモンを利用したプラズモンフィルタが、狭帯域フィルタNBに用いられる。また、狭帯域フィルタNBの透過帯域は、画素51毎に設定される。狭帯域フィルタNBの透過帯域の種類(バンド数)は任意であり、例えば、4以上に設定される。
 ここで、狭帯域とは、例えば、色の3原色若しくは等色関数に基づく従来のR(赤)、G(緑)、B(青)、又は、Y(黄)、M(マゼンダ)、C(シアン)のカラーフィルタの透過帯域より狭い波長帯域のことである。また、以下、狭帯域フィルタNBを透過した狭帯域光を受光する画素を、マルチスペクトル画素又はMS画素と称する。
 光電変換素子層105は、例えば、図2のフォトダイオード61等を備え、狭帯域フィルタ層103(狭帯域フィルタNB)を透過した光(狭帯域光)を受光し、受光した光を電荷に変換する。また、光電変換素子層105は、各画素51間が素子分離層により電気的に分離されて構成されている。
 信号配線層106には、光電変換素子層105に蓄積された電荷を読み取るための配線等が設けられる。
 <プラズモンフィルタについて>
 次に、図4乃至図15を参照して、狭帯域フィルタNBに用いることが可能なプラズモンフィルタについて説明する。
 図4は、ホールアレイ構造のプラズモンフィルタ121Aの構成例を示している。
 プラズモンフィルタ121Aは、金属製の薄膜(以下、導体薄膜と称する)131Aにホール132Aがハニカム状に配置されたプラズモン共鳴体により構成されている。
 各ホール132Aは、導体薄膜131Aを貫通しており、導波管として作用する。一般的に導波管には、辺の長さや直径などの形状により決まる遮断周波数及び遮断波長が存在し、それ以下の周波数(それ以上の波長)の光は伝搬しないという性質がある。ホール132Aの遮断波長は、主に開口径D1に依存し、開口径D1が小さいほど遮断波長も短くなる。なお、開口径D1は透過させたい光の波長よりも小さい値に設定される。
 一方、光の波長以下の短い周期でホール132Aが周期的に形成されている導体薄膜131Aに光が入射すると、ホール132Aの遮断波長より長い波長の光を透過する現象が発生する。この現象をプラズモンの異常透過現象という。この現象は、導体薄膜131Aとその上層の層間膜102との境界において表面プラズモンが励起されることによって発生する。
 ここで、図5を参照して、プラズモンの異常透過現象(表面プラズモン共鳴)の発生条件について説明する。
 図5は、表面プラズモンの分散関係を示すグラフである。グラフの横軸は角波数ベクトルkを示し、縦軸は角周波数ωを示している。ωpは導体薄膜131Aのプラズマ周波数を示している。ωspは層間膜102と導体薄膜131Aとの境界面における表面プラズマ周波数を示しており、次式(1)により表される。
Figure JPOXMLDOC01-appb-M000001
 εdは、層間膜102を構成する誘電体の誘電率を示している。
 式(1)より、表面プラズマ周波数ωspは、プラズマ周波数ωpが高くなるほど高くなる。また、表面プラズマ周波数ωspは、誘電率εdが小さくなるほど、高くなる。
 線L1は、光の分散関係(ライトライン)を示し、次式(2)で表される。
Figure JPOXMLDOC01-appb-M000002
 cは、光速を示している。
 線L2は、表面プラズモンの分散関係を表し、次式(3)で表される。
Figure JPOXMLDOC01-appb-M000003
 εmは、導体薄膜131Aの誘電率を示している。
 線L2により表される表面プラズモンの分散関係は、角波数ベクトルkが小さい範囲では、線L1で表されるライトラインに漸近し、角波数ベクトルkが大きくなるにつれて、表面プラズマ周波数ωspに漸近する。
 そして、次式(4)が成り立つとき、プラズモンの異常透過現象が発生する。
Figure JPOXMLDOC01-appb-M000004
 λは、入射光の波長を示している。θは、入射光の入射角を示している。Gx及びGyは、次式(5)で表される。
 |Gx|=|Gy|=2π/a0 ・・・(5)
 a0は、導体薄膜131Aのホール132Aからなるホールアレイ構造の格子定数を示している。
 式(4)の左辺は、表面プラズモンの角波数ベクトルを示し、右辺は、導体薄膜131Aのホールアレイ周期の角波数ベクトルを示している。従って、表面プラズモンの角波数ベクトルと導体薄膜131Aのホールアレイ周期の角波数ベクトルが等しくなるとき、プラズモンの異常透過現象が発生する。そして、このときのλの値が、プラズモンの共鳴波長(プラズモンフィルタ121Aの透過波長)となる。
 なお、式(4)の左辺の表面プラズモンの角波数ベクトルは、導体薄膜131Aの誘電率εm及び層間膜102の誘電率εdにより決まる。一方、右辺のホールアレイ周期の角波数ベクトルは、光の入射角θ、及び、導体薄膜131Aの隣接するホール132A間のピッチ(ホールピッチ)P1により決まる。従って、プラズモンの共鳴波長及び共鳴周波数は、導体薄膜131Aの誘電率εm、層間膜102の誘電率εd、光の入射角θ、及び、ホールピッチP1により決まる。なお、光の入射角が0°の場合、プラズモンの共鳴波長及び共鳴周波数は、導体薄膜131Aの誘電率εm、層間膜102の誘電率εd、及び、ホールピッチP1により決まる。
 従って、プラズモンフィルタ121Aの透過帯域(プラズモンの共鳴波長)は、導体薄膜131Aの材質及び膜厚、層間膜102の材質及び膜厚、ホールアレイのパターン周期(例えば、ホール132A開口径D1及びホールピッチP1)等により変化する。特に、導体薄膜131A及び層間膜102の材質及び膜厚が決まっている場合、プラズモンフィルタ121Aの透過帯域は、ホールアレイのパターン周期、特にホールピッチP1により変化する。すなわち、ホールピッチP1が狭くなるにつれて、プラズモンフィルタ121Aの透過帯域は短波長側にシフトし、ホールピッチP1が広くなるにつれて、プラズモンフィルタ121Aの透過帯域は長波長側にシフトする。
 図6は、ホールピッチP1を変化させた場合のプラズモンフィルタ121Aの分光特性の例を示すグラフである。グラフの横軸は波長(単位はnm)を示し、縦軸は感度(単位は任意単位)を示している。線L11は、ホールピッチP1を250nmに設定した場合の分光特性を示し、線L12は、ホールピッチP1を325nmに設定した場合の分光特性を示し、線L13は、ホールピッチP1を500nmに設定した場合の分光特性を示している。
 ホールピッチP1を250nmに設定した場合、プラズモンフィルタ121Aは、主に青色の波長帯域の光を透過する。ホールピッチP1を325nmに設定した場合、プラズモンフィルタ121Aは、主に緑色の波長帯域の光を透過する。ホールピッチP1を500nmに設定した場合、プラズモンフィルタ121Aは、主に赤色の波長帯域の光を透過する。ただし、ホールピッチP1を500nmに設定した場合、プラズモンフィルタ121Aは、後述する導波管モードにより、赤色より低波長の帯域の光も多く透過する。
 図7は、ホールピッチP1を変化させた場合のプラズモンフィルタ121Aの分光特性の他の例を示すグラフである。グラフの横軸は波長(単位はnm)を示し、縦軸は感度(単位は任意単位)を示している。この例では、ホールピッチP1を250nmから625nmまで25nm刻みで変化させた場合の16種類のプラズモンフィルタ121Aの分光特性の例を示している。
 なお、プラズモンフィルタ121Aの透過率は、主にホール132Aの開口径D1により決まる。開口径D1が大きくなるほど透過率が高くなる一方、混色が発生しやすくなる。一般的に、開口率がホールピッチP1の50%~60%になるように開口径D1を設定することが望ましい。
 また、上述したように、プラズモンフィルタ121Aの各ホール132Aは、導波管として作用する。従って、プラズモンフィルタ121Aのホールアレイのパターンによっては、分光特性において、表面プラズモン共鳴により透過される波長成分(プラズモンモードにおける波長成分)だけでなく、ホール132A(導波管)を透過する波長成分(導波管モードにおける波長成分)が大きくなる場合がある。
 図8は、図6の線L13により表される分光特性と同様に、ホールピッチP1を500nmに設定した場合のプラズモンフィルタ121Aの分光特性を示している。この例において、630nm付近の遮断波長より長波長側がプラズモンモードにおける波長成分であり、遮断波長より短波長側が導波管モードにおける波長成分である。
 上述したように、遮断波長は、主にホール132Aの開口径D1に依存し、開口径D1が小さいほど遮断波長も短くなる。そして、遮断波長とプラズモンモードにおけるピーク波長との間の差をより大きくするほど、プラズモンフィルタ121Aの波長分解能特性が向上する。
 また、上述したように、導体薄膜131Aのプラズマ周波数ωpが高くなるほど、導体薄膜131Aの表面プラズマ周波数ωspが高くなる。また、層間膜102の誘電率εdが小さくなるほど、表面プラズマ周波数ωspが高くなる。そして、表面プラズマ周波数ωspが高くなるほど、プラズモンの共鳴周波数をより高く設定することができ、プラズモンフィルタ121Aの透過帯域(プラズモンの共鳴波長)をより短い波長帯域に設定することが可能になる。
 従って、プラズマ周波数ωpがより小さい金属を導体薄膜131Aに用いた方が、プラズモンフィルタ121Aの透過帯域をより短い波長帯域に設定することが可能になる。例えば、アルミニウム、銀、金等が好適である。ただし、透過帯域を赤外光などの長い波長帯域に設定する場合には、銅なども用いることが可能である。
 また、誘電率εdがより小さい誘電体を層間膜102に用いた方が、プラズモンフィルタ121Aの透過帯域をより短い波長帯域に設定することが可能になる。例えば、SiO2、Low-K等が好適である。
 また、図9は、導体薄膜131Aにアルミニウムを用い、層間膜102にSiO2を用いた場合の導体薄膜131Aと層間膜102の界面における表面プラズモンの伝搬特性を示すグラフである。グラフの横軸は光の波長(単位はnm)を示し、縦軸は伝搬距離(単位はμm)を示している。また、線L21は、界面方向の伝搬特性を示し、線L22は、層間膜102の深さ方向(界面に垂直な方向)の伝搬特性を示し、線L23は、導体薄膜131Aの深さ方向(界面に垂直な方向)の伝搬特性を示している。
 表面プラズモンの深さ方向の伝搬距離ΛSPP(λ)は、次式(6)により表される。
Figure JPOXMLDOC01-appb-M000005
 kSPPは、表面プラズモンが伝搬する物質の吸収係数を示す。εm(λ)は、波長λの光に対する導体薄膜131Aの誘電率を示す。εd(λ)は、波長λの光に対する層間膜102の誘電率を示す。
 従って、図9に示されるように、波長400nmの光に対する表面プラズモンは、SiO2からなる層間膜102の表面から深さ方向に約100nmまで伝搬する。従って、層間膜102の厚みを100nm以上に設定することにより、層間膜102と導体薄膜131Aとの界面における表面プラズモンに、層間膜102の導体薄膜131Aと反対側の面に積層された物質の影響が及ぶことが防止される。
 また、波長400nmの光に対する表面プラズモンは、アルミニウムからなる導体薄膜131Aの表面から深さ方向に約10nmまで伝搬する。従って、導体薄膜131Aの厚みを10nm以上に設定することにより、層間膜102と導体薄膜131Aとの界面における表面プラズモンに、層間膜104の影響が及ぶことが防止される。
 <プラズモンフィルタのその他の例>
 次に、図10乃至図15を参照して、プラズモンフィルタのその他の例について説明する。
 図10のAのプラズモンフィルタ121Bは、導体薄膜131Bにホール132Bが直行行列状に配置されたプラズモン共鳴体により構成されている。プラズモンフィルタ121Bにおいては、例えば、隣接するホール132B間のピッチP2により透過帯域が変化する。
 また、プラズモン共鳴体において、全てのホールが導体薄膜を貫通する必要はなく、一部のホールを導体薄膜を貫通しない非貫通穴により構成しても、プラズモン共鳴体はフィルタとして機能する。
 例えば、図10のBには、導体薄膜131Cに貫通穴からなるホール132C、及び、非貫通穴からなるホール132C’がハニカム状に配置されたプラズモン共鳴体により構成されたプラズモンフィルタ121Cの平面図および断面図(平面図におけるA-A’での断面図)が示されている。すなわち、プラズモンフィルタ121Cには、貫通穴からなるホール132Cと非貫通穴からなるホール132C’とが周期的に配置されている。
 さらに、プラズモンフィルタとしては、基本的に単層のプラズモン共鳴体が使用されるが、例えば、2層のプラズモン共鳴体により構成することもできる。
 例えば、図11に示されているプラズモンフィルタ121Dは、2層のプラズモンフィルタ121D-1及びプラズモンフィルタ121D-2により構成されている。プラズモンフィルタ121D-1及びプラズモンフィルタ121D-2は、図4のプラズモンフィルタ121Aを構成するプラズモン共鳴体と同様に、ホールがハニカム状に配置された構造となっている。
 また、プラズモンフィルタ121D-1とプラズモンフィルタ121D-2との間隔D2は、透過帯域のピーク波長の1/4程度とすることが好適である。また、設計自由度を考慮すると、間隔D2は、透過帯域のピーク波長の1/2以下がより好適である。
 なお、プラズモンフィルタ121Dのように、プラズモンフィルタ121D-1及びプラズモンフィルタ121D-2において同一のパターンでホールが配置されるようにする他、例えば、2層のプラズモン共鳴体構造において互いに相似するパターンでホールが配置されていてもよい。また、2層のプラズモン共鳴体構造において、ホールアレイ構造とドットアレイ構造(後述)とが反転するようなパターンでホールとドットとが配置されていてもよい。さらに、プラズモンフィルタ121Dは2層構造となっているが、3層以上の多層化も可能である。
 また、以上では、ホールアレイ構造のプラズモン共鳴体によるプラズモンフィルタの構成例を示したが、プラズモンフィルタとして、ドットアレイ構造のプラズモン共鳴体を採用してもよい。
 図12を参照して、ドットアレイ構造のプラズモンフィルタについて説明する。
 図12のAのプラズモンフィルタ121A’は、図4のプラズモンフィルタ121Aのプラズモン共鳴体に対してネガポジ反転した構造、すなわち、ドット133Aが誘電体層134Aにハニカム状に配置されたプラズモン共鳴体により構成されている。各ドット133A間には、誘電体層134Aが充填されている。
 プラズモンフィルタ121A’は、所定の波長帯域の光を吸収するため、補色系のフィルタとして用いられる。プラズモンフィルタ121A’が吸収する光の波長帯域(以下、吸収帯域と称する)は、隣接するドット133A間のピッチ(以下、ドットピッチと称する)P3等により変化する。また、ドットピッチP3に合わせて、ドット133Aの径D3が調整される。
 図12のBのプラズモンフィルタ121B’は、図10のAのプラズモンフィルタ121Bのプラズモン共鳴体に対してネガポジ反転した構造、すなわち、ドット133Bが誘電体層134Bに直行行列状に配置されたプラズモン共鳴体構造により構成されている。各ドット133B間には、誘電体層134Bが充填されている。
 プラズモンフィルタ121B’の吸収帯域は、隣接するドット133B間のドットピッチP4等により変化する。また、ドットピッチP4に合わせて、ドット133Bの径D3が調整される。
 図13は、図12のAのプラズモンフィルタ121A’のドットピッチP3を変化させた場合の分光特性の例を示すグラフである。グラフの横軸は波長(単位はnm)を示し、縦軸は透過率を示している。線L31は、ドットピッチP3を300nmに設定した場合の分光特性を示し、線L32は、ドットピッチP3を400nmに設定した場合の分光特性を示し、線L33は、ドットピッチP3を500nmに設定した場合の分光特性を示している。
 この図に示されるように、ドットピッチP3が狭くなるにつれて、プラズモンフィルタ121A’の吸収帯域は短波長側にシフトし、ドットピッチP3が広くなるにつれて、プラズモンフィルタ121A’の吸収帯域は長波長側にシフトする。
 なお、ホールアレイ構造及びドットアレイ構造のいずれのプラズモンフィルタにおいても、ホール又はドットの平面方向のピッチを調整するだけで、透過帯域又は吸収帯域を調整することができる。従って、例えば、リソグラフィ工程においてホール又はドットのピッチを調整するだけで、画素毎に透過帯域又は吸収帯域を個別に設定することが可能であり、より少ない工程でフィルタの多色化が可能になる。
 また、プラズモンフィルタの厚さは、有機材料系のカラーフィルタとほぼ同様の約100~500nm程度であり、プロセスの親和性が良い。
 また、狭帯域フィルタNBには、図14に示されるGMR(Guided Mode Resonant)を用いたプラズモンフィルタ151を用いることも可能である。
 プラズモンフィルタ151においては、上から順に、導体層161、SiO2膜162、SiN膜163、SiO2基板164が積層されている。導体層161は、例えば、図3の狭帯域フィルタ層103に含まれ、SiO2膜162、SiN膜163、及び、SiO2基板164は、例えば、図3の層間膜104に含まれる。
 導体層161には、例えばアルミニウムからなる矩形の導体薄膜161Aが、所定のピッチP5で、導体薄膜161Aの長辺側が隣接するように並べられている。そして、ピッチP5等によりプラズモンフィルタ151の透過帯域が変化する。
 図15は、ピッチP5を変化させた場合のプラズモンフィルタ151の分光特性の例を示すグラフである。グラフの横軸は波長(単位はnm)を示し、縦軸は透過率を示している。この例では、ピッチP5を280nmから480nmまで40nm刻みで6種類に変化させるとともに、隣接する導体薄膜161Aの間のスリットの幅をピッチP5の1/4に設定した場合の分光特性の例を示している。また、透過帯域のピーク波長が最も短い波形が、ピッチP5を280nmに設定した場合の分光特性を示し、ピッチP5が広くなるにつれて、ピーク波長が長くなっている。すなわち、ピッチP5が狭くなるにつれて、プラズモンフィルタ151の透過帯域は短波長側にシフトし、ピッチP5が広くなるにつれて、プラズモンフィルタ151の透過帯域は長波長側にシフトする。
 このGMRを用いたプラズモンフィルタ151も、上述したホールアレイ構造及びドットアレイ構造のプラズモンフィルタと同様に、有機材料系のカラーフィルタと親和性が良い。
 <撮像素子の第2の実施形態>
 次に、図16乃至図21を参照して、図1の撮像素子12の第2の実施形態について説明する。
 図16は、撮像素子12の第2の実施形態である撮像素子12Bの断面の構成例を模式的に示している。なお、図中、図3の撮像素子12Aと対応する部分には、同じ符号を付してあり、その説明は適宜省略する。
 撮像素子12Bは、撮像素子12Aと比較して、オンチップマイクロレンズ101と層間膜102の間に、カラーフィルタ層107が積層されている点が異なる。
 撮像素子12Bの狭帯域フィルタ層103においては、全ての画素51ではなく、一部の画素51にのみ狭帯域フィルタNBが設けられている。狭帯域フィルタNBの透過帯域の種類(バンド数)は任意であり、例えば、1以上に設定される。
 カラーフィルタ層107には、カラーフィルタが各画素51に設けられる。例えば、狭帯域フィルタNBが設けられていない画素51においては、一般的な赤色フィルタR、緑色フィルタG、及び、青色フィルタB(不図示)のいずれかが設けられている。これにより、例えば、赤色フィルタRが設けられたR画素、緑色フィルタGが設けられたG画素、青色フィルタが設けられたB画素、及び、狭帯域フィルタNBが設けられたMS画素が、画素アレイ31に配列される。
 また、狭帯域フィルタNBが設けられている画素51においては、カラーフィルタ層107に透過フィルタPが設けられる。透過フィルタPは、後述するように、同じ画素51の狭帯域フィルタNBの透過帯域を含む波長帯域の光を透過する光学フィルタ(ローパスフィルタ、ハイパスフィルタ、又は、バンドパスフィルタ)により構成される。
 なお、カラーフィルタ層107に設けられるカラーフィルタは、有機材料系及び無機材料系のいずれであってもよい。
 有機材料系のカラーフィルタには、例えば、合成樹脂若しくは天然蛋白を用いた染色着色系、及び、顔料色素若しくは染料色素を用いた色素含有系がある。
 無機材料系のカラーフィルタには、例えば、TiO2、ZnS、SiN、MgF2、SiO2、Low-k等の材料が用いられる。また、無機材料系のカラーフィルタの形成には、例えば、蒸着、スパッタリング、CVD(Chemical Vapor Deposition)成膜等の手法が用いられる。
 また、層間膜102は、図9を参照して上述したように、層間膜102と狭帯域フィルタ層103との界面における表面プラズモンに、カラーフィルタ層107の影響が及ぶことが防止可能な膜厚に設定される。
 ここで、カラーフィルタ層107に設けられた透過フィルタPにより、フレアの発生が抑制される。この点について、図17及び図18を参照して説明する。
 図17は、カラーフィルタ層107が設けられていない図2の撮像素子12Aを用いた撮像装置10におけるフレアの発生の様子を模式的に示している。
 この例において、撮像素子12Aは、半導体チップ203に設けられている。具体的には、半導体チップ203は、基板213上に実装され、周囲がシールガラス211及び樹脂212により覆われている。そして、図1の光学系11に設けられているレンズ201及びIRカットフィルタ202、並びに、シールガラス211を透過した光が、撮像素子12Aに入射する。
 ここで、撮像素子12Aの狭帯域フィルタ層103の狭帯域フィルタNBがプラズモンフィルタからなる場合、プラズモンフィルタには金属製の導体薄膜が形成されている。この導体薄膜は反射率が高いため、透過帯域以外の波長の光を反射しやすい。そして、導体薄膜で反射された光の一部が、例えば、図17に示されるように、シールガラス211、IRカットフィルタ202、又は、レンズ201で反射され、撮像素子12Aに再入射する。これらの再入射光によりフレアが発生する。特にホールアレイ構造を用いたプラズモンフィルタは、開口率が低いため、フレアが発生しやすい。
 この反射光を防止するために、例えば、導体薄膜とは異なる金属や誘電率の高い材料からなる反射防止膜を使用することが考えられる。しかし、プラズモンフィルタは、表面プラズモン共鳴を利用しており、そのような反射防止膜が導体薄膜の表面に触れてしまうと、プラズモンフィルタの特性が劣化してしまったり、所望の特性が得づらくなったりする可能性がある。
 一方、図18は、カラーフィルタ層107が設けられている図16の撮像素子12Bを用いた撮像装置10におけるフレアの発生の様子を模式的に示している。なお、図中、図17と対応する部分には、同じ符号を付してある。
 図18の例は、図17の例と比較して、半導体チップ203の代わりに半導体チップ221が設けられている点が異なる。半導体チップ221は、半導体チップ203と比較して、撮像素子12Aの代わりに撮像素子12Bが設けられている点が異なる。
 上述したように、撮像素子12Bにおいては、狭帯域フィルタNBより上方(光の入射側)に透過フィルタPが設けられている。従って、撮像素子12Bに入射した光は、透過フィルタPにより所定の波長帯域が遮断されてから狭帯域フィルタNBに入射するため、狭帯域フィルタNBへの入射光の光量が抑制される。その結果、狭帯域フィルタNB(プラズモンフィルタ)の導体薄膜による反射光の光量も低減するため、フレアが低減される。
 図19乃至図21は、狭帯域フィルタNBの分光特性と、狭帯域フィルタNBの上方に配置される透過フィルタPの分光特性の例を示している。なお、図19乃至図21のグラフの横軸は波長(単位はnm)を示し、縦軸は感度(単位は任意単位)を示している。
 図19の線L41は、狭帯域フィルタNBの分光特性を示している。この狭帯域フィルタNBの分光特性のピーク波長は、約430nm付近である。線L42は、ローパス型の透過フィルタPの分光特性を示している。線L43は、ハイパス型の透過フィルタPの分光特性を示している。線L44は、バンドパス型の透過フィルタPの分光特性を示している。いずれの透過フィルタPの感度も、狭帯域フィルタNBの分光特性のピーク波長を含む所定の波長帯域において、狭帯域フィルタNBの感度を上回っている。従って、いずれの透過フィルタPを用いても、狭帯域フィルタNBの透過帯域の光をほぼ減衰させずに、狭帯域フィルタNBに入射する入射光の光量を低減させることができる。
 図20の線L51は、狭帯域フィルタNBの分光特性を示している。この狭帯域フィルタNBの分光特性のピーク波長は、約530nm付近である。線L52は、ローパス型の透過フィルタPの分光特性を示している。線L53は、ハイパス型の透過フィルタPの分光特性を示している。線L54は、バンドパス型の透過フィルタPの分光特性を示している。いずれの透過フィルタの感度も、狭帯域フィルタNBの分光特性のピーク波長を含む所定の波長帯域において、狭帯域フィルタNBの感度を上回っている。従って、いずれの透過フィルタPを用いても、狭帯域フィルタNBの透過帯域の光をほぼ減衰させずに、狭帯域フィルタNBに入射する入射光の光量を低減させることができる。
 図21の線L61は、狭帯域フィルタNBの分光特性を示している。この狭帯域フィルタNBの分光特性のプラズモンモードにおけるピーク波長は、約670nm付近である。線L62は、ローパス型の透過フィルタPの分光特性を示している。線L63は、ハイパス型の透過フィルタPの分光特性を示している。線L64は、バンドパス型の透過フィルタPの分光特性を示している。いずれの透過フィルタPの感度も、狭帯域フィルタNBの分光特性の遮断波長である約630nm以上のプラズモンモードのピーク波長を含む所定の波長帯域において、狭帯域フィルタNBの感度を上回っている。従って、いずれの透過フィルタPを用いても、狭帯域フィルタNBのプラズモンモードにおける透過帯域の光をほぼ減衰させずに、狭帯域フィルタNBに入射する入射光の光量を低減させることができる。ただし、ハイパス型又はバンドパス型の透過フィルタPを用いた方が、狭帯域フィルタNBの導波管モードの波長帯域の光を遮断できるため、狭帯域のフィルタ特性としてより望ましい。
 なお、赤色フィルタR、緑色フィルタG、又は、青色フィルタBの透過帯域が、下層の狭帯域フィルタNBの透過帯域を含む場合、それらのフィルタを透過フィルタPに用いてもよい。
 また、図16の例では、一部の画素51にのみ狭帯域フィルタNBを設ける例を示したが、全ての画素51に狭帯域フィルタNBを設けることも可能である。この場合、画素51毎に、その画素51の狭帯域フィルタNBの透過帯域を含む透過帯域を有する透過フィルタPをカラーフィルタ層107に設けるようにすればよい。
 さらに、カラーフィルタ層107のカラーフィルタの色の組合せは上述した例に限定されるものではなく、任意に変更することが可能である。
 また、上述したフレア対策の必要がない場合には、例えば、狭帯域フィルタNBの上層に透過フィルタPを設けないようにしたり、全ての波長の光を透過するダミーのフィルタを設けたりしてもよい。
 <撮像素子の第3の実施形態>
 次に、図22を参照して、図1の撮像素子12の第3の実施形態について説明する。
 図22は、撮像素子12の第3の実施形態である撮像素子12Cの断面の構成例を模式的に示している。なお、図中、図3の撮像素子12Aと対応する部分には、同じ符号を付してあり、その説明は適宜省略する。
 撮像素子12Cは、撮像素子12Aと比較して、狭帯域フィルタ層103の代わりに、フィルタ層108が設けられている点が異なる。また、撮像素子12Cは、図16の撮像素子12Bと比較して、狭帯域フィルタNBとカラーフィルタ(例えば、赤色フィルタR、緑色フィルタG、青色フィルタB)が同じフィルタ層108に設けられている点が異なる。
 これにより、撮像素子12Cの画素アレイ31にR画素、G画素、B画素、及び、MS画素を配置する場合に、カラーフィルタ層107を省略することができる。
 なお、有機材料系のカラーフィルタを用いる場合、熱によるカラーフィルタの損傷等を防止するために、例えば、狭帯域フィルタNBが先に形成され、シンター処理等の高温の最終熱処理が行われた後、カラーフィルタが形成される。一方、無機材料系のカラーフィルタを用いる場合、基本的に上記の形成順の制約は必要ない。
 また、図16の撮像素子12Bのようにフレア対策を施す場合、撮像素子12Bと同様に、オンチップマイクロレンズ101と層間膜102の間に、カラーフィルタ層を積層するようにしてもよい。この場合、フィルタ層108に狭帯域フィルタNBが設けられている画素51においては、カラーフィルタ層に上述した透過フィルタPが設けられる。一方、フィルタ層108にカラーフィルタが設けられている画素51においては、カラーフィルタ層にフィルタが設けられなかったり、又は、全ての波長の光を透過するダミーのフィルタ、若しくは、フィルタ層108と同じ色のカラーフィルタが設けられたりする。
 <<2.第2の実施形態>>
 次に、図23乃至図33を参照して、本技術の第2の実施形態について説明する。
 なお、この第2の実施形態では、撮像装置10の撮像素子12として、図22の撮像素子12Cを用いた場合を例に挙げて説明する。
 図23は、撮像素子12Cの画素アレイ31の構成例を示している。
 画素アレイ31は、撮像素子12Cを備える半導体チップ301の所定の面に設けられている。画素アレイ31は、中央に配置されている有効領域31Aと、有効領域31Aの周辺を囲む周辺領域31Bに分かれる。
 有効領域31Aは、画像の取得に用いられる領域である。例えば、図22のフィルタ層108において、有効領域31Aの各画素51に対して、それぞれ異なる波長の光を透過する赤色フィルタR、緑色フィルタG、又は、青色フィルタBのいずれかが設けられる。これにより、赤色フィルタRが設けられたR画素、緑色フィルタGが設けられたG画素、及び、青色フィルタが設けられたB画素が、有効領域31Aに配列される。そして、有効領域31A内の各画素51から出力される画素信号に基づいて、表示対象となる画像が生成される。
 周辺領域31Bは、例えば、有効領域31Aよりも多種類の色スペクトルを取得するための領域である。例えば、図22のフィルタ層108において、周辺領域31Bの各画素51に対して、赤色フィルタR、緑色フィルタG、青色フィルタBに加えて、狭帯域フィルタNBが設けられる。これにより、R画素、G画素、及び、B画素に加えて、狭帯域フィルタNBが設けられているマルチスペクトル画素MSが、周辺領域31Bに配列される。
 なお、狭帯域フィルタNBの透過帯域は、1種類に限定されるものではなく、必要に応じて2種類以上に設定される。従って、マルチスペクトル画素MSが検出する光の波長帯域(以下、検出帯域と称する)が、必要に応じて2種類以上に設定される。
 また、例えば、マルチスペクトル画素MSから出力される画素信号は、有効領域31A及び周辺領域31B内のその他の画素(例えば、R画素、G画素、B画素)から出力される画素信号とは、独立して使用される。例えば、前者の画素信号と後者の画素信号とは、相互間の合成及び補間等に用いられない。
 このようにして、周辺領域31Bに配置されたマルチスペクトル画素MSにより、所望の波長帯域の狭帯域光を検出することが可能になる。また、有効領域31Aにマルチスペクトル画素MSが設けられないため、有効領域31Aの画素信号により生成される画像の解像度の低下が発生しない。
 ここで、マルチスペクトル画素MSの配置例について説明する。
 例えば、有効領域31Aの中心とほぼ一致する、図1の光学系11を構成するレンズ(不図示)の像高中心C1を基準にして、ほぼ同じ像高の位置にマルチスペクトル画素MSが配置される。例えば、図23の例では、周辺領域31Bの左上隅の領域R1内と右下隅の領域R4内において、像高中心C1を基準にして対称となる位置にマルチスペクトル画素MSが配置されている。また、周辺領域31Bの右上隅の領域R2内と左下隅の領域R3内において、像高中心C1を基準にして対称となる位置にマルチスペクトル画素MSが配置されている。
 また、例えば、像高がほぼ同じマルチスペクトル画素MSに対して、透過帯域が同様の狭帯域フィルタNBが設けられる。これにより、像高がほぼ同じマルチスペクトル画素MSの検出帯域が等しくなる。また、例えば、周辺領域31Bの同じ像高の位置において、同じ波長帯域のレンズ収差の分光特性を検出することができる。
 また、マルチスペクトル画素MSの周辺には、同じ検出帯域のマルチスペクトル画素MSを並べる場合を除いて、マルチスペクトル画素MSの検出精度に悪影響を与えにくい画素51が配置される。
 例えば、マルチスペクトル画素MSの周辺には、感度がマルチスペクトル画素MS以下の画素51が配置される。
 具体的には、図24は、マルチスペクトル画素MS、及び、マルチスペクトル画素MSの垂直方向又は水平方向に隣接する画素51(以下、隣接画素と称する)の分光特性の例を示すグラフである。グラフの横軸は波長(単位はnm)を示し、縦軸は出力レベルを示している。実線の波形は、マルチスペクトル画素MSの分光特性を示し、点線の波形は、隣接画素の分光特性を示している。
 このグラフに示される隣接画素のように、感度がマルチスペクトル画素MS以下となる画素51が、隣接画素としてマルチスペクトル画素MSの周辺に配置される。すなわち、例えば、透過率がマルチスペクトル画素MSに設けられる狭帯域フィルタNB以下となる分光特性を有する光学フィルタが、隣接画素に設けられる。より具体的には、例えば、ピーク波長における透過率が、マルチスペクトル画素MSに設けられる狭帯域フィルタNBのピーク波長における透過率以下となる分光特性を有する光学フィルタが、隣接画素に設けられる。
 これにより、例えば、隣接画素からマルチスペクトル画素MSに漏れる光の量を低減することができ、混色や減衰等によりマルチスペクトル画素MSの分光特性が劣化し、狭帯域光の検出精度が低下することが抑制される。
 例えば、緑色フィルタGは、赤色フィルタR及び青色フィルタGより透過率が高い。従って、G画素は、R画素及びB画素より感度が高く、同じ入射光に対する出力レベルが大きくなる。そこで、例えば、図25に示されるように、マルチスペクトル画素MSの上下及び左右にG画素を配置するよりも、図26に示されるように、マルチスペクトル画素MSの上下及び左右にR画素又はB画素を配置することが望ましい。
 なお、マルチスペクトル画素MSのピーク波長と、隣接画素のピーク波長との間の波長差(以下、ピーク波長差と称する)W1(図24)は、大きい方が望ましい。
 また、例えば、マルチスペクトル画素MSの周辺には、マルチスペクトル画素MSとの検出帯域の差が大きい画素51が配置される。
 具体的には、図27は、図24と同様に、マルチスペクトル画素MS及び隣接画素の分光特性の例を示すグラフである。
 例えば、この例のように、マルチスペクトル画素MSとの検出帯域の差が所定の波長以上の画素51が、隣接画素としてマルチスペクトル画素MSの周辺に配置される。すなわち、例えば、マルチスペクトル画素MSに設けられる狭帯域フィルタNBとの透過帯域の差が所定の波長以上となる分光特性を有する光学フィルタが、隣接画素に設けられる。
 より具体的には、マルチスペクトル画素MSとのピーク波長差W2が所定の波長以上の画素51が、隣接画素としてマルチスペクトル画素MSの周辺に配置される。すなわち、例えば、マルチスペクトル画素MSに設けられる狭帯域フィルタNBとの間のピーク波長の差が所定の波長以上(例えば、20nm以上)となる分光特性を有する光学フィルタが、隣接画素に設けられる。
 これにより、例えば、マルチスペクトル画素MSの検出帯域の範囲内の光が隣接画素から漏れる量を低減することができ、混色や減衰等によりマルチスペクトル画素MSの分光特性が劣化し、狭帯域光の検出精度が低下することが抑制される。
 さらに、例えば、マルチスペクトル画素MSと隣接画素の検出帯域が近い場合、マルチスペクトル画素より感度が低く、感度差ができる限り大きい画素51が隣接画素として用いられる。
 具体的には、図28は、図24及び図27と同様に、マルチスペクトル画素MS及び隣接画素の分光特性の例を示すグラフである。
 この例のように、マルチスペクトル画素MSと隣接画素との間のピーク波長差W3が所定の波長未満となる場合、マルチスペクトル画素MSのピーク波長における出力レベルと、隣接画素のピーク波長における出力レベルとの差L1が所定の閾値以上となる画素51が隣接画素に用いられる。すなわち、例えば、ピーク波長における透過率が、マルチスペクトル画素MSに設けられる狭帯域フィルタNBのピーク波長における透過率より低く、その差が所定の閾値以上となる分光特性を有する光学フィルタが、隣接画素に設けられる。これにより、例えば、隣接画素からマルチスペクトル画素MSに漏れる光の量を低減することができ、混色や減衰等によりマルチスペクトル画素MSの分光特性が劣化し、狭帯域光の検出精度が低下することが抑制される。
 なお、隣接画素に設けられる光学フィルタは、有効領域31A内の画素51に設けられている赤色フィルタR、緑色フィルタG、及び、青色フィルタGのいずれかであってもよいし、それ以外の光学フィルタであってもよい。それ以外の光学フィルタとしては、例えば、赤、緑、青以外の色の光を透過するカラーフィルタや、マルチスペクトル画素MSに設けられている狭帯域フィルタNBと透過帯域が異なる狭帯域フィルタNBが用いられる。後者の場合、検出帯域が異なるマルチスペクトル画素MSが隣接することになる。
 また、必ずしもマルチスペクトル画素MSに隣接する全ての画素51が上記のいずれかの条件を満たす必要はなく、一部の画素51のみが上記のいずれかの条件を満たしていてもよい。一部の画素51のみが上記のいずれかの条件を満たしていても、マルチスペクトル画素MSの狭帯域光の検出精度の低下は抑制される。
 また、例えば、周辺領域31Bにおいて、各画素51の光の入射側に遮光膜を設けることにより、光学的黒領域(オプティカルブラック)が設けられる場合がある。この場合、図29に示されるように、マルチスペクトル画素MSの周囲の画素51に斜線で示される遮光膜が設けられるのに対し、マルチスペクトル画素MSには、遮光膜は設けられない。
 これにより、隣接画素からマルチスペクトル画素MSに漏れる光の量を低減することができ、混色や減衰等によりマルチスペクトル画素MSの分光特性が劣化し、狭帯域光の検出精度が低下することが抑制される。
 次に、図30乃至図33を参照して、マルチスペクトル画素MSの密度について説明する。
 図30は、マルチスペクトル画素MSの密度が1/9画素である場合の例を示している。すなわち、点線で囲まれる3行×3列の9つの画素51からなる画素ブロック351の中央にマルチスペクトル画素MSが1つ配置されている。
 図31は、マルチスペクトル画素MSの密度が1/7画素である場合の例を示している。すなわち、点線で囲まれる7つの画素51からなる画素ブロック352の中央にマルチスペクトル画素MSが1つ配置されている。なお、この例では、マルチスペクトル画素MSの上下に、それぞれ2つずつ画素51が隣接している。
 図32は、マルチスペクトル画素MSの密度が1/6画素である場合の例を示している。すなわち、点線で囲まれる3行×4列の12画素からなる画素ブロック353内の中央に、マルチスペクトル画素MSが水平方向に2つ並べられている。
 図33は、マルチスペクトル画素MSの密度が1/4画素である場合の例を示している。すなわち、点線で囲まれる4行×4列の16画素からなる画素ブロック354内の中央に、4つのマルチスペクトル画素MSが2行×2列に並べられている。
 <<3.変形例>>
 以下、上述した本技術の実施形態の変形例について説明する。
 例えば、第2の実施の形態において、図16の撮像素子12Bを用いることも可能である。すなわち、例えば、カラーフィルタと狭帯域フィルタNBとを異なる層に設けるようにしてもよい。
 また、上述した周辺領域31Bの画素配列の例は、その一例であり、他の画素配列を採用することが可能である。ただし、像高が同じ画素に、同じ透過帯域の狭帯域フィルタNBを設けるようにすることが望ましい。また、マルチスペクトル画素MSの隣接画素が、できるだけ多く上記の条件を満たすようにすることが望ましい。
 さらに、周辺領域31Bは、必ずしも有効領域31Aの四方に設ける必要はなく、有効領域31Aの1方向乃至3方向に設けるようにしてもよい。
 また、本技術に用いる光学フィルタ(例えば、カラーフィルタ、狭帯域フィルタ等)の透過帯域は、必ずしも可視光の波長帯域に限定されるものではなく、例えば、紫外光又は赤外光を透過する光学フィルタを用いることも可能である。
 さらに、本技術は、上述した裏面照射型のCMOSイメージセンサだけでなく、プラズモンフィルタを用いる他の撮像素子に適用することが可能である。例えば、表面照射型のCMOSイメージセンサ、CCD(Charge Coupled Device)イメージセンサ、有機光電変換膜や量子ドット構造などを内包したフォトコンダクタ構造のイメージセンサ等に、本技術を適用することができる。
 また、本技術は、例えば、図34に示される積層型の固体撮像装置に適用することが可能である。
 図34のAは、非積層型の固体撮像装置の概略構成例を示している。固体撮像装置1010は、図34のAに示すように、1枚のダイ(半導体基板)1011を有する。このダイ1011には、画素がアレイ状に配置された画素領域1012と、画素の駆動その他の各種の制御を行う制御回路1013と、信号処理するためのロジック回路1014とが搭載されている。
 図34のB及び図34のCは、積層型の固体撮像装置の概略構成例を示している。固体撮像装置1020は、図34のB及び図34のCに示すように、センサダイ1021とロジックダイ1022との2枚のダイが積層され、電気的に接続されて、1つの半導体チップとして構成されている。
 図34のBでは、センサダイ1021には、画素領域1012と制御回路1013が搭載され、ロジックダイ1022には、信号処理を行う信号処理回路を含むロジック回路1014が搭載されている。
 図34のCでは、センサダイ1021には、画素領域1012が搭載され、ロジックダイ1024には、制御回路1013及びロジック回路1014が搭載されている。
 また、本技術は、プラズモンフィルタ以外の金属薄膜フィルタ等の狭帯域フィルタを用いる撮像素子にも適用することができる。また、そのような狭帯域フィルタとして、半導体材料を用いたフォトニック結晶を適用した光学フィルタも考えられる。
 <<4.応用例>>
 次に、本技術の応用例について説明する。
 <本技術の応用例>
 例えば、本技術は、図35に示されるように、可視光や、赤外光、紫外光、X線等の光をセンシングする様々なケースに応用することができる。
 ・デジタルカメラや、カメラ機能付きの携帯機器等の、鑑賞の用に供される画像を撮影する装置
 ・自動停止等の安全運転や、運転者の状態の認識等のために、自動車の前方や後方、周囲、車内等を撮影する車載用センサ、走行車両や道路を監視する監視カメラ、車両間等の測距を行う測距センサ等の、交通の用に供される装置
 ・ユーザのジェスチャを撮影して、そのジェスチャに従った機器操作を行うために、TVや、冷蔵庫、エアーコンディショナ等の家電に供される装置
 ・内視鏡や、赤外光の受光による血管撮影を行う装置等の、医療やヘルスケアの用に供される装置
 ・防犯用途の監視カメラや、人物認証用途のカメラ等の、セキュリティの用に供される装置
 ・肌を撮影する肌測定器や、頭皮を撮影するマイクロスコープ等の、美容の用に供される装置
 ・スポーツ用途等向けのアクションカメラやウェアラブルカメラ等の、スポーツの用に供される装置
 ・畑や作物の状態を監視するためのカメラ等の、農業の用に供される装置
 以下、より具体的な応用例について説明する。
 例えば、図1の撮像装置10の各画素51の狭帯域フィルタNBの透過帯域を調整することにより、撮像装置10の各画素51が検出する光の波長帯域(検出帯域)を調整することができる。そして、各画素51の検出帯域を適切に設定することにより、撮像装置10を様々な用途に用いることができる。
 例えば、図36は、食品のうまみや鮮度を検出する場合の検出帯域の例が示されている。
 例えば、マグロや牛肉等のうまみ成分を示すミオグロビンを検出する場合の検出帯域のピーク波長は580~630nmの範囲内であり、半値幅は30~50nmの範囲内である。マグロや牛肉等の鮮度を示すオレイン酸を検出する場合の検出帯域のピーク波長は980nmであり、半値幅は50~100nmの範囲内である。小松菜などの葉物野菜の鮮度を示すクロロフィルを検出する場合の検出帯域のピーク波長は650~700nmの範囲内であり、半値幅は50~100nmの範囲内である。
 図37は、果物の糖度や水分を検出する場合の検出帯域の例が示されている。
 例えば、メロンの一品種であるらいでんの糖度を示す果肉光路長を検出する場合の検出帯域のピーク波長は880nmであり、半値幅は20~30nmの範囲内である。らいでんの糖度を示すショ糖を検出する場合の検出帯域のピーク波長は910nmであり、半値幅は40~50nmの範囲内である。メロンの他の品種であるらいでんレッドの糖度を示すショ糖を検出する場合の検出帯域のピーク波長は915nmであり、半値幅は40~50nmの範囲内である。らいでんレッドの糖度を示す水分を検出する場合の検出帯域のピーク波長は955nmであり、半値幅は20~30nmの範囲内である。
 りんごの糖度の糖度を示すショ糖を検出する場合の検出帯域のピーク波長は912nmであり、半値幅は40~50nmの範囲内である。みかんの水分を示す水を検出する場合の検出帯域のピーク波長は844nmであり、半値幅は30nmである。みかんの糖度を示すショ糖を検出する場合の検出帯域のピーク波長は914nmであり、半値幅は40~50nmの範囲内である。
 図38は、プラスチックの分別を行う場合の検出帯域の例が示されている。
 例えば、PET(Poly Ethylene Terephthalate)を検出する場合の検出帯域のピーク波長は1669nmであり、半値幅は30~50nmの範囲内である。PS(Poly Styrene)を検出する場合の検出帯域のピーク波長は1688nmであり、半値幅は30~50nmの範囲内である。PE(Poly Ethylene)を検出する場合の検出帯域のピーク波長は1735nmであり、半値幅は30~50nmの範囲内である。PVC(Poly Vinyl Cloride)を検出する場合の検出帯域のピーク波長は1716~1726nmの範囲内であり、半値幅は30~50nmの範囲内である。PP(Polyepropylene)を検出する場合の検出帯域のピーク波長は1716~1735nmの範囲内であり、半値幅は30~50nmの範囲内である。
 また、例えば、本技術は、切り花の鮮度管理に適用することができる。
 さらに、例えば、本技術は、食品に混入している異物検査に適用することができる。例えば、本技術は、アーモンド、ブルーベリー、クルミ等のナッツや果物類に混入している皮、殻、石、葉、枝、木片等の異物の検出に適用することができる。また、例えば、本技術は、加工食品や飲料等に混入しているプラスチック片等の異物の検出に適用することができる。
 さらに、例えば、本技術は、植生の指標であるNDVI(Normalized Difference Vegetation Index)の検出に適用することができる。
 また、例えば、本技術は、人の肌のヘモグロビン由来の波長580nm付近の分光形状、及び、人肌に含まれるメラニン色素由来の波長960nm付近の分光形状のどちらか一方、又は、両者に基づいて、人の検出に適用することができる。
 さらに、例えば、本技術は、生体検知(生体認証)、ユーザインタフェース、サイン等の偽造防止及び監視等に適用することができる。
 <内視鏡手術システムへの応用例>
 また、例えば、本開示に係る技術(本技術)は、内視鏡手術システムに適用されてもよい。
 図39は、本開示に係る技術(本技術)が適用され得る内視鏡手術システムの概略的な構成の一例を示す図である。
 図39では、術者(医師)11131が、内視鏡手術システム11000を用いて、患者ベッド11133上の患者11132に手術を行っている様子が図示されている。図示するように、内視鏡手術システム11000は、内視鏡11100と、気腹チューブ11111やエネルギー処置具11112等の、その他の術具11110と、内視鏡11100を支持する支持アーム装置11120と、内視鏡下手術のための各種の装置が搭載されたカート11200と、から構成される。
 内視鏡11100は、先端から所定の長さの領域が患者11132の体腔内に挿入される鏡筒11101と、鏡筒11101の基端に接続されるカメラヘッド11102と、から構成される。図示する例では、硬性の鏡筒11101を有するいわゆる硬性鏡として構成される内視鏡11100を図示しているが、内視鏡11100は、軟性の鏡筒を有するいわゆる軟性鏡として構成されてもよい。
 鏡筒11101の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡11100には光源装置11203が接続されており、当該光源装置11203によって生成された光が、鏡筒11101の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者11132の体腔内の観察対象に向かって照射される。なお、内視鏡11100は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
 カメラヘッド11102の内部には光学系及び撮像素子が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU: Camera Control Unit)11201に送信される。
 CCU11201は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡11100及び表示装置11202の動作を統括的に制御する。さらに、CCU11201は、カメラヘッド11102から画像信号を受け取り、その画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。
 表示装置11202は、CCU11201からの制御により、当該CCU11201によって画像処理が施された画像信号に基づく画像を表示する。
 光源装置11203は、例えばLED(light emitting diode)等の光源から構成され、術部等を撮影する際の照射光を内視鏡11100に供給する。
 入力装置11204は、内視鏡手術システム11000に対する入力インタフェースである。ユーザは、入力装置11204を介して、内視鏡手術システム11000に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、内視鏡11100による撮像条件(照射光の種類、倍率及び焦点距離等)を変更する旨の指示等を入力する。
 処置具制御装置11205は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具11112の駆動を制御する。気腹装置11206は、内視鏡11100による視野の確保及び術者の作業空間の確保の目的で、患者11132の体腔を膨らめるために、気腹チューブ11111を介して当該体腔内にガスを送り込む。レコーダ11207は、手術に関する各種の情報を記録可能な装置である。プリンタ11208は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
 なお、内視鏡11100に術部を撮影する際の照射光を供給する光源装置11203は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成することができる。RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置11203において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド11102の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
 また、光源装置11203は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド11102の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
 また、光源装置11203は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察(Narrow Band Imaging)が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察すること(自家蛍光観察)、又はインドシアニングリーン(ICG)等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得ること等を行うことができる。光源装置11203は、このような特殊光観察に対応した狭帯域光及び/又は励起光を供給可能に構成され得る。
 図40は、図39に示すカメラヘッド11102及びCCU11201の機能構成の一例を示すブロック図である。
 カメラヘッド11102は、レンズユニット11401と、撮像部11402と、駆動部11403と、通信部11404と、カメラヘッド制御部11405と、を有する。CCU11201は、通信部11411と、画像処理部11412と、制御部11413と、を有する。カメラヘッド11102とCCU11201とは、伝送ケーブル11400によって互いに通信可能に接続されている。
 レンズユニット11401は、鏡筒11101との接続部に設けられる光学系である。鏡筒11101の先端から取り込まれた観察光は、カメラヘッド11102まで導光され、当該レンズユニット11401に入射する。レンズユニット11401は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。
 撮像部11402を構成する撮像素子は、1つ(いわゆる単板式)であってもよいし、複数(いわゆる多板式)であってもよい。撮像部11402が多板式で構成される場合には、例えば各撮像素子によってRGBそれぞれに対応する画像信号が生成され、それらが合成されることによりカラー画像が得られてもよい。あるいは、撮像部11402は、3D(dimensional)表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成されてもよい。3D表示が行われることにより、術者11131は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部11402が多板式で構成される場合には、各撮像素子に対応して、レンズユニット11401も複数系統設けられ得る。
 また、撮像部11402は、必ずしもカメラヘッド11102に設けられなくてもよい。例えば、撮像部11402は、鏡筒11101の内部に、対物レンズの直後に設けられてもよい。
 駆動部11403は、アクチュエータによって構成され、カメラヘッド制御部11405からの制御により、レンズユニット11401のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部11402による撮像画像の倍率及び焦点が適宜調整され得る。
 通信部11404は、CCU11201との間で各種の情報を送受信するための通信装置によって構成される。通信部11404は、撮像部11402から得た画像信号をRAWデータとして伝送ケーブル11400を介してCCU11201に送信する。
 また、通信部11404は、CCU11201から、カメラヘッド11102の駆動を制御するための制御信号を受信し、カメラヘッド制御部11405に供給する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに/又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。
 なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、ユーザによって適宜指定されてもよいし、取得された画像信号に基づいてCCU11201の制御部11413によって自動的に設定されてもよい。後者の場合には、いわゆるAE(Auto Exposure)機能、AF(Auto Focus)機能及びAWB(Auto White Balance)機能が内視鏡11100に搭載されていることになる。
 カメラヘッド制御部11405は、通信部11404を介して受信したCCU11201からの制御信号に基づいて、カメラヘッド11102の駆動を制御する。
 通信部11411は、カメラヘッド11102との間で各種の情報を送受信するための通信装置によって構成される。通信部11411は、カメラヘッド11102から、伝送ケーブル11400を介して送信される画像信号を受信する。
 また、通信部11411は、カメラヘッド11102に対して、カメラヘッド11102の駆動を制御するための制御信号を送信する。画像信号や制御信号は、電気通信や光通信等によって送信することができる。
 画像処理部11412は、カメラヘッド11102から送信されたRAWデータである画像信号に対して各種の画像処理を施す。
 制御部11413は、内視鏡11100による術部等の撮像、及び、術部等の撮像により得られる撮像画像の表示に関する各種の制御を行う。例えば、制御部11413は、カメラヘッド11102の駆動を制御するための制御信号を生成する。
 また、制御部11413は、画像処理部11412によって画像処理が施された画像信号に基づいて、術部等が映った撮像画像を表示装置11202に表示させる。この際、制御部11413は、各種の画像認識技術を用いて撮像画像内における各種の物体を認識してもよい。例えば、制御部11413は、撮像画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具11112の使用時のミスト等を認識することができる。制御部11413は、表示装置11202に撮像画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させてもよい。手術支援情報が重畳表示され、術者11131に提示されることにより、術者11131の負担を軽減することや、術者11131が確実に手術を進めることが可能になる。
 カメラヘッド11102及びCCU11201を接続する伝送ケーブル11400は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
 ここで、図示する例では、伝送ケーブル11400を用いて有線で通信が行われていたが、カメラヘッド11102とCCU11201との間の通信は無線で行われてもよい。
 以上、本開示に係る技術が適用され得る内視鏡手術システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、例えば、カメラヘッド11102や、カメラヘッド11102の撮像部11402に適用され得る。具体的には、例えば、図1の撮像素子12を、撮像部11402に適用することができる。撮像部11402に本開示に係る技術を適用することにより、より詳細かつ高精度な術部画像を得ることができるため、術者が術部を確実に確認することが可能になる。
 なお、ここでは、一例として内視鏡手術システムについて説明したが、本開示に係る技術は、その他、例えば、顕微鏡手術システム等に適用されてもよい。
 <移動体への応用例>
 また、例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
 図41は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
 車両制御システム12000は、通信ネットワーク12001を介して接続された複数の電子制御ユニットを備える。図41に示した例では、車両制御システム12000は、駆動系制御ユニット12010、ボディ系制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、及び統合制御ユニット12050を備える。また、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051、音声画像出力部12052、及び車載ネットワークI/F(Interface)12053が図示されている。
 駆動系制御ユニット12010は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット12010は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
 ボディ系制御ユニット12020は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット12020は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット12020には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット12020は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
 車外情報検出ユニット12030は、車両制御システム12000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット12030には、撮像部12031が接続される。車外情報検出ユニット12030は、撮像部12031に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
 撮像部12031は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部12031は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部12031が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
 車内情報検出ユニット12040は、車内の情報を検出する。車内情報検出ユニット12040には、例えば、運転者の状態を検出する運転者状態検出部12041が接続される。運転者状態検出部12041は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出部12041から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
 マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット12010に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行うことができる。
 また、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
 また、マイクロコンピュータ12051は、車外情報検出ユニット12030で取得される車外の情報に基づいて、ボディ系制御ユニット12020に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
 音声画像出力部12052は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図41の例では、出力装置として、オーディオスピーカ12061、表示部12062及びインストルメントパネル12063が例示されている。表示部12062は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
 図42は、撮像部12031の設置位置の例を示す図である。
 図42では、撮像部12031として、撮像部12101、12102、12103、12104、12105を有する。
 撮像部12101、12102、12103、12104、12105は、例えば、車両12100のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部12101及び車室内のフロントガラスの上部に備えられる撮像部12105は、主として車両12100の前方の画像を取得する。サイドミラーに備えられる撮像部12102、12103は、主として車両12100の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部12104は、主として車両12100の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部12105は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
 なお、図42には、撮像部12101ないし12104の撮影範囲の一例が示されている。撮像範囲12111は、フロントノーズに設けられた撮像部12101の撮像範囲を示し、撮像範囲12112,12113は、それぞれサイドミラーに設けられた撮像部12102,12103の撮像範囲を示し、撮像範囲12114は、リアバンパ又はバックドアに設けられた撮像部12104の撮像範囲を示す。例えば、撮像部12101ないし12104で撮像された画像データが重ね合わせられることにより、車両12100を上方から見た俯瞰画像が得られる。
 撮像部12101ないし12104の少なくとも1つは、距離情報を取得する機能を有していてもよい。例えば、撮像部12101ないし12104の少なくとも1つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
 例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を基に、撮像範囲12111ないし12114内における各立体物までの距離と、この距離の時間的変化(車両12100に対する相対速度)を求めることにより、特に車両12100の進行路上にある最も近い立体物で、車両12100と略同じ方向に所定の速度(例えば、0km/h以上)で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ12051は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御(追従停止制御も含む)や自動加速制御(追従発進制御も含む)等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
 例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を元に、立体物に関する立体物データを、2輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ12051は、車両12100の周辺の障害物を、車両12100のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ12051は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ12061や表示部12062を介してドライバに警報を出力することや、駆動系制御ユニット12010を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
 撮像部12101ないし12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像部12101ないし12104の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部12101ないし12104の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ12051が、撮像部12101ないし12104の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部12052は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部12062を制御する。また、音声画像出力部12052は、歩行者を示すアイコン等を所望の位置に表示するように表示部12062を制御してもよい。
 以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、例えば、撮像部12031に適用され得る。具体的には、例えば、図1の撮像装置10を撮像部12031に適用することができる。撮像部12031に本開示に係る技術を適用することにより、例えば、車外の情報をより詳細かつ高精度に取得することができ、自動運転の安全性の向上等を実現することができる。
 なお、本技術の実施形態は、上述した実施形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
 <構成の組み合わせ例>
 また、例えば、本技術は、以下のような構成も取ることができる。
(1)
 画像の取得に用いられる有効領域、及び、前記有効領域の周辺の周辺領域を含む画素アレイを
 備え、
 それぞれ異なる波長の光を透過する複数の種類の第1の光学フィルタが、前記有効領域内の各画素に設けられ、
 前記第1の光学フィルタの透過帯域より帯域幅が狭い透過帯域を有する第2の光学フィルタが、前記周辺領域内の第1の画素に設けられ、
 前記第2の光学フィルタとの透過帯域の差が所定の波長以上、又は、透過率が前記第2の光学フィルタ以下である第3の光学フィルタが、前記第1の画素に隣接する第2の画素に設けられている
 撮像素子。
(2)
 前記第2の光学フィルタのピーク波長と前記第3の光学フィルタのピーク波長との差が前記所定の波長以上である
 前記(1)に記載の撮像素子。
(3)
 前記第3の光学フィルタのピーク波長における透過率が、前記第2の光学フィルタのピーク波長における透過率以下である
 前記(1)に記載の撮像素子。
(4)
 前記第2の光学フィルタと前記第3の光学フィルタとの透過帯域の差が前記所定の波長未満である場合、前記第2の光学フィルタのピーク波長における透過率と前記第3の光学フィルタのピーク波長における透過率との差が、所定の閾値以上である
 前記(3)に記載の撮像素子。
(5)
 前記第2の画素の光の入射側に遮光膜が設けられており、前記第1の画素の光の入射側に前記遮光膜が設けられていない
 前記(1)乃至(4)のいずれかに記載の撮像素子。
(6)
 前記第2の画素と像高が同じ第3の画素において、前記第2の光学フィルタと透過帯域が同様の光学フィルタが設けられている
 前記(1)乃至(5)のいずれかに記載の撮像素子。
(7)
 前記第2の光学フィルタは、プラズモンフィルタである
 前記(1)乃至(6)のいずれかに記載の撮像素子。
(8)
 前記第3の光学フィルタは、複数の種類の前記第1の光学フィルタのいずれかである
 前記(1)乃至(7)のいずれかに記載の撮像素子。
(9)
 撮像素子と、
 前記撮像素子から出力される信号を処理する信号処理部と
 を備え、
 前記撮像素子は、
  画像の取得に用いられる有効領域、及び、前記有効領域の周辺の周辺領域を含む画素アレイを
  備え、
  それぞれ異なる波長の光を透過する複数の種類の第1の光学フィルタが、前記有効領域内の各画素に設けられ、
  前記第1の光学フィルタの透過帯域より帯域幅が狭い透過帯域を有する第2の光学フィルタが、前記周辺領域内の第1の画素に設けられ、
  前記第2の光学フィルタとの透過帯域の差が所定の波長以上、又は、透過率が前記第2の光学フィルタ以下である第3の光学フィルタが、前記第1の画素に隣接する第2の画素に設けられている
 電子機器。
 10 撮像装置, 11 光学系, 12,12A乃至12C 撮像素子, 14 信号処理部, 31 画素アレイ, 31A 有効領域, 31B 周辺領域, 51 画素, 61 フォトダイオード, 101 オンチップマイクロレンズ, 102 層間膜, 103 狭帯域フィルタ層, 104 層間膜, 105 光電変換素子層, 106 信号配線層, 107 カラーフィルタ層, 108 フィルタ層, 121A乃至121D プラズモンフィルタ, 131A乃至131C 導体薄膜, 132A乃至132C’ ホール, 133A,133B ドット, 134A,134B 誘電体層, 151 プラズモンフィルタ, 161A 動体薄膜, 162 SiO2膜, 163 SiN膜, 164 SiO2基板, 203,221 半導体チップ, 301 レンズ, 351乃至354 画素ブロック, NB 狭帯域フィルタ, P 透過フィルタ

Claims (9)

  1.  画像の取得に用いられる有効領域、及び、前記有効領域の周辺の周辺領域を含む画素アレイを
     備え、
     それぞれ異なる波長の光を透過する複数の種類の第1の光学フィルタが、前記有効領域内の各画素に設けられ、
     前記第1の光学フィルタの透過帯域より帯域幅が狭い透過帯域を有する第2の光学フィルタが、前記周辺領域内の第1の画素に設けられ、
     前記第2の光学フィルタとの透過帯域の差が所定の波長以上、又は、透過率が前記第2の光学フィルタ以下である第3の光学フィルタが、前記第1の画素に隣接する第2の画素に設けられている
     撮像素子。
  2.  前記第2の光学フィルタのピーク波長と前記第3の光学フィルタのピーク波長との差が前記所定の波長以上である
     請求項1に記載の撮像素子。
  3.  前記第3の光学フィルタのピーク波長における透過率が、前記第2の光学フィルタのピーク波長における透過率以下である
     請求項1に記載の撮像素子。
  4.  前記第2の光学フィルタと前記第3の光学フィルタとの透過帯域の差が前記所定の波長未満である場合、前記第2の光学フィルタのピーク波長における透過率と前記第3の光学フィルタのピーク波長における透過率との差が、所定の閾値以上である
     請求項3に記載の撮像素子。
  5.  前記第2の画素の光の入射側に遮光膜が設けられており、前記第1の画素の光の入射側に前記遮光膜が設けられていない
     請求項1に記載の撮像素子。
  6.  前記第2の画素と像高が同じ第3の画素において、前記第2の光学フィルタと透過帯域が同様の光学フィルタが設けられている
     請求項1に記載の撮像素子。
  7.  前記第2の光学フィルタは、プラズモンフィルタである
     請求項1に記載の撮像素子。
  8.  前記第3の光学フィルタは、複数の種類の前記第1の光学フィルタのいずれかである
     請求項1に記載の撮像素子。
  9.  撮像素子と、
     前記撮像素子から出力される信号を処理する信号処理部と
     を備え、
     前記撮像素子は、
      画像の取得に用いられる有効領域、及び、前記有効領域の周辺の周辺領域を含む画素アレイを
      備え、
      それぞれ異なる波長の光を透過する複数の種類の第1の光学フィルタが、前記有効領域内の各画素に設けられ、
      前記第1の光学フィルタの透過帯域より帯域幅が狭い透過帯域を有する第2の光学フィルタが、前記周辺領域内の第1の画素に設けられ、
      前記第2の光学フィルタとの透過帯域の差が所定の波長以上、又は、透過率が前記第2の光学フィルタ以下である第3の光学フィルタが、前記第1の画素に隣接する第2の画素に設けられている
     電子機器。
PCT/JP2017/044629 2016-12-13 2017-12-12 撮像素子及び電子機器 WO2018110573A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN201780069410.3A CN110073491B (zh) 2016-12-13 2017-12-12 成像元件和电子设备
US16/465,702 US11181672B2 (en) 2016-12-13 2017-12-12 Imaging device and electronic apparatus
EP17881226.9A EP3557627B1 (en) 2016-12-13 2017-12-12 Image pickup element and electronic apparatus

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2016-241256 2016-12-13
JP2016241256A JP7066316B2 (ja) 2016-12-13 2016-12-13 撮像素子及び電子機器

Publications (1)

Publication Number Publication Date
WO2018110573A1 true WO2018110573A1 (ja) 2018-06-21

Family

ID=62558548

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2017/044629 WO2018110573A1 (ja) 2016-12-13 2017-12-12 撮像素子及び電子機器

Country Status (5)

Country Link
US (1) US11181672B2 (ja)
EP (1) EP3557627B1 (ja)
JP (1) JP7066316B2 (ja)
CN (1) CN110073491B (ja)
WO (1) WO2018110573A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3979333A4 (en) * 2019-05-31 2022-08-17 FUJIFILM Corporation OPTICAL SENSOR AND DETECTION DEVICE
WO2022219966A1 (ja) * 2021-04-15 2022-10-20 ソニーセミコンダクタソリューションズ株式会社 光検出装置および電子機器

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020113630A (ja) * 2019-01-10 2020-07-27 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置及び電子機器
CN110823387A (zh) * 2019-09-29 2020-02-21 四川大学 基于多个窄带波段合成原理的色温光谱模拟器波段调整方法
US11156826B2 (en) * 2019-12-11 2021-10-26 Visera Technologies Company Limited Optical devices
WO2023149963A1 (en) 2022-02-01 2023-08-10 Landscan Llc Systems and methods for multispectral landscape mapping

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012059865A (ja) 2010-09-08 2012-03-22 Sony Corp 撮像素子および撮像装置
WO2013015117A1 (ja) * 2011-07-28 2013-01-31 ソニー株式会社 固体撮像素子および撮像システム
JP2013174713A (ja) * 2012-02-24 2013-09-05 Canon Inc 光透過部材の形成方法および撮像装置の製造方法

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003258220A (ja) * 2002-02-28 2003-09-12 Canon Inc 撮像素子及び撮像装置
CN100449764C (zh) * 2003-11-18 2009-01-07 松下电器产业株式会社 光电探测器
JP2005175430A (ja) * 2003-11-18 2005-06-30 Matsushita Electric Ind Co Ltd 受光素子
JP2007005437A (ja) * 2005-06-22 2007-01-11 Matsushita Electric Ind Co Ltd 固体撮像装置
JP2008092247A (ja) * 2006-10-02 2008-04-17 Sanyo Electric Co Ltd 固体撮像素子
JP2008091841A (ja) * 2006-10-05 2008-04-17 Sony Corp 固体撮像装置及び撮像装置
US8134115B2 (en) * 2009-06-23 2012-03-13 Nokia Corporation Color filters for sub-diffraction limit-sized light sensors
JP5118715B2 (ja) * 2010-03-11 2013-01-16 株式会社東芝 固体撮像装置
JP5935237B2 (ja) * 2011-03-24 2016-06-15 ソニー株式会社 固体撮像装置および電子機器
JP5817301B2 (ja) * 2011-08-02 2015-11-18 ソニー株式会社 撮像素子、並びに、撮像装置および方法
JP6105728B2 (ja) * 2013-06-14 2017-03-29 シャープ株式会社 固体撮像装置
JP6209890B2 (ja) * 2013-07-29 2017-10-11 ソニー株式会社 裏面照射型イメージセンサ、撮像装置、および電子機器
JP2015090972A (ja) * 2013-11-07 2015-05-11 ルネサスエレクトロニクス株式会社 固体撮像素子並びにレイアウトデータ作成装置およびレイアウトデータ作成方法
US9645075B2 (en) * 2013-11-26 2017-05-09 nanoLambda Korea Multispectral imager with hybrid double layer filter array
JP2015232599A (ja) * 2014-06-09 2015-12-24 ソニー株式会社 光学フィルタ、固体撮像装置、および電子機器
CN107078138B (zh) * 2014-10-06 2020-12-18 索尼公司 固态摄像装置和电子设备

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012059865A (ja) 2010-09-08 2012-03-22 Sony Corp 撮像素子および撮像装置
WO2013015117A1 (ja) * 2011-07-28 2013-01-31 ソニー株式会社 固体撮像素子および撮像システム
JP2013174713A (ja) * 2012-02-24 2013-09-05 Canon Inc 光透過部材の形成方法および撮像装置の製造方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP3557627A4

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3979333A4 (en) * 2019-05-31 2022-08-17 FUJIFILM Corporation OPTICAL SENSOR AND DETECTION DEVICE
WO2022219966A1 (ja) * 2021-04-15 2022-10-20 ソニーセミコンダクタソリューションズ株式会社 光検出装置および電子機器

Also Published As

Publication number Publication date
US11181672B2 (en) 2021-11-23
CN110073491B (zh) 2023-06-20
CN110073491A (zh) 2019-07-30
EP3557627B1 (en) 2023-07-19
EP3557627A1 (en) 2019-10-23
JP2018098345A (ja) 2018-06-21
JP7066316B2 (ja) 2022-05-13
US20190293848A1 (en) 2019-09-26
EP3557627A4 (en) 2019-11-27

Similar Documents

Publication Publication Date Title
JP7130822B2 (ja) イメージングシステム、イメージング処理方法、およびプログラム
JP6789792B2 (ja) 撮像素子、電子機器
WO2018110574A1 (ja) 画像処理装置、画像処理方法、プログラム、および電子機器
JP7154736B2 (ja) 撮像素子、電子機器
JP6910704B2 (ja) 撮像素子、撮像素子の製造方法、プラズモンフィルタ、及び、電子機器
WO2018110573A1 (ja) 撮像素子及び電子機器
WO2018110572A1 (ja) 撮像素子及び電子機器
US20200408598A1 (en) Sensor device and electronic device
US11301958B2 (en) Image processing apparatus, image processing method, and imaging apparatus

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17881226

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2017881226

Country of ref document: EP

Effective date: 20190715