WO2022234753A1 - 固体撮像装置及び電子機器 - Google Patents

固体撮像装置及び電子機器 Download PDF

Info

Publication number
WO2022234753A1
WO2022234753A1 PCT/JP2022/016843 JP2022016843W WO2022234753A1 WO 2022234753 A1 WO2022234753 A1 WO 2022234753A1 JP 2022016843 W JP2022016843 W JP 2022016843W WO 2022234753 A1 WO2022234753 A1 WO 2022234753A1
Authority
WO
WIPO (PCT)
Prior art keywords
light
receiving element
light receiving
filter
bandpass filter
Prior art date
Application number
PCT/JP2022/016843
Other languages
English (en)
French (fr)
Inventor
征志 中田
裕一郎 馬場
Original Assignee
ソニーセミコンダクタソリューションズ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニーセミコンダクタソリューションズ株式会社 filed Critical ソニーセミコンダクタソリューションズ株式会社
Priority to CN202280032343.9A priority Critical patent/CN117322002A/zh
Priority to JP2023518646A priority patent/JPWO2022234753A1/ja
Priority to US18/555,043 priority patent/US20240194712A1/en
Publication of WO2022234753A1 publication Critical patent/WO2022234753A1/ja

Links

Images

Classifications

    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1462Coatings
    • H01L27/14621Colour filter arrangements
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/20Filters
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14643Photodiode arrays; MOS imagers
    • H01L27/14645Colour imagers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only

Definitions

  • the present disclosure relates to solid-state imaging devices and electronic devices.
  • the narrower the FWHM (Full Width at Half Maximum) of the multispectral sensor the better the wavelength analysis performance, so it is desirable to use a sensor with a narrow FWHM.
  • the present disclosure provides an imaging device and an electronic device that acquire multispectral information with a narrow half-value width.
  • a solid-state imaging device includes a light receiving element, an optical filter, and a multi-bandpass filter.
  • the light receiving element photoelectrically converts incident light.
  • the optical filter controls the color of light incident on the light receiving element.
  • the multi-bandpass filter acquires light incident through the optical filter or light incident on the optical filter in a plurality of frequency bands.
  • the optical filter is a filter corresponding to a plurality of the colors, and controls the color incident on each of the light receiving elements, and the multi-bandpass filter has at least one of the peaks of the transmitted frequency band It has a different frequency than the peak of the transmitted light in the filter corresponding to each of said plurality of colors.
  • the plurality of colors may have different spectral peak frequencies.
  • the optical filter may be at least one of a color filter, a plasmon filter and an organic photoelectric conversion film.
  • the multi-bandpass filter may have a transmission band with a half-value width narrower than the half-value width of the optical filter corresponding to each of the plurality of colors.
  • the multi-bandpass filter may be integrally formed by coating, adhesion, or film formation within the device.
  • the multi-bandpass filter may have a plurality of transmission bands in transmission frequency bands of the optical filter corresponding to each of the plurality of colors.
  • the light receiving element may output a signal having a plurality of spectral peaks through the multi-bandpass filter.
  • the light-receiving element may include a first light-receiving element into which light enters through the multi-bandpass filter, and a second light-receiving element into which light enters without passing through the multi-bandpass filter. , a signal may be obtained based on the output of the first light receiving element and the output of the second light receiving element.
  • Spectrum estimation may be performed based on the output of the first light receiving element and the output of the second light receiving element.
  • the multibandpass filter may include a first multibandpass filter and a second multibandpass filter having a transmission band different from that of the first multibandpass filter, and the light receiving element may include the a third light receiving element into which light enters via the first multi-bandpass filter; and a fourth light receiving element into which light enters through the second multi-bandpass filter; A signal may be obtained based on the output of the third light receiving element and the output of the fourth light receiving element.
  • a wavelength extraction circuit for extracting the intensity of light of a predetermined wavelength from the signal output by the light receiving element may further include
  • the multi-bandpass filter may include a third multi-bandpass filter and a fourth multi-bandpass filter having a transmission band different from that of the third multi-bandpass filter, and the light-receiving element is Light may be incident through the third multi-bandpass filter and the fourth multi-bandpass filter so as to have different transmission bands with respect to image height, and the wavelength extraction circuit may transmit light to the different images. Wavelength extraction may be performed using the wavelength extraction parameters for light received from the same target at height.
  • the wavelength extraction circuit may perform the wavelength extraction by synthesizing the signal obtained through the third multi-bandpass filter and the signal obtained through the fourth multi-bandpass filter.
  • the wavelength extraction circuit may perform the wavelength extraction based on signals acquired in different frames.
  • an electronic device includes a display and an imaging device.
  • the display displays image information with light emitted by light emitting elements.
  • the image sensor is an image sensor that captures an image through the display on the side opposite to the light emitting surface of the display, and includes a light receiving element, an optical filter, and a multi-bandpass.
  • the light receiving element photoelectrically converts incident light.
  • the optical filter controls the color of light incident on the light receiving element.
  • the multi-bandpass filter acquires light incident through the optical filter or light incident on the optical filter in a plurality of frequency bands.
  • the optical filter is a filter corresponding to a plurality of the colors, and controls the color incident on each of the light receiving elements, and the multi-bandpass filter has at least one of the peaks of the transmitted frequency band It has a different frequency than the peak of the transmitted light in the filter corresponding to each of said plurality of colors.
  • a wavelength extraction circuit for extracting the intensity of light of a predetermined wavelength from the signal output by the light receiving element may be provided inside the imaging element.
  • a wavelength extraction circuit for extracting the intensity of light of a predetermined wavelength from the signal output by the light receiving element may be provided outside the imaging element.
  • FIG. 1 is a block diagram schematically showing an electronic device according to one embodiment
  • FIG. FIG. 4 is a diagram showing an example of frequency characteristics of an optical filter and a multi-bandpass filter according to one embodiment
  • FIG. 4 is a diagram showing an example of a spectrum of white light through an optical filter and a multi-bandpass filter according to one embodiment
  • FIG. 4 is a diagram showing an example of a result of performing matrix computation on an acquired spectrum according to one embodiment
  • 1 is a diagram schematically showing at least part of a solid-state imaging device according to an embodiment
  • FIG. 1 is a diagram schematically showing at least part of a solid-state imaging device according to an embodiment
  • FIG. 1 is a diagram schematically showing at least part of a solid-state imaging device according to an embodiment
  • FIG. 1 is a diagram schematically showing at least part of a solid-state imaging device according to an embodiment
  • FIG. 1 is a diagram schematically showing at least part of a solid-state imaging device according to an embodiment
  • FIG. 1 is
  • FIG. 1 is a diagram schematically showing at least part of a solid-state imaging device according to an embodiment
  • FIG. 1 is a diagram schematically showing at least part of a solid-state imaging device according to an embodiment
  • FIG. 1 is a diagram schematically showing at least part of a solid-state imaging device according to an embodiment
  • FIG. 4 is a diagram showing an example of spectral characteristics of a subject
  • FIG. 4 is a diagram showing an example of acquired spectra according to one embodiment
  • FIG. 4 is a diagram showing an example of spectra obtained using a multi-bandpass filter according to one embodiment
  • FIG. 4 is a diagram showing an example of spectra obtained using a multi-bandpass filter according to one embodiment
  • 1 is a diagram schematically showing at least part of a solid-state imaging device according to an embodiment
  • FIG. 4 is a diagram showing an example of spectra acquired through a multi-bandpass filter according to one embodiment
  • FIG. 4 is a diagram showing an example of spectra acquired through a multi-bandpass filter according to one embodiment
  • FIG. 2 is a diagram showing an example of the arrangement of optical filters according to one embodiment
  • FIG. 2 is a diagram showing an example of the arrangement of optical filters according to one embodiment
  • 1A and 1B are diagrams illustrating an example of an electronic device according to an embodiment
  • the half-value width in the present disclosure indicates the full width at half-value.
  • FIG. 1 is a block diagram schematically showing an electronic device according to one embodiment.
  • the electronic device 1 includes a solid-state imaging device 10, a processing circuit 12, a memory circuit 14, and an input/output unit 16.
  • the electronic device 1 has at least an imaging function, and may be, for example, a digital still camera or digital video camera with an imaging function, or a mobile terminal, smart phone, tablet terminal, head-mounted display, etc., with other functions. good.
  • the solid-state imaging device 10 includes an optical system 100, pixels 120, a signal processing circuit 140, a memory circuit 160, and an interface 180.
  • the solid-state imaging device 10 is a device or module that receives incident light from the outside, acquires and outputs image information and video information (hereinafter simply referred to as image information).
  • the optical system 100 is an optical system that appropriately causes external light to enter the light receiving element.
  • the optical system 100 includes, for example, lenses, diaphragms, and the like. Also, as will be described later, the optical system 100 may be provided with at least part of an optical filter or at least part of a multi-bandpass filter.
  • a pixel 120 includes a light receiving element and a pixel circuit.
  • the light receiving element acquires and outputs an analog signal based on the intensity of incident light by photoelectric conversion.
  • the light receiving element may be, for example, a photodiode or an organic photoelectric conversion film.
  • a pixel circuit is a circuit that outputs an analog signal output by a light-receiving element at an appropriate timing and with an appropriate magnification.
  • Pixel 120 is a circuit that outputs an analog signal based on the intensity of light controlled by optical system 100 .
  • the signal processing circuit 140 is a circuit that appropriately processes the signal output from the pixel 120 and outputs it.
  • the signal processing circuit 140 may include, for example, a DAC (Digital to Analog Converter) that converts analog signals output from the pixels 120 into digital signals.
  • the signal processing circuit 140 may extract wavelength characteristics from the signals output from the pixels 120, or may perform image processing based on the acquired signals, as will be described later.
  • the memory circuit 160 is a circuit that stores data in the solid-state imaging device 10.
  • Storage circuitry 160 may store digital signals processed by signal processing circuitry 140, for example.
  • the signal processing circuit 140 can write necessary data to or read data from the memory circuit 160 at arbitrary timing.
  • the signal processing circuit 140 is a general-purpose processor and information processing by software is specifically realized using hardware resources, the memory circuit 160 may store data related to this software.
  • Storage circuit 160 may also be connected to interface 180 .
  • the interface 180 is an interface that outputs the signal processed by the signal processing circuit 140 to the outside of the solid-state imaging device 10, or receives input of data including control information from the outside.
  • the format, standard, etc. used for the interface 180 are not particularly limited, and an appropriate interface can be used.
  • the solid-state imaging device 10 appropriately forms and outputs image information based on information from the outside.
  • the imaging method of the solid-state imaging device 10 may be, for example, a rolling shutter method or a global shutter method.
  • the solid-state imaging device 10 may also be compatible with various imaging methods and various image processing.
  • the processing circuit 12, the memory circuit 14, and the input/output unit 16 are provided separately from the solid-state imaging device 10 in the electronic device 1.
  • the processing circuit 12 appropriately processes the signal output from the solid-state imaging device 10 and outputs it. Also, a control signal from the outside may be obtained via the input/output unit 16 to control the solid-state imaging device 10 via the interface 180 .
  • the memory circuit 14 forms a memory area outside the solid-state imaging device 10.
  • the processing circuit 12 may write data to the memory circuit 14 or read data from the memory circuit 14 as needed. If the processing circuit 12 can perform various processes with software, the memory circuit 14 may store programs necessary for this software, like the memory circuit 160 .
  • the input/output unit 16 is a user interface, and includes, for example, a display, buttons, and a touch panel. Also, the input/output unit 16 may have an interface for transferring data to the outside or transferring data from the outside. For example, the user can operate the electronic device 1 via the input/output unit 16 to control imaging in the solid-state imaging device 10 .
  • optical system 100 and the pixel 120 A few non-limiting examples of the optical system 100 and the pixel 120 will be described.
  • the drawing shows 2 to 4 light receiving elements, the light receiving elements are arranged in a two-dimensional array, and the drawing shows a part of these light receiving elements.
  • the solid-state imaging device 10 includes a light-receiving element that photoelectrically converts incident light, an optical filter (may include the optical system 100) that controls the light that enters the light-receiving element, and this optical filter. a multi-bandpass filter that transmits a plurality of frequency bands for light emitted from or incident on the optical filter.
  • An optical filter is, for example, a filter related to the color incident on a light receiving element, and is a filter that controls the spectrum of incident light according to color information.
  • the optical filters may be general color filters or plasmon filters.
  • an organic photoelectric conversion film may be used as a concept combining the optical filter and the light receiving element.
  • An optical filter may be provided for each light receiving element.
  • each light receiving element receives light having a predetermined frequency characteristic.
  • a color image can be reconstructed by providing optical filters corresponding to a plurality of colors for different light receiving elements. These optical filters may have different peak frequencies for different colors in the spectrum.
  • a multi-bandpass filter has at least one of the peaks of the transmission band having a frequency different from the peak of the spectrum transmitted by each optical filter.
  • the half-value width of each transmission band of the multi-bandpass filter is narrower than the half-value width of the spectrum of the optical filter corresponding to each color.
  • FIG. 2 is a diagram showing an example of the transmission characteristics of an optical filter and the transmission characteristics of a multi-bandpass filter.
  • Optical filters are indicated by R (red), G (green), B (blue), Mg (magenta), Cy (cyan), Ye (yellow), W (white), and IR (infrared), respectively. It has a transmission characteristic that transmits a spectrum for a given color.
  • a plurality of types of optical filters suitable for the solid-state imaging device 10 to function as a multispectral sensor are provided.
  • an MBP multi-bandpass filter
  • MBP multi-bandpass filter
  • the frequency characteristics in each transmission band of the multi-bandpass filter have a half width narrower than the half width in the frequency characteristics of each optical filter.
  • the multi-bandpass filter may have multiple transmission bands in each color frequency band.
  • Fig. 3 is a diagram showing an example of a spectrum obtained through a multi-bandpass filter.
  • Fig. 3 shows the case where white light is obtained through an optical filter and a multi-bandpass filter.
  • the outputs from the R, G, and Ye optical filters are superimposed. A combined diagram is shown.
  • the signal obtained through the multi-bandpass filter is an output with multiple frequency peaks for each pixel.
  • FIG. 4 is a diagram showing an example of the result of performing a matrix operation.
  • FIG. 4 shows, as an example, the results of performing matrix operations for obtaining the spectroscopic results at 640 nm on the signals obtained through the optical filter and the multi-bandpass filter.
  • the spectrum in Fig. 3 is calculated by setting the matrix operation as 2 ⁇ (Ye intensity) - 1.15 ⁇ (R intensity) - 2 ⁇ (G intensity).
  • the color information used for calculation is not limited to these three colors. For example, even if you want to obtain the same 640 nm characteristics, you may use the result of receiving light through optical filters corresponding to more colors.
  • This calculation may be performed by the signal processing circuit 140 inside the solid-state imaging device 10 in FIG. 1, or may be performed by the processing circuit 12 outside the solid-state imaging device 10.
  • the above-described wavelength extraction and calculation for obtaining wavelength characteristics can be executed at an appropriate location inside or outside the solid-state imaging device 10 .
  • optical filters and multi-bandpass filters described below are formed according to the filters shown in Fig. 2 as an example.
  • FIG. 5 is a diagram showing an example of the arrangement of optical filters and imaging elements in the solid-state imaging device 10 according to one embodiment.
  • the solid-state imaging device 10 includes a lens 101, a multi-bandpass filter 102, and an imaging element 110.
  • the imaging device 110 is a device with multiple pixels 120 .
  • the pixels 120 are arranged in a two-dimensional array in the imaging device 110, and form image information based on the light information acquired by each pixel.
  • Image sensor 110 may comprise pixels 120 , signal processing circuitry 140 and interface 180 .
  • the imaging device 110 may have a memory circuit 160 .
  • the lens 101 is provided as part of the optical system 100.
  • the lens 101 appropriately refracts and diffracts light incident from the outside, thereby propagating the incident light to the pixels 120 provided in the imaging element 110 .
  • the multi-bandpass filter 102 may be formed separately from the imaging device 110 in the solid-state imaging device 10, for example.
  • the multi-bandpass filter 102 is placed between the lens 101 and the imaging element 110. Light entering from the outside is refracted by the lens 101 and then enters the imaging element 110 via the multi-bandpass filter 102 .
  • This multi-bandpass filter 102 may be formed by coating, adhering, or forming a film on a transmissive film within the solid-state imaging device 10, for example.
  • the formation method is not particularly limited as long as the multi-bandpass filter 102 is appropriately arranged.
  • the solid-state imaging device 10 may be provided with the multi-bandpass filter 102 outside the optical system 100 and the imaging device 110 for properly injecting light into the imaging device 110 .
  • FIG. 6 is a diagram showing an example of the arrangement of optical filters and imaging elements in the solid-state imaging device 10 according to one embodiment.
  • the solid-state imaging device 10 may include a multi-bandpass filter 102 inside the imaging device 110 .
  • FIG. 7 is a diagram showing an example in which the imaging element 110 is provided with the multi-bandpass filter 102.
  • FIG. 7 is a diagram showing an example in which the imaging element 110 is provided with the multi-bandpass filter 102.
  • two pixels 120 each having one light-receiving element are shown as an example, but not limited to this.
  • the pixel 120 may have a configuration in which one pixel circuit is provided for two light receiving elements, and is not limited to these configurations. Any configuration may be used as long as it is possible to acquire information about one color.
  • a pixel 120 includes a light receiving element 121, a planarization film 122, a color filter 123, and an on-chip lens 124. Two pixels 120a, 120b are shown in FIG. 7 as an example.
  • the light receiving element 121 is the light receiving element described above, and is formed of, for example, a photodiode.
  • the light receiving element 121 photoelectrically converts the received light and outputs an analog signal based on the intensity to the pixel circuit.
  • the planarizing film 122 is a layer that planarizes the upper surface of the light receiving element 121 and is made of a material having transparency in a desired band (eg, visible light region + near infrared region). This planarization film 122 may be formed not only on the top surface of the light receiving element 121, but also on the top surface of the color filter 123 or the top surface of the on-chip lens 124, if necessary.
  • the color filter 123 is a filter that controls the spectral characteristics of light incident on the light receiving element 121.
  • a color filter 123 is a filter corresponding to the optical filter described above. If the light receiving element 121 is formed of an organic photoelectric conversion film and generates an analog signal with appropriate spectral characteristics, this configuration is not essential.
  • the color filter 123a may be a filter corresponding to R
  • the color filter 123b may be a filter corresponding to G.
  • a suitable color filter 123 may be provided for each light receiving element 121 .
  • the color filter 123 may be a plasmon filter. In this case, light with different characteristics may be transmitted by appropriately controlling the arrangement, size, etc. of the openings. Further, the color filter 123 may be of a form in which a common color filter and a plasmon filter are mixed. By forming in this way, image information in the visible light region can be acquired, and information such as blood flow and blood oxygen concentration can also be acquired together.
  • the on-chip lens 124 is a lens for appropriately condensing the light condensed by the optical system 100 onto the image sensor 110 for each pixel 120 .
  • This on-chip lens 124 may be formed integrally with the pixel 120 including the light receiving element 121 and the like as a semiconductor device.
  • an on-chip lens 124 is provided for each light receiving element 121, but a configuration in which one on-chip lens 124 is provided for a plurality of light receiving elements 121 may be adopted.
  • the multi-bandpass filter 102 may be provided on top of the on-chip lens 124. That is, in this embodiment, the light incident on the imaging element 110 via the optical system 100 is transmitted by band by band by the multi-bandpass filter 102, appropriately refracted by the on-chip lens 124, and furthermore, by the color filter 123 The spectrum is controlled for each color by and enters the light receiving element 121 .
  • FIG. 8 is a diagram showing another example in which the imaging element 110 is provided with the multi-bandpass filter 102.
  • the multi-bandpass filter 102 may be arranged at any position between the color filter 123 and the light receiving element 121.
  • the light incident on the imaging device 110 Ni via the optical system 100 is appropriately refracted by the on-chip lens 124, the spectrum is controlled for each color by the color filter 123, and the multi-bandpass filter 102 passes through each band and enters the light-receiving element 121 .
  • FIG. 9 is a diagram showing another example in which the imaging element 110 is provided with the multi-bandpass filter 102.
  • Pixels 120a, 120b are pixels provided with the multi-bandpass filter 102
  • pixels 120c, 120d are pixels not provided with the multi-bandpass filter 102.
  • a light receiving element 121 (first light receiving element) to which light enters via the multi-bandpass filter 102 and a light receiving element 121 (first light receiving element) to which light enters without passing through the multi-bandpass filter 102. 2 light receiving element) may be mixed.
  • wavelength information is, for example, information indicating spectral characteristics for a certain wavelength. For example, it may indicate intensity information at a given wavelength of light reflected or transmitted from an object.
  • the solid-state imaging device 10 or the electronic device 1 may use the output results of these first and second light receiving elements to especially perform spectrum estimation. Performing spectral estimation also allows for more detailed analysis of information about the object.
  • the solid-state imaging device 10 may include a first light receiving element and a second light receiving element in one imaging element 110, as shown in FIG.
  • the imaging element 110 may have a configuration in which the multi-bandpass filter 102 is provided.
  • FIG. 10 is a diagram showing another example having a first light receiving element and a second light receiving element.
  • the solid-state imaging device 10 may have multiple imaging elements 110 .
  • the solid-state imaging device 10 includes, for example, an imaging element 110a and an imaging element 110b.
  • the bandpass filter 103 may be, for example, a filter that transmits light in the visible light band.
  • the bandpass filter 103 may be a filter that transmits light in the visible light band and the infrared band.
  • the multi-bandpass filter 102 and the bandpass filter 103 can also be provided outside the imaging element 110.
  • the light receiving element arranged in the imaging element 110a operates in the same manner as the first light receiving element in FIG. 9, and the light receiving element arranged in the imaging element 110b operates in the same manner as the second light receiving element in FIG. Operate.
  • one image sensor 110 has a first light receiving element and a second light receiving element.
  • one image sensor 110 has a first light receiving element and a different image sensor 110 has a second light receiving element. It is the structure provided with an element. Thus, the first light receiving element and the second light receiving element may be arranged in the same imaging element 110 or may be arranged in separate imaging elements 110 .
  • FIG. 11 is a diagram showing an example of spectral characteristics of a subject.
  • FIG. 12 and FIG. 13 show the characteristics of the subject imaged through the first light receiving element and the second light receiving element.
  • Fig. 12 shows the spectrum reconstructed, for example, using the second light receiving element as the light receiving element used for viewing.
  • a sensor used for viewing acquires information on all wavelengths of visible light, and can acquire an image that is close to what the human eye can see.
  • the light-receiving element used for viewing is less accurate in estimating the spectrum from the acquired signal than the light-receiving element used for sensing.
  • Fig. 13 shows, for example, the spectrum extracted with the first light receiving element as the light receiving element used for sensing.
  • Data obtained through a multi-bandpass filter can obtain results with higher accuracy than data obtained using sensors used for viewing for each band.
  • information on the bright spot cannot be extracted, or noise occurs due to the overlapping of the bright spot and the band.
  • the solid-state imaging device 10 or the electronic device 1 estimates a continuous spectrum with higher accuracy by synthesizing the signals acquired using the first light receiving pixel and the second light receiving pixel by signal processing. becomes possible.
  • This estimation may be realized, for example, by performing interpolation processing from the continuous spectrum obtained using the second light-receiving pixels for the data for each band obtained using the first light-receiving pixels.
  • FIG. 14 is a diagram showing an example of the synthesized spectrum estimation result by the above method. As shown in this figure, using the results of FIGS. 12 and 13, it is possible to estimate the spectral characteristics of the subject with higher precision than when only FIG. 12 is used or when only FIG. 13 is used. It becomes possible.
  • FIG. 15 is a diagram showing another arrangement example of the multi-bandpass filter 102.
  • lens 101 may be made of a material having the frequency transmission characteristics of multi-bandpass filter 102 . With such a configuration, the lens 101 can appropriately control incident light, and light having a narrow band spectrum can be incident on the imaging element 110 .
  • lens 101 Although shown as one lens 101 in FIG. 15, it is not limited to this.
  • a plurality of lenses 101 may be provided, each of which may have the characteristics of the multi-bandpass filter 102 and may not have the characteristics of the multi-bandpass filter 102, and may have the same functions as those shown in FIGS. 9 and 10 described above.
  • FIG. 16 is a diagram showing the characteristics of spectra obtained through a multi-bandpass filter according to one embodiment.
  • FIG. 16 shows G light as an example.
  • the dashed line indicates the spectrum of G light
  • the solid line indicates the transmission frequency characteristics of the multi-bandpass filter
  • the dotted line indicates the signal received by the light receiving element.
  • the band indicated by the arrow For example, consider the band indicated by the arrow.
  • the half width of this band of the multi-bandpass filter is the width indicated by the solid arrow.
  • the FWHM of the transmitted G light is the width indicated by the dotted arrow.
  • the output of the sensor is not constant but has a shape with a peak. Around the peak, the sensor output decreases. In the band that is decreasing from the peak, like the band indicated by the arrow in FIG. 16, it is possible to acquire spectral information with a narrower half-value width than the band of the multi-bandpass filter itself. Therefore, when acquiring the spectral characteristics of one light, it is possible to acquire more accurate characteristic values.
  • the solid-state imaging device 10 can also perform sensing using a plurality of multi-bandpass filters with different characteristics.
  • multi-bandpass filters with different bandwidths can be used.
  • the results of filters with narrower bandwidths can be used to obtain the same results as in the above-described embodiments. It is also possible to remove noise and the like by calculation using the result of a wide filter.
  • the solid-state imaging device 10 includes a third light receiving element that receives light through a first multibandpass filter, and a second multibandpass filter that has a different transmission band from the first multibandpass filter. and a fourth light receiving element that receives the
  • the third light receiving element and the fourth light receiving element may be mixed in one image pickup element, or the third light receiving element and the fourth light receiving element may be separate image pickup elements. may be placed in
  • the signal processing circuit 140 in the solid-state imaging device 10 or the processing circuit 12 outside the solid-state imaging device 10 can acquire wavelength information based on the results output from the third light receiving element and the fourth light receiving element. .
  • Fig. 17 is a superimposition of spectral characteristics when using different multi-bandpass filters.
  • is the result based on the output from the third light receiving element, and ⁇ is the result based on the output from the fourth light receiving element. In this way, it is possible to acquire spectral information in different bands while having a certain amount of transmission bandwidth.
  • FIG. 18 is a diagram schematically showing the imaging element 110 according to this embodiment.
  • the left figure is a plan view, and the right figure is a cross-sectional view taken along line A-A of the left figure.
  • the light receiving elements 121 may be provided with an on-chip lens 124 every 3 ⁇ 3 pieces.
  • the light receiving element 121a in the periphery and the light receiving element 121b in the center receive light corresponding to images with different image heights from the same position of the object.
  • the upper surface of the light receiving element 121a is provided with a third multi-bandpass filter 102a
  • the upper surface of the light receiving element 121b is provided with a fourth multi-bandpass filter 102a having different characteristics from the third multi-bandpass filter 102a.
  • a bandpass filter 102b is provided. Different properties may be, for example, having different transmission bands.
  • the optical filters are not shown, as a non-limiting example, the light receiving elements belonging to the same on-chip lens 124 may be provided with color filters of the same color.
  • the solid-state imaging device 10 may include a piezo element that gives the imaging device 110 minute vibrations, or the electronic device 1 may include a piezo element that gives the solid-state imaging device 10 minute vibrations. good too.
  • FIG. 19 is an arrangement example of optical filters in a light receiving element according to one embodiment.
  • filters may be arranged for receiving magenta, yellow, cyan, white, red, green, blue and infrared spectra, respectively.
  • FIG. 20 is another arrangement example of optical filters in the light receiving element according to one embodiment.
  • optical filters may be arranged as a combination of green and yellow, a combination of blue and cyan, and a combination of red and magenta.
  • the solid-state imaging device 10 includes an imaging element including an ALS (Ambient Light Sensor) that photoelectrically converts only specific wavelengths with a limited wavelength band, and a multispectral sensor that does not lack a wavelength band at least in visible light. (preferably 4 or more colors) may be used to achieve spectral estimation.
  • ALS Ambient Light Sensor
  • the solid-state imaging device 10 or the electronic device 1 acquires, for example, light intensity information natural to the human eye from an illuminance sensor such as ALS, and image height from a multispectral sensor equipped with a multibandpass filter. It is possible to obtain spectral information dependent on Therefore, by appropriately mixing the outputs from these sensors, it is possible to obtain the effects of the above-described embodiments and also realize the reconstruction of an image that looks natural to the human eye.
  • FIG. 21 is a mounting example of an electronic device 1 using the solid-state imaging device 10 of each embodiment described above.
  • the electronic device 1 may be, for example, a smart phone, a tablet terminal, or the like.
  • the electronic device 1 has a solid-state imaging device 10 that receives light transmitted through the display on the side opposite to the display surface of the display.
  • the display surface 350z extends close to the external size of the electronic device 1, and the width of the bezel 350y around the display surface 350z is several millimeters or less.
  • a front camera is usually mounted on the bezel 350y, but the solid-state imaging device 10 according to the present disclosure may be provided on the back side of the display approximately in the center of the display surface as indicated by the dashed line.
  • This solid-state imaging device 10 can operate as an image sensor that functions as a front camera. In this way, the solid-state imaging device 10 can also be provided below the display.
  • solid-state imaging device 10 Although a form in which one solid-state imaging device 10 is provided has been shown, the present invention is not limited to this, and a plurality of solid-state imaging devices 10 may be provided at different positions below the same display.
  • the solid-state imaging device 10 may include a display and the solid-state imaging device 10 as an imaging element below the display.
  • a display is equipped with a light-emitting element and displays image information with the light emitted by the light-emitting element.
  • the solid-state imaging device 10 acquires external light through the display on the side opposite to the light-emitting surface of the display and captures an image.
  • the solid-state imaging device 10 includes a light-receiving element that photoelectrically converts incident light, an optical filter that controls the color of the light that enters the light-receiving element, and a light that enters through the optical filter. and a multi-bandpass filter for capturing light or light incident on the optical filter in multiple frequency bands.
  • An optical filter is a filter that has a transmission band corresponding to each of the multiple color spectra that you want to acquire, and controls the incident color for each light receiving element.
  • At least one of the peaks of the transmitted frequency band has a frequency different from the peak of the transmitted light in the filter corresponding to each color.
  • smartphones and tablet terminals can also be equipped with the solid-state imaging device 10 as a normal camera, and can also be equipped with the solid-state imaging device 10 of the present disclosure as an imaging element in devices other than these.
  • the signal processing circuit 140 or the processing circuit 12 is a general-purpose processor, and this processor extracts the intensity of a predetermined wavelength and acquires spectral characteristics, but this is not the only option.
  • the electronic device 1 may have a dedicated wavelength extraction circuit.
  • This wavelength extraction circuit may be an ASIC, or may be provided so that wavelength extraction can be performed by software using a general-purpose processor.
  • a light receiving element that photoelectrically converts incident light
  • an optical filter that controls the color of light incident on the light receiving element
  • a multi-bandpass filter that acquires light incident through the optical filter or light incident on the optical filter in a plurality of frequency bands; with The optical filter is A filter corresponding to a plurality of the colors, controlling the incident color for each of the light receiving elements;
  • the multi-bandpass filter is at least one of the peaks of the transmitted frequency band has a different frequency than the peaks of the transmitted light in the filters corresponding to each of the plurality of colors; Solid-state imaging device.
  • the plurality of colors have different spectral peak frequencies, The solid-state imaging device according to (1).
  • optical filter is at least one of a color filter, a plasmon filter, or an organic photoelectric conversion film;
  • the multi-bandpass filter has a transmission band with a half-value width narrower than the half-value width of the optical filter corresponding to each of the plurality of colors,
  • the solid-state imaging device according to any one of (1) to (3).
  • the multi-bandpass filter is integrally formed in the device by coating, adhesion or film formation,
  • the solid-state imaging device according to any one of (1) to (4).
  • the multi-bandpass filter has a plurality of transmission bands in transmission frequency bands of the optical filter corresponding to each of the plurality of colors,
  • the solid-state imaging device according to any one of (1) to (5).
  • the light receiving element outputs a signal having a plurality of spectral peaks through the multi-bandpass filter, The solid-state imaging device according to (6).
  • the light receiving element is a first light receiving element into which light is incident via the multi-bandpass filter; a second light receiving element into which light enters without passing through the multi-bandpass filter; with obtaining a signal based on the output of the first light receiving element and the output of the second light receiving element;
  • a solid-state imaging device according to any one of (1) to (7).
  • the multi-bandpass filter is a first multi-bandpass filter; a second multibandpass filter having a transmission band different from that of the first multibandpass filter; with
  • the light receiving element is a third light-receiving element into which light enters via the first multi-bandpass filter; a fourth light receiving element into which light enters via the second multi-bandpass filter; with
  • the solid-state imaging device according to any one of (1) to (9), wherein a signal is acquired based on the output of the third light receiving element and the output of the fourth light receiving element.
  • a wavelength extraction circuit for extracting the intensity of light of a predetermined wavelength from the signal output by the light receiving element;
  • the multi-bandpass filter is a third multi-bandpass filter; a fourth multibandpass filter having a transmission band different from that of the third multibandpass filter; with light is incident on the light-receiving element through the third multi-bandpass filter and the fourth multi-bandpass filter so that the light-receiving element has different transmission bands with respect to image height;
  • the wavelength extraction circuit performs wavelength extraction using wavelength extraction parameters for light received from the same object at different image heights.
  • the wavelength extraction circuit performs the wavelength extraction by synthesizing the signal obtained through the third multi-bandpass filter and the signal obtained through the fourth multi-bandpass filter.
  • a display that displays image information with light emitted by a light emitting element;
  • An imaging element that captures an image through the display on the side opposite to the light emitting surface of the display, a light receiving element that photoelectrically converts incident light;
  • an optical filter that controls the color of light incident on the light receiving element;
  • a multi-bandpass filter that acquires light incident through the optical filter or light incident on the optical filter in a plurality of frequency bands;
  • an imaging device having with The optical filter is A filter corresponding to a plurality of the colors, controlling the incident color for each of the light receiving elements;
  • the multi-bandpass filter is at least one of the peaks of the transmitted frequency band has a different frequency than the peaks of the transmitted light in the filters corresponding to each of the plurality of colors; Electronics.
  • a wavelength extraction circuit for extracting the intensity of light of a predetermined wavelength from the signal output by the light receiving element; is provided inside the imaging element.
  • a wavelength extraction circuit for extracting the intensity of light of a predetermined wavelength from the signal output by the light receiving element is provided outside the imaging element.

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Power Engineering (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Electromagnetism (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Optics & Photonics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

[課題]半値幅の狭いマルチスペクトルの情報を取得する。 [解決手段]固体撮像装置は、受光素子と、光学フィルタと、マルチバンドパスフィルタと、を備える。受光素子は、入射する光を光電変換する。光学フィルタは、前記受光素子に入射する光の色を制御する。マルチバンドパスフィルタは、前記光学フィルタを介して入射した光、又は、前記光学フィルタに入射する光を、複数の周波数帯において取得する。この光学フィルタは、複数の前記色に対応するフィルタであり、前記受光素子ごとに入射する前記色を制御する。マルチバンドパスフィルタは、透過する周波数帯のピークのうち少なくとも 1 つが、それぞれの前記複数の色に対応するフィルタにおける透過光のピークと異なる周波数を有する。

Description

固体撮像装置及び電子機器
 本開示は、固体撮像装置及び電子機器に関する。
 マルチスペクトル画像を取得する手法として、プラズモン方式やカラーフィルタ方式等、多くの手法が存在するが、センサからの出力は、これらの方式における分光カーブを維持した状態の出力を行うことが一般的である。
 また、半値幅 (FWHM: Full Width at Half Maximum) の狭いマルチスペクトルセンサであるほど、波長解析性能がよくなるため、 FWHM の狭いセンサを用いることが望ましい。一方で、センサ上のカラーフィルタのみを用いてこのような波長特性を実現するのは、材料開発の観点で困難である。
特開2016-012746
 そこで、本開示では、半値幅の狭いマルチスペクトルの情報を取得する撮像素子及び電子機器を提供する。
 一実施形態によれば、固体撮像装置は、受光素子と、光学フィルタと、マルチバンドパスフィルタと、を備える。前記受光素子は、入射する光を光電変換する。前記光学フィルタは、前記受光素子に入射する光の色を制御する。前記マルチバンドパスフィルタは、前記光学フィルタを介して入射した光、又は、前記光学フィルタに入射する光を、複数の周波数帯において取得する。さらに、前記光学フィルタは、複数の前記色に対応するフィルタであり、前記受光素子ごとに入射する前記色を制御し、前記マルチバンドパスフィルタは、透過する周波数帯のピークのうち少なくとも 1 つが、それぞれの前記複数の色に対応するフィルタにおける透過光のピークと異なる周波数を有する。
 複数の前記色は、スペクトルのピーク周波数が異なっていてもよい。
 前記光学フィルタは、カラーフィルタ、プラズモンフィルタ又は有機光電変換膜のうち少なくとも 1 つであってもよい。
 前記マルチバンドパスフィルタは、透過帯域の半値幅が前記複数の色のそれぞれに対応する前記光学フィルタの半値幅より狭くてもよい。
 前記マルチバンドパスフィルタは、装置内において塗布、接着又は成膜により一体形成されていてもよい。
 前記マルチバンドパスフィルタは、前記複数の色のそれぞれに対応する前記光学フィルタの透過周波数帯において、複数の透過帯域を備えていてもよい。
 前記受光素子は、前記マルチバンドパスフィルタを介して、複数の分光ピークを有する信号を出力してもよい。
 前記受光素子は、前記マルチバンドパスフィルタを介して光が入射する、第 1 受光素子と、前記マルチバンドパスフィルタを介せずに光が入射する、第 2 受光素子と、を備えてもよく、前記第 1 受光素子の出力と、前記第 2 受光素子の出力とに基づいて、信号を取得してもよい。
 前記第 1 受光素子の出力と、前記第 2 受光素子の出力とに基づいて、スペクトル推定を実行してもよい。
 前記マルチバンドパスフィルタは、第 1 マルチバンドパスフィルタと、前記第 1 マルチバンドパスフィルタと異なる透過帯域を有する、第 2 マルチバンドパスフィルタと、を備えていてもよく、前記受光素子は、前記第 1 マルチバンドパスフィルタを介して光が入射する、第 3 受光素子と、前記第 2 マルチバンドパスフィルタを介して光が入射する、第 4 受光素子と、を備えていてもよく、前記第 3 受光素子の出力と、前記第 4 受光素子の出力とに基づいて、信号を取得してもよい。
 前記受光素子が出力する信号について、所定波長の光の強度を抽出する、波長抽出回路、
をさらに備えていてもよい。
 前記マルチバンドパスフィルタは、第 3 マルチバンドパスフィルタと、前記第 3 マルチバンドパスフィルタとは異なる透過帯域を有する、第 4 マルチバンドパスフィルタと、を備えていてもよく、前記受光素子は、像高に対して異なる透過帯域を有するように前記第 3 マルチバンドパスフィルタと、前記第 4 マルチバンドパスフィルタと、を介して光が入射されてもよく、前記波長抽出回路は、異なる前記像高における同一対象から受光した光に対する波長抽出パラメータを用いて、波長抽出を実行してもよい。
 前記波長抽出回路は、前記第 3 マルチバンドパスフィルタを介して取得した信号と、前記第 4 マルチバンドパスフィルタを介して取得した信号とを合成して、前記波長抽出を実行してもよい。
 前記波長抽出回路は、異なるフレームにおいて取得された信号に基づいて、前記波長抽出を実行してもよい。
 一実施形態によれば、電子機器は、ディスプレイと、撮像素子と、を備える。前記ディスプレイは、発光素子が射出する光で画像情報を表示する。前記撮像素子は、前記ディスプレイの発光面と逆側において、前記ディスプレイを介して撮像する、撮像素子であって、受光素子と、光学フィルタと、マルチバンドパスと、を備える。前記受光素子は、入射する光を光電変換する。前記光学フィルタは、前記受光素子に入射する光の色を制御する。前記マルチバンドパスフィルタは、前記光学フィルタを介して入射した光、又は、前記光学フィルタに入射する光を、複数の周波数帯において取得する。さらに、前記光学フィルタは、複数の前記色に対応するフィルタであり、前記受光素子ごとに入射する前記色を制御し、前記マルチバンドパスフィルタは、透過する周波数帯のピークのうち少なくとも 1 つが、それぞれの前記複数の色に対応するフィルタにおける透過光のピークと異なる周波数を有する。
 前記受光素子が出力する信号について、所定波長の光の強度を抽出する、波長抽出回路、を、前記撮像素子の内部に備えていてもよい。
 前記受光素子が出力する信号について、所定波長の光の強度を抽出する、波長抽出回路、を、前記撮像素子の外部に備えていてもよい。
一実施形態に係る電子機器を模式的に示すブロック図。 一実施形態に係る光学フィルタ及びマルチバンドパスフィルタの周波数特性の一例を示す図。 一実施形態に係る光学フィルタ及びマルチバンドパスフィルタを介した白色光のスペクトルの一例を示す図。 一実施形態に係る取得スペクトルに行列演算を施した結果の一例を示す図。 一実施形態に係る固体撮像装置の少なくとも一部を模式的に示す図。 一実施形態に係る固体撮像装置の少なくとも一部を模式的に示す図。 一実施形態に係る固体撮像装置の少なくとも一部を模式的に示す図。 一実施形態に係る固体撮像装置の少なくとも一部を模式的に示す図。 一実施形態に係る固体撮像装置の少なくとも一部を模式的に示す図。 一実施形態に係る固体撮像装置の少なくとも一部を模式的に示す図。 被写体の分光特性の一例を示す図。 一実施形態に係る取得したスペクトルの一例を示す図。 一実施形態に係るマルチバンドパスフィルタを用いて取得したスペクトルの一例を示す図。 一実施形態に係るマルチバンドパスフィルタを用いて取得したスペクトルの一例を示す図。 一実施形態に係る固体撮像装置の少なくとも一部を模式的に示す図。 一実施形態に係るマルチバンドパスフィルタを介して取得したスペクトルの一例を示す図。 一実施形態に係るマルチバンドパスフィルタを介して取得したスペクトルの一例を示す図。 一実施形態に係る撮像素子の一例を模式的に示す図。 一実施形態に係る光学フィルタの配置の一例を示す図。 一実施形態に係る光学フィルタの配置の一例を示す図。 一実施形態に係る電子機器の一例を示す図。
 以下、図面を参照して本開示における実施形態の説明をする。図面は、説明のために用いるものであり、実際の装置における各部の構成の形状、サイズ、又は、他の構成とのサイズの比等が図に示されている通りである必要はない。また、図面は、簡略化して書かれているため、図に書かれている以外にも実装上必要な構成は、適切に備えるものとする。
 本開示においては、例えば、マルチスペクトルカメラの撮像素子について説明しているが、ハイパースペクトルカメラについても同様に実装することが可能である。また、特に断りがない限り、本開示において半値幅とは、半値全幅のことを示す。
 図1は、一実施形態に係る電子機器を模式的に示すブロック図である。電子機器 1 は、固体撮像装置 10 と、処理回路 12 と、記憶回路 14 と、入出力部 16 と、を備える。電子機器 1 は、少なくとも撮像機能を備え、例えば、撮像機能を有するデジタルスティルカメラ、デジタルビデオカメラ、又は、さらに別の機能を備える、携帯端末、スマートフォン、タブレット端末、ヘッドマウントディスプレイ等であってもよい。
 固体撮像装置 10 は、光学系 100 と、画素 120 と、信号処理回路 140 と、記憶回路 160 と、インタフェース 180 と、を備える。固体撮像装置 10 は、外部から入射した光を受光し、画像情報、映像情報 (以下、画像情報と単に記載する) を取得して出力するデバイス又はモジュールである。
 光学系 100 は、受光素子に外部からの光を適切に入射させる光学系である。光学系 100 は、例えば、レンズ、絞り等を備える。また、後述するように、光学系 100 に光学フィルタの少なくとも一部又はマルチバンドパスフィルタの少なくとも一部が備えられてもよい。
 画素 120 は、受光素子と、画素回路と、を備える。受光素子は、入射した光の強度に基づいたアナログ信号を光電変換により取得して出力する。受光素子は、例えば、フォトダイオード又は有機光電変換膜であってもよい。画素回路は、受光素子が出力したアナログ信号を適切なタイミングで適切な倍率で出力する回路である。画素 120 は、光学系 100 により制御された光の強度に基づいたアナログ信号を出力する回路である。
 信号処理回路 140 は、画素 120 から出力された信号を適切に信号処理して出力する回路である。信号処理回路 140 は、例えば、画素 120 から出力されたアナログ信号をデジタル信号に変換する DAC (Digital to Analog Converter) を備えてもよい。また、信号処理回路 140 は、後述するように画素 120 から出力された信号において波長特性を抽出したり、又は、取得した信号に基づいて画像処理をしたりしてもよい。
 記憶回路 160 は、固体撮像装置 10 内においてデータを格納する回路である。記憶回路 160 は、例えば、信号処理回路 140 が処理したデジタル信号を格納してもよい。信号処理回路 140 は、任意のタイミングで記憶回路 160 に必要となるデータを書き込み、又は、データを読み出すことができる。また、信号処理回路 140 が汎用プロセッサでありソフトウェアによる情報処理がハードウェア資源を用いて具体的に実現される場合には、このソフトウェアに関するデータを記憶回路 160 が格納していてもよい。記憶回路 160 は、この他、インタフェース 180 と接続されていてもよい。
 インタフェース 180 は、信号処理回路 140 が処理した信号を固体撮像装置 10 の外部へと出力し、又は、外部から制御情報を含むデータの入力を受け付けるインタフェースである。インタフェース 180 に用いられる形式、規格等は、特に限定されるものではなく、適切なインタフェースを用いることができる。
 固体撮像装置 10 は、このように、外部からの情報に基づいて画像情報を適切に形成して出力する。固体撮像装置 10 の撮像手法は、例えば、ローリングシャッタ方式でもグローバルシャッタ方式でもよい。固体撮像装置 10 は、この他、種々の撮像方法、種々の画像処理に対応するものであってもよい。
 処理回路 12 、記憶回路 14 及び入出力部 16 は、電子機器 1 において、固体撮像装置 10 とは別途備えられる。
 処理回路 12 は、固体撮像装置 10 から出力された信号を適切に処理して出力する。また、外部からの制御信号を入出力部 16 を介して取得し、インタフェース 180 を介して固体撮像装置 10 の制御を実行してもよい。
 記憶回路 14 は、固体撮像装置 10 の外部における記憶領域を形成する。処理回路 12 は、必要に応じて記憶回路 14 にデータを書き込み、又は、記憶回路 14 からデータを読み込んでもよい。処理回路 12 がソフトウェアで種々の処理ができる場合、記憶回路 14 は、記憶回路 160 と同様に、このソフトウェアに必要なプログラム等が格納されていてもよい。
 入出力部 16 は、ユーザインタフェースであり、例えば、ディスプレイ、ボタン、タッチパネル等を備える。また、入出力部 16 は、外部へデータを転送し、又は、外部からデータを転送するためのインタフェースを備えていてもよい。例えば、ユーザは、入出力部 16 を介して電子機器 1 を操作し、固体撮像装置 10 における撮像を制御することができる。
 光学系 100 及び画素 120 についていくつかの限定されない例を挙げて説明する。例えば、図面においては、 2 受光素子 ~ 4 受光素子について示すが、受光素子は、 2 次元のアレイ状に配列されており、図面は、これらの受光素子の一部を示すものである。
 いくつかの実施形態において、固体撮像装置 10 は、入射した光を光電変換する受光素子と、受光素子に入射する光を制御する光学フィルタ (光学系 100 を含む場合がある) と、この光学フィルタから射出された光又は光学フィルタに入射する光について複数の周波数帯を透過させるマルチバンドパスフィルタと、を備える。
 光学フィルタは、例えば、受光素子に入射する色に関するフィルタであり、入射光のスペクトルを色情報に対応して制御するフィルタである。光学フィルタは、一般的なカラーフィルタ、プラズモンフィルタであってもよい。また、光学フィルタと受光素子とをまとめた概念として、有機光電変換膜を用いてもよい。
 光学フィルタは、受光素子ごとに備えられてもよい。この場合、受光素子ごとに、所定の周波数特性を有する光を受光する。複数の色に対応する光学フィルタが、異なる受光素子に対して備えられることで、カラー画像の再構成を実現することができる。これらの光学フィルタは、スペクトルにおいて色ごとに異なるピーク周波数を有していてもよい。
 マルチバンドパスフィルタは、透過帯域のピークのうち少なくとも 1 つがそれぞれの光学フィルタが透過するスペクトルのピークと異なる周波数を有する。
 また、マルチバンドパスフィルタのそれぞれの透過帯域の半値幅は、それぞれの色に対応する光学フィルタのスペクトルの半値幅よりも狭い。
 図2は、光学フィルタの透過特性と、マルチバンドパスフィルタの透過特性の一例を示す図である。光学フィルタは、それぞれ、 R (赤) 、 G (緑) 、 B (青) 、 Mg (マゼンダ) 、 Cy (シアン) 、 Ye (黄) 、 W (白) 、 IR (赤外) で示されるような所定の色に対するスペクトルを透過する透過特性を有する。光学フィルタは、固体撮像装置 10 がマルチスペクトルセンサとして機能するために適切な複数の種類が備えられる。
 一方で、 MBP (マルチバンドパスフィルタ) は、複数の周波数帯域に対する透過特性を有し、各光学フィルタの透過特性のピーク値とは、少なくとも 1 つの帯域が異なるピーク値周波数を有する。そして、マルチバンドパスフィルタのそれぞれの透過帯域における周波数特性は、それぞれの光学フィルタの周波数特性における半値幅よりも狭い半値幅を有する。
 図2に示されるように、マルチバンドパスフィルタは、それぞれの色の周波数帯域において、複数の透過帯域を有していてもよい。
 図3は、マルチバンドパスフィルタを介して取得したスペクトルの一例を示す図である。この図3では、白色光を、光学フィルタ及びマルチバンドパスフィルタを介して取得した場合の図であり、例として、図の簡略化のため、 R 、 G 、 Ye の光学フィルタからの出力を重ね合わせた図を示している。
 この図に示すように、マルチバンドパスフィルタを介して取得される信号は、 1 画素ごとに複数の周波数ピークを有する出力となる。この結果に行列演算を加えることで、狭帯域の分光結果を抽出することができる。
 図4は、行列演算を行った結果の一例を示す図である。図4は、一例として、 640nm の分光結果を取得するための行列演算を、光学フィルタ及びマルチバンドパスフィルタを介して取得した信号に対して実行した結果である。例えば、この図では、 2 × (Ye の強度) - 1.15 × (R の強度) - 2 × (G の強度) として、行列演算を設定し、図3のスペクトルを演算した結果である。
 なお、演算に用いる色の情報は、この 3 色に限定されるものではない。例えば、同じ 640nm の特性を取得したい場合であっても、さらに多くの色に対応する光学フィルタを介した受光結果を用いてもよい。
 この図に示すように、取得したい周波数 (波長) に対して適切な行列演算を設定し、光学フィルタ及びマルチバンドパスフィルタを介した光から受光素子が出力する信号からパラメータに基づいた演算を実行することで、取得したい周波数における対象物から受光した光の特性を取得することが可能となる。
 この演算は、図1における、固体撮像装置 10 内部の信号処理回路 140 で実行されてもよいし、固体撮像装置 10 外部の処理回路 12 で実行されてもよい。換言すると、上記の波長抽出、波長特性を取得する演算は、固体撮像装置 10 の内部又は外部の適切な箇所において実行することができる。
 以下に説明する光学フィルタ、マルチバンドパスフィルタは、図2に一例として示されるフィルタにしたがって形成される。
 (第 1 実施形態)
 図5は、一実施形態に係る固体撮像装置 10 における光学フィルタと撮像素子の配置の一例を示す図である。固体撮像装置 10 は、レンズ 101 と、マルチバンドパスフィルタ 102 と、撮像素子 110 と、を備える。
 撮像素子 110 は、複数の画素 120 を備える素子である。画素 120 は、撮像素子 110 において、 2 次元のアレイ状に配置され、各画素により取得された光の情報に基づいて、画像情報を構成する。撮像素子 110 は、画素 120 と、信号処理回路 140 と、インタフェース 180 を備えていてもよい。さらに、撮像素子 110 は、記憶回路 160 を備えていてもよい。
 レンズ 101 は、光学系 100 の一部として備えられる。レンズ 101 は、外部から入射される光を適切に屈折、回折することで、撮像素子 110 に備えられる画素 120 に入射光を伝搬する。
 マルチバンドパスフィルタ 102 は、例えば、固体撮像装置 10 において、撮像素子 110 とは別に形成されていてもよい。例えば、本実施形態では、マルチバンドパスフィルタ 102 は、レンズ 101 と、撮像素子 110 との間に配置される。外部から入射した光は、レンズ 101 により屈折等した後、マルチバンドパスフィルタ 102 を介して撮像素子 110 に入射される。
 このマルチバンドパスフィルタ 102 は、例えば、固体撮像装置 10 内において、透過膜に塗布され、接着され、又は、成膜されて形成されていてもよい。すなわち、形成の手法は、適切にマルチバンドパスフィルタ 102 が配置されるのであれば、特に限定されるものではない。
 このように、固体撮像装置 10 において、撮像素子 110 に光を適切に入射する光学系 100 及び撮像素子 110 の外部において、マルチバンドパスフィルタ 102 が備えられる形態であってもよい。
 (第 2 実施形態)
 図6は、一実施形態に係る固体撮像装置 10 における光学フィルタと撮像素子の配置の一例を示す図である。固体撮像装置 10 は、撮像素子 110 の内部にマルチバンドパスフィルタ 102 を備えてもよい。
 図7は、撮像素子 110 にマルチバンドパスフィルタ 102 が備えられる一例を示す図である。この図においては、一例として、それぞれが 1 つの受光素子を備える 2 つの画素 120 を示しているが、これに限定されるものではない。画素 120 は、別の例として、 2 つの受光素子に対して、 1 つの画素回路をそなえる構成であってもよいし、これらの構成に限定されるものではなく、適切に 1 つの受光領域において 1 つの色に関する情報を取得できる構成であればよい。
 画素 120 は、受光素子 121 と、平坦化膜 122 と、カラーフィルタ 123 と、オンチップレンズ 124 と、を備える。図7には、一例として、 2 つの画素 120a 、 120b が示されている。
 受光素子 121 は、上記に説明した受光素子であり、例えば、フォトダイオード等により形成される。受光素子 121 は、受光した光を光電変換し、強度に基づいたアナログ信号を画素回路へと出力する。
 平坦化膜 122 は、望ましい帯域 (例えば、可視光領域 + 近赤外領域) における透過性を有する物質から形成され、受光素子 121 の上面を平坦化する層である。この平坦化膜 122 は、受光素子 121 の上面のみならず、必要に応じて、カラーフィルタ 123 の上面、又は、オンチップレンズ 124 の上面にも形成されていてもよい。
 カラーフィルタ 123 は、受光素子 121 に入射する光のスペクトル特性を制御するフィルタである。カラーフィルタ 123 は、上記における光学フィルタに相当するフィルタである。受光素子 121 が有機光電変換膜により形成され、それぞれに適切なスペクトル特性でアナログ信号を生成する場合には、必須の構成ではない。
 例えば、カラーフィルタ 123a は、 R に対応するフィルタであってもよいし、カラーフィルタ 123b は、 G に対応するフィルタであってもよい。受光素子 121 ごとに、適切なカラーフィルタ 123 が備えられてもよい。
 別の例として、カラーフィルタ 123 は、プラズモンフィルタであってもよい。この場合、開口の配置、大きさ等を適切に制御することで、異なる特性の光を透過させてもよい。また、カラーフィルタ 123 として、一般的なカラーフィルタと、プラズモンフィルタとを混在させる形態であってもよい。このように形成することで、可視光領域における画像情報を取得できるとともに、血流、血中酸素濃度等の情報を併せて取得することもできる。
 オンチップレンズ 124 は、光学系 100 により撮像素子 110 に集光された光を、さらに、適切に画素 120 ごとに集光するためのレンズである。このオンチップレンズ 124 は、受光素子 121 等を備える画素 120 において一体に、半導体装置として形成されてもよい。図においては、それぞれの受光素子 121 ごとにオンチップレンズ 124 が備えられるが、複数の受光素子 121 に対して 1 つのオンチップレンズ 124 が備えられる形態であってもよい。
 マルチバンドパスフィルタ 102 は、オンチップレンズ 124 の上面において備えられてもよい。すなわち、本形態においては、光学系 100 を介して撮像素子 110 に入射した光は、マルチバンドパスフィルタ 102 により帯域ごとに透過し、オンチップレンズ 124 により適切に屈折等し、さらに、カラーフィルタ 123 により色ごとにスペクトルが制御されて受光素子 121 に入射する。
 図8は、撮像素子 110 にマルチバンドパスフィルタ 102 が備えられる別の例を示す図である。この図に示すように、マルチバンドパスフィルタ 102 は、カラーフィルタ 123 と、受光素子 121 の間の任意の位置に配置されてもよい。
 すなわち、本形態においては、光学系 100 を介して撮像素子 110 Ni入射した光は、オンチップレンズ 124 により適切に屈折等し、カラーフィルタ 123 により色ごとにスペクトルが制御され、マルチバンドパスフィルタ 102 により帯域ごとに透過して受光素子 121 に入射する。
 図9は、撮像素子 110 にマルチバンドパスフィルタ 102 が備えられる別の例を示す図である。画素 120a 、 120b は、マルチバンドパスフィルタ 102 が備えられる画素であり、画素 120c 、 120d は、マルチバンドパスフィルタ 102 が備えられない画素である。
 同一の撮像素子 110 内に、マルチバンドパスフィルタ 102 を介して光が入射する受光素子 121 (第 1 受光素子) と、マルチバンドパスフィルタ 102 を介せずに光が入射する受光素子 121 (第 2 受光素子) とが混在していてもよい。
 図1に示す信号処理回路 140 又は処理回路 12 は、これらの第 1 受光素子及び第 2 受光素子の出力結果を用いて、波長情報を取得してもよい。ここで、波長情報とは、例えば、ある波長に対するスペクトルの特性を示す情報である。例えば、ある対象から反射又は透過してきた光の所定の波長における強度情報を示してもよい。
 固体撮像装置 10 又は電子機器 1 は、これらの第 1 受光素子及び第 2 受光素子の出力結果を用いて、特に、スペクトル推定を実行してもよい。スペクトル推定を実行することで、対象についての情報をより詳細に解析することも可能となる。
 固体撮像装置 10 は、この図9に示すように、 1 つの撮像素子 110 において、第 1 受光素子及び第 2 受光素子を備えてもよい。
 以上のように、撮像素子 110 内にマルチバンドパスフィルタ 102 を備える構成としてもよい。
 (第 3 実施形態)
 図10は、第 1 受光素子及び第 2 受光素子を備える別の例を示す図である。固体撮像装置 10 は、複数の撮像素子 110 を備えていてもよい。固体撮像装置 10 は、例えば、撮像素子 110a と撮像素子 110b と、を備える。
 撮像素子 110a には、レンズ 101 及びマルチバンドパスフィルタ 102 を介した光が入射する。一方で、撮像素子 110b には、レンズ 101 及びバンドパスフィルタ 103 を介した光が入射する。
 バンドパスフィルタ 103 は、例えば、可視光帯域の光を透過するフィルタであってもよい。バンドパスフィルタ 103 は、別の例として、可視光帯域及び赤外帯域の光を透過するフィルタであってもよい。
 このように、マルチバンドパスフィルタ 102 とバンドパスフィルタ 103 と、を撮像素子 110 の外部に備えることもできる。この場合、撮像素子 110a 内に配置される受光素子は、図9の第 1 受光素子と同様に動作し、撮像素子 110b 内に配置される受光素子は、図9の第 2 受光素子と同様に動作する。
 図9では、 1 つの撮像素子 110 において第 1 受光素子及び第 2 受光素子を備える構成であり、図10では、 1 つの撮像素子 110 において第 1 受光素子を備え、異なる撮像素子 110 において第 2 受光素子を備える構成である。このように、第 1 受光素子及び第 2 受光素子は、同じ撮像素子 110 内に配置されてもよいし、別々の撮像素子 110 において配置されてもよい。
 図9及び図10の構成とすることで、以下のように取得した情報からデータの補間をすることもできる。
 図11は、被写体の分光特性の一例を示す図である。この被写体を第 1 受光素子及び第 2 受光素子のそれぞれを介して撮像した特性が、図12及び図13に示される。
 図12は、例えば、第 2 受光素子をビューイングに用いる受光素子として、スペクトルを再構成したものである。ビューイングに用いるセンサは、可視光における全波長の情報を取得し、人間の目に見える画像と近い画像を取得することができる。一方で、ビューイングに用いる受光素子は、センシングに用いる受光素子と比較すると、取得した信号からのスペクトルの推定精度が低い。
 図13は、例えば、第 1 受光素子をセンシングに用いる受光素子として、スペクトルを抽出したものである。マルチバンドパスフィルタを介して取得したデータは、帯域ごとにビューイングに用いるセンサを用いて取得したデータと比較して精度が高い結果を取得することができる。一方で、被写体内に輝点がある場合等においては、当該輝点の情報を抽出できなかったり、当該輝点と帯域とが重なることで、ノイズが発生したりする。
 本実施形態における固体撮像装置 10 又は電子機器 1 は、第 1 受光画素及び第 2 受光画素を用いて取得した信号を信号処理により合成することで、より精度の高い連続的なスペクトルの推定をすることが可能となる。
 この推定は、例えば、第 1 受光画素を用いて取得した帯域ごとのデータに対して第 2 受光画素を用いて取得した連続的なスペクトルから、補間処理を実行することで実現されてもよい。別の例として、信号処理回路 140 又は処理回路 12 においてマルチバンドパスフィルタの情報とバンドパスフィルタの情報から連続的なスペクトルの推定を実行する学習済みのモデルを用いて、この推定がされてもよい。
 図14は、上記の手法により、合成されたスペクトルの推定結果の一例を示す図である。この図に示すように、図12及び図13の結果を用いて、図12のみを用いた場合、又は、図13のみを用いた場合よりも、精度の高い被写体の分光特性を推定することが可能となる。
 (第 4 実施形態)
 図15は、マルチバンドパスフィルタ 102 の別の配置例を示す図である。例えば、マルチバンドパスフィルタ 102 の周波数透過特性を有する材質で、レンズ 101 を生成してもよい。このような構成とすることで、レンズ 101 により適切な入射光の制御をするとともに、狭帯域のスペクトルを有する光を撮像素子 110 へと入射することも可能となる。
 図15においては、 1 つのレンズ 101 として示されているが、これに限定されるものではない。例えば、複数のレンズ 101 を備え、それぞれにマルチバンドパスフィルタ 102 の特性を備えるものと、備えないものとを混在させ、前述の図9、図10と同様の機能を持たせてもよい。
 前述したように、光学フィルタの周波数特性よりも狭い帯域幅を有するマルチバンドパスフィルタを用いることで、行列演算をすることで、望ましい帯域における特性を取得することができる。これとともに、以下に述べる効果をも奏することが可能である。
 図16は、一実施形態に係るマルチバンドパスフィルタを介して取得したスペクトルの特性を示す図である。図16は、一例として、 G の光について示している。破線は、 G の光のスペクトルを示し、実線は、マルチバンドパスフィルタの透過周波数特性を示し、点線は、受光素子が受光した信号を示す。
 例えば、矢印で示される帯域について考える。マルチバンドパスフィルタのこの帯域の半値幅は、実線の矢印で示される幅である。一方で、透過した G の光の半値幅は、点線の矢印で示される幅である。
 ある色に対して、センサの出力は、一定ではなく、ピークを有する形状となる。ピークの周辺においては、センサの出力が減少する。図16における矢印の帯域のように、ピークから減少しつつある帯域においては、マルチバンドパスフィルタ自体の帯域よりもさらに狭い半値幅の分光情報を取得することが可能となる。このため、 1 つの光に対するスペクトルの特性を取得する場合において、より精度の高い特性値を取得することが可能となる。
 (第 5 実施形態)
 前述の各実施形態においては、マルチバンドパスフィルタは、 1 種類を用いるものとしたが、これに限定されるものではない。固体撮像装置 10 は、複数の特性の異なるマルチバンドパスフィルタを用いてセンシングをすることも可能である。
 例えば、帯域幅の異なるマルチバンドパスフィルタを用いることもできる。このように帯域幅の異なる複数種類のマルチバンドパスフィルタを用いることで、例えば、より帯域幅の狭いフィルタの結果を用いて前述の各実施形態と同様の結果を取得し、さらに、帯域幅の広いフィルタの結果を用いて、演算により、ノイズ等の除去をすることもできる。
 別の例として、透過周波数帯域自体が異なるマルチバンドパスフィルタを用いることもできる。一例として、固体撮像装置 10 は、第 1 マルチバンドパスフィルタを介して光を受光する第 3 受光素子と、第 1 マルチバンドパスフィルタとは透過帯域が異なる第 2 マルチバンドパスフィルタを介して光を受光する第 4 受光素子と、を備えてもよい。前述の実施形態と同様に、 1 つの撮像素子内において、第 3 受光素子と第 4 受光素子が混在する形態であってもよいし、第 3 受光素子と第 4 受光素子とが別々の撮像素子に配置されていてもよい。
 固体撮像装置 10 内の信号処理回路 140 又は固体撮像装置 10 外の処理回路 12 は、第 3 受光素子と第 4 受光素子とからそれぞれ出力された結果に基づいて、波長情報を取得することができる。
 図17は、異なるマルチバンドパスフィルタを用いる場合におけるスペクトル特性を重ねたものである。●は、第 3 受光素子からの出力に基づく結果、×は、第 4 受光素子からの出力に基づく結果である。このように、ある程度の透過帯域幅を有した状態で、異なる帯域におけるスペクトルの情報を取得することが可能となる。
 例えば、第 1 マルチバンドパスフィルタにより取得された図13のグラフと、第 1 マルチバンドパスフィルタと第 2 マルチバンドパスフィルタにより取得された図17のグラフとを比較することで、異なる特性を有するマルチバンドパスフィルタを用いることで、より精度の高いスペクトル特性の推定をすることが可能となることがわかる。
 (第 6 実施形態)
 第 5 実施形態においては、受光素子ごとに異なるマルチバンドパスフィルタを介して受光をすることを説明したが、固体撮像装置 10 は、さらに細かい粒度で異なる特性を有するマルチバンドパスフィルタを備えることもできる。
 図 18 は、本実施形態に係る撮像素子 110 を模式的に示す図である。左図は、平面図であり、右図は、左図の A-A 断面図である。
 例えば、左図に示すように、受光素子 121 は、 3 × 3 個ごとに、オンチップレンズ 124 を備えてもよい。周辺にある受光素子 121a と、中央にある受光素子 121b は、対象の同じ位置からの像高の異なる像に対応する光を受光する。右図に示すように、受光素子 121a の上面には、第 3 マルチバンドパスフィルタ 102a が備えられ、受光素子 121b の上面には、第 3 マルチバンドパスフィルタ 102a とは異なる特性を有する第 4 マルチバンドパスフィルタ 102b が備えられる。異なる特性は、例えば、異なる透過帯域を有することであってもよい。
 光学フィルタは、図示していないが、限定されない一例として、同じオンチップレンズ 124 に属する受光素子において同じ色のカラーフィルタが備えられてもよい。
 このように配置することで、同じ対象からの像高により、異なる周波数帯域を有するマルチバンドパスフィルタを介した光のスペクトル情報を取得することができる。
 このような状態では、像高に応じて異なる帯域を有するスペクトル情報を取得することができる。例えば、フレームごとにスペクトルの特性を重ね合わせることで、対象の同じ位置からの受光した光のスペクトルを、図17に示すように重ね合わせることもできる。この結果、前述の第 5 実施形態と同様に、 1 つのマルチバンドパスフィルタを用いる場合と比較してより高精度なスペクトル情報の推定、例えば、波長抽出処理を実現することが可能となる。
 対象に動作がある場合においても適用することができるし、ユーザが手で把持してセンシングをする場合には、ユーザの手ぶれにより異なる像高から同じ位置の情報を取得することも可能である。また、別の例として、固体撮像装置 10 内において撮像素子 110 に微小な振動を与えるピエゾ素子を備えたり、電子機器 1 内において固体撮像装置 10 に微小な振動を与えるピエゾ素子を備えたりしてもよい。
 次に、色フィルタの実装例について説明する。
 図19は、一実施形態に係る受光素子における光学フィルタの配置例である。このように、マゼンダ、イエロー、シアン、ホワイト、赤、緑、青、赤外のスペクトルをそれぞれ受光するためのフィルタが配置されていてもよい。
 図20は、一実施形態に係る受光素子における光学フィルタの別の配置例である。この図に示すように、緑とイエローの組み合わせ、青とシアンの組み合わせ、赤とマゼンダの組み合わせとして、光学フィルタが配置されていてもよい。
 別の例として、固体撮像装置 10 は、波長帯域が制限された特定波長のみを光電変換する ALS (Ambient Light Sensor) を含む撮像素子と、少なくとも可視光において波長帯域が欠損していないマルチスペクトルセンサ (望ましくは 4 色以上) の双方の結果を用いて、スペクトルの推定を実現してもよい。
 この形態では、固体撮像装置 10 又は電子機器 1 は、 ALS 等の照度センサから、例えば、人間の目に自然な光の強度情報を取得し、マルチバンドパスフィルタを備えるマルチスペクトルセンサからは像高に依存したスペクトルの情報を取得することができる。このため、これらのセンサからの出力を適切に混合することで、前述の各実施形態における効果を奏するとともに、人間の目により自然に見える画像の再構成を実現することもできる。
 (実装例)
 前述においては、固体撮像装置 10 の形態について説明したが、電子機器 1 のいくつかの限定されない実装例について説明する。
 図21は、前述の各実施形態の固体撮像装置 10 を用いた電子機器 1 の実装例である。電子機器 1 は、例えば、スマートフォン、タブレット端末等であってもよい。
 電子機器 1 は、ディスプレイの表示面とは逆側に、ディスプレイを透過した光を受光する固体撮像装置 10 を備える。電子機器 1 は、電子機器 1 の外形サイズの近くまで表示面 350z が拡がっており、表示面 350z の周囲にあるベゼル 350y の幅を数 mm 以下にしている。通常、ベゼル 350y には、フロントカメラが搭載されることが多いが、本開示における固体撮像装置 10 を、破線で示すように表示面の略中央のディスプレイの裏側部分に備えてもよい。
 この固体撮像装置 10 は、フロントカメラとして機能するイメージセンサとして動作することができる。このように、固体撮像装置 10 をディスプレイの下側に備えることもできる。
 なお、 1 つの固体撮像装置 10 が備えられる形態を示したが、これに限定されず、複数の固体撮像装置 10 が同じディスプレイの下側の異なる位置に備えられてもよい。
 このように、固体撮像装置 10 は、ディスプレイと、このディスプレイの下側に、撮像素子としての固体撮像装置 10 と、を備えてもよい。
 ディスプレイは、発光素子を備え、発光素子が射出する光で画像情報を表示する。
 固体撮像装置 10 は、このディスプレイの発光面とは逆側において、ディスプレイを介して外部の光を取得し、撮像する。固体撮像装置 10 は、前述の各実施形態で示したように、入射する光を光電変換する受光素子と、受光素子に入射する光の色を制御する光学フィルタと、光学フィルタを介して入射した光又は光学フィルタに入射する光を複数の周波数帯域において取得するマルチバンドパスフィルタとを有する。
 光学フィルタは、取得したい複数の色のスペクトルに対してそれぞれの色に応じた透過帯域を有するフィルタであり、受光素子ごとに入射する色を制御する。
 マルチバンドパスフィルタは、透過する周波数帯のピークのうち少なくとも 1 つが、それぞれの色に対応するフィルタにおける透過光のピークと異なる周波数を有する。
 前述したように、スマートフォンやタブレット端末においても、通常のカメラとして固体撮像装置 10 を備えることもできるし、これら以外のデバイスにおける撮像素子として、本開示の固体撮像装置 10 を備えることもできる。
 なお、前述の各実施形態においては、信号処理回路 140 又は処理回路 12 が汎用プロセッサであり、このプロセッサにおいて所定の波長の強度を抽出したり、スペクトルの特性を取得したりしたが、これに限定されるものではない。例えば、固体撮像装置 10 の内部又は外部において、電子機器 1 は、専用の波長抽出回路を備えてもよい。この波長抽出回路は、 ASIC でもよいし、汎用プロセッサを用いてソフトウェアで波長抽出が実行可能に備えられるものであってもよい。
 前述した実施形態は、以下のような形態としてもよい。
(1)
 入射する光を光電変換する、受光素子と、
 前記受光素子に入射する光の色を制御する、光学フィルタと、
 前記光学フィルタを介して入射した光、又は、前記光学フィルタに入射する光を、複数の周波数帯において取得する、マルチバンドパスフィルタと、
 を備え、
 前記光学フィルタは、
  複数の前記色に対応するフィルタであり、
  前記受光素子ごとに入射する前記色を制御し、
 前記マルチバンドパスフィルタは、
  透過する周波数帯のピークのうち少なくとも 1 つが、それぞれの前記複数の色に対応するフィルタにおける透過光のピークと異なる周波数を有する、
 固体撮像装置。
(2)
 複数の前記色は、スペクトルのピーク周波数が異なる、
 (1)に記載の固体撮像装置。
(3)
 前記光学フィルタは、カラーフィルタ、プラズモンフィルタ又は有機光電変換膜のうち少なくとも 1 つである、
 (1)又は(2)に記載の固体撮像装置。
(4)
 前記マルチバンドパスフィルタは、透過帯域の半値幅が前記複数の色のそれぞれに対応する前記光学フィルタの半値幅より狭い、
 (1)から(3)のいずれかに記載の固体撮像装置。
(5)
 前記マルチバンドパスフィルタは、装置内において塗布、接着又は成膜により一体形成されている、
 (1)から(4)のいずれかに記載の固体撮像装置。
(6)
 前記マルチバンドパスフィルタは、前記複数の色のそれぞれに対応する前記光学フィルタの透過周波数帯において、複数の透過帯域を備える、
 (1)から(5)のいずれかに記載の固体撮像装置。
(7)
 前記受光素子は、前記マルチバンドパスフィルタを介して、複数の分光ピークを有する信号を出力する、
 (6)に記載の固体撮像装置。
(8)
 前記受光素子は、
  前記マルチバンドパスフィルタを介して光が入射する、第 1 受光素子と、
  前記マルチバンドパスフィルタを介せずに光が入射する、第 2 受光素子と、
 を備え、
 前記第 1 受光素子の出力と、前記第 2 受光素子の出力とに基づいて、信号を取得する、
 (1)から(7)のいずれかに記載の固体撮像装置。
(9)
 前記第 1 受光素子の出力と、前記第 2 受光素子の出力とに基づいて、スペクトル推定を実行する、
 (8)に記載の固体撮像装置。
(10)
 前記マルチバンドパスフィルタは、
  第 1 マルチバンドパスフィルタと、
  前記第 1 マルチバンドパスフィルタと異なる透過帯域を有する、第 2 マルチバンドパスフィルタと、
 を備え、
 前記受光素子は、
  前記第 1 マルチバンドパスフィルタを介して光が入射する、第 3 受光素子と、
  前記第 2 マルチバンドパスフィルタを介して光が入射する、第 4 受光素子と、
 を備え、
 前記第 3 受光素子の出力と、前記第 4 受光素子の出力とに基づいて、信号を取得する
 (1)から(9)のいずれかに記載の固体撮像装置。
(11)
 前記受光素子が出力する信号について、所定波長の光の強度を抽出する、波長抽出回路、
 をさらに備える、(1)から(10)のいずれかに記載の固体撮像装置。
(12)
 前記マルチバンドパスフィルタは、
  第 3 マルチバンドパスフィルタと、
  前記第 3 マルチバンドパスフィルタとは異なる透過帯域を有する、第 4 マルチバンドパスフィルタと、
 を備え、
 前記受光素子は、像高に対して異なる透過帯域を有するように前記第 3 マルチバンドパスフィルタと、前記第 4 マルチバンドパスフィルタと、を介して光が入射され、
 前記波長抽出回路は、異なる前記像高における同一対象から受光した光に対する波長抽出パラメータを用いて、波長抽出を実行する、
 (11)に記載の固体撮像装置。
(13)
 前記波長抽出回路は、前記第 3 マルチバンドパスフィルタを介して取得した信号と、前記第 4 マルチバンドパスフィルタを介して取得した信号とを合成して、前記波長抽出を実行する、
 (12)に記載の固体撮像装置。
(14)
 前記波長抽出回路は、異なるフレームにおいて取得された信号に基づいて、前記波長抽出を実行する、
 (12)又は(13)に記載の固体撮像装置。
(15)
 発光素子が射出する光で画像情報を表示する、ディスプレイと、
 前記ディスプレイの発光面と逆側において、前記ディスプレイを介して撮像する、撮像素子であって、
  入射する光を光電変換する、受光素子と、
  前記受光素子に入射する光の色を制御する、光学フィルタと、
  前記光学フィルタを介して入射した光、又は、前記光学フィルタに入射する光を、複数の周波数帯において取得する、マルチバンドパスフィルタと、
 を有する撮像素子と、
 を備え、
 前記光学フィルタは、
  複数の前記色に対応するフィルタであり、
  前記受光素子ごとに入射する前記色を制御し、
 前記マルチバンドパスフィルタは、
  透過する周波数帯のピークのうち少なくとも 1 つが、それぞれの前記複数の色に対応するフィルタにおける透過光のピークと異なる周波数を有する、
 電子機器。
(16)
 前記受光素子が出力する信号について、所定波長の光の強度を抽出する、波長抽出回路、
 を、前記撮像素子の内部に備える、(15)に記載の電子機器。
(17)
 前記受光素子が出力する信号について、所定波長の光の強度を抽出する、波長抽出回路、
 を、前記撮像素子の外部に備える、(15)に記載の電子機器。
 本開示の態様は、前述した実施形態に限定されるものではなく、想到しうる種々の変形も含むものであり、本開示の効果も前述の内容に限定されるものではない。各実施形態における構成要素は、適切に組み合わされて適用されてもよい。すなわち、特許請求の範囲に規定された内容及びその均等物から導き出される本開示の概念的な思想と趣旨を逸脱しない範囲で種々の追加、変更及び部分的削除が可能である。
1: 電子機器、
 10: 固体撮像装置、
 100: 光学系、
 101: レンズ、
 102: マルチバンドパスフィルタ、
 103: バンドパスフィルタ、
 110: 撮像素子、
 120: 画素、
 121: 受光素子、
 122: 平坦化膜、
 123: カラーフィルタ、
 124: オンチップレンズ、
 140: 信号処理回路、
 160: 記憶回路、
 180: インタフェース、
 12: 処理回路、
 14: 記憶回路、
 16: 入出力部、

Claims (17)

  1.  入射する光を光電変換する、受光素子と、
     前記受光素子に入射する光の色を制御する、光学フィルタと、
     前記光学フィルタを介して入射した光、又は、前記光学フィルタに入射する光を、複数の周波数帯において取得する、マルチバンドパスフィルタと、
     を備え、
     前記光学フィルタは、
      複数の前記色に対応するフィルタであり、
      前記受光素子ごとに入射する前記色を制御し、
     前記マルチバンドパスフィルタは、
      透過する周波数帯のピークのうち少なくとも 1 つが、それぞれの前記複数の色に対応するフィルタにおける透過光のピークと異なる周波数を有する、
     固体撮像装置。
  2.  複数の前記色は、スペクトルのピーク周波数が異なる、
     請求項1に記載の固体撮像装置。
  3.  前記光学フィルタは、カラーフィルタ、プラズモンフィルタ又は有機光電変換膜のうち少なくとも 1 つである、
     請求項1に記載の固体撮像装置。
  4.  前記マルチバンドパスフィルタは、透過帯域の半値幅が前記複数の色のそれぞれに対応する前記光学フィルタの半値幅より狭い、
     請求項1に記載の固体撮像装置。
  5.  前記マルチバンドパスフィルタは、装置内において塗布、接着又は成膜により一体形成されている、
     請求項1に記載の固体撮像装置。
  6.  前記マルチバンドパスフィルタは、前記複数の色のそれぞれに対応する前記光学フィルタの透過周波数帯において、複数の透過帯域を備える、
     請求項1に記載の固体撮像装置。
  7.  前記受光素子は、前記マルチバンドパスフィルタを介して、複数の分光ピークを有する信号を出力する、
     請求項6に記載の固体撮像装置。
  8.  前記受光素子は、
      前記マルチバンドパスフィルタを介して光が入射する、第 1 受光素子と、
      前記マルチバンドパスフィルタを介せずに光が入射する、第 2 受光素子と、
     を備え、
     前記第 1 受光素子の出力と、前記第 2 受光素子の出力とに基づいて、信号を取得する、
     請求項1に記載の固体撮像装置。
  9.  前記第 1 受光素子の出力と、前記第 2 受光素子の出力とに基づいて、スペクトル推定を実行する、
     請求項8に記載の固体撮像装置。
  10.  前記マルチバンドパスフィルタは、
      第 1 マルチバンドパスフィルタと、
      前記第 1 マルチバンドパスフィルタと異なる透過帯域を有する、第 2 マルチバンドパスフィルタと、
     を備え、
     前記受光素子は、
      前記第 1 マルチバンドパスフィルタを介して光が入射する、第 3 受光素子と、
      前記第 2 マルチバンドパスフィルタを介して光が入射する、第 4 受光素子と、
     を備え、
     前記第 3 受光素子の出力と、前記第 4 受光素子の出力とに基づいて、信号を取得する
     請求項1に記載の固体撮像装置。
  11.  前記受光素子が出力する信号について、所定波長の光の強度を抽出する、波長抽出回路、
     をさらに備える、請求項1に記載の固体撮像装置。
  12.  前記マルチバンドパスフィルタは、
      第 3 マルチバンドパスフィルタと、
      前記第 3 マルチバンドパスフィルタとは異なる透過帯域を有する、第 4 マルチバンドパスフィルタと、
     を備え、
     前記受光素子は、像高に対して異なる透過帯域を有するように前記第 3 マルチバンドパスフィルタと、前記第 4 マルチバンドパスフィルタと、を介して光が入射され、
     前記波長抽出回路は、異なる前記像高における同一対象から受光した光に対する波長抽出パラメータを用いて、波長抽出を実行する、
     請求項11に記載の固体撮像装置。
  13.  前記波長抽出回路は、前記第 3 マルチバンドパスフィルタを介して取得した信号と、前記第 4 マルチバンドパスフィルタを介して取得した信号とを合成して、前記波長抽出を実行する、
     請求項12に記載の固体撮像装置。
  14.  前記波長抽出回路は、異なるフレームにおいて取得された信号に基づいて、前記波長抽出を実行する、
     請求項12に記載の固体撮像装置。
  15.  発光素子が射出する光で画像情報を表示する、ディスプレイと、
     前記ディスプレイの発光面と逆側において、前記ディスプレイを介して撮像する、撮像素子であって、
      入射する光を光電変換する、受光素子と、
      前記受光素子に入射する光の色を制御する、光学フィルタと、
      前記光学フィルタを介して入射した光、又は、前記光学フィルタに入射する光を、複数の周波数帯において取得する、マルチバンドパスフィルタと、
     を有する撮像素子と、
     を備え、
     前記光学フィルタは、
      複数の前記色に対応するフィルタであり、
      前記受光素子ごとに入射する前記色を制御し、
     前記マルチバンドパスフィルタは、
      透過する周波数帯のピークのうち少なくとも 1 つが、それぞれの前記複数の色に対応するフィルタにおける透過光のピークと異なる周波数を有する、
     電子機器。
  16.  前記受光素子が出力する信号について、所定波長の光の強度を抽出する、波長抽出回路、
     を、前記撮像素子の内部に備える、請求項15に記載の電子機器。
  17.  前記受光素子が出力する信号について、所定波長の光の強度を抽出する、波長抽出回路、
     を、前記撮像素子の外部に備える、請求項15に記載の電子機器。
PCT/JP2022/016843 2021-05-07 2022-03-31 固体撮像装置及び電子機器 WO2022234753A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN202280032343.9A CN117322002A (zh) 2021-05-07 2022-03-31 固态成像装置和电子设备
JP2023518646A JPWO2022234753A1 (ja) 2021-05-07 2022-03-31
US18/555,043 US20240194712A1 (en) 2021-05-07 2022-03-31 Solid-state imaging apparatus and electronic device

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US202163185596P 2021-05-07 2021-05-07
US63/185,596 2021-05-07

Publications (1)

Publication Number Publication Date
WO2022234753A1 true WO2022234753A1 (ja) 2022-11-10

Family

ID=83932106

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2022/016843 WO2022234753A1 (ja) 2021-05-07 2022-03-31 固体撮像装置及び電子機器

Country Status (4)

Country Link
US (1) US20240194712A1 (ja)
JP (1) JPWO2022234753A1 (ja)
CN (1) CN117322002A (ja)
WO (1) WO2022234753A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017032537A (ja) * 2015-08-03 2017-02-09 采▲ぎょく▼科技股▲ふん▼有限公司VisEra Technologies Company Limited スペクトル測定装置
JP2017526910A (ja) * 2014-07-24 2017-09-14 エコール・ポリテクニーク・フェデラル・ドゥ・ローザンヌ (ウ・ペ・エフ・エル)Ecole Polytechnique Federale De Lausanne (Epfl) 撮像分光法用のコンパクトな多機能システム
JP2018098344A (ja) * 2016-12-13 2018-06-21 ソニーセミコンダクタソリューションズ株式会社 撮像素子及び電子機器
JP2021022758A (ja) * 2019-07-24 2021-02-18 ソニー株式会社 画像処理装置、撮像装置、および画像処理方法、並びにプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017526910A (ja) * 2014-07-24 2017-09-14 エコール・ポリテクニーク・フェデラル・ドゥ・ローザンヌ (ウ・ペ・エフ・エル)Ecole Polytechnique Federale De Lausanne (Epfl) 撮像分光法用のコンパクトな多機能システム
JP2017032537A (ja) * 2015-08-03 2017-02-09 采▲ぎょく▼科技股▲ふん▼有限公司VisEra Technologies Company Limited スペクトル測定装置
JP2018098344A (ja) * 2016-12-13 2018-06-21 ソニーセミコンダクタソリューションズ株式会社 撮像素子及び電子機器
JP2021022758A (ja) * 2019-07-24 2021-02-18 ソニー株式会社 画像処理装置、撮像装置、および画像処理方法、並びにプログラム

Also Published As

Publication number Publication date
US20240194712A1 (en) 2024-06-13
CN117322002A (zh) 2023-12-29
JPWO2022234753A1 (ja) 2022-11-10

Similar Documents

Publication Publication Date Title
US10257484B2 (en) Imaging processing device and imaging processing method
US20230132892A1 (en) Digital cameras with direct luminance and chrominance detection
US9979941B2 (en) Imaging system using a lens unit with longitudinal chromatic aberrations and method of operating
CN106456070B (zh) 成像装置和方法
CA2594105C (en) A system for multi- and hyperspectral imaging
US20070177004A1 (en) Image creating method and imaging device
US7609291B2 (en) Device and method for producing an enhanced color image using a flash of infrared light
US11747533B2 (en) Spectral sensor system using optical filter subarrays
JP2004228662A (ja) 撮像装置
EP2630788A1 (en) System and method for imaging using multi aperture camera
WO2018116972A1 (ja) 画像処理方法、画像処理装置および記録媒体
US11696043B2 (en) White balance compensation using a spectral sensor system
CN216122640U (zh) 摄像元件及电子设备
JPWO2015133130A1 (ja) 映像撮影装置、信号分離装置および映像撮影方法
WO2022234753A1 (ja) 固体撮像装置及び電子機器
US20170214890A1 (en) Image processing apparatus, image processing method, and imaging apparatus
KR20080029051A (ko) 이미지 센서를 구비한 장치 및 영상 획득 방법
JP4344257B2 (ja) 撮影装置及び色分解光学系
US20230082539A1 (en) Illuminant correction in an imaging system
US8964071B2 (en) Solid-state imaging device, camera module, and imaging method having first and second green pixel cells
WO2022198436A1 (zh) 图像传感器、图像数据获取方法、成像设备
Mendlovic et al. Multi-dimensional hyperspectral imaging system
WO2020059050A1 (ja) 撮像素子、撮像装置、撮像方法およびプログラム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22798860

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 2023518646

Country of ref document: JP

WWE Wipo information: entry into national phase

Ref document number: 18555043

Country of ref document: US

WWE Wipo information: entry into national phase

Ref document number: 202280032343.9

Country of ref document: CN

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 22798860

Country of ref document: EP

Kind code of ref document: A1