WO2022044692A1 - フィルタアレイおよび撮像システム - Google Patents

フィルタアレイおよび撮像システム Download PDF

Info

Publication number
WO2022044692A1
WO2022044692A1 PCT/JP2021/028235 JP2021028235W WO2022044692A1 WO 2022044692 A1 WO2022044692 A1 WO 2022044692A1 JP 2021028235 W JP2021028235 W JP 2021028235W WO 2022044692 A1 WO2022044692 A1 WO 2022044692A1
Authority
WO
WIPO (PCT)
Prior art keywords
filter
band limiting
multimode
wavelength
peak wavelengths
Prior art date
Application number
PCT/JP2021/028235
Other languages
English (en)
French (fr)
Inventor
基樹 八子
篤 石川
Original Assignee
パナソニックIpマネジメント株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by パナソニックIpマネジメント株式会社 filed Critical パナソニックIpマネジメント株式会社
Priority to JP2022545577A priority Critical patent/JPWO2022044692A1/ja
Publication of WO2022044692A1 publication Critical patent/WO2022044692A1/ja
Priority to US18/162,730 priority patent/US20230168126A1/en

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/2823Imaging spectrometer
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/12Generating the spectrum; Monochromators
    • G01J3/26Generating the spectrum; Monochromators using multiple reflection, e.g. Fabry-Perot interferometer, variable interference filters
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/30Measuring the intensity of spectral lines directly on the spectrum itself
    • G01J3/36Investigating two or more bands of a spectrum by separate detectors
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/46Measurement of colour; Colour measuring devices, e.g. colorimeters
    • G01J3/50Measurement of colour; Colour measuring devices, e.g. colorimeters using electric radiation detectors
    • G01J3/51Measurement of colour; Colour measuring devices, e.g. colorimeters using electric radiation detectors using colour filters
    • G01J3/513Measurement of colour; Colour measuring devices, e.g. colorimeters using electric radiation detectors using colour filters having fixed filter-detector pairs
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/20Filters
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/20Filters
    • G02B5/201Filters in the form of arrays
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/20Filters
    • G02B5/26Reflecting filters
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/20Filters
    • G02B5/28Interference filters
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/20Filters
    • G02B5/28Interference filters
    • G02B5/285Interference filters comprising deposited thin solid films
    • G02B5/288Interference filters comprising deposited thin solid films comprising at least one thin film resonant cavity, e.g. in bandpass filters
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1462Coatings
    • H01L27/14621Colour filter arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/2803Investigating the spectrum using photoelectric array detector
    • G01J2003/2806Array and filter array
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/2823Imaging spectrometer
    • G01J2003/2826Multispectral imaging, e.g. filter imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J2003/283Investigating the spectrum computer-interfaced
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/46Measurement of colour; Colour measuring devices, e.g. colorimeters
    • G01J3/50Measurement of colour; Colour measuring devices, e.g. colorimeters using electric radiation detectors
    • G01J3/51Measurement of colour; Colour measuring devices, e.g. colorimeters using electric radiation detectors using colour filters
    • G01J3/513Measurement of colour; Colour measuring devices, e.g. colorimeters using electric radiation detectors using colour filters having fixed filter-detector pairs
    • G01J2003/516Measurement of colour; Colour measuring devices, e.g. colorimeters using electric radiation detectors using colour filters having fixed filter-detector pairs with several stacked filters or stacked filter-detector pairs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only

Definitions

  • This disclosure relates to a filter array and an imaging system.
  • Hyperspectral cameras are used in various fields such as food inspection, biopsy, drug development, and mineral component analysis.
  • Patent Document 1 discloses an example of a hyperspectral image pickup device using compressed sensing.
  • the image pickup apparatus includes a coding element which is an array of a plurality of optical filters having different wavelength dependences of light transmittance, an image sensor for detecting light transmitted through the coding element, and a signal processing circuit.
  • a coding element is arranged on the optical path connecting the subject and the image sensor.
  • the image sensor acquires one wavelength division multiplexing image by simultaneously detecting light on which components of a plurality of wavelength bands are superimposed for each pixel.
  • the signal processing circuit utilizes the information of the spatial distribution of the spectral transmittance of the coding element to apply compressed sensing to the acquired wavelength-multiplexed image, thereby forming an image for each of a plurality of wavelength bands. Generate data.
  • a filter array having two or more transmittance peaks (that is, maximum values) in a target wavelength range is used as a coding element.
  • Patent Document 2 discloses an example of a filter array including a Fabry-Perot resonator in which a dielectric multilayer film is used for each reflective layer.
  • Patent Document 3 discloses the structure of an optical filter using a diffraction grating.
  • Patent Document 4 discloses the structure of an optical filter utilizing surface plasmon resonance.
  • the present disclosure provides a technique for acquiring hyperspectral information with a small error over a wider wavelength range than before.
  • the filter array includes a plurality of two-dimensionally arranged optical filters.
  • the plurality of optical filters include a first filter and a second filter.
  • the first filter includes a first multimode filter having a plurality of first peak wavelengths having a maximum light transmittance in the target wavelength range, and a first sub-wavelength range that is a part of the target wavelength range. Includes a first band limiting filter that limits transmission.
  • the second filter has a plurality of second peak wavelengths having a maximum light transmittance in the target wavelength region, and at least one of the plurality of second peak wavelengths is the plurality of first peak wavelengths.
  • the present disclosure may be implemented in recording media such as systems, appliances, methods, integrated circuits, computer programs or computer readable recording discs, systems, appliances, methods, integrated circuits, etc. It may be realized by any combination of a computer program and a recording medium.
  • the computer-readable recording medium may include a non-volatile recording medium such as a CD-ROM (Compact Disc-Read Only Memory).
  • the device may be composed of one or more devices. When the device is composed of two or more devices, the two or more devices may be arranged in one device, or may be separately arranged in two or more separated devices.
  • "device" can mean not only one device, but also a system of multiple devices.
  • FIG. 1A is a diagram schematically showing an exemplary imaging system.
  • FIG. 1B is a diagram showing another example of the imaging system.
  • FIG. 1C is a diagram showing still another example of the imaging system.
  • FIG. 1D is a diagram showing still another example of the imaging system.
  • FIG. 2A is a diagram schematically showing an example of a filter array.
  • FIG. 2B is a diagram showing an example of the spatial distribution of the transmittance of each of the plurality of wavelength bands included in the target wavelength region in the filter array.
  • FIG. 2C is a diagram showing an example of the spectral transmittance of the region A1 included in the filter array shown in FIG. 2A.
  • FIG. 2D is a diagram showing an example of the spectral transmittance of the region A2 included in the filter array shown in FIG. 2A.
  • FIG. 3A is a diagram for explaining the relationship between the target wavelength region W and a plurality of wavelength bands included therein.
  • FIG. 3B is a diagram for explaining the relationship between the target wavelength region W and a plurality of wavelength bands included therein.
  • FIG. 4A is a diagram for explaining the characteristics of the spectral transmittance in a certain region of the filter array.
  • FIG. 4B is a diagram showing the results of averaging the spectral transmittances shown in FIG. 4A for each wavelength band.
  • FIG. 5 is a diagram schematically showing a part of a cross section of an image pickup apparatus in a certain example.
  • FIG. 6 is a diagram schematically showing an example of transmission spectra in a plurality of pixels.
  • FIG. 7 is a cross-sectional view schematically showing an example of the structure of a filter in which each of the reflective layers is formed of a dielectric multilayer film.
  • FIG. 8 is a diagram schematically showing another example of a filter in which each of the reflective layers is formed of a dielectric multilayer film.
  • FIG. 9A is a diagram showing an example of transmission spectra of eight types of filters included in the filter array.
  • FIG. 9B is an enlarged view showing the transmission spectrum in the wavelength range of 400 nm to 600 nm in FIG. 9A.
  • FIG. 10 is a diagram showing an example of an error in the estimation calculation of the hyperspectral image.
  • FIG. 10 is a diagram showing an example of an error in the estimation calculation of the hyperspectral image.
  • FIG. 11 is a diagram showing a schematic configuration of a filter array.
  • FIG. 12 is a diagram showing an example of transmission spectra of the first multimode filter and the second multimode filter.
  • FIG. 13 is a diagram showing an example of the transmission spectra of the first band limiting filter and the second band limiting filter.
  • FIG. 14 is a schematic cross-sectional view showing another example of the filter array.
  • FIG. 15 is a diagram showing an example of a limited band of each of the four types of band limiting filters.
  • FIG. 16A is a diagram showing an example of arrangement of a band limiting filter.
  • FIG. 16B is a diagram showing another example of the arrangement of the band limiting filter.
  • FIG. 17 is a cross-sectional view showing an example of a more detailed structure of the filter array.
  • FIG. 18A is a diagram showing an example of a transmission spectrum of a band limiting filter.
  • FIG. 18B is a diagram showing another example of the transmission spectrum of the band limiting filter.
  • FIG. 18C is a diagram showing another example of the transmission spectrum of the band limiting filter.
  • FIG. 19A is a diagram showing an example of a transmission spectrum of a filter array without a band limiting filter.
  • FIG. 19B is a diagram showing an example of a transmission spectrum of a filter array including one type of band limiting filter.
  • FIG. 19C is a diagram showing an example of a transmission spectrum of a filter array having three types of band limiting filters.
  • FIG. 19D is a graph showing the standard deviation of the transmittance of each wavelength of the filter array 110.
  • FIG. 19A is a diagram showing an example of a transmission spectrum of a band limiting filter.
  • FIG. 18B is a diagram showing another example of the transmission spectrum of the band limiting filter.
  • FIG. 19C is a
  • FIG. 20A is a diagram showing the calculation result of the least squares error (MSE) of the image restored for each band.
  • FIG. 20B is a diagram showing the calculation result of the least squares error (MSE) of the image restored for each band.
  • FIG. 21 is a schematic cross-sectional view showing another example of the filter array.
  • FIG. 22 is a schematic cross-sectional view showing still another example of the filter array.
  • FIG. 23 is a schematic cross-sectional view showing still another example of the filter array.
  • FIG. 24 is a schematic cross-sectional view showing still another example of the filter array.
  • FIG. 25 is a schematic cross-sectional view showing still another example of the filter array.
  • FIG. 26A is a diagram showing an example of a transmission spectrum of a filter array including a band limiting filter having a rectangular transmission spectrum having a transmittance of 0% in the limiting band.
  • FIG. 26B is a diagram showing an example of a transmission spectrum of a filter array including a band limiting filter having a rectangular transmission spectrum having a transmittance of 60% in the limiting band.
  • FIG. 26C is a diagram showing an example of a transmission spectrum of a filter array without a band limiting filter.
  • FIG. 27 is a graph showing an example of the relationship between the mean value of a plurality of bands of mean square error (MSE) between the estimated image and the correct image and the transmittance in the limited band.
  • MSE mean square error
  • all or part of a circuit, unit, device, member or part, or all or part of a functional block in a block diagram is, for example, a semiconductor device, a semiconductor integrated circuit (IC), or an LSI (lage scale integration). ) Can be performed by one or more electronic circuits.
  • the LSI or IC may be integrated on one chip, or may be configured by combining a plurality of chips.
  • functional blocks other than the storage element may be integrated on one chip.
  • it is called LSI or IC, but the name changes depending on the degree of integration, and it may be called system LSI, VLSI (very large scale integration), or ULSI (ultra large scale integration).
  • Field Programmable Gate Array (FPGA) which is programmed after the LSI is manufactured, or reconfigurable logistic device, which can reconfigure the junction relation inside the LSI or set up the circuit partition inside the LSI, can also be used for the same purpose.
  • FPGA Field Programmable Gate Array
  • all or part of the function or operation of a circuit, unit, device, member or part can be executed by software processing.
  • the software is recorded on a non-temporary recording medium such as one or more ROMs, optical discs, hard disk drives, etc., and when the software is run by a processor, the features identified by the software. Is executed by the processing device and peripheral devices.
  • the system or device may include one or more non-temporary recording media on which the software is recorded, a processing device, and the required hardware device, such as an interface.
  • FIG. 1A is a diagram schematically showing an exemplary hyperspectral imaging system.
  • This system includes an image pickup device 100 and a signal processing device 200.
  • the image pickup apparatus 100 has the same configuration as the image pickup apparatus disclosed in Patent Document 1.
  • the image pickup apparatus 100 includes an optical system 140, a filter array 110, and an image sensor 160.
  • the filter array 110 has the same structure and function as the "coding element" disclosed in Patent Document 1.
  • the optical system 140 and the filter array 110 are arranged on the optical path of the light incident from the object 70 which is the subject.
  • the filter array 110 is arranged between the optical system 140 and the image sensor 160.
  • FIG. 1A illustrates an apple as an example of the object 70.
  • the object 70 is not limited to an apple, but can be any object.
  • the image sensor 160 generates data of a compressed image 120 in which information of a plurality of wavelength bands is compressed as a two-dimensional monochrome image.
  • the signal processing device 200 has each of a plurality of wavelength bands included in a preset wavelength range (hereinafter referred to as “target wavelength range”) based on the data of the compressed image 120 generated by the image sensor 160. Generate image data of.
  • the image data of the plurality of wavelength bands generated is referred to as "hyperspectral image data" in the present specification.
  • the number of wavelength bands included in the target wavelength region is N (N is an integer of 4 or more).
  • the generated image data of a plurality of wavelength bands are referred to as hyperspectral images 220W 1 , 220W 2 , 220W 3 , ..., 220WN , and these may be collectively referred to as hyperspectral images 220. ..
  • a signal indicating an image that is, a set of signals representing a pixel value of each pixel may be simply referred to as an "image”.
  • the filter array 110 is an array of a plurality of translucent filters arranged in rows and columns.
  • the plurality of filters include a plurality of types of filters in which the spectral transmittance, that is, the wavelength dependence of the light transmittance is different from each other.
  • the filter array 110 modulates the intensity of the incident light for each wavelength and outputs the modulation. This process by the filter array 110 is referred to herein as "encoding".
  • the filter array 110 may be located near or directly above the image sensor 160.
  • “nearby” means that the image of the light from the optical system 140 is close enough to be formed on the surface of the filter array 110 in a state of being clear to some extent.
  • “Directly above” means that they are so close that there is almost no gap.
  • the filter array 110 and the image sensor 160 may be integrated.
  • the optical system 140 includes at least one lens. Although the optical system 140 is shown as one lens in FIG. 1A, the optical system 140 may be a combination of a plurality of lenses. The optical system 140 forms an image on the image pickup surface of the image sensor 160 via the filter array 110.
  • the filter array 110 may be arranged away from the image sensor 160.
  • 1B to 1D are diagrams showing a configuration example of an image pickup apparatus 100 in which the filter array 110 is arranged away from the image sensor 160.
  • the filter array 110 is arranged between the optical system 140 and the image sensor 160 and at a position away from the image sensor 160.
  • the filter array 110 is arranged between the object 70 and the optical system 140.
  • the image pickup apparatus 100 includes two optical systems 140A and 140B, and a filter array 110 is arranged between them.
  • an optical system including one or more lenses may be arranged between the filter array 110 and the image sensor 160.
  • the image sensor 160 is a monochrome type photodetector having a plurality of two-dimensionally arranged photodetectors (also referred to as "pixels" in the present specification).
  • the image sensor 160 may be, for example, a CCD (Charge-Coupled Device) sensor, a CMOS (Complementary Metal Oxide Sensor) sensor, or an infrared array sensor. Depending on the application, a terahertz array sensor or a millimeter wave array sensor may be used.
  • the photodetector includes, for example, a photodiode.
  • the image sensor 160 does not necessarily have to be a monochrome type sensor.
  • a color type sensor having an R / G / B, R / G / B / IR, or R / G / B / W filter may be used.
  • the wavelength range to be acquired may be arbitrarily determined, and may be not limited to the visible wavelength range but may be the wavelength range of ultraviolet, near infrared, mid-infrared, far-infrared, microwave / radio wave.
  • the signal processing device 200 is a computer including a processor and a storage medium such as a memory.
  • the signal processing device 200 may be connected to the image pickup device 100 by wire or wirelessly.
  • the signal processing device 200 is based on the compressed image 120 acquired by the image sensor 160, and the data of a plurality of hyperspectral images 220W 1 , 220W 2 , 220W 3 , ... 220WN including information of a plurality of wavelength bands, respectively. To generate. Details of the processing by the signal processing device 200 will be described later.
  • the signal processing device 200 may be incorporated in the image pickup device 100.
  • the signal processing device 200 may be connected to the image pickup device 100 via a network such as the Internet.
  • FIG. 2A is a diagram schematically showing an example of the filter array 110.
  • the filter array 110 has a plurality of regions arranged two-dimensionally. In the present specification, the area may be referred to as a "cell". In each region, an optical filter having individually set spectral transmittance is arranged.
  • the spectral transmittance is represented by a function T ( ⁇ ), where the wavelength of the incident light is ⁇ .
  • the spectral transmittance T ( ⁇ ) can take a value of 0 or more and 1 or less.
  • the filter array 110 has 48 rectangular regions arranged in 6 rows and 8 columns. This is just an example, and in actual use, more areas may be provided. The number may be, for example, about the same as the number of pixels of the image sensor 160. The number of filters included in the filter array 110 is determined depending on the application, for example, in the range of tens to tens of millions.
  • FIG. 2B is a diagram showing an example of the spatial distribution of the light transmittance of each of the plurality of wavelength bands W 1 , W 2 , ..., WN included in the target wavelength region in the filter array 110.
  • the difference in the shade of each region represents the difference in the transmittance. The lighter the area, the higher the transmittance, and the darker the area, the lower the transmittance.
  • the spatial distribution of transmittance differs depending on the wavelength band.
  • 2C and 2D are diagrams showing examples of spectral transmittances of regions A1 and A2 included in the filter array 110 shown in FIG. 2A, respectively.
  • the spectral transmittance of the region A1 and the spectral transmittance of the region A2 are different from each other.
  • the spectral transmittance of the filter array 110 varies depending on the region. However, the spectral transmittances of all regions do not necessarily have to be different.
  • the spectral transmittances of at least a part of the plurality of regions are different from each other.
  • the filter array 110 includes two or more filters having different spectral transmittances from each other.
  • the number of spectral transmittance patterns in the plurality of regions included in the filter array 110 may be equal to or greater than the number N of wavelength bands included in the wavelength region of interest.
  • the filter array 110 may be designed so that the spectral transmittances of more than half of the regions are different.
  • the target wavelength range W can be set in various ranges depending on the application.
  • the target wavelength region W may be, for example, a wavelength region of visible light of about 400 nm to about 700 nm, a wavelength region of near infrared rays of about 700 nm to about 2500 nm, or a wavelength region of near ultraviolet rays of about 10 nm to about 400 nm.
  • the target wavelength region W may be a radio wave region such as mid-infrared, far-infrared, terahertz wave, or millimeter wave.
  • the wavelength range used is not always the visible light range.
  • visible light not only visible light but also invisible light such as near-ultraviolet rays, near-infrared rays, and radio waves are referred to as "light" for convenience.
  • the shortest wavelength in the target wavelength range W is ⁇ 1 and the longest wavelength is ⁇ 2 .
  • N is an arbitrary integer of 4 or more, and each wavelength range obtained by dividing the target wavelength range W into N equal parts is the wavelength bands W 1 , W 2 , ..., W N.
  • a plurality of wavelength bands included in the target wavelength region W may be arbitrarily set.
  • the bandwidth may be non-uniform depending on the wavelength band.
  • the bandwidth differs depending on the wavelength band, and there is a gap between two adjacent wavelength bands.
  • the plurality of wavelength bands need only be different from each other, and the method of determining the wavelength bands is arbitrary.
  • FIG. 4A is a diagram for explaining the characteristics of the spectral transmittance in a certain region of the filter array 110.
  • the spectral transmittance has a plurality of maximum values P1 to P5 and a plurality of minimum values with respect to the wavelength within the target wavelength region W.
  • the maximum value of the light transmittance is 1 and the minimum value is 0 in the target wavelength region W.
  • the spectral transmittance has a maximum value in the wavelength range such as the wavelength band W2 and the wavelength band WIN - 1 .
  • the spectral transmittance of each region has a maximum value in at least two plurality of wavelength regions among the plurality of wavelength bands W1 to WN.
  • the maximum values P1, P3, P4 and P5 are 0.5 or more.
  • each region in the filter array 110 transmits a large amount of components in a certain wavelength region of the incident light, and does not transmit so much components in another wavelength region.
  • the transmittance is greater than 0.5, and for light in the remaining Nk wavelength ranges, the transmittance is 0.5.
  • k is an integer satisfying 2 ⁇ k ⁇ N. If the incident light is white light that evenly contains all the wavelength components of visible light, the filter array 110 measures the incident light for each region and has a plurality of discrete peaks of intensity with respect to the wavelength. , And these multi-wavelength light is superimposed and incident on the image sensor 160.
  • FIG. 4B is a diagram showing, as an example, the result of averaging the spectral transmittances shown in FIG. 4A for each wavelength band W 1 , W 2 , ..., W N.
  • the averaged transmittance is obtained by integrating the spectral transmittance T ( ⁇ ) for each wavelength band and dividing by the bandwidth of that wavelength band.
  • the value of the transmittance averaged for each wavelength band as described above is defined as the transmittance in that wavelength band.
  • the transmittance is remarkably high in the three wavelength regions having maximum values P1, P3 and P5. In particular, the transmittance exceeds 0.8 in the two wavelength regions having maximum values P3 and P5.
  • the resolution in the wavelength direction of the transmission spectrum of each filter in the filter array 110 can be set to about the bandwidth of a desired wavelength band.
  • the width of the range having a value equal to or more than the average value of the minimum value closest to the maximum value and the maximum value is the band of a desired wavelength band. It can be set to about the width.
  • the transmission spectrum is decomposed into frequency components by, for example, Fourier transform, the value of the frequency component corresponding to the wavelength range becomes relatively large.
  • the filter array 110 typically has a plurality of filters divided in a grid pattern, as shown in FIG. 2A. Some or all of these filters have different transmission spectra from each other.
  • the wavelength distribution and spatial distribution of the light transmittance of the plurality of filters included in the filter array 110 may be, for example, a random distribution or a quasi-random distribution.
  • each filter in the filter array 110 can be considered as a vector element having a value of, for example, 0 to 1, depending on the light transmittance.
  • the value of the vector element is 0, and when the transmittance is 1, the value of the vector element is 1.
  • a set of filters lined up in a row or column can be thought of as a multidimensional vector with values from 0 to 1. Therefore, it can be said that the filter array 110 includes a plurality of multidimensional vectors in the column direction or the row direction.
  • the random distribution means that any two multidimensional vectors are independent, that is, they are not parallel.
  • the quasi-random distribution means that a configuration that is not independent among some multidimensional vectors is included. Therefore, in a random distribution and a quasi-random distribution, a vector whose element is the value of the light transmittance of a certain wavelength band for each filter belonging to a set of filters arranged in one row or column included in a plurality of filters. , It is independent of the vector whose element is the value of the light transmittance of the wavelength band for each filter belonging to the set of filters arranged in other rows or columns. Similarly for other wavelength bands different from the above wavelength band, the transmittance of light in the other wavelength range for each filter belonging to a set of filters arranged in one row or column included in a plurality of filters. A vector whose element is a value and a vector whose element is the value of the light transmittance in the other wavelength range for each filter belonging to a set of filters arranged in another row or column are independent of each other.
  • the distance between the plurality of filters included in the filter array 110 may be substantially the same as the pixel pitch of the image sensor 160. In this way, the resolution of the coded light image emitted from the filter array 110 substantially matches the resolution of the pixels. By making the light transmitted through each filter incident on only one corresponding pixel, the calculation described later can be facilitated.
  • the pitch of the filter may be finer according to the distance.
  • a grayscale transmittance distribution in which the transmittance of each region can take any value of 0 or more and 1 or less is assumed. However, it does not necessarily have to be a grayscale transmittance distribution.
  • a binary-scale transmittance distribution may be adopted in which the transmittance of each region can take a value of either approximately 0 or approximately 1.
  • each region transmits most of the light in at least two wavelength regions of the plurality of wavelength regions included in the target wavelength region, and transmits most of the light in the remaining wavelength regions. I won't let you.
  • "most" refers to about 80% or more.
  • a part of all filters may be replaced with a transparent area.
  • a transparent region transmits light of all wavelength bands W1 to WN included in the target wavelength region W with a substantially high transmittance, for example, a transmittance of 80% or more.
  • the plurality of transparent areas may be arranged, for example, in a checkerboard pattern. That is, in the two arrangement directions of the plurality of regions in the filter array 110, regions having different light transmittances depending on the wavelength and transparent regions may be arranged alternately.
  • Data showing the spatial distribution of the spectral transmittance of such a filter array 110 can be acquired in advance based on design data or actual measurement calibration and stored in a storage medium included in the signal processing device 200. This data is used for arithmetic processing described later.
  • Each filter in the filter array 110 has a plurality of peak wavelengths showing a maximum value in the target wavelength region W.
  • a filter may be referred to as a "multimode filter".
  • the multimode filter can be constructed using, for example, a multilayer film, an organic material, a grating structure, and a microstructure containing at least one of the metals.
  • a multilayer film for example, a dielectric multilayer film or a multilayer film including a metal layer can be used.
  • each filter is formed so that at least one of the thickness, material, and stacking order of each multilayer film is different. This makes it possible to realize different spectral characteristics depending on the filter.
  • the composition using the organic material can be realized by making the pigments or dyes contained different by the filter, or by laminating different materials.
  • a configuration using a diffraction grating structure can be realized by providing a diffraction structure having a different diffraction pitch or depth for each filter. When a fine structure containing a metal is used, it can be produced by utilizing spectroscopy due to the plasmon effect.
  • the signal processing device 200 reconstructs the multi-wavelength hyperspectral image 220 based on the spatial distribution characteristic of the transmittance for each wavelength of the compressed image 120 output from the image sensor 160 and the filter array 110.
  • the term "multi-wavelength" means, for example, a wavelength range larger than the three-color wavelength range of RGB acquired by a normal color camera.
  • the number of this wavelength range can be, for example, about 4 to 100.
  • the number of wavelength regions is referred to as the number of bands. Depending on the application, the number of bands may exceed 100.
  • the data to be obtained is the data of the hyperspectral image 220, and the data is referred to as f.
  • f is data obtained by integrating the image data f 1 , f 2 , ..., And f N of each band.
  • the horizontal direction of the image is the x direction
  • the vertical direction of the image is the y direction.
  • the number of pixels in the x direction of the image data to be obtained is n and the number of pixels in the y direction is m
  • each of the image data f 1 , f 2 , ..., F N is two-dimensional data of n ⁇ m pixels. Is.
  • the data f is three-dimensional data having the number of elements n ⁇ m ⁇ N.
  • This three-dimensional data is referred to as "hyperspectral image data” or “hyperspectral data cube”.
  • the number of elements of the data g of the compressed image 120 encoded and multiplexed by the filter array 110 is n ⁇ m.
  • the data g can be represented by the following equation (1).
  • each of f 1 , f 2 , ..., And f N is data having n ⁇ m elements. Therefore, the vector on the right side is strictly a one-dimensional vector of n ⁇ m ⁇ N rows and one column.
  • the vector g is converted into a one-dimensional vector having n ⁇ m rows and one column, expressed, and calculated.
  • the matrix H encodes and intensity-modulates each component f 1 , f 2 , ..., F N of the vector f with different coding information (also referred to as “mask information”) for each wavelength band, and adds them. Represents the transformation to be done. Therefore, H is a matrix of n ⁇ m rows and n ⁇ m ⁇ N columns.
  • the signal processing device 200 utilizes the redundancy of the image included in the data f and obtains a solution by using a compressed sensing method. Specifically, the obtained data f is estimated by solving the following equation (2).
  • f' represents the estimated data of f.
  • the first term in parentheses in the above equation represents the amount of deviation between the estimation result Hf and the acquired data g, the so-called residual term.
  • the sum of squares is used as the residual term, but the absolute value or the square root of the sum of squares may be used as the residual term.
  • the second term in parentheses is a regularization term or a stabilization term. Equation (2) means finding f that minimizes the sum of the first term and the second term.
  • the signal processing apparatus 200 can converge the solution by a recursive iterative operation and calculate the final solution f'.
  • the first term in parentheses in the equation (2) means an operation for finding the sum of squares of the difference between the acquired data g and Hf obtained by transforming f in the estimation process by the matrix H.
  • the second term ⁇ (f) is a constraint condition in the regularization of f, and is a function that reflects the sparse information of the estimated data. This function has the effect of smoothing or stabilizing the estimated data.
  • the regularization term can be represented by, for example, the Discrete Cosine Transform (DCT), Wavelet Transform, Fourier Transform, or Total Variation (TV) of f. For example, when the total variation is used, stable guess data that suppresses the influence of noise in the observation data g can be obtained.
  • the sparsity of the object 70 in the space of each regularization term depends on the texture of the object 70. You may choose a regularization term that makes the texture of the object 70 more sparse in the space of the regularization term. Alternatively, a plurality of regularization terms may be included in the operation.
  • is a weighting factor. The larger the weighting coefficient ⁇ , the larger the amount of redundant data to be reduced, and the higher the compression ratio. The smaller the weighting factor ⁇ , the weaker the convergence to the solution.
  • the weighting factor ⁇ is set to an appropriate value at which f converges to some extent and does not cause overcompression.
  • the image encoded by the filter array 110 is acquired in a blurred state on the image pickup surface of the image sensor 160. Therefore, the hyperspectral image 220 can be reconstructed by holding this blur information in advance and reflecting the blur information in the above-mentioned matrix H.
  • the blur information is represented by a point spread function (Point Spread Function: PSF).
  • PSF is a function that defines the degree of spread of the point image to the peripheral pixels. For example, when a point image corresponding to one pixel on an image spreads over a region of k ⁇ k pixels around the pixel due to blurring, PSF is a coefficient group indicating the influence on the brightness of each pixel in the region.
  • the hyperspectral image 220 can be reconstructed by reflecting the influence of the blurring of the coding pattern by PSF in the matrix H.
  • the position where the filter array 110 is arranged is arbitrary, but a position where the coding pattern of the filter array 110 is too diffused and does not disappear can be selected.
  • FIG. 5 is a diagram schematically showing a part of a cross section of the image pickup apparatus 100 in a certain example.
  • the image pickup apparatus 100 includes a filter array 110 and an image sensor 160.
  • the filter array 110 includes a plurality of filters 112 arranged two-dimensionally.
  • the plurality of filters 112 can be arranged in rows and columns.
  • FIG. 5 schematically shows a part of the cross-sectional structure of one row.
  • the filter array 110 is arranged on the surface of the image sensor 160.
  • Each of the plurality of photodetecting elements 162 included in the image sensor 160 is located directly below the corresponding filter 112 among the plurality of filters 112 included in the filter array 110.
  • the filter array 110 and the image sensor 160 may be separated. Even in that case, each of the plurality of photodetectors 162 may be arranged at a position to receive the light transmitted through one of the plurality of filters 112.
  • Each component may be arranged such that light transmitted through the plurality of filters 112 is incident on the corresponding photodetecting elements 162 through a mirror (not shown).
  • Each filter 112 in the filter array 110 shown in FIG. 5 is a Fabry-Perot (FP) filter.
  • the FP filter includes two first reflective layers 28a and a second reflective layer 28b facing each other, and an interference layer 26 (also referred to as an "intermediate layer") between them.
  • the interference layer 26 has a thickness and a refractive index at which a resonant structure having one or more resonant modes is formed.
  • the transmittance of light having a wavelength corresponding to the resonance mode is high, and the transmittance of light having other wavelengths is low.
  • Each of the plurality of filters 112 has a resonant structure.
  • the resonance structure means a structure in which light of a certain wavelength forms a standing wave inside and exists stably. The state of the light is referred to as a "resonance mode".
  • the resonance structure is composed of the first reflective layer 28a, the second reflective layer 28b, and the interference layer 26.
  • Each of the first reflective layer 28a and the second reflective layer 28b can be formed from, for example, a dielectric multilayer film or a metal thin film.
  • the interference layer 26 may be formed of a substantially transparent dielectric or semiconductor in the wavelength range of interest.
  • the interference layer 26 can be formed from, for example, at least one selected from the group consisting of Si, Si 3 N 4 , TiO 2 , Nb 2 O 5 , and Ta 2 O 5 . At least one of the refractive index and the thickness of the interference layer 26 depends on the filter 112.
  • Each transmission spectrum of the plurality of filters 112 has a maximum transmittance at a plurality of wavelengths.
  • the plurality of wavelengths correspond to a plurality of resonance modes having different orders in the above-mentioned resonance structure.
  • All the filters 112 in the filter array 110 may have the above-mentioned resonance structure, or may include a filter having no resonance structure.
  • a filter having no wavelength dependence of light transmittance such as a transparent filter or an ND filter (Neutral Density Filter), may be included in the filter array 110.
  • Each of the plurality of photodetecting elements 162 in the image sensor 160 has sensitivity to light in a preset target wavelength range W.
  • “having sensitivity" to light in a certain wavelength range means having substantial sensitivity necessary for detecting light in the wavelength range.
  • the external quantum efficiency in the wavelength range is 1% or more.
  • the external quantum efficiency of the photodetector 162 in the wavelength range may be 10% or more, or 20% or more.
  • a plurality of wavelengths at which the light transmittance of each filter 112 has a maximum value are all included in the target wavelength region W.
  • the filter 112 having the resonance structure as described above is referred to as a "Fabry-Perot filter".
  • the Fabry-Perot filter is a type of interference filter.
  • another type of interference filter such as a color separation filter composed of a diffraction grating or the like may be used.
  • the portion of the transmission spectrum having the maximum value is referred to as "peak”
  • the wavelength at which the light transmittance shows the maximum value in the target wavelength region W is referred to as "peak wavelength”.
  • the thickness of the interference layer 26 is L
  • the refractive index is n
  • the incident angle of the light incident on the filter 112 is ⁇ i
  • the mode order of the resonance mode is m.
  • m is an integer of 1 or more.
  • ⁇ 1 be the shortest wavelength and ⁇ 2 be the longest wavelength in the target wavelength range W.
  • the filter 112 in which only one m satisfying ⁇ 1 ⁇ ⁇ m ⁇ ⁇ 2 exists is referred to as a “single mode filter”, and there are two or more m satisfying ⁇ 1 ⁇ ⁇ m ⁇ ⁇ 2 .
  • the filter 112 is referred to as a "multimode filter”.
  • the filter 112 in this case is a single-mode filter in which one peak wavelength is included in the target wavelength region W.
  • the filter 112 in this case is a multi-mode filter in which seven peak wavelengths are included in the target wavelength region W.
  • a multi-mode filter can be realized by appropriately designing the thickness of the interference layer 26 of the filter 112.
  • the refractive index of the interference layer 26 of the filter 112 may be adjusted.
  • both the thickness and the refractive index of the interference layer 26 of the filter 112 may be adjusted.
  • FIG. 6 is a diagram schematically showing an example of a transmission spectrum in each pixel when a plurality of multimode filters having different transmission spectra are arranged on a plurality of pixels.
  • FIG. 6 illustrates some peaks of transmission spectra in pixels A, B, and C, and their mode orders m, m + 1, and m + 2.
  • the plurality of multimode filters may be designed so that the peak wavelength is slightly different for each pixel.
  • Such a design can be realized by slightly changing the thickness L and / or the refractive index n in the formula (3).
  • the image pickup apparatus 100 can simultaneously detect light having a plurality of peak wavelengths different for each pixel.
  • Each of the first reflective layer 28a and the second reflective layer 28b may be provided with, for example, the structure of a distributed Bragg Reflector (DBR).
  • DBR distributed Bragg Reflector
  • each of the first reflective layer 28a and the second reflective layer 28b can be formed from a dielectric multilayer film.
  • some examples of the structure of such a filter 112 will be described.
  • FIG. 7 is a cross-sectional view schematically showing an example of the structure of the filter 112 in which each of the first reflective layer 28a and the second reflective layer 28b is formed of a dielectric multilayer film.
  • the filter 112 in this example is provided on the substrate 80.
  • Each of the first reflective layer 28a and the second reflective layer 28b has a structure in which a plurality of low refractive index layers 27l and a plurality of high refractive index layers 27h are alternately laminated.
  • Each of the plurality of low refractive index layers 27 l has a refractive index n l
  • each of the plurality of high refractive index layers 27 h has a refractive index n h higher than the refractive index n l .
  • the low refractive index layer 27l in the first reflective layer 28a and the low refractive index layer 27l in the second reflective layer 28b may have the same refractive index or may have different refractive indexes.
  • the high refractive index layer 27h in the first reflective layer 28a and the high refractive index layer 27h in the second reflective layer 28b may have the same refractive index or different refractive indexes. May be good.
  • the illustrated dielectric multilayer film comprises a plurality of pair layers.
  • Each pair layer includes one low refractive index layer 27l and one high refractive index layer 27h.
  • each of the first reflective layer 28a and the second reflective layer 28b includes five pair layers.
  • the optical length of the high refractive index layer 27h with a thickness t h and the optical length of the low refractive index layer 27l with a thickness t l can be set to ⁇ 0/4.
  • the optical length means a value obtained by multiplying the thickness by the refractive index.
  • FIG. 8 is a diagram schematically showing another example of the filter 112 in which each of the first reflective layer 28a and the second reflective layer 28b is formed of a dielectric multilayer film.
  • the thickness of the high refractive index layer 27h and the thickness of the low refractive index layer 27l are different in each of the first reflective layer 28a and the second reflective layer 28b. Not uniform.
  • at least two of the low refractive index layers 27l have different thicknesses from each other, and at least two of the high refractive index layers 27h have different thicknesses from each other.
  • the optical length of each of the plurality of low refractive index layers 27l is the optical length of the adjacent high refractive index layer 27h forming a pair with the low refractive index layer 27l. be equivalent to.
  • the dielectric multilayer film shown in FIG. 8 can be designed to reflect light in a wavelength range from ⁇ s to ⁇ l included in the target wavelength range W, for example.
  • the wavelength ⁇ s may be the same as or different from the lower limit wavelength ⁇ 1 of the target wavelength region W.
  • the wavelength ⁇ l may be the same as or different from the upper limit wavelength ⁇ 2 of the target wavelength region W.
  • the thickness th (n) of the high refractive index layer 27h and the thickness t l (n) of the low refractive index layer 27l are respectively.
  • the loop 29a represented by a thin line and the loop 29b represented by a thick line schematically represent light having a wavelength ⁇ s and a wavelength ⁇ l confined in the filter 112, respectively. ..
  • Light having a wavelength of ⁇ s is reflected by a pair layer on the incident surface side (that is, the upper side in FIG. 8) of the first reflection layer 28a and a pair layer on the substrate 80 side in the second reflection layer 28b.
  • the light having a wavelength ⁇ l is reflected by the pair layer on the interference layer 26 side in the first reflection layer 28a and the pair layer on the interference layer 26 side in the second reflection layer 28b. In this way, the incident light is reflected by the pair layer corresponding to that wavelength.
  • Each of the high refractive index layer 27h and the low refractive index layer 27l can be formed from, for example, a material having a low absorption rate for light in the target wavelength region W.
  • the material is selected from the group consisting of, for example, SiO 2 , Al 2 O 3 , SiO x N y , Si 3 N 4 , Ta 2 O 5 , and TiO 2 .
  • the material is, for example, in addition to the above-mentioned SiO 2 , Al 2 O 3 , SiO x N y , Si 3 N 4 , Ta 2 O 5 , and TIO 2 .
  • the interference layer 26 can also be formed from any of the above materials. However, the interference layer 26 has a refractive index different from that of the low refractive index layer 27l or the high refractive index layer 27h in contact with the interference layer 26.
  • the interference layer 26 is not limited to a single layer, and may include a plurality of laminated layers. The plurality of layers may be formed from different materials. The refractive indexes of the plurality of layers may differ to such an extent that they do not substantially affect the transmission spectrum of the filter. Reflections can occur at the interface of layers with different indices of refraction. However, each of the plurality of layers can be considered as a part of a substantially uniform interference layer 26 as long as it does not substantially affect the transmission spectrum.
  • the interference layer 26 may be a layer of gas such as air.
  • each filter 112 in the filter array 110 is appropriately designed according to the required performance.
  • the number of pair layers in each reflective layer is not limited to 5, and is determined according to the required performance.
  • the thickness of the layer decreases as the distance from the interference layer 26 increases, but conversely, a structure in which the thickness of the layer increases as the distance from the interference layer 26 increases may be adopted. Further, the thickness of the layer may not monotonically increase or decrease as the distance from the interference layer 26 increases.
  • the first reflective layer 28a and the second reflective layer 28b are provided on both sides of the interference layer 26, but the reflective layer may be provided only on one side of the interference layer 26. .. In that case, one surface of the interference layer 26 may be exposed to an external medium such as air. Even with such a configuration, since reflection occurs at the interface between the interference layer 26 and the external medium, resonance can be generated in the interference layer 26. According to the configuration in which the reflection layer is provided only on one side of the interference layer 26, the loss of the amount of light can be suppressed.
  • a filter array 110 including a plurality of filters having different spectral transmittances is used.
  • a highly random distribution such as the above-mentioned random distribution or quasi-random distribution can be selected.
  • a hyperspectral image can be estimated using the matrix H determined by the spatial distribution of spectral transmittance.
  • the filter array 110 can be realized by using a plurality of interference filters that change the reflectance of light for each wavelength by utilizing the interference phenomenon of light as described above.
  • the interference filter for example, a filter having a Fabry-Perot resonator structure as described above can be used.
  • a filter having a structure using a diffraction grating as disclosed in Patent Document 3 or a structure using surface plasmon resonance as disclosed in Patent Document 4 can be used.
  • the filter array 110 When the filter array 110 is configured by a plurality of interference filters, the error of the restored hyperspectral image increases as the target wavelength range, that is, the operating wavelength range of the imaging system expands. This is because the low-order mode on the long wavelength side and the high-order mode on the short wavelength side of the target wavelength range occur in the same structure and interfere with each other. When the low-order mode on the long wavelength side and the high-order mode on the short wavelength side occur in the same structure in the interference filter and interfere with each other, the randomness of the light transmittance of the filter array 110 with respect to space and wavelength is reduced. As a result, the randomness of the value of the matrix H used in the restoration operation is reduced, and the error of the restored hyperspectral image is increased.
  • the above-mentioned problems will be described in more detail by taking a filter having a Fabry-Perot resonator structure as an example.
  • the Fabry-Pérot resonator has a structure in which both sides of an interference layer that interferes with light are sandwiched between reflection layers that reflect light in the target wavelength range at a constant rate.
  • the Fabry-Perot resonator has a property of preferentially transmitting light having a wavelength corresponding to the thickness of the interference layer.
  • Each reflective layer can be formed, for example, from a dielectric multilayer film that functions as a distributed Bragg reflector (DBR). In that case, the wavelength of the reflected light is determined by the index of refraction and the thickness of each layer in the DBR.
  • DBR distributed Bragg reflector
  • each layer of the DBR may also function as an interference layer.
  • the condition under which the mode of light is generated in a layer having a DBR depends on the thickness t and the refractive index n of the layer.
  • the layer functions as an interference layer, and a mode of light having a wavelength of ⁇ j is formed inside the layer.
  • the wavelength at the short wavelength end of the target wavelength region W is ⁇ 1
  • the wavelength at the long wavelength end is ⁇ 2 .
  • ⁇ 2 is greater than twice ⁇ 1 , that is, if ⁇ 2 > 2 ⁇ 1
  • a mode of light with a wavelength of ⁇ k that satisfies ⁇ 2/2 occurs.
  • the fact that the mode of light occurs in the DBR means that the low-order mode on the long wavelength side of the operating wavelength range and the high-order mode on the short wavelength side of the operating wavelength range occur in the same structure and interfere with each other. It means that.
  • the obtained transmission spectrum has a wavelength with low transmittance randomness on the short wavelength side of the target wavelength region W.
  • FIG. 9A is a diagram showing an example of transmission spectra of eight types of filters included in the filter array 110.
  • FIG. 9B is an enlarged view showing the transmission spectrum in the wavelength range of 400 nm to 600 nm in FIG. 9A.
  • the target wavelength region W that is, the operating wavelength region is set in a relatively wide range of 400 nm to 1600 nm.
  • Each filter has a Fabry-Perot resonator structure in which the above-mentioned DBR is used for each reflective layer. By adjusting the structure of the interference layer and DBR for each filter, the transmission spectrum shown in the figure was obtained.
  • the target wavelength range W is wide as in this example, a mode of light is generated in the DBR of each filter, and the difference in transmittance between the filters becomes small on the short wavelength side of the target wavelength range W. As a result, the randomness of the transmittance is greatly reduced, especially on the short wavelength side. For example, at the wavelength indicated by the arrow in FIG. 9B, all eight types of filters have the same transmittance. Such a decrease in the randomness of the transmittance of the filter array 110 is directly linked to an increase in the estimation error of the hyperspectral image.
  • FIG. 10 is a diagram showing an example of an error in an estimation operation of a hyperspectral image performed using a filter array including a plurality of filters having a transmission spectrum shown in FIG. 9A.
  • the spectrum shown in the portion (a) of FIG. 10 is the same as the spectrum shown in FIG. 9A.
  • Part (b) of FIG. 10 is for each of a total of 40 wavelength bands obtained by dividing each of the wavelength range of 400 nm to 600 nm and the wavelength range of 1400 nm to 1600 nm in the part (a) of FIG. 10 into 20 equal parts.
  • An example of the estimation error of is shown.
  • the wavelength bands are numbered from the shortest wavelength to the 20th wavelength band for each of the wavelength range of 400 nm to 600 nm and the wavelength range of 1400 nm to 1600 nm.
  • the estimation error of each wavelength band was evaluated by the mean square error (Mean Squared Error) between the estimated image and the correct image.
  • MSE is a value obtained by dividing the sum of the squares of the errors of each pixel between the estimated image and the correct image by the number of pixels.
  • the calculation result of MSE is affected by the number of bits of the image to be acquired / restored.
  • the image is acquired with 8 bits, that is, 256 gradations, and the estimated image is also generated with 8 bits. As shown in FIG.
  • the estimation error of the hyperspectral image becomes large on the short wavelength side with low randomness.
  • the hyperspectral image can be estimated with a small error on the long wavelength side with high randomness.
  • the estimation error of the hyperspectral image is It is represented by.
  • MSE 100
  • ⁇ 100 10
  • the estimation error of the hyperspectral image is about 4% from the above equation. It was confirmed that the error was within 1 to 2% on the long wavelength side, while the error was more than 10% on the short wavelength side. From the above equation, a 2% estimation error corresponds to about 26 MSEs and a 10% estimation error corresponds to about 655 MSEs.
  • the estimation error of the hyperspectral image tends to be large especially in the wavelength range on the short wavelength side.
  • This problem can also occur when a multimode filter having a structure different from the Fabry-Perot resonator structure using the DBR as the reflective layer is used.
  • the above problems can also occur when using other types of multimode filters that utilize light interference, such as filters that use diffraction gratings or filters that use the surface plasmon effect. That is, in the multimode filter, when ⁇ 2 > 2 ⁇ 1 is satisfied, the randomness of the transmittance decreases on the short wavelength side of the target wavelength region W, and the estimation error of the hyperspectral image increases.
  • the present inventors have found the above problems and examined the configuration of a new filter array to solve these problems.
  • the above problem can be solved by adopting a filter configuration in which a band limiting filter that limits the transmission of light in a part of the wavelength range is superimposed in addition to the multimode filter.
  • a filter configuration in which a band limiting filter that limits the transmission of light in a part of the wavelength range is superimposed in addition to the multimode filter.
  • the randomness of the transmittance can be maintained high over a wide wavelength range, and the operating wavelength range can be expanded.
  • a configuration example of such a filter array will be specifically described.
  • FIG. 11 is a diagram schematically showing a part of the configuration of the filter array 110 in a certain embodiment.
  • the filter array 110 includes a plurality of optical filters that are two-dimensionally arranged and have different transmission spectra.
  • FIG. 11 schematically shows the cross sections of two adjacent filters out of the filters 112. Hereinafter, these two filters will be referred to as a first filter 112a and a second filter 112b.
  • the first filter 112a includes a first multimode filter 113a and a first band limiting filter 114a.
  • the first multimode filter 113a has a plurality of first peak wavelengths having a maximum light transmittance in the target wavelength region W.
  • the first band limiting filter 114a is arranged so as to overlap the first multimode filter 113a.
  • "overlapping" of two filters means that they are in a positional relationship of at least partially overlapping when viewed from the normal direction of the filters. Another member may be interposed between the two filters.
  • the limited band of the first band limiting filter 114a is the first sub wavelength region which is a part of the target wavelength region W.
  • the first multimode filter 113a is arranged on the optical path of the transmitted light transmitted through the first band limiting filter 114a.
  • the first band limiting filter 114a may be arranged on the optical path of the transmitted light transmitted through the first multimode filter 113a.
  • the second filter 112b includes a second multimode filter 113b and a second band limiting filter 114b.
  • the second multimode filter 113b has a plurality of second peak wavelengths having a maximum light transmittance in the target wavelength region W.
  • the combination of the plurality of second peak wavelengths is different from the combination of the plurality of first peak wavelengths. That is, at least one of the plurality of second peak wavelengths is different from the plurality of first peak wavelengths.
  • the second band limiting filter 114b is arranged so as to overlap the second multimode filter 113b.
  • the second band limiting filter 114b limits the transmission of light in the second sub-wavelength region, which is a part of the target wavelength region W.
  • the second sub-wavelength region is different from the first sub-wavelength region.
  • the second sub-wavelength region and the first sub-wavelength region may partially overlap.
  • the second multimode filter 113b is arranged on the optical path of the transmitted light transmitted through the second band limiting filter 114b.
  • the second band limiting filter 114b may be arranged on the optical path of the transmitted light transmitted through the second multimode filter 113b.
  • FIG. 12 is a diagram showing an example of transmission spectra of the first multimode filter 113a and the second multimode filter 113b.
  • Part (a) of FIG. 12 shows an example of the transmission spectrum of the first multimode filter 113a.
  • Part (b) of FIG. 12 shows an example of the transmission spectrum of the second multimode filter 113b.
  • each of the first multimode filter 113a and the second multimode filter 113b has a plurality of peak wavelengths having a maximum transmittance in a plurality of wavelength bands included in the target wavelength region W. ..
  • a part of the peak wavelength of the first multimode filter 113a may overlap with the peak wavelength of the second multimode filter 113b, but they do not completely match.
  • Each of the first multimode filter 113a and the second multimode filter 113b can be, for example, an interference filter having the above-mentioned Fabry-Perot resonator structure.
  • an interference filter having the above-mentioned Fabry-Perot resonator structure.
  • a first band limiting filter 114a and a second band limiting filter 114b are provided.
  • the first band limiting filter 114a and the second band limiting filter 114b limit the transmission of light in a part of the target wavelength range W.
  • “restricting the transmission of light” for a certain wavelength range does not mean completely limiting the light in that wavelength range.
  • “restricting the transmission of light” for a certain wavelength range means limiting the transmittance of light in that wavelength range to at least 80% or less.
  • the band in which the light transmittance is 80% or less is referred to as a "restricted band" for each filter.
  • FIG. 13 is a diagram showing an example of transmission spectra of the first band limiting filter 114a and the second band limiting filter 114b. Part (a) of FIG. 13 shows an example of the transmission spectrum of the first band limiting filter 114a. Part (b) of FIG. 13 shows an example of the transmission spectrum of the second band limiting filter 114b.
  • Each of the first band limiting filter 114a and the second band limiting filter 114b has a limited band Ws having a relatively low transmittance and a pass band (pass-band) having a relatively high transmittance within the target wavelength range W. Have in. Of the target wavelength range W, the wavelength range other than the limiting band Ws is the pass band.
  • the filter array 110 may include other filters having a similar structure.
  • the plurality of optical filters in the filter array 110 may further include a third filter in addition to the first filter 112a and the second filter 112b described above.
  • the third filter may include a third multimode filter and a third bandwidth limiting filter.
  • the third multimode filter has a plurality of third peak wavelengths having a maximum light transmittance in the target wavelength range.
  • the combination of the plurality of third peak wavelengths may be designed to be different from any of the above-mentioned combination of the plurality of first peak wavelengths and the combination of the plurality of second peak wavelengths.
  • the plurality of third peak wavelengths may include peak wavelengths ⁇ 1 and ⁇ 2, the peak wavelength ⁇ 1 may be different from the plurality of first peak wavelengths, and the peak wavelength ⁇ 2 may be different from the plurality of second peak wavelengths.
  • the third band limiting filter may be arranged so as to overlap the third multimode filter.
  • the limited band of the third band limiting filter is the third sub wavelength range which is a part of the target wavelength range.
  • the third sub-wavelength region may be designed to be different from both the first sub-wavelength region and the second sub-wavelength region.
  • the third sub-wavelength region and the first sub-wavelength region may partially overlap.
  • the third sub-wavelength region and the second sub-wavelength region may partially overlap.
  • the filter array 110 may include three or more types of band limiting filters having different limiting bands. Further, a plurality of band limiting filters having the same characteristics may be arranged so as to overlap each other of a plurality of multimode filters having different transmission spectra. All the filters in the filter array 110 may have a laminated structure of a multimode filter and a band limiting filter, or only some filters may have such a laminated structure.
  • the filter array 110 may include a filter without a band limiting filter, that is, a filter containing only a multimode filter.
  • the plurality of filters in the filter array 110 may further include a fourth filter having a structure different from that of the first to third filters described above.
  • the fourth filter has a plurality of fourth peak wavelengths having a maximum light transmittance in the target wavelength range.
  • the combination of the plurality of fourth peak wavelengths may be designed to be different from any of the above-mentioned combinations of the first to third peak wavelengths. That is, at least one of the plurality of fourth peak wavelengths is different from the plurality of first peak wavelengths, and at least one of the plurality of fourth peak wavelengths is different from the plurality of second peak wavelengths. At least one of the peak wavelengths differs from the plurality of third peak wavelengths.
  • a plurality of fourth peak wavelengths include peak wavelengths ⁇ 1, ⁇ 2, and ⁇ 3, a peak wavelength ⁇ 1 is different from a plurality of first peak wavelengths, a peak wavelength ⁇ 2 is different from a plurality of second peak wavelengths, and a plurality of peak wavelengths ⁇ 3 are present. It may be different from the third peak wavelength of.
  • multimode filter 113 it may be referred to as “multimode filter 113" without distinguishing between individual multimode filters.
  • the individual bandwidth limiting filters may be referred to as the “bandwidth limiting filter 114" without distinction.
  • Each band limiting filter 114 may be configured using, for example, a dielectric multilayer film, an organic material, a diffraction grating structure, and a microstructure containing at least one of the metals.
  • the constituent materials of the multimode filter 113 and the band limiting filter 114 may be the same or different.
  • Each band limiting filter 114 may be, for example, a color filter that selectively transmits light of a specific color. Alternatively, it may be a filter with a dielectric multilayer film such as DBR that selectively transmits light in a specific wavelength range.
  • each multimode filter 113 and the corresponding band limiting filter 114 are laminated with each other without interposing other members in between.
  • another layer or member may be interposed between the multimode filter 113 and the band limiting filter 114.
  • an optical member that causes light reflection or refraction may be arranged between the multimode filter 113 and the band limiting filter 114. In that case, the multimode filter 113 and the band limiting filter 114 can be arranged so as not to overlap each other.
  • FIG. 14 is a schematic cross-sectional view showing another example of the filter array 110.
  • the filter array 110 includes a substrate 80, a plurality of multimode filters 113 laminated on the substrate 80, and a plurality of band limiting filters 114.
  • the filter array 110 includes four types of multimode filters 113 having different combinations of peak wavelengths and four types of band limiting filters 114 having different limiting bands.
  • the incident light in this example is incident from the upper side of FIG. 14, passes through both the band limiting filter 114 and the multimode filter 113, further passes through the substrate 80, and is received by the photodetection element of the image sensor on the same optical axis. Will be done.
  • FIG. 15 is a diagram showing an example of the limited bands W1, W2, W3, and W4 of the four types of band limiting filters 114, respectively.
  • the limiting band and the pass band may differ depending on the band limiting filter 114.
  • the limiting bands of the plurality of band limiting filters 114 may be separated from each other or may overlap each other.
  • each band limiting filter 114 has one limiting band in the target wavelength range, but may have a plurality of limiting bands.
  • 16A and 16B are diagrams showing an example of the arrangement of the band limiting filter 114.
  • four types of band limiting filters 114 are arranged two-dimensionally and regularly.
  • four types of band limiting filters 114 are two-dimensionally randomly arranged. In this way, the plurality of types of band limiting filters 114 having different limiting bands can be arranged in any manner.
  • each band limiting filter 114 covers the entire corresponding multimode filter 113. Not limited to such a structure, each band limiting filter 114 may cover only a part of the corresponding multimode filter 113. Each band limiting filter 114 may have the same dimensions as the multimode filter 113 or may have different dimensions in the direction perpendicular to the optical path of the incident light. In one example, the pair of multimode filter 113 and band limiting filter 114 may be arranged such that light passing through those filters is incident on only one corresponding photodetector in the image sensor. In another example, each of the pairs of the multimode filter 113 and the band limiting filter 114 may be arranged such that the light passing through those filters is incident on the corresponding photodetectors in the image sensor.
  • FIG. 17 is a cross-sectional view showing an example of a more detailed structure of the filter array 110.
  • FIG. 17 shows a portion of the cross-sectional structure of one row or column in the filter array 110.
  • an array of multimode filters 113 and an array of bandwidth limiting filters 114 are laminated on the substrate 80.
  • the multimode filter 113 includes a reflective layer 28 having a DBR structure and an interference layer 26.
  • the band limiting filter 114 in this example has a DBR structure similar to the reflective layer 28.
  • the reflection layer 28, the interference layer 26, and the band limiting filter 114 are laminated in this order on the substrate 80.
  • the stacking order of the multimode filter 113 and the band limiting filter 114 may be reversed from the order shown.
  • the band limiting filter 114 may be arranged on the substrate 80, and the multimode filter 113 may be arranged on the band limiting filter 114. Further, the stacking order of the multimode filter 113 and the band limiting filter 114 may be different depending on the filter. In the example of FIG. 17, the sizes of the multimode filter 113 and the band limiting filter 114 in the direction perpendicular to the optical path of the incident light are the same, but the sizes may be different.
  • the array of band limiting filters 114 includes three types of band limiting filters 114 having different limiting bands, and a portion in which the band limiting filter 114 is not arranged. That is, the filter array 110 includes three types of filters including three types of band limiting filters 114 having different limiting bands, and one type of filter not including the band limiting filter 114. These four types of filters can be arranged two-dimensionally, for example, in the same manner as the four types of filters shown by W1 to W4 in FIG. 16A or FIG. 16B.
  • each multimode filter 113 in this example is provided with a DBR, that is, a reflective layer 28 on only one side. Of the two surfaces of the interference layer 26, the surface on the side where the reflection layer 28 is not provided is in contact with the band limiting filter 114 or air. Even with such a structure, the multimode filter 113 functions as a Fabry-Perot filter, and a good transmission spectrum can be obtained.
  • FIGS. 18A, 18B and 18C are diagrams showing examples of transmission spectra of the first band limiting filter 114a, the second band limiting filter 114b and the third band limiting filter 114c shown in FIG. 17, respectively.
  • the transmission spectrum shown in FIG. 18A has a minimum transmittance at about 500 nm.
  • the transmission spectrum shown in FIG. 18B has a minimum transmittance at approximately 650 nm.
  • the transmission spectrum shown in FIG. 18C has the lowest local minimum at approximately 675 nm.
  • the first band limiting filter 114a, the second band limiting filter 114b, and the third band limiting filter 114c all strongly limit a band having a relatively short wavelength. By providing such three types of band limiting filters, it is possible to increase the randomness of the transmittance especially in the wavelength region of a short wavelength and reduce the estimation error of the hyperspectral image.
  • FIG. 19A shows an example of a transmission spectrum of a filter array without a band limiting filter 114.
  • this filter array eight types of multimode filters 113 having different transmission spectra are two-dimensionally arranged, and a band limiting filter 114 is not provided.
  • FIG. 19A shows an enlarged portion of the spectrum shown in FIG. 9A in the range of 400 nm to 800 nm.
  • FIG. 19B shows an example of the transmission spectrum of the filter array 110 in which one type of band limiting filter 114 is partially arranged in addition to the above eight types of multimode filters 113.
  • the first band limiting filter 114a having the transmission spectrum shown in FIG. 18A was used.
  • the first band limiting filter 114a strongly limits light in the wavelength range around 500 nm. As can be seen from FIG.
  • the transmission spectrum is diversified and the randomness of the transmittance is improved only by adding one type of band limiting filter 114.
  • the peak wavelength shifts as compared with the configuration in which the band limiting filter 114 is not provided. This is because the provision of the band limiting filter 114 has the same effect as substantially increasing the thickness of the interference layer 26.
  • FIG. 19C shows an example of the transmission spectrum of the filter array 110 in which the three types of band limiting filters 114 are arranged in addition to the above eight types of multimode filters 113.
  • the three types of band limiting filters 114 used in this example have transmission spectra shown in FIGS. 18A to 18C, respectively.
  • band limiting filters 114 strongly limit light in the wavelength range near 500 nm, 650 nm, and 675 nm, respectively.
  • FIG. 19C by increasing the types of the band limiting filter 114 to three types, the transmission spectrum becomes more diverse and the randomness of the transmittance is further improved.
  • FIG. 19D is a graph showing the standard deviation of the transmittance of each wavelength of the filter array 110 in each case of FIGS. 19A to 19C. It can be said that the larger the standard deviation of the transmittance, the higher the randomness. Compared with the filter array of FIG. 19A which does not include the band limiting filter 114, it can be seen that the filter array 110 of FIG. 19B has improved transmittance randomness, especially for wavelengths near 500 nm. However, in the configuration of FIG.
  • the band limiting filter 114 in which the limiting band is around 500 nm the effect of improving the randomness of the transmittance in a part of the wavelength range (for example, around 530 nm, 590 nm, 610 nm, 700-800 nm). Is not so big.
  • a plurality of types of band limiting filters 114 are added as in the example of FIG. 19C, it becomes possible to maintain high randomness in a wider wavelength range. From this, it can be seen that the more types of band limiting filters 114 are added, the higher the effect of expanding the operating wavelength range is.
  • FIG. 20A is a diagram showing that the restoration error of the hyperspectral image is reduced by providing the band limiting filter 114.
  • 20A shows 20 included in the wavelength range of 400 nm to 600 nm in the case where the band limiting filter 114 is not arranged (in the case of FIG. 19A) and in the case where the band limiting filter 114 is arranged (in the case of FIG. 19C).
  • the calculation result of the least squares error (MSE) of the restored image generated for each of the wavelength bands is shown.
  • MSE least squares error
  • FIG. 20A by providing the band limiting filter 114, the MSE is greatly reduced in the wavelength range on the short wavelength side. That is, it can be seen that by providing the band limiting filter 114, the randomness of the transmittance is improved in the wavelength region on the short wavelength side, and the estimation error of the hyperspectral image is reduced.
  • 20B shows 20 included in the wavelength range of 1400 nm to 1600 nm in the case where the band limiting filter 114 is not arranged (in the case of FIG. 19A) and the case where the band limiting filter 114 is arranged (in the case of FIG. 19C). It is a figure which shows the calculation result of MSE of the restored image generated for each of the wavelength bands.
  • the estimation error of the hyperspectral image is kept small even when the band limiting filter 114 is provided. From this, it can be seen that by providing the band limiting filter 114, it is possible to acquire a hyperspectral image having a small error over a wide wavelength range from the short wavelength side to the long wavelength side. That is, it can be seen that the operating wavelength range of the hyperspectral image pickup apparatus can be expanded by configuring the filter array 110 using a filter in which the band limiting filter 114 is arranged on the multimode filter 113.
  • the structure of the filter array 110 described above is merely an example, and various modifications can be considered for the structure of the filter array 110. Hereinafter, some modification examples will be described.
  • FIG. 21 is a schematic cross-sectional view showing a modified example of the filter array 110.
  • the multimode filter 113 includes an interference layer 26 and a first reflective layer 28a and a second reflective layer 28b located on both sides thereof.
  • the first reflective layer 28a and the second reflective layer 28b are DBRs. That is, the multimode filter 113 in this example has a structure in which the interference layer 26 is sandwiched between two DBRs on both sides thereof.
  • the DBR constituting the band limiting filter 114 is laminated on the DBR (that is, the first reflective layer 28a) on the upper side of the multimode filter 113.
  • Each of these DBRs has a structure in which low refractive index layers having a relatively low refractive index and high refractive index layers having a relatively high refractive index are alternately laminated.
  • the thickness of the plurality of low refractive index layers is not uniform, and the thickness of the plurality of high refractive index layers is also not uniform.
  • the thickness of the plurality of low refractive index layers is uniform, and the thickness of the plurality of high refractive index layers is also uniform.
  • the DBR of the first reflective layer 28a and the DBR of the band limiting filter 114 can be discriminated based on whether or not the thicknesses of the low refractive index layer and the high refractive index layer are uniform. Further, in each filter, the structure of the DBR of the first reflective layer 28a and the structure of the second reflective layer 28b are in a symmetrical relationship. Therefore, the DBR of the upper first reflection layer 28a in the multimode filter 113 and the DBR of the band limiting filter 114 are based on whether or not they have a structure symmetrical with respect to the DBR of the second reflection layer 28b. It can also be determined. In the example shown in FIG.
  • the number of types of the band limiting filter 114 is smaller than the number of types of the multimode filter 113, and a plurality of band limiting filters 114 having the same structure are within a relatively narrow range in the image sensor 160. It is arranged on each of a plurality of pixels located in. In such a case, the first reflective layer 28a and the band limiting filter 114 can be discriminated based on the identity with the structure of the DBR in the filters on other nearby pixels.
  • FIG. 22 is a schematic cross-sectional view showing an example of the structure of the filter array 110 provided with the spacer layer 90 between the multimode filter 113 and the band limiting filter 114.
  • the spacer layer 90 can be formed of a material having translucency in the target wavelength region W. By providing the spacer layer 90, it becomes easy to fill the step on the surface of the multimode filter 113 and form the band limiting filter 114. Although it is drawn as if a relatively thin spacer layer 90 is provided in FIG. 22, in reality, a spacer layer 90 having a thickness such that resonance does not occur inside the spacer layer 90 can be used. ..
  • a spacer layer may be separately provided to fill the step on the surface of the band limiting filter 114. On such a spacer layer, for example, a microlens array that efficiently focuses incident light on each pixel may be arranged.
  • the first reflective layer 28a and the second reflective layer 28b are provided on both sides of the interference layer 26, but the reflective layer may be provided only on one side of the interference layer 26. .. Alternatively, a filter provided with reflective layers on both sides of the interference layer 26 and a filter provided with a reflective layer on only one side of the interference layer 26 may be mixed. As described above, in each multimode filter 113, the reflective layer may be provided only on one side of the interference layer 26, or the reflective layers may be provided on both sides of the interference layer 26.
  • the positional relationship between the multimode filter 113 and the band limiting filter 114 may be reversed. That is, the band limiting filter 114 may be arranged at a position relatively close to the image sensor, and the multimode filter 113 may be arranged at a position relatively far from the image sensor.
  • the band limiting filter 114 is not limited to the DBR, and may be, for example, a color filter.
  • a color filter for example, an example of the configuration in which the band limiting filter 114 is a color filter will be described.
  • FIG. 23 is a cross-sectional view schematically showing an example of the structure of the filter array 110 including the color filter as the band limiting filter 114. Since the color filter has a property of transmitting or absorbing only light in a specific wavelength range, it can be used as a band limiting filter 114. In the example of FIG. 23, three types of color filters 114R, 114G, and 114B that selectively transmit light in the red, green, and blue wavelength ranges are arranged.
  • the filter array 110 also includes a filter that does not include a color filter. In addition to the red, green, and blue color filters, a color filter that selectively transmits light of other colors such as cyan, magenta, and yellow may be used. As in the example shown in FIG. 23, the color filter does not necessarily have to cover the entire multimode filter 113. That is, a part of the multimode filter 113 does not have to be covered with the color filter.
  • one side of the interference layer 26 is in contact with the reflective layer 28 which is a DBR, but both sides of the interference layer 26 may be in contact with the DBR.
  • the positional relationship between the interference layer 26 and the reflection layer 28 may be reversed. That is, the interference layer 26, the reflection layer 28, and the band limiting filter 114 (that is, the color filter) may be laminated in this order on the substrate 80. Further, from the configuration shown in FIG. 23, the positional relationship between the multimode filter 113 and the band limiting filter 114 may be reversed. That is, the band limiting filter 114 and the multimode filter 113 may be stacked in this order on the substrate 80.
  • FIG. 24 is a diagram showing an example of a structure in which the DBR, that is, the first reflective layer 28a and the second reflective layer 28b are arranged on both sides of the interference layer 26 in the configuration shown in FIG. 23. Even in this structure, the positional relationship between the multimode filter 113 and the band limiting filter 114 may be reversed.
  • FIG. 25 is a diagram showing an example of a structure in which a spacer layer 90 is added between a multimode filter 113 and a band limiting filter 114, that is, a color filter, in addition to the structure shown in FIG. 24.
  • the spacer layer 90 may be made of a material that is substantially transparent in the target wavelength region W.
  • the multimode filter 113 includes a first reflective layer 28a and a second reflective layer 28b on both sides of the interference layer 26. One of the first reflective layer 28a and the second reflective layer 28b may be removed from the structure shown in FIG. 25.
  • the present inventors have obtained a hyperspectral image of a filter array 110 having a plurality of types of band limiting filters 114 having different limiting bands, which are restored when the light transmittance in the limiting band of each band limiting filter 114 is changed.
  • a simulation was performed to confirm how the error changes.
  • 26A-26C show examples of transmission spectra of the filter array 110 used in the simulation. These figures show an example of a transmission spectrum obtained when each of four types of band limiting filters 114 having different limiting bands is placed on top of eight types of multimode filters 113.
  • each multimode filter 113 has an ideal transmission spectrum represented by the Lorentz function.
  • the transmittance in the pass band of each band limiting filter 114 was set to 100%, and the restoration error was evaluated under a plurality of conditions in which the transmittance in the limited band was changed.
  • FIG. 26A shows an example of the transmission spectrum of the filter array 110 including the band limiting filter 114 having a rectangular transmission spectrum having a transmittance of 0% in the limiting band.
  • FIG. 26B shows an example of the transmission spectrum of a filter array 110 including a band limiting filter 114 having a rectangular transmission spectrum with a transmittance of 60% in the limiting band.
  • FIG. 26C shows an example of the transmission spectrum of the filter array 110 having 100% transmittance in the restricted band, that is, without the band limiting filter 114.
  • the filter 1 on which the band limiting filter 114 having a pass band 450-500 nm is superimposed the filter 2 on which the band limiting filter 114 having a pass band 500-550 nm is superimposed, and the pass band 550-600 nm.
  • the transmission spectrum of the filter 3 on which the band limiting filter 114 is superimposed and the filter 4 on which the band limiting filter 114 having a pass band of 600 to 650 nm is superimposed is shown.
  • the filter 112 including the multimode filter 113 and the band limiting filter 114 may have a plurality of peak wavelengths showing maximum values in the target wavelength region W.
  • the transmitted light transmitted through the multimode filter 113 and the band limiting filter 114 has at least two peak wavelengths, and each of the photodetection elements 162 included in the image sensor 160 has transmitted light having at least two peak wavelengths. Can be detected.
  • FIG. 27 is a graph showing the relationship between the mean value of the mean square error (MSE) between the estimated image and the correct image for each of the 20 wavelength bands and the transmittance in the restricted band.
  • MSE mean square error
  • the transmittance of the band limiting filter 114 in the restricted band is 10 to 80% of the transmittance in the pass band.
  • the transmittance of each band limiting filter 114 in the limited band is constant regardless of the wavelength, but in general, the transmittance can vary depending on the wavelength within the limited band.
  • the restoration error can be reduced by setting the average value of the transmittance in the limited band within the range of 10 to 80% of the maximum value of the transmittance in the target wavelength region W.
  • the average value of the transmittance in the limited band can be calculated, for example, by averaging the transmittances of a plurality of wavelength bands included in the limited band.
  • the band limiting filter 114 as shown in FIG. 26A or FIG. 27 has a limiting band having a transmittance of 0%.
  • the light transmitted through both the multimode filter 113 and the band limiting filter 114 may have only one peak in the target wavelength range.
  • the signal output from the image sensor corresponds to the signal output when the single mode filter is used.
  • the multimode filter 113 has a plurality of peaks in the target wavelength range other than the limited band, or the transmittance of the band limiting filter 114 in the limited band is not 0% but a significant value (as an example). It can be avoided by satisfying any one of having a transmittance (value of 10% or more). That is, each of the photodetection elements 162 included in the image sensor 160 can output a signal corresponding to light having a plurality of peak wavelengths.
  • the filter array according to the exemplary embodiment of the present disclosure includes a plurality of two-dimensionally arranged optical filters.
  • the plurality of optical filters include a first filter and a second filter.
  • the first filter includes a first multimode filter having a plurality of first peak wavelengths having a maximum light transmittance in the target wavelength range, and a first sub-wavelength range that is a part of the target wavelength range. Includes a first band limiting filter that limits transmission.
  • the second filter is a second multimode filter having a plurality of second peak wavelengths having a maximum light transmittance in the target wavelength range, and at least one of the plurality of second peak wavelengths is.
  • the second multimode filter which is different from the combination of the plurality of first peak wavelengths, and the transmission of light in the second sub-wavelength region, which is a part of the target wavelength region and different from the first sub-wavelength region, are restricted.
  • a second band limiting filter and the like.
  • the filter array can be used, for example, in an imaging system that generates image data (that is, hyperspectral data) of each of a plurality of wavelength bands included in the target wavelength range. According to the above configuration, it becomes easy to improve the randomness of the wavelength distribution and the spatial distribution of the transmittance of the plurality of optical filters included in the filter array. This makes it easy to improve the accuracy of the hyperspectral data generated by the hyperspectral imaging and restoration operations using the filter array.
  • At least a part of the first multimode filter and the first band limiting filter are arranged on the first optical axis, and at least a part of the second multimode filter and the second band limiting filter are on the second optical axis. It may be arranged in.
  • At least a portion of the first multimode filter may overlap with the first band limiting filter, and in plan view, at least a portion of the second multimode filter may be overlapped with the second band limiting filter. It may overlap with the filter.
  • Each of the first multimode filter and the second multimode filter can be, for example, an interference filter.
  • the interference filter By using the interference filter, it becomes easy to realize a multimode filter having a plurality of peak wavelengths in the target wavelength range.
  • each of the first multimode filter and the second multimode filter may include an interference layer and a first reflective layer which is in contact with the interference layer and is a dielectric multilayer film.
  • each of the first multimode filter and the second multimode filter may be in contact with the interference layer and may further include a second reflective layer which is a dielectric multilayer film, and the first multimode filter may be further included.
  • the interference layer may be located between the first reflective layer and the second reflective layer.
  • Each of the first band limiting filter and the second band limiting filter can be, for example, a color filter.
  • each of the first band limiting filter and the second band limiting filter may be a filter including a dielectric multilayer film.
  • the average value of the light transmittance of the first band limiting filter in the first sub wavelength region may be 10% or more and 80% or less of the maximum light transmittance of the first band limiting filter in the target wavelength region.
  • the average value of the light transmittance of the second band limiting filter in the second sub wavelength region is 10% or more and 80% or less of the maximum light transmittance of the second band limiting filter in the target wavelength region.
  • the "mean value of light transmittance" in a certain wavelength region can be calculated, for example, by averaging the measured light transmittances for each of a plurality of wavelength bands included in the wavelength region.
  • the average value of the light transmittance of the first band limiting filter in the first sub wavelength region may be 15% or more and 70% or less of the maximum light transmittance of the first band limiting filter in the target wavelength region.
  • the average value of the light transmittance of the second band limiting filter in the second sub wavelength region is 15% or more and 70% or less of the maximum light transmittance of the second band limiting filter in the target wavelength region.
  • the plurality of optical filters may further include a third filter.
  • the third filter is a third multimode filter having a plurality of third peak wavelengths having a maximum light transmission rate within the target wavelength range, and at least one of the plurality of third peak wavelengths is. Unlike the plurality of first peak wavelengths, at least one of the plurality of third peak wavelengths is a third multimode filter different from the plurality of second peak wavelengths, and a part of the target wavelength range and said to be the first. It may include a third band limiting filter that limits the transmission of light in a third sub wavelength region that is different from both the one sub wavelength region and the second sub wavelength region.
  • the plurality of filters may further include a fourth filter.
  • the fourth filter is a fourth multimode filter having a plurality of fourth peak wavelengths having a maximum light transmittance within the target wavelength range, and at least one of the plurality of fourth peak wavelengths is. Unlike the plurality of first peak wavelengths, at least one of the plurality of fourth peak wavelengths may include a fourth multimode filter different from the plurality of second peak wavelengths.
  • the fourth filter may or may not include a band limiting filter.
  • the plurality of filters may include four or more types of filters having different wavelength dependences of transmittance. At least some of those filters may include bandwidth limiting filters in addition to multimode filters. By mixing many types of filters having different transmission spectra of the multimode filter and the limitation band of the band limitation filter, the diversity of the transmission spectrum of the filter array can be improved and the restoration error can be reduced.
  • the first transmitted light transmitted through the first multimode filter and the first band limiting filter has at least two peak wavelengths in the target wavelength range, and the second multimode filter and the second band limiting filter.
  • the second transmitted light transmitted through the light may have at least two peak wavelengths in the target wavelength region.
  • At least two of the plurality of first peak wavelengths are included in a wavelength range different from the first sub-wavelength region, and at least two of the plurality of second peak wavelengths are the second sub-wavelength. It may be included in a wavelength range different from the range.
  • An imaging system is an image sensor that receives light that has passed through any of the above filter arrays and outputs an image signal based on the light, and a target wavelength based on the image signal.
  • a signal processing device that generates a plurality of image data relating to the corresponding wavelength band among the plurality of wavelength bands included in the region may be provided. With such an imaging system, good hyperspectral data can be generated.
  • the technique of the present disclosure is useful, for example, for cameras and measuring devices that acquire multi-wavelength images.
  • the technique of the present disclosure can be applied to, for example, sensing for living organisms / medical / beauty, foreign matter / residual pesticide inspection system for food, remote sensing system and in-vehicle sensing system.

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Optics & Photonics (AREA)
  • Engineering & Computer Science (AREA)
  • Power Engineering (AREA)
  • Electromagnetism (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Spectrometry And Color Measurement (AREA)

Abstract

フィルタアレイは、2次元的に配列された複数の光学フィルタを含む。前記複数の光学フィルタは、第1フィルタと第2フィルタとを含む。前記第1フィルタは、光透過率が極大値を示す複数の第1ピーク波長を対象波長域内に有する第1マルチモードフィルタと、前記対象波長域の一部である第1サブ波長域が制限帯域である第1帯域制限フィルタと、を含む。前記第2フィルタは、光透過率が極大値を示す複数の第2ピーク波長を前記対象波長域内に有し、前記複数の第2ピーク波長のうち少なくとも1つは前記複数の第1ピーク波長と異なる第2マルチモードフィルタと、前記対象波長域の一部であって前記第1サブ波長域とは異なる第2サブ波長域における光の透過を制限する第2帯域制限フィルタとを含む。

Description

フィルタアレイおよび撮像システム
 本開示は、フィルタアレイおよび撮像システムに関する。
 各々が狭帯域である多数のバンド、例えば数十バンドのスペクトル情報を活用することにより、従来のRGB画像では不可能であった対象物の詳細な物性の把握が可能になる。このような多波長の情報を取得するカメラは、「ハイパースペクトルカメラ」と呼ばれる。ハイパースペクトルカメラは、食品検査、生体検査、医薬品開発、および鉱物の成分分析などの様々な分野で利用されている。
 特許文献1は、圧縮センシングを利用したハイパースペクトル撮像装置の例を開示している。当該撮像装置は、光透過率の波長依存性が互いに異なる複数の光学フィルタのアレイである符号化素子と、符号化素子を透過した光を検出するイメージセンサと、信号処理回路とを備える。被写体とイメージセンサとを結ぶ光路上に、符号化素子が配置される。イメージセンサは、画素ごとに、複数の波長バンドの成分が重畳された光を同時に検出することにより、1つの波長多重画像を取得する。信号処理回路は、符号化素子の分光透過率(spectral transmittance)の空間分布の情報を利用して、取得された波長多重画像に圧縮センシングを適用することにより、複数の波長バンドのそれぞれについての画像データを生成する。特許文献1に開示された撮像装置においては、符号化素子として、対象波長域内で2つ以上の透過率のピーク(すなわち極大値)をもつフィルタアレイが用いられる。
 特許文献2は、誘電体多層膜を各反射層に用いたファブリ・ペロー共振器を備えるフィルタアレイの例を開示している。特許文献3は、回折格子を用いた光学フィルタの構造を開示している。特許文献4は、表面プラズモン共鳴を利用した光学フィルタの構造を開示している。
米国特許第9599511号明細書 米国特許第9466628号明細書 特開2008-070427号公報 特開2010-008990号公報
 本開示は、従来よりも広い波長域にわたって誤差の小さいハイパースペクトル情報を取得するための技術を提供する。
 本開示の一態様に係るフィルタアレイは、2次元的に配列された複数の光学フィルタを備える。前記複数の光学フィルタは、第1フィルタと第2フィルタとを含む。前記第1フィルタは、光透過率が極大値を示す複数の第1ピーク波長を対象波長域内に有する第1マルチモードフィルタと、前記対象波長域の一部である第1サブ波長域における光の透過を制限する第1帯域制限フィルタと、を含む。前記第2フィルタは、光透過率が極大値を示す複数の第2ピーク波長を前記対象波長域内に有し、前記複数の第2ピーク波長のうち少なくとも1つは、前記複数の第1ピーク波長と異なる、第2マルチモードフィルタと、前記対象波長域の一部であって前記第1サブ波長域とは異なる第2サブ波長域における光の透過を制限する第2帯域制限フィルタと、を含む。
 本開示の包括的または具体的な態様は、システム、装置、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能な記録ディスク等の記録媒体で実現されてもよく、システム、装置、方法、集積回路、コンピュータプログラムおよび記録媒体の任意の組み合わせで実現されてもよい。コンピュータ読み取り可能な記録媒体は、例えばCD-ROM(Compact Disc‐Read Only Memory)等の不揮発性の記録媒体を含み得る。装置は、1つ以上の装置で構成されてもよい。装置が2つ以上の装置で構成される場合、当該2つ以上の装置は、1つの機器内に配置されてもよく、分離した2つ以上の機器内に分かれて配置されてもよい。本明細書および特許請求の範囲では、「装置」とは、1つの装置を意味し得るだけでなく、複数の装置からなるシステムも意味し得る。
 本開示の一態様によれば、従来よりも広い波長域にわたって誤差の小さいハイパースペクトル情報を取得することが可能になる。
図1Aは、例示的な撮像システムを模式的に示す図である。 図1Bは、撮像システムの他の例を示す図である。 図1Cは、撮像システムのさらに他の例を示す図である。 図1Dは、撮像システムのさらに他の例を示す図である。 図2Aは、フィルタアレイの例を模式的に示す図である。 図2Bは、フィルタアレイにおける、対象波長域に含まれる複数の波長バンドのそれぞれの光の透過率の空間分布の一例を示す図である。 図2Cは、図2Aに示すフィルタアレイに含まれる領域A1の分光透過率の例を示す図である。 図2Dは、図2Aに示すフィルタアレイに含まれる領域A2の分光透過率の例を示す図である。 図3Aは、対象波長域Wと、それに含まれる複数の波長バンドとの関係を説明するための図である。 図3Bは、対象波長域Wと、それに含まれる複数の波長バンドとの関係を説明するための図である。 図4Aは、フィルタアレイのある領域における分光透過率の特性を説明するための図である。 図4Bは、図4Aに示す分光透過率を、波長バンドごとに平均化した結果を示す図である。 図5は、ある例における撮像装置の断面の一部を模式的に示す図である。 図6は、複数の画素における透過スペクトルの例を模式的に示す図である。 図7は、反射層の各々が誘電体多層膜から形成されるフィルタの構造の一例を模式的に示す断面図である。 図8は、反射層の各々が誘電体多層膜から形成されるフィルタの他の例を模式的に示す図である。 図9Aは、フィルタアレイに含まれる8種類のフィルタの透過スペクトルの例を示す図である。 図9Bは、図9Aにおける400nmから600nmの波長域における透過スペクトルを拡大して示す図である。 図10は、ハイパースペクトル画像の推定演算の誤差の例を示す図である。 図11は、フィルタアレイの概略構成を示す図である。 図12は、第1マルチモードフィルタおよび第2マルチモードフィルタの透過スペクトルの例を示す図である。 図13は、第1帯域制限フィルタおよび第2帯域制限フィルタの透過スペクトルの例を示す図である。 図14は、フィルタアレイの他の例を示す模式断面図である。 図15は、4種類の帯域制限フィルタのそれぞれの制限帯域の例を示す図である。 図16Aは、帯域制限フィルタの配置の例を示す図である。 図16Bは、帯域制限フィルタの配置の他の例を示す図である。 図17は、フィルタアレイのより詳細な構造の例を示す断面図である。 図18Aは、帯域制限フィルタの透過スペクトルの例を示す図である。 図18Bは、帯域制限フィルタの透過スペクトルの他の例を示す図である。 図18Cは、帯域制限フィルタの透過スペクトルの他の例を示す図である。 図19Aは、帯域制限フィルタを備えていないフィルタアレイの透過スペクトルの例を示す図である。 図19Bは、1種類の帯域制限フィルタを備えるフィルタアレイの透過スペクトルの例を示す図である。 図19Cは、3種類の帯域制限フィルタを備えるフィルタアレイの透過スペクトルの例を示す図である。 図19Dは、フィルタアレイ110の各波長の透過率の標準偏差を示すグラフである。 図20Aは、バンド毎に復元された画像の最小二乗誤差(MSE)の計算結果を示す図である。 図20Bは、バンド毎に復元された画像の最小二乗誤差(MSE)の計算結果を示す図である。 図21は、フィルタアレイの他の例を示す模式断面図である。 図22は、フィルタアレイのさらに他の例を示す模式断面図である。 図23は、フィルタアレイのさらに他の例を示す模式断面図である。 図24は、フィルタアレイのさらに他の例を示す模式断面図である。 図25は、フィルタアレイのさらに他の例を示す模式断面図である。 図26Aは、制限帯域における透過率が0%の矩形の透過スペクトルをもつ帯域制限フィルタを備えるフィルタアレイの透過スペクトルの例を示す図である。 図26Bは、制限帯域における透過率が60%の矩形の透過スペクトルをもつ帯域制限フィルタを備えるフィルタアレイの透過スペクトルの例を示す図である。 図26Cは、帯域制限フィルタを備えないフィルタアレイの透過スペクトルの例を示す図である。 図27は、推定画像と正解画像との間の平均二乗誤差(MSE)の複数のバンドについての平均値と、制限帯域における透過率との関係の例を示すグラフである。
 以下で説明される実施形態は、いずれも包括的または具体的な例を示すものである。以下の実施形態で示される数値、形状、材料、構成要素、構成要素の配置、位置および接続形態、ステップ、およびステップの順序は、一例であり、本開示の技術を限定する趣旨ではない。以下の実施形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。各図は模式図であり、必ずしも厳密に図示されたものではない。さらに、各図において、実質的に同一または類似の構成要素には同一の符号が付されている。重複する説明は省略または簡略化されることがある。
 本開示において、回路、ユニット、装置、部材または部の全部または一部、またはブロック図における機能ブロックの全部または一部は、例えば、半導体装置、半導体集積回路(IC)、またはLSI(large scale integration)を含む1つまたは複数の電子回路によって実行され得る。LSIまたはICは、1つのチップに集積されてもよいし、複数のチップを組み合わせて構成されてもよい。例えば、記憶素子以外の機能ブロックは、1つのチップに集積されてもよい。ここでは、LSIまたはICと呼んでいるが、集積の度合いによって呼び方が変わり、システムLSI、VLSI(very large scale integration)、もしくはULSI(ultra large scale integration)と呼ばれるものであってもよい。LSIの製造後にプログラムされる、Field Programmable Gate Array(FPGA)、またはLSI内部の接合関係の再構成またはLSI内部の回路区画のセットアップができるreconfigurable logic deviceも同じ目的で使うことができる。
 さらに、回路、ユニット、装置、部材または部の全部または一部の機能または動作は、ソフトウェア処理によって実行することが可能である。この場合、ソフトウェアは、1つまたは複数のROM、光学ディスク、ハードディスクドライブなどの非一時的記録媒体に記録され、ソフトウェアが処理装置(processor)によって実行されたときに、そのソフトウェアで特定された機能が処理装置および周辺装置によって実行される。システムまたは装置は、ソフトウェアが記録されている1つまたは複数の非一時的記録媒体、処理装置、および必要とされるハードウェアデバイス、例えばインターフェースを備えていてもよい。
 (実施形態)
 以下、本開示の実施形態に係る撮像システムの構成例を説明する。
 <撮像システム>
 図1Aは、例示的なハイパースペクトル撮像システムを模式的に示す図である。このシステムは、撮像装置100と、信号処理装置200とを備える。撮像装置100は、特許文献1に開示された撮像装置と同様の構成を備える。撮像装置100は、光学系140と、フィルタアレイ110と、イメージセンサ160とを備える。フィルタアレイ110は、特許文献1に開示されている「符号化素子」と同様の構造および機能を有する。光学系140およびフィルタアレイ110は、被写体である対象物70から入射する光の光路上に配置されている。フィルタアレイ110は、光学系140とイメージセンサ160との間に配置される。
 図1Aには、対象物70の一例として、リンゴが例示されている。対象物70は、リンゴに限らず、任意の物体であり得る。イメージセンサ160は、複数の波長バンドの情報が2次元のモノクロ画像として圧縮された圧縮画像120のデータを生成する。信号処理装置200は、イメージセンサ160が生成した圧縮画像120のデータに基づいて、予め設定されたある波長域(以下、「対象波長域」と称する。)に含まれる複数の波長バンドのそれぞれについての画像データを生成する。この生成される複数の波長バンドの画像データを、本明細書において「ハイパースペクトル画像データ」と称する。ここで、対象波長域に含まれる波長バンドの数をN(Nは4以上の整数)とする。以下の説明において、生成される複数の波長バンドの画像データを、ハイパースペクトル画像220W、220W、220W、・・・、220Wと称し、これらをハイパースペクトル画像220と総称することがある。本明細書において、画像を示す信号、すなわち、各画素の画素値を表す信号の集合を、単に「画像」と称することがある。
 フィルタアレイ110は、行および列状に配列された透光性を有する複数のフィルタのアレイである。複数のフィルタは、分光透過率、すなわち光透過率の波長依存性が互いに異なる複数種類のフィルタを含む。フィルタアレイ110は、入射光の強度を波長ごとに変調して出力する。フィルタアレイ110によるこの過程を、本明細書において「符号化」と称する。
 図1Aに示すように、フィルタアレイ110は、イメージセンサ160の近傍または直上に配置され得る。ここで「近傍」とは、光学系140からの光の像がある程度鮮明な状態でフィルタアレイ110の面上に形成される程度に近接していることを意味する。「直上」とは、ほとんど隙間が生じない程両者が近接していることを意味する。フィルタアレイ110およびイメージセンサ160は一体化されていてもよい。
 光学系140は、少なくとも1つのレンズを含む。図1Aでは、光学系140が1つのレンズとして示されているが、光学系140は複数のレンズの組み合わせであってもよい。光学系140は、フィルタアレイ110を介して、イメージセンサ160の撮像面上に像を形成する。
 フィルタアレイ110は、イメージセンサ160から離れて配置されていてもよい。図1Bから図1Dは、フィルタアレイ110がイメージセンサ160から離れて配置されている撮像装置100の構成例を示す図である。図1Bの例では、フィルタアレイ110が、光学系140とイメージセンサ160との間で且つイメージセンサ160から離れた位置に配置されている。図1Cの例では、フィルタアレイ110が対象物70と光学系140との間に配置されている。図1Dの例では、撮像装置100が2つの光学系140Aおよび140Bを備え、それらの間にフィルタアレイ110が配置されている。これらの例のように、フィルタアレイ110とイメージセンサ160との間に1つ以上のレンズを含む光学系が配置されていてもよい。
 イメージセンサ160は、2次元的に配列された複数の光検出素子(本明細書において、「画素」とも呼ぶ。)を有するモノクロタイプの光検出器である。イメージセンサ160は、例えばCCD(Charge-Coupled Device)、CMOS(Complementary Metal Oxide Semiconductor)センサ、または赤外線アレイセンサであり得る。用途によっては、テラヘルツアレイセンサ、またはミリ波アレイセンサを用いてもよい。光検出素子は、例えばフォトダイオードを含む。イメージセンサ160は、必ずしもモノクロタイプのセンサである必要はない。例えば、R/G/B、R/G/B/IR、またはR/G/B/Wのフィルタを有するカラータイプのセンサを用いてもよい。カラータイプのセンサを使用することで、波長に関する情報量を増やすことができ、ハイパースペクトル画像220の再構成の精度を向上させることができる。取得対象の波長範囲は任意に決定してよく、可視の波長範囲に限らず、紫外、近赤外、中赤外、遠赤外、マイクロ波・電波の波長範囲であってもよい。
 信号処理装置200は、プロセッサと、メモリ等の記憶媒体とを備えるコンピュータである。信号処理装置200は、有線または無線によって撮像装置100に接続され得る。信号処理装置200は、イメージセンサ160によって取得された圧縮画像120に基づいて、複数の波長バンドの情報をそれぞれ含む複数のハイパースペクトル画像220W、220W、220W、・・・220Wのデータを生成する。信号処理装置200による処理の詳細については後述する。なお、信号処理装置200は、撮像装置100に組み込まれていてもよい。信号処理装置200は、例えばインターネットなどのネットワークを介して撮像装置100に接続されていてもよい。
 <フィルタアレイ>
 図2Aは、フィルタアレイ110の例を模式的に示す図である。フィルタアレイ110は、2次元的に配列された複数の領域を有する。本明細書では、当該領域を、「セル」と称することがある。各領域には、個別に設定された分光透過率を有する光学フィルタが配置されている。分光透過率は、入射光の波長をλとして、関数T(λ)で表される。分光透過率T(λ)は、0以上1以下の値を取り得る。
 図2Aに示す例では、フィルタアレイ110は、6行8列に配列された48個の矩形領域を有する。これはあくまで例示であり、実際の用途では、これよりも多くの領域が設けられ得る。その数は、例えばイメージセンサ160の画素数と同程度であってもよい。フィルタアレイ110に含まれるフィルタ数は、例えば数十から数千万の範囲で用途に応じて決定される。
 図2Bは、フィルタアレイ110における、対象波長域に含まれる複数の波長バンドW、W、・・・、Wのそれぞれの光の透過率の空間分布の一例を示す図である。図2Bに示す例では、各領域の濃淡の違いは、透過率の違いを表している。淡い領域ほど透過率が高く、濃い領域ほど透過率が低い。図2Bに示すように、波長バンドによって透過率の空間分布が異なっている。
 図2Cおよび図2Dは、それぞれ、図2Aに示すフィルタアレイ110に含まれる領域A1および領域A2の分光透過率の例を示す図である。領域A1の分光透過率と領域A2の分光透過率とは、互いに異なる。このように、フィルタアレイ110の分光透過率は、領域によって異なる。ただし、必ずしもすべての領域の分光透過率が異なっている必要はない。フィルタアレイ110では、複数の領域の少なくとも一部の領域の分光透過率が互いに異なっている。フィルタアレイ110は、分光透過率が互いに異なる2つ以上のフィルタを含む。ある例では、フィルタアレイ110に含まれる複数の領域の分光透過率のパターンの数は、対象波長域に含まれる波長バンドの数Nと同じか、それ以上であり得る。フィルタアレイ110は、半数以上の領域の分光透過率が異なるように設計されていてもよい。
 図3Aおよび図3Bは、対象波長域Wと、それに含まれる複数の波長バンドW、W、・・・、Wとの関係を説明するための図である。対象波長域Wは、用途によって様々な範囲に設定され得る。対象波長域Wは、例えば、約400nmから約700nmの可視光の波長域、約700nmから約2500nmの近赤外線の波長域、または約10nmから約400nmの近紫外線の波長域であり得る。あるいは、対象波長域Wは、中赤外、遠赤外、テラヘルツ波、またはミリ波などの電波域であってもよい。このように、使用される波長域は可視光域とは限らない。本明細書では、可視光に限らず、近紫外線、近赤外線、および電波などの非可視光も便宜上「光」と称する。以下の説明において、対象波長域Wのうちの最短波長をλ、最長波長をλとする。
 図3Aに示す例では、Nを4以上の任意の整数として、対象波長域WをN等分したそれぞれの波長域を波長バンドW、W、・・・、Wとしている。ただしこのような例に限定されない。対象波長域Wに含まれる複数の波長バンドは任意に設定してもよい。例えば、波長バンドによって帯域幅を不均一にしてもよい。隣接する波長バンドの間にギャップまたは重なりがあってもよい。図3Bに示す例では、波長バンドによって帯域幅が異なり、且つ隣接する2つの波長バンドの間にギャップがある。このように、複数の波長バンドは、互いに異なっていればよく、その決め方は任意である。
 図4Aは、フィルタアレイ110のある領域における分光透過率の特性を説明するための図である。図4Aに示す例では、分光透過率は、対象波長域W内の波長に関して、複数の極大値P1からP5、および複数の極小値を有する。図4Aに示す例では、対象波長域W内で光透過率の最大値が1、最小値が0になるように正規化されている。図4Aに示す例では、波長バンドW、および波長バンドWN-1などの波長域において、分光透過率が極大値を有している。このように、各領域の分光透過率は、複数の波長バンドWからWのうち、少なくとも2つの複数の波長域において極大値を有する。図4Aの例では、極大値P1、P3、P4およびP5は0.5以上である。
 以上のように、各領域の光透過率は、波長によって異なる。したがって、フィルタアレイ110における各領域は、入射する光のうち、ある波長域の成分を多く透過させ、他の波長域の成分をそれほど透過させない。例えば、N個の波長バンドのうちのk個の波長バンドの光については、透過率が0.5よりも大きく、残りのN-k個の波長域の光については、透過率が0.5未満であり得る。kは、2≦k<Nを満たす整数である。仮に入射光が、すべての可視光の波長成分を均等に含む白色光であった場合には、フィルタアレイ110は、入射光を領域ごとに、波長に関して離散的な複数の強度のピークを有する光に変調し、これらの多波長の光を重畳してイメージセンサ160に入射させる。
 図4Bは、一例として、図4Aに示す分光透過率を、波長バンドW、W、・・・、Wごとに平均化した結果を示す図である。平均化された透過率は、分光透過率T(λ)を波長バンドごとに積分してその波長バンドの帯域幅で除算することによって得られる。本明細書では、このように波長バンドごとに平均化した透過率の値を、その波長バンドにおける透過率とする。この例では、極大値P1、P3およびP5をとる3つの波長域において、透過率が突出して高くなっている。特に、極大値P3およびP5をとる2つの波長域において、透過率が0.8を超えている。
 フィルタアレイ110における各フィルタの透過スペクトルの波長方向の分解能は、所望の波長バンドの帯域幅程度に設定され得る。例えば、透過スペクトル曲線における1つの極大値を含む波長範囲のうち、当該極大値に最も近接する極小値と当該極大値との平均値以上の値をとる範囲の幅は、所望の波長バンドの帯域幅程度に設定され得る。この場合、透過スペクトルを、例えばフーリエ変換によって周波数成分に分解すれば、その波長域に相当する周波数成分の値が相対的に大きくなる。
 フィルタアレイ110は、典型的には、図2Aに示すように、格子状に区分けされた複数のフィルタを有する。これらのフィルタの一部または全部が、互いに異なる透過スペクトルを有する。フィルタアレイ110に含まれる複数のフィルタの光透過率の波長分布および空間分布は、例えばランダム分布または準ランダム分布であり得る。
 ランダム分布および準ランダム分布の考え方は次の通りである。まず、フィルタアレイ110における各フィルタは、光透過率に応じて、例えば0から1の値を有するベクトル要素と考えることができる。ここで、透過率が0の場合、ベクトル要素の値は0であり、透過率が1の場合、ベクトル要素の値は1である。言い換えると、行方向または列方向に一列に並んだフィルタの集合を0から1の値を有する多次元のベクトルと考えることができる。したがって、フィルタアレイ110は、多次元ベクトルを列方向または行方向に複数備えていると言える。このとき、ランダム分布とは、任意の2つの多次元ベクトルが独立である、すなわち平行でないことを意味する。また、準ランダム分布とは、一部の多次元ベクトル間で独立でない構成が含まれることを意味する。したがって、ランダム分布および準ランダム分布においては、複数のフィルタに含まれる1つの行または列に並んだフィルタの集合に属する各フィルタについてのある波長バンドの光の透過率の値を要素とするベクトルと、他の行または列に並んだフィルタの集合に属する各フィルタについての当該波長バンドの光の透過率の値を要素とするベクトルとは、互いに独立である。上記の波長バンドとは異なる他の波長バンドについても同様に、複数のフィルタに含まれる1つの行または列に並んだフィルタの集合に属する各フィルタについての当該他の波長域の光の透過率の値を要素とするベクトルと、他の行または列に並んだフィルタの集合に属する各フィルタについての当該他の波長域の光の透過率の値を要素とするベクトルとは、互いに独立である。
 フィルタアレイ110をイメージセンサ160の近傍あるいは直上に配置する場合、フィルタアレイ110に含まれる複数のフィルタの相互の間隔は、イメージセンサ160の画素ピッチと略一致させてもよい。このようにすれば、フィルタアレイ110から出射した符号化された光の像の解像度が画素の解像度と略一致する。各フィルタを透過した光が対応する1つの画素にのみ入射するようにすることにより、後述する演算を容易にすることができる。フィルタアレイ110をイメージセンサ160から離して配置する場合には、その距離に応じてフィルタのピッチを細かくしてもよい。
 図2Aから図2Dに示す例では、各領域の透過率が0以上1以下の任意の値をとり得るグレースケールの透過率分布が想定されている。しかし、必ずしもグレースケールの透過率分布にする必要はない。例えば、各領域の透過率がほぼ0またはほぼ1のいずれかの値を取り得るバイナリスケールの透過率分布を採用してもよい。バイナリスケールの透過率分布では、各領域は、対象波長域に含まれる複数の波長域のうちの少なくとも2つの波長域の光の大部分を透過させ、残りの波長域の光の大部分を透過させない。ここで「大部分」とは、概ね80%以上を指す。
 全フィルタのうちの一部、例えば半分のフィルタを、透明領域に置き換えてもよい。そのような透明領域は、対象波長域Wに含まれるすべての波長バンドWからWの光を同程度の高い透過率、例えば80%以上の透過率で透過させる。そのような構成では、複数の透明領域は、例えば市松(checkerboard)状に配置され得る。すなわち、フィルタアレイ110における複数の領域の2つの配列方向において、光透過率が波長によって異なる領域と、透明領域とが交互に配列され得る。
 このようなフィルタアレイ110の分光透過率の空間分布を示すデータが、設計データまたは実測キャリブレーションに基づいて事前に取得され、信号処理装置200が備える記憶媒体に格納され得る。このデータは、後述する演算処理に利用される。
 フィルタアレイ110における各フィルタは、対象波長域W内に極大値を示す複数のピーク波長を有する。以下の説明において、このようなフィルタを「マルチモードフィルタ」と称することがある。マルチモードフィルタは、例えば、多層膜、有機材料、回折格子構造、および金属の少なくとも1つを含む微細構造を用いて構成され得る。多層膜を用いる場合、例えば、誘電体多層膜または金属層を含む多層膜が用いられ得る。この場合、フィルタごとに各多層膜の厚さ、材料、および積層順序の少なくとも1つが異なるように形成される。これにより、フィルタによって異なる分光特性を実現できる。多層膜を用いることにより、分光透過率におけるシャープな立上がりおよび立下りを実現できる。有機材料を用いた構成は、フィルタによって含有する顔料または染料が異なるようにしたり、異種の材料を積層させたりすることによって実現され得る。回折格子構造を用いた構成は、フィルタごとに異なる回折ピッチまたは深さの回折構造を設けることによって実現され得る。金属を含む微細構造を用いる場合は、プラズモン効果による分光を利用して作製され得る。
 <信号処理の例>
 次に、信号処理装置200による信号処理の例を説明する。信号処理装置200は、イメージセンサ160から出力された圧縮画像120、およびフィルタアレイ110の波長ごとの透過率の空間分布特性に基づいて、多波長のハイパースペクトル画像220を再構成する。ここで多波長とは、例えば通常のカラーカメラで取得されるRGBの3色の波長域よりも多くの波長域を意味する。この波長域の数は、例えば4から100程度の数であり得る。この波長域の数を、バンド数と称する。用途によっては、バンド数は100を超えていてもよい。
 求めたいデータはハイパースペクトル画像220のデータであり、そのデータをfとする。バンド数をNとすると、fは、各バンドの画像データf、f、・・・、fを統合したデータである。ここで、図1Aに示すように、画像の横方向をx方向、画像の縦方向をy方向とする。求めるべき画像データのx方向の画素数をnとし、y方向の画素数をmとすると、画像データf、f、・・・、fの各々は、n×m画素の2次元データである。したがって、データfは要素数n×m×Nの3次元データである。この3次元データを、「ハイパースペクトル画像データ」または「ハイパースペクトルデータキューブ」と称する。一方、フィルタアレイ110によって符号化および多重化されて取得される圧縮画像120のデータgの要素数はn×mである。データgは、以下の式(1)によって表すことができる。
Figure JPOXMLDOC01-appb-M000001
 ここで、f、f、・・・、fの各々は、n×m個の要素を有するデータである。したがって、右辺のベクトルは、厳密にはn×m×N行1列の1次元ベクトルである。ベクトルgは、n×m行1列の1次元ベクトルに変換されて表され、計算される。行列Hは、ベクトルfの各成分f、f、・・・、fを波長バンドごとに異なる符号化情報(「マスク情報」とも称する。)で符号化および強度変調し、それらを加算する変換を表す。したがって、Hは、n×m行n×m×N列の行列である。
 ベクトルgと行列Hが与えられれば、式(1)の逆問題を解くことにより、fを算出することができそうである。しかし、求めるデータfの要素数n×m×Nが取得データgの要素数n×mよりも多いため、この問題は不良設定問題であり、このままでは解くことができない。そこで、信号処理装置200は、データfに含まれる画像の冗長性を利用し、圧縮センシングの手法を用いて解を求める。具体的には、以下の式(2)を解くことにより、求めるデータfが推定される。
Figure JPOXMLDOC01-appb-M000002
 ここで、f’は、推定されたfのデータを表す。上式の括弧内の第1項は、推定結果Hfと取得データgとのずれ量、いわゆる残差項を表す。ここでは2乗和を残差項としているが、絶対値または二乗和平方根等を残差項としてもよい。括弧内の第2項は、正則化項または安定化項である。式(2)は、第1項と第2項との和を最小化するfを求めることを意味する。信号処理装置200は、再帰的な反復演算によって解を収束させ、最終的な解f’を算出することができる。
 式(2)の括弧内の第1項は、取得データgと、推定過程のfを行列Hによって変換したHfとの差の二乗和を求める演算を意味する。第2項のΦ(f)は、fの正則化における制約条件であり、推定データのスパース情報を反映した関数である。この関数は、推定データを滑らかまたは安定にする効果をもたらす。正則化項は、例えば、fの離散的コサイン変換(DCT)、ウェーブレット変換、フーリエ変換、またはトータルバリエーション(TV)などによって表され得る。例えば、トータルバリエーションを使用した場合、観測データgのノイズの影響を抑えた安定した推測データを取得できる。それぞれの正則化項の空間における対象物70のスパース性は、対象物70のテキスチャによって異なる。対象物70のテキスチャが正則化項の空間においてよりスパースになる正則化項を選んでもよい。あるいは、複数の正則化項を演算に含んでもよい。τは、重み係数である。重み係数τが大きいほど冗長的なデータの削減量が多くなり、圧縮する割合が高まる。重み係数τが小さいほど解への収束性が弱くなる。重み係数τは、fがある程度収束し、かつ、過圧縮にならない適度な値に設定される。
 なお、図1Bおよび図1Cの構成においては、フィルタアレイ110によって符号化された像は、イメージセンサ160の撮像面上でボケた状態で取得される。したがって、予めこのボケ情報を保有しておき、そのボケ情報を前述の行列Hに反映させることにより、ハイパースペクトル画像220を再構成することができる。ここで、ボケ情報は、点拡がり関数(Point Spread Function:PSF)によって表される。PSFは、点像の周辺画素への拡がりの程度を規定する関数である。例えば、画像上で1画素に相当する点像が、ボケによってその画素の周囲のk×k画素の領域に広がる場合、PSFは、その領域内の各画素の輝度への影響を示す係数群、すなわち行列として規定され得る。PSFによる符号化パターンのボケの影響を、行列Hに反映させることにより、ハイパースペクトル画像220を再構成することができる。フィルタアレイ110が配置される位置は任意であるが、フィルタアレイ110の符号化パターンが拡散しすぎて消失しない位置が選択され得る。
 なお、ここでは式(2)に示す圧縮センシングを用いた演算例を示したが、それ以外の方法を用いて解いてもよい。例えば、最尤推定法またはベイズ推定法などの他の統計的方法を用いることができる。また、ハイパースペクトル画像220の数は任意であり、各波長域も任意に設定してよい。再構成の方法の詳細は、特許文献1に開示されている。特許文献1の開示内容の全体を本明細書に援用する。
 <ファブリ・ペローフィルタを備えるフィルタアレイ>
 次に、図5を参照しながら、フィルタアレイ110の具体的な構造の例を説明する。図5は、ある例における撮像装置100の断面の一部を模式的に示す図である。撮像装置100は、フィルタアレイ110と、イメージセンサ160とを備える。フィルタアレイ110は、2次元的に配列された複数のフィルタ112を含む。複数のフィルタ112は、行および列状に配列され得る。図5は、1つの行の断面構造の一部を模式的に示している。
 図5に示す例では、フィルタアレイ110がイメージセンサ160の表面上に配置されている。イメージセンサ160に含まれる複数の光検出素子162の各々は、フィルタアレイ110に含まれる複数のフィルタ112のうちの対応するフィルタ112の直下に位置する。フィルタアレイ110とイメージセンサ160とが分離していてもよい。その場合であっても、複数の光検出素子162の各々は、複数のフィルタ112の1つを透過した光を受ける位置に配置され得る。複数のフィルタ112を透過した光が、図示されていないミラーを介して対応する複数の光検出素子162に入射するように、各構成要素が配置されていてもよい。
 図5に示すフィルタアレイ110における各フィルタ112は、ファブリ・ペロー(FP)フィルタである。FPフィルタは、2つの互いに対向する第1反射層28aおよび第2反射層28bと、その間の干渉層26(「中間層」とも称する。)とを備える。干渉層26は、1つ以上の共振モードを有する共振構造が形成される厚さおよび屈折率を有する。共振モードに対応する波長の光の透過率は高くなり、他の波長の光の透過率は低くなる。干渉層26の屈折率または厚さをフィルタごとに変えることにより、フィルタごとに異なる透過スペクトルを実現することができる。
 複数のフィルタ112の各々は、共振構造を備える。共振構造とは、ある波長の光が、内部で定在波を形成して安定に存在する構造を意味する。当該光の状態を「共振モード」と称する。図5に示す例では、第1反射層28a、第2反射層28b、および干渉層26によって共振構造が構成される。第1反射層28aおよび第2反射層28bの各々は、例えば誘電体多層膜または金属薄膜から形成され得る。干渉層26は、対象波長域において実質的に透明な誘電体または半導体から形成され得る。干渉層26は、例えば、Si、Si、TiO、Nb、Taからなる群から選択される少なくとも1つから形成され得る。干渉層26の屈折率および厚さの少なくとも一方は、フィルタ112によって異なる。複数のフィルタ112の各々の透過スペクトルは、複数の波長で透過率の極大値を有する。当該複数の波長は、上記の共振構造における次数の異なる複数の共振モードにそれぞれ対応する。
 フィルタアレイ110における全てのフィルタ112が上記の共振構造を有していてもよいし、共振構造を有しないフィルタを含んでいてもよい。例えば、透明フィルタまたはNDフィルタ(Neutral Density Filter)などの、光透過率の波長依存性を有しないフィルタがフィルタアレイ110に含まれていてもよい。
 イメージセンサ160における複数の光検出素子162の各々は、予め設定された対象波長域Wの光に感度を有する。なお、本開示において、ある波長域の光に「感度を有する」とは、当該波長域の光を検出するのに必要な実質的な感度を有することを指す。例えば、当該波長域における外部量子効率が1%以上であることを指す。当該波長域における光検出素子162の外部量子効率は10%以上、あるいは20%以上であってもよい。各フィルタ112の光透過率が極大値をとる複数の波長は、いずれも対象波長域Wに含まれる。
 本明細書において、上記のような共振構造を備えるフィルタ112を「ファブリ・ペローフィルタ」と称する。ファブリ・ペローフィルタは干渉フィルタの一種である。ファブリ・ペローフィルタに代えて、例えば回折格子などから構成される色分離フィルタなどの他の種類の干渉フィルタを用いてもよい。本明細書において、極大値を有する透過スペクトルの部分を「ピーク」と称し、対象波長域W内で光透過率が極大値を示す波長を「ピーク波長」と称する。
 フィルタ112において、干渉層26の厚さをL、屈折率をn、フィルタ112に入射する光の入射角をθ、共振モードのモード次数をmとする。mは1以上の整数である。このとき、フィルタ112の透過スペクトルのピーク波長λは、以下の式(3)によって表される。
Figure JPOXMLDOC01-appb-M000003
 対象波長域Wのうちの最短波長をλ、最長波長をλとする。本明細書では、λ≦λ≦λを満たすmが1つだけ存在するフィルタ112を「単一モードフィルタ」と称し、λ≦λ≦λを満たすmが2つ以上存在するフィルタ112を「マルチモードフィルタ」と称する。
 以下、対象波長域Wの最短波長がλ=400nmであり、最長波長がλ=700nmである場合の構造の一例を説明する。干渉層26の厚さL=300nm、干渉層26の屈折率n=1.0、θ=0°(すなわち垂直入射)の場合、m=1のときのピーク波長は600nmであり、m≧2のときのピーク波長は300nm以下である。したがって、この場合のフィルタ112は、対象波長域W内に1つのピーク波長が含まれる単一モードフィルタである。
 一方、厚さLをさらに大きくすると、対象波長域W内に複数のピーク波長が含まれるようになる。例えば、L=3000nm、n=1.0、θ=0の場合、1≦m≦8のときのピーク波長は750nm以上になり、9≦m≦15のときのピーク波長は400nm以上700nm以下になり、m≧16のときのピーク波長は375nm以下になる。したがって、この場合のフィルタ112は、対象波長域W内に7つのピーク波長が含まれるマルチモードフィルタである。
 以上のように、フィルタ112の干渉層26の厚さを適切に設計することにより、マルチモードフィルタを実現することができる。干渉層26の厚さの代わりに、フィルタ112の干渉層26の屈折率を調整してもよい。あるいは、フィルタ112の干渉層26の厚さおよび屈折率の両方を調整してもよい。
 図6は、透過スペクトルが互いに異なる複数のマルチモードフィルタが複数の画素上にそれぞれ配置された場合の、各画素における透過スペクトルの例を模式的に示す図である。図6には、画素A、B、およびCにおける透過スペクトルのいくつかのピーク、およびそれらモード次数m、m+1、およびm+2が例示されている。図示されるように、複数のマルチモードフィルタは、画素ごとにピーク波長がわずかに異なるように設計され得る。このような設計は、式(3)における厚さLおよび/または屈折率nをわずかに変化させることによって実現することができる。撮像装置100は、画素ごとに異なる複数のピーク波長の光を同時に検出することができる。
 第1反射層28aおよび第2反射層28bの各々は、例えば分布ブラッグ反射器(Distributed Bragg Reflector:DBR)の構造を備え得る。その場合、第1反射層28aおよび第2反射層28bの各々は、誘電体多層膜から形成され得る。以下、そのようなフィルタ112の構造のいくつかの例を説明する。
 図7は、第1反射層28aおよび第2反射層28bの各々が誘電体多層膜から形成されるフィルタ112の構造の一例を模式的に示す断面図である。この例におけるフィルタ112は、基板80上に設けられている。第1反射層28aおよび第2反射層28bの各々は、複数の低屈折率層27lと、複数の高屈折率層27hとが交互に積層された構造を備える。複数の低屈折率層27lの各々は、屈折率nを有し、複数の高屈折率層27hの各々は、屈折率nよりも高い屈折率nを有する。第1反射層28aにおける低屈折率層27lと、第2反射層28bにおける低屈折率層27lとは、同じ屈折率を有していてもよいし、異なる屈折率を有していてもよい。同様に、第1反射層28aにおける高屈折率層27hと、第2反射層28bにおける高屈折率層27hとは、同じ屈折率を有していてもよいし、異なる屈折率を有していてもよい。
 図示される誘電体多層膜は、複数のペア層を備える。各ペア層は、1つの低屈折率層27lおよび1つの高屈折率層27hを含む。図7に示す例では、第1反射層28aおよび第2反射層28bの各々は、5つのペア層を備える。対象波長域W内の特定の波長λについて高い反射率を得るために、高屈折率層27hの厚さはt=λ/(4n)に設定され、低屈折率層27lの厚さはt=λ/(4n)に設定され得る。言い換えれば、高屈折率層27hの厚さtの光学長、および低屈折率層27lの厚さtの光学長は、λ/4に設定され得る。ここで、光学長とは、厚さに屈折率を掛けた値を意味する。
 図8は、第1反射層28aおよび第2反射層28bの各々が誘電体多層膜から形成されるフィルタ112の他の例を模式的に示す図である。図8に示す例では、図7に示す例とは異なり、第1反射層28aおよび第2反射層28bの各々において、高屈折率層27hの厚さ、および低屈折率層27lの厚さが均一ではない。第1反射層28aおよび第2反射層28bの各々において、低屈折率層27lの少なくとも2つは互いに異なる厚さを有し、高屈折率層27hの少なくとも2つは互いに異なる厚さを有する。第1反射層28aおよび第2反射層28bの各々において、複数の低屈折率層27lの各々の光学長は、その低屈折率層27lとペアを構成する隣接する高屈折率層27hの光学長に等しい。図8に示す誘電体多層膜は、例えば、対象波長域Wに含まれる波長λからλまでの波長域の光を反射するように設計され得る。波長λは、対象波長域Wの下限波長λと同一でもよいし、異なっていてもよい。同様に、波長λは、対象波長域Wの上限波長λと同一でもよいし、異なっていてもよい。
 ここで、第1反射層28aおよび第2反射層28bの各々において、複数のペア層を、干渉層26から遠い順に、n=0からn=4のように番号付けする。高屈折率層27hの厚さは、例えばt(n)=[λ+n(λ-λ)/4]/(4n)に設定され得る。また、低屈折率層27lの厚さは、例えばt(n)=[λ+n(λ-λ)/4]/(4n)に設定され得る。このように、第1反射層28aおよび第2反射層28bの各々において、高屈折率層27hの厚さt(n)、および低屈折率層27lの厚さt(n)のそれぞれは、λ/4からλ/4まで線形に変調されるように設計され得る。例えばλ=350nmおよびλ=700nmの場合、各層の厚さの光学長は、λ/4=87.5nmからλ/4=175nmまで線形に変化する。
 図8に示す例において、細い線で表されたループ29aおよび太い線で表されたループ29bは、それぞれ、フィルタ112内に閉じ込められる波長λおよび波長λの光を模式的に表している。波長λの光は、第1反射層28aにおける入射面側(すなわち図8における上側)のペア層と、第2反射層28bにおける基板80側のペア層によって反射される。一方、波長λの光は、第1反射層28aにおける干渉層26側のペア層と、第2反射層28bにおける干渉層26側のペア層によって反射される。このように、入射光は、その波長に対応するペア層によって反射される。このような構造によれば、誘電体多層膜における対象波長域W内の反射率の不均一さを抑制することができる。
 高屈折率層27hおよび低屈折率層27lの各々は、例えば、対象波長域W内の光について吸収率の低い材料から形成され得る。対象波長域Wが可視光領域内にある場合、当該材料は、例えば、SiO、Al、SiO、Si、Ta、およびTiOからなる群から選択される少なくとも1つであり得る。対象波長域Wが赤外領域内にある場合、当該材料は、例えば、上記のSiO、Al、SiO、Si、Ta、およびTiOに加えて、単結晶Si、多結晶Si、およびアモルファスSiからなる群から選択される少なくとも1つであり得る。
 干渉層26も、上記のいずれかの材料から形成され得る。ただし、干渉層26は、干渉層26に接する低屈折率層27lまたは高屈折率層27hとは異なる屈折率を有する。干渉層26は、単一の層に限らず、積層された複数の層を含んでいてもよい。当該複数の層は、異なる材料から形成され得る。当該複数の層の屈折率は、フィルタの透過スペクトルに実質的な影響を与えない程度に異なっていてもよい。屈折率が異なる層の界面では反射が生じ得る。しかし、透過スペクトルに実質的な影響を与えない程度であれば、当該複数の層の各々は、実質的に一様な干渉層26の一部として考えることができる。干渉層26は空気などの気体の層であってもよい。
 図7および図8に示す構造はあくまでも例であり、フィルタアレイ110における各フィルタ112の構造は、必要な性能に応じて適宜設計される。例えば、各反射層におけるペア層の数は5に限らず、必要な性能に応じて決定される。図8に示す例では干渉層26から離れるほど層の厚さが減少するが、逆に、干渉層26から離れるほど層の厚さが増加する構造を採用してもよい。また、干渉層26から離れるにつれて層の厚さが単調に増加または減少していなくてもよい。
 図7および図8に示す例では、干渉層26の両側に第1反射層28aおよび第2反射層28bが設けられているが、干渉層26の片側にのみ反射層が設けられていてもよい。その場合、干渉層26の一方の表面は空気などの外部媒質に露出していてもよい。そのような構成であっても、干渉層26と外部媒質との界面で反射が生じるため、干渉層26内で共振を生じさせることができる。干渉層26の片側にのみ反射層が設けられた構成によれば、光量の損失を抑制することができる。
 <帯域制限フィルタを備えた構造>
 以上のように、圧縮センシング等の方法を用いてハイパースペクトル画像を生成する撮像システムにおいては、異なる分光透過率を有する複数のフィルタを含むフィルタアレイ110が用いられる。複数のフィルタの光透過率の波長分布および空間分布として、例えば前述のランダム分布または準ランダム分布のようなランダム性の高い分布が選択され得る。分光透過率の空間分布によって決定される行列Hを用いてハイパースペクトル画像を推定することができる。複数のフィルタの光透過率の波長分布および空間分布のランダム性を高くすることにより、より正確なハイパースペクトル画像を生成することができる。
 フィルタアレイ110は、前述のように光の干渉現象を利用して波長ごとに光の反射率を変化させる複数の干渉フィルタを用いて実現され得る。干渉フィルタとして、例えば前述のようなファブリ・ペロー共振器の構造を備えたフィルタを用いることができる。他にも、例えば特許文献3に開示されているような回折格子を用いた構造、または特許文献4に開示されているような表面プラズモン共鳴を利用した構造を備えるフィルタを用いることもできる。
 複数の干渉フィルタによってフィルタアレイ110を構成する場合、対象波長域、すなわち撮像システムの動作波長域が広がるにつれて、復元されるハイパースペクトル画像の誤差が大きくなる。これは、対象波長域の長波長側の低次モードと短波長側の高次モードとが同一の構造で発生し、互いに干渉するようになることに起因している。干渉フィルタにおいて長波長側の低次モードと短波長側の高次モードとが同一の構造で発生し互いに干渉する場合、フィルタアレイ110の光透過率の空間および波長に関するランダム性が低下する。その結果、復元演算に用いられる行列Hの値のランダム性が低下し、復元されるハイパースペクトル画像の誤差が大きくなる。以下、ファブリ・ペロー共振器の構造を有するフィルタを例に、上記の課題をより詳細に説明する。
 ファブリ・ペロー共振器は、前述のように、光を干渉させる干渉層の両側を、対象波長域の光を一定の割合で反射する反射層で挟んだ構造を備える。ファブリ・ペロー共振器は、干渉層の厚さに応じた波長の光を優先的に透過させる性質を有する。各反射層は、例えば分布ブラッグ反射器(DBR)として機能する誘電体多層膜から形成され得る。その場合、反射される光の波長はDBRにおける各層の屈折率および厚さによって決定される。DBRの1つの層の厚さをt、その層の屈折率をnとすると、λi/4=n×tを満たす波長λiの光が、その層において最も高い反射率を示す。一方、DBRの各層は、干渉層としても機能する場合がある。DBRのある層に光のモードが生じる条件は、その層の厚さtと屈折率nとに依存する。λj/2≦n×tの条件を満たす場合、その層は干渉層として機能し、波長λjの光のモードがその層の内部に形成される。
 ここで、図3Aおよび図3Bに示すように、対象波長域Wの短波長端の波長をλ、長波長端の波長をλとする。λがλの2倍よりも大きい場合、すなわちλ>2λを満たす場合、最長波長λの光を反射する光学長λ/4の層の内部に、λ≦λ≦λ/2を満たす波長λの光のモードが生じる。DBR中に光のモードが生じるということは、すなわち、動作波長域の長波長側の低次モードと、動作波長域の短波長側の高次モードとが同一の構造で発生し、互いに干渉するということを意味する。その場合、得られる透過スペクトルは、対象波長域Wの短波長側において、透過率のランダム性が低い波長をもつようになる。
 図9Aは、フィルタアレイ110に含まれる8種類のフィルタの透過スペクトルの例を示す図である。図9Bは、図9Aにおける400nmから600nmの波長域における透過スペクトルを拡大して示す図である。この例では、対象波長域Wすなわち動作波長域は、400nmから1600nmの比較的広い範囲に設定されている。各フィルタは、前述のDBRを各反射層に用いたファブリ・ペロー共振器の構造を有する。フィルタごとに干渉層およびDBRの構造を調整することにより、図示される透過スペクトルが得られた。この例のように対象波長域Wが広い場合、各フィルタのDBR内にも光のモードが生じ、対象波長域Wの短波長側においてフィルタごとの透過率の差が小さくなる。その結果、特に短波長側において透過率のランダム性が大きく低下する。例えば図9Bにおいて矢印で示す波長においては、8種類のフィルタの全てが同程度の透過率を有する。このようにフィルタアレイ110の透過率のランダム性が低下することは、ハイパースペクトル画像の推定誤差が増大することに直結する。
 図10は、図9Aに示す透過スペクトルを有する複数のフィルタを含むフィルタアレイを用いて行われたハイパースペクトル画像の推定演算の誤差の例を示す図である。図10の部分(a)に示すスペクトルは、図9Aに示すスペクトルと同じものである。図10の部分(b)は、図10の部分(a)における400nmから600nmの波長域と、1400nmから1600nmの波長域のそれぞれを20等分して得られる計40個の波長バンドのそれぞれについての推定誤差の例を示している。ここで、400nmから600nmの波長域と、1400nmから1600nmの波長域のそれぞれについて、波長バンドを波長の短いものから1番から20番まで番号付けしている。各波長バンドの推定誤差については、推定された画像と正解画像との間の平均二乗誤差(Mean Squared Error:MSE)で評価した。MSEは、推定された画像と正解画像との間の各画素の誤差の2乗の総和を画素数で割った値である。なお、MSEの計算結果は取得・復元される画像のビット数に影響される。本実施形態において画像は8ビット、すなわち256階調で取得され、推定画像も8ビットで生成されている。図10に示すように、ランダム性の低い短波長側においてハイパースペクトル画像の推定誤差が大きくなることが確認された。一方、ランダム性の高い長波長側においては小さい誤差でハイパースペクトル画像を推定できることが確認された。ハイパースペクトル画像が256階調で表現される場合、ハイパースペクトル画像の推定誤差は、
Figure JPOXMLDOC01-appb-M000004
で表される。例えば、MSEが100であるとき、√100=10であるため、ハイパースペクトル画像の推定誤差は、上記式より約4%となる。長波長側においては誤差が1から2%程度に収まるのに対し、短波長側においては10%を超える誤差が発生することが確認された。上記式より、2%の推定誤差は約26のMSEに相当し、10%の推定誤差は約655のMSEに相当する。
 このように、動作波長域が広い場合、特に短波長側の波長域でハイパースペクトル画像の推定誤差が大きくなる傾向がある。この課題は、DBRを反射層に用いたファブリ・ペロー共振器構造とは異なる構造を有するマルチモードフィルタを用いる場合にも同様に発生し得る。例えば、回折格子を用いたフィルタ、または表面プラズモン効果を用いたフィルタなどの、光の干渉を利用した他の種類のマルチモードフィルタを用いる場合にも上記の課題は同様に発生し得る。すなわち、マルチモードフィルタにおいては、λ>2λを満たす場合に対象波長域Wの短波長側において透過率のランダム性が低下し、ハイパースペクトル画像の推定誤差が増大する。
 本発明者らは、以上の課題を見出し、これらの課題を解決するための新規なフィルタアレイの構成を検討した。その結果、マルチモードフィルタに加えて、一部の波長域の光の透過を制限する帯域制限フィルタを重畳したフィルタ構成を採用することにより、上記の課題を解決できることを見出した。そのようなフィルタ構成により、広い波長域にわたって透過率のランダム性を高く維持することができ、動作波長域を拡大することできる。以下、そのようなフィルタアレイの構成例を具体的に説明する。
 図11は、ある実施形態におけるフィルタアレイ110の構成の一部を模式的に示す図である。フィルタアレイ110は、2次元的に配列され、互いに異なる透過スペクトルを有する複数の光学フィルタを含む。図11には、それらのフィルタ112のうちの隣り合う2つのフィルタの断面が模式的に示されている。以下、これらの2つのフィルタを、第1フィルタ112aおよび第2フィルタ112bと称する。
 第1フィルタ112aは、第1マルチモードフィルタ113aと、第1帯域制限フィルタ114aとを備える。第1マルチモードフィルタ113aは、光透過率が極大値を示す複数の第1ピーク波長を対象波長域W内に有する。第1帯域制限フィルタ114aは、第1マルチモードフィルタ113aに重なるように配置されている。ここで2つのフィルタが「重なる」とは、それらのフィルタの法線方向から見た場合に少なくとも部分的に重なる位置関係にあることを意味する。当該2つのフィルタの間に他の部材が介在していてもよい。第1帯域制限フィルタ114aの制限帯域は、対象波長域Wの一部である第1サブ波長域である。
 図11に示す例では、第1マルチモードフィルタ113aが第1帯域制限フィルタ114aを透過した透過光の光路上に配置される。反対に、第1帯域制限フィルタ114aが第1マルチモードフィルタ113aを透過した透過光の光路上に配置されてもよい。
 第2フィルタ112bは、第2マルチモードフィルタ113bと、第2帯域制限フィルタ114bとを備える。第2マルチモードフィルタ113bは、光透過率が極大値を示す複数の第2ピーク波長を対象波長域W内に有する。ここで、複数の第2ピーク波長の組み合わせは、上記複数の第1ピーク波長の組み合わせとは異なる。すなわち、複数の第2ピーク波長のうち少なくとも1つは、複数の第1ピーク波長と異なる。第2帯域制限フィルタ114bは、第2マルチモードフィルタ113bに重なるように配置されている。第2帯域制限フィルタ114bは、対象波長域Wの一部である第2サブ波長域の光の透過を制限する。第2サブ波長域は、第1サブ波長域とは異なる。なお、第2サブ波長域と第1サブ波長域とが部分的に重なっていてもよい。
 図11に示す例では、第2マルチモードフィルタ113bが第2帯域制限フィルタ114bを透過した透過光の光路上に配置される。反対に、第2帯域制限フィルタ114bが第2マルチモードフィルタ113bを透過した透過光の光路上に配置されてもよい。
 図12は、第1マルチモードフィルタ113aおよび第2マルチモードフィルタ113bの透過スペクトルの例を示す図である。図12の部分(a)は、第1マルチモードフィルタ113aの透過スペクトルの例を示している。図12の部分(b)は、第2マルチモードフィルタ113bの透過スペクトルの例を示している。図12に示すように、第1マルチモードフィルタ113aおよび第2マルチモードフィルタ113bの各々は、対象波長域Wに含まれる複数の波長バンドにおいて、透過率が極大値を示す複数のピーク波長を有する。第1マルチモードフィルタ113aのピーク波長の一部が、第2マルチモードフィルタ113bのピーク波長と重複していてもよいが、完全に一致してはいない。
 第1マルチモードフィルタ113aおよび第2マルチモードフィルタ113bの各々は、例えば前述のファブリ・ペロー共振器の構造を備えた干渉フィルタであり得る。干渉層および各反射層の構造を適切に設計することにより、対象波長域W内に複数のピーク波長を有する透過スペクトルを実現することができる。
 本実施形態では、これらの第1マルチモードフィルタ113aおよび第2マルチモードフィルタ113bに加えて、第1帯域制限フィルタ114aおよび第2帯域制限フィルタ114bが設けられている。第1帯域制限フィルタ114aおよび第2帯域制限フィルタ114bは、対象波長域Wの一部の波長域の光の透過を制限する。ここで、ある波長域について「光の透過を制限する」とは、その波長域の光を完全に制限することを意味しない。本明細書において、ある波長域について「光の透過を制限する」とは、その波長域の光の透過率が少なくとも80%以下になるように制限することを意味する。本明細書においては、各フィルタについて、光の透過率が80%以下になる帯域を「制限帯域」と称する。
 図13は、第1帯域制限フィルタ114aおよび第2帯域制限フィルタ114bの透過スペクトルの例を示す図である。図13の部分(a)は、第1帯域制限フィルタ114aの透過スペクトルの例を示している。図13の部分(b)は、第2帯域制限フィルタ114bの透過スペクトルの例を示している。第1帯域制限フィルタ114aおよび第2帯域制限フィルタ114bの各々は、透過率が相対的に低い制限帯域Wsと、透過率が相対的に高い通過帯域(pass-band)とを対象波長域W内に有する。対象波長域Wのうち、制限帯域Ws以外の波長域が通過帯域である。
 図11には第1フィルタ112aおよび第2フィルタ112bのみが示されているが、フィルタアレイ110は、同様の構造を有する他のフィルタを含み得る。例えば、フィルタアレイ110における複数の光学フィルタは、前述の第1フィルタ112aおよび第2フィルタ112bに加えて、第3フィルタをさらに含んでいてもよい。第3フィルタは、第3マルチモードフィルタと第3帯域制限フィルタとを含み得る。第3マルチモードフィルタは、光透過率が極大値を示す複数の第3ピーク波長を対象波長域内に有する。ここで、複数の第3ピーク波長の組み合わせは、前述の複数の第1ピーク波長の組み合わせおよび複数の第2ピーク波長の組み合わせのいずれとも異なるように設計され得る。すなわち、複数の第3ピーク波長のうち少なくとも1つは、複数の第1ピーク波長と異なり、複数の第3ピーク波長のうち少なくとも1つは、複数の第2ピーク波長と異なる。例えば、複数の第3ピーク波長がピーク波長λ1、λ2を含み、ピーク波長λ1が複数の第1ピーク波長と異なり、ピーク波長λ2が複数の第2ピーク波長と異なっていてもよい。第3帯域制限フィルタは、第3マルチモードフィルタに重なるように配置され得る。第3帯域制限フィルタの制限帯域は、対象波長域の一部である第3サブ波長域である。第3サブ波長域は、第1サブ波長域および第2サブ波長域のいずれとも異なるように設計され得る。第3サブ波長域と第1サブ波長域とが部分的に重なっていてもよい。同様に、第3サブ波長域と第2サブ波長域とが部分的に重なっていてもよい。
 このように、フィルタアレイ110は、制限帯域の異なる3種類以上の帯域制限フィルタを含んでいてもよい。また、同等の特性を有する複数の帯域制限フィルタが、異なる透過スペクトルを有する複数のマルチモードフィルタにそれぞれ重なるように配置されていてもよい。フィルタアレイ110における全てのフィルタが、マルチモードフィルタと帯域制限フィルタとの積層構造を有していてもよいし、一部のフィルタのみがそのような積層構造を有していてもよい。フィルタアレイ110の中には、帯域制限フィルタが設けられないフィルタ、すなわちマルチモードフィルタのみを含むフィルタが含まれていてもよい。例えば、フィルタアレイ110における複数のフィルタは、前述の第1から第3フィルタとは異なる構造の第4フィルタをさらに含んでいてもよい。第4フィルタは、光透過率が極大値を示す複数の第4ピーク波長を対象波長域内に有する。複数の第4ピーク波長の組み合わせは、前述の第1から第3ピーク波長の組み合わせのいずれとも異なるように設計され得る。すなわち、複数の第4ピーク波長のうち少なくとも1つは、複数の第1ピーク波長と異なり、複数の第4ピーク波長のうち少なくとも1つは、複数の第2ピーク波長と異なり、複数の第4ピーク波長のうち少なくとも1つは、複数の第3ピーク波長と異なる。例えば、複数の第4ピーク波長がピーク波長λ1、λ2、λ3を含み、ピーク波長λ1が複数の第1ピーク波長と異なり、ピーク波長λ2が複数の第2ピーク波長と異なり、ピーク波長λ3が複数の第3ピーク波長と異なっていてもよい。そのような、帯域制限フィルタを含まないフィルタと、帯域制限フィルタを含むフィルタとを混在させることにより、フィルタアレイ110の全体の透過スペクトルをさらに多様化させることができる。
 以下の説明において、個々のマルチモードフィルタを区別せずに「マルチモードフィルタ113」と称することがある。同様に、個々の帯域制限フィルタを区別せずに「帯域制限フィルタ114」と称することがある。
 各帯域制限フィルタ114は、例えば誘電体多層膜、有機材料、回折格子構造、および金属の少なくとも1つを含む微細構造を用いて構成され得る。マルチモードフィルタ113と帯域制限フィルタ114の構成材料は、同じであっても異なっていてもよい。各帯域制限フィルタ114は、例えば特定の色の光を選択的に透過させるカラーフィルタであり得る。あるいは、特定の波長域の光を選択的に透過させるDBRなどの誘電体多層膜によるフィルタであってもよい。
 図11に示す例において、各マルチモードフィルタ113および対応する帯域制限フィルタ114は、間に他の部材を介することなく互いに積層されている。このような構造に限らず、マルチモードフィルタ113と帯域制限フィルタ114との間に他の層または部材が介在していてもよい。例えば、光の反射または屈折を生じさせる光学部材がマルチモードフィルタ113と帯域制限フィルタ114との間に配置されていてもよい。その場合、マルチモードフィルタ113と帯域制限フィルタ114とが互いに重ならないように配置することも可能である。
 図14は、フィルタアレイ110の他の例を示す模式断面図である。このフィルタアレイ110は、基板80と、基板80上に積層された複数のマルチモードフィルタ113と、複数の帯域制限フィルタ114とを備える。フィルタアレイ110は、ピーク波長の組み合わせの異なる4種類のマルチモードフィルタ113と、制限帯域の異なる4種類の帯域制限フィルタ114とを含む。この例における入射光は図14の上側から入射し、帯域制限フィルタ114およびマルチモードフィルタ113の両方を通過し、基板80をさらに通過して同じ光軸上にあるイメージセンサの光検出素子によって受光される。
 図15は、4種類の帯域制限フィルタ114のそれぞれの制限帯域W1、W2、W3、W4の例を示す図である。図15に示すように、帯域制限フィルタ114によって制限帯域および通過帯域は異なり得る。複数の帯域制限フィルタ114の制限帯域同士は離れていてもよいし、重なっていてもよい。この例では、各帯域制限フィルタ114は、対象波長域内に1つの制限帯域を有するが、複数の制限帯域を有していてもよい。
 図16Aおよび図16Bは、帯域制限フィルタ114の配置の例を示す図である。図16Aに示す例では、4種類の帯域制限フィルタ114が2次元的に規則的に配置されている。一方、図16Bに示す例では、4種類の帯域制限フィルタ114が2次元的にランダムに配置されている。このように、制限帯域の異なる複数種類の帯域制限フィルタ114は、任意の態様で配列され得る。
 図11および図14に示す各例において、各帯域制限フィルタ114は、対応するマルチモードフィルタ113の全体を覆っている。このような構造に限らず、各帯域制限フィルタ114は、対応するマルチモードフィルタ113の一部のみを覆っていてもよい。各帯域制限フィルタ114は、入射光の光路に垂直な方向に関して、マルチモードフィルタ113と同一の寸法を有していてもよいし、異なる寸法を有していてもよい。ある例において、マルチモードフィルタ113と帯域制限フィルタ114の組は、それらのフィルタを通過した光が、イメージセンサにおける対応する1つの光検出素子にのみ入射するように配置され得る。他の例において、マルチモードフィルタ113と帯域制限フィルタ114の組の各々は、それらのフィルタを通過した光が、イメージセンサにおける対応する複数の光検出素子に入射するように配置されてもよい。
 図17は、フィルタアレイ110のより詳細な構造の例を示す断面図である。図17は、フィルタアレイ110における1つの行または列の断面構造の一部を示している。この例では、基板80の上に、マルチモードフィルタ113のアレイと、帯域制限フィルタ114のアレイとが積層されている。マルチモードフィルタ113は、DBRの構造を有する反射層28と、干渉層26とを含む。この例における帯域制限フィルタ114は、反射層28と同様、DBRの構造を有する。基板80上に、反射層28、干渉層26、および帯域制限フィルタ114がこの順に積層されている。マルチモードフィルタ113と帯域制限フィルタ114の積層順序は図示される順序とは逆であってもよい。すなわち、基板80上に帯域制限フィルタ114が配置され、その上にマルチモードフィルタ113が配置されていてもよい。また、マルチモードフィルタ113と帯域制限フィルタ114の積層順序がフィルタによって異なっていてもよい。図17の例では、入射光の光路に垂直な方向におけるマルチモードフィルタ113と帯域制限フィルタ114の大きさは同じであるが、それらの大きさが異なっていてもよい。
 図17に示す例において、干渉層26の厚さは、フィルタによって異なる。これにより、ピーク波長の組み合わせがフィルタによって異なる構造が実現されている。帯域制限フィルタ114のアレイは、制限帯域の異なる3種類の帯域制限フィルタ114と、帯域制限フィルタ114が配置されていない部分とを含む。すなわち、このフィルタアレイ110は、制限帯域の異なる3種類の帯域制限フィルタ114をそれぞれ含む3種類のフィルタと、帯域制限フィルタ114を含まない1種類のフィルタとを備える。これらの4種類のフィルタは、例えば図16Aまたは図16BにW1からW4で示す4種類のフィルタと同様の態様で2次元的に配列され得る。
 この例における各マルチモードフィルタ113は、図7および図8に示すファブリ・ペローフィルタとは異なり、片側にのみDBRすなわち反射層28を備える。干渉層26の2つの表面のうち、反射層28が設けられていない側の表面は、帯域制限フィルタ114または空気に接している。このような構造であっても、マルチモードフィルタ113は、ファブリ・ペローフィルタとして機能し、良好な透過スペクトルを得ることができる。
 図18A、図18B及び図18Cは、図17に示す第1帯域制限フィルタ114a、第2帯域制限フィルタ114bおよび第3帯域制限フィルタ114cの透過スペクトルの例をそれぞれ示す図である。図18Aに示す透過スペクトルは、およそ500nmにおいて透過率の極小値を有する。図18Bに示す透過スペクトルは、およそ650nmにおいて透過率の極小値を有する。図18Cに示す透過スペクトルは、およそ675nmにおいて最低の極小値を有する。この例では、第1帯域制限フィルタ114a、第2帯域制限フィルタ114bおよび第3帯域制限フィルタ114cは、いずれも比較的短波長の帯域を強く制限する。このような3種類の帯域制限フィルタを設けることにより、特に短波長の波長域における透過率のランダム性を高め、ハイパースペクトル画像の推定誤差を低減することができる。
 以下、図19Aから図19Dを参照しながら、帯域制限フィルタ114を設けることによる効果を説明する。
 図19Aは、帯域制限フィルタ114を備えていないフィルタアレイの透過スペクトルの例を示している。このフィルタアレイでは、透過スペクトルの異なる8種類のマルチモードフィルタ113が2次元的に配列され、帯域制限フィルタ114は設けられていない。図19Aは、図9Aに示すスペクトルのうち、400nmから800nmの範囲の部分を拡大して示している。
 図19Bは、上記の8種類のマルチモードフィルタ113に加えて、1種類の帯域制限フィルタ114が部分的に配置されたフィルタアレイ110の透過スペクトルの例を示している。この例では、8種類のマルチモードフィルタ113のそれぞれについて、帯域制限フィルタ114が設けられた箇所と設けられていない箇所とが存在する。このため、図19Bには計8×2=16通りの透過スペクトルが示されている。この例では、図18Aに示す透過スペクトルを有する第1帯域制限フィルタ114aが用いられた。この第1帯域制限フィルタ114aは、500nm付近の波長域の光を強く制限する。図19Bからわかるように、1種類の帯域制限フィルタ114を追加するだけで、透過スペクトルが多様になり、透過率のランダム性が向上する。なお、帯域制限フィルタ114が設けられた構成では、帯域制限フィルタ114が設けられない構成と比較して、ピーク波長がシフトする。これは、帯域制限フィルタ114を設けることにより、干渉層26の厚さが実質的に増加することと同様の効果が生じるからである。
 図19Cは、上記の8種類のマルチモードフィルタ113に加えて、3種類の帯域制限フィルタ114が配置されたフィルタアレイ110の透過スペクトルの例を示している。この例では、8種類のマルチモードフィルタ113のそれぞれについて、第1帯域制限フィルタ114aが設けられた箇所と、第2帯域制限フィルタ114bが設けられた箇所と、第3帯域制限フィルタ114cが設けられた箇所と、いずれの帯域制限フィルタ114も設けられていない箇所とが存在する。このため、図19Cには、計8×4=32通りの透過スペクトルが示されている。この例で使用された3種類の帯域制限フィルタ114は、図18Aから図18Cに示す透過スペクトルをそれぞれ有する。これらの3種類の帯域制限フィルタ114は、それぞれ500nm、650nm、675nmの付近の波長域の光を強く制限する。図19Cからわかるように、帯域制限フィルタ114の種類を3種類に増加させることにより、透過スペクトルがさらに多様になり、透過率のランダム性がさらに向上する。
 図19Dは、図19Aから図19Cのそれぞれの場合におけるフィルタアレイ110の各波長の透過率の標準偏差を示すグラフである。透過率の標準偏差が大きいほどランダム性が高いといえる。帯域制限フィルタ114を備えていない図19Aのフィルタアレイと比較すると、図19Bのフィルタアレイ110では、特に500nm付近の波長について、透過率のランダム性が向上していることがわかる。しかし、制限帯域が500nm付近である帯域制限フィルタ114を追加した図19Bの構成では、一部の波長域(例えば、530nm、590nm、610nm、700-800nm付近)の透過率のランダム性の改善効果はそれほど大きくない。これに対し、図19Cの例のように、複数種類の帯域制限フィルタ114を追加した場合には、より広い波長域において高いランダム性を保持することが可能になる。このことから、より多くの種類の帯域制限フィルタ114を追加するほど、動作波長域の拡大効果が高くなることがわかる。
 図20Aは、帯域制限フィルタ114を設けることによってハイパースペクトル画像の復元誤差が低減することを示す図である。図20Aは、帯域制限フィルタ114が配置されない場合(図19Aの場合)と、帯域制限フィルタ114が配置される場合(図19Cの場合)のそれぞれについて、400nmから600nmの波長域に含まれる20の波長バンドのそれぞれについて生成された復元画像の最小二乗誤差(MSE)の計算結果を示している。図20Aに示すように、帯域制限フィルタ114を設けることにより、短波長側の波長域についてMSEが大きく低下している。すなわち、帯域制限フィルタ114を設けることにより、短波長側の波長域について透過率のランダム性が向上し、ハイパースペクトル画像の推定誤差が低減されることがわかる。
 図20Bは、帯域制限フィルタ114が配置されない場合(図19Aの場合)と、帯域制限フィルタ114が配置される場合(図19Cの場合)のそれぞれについて、1400nmから1600nmの波長域に含まれる20の波長バンドのそれぞれについて生成された復元画像のMSEの計算結果を示す図である。図20Bに示すように、長波長側の波長域においては、帯域制限フィルタ114を設けた場合でもハイパースペクトル画像の推定誤差は小さく維持されている。このことから、帯域制限フィルタ114を設けることにより、短波長側から長波長側までの広い波長域にわたって誤差の小さいハイパースペクトル画像を取得することができることがわかる。すなわち、マルチモードフィルタ113に重ねて帯域制限フィルタ114が配置されたフィルタを用いてフィルタアレイ110を構成することにより、ハイパースペクトル撮像装置の動作波長域を拡大できることがわかる。
 前述のフィルタアレイ110の構造は例示にすぎず、フィルタアレイ110の構造には多様な変形例が考えられる。以下、いくつかの変形例を説明する。
 図21は、フィルタアレイ110の変形例を示す模式断面図である。この例におけるフィルタアレイ110においては、マルチモードフィルタ113が、干渉層26と、その両側に位置する第1反射層28aおよび第2反射層28bとを備えている。第1反射層28aおよび第2反射層28bはDBRである。すなわち、この例におけるマルチモードフィルタ113は、干渉層26が、その両側の2つのDBRで挟まれた構造を備える。この構造においては、マルチモードフィルタ113の上側のDBR(すなわち第1反射層28a)の上に、帯域制限フィルタ114を構成するDBRが積層されている。これらのDBRは、いずれも、相対的に低い屈折率を有する低屈折率層と、相対的に高い屈折率を有する高屈折率層とが交互に積層された構造を備える。第1反射層28aのDBRにおいては、複数の低屈折率層の厚さは均一ではなく、複数の高屈折率層の厚さも均一ではない。これに対し、帯域制限フィルタ114のDBRにおいては、複数の低屈折率層の厚さは均一であり、複数の高屈折率層の厚さも均一である。したがって、低屈折率層および高屈折率層のそれぞれの厚さが均一であるか否かに基づいて第1反射層28aのDBRと帯域制限フィルタ114のDBRとを判別することができる。また、各フィルタにおいて、第1反射層28aのDBRの構造と、第2反射層28bの構造とは、対称的な関係にある。したがって、マルチモードフィルタ113における上側の第1反射層28aのDBRと、帯域制限フィルタ114のDBRとは、第2反射層28bのDBRに対して対称的な構造を有しているか否かに基づいて判別することもできる。図21に示す例では、帯域制限フィルタ114の種類の数がマルチモードフィルタ113の種類の数よりも少なく、同一の構造を有する複数の帯域制限フィルタ114が、イメージセンサ160における比較的狭い範囲内に位置する複数の画素の上にそれぞれ配置されている。このような場合は、近隣の他の画素上のフィルタにおけるDBRの構造との同一性に基づいて第1反射層28aと帯域制限フィルタ114とを判別することもできる。
 図22は、マルチモードフィルタ113と帯域制限フィルタ114との間にスペーサ層90を備えるフィルタアレイ110の構造の例を示す模式断面図である。スペーサ層90は対象波長域Wにおいて透光性を有する材料から形成され得る。スペーサ層90を設けることにより、マルチモードフィルタ113の表面の段差を埋め、帯域制限フィルタ114を形成し易くなる。図22には比較的薄いスペーサ層90が設けられているように描かれているが、実際には、スペーサ層90の内部で共振が生じない程度の厚さを有するスペーサ層90が用いられ得る。図示されるスペーサ層90とは別に、帯域制限フィルタ114の表面の段差を埋めるスペーサ層を別途設けてもよい。そのようなスペーサ層の上には、例えば入射光を効率的に各画素に集束させるマイクロレンズアレイが配置されてもよい。
 図22に示すフィルタアレイ110においては、干渉層26の両側に第1反射層28aおよび第2反射層28bが設けられているが、干渉層26の片側にのみ反射層が設けられていてもよい。あるいは、干渉層26の両側に反射層が設けられたフィルタと、干渉層26の片側にのみ反射層が設けられたフィルタとが混在していてもよい。このように、各マルチモードフィルタ113において、干渉層26の片側にのみ反射層が設けられていてもよいし、干渉層26の両側に反射層が設けられていてもよい。
 以上の各例において、マルチモードフィルタ113と、帯域制限フィルタ114の位置関係は逆転していてもよい。すなわち、イメージセンサに相対的に近い位置に帯域制限フィルタ114が配置され、イメージセンサから相対的に遠い位置にマルチモードフィルタ113が配置されていてもよい。
 帯域制限フィルタ114は、DBRに限らず、例えばカラーフィルタであってもよい。以下、帯域制限フィルタ114がカラーフィルタである構成の例を説明する。
 図23は、帯域制限フィルタ114としてカラーフィルタを備えるフィルタアレイ110の構造の例を模式的に示す断面図である。カラーフィルタは、特定の波長域の光だけを透過または吸収する特性を有するため、帯域制限フィルタ114として用いることができる。図23の例では、赤、緑、青の波長域の光をそれぞれ選択的に透過させる3種類のカラーフィルタ114R、114G、114Bが配置されている。フィルタアレイ110の中には、カラーフィルタを含まないフィルタも含まれる。赤、緑、青のカラーフィルタ以外にも、例えば、シアン、マゼンタ、イエローなどの他の色の光を選択的に透過させるカラーフィルタを用いてもよい。図23に示す例のように、カラーフィルタは、必ずしもマルチモードフィルタ113の全体を覆う必要はない。すなわち、マルチモードフィルタ113の一部はカラーフィルタで覆われていなくてもよい。
 図23の例では、干渉層26の片側がDBRである反射層28に接しているが、干渉層26の両側がDBRに接していてもよい。図23に示す構造において、干渉層26と反射層28との位置関係が逆転していてもよい。すなわち、基板80上に、干渉層26、反射層28、帯域制限フィルタ114(すなわちカラーフィルタ)が、この順で積層されていてもよい。また、図23に示す構成から、マルチモードフィルタ113と帯域制限フィルタ114との位置関係が逆転していてもよい。すなわち、基板80上に、帯域制限フィルタ114およびマルチモードフィルタ113が、この順に積層されていてもよい。
 図24は、図23に示す構成において、干渉層26の両側にDBRすなわち第1反射層28aおよび第2反射層28bが配置された構造の例を示す図である。この構造においても、マルチモードフィルタ113と帯域制限フィルタ114との位置関係は逆転していてもよい。
 図25は、図24に示す構造に加えて、さらにスペーサ層90がマルチモードフィルタ113と帯域制限フィルタ114すなわちカラーフィルタとの間に追加された構造の例を示す図である。スペーサ層90は対象波長域Wにおいて実質的に透明な材料で構成され得る。マルチモードフィルタ113は、干渉層26の両側に第1反射層28aおよび第2反射層28bを備える。図25に示す構造から、第1反射層28aおよび第2反射層28bの一方が除去されていてもよい。
 続いて、帯域制限フィルタ114の特性の例について説明する。
 本発明者らは、制限帯域の異なる複数種類の帯域制限フィルタ114を備えるフィルタアレイ110について、各帯域制限フィルタ114の制限帯域における光透過率を変化させた場合に、復元されるハイパースペクトル画像の誤差がどのように変化するかを確認するシミュレーションを行った。図26Aから図26Cは、シミュレーションで使用されたフィルタアレイ110の透過スペクトルの例を示している。これらの図は、制限帯域の異なる4種類の帯域制限フィルタ114のそれぞれを、8種類のマルチモードフィルタ113に重ねて配置した場合において得られる透過スペクトルの例を示している。ここで、各マルチモードフィルタ113は、ローレンツ関数で表される理想的な透過スペクトルを有するものとしている。各帯域制限フィルタ114の通過帯域における透過率を100%とし、制限帯域における透過率を変化させた複数通りの条件で復元誤差の評価を行った。
 図26Aは、制限帯域における透過率が0%の矩形の透過スペクトルをもつ帯域制限フィルタ114を備えるフィルタアレイ110の透過スペクトルの例を示している。図26Bは、制限帯域における透過率が60%の矩形の透過スペクトルをもつ帯域制限フィルタ114を備えるフィルタアレイ110の透過スペクトルの例を示している。図26Cは、制限帯域における透過率が100%すなわち帯域制限フィルタ114を備えないフィルタアレイ110の透過スペクトルの例を示している。これらの図には、下から順に、通過帯域450-500nmの帯域制限フィルタ114が重畳されたフィルタ1、通過帯域500-550nmの帯域制限フィルタ114が重畳されたフィルタ2、通過帯域550-600nmの帯域制限フィルタ114が重畳されたフィルタ3、通過帯域600-650nmの帯域制限フィルタ114が重畳されたフィルタ4の透過スペクトルが示されている。
 図26B、図26Cに示されているように、マルチモードフィルタ113と帯域制限フィルタ114を備えるフィルタ112は、対象波長域W内において極大値を示す複数のピーク波長を有し得る。
 すなわち、マルチモードフィルタ113と帯域制限フィルタ114を透過した透過光は少なくとも2つのピーク波長を有し、イメージセンサ160に含まれる光検出素子162の各々は、少なくとも2つのピーク波長を有する透過光を検出し得る。
 上記の4種類の帯域制限フィルタ114を混在させたフィルタアレイ110を用いて、450nmから650nmの波長域に含まれる20の波長バンドのそれぞれについてハイパースペクトル画像を推定した場合の復元誤差を評価した。図27は、20の波長バンドのそれぞれについての推定画像と正解画像との間の平均二乗誤差(MSE)の平均値と、制限帯域における透過率との関係を示すグラフである。図27に示すように、制限帯域における透過率が100%である場合、推定誤差が大きい。これは、帯域制限フィルタ114が存在しないことと同義であるためである。一方、制限帯域における透過率が0%である場合も、制限帯域における輝度情報が欠落することになるため、推定誤差が増大する。図27に示す結果から、帯域制限フィルタ114の制限帯域における透過率は、通過帯域における透過率の10から80%であることが望ましい。この例では、簡単のため、各帯域制限フィルタ114の制限帯域における透過率が波長によらず一定であるものとしているが、一般には、制限帯域内で透過率が波長によって変動し得る。その場合であっても、制限帯域における透過率の平均値を、対象波長域Wにおける透過率の最大値の10から80%の範囲内にすることで、復元誤差を低減することができる。ここで、制限帯域における透過率の平均値は、例えば、その制限帯域に含まれる複数の波長バンドの透過率を平均化することによって計算され得る。以上の結果から、各帯域制限フィルタ114の制限帯域における波長バンドごとの透過率の平均値を、対象波長域Wにおける帯域制限フィルタの最大透過率の10%以上80%以下に設定することで、ハイパースペクトル画像の推定誤差を大きく低減できる。さらに、各帯域制限フィルタ114の制限帯域における波長バンドごとの透過率の平均値を、対象波長域Wにおける帯域制限フィルタの最大透過率の15%以上70%以下に設定した場合には、ハイパースペクトル画像の推定誤差をさらに低減することができる。
 ここで、図26A、もしくは図27に示されているような、帯域制限フィルタ114が、透過率0%となる制限帯域を有するときを考慮する。このとき、マルチモードフィルタ113と帯域制限フィルタ114の両方を透過した光が、対象波長域において、ピークを一つだけもつ場合がある。この場合、イメージセンサから出力される信号は、単一モードフィルタを用いた場合に出力される信号に相当する。この状態は、マルチモードフィルタ113が、対象波長域のうち制限帯域以外に複数のピークをもつこと、あるいは、制限帯域における帯域制限フィルタ114の透過率が0%でなく有意な値(一例として、透過率10%以上の値)をもつこと、のいずれかを満たしていることにより回避することができる。すなわち、イメージセンサ160に含まれる光検出素子162の各々が、複数のピーク波長を有する光に対応する信号を出力することができる。
 以上のように、本開示の例示的な実施形態によるフィルタアレイは、2次元的に配列された複数の光学フィルタを含む。前記複数の光学フィルタは、第1フィルタと第2フィルタとを含む。前記第1フィルタは、光透過率が極大値を示す複数の第1ピーク波長を対象波長域内に有する第1マルチモードフィルタと、前記対象波長域の一部である第1サブ波長域における光の透過を制限する第1帯域制限フィルタと、を含む。前記第2フィルタは、光透過率が極大値を示す複数の第2ピーク波長を前記対象波長域内に有する第2マルチモードフィルタであって、前記複数の第2ピーク波長のうち少なくとも1つは、前記複数の第1ピーク波長の組み合わせとは異なる、第2マルチモードフィルタと、前記対象波長域の一部であって前記第1サブ波長域とは異なる第2サブ波長域における光の透過を制限する第2帯域制限フィルタと、を含む。
 前記フィルタアレイは、例えば、前記対象波長域に含まれる複数の波長バンドのそれぞれの画像データ(すなわちハイパースペクトルデータ)を生成する撮像システムにおいて用いられ得る。上記の構成によれば、フィルタアレイに含まれる複数の光学フィルタの透過率の波長分布および空間分布のランダム性を向上させることが容易になる。これにより、当該フィルタアレイを用いたハイパースペクトル撮像および復元演算によって生成されるハイパースペクトルデータの正確性を向上させることが容易になる。
 前記第1マルチモードフィルタの少なくとも一部及び前記第1帯域制限フィルタは第1光軸上に配置され、前記第2マルチモードフィルタの少なくとも一部及び前記第2帯域制限フィルタは第2光軸上に配置されていてもよい。
 平面視において、前記第1マルチモードフィルタの少なくとも一部は、前記第1帯域制限フィルタと重なっていてもよく、平面視において、前記第2マルチモードフィルタの少なくとも一部は、前記第2帯域制限フィルタと重なっていてもよい。
 前記第1マルチモードフィルタおよび前記第2マルチモードフィルタの各々は、例えば干渉フィルタであり得る。干渉フィルタを用いることにより、対象波長域内に複数のピーク波長を有するマルチモードフィルタを実現することが容易になる。
 ある例において、前記第1マルチモードフィルタおよび前記第2マルチモードフィルタの各々は、干渉層と、前記干渉層に接し、誘電体多層膜である第1反射層とを含んでいてもよい。
 ある例において、前記第1マルチモードフィルタおよび前記第2マルチモードフィルタの各々は、前記干渉層に接し、誘電体多層膜である第2反射層をさらに含んでいてもよく、前記第1マルチモードフィルタおよび前記第2マルチモードフィルタの各々において、前記干渉層は、前記第1反射層と前記第2反射層との間に位置していてもよい。
 このような構造により、対象波長域内に複数のピーク波長を有するマルチモードフィルタをより容易に実現することができる。
 前記第1帯域制限フィルタおよび前記第2帯域制限フィルタの各々は、例えばカラーフィルタであり得る。あるいは、前記第1帯域制限フィルタおよび前記第2帯域制限フィルタの各々は、誘電体多層膜を含むフィルタであってもよい。
 前記第1帯域制限フィルタの前記第1サブ波長域における光透過率の平均値は、前記対象波長域における前記第1帯域制限フィルタの最大光透過率の10%以上80%以下であり得る。同様に、前記第2帯域制限フィルタの前記第2サブ波長域における光透過率の平均値は、前記対象波長域における前記第2帯域制限フィルタの最大光透過率の10%以上80%以下であり得る。ここで、ある波長域における「光透過率の平均値」は、例えば、その波長域に含まれる複数の波長バンドのそれぞれについて計測された光の透過率を平均化することによって計算され得る。上記の条件を満たす帯域制限フィルタを設けることにより、生成されるハイパースペクトルデータの誤差を低減することができる。
 前記第1帯域制限フィルタの前記第1サブ波長域における光透過率の平均値は、前記対象波長域における前記第1帯域制限フィルタの最大光透過率の15%以上70%以下であり得る。同様に、前記第2帯域制限フィルタの前記第2サブ波長域における光透過率の平均値は、前記対象波長域における前記第2帯域制限フィルタの最大光透過率の15%以上70%以下であり得る。このような条件を満たす帯域制限フィルタを設けることにより、生成されるハイパースペクトルデータの誤差をさらに低減することができる。
 前記複数の光学フィルタは、第3フィルタをさらに含み得る。前記第3フィルタは、光透過率が極大値を示す複数の第3ピーク波長を前記対象波長域内に有する第3マルチモードフィルタであって、前記複数の第3ピーク波長のうち少なくとも1つは、前記複数の第1ピーク波長と異なり、複数の第3ピーク波長のうち少なくとも1つは、複数の第2ピーク波長と異なる第3マルチモードフィルタと、前記対象波長域の一部であって前記第1サブ波長域および前記第2サブ波長域のいずれとも異なる第3サブ波長域における光の透過を制限する第3帯域制限フィルタとを含み得る。このような第3フィルタを設けることにより、フィルタアレイの透過率の波長分布および空間分布をさらに多様化でき、復元誤差をさらに低減することが容易になる。
 前記複数のフィルタは、第4フィルタをさらに含んでいてもよい。前記第4フィルタは、光透過率が極大値を示す複数の第4ピーク波長を前記対象波長域内に有する第4マルチモードフィルタであって、前記複数の第4ピーク波長のうち少なくとも1つは、前記複数の第1ピーク波長と異なり、複数の第4ピーク波長のうち少なくとも1つは、複数の第2ピーク波長と異なる、第4マルチモードフィルタを含み得る。第4フィルタは、帯域制限フィルタを含んでいてもよいし、含んでいなくてもよい。このような第4フィルタを設けることにより、フィルタアレイの透過率の波長分布および空間分布をさらに多様化でき、復元誤差をさらに低減することが容易になる。
 前記複数のフィルタは、透過率の波長依存性の異なる4種類以上のフィルタを含んでいてもよい。それらのフィルタの少なくとも一部は、マルチモードフィルタに加えて、帯域制限フィルタを備え得る。マルチモードフィルタの透過スペクトル、および帯域制限フィルタの制限帯域の異なる多くの種類のフィルタを混在させるほど、フィルタアレイの透過スペクトルの多様性が向上し、復元誤差を低減させることができる。
 前記第1マルチモードフィルタおよび前記第1帯域制限フィルタを透過した第1透過光は、前記対象波長域において、少なくとも2つのピーク波長を有し、前記第2マルチモードフィルタおよび前記第2帯域制限フィルタを透過した第2透過光は、前記対象波長域において、少なくとも2つのピーク波長を有していてもよい。
 前記複数の第1ピーク波長のうち少なくとも2つは、前記第1サブ波長域とは異なる波長域に含まれており、前記複数の第2ピーク波長のうち少なくとも2つは、前記第2サブ波長域とは異なる波長域に含まれていてもよい。
 本開示の例示的な実施形態による撮像システムは、上記のいずれかのフィルタアレイを通過した光を受け、前記光に基づく画像信号を出力するイメージセンサと、前記画像信号に基づいて、前記対象波長域に含まれる複数の波長バンドのうちの対応する波長バンドに関する複数の画像データを生成する信号処理装置と、を備え得る。このような撮像システムにより、良好なハイパースペクトルデータを生成することができる。
 本開示の技術は、例えば、多波長の画像を取得するカメラおよび測定機器に有用である。本開示の技術は、例えば、生体・医療・美容向けセンシング、食品の異物・残留農薬検査システム、リモートセンシングシステムおよび車載センシングシステムにも応用できる。
 26  干渉層
 27h 高屈折率層
 27l 低屈折率層
 28a、28b 反射層
 70  対象物
 80  基板
 90  スペーサ層
 100 撮像装置
 110 フィルタアレイ
 112 フィルタ
 113 マルチモードフィルタ
 114 帯域制限フィルタ
 120 圧縮画像
 140 光学系
 160 イメージセンサ
 162 光検出素子
 200 信号処理装置
 220 ハイパースペクトル画像

Claims (15)

  1.  2次元的に配列された複数の光学フィルタを備え、
     前記複数の光学フィルタは、第1フィルタと第2フィルタとを含み、
     前記第1フィルタは、
      光透過率が極大値を示す複数の第1ピーク波長を対象波長域内に有する第1マルチモードフィルタと、
      前記対象波長域の一部である第1サブ波長域における光の透過を制限する第1帯域制限フィルタと、
     を含み、
     前記第2フィルタは、
      光透過率が極大値を示す複数の第2ピーク波長を前記対象波長域内に有し、前記複数の第2ピーク波長のうち少なくとも1つは、前記複数の第1ピーク波長と異なる、第2マルチモードフィルタと、
      前記対象波長域の一部であって前記第1サブ波長域とは異なる第2サブ波長域における光の透過を制限する第2帯域制限フィルタと、
     を含む、
     フィルタアレイ。
  2.  前記第1マルチモードフィルタの少なくとも一部及び前記第1帯域制限フィルタは第1光軸上に配置され、
     前記第2マルチモードフィルタの少なくとも一部及び前記第2帯域制限フィルタは第2光軸上に配置されている、
     請求項1に記載のフィルタアレイ。
  3.  平面視において、前記第1マルチモードフィルタの少なくとも一部は、前記第1帯域制限フィルタと重なり、
     平面視において、前記第2マルチモードフィルタの少なくとも一部は、前記第2帯域制限フィルタと重なる、
     請求項1または2に記載のフィルタアレイ。
  4.  前記第1マルチモードフィルタおよび前記第2マルチモードフィルタの各々は、干渉フィルタである、
     請求項1から3のいずれかに記載のフィルタアレイ。
  5.  前記第1マルチモードフィルタおよび前記第2マルチモードフィルタの各々は、
      干渉層と、
      前記干渉層に接し、誘電体多層膜である第1反射層と、を含む、
     請求項1から4のいずれかに記載のフィルタアレイ。
  6.  前記第1マルチモードフィルタおよび前記第2マルチモードフィルタの各々は、前記干渉層に接し、誘電体多層膜である第2反射層をさらに含み、
     前記第1マルチモードフィルタおよび前記第2マルチモードフィルタの各々において、前記干渉層は、前記第1反射層と前記第2反射層との間に位置する、
     請求項5に記載のフィルタアレイ。
  7.  前記第1帯域制限フィルタおよび前記第2帯域制限フィルタの各々は、カラーフィルタである、
     請求項1から6のいずれかに記載のフィルタアレイ。
  8.  前記第1帯域制限フィルタおよび前記第2帯域制限フィルタの各々は、誘電体多層膜を含む、
     請求項1から6のいずれかに記載のフィルタアレイ。
  9.  前記第1帯域制限フィルタの前記第1サブ波長域における光透過率の平均値は、前記対象波長域における前記第1帯域制限フィルタの最大光透過率の10%以上80%以下であり、
     前記第2帯域制限フィルタの前記第2サブ波長域における光透過率の平均値は、前記対象波長域における前記第2帯域制限フィルタの最大光透過率の10%以上80%以下である、
     請求項1から8のいずれかに記載のフィルタアレイ。
  10.  前記第1帯域制限フィルタの前記第1サブ波長域における前記光透過率の前記平均値は、前記対象波長域における前記第1帯域制限フィルタの前記最大光透過率の15%以上70%以下であり、
     前記第2帯域制限フィルタの前記第2サブ波長域における前記光透過率の前記平均値は、前記対象波長域における前記第2帯域制限フィルタの前記最大光透過率の15%以上70%以下である、
     請求項9に記載のフィルタアレイ。
  11.  前記複数の光学フィルタは、第3フィルタをさらに含み、
     前記第3フィルタは、
      光透過率が極大値を示す複数の第3ピーク波長を前記対象波長域内に有し、前記複数の第3ピーク波長のうち少なくとも1つは、前記複数の第1ピーク波長と異なり、複数の第3ピーク波長のうち少なくとも1つは、複数の第2ピーク波長と異なる、第3マルチモードフィルタと、
      前記対象波長域の一部であって前記第1サブ波長域および前記第2サブ波長域のいずれとも異なる第3サブ波長域における光の透過を制限する第3帯域制限フィルタと、
     を含む、
     請求項1から10のいずれかに記載のフィルタアレイ。
  12.  前記複数のフィルタは、第4フィルタをさらに含み、
     前記第4フィルタは、光透過率が極大値を示す複数の第4ピーク波長を前記対象波長域内に有し、前記複数の第4ピーク波長のうち少なくとも1つは、前記複数の第1ピーク波長と異なり、複数の第4ピーク波長のうち少なくとも1つは、複数の第2ピーク波長と異なる、第4マルチモードフィルタを含む、
     請求項1から11のいずれかに記載のフィルタアレイ。
  13.  前記第1マルチモードフィルタおよび前記第1帯域制限フィルタを透過した第1透過光は、前記対象波長域において、少なくとも2つのピーク波長を有し、
     前記第2マルチモードフィルタおよび前記第2帯域制限フィルタを透過した第2透過光は、前記対象波長域において、少なくとも2つのピーク波長を有する、
     請求項1から12のいずれかに記載のフィルタアレイ。
  14.  前記複数の第1ピーク波長のうち少なくとも2つは、前記第1サブ波長域とは異なる波長域に含まれており、
     前記複数の第2ピーク波長のうち少なくとも2つは、前記第2サブ波長域とは異なる波長域に含まれている、
     請求項1から13のいずれかに記載のフィルタアレイ。
  15.  請求項1から14のいずれかに記載のフィルタアレイと、
     前記フィルタアレイを通過した光を受け、前記光に基づく画像信号を出力するイメージセンサと、
     前記画像信号に基づいて、各々が、前記対象波長域に含まれる複数の波長バンドのうちの対応する波長バンドに関する複数の画像データを生成する信号処理装置と、
     を備える、
     撮像システム。
PCT/JP2021/028235 2020-08-24 2021-07-30 フィルタアレイおよび撮像システム WO2022044692A1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2022545577A JPWO2022044692A1 (ja) 2020-08-24 2021-07-30
US18/162,730 US20230168126A1 (en) 2020-08-24 2023-02-01 Filter array and imaging system

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020140906 2020-08-24
JP2020-140906 2020-08-24

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US18/162,730 Continuation US20230168126A1 (en) 2020-08-24 2023-02-01 Filter array and imaging system

Publications (1)

Publication Number Publication Date
WO2022044692A1 true WO2022044692A1 (ja) 2022-03-03

Family

ID=80353095

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/028235 WO2022044692A1 (ja) 2020-08-24 2021-07-30 フィルタアレイおよび撮像システム

Country Status (3)

Country Link
US (1) US20230168126A1 (ja)
JP (1) JPWO2022044692A1 (ja)
WO (1) WO2022044692A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023106142A1 (ja) * 2021-12-08 2023-06-15 パナソニックIpマネジメント株式会社 信号処理方法、プログラム、およびシステム

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008026346A (ja) * 2006-07-18 2008-02-07 Hokkaido Univ フォトニック結晶を利用した透過型表示装置用カラーフィルター
US20170163901A1 (en) * 2015-12-02 2017-06-08 Industrial Technology Research Institute Multi-point spectral system
JP2018137284A (ja) * 2017-02-20 2018-08-30 ソニーセミコンダクタソリューションズ株式会社 センサ、固体撮像装置及び電子装置
US20190025482A1 (en) * 2016-08-30 2019-01-24 Samsung Electronics Co., Ltd. Optical module and optical device using same
US20190305016A1 (en) * 2018-03-30 2019-10-03 Vishay Capella Microsystems (Taiwan) Limited Multi-spectural light sensor
US20200109991A1 (en) * 2018-10-04 2020-04-09 Imec Vzw Spectral Sensor for Multispectral Imaging

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008026346A (ja) * 2006-07-18 2008-02-07 Hokkaido Univ フォトニック結晶を利用した透過型表示装置用カラーフィルター
US20170163901A1 (en) * 2015-12-02 2017-06-08 Industrial Technology Research Institute Multi-point spectral system
US20190025482A1 (en) * 2016-08-30 2019-01-24 Samsung Electronics Co., Ltd. Optical module and optical device using same
JP2018137284A (ja) * 2017-02-20 2018-08-30 ソニーセミコンダクタソリューションズ株式会社 センサ、固体撮像装置及び電子装置
US20190305016A1 (en) * 2018-03-30 2019-10-03 Vishay Capella Microsystems (Taiwan) Limited Multi-spectural light sensor
US20200109991A1 (en) * 2018-10-04 2020-04-09 Imec Vzw Spectral Sensor for Multispectral Imaging

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023106142A1 (ja) * 2021-12-08 2023-06-15 パナソニックIpマネジメント株式会社 信号処理方法、プログラム、およびシステム

Also Published As

Publication number Publication date
US20230168126A1 (en) 2023-06-01
JPWO2022044692A1 (ja) 2022-03-03

Similar Documents

Publication Publication Date Title
JP6945195B2 (ja) 光学フィルタ、光検出装置、および光検出システム
WO2021085014A1 (ja) フィルタアレイおよび光検出システム
JP6952294B2 (ja) 光検出装置、光検出システム、およびフィルタアレイ
JP7457952B2 (ja) 光検出装置、光検出システム、およびフィルタアレイ
WO2022091769A1 (ja) 光検出装置、構造体の製造方法、および光検出装置の製造方法
US20230073201A1 (en) Filter array and light detection system
US11843876B2 (en) Optical filter array, photodetection device, and photodetection system
WO2022044692A1 (ja) フィルタアレイおよび撮像システム
WO2021235151A1 (ja) フィルタアレイおよび光検出システム
WO2021241122A1 (ja) フィルタアレイおよび光検出システム
WO2023286613A1 (ja) フィルタアレイ、光検出装置、および光検出システム
WO2023106143A1 (ja) 分光画像を生成するシステムに用いられる装置およびフィルタアレイ、分光画像を生成するシステム、ならびにフィルタアレイの製造方法
JP2021110869A (ja) 光学フィルタ、および光検出装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21861120

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2022545577

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 21861120

Country of ref document: EP

Kind code of ref document: A1