WO2022059525A1 - 固体撮像装置及び認識システム - Google Patents

固体撮像装置及び認識システム Download PDF

Info

Publication number
WO2022059525A1
WO2022059525A1 PCT/JP2021/032464 JP2021032464W WO2022059525A1 WO 2022059525 A1 WO2022059525 A1 WO 2022059525A1 JP 2021032464 W JP2021032464 W JP 2021032464W WO 2022059525 A1 WO2022059525 A1 WO 2022059525A1
Authority
WO
WIPO (PCT)
Prior art keywords
pixel
unit
circuit
pixels
rgb
Prior art date
Application number
PCT/JP2021/032464
Other languages
English (en)
French (fr)
Inventor
慶 中川
Original Assignee
ソニーグループ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニーグループ株式会社 filed Critical ソニーグループ株式会社
Priority to US18/043,676 priority Critical patent/US20230326938A1/en
Priority to DE112021004873.2T priority patent/DE112021004873T5/de
Priority to CN202180058030.6A priority patent/CN116057707A/zh
Priority to JP2022550474A priority patent/JPWO2022059525A1/ja
Publication of WO2022059525A1 publication Critical patent/WO2022059525A1/ja

Links

Images

Classifications

    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14643—Photodiode arrays; MOS imagers
    • H01L27/14649—Infrared imagers
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14601—Structural or functional details thereof
    • H01L27/14603—Special geometry or disposition of pixel-elements, address-lines or gate-electrodes
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14601—Structural or functional details thereof
    • H01L27/14609—Pixel-elements with integrated switching, control, storage or amplification elements
    • H01L27/14612—Pixel-elements with integrated switching, control, storage or amplification elements involving a transistor
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14665—Imagers using a photoconductor layer
    • H01L27/14667—Colour imagers
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/17—Colour separation based on photon absorption depth, e.g. full colour resolution obtained simultaneously at each pixel location
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70—SSIS architectures; Circuits associated therewith
    • H04N25/703—SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/705—Pixels for depth measurement, e.g. RGBZ
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70—SSIS architectures; Circuits associated therewith
    • H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/78—Readout circuits for addressed sensors, e.g. output amplifiers or A/D converters
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/30—Transforming light or analogous information into electric information
    • H04N5/33—Transforming infrared radiation
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14601—Structural or functional details thereof
    • H01L27/1462—Coatings
    • H01L27/14621—Colour filter arrangements
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14601—Structural or functional details thereof
    • H01L27/14625—Optical elements or arrangements associated with the device
    • H01L27/14629—Reflectors
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14601—Structural or functional details thereof
    • H01L27/1463—Pixel isolation structures
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14601—Structural or functional details thereof
    • H01L27/1464—Back illuminated imager structures
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only

Definitions

  • This disclosure relates to a solid-state image sensor and a recognition system.
  • this disclosure proposes a solid-state image sensor and a recognition system that enable more secure authentication.
  • the solid-state image pickup apparatus includes a plurality of unit pixels arranged in a matrix and a signal processing circuit for reading a signal from each of the unit pixels.
  • Each of the pixels is arranged on a first surface and is arranged on a first pixel for detecting light in the first wavelength band and a second surface parallel to the first surface and having a second wavelength different from the first wavelength band.
  • a second pixel for detecting band light is provided, and the signal processing circuit is connected to the first pixel and the second pixel in each of the unit pixels, and outputs from the first pixel and the second pixel, respectively.
  • a first conversion circuit for converting the generated analog signal into a digital signal is provided.
  • FIG. 11 is a diagram showing an example of a planar layout of each layer of the pixel array unit according to the first embodiment.
  • CMOS Complementary Metal-Oxide Semiconductor
  • CCD Charge-Coupled Device
  • FIG. 1 is a block diagram showing a schematic configuration example of an electronic device equipped with an image sensor according to the first embodiment.
  • the electronic device 1 includes, for example, an image pickup lens 2, an image sensor 100, a storage unit 3, and a processor 4.
  • the image pickup lens 2 is an example of an optical system that collects incident light and forms an image on the light receiving surface of the image sensor 100.
  • the light receiving surface may be a surface on which the photoelectric conversion units of the image sensor 100 are arranged.
  • the image sensor 100 photoelectrically converts the incident light to generate image data. Further, the image sensor 100 executes predetermined signal processing such as noise reduction and white balance adjustment on the generated image data.
  • the storage unit 3 is composed of, for example, a flash memory, a DRAM (Dynamic Random Access Memory), a SRAM (Static Random Access Memory), or the like, and records image data or the like input from the image sensor 100.
  • the processor 4 is configured by using, for example, a CPU (Central Processing Unit) or the like, and may include an application processor that executes an operating system, various application software, and the like, a GPU (Graphics Processing Unit), a baseband processor, and the like.
  • the processor 4 executes various processes as necessary for the image data input from the image sensor 100, the image data read from the storage unit 3, and the like, displays the image to the user, and establishes a predetermined network. Send to the outside via.
  • a CPU Central Processing Unit
  • the processor 4 executes various processes as necessary for the image data input from the image sensor 100, the image data read from the storage unit 3, and the like, displays the image to the user, and establishes a predetermined network. Send to the outside via.
  • the processor 4 integrates the color image read from the RGB pixel 10 described later and the monochrome image (IR image) read from the IR pixel 20 to perform distance measurement processing and recognition processing. Various processes such as can be executed.
  • FIG. 2 is a block diagram showing a functional configuration example of the recognition system according to the first embodiment.
  • the recognition system 70 includes two types of sensor units, an RGB sensor unit 71 and an IR sensor unit 73. Further, the recognition system 70 includes an RGB image processing unit 72, an IR image processing unit 74, a recognition processing unit 75, and an interface (I / F) unit 76.
  • the RGB sensor unit 71 includes, for example, a plurality of pixels (hereinafter referred to as RGB pixels) having a color filter that transmits the wavelength components of each of the three primary colors of RGB, and is a color image composed of the color components of the three primary colors of RGB (hereinafter referred to as an RGB image). ) Is generated.
  • RGB pixels a plurality of pixels having a color filter that transmits the wavelength components of each of the three primary colors of RGB
  • an RGB image a color image composed of the color components of the three primary colors of RGB
  • the IR sensor unit 73 includes, for example, a plurality of pixels (hereinafter referred to as IR pixels) including an IR filter that transmits infrared (IR) light, and is a monochrome image composed of color components of IR light (hereinafter referred to as IR image). ) Is generated.
  • IR pixels a plurality of pixels including an IR filter that transmits infrared (IR) light
  • IR image a monochrome image composed of color components of IR light
  • the RGB image processing unit 72 executes predetermined signal processing such as noise removal, white balance adjustment, and pixel interpolation for the RGB image data input from the RGB sensor unit 71.
  • the IR image processing unit 74 executes predetermined signal processing such as noise removal and white balance adjustment on the IR image data input from the IR sensor unit 73.
  • the recognition processing unit 75 uses the RGB image data input from the RGB image processing unit 72 and / or the IR image data input from the IR image processing unit 74 to image the image of the RGB sensor unit 71 and / or the IR sensor unit 73. Executes recognition processing for objects existing in the corner.
  • a recognition process such as pattern recognition, a recognition process by artificial intelligence (AI), or the like may be used.
  • AI artificial intelligence
  • deep learning using a neural network such as CNN (Convolution Neural Network) or RNN (Recurrent Neural Network) may be applied to the recognition process by AI.
  • the recognition processing unit 75 may execute a part of the recognition processing and output the result (intermediate data or the like).
  • the interface unit 76 uses the recognition result (including intermediate data and the like) obtained by the recognition processing unit 75 and the image data acquired by the RGB sensor unit 71 and / or the IR sensor unit 73 as an external example, the processor 4 and / or. Output to the storage unit 3.
  • the RGB image processing unit 72 executes the area determination of the object with respect to the RGB image data, and the information such as the address for designating the region of interest (Region of Interest: ROI) obtained as a result (hereinafter, simply ROI). Information) may be input to the IR sensor unit 73 and / or the IR image processing unit 74.
  • the IR sensor unit 73 may operate so as to acquire IR image data in a region corresponding to the ROI information input from the RGB image processing unit 72.
  • the IR image processing unit 74 may execute processing such as trimming of a region corresponding to the ROI information input from the RGB image processing unit 72 on the IR image data input from the IR sensor unit 73.
  • FIG. 3 is a block diagram showing a schematic configuration example of the image sensor according to the first embodiment.
  • the image sensor 100 includes, for example, a pixel array unit 101, an RGB pixel drive circuit 102A, an IR pixel drive circuit 102B, an RGB signal processing circuit 103A, and an IR signal processing circuit. It includes 103B, a column drive circuit 104, a system control circuit 105, an RGB data processing unit 108A, and an IR data processing unit 108B.
  • the pixel array unit 101, the RGB pixel drive circuit 102A, the RGB signal processing circuit 103A, the column drive circuit 104, and the system control circuit 105 form, for example, the RGB sensor unit 71 in FIG. 2, the pixel array unit 101, and the IR pixel drive circuit.
  • the 102B, the IR signal processing circuit 103B, the column drive circuit 104, and the system control circuit 105 form, for example, the IR sensor unit 73 in FIG. 2.
  • the RGB signal processing circuit 103A and the RGB data processing unit 108A constitute, for example, the RGB image processing unit 72 in FIG. 2
  • the IR signal processing circuit 103B and the IR data processing unit 108B form, for example, the IR image processing in FIG. 2.
  • the recognition processing unit 75 in FIG. 2 may be realized by the processor 4 alone, may be realized by linking the RGB data processing unit 108A and the IR data processing unit 108B with the processor 4, or RGB. It may be realized by linking the data processing unit 108A and the IR data processing unit 108B.
  • the pixel array unit 101 has a configuration in which unit pixels 110 are arranged in a row direction and a column direction, that is, in a two-dimensional grid pattern (also referred to as a matrix pattern).
  • the row direction means the arrangement direction of the pixels in the pixel row (in the drawing, the horizontal direction)
  • the column direction means the arrangement direction of the pixels in the pixel row (in the drawing, the vertical direction).
  • Each unit pixel 110 includes an RGB pixel 10 and an IR pixel 20.
  • the RGB pixel 10 and the IR pixel 20 may be simply referred to as pixels.
  • the specific circuit configuration and pixel structure of the unit pixel 110 will be described later, but each of the RGB pixels 10 and the IR pixels 20 is provided with a photoelectric conversion unit that generates and stores charges according to the amount of received light, and is incident. A pixel signal with a voltage corresponding to the amount of light is generated.
  • the pixel drive lines LD1 and LD2 are wired along the row direction for each pixel row with respect to the matrix-shaped pixel array, and the vertical signal lines VSL1 and VSL2 are wired along the column direction for each pixel row.
  • the pixel drive line LD1 is connected to the RGB pixel 10 of each line
  • the pixel drive line LD2 is connected to the IR pixel 20 of each line.
  • the vertical signal line VSL1 is connected to the RGB pixels 10 in each row
  • the vertical signal line VSL2 is connected to the IR pixels 20 in each row.
  • the present invention is not limited to this, and the pixel drive lines LD1 and LD2 may be wired so as to be orthogonal to each other.
  • the vertical signal lines VSL1 and VSL2 may be wired so as to be orthogonal to each other.
  • the pixel drive line LD1 may be wired in the row direction
  • the pixel drive line LD2 may be wired in the column direction
  • the vertical signal line VSL1 may be wired in the column direction
  • the vertical signal line VSL2 may be wired in the row direction.
  • the pixel drive line LD1 transmits a control signal for driving when reading a pixel signal from the RGB pixel 10.
  • the pixel drive line LD2 transmits a control signal for driving when reading a pixel signal from the IR pixel 20.
  • the pixel drive lines LD1 and LD2 are shown as one wiring each, but the wiring is not limited to one.
  • One end of the pixel drive line LD1 is connected to the output end corresponding to each line of the RGB pixel drive circuit 102A, and one end of the pixel drive line LD2 is connected to the output end corresponding to each line of the IR pixel drive circuit 102B.
  • Each of the RGB pixel drive circuit 102A and the IR pixel drive circuit 102B is configured by a shift register, an address decoder, or the like, and drives each pixel of the pixel array unit 101 simultaneously or row by row. That is, the RGB pixel drive circuit 102A constitutes a drive unit that controls the operation of each RGB pixel 10 of the pixel array unit 101 together with the system control circuit 105 that controls the RGB pixel drive circuit 102A, and the IR pixel drive circuit 102B Along with the system control circuit 105 that controls the IR pixel drive circuit 102B, a drive unit that controls the operation of each IR pixel 20 of the pixel array unit 101 is configured.
  • the RGB pixel drive circuit 102A and the IR pixel drive circuit 102B are generally provided with two scanning systems, a read scanning system and a sweep scanning system, although the specific configuration thereof is not shown.
  • the read scanning system selectively scans each pixel of the pixel array unit 101 row by row in order to read a signal from each pixel.
  • the pixel signal read from each pixel is an analog signal.
  • the sweep scan system performs sweep scan for the read row on which read scan is performed by the read scan system, ahead of the read scan by the exposure time.
  • the photoelectric conversion unit is reset by sweeping out unnecessary charges from the photoelectric conversion unit of each pixel in the read row. Then, by sweeping out (resetting) unnecessary charges with this sweeping scanning system, a so-called electronic shutter operation is performed.
  • the electronic shutter operation refers to an operation in which the electric charge of the photoelectric conversion unit is discarded and a new exposure is started (charge accumulation is started).
  • the signal read by the read operation by the read scanning system corresponds to the amount of light received after the read operation or the electronic shutter operation immediately before that.
  • the period from the read timing by the immediately preceding read operation or the sweep timing by the electronic shutter operation to the read timing by the current read operation is the charge accumulation period (also referred to as an exposure period) in each pixel.
  • the pixel signal output from each of the RGB pixels 10 in the pixel row selected and scanned by the RGB pixel drive circuit 102A is input to the RGB signal processing circuit 103A through each of the vertical signal lines VSL1 for each pixel column.
  • the RGB signal processing circuit 103A performs predetermined signal processing on the pixel signal output from each RGB pixel 10 in the selected row through the vertical signal line VSL1 for each pixel row of the pixel array unit 101, and after the signal processing, the pixel signal is processed. Temporarily holds the pixel signal.
  • the pixel signal output from each IR pixel 20 in the pixel row selectively scanned by the IR pixel drive circuit 102B is input to the IR signal processing circuit 103B through each of the vertical signal lines VSL2 for each pixel column.
  • the IR signal processing circuit 103B performs predetermined signal processing on the pixel signal output from each IR pixel 20 in the selected row through the vertical signal line VSL2 for each pixel row of the pixel array unit 101, and after the signal processing, the IR signal processing circuit 103B performs predetermined signal processing. Temporarily hold the pixel signal.
  • each of the RGB signal processing circuit 103A and the IR signal processing circuit 103B has at least noise reduction processing, for example, CDS (Correlated Double Sampling) processing and DDS (Double Data Sampling) processing as signal processing. I do.
  • CDS Correlated Double Sampling
  • DDS Double Data Sampling
  • the CDS process removes pixel-specific fixed pattern noise such as reset noise and threshold variation of the amplification transistor in the pixel.
  • Each of the RGB signal processing circuit 103A and the IR signal processing circuit 103B also has, for example, an AD (analog-digital) conversion function, and converts an analog pixel signal read from a photoelectric conversion unit into a digital signal. Output.
  • AD analog-digital
  • the column drive circuit 104 is composed of a shift register, an address decoder, and the like, and sequentially selects a read circuit (hereinafter referred to as a pixel circuit) corresponding to the pixel strings of the RGB signal processing circuit 103A and the IR signal processing circuit 103B.
  • a read circuit hereinafter referred to as a pixel circuit
  • the pixel signals processed by the RGB signal processing circuit 103A and the IR signal processing circuit 103B are sequentially output for each pixel circuit.
  • the system control circuit 105 is configured by a timing generator or the like that generates various timing signals, and based on the various timings generated by the timing generator, the RGB pixel drive circuit 102A, the IR pixel drive circuit 102B, and the RGB signal processing circuit Drive control is performed on the 103A, the IR signal processing circuit 103B, the column drive circuit 104, and the like.
  • Each of the RGB data processing unit 108A and the IR data processing unit 108B has at least an arithmetic processing function, and various signal processing such as arithmetic processing for the image signal output from the RGB signal processing circuit 103A or the IR signal processing circuit 103B. I do.
  • the image data output from the RGB data processing unit 108A or the IR data processing unit 108B is, for example, executed by a processor 4 or the like in the electronic device 1 equipped with the image sensor 100, or is external via a predetermined network. It may be sent to.
  • the image sensor 100 includes data required for signal processing in the RGB data processing unit 108A and the IR data processing unit 108B, the RGB signal processing circuit 103A, the IR signal processing circuit 103B, the RGB data processing unit 108A, and the IR data processing unit.
  • a storage unit for temporarily holding data or the like processed by any one or more of 108B may be provided.
  • FIG. 4 is a block diagram showing a schematic configuration example of an image sensor according to a modification of the first embodiment.
  • a case where separate signal processing circuits (RGB signal processing circuit 103A and IR signal processing circuit 103B) are provided for each of the RGB pixel 10 and the IR pixel 20 is illustrated, but the present invention is not limited to this.
  • unit pixel 110 includes an RGB pixel 10 for acquiring an RGB image of the three primary colors of RGB and an IR pixel 20 for acquiring an IR image of infrared (IR) light
  • RGB pixel 10 for acquiring an RGB image of the three primary colors of RGB
  • IR pixel 20 for acquiring an IR image of infrared (IR) light
  • the reference numeral is 31.
  • FIG. 5 is a schematic diagram showing a schematic configuration example of the pixel array unit according to the first embodiment.
  • unit pixels 110 having a structure in which unit pixels 110 composed of RGB pixels 10 and IR pixels 20 are arranged along the incident direction of light are arranged in a two-dimensional grid pattern. It has a configuration. That is, in the present embodiment, the RGB pixels 10 and the IR pixels 20 are located in the direction perpendicular to the arrangement direction (planar direction) of the unit pixels 110, and the RGB pixels 10 are located on the upstream side in the optical path of the incident light.
  • the light transmitted through the image is configured to enter the IR pixel 20 located on the downstream side of the RGB pixel 10.
  • the photoelectric conversion unit PD2 of the IR pixel 20 is arranged on the surface side opposite to the incident surface of the incident light in the photoelectric conversion unit PD1 of the RGB pixel 10.
  • the optical axes of the incident light of the RGB pixels 10 and the IR pixels 20 arranged along the incident direction of the light are coincident or substantially the same.
  • the photoelectric conversion unit PD1 constituting the RGB pixel 10 is composed of an organic material and the photoelectric conversion unit PD2 constituting the IR pixel 20 is composed of a semiconductor material such as silicon will be exemplified.
  • both the photoelectric conversion unit PD1 and the photoelectric conversion unit PD2 may be made of a semiconductor material, or both the photoelectric conversion unit PD1 and the photoelectric conversion unit PD2 may be made of an organic material, or the photoelectric conversion unit may be made of an organic material.
  • the part PD1 may be made of a semiconductor material, and the photoelectric conversion part PD2 may be made of an organic material.
  • at least one of the photoelectric conversion unit PD1 and the photoelectric conversion unit PD2 may be made of a photoelectric conversion material different from the organic material and the semiconductor material.
  • FIG. 6 is a circuit diagram showing a schematic configuration example of a unit pixel according to the first embodiment.
  • the unit pixel 110 includes one RGB pixel 10 and one IR pixel 20.
  • the RGB pixel 10 includes, for example, a photoelectric conversion unit PD1, a transfer gate 11, a floating diffusion region FD1, a reset transistor 12, an amplification transistor 13, and a selection transistor 14.
  • the selection control line included in the pixel drive line LD1 is connected to the gate of the selection transistor 14, and the reset control line included in the pixel drive line LD1 is connected to the gate of the reset transistor 12, which will be described later.
  • a transfer control line included in the pixel drive line LD1 is connected to the storage electrode (see the storage electrode 37 in FIG. 10 described later).
  • a vertical signal line VSL1 having one end connected to the RGB signal processing circuit 103A is connected to the drain of the amplification transistor 13 via the selection transistor 14.
  • the reset transistor 12, the amplification transistor 13, and the selection transistor 14 are collectively referred to as a pixel circuit.
  • the pixel circuit may include a stray diffusion region FD1 and / or a transfer gate 11.
  • the photoelectric conversion unit PD1 is made of, for example, an organic material, and performs photoelectric conversion of incident light.
  • the transfer gate 11 transfers the electric charge generated in the photoelectric conversion unit PD1.
  • the floating diffusion region FD1 accumulates the electric charge transferred by the transfer gate 11.
  • the amplification transistor 13 causes a pixel signal having a voltage value corresponding to the electric charge stored in the stray diffusion region FD1 to appear on the vertical signal line VSL1.
  • the reset transistor 12 emits the electric charge accumulated in the stray diffusion region FD1.
  • the selection transistor 14 selects the RGB pixel 10 to be read.
  • the anode of the photoelectric conversion unit PD1 is grounded, and the cascade is connected to the transfer gate 11.
  • the details of the transfer gate 11 will be described later with reference to FIG. 10, but the transfer gate 11 includes, for example, a storage electrode 37 and a read electrode 36.
  • a voltage for collecting the electric charge generated in the photoelectric conversion unit PD1 in the semiconductor layer 35 in the vicinity of the storage electrode 37 is applied to the storage electrode 37 via the transfer control line.
  • a voltage for causing the electric charge collected in the semiconductor layer 35 in the vicinity of the storage electrode 37 to flow out through the reading electrode 36 is applied to the storage electrode 37 via the transfer control line.
  • the electric charge flowing out through the read electrode 36 is accumulated in the stray diffusion region FD1 configured by the wiring structure connecting the read electrode 36, the source of the reset transistor 12, and the gate of the amplification transistor 13.
  • the drain of the reset transistor 12 may be connected to, for example, a power supply line to which a reset voltage lower than the power supply voltage VDD or the power supply voltage VDD is supplied.
  • the source of the amplification transistor 13 may be connected to the power line via, for example, a constant current circuit (not shown).
  • the drain of the amplification transistor 13 is connected to the source of the selection transistor 14, and the drain of the selection transistor 14 is connected to the vertical signal line VSL1.
  • the floating diffusion region FD1 converts the accumulated electric charge into a voltage having a voltage value corresponding to the amount of the electric charge.
  • the floating diffusion region FD1 may be, for example, a grounding capacitance.
  • the present invention is not limited to this, and the stray diffusion region FD1 is added by intentionally connecting a capacitor or the like to a node to which the drain of the transfer gate 11 and the source of the reset transistor 12 and the gate of the amplification transistor 13 are connected. It may be a capacity or the like.
  • the vertical signal line VSL1 is connected to an AD (Analog-to-Digital) conversion circuit 103a provided for each column (that is, for each vertical signal line VSL1) in the RGB signal processing circuit 103A.
  • the AD conversion circuit 103a includes, for example, a comparator and a counter, and has a reference voltage such as a single slope or a lamp shape input from an external reference voltage generation circuit (DAC (Digital-to-Analog Converter)) and a vertical signal. By comparing with the pixel signal appearing on the line VSL1, the analog pixel signal is converted into the digital pixel signal.
  • the AD conversion circuit 103a may be provided with, for example, a CDS (Correlated Double Sampling) circuit and may be configured to be able to reduce kTC noise and the like.
  • the IR pixel 20 includes, for example, a photoelectric conversion unit PD2, a transfer transistor 21, a floating diffusion region FD2, a reset transistor 22, an amplification transistor 23, a selection transistor 24, and an emission transistor 25. That is, in the IR pixel 20, the transfer gate 11 in the RGB pixel 10 is replaced with the transfer transistor 21, and the emission transistor 25 is added.
  • connection relationship between the stray diffusion region FD2, the reset transistor 22 and the amplification transistor 23 with respect to the transfer transistor 21 may be the same as the connection relationship between the stray diffusion region FD1, the reset transistor 12 and the amplification transistor 13 with respect to the transfer gate 11 in the RGB pixel 10. .. Further, the connection relationship between the amplification transistor 23, the selection transistor 24, and the vertical signal line VSL2 may be the same as the connection relationship between the amplification transistor 13 and the selection transistor 14 and the vertical signal line VSL1 in the RGB pixel 10.
  • the source of the transfer transistor 21 is connected to, for example, the cathode of the photoelectric conversion unit PD2, and the drain is connected to the floating diffusion region FD2. Further, a transfer control line included in the pixel drive line LD2 is connected to the gate of the transfer transistor 21.
  • the source of the emission transistor 25 may be connected to, for example, the cathode of the photoelectric conversion unit PD2, and the drain may be connected to a power supply line to which a reset voltage lower than the power supply voltage VDD or the power supply voltage VDD is supplied. Further, the emission control line included in the pixel drive line LD2 is connected to the gate of the emission transistor 25.
  • the reset transistor 22, the amplification transistor 23, and the selection transistor 24 are collectively referred to as a pixel circuit.
  • This pixel circuit may include one or more of the stray diffusion region FD2, the transfer transistor 21, and the emission transistor 25.
  • the photoelectric conversion unit PD2 is made of, for example, a semiconductor material, and performs photoelectric conversion of incident light.
  • the transfer transistor 21 transfers the electric charge generated in the photoelectric conversion unit PD2.
  • the floating diffusion region FD2 accumulates the electric charge transferred by the transfer transistor 21.
  • the amplification transistor 23 causes a pixel signal having a voltage value corresponding to the electric charge accumulated in the stray diffusion region FD2 to appear on the vertical signal line VSL2.
  • the reset transistor 22 emits the electric charge accumulated in the stray diffusion region FD2.
  • the selection transistor 24 selects the IR pixel 20 to be read.
  • the anode of the photoelectric conversion unit PD2 is grounded, and the cascade is connected to the transfer transistor 21.
  • the drain of the transfer transistor 21 is connected to the source of the reset transistor 22 and the gate of the amplification transistor 23, and the wiring structure connecting these constitutes the floating diffusion layer FD2.
  • the electric charge flowing out from the photoelectric conversion unit PD2 via the transfer transistor 21 is accumulated in the floating diffusion region FD2.
  • the floating diffusion region FD2 converts the accumulated electric charge into a voltage having a voltage value corresponding to the amount of the electric charge.
  • the floating diffusion region FD2 may be, for example, a grounding capacity.
  • the present invention is not limited to this, and the stray diffusion region FD2 is added by intentionally connecting a capacitor or the like to a node to which the drain of the transfer transistor 21, the source of the reset transistor 22, and the gate of the amplification transistor 23 are connected. It may be a capacity or the like.
  • the discharge transistor 25 is turned on when the charge accumulated in the photoelectric conversion unit PD2 is discharged and the photoelectric conversion unit PD2 is reset. As a result, the electric charge accumulated in the photoelectric conversion unit PD2 flows out to the power supply line via the discharge transistor 25, and the photoelectric conversion unit PD2 is reset to an unexposed state.
  • the vertical signal line VSL2 is connected to the AD conversion circuit 103a provided for each column (that is, for each vertical signal line VSL2) in the IR signal processing circuit 103B.
  • FIG. 7 is a circuit diagram showing a schematic configuration example of a unit pixel according to the first modification of the first embodiment.
  • the unit pixel 110-1 is configured so that the vertical signal lines VSL1 and VSL2 are connected to a common AD conversion circuit 103a in the same configuration as the unit pixel 110 shown in FIG. .. Therefore, in the first modification, a switch circuit 131 for switching the vertical signal line connected to the AD conversion circuit 103a to either the vertical signal lines VSL1 or VSL2 is provided.
  • the switch circuit 131 may be configured to be included in, for example, the RGB signal processing circuit 103A and the IR signal processing circuit 103B or the common signal processing circuit 103.
  • the switch circuit 131 may be provided, for example, on the same semiconductor substrate as the pixel circuit of the RGB pixel 10 and / or the IR pixel 20, or may be provided on the semiconductor substrate in which the signal processing circuit is arranged. It may be provided on a semiconductor substrate different from these. Further, the control signal for controlling the switch circuit 131 may be supplied from the RGB pixel drive circuit 102A or the IR pixel drive circuit 102B, may be supplied from the column drive circuit 104, or may be supplied from another configuration (for example, FIG. 1). It may be supplied from the processor 4 etc. in.
  • the RGB signal processing circuit 103A and the IR signal processing circuit 103B can be replaced with a common signal processing circuit, whereby the circuit scale can be reduced, and thus the area efficiency is improved. This makes it possible to reduce the size and increase the resolution of the image sensor 100.
  • FIG. 8 is a circuit diagram showing a schematic configuration example of a unit pixel according to a second modification of the first embodiment.
  • the unit pixel 110-2 has the same configuration as the unit pixel 110 shown in FIG. 6 so that each of the vertical signal lines VSL1 and VSL2 can be connected to one of the two AD conversion circuits 103a. It is configured in. Therefore, in the second modification, the switch circuit 132 that switches the vertical signal line connected to the AD conversion circuit 103a to either the vertical signal lines VSL1 or VSL2 and the vertical signal line connected to the AD conversion circuit 103a are vertical.
  • a switch circuit 133 for switching to either the signal line VSL1 or VSL2 is provided.
  • the switch circuits 132 and 133 may be configured to be included in, for example, the RGB signal processing circuit 103A and the IR signal processing circuit 103B or the common signal processing circuit 103. Further, the switch circuits 132 and 133 may be provided, for example, on the same semiconductor substrate as the pixel circuit of the RGB pixel 10 and / or the IR pixel 20, and the RGB signal processing circuit 103A and the IR signal processing circuit 103B are arranged. It may be provided on a semiconductor substrate, or may be provided on a semiconductor substrate different from these.
  • control signal for controlling the switch circuits 132 and 133 may be supplied from the RGB pixel drive circuit 102A or the IR pixel drive circuit 102B, may be supplied from the column drive circuit 104, or may be supplied from another configuration (for example,). It may be supplied from the processor 4 etc. in FIG. 1).
  • the AD conversion circuit 103a to be used for each column can be selected from a plurality of (two in this example), so that deterioration of image quality due to noise generation such as streaking is suppressed. Is possible.
  • FIG. 9 is a circuit diagram showing a schematic configuration example of a unit pixel according to a third modification of the first embodiment.
  • the unit pixel 110-3 has a plurality of RGB pixels 10-1 to 10-N (N is 2 or more) in the same configuration as the unit pixel 110-2 shown in FIG. 8 with respect to the RGB pixel 10.
  • a so-called pixel-sharing circuit structure that shares the floating diffusion region FD1, the reset transistor 12, the amplification transistor 13, and the selection transistor 14 in the floating diffusion region FD1).
  • the unit pixel 110-3 also has the same configuration as the unit pixel 110-2 shown in FIG. 8 for the IR pixel 20, and the floating diffusion region FD2 has a plurality of IR pixels 20-1 to 20-N. It has a so-called pixel-sharing circuit structure that shares the reset transistor 22, the amplification transistor 23, and the selection transistor 24.
  • the number of RGB pixels 10-1 to 10-N and the number of IR pixels 20-1 to 20-N do not necessarily have to match.
  • FIG. 10 is a cross-sectional view showing an example of a cross-sectional structure of the image sensor according to the first embodiment.
  • FIG. 10 is a cross-sectional view showing an example of a cross-sectional structure of the image sensor according to the first embodiment.
  • an example of the cross-sectional structure of the semiconductor chip in which the photoelectric conversion units PD1 and PD2 are formed in the unit pixel 110 will be described.
  • a so-called back-illuminated cross-sectional structure in which the incident surface of light is the back surface side (opposite the element forming surface) of the semiconductor substrate 50 is exemplified, but the present invention is not limited to this, and the incident surface of light is incident. It may have a so-called surface-illuminated cross-sectional structure in which the surface is the surface side (element forming surface side) of the semiconductor substrate 50.
  • the photoelectric conversion materials of the photoelectric conversion units PD1 and PD2 are organic materials and semiconductors. One or both of the materials (also referred to as inorganic materials) may be used.
  • the image sensor 100 uses the same semiconductor substrate 50 for the photoelectric conversion unit PD1 and the photoelectric conversion unit PD2. It may have a built-in cross-sectional structure, or it may have a cross-sectional structure in which a semiconductor substrate in which the photoelectric conversion unit PD1 is built and a semiconductor substrate in which the photoelectric conversion unit PD2 is built are bonded together. Further, one of the photoelectric conversion units PD1 and PD2 may have a cross-sectional structure formed in the semiconductor substrate 50 and the other in the semiconductor layer formed on the back surface or the front surface of the semiconductor substrate 50. ..
  • the photoelectric conversion unit PD2 of the IR pixel 20 is formed on the semiconductor substrate 50, and the RGB pixel 10 is formed on the back surface side (opposite the element forming surface) of the semiconductor substrate 50. It has a structure provided with the photoelectric conversion unit PD1 of the above.
  • the back surface of the semiconductor substrate 50 is located on the upper side of the paper surface, and the front surface is located on the lower side.
  • a semiconductor material such as silicon (Si) may be used.
  • Si silicon
  • the present invention is not limited to this, and various semiconductor materials including compound semiconductors such as GaAs, InGaAs, InP, AlGaAs, InGaP, AlGaInP, and InGaAsP may be used.
  • the photoelectric conversion unit PD1 of the RGB pixel 10 is provided on the back surface side of the semiconductor substrate 50 with the insulating layer 53 interposed therebetween.
  • the photoelectric conversion unit PD1 includes, for example, a photoelectric conversion film 34 made of an organic material, a transparent electrode 33 arranged so as to sandwich the photoelectric conversion film 34, and a semiconductor layer 35.
  • the transparent electrode 33 provided on the upper side of the paper surface with respect to the photoelectric conversion film 34 (hereinafter, the upper side of the paper surface is the upper surface side and the lower side is the lower surface side) functions as, for example, the anode of the photoelectric conversion unit PD1.
  • the semiconductor layer 35 provided on the lower surface side functions as a cathode of the photoelectric conversion unit PD1.
  • the semiconductor layer 35 that functions as a cathode is electrically connected to the readout electrode 36 formed in the insulating layer 53.
  • the readout electrode 36 is electrically drawn out to the surface (lower surface) side of the semiconductor substrate 50 by connecting to the wirings 61, 62, 63, and 64 penetrating the insulating layer 53 and the semiconductor substrate 50.
  • the wiring 64 is electrically connected to the floating diffusion region FD1 shown in FIG.
  • a storage electrode 37 is provided on the lower surface side of the semiconductor layer 35 that functions as a cathode with an insulating layer 53 interposed therebetween. Although not shown in FIG. 10, the storage electrode 37 is connected to the transfer control line in the pixel drive line LD1, and as described above, the charge generated in the photoelectric conversion unit PD1 at the time of exposure is stored in the storage electrode 37. A voltage for collecting the electric charge is applied to the semiconductor layer 35 in the vicinity, and at the time of reading, a voltage is applied for causing the electric charge collected in the semiconductor layer 35 in the vicinity of the storage electrode 37 to flow out through the reading electrode 36.
  • the readout electrode 36 and the storage electrode 37 may be a transparent conductive film like the transparent electrode 33.
  • a transparent conductive film such as indium tin oxide (ITO) or zinc oxide (IZO) may be used.
  • ITO indium tin oxide
  • IZO zinc oxide
  • the present invention is not limited to these, and various conductive films may be used as long as they are conductive films capable of transmitting light in the wavelength band to be detected by the photoelectric conversion unit PD2.
  • the semiconductor layer 35 for example, a transparent semiconductor layer such as IGZO may be used.
  • IGZO a transparent semiconductor layer
  • the present invention is not limited to these, and various semiconductor layers may be used as long as they are semiconductor layers capable of transmitting light in the wavelength band to be detected by the photoelectric conversion unit PD2.
  • an insulating film such as a silicon oxide film (SiO 2 ) or a silicon nitride film (SiN) may be used.
  • SiO 2 silicon oxide film
  • SiN silicon nitride film
  • the present invention is not limited to these, and various insulating films may be used as long as they can transmit light in the wavelength band to be detected by the photoelectric conversion unit PD2.
  • a color filter 31 is provided on the upper surface side of the transparent electrode 33 that functions as an anode with a sealing film 32 interposed therebetween.
  • the sealing film 32 is made of an insulating material such as silicon nitride (SiN), and these atoms are prevented from diffusing atoms such as aluminum (Al) and titanium (Ti) from the transparent electrode 33. May include.
  • the color filters 31 will be described later. For example, for one RGB pixel 10, a color filter 31 that selectively transmits light having a specific wavelength component is provided. However, when a monochrome pixel for acquiring luminance information is provided instead of the RGB pixel 10 for acquiring color information, the color filter 31 may be omitted.
  • the photoelectric conversion unit PD2 of the IR pixel 20 has, for example, a p-type semiconductor region 43 formed in the p-well region 42 of the semiconductor substrate 50 and an n-type semiconductor region 44 formed near the center of the p-type semiconductor region 43. Be prepared.
  • the n-type semiconductor region 44 functions as, for example, a charge storage region for accumulating charges (electrons) generated by photoelectric conversion, and the p-type semiconductor region 43 collects charges generated by photoelectric conversion in the n-type semiconductor region 44. Functions as a region to form a potential gradient for.
  • an IR filter 41 that selectively transmits IR light is arranged on the light incident surface side of the photoelectric conversion unit PD2.
  • the IR filter 41 may be arranged, for example, in the insulating layer 53 provided on the back surface side of the semiconductor substrate 50.
  • a fine uneven structure is provided on the light incident surface of the semiconductor substrate 50 in order to suppress the reflection of the incident light (IR light in this example).
  • This uneven structure may be a so-called moth-eye structure, or may be a uneven structure having a different size and pitch from the moth-eye structure.
  • a vertical transistor 45 that functions as a transfer transistor 21 and a stray diffusion region FD2 that functions as a charge storage portion are provided on the surface (lower surface of the paper surface) side of the semiconductor substrate 50, that is, on the element forming surface side.
  • the gate electrode of the vertical transistor 45 reaches from the surface of the semiconductor substrate 50 to the n-type semiconductor region 44, and is a part of the wirings 65 and 66 (a part of the transfer control line of the pixel drive line LD2) formed in the interlayer insulating film 56. ) Is connected to the IR pixel drive circuit 102B.
  • the electric charge flowing out through the vertical transistor 45 is accumulated in the stray diffusion region FD2.
  • the floating diffusion region FD2 is connected to the source of the reset transistor 22 and the gate of the amplification transistor 23 via the wirings 67 and 68 formed in the interlayer insulating film 56.
  • the reset transistor 22, the amplification transistor 23, and the selection transistor 24 may be provided on the element forming surface of the semiconductor substrate 50, or may be provided on a semiconductor substrate different from the semiconductor substrate 50.
  • FIG. 10 illustrates a case where two vertical transistors 45 (transfer transistors 21) are provided for one photoelectric conversion unit PD2, but the present invention is not limited to this, and one vertical transistor is not limited to this. 45 may be provided, or three or more vertical transistors 45 may be provided.
  • the case where two floating diffusion regions FD2 are provided for one photoelectric conversion unit PD2 is exemplified, but the present invention is not limited to this, and one floating diffusion region FD2 may be provided. Three or more floating diffusion regions FD2 may be provided.
  • the semiconductor substrate 50 is provided with a pixel separation unit 54 that electrically separates between a plurality of unit pixels 110, and a photoelectric conversion unit PD2 is provided in each region partitioned by the pixel separation unit 54. ..
  • the pixel separation unit 54 has, for example, a grid shape interposed between a plurality of unit pixels 110, and each photoelectric.
  • the conversion unit PD2 is formed in each region partitioned by the pixel separation unit 54.
  • a reflective film that reflects light such as tungsten (W) or aluminum (Al) may be used.
  • the incident light that has entered the photoelectric conversion unit PD2 can be reflected by the pixel separation unit 54, so that the optical path length of the incident light in the photoelectric conversion unit PD2 can be lengthened.
  • the pixel separation unit 54 by forming the pixel separation unit 54 with a light reflection structure, it is possible to reduce leakage of light to adjacent pixels, so that it is possible to further improve image quality, distance measurement accuracy, and the like.
  • the configuration in which the pixel separation unit 54 has a light reflection structure is not limited to the configuration using a reflective film, and can be realized, for example, by using a material having a refractive index different from that of the semiconductor substrate 50 for the pixel separation unit 54. can.
  • a fixed charge film 55 is provided between the semiconductor substrate 50 and the pixel separation unit 54.
  • the fixed charge film 55 uses, for example, a high dielectric having a negative fixed charge so that a positive charge (hole) storage region is formed at the interface with the semiconductor substrate 50 and the generation of dark current is suppressed. It is formed. Since the fixed charge film 55 is formed so as to have a negative fixed charge, an electric field is applied to the interface with the semiconductor substrate 138 due to the negative fixed charge, and a positive charge (hole) storage region is formed.
  • the fixed charge film 55 can be formed of, for example, a hafnium oxide film (HfO 2 film). Further, the fixed charge film 55 can be formed so as to contain at least one of other oxides such as hafnium, zirconium, aluminum, tantalum, titanium, magnesium, yttrium, and lanthanoid element.
  • hafnium oxide film HfO 2 film
  • other oxides such as hafnium, zirconium, aluminum, tantalum, titanium, magnesium, yttrium, and lanthanoid element.
  • FIG. 10 illustrates a case where the pixel separating portion 54 has a so-called FTI (Full Trench Isolation) structure in which the pixel separating portion 54 reaches from the front surface to the back surface of the semiconductor substrate 50, but the present invention is not limited to this, and for example, pixels. It is possible to adopt various element separation structures such as a so-called DTI (Deep Trench Isolation) structure in which the separation portion 54 is formed from the back surface or the front surface of the semiconductor substrate 50 to the vicinity of the middle part of the semiconductor substrate 50.
  • FTI Frull Trench Isolation
  • the upper surface of the flattening film 52 is flattened by, for example, CMP (Chemical Mechanical Polishing), and an on-chip lens 51 for each unit pixel 110 is provided on the flattened upper surface.
  • the on-chip lens 51 of each unit pixel 110 has a curvature that collects incident light on the photoelectric conversion units PD1 and PD2.
  • the positional relationship between the on-chip lens 51, the color filter 31, the IR filter 41, and the photoelectric conversion unit PD2 in each unit pixel 110 is adjusted according to, for example, the distance (image height) from the center of the pixel array unit 101. May (pupil correction).
  • a light-shielding film may be provided to prevent light incident obliquely from leaking to adjacent pixels.
  • the light-shielding film may be located above the pixel separation portion 54 provided inside the semiconductor substrate 50 (upstream side in the optical path of the incident light).
  • the position of the light-shielding film may be adjusted according to, for example, the distance (image height) from the center of the pixel array unit 101.
  • Such a light-shielding film may be provided in, for example, the sealing film 32 or the flattening film 52.
  • a light-shielding material such as aluminum (Al) or tungsten (W) may be used as the material of the light-shielding film.
  • the layer structure of the photoelectric conversion film 34 can be as follows. However, in the case of a laminated structure, the stacking order can be changed as appropriate.
  • (1) Single-layer structure of p-type organic semiconductor (2) Single-layer structure of n-type organic semiconductor (3-1) Laminated structure of p-type organic semiconductor layer / n-type organic semiconductor layer (3-2) p-type organic semiconductor Layer / Mixed layer of p-type organic semiconductor and n-type organic semiconductor (bulk heterostructure) / Laminated structure of n-type organic semiconductor layer (3-3) p-type organic semiconductor layer / p-type organic semiconductor and n-type organic semiconductor Laminated structure of mixed layer (bulk heterostructure) (3-4) Laminated structure of n-type organic semiconductor layer / mixed layer of p-type organic semiconductor and n-type organic semiconductor (bulk heterostructure) (4) p-type organic semiconductor and p-type Mixed layer with organic semiconductor (
  • n-type organic semiconductor examples include fullerenes and fullerene derivatives (for example, fullerenes such as C60, C70 and C74 (higher-order fullerenes, encapsulated fullerenes, etc.) or fullerenes derivatives (eg, fullerene fluorides, PCBM fullerene compounds, fullerene multimers, etc.).
  • fullerenes and fullerene derivatives for example, fullerenes such as C60, C70 and C74 (higher-order fullerenes, encapsulated fullerenes, etc.) or fullerenes derivatives (eg, fullerene fluorides, PCBM fullerene compounds, fullerene multimers, etc.).
  • fullerenes and fullerene derivatives for example, fullerenes such as C60, C70 and C74 (higher-order fullerenes, encapsulated fullerenes, etc.) or fuller
  • n-type organic semiconductor examples include heterocyclic compounds containing a nitrogen atom, an oxygen atom, and a sulfur atom, such as a pyridine derivative, a pyrazine derivative, a pyrimidine derivative, a triazine derivative, a quinoline derivative, a quinoxalin derivative, an isoquinolin derivative, and an acridin.
  • Derivatives phenazine derivatives, phenanthroline derivatives, tetrazole derivatives, pyrazole derivatives, imidazole derivatives, thiazole derivatives, oxazole derivatives, imidazole derivatives, benzimidazole derivatives, benzotriazole derivatives, benzoxazole derivatives, benzoxazole derivatives, carbazole derivatives, benzofuran derivatives, dibenzofuran derivatives , Subporphyrazine derivative, polyphenylene vinylene derivative, polybenzothianazole derivative, polyfluorene derivative and the like as a part of the molecular skeleton, organic molecule, organic metal complex and subphthalocyanine derivative can be mentioned.
  • Examples of the group contained in the fullerene derivative include a halogen atom; a linear, branched or cyclic alkyl group or phenyl group; a group having a linear or condensed aromatic compound; a group having a halide; a partial fluoroalkyl group; Fluoroalkyl group; silylalkyl group; silylalkoxy group; arylsilyl group;arylsulfanyl group;alkylsulfanyl group;arylsulfonyl group;alkylsulfonyl group;arylsulfide group;alkylsulfide group;amino group;alkylamino group;arylamino group Hydroxy group; alkoxy group; acylamino group; acyloxy group; carbonyl group; carboxy group; carboxoamide group; carboalkoxy group; acyl group; sulfonyl group; cyano group; nitro group; group having
  • the film thickness of the photoelectric conversion film 34 made of the above organic materials is not limited to the following values, but is, for example, 1 ⁇ 10-8 m (meters) to 5 ⁇ 10-7 . m, preferably 2.5 ⁇ 10 -8 m to 3 ⁇ 10 -7 m, more preferably 2.5 ⁇ 10 -8 m to 2 ⁇ 10 -7 m, and even more preferably 1 ⁇ 10 -7 . M to 1.8 ⁇ 10-7 m can be exemplified.
  • Organic semiconductors are often classified into p-type and n-type, but p-type means that holes are easily transported, and n-type means that electrons are easily transported, and they are inorganic. It is not limited to the interpretation that it has holes or electrons as a majority carrier of thermal excitation like a semiconductor.
  • Examples of the material constituting the photoelectric conversion film 34 that photoelectrically converts light having a green wavelength include rhodamine-based dyes, melancyanine-based dyes, quinacridone derivatives, subphthalocyanine-based dyes (subphthalocyanine derivatives), and the like.
  • examples of the material constituting the photoelectric conversion film 34 for photoelectric conversion of blue light include coumalic acid dye, tris-8-hydroxyquinolialuminum (Alq3), and melanin-based dye.
  • examples of the material constituting the photoelectric conversion film 34 for photoelectric conversion of red light include a phthalocyanine dye and a subphthalocyanine dye (subphthalocyanine derivative).
  • the photoelectric conversion film 34 it is also possible to use a panchromatic photosensitive organic photoelectric conversion film that is sensitive to almost all visible light from the ultraviolet region to the red region.
  • FIG. 11A and 11B are views showing a plane layout example of each layer of the pixel array portion according to the first embodiment
  • FIG. 11A shows a plane layout example of the on-chip lens 51
  • FIG. 11B shows a plane layout of the color filter 31.
  • a layout example is shown
  • (C) shows a plane layout example of the storage electrode 37
  • (D) shows a plane layout example of the photoelectric conversion unit PD2.
  • (A) to (D) show the plane layout example of the plane parallel to the element formation plane of the semiconductor substrate 50.
  • a pixel that selectively detects the wavelength component of red (R) (hereinafter referred to as R pixel 10r) and a pixel that selectively detects the wavelength component of green (hereinafter referred to as G pixel 10g).
  • R pixel 10r a pixel that selectively detects the wavelength component of red
  • G pixel 10g a pixel that selectively detects the wavelength component of green
  • a 2 ⁇ 2 pixel Bayer array composed of a pixel (hereinafter referred to as B pixel 10b) that selectively detects light having a wavelength component of blue (B) is used as a unit array.
  • the on-chip lens 51, the color filter 31, the storage electrode 37, and the photoelectric conversion unit PD2 are provided for one unit pixel 110.
  • one storage electrode 37 corresponds to one RGB pixel 10
  • one photoelectric conversion unit PD2 corresponds to one IR pixel 20.
  • the RGB pixel 10 and the IR pixel 20 are coaxial with each other with respect to the incident light. Since it is possible to improve the property, it is possible to suppress the spatial deviation that occurs between the RGB image and the IR image. Thereby, it is possible to improve the accuracy of the result obtained by processing the information (RGB image and IR image) acquired by different sensors in an integrated manner.
  • FIG. 12 is a plan view showing a wiring example of a pixel drive line for an RGB pixel according to the first embodiment
  • FIG. 13 is a plan view showing a wiring example of a pixel drive line for an IR pixel according to the first embodiment. It is a figure.
  • the IR drive line LD2 connecting the transfer transistor 21, the reset transistor 22, the selection transistor 24, and the emission transistor 25 may be wired so as to be orthogonal to each other, for example.
  • the present invention is not limited to this, and the RGB drive line LD1 and the IR drive line LD2 may be wired in parallel. In that case, the RGB pixel drive circuit 102A and the IR pixel drive circuit 102B may supply various control signals to the pixel array unit 101 from the same side or from different sides.
  • FIG. 14 is a diagram showing an example of a laminated structure of image sensors according to the first embodiment.
  • the image sensor 100 has a structure in which a pixel chip 140 and a circuit chip 150 are stacked one above the other.
  • the pixel chip 140 is, for example, a semiconductor chip including a pixel array unit 101 in which unit pixels 110 including RGB pixels 10 and IR pixels 20 are arranged
  • the circuit chip 150 is, for example, a semiconductor in which the pixel circuits shown in FIG. 5 are arranged. It is a chip.
  • the bonding between the pixel chip 140 and the circuit chip 150 for example, so-called direct bonding, in which each bonding surface is flattened and the two are bonded by an intramolecular force, can be used.
  • the present invention is not limited to this, and for example, so-called Cu-Cu bonding in which copper (Cu) electrode pads formed on the bonding surfaces of each other are bonded to each other, or other bump bonding or the like can be used. ..
  • connection portion such as a TSV (Through-Silicon Via) that penetrates the semiconductor substrate.
  • Connections using TSVs include, for example, a so-called twin TSV system in which two TSVs, a TSV provided on the pixel chip 140 and a TSV provided from the pixel chip 140 to the circuit chip 150, are connected on the outer surface of the chip, or a pixel.
  • a so-called shared TSV method or the like, in which both are connected by a TSV penetrating from the chip 140 to the circuit chip 150, can be adopted.
  • the recognition operation executed by the electronic device 1 according to the present embodiment will be described.
  • the recognition operation may be realized so as to be completed within the image sensor 100, or the image sensor. It may be realized by processing the image data acquired by the 100 in the processor 4, or the image data acquired by the image sensor 100 is partially processed in the image sensor 100, and the rest is processed by the processor. It may be realized by executing within 4.
  • FIG. 15 is a flowchart showing an example of the recognition operation according to the first embodiment.
  • the RGB sensor unit 71 acquires RGB image data by driving the RGB pixels 10 (step S101), and the IR sensor unit 73 drives the IR pixels 20.
  • the IR sensor unit 73 drives the IR pixels 20.
  • the acquired RGB image data and IR image data are input to the recognition processing unit 75 after being subjected to predetermined processing by the RGB image processing unit 72 and the IR image processing unit 74.
  • the recognition processing unit 75 receives RGB image data in a region corresponding to the ROI information and / Or IR image data may be input.
  • the recognition processing unit 75 executes a recognition process (first recognition process) for an object existing within the angle of view of the image sensor 100 using the input RGB image data (step S103).
  • a recognition process such as pattern recognition or a recognition process by artificial intelligence may be used.
  • the recognition processing unit 75 uses the input IR image data and the result of the first recognition processing to more accurately recognize an object existing in the angle of view of the image sensor 100 (second recognition process).
  • the recognition process is executed (step S104).
  • a recognition process such as pattern recognition, a recognition process by artificial intelligence, or the like may be used as in the first recognition process.
  • the recognition processing unit 75 outputs the result of the second recognition processing obtained in step S104 to the outside via, for example, the interface unit 76 (step S105).
  • the recognition processing unit 75 may execute a part of the first recognition process and output the result (intermediate data or the like) to the outside, or execute a part of the second recognition process and the result (). Intermediate data, etc.) may be output.
  • step S106 determines whether or not to end this operation (step S106), and if it does not end (NO in step S106), returns to step S101. On the other hand, when terminating (YES in step S106), the recognition system ends this operation.
  • a plurality of sensor information of the RGB image acquired by the RGB pixel 10 and the IR image acquired by the IR pixel 20 is acquired. Therefore, it is possible to improve the accuracy of the recognition process using these. For example, as described above, by acquiring IR image data in addition to RGB image data, it is possible to more accurately determine unauthorized access such as spoofing using a photograph in face recognition. This makes it possible to realize a solid-state image sensor and a recognition system that enable more secure authentication.
  • the unit pixel 210 includes an RGB pixel for acquiring an RGB image of the three primary colors of RGB and an IR pixel for acquiring an IR image of infrared (IR) light.
  • RGB pixels 10 are arranged according to, for example, a Bayer arrangement.
  • FIG. 16 is a schematic diagram showing a schematic configuration example of a unit pixel according to the second embodiment.
  • the unit pixel 210 has a structure in which one IR pixel 20 is arranged in the incident direction of light for four RGB pixels 10 arranged in 2 rows and 2 columns. That is, in the present embodiment, one IR pixel 20 for each of the four RGB pixels 10 is located in the direction perpendicular to the arrangement direction (planar direction) of the unit pixels 210, and is on the upstream side in the optical path of the incident light. The light transmitted through the four RGB pixels 10 located in is incident on one IR pixel 20 located on the downstream side of the four RGB pixels 10. Therefore, in the present embodiment, the optical axis of the incident light of the IR pixel 20 and the unit array of the Bayer array composed of the four RGB pixels 10 are coincident or substantially the same.
  • FIG. 17 is a circuit diagram showing a schematic configuration example of unit pixel according to the second embodiment. Note that FIG. 17 is based on the unit pixel 110-2 according to the second modification described with reference to FIG. 8 in the first embodiment, but the present invention is not limited to this, and the unit pixels 110 to 110-3 are not limited thereto. It is also possible to base it on any of the above.
  • the unit pixel 210 includes a plurality of RGB pixels 10-1 to 10-N (N is 4 in FIG. 17) and one IR pixel 20.
  • the plurality of RGB pixels 10 are one pixel as in the third modification described with reference to FIG. 9 in the first embodiment. It is possible to share a circuit (reset transistor 12, floating diffusion region FD1, amplification transistor 13 and selection transistor 14) (pixel sharing). Therefore, in the present embodiment, a plurality of RGB pixels 10-1 to 10-N share a pixel circuit including a reset transistor 12, a stray diffusion region FD1, an amplification transistor 13, and a selection transistor 14. That is, in the present embodiment, a plurality of photoelectric conversion units PD1 and transfer gate 11 are connected to the common floating diffusion region FD1.
  • FIG. 18 is a cross-sectional view showing an example of a cross-sectional structure of an image sensor according to a second embodiment.
  • each unit pixel 210 is composed of four RGB pixels 10 arranged in two rows and two columns and one IR pixel 20 will be described as an example.
  • an example of the cross-sectional structure will be described focusing on the semiconductor chip on which the photoelectric conversion units PD1 and PD2 in the unit pixel 210 are formed.
  • duplicate description will be omitted by quoting them.
  • the on-chip lens 51, the color filter 31, and the storage electrode 37 are four in two rows and two columns. (However, two of the four are shown in FIG. 18), thereby forming four RGB pixels 10.
  • the four RGB pixels 10 in each unit pixel 210 may form a basic array of Bayer arrays.
  • FIG. 19 is a diagram showing a plane layout example of each layer of the pixel array portion according to the second embodiment, (A) shows a plane layout example of the on-chip lens 51, and (B). Shows an example of a planar layout of the color filter 31, (C) shows an example of a planar layout of the storage electrode 37, and (D) shows an example of a planar layout of the photoelectric conversion unit PD2.
  • FIGS. 19A to 19D show an example of a plane layout of a surface parallel to the element forming surface of the semiconductor substrate 50.
  • one on-chip lenses 51 As shown in FIGS. 19A to 19D, in the present embodiment, four on-chip lenses 51, four color filters 31, and four storage electrodes 37 are provided for one unit pixel 210.
  • One photoelectric conversion unit PD2 is provided.
  • one storage electrode 37 corresponds to one RGB pixel 10
  • one photoelectric conversion unit PD2 corresponds to one IR pixel 20.
  • each RGB pixel 10 and IR Since it is possible to improve the coaxiality with respect to the incident light with the pixel 20, it is possible to suppress the spatial deviation that occurs between the RGB image and the IR image. Thereby, it is possible to improve the accuracy of the result obtained by processing the information (RGB image and IR image) acquired by different sensors in an integrated manner.
  • FIG. 20 is a diagram showing an example of a planar layout of each layer of the pixel array portion according to a modification of the on-chip lens of the second embodiment, and (A) is a planar layout of the on-chip lens 51 as in FIG. An example is shown, (B) shows an example of a planar layout of the color filter 31, (C) shows an example of a planar layout of the storage electrode 37, and (D) shows an example of a planar layout of the photoelectric conversion unit PD2.
  • two on-chip lenses 51 arranged in the row direction in a part of the unit pixels 210 among the plurality of unit pixels 210 are two. It has been replaced by one on-chip lens 251 of 2 ⁇ 1 pixels straddling the RGB pixels 10.
  • the two RGB pixels 10 sharing the on-chip lens 251 are provided with a color filter 31 that selectively transmits the same wavelength component.
  • the color filter 31b that selectively transmits the blue (B) wavelength component originally in the Bayer arrangement selectively transmits the green (G) wavelength component. It is replaced with a color filter 31g for transmitting, whereby the color filter 31 of the two RGB pixels 10 sharing the on-chip lens 251 is unified into the color filter 31g.
  • the pixel value of the wavelength component that should be originally detected according to the Bayer array may be interpolated from the pixel values of the surrounding pixels, for example.
  • Various methods such as linear interpolation may be used for this pixel interpolation.
  • the present invention is not limited to this, and two on-chip lenses 51 arranged in the column direction are shared. It is also possible to make various modifications such as a configuration in which all four on-chip lenses 51 included in one unit pixel 210 are replaced with one on-chip lens. In that case, a color filter 31 that selectively transmits the same wavelength component may be used as the color filter 31 of the RGB pixels 10 that share the on-chip lens.
  • the sharing of the on-chip lens 51 between adjacent RGB pixels 10 is not limited to the second embodiment, but can be applied to the first embodiment as well.
  • the Bayer array is exemplified as the filter array of the color filter 31, but the present invention is not limited thereto.
  • a 3x3 pixel color filter array used in the X-Trans (registered trademark) CMOS sensor a 4x4 pixel quadbayer array (also called a quadra array), or a white RGB color filter in the Bayer array.
  • Various filter arrays such as a combined 4 ⁇ 4 pixel color filter array (also referred to as a white RGB array) may be used.
  • FIG. 21 is a diagram showing a planar layout example of each layer of the pixel array portion according to a modification of the color filter arrangement of the second embodiment, and (A) is an on-chip lens 51 as in FIGS. 19 and 20.
  • (B) shows a plane layout example of the color filter 31
  • (C) shows a plane layout example of the storage electrode 37
  • (D) shows a plane layout example of the photoelectric conversion unit PD2. There is.
  • each color filter 31 in the Bayer array of 2 ⁇ 2 pixels is divided into 2 ⁇ 2 pixels as a whole.
  • a quadra array of 4 ⁇ 4 pixels is illustrated.
  • the color filters 31 in the above are originally aligned, there is no need to make changes to the arrangement of the color filters 31, and therefore there is no need to perform pixel interpolation.
  • the multi-stage recognition process by executing the multi-stage recognition process using a plurality of sensor information, it is possible to further improve the accuracy of the recognition process, so that more secure authentication is possible. It is possible to realize a solid-state image sensor and a recognition system.
  • the solid-state image sensor and the solid-state image sensor that enable more secure authentication by combining the RGB sensor unit 71 that acquires an RGB image and the IR sensor unit 73 that acquires an IR image.
  • the recognition system was explained with an example.
  • a solid-state image sensor and a recognition system that enable more secure authentication by combining an RGB sensor unit 71 that acquires an RGB image and a distance measuring sensor unit that acquires a depth image. Will be described with an example.
  • an indirect ToF Time-of
  • -Flight a two-dimensional distance distribution to an object based on the phase when the light emitted from the light source is reflected by the object and returned.
  • -Flight a direct ToF sensor that detects, a structured light type ranging sensor that projects light of a predetermined pattern onto an object and detects the distance distribution from the distortion of that pattern to the object, and two or more images taken from different positions.
  • Various distance measurement such as a stereovision type distance measurement sensor that detects the distance distribution to an object using the image of Sensors may be used.
  • FIG. 22 is a block diagram showing a functional configuration example of the recognition system according to the third embodiment.
  • the recognition system 370 includes two types of sensor units, an RGB sensor unit 71 and a ToF sensor unit 373. Further, the recognition system 370 includes an RGB image processing unit 72, a distance measuring processing unit 374, a recognition processing unit 75, and an interface (I / F) unit 76.
  • the RGB sensor unit 71, the RGB image processing unit 72, the recognition processing unit 75, and the interface unit 76 may be the same as those exemplified in the first embodiment.
  • the ToF sensor unit 373 includes, for example, a light source and a light receiving unit (corresponding to an image sensor), and detects light emitted from the light source, reflected by an object, and returned.
  • a light source for example, a laser light source such as a VCSEL (Vertical Cavity Surface Emitting Laser) may be used.
  • VCSEL Vertical Cavity Surface Emitting Laser
  • the light receiving unit for example, an image sensor in which the pixel circuit of the IR pixel 20 in the IR sensor unit 73 according to the above-described embodiment is changed to a pixel circuit for a ToF sensor may be used.
  • the ranging processing unit 374 sets the phase of the reflected light for each ToF pixel based on the emission timing of the light from the light source (hereinafter referred to as irradiation light) from the pixel signal for each ToF pixel input from the ToF sensor unit 373. It detects and generates a depth image showing a two-dimensional distance distribution based on the phase of each detected ToF pixel.
  • the recognition processing unit 75 uses the RGB image data input from the RGB image processing unit 72 and / or the depth image data input from the distance measuring processing unit 374 to image the image of the RGB sensor unit 71 and / or the ToF sensor unit 373. Executes recognition processing for objects existing in the corner. As the recognition process by the recognition processing unit 75, a recognition process such as pattern recognition, a recognition process by AI, or the like may be used as in the first embodiment. Further, the recognition processing unit 75 may execute a part of the recognition processing and output the result (intermediate data or the like).
  • the interface unit 76 uses the recognition result (including intermediate data and the like) obtained by the recognition processing unit 75 and the image data acquired by the RGB sensor unit 71 and / or the ToF sensor unit 373 as an external example, the processor 4 and / or. Output to the storage unit 3.
  • the RGB image processing unit 72 executes the area determination of the object with respect to the RGB image data, and the information such as the address for designating the region of interest (Region of Interest: ROI) obtained as a result (hereinafter, simply ROI). Information) may be input to the ToF sensor unit 373 and / or the distance measuring processing unit 374.
  • the ToF sensor unit 373 may operate to acquire the depth image data of the region corresponding to the ROI information input from the RGB image processing unit 72.
  • the distance measuring processing unit 374 uses the ROI information input from the RGB image processing unit 72 for the image data (hereinafter referred to as ToF image data) consisting of the pixel signals for each ToF pixel input from the ToF sensor unit 373. It may be configured to execute the distance measuring process only for the ToF pixels in the corresponding region.
  • FIG. 23 is a schematic diagram showing an example of the configuration of the electronic device that realizes the recognition system according to the third embodiment
  • FIG. 24 is a configuration of the electronic device that realizes the recognition system according to the third embodiment. It is a block diagram which shows an example.
  • the electronic device 80 includes a laser light source 81, an irradiation lens 83, an image pickup lens 84, an image sensor 300, and a system control unit 85.
  • the laser light source 81 includes, for example, a vertical resonator type surface emitting laser (VCSEL) 382 and a light source driving unit 381 that drives the VCSEL 382.
  • VCSEL vertical resonator type surface emitting laser
  • the present invention is not limited to VCSEL382, and various light sources such as LEDs (Light Emitting Diode) may be used.
  • the laser light source 81 may be any of a point light source, a surface light source, and a line light source. In the case of a surface light source or a line light source, the laser light source 81 may have, for example, a configuration in which a plurality of point light sources (for example, VCSEL) are arranged one-dimensionally or two-dimensionally.
  • the laser light source 81 may emit light having a wavelength band different from the detection wavelength band of the RGB pixel 10 in the image sensor 300, such as IR light.
  • the irradiation lens 83 is arranged on the emission surface side of the laser light source 81, and converts the light emitted from the laser light source 81 into irradiation light having a predetermined spread angle.
  • the image pickup lens 84 is arranged on the light receiving surface side of the image sensor 300, and forms an image of incident light (including reflected light of irradiation light) on the light receiving surface of the image sensor 300.
  • the image sensor 300 includes, for example, a light receiving unit 384 and a sensor control unit 383 that drives the light receiving unit 384 to read RGB image data and ToF image data. Will be done.
  • the system control unit 85 is composed of, for example, a processor (CPU), and drives the VCSEL 382 via the light source drive unit 381. Further, the system control unit 85 acquires RGB image data by controlling the image sensor 300, and controls the image sensor 300 in synchronization with the control for the laser light source 81 to control the light emission of the laser light source 81. Get image data.
  • the irradiation light emitted from the laser light source 81 is projected onto the subject (also referred to as a measurement object or object) 901 through the irradiation lens 83.
  • This projected light is reflected by the subject 901.
  • the light reflected by the subject 901 passes through the image pickup lens 84 and is incident on the image sensor 300.
  • the ToF sensor unit 373 in the image sensor 300 receives the reflected light reflected by the subject 901 and generates ToF image data.
  • the RGB sensor unit 71 in the image sensor 300 receives, for example, visible light in the incident light and generates RGB image data.
  • the RGB image data and the ToF image data generated by the image sensor 300 are supplied to the application processor 86 of the electronic device 80.
  • the application processor 86 executes predetermined processing such as recognition processing on the RGB image data and the ToF image data input from the image sensor 300.
  • FIG. 25 is a block diagram showing a schematic configuration example of the image sensor according to the third embodiment.
  • the image sensor 300 is configured, for example, in the same configuration as the image sensor 100 according to the first embodiment, in which the configuration corresponding to the IR sensor unit 73 is replaced with the configuration corresponding to the ToF sensor unit 373.
  • the unit pixel 110 is in the unit pixel 310
  • the IR pixel drive circuit 102B is in the ToF pixel drive circuit 302B
  • the IR signal processing circuit 103B is in the ToF signal processing circuit 303B
  • the IR data processing unit 108B is in ToF data. It is replaced by the processing unit 308B.
  • the pixel array unit 101, the ToF pixel drive circuit 302B, the ToF signal processing circuit 303B, the column drive circuit 104, and the system control circuit 105 constitute, for example, the ToF sensor unit 373 in FIG. 22. Further, the ToF signal processing circuit 303B and the ToF data processing unit 308B constitute, for example, the distance measuring processing unit 374 in FIG. 22.
  • the recognition processing unit 75 in FIG. 22 may be realized by the application processor 86 alone, or may be realized by linking the RGB data processing unit 108A and the ToF data processing unit 308B with the application processor 86. , RGB data processing unit 108A and ToF data processing unit 308B may be linked.
  • Each unit pixel 310 includes an RGB pixel 10 and a ToF pixel 320.
  • Each ToF pixel 320 includes a photoelectric conversion unit that generates and stores an electric charge according to the amount of received light, and generates a pixel signal having a voltage corresponding to the amount of incident light.
  • one end of the pixel drive line LD2 is connected to an output end corresponding to each line of the ToF pixel drive circuit 302B, and transmits a control signal for driving when reading a pixel signal from the ToF pixel 320.
  • the ToF pixel drive circuit 302B is configured by a shift register, an address decoder, etc., and drives each pixel of the pixel array unit 101 simultaneously for all pixels or in line units. That is, the ToF pixel drive circuit 302B constitutes a drive unit that controls the operation of each ToF pixel 320 of the pixel array unit 101 together with the system control circuit 105 that controls the ToF pixel drive circuit 302B. Further, the ToF pixel drive circuit 302B may include two scanning systems, a read scanning system and a sweep scanning system, similarly to the RGB pixel driving circuit 102A.
  • the pixel signal output from each ToF pixel 320 in the pixel row selectively scanned by the ToF pixel drive circuit 302B is input to the ToF signal processing circuit 303B through each of the vertical signal lines VSL2 and VSL4 for each pixel row.
  • VSL2 for example, a pixel signal based on the charge read from one read terminal (also referred to as TapA) in the ToF pixel 320 appears, and in the vertical signal line VSL4, for example, the other in the ToF pixel 320.
  • a pixel signal based on the charge read from the read terminal also referred to as TapB
  • the ToF signal processing circuit 303B performs predetermined signal processing on the pixel signal output from each ToF pixel 320 in the selected row through the vertical signal line VSL2 or VSL4 for each pixel row of the pixel array unit 101, and also performs signal processing. Temporarily holds the subsequent pixel signal.
  • the ToF signal processing circuit 303B executes noise reduction processing for pixel signals, for example, CDS (Correlated Double Sampling) processing, DDS (Double Data Sampling) processing, and the like. You may. Further, the ToF signal processing circuit 303B, like the RGB signal processing circuit 103A, has, for example, an AD conversion function, and converts an analog pixel signal read from the photoelectric conversion unit into a digital signal and outputs the signal.
  • CDS Correlated Double Sampling
  • DDS Double Data Sampling
  • the system control circuit 105 has an RGB pixel drive circuit 102A, a ToF pixel drive circuit 302B, an RGB signal processing circuit 103A, a ToF signal processing circuit 303B, and a column drive circuit 104 based on the synchronization control signal input from the system control unit 85.
  • Drive control such as.
  • the drive for acquiring the RGB image data and / or the ToF image data is executed in synchronization with the light emission control for the laser light source 81.
  • the ToF data processing unit 308B has, for example, an arithmetic processing function, and performs various signal processing such as arithmetic processing on the image signal output from the ToF signal processing circuit 303B.
  • the ToF data processing unit 308B is based on a synchronization control signal input from the system control unit 85 (or system control circuit 105) and a pixel signal read from each ToF pixel 320 at a predetermined sampling cycle. A depth image showing a two-dimensional distance distribution may be generated.
  • the RGB image data or ToF image data (or depth image data) output from the RGB data processing unit 108A or the ToF data processing unit 308B is, for example, predetermined processing in an application processor 86 or the like in an electronic device 80 equipped with an image sensor 300. May be executed or sent to the outside via a predetermined network.
  • the image sensor 300 includes data required for signal processing in the RGB data processing unit 108A and the ToF data processing unit 308B, the RGB signal processing circuit 103A, the ToF signal processing circuit 303B, the RGB data processing unit 108A, and the ToF data processing unit.
  • a storage unit for temporarily holding data or the like processed by any one or more of the 308Bs may be provided.
  • FIG. 26 is a block diagram showing a schematic configuration example of the image sensor according to the modification of the third embodiment.
  • FIG. 25 described above, a case where separate signal processing circuits (RGB signal processing circuit 103A and ToF signal processing circuit 303B) are provided for each of the RGB pixel 10 and the ToF pixel 320 is illustrated, but the present invention is not limited to this.
  • FIG. 26 it is also possible to provide a common signal processing circuit 303 for the RGB pixels 10 and the ToF pixels 320. In that case, the reading of the pixel signal from the RGB pixel 10 and the reading of the pixel signal from the ToF pixel 320 may be executed in a time division manner or may be executed in parallel.
  • unit pixel 310 includes an RGB pixel for acquiring an RGB image of the three primary colors of RGB and a ToF pixel 320 for acquiring a ToF image of infrared (IR) light will be illustrated as an example.
  • the reference numeral is 31.
  • FIG. 27 is a schematic diagram showing a schematic configuration example of the pixel array unit according to the third embodiment.
  • the IR pixel 20 is replaced with the ToF pixel 320.
  • the present invention is not limited to this, and the unit pixel 310 has a configuration in which the IR pixel 20 is replaced with the ToF pixel 320 in the same configuration as the unit pixel 110 described with reference to FIG. 5 in the first embodiment. May be good.
  • FIG. 28 is a circuit diagram showing a schematic configuration example of unit pixels according to a third embodiment. Note that FIG. 28 is based on the unit pixel 110 described with reference to FIG. 6 in the first embodiment, but is not limited to this, and any of the unit pixels 110 to 110-3 and 210 is used as the base. Is also possible.
  • the unit pixel 310 includes two RGB pixels 10-1 and 10-2 and one ToF pixel 320.
  • RGB pixel 10 Each RGB pixel 10 includes a transfer gate 11, a stray diffusion region FD1, a reset transistor 12, an amplification transistor 13, and a selection transistor 14, as in the RGB pixel 10 according to the first embodiment.
  • the drain of the selection transistor 14 of one RGB pixel 10-1 is connected to the vertical signal line VSL1
  • the drain of the selection transistor 14 of the other RGB pixel 10-2 is connected to the vertical signal line VSL3.
  • the two RGB pixels 10-1 and 10-2 may be, for example, two RGB pixels 10 adjacent to each other in the row direction in the pixel array unit 101.
  • the RGB pixels 10 included in one unit pixel 310 are not limited to two, and may be three or more.
  • the ToF pixel 320 includes, for example, a photoelectric conversion unit PD2, transfer transistors 21A and 21B, stray diffusion regions FD2A and FD2B, reset transistors 22A and 22B, amplification transistors 23A and 23B, selection transistors 24A and 24B, and discharge. It includes a transistor 25.
  • the transfer transistor 21A, the stray diffusion region FD2A, the reset transistor 22A, the amplification transistor 23A, and the selection transistor 24A are pixel circuits for reading charges from one of the two taps provided in the photoelectric conversion unit PD2, TapA (hereinafter,).
  • the transfer transistor 21B, the stray diffusion region FD2B, the reset transistor 22B, the amplification transistor 23B, and the selection transistor 24B are from the other tap TapB of the two taps provided in the photoelectric conversion unit PD2. It is a pixel circuit for reading out a charge (hereinafter referred to as a pixel circuit 320B).
  • the drain of the selection transistor 24A of the pixel circuit 320A is connected to the vertical signal line VSL2, and the drain of the selection transistor 24B of the pixel circuit 320B is connected to the vertical signal line VSL4.
  • connection relationship between the floating diffusion region FD2A or FD2B with respect to the transfer transistor 21A or 21B, the reset transistor 22A or 22B, and the amplification transistor 23A or 23B is such that the floating diffusion region FD1 with respect to the transfer gate 11 in RGB pixels 10-1 or 10-2.
  • the connection relationship between the reset transistor 12 and the amplification transistor 13 may be the same.
  • the connection relationship between the amplification transistor 23A or 23B, the selection transistor 24A or 24B, and the vertical signal line VSL2 or VSL4 the amplification transistor 13 in the RGB pixels 10-1 or 10-2, the selection transistor 14, and the vertical signal line VSL1 or VSL3 are also connected. It may be the same as the connection relationship with.
  • the photoelectric conversion unit PD2 includes two taps TapA and TapB, the details of which will be described later, and charges generated by the photoelectric conversion are discharged from the two taps TapA and TapB in a time-division manner. Therefore, the pixel circuit 320A causes a pixel signal having a voltage value corresponding to the charge amount of the charge flowing out from the tap TapA to appear on the vertical signal line VSL2, and the pixel circuit 320B corresponds to the charge amount of the charge flowing out from the tap TapB. The pixel signal of the voltage value is made to appear in the vertical signal line VSL4.
  • the vertical signal lines VSL2 and VSL4 are connected to the AD conversion circuit 103a provided for each column (that is, for each of the vertical signal lines VSL2 and VSL4) in the ToF signal processing circuit 303B, similarly to the vertical signal lines VSL1 and VSL3.
  • FIG. 29 is a circuit diagram showing a schematic configuration example of a unit pixel according to the first modification of the third embodiment.
  • the unit pixel 310-1 includes one RGB pixel 10 and one ToF pixel 320.
  • the pixel circuits of the RGB pixels 10 and the ToF pixels 320 may be similar to those described with reference to FIG. 28.
  • the vertical signal line VSL1 is shared by the RGB pixel 10 and the pixel circuit 320B in the ToF pixel 320, whereby the vertical signal lines VSL3 and VSL4 are omitted.
  • the AD conversion circuit 103a connected to the vertical signal line VSL1 is used in time division for, for example, reading a pixel signal from the RGB pixel 10 and reading a pixel signal from the ToF pixel 320.
  • FIG. 30 is a circuit diagram showing a schematic configuration example of a unit pixel according to a second modification of the third embodiment.
  • the RGB pixel 10 is connected to the vertical signal line VSL1 in the same configuration as the unit pixel 310-1 exemplified in FIG. 29, and the pixel circuit 320A in the ToF pixel 320 has a pixel circuit 320A.
  • the pixel circuit 320B is connected to the vertical signal line VSL2 and the pixel circuit 320B is connected to the vertical signal line VSL4.
  • the vertical signal lines VSL1 and VSL2 are configured to be connected to the common AD conversion circuit 103a. Therefore, in the second modification, as in the first modification of the first embodiment, the switch circuit for switching the vertical signal line connected to the AD conversion circuit 103a to either the vertical signal line VSL1 or VSL2. 131 is provided.
  • a part of the RGB signal processing circuit 103A and the ToF signal processing circuit 303B can be replaced with a common signal processing circuit, whereby the circuit scale can be reduced, so that the area can be reduced. It is possible to reduce the size and increase the resolution of the image sensor 100 by improving the efficiency.
  • FIG. 31 is a circuit diagram showing a schematic configuration example of a unit pixel according to a third modification of the third embodiment.
  • the vertical signal lines VSL1 and VSL2 are connected to the common AD conversion circuit 103a
  • the vertical signal lines VSL3 and The VSL4 is configured to be connected to a common AD conversion circuit 103a.
  • the switch circuit 131 for switching the vertical signal line connected to one of the AD conversion circuits 103a to either the vertical signal lines VSL1 or VSL2, and the other A switch circuit 131 for switching the vertical signal line connected to the AD conversion circuit 103a to either the vertical signal lines VSL3 or VSL4 is provided.
  • the RGB signal processing circuit 103A and the ToF signal processing circuit 303B can be replaced with a common signal processing circuit, whereby the circuit scale can be further reduced, and thus the area efficiency can be improved. Further improvement makes it possible to reduce the size and increase the resolution of the image sensor 100.
  • FIG. 32 is a circuit diagram showing a schematic configuration example of a unit pixel according to a fourth modification of the third embodiment.
  • the unit pixel 310-4 can connect each of the vertical signal lines VSL1 and VSL2 to one of the two AD conversion circuits 103a in the same configuration as the unit pixel 310 shown in FIG. 28.
  • each of the vertical signal lines VSL3 and VSL4 can be connected to any one of the two AD conversion circuits 103a. Therefore, in the fourth modification, as in the third modification of the first embodiment, the vertical signal line connected to one of the two AD conversion circuits 103a is set to either the vertical signal line VSL1 or VSL2.
  • the switch circuits 132 and 133 for switching are provided, and the switch circuits 132 and 133 for switching the vertical signal line connected to the other two AD conversion circuits 103a to either the vertical signal lines VSL3 or VSL4 are provided.
  • the AD conversion circuit 103a to be used for each column can be selected from a plurality of (two in this example), so that deterioration of image quality due to noise generation such as streaking is suppressed. Is possible.
  • FIG. 33 is a cross-sectional view showing an example of a cross-sectional structure of the image sensor according to the third embodiment.
  • FIG. 33 is a cross-sectional view showing an example of a cross-sectional structure of the image sensor according to the third embodiment.
  • a so-called back-illuminated cross-sectional structure in which the incident surface of light is the back surface side (opposite the element forming surface) of the semiconductor substrate 50 is exemplified. It may be a so-called surface irradiation type cross-sectional structure in which the incident surface of light is the surface side (element forming surface side) of the semiconductor substrate 50.
  • the photoelectric conversion material of each of the photoelectric conversion units PD1 and PD2 is organic.
  • one unit pixel 310 includes two RGB pixels 10-1 and 10-2 (corresponding to the unit pixel 310 described with reference to FIG. 28 above) is illustrated. Not limited to this, one unit pixel 310 may include one or three or more RGB pixels 10.
  • the image sensor 300 has, for example, the same cross-sectional structure as the cross-sectional structure of the image sensor 100 described with reference to FIG. 18 in the second embodiment of the photoelectric conversion unit PD2.
  • a structure is provided in which two taps 46 for reading charges of different phases are arranged on the element forming surface side (lower side in the drawing).
  • One tap 46 corresponds to a tap TapA connected to the transfer transistor 21A (vertical transistor 45) of the pixel circuit 320A, and the other tap 46 is connected to the transfer transistor 21B (vertical transistor 45) of the pixel circuit 320B. It may correspond to the tap B that has been made.
  • the floating diffusion region connected to the drain of the transfer transistor 21A functions as the floating diffusion region FD2A of the pixel circuit 320A
  • the floating diffusion region connected to the drain of the transfer transistor 21B is the floating diffusion region FD2B of the pixel circuit 320B. May function as.
  • FIG. 34 is a diagram showing a plane layout example of each layer of the pixel array portion according to the third embodiment, (A) shows a plane layout example of the on-chip lens 51, and (B) is a plane of the color filter 31. A layout example is shown, (C) shows a plane layout example of the storage electrode 37, and (D) shows a plane layout example of the photoelectric conversion unit PD2. In addition, in FIG. 34, (A) to (D) show the plane layout example of the plane parallel to the element formation plane of the semiconductor substrate 50, like the above-described embodiment.
  • a pixel that selectively detects the red (R) wavelength component (hereinafter referred to as R pixel 10r) and a pixel that selectively detects the green (G) wavelength component (hereinafter, G pixel 10g).
  • the unit array is a Bayer array of 2 ⁇ 2 pixels composed of pixels (hereinafter referred to as B pixel 10b) that selectively detect light of the wavelength component of blue (B), and one unit pixel 310. Illustrates the case where four RGB pixels 10 constituting a unit array and one ToF pixel 320 are provided.
  • one on-chip lenses 51, four color filters 31, and four storage electrodes 37 are provided for one unit pixel 310.
  • One photoelectric conversion unit PD2 is provided.
  • one storage electrode 37 corresponds to one RGB pixel 10
  • one photoelectric conversion unit PD2 corresponds to one ToF pixel 320.
  • one ToF pixel 320 by arranging the basic array of the Bayer array consisting of four RGB pixels 10 and one ToF pixel 320 along the traveling direction of the incident light, one ToF pixel 320 Since it is possible to increase the quantum efficiency, it is possible to improve the accuracy of the result obtained by processing the information (RGB image and depth image) acquired by different sensors in an integrated manner. This makes it possible to realize a solid-state image sensor and a recognition system that enable more secure authentication.
  • the recognition operation may be realized so as to be completed in the image sensor 300, or may be realized by processing the image data acquired by the image sensor 300 in the application processor 86, or may be realized by the image sensor 300. This may be realized by executing a part of the acquired image data in the image sensor 300 and executing the rest in the application processor 86.
  • FIG. 35 is a flowchart showing an example of the recognition operation according to the third embodiment.
  • the system control unit 85 acquires RGB image data by driving the RGB sensor unit 71 (see FIG. 22) in the image sensor 300 (step S301). Further, the system control unit 85 drives the laser light source 81 in a predetermined sampling cycle to emit irradiation light having a predetermined sampling cycle to the laser light source 81 (step S302), and synchronizes with the driving of the laser light source 81.
  • the ToF sensor unit 373 see FIG. 22
  • the ToF image data is acquired at a predetermined sampling cycle (step S303).
  • the acquisition of RGB image data may be executed in parallel with the acquisition of ToF image data, or may be executed in a period different from the acquisition period of ToF image data. At that time, either the acquisition of the RGB image data or the acquisition of the ToF image data may be executed first. Further, the acquisition of the RGB image data may be executed once for the acquisition of the ToF image data K times (K is an integer of 1 or more).
  • the RGB image data is input to the recognition processing unit 75 after being subjected to predetermined processing by the RGB image processing unit 72.
  • the recognition processing unit 75 has an area corresponding to the ROI information.
  • RGB image data and / or ToF image data may be input.
  • the recognition processing unit 75 executes the recognition process (first recognition process) of the object existing in the angle of view of the image sensor 300 using the input RGB image data (step S304).
  • a recognition process such as pattern recognition, a recognition process by artificial intelligence, or the like may be used as in the first embodiment.
  • the ranging processing unit 374 has each pixel in the two ToF image data acquired from each of the taps TapA and TapB at a predetermined sampling cycle.
  • a depth image showing a two-dimensional distance distribution to an object existing within the angle of view is generated from the phase difference of (step S305).
  • the generation of the depth image data may be executed in parallel with the first recognition process, or may be executed before the first recognition process. Further, the generation of the depth image data may be executed by, for example, the ToF data processing unit 308B inside the image sensor 300, or may be executed by the application processor 86.
  • the recognition processing unit 75 executes a recognition process (second recognition process) for more accurately recognizing an object existing in the angle of view using the result of the first recognition process and the depth image data (second recognition process).
  • a recognition process such as pattern recognition, a recognition process by artificial intelligence, or the like may be used as in the first recognition process.
  • the recognition processing unit 75 outputs the result of the second recognition processing obtained in step S306 to the outside via, for example, the interface unit 76 (step S307).
  • the recognition processing unit 75 may execute a part of the first recognition process and output the result (intermediate data or the like) to the outside, or execute a part of the second recognition process and the result (). Intermediate data, etc.) may be output.
  • the recognition system 370 determines whether or not to end this operation (step S308), and if it does not end (NO in step S308), returns to step S301. On the other hand, when terminating (YES in step S308), the recognition system 370 ends this operation.
  • a plurality of sensor information of the RGB image acquired by the RGB pixel 10 and the depth image based on the ToF image acquired by the ToF pixel 320 Since it is possible to acquire the above, it is possible to improve the accuracy of the recognition process using these. For example, as described above, by acquiring the depth image data in addition to the RGB image data, it is possible to more accurately determine unauthorized access such as spoofing using a photograph in face recognition. This makes it possible to realize a solid-state image sensor and a recognition system that enable more secure authentication.
  • the present embodiment as in the first embodiment, it is possible to further improve the accuracy of the recognition process by executing the multi-stage recognition process using a plurality of sensor information. This makes it possible to realize a solid-state image sensor and a recognition system that enable more secure authentication.
  • the technology according to the present disclosure can be applied to various products.
  • the technology according to the present disclosure is realized as a device mounted on a moving body of any kind such as an automobile, an electric vehicle, a hybrid electric vehicle, a motorcycle, a bicycle, a personal mobility, an airplane, a drone, a ship, and a robot. You may.
  • FIG. 36 is a block diagram showing a schematic configuration example of a vehicle control system, which is an example of a mobile control system to which the technique according to the present disclosure can be applied.
  • the vehicle control system 12000 includes a plurality of electronic control units connected via the communication network 12001.
  • the vehicle control system 12000 includes a drive system control unit 12010, a body system control unit 12020, an outside information detection unit 12030, an in-vehicle information detection unit 12040, and an integrated control unit 12050.
  • a microcomputer 12051, an audio image output unit 12052, and an in-vehicle network I / F (Interface) 12053 are shown as a functional configuration of the integrated control unit 12050.
  • the drive system control unit 12010 controls the operation of the device related to the drive system of the vehicle according to various programs.
  • the drive system control unit 12010 has a driving force generator for generating the driving force of the vehicle such as an internal combustion engine or a driving motor, a driving force transmission mechanism for transmitting the driving force to the wheels, and a steering angle of the vehicle. It functions as a control device such as a steering mechanism for adjusting and a braking device for generating braking force of the vehicle.
  • the body system control unit 12020 controls the operation of various devices mounted on the vehicle body according to various programs.
  • the body system control unit 12020 functions as a keyless entry system, a smart key system, a power window device, or a control device for various lamps such as headlamps, back lamps, brake lamps, turn signals or fog lamps.
  • the body system control unit 12020 may be input with radio waves transmitted from a portable device that substitutes for the key or signals of various switches.
  • the body system control unit 12020 receives inputs of these radio waves or signals and controls a vehicle door lock device, a power window device, a lamp, and the like.
  • the vehicle outside information detection unit 12030 detects information outside the vehicle equipped with the vehicle control system 12000.
  • the image pickup unit 12031 is connected to the vehicle outside information detection unit 12030.
  • the vehicle outside information detection unit 12030 causes the image pickup unit 12031 to capture an image of the outside of the vehicle and receives the captured image.
  • the vehicle outside information detection unit 12030 may perform object detection processing or distance detection processing such as a person, a vehicle, an obstacle, a sign, or a character on the road surface based on the received image.
  • the image pickup unit 12031 is an optical sensor that receives light and outputs an electric signal according to the amount of the light received.
  • the image pickup unit 12031 can output an electric signal as an image or can output it as distance measurement information. Further, the light received by the image pickup unit 12031 may be visible light or invisible light such as infrared light.
  • the in-vehicle information detection unit 12040 detects the in-vehicle information.
  • a driver state detection unit 12041 that detects a driver's state is connected to the vehicle interior information detection unit 12040.
  • the driver state detection unit 12041 includes, for example, a camera that images the driver, and the in-vehicle information detection unit 12040 determines the degree of fatigue or concentration of the driver based on the detection information input from the driver state detection unit 12041. It may be calculated, or it may be determined whether the driver has fallen asleep.
  • the microcomputer 12051 calculates the control target value of the driving force generator, the steering mechanism, or the braking device based on the information inside and outside the vehicle acquired by the vehicle exterior information detection unit 12030 or the vehicle interior information detection unit 12040, and the drive system control unit.
  • a control command can be output to 12010.
  • the microcomputer 12051 realizes ADAS (Advanced Driver Assistance System) functions including vehicle collision avoidance or impact mitigation, follow-up driving based on inter-vehicle distance, vehicle speed maintenance driving, vehicle collision warning, vehicle lane deviation warning, and the like. It is possible to perform cooperative control for the purpose of.
  • ADAS Advanced Driver Assistance System
  • the microcomputer 12051 controls the driving force generating device, the steering mechanism, the braking device, and the like based on the information around the vehicle acquired by the vehicle exterior information detection unit 12030 or the vehicle interior information detection unit 12040. It is possible to perform coordinated control for the purpose of automatic driving that runs autonomously without depending on the operation.
  • the microcomputer 12051 can output a control command to the body system control unit 12020 based on the information outside the vehicle acquired by the vehicle outside information detection unit 12030.
  • the microcomputer 12051 controls the headlamps according to the position of the preceding vehicle or the oncoming vehicle detected by the outside information detection unit 12030, and performs cooperative control for the purpose of anti-glare such as switching the high beam to the low beam. It can be carried out.
  • the audio image output unit 12052 transmits an output signal of at least one of audio and image to an output device capable of visually or audibly notifying information to the passenger or the outside of the vehicle.
  • an audio speaker 12061, a display unit 12062, and an instrument panel 12063 are exemplified as output devices.
  • the display unit 12062 may include, for example, at least one of an onboard display and a head-up display.
  • FIG. 37 is a diagram showing an example of the installation position of the image pickup unit 12031.
  • the image pickup unit 12031 has image pickup units 12101, 12102, 12103, 12104, and 12105.
  • the image pickup units 12101, 12102, 12103, 12104, 12105 are provided at positions such as, for example, the front nose, side mirrors, rear bumpers, back doors, and the upper part of the windshield in the vehicle interior of the vehicle 12100.
  • the image pickup unit 12101 provided on the front nose and the image pickup section 12105 provided on the upper part of the windshield in the vehicle interior mainly acquire an image in front of the vehicle 12100.
  • the image pickup units 12102 and 12103 provided in the side mirror mainly acquire images of the side of the vehicle 12100.
  • the image pickup unit 12104 provided in the rear bumper or the back door mainly acquires an image of the rear of the vehicle 12100.
  • the image pickup unit 12105 provided on the upper part of the windshield in the vehicle interior is mainly used for detecting a preceding vehicle, a pedestrian, an obstacle, a traffic light, a traffic sign, a lane, or the like.
  • FIG. 37 shows an example of the shooting range of the imaging units 12101 to 12104.
  • the imaging range 12111 indicates the imaging range of the imaging unit 12101 provided on the front nose
  • the imaging ranges 12112 and 12113 indicate the imaging range of the imaging units 12102 and 12103 provided on the side mirrors, respectively
  • the imaging range 12114 indicates the imaging range.
  • the imaging range of the imaging unit 12104 provided on the rear bumper or the back door is shown. For example, by superimposing the image data captured by the imaging units 12101 to 12104, a bird's-eye view image of the vehicle 12100 can be obtained.
  • At least one of the image pickup units 12101 to 12104 may have a function of acquiring distance information.
  • at least one of the image pickup units 12101 to 12104 may be a stereo camera including a plurality of image pickup elements, or may be an image pickup element having pixels for phase difference detection.
  • the microcomputer 12051 has a distance to each three-dimensional object within the image pickup range 12111 to 12114 based on the distance information obtained from the image pickup unit 12101 to 12104, and a temporal change of this distance (relative speed with respect to the vehicle 12100).
  • a predetermined speed for example, 0 km / h or more
  • the microcomputer 12051 can set an inter-vehicle distance to be secured in advance in front of the preceding vehicle, and can perform automatic braking control (including follow-up stop control), automatic acceleration control (including follow-up start control), and the like. In this way, it is possible to perform coordinated control for the purpose of automatic driving or the like that autonomously travels without relying on the driver's operation.
  • the microcomputer 12051 converts three-dimensional object data related to a three-dimensional object into two-wheeled vehicles, ordinary vehicles, large vehicles, pedestrians, electric poles, and other three-dimensional objects based on the distance information obtained from the image pickup units 12101 to 12104. It can be classified and extracted and used for automatic avoidance of obstacles. For example, the microcomputer 12051 distinguishes obstacles around the vehicle 12100 into obstacles that are visible to the driver of the vehicle 12100 and obstacles that are difficult to see. Then, the microcomputer 12051 determines the collision risk indicating the risk of collision with each obstacle, and when the collision risk is equal to or higher than the set value and there is a possibility of collision, the microcomputer 12051 via the audio speaker 12061 or the display unit 12062. By outputting an alarm to the driver and performing forced deceleration and avoidance steering via the drive system control unit 12010, driving support for collision avoidance can be provided.
  • At least one of the image pickup units 12101 to 12104 may be an infrared camera that detects infrared rays.
  • the microcomputer 12051 can recognize a pedestrian by determining whether or not a pedestrian is present in the captured image of the imaging unit 12101 to 12104.
  • pedestrian recognition is, for example, a procedure for extracting feature points in an image captured by an image pickup unit 12101 to 12104 as an infrared camera, and pattern matching processing is performed on a series of feature points indicating the outline of an object to determine whether or not the pedestrian is a pedestrian. It is done by the procedure to determine.
  • the audio image output unit 12052 determines the square contour line for emphasizing the recognized pedestrian.
  • the display unit 12062 is controlled so as to superimpose and display. Further, the audio image output unit 12052 may control the display unit 12062 so as to display an icon or the like indicating a pedestrian at a desired position.
  • the above is an example of a vehicle control system to which the technology according to the present disclosure can be applied.
  • the technique according to the present disclosure can be applied to the image pickup unit 12031 among the configurations described above.
  • the image pickup unit 12101, 12102, 12103, 12104, 12105 and the like illustrated in FIG. 37 may be mounted on the vehicle 12100.
  • information acquired by different sensors for example, a color image and a monochrome image
  • can be processed in an integrated manner It is possible to improve the accuracy of the resulting results.
  • the present technology can also have the following configurations.
  • the first pixel which is arranged on the first surface and detects light in the first wavelength band
  • a second pixel arranged on a second surface parallel to the first surface and detecting light in a second wavelength band different from the first wavelength band
  • the signal processing circuit is a first conversion circuit that is connected to the first pixel and the second pixel in each of the unit pixels and converts an analog signal output from each of the first pixel and the second pixel into a digital signal.
  • a solid-state image sensor A solid-state image sensor.
  • the solid-state image pickup device (2) The solid-state image pickup device according to (1), wherein at least a part of the first pixel overlaps with the second pixel in a direction perpendicular to the first surface and the second surface. (3) The solid-state image pickup device according to (1) or (2) above, wherein the first pixel has an organic photoelectric conversion film. (4) The signal processing circuit further includes a first switch for switching the connection destination of the first conversion circuit to either the first pixel or the second pixel, any one of the above (1) to (3). The solid-state image sensor according to. (5) The signal processing circuit is A second conversion circuit connected to the first pixel and the second pixel in each of the unit pixels and converting an analog signal output from each of the first pixel and the second pixel into a digital signal.
  • the solid-state image pickup device according to any one of (1) to (5), wherein each of the unit pixels includes a plurality of the first pixels connected to the first conversion circuit.
  • Each of the first pixels The first photoelectric conversion unit that photoelectrically converts the incident light, A first pixel circuit that reads out the electric charge generated in the first photoelectric conversion unit, and Equipped with The solid-state image pickup device according to (6) above, wherein the plurality of first pixels share at least a part of the first pixel circuit.
  • each of the unit pixels includes a plurality of the second pixels connected to the first conversion circuit.
  • Each of the second pixels A second photoelectric conversion unit that photoelectrically converts incident light, A second pixel circuit that reads out the electric charge generated in the second photoelectric conversion unit, and Equipped with The solid-state image pickup device according to (8), wherein the plurality of second pixels share at least a part of the second pixel circuit.
  • the signal processing circuit is The first image data is generated based on the signal read from the first pixel in the plurality of unit pixels.
  • the solid-state image sensor according to any one of (1) to (9), which generates second image data based on a signal read from the second pixel in the plurality of unit pixels.
  • the second pixel is A photoelectric conversion unit that photoelectrically converts incident light, A first pixel circuit that reads out the electric charge generated in the photoelectric conversion unit, and A second pixel circuit that reads out the electric charge generated in the photoelectric conversion unit, and Equipped with
  • the signal processing circuit further includes a second conversion circuit connected to the first pixel circuit and converting an analog signal output from the first pixel circuit into a digital signal.
  • the solid-state image sensor according to any one of (1) to (10), wherein the first conversion circuit is connected to the first pixel and the second pixel circuit.
  • Each of the unit pixels includes a plurality of the first pixels.
  • the second pixel is A photoelectric conversion unit that photoelectrically converts incident light, A first pixel circuit that reads out the electric charge generated in the photoelectric conversion unit, and A second pixel circuit that reads out the electric charge generated in the photoelectric conversion unit, and Equipped with
  • the signal processing circuit is connected to one of the plurality of first pixels and the second pixel circuit, and is output from each of the one of the plurality of first pixels and the second pixel circuit. It also has a second conversion circuit that converts the analog signal to a digital signal.
  • the solid-state image pickup device according to any one of (1) to (12), wherein the first conversion circuit is connected to the other one of the plurality of first pixels and the first pixel circuit. .. (14)
  • the signal processing circuit is A first switch that switches the connection destination of the first conversion circuit to any one of the other one of the plurality of first pixels and the first pixel circuit.
  • a second switch that switches the connection destination of the second conversion circuit to either one of the plurality of first pixels and one of the second pixel circuits.
  • the solid-state image pickup apparatus according to (13) above.
  • the signal processing circuit is An analog that is connected to the other one of the plurality of first pixels and the first pixel circuit and is output from each of the other one of the plurality of first pixels and the first pixel circuit.
  • a third conversion circuit that converts a signal into a digital signal
  • An analog signal connected to the one of the plurality of first pixels and the second pixel circuit and output from each of the one of the plurality of first pixels and the second pixel circuit is a digital signal.
  • the 4th conversion circuit that converts to A third switch that switches the connection destination of the first conversion circuit to any one of the other one of the plurality of first pixels and the first pixel circuit.
  • a fourth switch that switches the connection destination of the second conversion circuit to either one of the plurality of first pixels and one of the second pixel circuits.
  • the solid-state image sensor according to any one of (1) to (15) above, wherein the light in the second wavelength band is light included in the wavelength band of infrared light.
  • a first drive circuit for driving the first pixel in each of the unit pixels A second drive circuit that drives the second pixel in each of the unit pixels,
  • the solid-state image pickup apparatus according to any one of (1) to (16) above.
  • the first pixel includes a first photoelectric conversion unit that photoelectrically converts incident light.
  • the second pixel includes a second photoelectric conversion unit that photoelectrically converts incident light.
  • the solid-state image sensor according to any one of (1) to (17), wherein the first photoelectric conversion unit and the second photoelectric conversion unit are arranged along the optical axis of the incident light.
  • the solid-state image sensor according to any one of (1) to (18), A recognition processing unit that executes recognition processing based on the first detection data acquired by the first pixel of the solid-state image sensor and the second detection data acquired by the second pixel.
  • a recognition system equipped with (20) A light source that emits light in the second wavelength band and A control unit that controls the light source and the solid-state image sensor, Further prepare The recognition system according to (19), wherein the control unit controls so as to synchronize the light emission timing of the light source with the drive timing of the second pixel in the solid-state image sensor.
  • a processing unit for generating depth information indicating a distance from the second pixel acquired by the second pixel in the solid-state image pickup device to an object is provided.
  • the recognition system according to (19) or (20), wherein the recognition processing unit executes the recognition process based on the first detection data and the depth information.
  • the recognition processing unit The first recognition process is executed based on one of the first detection data and the second detection data, and the first recognition process is executed.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Power Engineering (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Electromagnetism (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

よりセキュアな認証を可能にする。実施形態に係る固体撮像装置は、行列状に配列する複数の単位画素（１１０）と、前記単位画素それぞれから信号を読み出す信号処理回路（１０３Ａ、１０３Ｂ）と、を備え、前記単位画素それぞれは、第１面に配置され、第１波長帯の光を検出する第１画素（１０）と、前記第１面に平行な第２面に配置され、前記第１波長帯とは異なる第２波長帯の光を検出する第２画素（２０）と、を備え、前記信号処理回路は、前記単位画素それぞれにおける前記第１画素及び前記第２画素に接続され、前記第１画素及び前記第２画素それぞれから出力されたアナログ信号をデジタル信号に変換する第１変換回路（１０３ａ）を備える。

Description

固体撮像装置及び認識システム
　本開示は、固体撮像装置及び認識システムに関する。
　近年、スマートフォンやタブレット端末などのポータブル機器の普及に伴い、セキュアな認証システムが要求されてきている。
特開２０２０－２１８５５号公報 特開２０１８－１２５８４８号公報
　しかしながら、従来では、１つのセンサで取得された情報に基づく認証システムが一般的であったため、なりすましなどの不正アクセスに対するセキュリティに改善の余地が存在した。
　そこで本開示は、よりセキュアな認証を可能にする固体撮像装置及び認識システムを提案する。
　上記の課題を解決するために、本開示に係る一形態の固体撮像装置は、行列状に配列する複数の単位画素と、前記単位画素それぞれから信号を読み出す信号処理回路と、を備え、前記単位画素それぞれは、第１面に配置され、第１波長帯の光を検出する第１画素と、前記第１面に平行な第２面に配置され、前記第１波長帯とは異なる第２波長帯の光を検出する第２画素と、を備え、前記信号処理回路は、前記単位画素それぞれにおける前記第１画素及び前記第２画素に接続され、前記第１画素及び前記第２画素それぞれから出力されたアナログ信号をデジタル信号に変換する第１変換回路を備える。
第１の実施形態に係るイメージセンサを搭載した電子機器の概略構成例を示すブロック図である。 第１の実施形態に係る認識システムの機能構成例を示すブロック図である。 第１の実施形態に係るイメージセンサの概略構成例を示すブロック図である。 第１の実施形態の変形例に係るイメージセンサの概略構成例を示すブロック図である。 第１の実施形態に係る画素アレイ部の概略構成例を示す模式図である。 第１実施形態に係る単位画素の概略構成例を示す回路図である。 第１の実施形態の第１の変形例に係る単位画素の概略構成例を示す回路図である。 第１の実施形態の第２の変形例に係る単位画素の概略構成例を示す回路図である。 第１の実施形態の第３の変形例に係る単位画素の概略構成例を示す回路図である。 第１の実施形態に係るイメージセンサの断面構造例を示す断面図である。 図１１は、第１の実施形態に係る画素アレイ部の各層の平面レイアウト例を示す図である。 第１の実施形態に係るＲＧＢ画素に対する画素駆動線の配線例を示す平面図である。 第１の実施形態に係るＩＲ画素に対する画素駆動線の配線例を示す平面図である。 第１の実施形態に係るイメージセンサの積層構造例を示す図である。 第１の実施形態に係る認識動作の一例を示すフローチャートである。 第２の実施形態に係る単位画素の概略構成例を示す模式図である。 第２の実施形態に係る単位画素の概略構成例を示す回路図である。 第２の実施形態に係るイメージセンサの断面構造例を示す断面図である。 第２の実施形態に係る画素アレイ部の各層の平面レイアウト例を示す図である。 第２の実施形態のオンチップレンズの変形例に係る画素アレイ部の各層の平面レイアウト例を示す図である。 第２の実施形態のカラーフィルタ配列の変形例に係る画素アレイ部の各層の平面レイアウト例を示す図である。 第３の実施形態に係る認識システムの機能構成例を示すブロック図である。 第３の実施形態に係る認識システムを実現する電子機器の構成の一例を示す概略図である。 第３の実施形態に係る認識システムを実現する電子機器の構成の一例を示すブロック図である。 第３の実施形態に係るイメージセンサの概略構成例を示すブロック図である。 第３の実施形態の変形例に係るイメージセンサの概略構成例を示すブロック図である。 第３の実施形態に係る画素アレイ部の概略構成例を示す模式図である。 第３の実施形態に係る単位画素の概略構成例を示す回路図である。 第３の実施形態の第１の変形例に係る単位画素の概略構成例を示す回路図である。 第３の実施形態の第２の変形例に係る単位画素の概略構成例を示す回路図である。 第３の実施形態の第３の変形例に係る単位画素の概略構成例を示す回路図である。 第３の実施形態の第４の変形例に係る単位画素の概略構成例を示す回路図である。 第３の実施形態に係るイメージセンサの断面構造例を示す断面図である。 第３の実施形態に係る画素アレイ部の各層の平面レイアウト例を示す図である。 第３の実施形態に係る認識動作の一例を示すフローチャートである。 車両制御システムの概略的な構成の一例を示すブロック図である。 車外情報検出部及び撮像部の設置位置の一例を示す説明図である。
　以下に、本開示の実施形態について図面に基づいて詳細に説明する。なお、以下の実施形態において、同一の部位には同一の符号を付することにより重複する説明を省略する。
　また、以下に示す項目順序に従って本開示を説明する。
　　１．第１の実施形態
　　　１．１　電子機器の構成例
　　　１．２　認識システムの機能構成例
　　　１．３　イメージセンサの構成例
　　　　１．３．１　イメージセンサの変形例
　　　１．４　単位画素の構成例
　　　１．５　単位画素の回路構成例
　　　１．６　回路構成の変形例
　　　　１．６．１　第１の変形例
　　　　１．６．２　第２の変形例
　　　　１．６．３　第３の変形例
　　　１．７　単位画素の断面構造例
　　　１．８　有機材料
　　　１．９　平面構造例
　　　１．１０　画素駆動線の配線例
　　　１．１１　イメージセンサの積層構造例
　　　１．１２　認識動作例
　　　１．１３　作用・効果
　　２．第２の実施形態
　　　２．１　単位画素の構成例
　　　２．２　単位画素の回路構成例
　　　２．３　単位画素の断面構造例
　　　２．４　平面構造例
　　　２．５　オンチップレンズの変形例
　　　２．６　カラーフィルタ配列の変形例
　　　２．７　作用・効果
　　３．第３の実施形態
　　　３．１　認識システムの機能構成例
　　　３．２　システム構成例
　　　３．３　イメージセンサの構成例
　　　　３．３．１　イメージセンサの変形例
　　　３．４　単位画素の構成例
　　　３．５　単位画素の回路構成例
　　　３．６　回路構成の変形例
　　　　３．６．１　第１の変形例
　　　　３．６．２　第２の変形例
　　　　３．６．３　第３の変形例
　　　　３．６．４　第４の変形例
　　　３．７　単位画素の断面構造例
　　　３．８　平面構造例
　　　３．９　認識動作例
　　　３．１０　作用・効果
　　４．移動体への応用例
　１．第１の実施形態
　まず、第１の実施形態に係る固体撮像装置（以下、イメージセンサという）、電子機器及び認識システムについて、図面を参照して詳細に説明する。なお、本実施形態では、ＣＭＯＳ（Complementary　Metal-Oxide　Semiconductor）型のイメージセンサに本実施形態に係る技術を適用した場合を例示するが、これに限定されず、例えば、ＣＣＤ（Charge-Coupled　Device）型のイメージセンサやＴｏＦ（Time-of-Flight）センサやＥＶＳ（Event　Vision　Sensor）など、光電変換部を備える種々のセンサに本実施形態に係る技術を適用することが可能である。
　１．１　電子機器の構成例
　図１は、第１の実施形態に係るイメージセンサを搭載した電子機器の概略構成例を示すブロック図である。図１に示すように、電子機器１は、例えば、撮像レンズ２と、イメージセンサ１００と、記憶部３と、プロセッサ４とを備える。
　撮像レンズ２は、入射光を集光してその像をイメージセンサ１００の受光面に結像する光学系の一例である。受光面とは、イメージセンサ１００における光電変換部が配列する面であってよい。イメージセンサ１００は、入射光を光電変換して画像データを生成する。また、イメージセンサ１００は、生成した画像データに対し、ノイズ除去やホワイトバランス調整等の所定の信号処理を実行する。
　記憶部３は、例えば、フラッシュメモリやＤＲＡＭ（Dynamic　Random　Access　Memory）やＳＲＡＭ（Static　Random　Access　Memory）等で構成され、イメージセンサ１００から入力された画像データ等を記録する。
　プロセッサ４は、例えば、ＣＰＵ（Central　Processing　Unit）等を用いて構成され、オペレーティングシステムや各種アプリケーションソフトウエア等を実行するアプリケーションプロセッサや、ＧＰＵ（Graphics　Processing　Unit）やベースバンドプロセッサなどが含まれ得る。プロセッサ４は、イメージセンサ１００から入力された画像データや記憶部３から読み出した画像データ等に対し、必要に応じた種々処理を実行したり、ユーザへの表示を実行したり、所定のネットワークを介して外部へ送信したりする。
　また、プロセッサ４は、後述するＲＧＢ画素１０から読み出されたカラー画像と、ＩＲ画素２０から読み出されたモノクロ画像（ＩＲ画像）とを統合的に処理することで、測距処理や認識処理などの種々の処理を実行し得る。
　１．２　認識システムの機能構成例
　次に、電子機器１を用いて構成される認識システムの機能構成例について説明する。図２は、第１の実施形態に係る認識システムの機能構成例を示すブロック図である。図２に示すように、認識システム７０は、ＲＧＢセンサ部７１とＩＲセンサ部７３との２種類のセンサ部を備える。また、認識システム７０は、ＲＧＢ画像処理部７２と、ＩＲ画像処理部７４と、認識処理部７５と、インタフェース（Ｉ／Ｆ）部７６とを備える。
　ＲＧＢセンサ部７１は、例えば、ＲＧＢ三原色それぞれの波長成分を透過するカラーフィルタを備える複数の画素（以下、ＲＧＢ画素という）を備え、ＲＧＢ三原色の色成分で構成されたカラー画像（以下、ＲＧＢ画像という）を生成する。なお、ＲＧＢセンサ部７１に代えて、ＣＭＹ三原色それぞれの波長成分を透過するカラーフィルタを備える複数の画素を備えるセンサ部等が用いられてもよい。
　ＩＲセンサ部７３は、例えば、赤外（ＩＲ）光を透過するＩＲフィルタを備える複数の画素（以下、ＩＲ画素という）を備え、ＩＲ光の色成分で構成されたモノクロ画像（以下、ＩＲ画像という）を生成する。なお、ＩＲセンサ部７３に代えて、他の１以上の波長帯の光をそれぞれ透過するカラーフィルタを備える複数の画素を備えるセンサ部等が用いられてもよい。
　ＲＧＢ画像処理部７２は、ＲＧＢセンサ部７１から入力されたＲＧＢ画像データに対し、ノイズ除去やホワイトバランス調整や画素補間等の所定の信号処理を実行する。
　ＩＲ画像処理部７４は、ＩＲセンサ部７３から入力されたＩＲ画像データに対し、ノイズ除去やホワイトバランス調整等の所定の信号処理を実行する。
　認識処理部７５は、ＲＧＢ画像処理部７２から入力されたＲＧＢ画像データ及び／又はＩＲ画像処理部７４から入力されたＩＲ画像データを用いて、ＲＧＢセンサ部７１及び／又はＩＲセンサ部７３の画角内に存在する物体等の認識処理を実行する。認識処理部７５による認識処理には、パターン認識などの認識処理や、人工知能（Artificial　Intelligence：ＡＩ）による認識処理などが用いられてよい。ＡＩによる認識処理には、例えば、ＣＮＮ（Convolution　Neural　Network）やＲＮＮ（Recurrent　Neural　Network）などのニューラルネットワークを利用した深層学習が適用されてもよい。また、認識処理部７５は、認識処理の一部を実行し、その結果（中間データ等）を出力してもよい。
　インタフェース部７６は、認識処理部７５により得られた認識結果（中間データ等を含む）や、ＲＧＢセンサ部７１及び／又はＩＲセンサ部７３で取得された画像データを外部の例えばプロセッサ４及び／又は記憶部３へ出力する。
　なお、ＲＧＢ画像処理部７２は、ＲＧＢ画像データに対して物体の領域判定を実行し、その結果として得られた注目領域（Region　of　Interest：ＲＯＩ）を指定するアドレス等の情報（以下、単にＲＯＩ情報と言いう）をＩＲセンサ部７３及び／又はＩＲ画像処理部７４に入力してもよい。これに対し、ＩＲセンサ部７３は、ＲＧＢ画像処理部７２から入力されたＲＯＩ情報に対応する領域のＩＲ画像データを取得するように動作してもよい。若しくは、ＩＲ画像処理部７４は、ＩＲセンサ部７３から入力されたＩＲ画像データに対し、ＲＧＢ画像処理部７２から入力されたＲＯＩ情報に対応する領域のトリミングなどの処理を実行してもよい。
　１．３　イメージセンサの構成例
　図３は、第１の実施形態に係るイメージセンサの概略構成例を示すブロック図である。図３に示すように、本実施形態に係るイメージセンサ１００は、例えば、画素アレイ部１０１と、ＲＧＢ画素駆動回路１０２Ａと、ＩＲ画素駆動回路１０２Ｂと、ＲＧＢ信号処理回路１０３Ａと、ＩＲ信号処理回路１０３Ｂと、カラム駆動回路１０４と、システム制御回路１０５と、ＲＧＢデータ処理部１０８Ａと、ＩＲデータ処理部１０８Ｂとを備える。
　画素アレイ部１０１、ＲＧＢ画素駆動回路１０２Ａ、ＲＧＢ信号処理回路１０３Ａ、カラム駆動回路１０４及びシステム制御回路１０５は、例えば、図２におけるＲＧＢセンサ部７１を構成し、画素アレイ部１０１、ＩＲ画素駆動回路１０２Ｂ、ＩＲ信号処理回路１０３Ｂ、カラム駆動回路１０４及びシステム制御回路１０５は、例えば、図２におけるＩＲセンサ部７３を構成する。また、ＲＧＢ信号処理回路１０３Ａ及びＲＧＢデータ処理部１０８Ａは、例えば、図２におけるＲＧＢ画像処理部７２を構成し、ＩＲ信号処理回路１０３Ｂ及びＩＲデータ処理部１０８Ｂは、例えば、図２におけるＩＲ画像処理部７４を構成する。なお、図２における認識処理部７５は、プロセッサ４単体で実現されてもよいし、ＲＧＢデータ処理部１０８Ａ及びＩＲデータ処理部１０８Ｂとプロセッサ４とを連携させることで実現されてもよいし、ＲＧＢデータ処理部１０８ＡとＩＲデータ処理部１０８Ｂとを連携させることで実現されてもよい。
　画素アレイ部１０１は、単位画素１１０が行方向及び列方向に、すなわち、２次元格子状（行列状ともいう）に配置された構成を有する。ここで、行方向とは画素行の画素の配列方向（図面中、横方向）をいい、列方向とは画素列の画素の配列方向（図面中、縦方向）をいう。
　各単位画素１１０は、ＲＧＢ画素１０とＩＲ画素２０とを備える。以下の説明において、ＲＧＢ画素１０とＩＲ画素２０とを区別しない場合、単に画素と称する場合がある。単位画素１１０の具体的な回路構成や画素構造の詳細については後述するが、ＲＧＢ画素１０及びＩＲ画素２０それぞれは、受光した光量に応じた電荷を生成しかつ蓄積する光電変換部を備え、入射光量に応じた電圧の画素信号を生成する。
　画素アレイ部１０１では、行列状の画素配列に対し、画素行ごとに画素駆動線ＬＤ１及びＬＤ２が行方向に沿って配線され、画素列ごとに垂直信号線ＶＳＬ１及びＶＳＬ２が列方向に沿って配線されている。例えば、画素駆動線ＬＤ１は、各行のＲＧＢ画素１０に接続され、画素駆動線ＬＤ２は、各行のＩＲ画素２０に接続される。一方、例えば、垂直信号線ＶＳＬ１は、各列のＲＧＢ画素１０に接続され、垂直信号線ＶＳＬ２は、各列のＩＲ画素２０に接続される。ただし、これに限定されず、画素駆動線ＬＤ１及びＬＤ２は、互いに直交するように配線されていてもよい。同様に、垂直信号線ＶＳＬ１及びＶＳＬ２は、互いに直交するように配線されていてもよい。例えば、画素駆動線ＬＤ１が行方向に配線され、画素駆動線ＬＤ２が列方向に配線され、垂直信号線ＶＳＬ１が列方向に配線され、垂直信号線ＶＳＬ２が行方向に配線されてもよい。
　画素駆動線ＬＤ１は、ＲＧＢ画素１０から画素信号を読み出す際の駆動を行うための制御信号を伝送する。画素駆動線ＬＤ２は、ＩＲ画素２０から画素信号を読み出す際の駆動を行うための制御信号を伝送する。図３では、画素駆動線ＬＤ１及びＬＤ２がそれぞれ１本ずつの配線として示されているが、１本ずつに限られるものではない。画素駆動線ＬＤ１の一端は、ＲＧＢ画素駆動回路１０２Ａの各行に対応した出力端に接続され、画素駆動線ＬＤ２の一端は、ＩＲ画素駆動回路１０２Ｂの各行に対応した出力端に接続される。
　ＲＧＢ画素駆動回路１０２Ａ及びＩＲ画素駆動回路１０２Ｂそれぞれは、シフトレジスタやアドレスデコーダなどによって構成され、画素アレイ部１０１の各画素を全画素同時あるいは行単位等で駆動する。すなわち、ＲＧＢ画素駆動回路１０２Ａは、当該ＲＧＢ画素駆動回路１０２Ａを制御するシステム制御回路１０５と共に、画素アレイ部１０１の各ＲＧＢ画素１０の動作を制御する駆動部を構成し、ＩＲ画素駆動回路１０２Ｂは、当該ＩＲ画素駆動回路１０２Ｂを制御するシステム制御回路１０５と共に、画素アレイ部１０１の各ＩＲ画素２０の動作を制御する駆動部を構成する。これらＲＧＢ画素駆動回路１０２Ａ及びＩＲ画素駆動回路１０２Ｂは、その具体的な構成については図示を省略するが、一般的に、読出し走査系と掃出し走査系との２つの走査系を備えている。
　読出し走査系は、各画素から信号を読み出すために、画素アレイ部１０１の各画素を行単位で順に選択走査する。各画素から読み出される画素信号はアナログ信号である。掃出し走査系は、読出し走査系によって読出し走査が行われる読出し行に対して、その読出し走査よりも露光時間分だけ先行して掃出し走査を行う。
　この掃出し走査系による掃出し走査により、読出し行の各画素の光電変換部から不要な電荷が掃き出されることによって当該光電変換部がリセットされる。そして、この掃出し走査系で不要電荷を掃き出す（リセットする）ことにより、所謂電子シャッタ動作が行われる。ここで、電子シャッタ動作とは、光電変換部の電荷を捨てて、新たに露光を開始する（電荷の蓄積を開始する）動作のことを言う。
　読出し走査系による読出し動作によって読み出される信号は、その直前の読出し動作または電子シャッタ動作以降に受光した光量に対応している。そして、直前の読出し動作による読出しタイミングまたは電子シャッタ動作による掃出しタイミングから、今回の読出し動作による読出しタイミングまでの期間が、各画素における電荷の蓄積期間（露光期間ともいう）となる。
　ＲＧＢ画素駆動回路１０２Ａによって選択走査された画素行の各ＲＧＢ画素１０から出力される画素信号は、画素列ごとに垂直信号線ＶＳＬ１の各々を通してＲＧＢ信号処理回路１０３Ａに入力される。ＲＧＢ信号処理回路１０３Ａは、画素アレイ部１０１の画素列ごとに、選択行の各ＲＧＢ画素１０から垂直信号線ＶＳＬ１を通して出力される画素信号に対して所定の信号処理を行うとともに、信号処理後の画素信号を一時的に保持する。
　同様に、ＩＲ画素駆動回路１０２Ｂによって選択走査された画素行の各ＩＲ画素２０から出力される画素信号は、画素列ごとに垂直信号線ＶＳＬ２の各々を通してＩＲ信号処理回路１０３Ｂに入力される。ＩＲ信号処理回路１０３Ｂは、画素アレイ部１０１の画素列ごとに、選択行の各ＩＲ画素２０から垂直信号線ＶＳＬ２を通して出力される画素信号に対して所定の信号処理を行うとともに、信号処理後の画素信号を一時的に保持する。
　具体的には、ＲＧＢ信号処理回路１０３Ａ及びＩＲ信号処理回路１０３Ｂそれぞれは、信号処理として少なくとも、ノイズ除去処理、例えばＣＤＳ（Correlated　Double　Sampling：相関二重サンプリング）処理や、ＤＤＳ（Double　Data　Sampling）処理を行う。例えば、ＣＤＳ処理により、リセットノイズや画素内の増幅トランジスタの閾値ばらつき等の画素固有の固定パターンノイズが除去される。ＲＧＢ信号処理回路１０３Ａ及びＩＲ信号処理回路１０３Ｂそれぞれは、その他にも、例えば、ＡＤ（アナログ－デジタル）変換機能を備え、光電変換部から読み出されたアナログの画素信号をデジタル信号に変換して出力する。
　カラム駆動回路１０４は、シフトレジスタやアドレスデコーダなどによって構成され、ＲＧＢ信号処理回路１０３Ａ及びＩＲ信号処理回路１０３Ｂの画素列に対応する読出し回路（以下、画素回路という）を順番に選択する。このカラム駆動回路１０４による選択走査により、ＲＧＢ信号処理回路１０３Ａ及びＩＲ信号処理回路１０３Ｂにおいて画素回路ごとに信号処理された画素信号が順番に出力される。
　システム制御回路１０５は、各種のタイミング信号を生成するタイミングジェネレータなどによって構成され、当該タイミングジェネレータで生成された各種のタイミングを基に、ＲＧＢ画素駆動回路１０２Ａ、ＩＲ画素駆動回路１０２Ｂ、ＲＧＢ信号処理回路１０３Ａ、ＩＲ信号処理回路１０３Ｂ、及び、カラム駆動回路１０４などの駆動制御を行う。
　ＲＧＢデータ処理部１０８Ａ及びＩＲデータ処理部１０８Ｂそれぞれは、少なくとも演算処理機能を有し、ＲＧＢ信号処理回路１０３Ａ又はＩＲ信号処理回路１０３Ｂから出力される画像信号に対して演算処理等の種々の信号処理を行う。
　ＲＧＢデータ処理部１０８Ａ又はＩＲデータ処理部１０８Ｂから出力された画像データは、例えば、イメージセンサ１００を搭載する電子機器１におけるプロセッサ４等において所定の処理が実行されたり、所定のネットワークを介して外部へ送信されたりしてもよい。
　なお、イメージセンサ１００は、ＲＧＢデータ処理部１０８Ａ及びＩＲデータ処理部１０８Ｂでの信号処理に必要なデータや、ＲＧＢ信号処理回路１０３Ａ、ＩＲ信号処理回路１０３Ｂ、ＲＧＢデータ処理部１０８Ａ及びＩＲデータ処理部１０８Ｂのうちのいずれか１つ以上で処理されたデータ等を一時的に保持するための記憶部を備えていてもよい。
　１．３．１　イメージセンサの変形例
　図４は、第１の実施形態の変形例に係るイメージセンサの概略構成例を示すブロック図である。上述した図３では、ＲＧＢ画素１０及びＩＲ画素２０それぞれに対して別々の信号処理回路（ＲＧＢ信号処理回路１０３Ａ及びＩＲ信号処理回路１０３Ｂ）を設けた場合を例示したが、これに限定されず、図４に例示するように、ＲＧＢ画素１０及びＩＲ画素２０に対して共通の信号処理回路１０３を設けることも可能である。その場合、ＲＧＢ画素１０からの画素信号の読出しと、ＩＲ画素２０からの画素信号の読出しとは、時分割で実行されてもよいし、並行して実行されてもよい。
　１．４　単位画素の構成例
　次に、単位画素１１０の構成例について説明する。なお、ここでは、単位画素１１０が、ＲＧＢ三原色のＲＧＢ画像を取得するためのＲＧＢ画素１０と、赤外（ＩＲ）光のＩＲ画像を取得するためのＩＲ画素２０とを含む場合を例示に挙げる。なお、図５及び以下では、ＲＧＢ三原色を構成する各色成分の光を透過させるカラーフィルタ３１ｒ、３１ｇ又は３１ｂを区別しない場合、その符号が３１とされている。
　図５は、第１の実施形態に係る画素アレイ部の概略構成例を示す模式図である。図５に示すように、画素アレイ部１０１は、ＲＧＢ画素１０とＩＲ画素２０とからなる単位画素１１０が光の入射方向に沿って配列した構造を備える単位画素１１０が２次元格子状に配列した構成を備える。すなわち、本実施形態では、ＲＧＢ画素１０とＩＲ画素２０とが単位画素１１０の配列方向（平面方向）に対して垂直方向に位置されており、入射光の光路における上流側に位置するＲＧＢ画素１０を透過した光が、このＲＧＢ画素１０の下流側に位置するＩＲ画素２０に入射するように構成されている。このような構成によれば、ＲＧＢ画素１０の光電変換部ＰＤ１における入射光の入射面と反対側の面側にＩＲ画素２０の光電変換部ＰＤ２が配置される。それにより、本実施形態では、光の入射方向に沿って配列するＲＧＢ画素１０とＩＲ画素２０との入射光の光軸が一致又は略一致している。
　なお、本実施形態では、ＲＧＢ画素１０を構成する光電変換部ＰＤ１を有機材料で構成し、ＩＲ画素２０を構成する光電変換部ＰＤ２をシリコンなどの半導体材料で構成する場合を例示するが、これに限定されるものではない。例えば、光電変換部ＰＤ１と光電変換部ＰＤ２との両方が半導体材料で構成されてもよいし、光電変換部ＰＤ１と光電変換部ＰＤ２との両方が有機材料で構成されてもよいし、光電変換部ＰＤ１が半導体材料で構成され、光電変換部ＰＤ２が有機材料で構成されてもよい。若しくは、光電変換部ＰＤ１と光電変換部ＰＤ２との少なくとも一方が有機材料及び半導体材料とは異なる光電変換材料で構成されてもよい。
　１．５　単位画素の回路構成例
　次に、単位画素１１０の回路構成例について説明する。図６は、第１実施形態に係る単位画素の概略構成例を示す回路図である。図６に示すように、単位画素１１０は、ＲＧＢ画素１０と、ＩＲ画素２０とを１つずつ備える。
　（ＲＧＢ画素１０）
　ＲＧＢ画素１０は、例えば、光電変換部ＰＤ１と、転送ゲート１１と、浮遊拡散領域ＦＤ１と、リセットトランジスタ１２と、増幅トランジスタ１３と、選択トランジスタ１４とを備える。
　選択トランジスタ１４のゲートには、画素駆動線ＬＤ１に含まれる選択制御線が接続され、リセットトランジスタ１２のゲートには、画素駆動線ＬＤ１に含まれるリセット制御線が接続され、転送ゲート１１の後述する蓄積電極（後述において説明する図１０の蓄積電極３７参照）には、画素駆動線ＬＤ１に含まれる転送制御線が接続される。また、増幅トランジスタ１３のドレインには、ＲＧＢ信号処理回路１０３Ａに一端が接続される垂直信号線ＶＳＬ１が選択トランジスタ１４を介して接続される。
　以下の説明において、リセットトランジスタ１２、増幅トランジスタ１３及び選択トランジスタ１４は、まとめて画素回路とも称される。この画素回路には、浮遊拡散領域ＦＤ１及び／又は転送ゲート１１が含まれてもよい。
　光電変換部ＰＤ１は、例えば有機材料で構成され、入射した光を光電変換する。転送ゲート１１は、光電変換部ＰＤ１に発生した電荷を転送する。浮遊拡散領域ＦＤ１は、転送ゲート１１が転送した電荷を蓄積する。増幅トランジスタ１３は、浮遊拡散領域ＦＤ１に蓄積された電荷に応じた電圧値の画素信号を垂直信号線ＶＳＬ１に出現させる。リセットトランジスタ１２は、浮遊拡散領域ＦＤ１に蓄積された電荷を放出する。選択トランジスタ１４は、読出し対象のＲＧＢ画素１０を選択する。
　光電変換部ＰＤ１のアノードは、接地されており、カソ－ドは、転送ゲート１１に接続される。転送ゲート１１は、その詳細については後述において図１０を用いて説明するが、例えば、蓄積電極３７と読出し電極３６とを備える。露光時には、光電変換部ＰＤ１に発生した電荷を蓄積電極３７の近傍の半導体層３５に集めるための電圧が、転送制御線を介して蓄積電極３７に印加される。読出し時には、蓄積電極３７の近傍の半導体層３５に集められた電荷を読出し電極３６を介して流出させるための電圧が、転送制御線を介して蓄積電極３７に印加される。
　読出し電極３６を介して流出した電荷は、読出し電極３６と、リセットトランジスタ１２のソースと、増幅トランジスタ１３のゲートとを接続する配線構造によって構成される浮遊拡散領域ＦＤ１に蓄積される。なお、リセットトランジスタ１２のドレインは、例えば、電源電圧ＶＤＤや電源電圧ＶＤＤよりも低いリセット電圧が供給される電源線に接続されてもよい。
　増幅トランジスタ１３のソースは、例えば、不図示の定電流回路等を介して電源線に接続されてよい。増幅トランジスタ１３のドレインは、選択トランジスタ１４のソースに接続され、選択トランジスタ１４のドレインは、垂直信号線ＶＳＬ１に接続される。
　浮遊拡散領域ＦＤ１は、蓄積している電荷をその電荷量に応じた電圧値の電圧に変換する。なお、浮遊拡散領域ＦＤ１は、例えば、対接地容量であってもよい。ただし、これに限定されず、浮遊拡散領域ＦＤ１は、転送ゲート１１のドレインとリセットトランジスタ１２のソースと増幅トランジスタ１３のゲートとが接続するノードにキャパシタなどを意図的に接続することで付加された容量等であってもよい。
　垂直信号線ＶＳＬ１は、ＲＧＢ信号処理回路１０３Ａにおいてカラム毎（すなわち、垂直信号線ＶＳＬ１毎）に設けられたＡＤ（Analog-to-Digital）変換回路１０３ａに接続される。ＡＤ変換回路１０３ａは、例えば、比較器とカウンタとを備え、外部の基準電圧生成回路（ＤＡＣ（Digital-to-Analog　Converter））から入力されたシングルスロープやランプ形状等の基準電圧と、垂直信号線ＶＳＬ１に出現した画素信号とを比較することで、アナログの画素信号をデジタルの画素信号に変換する。なお、ＡＤ変換回路１０３ａは、例えば、ＣＤＳ（Correlated　Double　Sampling）回路などを備え、ｋＴＣノイズ等を低減可能に構成されていてもよい。
　（ＩＲ画素２０）
　ＩＲ画素２０は、例えば、光電変換部ＰＤ２と、転送トランジスタ２１と、浮遊拡散領域ＦＤ２と、リセットトランジスタ２２と、増幅トランジスタ２３と、選択トランジスタ２４と、排出トランジスタ２５とを備える。すなわち、ＩＲ画素２０では、ＲＧＢ画素１０における転送ゲート１１が転送トランジスタ２１に置き換えられるとともに、排出トランジスタ２５が追加されている。
　転送トランジスタ２１に対する浮遊拡散領域ＦＤ２、リセットトランジスタ２２及び増幅トランジスタ２３の接続関係は、ＲＧＢ画素１０における転送ゲート１１に対する浮遊拡散領域ＦＤ１、リセットトランジスタ１２及び増幅トランジスタ１３の接続関係と同様であってよい。また、増幅トランジスタ２３と選択トランジスタ２４と垂直信号線ＶＳＬ２との接続関係も、ＲＧＢ画素１０における増幅トランジスタ１３と選択トランジスタ１４と垂直信号線ＶＳＬ１との接続関係と同様であってよい。
　転送トランジスタ２１のソースは、例えば、光電変換部ＰＤ２のカソードに接続され、ドレインは浮遊拡散領域ＦＤ２に接続される。また、転送トランジスタ２１のゲートには、画素駆動線ＬＤ２に含まれる転送制御線が接続される。
　排出トランジスタ２５のソースは、例えば、光電変換部ＰＤ２のカソードに接続され、ドレインは、電源電圧ＶＤＤや電源電圧ＶＤＤよりも低いリセット電圧が供給される電源線に接続されてよい。また、排出トランジスタ２５のゲートには、画素駆動線ＬＤ２に含まれる排出制御線が接続される。
　以下の説明において、リセットトランジスタ２２、増幅トランジスタ２３及び選択トランジスタ２４は、まとめて画素回路とも称される。この画素回路には、浮遊拡散領域ＦＤ２、転送トランジスタ２１及び排出トランジスタ２５のうちの１つ以上が含まれてもよい。
　光電変換部ＰＤ２は、例えば半導体材料で構成され、入射した光を光電変換する。転送トランジスタ２１は、光電変換部ＰＤ２に発生した電荷を転送する。浮遊拡散領域ＦＤ２は、転送トランジスタ２１が転送した電荷を蓄積する。増幅トランジスタ２３は、浮遊拡散領域ＦＤ２に蓄積された電荷に応じた電圧値の画素信号を垂直信号線ＶＳＬ２に出現させる。リセットトランジスタ２２は、浮遊拡散領域ＦＤ２に蓄積された電荷を放出する。選択トランジスタ２４は、読出し対象のＩＲ画素２０を選択する。
　光電変換部ＰＤ２のアノードは、接地されており、カソ－ドは、転送トランジスタ２１に接続される。転送トランジスタ２１のドレインは、リセットトランジスタ２２のソースおよび増幅トランジスタ２３のゲートに接続されており、これらを接続する配線構造が、浮遊拡散層ＦＤ２を構成する。光電変換部ＰＤ２から転送トランジスタ２１を介して流出した電荷は、浮遊拡散領域ＦＤ２に蓄積される。
　浮遊拡散領域ＦＤ２は、蓄積している電荷をその電荷量に応じた電圧値の電圧に変換する。なお、浮遊拡散領域ＦＤ２は、例えば、対接地容量であってもよい。ただし、これに限定されず、浮遊拡散領域ＦＤ２は、転送トランジスタ２１のドレインとリセットトランジスタ２２のソースと増幅トランジスタ２３のゲートとが接続するノードにキャパシタなどを意図的に接続することで付加された容量等であってもよい。
　排出トランジスタ２５は、光電変換部ＰＤ２に蓄積された電荷を排出して、光電変換部ＰＤ２をリセットする際にオン状態とされる。それにより、光電変換部ＰＤ２に蓄積された電荷が排出トランジスタ２５を介して電源線へ流出し、光電変換部ＰＤ２が露光されていない状態にリセットされる。
　垂直信号線ＶＳＬ２は、垂直信号線ＶＳＬ１と同様、ＩＲ信号処理回路１０３Ｂにおいてカラム毎（すなわち、垂直信号線ＶＳＬ２毎）に設けられたＡＤ変換回路１０３ａに接続される。
　１．６　回路構成の変形例
　続いて、図６に示す単位画素１１０の回路構成の変形例について、いくつか例を挙げて説明する。
　１．６．１　第１の変形例
　図７は、第１の実施形態の第１の変形例に係る単位画素の概略構成例を示す回路図である。図７に示すように、単位画素１１０－１は、図６に示す単位画素１１０と同様の構成において、垂直信号線ＶＳＬ１及びＶＳＬ２が共通のＡＤ変換回路１０３ａに接続されるように構成されている。そこで、第１の変形例では、ＡＤ変換回路１０３ａに接続される垂直信号線を、垂直信号線ＶＳＬ１及びＶＳＬ２のいずれかに切り替えるスイッチ回路１３１が設けられる。スイッチ回路１３１は、例えば、ＲＧＢ信号処理回路１０３Ａ及びＩＲ信号処理回路１０３Ｂ或いは共通信号処理回路１０３に含まれる構成であってもよい。また、スイッチ回路１３１は、例えば、ＲＧＢ画素１０及び／又はＩＲ画素２０の画素回路と同じ半導体基板に設けられてもよいし、信号処理回路が配置された半導体基板に設けられてもよいし、これらとは異なる半導体基板に設けられてもよい。また、スイッチ回路１３１を制御する制御信号は、ＲＧＢ画素駆動回路１０２Ａ又はＩＲ画素駆動回路１０２Ｂから供給されてもよいし、カラム駆動回路１０４から供給されてもよいし、他の構成（例えば図１におけるプロセッサ４等）から供給されてもよい。
　このような構成によれば、ＲＧＢ信号処理回路１０３Ａ及びＩＲ信号処理回路１０３Ｂを共通の信号処理回路に置き換えることができ、それにより、回路規模を縮小することが可能となるため、面積効率の向上によるイメージセンサ１００の小型化や高解像度化等が可能となる。
　１．６．２　第２の変形例
　図８は、第１の実施形態の第２の変形例に係る単位画素の概略構成例を示す回路図である。図８に示すように、単位画素１１０－２は、図６に示す単位画素１１０と同様の構成において、垂直信号線ＶＳＬ１及びＶＳＬ２それぞれを２つのＡＤ変換回路１０３ａのうちのいずれかに接続できるように構成されている。そこで、第２の変形例では、ＡＤ変換回路１０３ａに接続される垂直信号線を垂直信号線ＶＳＬ１及びＶＳＬ２のいずれかに切り替えるスイッチ回路１３２と、ＡＤ変換回路１０３ａに接続される垂直信号線を垂直信号線ＶＳＬ１及びＶＳＬ２のいずれかに切り替えるスイッチ回路１３３とが設けられる。スイッチ回路１３２及び１３３は、例えば、ＲＧＢ信号処理回路１０３Ａ及びＩＲ信号処理回路１０３Ｂ或いは共通信号処理回路１０３に含まれる構成であってもよい。また、スイッチ回路１３２及び１３３は、例えば、ＲＧＢ画素１０及び／又はＩＲ画素２０の画素回路と同じ半導体基板に設けられてもよいし、ＲＧＢ信号処理回路１０３Ａ及びＩＲ信号処理回路１０３Ｂが配置された半導体基板に設けられてもよいし、これらとは異なる半導体基板に設けられてもよい。また、スイッチ回路１３２及び１３３を制御する制御信号は、ＲＧＢ画素駆動回路１０２Ａ又はＩＲ画素駆動回路１０２Ｂから供給されてもよいし、カラム駆動回路１０４から供給されてもよいし、他の構成（例えば図１におけるプロセッサ４等）から供給されてもよい。
　このような構成によれば、カラム毎に使用するＡＤ変換回路１０３ａを複数（本例では２つ）の中から選択することが可能となるため、例えばストリーキングなどのノイズ発生による画質低下を抑制することが可能となる。
　１．６．３　第３の変形例
　図９は、第１の実施形態の第３の変形例に係る単位画素の概略構成例を示す回路図である。図９に示すように、単位画素１１０－３は、ＲＧＢ画素１０に関し、図８に示す単位画素１１０－２と同様の構成において、複数のＲＧＢ画素１０－１～１０－Ｎ（Ｎは２以上の整数）で、浮遊拡散領域ＦＤ１、リセットトランジスタ１２、増幅トランジスタ１３及び選択トランジスタ１４を共有する、いわゆる画素共有の回路構造を備える。また、単位画素１１０－３は、ＩＲ画素２０に関しても同様に、図８に示す単位画素１１０－２と同様の構成において、複数のＩＲ画素２０－１～２０－Ｎで、浮遊拡散領域ＦＤ２、リセットトランジスタ２２、増幅トランジスタ２３及び選択トランジスタ２４を共有する、いわゆる画素共有の回路構造を備える。なお、ＲＧＢ画素１０－１～１０－Ｎの数と、ＩＲ画素２０－１～２０－Ｎの数とは、必ずしも一致していなくてもよい。
　このような構成とすることで、ＨＤＲ（High　Dynamic　Range）での読出しとＬＤＲ（Low　Dynamic　Range）での読出しとを状況に応じて切り替えることが可能となるため、低照度時や高照度時における画質の劣化を抑制することが可能となる。なお、本説明では、図８を用いて説明した第２の変形例をベースとした場合を例示したが、これに限定されず、図６や図７に示された単位画素１１０及び単位画素１１０－１をベースとすることも可能である。
　１．７　単位画素の断面構造例
　次に、図１０を参照して、第１の実施形態に係るイメージセンサ１００の断面構造例を説明する。図１０は、第１の実施形態に係るイメージセンサの断面構造例を示す断面図である。ここでは、単位画素１１０における光電変換部ＰＤ１及びＰＤ２が形成された半導体チップに着目してその断面構造例を説明する。
　また、以下の説明では、光の入射面が半導体基板５０の裏面側（素子形成面と反対側）である、いわゆる裏面照射型の断面構造を例示するが、これに限定されず、光の入射面が半導体基板５０の表面側（素子形成面側）である、いわゆる表面照射型の断面構造であってもよい。さらに、本説明では、ＲＧＢ画素１０の光電変換部ＰＤ１に有機材料が用いられた場合を例示するが、上述したように、光電変換部ＰＤ１及びＰＤ２それぞれの光電変換材料には、有機材料及び半導体材料（無機材料ともいう）のうちの一方若しくは両方が用いられてよい。
　なお、光電変換部ＰＤ１の光電変換材料及び光電変換部ＰＤ２の光電変換材料の両方に半導体材料を用いる場合、イメージセンサ１００は、光電変換部ＰＤ１と光電変換部ＰＤ２とが同一の半導体基板５０に作り込まれた断面構造を有してもよいし、光電変換部ＰＤ１が作り込まれた半導体基板と光電変換部ＰＤ２が作り込まれた半導体基板とが貼り合わされた断面構造を有してもよいし、光電変換部ＰＤ１及びＰＤ２のうちの一方が半導体基板５０に作り込まれ、他方が半導体基板５０の裏面又は表面上に形成された半導体層に作り込まれた断面構造を有してもよい。
　図１０に示すように、本実施形態では、半導体基板５０にＩＲ画素２０の光電変換部ＰＤ２が形成され、半導体基板５０の裏面側（素子形成面と反対側）の面上に、ＲＧＢ画素１０の光電変換部ＰＤ１が設けられた構造を備える。なお、図１０では、説明の都合上、半導体基板５０の裏面が紙面中上側に位置し、表面が下側に位置している。
　半導体基板５０には、例えば、シリコン（Ｓｉ）などの半導体材料が用いられてよい。ただし、これに限定されず、ＧａＡｓ、ＩｎＧａＡｓ、ＩｎＰ、ＡｌＧａＡｓ、ＩｎＧａＰ、ＡｌＧａＩｎＰ、ＩｎＧａＡｓＰ等の化合物半導体を含む種々の半導体材料が用いられてよい。
　（ＲＧＢ画素１０）
　ＲＧＢ画素１０の光電変換部ＰＤ１は、絶縁層５３を挟んで、半導体基板５０の裏面側に設けられている。光電変換部ＰＤ１は、例えば、有機材料により構成された光電変換膜３４と、光電変換膜３４を挟むように配置された透明電極３３及び半導体層３５とを備える。光電変換膜３４に対して紙面中上側（以降、紙面中上側を上面側とし、下側を下面側とする）に設けられた透明電極３３は、例えば、光電変換部ＰＤ１のアノードとして機能し、下面側に設けられた半導体層３５は、光電変換部ＰＤ１のカソードとして機能する。
　カソードとして機能する半導体層３５は、絶縁層５３中に形成された読出し電極３６に電気的に接続される。読出し電極３６は、絶縁層５３及び半導体基板５０を貫通する配線６１、６２、６３及び６４に接続することで、半導体基板５０の表面（下面）側にまで電気的に引き出されている。なお、図１０には示されていないが、配線６４は、図６に示す浮遊拡散領域ＦＤ１に電気的に接続されている。
　カソードとして機能する半導体層３５の下面側には、絶縁層５３を挟んで蓄積電極３７が併設される。図１０には示されていないが、蓄積電極３７は、画素駆動線ＬＤ１における転送制御線に接続されており、上述したように、露光時には、光電変換部ＰＤ１に発生した電荷を蓄積電極３７の近傍の半導体層３５に集めるための電圧が印加され、読出し時には、蓄積電極３７の近傍の半導体層３５に集められた電荷を読出し電極３６を介して流出させるための電圧が印加される。
　読出し電極３６及び蓄積電極３７は、透明電極３３と同様に、透明な導電膜であってよい。透明電極３３並びに読出し電極３６及び蓄積電極３７には、例えば、酸化インジウムスズ（ＩＴＯ）や酸化亜鉛（ＩＺＯ）などの透明導電膜が用いられてよい。ただし、これらに限定されず、光電変換部ＰＤ２が検出対象とする波長帯の光を透過させ得る導電膜であれば、種々の導電膜が使用されてよい。
　また、半導体層３５には、例えば、ＩＧＺＯなどの透明な半導体層が用いられてよい。ただし、これらに限定されず、光電変換部ＰＤ２が検出対象とする波長帯の光を透過させ得る半導体層であれば、種々の半導体層が使用されてよい。
　さらに、絶縁層５３は、例えば、シリコン酸化膜（ＳｉＯ２）やシリコン窒化膜（ＳｉＮ）などの絶縁膜が使用されてよい。ただし、これらに限定されず、光電変換部ＰＤ２が検出対象とする波長帯の光を透過させ得る絶縁膜であれば、種々の絶縁膜が使用されてよい。
　アノードとして機能する透明電極３３の上面側には、封止膜３２を挟んでカラーフィルタ３１が設けられる。封止膜３２は、例えば、窒化シリコン（ＳｉＮ）などの絶縁材料で構成され、透明電極３３からアルミニウム（Ａｌ）やチタニウム（Ｔｉ）などの原子が拡散することを防止するために、これらの原子を含み得る。
　カラーフィルタ３１の配列については後述において説明するが、例えば、１つのＲＧＢ画素１０に対しては、特定の波長成分の光を選択的に透過させるカラーフィルタ３１が設けられる。ただし、色情報を取得するＲＧＢ画素１０の代わりに輝度情報を取得するモノクロ画素を設ける場合には、カラーフィルタ３１が省略されてもよい。
　（ＩＲ画素２０）
　ＩＲ画素２０の光電変換部ＰＤ２は、例えば、半導体基板５０におけるｐウェル領域４２に形成されたｐ型半導体領域４３と、ｐ型半導体領域４３の中央付近に形成されたｎ型半導体領域４４とを備える。ｎ型半導体領域４４は、例えば、光電変換により発生した電荷（電子）を蓄積する電荷蓄積領域として機能し、ｐ型半導体領域４３は、光電変換により発生した電荷をｎ型半導体領域４４内に集めるための電位勾配を形成する領域として機能する。
　光電変換部ＰＤ２の光入射面側には、例えば、ＩＲ光を選択的に透過させるＩＲフィルタ４１が配置される。ＩＲフィルタ４１は、例えば、半導体基板５０の裏面側に設けられた絶縁層５３内に配置されてよい。ＩＲフィルタ４１を光電変換部ＰＤ２の光入射面に配置することで、光電変換部ＰＤ２への可視光の入射を抑制することが可能となるため、可視光に対するＩＲ光のＳ／Ｎ比を改善することができる。それにより、ＩＲ光のより正確な検出結果を得ることが可能となる。
　半導体基板５０の光入射面には、入射光（本例ではＩＲ光）の反射を抑制するために、例えば、微細な凹凸構造が設けられている。この凹凸構造は、いわゆるモスアイ構造と称される構造であってもよいし、モスアイ構造とはサイズやピッチが異なる凹凸構造であってもよい。
　半導体基板５０の表面（紙面中下面）側、すなわち、素子形成面側には、転送トランジスタ２１として機能する縦型トランジスタ４５と、電荷蓄積部として機能する浮遊拡散領域ＦＤ２とが設けられる。縦型トランジスタ４５のゲート電極は、半導体基板５０の表面からｎ型半導体領域４４にまで達しており、層間絶縁膜５６に形成された配線６５及び６６（画素駆動線ＬＤ２の転送制御線の一部）を介してＩＲ画素駆動回路１０２Ｂに接続されている。
　縦型トランジスタ４５を介して流出した電荷は、浮遊拡散領域ＦＤ２に蓄積される。浮遊拡散領域ＦＤ２は、層間絶縁膜５６に形成された配線６７及び６８を介して、リセットトランジスタ２２のソース及び増幅トランジスタ２３のゲートに接続される。なお、リセットトランジスタ２２、増幅トランジスタ２３及び選択トランジスタ２４は、半導体基板５０の素子形成面に設けられてもよいし、半導体基板５０とは異なる半導体基板に設けられてもよい。
　なお、図１０には、１つの光電変換部ＰＤ２に対して２つの縦型トランジスタ４５（転送トランジスタ２１）が設けられた場合が例示されているが、これに限定されず、１つの縦型トランジスタ４５が設けられてもよいし、３以上の縦型トランジスタ４５が設けられてもよい。同様に、１つの光電変換部ＰＤ２に対して２つの浮遊拡散領域ＦＤ２が設けられた場合が例示されているが、これに限定されず、１つの浮遊拡散領域ＦＤ２が設けられてもよいし、３以上の浮遊拡散領域ＦＤ２が設けられてもよい。
　（画素分離構造）
　半導体基板５０には、複数の単位画素１１０の間を電気的に分離する画素分離部５４が設けられており、この画素分離部５４で区画された各領域内に、光電変換部ＰＤ２が設けられる。例えば、半導体基板５０の裏面（図中上面）側からイメージセンサ１００を見た場合、画素分離部５４は、例えば、複数の単位画素１１０の間に介在する格子形状を有しており、各光電変換部ＰＤ２は、この画素分離部５４で区画された各領域内に形成されている。
　画素分離部５４には、例えば、タングステン（Ｗ）やアルミニウム（Ａｌ）などの光を反射する反射膜が用いられてもよい。それにより、光電変換部ＰＤ２内に進入した入射光を画素分離部５４で反射させることが可能となるため、光電変換部ＰＤ２内での入射光の光路長を長くすることが可能となる。加えて、画素分離部５４を光反射構造とすることで、隣接画素への光の漏れ込みを低減することが可能となるため、画質や測距精度等をより向上させることも可能となる。なお、画素分離部５４を光反射構造とする構成は、反射膜を用いる構成に限定されず、例えば、画素分離部５４に半導体基板５０とは異なる屈折率の材料を用いることでも実現することができる。
　半導体基板５０と画素分離部５４との間には、例えば、固定電荷膜５５が設けられる。固定電荷膜５５は、例えば、半導体基板５０との界面部分において正電荷（ホール）蓄積領域が形成されて暗電流の発生が抑制されるように、負の固定電荷を有する高誘電体を用いて形成されている。固定電荷膜５５が負の固定電荷を有するように形成されていることで、その負の固定電荷によって、半導体基板１３８との界面に電界が加わり、正電荷（ホール）蓄積領域が形成される。
　固定電荷膜５５は、例えば、ハフニウム酸化膜（ＨｆＯ２膜）で形成することができる。また、固定電荷膜５５は、その他、例えば、ハフニウム、ジルコニウム、アルミニウム、タンタル、チタン、マグネシウム、イットリウム、ランタノイド元素等の酸化物の少なくとも１つを含むように形成することができる。
　なお、図１０には、画素分離部５４が半導体基板５０の表面から裏面にまで達する、いわゆるＦＴＩ（Full　Trench　Isolation）構造を有する場合が例示されているが、これに限定されず、例えば、画素分離部５４が半導体基板５０の裏面又は表面から半導体基板５０の中腹付近まで形成された、いわゆるＤＴＩ（Deep　Trench　Isolation）構造など、種々の素子分離構造を採用することが可能である。
　（瞳補正）
　カラーフィルタ３１の上面上には、シリコン酸化膜やシリコン窒化膜などによる平坦化膜５２が設けられる。平坦化膜５２の上面上は、例えば、ＣＭＰ（Chemical　Mechanical　Polishing）により平坦化され、この平坦化された上面上には、単位画素１１０ごとのオンチップレンズ５１が設けられる。各単位画素１１０のオンチップレンズ５１は、入射光を光電変換部ＰＤ１及びＰＤ２に集めるような曲率を備えている。なお、各単位画素１１０におけるオンチップレンズ５１、カラーフィルタ３１、ＩＲフィルタ４１、光電変換部ＰＤ２の位置関係は、例えば、画素アレイ部１０１の中心からの距離（像高）に応じて調節されていてもよい（瞳補正）。
　また、図１０に示す構造において、斜めに入射した光が隣接画素へ漏れ込むことを防止するための遮光膜が設けられてもよい。遮光膜は、半導体基板５０の内部に設けられた画素分離部５４の上方（入射光の光路における上流側）に位置し得る。ただし、瞳補正をする場合、遮光膜の位置は、例えば、画素アレイ部１０１の中心からの距離（像高）に応じて調節されていてもよい。このような遮光膜は、例えば、封止膜３２内や平坦化膜５２内に設けられてよい。また、遮光膜の材料には、例えば、アルミニウム（Ａｌ）やタングステン（Ｗ）などの遮光材料が用いられてよい。
　１．８　有機材料
　第１の実施形態において、光電変換膜３４の材料に有機系半導体を用いる場合、光電変換膜３４の層構造は、以下のような構造とすることが可能である。ただし、積層構造の場合、その積層順は適宜入れ替えることが可能である。
（１）ｐ型有機半導体の単層構造
（２）ｎ型有機半導体の単層構造
（３－１）ｐ型有機半導体層／ｎ型有機半導体層の積層構造
（３－２）ｐ型有機半導体層／ｐ型有機半導体とｎ型有機半導体との混合層（バルクヘテロ構造）／ｎ型有機半導体層の積層構造
（３－３）ｐ型有機半導体層／ｐ型有機半導体とｎ型有機半導体との混合層（バルクヘテロ構造）の積層構造
（３－４）ｎ型有機半導体層／ｐ型有機半導体とｎ型有機半導体との混合層（バルクヘテロ構造）の積層構造
（４）ｐ型有機半導体とｐ型有機半導体との混合層（バルクヘテロ構造）
　ここで、ｐ型有機半導体としては、ナフタレン誘導体、アントラセン誘導体、フェナントレン誘導体、ピレン誘導体、ペリレン誘導体、テトラセン誘導体、ペンタセン誘導体、キナクリドン誘導体、チオフェン誘導体、チエノチオフェン誘導体、ベンゾチオフェン誘導体、ベンゾチエノベンゾチオフェン誘導体、トリアリルアミン誘導体、カルバゾール誘導体、ペリレン誘導体、ピセン誘導体、クリセン誘導体、フルオランテン誘導体、フタロシアニン誘導体、サブフタロシアニン誘導体、サブポルフィラジン誘導体、複素環化合物を配位子とする金属錯体、ポリチオフェン誘導体、ポリベンゾチアジアゾール誘導体、ポリフルオレン誘導体等を挙げることができる。
　ｎ型有機半導体としては、フラーレン及びフラーレン誘導体〈例えば、Ｃ６０や、Ｃ７０，Ｃ７４等のフラーレン（高次フラーレン、内包フラーレン等）又はフラーレン誘導体（例えば、フラーレンフッ化物やＰＣＢＭフラーレン化合物、フラーレン多量体等）〉、ｐ型有機半導体よりもＨＯＭＯ及びＬＵＭＯが大きい（深い）有機半導体、透明な無機金属酸化物を挙げることができる。
　ｎ型有機半導体として、具体的には、窒素原子、酸素原子、硫黄原子を含有する複素環化合物、例えば、ピリジン誘導体、ピラジン誘導体、ピリミジン誘導体、トリアジン誘導体、キノリン誘導体、キノキサリン誘導体、イソキノリン誘導体、アクリジン誘導体、フェナジン誘導体、フェナントロリン誘導体、テトラゾール誘導体、ピラゾール誘導体、イミダゾール誘導体、チアゾール誘導体、オキサゾール誘導体、イミダゾール誘導体、ベンズイミダゾール誘導体、ベンゾトリアゾール誘導体、ベンズオキサゾール誘導体、ベンズオキサゾール誘導体、カルバゾール誘導体、ベンゾフラン誘導体、ジベンゾフラン誘導体、サブポルフィラジン誘導体、ポリフェニレンビニレン誘導体、ポリベンゾチアジアゾール誘導体、ポリフルオレン誘導体等を分子骨格の一部に有する有機分子、有機金属錯体やサブフタロシアニン誘導体を挙げることができる。
　フラーレン誘導体に含まれる基等として、ハロゲン原子；直鎖、分岐若しくは環状のアルキル基若しくはフェニル基；直鎖若しくは縮環した芳香族化合物を有する基；ハロゲン化物を有する基；パーシャルフルオロアルキル基；パーフルオロアルキル基；シリルアルキル基；シリルアルコキシ基；アリールシリル基；アリールスルファニル基；アルキルスルファニル基；アリールスルホニル基；アルキルスルホニル基；アリールスルフィド基；アルキルスルフィド基；アミノ基；アルキルアミノ基；アリールアミノ基；ヒドロキシ基；アルコキシ基；アシルアミノ基；アシルオキシ基；カルボニル基；カルボキシ基；カルボキソアミド基；カルボアルコキシ基；アシル基；スルホニル基；シアノ基；ニトロ基；カルコゲン化物を有する基；ホスフィン基；ホスホン基；これらの誘導体を挙げることができる。
　以上のような有機系材料から構成された光電変換膜３４の膜厚としては、次の値に限定されるものではないが、例えば、１×１０－８ｍ（メートル）乃至５×１０－７ｍ、好ましくは、２．５×１０－８ｍ乃至３×１０－７ｍ、より好ましくは、２．５×１０－８ｍ乃至２×１０－７ｍ、一層好ましくは、１×１０－７ｍ乃至１．８×１０－７ｍを例示することができる。尚、有機半導体は、ｐ型、ｎ型と分類されることが多いが、ｐ型とは正孔を輸送し易いという意味であり、ｎ型とは電子を輸送し易いという意味であり、無機半導体のように熱励起の多数キャリアとして正孔又は電子を有しているという解釈に限定されるものではない。
　緑色の波長の光を光電変換する光電変換膜３４を構成する材料としては、例えば、ローダミン系色素、メラシアニン系色素、キナクリドン誘導体、サブフタロシアニン系色素（サブフタロシアニン誘導体）等を挙げることができる。
　また、青色の光を光電変換する光電変換膜３４を構成する材料としては、例えば、クマリン酸色素、トリス－８－ヒドリキシキノリアルミニウム（Ａｌｑ３）、メラシアニン系色素等を挙げることができる。
　さらに、赤色の光を光電変換する光電変換膜３４を構成する材料としては、例えば、フタロシアニン系色素、サブフタロシアニン系色素（サブフタロシアニン誘導体）を挙げることができる。
　さらにまた、光電変換膜３４としては、紫外域から赤色域にかけて略全ての可視光に対して感光するパンクロマチックな感光性有機光電変換膜を用いることも可能である。
　１．９　平面構造例
　次に、本実施形態に係る画素アレイ部の平面構造例について説明する。図１１は、第１の実施形態に係る画素アレイ部の各層の平面レイアウト例を示す図であり、（Ａ）はオンチップレンズ５１の平面レイアウト例を示し、（Ｂ）はカラーフィルタ３１の平面レイアウト例を示し、（Ｃ）は蓄積電極３７の平面レイアウト例を示し、（Ｄ）は光電変換部ＰＤ２の平面レイアウト例を示している。なお、図１１において、（Ａ）～（Ｄ）は、半導体基板５０の素子形成面と平行な面の平面レイアウト例を示している。また、本説明では、赤色（Ｒ）の波長成分を選択的に検出する画素（以下、Ｒ画素１０ｒという）と、緑色（Ｇ）の波長成分を選択的に検出する画素（以下、Ｇ画素１０ｇという）と、青色（Ｂ）の波長成分の光を選択的に検出する画素（以下、Ｂ画素１０ｂという）とより構成された２×２画素のベイヤー配列を単位配列とする場合を例示する。
　図１１の（Ａ）～（Ｄ）に示すように、本実施形態では、１つの単位画素１１０に対して、オンチップレンズ５１と、カラーフィルタ３１と、蓄積電極３７と、光電変換部ＰＤ２とが１つずつ設けられている。なお、本説明において、１つの蓄積電極３７は１つのＲＧＢ画素１０に相当し、１つの光電変換部ＰＤ２は１つのＩＲ画素２０に相当する。
　このように、１つの単位画素１１０において、１つのＲＧＢ画素１０と１つのＩＲ画素２０とを入射光の進行方向に沿って配列させることで、ＲＧＢ画素１０とＩＲ画素２０との入射光に対する同軸性を向上することが可能となるため、ＲＧＢ画像とＩＲ画像との間に発生する空間的なズレを抑制することが可能となる。それにより、異なるセンサにより取得された情報（ＲＧＢ画像及びＩＲ画像）を統合的に処理することで得られた結果の精度を向上することが可能となる。
　１．１０　画素駆動線の配線例
　次に、ＲＧＢ画素１０とＲＧＢ画素駆動回路１０２Ａとを接続する画素駆動線ＬＤ１及びＩＲ画素２０とＩＲ画素駆動回路１０２Ｂとを接続する画素駆動線ＬＤ２との配線例について説明する。図１２は、第１の実施形態に係るＲＧＢ画素に対する画素駆動線の配線例を示す平面図であり、図１３は、第１の実施形態に係るＩＲ画素に対する画素駆動線の配線例を示す平面図である。
　図１２及び図１３に示すように、ＲＧＢ画素駆動回路１０２ＡとＲＧＢ画素１０の転送ゲート１１、リセットトランジスタ１２及び選択トランジスタ１４とを接続するＲＧＢ駆動線ＬＤ１と、ＩＲ画素駆動回路１０２ＢとＩＲ画素２０の転送トランジスタ２１、リセットトランジスタ２２、選択トランジスタ２４及び排出トランジスタ２５とを接続するＩＲ駆動線ＬＤ２とは、例えば、直行するように配線されてもよい。ただし、これに限定されず、ＲＧＢ駆動線ＬＤ１とＩＲ駆動線ＬＤ２とは、平行に配線されてもよい。その場合、ＲＧＢ画素駆動回路１０２ＡとＩＲ画素駆動回路１０２Ｂとは、各種制御信号を、画素アレイ部１０１に対して同一の側から供給してもよいし、異なる側から供給してもよい。
　１．１１　イメージセンサの積層構造例
　図１４は、第１の実施形態に係るイメージセンサの積層構造例を示す図である。図１４に示すように、イメージセンサ１００は、画素チップ１４０と回路チップ１５０とが上下に積層された構造を備える。画素チップ１４０は、例えば、ＲＧＢ画素１０及びＩＲ画素２０を含む単位画素１１０が配列する画素アレイ部１０１を備える半導体チップであり、回路チップ１５０は、例えば、図５に示す画素回路が配列する半導体チップである。
　画素チップ１４０と回路チップ１５０との接合には、例えば、それぞれの接合面を平坦化して両者を電子間力で貼り合わせる、いわゆる直接接合を用いることができる。ただし、これに限定されず、例えば、互いの接合面に形成された銅（Ｃｕ）製の電極パッド同士をボンディングする、いわゆるＣｕ－Ｃｕ接合や、その他、バンプ接合などを用いることも可能である。
　また、画素チップ１４０と回路チップ１５０とは、例えば、半導体基板を貫通するＴＳＶ（Through-Silicon　Via）などの接続部を介して電気的に接続される。ＴＳＶを用いた接続には、例えば、画素チップ１４０に設けられたＴＳＶと画素チップ１４０から回路チップ１５０にかけて設けられたＴＳＶとの２つのＴＳＶをチップ外表で接続する、いわゆるツインＴＳＶ方式や、画素チップ１４０から回路チップ１５０まで貫通するＴＳＶで両者を接続する、いわゆるシェアードＴＳＶ方式などを採用することができる。
　ただし、画素チップ１４０と回路チップ１５０との接合にＣｕ－Ｃｕ接合やバンプ接合を用いた場合には、Ｃｕ－Ｃｕ接合部やバンプ接合部を介して両者が電気的に接続されてもよい。
　１．１２　認識動作例
　次に、本実施形態に係る電子機器１が実行する認識動作の一例について説明する。なお、ここでは、図２に例示した認識システムを用いて認識動作例を説明するが、上述したように、認識動作は、イメージセンサ１００内で完結するように実現されてもよいし、イメージセンサ１００で取得された画像データをプロセッサ４内で処理することで実現されてもよし、イメージセンサ１００で取得された画像データに対してイメージセンサ１００内で一部の処理を実行し、残りをプロセッサ４内で実行することで実現されてもよい。
　図１５は、第１の実施形態に係る認識動作の一例を示すフローチャートである。図１５に示すように、本動作では、まず、ＲＧＢセンサ部７１がＲＧＢ画素１０を駆動することでＲＧＢ画像データを取得する（ステップＳ１０１）とともに、ＩＲセンサ部７３がＩＲ画素２０を駆動することでＩＲ画像データを取得する（ステップＳ１０２）。取得されたＲＧＢ画像データ及びＩＲ画像データは、ＲＧＢ画像処理部７２及びＩＲ画像処理部７４で所定の処理がなされた後、認識処理部７５に入力される。なお、ステップＳ１０２において、ＲＧＢ画像処理部７２からＩＲセンサ部７３又はＩＲ画像処理部７４にＲＯＩ情報が入力されている場合、認識処理部７５には、ＲＯＩ情報に対応する領域のＲＧＢ画像データ及び／又はＩＲ画像データが入力されてもよい。
　次に、認識処理部７５が、入力されたＲＧＢ画像データを用いて、イメージセンサ１００の画角内に存在する物体の認識処理（第１認識処理）を実行する（ステップＳ１０３）。第１認識処理には、パターン認識などの認識処理や人工知能による認識処理などが用いられてよい。
　次に、認識処理部７５が、入力されたＩＲ画像データと、第１認識処理の結果とを用いて、イメージセンサ１００の画角内に存在する物体をより正確に認識する認識処理（第２認識処理）を実行する（ステップＳ１０４）。第２認識処理には、第１認識処理と同様に、パターン認識などの認識処理や人工知能による認識処理などが用いられてよい。
　次に、認識処理部７５は、ステップＳ１０４で得られた第２認識処理の結果を、例えば、インタフェース部７６を介して外部へ出力する（ステップＳ１０５）。なお、認識処理部７５は、第１認識処理の一部を実行し、その結果（中間データ等）を外部へ出力してもよいし、第２認識処理の一部を実行し、その結果（中間データ等）を出力してもよい。
　その後、認識システムは、本動作を終了するか否かを判断し（ステップＳ１０６）、終了しない場合（ステップＳ１０６のＮＯ）、ステップＳ１０１へリターンする。一方、終了する場合（ステップＳ１０６のＹＥＳ）、認識システムは、本動作を終了する。
　１．１３　作用・効果
　以上のように、第１の実施形態によれば、ＲＧＢ画素１０により取得されたＲＧＢ画像と、ＩＲ画素２０により取得されたＩＲ画像との複数のセンサ情報を取得することが可能となるため、これらを用いた認識処理の精度を向上することが可能となる。例えば、上述において説明したように、ＲＧＢ画像データに加えてＩＲ画像データを取得することで、顔認証における写真を用いたなりすましなどの不正アクセスをより的確に判別することが可能となる。それにより、よりセキュアな認証を可能にする固体撮像装置及び認識システムを実現することが可能となる。
　また、本実施形態では、複数のセンサ情報を用いて多段の認識処理を実行することで、認識処理の精度をより向上することも可能となる。それにより、さらにセキュアな認証を可能にする固体撮像装置及び認識システムを実現することが可能となる。
　２．第２の実施形態
　次に、第２の実施形態について図面を参照して詳細に説明する。なお、以下の説明では、上述した実施形態と同様の構成については、それらを引用することで、重複する説明を省略する。
　上述した第１の実施形態では、１つのＲＧＢ画素１０に対して１つのＩＲ画素２０が対応付けられている場合を例に挙げた。これに対し、第２の実施形態では、１つのＩＲ画素２０に対して複数のＲＧＢ画素１０が対応付けられている場合を例に挙げる。
　２．１　単位画素の構成例
　まず、本実施形態に係る単位画素２１０の構成例について説明する。なお、ここでは、第１の実施形態と同様に、単位画素２１０が、ＲＧＢ三原色のＲＧＢ画像を取得するためのＲＧＢ画素と、赤外（ＩＲ）光のＩＲ画像を取得するためのＩＲ画素とを含む場合を例示に挙げる。また、ＲＧＢ画素１０は、例えば、ベイヤー配列に従って配列しているものとする。
　図１６は、第２の実施形態に係る単位画素の概略構成例を示す模式図である。図１６に示すように、単位画素２１０は、２行２列に配列した４つのＲＧＢ画素１０に対して１つのＩＲ画素２０が、光の入射方向に配置された構造を備える。すなわち、本実施形態では、４つのＲＧＢ画素１０に対して１つのＩＲ画素２０が、単位画素２１０の配列方向（平面方向）に対して垂直方向に位置されており、入射光の光路における上流側に位置する４つのＲＧＢ画素１０を透過した光が、これら４つのＲＧＢ画素１０の下流側に位置する１つのＩＲ画素２０に入射するように構成されている。したがって、本実施形態では、４つのＲＧＢ画素１０で構成されたベイヤー配列の単位配列とＩＲ画素２０との入射光の光軸が一致又は略一致している。
　２．２　単位画素の回路構成例
　図１７は、第２の実施形態に係る単位画素の概略構成例を示す回路図である。なお、図１７では、第１の実施形態において図８を用いて説明した第２の変形例に係る単位画素１１０－２をベースとしているが、これに限定されず、単位画素１１０～１１０－３のいずれをベースとすることも可能である。
　図１７に示すように、単位画素２１０は、複数のＲＧＢ画素１０－１～１０－Ｎ（図１７では、Ｎは４）と、１つのＩＲ画素２０とを備える。このように、１つの単位画素２１０が複数のＲＧＢ画素１０を備える場合、第１の実施形態において図９を用いて説明した第３の変形例のように、複数のＲＧＢ画素１０で１つの画素回路（リセットトランジスタ１２、浮遊拡散領域ＦＤ１、増幅トランジスタ１３及び選択トランジスタ１４）を共有することが可能である（画素共有）。そこで、本実施形態では、複数のＲＧＢ画素１０－１～１０－Ｎが、リセットトランジスタ１２、浮遊拡散領域ＦＤ１、増幅トランジスタ１３及び選択トランジスタ１４よりなる画素回路を共有する。すなわち、本実施形態では、共通の浮遊拡散領域ＦＤ１に複数の光電変換部ＰＤ１及び転送ゲート１１が接続されている。
　２．３　単位画素の断面構造例
　図１８は、第２の実施形態に係るイメージセンサの断面構造例を示す断面図である。なお、本説明では、図１６と同様に、各単位画素２１０が２行２列に配列した４つのＲＧＢ画素１０と、１つのＩＲ画素２０とから構成されている場合を例に挙げる。また、以下の説明では、図１０と同様に、単位画素２１０における光電変換部ＰＤ１及びＰＤ２が形成された半導体チップに着目してその断面構造例を説明する。さらに、以下の説明において、第１の実施形態において図１０を用いて説明したイメージセンサ１００の断面構造と同様の構造については、それらを引用することで、重複する説明を省略する。
　図１８に示すように、本実施形態では、図１０に例示した断面構造と同様の断面構造において、オンチップレンズ５１と、カラーフィルタ３１と、蓄積電極３７とが、２行２列の４つ（ただし、図１８では４つのうちの２つが示されている）に分割され、それにより、４つのＲＧＢ画素１０が構成されている。なお、各単位画素２１０における４つのＲＧＢ画素１０は、ベイヤー配列の基本配列を構成していてよい。
　２．４　平面構造例
　図１９は、第２の実施形態に係る画素アレイ部の各層の平面レイアウト例を示す図であり、（Ａ）はオンチップレンズ５１の平面レイアウト例を示し、（Ｂ）はカラーフィルタ３１の平面レイアウト例を示し、（Ｃ）は蓄積電極３７の平面レイアウト例を示し、（Ｄ）は光電変換部ＰＤ２の平面レイアウト例を示している。なお、図１９において、（Ａ）～（Ｄ）は、半導体基板５０の素子形成面と平行な面の平面レイアウト例を示している。
　図１９の（Ａ）～（Ｄ）に示すように、本実施形態では、１つの単位画素２１０に対して、４つのオンチップレンズ５１と、４つのカラーフィルタ３１と、４つの蓄積電極３７と、１つの光電変換部ＰＤ２とが設けられている。なお、本説明において、１つの蓄積電極３７は１つのＲＧＢ画素１０に相当し、１つの光電変換部ＰＤ２は１つのＩＲ画素２０に相当する。
　このように、１つの単位画素１１０において、４つのＲＧＢ画素１０よりなるベイヤー配列の基本配列と１つのＩＲ画素２０とを入射光の進行方向に沿って配列させることで、各ＲＧＢ画素１０とＩＲ画素２０との入射光に対する同軸性を向上することが可能となるため、ＲＧＢ画像とＩＲ画像との間に発生する空間的なズレを抑制することが可能となる。それにより、異なるセンサにより取得された情報（ＲＧＢ画像及びＩＲ画像）を統合的に処理することで得られた結果の精度を向上することが可能となる。
　２．５　オンチップレンズの変形例
　上述した第２の実施形態では、１つのＲＧＢ画素１０に対して１つのオンチップレンズ５１を設けた場合を例示したが、これに限定されず、複数のＲＧＢ画素１０に対して１つのオンチップレンズを設けることも可能である。図２０は、第２の実施形態のオンチップレンズの変形例に係る画素アレイ部の各層の平面レイアウト例を示す図であり、図１９と同様に、（Ａ）はオンチップレンズ５１の平面レイアウト例を示し、（Ｂ）はカラーフィルタ３１の平面レイアウト例を示し、（Ｃ）は蓄積電極３７の平面レイアウト例を示し、（Ｄ）は光電変換部ＰＤ２の平面レイアウト例を示している。
　図２０に示すオンチップレンズの変形例では、（Ａ）に示すように、複数の単位画素２１０のうちの一部の単位画素２１０において行方向に配列する２つのオンチップレンズ５１が、２つのＲＧＢ画素１０に跨る２×１画素の１つのオンチップレンズ２５１に置き換えられている。また、図２０の（Ｂ）に示すように、オンチップレンズ２５１を共有する２つのＲＧＢ画素１０には、同じ波長成分を選択的に透過させるカラーフィルタ３１が設けられる。図２０の（Ｂ）に示す例では、左上の単位画素２１０において、本来ベイヤー配列における青色（Ｂ）の波長成分を選択的に透過させるカラーフィルタ３１ｂが緑色（Ｇ）の波長成分を選択的に透過させるカラーフィルタ３１ｇに置き換えられ、これにより、オンチップレンズ２５１を共有する２つのＲＧＢ画素１０のカラーフィルタ３１がカラーフィルタ３１ｇに統一されている。
　なお、このようにカラーフィルタ３１が置き換えられたＲＧＢ画素１０については、ベイヤー配列に従って本来検出すべき波長成分の画素値が、例えば、周囲の画素の画素値から補間されてよい。この画素補間には、線形補間など、種々の手法が用いられてよい。
　また、オンチップレンズの変形例では、行方向に並ぶ２つのオンチップレンズ５１が共通化された場合を例示するが、これに限定されず、列方向に並ぶ２つのオンチップレンズ５１が共通化された構成や、１つの単位画素２１０に含まれる４つのオンチップレンズ５１の全てが１つのオンチップレンズに置き換えられた構成など、種々変形することも可能である。その場合、オンチップレンズを共有するＲＧＢ画素１０のカラーフィルタ３１には、同じ波長成分を選択的に透過させるカラーフィルタ３１が用いられてよい。
　さらに、隣接するＲＧＢ画素１０間でのオンチップレンズ５１の共有化は、第２の実施形態に限られず、第１の実施形態に対しても適用することが可能である。
　２．６　カラーフィルタ配列の変形例
　また、上述した実施形態及びその変形例では、カラーフィルタ３１のフィルタ配列として、ベイヤー配列を例示したが、これに限定されない。例えば、Ｘ－Ｔｒａｎｓ（登録商標）ＣＭＯＳセンサで採用されている３×３画素のカラーフィルタ配列や、４×４画素のクアッドベイヤー配列（クワドラ配列ともいう）や、ベイヤー配列にホワイトＲＧＢカラーフィルタを組み合わせた４×４画素のカラーフィルタ配列（ホワイトＲＧＢ配列ともいう）など、種々のフィルタ配列が用いられてよい。
　図２１は、第２の実施形態のカラーフィルタ配列の変形例に係る画素アレイ部の各層の平面レイアウト例を示す図であり、図１９及び図２０と同様に、（Ａ）はオンチップレンズ５１の平面レイアウト例を示し、（Ｂ）はカラーフィルタ３１の平面レイアウト例を示し、（Ｃ）は蓄積電極３７の平面レイアウト例を示し、（Ｄ）は光電変換部ＰＤ２の平面レイアウト例を示している。
　図２１に示すカラーフィルタ配列の変形例では、（Ｂ）に示すように、カラーフィルタ配列として、２×２画素のベイヤー配列における個々のカラーフィルタ３１が２×２画素に分割された、全体で４×４画素のクワドラ配列が例示されている。このようなクワドラ配列では、図２１の（Ａ）に示すように、隣接する２つのＲＧＢ画素１０でオンチップレンズ５１を共通化した場合でも、（Ｂ）に示すように、これらのＲＧＢ画素１０におけるカラーフィルタ３１が元々揃っているため、カラーフィルタ３１の配列に変更を加える必要がなく、そのため、画素補間を行う必要も存在しない。
　２．７　作用・効果
　以上のように、第２の実施形態によれば、光の入射方向に４つのＲＧＢ画素１０の４つの光電変換部ＰＤ１と１つのＩＲ画素２０の１つの光電変換部ＰＤ２とが配置される。そのような構成の場合でも、第１の実施形態と同様に、ＲＧＢ画像ＩＲ画像との複数のセンサ情報を取得することが可能となるため、これらを用いた認識処理の精度を向上することが可能となる。それにより、よりセキュアな認証を可能にする固体撮像装置及び認識システムを実現することが可能となる。
　また、第１の実施形態と同様に、複数のセンサ情報を用いて多段の認識処理を実行することで、認識処理の精度をより向上することも可能となるため、さらにセキュアな認証を可能にする固体撮像装置及び認識システムを実現することが可能となる。
　その他の構成、動作及び効果については、上述した実施形態と同様であってよいため、ここでは詳細な説明を省略する。
　３．第３の実施形態
　次に、第３の実施形態について図面を参照して詳細に説明する。なお、以下の説明では、上述した実施形態と同様の構成については、それらを引用することで、重複する説明を省略する。
　上述した第１及び第２の実施形態では、ＲＧＢ画像を取得するＲＧＢセンサ部７１とＩＲ画像とを取得するＩＲセンサ部７３とを組み合わせることで、よりセキュアな認証を可能にする固体撮像装置及び認識システムについて、例を挙げて説明した。これに対し、第３の実施形態では、ＲＧＢ画像を取得するＲＧＢセンサ部７１とデプス画像を取得する測距センサ部とを組み合わせることで、よりセキュアな認証を可能にする固体撮像装置及び認識システムについて、例を挙げて説明する。
　なお、以下の説明では、測距センサとして、光源から出射した光が物体で反射して戻ってきた際の位相に基づいて物体までの２次元的な距離分布を検出する間接ＴｏＦ（Time-of-Flight）センサを例に挙げるが、これに限定されず、例えば、光源から出射した光が物体で反射して戻ってくるまでの時間を計測することで物体までの２次元的な距離分布を検出する直接ＴｏＦセンサや、予め定められたパターンの光を物体に投影してそのパターンのひずみから物体までの距離分布を検出するストラクチャードライト方式の測距センサや、異なる位置から撮像された２以上の画像を用いて物体までの距離分布を検出するステレオビジョン方式の測距センサや、その他、ミリ波レーダやＬＩＤＥＲ（Laser　Imaging　Detection　and　Ranging）やＬＡＤＡＲ（Laser　Detection　and　Ranging）など、種々の測距センサが用いられてもよい。
　３．１　認識システムの機能構成例
　まず、本実施形態に係る認識システムの機能構成例について説明する。図２２は、第３の実施形態に係る認識システムの機能構成例を示すブロック図である。図２２に示すように、認識システム３７０は、ＲＧＢセンサ部７１とＴｏＦセンサ部３７３との２種類のセンサ部を備える。また、認識システム３７０は、ＲＧＢ画像処理部７２と、測距処理部３７４と、認識処理部７５と、インタフェース（Ｉ／Ｆ）部７６とを備える。
　ＲＧＢセンサ部７１、ＲＧＢ画像処理部７２、認識処理部７５及びインタフェース部７６は、第１の実施形態で例示したそれらと同様であってよい。
　ＴｏＦセンサ部３７３は、例えば、光源と受光部（イメージセンサに相当）とを備え、光源から出射して物体で反射して戻ってきた光を検出する。後述において説明するが、光源には、例えば、ＶＣＳＥＬ（Vertical　Cavity　Surface　Emitting　Laser）などのレーザ光源が用いられてよい。また、受光部には、例えば、上述した実施形態に係るＩＲセンサ部７３におけるＩＲ画素２０の画素回路がＴｏＦセンサ用の画素回路に変更されたイメージセンサが用いられてよい。
　測距処理部３７４は、ＴｏＦセンサ部３７３から入力されたＴｏＦ画素ごとの画素信号から、光源からの光（以下、照射光という）の出射タイミングを基準とした反射光の位相をＴｏＦ画素ごとに検出し、検出されたＴｏＦ画素ごとの位相に基づいて、２次元的な距離分布を示すデプス画像を生成する。
　認識処理部７５は、ＲＧＢ画像処理部７２から入力されたＲＧＢ画像データ及び／又は測距処理部３７４から入力されたデプス画像データを用いて、ＲＧＢセンサ部７１及び／又はＴｏＦセンサ部３７３の画角内に存在する物体等の認識処理を実行する。認識処理部７５による認識処理には、第１の実施形態と同様に、パターン認識などの認識処理や、ＡＩによる認識処理などが用いられてよい。また、認識処理部７５は、認識処理の一部を実行し、その結果（中間データ等）を出力してもよい。
　インタフェース部７６は、認識処理部７５により得られた認識結果（中間データ等を含む）や、ＲＧＢセンサ部７１及び／又はＴｏＦセンサ部３７３で取得された画像データを外部の例えばプロセッサ４及び／又は記憶部３へ出力する。
　なお、ＲＧＢ画像処理部７２は、ＲＧＢ画像データに対して物体の領域判定を実行し、その結果として得られた注目領域（Region　of　Interest：ＲＯＩ）を指定するアドレス等の情報（以下、単にＲＯＩ情報と言いう）をＴｏＦセンサ部３７３及び／又は測距処理部３７４に入力してもよい。これに対し、ＴｏＦセンサ部３７３は、ＲＧＢ画像処理部７２から入力されたＲＯＩ情報に対応する領域のデプス画像データを取得するように動作してもよい。若しくは、測距処理部３７４は、ＴｏＦセンサ部３７３から入力されたＴｏＦ画素ごとの画素信号よりなる画像データ（以下、ＴｏＦ画像データという）に対し、ＲＧＢ画像処理部７２から入力されたＲＯＩ情報に対応する領域のＴｏＦ画素のみについて測距処理を実行するように構成されてもよい。
　３．２　システム構成例
　次に、本実施形態に係る認識システムのシステム構成例について説明する。図２３は、第３の実施形態に係る認識システムを実現する電子機器の構成の一例を示す概略図であり、図２４は、第３の実施形態に係る認識システムを実現する電子機器の構成の一例を示すブロック図である。
　図２３に示すように、本実施形態に係る電子機器８０は、レーザ光源８１と、照射レンズ８３と、撮像レンズ８４と、イメージセンサ３００と、システム制御部８５とを備える。
　レーザ光源８１は、図２４に示すように、例えば、垂直共振器型面発光レーザ（ＶＣＳＥＬ）３８２と、ＶＣＳＥＬ３８２を駆動する光源駆動部３８１とから構成される。ただし、ＶＣＳＥＬ３８２に限定されず、ＬＥＤ（Light　Emitting　Diode）などの種々の光源が使用されてもよい。また、レーザ光源８１は、点光源、面光源、線光源のいずれであってもよい。面光源又は線光源の場合、レーザ光源８１は、例えば、複数の点光源（例えばＶＣＳＥＬ）が１次元又は２次元に配列した構成を備えてもよい。
　なお、本実施形態において、レーザ光源８１は、例えばＩＲ光など、イメージセンサ３００におけるＲＧＢ画素１０の検出波長帯とは異なる波長帯の光を出射してよい。
　照射レンズ８３は、レーザ光源８１の出射面側に配置され、レーザ光源８１から出射した光を所定の広がり角の照射光に変換する。
　撮像レンズ８４は、イメージセンサ３００の受光面側に配置され、入射光（照射光の反射光を含む）による像をイメージセンサ３００の受光面に結像する。
　イメージセンサ３００は、その詳細については後述するが、図２４に示すように、例えば、受光部３８４と、受光部３８４を駆動してＲＧＢ画像データ及びＴｏＦ画像データを読み出すセンサ制御部３８３とから構成される。
　システム制御部８５は、例えばプロセッサ（ＣＰＵ）によって構成され、光源駆動部３８１を介してＶＣＳＥＬ３８２を駆動する。また、システム制御部８５は、イメージセンサ３００を制御することで、ＲＧＢ画像データを取得するとともに、レーザ光源８１に対する制御と同期してイメージセンサ３００を制御することで、レーザ光源８１の発光に対するＴｏＦ画像データを取得する。
　このような構成において、レーザ光源８１から出射した照射光は、照射レンズ８３を透して被写体（測定対象物又は物体ともいう）９０１に投影される。この投影された光は、被写体９０１で反射される。そして、被写体９０１で反射された光は、撮像レンズ８４を透してイメージセンサ３００に入射する。イメージセンサ３００におけるＴｏＦセンサ部３７３は、被写体９０１で反射した反射光を受光してＴｏＦ画像データを生成する。一方、イメージセンサ３００におけるＲＧＢセンサ部７１は、入射光における例えば可視光を受光してＲＧＢ画像データを生成する。イメージセンサ３００で生成されたＲＧＢ画像データ及びＴｏＦ画像データは、電子機器８０のアプリケーションプロセッサ８６に供給される。アプリケーションプロセッサ８６は、イメージセンサ３００から入力されたＲＧＢ画像データ及びＴｏＦ画像データに対して認識処理などの所定の処理を実行する。
　３．３　イメージセンサの構成例
　次に、本実施形態に係るイメージセンサ３００の構成例について説明する。図２５は、第３の実施形態に係るイメージセンサの概略構成例を示すブロック図である。
　本実施形態に係るイメージセンサ３００は、例えば、第１の実施形態に係るイメージセンサ１００と同様の構成において、ＩＲセンサ部７３に相当する構成が、ＴｏＦセンサ部３７３に相当する構成に置き換えられ構成を備える。具体的には、例えば、単位画素１１０が単位画素３１０に、ＩＲ画素駆動回路１０２ＢがＴｏＦ画素駆動回路３０２Ｂに、ＩＲ信号処理回路１０３ＢがＴｏＦ信号処理回路３０３Ｂに、ＩＲデータ処理部１０８ＢがＴｏＦデータ処理部３０８Ｂに、それぞれ置き換えられる。
　画素アレイ部１０１、ＴｏＦ画素駆動回路３０２Ｂ、ＴｏＦ信号処理回路３０３Ｂ、カラム駆動回路１０４及びシステム制御回路１０５は、例えば、図２２におけるＴｏＦセンサ部３７３を構成する。また、ＴｏＦ信号処理回路３０３Ｂ及びＴｏＦデータ処理部３０８Ｂは、例えば、図２２における測距処理部３７４を構成する。なお、図２２における認識処理部７５は、アプリケーションプロセッサ８６単体で実現されてもよいし、ＲＧＢデータ処理部１０８Ａ及びＴｏＦデータ処理部３０８Ｂとアプリケーションプロセッサ８６とを連携させることで実現されてもよいし、ＲＧＢデータ処理部１０８ＡとＴｏＦデータ処理部３０８Ｂとを連携させることで実現されてもよい。
　各単位画素３１０は、ＲＧＢ画素１０とＴｏＦ画素３２０とを備える。各ＴｏＦ画素３２０は、受光した光量に応じた電荷を生成しかつ蓄積する光電変換部を備え、入射光量に応じた電圧の画素信号を生成する。
　本実施形態において、画素駆動線ＬＤ２は、一端がＴｏＦ画素駆動回路３０２Ｂの各行に対応した出力端に接続され、ＴｏＦ画素３２０から画素信号を読み出す際の駆動を行うための制御信号を伝送する。
　ＴｏＦ画素駆動回路３０２Ｂは、ＲＧＢ画素駆動回路１０２Ａと同様に、シフトレジスタやアドレスデコーダなどによって構成され、画素アレイ部１０１の各画素を全画素同時あるいは行単位等で駆動する。すなわち、ＴｏＦ画素駆動回路３０２Ｂは、当該ＴｏＦ画素駆動回路３０２Ｂを制御するシステム制御回路１０５と共に、画素アレイ部１０１の各ＴｏＦ画素３２０の動作を制御する駆動部を構成する。また、ＴｏＦ画素駆動回路３０２Ｂは、ＲＧＢ画素駆動回路１０２Ａと同様に、読出し走査系と掃出し走査系との２つの走査系を備えていてもよい。
　ＴｏＦ画素駆動回路３０２Ｂによって選択走査された画素行の各ＴｏＦ画素３２０から出力される画素信号は、画素列ごとに垂直信号線ＶＳＬ２及びＶＳＬ４の各々を通してＴｏＦ信号処理回路３０３Ｂに入力される。垂直信号線ＶＳＬ２には、例えば、ＴｏＦ画素３２０における一方の読出し端子（ＴａｐＡともいう）から読み出された電荷に基づく画素信号が出現し、垂直信号線ＶＳＬ４には、例えば、ＴｏＦ画素３２０における他方の読出し端子（ＴａｐＢともいう）から読み出された電荷に基づく画素信号が出現する。ＴｏＦ信号処理回路３０３Ｂは、画素アレイ部１０１の画素列ごとに、選択行の各ＴｏＦ画素３２０から垂直信号線ＶＳＬ２又はＶＳＬ４を通して出力される画素信号に対して所定の信号処理を行うとともに、信号処理後の画素信号を一時的に保持する。
　なお、ＴｏＦ信号処理回路３０３Ｂは、ＲＧＢ信号処理回路１０３Ａと同様に、画素信号に対するノイズ除去処理、例えばＣＤＳ（Correlated　Double　Sampling：相関二重サンプリング）処理や、ＤＤＳ（Double　Data　Sampling）処理等を実行してもよい。また、ＴｏＦ信号処理回路３０３Ｂは、ＲＧＢ信号処理回路１０３Ａと同様に、例えば、ＡＤ変換機能を備え、光電変換部から読み出されたアナログの画素信号をデジタル信号に変換して出力する。
　システム制御回路１０５は、システム制御部８５から入力された同期制御信号に基づき、ＲＧＢ画素駆動回路１０２Ａ、ＴｏＦ画素駆動回路３０２Ｂ、ＲＧＢ信号処理回路１０３Ａ、ＴｏＦ信号処理回路３０３Ｂ、及び、カラム駆動回路１０４などの駆動制御を行う。それにより、レーザ光源８１に対する発光制御に同期する形で、ＲＧＢ画像データ及び／又はＴｏＦ画像データを取得するための駆動が実行される。
　ＴｏＦデータ処理部３０８Ｂは、例えば演算処理機能を有し、ＴｏＦ信号処理回路３０３Ｂから出力される画像信号に対して演算処理等の種々の信号処理を行う。なお、ＴｏＦデータ処理部３０８Ｂは、システム制御部８５（又はシステム制御回路１０５）から入力された同期制御信号と、各ＴｏＦ画素３２０から所定のサンプリング周期で読み出された画素信号とに基づいて、２次元的な距離分布を示すデプス画像を生成してもよい。
　ＲＧＢデータ処理部１０８Ａ又はＴｏＦデータ処理部３０８Ｂから出力されたＲＧＢ画像データ又はＴｏＦ画像データ（若しくはデプス画像データ）は、例えば、イメージセンサ３００を搭載する電子機器８０におけるアプリケーションプロセッサ８６等において所定の処理が実行されたり、所定のネットワークを介して外部へ送信されたりしてもよい。
　なお、イメージセンサ３００は、ＲＧＢデータ処理部１０８Ａ及びＴｏＦデータ処理部３０８Ｂでの信号処理に必要なデータや、ＲＧＢ信号処理回路１０３Ａ、ＴｏＦ信号処理回路３０３Ｂ、ＲＧＢデータ処理部１０８Ａ及びＴｏＦデータ処理部３０８Ｂのうちのいずれか１つ以上で処理されたデータ等を一時的に保持するための記憶部を備えていてもよい。
　３．３．１　イメージセンサの変形例
　図２６は、第３の実施形態の変形例に係るイメージセンサの概略構成例を示すブロック図である。上述した図２５では、ＲＧＢ画素１０及びＴｏＦ画素３２０それぞれに対して別々の信号処理回路（ＲＧＢ信号処理回路１０３Ａ及びＴｏＦ信号処理回路３０３Ｂ）を設けた場合を例示したが、これに限定されず、図２６に例示するように、ＲＧＢ画素１０及びＴｏＦ画素３２０に対して共通の信号処理回路３０３を設けることも可能である。その場合、ＲＧＢ画素１０からの画素信号の読出しと、ＴｏＦ画素３２０からの画素信号の読出しとは、時分割で実行されてもよいし、並行して実行されてもよい。
　３．４　単位画素の構成例
　次に、単位画素３１０の構成例について説明する。なお、ここでは、単位画素３１０が、ＲＧＢ三原色のＲＧＢ画像を取得するためのＲＧＢ画素と、赤外（ＩＲ）光のＴｏＦ画像を取得するためのＴｏＦ画素３２０とを含む場合を例示に挙げる。なお、図２７及び以下では、ＲＧＢ三原色を構成する各色成分の光を透過させるカラーフィルタ３１ｒ、３１ｇ又は３１ｂを区別しない場合、その符号が３１とされている。
　図２７は、第３の実施形態に係る画素アレイ部の概略構成例を示す模式図である。図２７に示すように、第２の実施形態において図１６を用いて説明した単位画素２１０と同様の構成において、ＩＲ画素２０がＴｏＦ画素３２０に置き換えられた構成を備える。ただし、これに限定されず、単位画素３１０は、第１の実施形態において図５を用いて説明した単位画素１１０と同様の構成において、ＩＲ画素２０がＴｏＦ画素３２０に置き換えられた構成を備えてもよい。
　３．５　単位画素の回路構成例
　図２８は、第３の実施形態に係る単位画素の概略構成例を示す回路図である。なお、図２８では、第１の実施形態において図６を用いて説明した単位画素１１０をベースとしているが、これに限定されず、単位画素１１０～１１０－３及び２１０のいずれをベースとすることも可能である。
　図２８に示すように、単位画素３１０は、２つのＲＧＢ画素１０－１及び１０－２と、１つのＴｏＦ画素３２０とを備える。
　（ＲＧＢ画素１０）
　各ＲＧＢ画素１０は、第１の実施形態に係るＲＧＢ画素１０と同様に、転送ゲート１１と、浮遊拡散領域ＦＤ１と、リセットトランジスタ１２と、増幅トランジスタ１３と、選択トランジスタ１４とを備える。ただし、一方のＲＧＢ画素１０－１の選択トランジスタ１４のドレインは、垂直信号線ＶＳＬ１に接続され、他方のＲＧＢ画素１０－２の選択トランジスタ１４のドレインは、垂直信号線ＶＳＬ３に接続される。また、２つのＲＧＢ画素１０－１及び１０－２は、例えば、画素アレイ部１０１において行方向に隣接する２つのＲＧＢ画素１０であってよい。ただし、１つの単位画素３１０が備えるＲＧＢ画素１０は、２つに限定されず、３つ以上であってもよい。
　（ＴｏＦ画素３２０）
　ＴｏＦ画素３２０は、例えば、光電変換部ＰＤ２と、転送トランジスタ２１Ａ及び２１Ｂと、浮遊拡散領域ＦＤ２Ａ及びＦＤ２Ｂと、リセットトランジスタ２２Ａ及び２２Ｂと、増幅トランジスタ２３Ａ及び２３Ｂと、選択トランジスタ２４Ａ及び２４Ｂと、排出トランジスタ２５とを備える。転送トランジスタ２１Ａ、浮遊拡散領域ＦＤ２Ａ、リセットトランジスタ２２Ａ、増幅トランジスタ２３Ａ及び選択トランジスタ２４Ａは、光電変換部ＰＤ２に設けられた２つのタップのうちの一方のタップＴａｐＡから電荷を読み出すための画素回路（以下、画素回路３２０Ａという）であり、転送トランジスタ２１Ｂ、浮遊拡散領域ＦＤ２Ｂ、リセットトランジスタ２２Ｂ、増幅トランジスタ２３Ｂ及び選択トランジスタ２４Ｂは、光電変換部ＰＤ２に設けられた２つのタップのうちの他方のタップＴａｐＢから電荷を読み出すための画素回路（以下、画素回路３２０Ｂという）である。画素回路３２０Ａの選択トランジスタ２４Ａのドレインは、垂直信号線ＶＳＬ２に接続され、画素回路３２０Ｂの選択トランジスタ２４Ｂのドレインは、垂直信号線ＶＳＬ４に接続される。
　転送トランジスタ２１Ａ又は２１Ｂに対する浮遊拡散領域ＦＤ２Ａ又はＦＤ２Ｂ、リセットトランジスタ２２Ａ又は２２Ｂ、及び、増幅トランジスタ２３Ａ又は２３Ｂの接続関係は、ＲＧＢ画素１０－１又は１０－２における転送ゲート１１に対する浮遊拡散領域ＦＤ１、リセットトランジスタ１２及び増幅トランジスタ１３の接続関係と同様であってよい。また、増幅トランジスタ２３Ａ又は２３Ｂと選択トランジスタ２４Ａ又は２４Ｂと垂直信号線ＶＳＬ２又はＶＳＬ４との接続関係も、ＲＧＢ画素１０－１又は１０－２における増幅トランジスタ１３と選択トランジスタ１４と垂直信号線ＶＳＬ１又はＶＳＬ３との接続関係と同様であってよい。
　光電変換部ＰＤ２は、その詳細については後述するが、２つのタップＴａｐＡ及びＴａｐＢを備え、光電変換により発生した電荷を、２つのタップＴａｐＡ及びＴａｐＢから時分割で流出させる。したがって、画素回路３２０Ａは、タップＴａｐＡから流出した電荷の電荷量に応じた電圧値の画素信号を垂直信号線ＶＳＬ２に出現させ、画素回路３２０Ｂは、タップＴａｐＢから流出した電荷の電荷量に応じた電圧値の画素信号を垂直信号線ＶＳＬ４に出現させる。
　垂直信号線ＶＳＬ２及びＶＳＬ４は、垂直信号線ＶＳＬ１及びＶＳＬ３と同様、ＴｏＦ信号処理回路３０３Ｂにおいてカラム毎（すなわち、垂直信号線ＶＳＬ２及びＶＳＬ４毎）に設けられたＡＤ変換回路１０３ａに接続される。
　３．６　回路構成の変形例
　続いて、図２８に示す単位画素３１０の回路構成の変形例について、いくつか例を挙げて説明する。
　３．６．１　第１の変形例
　図２９は、第３の実施形態の第１の変形例に係る単位画素の概略構成例を示す回路図である。図２９に示すように、単位画素３１０－１は、図２８に示す単位画素３１０とは異なり、１つのＲＧＢ画素１０と、１つのＴｏＦ画素３２０とを備える。ＲＧＢ画素１０及びＴｏＦ画素３２０の画素回路は、図２８を用いて説明したそれらと同様であってよい。ただし、第１の変形例では、垂直信号線ＶＳＬ１が、ＲＧＢ画素１０とＴｏＦ画素３２０における画素回路３２０Ｂとで共用され、それにより、垂直信号線ＶＳＬ３及びＶＳＬ４が省略されている。垂直信号線ＶＳＬ１に接続されたＡＤ変換回路１０３ａは、例えば、ＲＧＢ画素１０からの画素信号の読出しと、ＴｏＦ画素３２０からの画素信号の読出しとに時分割で使用される。
　このような構成によれば、垂直信号線ＶＳＬの本数及びそれに接続されたＡＤ変換回路１０３ａの数を削減することが可能となるため、回路規模を縮小することが可能となり、それにより、面積効率の向上によるイメージセンサ１００の小型化や高解像度化等が可能となる。
　３．６．２　第２の変形例
　図３０は、第３の実施形態の第２の変形例に係る単位画素の概略構成例を示す回路図である。図３０に示すように、単位画素３１０－２は、図２９に例示した単位画素３１０－１と同様の構成において、ＲＧＢ画素１０が垂直信号線ＶＳＬ１に接続され、ＴｏＦ画素３２０における画素回路３２０Ａが垂直信号線ＶＳＬ２に接続され、画素回路３２０Ｂが垂直信号線ＶＳＬ４に接続された構成を備える。また、垂直信号線ＶＳＬ１及びＶＳＬ２が共通のＡＤ変換回路１０３ａに接続されるように構成されている。そこで、第２の変形例では、第１の実施形態の第１の変形例と同様に、ＡＤ変換回路１０３ａに接続される垂直信号線を、垂直信号線ＶＳＬ１及びＶＳＬ２のいずれかに切り替えるスイッチ回路１３１が設けられる。
　このような構成によれば、ＲＧＢ信号処理回路１０３Ａ及びＴｏＦ信号処理回路３０３Ｂの一部を共通の信号処理回路に置き換えることができ、それにより、回路規模を縮小することが可能となるため、面積効率の向上によるイメージセンサ１００の小型化や高解像度化等が可能となる。
　３．６．３　第３の変形例
　図３１は、第３の実施形態の第３の変形例に係る単位画素の概略構成例を示す回路図である。図３１に示すように、単位画素３１０－３は、図２８に例示した単位画素３１０と同様の構成において、垂直信号線ＶＳＬ１及びＶＳＬ２が共通のＡＤ変換回路１０３ａに接続され、垂直信号線ＶＳＬ３及びＶＳＬ４が共通のＡＤ変換回路１０３ａに接続されるように構成されている。そこで、第３の変形例では、第２の変形例と同様に、一方のＡＤ変換回路１０３ａに接続される垂直信号線を垂直信号線ＶＳＬ１及びＶＳＬ２のいずれかに切り替えるスイッチ回路１３１と、他方のＡＤ変換回路１０３ａに接続される垂直信号線を垂直信号線ＶＳＬ３及びＶＳＬ４のいずれかに切り替えるスイッチ回路１３１とが設けられる。
　このような構成によれば、ＲＧＢ信号処理回路１０３Ａ及びＴｏＦ信号処理回路３０３Ｂを共通の信号処理回路に置き換えることができ、それにより、回路規模をより縮小することが可能となるため、面積効率の更なる向上によるイメージセンサ１００の小型化や高解像度化等が可能となる。
　３．６．４　第４の変形例
　図３２は、第３の実施形態の第４の変形例に係る単位画素の概略構成例を示す回路図である。図３２に示すように、単位画素３１０－４は、図２８に示す単位画素３１０と同様の構成において、垂直信号線ＶＳＬ１及びＶＳＬ２それぞれを２つのＡＤ変換回路１０３ａのうちのいずれかに接続でき、且つ、垂直信号線ＶＳＬ３及びＶＳＬ４それぞれを２つのＡＤ変換回路１０３ａのうちのいずれかに接続できるように構成されている。そこで、第４の変形例では、第１の実施形態の第３の変形例と同様に、一方の２つのＡＤ変換回路１０３ａに接続される垂直信号線を垂直信号線ＶＳＬ１及びＶＳＬ２のいずれかに切り替えるスイッチ回路１３２及び１３３が設けられるとともに、他方の２つのＡＤ変換回路１０３ａに接続される垂直信号線を垂直信号線ＶＳＬ３及びＶＳＬ４のいずれかに切り替えるスイッチ回路１３２及び１３３が設けられる。
　このような構成によれば、カラム毎に使用するＡＤ変換回路１０３ａを複数（本例では２つ）の中から選択することが可能となるため、例えばストリーキングなどのノイズ発生による画質低下を抑制することが可能となる。
　３．７　単位画素の断面構造例
　次に、図３３を参照して、第３の実施形態に係るイメージセンサ３００の断面構造例を説明する。図３３は、第３の実施形態に係るイメージセンサの断面構造例を示す断面図である。ここでは、上述した実施形態と同様に、単位画素３１０における光電変換部ＰＤ１及びＰＤ２が形成された半導体チップに着目してその断面構造例を説明する。
　また、以下の説明では、上述した実施形態と同様に、光の入射面が半導体基板５０の裏面側（素子形成面と反対側）である、いわゆる裏面照射型の断面構造を例示するが、これに限定されず、光の入射面が半導体基板５０の表面側（素子形成面側）である、いわゆる表面照射型の断面構造であってもよい。さらに、本説明では、ＲＧＢ画素１０の光電変換部ＰＤ１に有機材料が用いられた場合を例示するが、上述した実施形態と同様に、光電変換部ＰＤ１及びＰＤ２それぞれの光電変換材料には、有機材料及び半導体材料（無機材料ともいう）のうちの一方若しくは両方が用いられてよい。さらにまた、本説明では、１つの単位画素３１０が２つのＲＧＢ画素１０－１及び１０－２を備える場合（上述において図２８を用いて説明した単位画素３１０に相当）を例示するが、これに限定されず、１つの単位画素３１０が１又は３以上のＲＧＢ画素１０を備えてもよい。
　図３３に示すように、本実施形態に係るイメージセンサ３００は、例えば、第２の実施形態において図１８を用いて説明したイメージセンサ１００の断面構造と同様の断面構造において、光電変換部ＰＤ２の素子形成面側（図面中下側）に、異なる位相の電荷を読み出すための２つのタップ４６が配置された構造を備える。一方のタップ４６は、画素回路３２０Ａの転送トランジスタ２１Ａ（縦型トランジスタ４５）に接続されたタップＴａｐＡに相当し、他方のタップ４６は、画素回路３２０Ｂの転送トランジスタ２１Ｂ（縦型トランジスタ４５）に接続されたタップＴａｐＢに相当してよい。また、転送トランジスタ２１Ａのドレインに接続された浮遊拡散領域は、画素回路３２０Ａの浮遊拡散領域ＦＤ２Ａとして機能し、転送トランジスタ２１Ｂのドレインに接続された浮遊拡散領域は、画素回路３２０Ｂの浮遊拡散領域ＦＤ２Ｂとして機能してよい。
　その他の構造及び材料等は、上述した実施形態と同様であってよいため、ここでは詳細な説明を省略する。
　３．８　平面構造例
　次に、本実施形態に係る画素アレイ部の平面構造例について説明する。図３４は、第３の実施形態に係る画素アレイ部の各層の平面レイアウト例を示す図であり、（Ａ）はオンチップレンズ５１の平面レイアウト例を示し、（Ｂ）はカラーフィルタ３１の平面レイアウト例を示し、（Ｃ）は蓄積電極３７の平面レイアウト例を示し、（Ｄ）は光電変換部ＰＤ２の平面レイアウト例を示している。なお、図３４において、（Ａ）～（Ｄ）は、上述した実施形態と同様に、半導体基板５０の素子形成面と平行な面の平面レイアウト例を示している。また、本説明では、赤色（Ｒ）の波長成分を選択的に検出する画素（以下、Ｒ画素１０ｒという）と、緑色（Ｇ）の波長成分を選択的に検出する画素（以下、Ｇ画素１０ｇという）と、青色（Ｂ）の波長成分の光を選択的に検出する画素（以下、Ｂ画素１０ｂという）とより構成された２×２画素のベイヤー配列を単位配列とし、１つの単位画素３１０が単位配列を構成する４つのＲＧＢ画素１０と、１つのＴｏＦ画素３２０とを備える場合を例示する。
　図３４の（Ａ）～（Ｄ）に示すように、本実施形態では、１つの単位画素３１０に対して、４つのオンチップレンズ５１と、４つのカラーフィルタ３１と、４つの蓄積電極３７と、１つの光電変換部ＰＤ２とが設けられている。なお、本説明において、１つの蓄積電極３７は１つのＲＧＢ画素１０に相当し、１つの光電変換部ＰＤ２は１つのＴｏＦ画素３２０に相当する。
　このように、１つの単位画素３１０において、４つのＲＧＢ画素１０よりなるベイヤー配列の基本配列と１つのＴｏＦ画素３２０とを入射光の進行方向に沿って配列させることで、１つのＴｏＦ画素３２０の量子効率を高めることが可能となるため、異なるセンサにより取得された情報（ＲＧＢ画像及びデプス画像）を統合的に処理することで得られた結果の精度を向上することが可能となる。それにより、よりセキュアな認証を可能にする固体撮像装置及び認識システムを実現することが可能となる。
　３．９　認識動作例
　次に、本実施形態に係る認識システムが実行する認識動作の一例について説明する。なお、ここでは、図２３～図２４を用いて説明した電子機器８０を用いつつ、適宜、図２２を用いて説明した認識システム３７０を参照して認識動作例を説明するが、上述したように、認識動作は、イメージセンサ３００内で完結するように実現されてもよいし、イメージセンサ３００で取得された画像データをアプリケーションプロセッサ８６内で処理することで実現されてもよし、イメージセンサ３００で取得された画像データに対してイメージセンサ３００内で一部の処理を実行し、残りをアプリケーションプロセッサ８６内で実行することで実現されてもよい。
　図３５は、第３の実施形態に係る認識動作の一例を示すフローチャートである。図３５に示すように、本動作では、まず、システム制御部８５は、イメージセンサ３００におけるＲＧＢセンサ部７１（図２２参照）を駆動することで、ＲＧＢ画像データを取得する（ステップＳ３０１）。また、システム制御部８５は、所定のサンプリング周期でレーザ光源８１を駆動することで、レーザ光源８１に所定のサンプリング周期の照射光を出射させる（ステップＳ３０２）とともに、レーザ光源８１の駆動と同期する形で所定のサンプリング周期でイメージセンサ３００におけるＴｏＦセンサ部３７３（図２２参照）を駆動することで、所定のサンプリング周期でＴｏＦ画像データを取得する（ステップＳ３０３）。
　なお、ＲＧＢ画像データの取得は、ＴｏＦ画像データの取得と並行して実行されてもよいし、ＴｏＦ画像データの取得期間とは別の期間に実行されてもよい。その際、ＲＧＢ画像データの取得とＴｏＦ画像データの取得とは、どちらが先に実行されてもよい。また、ＲＧＢ画像データの取得は、Ｋ回（Ｋは１以上の整数）のＴｏＦ画像データの取得に対して１回実行されてもよい。
　このようにして取得されたＲＧＢ画像データ及びＴｏＦ画像データのうち、ＲＧＢ画像データは、ＲＧＢ画像処理部７２で所定の処理がなされた後、認識処理部７５に入力される。なお、ステップＳ３０２又はＳ３０３において、図２２におけるＲＧＢ画像処理部７２からＴｏＦセンサ部３７３又は測距処理部３７４にＲＯＩ情報が入力されている場合、認識処理部７５には、ＲＯＩ情報に対応する領域のＲＧＢ画像データ及び／又はＴｏＦ画像データが入力されてもよい。
　次に、認識処理部７５が、入力されたＲＧＢ画像データを用いて、イメージセンサ３００の画角内に存在する物体の認識処理（第１認識処理）を実行する（ステップＳ３０４）。第１認識処理には、第１の実施形態と同様に、パターン認識などの認識処理や人工知能による認識処理などが用いられてよい。
　また、ステップＳ３０３で取得されたＴｏＦ画像データに対しては、測距処理部３７４（図２２参照）が、所定のサンプリング周期でタップＴａｐＡ及びＴａｐＢそれぞれから取得された２つのＴｏＦ画像データにおける各画素の位相差から、画角内に存在する物体までの２次元的な距離分布を示すデプス画像を生成する（ステップＳ３０５）。なお、デプス画像データの生成は、第１認識処理と並行して実行されてもよいし、第１認識処理より先に実行されてもよい。また、デプス画像データの生成は、例えば、イメージセンサ３００内部のＴｏＦデータ処理部３０８Ｂで実行されてもよいし、アプリケーションプロセッサ８６で実行されてもよい。
　次に、認識処理部７５が、第１認識処理の結果と、デプス画像データとを用いて、画角内に存在する物体をより正確に認識する認識処理（第２認識処理）を実行する（ステップＳ３０６）。第２認識処理には、第１認識処理と同様に、パターン認識などの認識処理や人工知能による認識処理などが用いられてよい。
　次に、認識処理部７５は、ステップＳ３０６で得られた第２認識処理の結果を、例えば、インタフェース部７６を介して外部へ出力する（ステップＳ３０７）。なお、認識処理部７５は、第１認識処理の一部を実行し、その結果（中間データ等）を外部へ出力してもよいし、第２認識処理の一部を実行し、その結果（中間データ等）を出力してもよい。
　その後、認識システム３７０は、本動作を終了するか否かを判断し（ステップＳ３０８）、終了しない場合（ステップＳ３０８のＮＯ）、ステップＳ３０１へリターンする。一方、終了する場合（ステップＳ３０８のＹＥＳ）、認識システム３７０は、本動作を終了する。
　３．１０　作用・効果
　以上のように、第３の実施形態によれば、ＲＧＢ画素１０により取得されたＲＧＢ画像と、ＴｏＦ画素３２０により取得されたＴｏＦ画像に基づくデプス画像との複数のセンサ情報を取得することが可能となるため、これらを用いた認識処理の精度を向上することが可能となる。例えば、上述において説明したように、ＲＧＢ画像データに加えてデプス画像データを取得することで、顔認証における写真を用いたなりすましなどの不正アクセスをより的確に判別することが可能となる。それにより、よりセキュアな認証を可能にする固体撮像装置及び認識システムを実現することが可能となる。
　また、本実施形態では、第１の実施形態と同様に、複数のセンサ情報を用いて多段の認識処理を実行することで、認識処理の精度をより向上することも可能となる。それにより、さらにセキュアな認証を可能にする固体撮像装置及び認識システムを実現することが可能となる。
　その他の構成、動作及び効果については、上述した実施形態と同様であってよいため、ここでは詳細な説明を省略する。
　４．移動体への応用例
　本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
　図３６は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
　車両制御システム１２０００は、通信ネットワーク１２００１を介して接続された複数の電子制御ユニットを備える。図３６に示した例では、車両制御システム１２０００は、駆動系制御ユニット１２０１０、ボディ系制御ユニット１２０２０、車外情報検出ユニット１２０３０、車内情報検出ユニット１２０４０、及び統合制御ユニット１２０５０を備える。また、統合制御ユニット１２０５０の機能構成として、マイクロコンピュータ１２０５１、音声画像出力部１２０５２、及び車載ネットワークＩ／Ｆ（Interface）１２０５３が図示されている。
　駆動系制御ユニット１２０１０は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット１２０１０は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
　ボディ系制御ユニット１２０２０は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット１２０２０は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット１２０２０には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット１２０２０は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
　車外情報検出ユニット１２０３０は、車両制御システム１２０００を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット１２０３０には、撮像部１２０３１が接続される。車外情報検出ユニット１２０３０は、撮像部１２０３１に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット１２０３０は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
　撮像部１２０３１は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部１２０３１は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部１２０３１が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
　車内情報検出ユニット１２０４０は、車内の情報を検出する。車内情報検出ユニット１２０４０には、例えば、運転者の状態を検出する運転者状態検出部１２０４１が接続される。運転者状態検出部１２０４１は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット１２０４０は、運転者状態検出部１２０４１から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
　マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０又は車内情報検出ユニット１２０４０で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット１２０１０に対して制御指令を出力することができる。例えば、マイクロコンピュータ１２０５１は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むＡＤＡＳ（Advanced　Driver　Assistance　System）の機能実現を目的とした協調制御を行うことができる。
　また、マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０又は車内情報検出ユニット１２０４０で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
　また、マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０で取得される車外の情報に基づいて、ボディ系制御ユニット１２０２０に対して制御指令を出力することができる。例えば、マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
　音声画像出力部１２０５２は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図３６の例では、出力装置として、オーディオスピーカ１２０６１、表示部１２０６２及びインストルメントパネル１２０６３が例示されている。表示部１２０６２は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
　図３７は、撮像部１２０３１の設置位置の例を示す図である。
　図３７では、撮像部１２０３１として、撮像部１２１０１、１２１０２、１２１０３、１２１０４、１２１０５を有する。
　撮像部１２１０１、１２１０２、１２１０３、１２１０４、１２１０５は、例えば、車両１２１００のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部１２１０１及び車室内のフロントガラスの上部に備えられる撮像部１２１０５は、主として車両１２１００の前方の画像を取得する。サイドミラーに備えられる撮像部１２１０２、１２１０３は、主として車両１２１００の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部１２１０４は、主として車両１２１００の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部１２１０５は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
　なお、図３７には、撮像部１２１０１ないし１２１０４の撮影範囲の一例が示されている。撮像範囲１２１１１は、フロントノーズに設けられた撮像部１２１０１の撮像範囲を示し、撮像範囲１２１１２，１２１１３は、それぞれサイドミラーに設けられた撮像部１２１０２，１２１０３の撮像範囲を示し、撮像範囲１２１１４は、リアバンパ又はバックドアに設けられた撮像部１２１０４の撮像範囲を示す。例えば、撮像部１２１０１ないし１２１０４で撮像された画像データが重ね合わせられることにより、車両１２１００を上方から見た俯瞰画像が得られる。
　撮像部１２１０１ないし１２１０４の少なくとも１つは、距離情報を取得する機能を有していてもよい。例えば、撮像部１２１０１ないし１２１０４の少なくとも１つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
　例えば、マイクロコンピュータ１２０５１は、撮像部１２１０１ないし１２１０４から得られた距離情報を基に、撮像範囲１２１１１ないし１２１１４内における各立体物までの距離と、この距離の時間的変化（車両１２１００に対する相対速度）を求めることにより、特に車両１２１００の進行路上にある最も近い立体物で、車両１２１００と略同じ方向に所定の速度（例えば、０km/h以上）で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ１２０５１は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御（追従停止制御も含む）や自動加速制御（追従発進制御も含む）等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
　例えば、マイクロコンピュータ１２０５１は、撮像部１２１０１ないし１２１０４から得られた距離情報を元に、立体物に関する立体物データを、２輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ１２０５１は、車両１２１００の周辺の障害物を、車両１２１００のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ１２０５１は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ１２０６１や表示部１２０６２を介してドライバに警報を出力することや、駆動系制御ユニット１２０１０を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
　撮像部１２１０１ないし１２１０４の少なくとも１つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ１２０５１は、撮像部１２１０１ないし１２１０４の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部１２１０１ないし１２１０４の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ１２０５１が、撮像部１２１０１ないし１２１０４の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部１２０５２は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部１２０６２を制御する。また、音声画像出力部１２０５２は、歩行者を示すアイコン等を所望の位置に表示するように表示部１２０６２を制御してもよい。
　以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、撮像部１２０３１に適用され得る。具体的には、図３７に例示する撮像部１２１０１、１２１０２、１２１０３、１２１０４、１２１０５等として、車両１２１００に搭載されてよい。撮像部１２１０１、１２１０２、１２１０３、１２１０４、１２１０５等に本開示に係る技術を適用することにより、異なるセンサにより取得された情報（例えば、カラー画像及びモノクロ画像）を統合的に処理することで得られた結果の精度を向上することが可能となる。
　以上、本開示の実施形態について説明したが、本開示の技術的範囲は、上述の実施形態そのままに限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。また、異なる実施形態及び変形例にわたる構成要素を適宜組み合わせてもよい。
　また、本明細書に記載された各実施形態における効果はあくまで例示であって限定されるものでは無く、他の効果があってもよい。
　なお、本技術は以下のような構成も取ることができる。
（１）
　行列状に配列する複数の単位画素と、
　前記単位画素それぞれから信号を読み出す信号処理回路と、
　を備え、
　前記単位画素それぞれは、
　　第１面に配置され、第１波長帯の光を検出する第１画素と、
　　前記第１面に平行な第２面に配置され、前記第１波長帯とは異なる第２波長帯の光を検出する第２画素と、
　を備え、
　前記信号処理回路は、前記単位画素それぞれにおける前記第１画素及び前記第２画素に接続され、前記第１画素及び前記第２画素それぞれから出力されたアナログ信号をデジタル信号に変換する第１変換回路を備える
　固体撮像装置。
（２）
　前記第１画素の少なくとも一部は、前記第１面及び前記第２面に対して垂直な方向において、前記第２画素とオーバーラップする前記（１）に記載の固体撮像装置。
（３）
　前記第１画素は、有機光電変換膜を有する前記（１）又は（２）に記載の固体撮像装置。
（４）
　前記信号処理回路は、前記第１変換回路の接続先を前記第１画素及び前記第２画素のうちのいずれかに切り替える第１スイッチをさらに備える
　前記（１）～（３）の何れか１つに記載の固体撮像装置。
（５）
　前記信号処理回路は、
　　前記単位画素それぞれにおける前記第１画素及び前記第２画素に接続され、前記第１画素及び前記第２画素それぞれから出力されたアナログ信号をデジタル信号に変換する第２変換回路と、
　　前記第２変換回路の接続先を前記第１画素及び前記第２画素のうちのいずれかに切り替える第２スイッチと、
　をさらに備える前記（４）に記載の固体撮像装置。
（６）
　前記単位画素それぞれは、前記第１変換回路に接続された複数の前記第１画素を備える
　前記（１）～（５）の何れか１つに記載の固体撮像装置。
（７）
　前記第１画素それぞれは、
　　入射光を光電変換する第１光電変換部と、
　　前記第１光電変換部に発生した電荷を読み出す第１画素回路と、
　を備え、
　前記複数の第１画素は、前記第１画素回路の少なくとも一部を共有する
　前記（６）に記載の固体撮像装置。
（８）
　前記単位画素それぞれは、前記第１変換回路に接続された複数の前記第２画素を備える
　前記（１）～（７）の何れか１つに記載の固体撮像装置。
（９）
　前記第２画素それぞれは、
　　入射光を光電変換する第２光電変換部と、
　　前記第２光電変換部に発生した電荷を読み出す第２画素回路と、
　を備え、
　前記複数の第２画素は、前記第２画素回路の少なくとも一部を共有する
　前記（８）に記載の固体撮像装置。
（１０）
　前記信号処理回路は、
　　前記複数の単位画素における前記第１画素から読み出された信号に基づいて第１画像データを生成し、
　　前記複数の単位画素における前記第２画素から読み出された信号に基づいて第２画像データを生成する
　前記（１）～（９）の何れか１つに記載の固体撮像装置。
（１１）
　前記第２画素は、
　　入射光を光電変換する光電変換部と、
　　前記光電変換部に発生した電荷を読み出す第１画素回路と、
　　前記光電変換部に発生した電荷を読み出す第２画素回路と、
　を備え、
　前記信号処理回路は、前記第１画素回路に接続され、前記第１画素回路から出力されたアナログ信号をデジタル信号に変換する第２変換回路をさらに備え、
　前記第１変換回路は、前記第１画素と、前記第２画素回路とに接続される
　前記（１）～（１０）の何れか１つに記載の固体撮像装置。
（１２）
　前記信号処理回路は、前記第１変換回路の接続先を前記第１画素及び前記第２画素回路のうちのいずれかに切り替える第１スイッチをさらに備える
　前記（１１）に記載の固体撮像装置。
（１３）
　前記単位画素それぞれは、複数の前記第１画素を備え、
　前記第２画素は、
　　入射光を光電変換する光電変換部と、
　　前記光電変換部に発生した電荷を読み出す第１画素回路と、
　　前記光電変換部に発生した電荷を読み出す第２画素回路と、
　を備え、
　前記信号処理回路は、前記複数の第１画素のうちの１つと、前記第２画素回路とに接続され、前記複数の第１画素のうちの前記１つ及び前記第２画素回路それぞれから出力されたアナログ信号をデジタル信号に変換する第２変換回路をさらに備え、
　前記第１変換回路は、前記複数の第１画素のうちの他の１つと、前記第１画素回路とに接続される
　前記（１）～（１２）の何れか１つに記載の固体撮像装置。
（１４）
　前記信号処理回路は、
　　前記第１変換回路の接続先を前記複数の第１画素のうちの前記他の１つ及び前記第１画素回路のうちのいずれかに切り替える第１スイッチと、
　　前記第２変換回路の接続先を前記複数の第１画素のうちの前記１つ及び前記第２画素回路のうちのいずれかに切り替える第２スイッチと、
　をさらに備える前記（１３）に記載の固体撮像装置。
（１５）
　前記信号処理回路は、
　　前記複数の第１画素のうちの前記他の１つ及び前記第１画素回路に接続され、前記複数の第１画素のうちの前記他の１つ及び前記第１画素回路それぞれから出力されたアナログ信号をデジタル信号に変換する第３変換回路と、
　　前記複数の第１画素のうちの前記１つ及び前記第２画素回路に接続され、前記複数の第１画素のうちの前記１つ及び前記第２画素回路それぞれから出力されたアナログ信号をデジタル信号に変換する第４変換回路と、
　　前記第１変換回路の接続先を前記複数の第１画素のうちの前記他の１つ及び前記第１画素回路のうちのいずれかに切り替える第３スイッチと、
　　前記第２変換回路の接続先を前記複数の第１画素のうちの前記１つ及び前記第２画素回路のうちのいずれかに切り替える第４スイッチと、
　をさらに備える前記（１４）に記載の固体撮像装置。
（１６）
　前記第１波長帯の光は、可視光の波長帯に含まれる光であり、
　前記第２波長帯の光は、赤外光の波長帯に含まれる光である
　前記（１）～（１５）の何れか１つに記載の固体撮像装置。
（１７）
　前記単位画素それぞれにおける前記第１画素を駆動する第１駆動回路と、
　前記単位画素それぞれにおける前記第２画素を駆動する第２駆動回路と、
　を備える前記（１）～（１６）の何れか１つに記載の固体撮像装置。
（１８）
　前記第１画素は、入射光を光電変換する第１光電変換部を備え、
　前記第２画素は、入射光を光電変換する第２光電変換部を備え、
　前記第１光電変換部と前記第２光電変換部とは、前記入射光の光軸に沿って配置されている
　前記（１）～（１７）の何れか１つに記載の固体撮像装置。
（１９）
　前記（１）～（１８）の何れか１つに記載の固体撮像装置と、
　前記固体撮像装置における前記第１画素で取得された第１検出データと、前記第２画素で取得された第２検出データとに基づいて認識処理を実行する認識処理部と、
　を備える認識システム。
（２０）
　前記第２波長帯の光を出射する光源と、
　前記光源及び前記固体撮像装置を制御する制御部と、
　をさらに備え、
　前記制御部は、前記光源の発光タイミングと、前記固体撮像装置における前記第２画素の駆動タイミングとを同期するように制御する
　前記（１９）に記載の認識システム。
（２１）
　前記固体撮像装置における前記第２画素で取得された前記第２画素から物体までの距離を示すデプス情報を生成する処理部をさらに備え、
　前記認識処理部は、前記第１検出データと前記デプス情報とに基づいて前記認識処理を実行する
　前記（１９）又は（２０）に記載の認識システム。
（２２）
　前記認識処理部は、
　　前記第１検出データ及び前記第２検出データのうちの１つに基づいて第１認識処理を実行し、
　　前記第１認識処理の結果と前記第１検出データ及び前記第２検出データのうちの他の１つとに基づいて第２認識処理を実行する
　前記（１９）～（２１）の何れか１つに記載の認識システム。
　１、８０　電子機器
　２　撮像レンズ
　３　記憶部
　４　プロセッサ
　１０、１０－１～１０－Ｎ　ＲＧＢ画素
　１１　転送ゲート
　１２、２２、２２Ａ、２２Ｂ　リセットトランジスタ
　１３、２３、２３Ａ、２３Ｂ　増幅トランジスタ
　１４、２４、２４Ａ、２４Ｂ　選択トランジスタ
　２０　ＩＲ画素
　２１、２１Ａ、２１Ｂ　転送トランジスタ
　２５　排出トランジスタ
　３１、３１ｒ、３１ｇ、３１ｂ　カラーフィルタ
　３２　封止膜
　３３　透明電極
　３４　光電変換膜
　３５　半導体層
　３６　読出し電極
　３７　蓄積電極
　４１　ＩＲフィルタ
　４２　ｐウェル領域
　４３　ｐ型半導体領域
　４４　ｎ型半導体領域
　４５　縦型トランジスタ
　４６　タップ（ＴａｐＡ、ＴａｐＢ）
　５０　半導体基板
　５１　オンチップレンズ
　５２　平坦化膜
　５３　絶縁層
　５４　画素分離部
　５５　固定電荷膜
　５６　層間絶縁膜
　６１～６８　配線
　７０、３７０　認識システム
　７１　ＲＧＢセンサ部
　７２　ＲＧＢ画像処理部
　７３　ＩＲセンサ部
　７４　ＩＲ画像処理部
　７５　認識処理部
　７６　インタフェース部
　８１　レーザ光源
　８３　照射レンズ
　８４　撮像レンズ
　８５　システム制御部
　８６　アプリケーションプロセッサ
　１００、３００　固体撮像装置（イメージセンサ）
　１０１　画素アレイ部
　１０２Ａ　ＲＧＢ画素駆動回路
　１０２Ｂ　ＩＲ画素駆動回路
　１０３、３０３　共通信号処理回路
　１０３ａ　ＡＤ変換回路
　１０３Ａ　ＲＧＢ信号処理回路
　１０３Ｂ　ＩＲ信号処理回路
　１０４　カラム駆動回路
　１０５　システム制御回路
　１０８Ａ　ＲＧＢデータ処理部
　１０８Ｂ　ＩＲデータ処理部
　１１０、１１０－１～１１０－３、２１０、３１０、３１０－１～３１０－４　単位画素
　１３１、１３２、１３３　スイッチ回路
　１４０　画素チップ
　１５０　回路チップ
　３０３Ｂ　ＴｏＦ信号処理回路
　３０８Ｂ　ＴｏＦデータ処理部
　３２０　ＴｏＦ画素
　３２０Ａ、３２０Ｂ　画素回路
　３７３　ＴｏＦセンサ部
　３７４　測距処理部
　３８１　光源駆動部
　３８２　ＶＣＳＥＬ
　３８３　センサ制御部
　３８４　受光部
　９０１　被写体
　ＦＤ１、ＦＤ２、ＦＤ２Ａ、ＦＤ２Ｂ　浮遊拡散領域
　ＬＤ　画素駆動線
　ＬＤ１　ＲＧＢ駆動線
　ＬＤ２　ＩＲ駆動線
　ＰＤ１、ＰＤ２　光電変換部
　ＶＳＬ１、ＶＳＬ２、ＶＳＬ３、ＶＳＬ４　垂直信号線

Claims (20)

  1. 　行列状に配列する複数の単位画素と、
    　前記単位画素それぞれから信号を読み出す信号処理回路と、
    　を備え、
    　前記単位画素それぞれは、
    　　第１面に配置され、第１波長帯の光を検出する第１画素と、
    　　前記第１面に平行な第２面に配置され、前記第１波長帯とは異なる第２波長帯の光を検出する第２画素と、
    　を備え、
    　前記信号処理回路は、前記単位画素それぞれにおける前記第１画素及び前記第２画素に接続され、前記第１画素及び前記第２画素それぞれから出力されたアナログ信号をデジタル信号に変換する第１変換回路を備える
    　固体撮像装置。
  2. 　前記第１画素の少なくとも一部は、前記第１面及び前記第２面に対して垂直な方向において、前記第２画素とオーバーラップする
    　請求項１に記載の固体撮像装置。
  3. 　前記第１画素は、有機光電変換膜を有する
    　請求項１に記載の固体撮像装置。
  4. 　前記信号処理回路は、前記第１変換回路の接続先を前記第１画素及び前記第２画素のうちのいずれかに切り替える第１スイッチをさらに備える
    　請求項１に記載の固体撮像装置。
  5. 　前記信号処理回路は、
    　　前記単位画素それぞれにおける前記第１画素及び前記第２画素に接続され、前記第１画素及び前記第２画素それぞれから出力されたアナログ信号をデジタル信号に変換する第２変換回路と、
    　　前記第２変換回路の接続先を前記第１画素及び前記第２画素のうちのいずれかに切り替える第２スイッチと、
    　をさらに備える請求項４に記載の固体撮像装置。
  6. 　前記単位画素それぞれは、前記第１変換回路に接続された複数の前記第１画素を備える
    　請求項１に記載の固体撮像装置。
  7. 　前記第１画素それぞれは、
    　　入射光を光電変換する第１光電変換部と、
    　　前記第１光電変換部に発生した電荷を読み出す第１画素回路と、
    　を備え、
    　前記複数の第１画素は、前記第１画素回路の少なくとも一部を共有する
    　請求項６に記載の固体撮像装置。
  8. 　前記単位画素それぞれは、前記第１変換回路に接続された複数の前記第２画素を備える
    　請求項１に記載の固体撮像装置。
  9. 　前記第２画素それぞれは、
    　　入射光を光電変換する第２光電変換部と、
    　　前記第２光電変換部に発生した電荷を読み出す第２画素回路と、
    　を備え、
    　前記複数の第２画素は、前記第２画素回路の少なくとも一部を共有する
    　請求項８に記載の固体撮像装置。
  10. 　前記信号処理回路は、
    　　前記複数の単位画素における前記第１画素から読み出された信号に基づいて第１画像データを生成し、
    　　前記複数の単位画素における前記第２画素から読み出された信号に基づいて第２画像データを生成する
    　請求項１に記載の固体撮像装置。
  11. 　前記第２画素は、
    　　入射光を光電変換する光電変換部と、
    　　前記光電変換部に発生した電荷を読み出す第１画素回路と、
    　　前記光電変換部に発生した電荷を読み出す第２画素回路と、
    　を備え、
    　前記信号処理回路は、前記第１画素回路に接続され、前記第１画素回路から出力されたアナログ信号をデジタル信号に変換する第２変換回路をさらに備え、
    　前記第１変換回路は、前記第１画素と、前記第２画素回路とに接続される
    　請求項１に記載の固体撮像装置。
  12. 　前記信号処理回路は、前記第１変換回路の接続先を前記第１画素及び前記第２画素回路のうちのいずれかに切り替える第１スイッチをさらに備える
    　請求項１１に記載の固体撮像装置。
  13. 　前記単位画素それぞれは、複数の前記第１画素を備え、
    　前記第２画素は、
    　　入射光を光電変換する光電変換部と、
    　　前記光電変換部に発生した電荷を読み出す第１画素回路と、
    　　前記光電変換部に発生した電荷を読み出す第２画素回路と、
    　を備え、
    　前記信号処理回路は、前記複数の第１画素のうちの１つと、前記第２画素回路とに接続され、前記複数の第１画素のうちの前記１つ及び前記第２画素回路それぞれから出力されたアナログ信号をデジタル信号に変換する第２変換回路をさらに備え、
    　前記第１変換回路は、前記複数の第１画素のうちの他の１つと、前記第１画素回路とに接続される
    　請求項１に記載の固体撮像装置。
  14. 　前記信号処理回路は、
    　　前記第１変換回路の接続先を前記複数の第１画素のうちの前記他の１つ及び前記第１画素回路のうちのいずれかに切り替える第１スイッチと、
    　　前記第２変換回路の接続先を前記複数の第１画素のうちの前記１つ及び前記第２画素回路のうちのいずれかに切り替える第２スイッチと、
    　をさらに備える請求項１３に記載の固体撮像装置。
  15. 　前記信号処理回路は、
    　　前記複数の第１画素のうちの前記他の１つ及び前記第１画素回路に接続され、前記複数の第１画素のうちの前記他の１つ及び前記第１画素回路それぞれから出力されたアナログ信号をデジタル信号に変換する第３変換回路と、
    　　前記複数の第１画素のうちの前記１つ及び前記第２画素回路に接続され、前記複数の第１画素のうちの前記１つ及び前記第２画素回路それぞれから出力されたアナログ信号をデジタル信号に変換する第４変換回路と、
    　　前記第１変換回路の接続先を前記複数の第１画素のうちの前記他の１つ及び前記第１画素回路のうちのいずれかに切り替える第３スイッチと、
    　　前記第２変換回路の接続先を前記複数の第１画素のうちの前記１つ及び前記第２画素回路のうちのいずれかに切り替える第４スイッチと、
    　をさらに備える請求項１４に記載の固体撮像装置。
  16. 　前記第１波長帯の光は、可視光の波長帯に含まれる光であり、
    　前記第２波長帯の光は、赤外光の波長帯に含まれる光である
    　請求項１に記載の固体撮像装置。
  17. 　前記単位画素それぞれにおける前記第１画素を駆動する第１駆動回路と、
    　前記単位画素それぞれにおける前記第２画素を駆動する第２駆動回路と、
    　を備える請求項１に記載の固体撮像装置。
  18. 　前記第１画素は、入射光を光電変換する第１光電変換部を備え、
    　前記第２画素は、入射光を光電変換する第２光電変換部を備え、
    　前記第１光電変換部と前記第２光電変換部とは、前記入射光の光軸に沿って配置されている
    　請求項１に記載の固体撮像装置。
  19. 　請求項１に記載の固体撮像装置と、
    　前記固体撮像装置における前記第１画素で取得された第１検出データと、前記第２画素で取得された第２検出データとに基づいて認識処理を実行する認識処理部と、
    　を備える認識システム。
  20. 　前記第２波長帯の光を出射する光源と、
    　前記光源及び前記固体撮像装置を制御する制御部と、
    　をさらに備え、
    　前記制御部は、前記光源の発光タイミングと、前記固体撮像装置における前記第２画素の駆動タイミングとを同期するように制御する
    　請求項１９に記載の認識システム。
PCT/JP2021/032464 2020-09-16 2021-09-03 固体撮像装置及び認識システム WO2022059525A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
US18/043,676 US20230326938A1 (en) 2020-09-16 2021-09-03 Solid-state imaging device and recognition system
DE112021004873.2T DE112021004873T5 (de) 2020-09-16 2021-09-03 Festkörperbildgebungsvorrichtung und erkennungssystem
CN202180058030.6A CN116057707A (zh) 2020-09-16 2021-09-03 固态成像装置和识别系统
JP2022550474A JPWO2022059525A1 (ja) 2020-09-16 2021-09-03

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020155657 2020-09-16
JP2020-155657 2020-09-16

Publications (1)

Publication Number Publication Date
WO2022059525A1 true WO2022059525A1 (ja) 2022-03-24

Family

ID=80776985

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/032464 WO2022059525A1 (ja) 2020-09-16 2021-09-03 固体撮像装置及び認識システム

Country Status (5)

Country Link
US (1) US20230326938A1 (ja)
JP (1) JPWO2022059525A1 (ja)
CN (1) CN116057707A (ja)
DE (1) DE112021004873T5 (ja)
WO (1) WO2022059525A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011243862A (ja) * 2010-05-20 2011-12-01 Sony Corp 撮像デバイス及び撮像装置
JP2017208496A (ja) * 2016-05-20 2017-11-24 ソニー株式会社 固体撮像装置、及び、電子機器
WO2020031655A1 (ja) * 2018-08-07 2020-02-13 ソニーセミコンダクタソリューションズ株式会社 撮像装置及び撮像システム
JP2020068483A (ja) * 2018-10-25 2020-04-30 ソニー株式会社 固体撮像装置及び撮像装置
JP2020088676A (ja) * 2018-11-28 2020-06-04 ソニーセミコンダクタソリューションズ株式会社 センサ及び制御方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108389870A (zh) 2017-02-03 2018-08-10 松下知识产权经营株式会社 摄像装置
JP7240833B2 (ja) 2018-08-01 2023-03-16 日本放送協会 撮像素子

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011243862A (ja) * 2010-05-20 2011-12-01 Sony Corp 撮像デバイス及び撮像装置
JP2017208496A (ja) * 2016-05-20 2017-11-24 ソニー株式会社 固体撮像装置、及び、電子機器
WO2020031655A1 (ja) * 2018-08-07 2020-02-13 ソニーセミコンダクタソリューションズ株式会社 撮像装置及び撮像システム
JP2020068483A (ja) * 2018-10-25 2020-04-30 ソニー株式会社 固体撮像装置及び撮像装置
JP2020088676A (ja) * 2018-11-28 2020-06-04 ソニーセミコンダクタソリューションズ株式会社 センサ及び制御方法

Also Published As

Publication number Publication date
CN116057707A (zh) 2023-05-02
JPWO2022059525A1 (ja) 2022-03-24
DE112021004873T5 (de) 2023-08-03
US20230326938A1 (en) 2023-10-12

Similar Documents

Publication Publication Date Title
TWI834734B (zh) 固態成像裝置及成像裝置
JP7532502B2 (ja) ダイナミックビジョンセンサ及び撮像機能を組み合わせた固体撮像デバイス及び撮像デバイス
US20240305908A1 (en) Solid-state imaging device and imaging system
WO2020100663A1 (ja) 固体撮像装置及び撮像装置
JP7277106B2 (ja) 固体撮像装置及び撮像装置
KR20230073185A (ko) 고체 촬상 장치 및 전자 기기
US20220375975A1 (en) Imaging device
WO2022059525A1 (ja) 固体撮像装置及び認識システム
WO2022059499A1 (ja) 固体撮像装置及び電子機器
WO2022059515A1 (ja) 固体撮像装置及び認識システム
JP2023503765A (ja) 撮像デバイス及び撮像装置、並びにそれらの方法
WO2023079840A1 (ja) 撮像装置および電子機器
WO2023181657A1 (ja) 光検出装置及び電子機器
WO2023132151A1 (ja) 撮像素子および電子機器
KR20230073188A (ko) 고체 촬상 장치 및 전자 기기
KR20240112900A (ko) 광 검출 장치, 전자 기기 및 광 검출 시스템

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21869212

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2022550474

Country of ref document: JP

Kind code of ref document: A

122 Ep: pct application non-entry in european phase

Ref document number: 21869212

Country of ref document: EP

Kind code of ref document: A1