WO2017013806A1 - 固体撮像装置 - Google Patents

固体撮像装置 Download PDF

Info

Publication number
WO2017013806A1
WO2017013806A1 PCT/JP2015/071038 JP2015071038W WO2017013806A1 WO 2017013806 A1 WO2017013806 A1 WO 2017013806A1 JP 2015071038 W JP2015071038 W JP 2015071038W WO 2017013806 A1 WO2017013806 A1 WO 2017013806A1
Authority
WO
WIPO (PCT)
Prior art keywords
pixel
photoelectric conversion
signal
normal
solid
Prior art date
Application number
PCT/JP2015/071038
Other languages
English (en)
French (fr)
Inventor
渡辺 伸之
亨 近藤
公成 田宮
Original Assignee
オリンパス株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by オリンパス株式会社 filed Critical オリンパス株式会社
Priority to JP2017529430A priority Critical patent/JPWO2017013806A1/ja
Priority to PCT/JP2015/071038 priority patent/WO2017013806A1/ja
Publication of WO2017013806A1 publication Critical patent/WO2017013806A1/ja
Priority to US15/873,240 priority patent/US10321081B2/en

Links

Images

Classifications

    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • H04N25/443Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array by reading pixels from selected 2D regions of the array, e.g. for windowing or digital zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/771Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising storage means other than floating diffusion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/78Readout circuits for addressed sensors, e.g. output amplifiers or A/D converters

Definitions

  • the present invention relates to a solid-state imaging device.
  • Non-Patent Document 1 by detecting a change in a signal in accordance with the movement of the subject, both motion detection for sequentially detecting the motion of the subject and normal shooting are compatible.
  • a technique for a solid-state imaging device has been proposed.
  • each pixel is provided with one photoelectric conversion element (photodiode) that photoelectrically converts incident light, and an APS (Active Pixel) that reads out a charge signal from normal imaging.
  • Sensor (Sensor) readout and AER (Address Event Representation) readout for reading out a charge signal for motion detection can be performed asynchronously.
  • Non-Patent Document 1 when motion is detected, a temporal change in the charge signal photoelectrically converted by the photodiode is detected, and the magnitude of the charge signal exceeds a predetermined threshold value.
  • address information indicating the position of the pixel that outputs the pulse signal, that is, the pixel that detected the movement of the subject is also added to the pulse signal output by the AER readout.
  • the position of the pixel where the movement of the subject is detected can be extracted at an asynchronous timing that is not related to the timing of the frame from which the charge signal is read in normal imaging. it can.
  • the solid-state imaging device proposed in Non-Patent Document 1 can capture a moving subject at a higher speed than the frame rate in normal shooting.
  • the solid-state imaging device proposed in Non-Patent Document 1 has various obstruction factors for achieving high image quality and high resolution.
  • the position of a moving subject can be obtained at the pixel level by AER reading, but in order to generate an image reflecting the movement of the subject. Therefore, it is necessary to read out all the charge signals obtained by normal photographing by APS readout to generate an image.
  • the generation of an image by reading out all the charge signals obtained in normal shooting after detecting the movement of the subject means that time is required to detect the movement of the subject and to generate an image reflecting the movement of the subject. Deviation will occur. In order to eliminate this time lag, it is also conceivable to increase the reading rate of the charge signal by APS reading, that is, to increase the frame rate in normal photographing.
  • increasing the frame rate means increasing the power consumption of the solid-state imaging device.
  • the number of pixels is increased to increase the resolution of the solid-state imaging device proposed in Non-Patent Document 1
  • the power consumption further increases.
  • the solid-state imaging device proposed in Non-Patent Document 1 also has a problem that a large amount of power is consumed when an image reflecting the movement of the subject is generated.
  • An object of the present invention is to provide a solid-state imaging device capable of generating a high-quality image reflecting movement.
  • the solid-state imaging device includes n first photoelectric conversion elements that generate first charge signals obtained by photoelectrically converting incident light, and the n first photoelectric conversion elements.
  • N first readout circuits corresponding to each of the conversion elements and outputting a signal voltage corresponding to the first charge signal generated by the corresponding first photoelectric conversion element as a first pixel signal;
  • Each of the m second photoelectric conversion elements that generate a second charge signal obtained by photoelectrically converting incident light and the m second photoelectric conversion elements correspond to each of the corresponding second photoelectric conversion elements.
  • M second readout circuits for sequentially outputting a second pixel signal based on a change in the second charge signal generated by the element, and within a predetermined readout region among the first photoelectric conversion elements
  • a detection circuit that outputs an event signal indicating the change, and a position at which the second photoelectric conversion element corresponding to the event signal is arranged
  • a pixel signal generation circuit that outputs the second pixel signal to which address information that represents the second pixel signal is added, wherein the readout control circuit corresponds to the second information corresponding to the address information included in the second pixel signal.
  • An area based on a position where the photoelectric conversion element is arranged is determined as the readout area for reading out the first pixel signal, and the first photoelectric conversion element arranged in the decided readout area Respectively to output the first pixel signal of the first read circuit corresponding to each of said n is a natural number of 2 or more, the m is a natural number of 2 or more.
  • the readout control circuit corresponds to the address information corresponding to the address information included in the second pixel signal output at the same time.
  • a rectangular area generated based on the position where the second photoelectric conversion elements are distributed may be determined as the readout area.
  • the readout control circuit corresponds to the address information included in the second pixel signal output at the same time.
  • a rectangular region including a region where the second photoelectric conversion elements are distributed may be determined as the readout region.
  • the readout control circuit includes the second pixel output at the same time. If the distribution size of the second photoelectric conversion element corresponding to the address information included in the signal is larger than a predetermined distribution size threshold, the distribution size of the second photoelectric conversion element A rectangular area corresponding to the size is determined as the readout area, and the distribution size of the second photoelectric conversion element corresponding to the address information included in the second pixel signal output at the same time is When the distribution size is equal to or smaller than the threshold value, the reading area may not be determined.
  • the readout control circuit includes the second pixel output at the same time.
  • the second photoelectric conversion elements corresponding to the respective address information are supported.
  • the number of the second photoelectric conversion elements corresponding to the address information included in the second pixel signal output at the same time is determined is equal to or less than the threshold of the number, The readout area may not be determined.
  • the readout control circuit includes the entire n first photoelectric conversion elements arranged.
  • the area may be divided into a plurality of blocks divided by a predetermined size, and the reading area may be determined for each of the divided blocks.
  • Each of the second photoelectric conversion elements may be periodically arranged in a region of the same plane of the first semiconductor substrate.
  • the pixel signal generation circuit is stacked on a surface opposite to a surface on which light is incident on the first semiconductor substrate.
  • the second semiconductor substrate may be disposed.
  • the circuit of the first semiconductor substrate is formed between the first semiconductor substrate and the second semiconductor substrate.
  • the second photoelectric conversion element may be electrically connected.
  • the s first charge signals generated by the s first photoelectric conversion elements are defined as one unit.
  • the charge signal thus used is also used as the second charge signal generated by the second photoelectric conversion element, the s is a natural number of 1 or more, and the first charge signal used as the second charge signal is used as the second charge signal.
  • the total number of the first photoelectric conversion elements to be output may be a natural number of 1 or more and n or less.
  • the m is smaller than the n, the s is a natural number of 2 or more, and the m second readout circuits.
  • Each further includes an adder circuit that adds the s first charge signals generated by the corresponding s first photoelectric conversion elements as a unit, and the detection circuit includes: You may detect the change of the said 1st charge signal after adding by the said addition circuit.
  • each of the n first photoelectric conversion elements is incident on each of the n first photoelectric conversion elements.
  • Each of the m second photoelectric conversion elements is stacked on a surface opposite to a surface on which light is incident on the first semiconductor substrate.
  • the second charge signal may be generated by photoelectrically converting light that is periodically disposed on a second semiconductor substrate and transmitted through the first semiconductor substrate.
  • each of the second readout circuits includes t number of the second photoelectric conversion elements.
  • An adder circuit for adding the second charge signals generated by the t second photoelectric conversion elements, and the detection circuit is added by the adder circuit.
  • the t may be a natural number of 2 or more.
  • a solid-state imaging device that achieves both motion detection that sequentially detects the motion of a subject and normal shooting, a high-quality image that reflects the detected motion of the subject while suppressing an increase in power consumption.
  • a solid-state imaging device that can be generated can be provided.
  • 1 is an overview diagram illustrating a schematic configuration of a solid-state imaging device according to a first embodiment of the present invention.
  • 1 is a block diagram illustrating a schematic configuration of a solid-state imaging device according to a first embodiment of the present invention. It is the circuit diagram which showed an example of the structure of the pixel in the solid-state imaging device of the 1st Embodiment of this invention. It is the circuit diagram which showed an example of the structure of the pixel in the solid-state imaging device of the 1st Embodiment of this invention. It is the figure which showed typically an example of arrangement
  • FIG. 5 is a flowchart illustrating a processing procedure for determining a region for designating a pixel for outputting a pixel signal in the solid-state imaging device according to the first embodiment of the present invention. It is the flowchart which showed the process sequence of another process which determines the area
  • FIG. 1 is an overview diagram showing a schematic configuration of the solid-state imaging device according to the first embodiment of the present invention.
  • the solid-state imaging device 1 according to the first embodiment is configured by stacking (joining) a plurality of semiconductor substrates.
  • a first semiconductor substrate 11 and a second semiconductor substrate 12 are joined by a chip connection unit 13.
  • the solid-state imaging device 1 forms a circuit for realizing the function of the solid-state imaging device 1 on either one of the first semiconductor substrate 11 and the second semiconductor substrate 12.
  • a circuit for realizing the function of the solid-state imaging device 1 includes a pixel including a photoelectric conversion element such as a photodiode that photoelectrically converts incident light (light beam), and a readout circuit that reads a charge signal generated by the photoelectric conversion element.
  • a photoelectric conversion element such as a photodiode that photoelectrically converts incident light (light beam)
  • a readout circuit that reads a charge signal generated by the photoelectric conversion element.
  • each circuit for realizing the function of the solid-state imaging device 1 is not only configured to be formed on one of the first semiconductor substrate 11 and the second semiconductor substrate 12 but also the first circuit.
  • the semiconductor substrate 11 and the second semiconductor substrate 12 may be formed on both semiconductor substrates.
  • Each circuit for realizing the function of the solid-state imaging device 1 formed on each semiconductor substrate is electrically connected by the chip connection unit 13.
  • the circuit formed on the first semiconductor substrate 11 and the circuit formed on the second semiconductor substrate 12 transmit and receive signals via the chip connection portion 13.
  • the chip connection portion 13 uses, for example, a micro bump produced by a vapor deposition method or a plating method.
  • achieving the function of the solid-state imaging device 1 formed on each semiconductor substrate is not limited to the method using a micro bump,
  • a silicon penetration electrode A method using TSV: Through-Silicon-Via may be used.
  • FIG. 2 is a block diagram showing a schematic configuration of the solid-state imaging device 1 according to the first embodiment of the present invention.
  • the solid-state imaging device 1 includes a control circuit 10, a vertical scanning circuit 20, a horizontal scanning circuit 30, and a pixel array unit 40 in which a plurality of pixels 50 are arranged.
  • the control circuit 10 includes a read address control circuit 100.
  • FIG. 1 an example of a pixel array unit 40 in which a plurality of pixels 50 are two-dimensionally arranged in 7 rows and 8 columns is illustrated.
  • Each pixel 50 arranged in the pixel array unit 40 generates a charge signal obtained by photoelectrically converting incident light (light beam).
  • the pixels 50 arranged in the pixel array unit 40 include a pixel 50 configured to generate a charge signal by normal photographing and a pixel 50 configured to generate a charge signal for motion detection.
  • the pixel 50 configured to generate a charge signal by normal photographing is generated by APS (Active Pixel Sensor) reading (hereinafter referred to as “normal reading”) in accordance with a control signal input from the vertical scanning circuit 20.
  • a pixel signal corresponding to the signal is output to the vertical signal line 60 for each row.
  • the pixel signals of each row output to the vertical signal line 60 are output to the outside of the solid-state imaging device 1 according to control by the horizontal scanning circuit 30. That is, the pixel signal of the pixel 50 configured to generate a charge signal by normal shooting is output to the outside of the solid-state imaging device 1 for each frame in normal shooting.
  • a pixel 50 configured to generate a charge signal by normal photographing that is, a pixel 50 that outputs a normal photographing pixel signal is referred to as a “normal pixel 51”.
  • the normal pixel 51 can also output a pixel signal from the designated normal pixel 51 to the outside of the solid-state imaging device 1 in addition to sequentially outputting pixel signals to the outside of the solid-state imaging device 1 for each frame. .
  • the normal pixel 51 that outputs a pixel signal is specified by the control circuit 10 controlling the vertical scanning circuit 20 and the horizontal scanning circuit 30.
  • the method of specifying the normal pixel 51 that outputs the pixel signal may be a method of directly specifying each normal pixel 51 or a method of specifying an area where the normal pixel 51 is arranged. Good.
  • a pixel 50 configured to generate a charge signal for motion detection is a pulse signal that represents a temporal change and a changed direction of the charge signal by AER (Address Event Representation) readout (hereinafter referred to as “motion detection readout”).
  • motion detection readout AER (Address Event Representation) readout
  • the pixel 50 configured to generate a charge signal for motion detection adds address information indicating the position of the pixel 50 itself to the pulse signal and outputs it as a pixel signal.
  • a pixel 50 configured to generate a charge signal for motion detection, that is, a pixel 50 that outputs a pixel signal for motion detection is referred to as a “motion detection pixel 52”.
  • the motion detection pixel 52 outputs a pixel signal for motion detection to the control circuit 10.
  • Circuit elements constituting each of the normal pixel 51 and the motion detection pixel 52 are formed on one or both of the first semiconductor substrate 11 and the second semiconductor substrate 12, and the pixel array is formed by the chip connection unit 13. The connection is made within the unit 40.
  • the control circuit 10 controls the vertical scanning circuit 20 and the horizontal scanning circuit 30.
  • the control circuit 10 outputs (reads) a pixel signal of one frame from each normal pixel 51 by normal reading
  • the vertical scanning circuit 20 and the horizontal scanning circuit 30 sequentially drive each normal pixel 51.
  • the control circuit 10 designates the normal pixel 51 and outputs (reads out) the pixel signal
  • the vertical scanning circuit 20 and the horizontal scanning circuit 30 are arranged at designated positions in the pixel array unit 40.
  • the normal pixel 51 is controlled to be driven.
  • the read address control circuit 100 controls the designation of the normal pixel 51 when the normal pixel 51 is designated and a pixel signal is output (read).
  • the read address control circuit 100 outputs a normal photographing pixel signal based on address information included in a motion detection pixel signal output from each motion detection pixel 52 arranged in the pixel array unit 40 ( Read) Designate the normal pixel 51.
  • the read address control circuit 100 has the normal pixel 51 arranged in a predetermined region (hereinafter referred to as “read region”) centered on the position where the motion detection pixel 52 represented by the address information is arranged. Is specified. Note that a detailed description of a method for designating the normal pixel 51 when the read address control circuit 100 outputs a normal photographing pixel signal will be described later.
  • the vertical scanning circuit 20 is a drive circuit that controls each normal pixel 51 in the pixel array unit 40 according to control from the control circuit 10 and outputs a pixel signal of each normal pixel 51 to the vertical signal line 60. is there.
  • the vertical scanning circuit 20 is controlled by the control circuit 10 to sequentially drive each normal pixel 51 in order to output (read) a pixel signal of one frame, a control signal for driving the normal pixel 51 Is output for each row of the normal pixels 51 provided in the pixel array unit 40.
  • the control circuit 10 that is, the read address control circuit 100
  • the vertical scanning circuit 20 is added to the row of the pixel array unit 40 in which the designated normal pixel 51 is arranged.
  • a control signal for driving the normal pixel 51 is output.
  • the horizontal scanning circuit 30 is a drive circuit that outputs the pixel signals of the respective rows output from the respective normal pixels 51 provided in the pixel array unit 40 to the outside of the solid-state imaging device 1.
  • the horizontal scanning circuit 30 is controlled by the control circuit 10 so as to sequentially drive the respective normal pixels 51 in order to output (read out) a pixel signal of one frame
  • the horizontal scanning circuit 30 outputs each row from the respective normal pixels 51.
  • the pixel signals thus output are sequentially output for each column of the normal pixels 51 provided in the pixel array unit 40.
  • the horizontal scanning circuit 30 is a pixel in the column of the pixel array unit 40 in which the designated normal pixel 51 is arranged. Output a signal.
  • FIG. 3A and 3B are circuit diagrams illustrating an example of the configuration of the pixel 50 (the normal pixel 51 and the motion detection pixel 52) in the solid-state imaging device 1 according to the first embodiment of the present invention.
  • FIG. 3A shows an example of the configuration of the normal pixel 51 arranged in the pixel array unit 40 of the solid-state imaging device 1
  • FIG. 3B shows the motion detection pixel 52 arranged in the pixel array unit 40 of the solid-state imaging device 1.
  • An example of the configuration is shown.
  • the normal pixel 51 includes a photoelectric conversion element PD1, a charge transfer transistor 511, a pixel reset transistor 512, an amplification transistor 513, and a selection transistor 514.
  • a node capacitance FD1 which is a capacitance associated with a node connected to the gate terminal of the amplification transistor 513 provided in the normal pixel 51, is indicated by a capacitor symbol as a circuit element of the normal pixel 51.
  • the charge transfer transistor 511, the pixel reset transistor 512, the amplification transistor 513, the selection transistor 514, and the node capacitor FD1 read out a pixel signal corresponding to the charge signal generated by the photoelectric conversion element PD1.
  • the circuit is configured.
  • the photoelectric conversion element PD ⁇ b> 1 and the readout circuit are formed on the first semiconductor substrate 11.
  • the photoelectric conversion element PD1 is a photodiode that photoelectrically converts incident light (light beam) to generate a charge signal and accumulates the generated charge signal.
  • the charge transfer transistor 511 transfers the charge signal generated and accumulated by the photoelectric conversion element PD1 to the gate terminal of the amplification transistor 513 in accordance with the control signal TX input from the vertical scanning circuit 20. As a result, the charge signal transferred by the charge transfer transistor 511 is accumulated in the node capacitor FD1.
  • the amplification transistor 513 outputs to the selection transistor 514 a signal voltage corresponding to the charge signal transferred to the gate terminal, that is, the charge signal stored in the node capacitor FD1.
  • the pixel reset transistor 512 resets the charge signal in the normal pixel 51 to the power supply voltage VDD in accordance with the control signal RST input from the vertical scanning circuit 20.
  • the selection transistor 514 outputs the signal voltage output from the amplification transistor 513 to the vertical signal line 60 as the pixel signal of the normal pixel 51 in accordance with the control signal SEL input from the vertical scanning circuit 20. As a result, a pixel signal corresponding to the charge signal generated by the photoelectric conversion element PD ⁇ b> 1 provided in the normal pixel 51 is read out to the vertical signal line 60.
  • each signal voltage corresponding to the charge signal obtained by photoelectrically converting the light incident on the photoelectric conversion element PD1 is read out to the vertical signal line 60 as a pixel signal.
  • the motion detection pixel 52 includes a photoelectric conversion element PD2, an amplifier 521, a bias transistor 522, a switched capacitor amplifier circuit 523, a threshold amplifier 524, a threshold amplifier 525, and an AER circuit 526.
  • the switched capacitor amplifier circuit 523 includes a capacitor 5231, an amplifier 5232, a capacitor 5233, and a switch 5234.
  • an amplifier 521 and a bias transistor 522 constitute an output circuit that outputs a charge signal generated by the photoelectric conversion element PD2.
  • the switched capacitor amplifier circuit 523, the threshold amplifier 524, the threshold amplifier 525, and the AER circuit 526 form a readout circuit that reads the charge signal generated by the photoelectric conversion element PD2.
  • the photoelectric conversion element PD ⁇ b> 2 and the output circuit are formed on the first semiconductor substrate 11, and the readout circuit is formed on the second semiconductor substrate 12.
  • the photoelectric conversion element PD2 is a photodiode that photoelectrically converts incident light (light rays) to generate a charge signal and accumulates the generated charge signal. .
  • the photoelectric conversion element PD2 sequentially outputs the generated charge signal to the amplifier 521.
  • the amplifier 521 amplifies the charge signal generated and output by the photoelectric conversion element PD2.
  • the amplifier 521 outputs the amplified charge signal to the switched capacitor amplifier circuit 523 via the chip connection unit 13.
  • a change in the charge signal generated by the photoelectric conversion element PD2 is input to the switched capacitor amplifier circuit 523.
  • the amplifier 521 transfers the amplified charge signal to the gate terminal of the bias transistor 522.
  • the bias transistor 522 controls the current flowing through the photoelectric conversion element PD2 to be a constant current according to the charge signal transferred to the gate terminal.
  • the charge signal generated by the photoelectric conversion element PD2 changes, the magnitude of the charge signal is stabilized at the magnitude after the change. That is, the output of the photoelectric conversion element PD2 is clipped.
  • the switched capacitor amplifier circuit 523 converts the change in the charge signal input from the amplifier 521 via the chip connection unit 13, that is, the increase or decrease in the charge signal generated by the photoelectric conversion element PD2 into a voltage signal in a predetermined voltage range.
  • the data is converted and output to each of the threshold amplifier 524 and the threshold amplifier 525.
  • the operation of the switched capacitor amplifier circuit 523 is reset by the AER circuit 526.
  • the charge signal input from the amplifier 521 via the chip connection unit 13 is input to the first terminal of the capacitor 5231 and stored. Accordingly, a voltage signal having a voltage corresponding to the accumulated charge signal is output from the second terminal of the capacitor 5231 and output to the amplifier 5232.
  • the amplifier 5232 amplifies the voltage of the input voltage signal, and outputs the amplified voltage signal as an output of the switched capacitor amplifier circuit 523 in each of the threshold amplifier 524 and the threshold amplifier 525.
  • the voltage signal output from the amplifier 5232 is input to the first terminal of the capacitor 5233 and accumulated.
  • a voltage signal corresponding to the accumulated voltage signal is output from the second terminal of the capacitor 5233 to the amplifier 5232 as a feedback signal.
  • the amplifier 5232 continues to output a voltage signal having a constant voltage corresponding to the voltage of the feedback signal.
  • the amplifier 5232 continues to output a voltage signal having a voltage corresponding to the charge signal input from the amplifier 521 to the switched capacitor amplifier circuit 523 via the chip connection unit 13 to each of the threshold amplifier 524 and the threshold amplifier 525.
  • the voltage signal output from the amplifier 5232 to each of the threshold amplifier 524 and the threshold amplifier 525 is a voltage signal indicating the magnitude of increase or decrease in the charge signal generated by the photoelectric conversion element PD2.
  • the output terminal of the amplifier 5232 (which is also the first terminal of the capacitor 5233) is connected to the first terminal of the switch 5234, and the input terminal of the amplifier 5232 (which is also the second terminal of the capacitor 5233) is the switch. 5234 is connected to the second terminal.
  • the switch 5234 is output from the AER circuit 526, and the short circuit and the open circuit are controlled by the reset signal input to the control terminal.
  • the switch 5234 When the switch 5234 is controlled to be short-circuited by the reset signal output from the AER circuit 526, the switch 5234 short-circuits the first terminal and the second terminal. Accordingly, both terminals of the capacitor 5233 are short-circuited, the voltages of both terminals of the capacitor 5233 are reset to the same voltage, and the amplification operation of the voltage signal by the amplifier 5232 is also reset.
  • FIG. 3B shows the switched capacitor amplifier circuit 523 configured by the capacitor 5231, the amplifier 5232, the capacitor 5233, and the switch 5234.
  • the configuration of the switched capacitor amplifier circuit 523 is limited to the configuration illustrated in FIG. 3B. It is not something.
  • Each of the threshold amplifier 524 and the threshold amplifier 525 detects a change in the voltage of the voltage signal input from the amplifier 5232 in the switched capacitor amplifier circuit 523 and the changed direction.
  • each of the threshold amplifier 524 and the threshold amplifier 525 compares the voltage of the voltage signal input from the amplifier 5232 in the switched capacitor amplifier circuit 523 with a predetermined threshold voltage (threshold voltage).
  • a predetermined threshold voltage threshold voltage
  • Each of the threshold amplifier 524 and the threshold amplifier 525 outputs an event signal indicating that there is a change exceeding the threshold voltage to the AER circuit 526 when the voltage of the input voltage signal exceeds the threshold voltage.
  • the threshold amplifier 524 and the threshold amplifier 525 either a predetermined positive voltage or negative voltage is set as the threshold voltage.
  • a positive voltage having a predetermined voltage value is set as a threshold voltage in the threshold amplifier 524
  • a negative voltage having a predetermined voltage value is set as a threshold voltage in the threshold amplifier 525.
  • the threshold amplifier 524 detects whether or not the voltage of the voltage signal input from the amplifier 5232 has changed in the positive direction (increase direction) more than the threshold voltage in the positive direction.
  • the threshold amplifier 525 detects whether the voltage of the voltage signal input from the amplifier 5232 has changed in the negative direction (decreasing direction) more than the threshold voltage in the negative direction.
  • the configuration of the threshold amplifier 524 and the threshold amplifier 525 detects the change exceeding the threshold voltage of the voltage signal converted into the predetermined voltage range by the switched capacitor amplifier circuit 523 and the changed direction. This corresponds to detecting a change and a changed direction of the charge signal generated by the photoelectric conversion element PD2 exceeding a predetermined threshold.
  • the event signals output from the threshold amplifier 524 and the threshold amplifier 525 to the AER circuit 526 represent the change of the charge signal generated by the photoelectric conversion element PD2 and the changed direction (positive direction or negative direction).
  • the threshold amplifier 524 when the threshold amplifier 524 outputs an event signal, it indicates that the charge signal generated by the photoelectric conversion element PD2 has changed beyond a predetermined threshold value in the positive direction, and the threshold amplifier 525 outputs the event signal. When output, it indicates that the charge signal generated by the photoelectric conversion element PD2 has changed beyond a predetermined threshold value in the negative direction.
  • the temporal change of the charge signal generated by the photoelectric conversion element PD2 is detected by the configuration of the switched capacitor amplifier circuit 523, the threshold amplifier 524, and the threshold amplifier 525.
  • the configuration for detecting the temporal change of the charge signal generated by the photoelectric conversion element PD2 is not limited to the configuration shown in FIG. 3B.
  • the threshold amplifier 524 and the threshold amplifier 525 may be configured to detect temporal changes in the charge signal generated by the photoelectric conversion element PD2.
  • the AER circuit 526 determines whether the charge signal generated by the photoelectric conversion element PD2 changes in the positive direction or the negative direction based on the event signals input from the threshold amplifier 524 and the threshold amplifier 525, respectively. That is, the increase / decrease in the magnitude of the charge signal is determined. Then, the AER circuit 526 generates a pulse signal representing the determined result. For example, when the charge signal generated by the photoelectric conversion element PD2 changes in the positive direction (increase direction), a positive pulse signal is generated, and the charge signal generated by the photoelectric conversion element PD2 decreases in the negative direction (decreases). Direction), a negative pulse signal is generated.
  • the AER circuit 526 adds address information indicating the position of the motion detection pixel 52 itself to the generated pulse signal, and outputs it as a pixel signal.
  • the pixel signal output from the AER circuit 526 that is, the motion detection pixel 52
  • an “event pixel signal” in order to distinguish from the pixel signal output from the normal pixel 51.
  • the motion detection pixel 52 detects a change in the charge signal obtained by photoelectric conversion of the light incident on the photoelectric conversion element PD2 and its changed direction, and detects the detected information and the position of the motion detection pixel 52.
  • the address information to be expressed is output for each motion detection pixel 52.
  • the read address control circuit 100 is based on the address information included in the event pixel signal output from the motion detection pixel 52, that is, the motion detection pixel 52 represented by the address information, that is, the subject A pixel signal is output (read out) from the normal pixel 51 arranged in a predetermined readout area centered on the position where the motion detection pixel 52 that has detected the movement is arranged.
  • each motion detection pixel 52 reads out an event pixel signal for each motion detection pixel 52 and outputs the event pixel signal to the address control circuit 100, but each motion detection pixel 52 reads out the event pixel signal.
  • the configuration for outputting to 100 is not limited.
  • each motion detection pixel 52 may be configured to output an event pixel signal via the horizontal scanning circuit 30.
  • the AER circuit 526 adds the address information to the generated pulse signal and outputs the event pixel signal.
  • the configuration for adding the address information to the pulse signal is the AER It is not limited to the circuit 526.
  • the address information indicating the position of the motion detection pixel 52 that outputs the pulse signal to the pulse signal output from the AER circuit 526 provided in each motion detection pixel 52 by a component (not shown) included in the solid-state imaging device 1. May be added and output as an event pixel signal.
  • the switched capacitor amplifier circuit 523 amplifies the charge signal generated by the photoelectric conversion element PD2 and then converts the amplified signal into a voltage signal in a predetermined voltage range.
  • the configuration for converting the charge signal generated by the photoelectric conversion element PD2 into a voltage signal in a predetermined voltage range is not limited to the configuration using the switched capacitor amplifier circuit 523.
  • the motion detection pixel 52 is configured so as not to include the amplifier 5232 included in the switched capacitor amplifier circuit 523, that is, a so-called switched capacitor circuit, and the charge signal generated by the photoelectric conversion element PD2 is converted into a voltage signal in a predetermined voltage range. You may make it the structure to convert. In this case, the motion detection pixel 52 may detect a temporal change in the charge signal generated by the photoelectric conversion element PD2 by the configuration of the switched capacitor circuit, the threshold amplifier 524, and the threshold amplifier 525.
  • FIG. 4 shows an area for designating the arrangement of the pixels 50 (normal pixels 51 and motion detection pixels 52) and the pixels 50 (normal pixels 51) for outputting pixel signals in the solid-state imaging device 1 according to the first embodiment of the present invention. It is the figure which showed an example typically with the read-out area
  • FIG. 4 shows an example in which the pixels 50 (the normal pixels 51 and the motion detection pixels 52) are arranged in the region of the pixel array unit 40 of the first semiconductor substrate 11 constituting the solid-state imaging device 1.
  • the pixels 50 that is, the normal pixels 51 and the motion detection pixels 52 are arranged in a planar shape.
  • the normal pixels 51 are formed on the first semiconductor substrate 11, and the motion detection pixels 52 are divided into the first semiconductor substrate 11 and the second semiconductor substrate 12.
  • the normal pixel 51 (photoelectric conversion element PD ⁇ b> 1 and readout circuit) and the motion detection pixel 52 are disposed in the planar area of the pixel array unit 40 of the first semiconductor substrate 11.
  • the photoelectric conversion element PD2 and the output circuit are periodically arranged in the row direction and the column direction.
  • the normal pixels 51 are arranged more than the motion detection pixels 52 as shown in FIG.
  • the normal pixels 51 are arranged uniformly over the entire area of the plane of the pixel array unit 40, and the normal pixels 51 are moved at predetermined intervals (in FIG. 4, every four normal pixels 51). The arrangement is such that the photoelectric conversion element PD2 of the detection pixel 52 and the output circuit are replaced.
  • the photoelectric conversion element PD2 of the motion detection pixel 52 arranged on the first semiconductor substrate 11 and the reading of the motion detection pixel 52 corresponding to the output circuit are read.
  • the circuits are arranged uniformly over the entire planar area of the pixel array unit 40.
  • the readout circuit of the motion detection pixel 52 is formed including the planar region of the pixel array unit 40 of the second semiconductor substrate 12 corresponding to the normal pixel 51 arranged on the first semiconductor substrate 11. That is, in the solid-state imaging device 1, the motion detection pixel 52 that requires a large area when forming because it is composed of more circuit elements than the normal pixel 51 is used to form the normal pixel 51.
  • the region of the second semiconductor substrate 12 that is not present. More specifically, in the second semiconductor substrate 12 stacked on the surface opposite to the surface on which light is incident on the normal pixel 51, the region of the normal pixel 51 formed on the first semiconductor substrate 11 A readout circuit for the motion detection pixel 52 is formed including the overlapping region. Then, the output circuit formed on the first semiconductor substrate 11 and the readout circuit formed on the second semiconductor substrate 12 are electrically connected by the chip connection unit 13.
  • the detection of the movement of the subject does not require a higher resolution, that is, a higher image quality than an image generated in normal shooting. Rather, in the motion detection that sequentially detects the motion of the subject, it is desirable that the photoelectric conversion element PD2 of the motion detection pixel 52 can generate a charge signal and perform motion detection even in a short time.
  • the solid-state imaging device 1 it is desirable to increase the number of normal pixels 51 provided in the pixel array unit 40 to achieve a high pixel count in normal shooting.
  • the number of normal pixels 51 arranged in the pixel array unit 40 is further increased to improve the image quality of an image generated in normal shooting, that is, to obtain a high-definition output. You can also. More specifically, in the solid-state imaging device 1, each of a normal pixel 51 specialized for outputting a pixel signal by normal photographing and a motion detection pixel 52 specialized for outputting an event pixel signal by motion detection are provided.
  • the normal pixel 51 may be further refined, and a larger number of normal pixels 51 may be arranged than the example of the arrangement shown in FIG.
  • the read address control circuit 100 when an event pixel signal is input from one of the motion detection pixels 52 arranged as illustrated in FIG. 4 to the read address control circuit 100 in the control circuit 10, the read address control circuit 100.
  • the normal pixel 51 arranged in a predetermined peripheral region (readout region) centered on the position of the motion detection pixel 52 that has output the event pixel signal based on the address information included in the event pixel signal.
  • Output (read) a signal.
  • an event pixel signal is sent to the read address control circuit 100 from the motion detection pixel 52a arranged in the sixth row and the seventh column.
  • the read address control circuit 100 receives pixel signals from the normal pixels 51 arranged in a rectangular read area ar1 of a predetermined 5 rows and 5 columns around the position of the motion detection pixel 52a.
  • Output (read) a signal.
  • the normal pixel 51 performs exposure for normal shooting at a predetermined cycle (frame rate). That is, in the normal pixel 51, photoelectric conversion of incident light (light beam) by the photoelectric conversion element PD1, transfer of the charge signal generated by the photoelectric conversion element PD1 by the charge transfer transistor 511 to the node capacitor FD1, and pixel reset The reset of the charge signal accumulated in the node capacitance FD1 by the transistor 512 is periodically repeated. Therefore, when the read address control circuit 100 designates the normal pixel 51 in the read area ar1 as the normal pixel 51 that outputs (reads) a pixel signal, the designated normal pixel 51 is periodically performed.
  • a signal voltage corresponding to the charge signal obtained by the most recent exposure is output (read) as a pixel signal.
  • the most recent exposure may be the exposure immediately before the normal pixel 51 has already been finished when the read address control circuit 100 is designated, or after the normal pixel 51 is designated by the read address control circuit 100. The exposure may be immediately after the end. Therefore, in the following description, the timing of exposure for obtaining the pixel signal output from the designated normal pixel 51 is not particularly defined.
  • FIG. 5 is a diagram illustrating a configuration for outputting a pixel signal in the solid-state imaging device 1 according to the first embodiment of the present invention.
  • FIG. 5 shows a part of the vertical structure of the pixel array unit 40 in the case where the normal pixels 51 and the motion detection pixels 52 are arranged as shown in FIG.
  • the read address control circuit 100 is shown. More specifically, the normal pixel 51 formed on the first semiconductor substrate 11, the motion detection pixel 52 formed on the first semiconductor substrate 11 and the second semiconductor substrate 12, the read address control circuit 100, Each signal exchanged between the two is shown.
  • FIG. 5 shows a state where the photoelectric conversion element PD1 of the normal pixel 51 and the selection transistor 514 provided in the readout circuit of the normal pixel 51 are formed on the first semiconductor substrate 11.
  • the photoelectric conversion element PD ⁇ b> 2 and the output circuit of the motion detection pixel 52 are formed on the first semiconductor substrate 11, and the readout circuit is formed on the second semiconductor substrate 12.
  • the photoelectric conversion element PD2 of the motion detection pixel 52 and the amplifier 521 provided in the output circuit are formed on the first semiconductor substrate 11, and the switched capacitor amplifier circuit 523 provided in the readout circuit of the motion detection pixel 52 A state in which the AER circuit 526 is formed on the second semiconductor substrate 12 is shown.
  • the switched capacitor amplifier circuit 523 and the AER circuit 526 provided in the readout circuit of the motion detection pixel 52 are included in an area overlapping the area of the normal pixel 51 formed on the first semiconductor substrate 11. Further, a state in which the second semiconductor substrate 12 is formed is shown.
  • FIG. 5 shows an amplifier 521 provided in the output circuit of the motion detection pixel 52 formed on the first semiconductor substrate 11 and a switched capacitor amplifier provided in the readout circuit of the motion detection pixel 52 formed on the second semiconductor substrate 12. A state in which the circuit 523 is connected by the chip connecting portion 13 is shown.
  • the AER circuit 526 of the motion detection pixel 52 formed on the second semiconductor substrate 12 has detected a temporal change in the charge signal generated by the photoelectric conversion element PD2. At this time, the event pixel signal is output to the read address control circuit 100.
  • the read address control circuit 100 detects (confirms) the position of the motion detection pixel 52 that has output the event pixel signal from the address information included in the input event pixel signal. For example, when an event pixel signal is input from the motion detection pixel 52a illustrated in FIG. 4, the read address control circuit 100 determines that the motion detection pixel 52 that has output the event pixel signal from the address information included in the event pixel signal, It is detected (confirmed) that it is the motion detection pixel 52a arranged in the sixth row and the seventh column.
  • the read address control circuit 100 determines the area of the normal pixel 51 arranged in a predetermined area centered on the position of the detected (confirmed) motion detection pixel 52 as the read area. Then, the read address control circuit 100 outputs a control signal for designating the normal pixel 51 arranged in the determined read area to the vertical scanning circuit 20 and the horizontal scanning circuit 30. For example, a rectangular readout area ar1 of 5 rows and 5 columns centered on the position of the motion detection pixel 52a shown in FIG. 4 is determined as a readout area for outputting (reading) a pixel signal from the normal pixel 51, and the readout area ar1 A control signal for designating the normal pixel 51 arranged inside is output to the vertical scanning circuit 20 and the horizontal scanning circuit 30.
  • each of the vertical scanning circuit 20 and the horizontal scanning circuit 30 sequentially drives the designated normal pixel 51 and outputs (reads) a pixel signal from the designated normal pixel 51 by the read address control circuit 100.
  • each of the vertical scanning circuit 20 and the horizontal scanning circuit 30 receives a control signal for designating the normal pixel 51 arranged in the readout area ar1 shown in FIG.
  • the normal pixels 51 are sequentially driven, and pixel signals are output (read) from the respective normal pixels 51 arranged in the reading area ar1.
  • the pixel array unit includes the normal pixel 51 specialized for the output of the pixel signal by the normal photographing and the motion detection pixel 52 specialized for the output of the event pixel signal by the motion detection.
  • the motion detection for sequentially detecting the motion of the subject and the normal photographing are compatible.
  • the solid-state imaging device 1 performs motion detection that sequentially detects the movement of the subject at an asynchronous timing that is not related to the normal readout in which pixel signals are sequentially read out in units of frames in normal imaging, that is, normal readout and motion. Detection and reading can be performed at the same time.
  • the number of normal pixels 51 arranged in the pixel array unit 40 is set to be larger than that of the motion detection pixels 52, as in the example of the arrangement of the normal pixels 51 and the motion detection pixels 52 shown in FIG. There are also many.
  • the motion detection pixels 52 arranged in the pixel array unit 40 are divided into the first semiconductor substrate 11 and the second semiconductor substrate 12, thereby forming the inside of the pixel array unit 40.
  • the number of normal pixels 51 to be arranged is increased.
  • an image processing unit that generates an image based on each pixel signal in normal photographing output from the solid-state imaging device 1 is a higher-resolution image, that is, A high-quality image can be generated.
  • the image processing unit included in the imaging system equipped with the solid-state imaging device 1 when the image processing unit included in the imaging system equipped with the solid-state imaging device 1 generates an image based on each pixel signal, the pixel at the position where the motion detection pixel 52 is arranged in the solid-state imaging device 1.
  • the signal that is, the pixel signal of the missing pixel
  • an image including the pixel signals of all the pixels is generated.
  • the image processing unit particularly defines a method (pixel interpolation calculation method) for interpolating the pixel signals of the respective normal pixels 51 corresponding to the positions where the motion detection pixels 52 are arranged. do not do.
  • the position of the motion detection pixel 52 that has output the event pixel signal is preliminarily set in advance.
  • a pixel signal is output (read out) from the normal pixel 51 arranged in the determined readout region. That is, in the solid-state imaging device 1, a normal photographing pixel signal is obtained from only the normal pixels 51 arranged in a predetermined small readout area centering on the position where the motion detection pixels 52 that detect the movement of the subject are arranged. Output (read).
  • the solid-state imaging device 1 consumes less power than reading out all pixel signals obtained by normal shooting in order to generate an image reflecting the movement of the subject, as in a conventional solid-state imaging device. Can be reduced.
  • the image processing unit included in the imaging system equipped with the solid-state imaging device 1 is based on the pixel signal of the small readout area that is output (read out) and detected by the first pixel designation method. Then, an image reflecting the movement of the subject is generated. That is, the image processing unit generates an image by replacing a small number of pixel signals corresponding to a small readout region in which motion is detected among pixel signals for one frame already acquired from the solid-state imaging device 1. Thus, an image reflecting the movement of the subject is generated.
  • the solid-state imaging device 1 can sequentially perform motion detection for detecting the motion of the subject. For this reason, it is also conceivable that the plurality of motion detection pixels 52 detect the motion of the subject at the same time.
  • FIG. 6 is a diagram schematically illustrating an example of a region (readout region) for designating a pixel 50 (normal pixel 51) for outputting a pixel signal in the solid-state imaging device 1 according to the first embodiment of the present invention.
  • the pixels 50 (the normal pixels 51 and the motion detection pixels 52) are arranged in the region of the pixel array section 40 of the first semiconductor substrate 11 constituting the solid-state imaging device 1 as shown in FIG. 4.
  • an example of a method for determining a readout region in which a normal pixel 51 that outputs a pixel signal is arranged is shown.
  • the motion detection pixel 52a arranged in the sixth row and the seventh column and the motion detection pixel arranged in the second row and the seventh column.
  • the read address control circuit 100 has a rectangular readout area ar1 of 5 rows and 5 columns determined centering on the position of the motion detection pixel 52a and a predetermined 5 rows and 5 columns centered on the position of the motion detection pixel 52b.
  • each of the readout areas of the readout area ar1, the readout area ar2, the readout area ar3, and the readout area ar4 includes the same normal pixel 51 in the adjacent readout areas. Yes. That is, the normal pixels 51 arranged in the reading areas are overlapped. In such a case, the read address control circuit 100 determines a read area from which pixel signals are read so that the pixel signals are not read from the normal pixels 51 that overlap in the read areas. More specifically, as shown in FIG. 6, rectangular readout including all rectangular readout areas (readout areas ar1 to ar4) corresponding to all the motion detection pixels 52 that output the event pixel signal.
  • the area ar ⁇ b> 5 is determined as a readout area for outputting (reading) a pixel signal from the normal pixel 51. Then, the read address control circuit 100 outputs a control signal for designating the normal pixel 51 arranged in the read area ar5 to the vertical scanning circuit 20 and the horizontal scanning circuit 30.
  • each of the vertical scanning circuit 20 and the horizontal scanning circuit 30 sequentially drives the normal pixels 51 in the designated readout area ar5, and outputs pixel signals from the respective normal pixels 51 arranged in the readout area ar5. Is output (read).
  • the read address control circuit 100 when the event pixel signal is output from the plurality of motion detection pixels 52 at the same time, the read address control circuit 100 outputs the event pixel signal in the first pixel specifying method.
  • a reading area for designating the normal pixel 51 from which the pixel signal is read is determined according to the position where each motion detection pixel 52 is arranged.
  • a predetermined readout area for outputting (reading) a pixel signal from the normal pixel 51 is a 5-by-5 array centered on the position of the motion detection pixel 52a that has output the event pixel signal.
  • the case of a rectangular readout area has been described.
  • the size of a predetermined readout area for outputting (reading) a pixel signal from the normal pixel 51 is not limited to the above-described 5 rows and 5 columns, and the motion detection with the normal pixels 51 in the pixel array unit 40 is not limited.
  • Various sizes are conceivable depending on the arrangement with the pixels 52 and the like.
  • each readout region is not limited to a readout region that overlaps between adjacent readout regions, that is, a readout region that includes the same normal pixel 51.
  • the motion detection pixel 52 that outputs the event pixel signal is located at a position where the event detection signal 52 is output. Based on this, the case of determining a rectangular readout area for designating the normal pixel 51 from which the pixel signal is read has been described. However, the position where the motion detection pixel 52 that outputs the event pixel signal is not always located at a position where a rectangular readout region can be easily determined. In particular, when an event pixel signal is output from a plurality of motion detection pixels 52 at the same time, depending on the position where the motion detection pixel 52 that has output the event pixel signal is arranged, as shown in FIG.
  • the read address control circuit 100 is configured to change a method for determining a read area for designating the normal pixel 51 from which the pixel signal is read, in accordance with the position where each motion detection pixel 52 that has output the event pixel signal is arranged. It may be.
  • FIG. 7 is a diagram schematically showing another example of a region (readout region) for designating a pixel 50 (normal pixel 51) for outputting a pixel signal in the solid-state imaging device 1 according to the first embodiment of the present invention. is there.
  • FIG. 7 shows a plurality of movements when the pixels 50 (the normal pixels 51 and the motion detection pixels 52) are arranged in the region of the pixel array unit 40 of the first semiconductor substrate 11 constituting the solid-state imaging device 1.
  • An example of a method for determining a readout region in which a normal pixel 51 that outputs a pixel signal when an event pixel signal is output from the detection pixel 52 at the same time is shown.
  • the motion detection pixel distribution D ⁇ b> 1 is a distribution of motion detection pixels 52 that output event pixel signals at the same time among a plurality of motion detection pixels 52 arranged in the entire region of the pixel array unit 40. Represents the range. Therefore, the region of the motion detection pixel distribution D1 corresponds to the minimum readout region that designates the normal pixel 51 from which the readout address control circuit 100 reads out the pixel signal.
  • rectangular readout areas corresponding to the respective motion detection pixels 52 that output the event pixel signal are referred to as “regional readout areas”.
  • regional readout areas rectangular readout areas corresponding to the respective motion detection pixels 52 that output the event pixel signal.
  • the designation method is complicated. That is, in order to efficiently read out the pixel signal from each normal pixel 51, control is performed in consideration of the timing of outputting the control signal for designating the normal pixel 51 arranged in each reading area ar. It will be necessary. For example, in consideration of the timing at which the read address control circuit 100 outputs a control signal for designating the normal pixel 51 arranged in each read area ar in order to read a pixel signal from each normal pixel 51. It is also necessary. For this reason, pixel signals cannot be efficiently read from the respective normal pixels 51 arranged in the read area ar corresponding to the motion detection pixels 52 distributed in a complicated shape like the motion detection pixel distribution D1. Is also possible.
  • a rectangular area including the motion detection pixel distribution D1 is determined as a read area for outputting (reading) a pixel signal from the normal pixel 51. More specifically, in the second pixel specifying method, the rectangular readout area ar6 including all the rectangular readout areas ar corresponding to all the motion detection pixels 52 that output the event pixel signal is extracted from the normal pixel 51. The pixel area is determined as a readout area for outputting (reading) a pixel signal.
  • the read address control circuit 100 for example, from the rectangular read area ar corresponding to each motion detection pixel 52, the position of the upper left normal pixel 51 including all the rectangular read areas ar and the lower right normal pixel 51 The position of the pixel 51 is obtained. Then, the read address control circuit 100 reads the pixel signal corresponding to the motion detection pixel distribution D1 from the rectangular read area ar6 represented by the obtained positions of the normal pixels 51 in the upper left and lower right. Is determined as a read area.
  • the read address control circuit 100 outputs a control signal for designating the normal pixel 51 arranged in the read area ar6 to the vertical scanning circuit 20 and the horizontal scanning circuit 30.
  • each of the vertical scanning circuit 20 and the horizontal scanning circuit 30 sequentially drives the normal pixel 51 at the upper left position (start position) to the normal pixel 51 at the lower right position (end position) to thereby read within the readout area ar6.
  • a pixel signal is output (read out) from each of the normal pixels 51 arranged in.
  • the method of outputting (reading) the pixel signal from the normal pixel 51 based on the start position and the end position is a method that matches a pixel signal reading method that can be generally performed in many solid-state imaging devices. .
  • the read address control circuit 100 performs the second pixel specifying method.
  • a rectangular area in which processing for outputting a control signal for designating the normal pixel 51 is simplified is determined as a readout area for designating the normal pixel 51 from which the pixel signal is read.
  • the motion detection pixel 52 that outputs the event pixel signal is one place in the entire region of the pixel array unit 40 has been described.
  • the motion detection pixels 52 that output event pixel signals exist at a plurality of locations in the entire region of the pixel array unit 40.
  • FIG. 8 is a diagram schematically showing still another example of a region (readout region) for designating a pixel 50 (normal pixel 51) for outputting a pixel signal in the solid-state imaging device 1 according to the first embodiment of the present invention. It is.
  • pixels 50 normal pixels 51 and motion detection pixels 52
  • FIG. 8 An example of a method for determining a readout region in which normal pixels 51 for outputting pixel signals are arranged when a plurality of motion detection pixel 52 distributions that output event pixel signals at the same time are present at a plurality of locations. Show.
  • each of the motion detection pixel distribution D1, the motion detection pixel distribution D2, and the motion detection pixel distribution D3 illustrated in FIG. 8 represents the distribution of the motion detection pixels 52 that output the event pixel signal at the same time. Therefore, each area of the motion detection pixel distribution D1, the motion detection pixel distribution D2, and the motion detection pixel distribution D3 corresponds to each minimum readout area that designates the normal pixel 51 from which the readout address control circuit 100 reads the pixel signal. To do.
  • the read address control circuit 100 is based on the concept of the second pixel designation method.
  • the respective readout areas for reading out pixel signals from the normal pixels 51 corresponding to the respective motion detection pixel distributions are determined. More specifically, a rectangular readout area ar6 corresponding to the motion detection pixel distribution D1, a rectangular readout area ar7 corresponding to the motion detection pixel distribution D2, and a rectangular readout area ar8 corresponding to the motion detection pixel distribution D3, Each readout area is determined.
  • the read address control circuit 100 determines an area including a plurality of adjacent read areas as a read area from which the pixel signal is read. More specifically, as shown in FIG. 8, a rectangular readout area ar9 including the readout area ar6 and the readout area ar7 is determined as a readout area for outputting (reading) a pixel signal from the normal pixel 51.
  • the read area ar8 is not adjacent to either the read area ar6 or the read area ar7.
  • the read address control circuit 100 determines a rectangular read area ar10 including the read area ar8, the read area ar6, and the read area ar7 as a read area for outputting (reading) a pixel signal from the normal pixel 51.
  • the readout of pixel signals from the respective normal pixels 51 in the readout region ar10 increases.
  • the read address control circuit 100 does not determine the read area ar10 as a read area that outputs (reads) a pixel signal from the normal pixel 51, and separates the read area ar9 and the read area ar8 into normal pixels.
  • the pixel signal may be determined as a readout area from which the pixel signal is output (read) from the pixel 51, and the pixel signal may be read out from the normal pixel 51 in each readout area.
  • FIG. 8 when it is possible to determine that the readout region ar ⁇ b> 10 is almost all the region of the pixel array unit 40, all the regions of the pixel array unit 40 are moved from the normal pixels 51. You may determine as a read-out area which outputs (reads out) a pixel signal. That is, a pixel signal for one frame may be read out.
  • the determination as to whether or not to determine a readout area that is a combination of a plurality of readout areas as a readout area from which a pixel signal is read out is a process for outputting a control signal for designating the normal pixel 51.
  • the data output time when reading the pixel signal from the normal pixel 51 in each reading area and the processing time of the process for switching the reading area for reading the pixel signal in a state before combining the plurality of reading areas are combined with the processing time.
  • the result of comparing the output time of data when reading out the pixel signal from the normal pixel 51 in the reading area may also be used as a determination material.
  • the material for determining whether or not to match a plurality of readout regions as readout regions for reading out pixel signals is not limited to the above-described time comparison results, and when processing a plurality of readout regions together, Various determination materials, such as a difference in processing load when each reading area is processed separately, can be considered.
  • the read address control circuit 100 in the second pixel specifying method In accordance with the position where the distribution of each motion detection pixel 52 exists, a reading area including a plurality of reading areas corresponding to each distribution is determined as one reading area for designating the normal pixel 51 from which the pixel signal is read. .
  • the process for outputting the control signal for designating the normal pixel 51 can be simplified.
  • a predetermined rectangular readout area centered on the position of the motion detection pixel 52 that has output the event pixel signal is used.
  • the readout area for reading out the pixel signal from the normal pixel 51 is described.
  • the distribution of the motion detection pixels 52 that output the event pixel signal is only the motion detection pixel distribution D3 illustrated in FIG.
  • it may be determined that the movement of the subject is small and is not designated as a readout region for reading out pixel signals from the normal pixels 51.
  • FIG. 9 is a flowchart showing a processing procedure for determining an area (reading area) for designating a pixel 50 (normal pixel 51) for outputting a pixel signal in the solid-state imaging device 1 according to the first embodiment of the present invention. is there.
  • the read address control circuit 100 acquires the input event pixel signal (step S100). Subsequently, the read address control circuit 100 detects (confirms) the position of the motion detection pixel 52 that has output the event pixel signal from the address information included in the acquired event pixel signal (step S101). Then, the read address control circuit 100 calculates the distribution of the positions of the motion detection pixels 52 that output the detected (confirmed) event pixel signal (step S102).
  • the read address control circuit 100 determines whether the calculated distribution size of the position of the motion detection pixel 52 is larger than a predetermined distribution size threshold value (step S103).
  • the threshold value of the predetermined distribution size is the predetermined distribution size as the minimum distribution size for setting the reading area of the normal pixel 51 from which the pixel signal is read, for example, the area or the pixel array. This is a value expressed by the ratio of the area to the entire region of the portion 40.
  • step S103 when it is determined that the calculated distribution size of the position of the motion detection pixel 52 is larger than a predetermined distribution size threshold value ("YES" in step S103), read address control The circuit 100 determines a read area (for example, the read area ar shown in FIG. 7) of the normal pixel 51 from which the pixel signal is read according to the calculated distribution of the position of the motion detection pixel 52 (step S104). .
  • a read area for example, the read area ar shown in FIG. 7
  • the read address control circuit 100 outputs a control signal for designating the normal pixels 51 arranged in the determined read area to the vertical scanning circuit 20 and the horizontal scanning circuit 30.
  • each of the vertical scanning circuit 20 and the horizontal scanning circuit 30 sequentially drives the designated normal pixel 51 in accordance with the control signal output from the read address control circuit 100, and reads out the pixel signal (step S105).
  • the read address control circuit 100 completes the process of determining a read region that designates the normal pixel 51 that outputs the pixel signal.
  • the read address control circuit 100 completes the process of determining the read region for designating the normal pixel 51 for outputting the pixel signal. That is, the read address control circuit 100 completes the process without determining the read area of the normal pixel 51 from which the pixel signal is read (without reading the pixel signal from the normal pixel 51).
  • the read address control circuit 100 performs the processing procedure of the flowchart shown in FIG. 9 each time an event pixel signal is input from the motion detection pixel 52.
  • the read address control circuit 100 allows the normal pixel 51 to read the pixel signal when the range of the motion detection pixel 52 that has detected the motion of the subject is larger than the size of the distribution determined by the threshold.
  • a read area can be determined. More specifically, for example, when the distribution of the motion detection pixels 52 that output the event pixel signal is as large as the motion detection pixel distribution D1 shown in FIG.
  • the pixel 51 is determined as a readout region for outputting (reading) a pixel signal, and the processing is completed.
  • the read address control circuit 100 calculates the distribution of the positions of the motion detection pixels 52 that output the event pixel signal in step S102, the plurality of motion detection pixels 52 that output the event pixel signal within a predetermined period. It is desirable to calculate the distribution based on the position. In other words, the processing in steps S100 to S102 in the flowchart shown in FIG. 9 is repeated for a predetermined period so that the size of the position distribution of the motion detection pixel 52 that has output the event pixel signal is determined. Therefore, it is desirable to perform the determination in step S103.
  • the process of determining the readout area of the normal pixel 51 for outputting the pixel signal is not limited to the process based on the distribution of the motion detection pixels 52 as in the flowchart shown in FIG.
  • the processing may be based on the number of motion detection pixels 52 that output the event pixel signal.
  • FIG. 10 shows a processing procedure of another process for determining a region (readout region) for designating a pixel 50 (normal pixel 51) for outputting a pixel signal in the solid-state imaging device 1 according to the first embodiment of the present invention. It is a flowchart.
  • the read address control circuit 100 receives the input event pixel as in step S100 in the flowchart shown in FIG. A signal is acquired (step S110). Subsequently, the read address control circuit 100 detects the position of the motion detection pixel 52 that has output the event pixel signal from the address information included in the acquired event pixel signal, similarly to step S101 in the flowchart illustrated in FIG. 9 ( Confirmation) (step S111). Then, the read address control circuit 100 calculates the number of motion detection pixels 52 that output the detected (confirmed) event pixel signal (step S112).
  • the read address control circuit 100 determines whether or not the calculated number of motion detection pixels 52 is greater than a predetermined number of thresholds (step S113).
  • the predetermined number of thresholds the minimum value of the motion detection pixels 52 that sets the reading area of the normal pixels 51 from which the pixel signals are read is arranged in, for example, the number of the motion detection pixels 52 or the pixel array unit 40. This is a value represented by the ratio of the number of motion detection pixels 52 to the number of all motion detection pixels 52.
  • step S113 when it is determined that the calculated number of motion detection pixels 52 is larger than a predetermined number of thresholds (“YES” in step S113), the read address control circuit 100 detects (confirms).
  • the read area of the normal pixel 51 from which the pixel signal is read (for example, the read area ar shown in FIG. 7) is determined in accordance with the position of each motion detection pixel 52 (step S114).
  • the read address control circuit 100 outputs a control signal for designating the normal pixels 51 arranged in the determined read area to the vertical scanning circuit 20 and the horizontal scanning circuit 30.
  • each of the vertical scanning circuit 20 and the horizontal scanning circuit 30 sequentially drives the designated normal pixel 51 in accordance with the control signal output from the read address control circuit 100, and reads out the pixel signal (step S115).
  • the read address control circuit 100 completes the process of determining a read region that designates the normal pixel 51 that outputs the pixel signal.
  • the read address control circuit 100 completes the process of determining the read area for designating the normal pixel 51 for outputting the pixel signal. That is, the read address control circuit 100 does not determine the read region of the normal pixel 51 from which the pixel signal is read (without reading the pixel signal from the normal pixel 51), similarly to step S103 in the flowchart shown in FIG. Complete the process.
  • the read address control circuit 100 performs the processing procedure of the flowchart shown in FIG. 10 every time an event pixel signal is input from the motion detection pixel 52, similarly to the processing procedure shown in FIG. Thereby, the read address control circuit 100 determines the read area of the normal pixel 51 from which the pixel signal is read when the number of the motion detection pixels 52 that detected the movement of the subject is larger than the number determined by the threshold value. Can do. More specifically, for example, when the number of the motion detection pixels 52 that output the event pixel signal is 100 or more, a predetermined rectangular readout area centering on the position of each motion detection pixel 52 is aligned. The read area is determined as a read area for outputting (reading) a pixel signal from the normal pixel 51 and the processing is completed.
  • the process is completed without determining a reading area for outputting (reading) the pixel signal from the normal pixel 51.
  • the power consumption can be reduced without reading out the pixel signal from the normal pixel 51 when the movement of the subject is small as in the processing procedure shown in FIG.
  • the motion detection pixels 52 may not output the event pixel signal at the same time. Conceivable. That is, a plurality of event pixel signals are input from each of the plurality of motion detection pixels 52 at the same time, but each event pixel signal may not be input to the read address control circuit 100 at the same time. Therefore, similarly to the processing procedure shown in FIG. 9, when the read address control circuit 100 calculates the number of motion detection pixels 52 that output the event pixel signal in step S112, the event pixel signal is output within a predetermined period. It is desirable to calculate the number of motion detection pixels 52 that have been output.
  • step S110 to step S112 in the flowchart shown in FIG. 10 is repeated for a predetermined period, and the number of motion detection pixels 52 that output event pixel signals is determined. It is desirable to perform the determination in step S113 after the state is confirmed.
  • each of the first to third pixel designation methods is assumed to be a separate method. However, the first to third pixel designation methods may be applied in combination. In other words, depending on the situation in which the event pixel signal is output from the motion detection pixel 52, it is determined whether the reading area of the normal pixel 51 from which the pixel signal is read is determined using any one of the first to third pixel specifying methods. You may make it the structure switched.
  • the first to third pixel designation methods motion detection that outputs event pixel signals by applying the respective ideas of the first to third pixel designation methods to the entire region of the pixel array section 40.
  • the region to be determined when determining the readout region of the normal pixel 51 from which the pixel signal is read out is not limited to the entire region of the pixel array unit 40 as described above.
  • the entire area of the pixel array unit 40 is divided into a plurality of blocks divided by a predetermined number of rows and columns.
  • the read address control circuit 100 applies the concept of any of the first to third pixel designation methods to each divided block area, thereby setting the read area of the normal pixel 51 from which the pixel signal is read out. It may be determined for each block. In this case, for example, considering the divided areas of the respective blocks as all the areas of the pixel array unit 40 described above, reading of the normal pixels 51 that read out the pixel signals corresponding to the motion detection pixels 52 that output the event pixel signals The region may be determined. Further, for example, the threshold value in step S113 of the process of determining the reading area of the normal pixel 51 that outputs the pixel signal based on the number of the motion detection pixels 52 that output the event pixel signal shown in FIG. Instead of the number, the processing may be performed as the number of blocks including the motion detection pixel 52 that has output the event pixel signal.
  • the configuration of the pixels 50 (the normal pixel 51 and the motion detection pixel 52) arranged in the region of the pixel array unit 40 is the normal pixel 51 and the diagram illustrated in FIG.
  • the configuration of the motion detection pixel 52 shown in 3B is shown.
  • the configuration of the pixels 50 arranged in the region of the pixel array section 40 is not limited to the configuration shown in FIGS. 3A and 3B.
  • the normal pixel 51 illustrated in FIG. 3A does not include a circuit element that accumulates the charge signal generated by the photoelectric conversion element PD1.
  • the motion detection pixel 52 illustrated in FIG. 3B outputs an event pixel signal at a timing asynchronous with the operation of the normal pixel 51.
  • the motion detection pixel 52 is the event pixel. It is also possible to output a signal. In this case, when the pixel signal is read from the normal pixel 51 in accordance with the event pixel signal output from the motion detection pixel 52, but the normal pixel 51 is in the exposure period, the normal obtained by the previous exposure is used. It is also conceivable that the pixel signal in the above photographing, that is, the pixel signal for generating a high-quality image reflecting the movement of the subject cannot be read out.
  • the configuration of the normal pixel 51 to a configuration including a circuit element that accumulates the charge signal generated by the photoelectric conversion element PD1, a pixel signal corresponding to the accumulated signal charge, that is, the previous exposure.
  • the pixel signal in normal photographing obtained by the above can be read in accordance with the event pixel signal output from the motion detection pixel 52.
  • FIG. 11 is a circuit diagram showing an example of another configuration of the pixel 50 (normal pixel 51) in the solid-state imaging device 1 according to the first embodiment of the present invention.
  • the normal pixel 51 having another configuration is referred to as a “normal pixel 53”.
  • circuit elements constituting the normal pixel 53 include circuit elements similar to the circuit elements constituting the normal pixel 51. Therefore, in the following description, in the circuit elements constituting the normal pixel 53, the same reference numerals are given to the same circuit elements as the circuit elements constituting the normal pixel 51, and detailed description thereof is omitted.
  • a normal pixel 53 includes a photoelectric conversion element PD1, a charge transfer transistor 511, a pixel reset transistor 512, an amplification transistor 513, a noise suppression element 534, a sample hold transistor 531, a charge storage capacitor 530, A clamp transistor 532, a second amplification transistor 533, and a selection transistor 514 are provided.
  • a node capacitance FD1 which is a capacitance associated with a node connected to the gate terminal of the amplification transistor 513 provided in the normal pixel 53 is indicated by a capacitor symbol as a circuit element of the normal pixel 53.
  • the node capacitor FD1 constitutes a readout circuit that accumulates and reads out pixel signals corresponding to the charge signal generated by the photoelectric conversion element PD1.
  • the photoelectric conversion element PD ⁇ b> 1 of the normal pixel 53 and the readout circuit are formed on the first semiconductor substrate 11.
  • the charge transfer transistor 511 transfers the charge signal generated and accumulated by the photoelectric conversion element PD1 to the gate terminal of the amplification transistor 513 in accordance with the control signal TX1 input from the vertical scanning circuit 20. As a result, the charge signal transferred by the charge transfer transistor 511 is accumulated in the node capacitor FD1.
  • the amplification transistor 513 outputs a signal voltage corresponding to the charge signal transferred to the gate terminal, that is, the charge signal stored in the node capacitor FD1, to the first terminal of the noise suppression element 534.
  • the pixel reset transistor 512 resets the charge signal in the normal pixel 53 to the power supply voltage VDD in accordance with the control signal RST1 input from the vertical scanning circuit 20.
  • the noise suppression element 534 is a capacitor for accumulating the signal voltage input from the amplification transistor 513 to the first terminal.
  • the clamp transistor 532 clamps each of the charge storage capacitor 530 and the noise suppression element 534 to the fixed potential VREF in accordance with the control signal RST2 input from the vertical scanning circuit 20. As a result, each of the charge storage capacitor 530 and the noise suppression element 534 holds (accumulates) the clamped fixed potential VREF.
  • the sample hold transistor 531 stores the signal voltage output from the second terminal of the noise suppression element 534 in the charge storage capacitor 530 in accordance with the control signal TX2 input from the vertical scanning circuit 20.
  • the charge storage capacitor 530 is a capacitor for storing the signal voltage (noise-removed signal) output from the second terminal of the noise suppression element 534 input via the sample hold transistor 531.
  • the signal voltage output from the amplifying transistor 513 that is, the signal voltage corresponding to the charge signal generated by the photoelectric conversion element PD1 depends on the configuration of the clamp transistor 532, the sample hold transistor 531, the charge storage capacitor 530, and the noise suppression element 534. Then, noise removal processing due to leakage current (dark current) is performed.
  • the charge storage capacitor 530 stores the signal voltage that has been subjected to the noise removal processing.
  • the charge storage capacitor 530 it is more preferable to use an MIM (Metal Insulator Metal) capacitor or a MOS (Metal Oxide Semiconductor) capacitor that has a small leakage current (dark current) per unit area. Thereby, resistance to noise is improved, and a high-quality signal can be obtained.
  • MIM Metal Insulator Metal
  • MOS Metal Oxide Semiconductor
  • the second amplification transistor 533 outputs to the selection transistor 514 the voltage at the gate terminal, that is, the signal voltage corresponding to the signal voltage subjected to the noise removal process stored in the charge storage capacitor 530.
  • the selection transistor 514 outputs the signal voltage output from the second amplification transistor 533 to the vertical signal line 60 as the pixel signal of the normal pixel 53 in accordance with the control signal SEL input from the vertical scanning circuit 20. Accordingly, a pixel signal corresponding to the charge signal generated by the photoelectric conversion element PD1 provided in the normal pixel 53 is read out to the vertical signal line 60.
  • each signal voltage corresponding to the charge signal obtained by photoelectrically converting the light incident on the photoelectric conversion element PD1 is temporarily stored in the charge storage capacitor 530, and the control from the vertical scanning circuit 20 is performed. Accordingly, the accumulated signal voltage is read out to the vertical signal line 60 as a pixel signal.
  • FIG. 12 is a timing chart showing an example of timing for driving the normal pixel 53 in the solid-state imaging device 1 according to the first embodiment of the present invention.
  • the timing chart shown in FIG. 12 controls the normal pixel 53 so that the signal voltage corresponding to the charge signal obtained by normal photographing is temporarily stored and then the stored signal voltage is output to the vertical signal line 60 as a pixel signal.
  • the control timing of the vertical scanning circuit 20 is shown.
  • all the normal pixels 53 in the pixel array section 40 are reset at time t1. More specifically, at time t1, the vertical scanning circuit 20 simultaneously sets the control signal RST1 and the control signal TX1 to the “High” level to turn on the pixel reset transistor 512 and the charge transfer transistor 511. As a result, the photoelectric conversion elements PD1 and the node capacitors FD1 included in all the normal pixels 53 in the pixel array unit 40 are reset.
  • the vertical scanning circuit 20 sets the control signal RST1 and the control signal TX1 to the “Low” level at the same time, turns off the pixel reset transistor 512 and the charge transfer transistor 511, and performs all normal operations in the pixel array unit 40.
  • the reset of the pixel 53 is cancelled.
  • all the normal pixels 53 in the pixel array unit 40 start exposure simultaneously. That is, the photoelectric conversion elements PD1 included in all the normal pixels 53 in the pixel array unit 40 start generating and accumulating charge signals obtained by photoelectrically converting incident light.
  • the signal voltage at the reset level of the photoelectric conversion element PD1 and the signal voltage generated by exposure (hereinafter, referred to as the exposure voltage) Read out to the noise suppression element 534 (“exposure level signal voltage”).
  • exposure level signal voltage the signal voltage at the reset level of the photoelectric conversion element PD1 and the signal voltage generated by exposure
  • the vertical scanning circuit 20 sets the control signal RST1 to “High” level, turns on the pixel reset transistor 512, and resets the node capacitor FD1.
  • the signal voltage at the reset level of the photoelectric conversion element PD1 is output from the amplification transistor 513 to the first terminal of the noise suppression element 534.
  • the vertical scanning circuit 20 sets the control signal RST2 and the control signal TX2 to “High” level, and turns on the clamp transistor 532 and the sample hold transistor 531. Thereby, each of the charge storage capacitor 530 and the noise suppression element 534 is clamped to the fixed potential VREF.
  • the vertical scanning circuit 20 sets the control signal RST1 to the “Low” level, turns off the pixel reset transistor 512, and releases the reset of the node capacitor FD1. Subsequently, at time t ⁇ b> 3, the vertical scanning circuit 20 sets the control signal RST ⁇ b> 2 to “Low” level to release the clamp of the charge storage capacitor 530.
  • the vertical scanning circuit 20 sets the control signal TX1 to the “High” level, turns on the charge transfer transistor 511, and converts the charge signal accumulated in the photoelectric conversion element PD1 into the gate of the amplification transistor 513. Transfer to the terminal. At this time, the charge signal transferred by the charge transfer transistor 511 is accumulated in the node capacitor FD1. As a result, the charge signal generated by the photoelectric conversion element PD1 from the amplification transistor 513, that is, the signal voltage (exposure level signal voltage) corresponding to the charge signal accumulated in the node capacitor FD1 is the first voltage of the noise suppression element 534. Output to the terminal.
  • the noise suppression element 534 outputs the voltage difference between the reset level signal voltage and the exposure level signal voltage of the photoelectric conversion element PD1, that is, the signal voltage subjected to noise removal processing, from the second terminal.
  • the vertical scanning circuit 20 sets the control signal TX1 to the “Low” level, turns off the charge transfer transistor 511, and stops the transfer of the charge signal accumulated in the photoelectric conversion element PD1 to the gate terminal of the amplification transistor 513. To do.
  • the vertical scanning circuit 20 sets the control signal TX2 to the “Low” level, turns off the sample hold transistor 531 and stops the sample hold of the charge storage capacitor 530.
  • the charge storage capacitor 530 stores the noise-removed signal voltage output from the noise suppression element 534.
  • the charge signal generated by the photoelectric conversion element PD1 provided in the normal pixel 53 is subjected to noise removal processing and stored in the charge storage capacitor 530.
  • the control up to this point is performed simultaneously on all the normal pixels 53 arranged in the pixel array unit 40, so that the normal pixel 53 is controlled in a so-called global shutter function. Let the shoot take place. Therefore, if the signal voltage corresponding to the charge signal generated by the photoelectric conversion element PD1 is subjected to noise removal processing and stored in the charge storage capacitor 530, the normal pixel 53 starts exposure for the next normal shooting. can do.
  • the vertical scanning circuit 20 sequentially controls the control signal SEL of the designated normal pixel 53. Then, the respective signal voltages subjected to noise removal processing stored in the charge storage capacitors 530 provided in the respective normal pixels 53 are sequentially output to the vertical signal line 60 as pixel signals of the respective normal pixels 53.
  • the read address control circuit 100 uses the signal voltage temporarily stored in the normal pixel 53 corresponding to the motion detection pixel 52 that has detected the motion of the subject as exposure for normal shooting. Thus, the pixel signal obtained by the normal pixel 53 is read out.
  • the normal pixel 53 in which the pixel signal corresponding to the signal charge stored in the charge storage capacitor 530 has not been read out has the signal charge stored in the charge storage capacitor 530 when the exposure for the next normal shooting is completed. Is discarded. More specifically, at time t2, the vertical scanning circuit 20 sets the control signal RST2 to “High” level and clamps the charge storage capacitor 530 to the fixed potential VREF, so that the signal charge stored in the charge storage capacitor 530 is changed. Discarded. Then, under the control of the vertical scanning circuit 20 from time t3 to time t5, the charge signal generated by the photoelectric conversion element PD1 in the next exposure for normal photographing is subjected to noise removal processing and stored in the charge storage capacitor 530. .
  • the solid-state imaging device 1 includes a circuit element that accumulates the charge signal generated by the photoelectric conversion element PD1 in place of the normal pixel 51 arranged in the region of the pixel array unit 40.
  • the normal pixels 53 By arranging the normal pixels 53 having the configuration, pixel signals obtained by exposure for normal photographing are temporarily accumulated in the respective normal pixels 53.
  • the motion detection pixel 52 detects the movement of the subject during the exposure period in which the normal pixel 53 performs exposure for normal shooting at a predetermined cycle (frame rate), and the event is detected.
  • the read address control circuit 100 can read the pixel signal from the normal pixel 53 in accordance with the event pixel signal.
  • the image processing unit provided in the imaging system equipped with the solid-state imaging device 1 generates a high-quality image that reflects the movement of the subject with little temporal deviation from when the movement of the subject is detected. can do.
  • each of the n first photoelectric conversion elements (photoelectric conversion elements PD1) that generate first charge signals obtained by photoelectrically converting incident light, and the n photoelectric conversion elements PD1.
  • N first readout circuits that output a signal voltage corresponding to the first charge signal generated by the corresponding photoelectric conversion element PD1 as a first pixel signal (a pixel signal output from the normal pixel 51).
  • a read control circuit (read address control circuit 100) that controls reading of the first pixel signal (pixel signal output from the normal pixel 51) corresponding to the photoelectric conversion element PD1 disposed in the predetermined read area (read area ar).
  • each of the readout circuits of the m motion detection pixels 52 detects a temporal change in the second charge signal generated by the corresponding photoelectric conversion element PD2, and exceeds a predetermined threshold value.
  • a detection circuit (a threshold amplifier 524 and a threshold amplifier 525) that outputs an event signal indicating the change, and an event signal A pixel signal generation circuit (AER circuit 526) that outputs an event pixel signal to which address information indicating a position where the corresponding photoelectric conversion element PD2 is disposed is output, and the read address control circuit 100 converts the event pixel signal into the event pixel signal.
  • An area based on the position where the photoelectric conversion element PD2 corresponding to the included address information is arranged (for example, the readout area ar1) is set as a readout area ar for reading out the first pixel signal (pixel signal output from the normal pixel 51).
  • a first pixel signal (a pixel signal output by the normal pixel 51) is output to each of the read circuits of the normal pixel 51 corresponding to each of the photoelectric conversion elements PD1 arranged in the determined read area ar,
  • a solid-state imaging device (solid-state imaging device 1) is configured in which n is a natural number of 2 or more and m is a natural number of 2 or more.
  • the read address control circuit 100 is generated based on the positions where the photoelectric conversion elements PD2 corresponding to the address information included in the event pixel signal output at the same time are distributed.
  • the solid-state imaging device 1 is configured to determine a rectangular area (for example, a predetermined 5 ⁇ 5 rectangular readout area ar1) as the readout area ar.
  • the read address control circuit 100 is configured such that the photoelectric conversion element PD2 corresponding to the address information included in the event pixel signal output at the same time is distributed (for example, motion detection).
  • the solid-state imaging device 1 is configured that determines a rectangular area (for example, the readout area ar6) including the pixel distribution D1) as the readout area ar.
  • the read address control circuit 100 determines that the distribution size of the photoelectric conversion element PD2 corresponding to the address information included in the event pixel signal output at the same time is a predetermined distribution.
  • a rectangular area corresponding to the distribution size of the photoelectric conversion element PD2 is determined as a read area ar and corresponds to address information included in the event pixel signal output at the same time
  • the solid-state imaging device 1 that does not determine the readout region ar is configured when the size of the distribution of the photoelectric conversion element PD2 to be read is equal to or smaller than the threshold value of the size of the distribution.
  • the read address control circuit 100 determines that the number of photoelectric conversion elements PD2 corresponding to the address information included in the event pixel signal output at the same time is greater than a predetermined number of thresholds. In the case where there are too many, the readout area ar corresponding to the photoelectric conversion element PD2 corresponding to each address information is determined, and the number of photoelectric conversion elements PD2 corresponding to the address information included in the event pixel signal output at the same time is determined.
  • the solid-state imaging device 1 that does not determine the readout region ar when the number is equal to or less than the threshold value is configured.
  • the read address control circuit 100 divides the entire area where the n photoelectric conversion elements PD1 are arranged into a plurality of blocks divided by a predetermined size, and The solid-state imaging device 1 that determines the readout area ar is configured for each block.
  • each of the n photoelectric conversion elements PD1 and each of the m photoelectric conversion elements PD2 are on the same plane of the first semiconductor substrate (first semiconductor substrate 11).
  • the solid-state imaging device 1 that is periodically arranged in the region (region of the pixel array unit 40) is configured.
  • the AER circuit 526 includes the second semiconductor substrate (second semiconductor substrate) stacked on the surface opposite to the light incident surface on the first semiconductor substrate 11.
  • the solid-state imaging device 1 arranged in 12) is configured.
  • the circuit element of the first semiconductor substrate 11 and the circuit element of the second semiconductor substrate 12 are formed between the first semiconductor substrate 11 and the second semiconductor substrate 12.
  • the chip connection unit 13 includes a threshold amplifier 524 and a threshold amplifier 525 included in each of the readout circuits of the m motion detection pixels 52, A solid-state imaging device 1 that electrically connects the corresponding photoelectric conversion element PD2 is configured.
  • the normal pixel 51 (or the normal pixel 53) specialized for the output of the pixel signal by the normal photographing, and the output of the event pixel signal by the motion detection
  • the motion detection pixels 52 specialized in the above are periodically (planarly) arranged in the row direction and the column direction in the pixel array unit 40.
  • the solid-state imaging device 1 when an event pixel signal is output from the motion detection pixel 52, a predetermined readout region corresponding to the position of the motion detection pixel 52 that output the event pixel signal is used.
  • a pixel signal is output (read out) from the normal pixel 51 (or the normal pixel 53) arranged at. That is, in the solid-state imaging device 1 of the first embodiment, the normal pixel 51 (or the normal pixel) arranged in a predetermined small readout region corresponding to the position where the motion detection pixel 52 that detects the movement of the subject is arranged. 53) only outputs (reads out) pixel signals for normal photographing.
  • the solid-state imaging device 1 of the first embodiment reads out all pixel signals obtained by normal shooting in order to generate an image reflecting the movement of the subject as in the conventional solid-state imaging device. In comparison, power consumption can be reduced.
  • the image processing unit provided in the imaging system including the solid-state imaging device 1 according to the first embodiment has only the normal pixel 51 (or the normal pixel 53) arranged in the small readout region where the movement of the subject is detected. An image reflecting the movement of the subject can be generated based on a small number of pixel signals output (read) from.
  • the image processing unit provided in the imaging system equipped with the solid-state imaging device 1 of the first embodiment reflects the movement of the subject with little time lag with respect to when the movement of the subject is detected. A high-quality image can be generated.
  • the number of motion detection pixels 52 arranged in the pixel array unit 40 is smaller than the number of normal pixels 51.
  • the detection of the movement of the subject does not require a higher resolution, that is, a higher image quality than an image generated in normal shooting.
  • the number of normal pixels 51 arranged in the pixel array unit 40 is further increased, thereby improving the image quality of an image generated in normal shooting, that is, high definition. It can also be configured to obtain an output.
  • solid-state imaging device 2 in the second embodiment of the present invention are the same as those in the first embodiment shown in FIGS. 1 and 2. This is the same as the overview and schematic configuration of Therefore, in the following description, in the constituent elements of the solid-state imaging device 2, the same reference numerals are used for the same constituent elements as the constituent elements of the solid-state imaging apparatus 1 of the first embodiment, and the respective constituent elements and operations are the same. The detailed description about is omitted.
  • the configuration of the pixels 50 arranged in the pixel array unit 40 in the solid-state imaging device 2 of the second embodiment will be described.
  • the pixels 50 arranged in the pixel array unit 40 in the solid-state imaging device 2 also have normal shooting pixel signals by normal readout and motion detection events by motion detection readout.
  • the pixel signal is output.
  • the pixel 50 that outputs the event pixel signal for motion detection arranged in the pixel array unit 40 in the solid-state imaging device 2 has a configuration that can also output a pixel signal for normal photographing. That is, the pixel 50 is a pixel having both the functions of the normal pixel 51 and the motion detection pixel 52 arranged in the pixel array unit 40 in the solid-state imaging device 1 of the first embodiment.
  • a pixel 50 that is arranged in the pixel array unit 40 of the solid-state imaging device 2 and that outputs a normal shooting pixel signal by normal reading and outputs a motion detection event pixel signal by motion detection reading.
  • the dual-purpose pixel 54 serves as both the photoelectric conversion element PD1 provided in the normal pixel 51 and the photoelectric conversion element PD2 provided in the motion detection pixel 52, and based on the charge signal generated by the same photoelectric conversion element, a normal photographing pixel Each of the signal and the event pixel signal for motion detection is output.
  • FIG. 13 is a circuit diagram showing an example of the configuration of the dual-purpose pixel 54 in the solid-state imaging device 2 according to the second embodiment of the present invention.
  • 13 includes the photoelectric conversion element PD1 provided in the normal pixel 51 arranged in the pixel array unit 40 and the photoelectric conversion provided in the motion detection pixel 52 in the solid-state imaging device 1 of the first embodiment.
  • This is a pixel configured to also serve as the element PD2.
  • circuit elements constituting the dual-purpose pixel 54 include circuit elements similar to the circuit elements constituting the normal pixel 51 or the motion detection pixel 52 arranged in the solid-state imaging device 1 of the first embodiment.
  • the dual-purpose pixel 54 includes a photoelectric conversion element PD12, a charge transfer transistor 511, a pixel reset transistor 512, an amplification transistor 513, a selection transistor 514, an amplifier 521, a bias transistor 522, and a switched capacitor amplifier circuit. 523, a threshold amplifier 524, a threshold amplifier 525, and an AER circuit 526.
  • the switched capacitor amplifier circuit 523 includes a capacitor 5231, an amplifier 5232, a capacitor 5233, and a switch 5234.
  • a node capacitance FD1 that is a capacitance associated with a node connected to the gate terminal of the amplification transistor 513 provided in the dual-purpose pixel 54 is indicated by a capacitor symbol as a circuit element of the dual-purpose pixel 54.
  • a charge signal generated by normal imaging is generated by the configuration of the photoelectric conversion element PD12, the charge transfer transistor 511, the pixel reset transistor 512, the amplification transistor 513, the selection transistor 514, and the node capacitor FD1.
  • a pixel that is, a pixel similar to the normal pixel 51 in the solid-state imaging device 1 of the first embodiment is configured.
  • the dual-purpose pixel 54 that generates a charge signal by normal photographing is referred to as “normal dual-purpose pixel 541”.
  • the charge transfer transistor 511, the pixel reset transistor 512, the amplification transistor 513, the selection transistor 514, and the node capacitor FD1 correspond to the charge signal generated by the photoelectric conversion element PD12 in normal photographing.
  • a readout circuit for reading out pixel signals is configured.
  • motion detection is performed by the configuration of the photoelectric conversion element PD12, the amplifier 521, the bias transistor 522, the switched capacitor amplifier circuit 523, the threshold amplifier 524, the threshold amplifier 525, and the AER circuit 526.
  • the pixel which generates the electric charge signal that is, the same pixel as the motion detection pixel 52 in the solid-state imaging device 1 of the first embodiment is configured.
  • the combined pixel 54 that generates a charge signal for motion detection is referred to as a “motion detection combined pixel 542”.
  • the amplifier 521 and the bias transistor 522 constitute an output circuit that outputs a charge signal generated by the photoelectric conversion element PD12 for motion detection, and includes a switched capacitor amplifier circuit 523, a threshold amplifier 524, The threshold amplifier 525 and the AER circuit 526 form a readout circuit that reads out a charge signal generated by the photoelectric conversion element PD12 for motion detection.
  • the dual-purpose pixel 54 is arranged instead of the motion detection pixel 52 arranged in the pixel array unit 40 in the solid-state imaging device 1 of the first embodiment.
  • the photoelectric conversion element PD 12 the readout circuit for the normal / common pixel 541, and the output circuit for the motion detection / common pixel 542 are formed on the first semiconductor substrate 11.
  • a readout circuit for the motion detection / use pixel 542 is formed on the second semiconductor substrate 12.
  • the photoelectric conversion element PD12 receives incident light (light ray) in the same manner as the photoelectric conversion element PD1 provided in the normal pixel 51 and the photoelectric conversion element PD2 provided in the motion detection pixel 52. ) Is photoelectrically converted to generate a charge signal, and the generated charge signal is accumulated. The photoelectric conversion element PD12 sequentially outputs the generated charge signal to the amplifier 521.
  • the amplifier 521 controls bias.
  • a voltage signal Vp that causes the bias transistor 522 to be always ON is output to the gate terminal of the bias transistor 522. That is, when a pixel signal obtained by normal photographing is output from the dual-purpose pixel 54, the charge signal generated by the photoelectric conversion element PD12 is transmitted to the charge transfer transistor 511 as it is by the bias transistor 522.
  • the charge transfer transistor 511 generates and accumulates the photoelectric conversion element PD12 in accordance with the control signal TX input from the vertical scanning circuit 20, and the charge signal input via the bias transistor 522 is amplified. Transfer to the gate terminal of 513. As a result, the charge signal transferred by the charge transfer transistor 511 is accumulated in the node capacitor FD1.
  • the dual-purpose pixel 54 (normal dual-purpose pixel 541) reads out each signal voltage corresponding to the charge signal obtained by photoelectric conversion of the light incident on the photoelectric conversion element PD12 to the vertical signal line 60 as a pixel signal.
  • the dual purpose pixel 54 operates as a pixel that generates a charge signal for motion detection, that is, when a motion detection event pixel signal is output from the motion detection common pixel 542 by motion detection readout. 20 controls the control signal RST so that the pixel reset transistor 512 is always ON. Further, the vertical scanning circuit 20 controls the control signal TX to a fixed bias voltage. Accordingly, a fixed voltage corresponding to a fixed bias voltage is supplied to the bias transistor 522 by the pixel reset transistor 512 and the charge transfer transistor 511.
  • the photoelectric conversion element PD12 generates a charge signal having a magnitude corresponding to the movement of the subject, and changes the charge signal in the change direction. A corresponding event pixel signal is output.
  • the dual-purpose pixel 54 can output a normal shooting pixel signal by normal reading and a motion detection event pixel signal by motion detection reading.
  • the dual-purpose pixel 54 includes a photoelectric conversion element PD12 that doubles as the photoelectric conversion element PD1 provided in the normal pixel 53 and the photoelectric conversion element PD2 provided in the motion detection pixel 52 shown in the modification of the first embodiment. It can also be configured as provided. More specifically, similarly to the dual-purpose pixel 54 shown in FIG. 13, the photoelectric conversion element PD1 provided in the normal pixel 51 arranged in the pixel array unit 40 and the motion detection pixel 52 in the solid-state imaging device 1 of the first embodiment. A configuration that also serves as the photoelectric conversion element PD2 provided is shown.
  • the dual-purpose pixel 54 includes a photoelectric conversion element PD12 that doubles as the photoelectric conversion element PD1 provided in the normal pixel 53 and the photoelectric conversion element PD2 provided in the motion detection pixel 52 shown in the modification of the first embodiment. It can also be configured as provided. More specifically, similarly to the dual-purpose pixel 54 shown in FIG.
  • the normal-purpose pixel 541 corresponding to the normal pixel 51 (or the normal pixel 53) and the motion-detection dual-purpose pixel 542 corresponding to the motion detection pixel 52 are also used as the photoelectric conversion element PD12. is doing. For this reason, in the solid-state imaging device 2, normal reading for reading a pixel signal from the normal / common pixel 541 and motion detection reading for reading a motion detection pixel signal (event pixel signal) from the motion detection / common pixel 542 are exclusively performed.
  • a normal pixel 53 as a pixel 50 that reads a normal photographing pixel signal in the pixel array unit 40 of the solid-state imaging device 2 reads a normal photographing pixel signal and an event pixel signal.
  • the dual-purpose pixels 54 are arranged as the pixels 50 to be performed.
  • the arrangement of the normal pixels 53 and the dual-purpose pixels 54 in the pixel array unit 40 is the same as the arrangement of the pixels 50 in the solid-state imaging device 1 of the first embodiment shown in FIG. More specifically, in the pixel array unit 40 of the solid-state imaging device 2, a normal pixel is used instead of the normal pixel 51 arranged in the pixel array unit 40 of the solid-state imaging device 1 of the first embodiment shown in FIG. 53 is arranged, and the dual-purpose pixel 54 is arranged instead of the motion detection pixel 52.
  • FIG. 14 is a diagram showing a configuration for outputting a pixel signal in the solid-state imaging device 2 according to the second embodiment of the present invention.
  • FIG. 14 shows a part of the vertical structure of the pixel array unit 40 in which the normal pixels 53 and the dual-purpose pixels 54 are arranged in the solid-state imaging device 2 and the read address control circuit 100 provided in the control circuit 10. Yes. More specifically, the normal pixel 53 formed on the first semiconductor substrate 11, the dual-purpose pixel 54 formed on the first semiconductor substrate 11 and the second semiconductor substrate 12, and the read address control circuit 100 Each signal exchanged between them is shown.
  • FIG. 14 shows a state where the photoelectric conversion element PD1 of the normal pixel 53 and the selection transistor 514 provided in the readout circuit of the normal pixel 53 are formed on the first semiconductor substrate 11.
  • the output circuit of the dual-purpose pixel 542 is formed on the first semiconductor substrate 11.
  • the readout circuit for the motion detection / combination pixel 542 configured in the dual-purpose pixel 54 is formed on the second semiconductor substrate 12. In FIG.
  • the photoelectric conversion element PD12 of the dual purpose pixel 54 and the selection transistor 514 provided in the readout circuit of the normal dual purpose pixel 541 are formed on the first semiconductor substrate 11 and provided in the readout circuit of the motion detection shared pixel 542.
  • a state where the switched capacitor amplifier circuit 523 and the AER circuit 526 are formed on the second semiconductor substrate 12 is shown.
  • the readout circuit of the motion detection / combination pixel 542 is provided on the second semiconductor substrate 12 including the region overlapping the region of the normal pixel 53 formed on the first semiconductor substrate 11. Form in the area.
  • the switched capacitor amplifier circuit 523 and the AER circuit 526 provided in the readout circuit of the motion detection / use pixel 542 are overlapped with the region of the normal pixel 53 formed on the first semiconductor substrate 11. A state in which the second semiconductor substrate 12 is formed is shown.
  • FIG. 14 shows an amplifier 521 (not shown) provided in the output circuit of the motion detection / combination pixel 542 formed on the first semiconductor substrate 11 and a read circuit of the motion detection / combination pixel 542 formed on the second semiconductor substrate 12. 2 shows a state where the switched capacitor amplifier circuit 523 provided in FIG.
  • the photoelectric conversion element PD12 is generated in the AER circuit 526 of the motion detection / use pixel 542 formed on the second semiconductor substrate 12.
  • an event pixel signal is output to the read address control circuit 100.
  • the read address control circuit 100 detects (confirms) the position of the dual-purpose pixel 54 that has output the event pixel signal from the address information included in the input event pixel signal. Then, the read address control circuit 100 outputs a pixel signal from the normal pixel 53 to the area of the normal pixel 53 arranged in a predetermined read area centering on the position of the detected (confirmed) dual-purpose pixel 54 ( Read) Determine the read area.
  • the read address control circuit 100 outputs a control signal for designating the normal pixel 53 arranged in the determined read area to the vertical scanning circuit 20 and the horizontal scanning circuit 30. Thereby, each of the vertical scanning circuit 20 and the horizontal scanning circuit 30 sequentially drives the designated normal pixel 53 and outputs (reads) a pixel signal from the normal pixel 53 designated by the read address control circuit 100.
  • a dual-purpose pixel 54 that reads out a normal photographing pixel signal and an event pixel signal is arranged in the pixel array unit 40.
  • the pixel signal read in accordance with the event pixel signal output from the motion detection / combination pixel 542 configured in the dual-purpose pixel 54 is not only the pixel signal obtained by normal photographing read out from the normal pixel 53.
  • a pixel signal obtained by normal photographing can be read from the normal / common pixel 541 configured in the dual-purpose pixel 54.
  • the position in the pixel array unit 40 where the motion detection pixel 52 is arranged in the pixel array unit 40 lacks the normal pixel 51 that reads a pixel signal for normal imaging.
  • the pixel signal obtained by normal photographing can be read out even at the position where the motion detection pixel 52 is arranged in the solid-state imaging device 1. That is, there is no position where the pixel signal is missing in normal shooting. For this reason, the image processing unit that generates an image based on the pixel signal in the normal shooting output from the solid-state imaging device 2 generates the pixel signal of the missing pixel when generating the image based on each pixel signal. There is no need to perform an operation to interpolate.
  • the normal readout for reading the pixel signal from the normal / combination pixel 541 configured in the dual-purpose pixel 54 and the motion detection from the motion detection / compatibility pixel 542 configured in the dual-purpose pixel 54 are performed.
  • the motion detection readout for reading out the pixel signal (event pixel signal) is performed in a time division manner.
  • the dual-purpose pixel 54 is a dual-purpose pixel 54 having a configuration in which the photoelectric conversion element PD1 included in the normal pixel 53 and the photoelectric conversion element PD2 included in the motion detection pixel 52 are combined. To do.
  • the normal-purpose pixel 541 configured in the dual-purpose pixel 54 operates to temporarily store a signal voltage corresponding to the charge signal generated by the photoelectric conversion element PD12 in the charge storage capacitor 530, like the normal pixel 53,
  • the motion detection / combination pixel 542 provided in the dual-purpose pixel 54 will be described as performing motion detection operation that sequentially detects the motion of the subject, like the motion detection pixel 52.
  • FIG. 15 is a timing chart showing a reading sequence of pixel signals (pixel signals and event pixel signals in normal photographing) in the solid-state imaging device 2 according to the second embodiment of the present invention.
  • each of the vertical scanning circuit 20 and the horizontal scanning circuit 30 is used for the normal pixel 53 or the common pixel 53 according to the control signal output from the control circuit 10 or the read address control circuit 100 provided in the control circuit 10.
  • the pixel 54 is driven, in the following description, it is assumed that the read address control circuit 100 drives the normal pixel 53 and the dual-purpose pixel 54 for ease of explanation.
  • FIG. 15 shows the photoelectric conversion element PD12 provided in the dual-purpose pixel 54, the charge storage capacitor 530 for representing the operation of the normal dual-purpose pixel 541, and the AER circuit 526 representing the operation of the motion detection dual-purpose pixel 542. .
  • the read address control circuit 100 causes the normal-purpose pixel 541 (including the normal pixel 53) to perform exposure for normal shooting at a predetermined frame rate cycle. Then, after an arbitrary exposure time in normal photographing has elapsed, the read address control circuit 100 performs photoelectric conversion elements PD12 of all the normal-purpose pixels 541 (including the photoelectric conversion elements PD1 of the normal pixels 53) by the operation of the global shutter function. The signal voltage corresponding to the generated charge signal is transferred to the charge storage capacitor 530 and stored.
  • the read address control circuit 100 causes the motion detection / use pixel 542 to perform exposure for motion detection.
  • the motion detection / use pixel 542 sequentially detects the motion of the subject.
  • FIG. 15 shows a case where exposure for motion detection is performed a plurality of times with a predetermined arbitrary exposure time in consideration of the case where the charge signal generated by the photoelectric conversion element PD12 is saturated. Yes.
  • the read address control circuit 100 reads the pixel signal based on the address information included in the input event pixel signal. A readout area is determined, and a pixel signal is read out from the normal pixel 53 arranged in the determined readout area. At this time, the read address control circuit 100 also reads out the pixel signal from the motion detection / use pixel 542 that outputs the event pixel signal and the normal / use pixel 541 that also serves as the photoelectric conversion element PD12. More specifically, a pixel signal corresponding to the accumulated signal voltage is read out from the charge storage capacitor 530 provided in the normal pixel 53 and the normal / normal pixel 541 arranged in the determined readout region.
  • the solid-state imaging device 2 exposure for motion detection is performed during the time between each exposure for normal photographing. Then, the pixel signal is also read out from the normal-purpose pixel 541 configured in the dual-purpose pixel 54 provided with the motion detection-shared pixel 542 that detects the movement of the subject. At this time, in the solid-state imaging device 2, as in the solid-state imaging device 1 of the first embodiment, among the already acquired pixel signals for one frame, a small number of pixels from a small readout region where motion is detected. Read the signal. Thereby, also in the solid-state imaging device 2, similarly to the solid-state imaging device 1 of the first embodiment, it is possible to reduce the power consumption when reading the pixel signal corresponding to the detected movement of the subject.
  • a pixel signal in normal shooting at a position where the motion detection / use pixel 542 that detects the motion of the subject is arranged can be read out as a pixel signal in a reading area where the pixel signal is read out.
  • the image processing unit provided in the imaging system equipped with the solid-state imaging device 2 does not need to perform an operation of interpolating the pixel signals of the missing pixels when generating an image based on each pixel signal. .
  • the second photoelectric conversion element uses a charge signal having one unit of s first charge signals generated by the s first photoelectric conversion elements (photoelectric conversion elements PD1).
  • Photoelectric conversion element PD2 is also used as the second charge signal generated, s is a natural number of 1 or more, and the total number of photoelectric conversion elements PD1 that output the first charge signal also used as the second charge signal is
  • a solid-state imaging device solid-state imaging device 2 having a natural number of 1 or more and n or less is configured.
  • the normal pixel 51 (or the normal pixel 53) specialized for the output of the pixel signal by the normal shooting and the output of the pixel signal by the normal shooting.
  • the dual-purpose pixels 54 are periodically (in a planar shape) in the row direction and the column direction in the pixel array unit 40. )Deploy.
  • the event pixel signal is output from the motion detection combined pixel 542 comprised in the shared pixel 54 similarly to the solid-state imaging device 1 of 1st Embodiment.
  • a pixel signal is output (read) from the normal pixel 51 (or the normal pixel 53) arranged in a predetermined read area corresponding to the position of the motion detection / use pixel 542 that has output the event pixel signal. That is, in the solid-state imaging device 2 according to the second embodiment as well as the solid-state imaging device 1 according to the first embodiment, the dual-purpose pixel 54 that detects the movement of the subject (the motion detection / double-use pixel 542) is disposed at the position.
  • a normal imaging pixel signal is obtained only from the normal pixel 51 (or normal pixel 53) arranged in the corresponding predetermined small readout area and the normal pixel 541 configured in the dual-purpose pixel 54 that outputs the event pixel signal. Output (read).
  • the solid-state imaging device 2 of the second embodiment as in the solid-state imaging device 1 of the first embodiment, in order to generate an image reflecting the movement of the subject, as in the conventional solid-state imaging device. Power consumption can be reduced compared to reading out all pixel signals obtained by normal photographing.
  • the image processing unit provided in the imaging system equipped with the solid-state imaging device 2 of the second embodiment is similar to the image processing unit provided in the imaging system equipped with the solid-state imaging device 1 of the first embodiment.
  • the image processing unit included in the imaging system including the solid-state imaging device 2 according to the second embodiment performs an operation reflecting the movement of the subject without performing an operation of interpolating the pixel signal of the missing pixel. Can be generated.
  • the image processing unit provided in the imaging system equipped with the solid-state imaging device 2 of the second embodiment is more than the image processing unit provided in the imaging system equipped with the solid-state imaging device 1 of the first embodiment.
  • a small processing load it is possible to generate a high-quality image that reflects the movement of the subject with little time lag from when the movement of the subject is detected.
  • the normal pixel 51 (or the normal pixel 53) and the dual-purpose pixel 54 are arranged in the pixel 50 in the solid-state imaging device 1 of the first embodiment shown in FIG. It has been described as being arranged in the same manner. That is, in the pixel array unit 40 of the solid-state imaging device 2 of the second embodiment, instead of the normal pixels 51 arranged in the pixel array unit 40 of the solid-state imaging device 1 of the first embodiment shown in FIG. In the above description, the normal pixel 53 is disposed, and the dual-purpose pixel 54 is disposed instead of the motion detection pixel 52.
  • the arrangement of the normal pixels 51 (or the normal pixels 53) and the dual-purpose pixels 54 in the pixel array unit 40 in the solid-state imaging device 2 of the second embodiment is the same as that of the solid-state imaging device 1 of the first embodiment described above.
  • the arrangement is not limited to the same arrangement as that of the pixels 50 in the pixel array unit 40.
  • the dual-purpose pixels 54 may be arranged uniformly over the entire planar area of the pixel array unit 40 in the solid-state imaging device 2 of the second embodiment. This is because the dual-purpose pixel 54 is a pixel 50 having a configuration in which the normal dual-purpose pixel 541 can output a normal photographing pixel signal by normal reading in the same manner as the normal pixel 51 (or the normal pixel 53). It is.
  • normal imaging can be performed by increasing the number of normal pixels 51 (or normal pixels 53) and normal-purpose pixels 541 provided in the pixel array unit 40. In this case, it is desirable to realize high pixels. Also in the solid-state imaging device 2 of the second embodiment, the number of normal pixels 51 (or normal pixels 53) and normal-purpose pixels 541 arranged in the pixel array unit 40 is further refined and arranged in the pixel array unit 40. By further increasing the image quality, it is possible to improve the image quality of an image generated in normal shooting, that is, to obtain a high-definition output.
  • the photoelectric conversion element PD12 in the motion detection that sequentially detects the motion of the subject, the photoelectric conversion element PD12 generates a charge signal even in a short time, and the motion It is desirable that the detection / use pixel 542 can detect the movement of the subject.
  • the detection / use pixel 542 can detect the movement of the subject.
  • the area of the photoelectric conversion element PD12 that is also used as the motion detection-use pixel 542 is reduced, and the level of the charge signal generated by the photoelectric conversion is lowered. This means that the level of the charge signal for detecting the temporal change in the motion detection / use pixel 542 also decreases, and this leads to a decrease in the accuracy of motion detection.
  • the configuration of the dual-purpose pixel 54 is changed to improve the image quality of an image generated in normal shooting, that is, to achieve a higher pixel count. Further, it is possible to adopt a configuration that suppresses a decrease in accuracy of motion detection.
  • solid-state imaging device 3 in the third embodiment of the present invention are the overview and schematic configuration of the solid-state imaging device 2 in the second embodiment, that is, The overview and schematic configuration of the solid-state imaging device 1 in the first embodiment shown in FIGS. 1 and 2 are the same. Therefore, in the following description, the same components as those of the solid-state imaging device 1 of the first embodiment and the solid-state imaging device 2 of the second embodiment are the same among the components of the solid-state imaging device 3.
  • movement is abbreviate
  • the configuration of the pixels 50 arranged in the pixel array unit 40 in the solid-state imaging device 3 of the third embodiment will be described.
  • the pixels 50 arranged in the pixel array unit 40 in the solid-state image pickup device 3 are also used for normal photographing by normal reading, like the dual-purpose pixels 54 arranged in the pixel array unit 40 in the solid-state image pickup device 2 of the second embodiment.
  • a pixel signal and an event pixel signal for motion detection by motion detection readout are output. That is, this pixel 50 is also a pixel having a configuration in which the photoelectric conversion element PD1 provided in the normal pixel 51 (or the normal pixel 53) and the photoelectric conversion element PD2 provided in the motion detection pixel 52 are used in the same manner as the dual-purpose pixel 54. is there.
  • the pixels 50 arranged in the pixel array unit 40 in the solid-state imaging device 3 detect the movement of the subject based on the charge signals generated by the plurality of photoelectric conversion elements PD1 and output event pixel signals.
  • a pixel 50 that is arranged in the pixel array unit 40 of the solid-state imaging device 3 and that outputs a normal shooting pixel signal by normal reading and outputs a motion detection event pixel signal by motion detection reading.
  • the dual-purpose pixel 55 is a pixel having the function of a plurality of normal pixels 51 (or normal pixels 53) and the function of one motion detection pixel 52. That is, the dual-purpose pixel 55 improves the image quality of an image generated in normal shooting by increasing the definition of the normal-use pixel 541 that generates a charge signal by normal shooting in the dual-purpose pixel 54 shown in FIG.
  • This pixel is configured to suppress a decrease in the accuracy of motion detection by increasing the number of photoelectric conversion elements PD12 shared by the motion detection / use pixel 542 that generates a charge signal for detection.
  • FIG. 16 is a circuit diagram showing an example of the configuration of the dual-purpose pixel 55 in the solid-state imaging device 3 according to the third embodiment of the present invention.
  • FIG. 16 shows a dual-purpose pixel 55 having a configuration including two high-definition normal-use pixels 541 and one motion detection-use pixel 552.
  • the circuit elements constituting the dual-purpose pixel 55 include circuit elements similar to the circuit elements constituting the dual-purpose pixel 54 arranged in the pixel array unit 40 in the solid-state imaging device 2 of the second embodiment. Therefore, in the following description, in the circuit elements constituting the dual-purpose pixel 55, the same circuit elements as the circuit elements constituting the dual-purpose pixel 54 arranged in the pixel array unit 40 in the solid-state imaging device 2 of the second embodiment. Are denoted by the same reference numerals, and detailed description thereof is omitted.
  • Each of the two normal dual-purpose pixels 541 provided in the dual-purpose pixel 55 has the same configuration as the normal dual-purpose pixel 541 configured in the dual-purpose pixel 54.
  • each of the two normal-use pixels 541 is distinguished as a normal-use pixel 541a and a normal-use pixel 541b.
  • the code given to distinguish each of the normal-use pixels 541 subsequent to the sign of each circuit element that is, “a "Or” b ".
  • the normal dual-purpose pixel 541a includes a photoelectric conversion element PD12a, a charge transfer transistor 511a, a pixel reset transistor 512a, an amplification transistor 513a, a selection transistor 514a, and a node capacitor FD1a.
  • the normal dual-purpose pixel 541b includes a photoelectric conversion element PD12b, a charge transfer transistor 511b, a pixel reset transistor 512b, an amplification transistor 513b, a selection transistor 514b, and a node capacitor FD1b.
  • the single motion detection / combining pixel 552 provided in the dual-purpose pixel 55 has the same configuration as that of the motion detection / double-use pixel 542 configured in the dual-purpose pixel 54.
  • one motion detection / use pixel 552 also serves as a plurality of normal / use pixels 541 and the photoelectric conversion element PD12.
  • one motion detection / use pixel 552 also serves as the photoelectric conversion element PD ⁇ b> 12 with the high-definition normal / use pixel 541 a and normal / use pixel 541 b.
  • the motion detection / use pixel 552 detects the movement of the subject based on the charge signals generated by the plurality of photoelectric conversion elements PD12. For this reason, in the motion detection / use pixel 552, the configuration of the circuit element corresponding to each photoelectric conversion element PD12 is changed.
  • the motion detection combined pixel 552 includes an amplifier 521 provided in the motion detection combined pixel 542 configured in the shared pixel 54, a bias transistor 522, and a capacitor 5231 provided in the switched capacitor amplifier circuit 523.
  • the configuration corresponds to each of the photoelectric conversion elements PD12 that are also used.
  • the circuit element corresponding to any one of the photoelectric conversion elements PD12 in the circuit element in the motion detection / use pixel 552 has a sign (“a” or “b” given to the photoelectric conversion element PD12. ”) Following the reference numerals of the respective circuit elements, the photoelectric conversion elements PD12 corresponding to the respective circuit elements are distinguished.
  • the motion detection combined pixel 552 includes an amplifier 521a and an amplifier 521b, a bias transistor 522a and a bias transistor 522b, a switched capacitor amplifier circuit 553, a threshold amplifier 524 and a threshold amplifier 525, and an AER circuit 526. It is configured.
  • the switched capacitor amplifier circuit 553 includes capacitors 5231a and 5231b, an amplifier 5232, a capacitor 5233, and a switch 5234.
  • the amplifier 521a amplifies the charge signal generated and output by the corresponding photoelectric conversion element PD12a, and outputs the amplified charge signal to the capacitor 5231a in the switched capacitor amplifier circuit 553 via the chip connection portion 13a.
  • the amplifier 521a transfers the amplified charge signal as a voltage signal Vpa to the gate terminal of the bias transistor 522a.
  • the amplifier 521b amplifies the charge signal generated and output by the corresponding photoelectric conversion element PD12b, and outputs the amplified charge signal to the capacitor 5231b in the switched capacitor amplifier circuit 553 via the chip connection portion 13b.
  • the amplifier 521b transfers the amplified charge signal as a voltage signal Vpb to the gate terminal of the bias transistor 522b.
  • the bias transistor 522a has a constant current flowing through the photoelectric conversion element PD12a in accordance with the voltage signal Vpa transferred to the gate terminal, that is, even when the charge signal generated by the photoelectric conversion element PD12a changes. Control is performed so that the charge signal is successively stabilized at the magnitude after the magnitude of the charge signal is changed. That is, the output of the photoelectric conversion element PD12a is clipped.
  • the bias transistor 522b allows the current flowing through the photoelectric conversion element PD12b to be a constant current according to the voltage signal Vpb transferred to the gate terminal, that is, even when the charge signal generated by the photoelectric conversion element PD12b changes. Control is performed so that the charge signal is successively stabilized at the magnitude after the magnitude of the charge signal is changed. That is, the output of the photoelectric conversion element PD12b is clipped.
  • the switched capacitor amplifier circuit 553 adds the charge signals input from the amplifier 521a and the amplifier 521b via the corresponding chip connection part 13a or chip connection part 13b. More specifically, the capacitor 5231a accumulates the charge signal input from the corresponding amplifier 521a to the first terminal, and outputs a voltage signal having a voltage corresponding to the accumulated charge signal from the second terminal. The capacitor 5231b accumulates the charge signal input to the first terminal from the corresponding amplifier 521b, and outputs a voltage signal having a voltage corresponding to the accumulated charge signal from the second terminal. At this time, since the second terminal of the capacitor 5231a and the second terminal of the capacitor 5231b are connected as shown in FIG.
  • the switched capacitor amplifier circuit 553 is similar to the switched capacitor amplifier circuit 523 provided in the motion detection / combining pixel 542 configured in the dual-purpose pixel 54, and changes in the added charge signal, that is, the photoelectric conversion element PD12a and the photoelectric conversion.
  • the increase / decrease in the charge signal obtained by adding the charge signals generated by each of the elements PD12b is converted into a voltage signal in a predetermined voltage range and output to the threshold amplifier 524 and the threshold amplifier 525, respectively.
  • the operation of the motion detection combined pixel 552 and the control timing by the vertical scanning circuit 20 are the motion detection configured in the shared pixel 54 except that the motion detection combined pixel 552 operates based on the added charge signal. Since this is the same as the dual-purpose pixel 542, detailed description is omitted.
  • the dual-purpose pixel 55 improves the image quality of an image generated in normal shooting by the high-definition normal-common pixel 541 and increases the number of photoelectric conversion elements PD12 shared by the motion detection / double-use pixel 552. By doing so, it is possible to suppress a decrease in the accuracy of motion detection.
  • the dual-purpose pixels 55 are uniformly arranged over the entire planar area of the pixel array unit 40.
  • each photoelectric conversion element PD 12, a readout circuit for each normal-use pixel 541, and an output circuit for the motion detection-use pixel 552 are formed on the first semiconductor substrate 11 to detect motion.
  • a readout circuit for the dual-purpose pixel 552 is formed on the second semiconductor substrate 12.
  • the photoelectric conversion element PD1 provided in the normal pixel 51 shown in FIG. 3A in the first embodiment is similar to the configuration of the dual-purpose pixel 54 shown in FIG.
  • the configuration that also serves as the photoelectric conversion element PD2 provided in the motion detection pixel 52 illustrated in FIG. 3B is shown. That is, a configuration is shown in which a plurality of normal-use pixels 541 and a motion detection-use pixel 542 that are not provided with a circuit element that stores the charge signal generated by each photoelectric conversion element PD12 are combined.
  • the dual-purpose pixel 55 is similar to the dual-purpose pixel 54 as shown in FIG.
  • the photoelectric conversion element PD12 that also serves as the photoelectric conversion element PD2 included in the motion detection pixel 52 may be used.
  • the connection of each circuit element is the same as in the dual-purpose pixel 54. More specifically, like the dual-purpose pixel 55 shown in FIG. 16, in the charge transfer transistor 511 provided in the normal pixel 53, one of the source terminal and the drain terminal to which the photoelectric conversion element PD1 is connected, and motion detection In the bias transistor 522 provided in the pixel 52, one of the source terminal and the drain terminal to which the photoelectric conversion element PD2 is not connected is connected for each normal pixel 53.
  • the photoelectric conversion element PD2 provided in one motion detection pixel 52 can be configured by the photoelectric conversion elements PD1 provided in the plurality of normal pixels 53.
  • the photoelectric conversion element PD ⁇ b> 12 includes the normal-purpose pixel 541 corresponding to the plurality of normal pixels 51 (or the normal pixels 53) and the motion detection-purpose pixel 552 corresponding to the motion detection pixel 52. Is also used. For this reason, in the solid-state imaging device 3 as well, as in the solid-state imaging device 2 of the second embodiment, normal readout for reading out pixel signals from the normal-purpose pixels 541 and motion detection pixel signals (event pixels) from the motion detection-purpose pixels 552. Signal) is read out exclusively from motion detection readout.
  • the read address control circuit 100 determines the read area of the dual-purpose pixel 55 (normal read-out pixel 541) that outputs (reads) pixel signals is omitted, and the following description is omitted.
  • the solid-state imaging device 3 a configuration for specifying the dual-purpose pixel 55 (normal dual-purpose pixel 541) that outputs a pixel signal will be described. In the following description, as described above, it is assumed that the dual-purpose pixels 55 are uniformly arranged over the entire planar area of the pixel array unit 40 of the solid-state imaging device 3.
  • FIG. 17 is a diagram showing a configuration for outputting a pixel signal in the solid-state imaging device 3 according to the third embodiment of the present invention.
  • FIG. 17 shows a partial vertical structure of the pixel array unit 40 in which the dual-purpose pixels 55 are uniformly arranged in the solid-state imaging device 3 and the read address control circuit 100 provided in the control circuit 10. More specifically, each signal exchanged between the read-out address control circuit 100 and the dual-purpose pixel 55 formed on the first semiconductor substrate 11 and the second semiconductor substrate 12 is shown.
  • the normal-purpose pixel 541 corresponding to the three normal pixels 51 (or the normal pixels 53) and the motion detection-purpose pixel 552 corresponding to the motion detection pixel 52 are also used as the photoelectric conversion element PD12.
  • the dual-purpose pixel 55 having the configuration described above is shown. That is, the dual-purpose pixel 55 is a dual-purpose pixel that detects the movement of the subject based on the charge signal generated by each of the three photoelectric conversion elements PD12 (photoelectric conversion elements PD12a to photoelectric conversion elements PD12c). In FIG. 17, “a”, “b”, or “c” is added to the circuit element in each normal-purpose pixel 541 following the reference numeral of each circuit element.
  • each of the photoelectric conversion elements PD ⁇ b> 12 of the dual-purpose pixel 55, the readout circuit of each normal-purpose pixel 541 configured in the dual-purpose pixel 55, and the dual-purpose pixel 55 are configured.
  • the output circuit of the motion detection / combination pixel 552 is formed on the first semiconductor substrate 11.
  • the readout circuit for the motion detection / combining pixel 552 configured in the dual-purpose pixel 55 is formed on the second semiconductor substrate 12.
  • the readout circuit of the motion detection / combination pixel 552 overlaps the output circuit region of the normal / combination pixel 541 and the motion detection / combination pixel 552 formed on the first semiconductor substrate 11.
  • the switched capacitor amplifier circuit 553 provided in the readout circuit of the motion detection / combination pixel 552 overlaps the areas of the output circuits of the normal pixel 53 and the motion detection / combination pixel 552 formed on the first semiconductor substrate 11. It shows a state in which it is formed in the region of the second semiconductor substrate 12 including the region.
  • the readout circuit of the motion detection / combination pixel 552 and the corresponding output circuit of the motion detection / combination pixel 552 are arranged between the first semiconductor substrate 11 and the second semiconductor substrate 12. Electrical connection is made by the chip connection portion 13 to be formed.
  • an amplifier 521a (not shown) to an amplifier 521c (not shown) included in the output circuit of each of the motion detection / use pixels 552 formed on the first semiconductor substrate 11 and the second semiconductor substrate 12 are formed.
  • the state where the switched capacitor amplifier circuit 553 provided in the readout circuit of the motion detection / use pixel 552 is connected by the corresponding chip connection unit 13 is shown.
  • the AER circuit 526 (not shown) of the motion detection / use pixel 552 formed on the second semiconductor substrate 12 is a photoelectric conversion element.
  • an event pixel signal is output to the read address control circuit 100.
  • the read address control circuit 100 detects (confirms) the position of the dual-purpose pixel 55 that has output the event pixel signal from the address information included in the input event pixel signal.
  • the position of the dual-purpose pixel 55 detected (confirmed) by the read address control circuit 100 is an area where a plurality of normal dual-purpose pixels 541 configured in the dual-purpose pixel 55 are arranged.
  • the read address control circuit 100 may detect (confirm) the center position in the area of the dual-purpose pixel 55 as the position of the dual-purpose pixel 55 that has output the event pixel signal.
  • the read address control circuit 100 outputs a pixel signal from the normal / common pixel 541 in the area of the normal / common pixel 541 arranged in a predetermined read area centered on the position of the detected (confirmed) dual-purpose pixel 55. Determine (read) the read area.
  • the read address control circuit 100 outputs a control signal for designating the normal-purpose pixel 541 arranged in the determined read area to the vertical scanning circuit 20 and the horizontal scanning circuit 30. Accordingly, each of the vertical scanning circuit 20 and the horizontal scanning circuit 30 sequentially drives the designated normal-purpose pixel 541 and outputs (reads out) a pixel signal from the normal-purpose pixel 541 designated by the read address control circuit 100. ).
  • the dual-purpose pixels 55 that read out the normal imaging pixel signal and the event pixel signal are uniformly arranged in the pixel array unit 40. For this reason, in the solid-state imaging device 3, when the event pixel signal output from the motion detection / combining pixel 552 configured in the dual-purpose pixel 55 is output, normal imaging is performed from the normal / multiple pixel 541 configured in the dual-purpose pixel 55. The pixel signal for one frame can be read out. That is, in the solid-state imaging device 3, as in the solid-state imaging device 2 of the second embodiment, there is no pixel signal that is missing in normal shooting.
  • the image processing unit that generates an image based on the pixel signal in normal photographing output from the solid-state imaging device 3 also generates the pixel signal of the missing pixel when generating the image based on each pixel signal. There is no need to perform an operation to interpolate.
  • the solid-state image pickup device 3 is also configured in the dual-purpose pixel 55 and the normal readout for reading out the pixel signal from the normal-purpose pixel 541 configured in the dual-purpose pixel 55 as in the solid-state image pickup device 2 of the second embodiment.
  • the motion detection readout for reading out a pixel signal (event pixel signal) for motion detection from the motion detection / use pixel 552 is performed in a time-sharing manner.
  • one motion detection / shared pixel 552 includes two normal dual purpose pixels 541 (the normal dual purpose pixel 541a and the normal dual purpose pixel 541b) and the photoelectric conversion element PD12 (photoelectric conversion).
  • a configuration in which the element PD12a and the photoelectric conversion element PD12b) are also used is shown.
  • the configuration of the dual-purpose pixel 55 is not limited to the configuration shown in FIG. In other words, the number of photoelectric conversion elements PD12 shared by one motion detection / shared pixel 552 in the shared pixel 55 is not limited to the two shown in FIG.
  • one motion detection / shared pixel 552 has a configuration in which the four normal dual-purpose pixels 541 and the photoelectric conversion element PD 12 are combined, that is, the motion detection / shared pixel 552 has four photoelectric conversion elements PD 12.
  • the movement of the subject may be detected based on the charge signal obtained by adding the generated charge signals.
  • the arrangement of the dual-purpose pixels 55 in the pixel array unit 40 in the solid-state imaging device 3 is not limited to a uniform arrangement in the entire region of the pixel array unit 40.
  • the normal dual-purpose pixels 541 including the photoelectric conversion elements PD12 shared by the motion detection dual-purpose pixels 552 configured in the dual-purpose pixels 55 may be periodically arranged in the row direction and the column direction of the pixel array unit 40.
  • the high-definition normal pixel 51 (or normal pixel 53) may be arranged at the position of the photoelectric conversion element that is not shared by the motion detection / combination pixel 552 configured in the dual-purpose pixel 55.
  • FIG. 18 is a diagram schematically illustrating an example of the arrangement of the pixels 50 (the normal pixels 51 (or the normal pixels 53) and the combined pixels 55) in the solid-state imaging device 3 according to the third embodiment of the present invention.
  • light in the wavelength bands of red (R), green (G), and blue (B) corresponds to light incident on each of the normal pixel 51 (or the normal pixel 53) and the dual-purpose pixel 55.
  • An example of the arrangement of the normal pixels 53 and the combined pixels 55 in the pixel array section 40 of the first semiconductor substrate 11 constituting the solid-state imaging device 3 to which color filters (color filters) are attached in a Bayer array is shown.
  • the normal pixels 53 are arranged uniformly over the entire planar area of the pixel array unit 40, and the normal pixels 53 arranged at predetermined positions are provided.
  • the dual-purpose pixel 55 is disposed so that the photoelectric conversion element PD1 is also used as the motion detection dual-purpose pixel 552 configured in the dual-purpose pixel 55. That is, the normal pixels 53 arranged in the pixel array unit 40 are arranged so as to be periodically replaced with the dual-purpose pixels 55 in the row direction and the column direction.
  • the position where the color filter corresponding to the light in the green (G) wavelength band in the row where the color filter corresponding to the light in the red (R) wavelength band is attached is attached.
  • the photoelectric conversion element PD1 provided in the normal pixel 53 arranged in the above is arranged so that the motion detection shared pixel 552 configured in the shared pixel 55 is also used.
  • the motion detection / use pixel 552 can detect the motion of the subject by light in the green (G) wavelength band that can be considered to represent luminance in an image generated by normal shooting.
  • the readout circuit of the motion detection / combination pixel 552 formed on the second semiconductor substrate 12 includes a region overlapping the region of the normal pixel 53 formed on the first semiconductor substrate 11. Form. Therefore, in the arrangement example of the pixels 50 in the solid-state imaging device 3 shown in FIG. 18, the motion detection / use pixels are arranged on the second semiconductor substrate 12 corresponding to each of the 6 ⁇ 6 rectangular regions d1 to d6. A reading circuit 552 is formed.
  • the read address control circuit 100 determines the read area of the combined pixel 55 that outputs (reads) a pixel signal (the normal combined pixel 541) is omitted.
  • a configuration for specifying the dual-purpose pixel 55 (normal dual-purpose pixel 541) that outputs a pixel signal in the solid-state imaging device 3 according to the modification will be described.
  • a case where the normal pixel 53 and the dual-purpose pixel 55 are arranged in the planar area of the pixel array unit 40 of the solid-state imaging device 3 as shown in FIG. 18 will be described.
  • FIG. 19 is a diagram showing another configuration for outputting a pixel signal in the solid-state imaging device 3 according to the modification of the third embodiment of the present invention.
  • 19 shows a partial vertical structure of the pixel array unit 40 in which the normal pixels 53 and the dual-purpose pixels 55 are arranged in the solid-state imaging device 3 according to the modification, and a read address control circuit 100 included in the control circuit 10. Is shown. More specifically, the normal pixel 53 formed on the first semiconductor substrate 11, the dual-purpose pixel 55 formed on the first semiconductor substrate 11 and the second semiconductor substrate 12, and the read address control circuit 100 Each signal exchanged between them is shown.
  • FIG. 19 shows a diagram showing another configuration for outputting a pixel signal in the solid-state imaging device 3 according to the modification of the third embodiment of the present invention.
  • 19 shows a partial vertical structure of the pixel array unit 40 in which the normal pixels 53 and the dual-purpose pixels 55 are arranged in the solid-state imaging device 3 according to the modification, and a read address control circuit 100 included in the control circuit 10. I
  • the normal-use pixel 541 and the motion detection-use pixel 552 corresponding to the two normal pixels 53 are also used as the photoelectric conversion element PD12 (the photoelectric conversion element PD12a and the photoelectric conversion element PD12b).
  • a dual-purpose pixel 55 is shown. Therefore, the dual-purpose pixel 55 is a dual-purpose pixel that detects the movement of the subject based on the charge signal generated by each of the photoelectric conversion element PD12a and the photoelectric conversion element PD12b.
  • FIG. 17 shows a state where the photoelectric conversion element PD1 of the normal pixel 53 and the selection transistor 514 provided in the readout circuit of the normal pixel 53 are formed on the first semiconductor substrate 11.
  • each photoelectric conversion element PD12 of the dual-purpose pixel 55, each readout circuit of the normal dual-purpose pixel 541 configured in the dual-purpose pixel 55, and the dual-purpose pixel 55 are configured.
  • the output circuit of the motion detection / combination pixel 552 is formed on the first semiconductor substrate 11.
  • the readout circuit for the motion detection / combination pixel 552 configured in the dual-purpose pixel 55 is formed on the second semiconductor substrate 12. In FIG.
  • a state is shown in which a switched capacitor amplifier circuit 553 and an AER circuit 526 formed on the first semiconductor substrate 11 and provided in the readout circuit of the motion detection / use pixel 552 are formed on the second semiconductor substrate 12.
  • the readout circuit of the motion detection / combination pixel 552 overlaps the areas of the output circuit of the normal / combination pixel 541 and the motion detection / combination pixel 552 formed on the first semiconductor substrate 11. It is formed in the region of the second semiconductor substrate 12 including the region that is present.
  • the switched capacitor amplifier circuit 553 and the AER circuit 526 provided in the readout circuit for the motion detection / combination pixel 552 are output from the normal pixel 53 and the motion detection / combination pixel 552 formed on the first semiconductor substrate 11. It shows a state in which it is formed in the region of the second semiconductor substrate 12 including the region overlapping with this region.
  • the readout circuit of the motion detection / combination pixel 552 and the corresponding output circuit of the motion detection / combination pixel 552 are connected to the first semiconductor substrate 11 and the second semiconductor substrate 12. Electrical connection is made by the chip connecting portion 13 formed between the two.
  • amplifiers 521 a (not shown) and amplifiers 521 b (not shown) provided in the output circuits of the respective motion detection / use pixels 552 formed on the first semiconductor substrate 11, and formed on the second semiconductor substrate 12.
  • the state where the switched capacitor amplifier circuit 553 provided in the readout circuit of the motion detection / use pixel 552 is connected by the corresponding chip connection unit 13 is shown.
  • the motion detection combined use formed on the second semiconductor substrate 12 is the same as the case where the dual use pixels 55 are uniformly arranged in the entire planar area of the pixel array unit 40.
  • the AER circuit 526 of the pixel 552 outputs an event pixel signal to the read address control circuit 100 when it detects a temporal change in the charge signal generated by each of the photoelectric conversion element PD12a and the photoelectric conversion element PD12b.
  • the read address control circuit 100 detects (confirms) the position of the dual-purpose pixel 55 that has output the event pixel signal from the address information included in the input event pixel signal. Note that the read address control circuit 100 detects (confirms) the position of the dual-purpose pixel 55 that has output the event pixel signal.
  • the dual-purpose pixel 55 is uniformly arranged over the entire planar area of the pixel array unit 40. It is the same as when For example, when an event pixel signal is input from the motion detection / combination pixel 552 arranged in the region d1 illustrated in FIG. 18, the read address control circuit 100 outputs the event pixel signal from the address information included in the event pixel signal.
  • the position of the dual-purpose pixel 541 arranged in the third row and the fourth column corresponding to the center position of the region d1 or the region d1 in which the motion detection / shared pixel 552 is arranged is set as the position of the dual-purpose pixel 55 that outputs the event pixel signal. Detect (confirm).
  • the read address control circuit 100 outputs a pixel signal from the normal / common pixel 541 in the area of the normal / common pixel 541 arranged in a predetermined read area centered on the position of the detected (confirmed) dual-purpose pixel 55.
  • the read-out area is determined (read out), and a pixel signal is output (read out) from the normal-purpose pixel 541 arranged in the determined read-out area.
  • the image processing unit that generates an image based on the pixel signal in the normal shooting output from the solid-state imaging device 3 according to the modified example also performs the calculation without interpolating the pixel signal of the missing pixel. An image based on the pixel signal can be generated.
  • the solid-state imaging device 3 is arranged in a predetermined small readout region corresponding to the position where the dual-purpose pixel 55 that detects the movement of the subject is arranged.
  • a normal photographing pixel signal is output (read out) only from the normal-purpose pixel 541 or the normal pixel 51 (or the normal pixel 53).
  • the power consumption at the time of reading the pixel signal according to the detected motion of the subject can be reduced as in the solid-state imaging device 2 of the second embodiment.
  • one motion detection combined pixel 552 includes a plurality of (two in FIG. 16) normal combined pixels 541 and a photoelectric conversion element.
  • a configuration that also uses the PD 12 is shown. That is, the motion detection / combination pixel 552 configured in the dual-purpose pixel 55 has a plurality of functions corresponding to the photoelectric conversion element PD2 (two in FIG. 16) that detect the motion of the subject performed by one motion detection pixel 52.
  • the photoelectric conversion element PD12 is a pixel configured to be realized based on the charge signal generated has been described.
  • one motion detection pixel 52 may be configured to detect the movement of the subject based on a charge signal obtained by adding the charge signals generated by the plurality of photoelectric conversion elements PD2.
  • the motion detection pixel 52 can detect the motion of the subject based on a larger charge signal without increasing the area of one photoelectric conversion element PD2, thereby improving the accuracy of motion detection. Can do.
  • the vertical structure of the pixel array unit 40 in this configuration is formed on the first semiconductor substrate 11 and the second semiconductor substrate 12 in the vertical structure of the solid-state imaging device 3 of the modification shown in FIG.
  • the motion detection pixel 52 is configured to detect the motion of the subject based on the charge signal obtained by adding the charge signals generated by the plurality of photoelectric conversion elements PD2 described above instead of the dual-purpose pixel 55. Can do.
  • the photoelectric conversion element PD12 photoelectric conversion element PD12a and photoelectric conversion element PD12b illustrated in FIG. 19 detects the movement of the subject based on the charge signal obtained by adding the charge signals generated by the plurality of photoelectric conversion elements PD2 described above.
  • One motion detection pixel 52 configured as described above serves as each photoelectric conversion element PD2 that generates a charge signal used for detecting the motion of the subject.
  • m is smaller than n
  • s is a natural number of 2 or more
  • each of the m second readout circuits (the readout circuits of the motion detection pixels 52) has a corresponding s number.
  • an adder circuit (capacitor 5231a and capacitor 5231b) for adding the s first charge signals generated by the first photoelectric conversion element (photoelectric conversion element PD1) as one unit, and a detection circuit (threshold)
  • the amplifier 524 and the threshold amplifier 525) constitute a solid-state imaging device (solid-state imaging device 3) that detects a change in the first charge signal after being added by the capacitors 5231a and 5231b.
  • each of the readout circuits of the motion detection pixels 52 uses t second photoelectric conversion elements (photoelectric conversion elements PD2) as one unit, and t photoelectric conversion elements PD2 Further, an addition circuit (capacitor 5231a and capacitor 5231b) for adding the respective second charge signals generated is generated, and the detection circuit (threshold amplifier 524 and threshold amplifier 525) is added by the capacitor 5231a and capacitor 5231b.
  • a solid-state imaging device 3 is configured in which a later change in the second charge signal is detected and t is a natural number of 2 or more.
  • both normal photographing and motion detection that sequentially detects the motion of the subject are compatible. be able to.
  • the normal / normal pixel 541 or the normal pixel 51 arranged in a predetermined small readout region corresponding to the position of the motion detection / shared pixel 552 that outputs the event pixel signal.
  • the normal arrangement is usually made at the position of the pixel array unit 40 to which the color filter corresponding to the light in the green (G) wavelength band of the Bayer array is attached.
  • the color and arrangement of color filters to be attached to the solid-state imaging device 3 are not particularly defined.
  • the normal pixel 51 For example, light in the wavelength band of red (R), green (G), blue (B), and white (W) on the side where the light enters each of the normal pixel 51 (or the normal pixel 53) and the dual-purpose pixel 55.
  • a color filter corresponding to may be attached.
  • the photoelectric conversion element PD1 provided in the normal pixel 51 (or the normal pixel 53) disposed at the position of the pixel array unit 40 to which the color filter corresponding to the light in the white (W) wavelength band is attached is used as the dual-purpose pixel.
  • a configuration may also be adopted in which the motion detection / combining pixel 552 configured in 55 is also used.
  • the motion detection and use pixel 552 can detect the motion of the subject, not by light of a specific wavelength band. Further, for example, red (R), green (G), blue (B), and near infrared (Ir) are provided on the light incident side of each of the normal pixel 51 (or the normal pixel 53) and the dual-purpose pixel 55.
  • an imaging system including the solid-state imaging device 3 includes a light source that emits infrared light and irradiates infrared light when detecting the motion of the subject to improve motion detection accuracy. It can also be.
  • the photoelectric conversion element PD1 provided in the normal pixel 51 is used as the motion detection / use pixel 542 (or the motion).
  • the motion detection combined pixel 542 (or the motion detection combined pixel 552) has a configuration other than the photoelectric conversion element PD1 and does not perform an operation for interpolating pixel signals of pixels that are missing in normal photographing. Good.
  • solid-state imaging device 4 In the solid-state imaging device according to the fourth embodiment of the present invention (hereinafter referred to as “solid-state imaging device 4”), the configuration of the pixel 50 is the same as that of the normal pixel 51 shown in FIG. In the case of the motion detection pixel 52 shown, the solid-state imaging device is configured not to perform an operation of interpolating the pixel signal of a pixel that is missing in normal photographing. That is, the solid-state imaging device 4 is lacking in normal shooting without changing the configuration of the pixels 50, like the solid-state imaging device 2 of the second embodiment and the solid-state imaging device 3 of the third embodiment. In this configuration, the calculation for interpolating the pixel signal of the pixel is not performed.
  • the overview and schematic configuration of the solid-state imaging device 4 are the same as the overview and schematic configuration of the solid-state imaging device 1 in the first embodiment shown in FIGS. 1 and 2. Therefore, in the following description, in the constituent elements of the solid-state imaging device 4, the same reference numerals are used for the same constituent elements as the constituent elements of the solid-state imaging apparatus 1 of the first embodiment, and the respective constituent elements and operations are the same. The detailed description about is omitted.
  • the normal pixels 51 are uniformly arranged (formed) over the entire planar area of the pixel array unit 40 of the first semiconductor substrate 11, and the motion detection pixels 52 are arranged in the pixel array unit of the second semiconductor substrate 12. It is uniformly arranged (formed) over the entire area of 40 planes. That is, the solid-state imaging device 4 has a configuration in which two solid-state imaging devices including a solid-state imaging device in which the normal pixels 51 are arranged and a solid-state imaging device in which the motion detection pixels 52 are arranged are stacked (joined).
  • the normal pixel 51 has the same configuration as the normal pixel 51 shown in FIG. 3A. Therefore, a detailed description of the configuration and operation of the normal pixel 51 is omitted.
  • the motion detection pixel 52 has the same configuration as the motion detection pixel 52 shown in FIG. 3B, and the chip connection unit 13 is deleted in order to form the motion detection pixel 52 on the second semiconductor substrate 12. Only the difference. Therefore, a detailed description of the configuration and operation of the motion detection pixel 52 is omitted.
  • the normal pixels 53 shown in FIG. 11 may be formed on the first semiconductor substrate 11 instead of the normal pixels 51 formed on the first semiconductor substrate 11.
  • FIG. 20 is a diagram illustrating a configuration for outputting a pixel signal in the solid-state imaging device 4 according to the fourth embodiment of the present invention.
  • FIG. 20 shows a partial vertical structure of the pixel array unit 40 in which the normal pixels 51 and the motion detection pixels 52 are arranged in the solid-state imaging device 4, and a read address control circuit 100 provided in the control circuit 10. ing. More specifically, each of the normal pixel 51 formed on the first semiconductor substrate 11 and the motion detection pixel 52 formed on the second semiconductor substrate 12 and the read address control circuit 100 exchange each other. The signal is shown.
  • FIG. 20 shows a state where the photoelectric conversion element PD1 of the normal pixel 51 and the selection transistor 514 provided in the readout circuit of the normal pixel 51 are formed on the first semiconductor substrate 11.
  • the photoelectric conversion element PD ⁇ b> 2 of the motion detection pixel 52, the output circuit, and the readout circuit are formed on the second semiconductor substrate 12.
  • 20 shows a state in which the photoelectric conversion element PD2 of the motion detection pixel 52, the switched capacitor amplifier circuit 523 and the AER circuit 526 provided in the readout circuit of the motion detection pixel 52 are formed on the second semiconductor substrate 12. Show.
  • FIG. 20 shows a state in which the motion detection pixels 52 are formed in the region of the second semiconductor substrate 12 that overlaps the region of the four normal pixels 51 formed in the first semiconductor substrate 11. Show.
  • the photoelectric conversion element PD ⁇ b> 2 of each motion detection pixel 52 disposed on the second semiconductor substrate 12 is replaced with the photoelectric conversion element PD ⁇ b> 1 of the normal pixel 51 disposed on the first semiconductor substrate 11.
  • a charge signal is generated by photoelectrically converting light (light rays) transmitted through the region.
  • the photoelectric conversion element PD2 generates a larger charge signal as the light having a longer wavelength that transmits more through the first semiconductor substrate 11.
  • red (R) that transmits more through the normal pixel 51 due to the long wavelength of the photoelectric conversion element PD ⁇ b> 2 of the motion detection pixel 52 formed on the second semiconductor substrate 12.
  • the color and arrangement of the color filters to be attached to the solid-state imaging device 4 are not particularly defined.
  • the photoelectric conversion element PD2 of the motion detection pixel 52 formed on the second semiconductor substrate 12 corresponds to the normal pixel 51 to which a color filter corresponding to light in the red (R) wavelength band is attached.
  • the accuracy of motion detection is improved by operating a light source that emits infrared light as auxiliary light when detecting the motion of a subject in an imaging system equipped with the solid-state imaging device 4. It is also possible to make it a configuration.
  • the AER circuit 526 of the motion detection pixel 52 formed on the second semiconductor substrate 12 has the charge generated by the photoelectric conversion element PD2.
  • the event pixel signal is output to the read address control circuit 100.
  • the read address control circuit 100 When the event pixel signal is input, the read address control circuit 100 outputs the event pixel signal from the address information included in the input event pixel signal, as in the solid-state imaging device 1 of the first embodiment. The position of the detection pixel 52 is detected (confirmed). Then, the read address control circuit 100 outputs a pixel signal from the normal pixel 51 to the area of the normal pixel 51 arranged in a predetermined read area centered on the position of the detected (confirmed) motion detection pixel 52. Determine (read) the read area.
  • the read address control circuit 100 sends a control signal for designating the normal pixel 51 arranged in the determined read area to the vertical scanning circuit 20 and the horizontal as in the solid-state imaging device 1 of the first embodiment.
  • the pixel signal is output to the scanning circuit 30 and a pixel signal is output (read out) from the normal pixel 51 arranged in the determined readout region.
  • the normal pixel 51 (or the normal pixel 53) is provided in the pixel array unit 40 of the first semiconductor substrate 11, and the motion detection pixel 52 is provided in the pixel array unit 40 of the second semiconductor substrate 12.
  • the image processing unit that generates an image based on the pixel signal in the normal photographing output from the solid-state imaging device 4 also performs the operation of interpolating the pixel signal of the missing pixel on each pixel signal. A based image can be generated.
  • the normal pixel 51 (or the normal pixel 53) and the motion detection pixel 52 do not serve as photoelectric conversion elements. For this reason, in the solid-state imaging device 4, the normal readout for reading out the pixel signal from the normal pixel 51 (or the normal pixel 53) and the motion detection readout for reading out the motion detection pixel signal (event pixel signal) from the motion detection pixel 52 are exclusive. There is no need to do it automatically. Therefore, in the solid-state imaging device 4, as in the solid-state imaging device 2 of the second embodiment and the solid-state imaging device 3 of the third embodiment, normal readout for reading out a pixel signal from the normal pixel 51 (or the normal pixel 53) is performed. In addition, it is not necessary to perform motion detection readout for reading motion detection pixel signals (event pixel signals) from the motion detection pixels 52 in a time division manner, and can be performed at the same time.
  • one motion detection pixel 52 is based on a charge signal obtained by adding the charge signals generated by the plurality of photoelectric conversion elements PD2. It is also possible to adopt a configuration for detecting the movement of the subject. With this configuration, the motion detection pixel 52 generates a charge signal obtained by photoelectrically converting light (light rays) transmitted through the regions of the photoelectric conversion elements PD1 of the plurality of normal pixels 51 arranged on the first semiconductor substrate 11. Can be generated.
  • the motion detection pixel 52 is based on a larger charge signal without increasing the area of one photoelectric conversion element PD2, similarly to the solid-state imaging device 3 of the third embodiment.
  • the motion of the subject can be detected, and the accuracy of motion detection can be improved.
  • each of the n first photoelectric conversion elements (photoelectric conversion elements PD1) is periodically arranged on the first semiconductor substrate (first semiconductor substrate 11) on which light is incident.
  • each of the m second photoelectric conversion elements (photoelectric conversion elements PD2) is stacked on a surface opposite to the surface on the first semiconductor substrate 11 where the light is incident (second semiconductor substrate ( A solid-state imaging device (solid-state imaging device 4) that generates a second charge signal that is periodically arranged on the second semiconductor substrate 12) and photoelectrically converts light transmitted through the first semiconductor substrate 11 is configured.
  • solid-state imaging device solid-state imaging device
  • the normal pixel 51 (or the specialized pixel signal output by normal photographing) (or The normal pixels 53) and the motion detection pixels 52 specialized for the output of event pixel signals by motion detection are arranged in the pixel array unit 40, respectively.
  • the normal pixels 51 (or the normal pixels 53) are uniformly arranged over the entire area of the plane of the pixel array unit 40 of the first semiconductor substrate 11.
  • the motion detection pixels 52 are uniformly arranged over the entire planar area of the pixel array unit 40 of the second semiconductor substrate 12.
  • both normal photographing and motion detection that sequentially detects the motion of the subject can be achieved.
  • normal readout and motion detection readout can be performed at the same time.
  • from the normal pixel 51 (or the normal pixel 53) arranged in a predetermined small readout region corresponding to the position of the motion detection pixel 52 that has output the event pixel signal By outputting (reading out) the pixel signal, the same effect as the solid-state imaging device 1 of the first embodiment can be obtained.
  • the normal pixel 51 (or the normal pixel 53) specialized for the output of the pixel signal by the normal photographing is formed on the first semiconductor substrate 11, and the event by the motion detection is performed.
  • the motion detection pixel 52 specialized for the output of the pixel signal on the second semiconductor substrate 12
  • the image processing unit provided in the imaging system equipped with the solid-state imaging device 4 of the fourth embodiment is the same as the solid-state imaging device 2 of the second embodiment and the solid-state imaging device 3 of the third embodiment.
  • a normal pixel that outputs a normal shooting pixel signal and a motion detection pixel that outputs a motion detection event pixel signal are arranged in the pixel array portion.
  • the number of normal pixels arranged in the pixel array unit is made larger than that of motion detection pixels.
  • the event pixel signal when an event pixel signal is output from the motion detection pixel, the event pixel signal is output, that is, in the pixel array unit in which the motion detection pixel that detects the motion of the subject is arranged.
  • a pixel signal obtained by normal photographing is read out from normal pixels arranged in a predetermined readout region centered on the position of. That is, in each embodiment of the present invention, when detecting the movement of the subject, pixel signals are not read out from all the normal pixels arranged in the pixel array unit, but a small number of normal pixels in a predetermined readout area. The pixel signal is read from only.
  • the pixel signal is read out only from a predetermined peripheral area (readout area) of the normal pixel that has been changed by detecting the movement of the subject.
  • the power consumption when reading out the pixel signal obtained by the normal photographing in order to generate the image reflecting the movement of the subject is larger than that of the conventional solid-state imaging device. Can be reduced.
  • the pixel signal is read out to generate an image reflecting the movement of the subject in order to read out the pixel signal from the normal pixel arranged in the small readout area where the movement of the subject is detected.
  • the number is small.
  • the image processing unit included in the imaging system equipped with the solid-state imaging device according to each embodiment of the present invention is a partial pixel signal corresponding to the position where the movement of the subject is detected among the pixel signals for one frame.
  • Image processing is performed by replacing (a small number of pixel signals).
  • the image processing unit provided in the imaging system including the solid-state imaging device according to each embodiment of the present invention has a small processing load and a small time lag with respect to the time when the movement of the subject is detected.
  • the configuration in which the read address control circuit 100 is provided in the control circuit 10 has been described.
  • the configuration including the read address control circuit 100 is not limited to the configuration of each embodiment of the present invention.
  • the read address control circuit 100 may be provided outside the control circuit 10, that is, in parallel with the control circuit 10, the vertical scanning circuit 20, and the like.
  • the read address control circuit 100 may be provided outside the solid-state imaging device, that is, as a component of the imaging system.
  • two semiconductor substrates may be connected by a chip connection unit, or three or more semiconductor substrates may be connected by a chip connection unit.
  • two of the semiconductor substrates correspond to the first semiconductor substrate and the second semiconductor substrate according to the claims.
  • a high-quality image that reflects the detected motion of the subject while suppressing an increase in power consumption. Can be generated.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Power Engineering (AREA)
  • General Physics & Mathematics (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Electromagnetism (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Studio Devices (AREA)

Abstract

入射した光を光電変換した第1の電荷信号を発生するn個の第1の光電変換素子と、n個の第1の光電変換素子のそれぞれに対応し、対応する第1の光電変換素子が発生した第1の電荷信号に応じた信号電圧を第1の画素信号として出力するn個の第1の読み出し回路と、入射した光を光電変換した第2の電荷信号を発生するm個の第2の光電変換素子と、m個の第2の光電変換素子のそれぞれに対応し、対応する第2の光電変換素子が発生した第2の電荷信号の変化に基づいた第2の画素信号を逐次出力するm個の第2の読み出し回路と、第1の光電変換素子の内、予め定めた読み出し領域内に配置された第1の光電変換素子に対応する第1の画素信号の読み出しを制御する読み出し制御回路と、を有し、m個の第2の読み出し回路のそれぞれは、対応する第2の光電変換素子が発生した第2の電荷信号の時間的な変化を検出し、予め定めた閾値を超える変化を検出したときに、変化を表すイベント信号を出力する検出回路と、イベント信号に、対応する第2の光電変換素子が配置された位置を表すアドレス情報を付加した第2の画素信号を出力する画素信号生成回路と、を有し、読み出し制御回路は、第2の画素信号に含まれるアドレス情報に対応する第2の光電変換素子が配置された位置に基づいた領域を、第1の画素信号を読み出す読み出し領域として決定し、決定した読み出し領域内に配置された第1の光電変換素子のそれぞれに対応する第1の読み出し回路のそれぞれに第1の画素信号を出力させ、nは2以上の自然数であり、mは2以上の自然数である。

Description

固体撮像装置
 本発明は、固体撮像装置に関する。
 従来から、被写体の動きを検出する動き検出の技術がある。従来の動き検出では、予め定めたフレームの間隔で撮影したそれぞれの画像の差分をとることによって、動いている被写体を捕らえている。このため、従来の動き検出では、被写体の動きをフレームの間隔でしか検出することができない。つまり、被写体の動きを逐次検出することができない。
 そこで、近年では、例えば、非特許文献1に開示されたように、被写体の動きに応じた信号の変化を検出することによって、被写体の動きを逐次検出する動き検出と、通常の撮影とを両立する固体撮像装置の技術が提案されている。非特許文献1に提案された固体撮像装置では、それぞれの画素に、入射した光を光電変換する1個の光電変換素子(フォトダイオード)を備え、通常の撮影による電荷信号を読み出すAPS(Active Pixel Sensor)読み出しと、動き検出のための電荷信号を読み出すAER(Address Event Representation)読み出しとを非同期に行うことができる。
 非特許文献1に提案された固体撮像装置では、動き検出の際に、フォトダイオードが光電変換している電荷信号の時間的な変化を検出し、電荷信号の大きさが予め定めた閾値を超えた画素からのみ、電荷信号が変化した方向、つまり、電荷信号の大きさの増減を表すパルス信号をAER読み出しで出力している。このとき、AER読み出しによって出力されるパルス信号には、パルス信号を出力する画素、つまり、被写体の動きを検出した画素の位置を表すアドレス情報も付加されている。
 これにより、非特許文献1に提案された固体撮像装置では、被写体の動きを検出した画素の位置を、通常の撮影において電荷信号を読み出すフレームのタイミングとは関係しない非同期のタイミングで抽出することができる。このことにより、非特許文献1に提案された固体撮像装置では、通常の撮影におけるフレームレートよりも高速に、動いている被写体を捕らえることができる。
"A 240×180 10mW 12us latency sparse-output vision sensor for mobile applications", VLSI Circuits (VLSIC), 2013 Symposium on, Publication Year: 2013, Page(s): C186 - C187
 しかしながら、非特許文献1に提案された固体撮像装置では、電荷信号が変化した方向を検出する論理回路や、パルス信号にアドレス情報を付加するための論理回路を、それぞれの画素に備える必要がある。そして、これらの論理回路は、1個の画素の中で占有する面積が大きいため、非特許文献1に提案された固体撮像装置では、これらの論理回路の追加に伴って、フォトダイオードの面積が小さくなり、フォトダイオードが入射した光を光電変換する電荷信号のレベルが低下してしまう。このため、非特許文献1に提案された固体撮像装置では、通常の撮影において生成する画像の画質が低下してしまう。そこで、フォトダイオードの面積を大きくすることも考えられる。しかし、この場合には、それぞれの画素の面積が大きくなるため、固体撮像装置が大型化して、製造上の問題やコスト面の問題が発生し、画素の数を増やす、つまり、通常の撮影において生成する画像の解像度を高くすることが容易ではなくなる。このように、非特許文献1に提案された固体撮像装置は、高画質化や高解像度化を図ることに対して、様々な阻害要因がある。
 また、非特許文献1に提案された固体撮像装置では、AER読み出しによって、動きがあった被写体の位置を画素のレベルで得ることはできるが、被写体の動きを反映した画像を生成するためには、APS読み出しによって通常の撮影で得る電荷信号を全て読み出して画像を生成する必要がある。また、被写体の動きを検出した後に通常の撮影で得る電荷信号を全て読み出して画像を生成するということは、被写体の動きを検出したときと、被写体の動きを反映した画像の生成に時間的なずれが生じてしまうことになる。この時間的なずれを解消するために、APS読み出しによる電荷信号の読み出しを高速化する、つまり、通常の撮影におけるフレームレートを高くすることも考えられる。しかし、フレームレートを高くするということは、固体撮像装置の消費電力が増加してしまうということである。また、非特許文献1に提案された固体撮像装置の高解像度化のために画素の数を増やすと、さらに消費電力が増加してしまう。このように、非特許文献1に提案された固体撮像装置では、被写体の動きを反映した画像を生成する際に多くの電力を消費してしまうという問題もある。
 本発明は、上記の課題に基づいてなされたものであり、被写体の動きを逐次検出する動き検出と通常の撮影とを両立する固体撮像装置において、消費電力の増大を抑えつつ、検出した被写体の動きを反映した高画質の画像を生成することができる固体撮像装置を提供することを目的としている。
 本発明の第1の態様によれば、固体撮像装置は、入射した光を光電変換した第1の電荷信号を発生するn個の第1の光電変換素子と、前記n個の第1の光電変換素子のそれぞれに対応し、対応する前記第1の光電変換素子が発生した前記第1の電荷信号に応じた信号電圧を第1の画素信号として出力するn個の第1の読み出し回路と、入射した光を光電変換した第2の電荷信号を発生するm個の第2の光電変換素子と、前記m個の第2の光電変換素子のそれぞれに対応し、対応する前記第2の光電変換素子が発生した前記第2の電荷信号の変化に基づいた第2の画素信号を逐次出力するm個の第2の読み出し回路と、前記第1の光電変換素子の内、予め定めた読み出し領域内に配置された前記第1の光電変換素子に対応する前記第1の画素信号の読み出しを制御する読み出し制御回路と、を有し、前記m個の第2の読み出し回路のそれぞれは、対応する前記第2の光電変換素子が発生した前記第2の電荷信号の時間的な変化を検出し、予め定めた閾値を超える変化を検出したときに、変化を表すイベント信号を出力する検出回路と、前記イベント信号に、対応する前記第2の光電変換素子が配置された位置を表すアドレス情報を付加した前記第2の画素信号を出力する画素信号生成回路と、を有し、前記読み出し制御回路は、前記第2の画素信号に含まれる前記アドレス情報に対応する前記第2の光電変換素子が配置された位置に基づいた領域を、前記第1の画素信号を読み出す前記読み出し領域として決定し、決定した前記読み出し領域内に配置された前記第1の光電変換素子のそれぞれに対応する前記第1の読み出し回路のそれぞれに前記第1の画素信号を出力させ、前記nは2以上の自然数であり、前記mは2以上の自然数である。
 本発明の第2の態様によれば、上記第1の態様の固体撮像装置において、前記読み出し制御回路は、同時期に出力された前記第2の画素信号に含まれる前記アドレス情報に対応する前記第2の光電変換素子が分布している位置に基づいて生成した矩形の領域を、前記読み出し領域として決定してもよい。
 本発明の第3の態様によれば、上記第1の態様の固体撮像装置において、前記読み出し制御回路は、同時期に出力された前記第2の画素信号に含まれる前記アドレス情報に対応する前記第2の光電変換素子が分布している領域を包含する矩形の領域を、前記読み出し領域として決定してもよい。
 本発明の第4の態様によれば、上記第1の態様から上記第3の態様のいずれか一態様の固体撮像装置において、前記読み出し制御回路は、同時期に出力された前記第2の画素信号に含まれる前記アドレス情報に対応する前記第2の光電変換素子の分布の大きさが、予め定めた分布の大きさの閾値よりも大きい場合に、前記第2の光電変換素子の分布の大きさに応じた矩形の領域を前記読み出し領域として決定し、同時期に出力された前記第2の画素信号に含まれる前記アドレス情報に対応する前記第2の光電変換素子の分布の大きさが、前記分布の大きさの閾値以下である場合に、前記読み出し領域を決定しなくてもよい。
 本発明の第5の態様によれば、上記第1の態様から上記第3の態様のいずれか一態様の固体撮像装置において、前記読み出し制御回路は、同時期に出力された前記第2の画素信号に含まれる前記アドレス情報に対応する前記第2の光電変換素子の数が、予め定めた数の閾値よりも多い場合に、それぞれの前記アドレス情報に対応する前記第2の光電変換素子に対応する前記読み出し領域を決定し、同時期に出力された前記第2の画素信号に含まれる前記アドレス情報に対応する前記第2の光電変換素子の数が、前記数の閾値以下である場合に、前記読み出し領域を決定しなくてもよい。
 本発明の第6の態様によれば、上記第4の態様または上記第5の態様の固体撮像装置において、前記読み出し制御回路は、前記n個の第1の光電変換素子が配置された全体の領域を、予め定めた大きさで区切った複数のブロックに分割し、分割したそれぞれの前記ブロックごとに、前記読み出し領域を決定してもよい。
 本発明の第7の態様によれば、上記第1の態様から上記第6の態様のいずれか一態様の固体撮像装置において、前記n個の第1の光電変換素子のそれぞれおよび前記m個の第2の光電変換素子のそれぞれは、第1の半導体基板の同一の平面の領域に周期的に配置されてもよい。
 本発明の第8の態様によれば、上記第7の態様の固体撮像装置において、前記画素信号生成回路は、前記第1の半導体基板に光が入射する側の面と反対側の面に積層される第2の半導体基板に配置されてもよい。
 本発明の第9の態様によれば、上記第8の態様の固体撮像装置において、前記第1の半導体基板と前記第2の半導体基板との間に形成され、前記第1の半導体基板の回路要素と前記第2の半導体基板の回路要素とを電気的に接続する接続部、をさらに有し、前記接続部は、前記m個の第2の読み出し回路のそれぞれが有する前記検出回路と、対応する前記第2の光電変換素子とを電気的に接続してもよい。
 本発明の第10の態様によれば、上記第9の態様の固体撮像装置において、s個の前記第1の光電変換素子が発生した前記s個の前記第1の電荷信号を1つの単位とした電荷信号を前記第2の光電変換素子が発生する前記第2の電荷信号として兼用し、前記sは1以上の自然数であり、前記第2の電荷信号として兼用する前記第1の電荷信号を出力する前記第1の光電変換素子の総数は、1以上で前記n以下の自然数であってもよい。
 本発明の第11の態様によれば、上記第10の態様の固体撮像装置において、前記mは前記nよりも小さく、前記sは2以上の自然数であり、前記m個の第2の読み出し回路のそれぞれは、対応する前記s個の前記第1の光電変換素子が発生した前記s個の前記第1の電荷信号を1つの単位として加算する加算回路、をさらに有し、前記検出回路は、前記加算回路によって加算された後の前記第1の電荷信号の変化を検出してもよい。
 本発明の第12の態様によれば、上記第1の態様から上記第6の態様のいずれか一態様の固体撮像装置において、前記n個の第1の光電変換素子のそれぞれは、光が入射する第1の半導体基板に周期的に配置され、前記m個の第2の光電変換素子のそれぞれは、前記第1の半導体基板に光が入射する側の面と反対側の面に積層される第2の半導体基板に周期的に配置され、前記第1の半導体基板を透過した光を光電変換した前記第2の電荷信号を発生してもよい。
 本発明の第13の態様によれば、上記第9の態様または上記第12の態様の固体撮像装置において、前記第2の読み出し回路のそれぞれは、t個の前記第2の光電変換素子を1つの単位とし、前記t個の前記第2の光電変換素子が発生したそれぞれの前記第2の電荷信号を加算する加算回路、をさらに有し、前記検出回路は、前記加算回路によって加算された後の前記第2の電荷信号の変化を検出し、前記tは2以上の自然数であってもよい。
 上記各態様によれば、被写体の動きを逐次検出する動き検出と通常の撮影とを両立する固体撮像装置において、消費電力の増大を抑えつつ、検出した被写体の動きを反映した高画質の画像を生成することができる固体撮像装置を提供することができる。
本発明の第1の実施形態における固体撮像装置の概略構成を示した概観図である。 本発明の第1の実施形態における固体撮像装置の概略構成を示したブロック図である。 本発明の第1の実施形態の固体撮像装置における画素の構成の一例を示した回路図である。 本発明の第1の実施形態の固体撮像装置における画素の構成の一例を示した回路図である。 本発明の第1の実施形態の固体撮像装置における画素の配置と画素信号を出力させる画素を指定する領域との一例を模式的に示した図である。 本発明の第1の実施形態の固体撮像装置において画素信号を出力する構成を示した図である。 本発明の第1の実施形態の固体撮像装置において画素信号を出力させる画素を指定する領域の一例を模式的に示した図である。 本発明の第1の実施形態の固体撮像装置において画素信号を出力させる画素を指定する領域の別の一例を模式的に示した図である。 本発明の第1の実施形態の固体撮像装置において画素信号を出力させる画素を指定する領域のさらに別の一例を模式的に示した図である。 本発明の第1の実施形態の固体撮像装置において画素信号を出力させる画素を指定する領域を決定する処理の処理手順を示したフローチャートである。 本発明の第1の実施形態の固体撮像装置において画素信号を出力させる画素を指定する領域を決定する別の処理の処理手順を示したフローチャートである。 本発明の第1の実施形態の固体撮像装置における画素の別の構成の一例を示した回路図である。 本発明の第1の実施形態の固体撮像装置において画素を駆動するタイミングの一例を示したタイミングチャートである。 本発明の第2の実施形態の固体撮像装置における画素の構成の一例を示した回路図である。 本発明の第2の実施形態の固体撮像装置において画素信号を出力する構成を示した図である。 本発明の第2の実施形態の固体撮像装置における画素信号の読み出しシーケンスを示したタイミングチャートである。 本発明の第3の実施形態の固体撮像装置における画素の構成の一例を示した回路図である。 本発明の第3の実施形態の固体撮像装置において画素信号を出力する構成を示した図である。 本発明の第3の実施形態の固体撮像装置における画素の配置の一例を模式的に示した図である。 本発明の第3の実施形態の固体撮像装置において画素信号を出力する別の構成を示した図である。 本発明の第4の実施形態の固体撮像装置において画素信号を出力する構成を示した図である。
(第1の実施形態)
 以下、本発明の実施形態について、図面を参照して説明する。図1は、本発明の第1の実施形態における固体撮像装置の概略構成を示した概観図である。第1の実施形態の固体撮像装置1は、複数の半導体基板を積層(接合)して構成する。図1において、固体撮像装置1は、第1の半導体基板11と、第2の半導体基板12とを、チップ接続部13によって接合している。
 固体撮像装置1は、固体撮像装置1の機能を実現するための回路を、第1の半導体基板11または第2の半導体基板12のいずれか一方の半導体基板上に形成する。固体撮像装置1の機能を実現するための回路は、入射してきた光(光線)を光電変換するフォトダイオードなどの光電変換素子、および光電変換素子が発生した電荷信号を読み出す読み出し回路を含む画素が二次元の行列状に複数配置された画素アレイ部、画素アレイ部内の画素を駆動するための駆動回路などがある。
 なお、固体撮像装置1の機能を実現するためのそれぞれの回路は、第1の半導体基板11または第2の半導体基板12のいずれか一方の半導体基板上に形成する構成のみではなく、第1の半導体基板11および第2の半導体基板12の両方の半導体基板上に形成する構成であってもよい。
 それぞれの半導体基板上に形成された固体撮像装置1の機能を実現するためのそれぞれの回路は、チップ接続部13によって電気的に接続する。そして、第1の半導体基板11に形成した回路と第2の半導体基板12に形成した回路とは、チップ接続部13を介して信号の送受信を行う。
 チップ接続部13は、例えば、蒸着法、めっき法で作製されるマイクロバンプなどを用いる。なお、それぞれの半導体基板上に形成された固体撮像装置1の機能を実現するためのそれぞれの回路を接続する方法は、マイクロバンプを用いた方法に限定されるものではなく、例えば、シリコン貫通電極(TSV:Through-Silicon-Via)を用いた方法であってもよい。
 次に、第1の実施形態の固体撮像装置1の構成の一例について説明する。図2は、本発明の第1の実施形態における固体撮像装置1の概略構成を示したブロック図である。図2において、固体撮像装置1は、制御回路10と、垂直走査回路20と、水平走査回路30と、複数の画素50が配置された画素アレイ部40とを備えている。また、制御回路10は、読み出しアドレス制御回路100を備えている。なお、図1に示した固体撮像装置1では、複数の画素50が、7行8列に2次元的に配置された画素アレイ部40の例を示している。
 画素アレイ部40内に配置されたそれぞれの画素50は、入射してきた光(光線)を光電変換した電荷信号を発生させる。画素アレイ部40内に配置された画素50には、通常の撮影による電荷信号を発生させる構成の画素50と、動き検出のための電荷信号を発生させる構成の画素50とがある。
 通常の撮影による電荷信号を発生させる構成の画素50は、垂直走査回路20から入力された制御信号に応じたAPS(Active Pixel Sensor)読み出し(以下、「通常読み出し」という)によって、発生させた電荷信号に応じた画素信号を行ごとに、垂直信号線60に出力する。そして、垂直信号線60に出力されたそれぞれの行の画素信号は、水平走査回路30による制御に応じて、固体撮像装置1の外部に出力される。すなわち、通常の撮影による電荷信号を発生させる構成の画素50の画素信号は、通常の撮影におけるフレームごとに、固体撮像装置1の外部に出力される。なお、以下の説明においては、通常の撮影による電荷信号を発生させる構成の画素50、つまり、通常の撮影の画素信号を出力する画素50を「通常画素51」という。
 また、通常画素51は、フレームごとに画素信号を順次、固体撮像装置1の外部に出力する以外にも、指定された通常画素51から画素信号を固体撮像装置1の外部に出力することができる。なお、画素信号を出力する通常画素51の指定は、制御回路10が、垂直走査回路20および水平走査回路30を制御することによって行う。また、このとき、画素信号を出力する通常画素51を指定する方法は、それぞれの通常画素51を直接指定する方法であっても、通常画素51が配置された領域を指定する方法であってもよい。
 動き検出のための電荷信号を発生させる構成の画素50は、AER(Address Event Representation)読み出し(以下、「動き検出読み出し」という)によって、電荷信号の時間的な変化および変化した方向を表すパルス信号を、垂直走査回路20による通常画素51の駆動とは同期せずに、つまり、非同期で出力する。このとき、動き検出のための電荷信号を発生させる構成の画素50は、画素50自身の位置を表すアドレス情報をパルス信号に付加し、画素信号として出力する。なお、以下の説明においては、動き検出のための電荷信号を発生させる構成の画素50、つまり、動き検出の画素信号を出力する画素50を「動き検出画素52」という。固体撮像装置1では、動き検出画素52は、動き検出の画素信号を、制御回路10に出力する。
 通常画素51および動き検出画素52のそれぞれを構成する回路要素は、第1の半導体基板11または第2の半導体基板12のいずれか一方または両方の半導体基板に形成し、チップ接続部13によって画素アレイ部40内で接続する。
 制御回路10は、垂直走査回路20、水平走査回路30を制御する。制御回路10は、通常読み出しによってそれぞれの通常画素51から1つのフレームの画素信号を出力する(読み出す)際には、垂直走査回路20および水平走査回路30が、それぞれの通常画素51を順次駆動するように制御する。また、制御回路10は、通常画素51を指定して画素信号を出力する(読み出す)際には、垂直走査回路20および水平走査回路30が、画素アレイ部40内の指定した位置に配置された通常画素51を駆動するように制御する。なお、制御回路10では、通常画素51を指定して画素信号を出力する(読み出す)際の通常画素51の指定を、読み出しアドレス制御回路100が制御する。
 読み出しアドレス制御回路100は、画素アレイ部40内に配置されたそれぞれの動き検出画素52から出力された動き検出の画素信号に含まれるアドレス情報に基づいて、通常の撮影の画素信号を出力する(読み出す)通常画素51を指定する。このとき、読み出しアドレス制御回路100は、アドレス情報が表している動き検出画素52が配置された位置を中心とした予め定めた領域(以下、「読み出し領域」という)に配置されている通常画素51を指定する。なお、読み出しアドレス制御回路100によって通常の撮影の画素信号を出力する際に通常画素51を指定する方法に関する詳細な説明は、後述する。
 垂直走査回路20は、制御回路10からの制御に応じて、画素アレイ部40内のそれぞれの通常画素51を制御し、それぞれの通常画素51の画素信号を垂直信号線60に出力させる駆動回路である。垂直走査回路20は、制御回路10によって1つのフレームの画素信号を出力する(読み出す)ためにそれぞれの通常画素51を順次駆動するように制御されると、通常画素51を駆動するための制御信号を、画素アレイ部40に備えた通常画素51の行ごとに出力する。また、垂直走査回路20は、制御回路10、つまり、読み出しアドレス制御回路100によって駆動する通常画素51が指定されると、指定された通常画素51が配置されている画素アレイ部40の行に、通常画素51を駆動するための制御信号を出力する。
 水平走査回路30は、画素アレイ部40に備えたそれぞれの通常画素51から出力されたそれぞれの行の画素信号を、固体撮像装置1の外部に出力させる駆動回路である。水平走査回路30は、制御回路10によって1つのフレームの画素信号を出力する(読み出す)ためにそれぞれの通常画素51を順次駆動するように制御されると、それぞれの通常画素51から行ごとに出力された画素信号を、画素アレイ部40に備えた通常画素51の列ごとに順次出力する。また、水平走査回路30は、制御回路10、つまり、読み出しアドレス制御回路100によって駆動する通常画素51が指定されると、指定された通常画素51が配置されている画素アレイ部40の列の画素信号を出力する。
 次に、第1の実施形態の固体撮像装置1において画素アレイ部40内に配置する通常画素51および動き検出画素52の構成について説明する。図3Aおよび図3Bは、本発明の第1の実施形態の固体撮像装置1における画素50(通常画素51および動き検出画素52)の構成の一例を示した回路図である。図3Aには、固体撮像装置1の画素アレイ部40内に配置する通常画素51の構成の一例を示し、図3Bには、固体撮像装置1の画素アレイ部40内に配置する動き検出画素52の構成の一例を示している。
 まず、図3Aを用いて、通常画素51の構成を説明する。図3Aにおいて、通常画素51は、光電変換素子PD1と、電荷転送トランジスタ511、画素リセットトランジスタ512、増幅トランジスタ513、および選択トランジスタ514とを備えている。なお、図3Aにおいては、通常画素51に備えた増幅トランジスタ513のゲート端子に接続されたノードに付随する容量であるノード容量FD1を、通常画素51の回路要素としてキャパシタの記号で示している。
 通常画素51においては、電荷転送トランジスタ511、画素リセットトランジスタ512、増幅トランジスタ513、および選択トランジスタ514と、ノード容量FD1とで、光電変換素子PD1が発生させた電荷信号に応じた画素信号を読み出す読み出し回路を構成している。固体撮像装置1では、光電変換素子PD1と読み出し回路とを、第1の半導体基板11に形成する。
 光電変換素子PD1は、入射してきた光(光線)を光電変換して電荷信号を発生させ、発生させた電荷信号を蓄積するフォトダイオードである。
 電荷転送トランジスタ511は、垂直走査回路20から入力された制御信号TXに応じて、光電変換素子PD1が発生して蓄積した電荷信号を、増幅トランジスタ513のゲート端子に転送する。これにより、電荷転送トランジスタ511によって転送された電荷信号が、ノード容量FD1に蓄積される。
 増幅トランジスタ513は、ゲート端子に転送された電荷信号、すなわち、ノード容量FD1に蓄積された電荷信号に応じた信号電圧を、選択トランジスタ514に出力する。
 画素リセットトランジスタ512は、垂直走査回路20から入力された制御信号RSTに応じて、通常画素51内の電荷信号を、電源電圧VDDにリセットする。
 選択トランジスタ514は、垂直走査回路20から入力された制御信号SELに応じて、増幅トランジスタ513から出力される信号電圧を、通常画素51の画素信号として垂直信号線60に出力する。これにより、通常画素51に備えた光電変換素子PD1が発生した電荷信号に応じた画素信号が、垂直信号線60に読み出される。
 このような構成によって、通常画素51では、光電変換素子PD1が入射した光を光電変換した電荷信号に応じたそれぞれの信号電圧を、画素信号として垂直信号線60に読み出す。
 続いて、図3Bを用いて、動き検出画素52の構成を説明する。図3Bにおいて、動き検出画素52は、光電変換素子PD2と、アンプ521と、バイアストランジスタ522と、スイッチトキャパシタアンプ回路523と、スレッショルドアンプ524およびスレッショルドアンプ525と、AER回路526とを備えている。また、スイッチトキャパシタアンプ回路523は、キャパシタ5231と、アンプ5232と、キャパシタ5233と、スイッチ5234とを備えている。
 動き検出画素52においては、アンプ521およびバイアストランジスタ522で、光電変換素子PD2が発生させた電荷信号を出力する出力回路を構成している。また、動き検出画素52においては、スイッチトキャパシタアンプ回路523、スレッショルドアンプ524、スレッショルドアンプ525、およびAER回路526で、光電変換素子PD2が発生させた電荷信号を読み出す読み出し回路を構成している。固体撮像装置1では、光電変換素子PD2および出力回路を第1の半導体基板11に形成し、読み出し回路を第2の半導体基板12に形成する。
 光電変換素子PD2は、通常画素51に備えた光電変換素子PD1と同様に、入射してきた光(光線)を光電変換して電荷信号を発生させ、発生させた電荷信号を蓄積するフォトダイオードである。光電変換素子PD2は、発生させた電荷信号を逐次、アンプ521に出力する。
 アンプ521は、光電変換素子PD2が発生して出力した電荷信号を、増幅する。アンプ521は、増幅した電荷信号を、チップ接続部13を介してスイッチトキャパシタアンプ回路523に出力する。これにより、光電変換素子PD2が発生する電荷信号の変化が、スイッチトキャパシタアンプ回路523に入力される。また、アンプ521は、増幅した電荷信号を、バイアストランジスタ522のゲート端子に転送する。
 バイアストランジスタ522は、ゲート端子に転送された電荷信号に応じて光電変換素子PD2に流れる電流が一定の電流になるように制御する。これにより、光電変換素子PD2が発生する電荷信号が変化した場合、電荷信号の大きさが逐次、変化した後の大きさで安定する。つまり、光電変換素子PD2の出力がクリップされる。
 スイッチトキャパシタアンプ回路523は、アンプ521からチップ接続部13を介して入力された電荷信号の変化、つまり、光電変換素子PD2が発生する電荷信号の増減を、予め定めた電圧の範囲の電圧信号に変換し、スレッショルドアンプ524およびスレッショルドアンプ525のそれぞれに出力する。また、スイッチトキャパシタアンプ回路523の動作は、AER回路526によってリセットされる。
 より具体的には、アンプ521からチップ接続部13を介して入力された電荷信号は、キャパシタ5231の第1の端子に入力されて蓄積される。これにより、キャパシタ5231の第2の端子から、蓄積した電荷信号に応じた電圧の電圧信号が出力されてアンプ5232に出力される。
 アンプ5232は、入力された電圧信号の電圧を増幅し、増幅した電圧信号を、スイッチトキャパシタアンプ回路523の出力としてスレッショルドアンプ524およびスレッショルドアンプ525のそれぞれにて出力する。また、アンプ5232が出力した電圧信号は、キャパシタ5233の第1の端子に入力されて蓄積される。これにより、キャパシタ5233の第2の端子から、蓄積した電圧信号に応じた電圧の信号が、フィードバック信号としてアンプ5232に出力される。そして、アンプ5232は、フィードバック信号の電圧に応じた一定の電圧の電圧信号を出力し続ける。つまり、アンプ5232は、アンプ521からチップ接続部13を介してスイッチトキャパシタアンプ回路523に入力された電荷信号に応じた電圧の電圧信号を、スレッショルドアンプ524およびスレッショルドアンプ525のそれぞれに出力し続ける。ここで、アンプ5232がスレッショルドアンプ524およびスレッショルドアンプ525のそれぞれに出力する電圧信号は、光電変換素子PD2が発生する電荷信号が増減した大きさを表す電圧の信号である。
 また、アンプ5232の出力端子(キャパシタ5233の第1の端子でもある)は、スイッチ5234の第1の端子に接続し、アンプ5232の入力端子(キャパシタ5233の第2の端子でもある)は、スイッチ5234の第2の端子に接続している。そして、スイッチ5234は、AER回路526から出力され、制御端子に入力されるリセット信号によって短絡と開放とが制御される。スイッチ5234は、AER回路526から出力されたリセット信号によって短絡するように制御されると、第1の端子と第2の端子とを短絡する。これにより、キャパシタ5233の両方の端子が短絡されて、キャパシタ5233の両方の端子の電圧が同じ電圧なってリセットされると共に、アンプ5232による電圧信号の増幅動作もリセットされる。
 なお、図3Bには、キャパシタ5231、アンプ5232、キャパシタ5233、およびスイッチ5234によって構成したスイッチトキャパシタアンプ回路523を示したが、スイッチトキャパシタアンプ回路523の構成は、図3Bに示した構成に限定されるものではない。
 スレッショルドアンプ524およびスレッショルドアンプ525のそれぞれは、スイッチトキャパシタアンプ回路523内のアンプ5232から入力された電圧信号の電圧の変化と、変化した方向とを検出する。
 より具体的には、スレッショルドアンプ524およびスレッショルドアンプ525のそれぞれは、スイッチトキャパシタアンプ回路523内のアンプ5232から入力された電圧信号の電圧と、予め定めた閾値電圧(スレッショルド電圧)とを比較する。そして、スレッショルドアンプ524およびスレッショルドアンプ525のそれぞれは、入力された電圧信号の電圧がスレッショルド電圧を超えた場合に、スレッショルド電圧を超えた変化があることを表すイベント信号を、AER回路526に出力する。
 なお、スレッショルドアンプ524およびスレッショルドアンプ525のそれぞれには、予め定めた正方向の電圧または負方向の電圧のいずれか一方の電圧が、スレッショルド電圧として設定されている。図3Bに示した構成では、スレッショルドアンプ524に、予め定めた電圧値の正方向の電圧がスレッショルド電圧として設定され、スレッショルドアンプ525に、予め定めた電圧値の負方向の電圧がスレッショルド電圧として設定されている。このため、スレッショルドアンプ524は、アンプ5232から入力された電圧信号の電圧が、正方向のスレッショルド電圧よりも多く正方向(増加する方向)に変化したか否かを検出する。また、スレッショルドアンプ525は、アンプ5232から入力された電圧信号の電圧が、負方向のスレッショルド電圧よりも多く負方向(減少する方向)に変化したか否かを検出する。
 このように、スレッショルドアンプ524とスレッショルドアンプ525との構成によって、スイッチトキャパシタアンプ回路523によって予め定めた電圧の範囲に変換された電圧信号のスレッショルド電圧を超える変化および変化した方向とを検出する。これは、光電変換素子PD2が発生した電荷信号の予め定めた閾値を超えた変化および変化した方向を検出することに相当する。そして、スレッショルドアンプ524およびスレッショルドアンプ525のそれぞれがAER回路526に出力するイベント信号が、光電変換素子PD2が発生した電荷信号の変化と変化した方向(正方向または負方向)とを表している。つまり、スレッショルドアンプ524がイベント信号を出力した場合には、光電変換素子PD2が発生した電荷信号に、正方向の予め定めた閾値を超える変化があったことを表し、スレッショルドアンプ525がイベント信号を出力した場合には、光電変換素子PD2が発生した電荷信号に、負方向の予め定めた閾値を超える変化があったことを表している。
 なお、図3Bに示した構成では、スイッチトキャパシタアンプ回路523と、スレッショルドアンプ524およびスレッショルドアンプ525との構成によって、光電変換素子PD2が発生した電荷信号の時間的な変化を検出している。しかし、光電変換素子PD2が発生した電荷信号の時間的な変化を検出する構成は、図3Bに示した構成に限定されるものではない。例えば、スレッショルドアンプ524とスレッショルドアンプ525とによって、光電変換素子PD2が発生した電荷信号の時間的な変化を検出する構成にしてもよい。
 AER回路526は、スレッショルドアンプ524とスレッショルドアンプ525とのそれぞれから入力されたイベント信号に基づいて、光電変換素子PD2が発生させた電荷信号が正方向または負方向のいずれの方向に変化したか、つまり、電荷信号の大きさの増減を判定する。そして、AER回路526は、判定した結果を表すパルス信号を生成する。例えば、光電変換素子PD2が発生させた電荷信号が正方向(増加する方向)に変化した場合に正方向のパルス信号を生成し、光電変換素子PD2が発生させた電荷信号が負方向(減少する方向)に変化した場合に負方向のパルス信号を生成する。そして、AER回路526は、生成したパルス信号に、動き検出画素52自身の位置を表すアドレス情報を付加し、画素信号として出力する。なお、以下の説明においては、通常画素51が出力する画素信号と区別するため、AER回路526、すなわち、動き検出画素52が出力する画素信号を、「イベント画素信号」という。
 このような構成によって、動き検出画素52では、光電変換素子PD2が入射した光を光電変換した電荷信号の変化とその変化した方向とを検出し、検出した情報と、動き検出画素52の位置を表すアドレス情報とを、動き検出画素52ごとに出力する。
 そして、固体撮像装置1では、読み出しアドレス制御回路100が、動き検出画素52から出力されたイベント画素信号に含まれるアドレス情報に基づいて、アドレス情報に表された動き検出画素52、つまり、被写体の動きを検出した動き検出画素52が配置された位置を中心とした予め定めた読み出し領域に配置されている通常画素51から画素信号を出力する(読み出す)。
 なお、動き検出画素52は、上述したように、それぞれの動き検出画素52ごとにイベント画素信号を読み出しアドレス制御回路100に出力するが、それぞれの動き検出画素52がイベント画素信号を読み出しアドレス制御回路100に出力する構成は限定しない。例えば、それぞれの動き検出画素52が、水平走査回路30を介してイベント画素信号を出力する構成であってもよい。
 また、動き検出画素52では、AER回路526が、生成したパルス信号にアドレス情報を付加することによって、イベント画素信号として出力する構成を示したが、パルス信号にアドレス情報を付加する構成は、AER回路526に限定されるものではない。例えば、固体撮像装置1に備えた不図示の構成要素が、それぞれの動き検出画素52に備えたAER回路526が出力したパルス信号に、パルス信号を出力した動き検出画素52の位置を表すアドレス情報を付加し、イベント画素信号として出力する構成であってもよい。
 また、動き検出画素52では、スイッチトキャパシタアンプ回路523によって、光電変換素子PD2が発生した電荷信号を増幅してから予め定めた電圧の範囲の電圧信号に変換する構成を示した。しかし、動き検出画素52において、光電変換素子PD2が発生した電荷信号を予め定めた電圧の範囲の電圧信号に変換する構成は、スイッチトキャパシタアンプ回路523による構成に限定しない。例えば、動き検出画素52を、スイッチトキャパシタアンプ回路523に備えたアンプ5232を備えない構成、いわゆる、スイッチトキャパシタ回路によって、光電変換素子PD2が発生した電荷信号を予め定めた電圧の範囲の電圧信号に変換する構成にしてもよい。この場合、動き検出画素52は、スイッチトキャパシタ回路と、スレッショルドアンプ524およびスレッショルドアンプ525との構成によって、光電変換素子PD2が発生した電荷信号の時間的な変化を検出してもよい。
 次に、第1の実施形態の固体撮像装置1における画素アレイ部40内の通常画素51および動き検出画素52の配置の一例と、画素信号を出力させる通常画素51の指定方法について説明する。図4は、本発明の第1の実施形態の固体撮像装置1における画素50(通常画素51および動き検出画素52)の配置と画素信号を出力させる画素50(通常画素51)を指定する領域(読み出し領域)との一例を模式的に示した図である。図4には、固体撮像装置1を構成する第1の半導体基板11の画素アレイ部40の領域内に画素50(通常画素51および動き検出画素52)を配置した一例を示している。
 固体撮像装置1においては、画素50、つまり、通常画素51と動き検出画素52とを平面状に配置する。このとき、固体撮像装置1では、上述したように、通常画素51を第1の半導体基板11に形成し、動き検出画素52を第1の半導体基板11と第2の半導体基板12とに分けて形成する。
 より具体的には、図4に示したように、第1の半導体基板11の画素アレイ部40の平面の領域には、通常画素51(光電変換素子PD1および読み出し回路)と動き検出画素52の光電変換素子PD2および出力回路とを、行方向および列方向に周期的に配置する。このとき、通常画素51は、図4に示したように、動き検出画素52よりも多く配置する。なお、図4では、通常画素51を画素アレイ部40の平面の領域全体に均一に配置し、予め定めた間隔ごと(図4では、4個の通常画素51ごと)に、通常画素51を動き検出画素52の光電変換素子PD2および出力回路に置き換えたような配置にしている。
 なお、第2の半導体基板12の画素アレイ部40の平面の領域には、第1の半導体基板11に配置した動き検出画素52の光電変換素子PD2および出力回路に対応する動き検出画素52の読み出し回路を、画素アレイ部40の平面の領域全体に均一に配置する。このとき、動き検出画素52の読み出し回路は、第1の半導体基板11に配置した通常画素51に対応する第2の半導体基板12の画素アレイ部40の平面の領域を含めて形成する。つまり、固体撮像装置1では、通常画素51よりも多くの回路要素から構成されるため形成する際に多くの領域を必要とする動き検出画素52を、通常画素51を形成するために使用していない第2の半導体基板12の領域を利用して形成する。より具体的には、通常画素51に光が入射する側の面と反対側の面に積層された第2の半導体基板12において、第1の半導体基板11に形成された通常画素51の領域と重複している領域を含めて動き検出画素52の読み出し回路を形成する。そして、第1の半導体基板11に形成した出力回路と、第2の半導体基板12に形成した読み出し回路とを、チップ接続部13によって電気的に接続する。
 なお、図4に示したように、固体撮像装置1では、通常画素51を動き検出画素52よりも多く配置している。つまり、固体撮像装置1においては、画素アレイ部40内に配置する動き検出画素52の数は、通常画素51の数よりも少ない。しかし、被写体の動きの検出では、通常の撮影において生成する画像ほど高い解像度、つまり、高画質は要求されない。むしろ、被写体の動きを逐次検出する動き検出では、動き検出画素52の光電変換素子PD2が、短い時間であっても電荷信号を発生して動き検出を行えることが望ましい。一方、固体撮像装置1では、画素アレイ部40に備える通常画素51の数を増加させることによって、通常の撮影において高画素化を実現することが望ましい。固体撮像装置1では、画素アレイ部40内に配置する通常画素51の数をさらに多くすることによって、通常の撮影において生成する画像の画質を向上させる、つまり、高精細な出力を得る構成にすることもできる。より具体的には、固体撮像装置1では、通常の撮影による画素信号の出力に特化した通常画素51と、動き検出によるイベント画素信号の出力に特化した動き検出画素52とのそれぞれを画素アレイ部40内に形成するため、通常画素51をより高精細化して、図4に示した配置の一例よりもさらに多くの通常画素51を配置する構成にしてもよい。
 固体撮像装置1では、図4に示したように配置されたいずれかの動き検出画素52から、制御回路10内の読み出しアドレス制御回路100にイベント画素信号が入力されると、読み出しアドレス制御回路100は、イベント画素信号に含まれるアドレス情報に基づいて、イベント画素信号を出力した動き検出画素52の位置を中心とした予め定めた周辺の領域(読み出し領域)に配置されている通常画素51から画素信号を出力する(読み出す)。例えば、図4に示した画素50(通常画素51および動き検出画素52)の配置の一例において、6行7列目に配置された動き検出画素52aから、読み出しアドレス制御回路100にイベント画素信号が入力されると、読み出しアドレス制御回路100は、動き検出画素52aの位置を中心とした周辺の予め定めた5行5列の矩形の読み出し領域ar1内に配置されている通常画素51から画素信号を出力する(読み出す)。
 なお、固体撮像装置1では、通常画素51は、予め定めた周期(フレームレート)で通常の撮影のための露光を行っている。つまり、通常画素51は、光電変換素子PD1による入射してきた光(光線)の光電変換と、電荷転送トランジスタ511による光電変換素子PD1が発生させた電荷信号のノード容量FD1への転送と、画素リセットトランジスタ512によるノード容量FD1に蓄積された電荷信号のリセットとを、周期的に繰り返している。従って、読み出しアドレス制御回路100が、読み出し領域ar1内の通常画素51を、画素信号を出力する(読み出す)通常画素51として指定した場合には、指定された通常画素51は、周期的に行っている直近の露光によって得た電荷信号に応じた信号電圧を、画素信号として出力する(読み出す)。なお、直近の露光とは、通常画素51が、読み出しアドレス制御回路100に指定されたときにすでに終了している直前の露光であってもよいし、読み出しアドレス制御回路100に指定されたあとに終了する直後の露光であってもよい。従って、以下の説明においては、指定された通常画素51が出力する画素信号を得るための露光のタイミングに関しては、特に規定しない。
(第1の画素指定方法)
 次に、第1の実施形態の固体撮像装置1における通常画素51の指定方法について説明する。図5は、本発明の第1の実施形態の固体撮像装置1において画素信号を出力する構成を示した図である。図5には、固体撮像装置1において通常画素51と動き検出画素52とが図4に示したように配置されている場合における画素アレイ部40の一部の縦構造と、制御回路10に備えた読み出しアドレス制御回路100とを示している。より具体的には、第1の半導体基板11に形成された通常画素51と、第1の半導体基板11および第2の半導体基板12に形成された動き検出画素52と、読み出しアドレス制御回路100との間でやり取りされるそれぞれの信号を示している。
 上述したように、固体撮像装置1では、通常画素51の光電変換素子PD1と読み出し回路とを、第1の半導体基板11に形成する。図5には、通常画素51の光電変換素子PD1と、通常画素51の読み出し回路に備えた選択トランジスタ514とを第1の半導体基板11に形成している状態を示している。
 また、上述したように、固体撮像装置1では、動き検出画素52の光電変換素子PD2および出力回路を第1の半導体基板11に形成し、読み出し回路を第2の半導体基板12に形成する。図5には、動き検出画素52の光電変換素子PD2と出力回路に備えたアンプ521とを第1の半導体基板11に形成し、動き検出画素52の読み出し回路に備えたスイッチトキャパシタアンプ回路523とAER回路526とを第2の半導体基板12に形成している状態を示している。
 このとき、固体撮像装置1では、動き検出画素52の読み出し回路を、第1の半導体基板11に形成された通常画素51の領域と重複している領域を含めた第2の半導体基板12の領域に形成する。図5には、動き検出画素52の読み出し回路に備えたスイッチトキャパシタアンプ回路523とAER回路526とを、第1の半導体基板11に形成された通常画素51の領域と重複している領域を含めた第2の半導体基板12の領域に形成している状態を示している。
 そして、上述したように、固体撮像装置1では、動き検出画素52の出力回路と、対応する動き検出画素52の読み出し回路とを、第1の半導体基板11と第2の半導体基板12との間に形成するチップ接続部13によって電気的に接続する。図5には、第1の半導体基板11に形成した動き検出画素52の出力回路に備えたアンプ521と、第2の半導体基板12に形成した動き検出画素52の読み出し回路に備えたスイッチトキャパシタアンプ回路523とを、チップ接続部13によって接続している状態を示している。
 そして、上述したように、固体撮像装置1では、第2の半導体基板12に形成された動き検出画素52のAER回路526は、光電変換素子PD2が発生した電荷信号の時間的な変化を検出したとき、イベント画素信号を、読み出しアドレス制御回路100に出力する。
 読み出しアドレス制御回路100は、イベント画素信号が入力されると、入力されたイベント画素信号に含まれるアドレス情報から、イベント画素信号を出力した動き検出画素52の位置を検出(確認)する。例えば、図4に示した動き検出画素52aからイベント画素信号が入力されると、読み出しアドレス制御回路100は、イベント画素信号に含まれるアドレス情報から、イベント画素信号を出力した動き検出画素52が、6行7列目に配置された動き検出画素52aであると検出(確認)する。
 そして、読み出しアドレス制御回路100は、検出(確認)した動き検出画素52の位置を中心とした予め定めた領域に配置されている通常画素51の領域を、読み出し領域として決定する。そして、読み出しアドレス制御回路100は、決定した読み出し領域内に配置されている通常画素51を指定するための制御信号を、垂直走査回路20および水平走査回路30に出力する。例えば、図4に示した動き検出画素52aの位置を中心とした5行5列の矩形の読み出し領域ar1を、通常画素51から画素信号を出力する(読み出す)読み出し領域に決定し、読み出し領域ar1内に配置されている通常画素51を指定するための制御信号を、垂直走査回路20および水平走査回路30に出力する。
 これにより、垂直走査回路20および水平走査回路30のそれぞれは、指定された通常画素51を順次駆動して、読み出しアドレス制御回路100によって指定された通常画素51から画素信号を出力する(読み出す)。例えば、垂直走査回路20および水平走査回路30のそれぞれは、図4に示した読み出し領域ar1内に配置されている通常画素51を指定するための制御信号が入力されると、読み出し領域ar1内の通常画素51を順次駆動して、読み出し領域ar1内に配置されているそれぞれの通常画素51から画素信号を出力する(読み出す)。
 このように、固体撮像装置1では、通常の撮影による画素信号の出力に特化した通常画素51と、動き検出によるイベント画素信号の出力に特化した動き検出画素52とのそれぞれを画素アレイ部40内に配置することによって、被写体の動きを逐次検出する動き検出と通常の撮影とを両立する。このとき、固体撮像装置1では、通常の撮影においてフレーム単位で画素信号を順次読み出す通常読み出しとは関係しない非同期のタイミングで、逐次被写体の動きを検出する動き検出を行う、つまり、通常読み出しと動き検出読み出しとを同時期に行うことができる。そして、固体撮像装置1では、図4に示した通常画素51と動き検出画素52との配置の一例のように、画素アレイ部40内に配置する通常画素51の数を、動き検出画素52よりも多くしている。言い換えれば、固体撮像装置1では、画素アレイ部40内に配置する動き検出画素52を、第1の半導体基板11と第2の半導体基板12とに分けて形成することによって、画素アレイ部40内に配置する通常画素51の数を多くしている。このため、固体撮像装置1を搭載した撮像システムでは、固体撮像装置1から出力された通常の撮影におけるそれぞれの画素信号に基づいて画像を生成する画像処理部は、より高解像度の画像、つまり、高画質の画像を生成することができる。
 なお、固体撮像装置1を搭載した撮像システムに備えた画像処理部は、それぞれの画素信号に基づいた画像を生成する際に、固体撮像装置1において動き検出画素52が配置されている位置の画素信号、つまり、欠けている画素の画素信号を補間することによって、全ての画素の画素信号が含まれた画像を生成する。より具体的には、通常画素51から通常読み出しによって読み出した画素信号から画像を生成する場合、動き検出画素52が配置されている位置に対応する通常画素51の画素信号を、周辺の通常画素51の画素信号に基づいて補間する。なお、本発明においては、画像処理部が、動き検出画素52が配置されている位置に対応するそれぞれの通常画素51の画素信号を補間する方法(画素の補間演算の方法)に関しては、特に規定しない。
 また、固体撮像装置1では、動き検出画素52からイベント画素信号が出力されたときに、第1の画素指定方法のように、イベント画素信号を出力した動き検出画素52の位置を中心とした予め定めた読み出し領域内に配置された通常画素51から画素信号を出力する(読み出す)。つまり、固体撮像装置1では、被写体の動きを検出した動き検出画素52が配置された位置を中心とした予め定めた小さな読み出し領域に配置されている通常画素51のみから通常の撮影の画素信号を出力する(読み出す)。これにより、固体撮像装置1では、従来の固体撮像装置のように、被写体の動きを反映した画像を生成するために通常の撮影で得た全ての画素信号を読み出すのに比べて、消費電力を削減することができる。
 なお、固体撮像装置1を搭載した撮像システムに備えた画像処理部は、第1の画素指定方法によって出力された(読み出された)被写体の動きが検出された小さな読み出し領域の画素信号に基づいて、被写体の動きを反映した画像を生成する。つまり、画像処理部は、すでに固体撮像装置1から取得している1フレーム分の画素信号の内、動きが検出された小さな読み出し領域に対応する少ない数の画素信号を差し替えて画像を生成することにより、被写体の動きを反映した画像を生成する。
 なお、第1の画素指定方法では、1個の動き検出画素52がイベント画素信号を出力したときに、イベント画素信号を出力した動き検出画素52が配置された位置に基づいて、画素信号を読み出す通常画素51を指定する方法を示した。しかし、上述したように、固体撮像装置1では、被写体の動きを検出する動き検出を逐次行うことができる。このため、同時期に複数の動き検出画素52が被写体の動きを検出することも考えられる。
 ここで、同時期に複数の動き検出画素52からイベント画素信号が出力された場合に、読み出しアドレス制御回路100が画素信号を出力する(読み出す)読み出し領域を決定する方法について説明する。図6は、本発明の第1の実施形態の固体撮像装置1において画素信号を出力させる画素50(通常画素51)を指定する領域(読み出し領域)の一例を模式的に示した図である。図6には、図4に示したように固体撮像装置1を構成する第1の半導体基板11の画素アレイ部40の領域内に画素50(通常画素51および動き検出画素52)が配置される場合において、複数の動き検出画素52から同時期にイベント画素信号が出力された場合に画素信号を出力させる通常画素51が配置された読み出し領域を決定する方法の一例を示している。
 図6に示した画素50(通常画素51および動き検出画素52)の配置の一例において、6行7列目に配置された動き検出画素52aと、2行7列目に配置された動き検出画素52bと、2行11列目に配置された動き検出画素52cと、6行11列目に配置された動き検出画素52dとのそれぞれから、同時期にイベント画素信号が出力された場合を考える。この場合、読み出しアドレス制御回路100は、動き検出画素52aの位置を中心として予め定めた5行5列の矩形の読み出し領域ar1と、動き検出画素52bの位置を中心として予め定めた5行5列の矩形の読み出し領域ar2と、動き検出画素52cの位置を中心として予め定めた5行5列の矩形の読み出し領域ar3と、動き検出画素52dの位置を中心として予め定めた5行5列の矩形の読み出し領域ar4とのそれぞれの読み出し領域を決定する。
 しかし、図6に示したように読み出し領域ar1と、読み出し領域ar2と、読み出し領域ar3と、読み出し領域ar4とのそれぞれの読み出し領域には、隣接する読み出し領域同士に同じ通常画素51も含まれている。つまり、互いの読み出し領域内に配置されている通常画素51が重複している。このような場合、読み出しアドレス制御回路100は、互いの読み出し領域で重複している通常画素51から重複して画素信号を読み出さないよう、画素信号を読み出す読み出し領域を決定する。より具体的には、図6に示したように、イベント画素信号を出力した全ての動き検出画素52に対応する全ての矩形の読み出し領域(読み出し領域ar1~読み出し領域ar4)が含まれる矩形の読み出し領域ar5を、通常画素51から画素信号を出力する(読み出す)読み出し領域として決定する。そして、読み出しアドレス制御回路100は、読み出し領域ar5内に配置されている通常画素51を指定するための制御信号を、垂直走査回路20および水平走査回路30に出力する。
 これにより、垂直走査回路20および水平走査回路30のそれぞれは、指定された読み出し領域ar5内の通常画素51を順次駆動して、読み出し領域ar5内に配置されているそれぞれの通常画素51から画素信号を出力する(読み出す)。
 このように、固体撮像装置1では、同時期に複数の動き検出画素52からイベント画素信号が出力された場合、第1の画素指定方法において、読み出しアドレス制御回路100は、イベント画素信号を出力したそれぞれの動き検出画素52が配置された位置に応じて、画素信号を読み出す通常画素51を指定する読み出し領域を決定する。これにより、固体撮像装置1では、重複する通常画素51から画素信号を複数回出力する(読み出す)ことなく、消費電力を削減することができる。
 なお、第1の画素指定方法では、通常画素51から画素信号を出力する(読み出す)予め定めた読み出し領域が、イベント画素信号を出力した動き検出画素52aの位置を中心とした5行5列の矩形の読み出し領域である場合について説明した。しかし、通常画素51から画素信号を出力する(読み出す)予め定めた読み出し領域の大きさは、上述した5行5列に限定されるものではなく、画素アレイ部40内の通常画素51と動き検出画素52との配置などに応じて、種々の大きさ(行列の数)が考えられる。また、それぞれの読み出し領域は、隣接する読み出し領域同士で重複している読み出し領域、つまり、同じ通常画素51を含んだ読み出し領域に限定しない。
 なお、第1の画素指定方法では、1個の動き検出画素52または複数の動き検出画素52がイベント画素信号を出力したときに、イベント画素信号を出力した動き検出画素52が配置された位置に基づいて、画素信号を読み出す通常画素51を指定する矩形の読み出し領域を決定する場合について説明した。しかし、イベント画素信号を出力する動き検出画素52が配置された位置は、常に容易に矩形の読み出し領域を決定することができる位置に配置されているとは限らない。特に、同時期に複数の動き検出画素52からイベント画素信号が出力された場合には、イベント画素信号を出力した動き検出画素52が配置された位置によっては、図6に示したように、容易に矩形の読み出し領域を決定することができる位置に配置されているとは限らない。そこで、読み出しアドレス制御回路100は、イベント画素信号を出力したそれぞれの動き検出画素52が配置された位置に応じて、画素信号を読み出す通常画素51を指定する読み出し領域を決定する方法を変更する構成にしてもよい。
(第2の画素指定方法)
 次に、第1の実施形態の固体撮像装置1における通常画素51の別の指定方法について説明する。図7は、本発明の第1の実施形態の固体撮像装置1において画素信号を出力させる画素50(通常画素51)を指定する領域(読み出し領域)の別の一例を模式的に示した図である。図7には、固体撮像装置1を構成する第1の半導体基板11の画素アレイ部40の領域内に画素50(通常画素51および動き検出画素52)が配置されている場合において、複数の動き検出画素52から同時期にイベント画素信号が出力された場合に画素信号を出力させる通常画素51が配置された読み出し領域を決定する方法の一例を示している。
 なお、図7において、動き検出画素分布D1は、画素アレイ部40の全体の領域内に配置された複数の動き検出画素52の内、同時期にイベント画素信号を出力した動き検出画素52が分布している範囲を表している。従って、動き検出画素分布D1の領域は、読み出しアドレス制御回路100が画素信号を読み出す通常画素51を指定する最小の読み出し領域に相当する。
 図7に示した動き検出画素分布D1のように、イベント画素信号を出力したそれぞれの動き検出画素52に対応する矩形の読み出し領域(以下、それぞれの動き検出画素52に対応する矩形の読み出し領域を区別せずに表すときは「読み出し領域ar」という)を複数組み合わせることによって、画素信号を読み出す通常画素51を指定することができる場合を考える。この場合、読み出しアドレス制御回路100が、第1の画素指定方法の考え方に基づいて、それぞれの読み出し領域arで重複する通常画素51を除いた領域を読み出し領域として決定しても、実際に動き検出画素分布D1の領域に配置されている通常画素51を読み出しアドレス制御回路100が指定するには、その指定方法が複雑になる。つまり、効率的にそれぞれの通常画素51から画素信号を読み出すためには、それぞれの読み出し領域ar内に配置されている通常画素51を指定するための制御信号を出力するタイミングを考慮して制御することが必要になる。例えば、読み出しアドレス制御回路100が、それぞれの通常画素51から画素信号を読み出すために、それぞれの読み出し領域ar内に配置されている通常画素51を指定するための制御信号を出力するタイミングを考慮することも必要になる。このため、動き検出画素分布D1のように複雑な形状に分布した動き検出画素52に対応する読み出し領域ar内に配置されたそれぞれの通常画素51から、効率的に画素信号を読み出すことができないことも考えられる。
 そこで、読み出しアドレス制御回路100における第2の画素指定方法では、動き検出画素分布D1を包含する矩形の領域を、通常画素51から画素信号を出力する(読み出す)読み出し領域として決定する。より具体的には、第2の画素指定方法では、イベント画素信号を出力した全ての動き検出画素52に対応する全ての矩形の読み出し領域arが含まれる矩形の読み出し領域ar6を、通常画素51から画素信号を出力する(読み出す)読み出し領域として決定する。この場合、読み出しアドレス制御回路100は、例えば、それぞれの動き検出画素52に対応した矩形の読み出し領域arから、全ての矩形の読み出し領域arが含まれる左上の通常画素51の位置と右下の通常画素51の位置とを求める。そして、読み出しアドレス制御回路100は、求めた左上と右下とのそれぞれの通常画素51の位置によって表される矩形の読み出し領域ar6を、動き検出画素分布D1に対応した画素信号を読み出す通常画素51の読み出し領域として決定する。
 これにより、画素信号を読み出す通常画素51を指定する最小の読み出し領域よりは大きな読み出し領域内に配置されたそれぞれの通常画素51から画素信号を読み出すことになるものの、通常画素51を指定するための制御信号を出力するための処理が、簡単になる。そして、読み出しアドレス制御回路100は、読み出し領域ar6内に配置されている通常画素51を指定するための制御信号を、垂直走査回路20および水平走査回路30に出力する。
 そして、垂直走査回路20および水平走査回路30のそれぞれは、左上の位置(開始位置)の通常画素51から右下の位置(終了位置)の通常画素51までを順次駆動して、読み出し領域ar6内に配置されているそれぞれの通常画素51から画素信号を出力する(読み出す)。なお、開始位置と終了位置とに基づいて通常画素51から画素信号を出力する(読み出す)方法は、一般的に多くの固体撮像装置において行うことができる画素信号の読み出し方法に合致する方法である。
 このように、固体撮像装置1では、複雑な形状に分布した複数の動き検出画素52から同時期にイベント画素信号が出力された場合には、読み出しアドレス制御回路100は、第2の画素指定方法によって、通常画素51を指定するための制御信号を出力するための処理が簡単になる矩形の領域を、画素信号を読み出す通常画素51を指定する読み出し領域として決定する。これにより、固体撮像装置1を搭載した撮像システムに備えた画像処理部が被写体の動きを反映した画像を生成する際の処理も簡単にすることができる。
 なお、第1の画素指定方法および第2の画素指定方法では、イベント画素信号を出力する動き検出画素52が、画素アレイ部40の全体の領域内の1カ所である場合について説明した。しかし、イベント画素信号を出力する動き検出画素52は、画素アレイ部40の全体の領域内の複数箇所に存在することも考えられる。
 ここで、画素アレイ部40の全体の領域内の複数箇所に存在する動き検出画素52から同時期にイベント画素信号が出力された場合に、読み出しアドレス制御回路100が画素信号を出力する(読み出す)読み出し領域を決定する方法について説明する。図8は、本発明の第1の実施形態の固体撮像装置1において画素信号を出力させる画素50(通常画素51)を指定する領域(読み出し領域)のさらに別の一例を模式的に示した図である。図8には、図7に示したように固体撮像装置1を構成する第1の半導体基板11の画素アレイ部40の領域内に画素50(通常画素51および動き検出画素52)が配置されている場合において、同時期にイベント画素信号を出力する複数の動き検出画素52の分布が複数箇所に存在する場合に画素信号を出力させる通常画素51が配置された読み出し領域を決定する方法の一例を示している。
 なお、図8に示した動き検出画素分布D1、動き検出画素分布D2、および動き検出画素分布D3のそれぞれは、同時期にイベント画素信号を出力した動き検出画素52の分布を表している。従って、動き検出画素分布D1、動き検出画素分布D2、および動き検出画素分布D3のそれぞれの領域は、読み出しアドレス制御回路100が画素信号を読み出す通常画素51を指定するそれぞれの最小の読み出し領域に相当する。
 図8に示したように、同時期にイベント画素信号を出力する複数の動き検出画素52の分布が複数箇所に存在する場合、読み出しアドレス制御回路100は、第2の画素指定方法の考え方に基づいて、それぞれの動き検出画素分布に対応する通常画素51から画素信号を読み出すそれぞれの読み出し領域を決定する。より具体的には、動き検出画素分布D1に対応する矩形の読み出し領域ar6と、動き検出画素分布D2に対応する矩形の読み出し領域ar7と、動き検出画素分布D3に対応する矩形の読み出し領域ar8とのそれぞれの読み出し領域を決定する。
 しかし、図8に示したように読み出し領域ar6と読み出し領域ar7とが近い位置に存在する場合、読み出し領域ar6内の通常画素51と、読み出し領域ar7内の通常画素51とのそれぞれから画素信号を読み出すと、それぞれの通常画素51から、効率的に画素信号を読み出すことができないことも考えられる。つまり、読み出し領域ar6と読み出し領域ar7とが近接している場合には、読み出し領域ar6と読み出し領域ar7とを別々にしてそれぞれの読み出し領域内の通常画素51から画素信号を読み出すよりも、読み出し領域ar6と読み出し領域ar7とを合わせた読み出し領域内のそれぞれの通常画素51から画素信号を読み出す方が効率的であることも考えられる。
 このような場合、読み出しアドレス制御回路100は、近接している複数の読み出し領域を合わせた領域を、画素信号を読み出す読み出し領域として決定する。より具体的には、図8に示したように、読み出し領域ar6と読み出し領域ar7とが含まれる矩形の読み出し領域ar9を、通常画素51から画素信号を出力する(読み出す)読み出し領域として決定する。
 一方、図8に示したように、読み出し領域ar8は、読み出し領域ar6および読み出し領域ar7のいずれにも近接していない。この場合に読み出しアドレス制御回路100が、読み出し領域ar8と、読み出し領域ar6および読み出し領域ar7とが含まれる矩形の読み出し領域ar10を、通常画素51から画素信号を出力する(読み出す)読み出し領域として決定してしまうと、読み出し領域ar10内のそれぞれの通常画素51からの画素信号の読み出しが多くなってしまう。
 このような場合、読み出しアドレス制御回路100は、読み出し領域ar10を、通常画素51から画素信号を出力する(読み出す)読み出し領域として決定せず、読み出し領域ar9と読み出し領域ar8とを別々に、通常画素51から画素信号を出力する(読み出す)読み出し領域として決定し、それぞれの読み出し領域内の通常画素51から画素信号を読み出すようにしてもよい。しかし、図8に示したように、読み出し領域ar10が、ほぼ画素アレイ部40の全ての領域であると判定することができる場合には、画素アレイ部40の全ての領域を、通常画素51から画素信号を出力する(読み出す)読み出し領域として決定してもよい。つまり、1フレーム分の画素信号を読み出すようにしてもよい。
 なお、複数の読み出し領域を合わせた読み出し領域を、画素信号を読み出す読み出し領域として決定するか否かの判定は、上述したように、通常画素51を指定するための制御信号を出力するための処理が簡単になるか否かによって行う。この場合、複数の読み出し領域を合わせる前の状態でそれぞれの読み出し領域内の通常画素51から画素信号を読み出す際のデータ出力時間および画素信号を読み出す読み出し領域を切り替える処理の処理時間を合わせた時間と、複数の読み出し領域を合わせた読み出し領域内の通常画素51から画素信号を読み出す際のデータの出力時間とを比較した結果も、判定の材料にしてもよい。なお、画素信号を読み出す読み出し領域として複数の読み出し領域を合わせるか否かを判定する材料は、上述した時間の比較結果に限定されるものではなく、複数の読み出し領域を合わせて処理したときと、それぞれの読み出し領域を別々に処理したときの処理の負荷の差など、種々の判定材料が考えられる。
 このように、固体撮像装置1では、同時期にイベント画素信号を出力する複数の動き検出画素52の分布が複数箇所に存在する場合、第2の画素指定方法において、読み出しアドレス制御回路100は、それぞれの動き検出画素52の分布が存在する位置に応じて、それぞれの分布に対応する複数の読み出し領域を合わせた読み出し領域を、画素信号を読み出す通常画素51を指定する1つの読み出し領域として決定する。これにより、固体撮像装置1では、通常画素51を指定するための制御信号を出力するための処理を、より簡単にすることができる。
 なお、第1および第2の画素指定方法では、動き検出画素52がイベント画素信号を出力したときに、イベント画素信号を出力した動き検出画素52の位置を中心として予め定めた矩形の読み出し領域を、通常画素51から画素信号を読み出す読み出し領域とする場合について説明した。しかし、例えば、イベント画素信号を出力した動き検出画素52の分布が、図8に示した動き検出画素分布D3のみである場合のように、イベント画素信号を出力した動き検出画素52の数や動き検出画素52が分布している範囲の大きさによっては、被写体の動きが少ないと判定し、通常画素51から画素信号を読み出す読み出し領域として指定しない構成にしてもよい。
(第3の画素指定方法)
 次に、第1の実施形態の固体撮像装置1における通常画素51のさらに別の指定方法について説明する。図9は、本発明の第1の実施形態の固体撮像装置1において画素信号を出力させる画素50(通常画素51)を指定する領域(読み出し領域)を決定する処理の処理手順を示したフローチャートである。
 読み出しアドレス制御回路100は、画素アレイ部40内に配置したいずれかの動き検出画素52からイベント画素信号が入力されると、入力されたイベント画素信号を取得する(ステップS100)。続いて、読み出しアドレス制御回路100は、取得したイベント画素信号に含まれるアドレス情報から、イベント画素信号を出力した動き検出画素52の位置を検出(確認)する(ステップS101)。そして、読み出しアドレス制御回路100は、検出(確認)したイベント画素信号を出力した動き検出画素52の位置の分布を算出する(ステップS102)。
 続いて、読み出しアドレス制御回路100は、算出した動き検出画素52の位置の分布の大きさが、予め定めた分布の大きさの閾値よりも大きいか否かを判定する(ステップS103)。ここで、予め定めた分布の大きさの閾値は、画素信号を読み出す通常画素51の読み出し領域を設定する最小の分布の大きさとして予め定めた分布の大きさを、例えば、面積や、画素アレイ部40の全体の領域に対する面積の比率などによって表した値である。
 ステップS103における判定の結果、算出した動き検出画素52の位置の分布の大きさが、予め定めた分布の大きさの閾値よりも大きいと判定した場合(ステップS103の“YES”)、読み出しアドレス制御回路100は、算出した動き検出画素52の位置の分布の大きさに応じた、画素信号を読み出す通常画素51の読み出し領域(例えば、図7に示した読み出し領域ar)を決定する(ステップS104)。
 続いて、読み出しアドレス制御回路100は、決定した読み出し領域内に配置されている通常画素51を指定するための制御信号を、垂直走査回路20および水平走査回路30に出力する。これにより、垂直走査回路20および水平走査回路30のそれぞれは、読み出しアドレス制御回路100から出力された制御信号に応じて、指定された通常画素51を順次駆動し、画素信号を読み出す(ステップS105)。そして、読み出しアドレス制御回路100は、画素信号を出力させる通常画素51を指定する読み出し領域を決定する処理を完了する。
 一方、ステップS103における判定の結果、算出した動き検出画素52の位置の分布の大きさが、予め定めた分布の大きさの閾値よりも大きくない、すなわち、予め定めた分布の大きさの閾値以下であると判定した場合(ステップS103の“NO”)、読み出しアドレス制御回路100は、画素信号を出力させる通常画素51を指定する読み出し領域を決定する処理を完了する。つまり、読み出しアドレス制御回路100は、画素信号を読み出す通常画素51の読み出し領域を決定せずに(通常画素51から画素信号を読み出さずに)、処理を完了する。
 読み出しアドレス制御回路100は、図9に示したフローチャートの処理手順を、動き検出画素52からイベント画素信号が入力されるごとに行う。これにより、読み出しアドレス制御回路100は、被写体の動きを検出した動き検出画素52の範囲が、閾値で定められた分布の大きさよりも大きい範囲になった場合に、画素信号を読み出す通常画素51の読み出し領域を決定することができる。より具体的には、例えば、イベント画素信号を出力した動き検出画素52の分布が、図8に示した動き検出画素分布D1のような大きさである場合には、矩形の読み出し領域ar6を通常画素51から画素信号を出力する(読み出す)読み出し領域として決定して処理を完了する。一方、例えば、イベント画素信号を出力した動き検出画素52の分布が、図8に示した動き検出画素分布D3のような大きさである場合には、矩形の読み出し領域ar8を通常画素51から画素信号を出力する(読み出す)読み出し領域として決定せずに処理を完了する。これにより、固体撮像装置1では、被写体の動きが少ない場合には、通常画素51から画素信号を読み出すことなく、消費電力を削減することができる。
 なお、同時期に複数の動き検出画素52が被写体の動きを検出してイベント画素信号を出力する場合でも、それぞれのイベント画素信号が同時に読み出しアドレス制御回路100に入力されないことも考えられる。このため、読み出しアドレス制御回路100がステップS102においてイベント画素信号を出力した動き検出画素52の位置の分布を算出する場合、予め定めた期間内にイベント画素信号を出力した複数の動き検出画素52の位置に基づいて分布を算出することが望ましい。つまり、図9に示したフローチャートにおけるステップS100~ステップS102の処理を、予め定めた期間だけ繰り返して、イベント画素信号を出力した動き検出画素52の位置の分布の大きさが確定された状態にしてから、ステップS103における判定を行うことが望ましい。
 なお、画素信号を出力させる通常画素51の読み出し領域を決定する処理は、図9に示したフローチャートのように、動き検出画素52の分布に基づく処理に限定されるものではなく、上述したように、イベント画素信号を出力した動き検出画素52の数に基づいた処理であってもよい。
 ここで、イベント画素信号を出力した動き検出画素52の数に基づいて画素信号を出力させる通常画素51の読み出し領域を決定する処理について説明する。図10は、本発明の第1の実施形態の固体撮像装置1において画素信号を出力させる画素50(通常画素51)を指定する領域(読み出し領域)を決定する別の処理の処理手順を示したフローチャートである。
 読み出しアドレス制御回路100は、画素アレイ部40内に配置したいずれかの動き検出画素52からイベント画素信号が入力されると、図9に示したフローチャートにおけるステップS100と同様に、入力されたイベント画素信号を取得する(ステップS110)。続いて、読み出しアドレス制御回路100は、取得したイベント画素信号に含まれるアドレス情報から、図9に示したフローチャートにおけるステップS101と同様に、イベント画素信号を出力した動き検出画素52の位置を検出(確認)する(ステップS111)。そして、読み出しアドレス制御回路100は、検出(確認)したイベント画素信号を出力した動き検出画素52の数を算出する(ステップS112)。
 続いて、読み出しアドレス制御回路100は、算出した動き検出画素52の数が、予め定めた数の閾値よりも大きいか否かを判定する(ステップS113)。ここで、予め定めた数の閾値は、画素信号を読み出す通常画素51の読み出し領域を設定する動き検出画素52の最小値を、例えば、動き検出画素52の数や、画素アレイ部40に配置した全ての動き検出画素52の数に対する動き検出画素52の数の比率などによって表した値である。
 ステップS113における判定の結果、算出した動き検出画素52の数が、予め定めた数の閾値よりも大きいと判定した場合(ステップS113の“YES”)、読み出しアドレス制御回路100は、検出(確認)したそれぞれの動き検出画素52の位置に応じた、画素信号を読み出す通常画素51の読み出し領域(例えば、図7に示した読み出し領域ar)を決定する(ステップS114)。
 続いて、読み出しアドレス制御回路100は、決定した読み出し領域内に配置されている通常画素51を指定するための制御信号を、垂直走査回路20および水平走査回路30に出力する。これにより、垂直走査回路20および水平走査回路30のそれぞれは、読み出しアドレス制御回路100から出力された制御信号に応じて、指定された通常画素51を順次駆動し、画素信号を読み出す(ステップS115)。そして、読み出しアドレス制御回路100は、画素信号を出力させる通常画素51を指定する読み出し領域を決定する処理を完了する。
 一方、ステップS113における判定の結果、算出した動き検出画素52の数が、予め定めた数の閾値よりも大きくない、すなわち、予め定めた数の閾値以下であると判定した場合(ステップS113の“NO”)、読み出しアドレス制御回路100は、画素信号を出力させる通常画素51を指定する読み出し領域を決定する処理を完了する。つまり、読み出しアドレス制御回路100は、図9に示したフローチャートにおけるステップS103と同様に、画素信号を読み出す通常画素51の読み出し領域を決定せずに(通常画素51から画素信号を読み出さずに)、処理を完了する。
 読み出しアドレス制御回路100は、図10に示したフローチャートの処理手順を、図9に示した処理手順と同様に、動き検出画素52からイベント画素信号が入力されるごとに行う。これにより、読み出しアドレス制御回路100は、被写体の動きを検出した動き検出画素52の数が、閾値で定められた数よりも大きい場合に、画素信号を読み出す通常画素51の読み出し領域を決定することができる。より具体的には、例えば、イベント画素信号を出力した動き検出画素52の数が100個以上である場合には、それぞれの動き検出画素52の位置を中心として予め定めた矩形の読み出し領域を合わせた読み出し領域を、通常画素51から画素信号を出力する(読み出す)読み出し領域として決定して処理を完了する。一方、イベント画素信号を出力した動き検出画素52の数が100個よりも少ない場合には、通常画素51から画素信号を出力する(読み出す)読み出し領域を決定せずに処理を完了する。これにより、固体撮像装置1では、図9に示した処理手順と同様に、被写体の動きが少ない場合には、通常画素51から画素信号を読み出すことなく、消費電力を削減することができる。
 なお、イベント画素信号を出力した動き検出画素52の数に基づいて画素信号を出力させる通常画素51の読み出し領域を決定する場合でも、それぞれの動き検出画素52が同時にイベント画素信号を出力しないことも考えられる。つまり、複数の動き検出画素52のそれぞれから同時期に複数のイベント画素信号が入力されるが、それぞれのイベント画素信号が同時に読み出しアドレス制御回路100に入力されないことも考えられる。このため、図9に示した処理手順と同様に、読み出しアドレス制御回路100がステップS112においてイベント画素信号を出力した動き検出画素52の数を算出する場合、予め定めた期間内にイベント画素信号を出力した動き検出画素52の数を算出することが望ましい。従って、図9に示した処理手順と同様に、図10に示したフローチャートにおけるステップS110~ステップS112の処理を、予め定めた期間だけ繰り返して、イベント画素信号を出力した動き検出画素52の数が確定された状態にしてから、ステップS113における判定を行うことが望ましい。
 なお、上記の説明では、第1~第3の画素指定方法のそれぞれの方法が別々の方法であるものとして説明した。しかし、第1~第3のそれぞれの画素指定方法を組み合わせて適用してもよい。つまり、動き検出画素52からイベント画素信号が出力された状況に応じて、第1~第3の画素指定方法のいずれか方法を用いて画素信号を読み出す通常画素51の読み出し領域を決定するかを切り替える構成にしてもよい。
 また、第1~第3の画素指定方法では、画素アレイ部40の全体の領域に対して第1~第3の画素指定方法のそれぞれの考え方を適用して、イベント画素信号を出力した動き検出画素52に対応する画素信号を読み出す通常画素51の読み出し領域を決定する場合について説明した。しかし、画素信号を読み出す通常画素51の読み出し領域を決定する際に判定する領域は、上述したような画素アレイ部40の全体の領域に限定されるものではない。例えば、画素アレイ部40の全体の領域を、予め定めた行数および列数で区切った複数のブロックに分割する。そして、読み出しアドレス制御回路100が、分割したそれぞれのブロックの領域に対して第1~第3の画素指定方法のいずれかの考え方を適用することによって、画素信号を読み出す通常画素51の読み出し領域を、それぞれのブロックごとに決定してもよい。この場合、例えば、分割したそれぞれのブロックの領域を、上述した画素アレイ部40の全ての領域と考えて、イベント画素信号を出力した動き検出画素52に対応する画素信号を読み出す通常画素51の読み出し領域を決定してもよい。また、例えば、図10に示したイベント画素信号を出力した動き検出画素52の数に基づいて画素信号を出力させる通常画素51の読み出し領域を決定する処理のステップS113における閾値を、動き検出画素52の数の代わりに、イベント画素信号を出力した動き検出画素52が含まれるブロックの数として処理を行ってもよい。
 なお、第1の実施形態の固体撮像装置1では、画素アレイ部40の領域内に配置する画素50(通常画素51および動き検出画素52)の構成として、図3Aに示した通常画素51および図3Bに示した動き検出画素52の構成を示した。しかし、画素アレイ部40の領域内に配置する画素50の構成は、図3Aおよび図3Bに示した構成に限定されるものではない。例えば、図3Aに示した通常画素51は、光電変換素子PD1が発生した電荷信号を蓄積する回路要素を備えていない。そして、図3Bに示した動き検出画素52は、通常画素51の動作と非同期のタイミングでイベント画素信号を出力する。このため、通常画素51が予め定めた周期(フレームレート)で通常の撮影のための露光を行っている期間、すなわち、通常画素51の露光期間中であっても、動き検出画素52がイベント画素信号を出力することも考えられる。この場合、動き検出画素52から出力されたイベント画素信号に応じて通常画素51から画素信号を読み出そうとしても、通常画素51が露光期間中である場合には、直前の露光によって得た通常の撮影における画素信号、すなわち、被写体の動きを反映した高画質の画像を生成するための画素信号を読み出すことができないことも考えられる。この場合には、通常画素51からの画素信号の読み出しを、現在行っている露光が終了するまで待つことが必要になる。そこで、通常画素51の構成を、光電変換素子PD1が発生した電荷信号を蓄積する回路要素を備えた構成に変更することによって、蓄積している信号電荷に応じた画素信号、すなわち、直前の露光によって得た通常の撮影における画素信号を、動き検出画素52から出力されたイベント画素信号に応じて読み出すことができるようになる。
(第1の実施形態の変形例)
 次に、第1の実施形態の固体撮像装置1において画素アレイ部40内に配置する通常画素51の別の構成について説明する。図11は、本発明の第1の実施形態の固体撮像装置1における画素50(通常画素51)の別の構成の一例を示した回路図である。なお、以下の説明においては、別の構成の通常画素51を「通常画素53」という。
 なお、通常画素53を構成する回路要素には、通常画素51を構成する回路要素と同様の回路要素を含んでいる。従って、以下の説明においては、通常画素53を構成する回路要素において、通常画素51を構成する回路要素と同様の回路要素には同一の符号を付与し、詳細な説明は省略する。
 図11において、通常画素53は、光電変換素子PD1と、電荷転送トランジスタ511と、画素リセットトランジスタ512と、増幅トランジスタ513と、ノイズ抑圧素子534と、サンプルホールドトランジスタ531と、電荷蓄積容量530と、クランプトランジスタ532と、第2の増幅トランジスタ533と、選択トランジスタ514とを備えている。なお、図11においては、通常画素53に備えた増幅トランジスタ513のゲート端子に接続されたノードに付随する容量であるノード容量FD1を、通常画素53の回路要素としてキャパシタの記号で示している。
 通常画素53においては、電荷転送トランジスタ511、画素リセットトランジスタ512、増幅トランジスタ513、ノイズ抑圧素子534、サンプルホールドトランジスタ531、電荷蓄積容量530、クランプトランジスタ532、第2の増幅トランジスタ533、および選択トランジスタ514と、ノード容量FD1とで、光電変換素子PD1が発生させた電荷信号に応じた画素信号を蓄積して読み出す読み出し回路を構成している。固体撮像装置1では、通常画素53の光電変換素子PD1と読み出し回路とを、第1の半導体基板11に形成する。
 電荷転送トランジスタ511は、垂直走査回路20から入力された制御信号TX1に応じて、光電変換素子PD1が発生して蓄積した電荷信号を、増幅トランジスタ513のゲート端子に転送する。これにより、電荷転送トランジスタ511によって転送された電荷信号が、ノード容量FD1に蓄積される。
 増幅トランジスタ513は、ゲート端子に転送された電荷信号、すなわち、ノード容量FD1に蓄積された電荷信号に応じた信号電圧を、ノイズ抑圧素子534の第1の端子に出力する。
 画素リセットトランジスタ512は、垂直走査回路20から入力された制御信号RST1に応じて、通常画素53内の電荷信号を、電源電圧VDDにリセットする。
 ノイズ抑圧素子534は、増幅トランジスタ513から第1の端子に入力された信号電圧を蓄積する容量である。
 クランプトランジスタ532は、垂直走査回路20から入力された制御信号RST2に応じて、電荷蓄積容量530とノイズ抑圧素子534とのそれぞれを固定電位VREFにクランプする。これにより、電荷蓄積容量530とノイズ抑圧素子534とのそれぞれは、クランプされた固定電位VREFを保持(蓄積)する。
 サンプルホールドトランジスタ531は、垂直走査回路20から入力された制御信号TX2に応じて、ノイズ抑圧素子534の第2の端子から出力された信号電圧を電荷蓄積容量530に蓄積させる。
 電荷蓄積容量530は、サンプルホールドトランジスタ531を介して入力された、ノイズ抑圧素子534の第2の端子から出力された信号電圧(ノイズ除去処理された信号)を蓄積する容量である。
 増幅トランジスタ513から出力された信号電圧、つまり、光電変換素子PD1が発生した電荷信号に応じた信号電圧は、クランプトランジスタ532、サンプルホールドトランジスタ531、電荷蓄積容量530、およびノイズ抑圧素子534の構成によって、リーク電流(暗電流)に起因するノイズ除去処理が行われる。そして、電荷蓄積容量530は、ノイズ除去処理された信号電圧を蓄積する。
 なお、電荷蓄積容量530としては、単位面積当たりのリーク電流(暗電流)が少ない容量であるMIM(Metal Insulator Metal)容量や、MOS(Metal Oxide Semiconductor)容量を使用することがより望ましい。これにより、ノイズに対する耐性が向上し、高品質な信号を得ることができる。
 第2の増幅トランジスタ533は、ゲート端子の電圧、すなわち、電荷蓄積容量530に蓄積されたノイズ除去処理された信号電圧に応じた信号電圧を、選択トランジスタ514に出力する。
 選択トランジスタ514は、垂直走査回路20から入力された制御信号SELに応じて、第2の増幅トランジスタ533から出力される信号電圧を、通常画素53の画素信号として垂直信号線60に出力する。これにより、通常画素53に備えた光電変換素子PD1が発生した電荷信号に応じた画素信号が、垂直信号線60に読み出される。
 このような構成によって、通常画素53では、光電変換素子PD1が入射した光を光電変換した電荷信号に応じたそれぞれの信号電圧を、電荷蓄積容量530に一旦蓄積し、垂直走査回路20からの制御に応じて、蓄積した信号電圧を、画素信号として垂直信号線60に読み出す。
 ここで、図11に示した通常画素53の駆動タイミングについて説明する。図12は、本発明の第1の実施形態の固体撮像装置1において通常画素53を駆動するタイミングの一例を示したタイミングチャートである。図12に示したタイミングチャートは、通常の撮影によって得た電荷信号に応じた信号電圧を一旦蓄積した後、蓄積した信号電圧を画素信号として垂直信号線60に出力するように通常画素53を制御する、垂直走査回路20の制御タイミングを示している。
 通常の撮影を行う場合、まず、時刻t1において、画素アレイ部40内の全ての通常画素53をリセットする。より具体的には、時刻t1において、垂直走査回路20は、制御信号RST1と制御信号TX1とを、同時に“High”レベルにして、画素リセットトランジスタ512と電荷転送トランジスタ511とをON状態にする。これにより、画素アレイ部40内の全ての通常画素53に備えた光電変換素子PD1とノード容量FD1とがリセットされる。
 その後、垂直走査回路20は、制御信号RST1と制御信号TX1とを、同時に“Low”レベルにして、画素リセットトランジスタ512と電荷転送トランジスタ511とをOFF状態にし、画素アレイ部40内の全ての通常画素53のリセットを解除する。これにより、画素アレイ部40内の全ての通常画素53が同時に露光を開始する。すなわち、画素アレイ部40内の全ての通常画素53に備えた光電変換素子PD1が、入射した光を光電変換した電荷信号の発生と蓄積とを開始する。
 続いて、一定の期間が経過した後、すなわち、通常の撮影における任意の露光時間が経過した後、時刻t2から、光電変換素子PD1のリセットレベルの信号電圧と露光によって発生した信号電圧(以下、「露光レベルの信号電圧」という)との、ノイズ抑圧素子534への読み出しを行う。そして、通常画素53における光電変換素子PD1のリセットレベルの信号電圧と露光レベルの信号電圧との差分をとるノイズ除去処理を行う。
 より具体的には、時刻t2において、垂直走査回路20は、制御信号RST1を“High”レベルにして、画素リセットトランジスタ512をON状態にし、ノード容量FD1をリセットする。これにより、増幅トランジスタ513から光電変換素子PD1のリセットレベルの信号電圧が、ノイズ抑圧素子534の第1の端子に出力される。
 また、垂直走査回路20は、制御信号RST2および制御信号TX2を“High”レベルにして、クランプトランジスタ532とサンプルホールドトランジスタ531とをON状態にする。これにより、電荷蓄積容量530とノイズ抑圧素子534とのそれぞれが、固定電位VREFにクランプされる。
 その後、垂直走査回路20は、制御信号RST1を“Low”レベルにして、画素リセットトランジスタ512をOFF状態にし、ノード容量FD1のリセットを解除する。続いて、時刻t3において、垂直走査回路20は、制御信号RST2を“Low”レベルにして、電荷蓄積容量530のクランプを解除する。
 続いて、時刻t4において、垂直走査回路20は、制御信号TX1を“High”レベルにして、電荷転送トランジスタ511をON状態にし、光電変換素子PD1に蓄積された電荷信号を、増幅トランジスタ513のゲート端子に転送する。このとき、電荷転送トランジスタ511によって転送された電荷信号は、ノード容量FD1に蓄積される。これにより、増幅トランジスタ513から光電変換素子PD1が発生した電荷信号、すなわち、ノード容量FD1に蓄積された電荷信号に応じた信号電圧(露光レベルの信号電圧)が、ノイズ抑圧素子534の第1の端子に出力される。
 そして、ノイズ抑圧素子534は、光電変換素子PD1のリセットレベルの信号電圧と露光レベルの信号電圧との差分の電圧、すなわち、ノイズ除去処理された信号電圧を、第2の端子から出力する。
 その後、垂直走査回路20は、制御信号TX1を“Low”レベルにして、電荷転送トランジスタ511をOFF状態にし、光電変換素子PD1に蓄積された電荷信号の増幅トランジスタ513のゲート端子への転送を停止する。
 続いて、時刻t5において、垂直走査回路20は、制御信号TX2を“Low”レベルにして、サンプルホールドトランジスタ531をOFF状態にし、電荷蓄積容量530のサンプルホールドを停止する。これにより、電荷蓄積容量530は、ノイズ抑圧素子534が出力しているノイズ除去処理された信号電圧を蓄積する。
 ここまでで、通常画素53に備えた光電変換素子PD1が発生した電荷信号がノイズ除去処理されて、電荷蓄積容量530に蓄積されることになる。なお、固体撮像装置1では、ここまでの制御を、画素アレイ部40内に配置された全ての通常画素53に対して同時に制御することによって、いわゆる、グローバルシャッタ機能で、通常画素53に通常の撮影を行わせる。従って、通常画素53は、光電変換素子PD1が発生した電荷信号に応じた信号電圧がノイズ除去処理されて電荷蓄積容量530に蓄積されれば、引き続き、次の通常の撮影のための露光を開始することができる。
 その後、垂直走査回路20は、読み出しアドレス制御回路100から、画素信号を読み出す通常画素53を指定するための制御信号が入力されると、指定された通常画素53の制御信号SELを順次制御して、それぞれの通常画素53に備えた電荷蓄積容量530に蓄積されたノイズ除去処理されたそれぞれの信号電圧を順次、それぞれの通常画素53の画素信号として垂直信号線60に出力させる。
 このようにして、固体撮像装置1では、読み出しアドレス制御回路100が、被写体の動きを検出した動き検出画素52に対応する通常画素53に一旦蓄積された信号電圧を、通常の撮影のための露光によって通常画素53が得た画素信号として読み出す。
 なお、電荷蓄積容量530に蓄積した信号電荷に応じた画素信号の読み出しが行われなかった通常画素53は、次の通常の撮影のための露光が終了すると、電荷蓄積容量530に蓄積した信号電荷を破棄する。より具体的には、時刻t2において、垂直走査回路20が制御信号RST2を“High”レベルにして電荷蓄積容量530を固定電位VREFにクランプすることによって、電荷蓄積容量530に蓄積された信号電荷が破棄される。そして、時刻t3~時刻t5における垂直走査回路20による制御によって、次の通常の撮影のための露光において光電変換素子PD1が発生した電荷信号がノイズ除去処理されて、電荷蓄積容量530に蓄積される。
 このように、第1の実施形態の固体撮像装置1では、画素アレイ部40の領域内に配置する通常画素51の代わりに、光電変換素子PD1が発生した電荷信号を蓄積する回路要素を備えた構成の通常画素53を配置することによって、通常の撮影のための露光によって得た画素信号を、それぞれの通常画素53内に一旦蓄積させる。これにより、固体撮像装置1では、通常画素53が予め定めた周期(フレームレート)で通常の撮影のための露光を行っている露光期間中に動き検出画素52が被写体の動きを検出してイベント画素信号を出力した場合でも、読み出しアドレス制御回路100は、イベント画素信号に応じて通常画素53から画素信号を読み出すことができる。このことにより、固体撮像装置1を搭載した撮像システムに備えた画像処理部は、被写体の動きを検出したときに対して時間的なずれが少ない、被写体の動きを反映した高画質の画像を生成することができる。
 第1の実施形態によれば、入射した光を光電変換した第1の電荷信号を発生するn個の第1の光電変換素子(光電変換素子PD1)と、n個の光電変換素子PD1のそれぞれに対応し、対応する光電変換素子PD1が発生した第1の電荷信号に応じた信号電圧を第1の画素信号(通常画素51が出力する画素信号)として出力するn個の第1の読み出し回路(通常画素51の読み出し回路:電荷転送トランジスタ511、画素リセットトランジスタ512、増幅トランジスタ513、選択トランジスタ514、およびノード容量FD1)と、入射した光を光電変換した第2の電荷信号を発生するm個の第2の光電変換素子(光電変換素子PD2)と、m個の光電変換素子PD2のそれぞれに対応し、対応する光電変換素子PD2が発生した第2の電荷信号の変化に基づいた第2の画素信号(イベント画素信号)を逐次出力するm個の第2の読み出し回路(動き検出画素52の読み出し回路)と、光電変換素子PD1の内、予め定めた読み出し領域(読み出し領域ar)内に配置された光電変換素子PD1に対応する第1の画素信号(通常画素51が出力する画素信号)の読み出しを制御する読み出し制御回路(読み出しアドレス制御回路100)と、を有し、m個の動き検出画素52の読み出し回路のそれぞれは、対応する光電変換素子PD2が発生した第2の電荷信号の時間的な変化を検出し、予め定めた閾値を超える変化を検出したときに、変化を表すイベント信号を出力する検出回路(スレッショルドアンプ524およびスレッショルドアンプ525)と、イベント信号に、対応する光電変換素子PD2が配置された位置を表すアドレス情報を付加したイベント画素信号を出力する画素信号生成回路(AER回路526)と、を有し、読み出しアドレス制御回路100は、イベント画素信号に含まれるアドレス情報に対応する光電変換素子PD2が配置された位置に基づいた領域(例えば、読み出し領域ar1)を、第1の画素信号(通常画素51が出力する画素信号)を読み出す読み出し領域arとして決定し、決定した読み出し領域ar内に配置された光電変換素子PD1のそれぞれに対応する通常画素51の読み出し回路のそれぞれに第1の画素信号(通常画素51が出力する画素信号)を出力させ、nは2以上の自然数であり、mは2以上の自然数である、固体撮像装置(固体撮像装置1)が構成される。
 また、第1の実施形態によれば、読み出しアドレス制御回路100は、同時期に出力されたイベント画素信号に含まれるアドレス情報に対応する光電変換素子PD2が分布している位置に基づいて生成した矩形の領域(例えば、予め定めた5行5列の矩形の読み出し領域ar1)を、読み出し領域arとして決定する、固体撮像装置1が構成される。
 また、第1の実施形態によれば、読み出しアドレス制御回路100は、同時期に出力されたイベント画素信号に含まれるアドレス情報に対応する光電変換素子PD2が分布している領域(例えば、動き検出画素分布D1)を包含する矩形の領域(例えば、読み出し領域ar6)を、読み出し領域arとして決定する、固体撮像装置1が構成される。
 また、第1の実施形態によれば、読み出しアドレス制御回路100は、同時期に出力されたイベント画素信号に含まれるアドレス情報に対応する光電変換素子PD2の分布の大きさが、予め定めた分布の大きさの閾値よりも大きい場合に、光電変換素子PD2の分布の大きさに応じた矩形の領域を読み出し領域arとして決定し、同時期に出力されたイベント画素信号に含まれるアドレス情報に対応する光電変換素子PD2の分布の大きさが、分布の大きさの閾値以下である場合に、読み出し領域arを決定しない、固体撮像装置1が構成される。
 また、第1の実施形態によれば、読み出しアドレス制御回路100は、同時期に出力されたイベント画素信号に含まれるアドレス情報に対応する光電変換素子PD2の数が、予め定めた数の閾値よりも多い場合に、それぞれのアドレス情報に対応する光電変換素子PD2に対応する読み出し領域arを決定し、同時期に出力されたイベント画素信号に含まれるアドレス情報に対応する光電変換素子PD2の数が、数の閾値以下である場合に、読み出し領域arを決定しない、固体撮像装置1が構成される。
 また、第1の実施形態によれば、読み出しアドレス制御回路100は、n個の光電変換素子PD1が配置された全体の領域を、予め定めた大きさで区切った複数のブロックに分割し、分割したそれぞれのブロックごとに、読み出し領域arを決定する、固体撮像装置1が構成される。
 また、第1の実施形態によれば、n個の光電変換素子PD1のそれぞれおよびm個の光電変換素子PD2のそれぞれは、第1の半導体基板(第1の半導体基板11)の同一の平面の領域(画素アレイ部40の領域)に周期的に配置される、固体撮像装置1が構成される。
 また、第1の実施形態によれば、AER回路526は、第1の半導体基板11に光が入射する側の面と反対側の面に積層される第2の半導体基板(第2の半導体基板12)に配置される、固体撮像装置1が構成される。
 また、第1の実施形態によれば、第1の半導体基板11と第2の半導体基板12との間に形成され、第1の半導体基板11の回路要素と第2の半導体基板12の回路要素とを電気的に接続する接続部(チップ接続部13)、をさらに有し、チップ接続部13は、m個の動き検出画素52の読み出し回路のそれぞれが有するスレッショルドアンプ524およびスレッショルドアンプ525と、対応する光電変換素子PD2とを電気的に接続する、固体撮像装置1が構成される。
 上記に述べたように、第1の実施形態の固体撮像装置1では、通常の撮影による画素信号の出力に特化した通常画素51(または通常画素53)と、動き検出によるイベント画素信号の出力に特化した動き検出画素52とのそれぞれを、画素アレイ部40における行方向および列方向に周期的に(平面状に)配置する。これにより、第1の実施形態の固体撮像装置1では、通常の撮影と被写体の動きを逐次検出する動き検出とを両立することができる。
 そして、第1の実施形態の固体撮像装置1では、動き検出画素52からイベント画素信号が出力されたときに、イベント画素信号を出力した動き検出画素52の位置に対応する予め定めた読み出し領域内に配置された通常画素51(または通常画素53)から画素信号を出力する(読み出す)。つまり、第1の実施形態の固体撮像装置1では、被写体の動きを検出した動き検出画素52が配置された位置に対応する予め定めた小さな読み出し領域に配置されている通常画素51(または通常画素53)のみから通常の撮影の画素信号を出力する(読み出す)。これにより、第1の実施形態の固体撮像装置1では、従来の固体撮像装置のように、被写体の動きを反映した画像を生成するために通常の撮影で得た全ての画素信号を読み出すのに比べて、消費電力を削減することができる。
 また、第1の実施形態の固体撮像装置1を搭載した撮像システムに備えた画像処理部は、被写体の動きが検出された小さな読み出し領域に配置されている通常画素51(または通常画素53)のみから出力した(読み出した)少ない数の画素信号に基づいて、被写体の動きを反映した画像を生成することができる。このことにより、第1の実施形態の固体撮像装置1を搭載した撮像システムに備えた画像処理部では、被写体の動きを検出したときに対して時間的なずれが少ない、被写体の動きを反映した高画質の画像を生成することができる。
 なお、図4に示した通常画素51と動き検出画素52との配置の一例では、画素アレイ部40内に配置する動き検出画素52の数が、通常画素51の数よりも少ない。しかし、被写体の動きの検出では、通常の撮影において生成する画像ほど高い解像度、つまり、高画質は要求されない。一方、通常の撮影においては、画素アレイ部40に備える通常画素51の数を増加させることによって、高画素化を実現することが望ましい。第1の実施形態の固体撮像装置1では、画素アレイ部40内に配置する通常画素51の数をさらに多くすることによって、通常の撮影において生成する画像の画質を向上させる、つまり、高精細な出力を得る構成にすることもできる。
(第2の実施形態)
 次に、本発明の第2の実施形態について説明する。なお、本発明の第2の実施形態における固体撮像装置(以下、「固体撮像装置2」という)の概観や概略構成は、図1および図2に示した第1の実施形態における固体撮像装置1の概観および概略構成と同様である。従って、以下の説明においては、固体撮像装置2の構成要素において、第1の実施形態の固体撮像装置1の構成要素と同様の構成要素には、同一の符号を用い、それぞれの構成要素や動作に関する詳細な説明は省略する。
 ここで、第2の実施形態の固体撮像装置2において画素アレイ部40内に配置する画素50の構成について説明する。固体撮像装置2において画素アレイ部40内に配置する画素50も、第1の実施形態の固体撮像装置1と同様に、通常読み出しによる通常の撮影の画素信号と、動き検出読み出しによる動き検出のイベント画素信号とを出力する。ただし、固体撮像装置2において画素アレイ部40内に配置する動き検出のイベント画素信号を出力する画素50は、通常の撮影の画素信号も出力することができる構成である。すなわち、この画素50は、第1の実施形態の固体撮像装置1において画素アレイ部40内に配置する通常画素51と動き検出画素52との機能の両方を備えた構成の画素である。
 以下の説明においては、固体撮像装置2の画素アレイ部40内に配置する、通常読み出しによる通常の撮影の画素信号の出力と、動き検出読み出しによる動き検出のイベント画素信号の出力とを行う画素50を「兼用画素54」という。兼用画素54は、通常画素51に備えた光電変換素子PD1と動き検出画素52に備えた光電変換素子PD2とを兼用し、同じ光電変換素子が発生した電荷信号に基づいて、通常の撮影の画素信号と動き検出のイベント画素信号とのそれぞれを出力する。
 図13は、本発明の第2の実施形態の固体撮像装置2における兼用画素54の構成の一例を示した回路図である。図13に示した兼用画素54は、第1の実施形態の固体撮像装置1において画素アレイ部40内に配置した通常画素51に備えた光電変換素子PD1と、動き検出画素52に備えた光電変換素子PD2とを兼用する構成の画素である。なお、兼用画素54を構成する回路要素には、第1の実施形態の固体撮像装置1において配置する通常画素51または動き検出画素52を構成する回路要素と同様の回路要素を含んでいる。従って、以下の説明においては、兼用画素54を構成する回路要素において、通常画素51または動き検出画素52を構成する回路要素と同様の回路要素には同一の符号を付与し、詳細な説明は省略する。
 図13において、兼用画素54は、光電変換素子PD12と、電荷転送トランジスタ511と、画素リセットトランジスタ512と、増幅トランジスタ513と、選択トランジスタ514と、アンプ521と、バイアストランジスタ522と、スイッチトキャパシタアンプ回路523と、スレッショルドアンプ524およびスレッショルドアンプ525と、AER回路526とを備えている。また、スイッチトキャパシタアンプ回路523は、キャパシタ5231と、アンプ5232と、キャパシタ5233と、スイッチ5234とを備えている。なお、図13においては、兼用画素54に備えた増幅トランジスタ513のゲート端子に接続されたノードに付随する容量であるノード容量FD1を、兼用画素54の回路要素としてキャパシタの記号で示している。
 兼用画素54では、光電変換素子PD12と、電荷転送トランジスタ511と、画素リセットトランジスタ512と、増幅トランジスタ513と、選択トランジスタ514と、ノード容量FD1との構成によって、通常の撮影による電荷信号を発生させる画素、つまり、第1の実施形態の固体撮像装置1における通常画素51と同様の画素を構成する。なお、以下の説明においては、通常の撮影による電荷信号を発生させる兼用画素54を「通常兼用画素541」という。通常兼用画素541においては、電荷転送トランジスタ511、画素リセットトランジスタ512、増幅トランジスタ513、および選択トランジスタ514と、ノード容量FD1とで、通常の撮影において光電変換素子PD12が発生させた電荷信号に応じた画素信号を読み出す読み出し回路を構成している。
 また、兼用画素54では、光電変換素子PD12と、アンプ521と、バイアストランジスタ522と、スイッチトキャパシタアンプ回路523と、スレッショルドアンプ524およびスレッショルドアンプ525と、AER回路526との構成によって、動き検出のための電荷信号を発生させる画素、つまり、第1の実施形態の固体撮像装置1における動き検出画素52と同様の画素を構成する。なお、以下の説明においては、動き検出のための電荷信号を発生させる兼用画素54を「動き検出兼用画素542」という。動き検出兼用画素542においては、アンプ521およびバイアストランジスタ522で、動き検出のために光電変換素子PD12が発生させた電荷信号を出力する出力回路を構成し、スイッチトキャパシタアンプ回路523、スレッショルドアンプ524、スレッショルドアンプ525、およびAER回路526で、動き検出のために光電変換素子PD12が発生させた電荷信号を読み出す読み出し回路を構成している。
 固体撮像装置2では、兼用画素54を、第1の実施形態の固体撮像装置1において画素アレイ部40内に配置した動き検出画素52の代わりに、配置する。このとき、固体撮像装置2では、光電変換素子PD12と、通常兼用画素541の読み出し回路と、動き検出兼用画素542の出力回路とを、第1の半導体基板11に形成する。また、固体撮像装置2では、動き検出兼用画素542の読み出し回路を第2の半導体基板12に形成する。
 光電変換素子PD12は、第1の実施形態の固体撮像装置1において、通常画素51に備えた光電変換素子PD1および動き検出画素52に備えた光電変換素子PD2と同様に、入射してきた光(光線)を光電変換して電荷信号を発生させ、発生させた電荷信号を蓄積するフォトダイオードである。光電変換素子PD12は、発生させた電荷信号を逐次、アンプ521に出力する。
 兼用画素54は、通常の撮影による画素信号を出力する画素として動作する場合、つまり、通常読み出しによって通常兼用画素541から画素信号を垂直信号線60に出力する場合、アンプ521は、バイアスの制御に応じて、バイアストランジスタ522が常にON状態になるようにする電圧の電圧信号Vpを、バイアストランジスタ522のゲート端子に出力する。すなわち、兼用画素54において通常の撮影による画素信号を出力する場合には、バイアストランジスタ522によって、光電変換素子PD12が発生した電荷信号を、電荷転送トランジスタ511にそのまま伝送させる。これにより、電荷転送トランジスタ511は、垂直走査回路20から入力された制御信号TXに応じて、光電変換素子PD12が発生して蓄積し、バイアストランジスタ522を介して入力された電荷信号を、増幅トランジスタ513のゲート端子に転送する。これにより、電荷転送トランジスタ511によって転送された電荷信号が、ノード容量FD1に蓄積される。
 このような動作によって、兼用画素54(通常兼用画素541)では、光電変換素子PD12が入射した光を光電変換した電荷信号に応じたそれぞれの信号電圧を、画素信号として垂直信号線60に読み出す。
 一方、兼用画素54は、動き検出のための電荷信号を発生させる画素として動作する場合、つまり、動き検出読み出しによって動き検出兼用画素542から動き検出のイベント画素信号とを出力する場合、垂直走査回路20は、画素リセットトランジスタ512が常にON状態になるように制御信号RSTを制御する。また、垂直走査回路20は、制御信号TXを固定のバイアス電圧に制御する。これにより、画素リセットトランジスタ512と電荷転送トランジスタ511とによって、バイアストランジスタ522に、固定のバイアス電圧に応じた固定の電圧が供給される。
 このような動作によって、兼用画素54(動き検出兼用画素542)では、光電変換素子PD12が、被写体の動きに応じた大きさの電荷信号を発生させて、電荷信号の変化とその変化した方向に応じたイベント画素信号を出力する。
 このような構成および動作によって、兼用画素54は、通常読み出しによる通常の撮影の画素信号と、動き検出読み出しによる動き検出のイベント画素信号とを出力することができる。
 なお、図13に示した兼用画素54の構成では、第1の実施形態の固体撮像装置1において画素アレイ部40内に配置した通常画素51に備えた光電変換素子PD1と、動き検出画素52に備えた光電変換素子PD2とを兼用する構成を示した。しかし、兼用画素54は、第1の実施形態の変形例において示した通常画素53に備えた光電変換素子PD1と、動き検出画素52に備えた光電変換素子PD2とを兼用する光電変換素子PD12を備えた構成にすることもできる。より具体的には、図13に示した兼用画素54と同様に、通常画素53に備えた電荷転送トランジスタ511において光電変換素子PD1が接続されたソース端子およびドレイン端子の一方の端子と、動き検出画素52に備えたバイアストランジスタ522において光電変換素子PD2が接続されていないソース端子およびドレイン端子の一方の端子とを接続する。これにより、通常画素53に備えた光電変換素子PD1と、動き検出画素52に備えた光電変換素子PD2とを兼用する構成にすることができる。
 なお、兼用画素54では、上述したように、通常画素51(または通常画素53)に対応する通常兼用画素541と、動き検出画素52に対応する動き検出兼用画素542とで光電変換素子PD12を兼用している。このため、固体撮像装置2では、通常兼用画素541から画素信号を読み出す通常読み出しと、動き検出兼用画素542から動き検出の画素信号(イベント画素信号)を読み出す動き検出読み出しとを排他的に行う。
(第2の実施形態の画素指定方法)
 次に、第2の実施形態の固体撮像装置2における画素50(通常画素51または通常画素53)の指定方法について説明する。なお、固体撮像装置2において読み出しアドレス制御回路100が画素信号を出力する(読み出す)通常画素53の読み出し領域を決定する方法は、第1の実施形態の固体撮像装置1における第1~第3の画素指定方法と同様である。従って、固体撮像装置2において、読み出しアドレス制御回路100が、画素信号を出力する(読み出す)通常画素53の読み出し領域を決定する方法に関する詳細な説明は省略し、以下の説明においては、固体撮像装置2において画素信号を出力する通常画素51(または通常画素53)を指定する構成について説明する。
 以下の説明においては、固体撮像装置2の画素アレイ部40内に、通常の撮影の画素信号の読み出しを行う画素50として通常画素53が、通常の撮影の画素信号とイベント画素信号との読み出しを行う画素50として兼用画素54が、それぞれ配置されているものとして説明する。なお、画素アレイ部40における通常画素53と兼用画素54との配置は、図4に示した第1の実施形態の固体撮像装置1における画素50の配置と同様であるものとする。より具体的には、固体撮像装置2の画素アレイ部40において、図4に示した第1の実施形態の固体撮像装置1の画素アレイ部40内に配置された通常画素51の代わりに通常画素53が配置され、動き検出画素52の代わりに兼用画素54が配置されているものとする。
 図14は、本発明の第2の実施形態の固体撮像装置2において画素信号を出力する構成を示した図である。図14には、固体撮像装置2おいて通常画素53と兼用画素54とが配置された画素アレイ部40の一部の縦構造と、制御回路10に備えた読み出しアドレス制御回路100とを示している。より具体的には、第1の半導体基板11に形成された通常画素53と、第1の半導体基板11および第2の半導体基板12に形成された兼用画素54と、読み出しアドレス制御回路100との間でやり取りされるそれぞれの信号を示している。
 上述したように、固体撮像装置2では、通常画素53の光電変換素子PD1と読み出し回路とを、第1の半導体基板11に形成する。図14には、通常画素53の光電変換素子PD1と、通常画素53の読み出し回路に備えた選択トランジスタ514とを第1の半導体基板11に形成している状態を示している。
 また、上述したように、固体撮像装置2では、兼用画素54の光電変換素子PD12と、兼用画素54内に構成される通常兼用画素541の読み出し回路と、兼用画素54内に構成される動き検出兼用画素542の出力回路とを第1の半導体基板11に形成する。また、上述したように、固体撮像装置2では、兼用画素54内に構成される動き検出兼用画素542の読み出し回路を第2の半導体基板12に形成する。図14には、兼用画素54の光電変換素子PD12と通常兼用画素541の読み出し回路に備えた選択トランジスタ514とを第1の半導体基板11に形成し、動き検出兼用画素542の読み出し回路に備えたスイッチトキャパシタアンプ回路523とAER回路526とを第2の半導体基板12に形成している状態を示している。
 このとき、固体撮像装置2では、動き検出兼用画素542の読み出し回路を、第1の半導体基板11に形成された通常画素53の領域と重複している領域を含めた第2の半導体基板12の領域に形成する。図14には、動き検出兼用画素542の読み出し回路に備えたスイッチトキャパシタアンプ回路523とAER回路526とを、第1の半導体基板11に形成された通常画素53の領域と重複している領域を含めた第2の半導体基板12の領域に形成している状態を示している。
 そして、固体撮像装置2では、動き検出兼用画素542の出力回路と、対応する動き検出兼用画素542の読み出し回路とを、第1の半導体基板11と第2の半導体基板12との間に形成するチップ接続部13によって電気的に接続する。図14には、第1の半導体基板11に形成した動き検出兼用画素542の出力回路に備えたアンプ521(不図示)と、第2の半導体基板12に形成した動き検出兼用画素542の読み出し回路に備えたスイッチトキャパシタアンプ回路523とを、チップ接続部13によって接続している状態を示している。
 そして、固体撮像装置2でも、第1の実施形態の固体撮像装置1と同様に、第2の半導体基板12に形成された動き検出兼用画素542のAER回路526は、光電変換素子PD12が発生した電荷信号の時間的な変化を検出したとき、イベント画素信号を、読み出しアドレス制御回路100に出力する。
 読み出しアドレス制御回路100は、イベント画素信号が入力されると、入力されたイベント画素信号に含まれるアドレス情報から、イベント画素信号を出力した兼用画素54の位置を検出(確認)する。そして、読み出しアドレス制御回路100は、検出(確認)した兼用画素54の位置を中心とした予め定めた読み出し領域に配置されている通常画素53の領域を、通常画素53から画素信号を出力する(読み出す)読み出し領域に決定する。
 そして、読み出しアドレス制御回路100は、決定した読み出し領域内に配置されている通常画素53を指定するための制御信号を、垂直走査回路20および水平走査回路30に出力する。これにより、垂直走査回路20および水平走査回路30のそれぞれは、指定された通常画素53を順次駆動して、読み出しアドレス制御回路100によって指定された通常画素53から画素信号を出力する(読み出す)。
 なお、固体撮像装置2では、画素アレイ部40内に、通常の撮影の画素信号とイベント画素信号との読み出しを行う兼用画素54が配置されている。このため、固体撮像装置2では、兼用画素54内に構成される動き検出兼用画素542が出力したイベント画素信号に応じて読み出す画素信号は、通常画素53から読み出す通常の撮影による画素信号のみではなく、兼用画素54内に構成される通常兼用画素541からも通常の撮影による画素信号を読み出すことができる。つまり、第1の実施形態の固体撮像装置1では、画素アレイ部40において動き検出画素52が配置されている画素アレイ部40内の位置が、通常の撮影の画素信号を読み出す通常画素51が欠けている位置となっていたが、固体撮像装置2では、固体撮像装置1において動き検出画素52が配置されている位置でも、通常の撮影による画素信号を読み出すことができる。すなわち、通常の撮影における画素信号が欠けている位置がない。このため、固体撮像装置2から出力された通常の撮影における画素信号に基づいて画像を生成する画像処理部は、それぞれの画素信号に基づいた画像を生成する際に、欠けている画素の画素信号を補間する演算を行う必要がない。
 ただし、上述したように、固体撮像装置2では、兼用画素54内に構成される通常兼用画素541から画素信号を読み出す通常読み出しと、兼用画素54内に構成される動き検出兼用画素542から動き検出の画素信号(イベント画素信号)を読み出す動き検出読み出しとを時分割で行う。
 ここで、兼用画素54内に構成される通常兼用画素541と動き検出兼用画素542とのそれぞれから画素信号(通常の撮影における画素信号およびイベント画素信号)を読み出す動作について説明する。なお、以下の説明においては、兼用画素54が、通常画素53に備えた光電変換素子PD1と、動き検出画素52に備えた光電変換素子PD2とを兼用する構成の兼用画素54であるものとして説明する。つまり、兼用画素54内に構成される通常兼用画素541は、通常画素53と同様に、光電変換素子PD12が発生した電荷信号に応じた信号電圧を電荷蓄積容量530に一旦蓄積する動作をし、兼用画素54に備えた動き検出兼用画素542は、動き検出画素52と同様に、逐次被写体の動きを検出する動き検出の動作をするものとして説明する。
 図15は、本発明の第2の実施形態の固体撮像装置2における画素信号(通常の撮影における画素信号およびイベント画素信号)の読み出しシーケンスを示したタイミングチャートである。なお、固体撮像装置2においても、垂直走査回路20および水平走査回路30のそれぞれが、制御回路10または制御回路10に備えた読み出しアドレス制御回路100が出力した制御信号に応じて通常画素53や兼用画素54を駆動するが、以下の説明においては、説明を容易にするため、読み出しアドレス制御回路100が通常画素53や兼用画素54を駆動するものとして説明する。なお、通常画素53の動作と兼用画素54内に構成される通常兼用画素541の動作とは同様であるため、以下の説明においては、通常画素53の動作を、通常兼用画素541の動作として説明する。また、動き検出画素52の動作は、兼用画素54に備えた動き検出兼用画素542の動作として説明する。図15には、兼用画素54に備えた光電変換素子PD12と、通常兼用画素541の動作を表すための電荷蓄積容量530と、動き検出兼用画素542の動作を表すAER回路526とを示している。
 読み出しアドレス制御回路100は、予め定めたフレームレートの周期で、通常兼用画素541(通常画素53も含む)に通常の撮影のための露光を行わせる。そして、読み出しアドレス制御回路100は、通常の撮影における任意の露光時間が経過した後、グローバルシャッタ機能の動作によって、全ての通常兼用画素541の光電変換素子PD12(通常画素53の光電変換素子PD1も含む)が発生した電荷信号に応じた信号電圧を電荷蓄積容量530に転送して蓄積させる。
 その後、読み出しアドレス制御回路100は、引き続き、動き検出兼用画素542に動き検出のための露光を行わせる。これにより、動き検出兼用画素542は、被写体の動きを逐次検出する。なお、図15には、光電変換素子PD12が発生する電荷信号が飽和した場合を考慮し、動き検出のための露光を、予め定めた任意の露光時間で区切って、複数回行う場合を示している。
 そして、読み出しアドレス制御回路100は、いずれかの動き検出兼用画素542からイベント画素信号が入力されると、入力されたイベント画素信号に含まれるアドレス情報に基づいて、画素信号を読み出す通常画素53の読み出し領域を決定し、決定した読み出し領域内に配置されている通常画素53から画素信号を読み出す。このとき、読み出しアドレス制御回路100は、イベント画素信号を出力した動き検出兼用画素542と光電変換素子PD12を兼用している通常兼用画素541からも、画素信号を読み出す。より具体的には、決定した読み出し領域内に配置されている通常画素53および通常兼用画素541に備えた電荷蓄積容量530から、蓄積した信号電圧に応じた画素信号を読み出す。
 このように、固体撮像装置2では、通常の撮影のためのそれぞれの露光の間の時間に、動き検出のための露光を行う。そして、被写体の動きを検出した動き検出兼用画素542を備えた兼用画素54内に構成される通常兼用画素541からも画素信号を読み出す。このとき、固体撮像装置2では、第1の実施形態の固体撮像装置1と同様に、すでに取得している1フレーム分の画素信号の内、動きが検出された小さな読み出し領域から少ない数の画素信号を読み出す。これにより、固体撮像装置2でも、第1の実施形態の固体撮像装置1と同様に、検出した被写体の動きに応じた画素信号を読み出す際の消費電力を削減することができる。
 しかも、固体撮像装置2では、被写体の動きを検出した動き検出兼用画素542が配置された位置の通常の撮影における画素信号も、画素信号を読み出す読み出し領域内の画素信号として読み出すことができる。このため、固体撮像装置2を搭載した撮像システムに備えた画像処理部は、それぞれの画素信号に基づいた画像を生成する際に、欠けている画素の画素信号を補間する演算を行う必要がない。
 第2の実施形態によれば、s個の第1の光電変換素子(光電変換素子PD1)が発生したs個の第1の電荷信号を1つの単位とした電荷信号を第2の光電変換素子(光電変換素子PD2)が発生する第2の電荷信号として兼用し、sは1以上の自然数であり、第2の電荷信号として兼用する第1の電荷信号を出力する光電変換素子PD1の総数は、1以上でn以下の自然数である、固体撮像装置(固体撮像装置2)が構成される。
 上記に述べたように、第2の実施形態の固体撮像装置2では、通常の撮影による画素信号の出力に特化した通常画素51(または通常画素53)と、通常の撮影による画素信号の出力と、動き検出によるイベント画素信号の出力とを、同じ光電変換素子PD12が発生した電荷信号に基づいて行う兼用画素54を、画素アレイ部40における行方向および列方向に周期的に(平面状に)配置する。これにより、第2の実施形態の固体撮像装置2でも、第1の実施形態の固体撮像装置1と同様に、通常の撮影と被写体の動きを逐次検出する動き検出とを両立することができる。
 そして、第2の実施形態の固体撮像装置2でも、第1の実施形態の固体撮像装置1と同様に、兼用画素54内に構成される動き検出兼用画素542からイベント画素信号が出力されたときに、イベント画素信号を出力した動き検出兼用画素542の位置に対応する予め定めた読み出し領域内に配置された通常画素51(または通常画素53)から画素信号を出力する(読み出す)。つまり、第2の実施形態の固体撮像装置2でも、第1の実施形態の固体撮像装置1と同様に、被写体の動きを検出した兼用画素54(動き検出兼用画素542)が配置された位置に対応する予め定めた小さな読み出し領域に配置されている通常画素51(または通常画素53)とイベント画素信号を出力した兼用画素54内に構成される通常兼用画素541のみから通常の撮影の画素信号を出力する(読み出す)。これにより、第2の実施形態の固体撮像装置2でも、第1の実施形態の固体撮像装置1と同様に、従来の固体撮像装置のように、被写体の動きを反映した画像を生成するために通常の撮影で得た全ての画素信号を読み出すのに比べて、消費電力を削減することができる。
 また、第2の実施形態の固体撮像装置2を搭載した撮像システムに備えた画像処理部も、第1の実施形態の固体撮像装置1を搭載した撮像システムに備えた画像処理部と同様に、被写体の動きが検出された小さな読み出し領域に配置されている通常画素51(または通常画素53)と、兼用画素54(通常兼用画素541)のみから出力した(読み出した)少ない数の画素信号に基づいて、被写体の動きを反映した画像を生成することができる。このとき、第2の実施形態の固体撮像装置2を搭載した撮像システムに備えた画像処理部は、欠けている画素の画素信号を補間する演算を行うことなく、被写体の動きを反映した画像を生成することができる。このことにより、第2の実施形態の固体撮像装置2を搭載した撮像システムに備えた画像処理部は、第1の実施形態の固体撮像装置1を搭載した撮像システムに備えた画像処理部よりも少ない処理の負荷で、被写体の動きを検出したときに対して時間的なずれが少ない、被写体の動きを反映した高画質の画像を生成することができる。
 なお、第2の実施形態の固体撮像装置2では、通常画素51(または通常画素53)と兼用画素54とが、図4に示した第1の実施形態の固体撮像装置1における画素50の配置と同様に配置されているものとして説明した。つまり、第2の実施形態の固体撮像装置2の画素アレイ部40において、図4に示した第1の実施形態の固体撮像装置1の画素アレイ部40内に配置された通常画素51の代わりに通常画素53が配置され、動き検出画素52の代わりに兼用画素54が配置されているものとして説明した。しかし、第2の実施形態の固体撮像装置2における画素アレイ部40内の通常画素51(または通常画素53)と兼用画素54との配置は、上述した第1の実施形態の固体撮像装置1における画素アレイ部40内の画素50の配置と同様の配置に限定されるものではない。例えば、第2の実施形態の固体撮像装置2における画素アレイ部40の平面の領域全体に、兼用画素54を均一に配置してもよい。これは、兼用画素54は、通常兼用画素541が、通常画素51(または通常画素53)と同様に、通常読み出しによって、通常の撮影の画素信号を出力することができる構成の画素50であるからである。
 なお、上述したように、第2の実施形態の固体撮像装置2でも、画素アレイ部40に備える通常画素51(または通常画素53)および通常兼用画素541の数を増加させることによって、通常の撮影において高画素化を実現することが望ましい。第2の実施形態の固体撮像装置2でも、画素アレイ部40内に配置する通常画素51(または通常画素53)および通常兼用画素541をより高精細化して、画素アレイ部40内に配置する数をさらに多くすることによって、通常の撮影において生成する画像の画質を向上させる、つまり、高精細な出力を得る構成にすることもできる。
 しかしながら、上述したように、第2の実施形態の固体撮像装置2においても、被写体の動きを逐次検出する動き検出では、光電変換素子PD12が、短い時間であっても電荷信号を発生し、動き検出兼用画素542が被写体の動きの検出を行えることが望ましい。ところが、通常兼用画素541をより高精細化すると、動き検出兼用画素542と兼用している光電変換素子PD12の面積が小さくなって、光電変換によって発生する電荷信号のレベルが低下してしまう。これは、動き検出兼用画素542が動き検出において時間的な変化を検出するための電荷信号のレベルも低下するということであり、動き検出の精度が低下してしまうことにつながってしまう。そこで、第2の実施形態の固体撮像装置2では、兼用画素54の構成を変更することによって、通常の撮影において生成する画像の画質を向上させる、つまり、高画素化を実現する構成にすると共に、動き検出の精度の低下を抑える構成にすることもできる。
(第3の実施形態)
 次に、本発明の第3の実施形態について説明する。なお、本発明の第3の実施形態における固体撮像装置(以下、「固体撮像装置3」という)の概観や概略構成は、第2の実施形態における固体撮像装置2の概観および概略構成、つまり、図1および図2に示した第1の実施形態における固体撮像装置1の概観および概略構成と同様である。従って、以下の説明においては、固体撮像装置3の構成要素において、第1の実施形態の固体撮像装置1および第2の実施形態の固体撮像装置2の構成要素と同様の構成要素には、同一の符号を用い、それぞれの構成要素や動作に関する詳細な説明は省略する。
 ここで、第3の実施形態の固体撮像装置3において画素アレイ部40内に配置する画素50の構成について説明する。固体撮像装置3において画素アレイ部40内に配置する画素50も、第2の実施形態の固体撮像装置2において画素アレイ部40内に配置する兼用画素54と同様に、通常読み出しによる通常の撮影の画素信号と、動き検出読み出しによる動き検出のイベント画素信号とを出力する。すなわち、この画素50も、兼用画素54と同様に、通常画素51(または通常画素53)に備えた光電変換素子PD1と動き検出画素52に備えた光電変換素子PD2とを兼用する構成の画素である。ただし、固体撮像装置3において画素アレイ部40内に配置する画素50は、複数の光電変換素子PD1が発生した電荷信号に基づいて被写体の動きを検出し、イベント画素信号を出力する。
 以下の説明においては、固体撮像装置3の画素アレイ部40内に配置する、通常読み出しによる通常の撮影の画素信号の出力と、動き検出読み出しによる動き検出のイベント画素信号の出力とを行う画素50を「兼用画素55」という。兼用画素55は、複数の通常画素51(または通常画素53)の機能と、1個の動き検出画素52の機能とを備えた構成の画素である。つまり、兼用画素55は、図13に示した兼用画素54において、通常の撮影による電荷信号を発生させる通常兼用画素541を高精細化して通常の撮影において生成する画像の画質を向上させると共に、動き検出のための電荷信号を発生させる動き検出兼用画素542が兼用する光電変換素子PD12の数を多くすることによって動き検出の精度の低下を抑える構成の画素である。
 図16は、本発明の第3の実施形態の固体撮像装置3における兼用画素55の構成の一例を示した回路図である。図16には、2個の高精細化した通常兼用画素541と1個の動き検出兼用画素552とを備えた構成の兼用画素55を示している。なお、兼用画素55を構成する回路要素には、第2の実施形態の固体撮像装置2において画素アレイ部40内に配置する兼用画素54を構成する回路要素と同様の回路要素を含んでいる。従って、以下の説明においては、兼用画素55を構成する回路要素において、第2の実施形態の固体撮像装置2において画素アレイ部40内に配置する兼用画素54を構成する回路要素と同様の回路要素には同一の符号を付与し、詳細な説明は省略する。
 兼用画素55に備えた2個の通常兼用画素541のそれぞれは、兼用画素54内に構成される通常兼用画素541と同様の構成である。図16においては、2個の通常兼用画素541のそれぞれを、通常兼用画素541aおよび通常兼用画素541bとして区別している。そして、図16では、それぞれの通常兼用画素541内の回路要素を区別するため、それぞれの回路要素の符号に続いて、通常兼用画素541のそれぞれを区別するために付与した符号、すなわち、「a」または「b」を付与している。
 より具体的には、通常兼用画素541aは、光電変換素子PD12aと、電荷転送トランジスタ511aと、画素リセットトランジスタ512aと、増幅トランジスタ513aと、選択トランジスタ514aと、ノード容量FD1aとによって構成されている。また、通常兼用画素541bは、光電変換素子PD12bと、電荷転送トランジスタ511bと、画素リセットトランジスタ512bと、増幅トランジスタ513bと、選択トランジスタ514bと、ノード容量FD1bとによって構成されている。
 なお、通常兼用画素541aおよび通常兼用画素541bの動作や、垂直走査回路20による制御タイミングは、兼用画素54内に構成される通常兼用画素541と同様であるため、詳細な説明は省略する。
 また、兼用画素55に備えた1個の動き検出兼用画素552は、兼用画素54内に構成される動き検出兼用画素542と同様の構成である。ただし、動き検出兼用画素552では、1個の動き検出兼用画素552が、複数の通常兼用画素541と光電変換素子PD12を兼用する。図16には、1個の動き検出兼用画素552が、高精細化した通常兼用画素541aおよび通常兼用画素541bのそれぞれと光電変換素子PD12を兼用する。つまり、動き検出兼用画素552は、複数の光電変換素子PD12が発生した電荷信号に基づいて被写体の動きを検出する。このため、動き検出兼用画素552では、それぞれの光電変換素子PD12に対応する回路要素の構成が変更されている。
 より具体的には、動き検出兼用画素552は、兼用画素54内に構成される動き検出兼用画素542に備えたアンプ521、バイアストランジスタ522、およびスイッチトキャパシタアンプ回路523に備えたキャパシタ5231のそれぞれが、兼用するそれぞれの光電変換素子PD12に対応した構成になっている。
 なお、図16においては、動き検出兼用画素552内の回路要素においていずれかの1つの光電変換素子PD12に対応する回路要素には、光電変換素子PD12に付与された符号(「a」または「b」)をそれぞれの回路要素の符号に続いて付与することによって、それぞれの回路要素が対応する光電変換素子PD12を区別している。
 より具体的には、動き検出兼用画素552は、アンプ521aおよびアンプ521bと、バイアストランジスタ522aおよびバイアストランジスタ522bと、スイッチトキャパシタアンプ回路553と、スレッショルドアンプ524およびスレッショルドアンプ525と、AER回路526とによって構成されている。また、スイッチトキャパシタアンプ回路553は、キャパシタ5231aおよびキャパシタ5231bと、アンプ5232と、キャパシタ5233と、スイッチ5234とによって構成されている。
 アンプ521aは、対応する光電変換素子PD12aが発生して出力した電荷信号を増幅し、増幅した電荷信号を、チップ接続部13aを介してスイッチトキャパシタアンプ回路553内のキャパシタ5231aに出力する。また、アンプ521aは、増幅した電荷信号を、バイアストランジスタ522aのゲート端子に、電圧信号Vpaとして転送する。
 アンプ521bは、対応する光電変換素子PD12bが発生して出力した電荷信号を増幅し、増幅した電荷信号を、チップ接続部13bを介してスイッチトキャパシタアンプ回路553内のキャパシタ5231bに出力する。また、アンプ521bは、増幅した電荷信号を、バイアストランジスタ522bのゲート端子に、電圧信号Vpbとして転送する。
 バイアストランジスタ522aは、ゲート端子に転送された電圧信号Vpaに応じて光電変換素子PD12aに流れる電流が一定の電流になるように、つまり、光電変換素子PD12aが発生する電荷信号が変化した場合でも、電荷信号の大きさが変化した後の大きさで逐次安定するように制御する。つまり、光電変換素子PD12aの出力をクリップする。
 バイアストランジスタ522bは、ゲート端子に転送された電圧信号Vpbに応じて光電変換素子PD12bに流れる電流が一定の電流になるように、つまり、光電変換素子PD12bが発生する電荷信号が変化した場合でも、電荷信号の大きさが変化した後の大きさで逐次安定するように制御する。つまり、光電変換素子PD12bの出力をクリップする。
 スイッチトキャパシタアンプ回路553は、アンプ521aおよびアンプ521bのそれぞれから対応するチップ接続部13aまたはチップ接続部13bを介して入力された電荷信号を加算する。より具体的には、キャパシタ5231aは、対応するアンプ521aから第1の端子に入力された電荷信号を蓄積し、蓄積した電荷信号に応じた電圧の電圧信号を第2の端子から出力する。また、キャパシタ5231bは、対応するアンプ521bから第1の端子に入力された電荷信号を蓄積し、蓄積した電荷信号に応じた電圧の電圧信号を第2の端子から出力する。このとき、図16に示したようにキャパシタ5231aの第2の端子とキャパシタ5231bの第2の端子とが接続されているため、キャパシタ5231aの第2の端子から出力する電圧信号と、キャパシタ5231bの第2の端子から出力する電圧信号とは加算されて、アンプ5232に出力される。そして、スイッチトキャパシタアンプ回路553は、兼用画素54内に構成される動き検出兼用画素542に備えたスイッチトキャパシタアンプ回路523と同様に、加算した電荷信号の変化、つまり、光電変換素子PD12aおよび光電変換素子PD12bのそれぞれが発生する電荷信号を加算した電荷信号の増減を、予め定めた電圧の範囲の電圧信号に変換し、スレッショルドアンプ524およびスレッショルドアンプ525のそれぞれに出力する。
 このような構成によって、動き検出兼用画素552では、通常兼用画素541の高精細化に伴ってそれぞれの通常兼用画素541に備えた光電変換素子PD12の面積が小さくなった場合でも、複数の光電変換素子PD12が発生した電荷信号を加算することによって、より大きな電荷信号に基づいて被写体の動きを検出することができる。このため、動き検出兼用画素552では、動き検出の精度の低下を抑えることができる。
 なお、動き検出兼用画素552の動作や、垂直走査回路20による制御タイミングは、動き検出兼用画素552が、加算した電荷信号に基づいて動作すること以外は、兼用画素54内に構成される動き検出兼用画素542と同様であるため、詳細な説明は省略する。
 このような構成によって、兼用画素55では、高精細化した通常兼用画素541によって通常の撮影において生成する画像の画質を向上させると共に、動き検出兼用画素552が兼用する光電変換素子PD12の数を多くすることによって動き検出の精度の低下を抑えることができる。
 そして、固体撮像装置3では、兼用画素55を、画素アレイ部40の平面の領域全体に均一に配置する。このとき、固体撮像装置3では、それぞれの光電変換素子PD12と、それぞれの通常兼用画素541の読み出し回路と、動き検出兼用画素552の出力回路とを第1の半導体基板11に形成し、動き検出兼用画素552の読み出し回路を第2の半導体基板12に形成する。
 なお、図16に示した兼用画素55の構成では、図13に示した兼用画素54の構成と同様に、第1の実施形態において図3Aに示した通常画素51に備えた光電変換素子PD1と、第1の実施形態において図3Bに示した動き検出画素52に備えた光電変換素子PD2とを兼用する構成を示した。つまり、それぞれの光電変換素子PD12が発生した電荷信号を蓄積する回路要素を備えていない構成の複数の通常兼用画素541と、動き検出兼用画素542とを合わせた構成を示した。しかし、兼用画素55も、兼用画素54と同様に、第1の実施形態の変形例において図11に示した通常画素53に備えた光電変換素子PD1と、第1の実施形態において図3Bに示した動き検出画素52に備えた光電変換素子PD2とを兼用する光電変換素子PD12を備えた構成にすることもできる。なお、この場合のそれぞれの回路要素の接続は、兼用画素54における考え方と同様である。より具体的には、図16に示した兼用画素55と同様に、通常画素53に備えた電荷転送トランジスタ511において光電変換素子PD1が接続されたソース端子およびドレイン端子の一方の端子と、動き検出画素52に備えたバイアストランジスタ522において光電変換素子PD2が接続されていないソース端子およびドレイン端子の一方の端子とを、それぞれの通常画素53ごとに接続する。これにより、1個の動き検出画素52に備えた光電変換素子PD2を、複数の通常画素53に備えた光電変換素子PD1で構成することができる。
 なお、兼用画素55では、上述したように、複数の通常画素51(または通常画素53)に対応する通常兼用画素541と、動き検出画素52に対応する動き検出兼用画素552とで光電変換素子PD12を兼用している。このため、固体撮像装置3でも、第2の実施形態の固体撮像装置2と同様に、通常兼用画素541から画素信号を読み出す通常読み出しと、動き検出兼用画素552から動き検出の画素信号(イベント画素信号)を読み出す動き検出読み出しとを排他的に行う。
(第3の実施形態の画素指定方法)
 次に、第3の実施形態の固体撮像装置3における通常兼用画素541の指定方法について説明する。なお、固体撮像装置3において読み出しアドレス制御回路100が画素信号を出力する(読み出す)兼用画素55(通常兼用画素541)の読み出し領域を決定する方法は、第1の実施形態の固体撮像装置1における第1~第3の画素指定方法と同様である。従って、固体撮像装置3において、読み出しアドレス制御回路100が、画素信号を出力する(読み出す)兼用画素55(通常兼用画素541)の読み出し領域を決定する方法に関する詳細な説明は省略し、以下の説明においては、固体撮像装置3において画素信号を出力する兼用画素55(通常兼用画素541)を指定する構成について説明する。なお、以下の説明においては、上述したように、固体撮像装置3の画素アレイ部40の平面の領域全体に、兼用画素55が均一に配置されているものとして説明する。
 図17は、本発明の第3の実施形態の固体撮像装置3において画素信号を出力する構成を示した図である。図17には、固体撮像装置3おいて兼用画素55が均一に配置された画素アレイ部40の一部の縦構造と、制御回路10に備えた読み出しアドレス制御回路100とを示している。より具体的には、第1の半導体基板11および第2の半導体基板12に形成された兼用画素55と、読み出しアドレス制御回路100との間でやり取りされるそれぞれの信号を示している。なお、図17には、3個の通常画素51(または通常画素53)に対応する通常兼用画素541と、動き検出画素52に対応する動き検出兼用画素552とで光電変換素子PD12を兼用している構成の兼用画素55を示している。つまり、兼用画素55は、3つの光電変換素子PD12(光電変換素子PD12a~光電変換素子PD12c)のそれぞれが発生した電荷信号に基づいて被写体の動きを検出する兼用画素である。図17では、それぞれの通常兼用画素541内の回路要素を区別するため、それぞれの回路要素の符号に続いて、「a」、「b」、または「c」を付与している。
 上述したように、固体撮像装置3では、兼用画素55のそれぞれの光電変換素子PD12と、兼用画素55内に構成されるそれぞれの通常兼用画素541の読み出し回路と、兼用画素55内に構成される動き検出兼用画素552の出力回路とを第1の半導体基板11に形成する。また、上述したように、固体撮像装置3では、兼用画素55内に構成される動き検出兼用画素552の読み出し回路を第2の半導体基板12に形成する。図17には、兼用画素55の3つの光電変換素子PD12a~光電変換素子PD12cと、それぞれの通常兼用画素541の読み出し回路に備えたそれぞれの選択トランジスタ514(選択トランジスタ514a~選択トランジスタ514c)とを第1の半導体基板11に形成し、動き検出兼用画素552の読み出し回路に備えたスイッチトキャパシタアンプ回路553を第2の半導体基板12に形成している状態を示している。
 このとき、固体撮像装置3では、動き検出兼用画素552の読み出し回路を、第1の半導体基板11に形成された通常兼用画素541および動き検出兼用画素552の出力回路の領域と重複している領域を含めた第2の半導体基板12の領域に形成する。図17には、動き検出兼用画素552の読み出し回路に備えたスイッチトキャパシタアンプ回路553を、第1の半導体基板11に形成された通常画素53および動き検出兼用画素552の出力回路の領域と重複している領域を含めた第2の半導体基板12の領域に形成している状態を示している。
 そして、固体撮像装置3では、動き検出兼用画素552の読み出し回路と、対応するそれぞれの動き検出兼用画素552の出力回路とを、第1の半導体基板11と第2の半導体基板12との間に形成するチップ接続部13によって電気的に接続する。図17には、第1の半導体基板11に形成したそれぞれの動き検出兼用画素552の出力回路に備えたアンプ521a(不図示)~アンプ521c(不図示)と、第2の半導体基板12に形成した動き検出兼用画素552の読み出し回路に備えたスイッチトキャパシタアンプ回路553とを、対応するチップ接続部13によって接続している状態を示している。
 そして、固体撮像装置3でも、第2の実施形態の固体撮像装置2と同様に、第2の半導体基板12に形成された動き検出兼用画素552のAER回路526(不図示)は、光電変換素子PD12a~光電変換素子PD12cのそれぞれが発生した電荷信号の時間的な変化を検出したとき、イベント画素信号を、読み出しアドレス制御回路100に出力する。
 読み出しアドレス制御回路100は、イベント画素信号が入力されると、入力されたイベント画素信号に含まれるアドレス情報から、イベント画素信号を出力した兼用画素55の位置を検出(確認)する。なお、ここで、読み出しアドレス制御回路100が検出(確認)する兼用画素55の位置は、兼用画素55内に構成される複数の通常兼用画素541が配置されている領域である。しかし、読み出しアドレス制御回路100は、兼用画素55の領域における中心位置を、イベント画素信号を出力した兼用画素55の位置として検出(確認)してもよい。そして、読み出しアドレス制御回路100は、検出(確認)した兼用画素55の位置を中心とした予め定めた読み出し領域に配置されている通常兼用画素541の領域を、通常兼用画素541から画素信号を出力する(読み出す)読み出し領域に決定する。
 そして、読み出しアドレス制御回路100は、決定した読み出し領域内に配置されている通常兼用画素541を指定するための制御信号を、垂直走査回路20および水平走査回路30に出力する。これにより、垂直走査回路20および水平走査回路30のそれぞれは、指定された通常兼用画素541を順次駆動して、読み出しアドレス制御回路100によって指定された通常兼用画素541から画素信号を出力する(読み出す)。
 なお、固体撮像装置3では、画素アレイ部40内に、通常の撮影の画素信号とイベント画素信号との読み出しを行う兼用画素55が均一に配置されている。このため、固体撮像装置3では、兼用画素55内に構成される動き検出兼用画素552が出力したイベント画素信号を出力した際に、兼用画素55内に構成される通常兼用画素541から通常の撮影による1フレーム分の画素信号を読み出すことができる。つまり、固体撮像装置3でも、第2の実施形態の固体撮像装置2と同様に、通常の撮影において欠けている画素信号がない。このため、固体撮像装置3から出力された通常の撮影における画素信号に基づいて画像を生成する画像処理部も、それぞれの画素信号に基づいた画像を生成する際に、欠けている画素の画素信号を補間する演算を行う必要がない。
 ただし、固体撮像装置3でも、第2の実施形態の固体撮像装置2と同様に、兼用画素55内に構成される通常兼用画素541から画素信号を読み出す通常読み出しと、兼用画素55内に構成される動き検出兼用画素552から動き検出の画素信号(イベント画素信号)を読み出す動き検出読み出しとを時分割で行う。
 なお、図16に示した兼用画素55の構成では、1個の動き検出兼用画素552が、2個の通常兼用画素541(通常兼用画素541aおよび通常兼用画素541b)と光電変換素子PD12(光電変換素子PD12aおよび光電変換素子PD12b)を兼用する構成を示した。しかし、兼用画素55の構成は、図16に示した構成に限定されるものではない。つまり、兼用画素55において1個の動き検出兼用画素552が兼用する光電変換素子PD12の数は、図16に示した2個に限定されるものではない。例えば、兼用画素55において、1個の動き検出兼用画素552が、4個の通常兼用画素541と光電変換素子PD12を兼用する構成、すなわち、動き検出兼用画素552が4個の光電変換素子PD12が発生した電荷信号を加算した電荷信号に基づいて被写体の動きを検出する構成にしてもよい。
 なお、固体撮像装置3では、画素アレイ部40内に、通常の撮影の画素信号とイベント画素信号との読み出しを行う兼用画素55が均一に配置されている場合について説明した。しかし、固体撮像装置3における画素アレイ部40内の兼用画素55の配置は、画素アレイ部40の全体の領域への均一な配置に限定されるものではない。例えば、兼用画素55内に構成される動き検出兼用画素552が兼用する光電変換素子PD12を備えた通常兼用画素541を、画素アレイ部40の行方向および列方向に、周期的に配置してもよい。この場合、兼用画素55内に構成される動き検出兼用画素552が兼用しない光電変換素子の位置には、高精細化した通常画素51(または通常画素53)を配置してもよい。
(第3の実施形態の変形例)
 ここで、第3の実施形態の固体撮像装置3における画素アレイ部40内の通常画素51(または通常画素53)および兼用画素55の配置の一例について説明する。図18は、本発明の第3の実施形態の固体撮像装置3における画素50(通常画素51(または通常画素53)および兼用画素55)の配置の一例を模式的に示した図である。図18には、通常画素51(または通常画素53)および兼用画素55のそれぞれに光が入射する側に、赤色(R)、緑色(G)、青色(B)の波長帯域の光に対応するカラーフィルタ(色フィルタ)がベイヤー配列で貼付された、固体撮像装置3を構成する第1の半導体基板11の画素アレイ部40内の通常画素53および兼用画素55の配置の一例を示している。
 図18に示した固体撮像装置3における画素50の配置例では、通常画素53を画素アレイ部40の平面の領域全体に均一に配置し、予め定めた位置に配置された通常画素53に備えた光電変換素子PD1を、兼用画素55内に構成される動き検出兼用画素552が兼用するように、兼用画素55を配置している。つまり、画素アレイ部40に配置された通常画素53を、行方向および列方向に周期的に兼用画素55に置き換えたような配置にしている。より具体的には、画素アレイ部40において赤色(R)の波長帯域の光に対応するカラーフィルタが貼付された行の緑色(G)の波長帯域の光に対応するカラーフィルタが貼付された位置に配置された通常画素53に備えた光電変換素子PD1を、兼用画素55内に構成される動き検出兼用画素552が兼用するように配置している。これにより、動き検出兼用画素552は、通常の撮影で生成する画像において輝度を表すと考えることができる緑色(G)の波長帯域の光によって被写体の動きを検出することができる。
 なお、上述したように、第2の半導体基板12に形成する動き検出兼用画素552の読み出し回路は、第1の半導体基板11に形成された通常画素53の領域と重複している領域を含めて形成する。従って、図18に示した固体撮像装置3における画素50の配置例では、6行6列の矩形の領域d1~領域d6のそれぞれの領域に対応する第2の半導体基板12に、動き検出兼用画素552の読み出し回路を形成する。
(第3の実施形態の変形例の画素指定方法)
 次に、第3の実施形態の変形例の固体撮像装置3における通常兼用画素541の指定方法について説明する。なお、変形例の固体撮像装置3において読み出しアドレス制御回路100が画素信号を出力する(読み出す)兼用画素55(通常兼用画素541)の読み出し領域を決定する方法も、第1の実施形態の固体撮像装置1における第1~第3の画素指定方法と同様である。従って、変形例の固体撮像装置3において、読み出しアドレス制御回路100が、画素信号を出力する(読み出す)兼用画素55(通常兼用画素541)の読み出し領域を決定する方法に関する詳細な説明は省略し、以下の説明においては、変形例の固体撮像装置3において画素信号を出力する兼用画素55(通常兼用画素541)を指定する構成について説明する。なお、以下の説明においては、固体撮像装置3の画素アレイ部40の平面の領域に、図18に示したように、通常画素53と兼用画素55とが配置されている場合について説明する。
 図19は、本発明の第3の実施形態の変形例の固体撮像装置3において画素信号を出力する別の構成を示した図である。図19には、変形例の固体撮像装置3おいて通常画素53と兼用画素55とが配置された画素アレイ部40の一部の縦構造と、制御回路10に備えた読み出しアドレス制御回路100とを示している。より具体的には、第1の半導体基板11に形成された通常画素53と、第1の半導体基板11および第2の半導体基板12に形成された兼用画素55と、読み出しアドレス制御回路100との間でやり取りされるそれぞれの信号を示している。なお、図19には、2個の通常画素53に対応する通常兼用画素541と動き検出兼用画素552とで光電変換素子PD12(光電変換素子PD12aおよび光電変換素子PD12b)を兼用している構成の兼用画素55を示している。従って、兼用画素55は、光電変換素子PD12aおよび光電変換素子PD12bのそれぞれが発生した電荷信号に基づいて被写体の動きを検出する兼用画素である。
 変形例の固体撮像装置3では、通常画素53の光電変換素子PD1と読み出し回路とを、第1の半導体基板11に形成する。図17には、通常画素53の光電変換素子PD1と、通常画素53の読み出し回路に備えた選択トランジスタ514とを第1の半導体基板11に形成している状態を示している。
 また、変形例の固体撮像装置3では、兼用画素55のそれぞれの光電変換素子PD12と、兼用画素55内に構成されるそれぞれの通常兼用画素541の読み出し回路と、兼用画素55内に構成される動き検出兼用画素552の出力回路とを第1の半導体基板11に形成する。また、上述したように、変形例の固体撮像装置3では、兼用画素55内に構成される動き検出兼用画素552の読み出し回路を第2の半導体基板12に形成する。図19には、兼用画素55の2つの光電変換素子PD12aおよび光電変換素子PD12bと、それぞれの通常兼用画素541の読み出し回路に備えたそれぞれの選択トランジスタ514(選択トランジスタ514aおよび選択トランジスタ514b)とを第1の半導体基板11に形成し、動き検出兼用画素552の読み出し回路に備えたスイッチトキャパシタアンプ回路553とAER回路526とを第2の半導体基板12に形成している状態を示している。
 このとき、変形例の固体撮像装置3では、動き検出兼用画素552の読み出し回路を、第1の半導体基板11に形成された通常兼用画素541および動き検出兼用画素552の出力回路の領域と重複している領域を含めた第2の半導体基板12の領域に形成する。図19には、動き検出兼用画素552の読み出し回路に備えたスイッチトキャパシタアンプ回路553とAER回路526とを、第1の半導体基板11に形成された通常画素53および動き検出兼用画素552の出力回路の領域と重複している領域を含めた第2の半導体基板12の領域に形成している状態を示している。
 そして、変形例の固体撮像装置3では、動き検出兼用画素552の読み出し回路と、対応するそれぞれの動き検出兼用画素552の出力回路とを、第1の半導体基板11と第2の半導体基板12との間に形成するチップ接続部13によって電気的に接続する。図19には、第1の半導体基板11に形成したそれぞれの動き検出兼用画素552の出力回路に備えたアンプ521a(不図示)およびアンプ521b(不図示)と、第2の半導体基板12に形成した動き検出兼用画素552の読み出し回路に備えたスイッチトキャパシタアンプ回路553とを、対応するチップ接続部13によって接続している状態を示している。
 そして、変形例の固体撮像装置3でも、画素アレイ部40の平面の領域全体に、兼用画素55が均一に配置されている場合と同様に、第2の半導体基板12に形成された動き検出兼用画素552のAER回路526は、光電変換素子PD12aおよび光電変換素子PD12bのそれぞれが発生した電荷信号の時間的な変化を検出したとき、イベント画素信号を、読み出しアドレス制御回路100に出力する。
 読み出しアドレス制御回路100は、イベント画素信号が入力されると、入力されたイベント画素信号に含まれるアドレス情報から、イベント画素信号を出力した兼用画素55の位置を検出(確認)する。なお、読み出しアドレス制御回路100がイベント画素信号を出力した兼用画素55の位置を検出(確認)する際の考え方は、画素アレイ部40の平面の領域全体に、兼用画素55が均一に配置されている場合と同様である。例えば、図18に示した領域d1に配置された動き検出兼用画素552からイベント画素信号が入力されると、読み出しアドレス制御回路100は、イベント画素信号に含まれるアドレス情報から、イベント画素信号を出力した動き検出兼用画素552が配置された領域d1または領域d1の中心位置に相当する3行4列目に配置された通常兼用画素541の位置を、イベント画素信号を出力した兼用画素55の位置として検出(確認)する。
 そして、読み出しアドレス制御回路100は、検出(確認)した兼用画素55の位置を中心とした予め定めた読み出し領域に配置されている通常兼用画素541の領域を、通常兼用画素541から画素信号を出力する(読み出す)読み出し領域に決定し、決定した読み出し領域内に配置されている通常兼用画素541から画素信号を出力する(読み出す)。
 これにより、変形例の固体撮像装置3から出力された通常の撮影における画素信号に基づいて画像を生成する画像処理部も、欠けている画素の画素信号を補間する演算を行うことなく、それぞれの画素信号に基づいた画像を生成することができる。
 このように、固体撮像装置3でも、第2の実施形態の固体撮像装置2と同様に、被写体の動きを検出した兼用画素55が配置された位置に対応する予め定めた小さな読み出し領域に配置されている通常兼用画素541、または通常画素51(または通常画素53)のみから通常の撮影の画素信号を出力する(読み出す)。これにより、固体撮像装置3でも、第2の実施形態の固体撮像装置2と同様に、検出した被写体の動きに応じた画素信号を読み出す際の消費電力を削減することができる。
 なお、固体撮像装置3では、図16に示した兼用画素55の構成のように、1個の動き検出兼用画素552が、複数(図16では2個)の通常兼用画素541と、光電変換素子PD12を兼用する構成を示した。つまり、兼用画素55内に構成される動き検出兼用画素552は、1個の動き検出画素52が行う被写体の動きを検出する機能を、光電変換素子PD2に対応する複数(図16では2個)の光電変換素子PD12が発生した電荷信号に基づいて実現する構成の画素である場合について説明した。しかし、1個の動き検出画素52の機能を実現する際に複数の光電変換素子が発生した電荷信号を用いる構成は、図16に示した構成に限定されるものではない。例えば、1個の動き検出画素52が、複数の光電変換素子PD2が発生した電荷信号を加算した電荷信号に基づいて被写体の動きを検出する構成にしてもよい。この構成の場合、1つの光電変換素子PD2の面積を大きくすることなく、動き検出画素52が、より大きな電荷信号に基づいて被写体の動きを検出することができ、動き検出の精度を向上させることができる。
 なお、この構成の場合の画素アレイ部40の縦構造は、図19に示した変形例の固体撮像装置3の縦構造において、第1の半導体基板11および第2の半導体基板12に形成された兼用画素55の代わりに、上述した複数の光電変換素子PD2が発生した電荷信号を加算した電荷信号に基づいて被写体の動きを検出する構成の動き検出画素52が形成されるのと同様に考えることができる。従って、図19に示した光電変換素子PD12(光電変換素子PD12aおよび光電変換素子PD12b)は、上述した複数の光電変換素子PD2が発生した電荷信号を加算した電荷信号に基づいて被写体の動きを検出する構成の1個の動き検出画素52が被写体の動きを検出するために用いる電荷信号を発生させるそれぞれの光電変換素子PD2となる。
 第3の実施形態によれば、mはnよりも小さく、sは2以上の自然数であり、m個の第2の読み出し回路(動き検出画素52の読み出し回路)のそれぞれは、対応するs個の第1の光電変換素子(光電変換素子PD1)が発生したs個の第1の電荷信号を1つの単位として加算する加算回路(キャパシタ5231aおよびキャパシタ5231b)、をさらに有し、検出回路(スレッショルドアンプ524およびスレッショルドアンプ525)は、キャパシタ5231aおよびキャパシタ5231bによって加算された後の第1の電荷信号の変化を検出する、固体撮像装置(固体撮像装置3)が構成される。
 また、第3の実施形態によれば、動き検出画素52の読み出し回路のそれぞれは、t個の第2の光電変換素子(光電変換素子PD2)を1つの単位とし、t個の光電変換素子PD2が発生したそれぞれの第2の電荷信号を加算する加算回路(キャパシタ5231aおよびキャパシタ5231b)、をさらに有し、検出回路(スレッショルドアンプ524およびスレッショルドアンプ525)は、キャパシタ5231aおよびキャパシタ5231bによって加算された後の第2の電荷信号の変化を検出し、tは2以上の自然数である、固体撮像装置3が構成される。
 上記に述べたように、第3の実施形態の固体撮像装置3でも、第2の実施形態の固体撮像装置2と同様に、通常の撮影と被写体の動きを逐次検出する動き検出とを両立することができる。そして、第3の実施形態の固体撮像装置3でも、イベント画素信号を出力した動き検出兼用画素552の位置に対応する予め定めた小さな読み出し領域内に配置された通常兼用画素541、または通常画素51(または通常画素53)から画素信号を出力する(読み出す)ことによって、第2の実施形態の固体撮像装置2と同様の効果を得ることができる。
 なお、第3の実施形態の固体撮像装置3では、図18において、ベイヤー配列の緑色(G)の波長帯域の光に対応するカラーフィルタが貼付された画素アレイ部40の位置に配置された通常画素51(または通常画素53)に備えた光電変換素子PD1を、兼用画素55内に構成される動き検出兼用画素552が兼用する場合について説明した。しかし、本発明においては、固体撮像装置3に貼付するカラーフィルタの色や配列に関しては、特に規定しない。例えば、通常画素51(または通常画素53)および兼用画素55のそれぞれに光が入射する側に、赤色(R)、緑色(G)、青色(B)、および白色(W)の波長帯域の光に対応するカラーフィルタが貼付されてもよい。そして、白色(W)の波長帯域の光に対応するカラーフィルタが貼付された画素アレイ部40の位置に配置された通常画素51(または通常画素53)に備えた光電変換素子PD1を、兼用画素55内に構成される動き検出兼用画素552が兼用する構成にしてもよい。この場合、動き検出兼用画素552は、特定の波長帯域の光によってではなく、被写体の動きを検出することができる。また、例えば、通常画素51(または通常画素53)および兼用画素55のそれぞれに光が入射する側に、赤色(R)、緑色(G)、青色(B)、および近赤外(Ir)の波長帯域の光に対応するカラーフィルタを貼付し、近赤外(Ir)の波長帯域の光に対応するカラーフィルタが貼付された画素アレイ部40の位置に配置された通常画素51(または通常画素53)に備えた光電変換素子PD1を動き検出兼用画素552が兼用する構成にしてもよい。この場合、例えば、固体撮像装置3を搭載した撮像システムに赤外光を発光する光源を備え、被写体の動きを検出する際に赤外光を照射することによって、動き検出の精度を向上させる構成にすることもできる。
 なお、第2の実施形態の固体撮像装置2および第3の実施形態の固体撮像装置3では、通常画素51(または通常画素53)に備えた光電変換素子PD1を動き検出兼用画素542(または動き検出兼用画素552)が兼用する構成にすることによって、通常の撮影において欠けている画素の画素信号を補間する演算を行わない構成について説明した。しかし、動き検出兼用画素542(または動き検出兼用画素552)が光電変換素子PD1を兼用する以外の構成で、通常の撮影において欠けている画素の画素信号を補間する演算を行わない構成にしてもよい。
(第4の実施形態)
 次に、本発明の第4の実施形態について説明する。本発明の第4の実施形態の固体撮像装置(以下、「固体撮像装置4」という)は、画素50の構成が、第1の実施形態において図3Aに示した通常画素51と、図3Bに示した動き検出画素52とである場合に、通常の撮影において欠けている画素の画素信号を補間する演算を行わない構成にした固体撮像装置である。つまり、固体撮像装置4は、第2の実施形態の固体撮像装置2および第3の実施形態の固体撮像装置3のように、画素50の構成を変更することなく、通常の撮影において欠けている画素の画素信号を補間する演算を行わないようにした構成である。
 なお、固体撮像装置4の概観や概略構成は、図1および図2に示した第1の実施形態における固体撮像装置1の概観および概略構成を同様である。従って、以下の説明においては、固体撮像装置4の構成要素において、第1の実施形態の固体撮像装置1の構成要素と同様の構成要素には、同一の符号を用い、それぞれの構成要素や動作に関する詳細な説明は省略する。
 固体撮像装置4では、通常画素51を第1の半導体基板11の画素アレイ部40の平面の領域全体に均一に配置(形成)し、動き検出画素52を第2の半導体基板12の画素アレイ部40の平面の領域全体に均一に配置(形成)する。つまり、固体撮像装置4は、通常画素51を配置した固体撮像装置と、動き検出画素52を配置した固体撮像装置との2つの固体撮像装置が積層(接合)された構成である。
 なお、通常画素51は、図3Aに示した通常画素51と同様の構成である。従って、通常画素51の構成や動作に関する詳細な説明は省略する。また、動き検出画素52は、図3Bに示した動き検出画素52と同様の構成であり、動き検出画素52を第2の半導体基板12に形成するため、チップ接続部13が削除されていることのみが異なる。従って、動き検出画素52の構成や動作に関する詳細な説明は省略する。
 なお、固体撮像装置4では、第1の半導体基板11に形成する通常画素51の代わりに、図11に示した通常画素53を第1の半導体基板11に形成してもよい。
(第4の実施形態の画素指定方法)
 次に、第4の実施形態の固体撮像装置4における画素50(通常画素51または通常画素53)の指定方法について説明する。なお、固体撮像装置4において読み出しアドレス制御回路100が画素信号を出力する(読み出す)通常画素53の読み出し領域を決定する方法は、第1の実施形態の固体撮像装置1における第1~第3の画素指定方法と同様である。従って、固体撮像装置4において、読み出しアドレス制御回路100が、画素信号を出力する(読み出す)通常画素51の読み出し領域を決定する方法に関する詳細な説明は省略し、以下の説明においては、固体撮像装置4において画素信号を出力する通常画素51(または通常画素53)を指定する構成について説明する。
 図20は、本発明の第4の実施形態の固体撮像装置4において画素信号を出力する構成を示した図である。図20には、固体撮像装置4おいて通常画素51と動き検出画素52とが配置された画素アレイ部40の一部の縦構造と、制御回路10に備えた読み出しアドレス制御回路100とを示している。より具体的には、第1の半導体基板11に形成された通常画素51および第2の半導体基板12に形成された動き検出画素52と、読み出しアドレス制御回路100との間でやり取りされるそれぞれの信号を示している。
 固体撮像装置4では、通常画素51の光電変換素子PD1と読み出し回路とを、第1の半導体基板11に形成する。図20には、通常画素51の光電変換素子PD1と、通常画素51の読み出し回路に備えた選択トランジスタ514とを第1の半導体基板11に形成している状態を示している。
 また、固体撮像装置4では、動き検出画素52の光電変換素子PD2と、出力回路と、読み出し回路を第2の半導体基板12に形成する。図20には、動き検出画素52の光電変換素子PD2と、動き検出画素52の読み出し回路に備えたスイッチトキャパシタアンプ回路523とAER回路526とを第2の半導体基板12に形成している状態を示している。
 このとき、固体撮像装置4では、動き検出画素52を、第1の半導体基板11に形成された通常画素51の領域と重複している第2の半導体基板12の領域に形成する。図20には、動き検出画素52を、第1の半導体基板11に形成された4個分の通常画素51の領域と重複している第2の半導体基板12の領域に形成している状態を示している。
 なお、固体撮像装置4では、第2の半導体基板12に配置されたそれぞれの動き検出画素52の光電変換素子PD2が、第1の半導体基板11に配置された通常画素51の光電変換素子PD1の領域を透過してきた光(光線)を光電変換した電荷信号を発生させる。このため、光電変換素子PD2は、第1の半導体基板11をより多く透過する波長が長い光ほど、より大きな電荷信号を発生させる。このことを考慮すると、固体撮像装置4では、第2の半導体基板12に形成する動き検出画素52の光電変換素子PD2を、例えば、波長が長いため通常画素51をより多く透過する赤色(R)の波長帯域の光に対応するカラーフィルタが貼付された通常画素51に対応する位置に形成することが望ましい。しかし、本発明においては、固体撮像装置4に貼付するカラーフィルタの色や配列に関しては、特に規定しない。
 なお、固体撮像装置4において第2の半導体基板12に形成する動き検出画素52の光電変換素子PD2を、赤色(R)の波長帯域の光に対応するカラーフィルタが貼付された通常画素51に対応する位置に形成した場合、例えば、固体撮像装置4を搭載した撮像システムに赤外光を発光する光源を、被写体の動きを検出する際の補助光として動作させることによって、動き検出の精度を向上させる構成にすることもできる。
 そして、固体撮像装置4でも、第1の実施形態の固体撮像装置1と同様に、第2の半導体基板12に形成された動き検出画素52のAER回路526は、光電変換素子PD2が発生した電荷信号の時間的な変化を検出したとき、イベント画素信号を、読み出しアドレス制御回路100に出力する。
 読み出しアドレス制御回路100は、イベント画素信号が入力されると、第1の実施形態の固体撮像装置1と同様に、入力されたイベント画素信号に含まれるアドレス情報から、イベント画素信号を出力した動き検出画素52の位置を検出(確認)する。そして、読み出しアドレス制御回路100は、検出(確認)した動き検出画素52の位置を中心とした予め定めた読み出し領域に配置されている通常画素51の領域を、通常画素51から画素信号を出力する(読み出す)読み出し領域に決定する。
 そして、読み出しアドレス制御回路100は、第1の実施形態の固体撮像装置1と同様に、決定した読み出し領域内に配置されている通常画素51を指定するための制御信号を垂直走査回路20および水平走査回路30に出力し、決定した読み出し領域内に配置されている通常画素51から画素信号を出力する(読み出す)。
 なお、固体撮像装置4では、通常画素51(または通常画素53)を第1の半導体基板11の画素アレイ部40に、動き検出画素52を第2の半導体基板12の画素アレイ部40に、それぞれ均一に配置されている。このため、固体撮像装置4でも、第2の実施形態の固体撮像装置2や第3の実施形態の固体撮像装置3と同様に、通常の撮影において欠けている画素信号がない。これにより、固体撮像装置4から出力された通常の撮影における画素信号に基づいて画像を生成する画像処理部も、欠けている画素の画素信号を補間する演算を行うことなく、それぞれの画素信号に基づいた画像を生成することができる。
 しかも、固体撮像装置4では、通常画素51(または通常画素53)と動き検出画素52とが光電変換素子を兼用していない。このため、固体撮像装置4では、通常画素51(または通常画素53)から画素信号を読み出す通常読み出しと、動き検出画素52から動き検出の画素信号(イベント画素信号)を読み出す動き検出読み出しとを排他的に行う必要がない。従って、固体撮像装置4では、第2の実施形態の固体撮像装置2や第3の実施形態の固体撮像装置3のように、通常画素51(または通常画素53)から画素信号を読み出す通常読み出しと、動き検出画素52から動き検出の画素信号(イベント画素信号)を読み出す動き検出読み出しとを時分割で行う必要がなく、同時期に行うことができる。
 なお、固体撮像装置4においても、第3の実施形態の固体撮像装置3と同様に、1個の動き検出画素52が、複数の光電変換素子PD2が発生した電荷信号を加算した電荷信号に基づいて被写体の動きを検出する構成にすることもできる。この構成にすることにより、動き検出画素52は、第1の半導体基板11に配置された複数の通常画素51の光電変換素子PD1の領域を透過してきた光(光線)を光電変換した電荷信号を発生させることができる。これにより、固体撮像装置4でも、第3の実施形態の固体撮像装置3と同様に、1つの光電変換素子PD2の面積を大きくすることなく、動き検出画素52が、より大きな電荷信号に基づいて被写体の動きを検出することができ、動き検出の精度を向上させることができる。
 第4の実施形態によれば、n個の第1の光電変換素子(光電変換素子PD1)のそれぞれは、光が入射する第1の半導体基板(第1の半導体基板11)に周期的に配置され、m個の第2の光電変換素子(光電変換素子PD2)のそれぞれは、第1の半導体基板11に光が入射する側の面と反対側の面に積層される第2の半導体基板(第2の半導体基板12)に周期的に配置され、第1の半導体基板11を透過した光を光電変換した第2の電荷信号を発生する、固体撮像装置(固体撮像装置4)が構成される。
 上記に述べたように、第4の実施形態の固体撮像装置4でも、第1の実施形態の固体撮像装置1と同様に、通常の撮影による画素信号の出力に特化した通常画素51(または通常画素53)と、動き検出によるイベント画素信号の出力に特化した動き検出画素52とのそれぞれを、画素アレイ部40内に配置する。このとき、第4の実施形態の固体撮像装置4では、通常画素51(または通常画素53)を第1の半導体基板11の画素アレイ部40の平面の領域全体に均一に配置する。また固体撮像装置4では、動き検出画素52を第2の半導体基板12の画素アレイ部40の平面の領域全体に均一に配置する。これにより、第4の実施形態の固体撮像装置4でも、第1の実施形態の固体撮像装置1と同様に、通常の撮影と被写体の動きを逐次検出する動き検出とを両立することができる。そして、第4の実施形態の固体撮像装置4では、通常読み出しと動き検出読み出しとを同時期に行うことができる。また、第4の実施形態の固体撮像装置4でも、イベント画素信号を出力した動き検出画素52の位置に対応する予め定めた小さな読み出し領域内に配置された通常画素51(または通常画素53)から画素信号を出力する(読み出す)ことによって、第1の実施形態の固体撮像装置1と同様の効果を得ることができる。
 また、第4の実施形態の固体撮像装置4では、通常の撮影による画素信号の出力に特化した通常画素51(または通常画素53)を第1の半導体基板11に形成し、動き検出によるイベント画素信号の出力に特化した動き検出画素52を第2の半導体基板12に形成することによって、通常の撮影において欠けている画素信号をなくしている。このことにより、第4の実施形態の固体撮像装置4を搭載した撮像システムに備えた画像処理部は、第2の実施形態の固体撮像装置2や第3の実施形態の固体撮像装置3と同様に、少ない処理の負荷で、被写体の動きを検出したときに対して時間的なずれが少ない、被写体の動きを反映した高画質の画像を生成することができる。
 上記に述べたように、本発明の各実施形態によれば、固体撮像装置に備える画素として、通常の撮影の画素信号を出力する通常画素と、動き検出のイベント画素信号を出力する動き検出画素とを、画素アレイ部に配置する。本発明の各実施形態では、画素アレイ部に配置する通常画素の数を、動き検出画素よりも多くする。これにより、本発明の各実施形態では、通常の撮影と被写体の動きを逐次検出する動き検出とを両立することができるとともに、通常の撮影において生成する画像の画質を向上させることができる。
 そして、本発明の各実施形態では、動き検出画素からイベント画素信号が出力されたときに、イベント画素信号を出力した、つまり、被写体の動きを検出した動き検出画素が配置されている画素アレイ部内の位置を中心とした予め定めた読み出し領域内に配置された通常画素から、通常の撮影で得た画素信号を読み出す。つまり、本発明の各実施形態では、被写体の動きを検出した際に、画素アレイ部内に配置した全ての通常画素から画素信号を読み出すのではなく、予め定めた読み出し領域内の少ない数の通常画素のみから画素信号を読み出す。言い換えれば、本発明の各実施形態では、被写体の動きを検出したことによって変化した通常画素の予め定めた周辺の領域(読み出し領域)のみから画素信号を読み出す。これにより、本発明の各実施形態の固体撮像装置では、被写体の動きを反映した画像を生成するために通常の撮影で得た画素信号を読み出す際の消費電力を、従来の固体撮像装置よりも削減することができる。
 また、本発明の各実施形態では、被写体の動きが検出された小さな読み出し領域内に配置された通常画素から画素信号を読み出すため、被写体の動きを反映した画像を生成するために読み出す画素信号の数が少ない。このため、本発明の各実施形態の固体撮像装置を搭載した撮像システムにおいて被写体の動きに応じて読み出した画素信号を伝送する際に要するデータの伝送帯域、いわゆる、バス帯域の圧迫を低減することができる。そして、本発明の各実施形態の固体撮像装置を搭載した撮像システムに備えた画像処理部は、1フレーム分の画素信号の内、被写体の動きが検出された位置に対応する一部の画素信号(少ない数の画素信号)を差し替えて画像処理を行う。これにより、本発明の各実施形態の固体撮像装置を搭載した撮像システムに備えた画像処理部は、少ない処理の負荷で、被写体の動きを検出したときに対して時間的なずれが少ない、被写体の動きを反映した高画質の画像を生成することができる。
 また、本発明の各実施形態では、読み出しアドレス制御回路100を、制御回路10内に備えている構成について説明した。しかし、読み出しアドレス制御回路100を備える構成は、本発明の各実施形態の構成に限定されるものではない。例えば、読み出しアドレス制御回路100を、制御回路10の外部、つまり、制御回路10や垂直走査回路20などと並列に備える構成であってもよい。また、例えば、読み出しアドレス制御回路100を、固体撮像装置の外部、つまり、撮像システムの構成要素として備える構成であってもよい。
 以上、本発明の好ましい実施形態を説明したが、本発明はこれら実施形態およびその変形例に限定されることはない。本発明の趣旨を逸脱しない範囲で、構成の付加、省略、置換、およびその他の変更が可能である。
 また、本発明は前述した説明によって限定されることはなく、添付のクレームの範囲によってのみ限定される。
 また、本発明の各実施形態に係る固体撮像装置は、2枚の半導体基板がチップ接続部により接続されていてもよいし、3枚以上の半導体基板がチップ接続部で接続されていてもよい。3枚以上の半導体基板がチップ接続部で接続される固体撮像装置の場合、そのうちの2枚の半導体基板が請求項に係る第1の半導体基板と第2の半導体基板に相当する。
 上記各実施形態によれば、被写体の動きを逐次検出する動き検出と通常の撮影とを両立する固体撮像装置において、消費電力の増大を抑えつつ、検出した被写体の動きを反映した高画質の画像を生成することができる。
 1,2,3,4 固体撮像装置
 11 第1の半導体基板
 12 第2の半導体基板
 13,13a,13b チップ接続部(接続部)
 10 制御回路(読み出し制御回路)
 100 読み出しアドレス制御回路(読み出し制御回路)
 20 垂直走査回路(読み出し制御回路)
 30 水平走査回路(読み出し制御回路)
 40 画素アレイ部
 50 画素
 51 通常画素
 PD1 光電変換素子(第1の光電変換素子)
 511,511a,511b 電荷転送トランジスタ(第1の読み出し回路)
 512,512a,512b 画素リセットトランジスタ(第1の読み出し回路)
 513,513a,513b 増幅トランジスタ(第1の読み出し回路)
 514,514a,514b 選択トランジスタ(第1の読み出し回路)
 FD1,FD1a,FD1b ノード容量(第1の読み出し回路)
 52,52a,52b,52c,52d 動き検出画素
 PD2 光電変換素子(第2の光電変換素子)
 521,521a,521b アンプ
 522,522a,522b バイアストランジスタ
 523,553 スイッチトキャパシタアンプ回路(第2の読み出し回路)
 5231 キャパシタ(第2の読み出し回路)
 5232 アンプ(第2の読み出し回路)
 5233 キャパシタ(第2の読み出し回路)
 5231a,5231b キャパシタ(第2の読み出し回路,加算回路)
 5234 スイッチ(第2の読み出し回路)
 524 スレッショルドアンプ(第2の読み出し回路,検出回路)
 525 スレッショルドアンプ(第2の読み出し回路,検出回路)
 526 AER回路(第2の読み出し回路,画素信号生成回路)
 53 通常画素
 530 電荷蓄積容量(第1の読み出し回路)
 531 サンプルホールドトランジスタ(第1の読み出し回路)
 532 クランプトランジスタ(第1の読み出し回路)
 533 第2の増幅トランジスタ(第1の読み出し回路)
 534 ノイズ抑圧素子(第1の読み出し回路)
 54,55 兼用画素
 541,541a,541b 通常兼用画素
 542,552 動き検出兼用画素
 PD12,PD12a,PD12b 光電変換素子(第1の光電変換素子,第2の光電変換素子)
 60 垂直信号線
 ar,ar1,ar2,ar3,ar4,ar5,ar6,ar7,ar8,ar9,ar10 読み出し領域
 D1,D2,D3 動き検出画素分布

Claims (13)

  1.  入射した光を光電変換した第1の電荷信号を発生するn個の第1の光電変換素子と、
     前記n個の第1の光電変換素子のそれぞれに対応し、対応する前記第1の光電変換素子が発生した前記第1の電荷信号に応じた信号電圧を第1の画素信号として出力するn個の第1の読み出し回路と、
     入射した光を光電変換した第2の電荷信号を発生するm個の第2の光電変換素子と、
     前記m個の第2の光電変換素子のそれぞれに対応し、対応する前記第2の光電変換素子が発生した前記第2の電荷信号の変化に基づいた第2の画素信号を逐次出力するm個の第2の読み出し回路と、
     前記第1の光電変換素子の内、予め定めた読み出し領域内に配置された前記第1の光電変換素子に対応する前記第1の画素信号の読み出しを制御する読み出し制御回路と、
     を有し、
     前記m個の第2の読み出し回路のそれぞれは、
     対応する前記第2の光電変換素子が発生した前記第2の電荷信号の時間的な変化を検出し、予め定めた閾値を超える変化を検出したときに、変化を表すイベント信号を出力する検出回路と、
     前記イベント信号に、対応する前記第2の光電変換素子が配置された位置を表すアドレス情報を付加した前記第2の画素信号を出力する画素信号生成回路と、
     を有し、
     前記読み出し制御回路は、
     前記第2の画素信号に含まれる前記アドレス情報に対応する前記第2の光電変換素子が配置された位置に基づいた領域を、前記第1の画素信号を読み出す前記読み出し領域として決定し、決定した前記読み出し領域内に配置された前記第1の光電変換素子のそれぞれに対応する前記第1の読み出し回路のそれぞれに前記第1の画素信号を出力させ、
     前記nは2以上の自然数であり、
     前記mは2以上の自然数である、
     固体撮像装置。
  2.  前記読み出し制御回路は、
     同時期に出力された前記第2の画素信号に含まれる前記アドレス情報に対応する前記第2の光電変換素子が分布している位置に基づいて生成した矩形の領域を、前記読み出し領域として決定する、
     請求項1に記載の固体撮像装置。
  3.  前記読み出し制御回路は、
     同時期に出力された前記第2の画素信号に含まれる前記アドレス情報に対応する前記第2の光電変換素子が分布している領域を包含する矩形の領域を、前記読み出し領域として決定する、
     請求項1に記載の固体撮像装置。
  4.  前記読み出し制御回路は、
     同時期に出力された前記第2の画素信号に含まれる前記アドレス情報に対応する前記第2の光電変換素子の分布の大きさが、予め定めた分布の大きさの閾値よりも大きい場合に、前記第2の光電変換素子の分布の大きさに応じた矩形の領域を前記読み出し領域として決定し、
     同時期に出力された前記第2の画素信号に含まれる前記アドレス情報に対応する前記第2の光電変換素子の分布の大きさが、前記分布の大きさの閾値以下である場合に、前記読み出し領域を決定しない、
     請求項1から請求項3のいずれか1の項に記載の固体撮像装置。
  5.  前記読み出し制御回路は、
     同時期に出力された前記第2の画素信号に含まれる前記アドレス情報に対応する前記第2の光電変換素子の数が、予め定めた数の閾値よりも多い場合に、それぞれの前記アドレス情報に対応する前記第2の光電変換素子に対応する前記読み出し領域を決定し、
     同時期に出力された前記第2の画素信号に含まれる前記アドレス情報に対応する前記第2の光電変換素子の数が、前記数の閾値以下である場合に、前記読み出し領域を決定しない、
     請求項1から請求項3のいずれか1の項に記載の固体撮像装置。
  6.  前記読み出し制御回路は、
     前記n個の第1の光電変換素子が配置された全体の領域を、予め定めた大きさで区切った複数のブロックに分割し、分割したそれぞれの前記ブロックごとに、前記読み出し領域を決定する、
     請求項4または請求項5に記載の固体撮像装置。
  7.  前記n個の第1の光電変換素子のそれぞれおよび前記m個の第2の光電変換素子のそれぞれは、
     第1の半導体基板の同一の平面の領域に周期的に配置される、
     請求項1から請求項6のいずれか1の項に記載の固体撮像装置。
  8.  前記画素信号生成回路は、
     前記第1の半導体基板に光が入射する側の面と反対側の面に積層される第2の半導体基板に配置される、
     請求項7に記載の固体撮像装置。
  9.  前記第1の半導体基板と前記第2の半導体基板との間に形成され、前記第1の半導体基板の回路要素と前記第2の半導体基板の回路要素とを電気的に接続する接続部、
     をさらに有し、
     前記接続部は、
     前記m個の第2の読み出し回路のそれぞれが有する前記検出回路と、対応する前記第2の光電変換素子とを電気的に接続する、
     請求項8に記載の固体撮像装置。
  10.  s個の前記第1の光電変換素子が発生した前記s個の前記第1の電荷信号を1つの単位とした電荷信号を前記第2の光電変換素子が発生する前記第2の電荷信号として兼用し、
     前記sは1以上の自然数であり、
     前記第2の電荷信号として兼用する前記第1の電荷信号を出力する前記第1の光電変換素子の総数は、1以上で前記n以下の自然数である、
     請求項9に記載の固体撮像装置。
  11.  前記mは前記nよりも小さく、
     前記sは2以上の自然数であり、
     前記m個の第2の読み出し回路のそれぞれは、
     対応する前記s個の前記第1の光電変換素子が発生した前記s個の前記第1の電荷信号を1つの単位として加算する加算回路、
     をさらに有し、
     前記検出回路は、
     前記加算回路によって加算された後の前記第1の電荷信号の変化を検出する、
     請求項10に記載の固体撮像装置。
  12.  前記n個の第1の光電変換素子のそれぞれは、
     光が入射する第1の半導体基板に周期的に配置され、
     前記m個の第2の光電変換素子のそれぞれは、
     前記第1の半導体基板に光が入射する側の面と反対側の面に積層される第2の半導体基板に周期的に配置され、
     前記第1の半導体基板を透過した光を光電変換した前記第2の電荷信号を発生する、
     請求項1から請求項6のいずれか1の項に記載の固体撮像装置。
  13.  前記第2の読み出し回路のそれぞれは、
     t個の前記第2の光電変換素子を1つの単位とし、前記t個の前記第2の光電変換素子が発生したそれぞれの前記第2の電荷信号を加算する加算回路、
     をさらに有し、
     前記検出回路は、
     前記加算回路によって加算された後の前記第2の電荷信号の変化を検出し、
     前記tは2以上の自然数である、
     請求項9または請求項12に記載の固体撮像装置。
PCT/JP2015/071038 2015-07-23 2015-07-23 固体撮像装置 WO2017013806A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2017529430A JPWO2017013806A1 (ja) 2015-07-23 2015-07-23 固体撮像装置
PCT/JP2015/071038 WO2017013806A1 (ja) 2015-07-23 2015-07-23 固体撮像装置
US15/873,240 US10321081B2 (en) 2015-07-23 2018-01-17 Solid-state imaging device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2015/071038 WO2017013806A1 (ja) 2015-07-23 2015-07-23 固体撮像装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US15/873,240 Continuation US10321081B2 (en) 2015-07-23 2018-01-17 Solid-state imaging device

Publications (1)

Publication Number Publication Date
WO2017013806A1 true WO2017013806A1 (ja) 2017-01-26

Family

ID=57834751

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2015/071038 WO2017013806A1 (ja) 2015-07-23 2015-07-23 固体撮像装置

Country Status (3)

Country Link
US (1) US10321081B2 (ja)
JP (1) JPWO2017013806A1 (ja)
WO (1) WO2017013806A1 (ja)

Cited By (50)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019135411A1 (ja) * 2018-01-05 2019-07-11 株式会社ニコン 検出装置およびセンサ
WO2019135304A1 (ja) * 2018-01-05 2019-07-11 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
WO2019150786A1 (ja) * 2018-01-31 2019-08-08 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
WO2019175734A1 (en) * 2018-03-14 2019-09-19 Insightness Ag Event-based vision sensor with direct memory control
WO2019176250A1 (ja) * 2018-03-15 2019-09-19 株式会社ニコン 制御装置、制御方法およびプログラム
WO2019239722A1 (ja) * 2018-06-12 2019-12-19 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
JP2020057949A (ja) * 2018-10-02 2020-04-09 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置及び撮像装置
WO2020080383A1 (ja) * 2018-10-19 2020-04-23 ソニーセミコンダクタソリューションズ株式会社 撮像装置及び電子機器
WO2020090460A1 (ja) * 2018-10-30 2020-05-07 ソニーセミコンダクタソリューションズ株式会社 センサ及び制御方法
WO2020105314A1 (ja) * 2018-11-19 2020-05-28 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、および、撮像装置
WO2020105301A1 (ja) * 2018-11-21 2020-05-28 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、および、撮像装置
WO2020110484A1 (ja) * 2018-11-29 2020-06-04 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
WO2020116185A1 (ja) * 2018-12-05 2020-06-11 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置、信号処理チップ、および、電子機器
WO2020129657A1 (ja) * 2018-12-19 2020-06-25 ソニーセミコンダクタソリューションズ株式会社 センサ及び制御方法
WO2020195538A1 (ja) * 2019-03-27 2020-10-01 ソニー株式会社 車両用撮影システム及び撮影方法
WO2020241108A1 (ja) * 2019-05-28 2020-12-03 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子
WO2020246186A1 (ja) * 2019-06-04 2020-12-10 ソニー株式会社 撮像システム
CN112243536A (zh) * 2018-03-14 2021-01-19 索尼高级视觉传感股份公司 用3d-ic技术制造的基于事件的视觉传感器
WO2021117350A1 (ja) * 2019-12-10 2021-06-17 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、および、撮像装置
WO2021125031A1 (ja) * 2019-12-17 2021-06-24 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置及び測距装置
US11057581B2 (en) 2018-01-24 2021-07-06 Facebook Technologies, Llc Digital pixel array with multi-stage readouts
WO2021153428A1 (ja) * 2020-01-29 2021-08-05 ソニーセミコンダクタソリューションズ株式会社 撮像装置、電子機器及び撮像方法
WO2021157386A1 (ja) * 2020-02-03 2021-08-12 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子および撮像装置
WO2021256031A1 (ja) * 2020-06-16 2021-12-23 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、および、撮像装置
WO2022009664A1 (ja) * 2020-07-09 2022-01-13 ソニーグループ株式会社 撮像装置及び撮像方法
US11315330B1 (en) 2017-07-25 2022-04-26 Facebook Technologies, Llc Sensor system based on stacked sensor layers
WO2022172621A1 (ja) * 2021-02-09 2022-08-18 ソニーセミコンダクタソリューションズ株式会社 センシングシステム、信号処理装置
US11463636B2 (en) 2018-06-27 2022-10-04 Facebook Technologies, Llc Pixel sensor having multiple photodiodes
US11568609B1 (en) 2017-07-25 2023-01-31 Meta Platforms Technologies, Llc Image sensor having on-chip compute circuit
US11595602B2 (en) 2018-11-05 2023-02-28 Meta Platforms Technologies, Llc Image sensor post processing
US11595598B2 (en) 2018-06-28 2023-02-28 Meta Platforms Technologies, Llc Global shutter image sensor
EP4224878A1 (en) * 2018-05-02 2023-08-09 Sony Semiconductor Solutions Corporation Solid-state image pickup element and image pickup apparatus
US11825228B2 (en) 2020-05-20 2023-11-21 Meta Platforms Technologies, Llc Programmable pixel array having multiple power domains
US11877080B2 (en) 2019-03-26 2024-01-16 Meta Platforms Technologies, Llc Pixel sensor having shared readout structure
US11888002B2 (en) 2018-12-17 2024-01-30 Meta Platforms Technologies, Llc Dynamically programmable image sensor
US11902685B1 (en) 2020-04-28 2024-02-13 Meta Platforms Technologies, Llc Pixel sensor having hierarchical memory
US11910114B2 (en) 2020-07-17 2024-02-20 Meta Platforms Technologies, Llc Multi-mode image sensor
US11906353B2 (en) 2018-06-11 2024-02-20 Meta Platforms Technologies, Llc Digital pixel with extended dynamic range
US11910119B2 (en) 2017-06-26 2024-02-20 Meta Platforms Technologies, Llc Digital pixel with extended dynamic range
US11927475B2 (en) 2017-08-17 2024-03-12 Meta Platforms Technologies, Llc Detecting high intensity light in photo sensor
US11935575B1 (en) 2020-12-23 2024-03-19 Meta Platforms Technologies, Llc Heterogeneous memory system
US11935291B2 (en) 2019-10-30 2024-03-19 Meta Platforms Technologies, Llc Distributed sensor system
US11936998B1 (en) 2019-10-17 2024-03-19 Meta Platforms Technologies, Llc Digital pixel sensor having extended dynamic range
US11943561B2 (en) 2019-06-13 2024-03-26 Meta Platforms Technologies, Llc Non-linear quantization at pixel sensor
US11948089B2 (en) 2019-11-07 2024-04-02 Meta Platforms Technologies, Llc Sparse image sensing and processing
US11956413B2 (en) 2018-08-27 2024-04-09 Meta Platforms Technologies, Llc Pixel sensor having multiple photodiodes and shared comparator
US11956560B2 (en) 2020-10-09 2024-04-09 Meta Platforms Technologies, Llc Digital pixel sensor having reduced quantization operation
US11962928B2 (en) 2018-12-17 2024-04-16 Meta Platforms Technologies, Llc Programmable pixel array
US11974044B2 (en) 2018-08-20 2024-04-30 Meta Platforms Technologies, Llc Pixel sensor having adaptive exposure time
US11997402B2 (en) 2019-03-27 2024-05-28 Sony Semiconductor Solutions Corporation Vehicular image capturing system and image capturing method

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6806494B2 (ja) * 2016-08-24 2021-01-06 キヤノン株式会社 撮像装置、撮像システム、移動体及び撮像装置の駆動方法
US10855927B2 (en) 2017-03-08 2020-12-01 Samsung Electronics Co., Ltd. Event detecting device including an event signal generator and an output signal generator
US10516841B2 (en) * 2017-03-08 2019-12-24 Samsung Electronics Co., Ltd. Pixel, pixel driving circuit, and vision sensor including the same
DE112018005710T5 (de) * 2017-10-30 2020-07-16 Sony Semiconductor Solutions Corporation Festkörperbildaufnahmeelement
EP3917134B1 (en) * 2018-06-27 2023-11-15 Prophesee Image sensor with a plurality of super-pixels
US11521998B2 (en) * 2018-09-18 2022-12-06 Sony Semiconductor Solutions Corporation Solid-state imaging device and imaging device
DE112019005735T5 (de) * 2018-11-16 2021-08-19 Sony Semiconductor Solutions Corporation Festkörper-bildgebungsvorrichtung und bildgebungsvorrichtung
JP2020088723A (ja) * 2018-11-29 2020-06-04 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、および、撮像装置
JP2020088722A (ja) * 2018-11-29 2020-06-04 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、および、撮像装置
US11282786B2 (en) * 2018-12-12 2022-03-22 X Display Company Technology Limited Laser-formed interconnects for redundant devices
WO2020197972A1 (en) * 2019-03-27 2020-10-01 Ocelot Laboratories Llc Hardware implementation of sensor architecture with multiple power states
JP2020162016A (ja) * 2019-03-27 2020-10-01 ソニー株式会社 状態検出装置、状態検出システム及び状態検出方法
US20210044742A1 (en) * 2019-08-05 2021-02-11 Facebook Technologies, Llc Dynamically programmable image sensor
CN114731375A (zh) * 2019-11-12 2022-07-08 苹果公司 利用同步读出的传感器数据编码
US11468146B2 (en) 2019-12-06 2022-10-11 Globalfoundries U.S. Inc. Array of integrated pixel and memory cells for deep in-sensor, in-memory computing
US11394905B2 (en) * 2019-12-13 2022-07-19 Sony Semiconductor Solutions Corporation Dynamic region of interest and frame rate for event based sensor and imaging camera
US20210185265A1 (en) * 2019-12-13 2021-06-17 Sony Semiconductor Solutions Corporation Methods of sensor mode switching in event based sensor and imaging camera for low power application
US11195580B2 (en) * 2020-02-26 2021-12-07 Globalfoundries U.S. Inc. Integrated pixel and two-terminal non-volatile memory cell and an array of cells for deep in-sensor, in-memory computing
TWI779534B (zh) * 2020-03-25 2022-10-01 昇佳電子股份有限公司 電容感測電路
TWI813943B (zh) * 2021-02-04 2023-09-01 神盾股份有限公司 影像感測器晶片及其感測方法
JP2022188990A (ja) * 2021-06-10 2022-12-22 キヤノン株式会社 情報処理装置、情報処理方法およびプログラム
US20230336881A1 (en) * 2022-04-15 2023-10-19 Sony Semiconductor Solutions Corporation Binning in hybrid pixel structure of image pixels and event vision sensor (evs) pixels
FR3141559A1 (fr) * 2022-10-31 2024-05-03 Stmicroelectronics (Crolles 2) Sas Dispositif optoélectronique générant une image évènementielle

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004191647A (ja) * 2002-12-11 2004-07-08 Canon Inc 撮像装置
WO2006022077A1 (ja) * 2004-08-23 2006-03-02 Sony Corporation 撮像装置、撮像結果の処理方法及び集積回路
JP2010510732A (ja) * 2006-11-23 2010-04-02 エーアイティー オーストリアン インスティテュート オブ テクノロジー ゲゼルシャフト ミット ベシュレンクテル ハフツング 電子形式の画像を生成する方法、画像生成用画像センサのための画像素子ならびに画像センサ
JP2015128284A (ja) * 2013-11-29 2015-07-09 キヤノン株式会社 撮像装置及び携帯電話機

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140056986A (ko) * 2012-11-02 2014-05-12 삼성전자주식회사 모션 센서 어레이 장치, 상기 모선 센서 어레이를 이용한 거리 센싱 시스템, 및 거리 센싱 방법
US9832447B2 (en) * 2013-04-04 2017-11-28 Amatel Inc. Image processing system and image processing program
US9646389B2 (en) * 2014-08-26 2017-05-09 Qualcomm Incorporated Systems and methods for image scanning

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004191647A (ja) * 2002-12-11 2004-07-08 Canon Inc 撮像装置
WO2006022077A1 (ja) * 2004-08-23 2006-03-02 Sony Corporation 撮像装置、撮像結果の処理方法及び集積回路
JP2010510732A (ja) * 2006-11-23 2010-04-02 エーアイティー オーストリアン インスティテュート オブ テクノロジー ゲゼルシャフト ミット ベシュレンクテル ハフツング 電子形式の画像を生成する方法、画像生成用画像センサのための画像素子ならびに画像センサ
JP2015128284A (ja) * 2013-11-29 2015-07-09 キヤノン株式会社 撮像装置及び携帯電話機

Cited By (82)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11910119B2 (en) 2017-06-26 2024-02-20 Meta Platforms Technologies, Llc Digital pixel with extended dynamic range
US11315330B1 (en) 2017-07-25 2022-04-26 Facebook Technologies, Llc Sensor system based on stacked sensor layers
US11568609B1 (en) 2017-07-25 2023-01-31 Meta Platforms Technologies, Llc Image sensor having on-chip compute circuit
US11927475B2 (en) 2017-08-17 2024-03-12 Meta Platforms Technologies, Llc Detecting high intensity light in photo sensor
WO2019135304A1 (ja) * 2018-01-05 2019-07-11 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
WO2019135411A1 (ja) * 2018-01-05 2019-07-11 株式会社ニコン 検出装置およびセンサ
KR102544592B1 (ko) 2018-01-05 2023-06-15 소니 세미컨덕터 솔루션즈 가부시키가이샤 고체 촬상 소자, 촬상 장치 및 고체 촬상 소자의 제어 방법
KR20200106155A (ko) * 2018-01-05 2020-09-11 소니 세미컨덕터 솔루션즈 가부시키가이샤 고체 촬상 소자, 촬상 장치 및 고체 촬상 소자의 제어 방법
US11729525B2 (en) 2018-01-24 2023-08-15 Meta Platforms Technologies, Llc Digital pixel array with multi-stage readouts
US11057581B2 (en) 2018-01-24 2021-07-06 Facebook Technologies, Llc Digital pixel array with multi-stage readouts
US11582408B2 (en) 2018-01-31 2023-02-14 Sony Semiconductor Solutions Corporation Event image sensor, imaging device, and method of controlling event image sensor
CN111656770B (zh) * 2018-01-31 2023-04-11 索尼半导体解决方案公司 固态成像元件、成像装置及固态成像元件的控制方法
CN111656770A (zh) * 2018-01-31 2020-09-11 索尼半导体解决方案公司 固态成像元件、成像装置及固态成像元件的控制方法
KR102606087B1 (ko) * 2018-01-31 2023-11-23 소니 세미컨덕터 솔루션즈 가부시키가이샤 고체 촬상 소자, 촬상 장치, 및 고체 촬상 소자의 제어 방법
KR20200112854A (ko) * 2018-01-31 2020-10-05 소니 세미컨덕터 솔루션즈 가부시키가이샤 고체 촬상 소자, 촬상 장치, 및 고체 촬상 소자의 제어 방법
WO2019150786A1 (ja) * 2018-01-31 2019-08-08 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
US11876933B2 (en) 2018-01-31 2024-01-16 Sony Semiconductor Solutions Corporation Event image sensor, imaging device, and method of controlling event image sensor
CN112243536A (zh) * 2018-03-14 2021-01-19 索尼高级视觉传感股份公司 用3d-ic技术制造的基于事件的视觉传感器
US11212468B2 (en) 2018-03-14 2021-12-28 Sony Advanced Visual Sensing Ag Event-based vision sensor with direct memory control
WO2019175734A1 (en) * 2018-03-14 2019-09-19 Insightness Ag Event-based vision sensor with direct memory control
US11652126B2 (en) 2018-03-14 2023-05-16 Sony Advanced Visual Sensing Ag Event-based vision sensor manufactured with 3D-IC technology
US11936995B2 (en) 2018-03-14 2024-03-19 Sony Advanced Visual Sensing Ag Event-based vision sensor with direct memory control
JP2021516872A (ja) * 2018-03-14 2021-07-08 ソニー アドバンスト ビジュアル センシング エージー 3d−ic技術を用いて製造するイベントベースビジョンセンサ
US11297249B2 (en) 2018-03-15 2022-04-05 Nikon Corporation Control device, control method and non-transitory computer readable storage medium
JP7359264B2 (ja) 2018-03-15 2023-10-11 株式会社ニコン センサ
WO2019176250A1 (ja) * 2018-03-15 2019-09-19 株式会社ニコン 制御装置、制御方法およびプログラム
US11936988B2 (en) 2018-03-15 2024-03-19 Nikon Corporation Control device, control method and non-transitory computer readable storage medium
JP7131604B2 (ja) 2018-03-15 2022-09-06 株式会社ニコン 制御装置、制御方法およびプログラム
TWI815841B (zh) * 2018-03-15 2023-09-21 日商尼康股份有限公司 控制裝置、控制方法以及程式
JPWO2019176250A1 (ja) * 2018-03-15 2021-03-25 株式会社ニコン 制御装置、制御方法およびプログラム
EP4224878A1 (en) * 2018-05-02 2023-08-09 Sony Semiconductor Solutions Corporation Solid-state image pickup element and image pickup apparatus
US11906353B2 (en) 2018-06-11 2024-02-20 Meta Platforms Technologies, Llc Digital pixel with extended dynamic range
US11582416B2 (en) 2018-06-12 2023-02-14 Sony Semiconductor Solutions Corporation Solid-state image sensor, imaging device, and method of controlling solid-state image sensor
WO2019239722A1 (ja) * 2018-06-12 2019-12-19 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
JP7307725B2 (ja) 2018-06-12 2023-07-12 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
JPWO2019239722A1 (ja) * 2018-06-12 2021-06-24 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
US11463636B2 (en) 2018-06-27 2022-10-04 Facebook Technologies, Llc Pixel sensor having multiple photodiodes
US11863886B2 (en) 2018-06-27 2024-01-02 Meta Platforms Technologies, Llc Pixel sensor having multiple photodiodes
US11595598B2 (en) 2018-06-28 2023-02-28 Meta Platforms Technologies, Llc Global shutter image sensor
US11974044B2 (en) 2018-08-20 2024-04-30 Meta Platforms Technologies, Llc Pixel sensor having adaptive exposure time
US11956413B2 (en) 2018-08-27 2024-04-09 Meta Platforms Technologies, Llc Pixel sensor having multiple photodiodes and shared comparator
JP7176917B2 (ja) 2018-10-02 2022-11-22 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置及び撮像装置
JP2020057949A (ja) * 2018-10-02 2020-04-09 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置及び撮像装置
WO2020080383A1 (ja) * 2018-10-19 2020-04-23 ソニーセミコンダクタソリューションズ株式会社 撮像装置及び電子機器
US11683606B2 (en) 2018-10-19 2023-06-20 Sony Semiconductor Solutions Corporation Imaging device and electronic equipment
WO2020090460A1 (ja) * 2018-10-30 2020-05-07 ソニーセミコンダクタソリューションズ株式会社 センサ及び制御方法
US11425318B2 (en) 2018-10-30 2022-08-23 Sony Semiconductor Solutions Corporation Sensor and control method
US11595602B2 (en) 2018-11-05 2023-02-28 Meta Platforms Technologies, Llc Image sensor post processing
WO2020105314A1 (ja) * 2018-11-19 2020-05-28 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、および、撮像装置
US11523079B2 (en) 2018-11-19 2022-12-06 Sony Semiconductor Solutions Corporation Solid-state imaging element and imaging device
US11917317B2 (en) 2018-11-21 2024-02-27 Sony Semiconductor Solutions Corporation Solid-state imaging element and imaging device that detects address event
WO2020105301A1 (ja) * 2018-11-21 2020-05-28 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、および、撮像装置
WO2020110484A1 (ja) * 2018-11-29 2020-06-04 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
US11678078B2 (en) 2018-11-29 2023-06-13 Sony Semiconductor Solutions Corporation Solid-state imaging device, imaging apparatus, and method for controlling solid-state imaging device for detecting occurrence of an address event of pixels
WO2020116185A1 (ja) * 2018-12-05 2020-06-11 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置、信号処理チップ、および、電子機器
US11962928B2 (en) 2018-12-17 2024-04-16 Meta Platforms Technologies, Llc Programmable pixel array
US11888002B2 (en) 2018-12-17 2024-01-30 Meta Platforms Technologies, Llc Dynamically programmable image sensor
WO2020129657A1 (ja) * 2018-12-19 2020-06-25 ソニーセミコンダクタソリューションズ株式会社 センサ及び制御方法
US11937001B2 (en) 2018-12-19 2024-03-19 Sony Semiconductor Solutions Corporation Sensor and control method
US11877080B2 (en) 2019-03-26 2024-01-16 Meta Platforms Technologies, Llc Pixel sensor having shared readout structure
US11997402B2 (en) 2019-03-27 2024-05-28 Sony Semiconductor Solutions Corporation Vehicular image capturing system and image capturing method
WO2020195538A1 (ja) * 2019-03-27 2020-10-01 ソニー株式会社 車両用撮影システム及び撮影方法
WO2020241108A1 (ja) * 2019-05-28 2020-12-03 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子
US11760267B2 (en) 2019-06-04 2023-09-19 Sony Group Corporation Imaging system
WO2020246186A1 (ja) * 2019-06-04 2020-12-10 ソニー株式会社 撮像システム
US11943561B2 (en) 2019-06-13 2024-03-26 Meta Platforms Technologies, Llc Non-linear quantization at pixel sensor
US11936998B1 (en) 2019-10-17 2024-03-19 Meta Platforms Technologies, Llc Digital pixel sensor having extended dynamic range
US11960638B2 (en) 2019-10-30 2024-04-16 Meta Platforms Technologies, Llc Distributed sensor system
US11935291B2 (en) 2019-10-30 2024-03-19 Meta Platforms Technologies, Llc Distributed sensor system
US11948089B2 (en) 2019-11-07 2024-04-02 Meta Platforms Technologies, Llc Sparse image sensing and processing
WO2021117350A1 (ja) * 2019-12-10 2021-06-17 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、および、撮像装置
WO2021125031A1 (ja) * 2019-12-17 2021-06-24 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置及び測距装置
WO2021153428A1 (ja) * 2020-01-29 2021-08-05 ソニーセミコンダクタソリューションズ株式会社 撮像装置、電子機器及び撮像方法
WO2021157386A1 (ja) * 2020-02-03 2021-08-12 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子および撮像装置
US11902685B1 (en) 2020-04-28 2024-02-13 Meta Platforms Technologies, Llc Pixel sensor having hierarchical memory
US11825228B2 (en) 2020-05-20 2023-11-21 Meta Platforms Technologies, Llc Programmable pixel array having multiple power domains
WO2021256031A1 (ja) * 2020-06-16 2021-12-23 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、および、撮像装置
WO2022009664A1 (ja) * 2020-07-09 2022-01-13 ソニーグループ株式会社 撮像装置及び撮像方法
US11910114B2 (en) 2020-07-17 2024-02-20 Meta Platforms Technologies, Llc Multi-mode image sensor
US11956560B2 (en) 2020-10-09 2024-04-09 Meta Platforms Technologies, Llc Digital pixel sensor having reduced quantization operation
US11935575B1 (en) 2020-12-23 2024-03-19 Meta Platforms Technologies, Llc Heterogeneous memory system
WO2022172621A1 (ja) * 2021-02-09 2022-08-18 ソニーセミコンダクタソリューションズ株式会社 センシングシステム、信号処理装置

Also Published As

Publication number Publication date
US20180167575A1 (en) 2018-06-14
US10321081B2 (en) 2019-06-11
JPWO2017013806A1 (ja) 2018-05-10

Similar Documents

Publication Publication Date Title
WO2017013806A1 (ja) 固体撮像装置
JP6440844B2 (ja) 固体撮像装置
WO2013172205A1 (ja) 撮像装置および撮像方法、電子機器、並びにプログラム
US9906746B2 (en) Solid-state image pickup device and image pickup apparatus
US20150237247A1 (en) Information processing apparatus, information processing method, information processing system, and imaging apparatus
US10229475B2 (en) Apparatus, system, and signal processing method for image pickup using resolution data and color data
US11290648B2 (en) Image capture apparatus and control method thereof
JP2006217213A (ja) 物理情報取得方法および物理情報取得装置
JPWO2018198766A1 (ja) 固体撮像装置および電子機器
JP2017120975A (ja) 撮像素子
KR20160094298A (ko) 촬상 소자
WO2018012068A1 (ja) 固体撮像装置、固体撮像装置の駆動方法、及び、電子機器
JP2018182543A (ja) 撮像装置、撮像システム、及び撮像素子の制御方法
JP2010245951A (ja) 撮像素子及び撮像装置
US20240089629A1 (en) Image sensor and imaging device
US10425605B2 (en) Image sensor and image capturing apparatus
JP2016090785A (ja) 撮像装置及びその制御方法
US20240015406A1 (en) Image sensor and imaging device
JP2006121151A (ja) 信号処理方法および信号処理装置並びに物理情報取得装置
KR20140107212A (ko) 고체 촬상 소자 및 그 구동 방법, 카메라 시스템
JP6733159B2 (ja) 撮像素子、及び撮像装置
JP2015173387A (ja) 撮像素子、その駆動方法、およびプログラム
JP5256084B2 (ja) 撮像装置及び撮像装置の駆動方法
KR20160097937A (ko) 이미지 센싱 장치
JP2011114474A (ja) 撮像装置及び固体撮像素子の駆動方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 15898964

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2017529430

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 15898964

Country of ref document: EP

Kind code of ref document: A1