WO2023157489A1 - 固体撮像素子、撮像装置、および、固体撮像素子の制御方法 - Google Patents

固体撮像素子、撮像装置、および、固体撮像素子の制御方法 Download PDF

Info

Publication number
WO2023157489A1
WO2023157489A1 PCT/JP2022/048207 JP2022048207W WO2023157489A1 WO 2023157489 A1 WO2023157489 A1 WO 2023157489A1 JP 2022048207 W JP2022048207 W JP 2022048207W WO 2023157489 A1 WO2023157489 A1 WO 2023157489A1
Authority
WO
WIPO (PCT)
Prior art keywords
signal
pixel
metadata
circuit
stage
Prior art date
Application number
PCT/JP2022/048207
Other languages
English (en)
French (fr)
Inventor
啓悟 中澤
凌平 川崎
Original Assignee
ソニーセミコンダクタソリューションズ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニーセミコンダクタソリューションズ株式会社 filed Critical ソニーセミコンダクタソリューションズ株式会社
Publication of WO2023157489A1 publication Critical patent/WO2023157489A1/ja

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/54Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/771Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising storage means other than floating diffusion

Definitions

  • This technology relates to solid-state imaging devices. More specifically, the present invention relates to a solid-state imaging device, an imaging apparatus, and a control method for a solid-state imaging device that performs exposure by a global shutter method.
  • the solid-state imaging device can process the next frame F2 using metadata generated from a certain frame F1.
  • the position of the subject may change between the frame F1 and the frame F2, and if the metadata of the frame F1 is used, appropriate image processing cannot be performed based on the recognition result. There is a risk.
  • This technology was created in view of this situation, and aims to perform appropriate image processing in a solid-state imaging device that processes frames using metadata.
  • a first aspect of the present technology includes a plurality of pixels each provided with a sample-and-hold circuit for holding a pixel signal; an analog-to-digital conversion unit for generating a first digital signal by analog-to-digital conversion processing on each of the signals, and generating a second digital signal by analog-to-digital conversion processing on each of the held pixel signals;
  • a solid-state imaging device comprising a metadata extraction unit for extracting predetermined metadata from a digital signal and an image processing unit for performing predetermined processing on the second digital signal using the metadata, and the control method. This brings about an effect that appropriate image processing is executed.
  • the metadata extracting unit performs recognition processing for recognizing a predetermined object on the frame in which the first digital signal is arranged, and outputs data indicating the result of the recognition processing to the May be generated as metadata. This brings about the effect of executing appropriate image processing based on the recognition regret.
  • the metadata may indicate a predetermined area
  • the image processing section may perform processing to replace a color in the area with a specific color. This brings about an effect that the predetermined object is hidden.
  • the metadata may indicate a predetermined area
  • the image processing section may perform mosaic processing on the area. This brings about an effect that the predetermined object is hidden.
  • the metadata may indicate a predetermined region
  • the image processing section may extract the region as the region of interest from the frame in which the second digital signal is arranged. This brings about the effect that the predetermined processing is performed on the region of interest.
  • each of the plurality of pixels includes a pre-stage circuit that generates a pixel signal, a sample-and-hold circuit that holds the pixel signal, and a sample-and-hold circuit that reads out the pixel signal from the sample-and-hold circuit and outputs the pixel signal.
  • a post-stage circuit may be provided. This brings about the effect that the pixel signal is held for each pixel.
  • the sample-and-hold circuit includes first and second capacitive elements, control for connecting one of the first and second capacitive elements to a predetermined post-stage node, and A selection circuit may also be provided which sequentially performs control for connecting the other of the second capacitive elements to the post-stage node. This brings about the effect of holding the reset level and signal level.
  • the selection circuit controls to connect one of the first and second capacitive elements to a predetermined post-stage node and connects both the first and second capacitive elements to the post-stage node. and the control of connecting the other of the first and second capacitive elements to the post-stage node may be sequentially performed. This brings about the effect of reducing noise.
  • each of the plurality of pixels includes a post-stage reset transistor that initializes the level of the post-stage node when both the first and second capacitive elements are disconnected from the post-stage node. may be further provided. This brings about the effect of reducing noise.
  • a first digital signal is generated by a plurality of pixels each provided with a sample-and-hold circuit for holding a pixel signal, and signal processing for each of the held pixel signals.
  • a signal processing unit for generating a second digital signal by performing the signal processing on each of the held pixel signals; a metadata extraction unit for extracting predetermined metadata from the first digital signal; and a recording unit configured to record frames in which the processed second digital signal is arranged.
  • FIG. 1 is a block diagram showing an example of 1 composition of an imaging device in a 1st embodiment of this art. It is a block diagram showing an example of 1 composition of a solid-state image sensing device in a 1st embodiment of this art. It is a circuit diagram showing a configuration example of a pixel in the first embodiment of the present technology. 1 is a block diagram showing one configuration example of a load MOS (Metal Oxide Semiconductor) circuit block and a column signal processing circuit according to the first embodiment of the present technology; FIG. 1 is a circuit diagram showing a configuration example of a pixel provided with two systems of post-stage circuits in the first embodiment of the present technology; FIG.
  • MOS Metal Oxide Semiconductor
  • FIG. 1 is a circuit diagram showing a configuration example of a pixel in which transistors in a sample-and-hold circuit are eliminated in the first embodiment of the present technology
  • FIG. 1 is a circuit diagram showing a configuration example of a charge domain pixel according to a first embodiment of the present technology
  • FIG. 1 is a block diagram showing a configuration example of a logic circuit according to a first embodiment of the present technology
  • FIG. It is a timing chart which shows an example of operation of a solid-state image sensing device in a 1st embodiment of this art.
  • FIG. 4 is a timing chart showing an example of operation of a solid-state imaging device in a comparative example; It is a figure showing an example of the 1st frame and a recognition result in a 1st embodiment of this art. It is a figure which shows an example of the frame of the 2nd time in 1st Embodiment of this technique, and a frame after a process. It is a flow chart which shows an example of operation of a solid-state image sensing device in a 1st embodiment of this art. It is a figure which shows an example of the frame of the 2nd time in the 1st modification of 1st Embodiment of this technique, and a frame after a process.
  • FIG. 14 is a diagram for explaining level variations due to reset feedthrough in the fourth embodiment of the present technology; It is a timing chart which shows an example of voltage control in a 4th embodiment of this art.
  • FIG. 14 is a timing chart showing an example of global shutter operation for odd frames according to the fifth embodiment of the present technology; FIG. It is a timing chart which shows an example of read-out operation
  • FIG. 14 is a timing chart showing an example of global shutter operation for even-numbered frames according to the fifth embodiment of the present technology; FIG.
  • FIG. 14 is a timing chart showing an example of rolling shutter operation according to the seventh embodiment of the present technology;
  • FIG. 8 is a block diagram which shows one structural example of the solid-state image sensor in 8th Embodiment of this technique.
  • FIG. 22 is a diagram for explaining effects in the eighth embodiment of the present technology; 1 is a block diagram showing a schematic configuration example of a vehicle control system; FIG. FIG. 4 is an explanatory diagram showing an example of an installation position of an imaging unit;
  • First Embodiment Example of Holding Pixel Signals and Performing Signal Processing Twice
  • Second embodiment an example in which a post-stage reset transistor is added, a pixel signal is held, and signal processing is performed twice
  • Third Embodiment Example of adding an ejection transistor, holding a pixel signal, and performing signal processing twice
  • Fourth Embodiment Example of Holding Pixel Signals and Performing Signal Processing Twice to Control Reset Power Supply Voltage
  • FIG. 1 is a block diagram showing a configuration example of an imaging device 100 according to the first embodiment of the present technology.
  • This imaging device 100 is a device for capturing image data, and includes an imaging lens 110 , a solid-state imaging device 200 , a recording section 120 and an imaging control section 130 .
  • As the imaging device 100 a digital camera or an electronic device (smartphone, personal computer, etc.) having an imaging function is assumed.
  • the solid-state imaging device 200 captures image data (frames) under the control of the imaging control section 130 .
  • the solid-state imaging device 200 supplies frames to the recording section 120 via the signal line 209 .
  • the imaging lens 110 collects light and guides it to the solid-state imaging device 200 .
  • the imaging control unit 130 controls the solid-state imaging device 200 to capture frames.
  • the imaging control unit 130 supplies imaging control signals including, for example, the vertical synchronization signal XVS to the solid-state imaging device 200 via the signal line 139 .
  • the recording unit 120 records frames.
  • the vertical synchronization signal XVS is a signal indicating the timing of imaging, and a periodic signal with a constant frequency (60 Hz, etc.) is used as the vertical synchronization signal XVS.
  • the imaging device 100 records frames
  • the frames may be transmitted to the outside of the imaging device 100.
  • an external interface is additionally provided for transmitting frames.
  • the imaging device 100 may further display frames.
  • a display section is further provided.
  • FIG. 2 is a block diagram showing a configuration example of the solid-state imaging device 200 according to the first embodiment of the present technology.
  • This solid-state imaging device 200 includes a vertical scanning circuit 211 , a pixel array section 220 , a timing control circuit 212 , a DAC (Digital to Analog Converter) 213 , a load MOS circuit block 250 and a column signal processing circuit 260 .
  • a plurality of pixels 300 are arranged in a two-dimensional grid in the pixel array section 220 .
  • each circuit in the solid-state imaging device 200 is provided on, for example, a single semiconductor chip.
  • a set of pixels 300 arranged in the horizontal direction is hereinafter referred to as a "row”, and a set of pixels 300 arranged in the direction perpendicular to the row is referred to as a "column”.
  • the timing control circuit 212 controls the operation timings of the vertical scanning circuit 211, the DAC 213, and the column signal processing circuit 260 in synchronization with the vertical synchronization signal XVS from the imaging control section .
  • the DAC 213 generates a sawtooth ramp signal by DA (Digital to Analog) conversion.
  • the DAC 213 supplies the generated ramp signal to the column signal processing circuit 260 .
  • the vertical scanning circuit 211 sequentially selects and drives rows to output analog pixel signals.
  • the pixel 300 photoelectrically converts incident light to generate an analog pixel signal. This pixel 300 supplies a pixel signal to the column signal processing circuit 260 via the load MOS circuit block 250 .
  • the load MOS circuit block 250 is provided with a MOS transistor for supplying a constant current for each column.
  • the column signal processing circuit 260 executes signal processing such as AD conversion processing and CDS processing on pixel signals for each column.
  • the column signal processing circuit 260 supplies the image data (frame) composed of the processed signal to the recording unit 120 .
  • FIG. 3 is a circuit diagram showing one configuration example of the pixel 300 according to the first embodiment of the present technology.
  • This pixel 300 comprises a front-stage circuit 310 , a sample-and-hold circuit 320 and a rear-stage circuit 350 .
  • Vertical signal lines 309 are wired in the pixel array section 220 for each column.
  • the pre-stage circuit 310 includes a photoelectric conversion element 311 , a transfer transistor 312 , an FD (Floating Diffusion) reset transistor 313 , an FD 314 , a pre-stage amplification transistor 315 and a current source transistor 316 .
  • the photoelectric conversion element 311 generates charges by photoelectric conversion.
  • the transfer transistor 312 transfers charges from the photoelectric conversion element 311 to the FD 314 according to the transfer signal trg from the vertical scanning circuit 211 .
  • the FD reset transistor 313 extracts electric charge from the FD 314 according to the FD reset signal rst from the vertical scanning circuit 211 and initializes it.
  • the FD 314 accumulates charges and generates a voltage corresponding to the amount of charges.
  • the front-stage amplification transistor 315 amplifies the voltage level of the FD 314 and outputs it to the front-stage node 319 .
  • the sources of the FD reset transistor 313 and the pre-amplification transistor 315 are connected to the power supply voltage VDD.
  • the current source transistor 316 is connected to the drain of the pre-amplification transistor 315 .
  • a predetermined bias voltage BIAS is supplied to the gate of the current source transistor 316 .
  • the sample hold circuit 320 includes capacitive elements 321 and 322 and a selection circuit 330 .
  • One end of each of capacitive elements 321 and 322 is commonly connected to previous stage node 319 , and the other end of each is connected to select circuit 330 .
  • the capacitive elements 321 and 322 are examples of the first and second capacitive elements described in the claims.
  • the selection circuit 330 includes selection transistors 331 and 332 .
  • the selection transistor 331 opens and closes the path between the capacitive element 321 and the subsequent node 340 according to the selection signal ⁇ r from the vertical scanning circuit 211 .
  • the selection transistor 332 opens and closes the path between the capacitive element 322 and the subsequent node 340 according to the selection signal ⁇ s from the vertical scanning circuit 211 .
  • the post-stage circuit 350 includes a post-stage amplification transistor 351 and a post-stage selection transistor 352 .
  • the rear-stage amplification transistor 351 amplifies the level of the rear-stage node 340 .
  • the post-stage selection transistor 352 outputs a signal of a level amplified by the post-stage amplification transistor 351 to the vertical signal line 309 as a pixel signal in accordance with the post-stage selection signal selb from the vertical scanning circuit 211 .
  • nMOS n-channel Metal Oxide Semiconductor
  • the vertical scanning circuit 211 supplies high-level FD reset signal rst and transfer signal trg to all pixels at the start of exposure. Thereby, the photoelectric conversion element 311 is initialized.
  • this control will be referred to as "PD reset”.
  • the vertical scanning circuit 211 supplies the high level FD reset signal rst over the pulse period while setting the selection signal ⁇ r to high level for all pixels.
  • the FD 314 is initialized, and the capacitive element 321 holds a level corresponding to the level of the FD 314 at that time.
  • This control is hereinafter referred to as "FD reset".
  • the level of the FD 314 at the time of FD reset and the level corresponding to that level are hereinafter collectively referred to as "P phase” or "reset level”. .
  • the vertical scanning circuit 211 supplies a high-level transfer signal trg over the pulse period while setting the selection signal ⁇ s to a high level for all pixels.
  • signal charges corresponding to the amount of exposure are transferred to the FD 314 , and a level corresponding to the level of the FD 314 at that time is held in the capacitive element 322 .
  • phase D phase D
  • signal level level
  • Exposure control that simultaneously starts and ends exposure for all pixels in this way is called a global shutter method.
  • the pre-stage circuits 310 of all pixels generate pixel signals (reset level and signal level).
  • the reset level of the pixel signal is held in the capacitor 321 and the signal level is held in the capacitor 322 .
  • the vertical scanning circuit 211 sequentially selects rows and sequentially outputs the reset level and signal level of the rows.
  • the vertical scanning circuit 211 supplies the high level selection signal ⁇ r for a predetermined period while setting the FD reset signal rst and the subsequent stage selection signal selb of the selected row to high level.
  • the capacitive element 321 is connected to the post-stage node 340, and the reset level is read.
  • the vertical scanning circuit 211 After reading the reset level, the vertical scanning circuit 211 supplies the high-level selection signal ⁇ s for a predetermined period while keeping the FD reset signal rst and the subsequent stage selection signal selb of the selected row at high level. Thereby, the capacitive element 322 is connected to the post-stage node 340, and the signal level is read.
  • the selection circuit 330 of the selected row sequentially performs control to connect the capacitive element 321 to the subsequent node 340 and control to connect the capacitive element 322 to the subsequent node 340 .
  • the post-stage circuit 350 of the selected row reads the pixel signal (reset level and signal level) from the sample-and-hold circuit 320 via the post-stage node 340 and outputs it to the vertical signal line 309 .
  • FIG. 4 is a block diagram showing one configuration example of the load MOS circuit block 250 and the column signal processing circuit 260 according to the first embodiment of the present technology.
  • a vertical signal line 309 is wired to the load MOS circuit block 250 for each column. Assuming that the number of columns is I (I is an integer), I vertical signal lines 309 are wired. A load MOS transistor 251 that supplies a constant current id2 is connected to each of the vertical signal lines 309 .
  • a signal processing unit 261 , a logic circuit 400 , and a high-speed interface 410 are arranged in the column signal processing circuit 260 .
  • the signal processing unit 261 includes multiple ADCs 262 .
  • ADC 262 is arranged for each column. Assuming that the number of columns is I, I ADCs 262 are arranged.
  • the ADC 262 uses the ramp signal Rmp from the DAC 213 to convert analog pixel signals from the corresponding columns into digital signals.
  • This ADC 262 supplies a digital signal to the logic circuit 400 .
  • the ADC 262 is a single-slope ADC that includes a comparator and a counter.
  • the counter in the ADC 262 performs down-counting when AD-converting the reset level, and performs up-counting when AD-converting the signal level.
  • CDS Correlated Double Sampling
  • the signal processing unit 261 performs signal processing including AD conversion processing and CDS processing.
  • the logic circuit 400 performs various signal processing other than the CDS processing on each digital signal for each column.
  • Logic circuit 400 provides frames of processed digital signals to high speed interface 410 .
  • a high-speed interface 410 outputs frames to the recording unit 120 .
  • circuit configuration of the pixel 300 is not limited to that illustrated in FIG. 3 as long as it can generate a pixel signal and sample and hold it.
  • the selection transistor 331 opens and closes the path between the capacitive element 321 and the post-circuit 350-1
  • the selection transistor 332 opens and closes the path between the capacitive element 322 and the post-circuit 350-2.
  • the post-stage circuit 350-1 includes a post-stage amplification transistor 351-1 and a post-stage selection transistor 352-1
  • the post-stage circuit 350-2 includes a post-stage amplification transistor 351-2 and a post-stage selection transistor 352-2.
  • two vertical signal lines are provided for each column, the post-stage circuit 350-1 outputs the pixel signal to the vertical signal line 309-1, and the post-stage circuit 350-2 outputs the pixel signal to the vertical signal line 309-2.
  • selection transistors 331 and 332 can be connected in series between the pre-stage circuit 310 and the post-stage circuit 350 .
  • the capacitive element 322 is connected to the connection node of the selection transistors 331 and 332
  • the capacitive element 321 is connected to the connection node of the selection transistor 331 and the post-stage circuit 350 .
  • the control method of this sample-and-hold circuit 320 is, for example, "Chen Xu et al., A Stacked Global-Shutter CMOS Imager with SC-Type Hybrid-GS Pixel and Self-Knee Point Calibration Single-Frame HDR and On-Chip Binarization Algorithm for Smart Vision Applications ISSCC2019.”
  • a sampling transistor 333 and a capacitive element 321 can be inserted in series between the pre-stage circuit 310 and the post-stage circuit 350, and the capacitive element 322 can be connected to their connection node.
  • a post-stage reset transistor 341 for initializing the post-stage node 340 is further provided.
  • the control method of this circuit is, for example, "Jae-kyu Lee, et al., A 2.1e-Temporal Noise and -105dB Parasitic Light Sensitivity Backside-Illuminated 2.3 ⁇ m-Pixel Voltage-Domain Global Shutter CMOS Image Sensor Using High-Capacity DRAM Capacitor Technology, ISSCC 2020.”
  • selection transistors 331-1 and 331-2 are inserted in series between the pre-stage circuit 310 and the post-stage circuit 350.
  • Serially connected select transistors 332-1 and 332-2 are inserted in parallel with the circuit composed of select transistors 331-1 and 331-2.
  • Capacitive element 321 is connected to a connection node between select transistors 331-1 and 331-2, and capacitive element 322 is connected to a connection node between select transistors 332-1 and 332-2.
  • FIG. 9 is a block diagram showing a configuration example of the logic circuit 400 according to the first embodiment of the present technology.
  • This logic circuit 400 includes a column interface 401 , an image processing section 402 , an ISP (Image Signal Processor) circuit 403 , a metadata extraction section 404 and a work memory 405 .
  • ISP Image Signal Processor
  • each of the pixels 300 described above holds a pixel signal in synchronization with the vertical synchronization signal XVS.
  • the signal processing unit 261 performs signal processing (AD conversion processing and CDS processing) for converting a pixel signal for each pixel into a digital signal after CDS processing twice in synchronization with the vertical synchronization signal XVS.
  • Each signal processing includes AD conversion processing for the reset level and AD conversion processing and CDS processing for the signal level, so four AD conversion processings and two CDS processings are executed in two signal processings. be.
  • the column interface 401 receives digital signals from the signal processing unit 261 and supplies image data (frames) in which they are arranged to the image processing unit 402 . Since signal processing is performed twice for each pixel in synchronization with the vertical synchronization signal XVS, two frames are generated for each period of the vertical synchronization signal XVS. These frames have the same data, but to distinguish them, the first frame is hereinafter referred to as "F1" and the second frame as "F2".
  • the image processing unit 402 performs various processes such as correction of defective pixels and dark correction on frames from the column interface 401 .
  • This image processing unit 402 processes the first frame F1 and supplies it to the ISP circuit 403 .
  • the ISP circuit 403 performs processing for reducing the amount of data on the frame F1 as necessary. When the processing load on the metadata extraction unit 404 is heavy, the ISP circuit 403 reduces the data amount. For example, downscaling and tone reduction are performed. Further, when the image from the signal processing unit 261 is a Bayer array image and the format of the input image to the metadata extraction unit 404 is a color image with three colors of R, G, and B for each pixel, the ISP circuit 403 Perform demosaic processing to convert the array image to a color image. The ISP circuit 403 supplies the processed frame F ⁇ b>1 to the metadata extraction unit 404 .
  • the metadata extraction unit 404 extracts predetermined metadata from the frame F1.
  • the metadata extraction unit 404 performs, for example, recognition processing for recognizing a predetermined object on the frame F1, and generates data indicating the processing result as metadata.
  • the metadata includes, for example, information as to whether or not the recognition target has been recognized, information as to the type, name, and attributes of the recognized object, information indicating the area of the object, and the like. Attributes include, for example, gender and age.
  • the metadata extraction unit 404 supplies the extracted metadata to the image processing unit 402 .
  • the work memory 405 holds data used in recognition processing. For example, recognition processing is executed by a neural network, and intermediate data exchanged between layers in the neural network is temporarily held in the work memory 405 . Also, weights used in the neural network are stored in advance in the work memory 405 .
  • the image processing unit 402 performs predetermined processing on the second frame F2 using the metadata extracted from the first frame F1. For example, for frame F2, a process of replacing the color of the object region indicated by the metadata with a specific color (eg, black) is performed.
  • the image processing unit 402 supplies the processed frame to the high-speed interface 410 as F2'.
  • each pixel 300 is provided with a sample-and-hold circuit that holds a pixel signal.
  • the signal processing unit 261 performs signal processing (AD conversion processing and CDS processing) on each pixel signal held in the pixel 300 in synchronization with the vertical synchronization signal XVS to generate a digital signal after CDS processing. times.
  • the frame in which the first digital signal is arranged is F1
  • the frame in which the second digital signal is arranged is F2.
  • the first digital signal is an example of the first digital signal described in the claims
  • the second digital signal is an example of the second digital signal described in the claims.
  • the metadata extraction unit 404 extracts metadata from the frame F1 and supplies it to the image processing unit 402.
  • the image processing unit 402 performs predetermined processing on the frame F2 using the metadata of the frame F1.
  • FIG. 10 is a timing chart showing an example of the operation of the solid-state imaging device 200 according to the first embodiment of the present technology.
  • the vertical scanning circuit 211 exposes all the pixels in the pixel array section 220 over the exposure period from timing T0 to T1. Also, at timing T1, the vertical synchronization signal XVS falls.
  • the signal processing unit 261 sequentially reads out the held pixel signals row by row, performs signal processing (AD conversion processing and CDS processing), and generates a frame F1.
  • the image processing unit 402 also performs image processing such as defective pixel correction on the frame F1, and supplies the processed image to the metadata extraction unit 404 via the ISP circuit 403 (not shown).
  • the metadata extraction unit 404 extracts metadata from the frame F1 and supplies it to the image processing unit 402 during the period from timing T2 to timing T3.
  • the signal processing unit 261 sequentially reads out the held pixel signals row by row, performs signal processing, and generates a frame F2. Since the signal processing is performed on the same pixel signals as the first time, the frame F2 has the same data as the frame F1.
  • the image processing unit 402 performs predetermined processing on the frame F2 using the metadata, and supplies the processed frame F2′ to the high-speed interface 410 .
  • the high speed interface 410 outputs the frame F2' to the outside.
  • the vertical synchronization signal XVS falls. Note that when capturing a plurality of frames in synchronization with the vertical synchronization signal XVS, all pixels are exposed within the exposure period from a predetermined timing to timing T4, and the next pixel signal is generated.
  • FIG. 11 is a timing chart showing an example of the operation of the solid-state imaging device 200 in the comparative example.
  • the vertical scanning circuit 211 exposes all the pixels in the pixel array section 220 over the exposure period from timings T0 to T1.
  • the signal processing unit 261 sequentially reads pixel signals row by row, performs signal processing (AD conversion processing and CDS processing), and generates a frame F1.
  • the image processing unit 402 also performs image processing such as defective pixel correction on the frame F1, and supplies the processed image to the metadata extraction unit 404 via the ISP circuit 403 (not shown).
  • the vertical scanning circuit 211 exposes all the pixels in the pixel array section 220 over the exposure period from timings T2 to T3. At timing T3, the vertical synchronizing signal XVS falls. Also, the metadata extraction unit 404 extracts metadata from the frame F1 and supplies it to the image processing unit 402 during the exposure period.
  • the signal processing unit 261 sequentially reads pixel signals row by row, performs signal processing, and generates a frame F2.
  • the pixel signals generated by the exposures at timings T0 to T1 are destroyed by the exposures at timings T2 to T3. Therefore, when a moving object is captured, the frame F2 has different data from the frame F1.
  • the image processing unit 402 performs predetermined processing on the frame F2 using the metadata, and supplies the processed frame F2′ to the high-speed interface 410.
  • the high speed interface 410 outputs the frame F2' to the outside.
  • the image processing unit 402 can perform processing using the metadata on an appropriate region, and can perform appropriate image processing on the frame F2'.
  • FIG. 12 is a diagram showing an example of the first frame and recognition results in the first embodiment of the present technology.
  • a is an example of the first frame 500
  • b in the same figure is a diagram showing an example of the recognition result.
  • a frame 500 includes subjects such as a person 501 and a building 502 .
  • the recognition target is a human being.
  • a person 501 is recognized, and information indicating a rectangular area 510 including the object is generated as metadata.
  • a thick dotted rectangular area 510 in the figure corresponds to the area indicated by the metadata.
  • FIG. 13 is a diagram showing an example of the second frame and the frame after processing in the first embodiment of the present technology.
  • a is an example of a second frame 510
  • b in the figure is an example of a frame 520 processed using metadata.
  • the second signal processing generates a frame 510 that is the same as the first frame 500 .
  • the area 521 indicated by the metadata is filled with a specific color (eg, black).
  • FIG. 14 is a flow chart showing an example of the operation of the solid-state imaging device 200 according to the first embodiment of the present technology. This operation is started, for example, when a predetermined application for capturing a frame is executed.
  • the vertical scanning circuit 211 in the solid-state imaging device 200 exposes all pixels simultaneously (step S901). For each pixel, the sample-and-hold circuit 320 within that pixel samples and holds the pixel signal (step S902).
  • the signal processing unit 261 performs signal processing (AD conversion processing and CDS processing) on each of the held pixel signals to generate the first frame (step S903).
  • the image processing unit 402 performs image processing on the frame (step S904), and the metadata extraction unit 404 extracts metadata from the processed frame (step S905).
  • the signal processing unit 261 performs signal processing on each of the held pixel signals to generate a second frame (step S906).
  • the image processing unit 402 refers to the metadata and determines whether or not the object has been recognized (step S907). When the object is recognized (step S907: Yes), the image processing unit 402 uses the metadata to perform image processing such as painting (step S908). On the other hand, if the target object is not recognized (step S907: No), the image processing unit 402 performs normal image processing such as defective pixel correction without using metadata (step S909). After step S908 or S909, the solid-state imaging device 200 finishes the operation for capturing the frame.
  • steps S901 to S909 are repeatedly executed in synchronization with the vertical synchronization signal XVS.
  • a pixel signal is held for each pixel, and metadata extracted from the first frame is used to generate a second frame that is the same as the first frame. Since the frame is processed, more appropriate image processing can be performed than the comparative example which does not hold the pixel signal.
  • the image processing unit 402 performs a process of filling the area indicated by the metadata with a specific color (eg, black) for the frame F2.
  • a specific color eg, black
  • the process using metadata is not limited to the process of filling in black or the like.
  • the solid-state imaging device 200 in the first modification of the first embodiment differs from the first embodiment in that the area indicated by the metadata is subjected to mosaic processing.
  • FIG. 15 is a diagram showing an example of the second frame and the frame after processing in the first modified example of the first embodiment of the present technology.
  • a is an example of a second frame 510
  • b in the figure is an example of a frame 520 processed using metadata.
  • the image processing unit 402 performs mosaic processing on the area 522 indicated by the metadata.
  • the mosaic processing is performed on the region 522 indicated by the metadata, so that the recognized object can be hidden by the mosaic.
  • the image processing unit 402 performs a process of filling the area indicated by the metadata with a specific color (eg, black) for the frame F2.
  • a specific color eg, black
  • the process using metadata is not limited to the process of filling in black or the like.
  • the solid-state imaging device 200 in the second modification of the first embodiment differs from the first embodiment in that the region indicated by metadata is extracted as a region of interest (ROI).
  • ROI region of interest
  • FIG. 16 is a diagram showing an example of the second frame and the region of interest in the second modified example of the first embodiment of the present technology.
  • a is an example of the second frame 510
  • b in the same figure is an example of the region of interest 530.
  • FIG. 16 is a diagram showing an example of the second frame and the region of interest in the second modified example of the first embodiment of the present technology.
  • a is an example of the second frame 510
  • b in the same figure is an example of the region of interest 530.
  • the image processing unit 402 extracts the region indicated by the metadata from the frame 510 as the region of interest 530 .
  • the metadata for example, detection results of suspicious behavior, possession of dangerous substances, and presence or absence of suspicious substances are used. Then, the image processing unit 402 performs various image processing such as defective pixel correction on the region of interest 530 .
  • FIGS. 13, 15 and 16 the entire human being is targeted for recognition, but only the face can also be targeted for recognition. Objects other than humans, such as vehicle license plates, can also be recognized.
  • the region indicated by the metadata is extracted as a region of interest (ROI). ) can be used to set the ROI.
  • ROI region of interest
  • the selection circuit 330 connects the capacitive elements 321 and 322 in order to the post-stage node 340, but this configuration may not sufficiently suppress noise.
  • the pixel 300 of the second embodiment differs from the first embodiment in that the latter node 340 is initialized when the selection circuit 330 disconnects the capacitive elements 321 and 322 from the latter node 340 .
  • FIG. 17 is a circuit diagram showing one configuration example of the pixel 300 according to the second embodiment of the present technology.
  • the pixel 300 of the second embodiment differs from the first embodiment in that it further includes a post-stage reset transistor 341 .
  • the post-stage reset transistor 341 initializes the level of the post-stage node 340 to a predetermined potential Vreg according to the post-stage reset signal rstb from the vertical scanning circuit 211 .
  • a potential different from the power supply potential VDD (for example, a potential lower than VDD) is set to the potential Vreg.
  • the vertical scanning circuit 211 After reading the reset level, the vertical scanning circuit 211 supplies the high-level post-stage reset signal rstb over the pulse period while keeping the FD reset signal rst and the post-stage selection signal selb of the selected row at high level. As a result, the level of the subsequent node 340 is initialized. At this time, both select transistor 331 and select transistor 332 are in an open state, and capacitive elements 321 and 322 are disconnected from subsequent node 340 .
  • the vertical scanning circuit 211 After initialization of the post-stage node 340, the vertical scanning circuit 211 supplies the high-level selection signal ⁇ s for a predetermined period while keeping the FD reset signal rst and the post-stage selection signal selb of the selected row at high level. Thereby, the capacitive element 322 is connected to the post-stage node 340, and the signal level is read.
  • the selection circuit 330 of the selected row performs control to connect the capacitive element 321 to the post-stage node 340, to disconnect the capacitive elements 321 and 322 from the post-node 340, and to connect the capacitive element 322 to the post-node 340. and control to connect to .
  • the post-stage reset transistor 341 in the selected row initializes the level of the post-stage node 340 .
  • the post-stage circuit 350 of the selected row sequentially reads out the reset level and the signal level from the capacitive elements 321 and 322 via the post-stage node 340 and outputs them to the vertical signal line 309 .
  • FIG. 18 is a timing chart showing an example of global shutter operation according to the second embodiment of the present technology.
  • the vertical scanning circuit 211 supplies high-level FD reset signal rst and transfer signal trg to all rows (in other words, all pixels) from timing T0 immediately before the start of exposure to timing T1 after the pulse period has elapsed. do. As a result, all pixels are PD-reset, and exposure is started simultaneously for all rows.
  • rst_[n] and trg_[n] in the same figure indicate the signals to the n-th row pixels of the N rows.
  • N is an integer indicating the total number of lines, and n is an integer from 1 to N.
  • the vertical scanning circuit 211 supplies the high-level FD reset signal rst over the pulse period while setting the post-stage reset signal rstb and the selection signal ⁇ r to high level in all pixels. .
  • all pixels are FD-reset, and the reset level is sample-held.
  • rstb_[n] and ⁇ r_[n] in the same figure indicate signals to pixels in the n-th row.
  • the vertical scanning circuit 211 returns the selection signal ⁇ r to low level.
  • the vertical scanning circuit 211 supplies the high-level transfer signal trg over the pulse period while setting the post-stage reset signal rstb and the selection signal ⁇ s to high level in all pixels. This samples and holds the signal level. Also, the level of the preceding node 319 drops from the reset level (VDD-Vgs) to the signal level (VDD-Vgs-Vsig).
  • VDD is the power supply voltage
  • Vsig is the net signal level obtained by the CDS process.
  • Vgs is the gate-to-source voltage of the pre-amplification transistor 315 .
  • ⁇ s_[n] in the figure indicates a signal to the n-th pixel.
  • the vertical scanning circuit 211 returns the selection signal ⁇ s to low level.
  • the vertical scanning circuit 211 controls the current source transistors 316 of all rows (all pixels) to supply the current id1.
  • id1_[n] in the figure indicates the current of the n-th pixel.
  • the current id1 needs to be on the order of several nanoamperes (nA) to several tens of nanoamperes (nA).
  • the load MOS transistors 251 of all columns are in the off state, and the current id2 is not supplied to the vertical signal line 309 .
  • FIG. 19 is a timing chart showing an example of read operation in the second embodiment of the present technology.
  • the vertical scanning circuit 211 sets the n-th row FD reset signal rst and the subsequent stage selection signal selb to high level.
  • the post-stage reset signal rstb for all rows is controlled to low level.
  • selb_[n] in the figure indicates a signal to the n-th row pixel.
  • the vertical scanning circuit 211 supplies a high-level selection signal ⁇ r to the n-th row over a period from timing T11 immediately after timing T10 to timing T13.
  • the potential of the post-stage node 340 becomes the reset level Vrst.
  • the DAC 213 gradually raises the ramp signal Rmp over the period from timing T12 to timing T13 after timing T11.
  • the ADC 262 compares the ramp signal Rmp with the level Vrst' of the vertical signal line 309, and counts the count value until the comparison result is inverted. As a result, the P-phase level (reset level) is read.
  • the vertical scanning circuit 211 supplies the high-level post-stage reset signal rstb to the n-th row over the pulse period from timing T14 immediately after timing T13. As a result, when a parasitic capacitance exists in the post-stage node 340, the history of the previous signal held in the parasitic capacitance can be erased.
  • the vertical scanning circuit 211 supplies a high-level selection signal ⁇ s to the n-th row over a period from timing T15 to timing T17 immediately after initialization of the subsequent node 340 .
  • the potential of the post-stage node 340 becomes the signal level Vsig.
  • the signal level was lower than the reset level, but at the time of reading, the signal level becomes higher than the reset level because the latter node 340 is used as a reference.
  • the difference between the reset level Vrst and the signal level Vsig corresponds to the net signal level after removing the FD reset noise and offset noise.
  • the DAC 213 gradually raises the ramp signal Rmp over a period from timing T16 to timing T17 after timing T15.
  • the ADC 262 compares the ramp signal Rmp with the level Vrst' of the vertical signal line 309, and counts the count value until the comparison result is inverted. As a result, the D-phase level (signal level) is read.
  • the vertical scanning circuit 211 controls the current source transistor 316 of the n-th row to be read over the period from timing T10 to timing T17 to supply the current id1. Further, the timing control circuit 212 controls the load MOS transistors 251 of all columns to supply the current id2 during the readout period of all rows.
  • the solid-state imaging device 200 reads the signal level after the reset level, the order is not limited to this. As illustrated in FIG. 20, the solid-state imaging device 200 can also read the reset level after the signal level. In this case, as illustrated in the figure, the vertical scanning circuit 211 supplies the high level selection signal ⁇ r after the high level selection signal ⁇ s. Also, in this case, it is necessary to reverse the slope of the ramp signal.
  • the rear-stage reset transistor 341 initializes the rear-stage node 340 when the selection circuit 330 disconnects the capacitive elements 321 and 322 from the rear-stage node 340 . Since capacitive elements 321 and 322 are separated, the level of reset noise due to their driving is a level corresponding to parasitic capacitance smaller than their capacities. This noise reduction can improve the image quality of the image data.
  • the signal is read while the pre-stage circuit 310 is connected to the pre-stage node 319, but in this configuration, noise from the pre-stage node 319 cannot be blocked during reading.
  • the pixel 300 of the first modified example of the second embodiment differs from the second embodiment in that a transistor is inserted between the pre-stage circuit 310 and the pre-stage node 319 .
  • FIG. 21 is a circuit diagram showing a configuration example of the pixel 300 in the first modified example of the second embodiment of the present technology.
  • a pixel 300 of the first modification of the second embodiment differs from the second embodiment in that it further includes a pre-stage reset transistor 323 and a pre-stage selection transistor 324 .
  • VDD1 is the power supply voltage of the pre-stage circuit 310 and the post-stage circuit 350 of the first modification of the second embodiment.
  • the pre-stage reset transistor 323 initializes the level of the pre-stage node 319 with the power supply voltage VDD2. It is desirable to set this power supply voltage VDD2 to a value that satisfies the following equation.
  • VDD2 VDD1-Vgs Equation 1
  • Vgs is the voltage between the gate and source of the preamplifying transistor 315 .
  • Equation 1 By setting a value that satisfies Equation 1, it is possible to reduce the potential fluctuation between the preceding node 319 and the succeeding node 340 when it is dark. This makes it possible to improve photo response non-uniformity (PRNU).
  • PRNU photo response non-uniformity
  • the front-stage selection transistor 324 opens and closes the path between the front-stage circuit 310 and the front-stage node 319 according to the front-stage selection signal sel from the vertical scanning circuit 211 .
  • FIG. 22 is a timing chart showing an example of global shutter operation in the first modified example of the second embodiment of the present technology.
  • the timing chart of the first modification of the second embodiment differs from that of the first embodiment in that the vertical scanning circuit 211 further supplies the previous stage reset signal rsta and the previous stage selection signal sel.
  • rsta_[n] and sel_[n] denote signals to pixels in the nth row.
  • the vertical scanning circuit 211 supplies a high-level pre-stage selection signal sel to all pixels from timing T2 immediately before the end of exposure to timing T5.
  • the previous stage reset signal rsta is controlled to a low level.
  • FIG. 23 is a timing chart showing an example of read operation in the first modified example of the second embodiment of the present technology.
  • the previous stage selection signal sel is controlled to a low level.
  • the pre-stage selection transistor 324 shifts to the open state, and the pre-stage node 319 is disconnected from the pre-stage circuit 310 .
  • noise from the preceding node 319 can be cut off during reading.
  • the vertical scanning circuit 211 supplies the high-level pre-stage reset signal rsta to the n-th row.
  • the vertical scanning circuit 211 controls the current source transistors 316 of all pixels to stop supplying the current id1.
  • Current id2 is supplied in the same manner as in the second embodiment.
  • control of the current id1 becomes simpler than in the second embodiment.
  • the pre-stage selection transistor 324 transitions to the open state during reading to disconnect the pre-stage circuit 310 from the pre-stage node 319 .
  • Noise from the circuit 310 can be blocked.
  • the circuits in the solid-state imaging device 200 are provided on a single semiconductor chip.
  • the solid-state imaging device 200 of the second modification of the second embodiment differs from the second embodiment in that the circuits in the solid-state imaging device 200 are distributed over two semiconductor chips.
  • FIG. 24 is a diagram showing an example of the layered structure of the solid-state imaging device 200 in the second modified example of the second embodiment of the present technology.
  • a solid-state imaging device 200 of a second modification of the second embodiment includes a lower pixel chip 202 and an upper pixel chip 201 stacked on the lower pixel chip 202 . These chips are electrically connected, for example, by Cu--Cu bonding. In addition to Cu--Cu bonding, vias and bumps can also be used for connection.
  • An upper pixel array section 221 is arranged in the upper pixel chip 201 .
  • a lower pixel array section 222 and a column signal processing circuit 260 are arranged in the lower pixel chip 202 .
  • Some of the pixels in the pixel array section 220 are arranged in the upper pixel array section 221 and the rest are arranged in the lower pixel array section 222 .
  • a vertical scanning circuit 211 , a timing control circuit 212 , a DAC 213 and a load MOS circuit block 250 are also arranged in the lower pixel chip 202 . These circuits are omitted in the figure.
  • the upper pixel chip 201 is manufactured by, for example, a process dedicated to pixels
  • the lower pixel chip 202 is manufactured by, for example, a CMOS (Complementary MOS) process.
  • CMOS Complementary MOS
  • FIG. 25 is a circuit diagram showing a configuration example of the pixel 300 in the second modified example of the second embodiment of the present technology.
  • the front-stage circuit 310 is arranged on the upper pixel chip 201
  • the other circuits and elements are arranged on the lower pixel chip 202 .
  • the current source transistor 316 can also be placed further on the lower pixel chip 202 .
  • the area of the pixel can be reduced and the pixel can be miniaturized. becomes easier.
  • the circuits and elements in the pixel 300 are distributed over two semiconductor chips, so that the pixel can be easily miniaturized. Become.
  • FIG. 26 is a diagram showing an example of the layered structure of the solid-state imaging device 200 according to the third modification of the second embodiment of the present technology.
  • a solid-state imaging device 200 of the third modification of the second embodiment includes an upper pixel chip 201 , a lower pixel chip 202 and a circuit chip 203 . These chips are stacked and electrically connected, for example, by Cu--Cu bonding. In addition to Cu--Cu bonding, vias and bumps can also be used for connection.
  • An upper pixel array section 221 is arranged in the upper pixel chip 201 .
  • a lower pixel array section 222 is arranged in the lower pixel chip 202 .
  • Some of the pixels in the pixel array section 220 are arranged in the upper pixel array section 221 and the rest are arranged in the lower pixel array section 222 .
  • a column signal processing circuit 260 In the circuit chip 203, a column signal processing circuit 260, a vertical scanning circuit 211, a timing control circuit 212, a DAC 213 and a load MOS circuit block 250 are arranged. Circuits other than the column signal processing circuit 260 are omitted in the figure.
  • the lower pixel chip 202 of the second layer can be manufactured by a dedicated process for capacitors and switches.
  • the circuits in the solid-state imaging device 200 are distributed over the three semiconductor chips, so that the circuits are distributed over the two semiconductor chips. Pixels can be further miniaturized as compared with the case where
  • the reset level is sampled and held within the exposure period, but in this configuration, the exposure period cannot be made shorter than the reset level sample and hold period.
  • the solid-state imaging device 200 of the third embodiment differs from that of the second embodiment in that the exposure period is made shorter by adding a transistor for discharging charges from the photoelectric conversion element.
  • FIG. 27 is a circuit diagram showing one configuration example of the pixel 300 according to the third embodiment of the present technology.
  • the pixel 300 of this third embodiment differs from that of the second embodiment in that it further includes a discharge transistor 317 in the pre-stage circuit 310 .
  • the discharge transistor 317 functions as an overflow drain that discharges charges from the photoelectric conversion element 311 according to the discharge signal ofg from the vertical scanning circuit 211 .
  • An nMOS transistor, for example, is used as the discharge transistor 317 .
  • blooming may occur when charges are transferred from the photoelectric conversion element 311 to the FD 314 for all pixels. Then, the potentials of the FD 314 and the previous stage node 319 drop when the FD is reset. Following this potential drop, currents for charging and discharging the capacitative elements 321 and 322 continue to be generated, and the IR drop of the power supply and ground changes from the steady state without blooming.
  • the discharge transistor 317 the charge of the photoelectric conversion element 311 is discharged to the overflow drain side. Therefore, the IR drop at the time of sampling and holding the reset level and the signal level is approximately the same, and streaking noise can be suppressed.
  • FIG. 28 is a timing chart showing an example of global shutter operation according to the third embodiment of the present technology.
  • the vertical scanning circuit 211 supplies the FD reset signal rst of high level to all the pixels for the pulse period while setting the discharge signal fg of all pixels to high level.
  • PD reset and FD reset are performed for all pixels.
  • the reset level is sample-held.
  • ?fg_[n] in the same figure indicates the signal to the pixel of the n-th row among the N rows.
  • the vertical scanning circuit 211 returns the discharge signal THERfg of all pixels to low level. Then, the vertical scanning circuit 211 supplies a high-level transfer signal trg to all pixels over a period from timing T2 immediately before the end of exposure to T3 at the end of exposure. This samples and holds the signal level.
  • both the transfer transistor 312 and the FD reset transistor 313 must be turned on at the start of exposure (that is, at PD reset).
  • the FD 314 must be reset at the same time when the PD is reset. Therefore, it is necessary to reset the FD again within the exposure period and sample and hold the reset level, and the exposure period cannot be shorter than the sample and hold period of the reset level.
  • a certain amount of waiting time is required until the voltage and current stabilize. A period is required.
  • the reset level can be sample-held by performing the FD reset before releasing the PD reset (starting exposure). As a result, the exposure period can be made shorter than the sample-and-hold period of the reset level.
  • the first to third modifications of the second embodiment can also be applied to the third embodiment.
  • the discharge transistor 317 that discharges the charge from the photoelectric conversion element 311 since the discharge transistor 317 that discharges the charge from the photoelectric conversion element 311 is provided, it is possible to perform the FD reset and sample and hold the reset level before the start of exposure. can. As a result, the exposure period can be made shorter than the sample-and-hold period of the reset level.
  • the FD 314 is initialized by the power supply voltage VDD.
  • PRNU sensitivity non-uniformity
  • the solid-state imaging device 200 of the fourth embodiment differs from the second embodiment in that PRNU is improved by lowering the power supply of the FD reset transistor 313 during reading.
  • FIG. 29 is a circuit diagram showing one configuration example of the pixel 300 according to the fourth embodiment of the present technology.
  • the pixel 300 of the fourth embodiment differs from the second embodiment in that the power supply of the FD reset transistor 313 is separated from the power supply voltage VDD of the pixel 300.
  • FIG. 29 is a circuit diagram showing one configuration example of the pixel 300 according to the fourth embodiment of the present technology.
  • the pixel 300 of the fourth embodiment differs from the second embodiment in that the power supply of the FD reset transistor 313 is separated from the power supply voltage VDD of the pixel 300.
  • the drain of the FD reset transistor 313 of the fourth embodiment is connected to the reset power supply voltage VRST.
  • This reset power supply voltage VRST is controlled by the timing control circuit 212, for example.
  • the potential of the FD 314 decreases due to the reset feedthrough of the FD reset transistor 313 at timing T0 immediately before the start of exposure, as illustrated in FIG. This fluctuation amount is assumed to be Vft.
  • the potential of the FD 314 changes from VDD to VDD-Vft at timing T0. Also, the potential of the previous stage node 319 during exposure is VDD-Vft-Vsig.
  • the FD reset transistor 313 is turned on during reading, and the FD 314 is fixed to the power supply voltage VDD. Due to the amount of variation Vft of FD 314, the potentials of pre-stage node 319 and post-stage node 340 in reading are shifted higher by about Vft. However, due to variations in the capacitance values of the capacitive elements 321 and 322 and parasitic capacitance, the amount of voltage to be shifted varies from pixel to pixel, resulting in deterioration of PRNU.
  • the transition amount of the subsequent node 340 when the preceding node 319 transitions by Vft is expressed by, for example, the following equation. ⁇ (Cs+ ⁇ Cs)/(Cs+ ⁇ Cs+Cp) ⁇ *Vft Equation 2
  • Cs is the capacitance value of the capacitive element 322 on the signal level side
  • ⁇ Cs is the variation of Cs
  • Cp is the capacitance value of the parasitic capacitance of the post-stage node 340 .
  • Equation 2 can be approximated by the following equation. ⁇ 1 ⁇ ( ⁇ Cs/Cs)*(Cp/Cs) ⁇ *Vft Equation 3
  • Equation 4 the variation of the post-stage node 340 can be expressed by the following equation. ⁇ ( ⁇ Cs/Cs)*(Cp/Cs) ⁇ *Vft Equation 4
  • FIG. 32 is a timing chart showing an example of voltage control in the fourth embodiment of the present technology.
  • the timing control circuit 212 controls the reset power supply voltage VRST to a value different from that during the exposure period during the row-by-row readout period after timing T9.
  • the timing control circuit 212 sets the reset power supply voltage VRST to the same value as the power supply voltage VDD.
  • the timing control circuit 212 reduces the reset power supply voltage VRST to VDD-Vft. That is, in the read period, the timing control circuit 212 reduces the reset power supply voltage VRST by an amount that substantially matches the variation Vft due to the reset feedthrough. With this control, the reset level of the FD 314 can be made uniform at the time of exposure and at the time of readout.
  • the timing control circuit 212 reduces the reset power supply voltage VRST by the fluctuation amount Vft due to the reset feedthrough at the time of reading. You can level up. This makes it possible to suppress deterioration of sensitivity non-uniformity (PRNU).
  • the signal level is read after the reset level for each frame.
  • sensitivity non-uniformity PRNU
  • PRNU sensitivity non-uniformity
  • the solid-state imaging device 200 of the fifth embodiment differs from the second embodiment in improving PRNU by exchanging the level held by the capacitive element 321 and the level held by the capacitative element 322 for each frame. Different from the form.
  • the solid-state imaging device 200 of the fifth embodiment continuously images a plurality of frames in synchronization with the vertical synchronization signal.
  • the odd-numbered frames are called “odd-numbered frames”, and the even-numbered frames are called “even-numbered frames”.
  • FIG. 33 is a timing chart showing an example of global shutter operation for odd frames in the fifth embodiment.
  • the pre-stage circuit 310 in the solid-state imaging device 200 causes the capacitive element 321 to hold the reset level by setting the selection signal ⁇ r and then the selection signal ⁇ s to high level, and then changes the signal level. It is held by the capacitor 322 .
  • FIG. 34 is a timing chart showing an example of the odd-numbered frame readout operation according to the fifth embodiment of the present technology.
  • the post-stage circuit 350 in the solid-state imaging device 200 sets the selection signal ⁇ r to the high level, then the selection signal ⁇ s, and reads the signal level after the reset level.
  • FIG. 35 is a timing chart showing an example of global shutter operation for even-numbered frames in the fifth embodiment.
  • the pre-stage circuit 310 in the solid-state imaging device 200 causes the capacitive element 322 to hold the reset level by setting the selection signal ⁇ s and then the selection signal ⁇ r to high level, and then changes the signal level. It is held in the capacitor 321 .
  • FIG. 36 is a timing chart showing an example of the even-numbered frame readout operation according to the fifth embodiment of the present technology.
  • the post-stage circuit 350 in the solid-state imaging device 200 sets the selection signal ⁇ s to the high level, then the selection signal ⁇ r, and reads the signal level after the reset level.
  • the levels held in the capacitive elements 321 and 322 are reversed between even-numbered frames and odd-numbered frames.
  • the polarity of the PRNU is also reversed between even and odd frames.
  • the post-stage column signal processing circuit 260 obtains the arithmetic mean of the odd-numbered frames and the even-numbered frames. This allows PRNUs with opposite polarities to cancel each other out.
  • This control is effective for capturing moving images and adding frames. In addition, it is possible to realize this by only changing the driving method without adding an element to the pixel 300 .
  • the level held in the capacitive element 321 and the level held in the capacitative element 322 are opposite between the odd frame and the even frame.
  • the polarity of PRNU can be reversed between frames. By adding these odd and even frames by the column signal processing circuit 260, deterioration of PRNU can be suppressed.
  • the column signal processing circuit 260 obtains the difference between the reset level and the signal level for each column.
  • the charge overflows from the photoelectric conversion element 311, which may cause a black spot phenomenon in which the brightness is lowered and the pixel is blackened.
  • the solid-state imaging device 200 of the sixth embodiment differs from that of the second embodiment in that whether or not the black spot phenomenon has occurred is determined for each pixel.
  • FIG. 37 is a circuit diagram showing one configuration example of the column signal processing circuit 260 according to the sixth embodiment of the present technology.
  • a plurality of ADCs 270 and a logic circuit 400 are arranged in the column signal processing circuit 260 of the sixth embodiment.
  • a plurality of CDS processing units 291 and a plurality of selectors 292 are arranged in the logic circuit 400 .
  • ADC 270, CDS processing unit 291 and selector 292 are provided for each column.
  • Other circuits (such as the metadata extractor 404) in the logic circuit 400 are omitted in FIG.
  • the ADC 270 also includes a comparator 280 and a counter 271 .
  • the comparator 280 compares the level of the vertical signal line 309 with the ramp signal Rmp from the DAC 213 and outputs the comparison result VCO.
  • a comparison result VCO is supplied to the counter 271 and the timing control circuit 212 .
  • Comparator 280 includes selector 281 , capacitive elements 282 and 283 , auto-zero switches 284 and 286 , and comparator 285 .
  • the selector 281 connects either the vertical signal line 309 of the corresponding column or the node of the predetermined reference voltage VREF to the non-inverting input terminal (+) of the comparator 285 according to the input-side selection signal selin, and the capacitive element 282. It connects through The input side selection signal selin is supplied from the timing control circuit 212 . Note that the selector 281 is an example of an input-side selector described in the claims.
  • the comparator 285 compares the levels of the non-inverting input terminal (+) and the inverting input terminal (-) and outputs the comparison result VCO to the counter 271 .
  • a ramp signal Rmp is input to the inverting input terminal (-) via the capacitive element 283 .
  • the auto-zero switch 284 short-circuits the non-inverting input terminal (+) and the output terminal of the comparison result VCO according to the auto-zero signal Az from the timing control circuit 212 .
  • the auto-zero switch 286 short-circuits the inverting input terminal (-) and the output terminal of the comparison result VCO according to the auto-zero signal Az.
  • the counter 271 counts the count value until the comparison result VCO is inverted, and outputs a digital signal CNT_out indicating the count value to the CDS processing section 291 .
  • the CDS processing unit 291 performs CDS processing on the digital signal CNT_out.
  • the CDS processing unit 291 calculates the difference between the digital signal CNT_out corresponding to the reset level and the digital signal CNT_out corresponding to the signal level, and outputs the difference as CDS_out to the selector 292 .
  • the selector 292 outputs either the CDS-processed digital signal CDS_out or the full-code digital signal FULL as the pixel data of the corresponding column according to the output-side selection signal selout from the timing control circuit 212 .
  • the selector 292 is an example of an output-side selector described in the claims.
  • FIG. 38 is a timing chart showing an example of global shutter operation according to the sixth embodiment of the present technology.
  • the method of controlling the transistors during the global shutter in the sixth embodiment is the same as in the second embodiment.
  • the dashed-dotted line in the figure shows the potential variation of the FD 314 when weak sunlight is incident so that the amount of overflowed charge is relatively small.
  • the dotted line in FIG. 3 indicates the potential fluctuation of the FD 314 when strong sunlight is incident so that the amount of overflowed charge is relatively large.
  • the reset level is lowered at timing T3 when the FD reset is completed, but the level is not lowered at this point.
  • the reset level drops completely at timing T3.
  • the signal level is the same as the reset level, and the potential difference between them is "0", so the digital signal after CDS processing is the same as in the dark state and darkens.
  • a phenomenon in which a pixel becomes black even when very high illuminance light such as sunlight is incident is called a black spot phenomenon or blooming.
  • the operating point of the pre-stage circuit 310 cannot be secured, and the current id1 of the current source transistor 316 fluctuates. Since the current source transistor 316 of each pixel is connected to a common power supply and ground, when the current fluctuates in one pixel, the IR drop fluctuation of that pixel affects the sample level of other pixels. end up A pixel where the black dot phenomenon occurs becomes an aggressor, and a pixel whose sample level changes due to that pixel becomes a victim. This results in streaking noise.
  • the black dot phenomenon is less likely to occur in a pixel with a black dot (blooming) because the overflowing charge is discarded to the drain transistor 317 side.
  • the discharge transistor 317 even if the discharge transistor 317 is provided, there is a possibility that part of the charge will flow to the FD 314, and the black spot phenomenon may not be eradicated.
  • the addition of the discharge transistor 317 has the disadvantage that the effective area/charge ratio for each pixel is reduced. Therefore, it is desirable to suppress the black spot phenomenon without using the discharge transistor 317 .
  • the first is adjustment of the clip level of the FD 314 .
  • the second method is to judge whether or not a black dot phenomenon has occurred during reading, and replace the output with a full code when the black dot phenomenon has occurred.
  • the high level of the FD reset signal rst (in other words, the gate of the FD reset transistor 313) in FIG.
  • the difference (ie amplitude) between these high and low levels is set to a value corresponding to the dynamic range.
  • the value is adjusted to a value obtained by adding a margin to that value.
  • the value corresponding to the dynamic range corresponds to the difference between the power supply voltage VDD and the potential of the FD 314 when the digital signal becomes full code.
  • the dynamic range changes depending on the analog gain of the ADC.
  • a low analog gain requires a large dynamic range, while a high analog gain requires a small dynamic range. Therefore, the gate voltage when the FD reset transistor 313 is turned off can be changed according to the analog gain.
  • FIG. 39 is a timing chart showing an example of read operation in the sixth embodiment of the present technology.
  • the selection signal ⁇ r becomes high level at the timing T11 immediately after the readout start timing T10
  • the potential of the vertical signal line 309 fluctuates in the pixel on which sunlight is incident.
  • the dashed-dotted line in FIG. 4 indicates the potential fluctuation of the vertical signal line 309 when weak sunlight is incident.
  • a dotted line in the figure indicates the potential fluctuation of the vertical signal line 309 when strong sunlight is incident.
  • the timing control circuit 212 supplies, for example, the input side selection signal selin of "0" to connect the comparator 285 to the vertical signal line 309. During this auto-zero period, the timing control circuit 212 performs auto-zero with the auto-zero signal Az.
  • the timing control circuit 212 supplies, for example, the input side selection signal selin of "1" within the determination period from timing T12 to timing T13.
  • the input side selection signal selin disconnects the comparator 285 from the vertical signal line 309 and connects it to the node of the reference voltage VREF.
  • This reference voltage VREF is set to the expected value of the level of the vertical signal line 309 when no blooming occurs.
  • Vrst corresponds to, for example, Vreg-Vgs2, where Vgs2 is the gate-source voltage of the rear-stage amplifying transistor 351 .
  • the DAC 213 reduces the level of the ramp signal Rmp from Vrmp_az to Vrmp_sun within the determination period.
  • the reset level Vrst of the vertical signal line 309 is substantially the same as the reference voltage VREF, and the potential of the inverting input terminal (+) of the comparator 285 is autozero. Not much different from time to time.
  • the comparison result VCO becomes high level.
  • the timing control circuit 212 can determine whether blooming has occurred based on whether the comparison result VCO becomes low level within the determination period.
  • the timing control circuit 212 connects the comparator 285 to the vertical signal line 309 after timing T13 after the determination period has elapsed. Further, after the P-phase settling period of timings T13 to T14 has passed, the P-phase is read out during the period of timings T14 to T15. After the D-phase settling period of timings T15 to T19 elapses, the D-phase is read out during the period of timings T19 to T20.
  • the timing control circuit 212 controls the selector 292 with the output side selection signal selout to output the digital signal CDS_out after the CDS processing as it is.
  • the timing control circuit 212 controls the selector 292 with the output side selection signal selout to output the full code FULL instead of the CDS-processed digital signal CDS_out. Thereby, the black spot phenomenon can be suppressed.
  • the timing control circuit 212 determines whether or not the black spot phenomenon has occurred based on the comparison result VCO, and outputs the full code when the black spot phenomenon has occurred. Since it is output, the black spot phenomenon can be suppressed.
  • the vertical scanning circuit 211 performs control (that is, global shutter operation) to simultaneously expose all rows (all pixels).
  • control that is, global shutter operation
  • the solid-state imaging device 200 of the seventh embodiment differs from that of the second embodiment in that it performs a rolling shutter operation during testing.
  • FIG. 40 is a timing chart showing an example of rolling shutter operation according to the seventh embodiment of the present technology.
  • the vertical scanning circuit 211 performs control to sequentially select a plurality of rows and start exposure.
  • the figure shows the exposure control of the n-th row.
  • the vertical scanning circuit 211 supplies the n-th row with the high-level post-stage selection signal selb, the selection signal ⁇ r, and the selection signal ⁇ s. Also, at the timing T0 of exposure start, the vertical scanning circuit 211 supplies the high-level FD reset signal rst and the post-stage reset signal rstb to the n-th row over the pulse period. The vertical scanning circuit 211 supplies the transfer signal trg to the n-th row at timing T1 when exposure ends.
  • the solid-state imaging device 200 can generate low-noise image data by the rolling shutter operation shown in FIG. Note that in the rolling shutter operation of FIG. 11, AD conversion twice and metadata extraction described in the first embodiment are not executed.
  • the solid-state imaging device 200 of the seventh embodiment performs a global shutter operation during normal imaging as in the second embodiment.
  • the vertical scanning circuit 211 performs control (that is, rolling shutter operation) to sequentially select a plurality of rows and start exposure. data can be generated.
  • the source of the source follower in the preceding stage (the amplifying transistor 315 in the preceding stage and the current source transistor 316) is connected to the power supply voltage VDD, and reading is performed row by row while the source follower is on. Ta.
  • the circuit noise of the source follower in the preceding stage propagates to the succeeding stage during readout in units of rows, and there is a possibility that the random noise increases.
  • the solid-state imaging device 200 of the eighth embodiment differs from that of the first embodiment in that noise is reduced by turning off the source follower in the preceding stage during readout.
  • FIG. 41 is a block diagram showing a configuration example of the solid-state imaging device 200 according to the eighth embodiment of the present technology.
  • the solid-state imaging device 200 of the eighth embodiment differs from that of the second embodiment in that a regulator 420 and a switching section 440 are further provided.
  • a plurality of effective pixels 301 and a predetermined number of dummy pixels 430 are arranged in the pixel array section 220 of the eighth embodiment.
  • the dummy pixels 430 are arranged around the area where the effective pixels 301 are arranged.
  • each of the dummy pixels 430 is supplied with the power supply voltage VDD
  • each of the effective pixels 301 is supplied with the power supply voltage VDD and the source voltage Vs.
  • a signal line for supplying the power supply voltage VDD to the effective pixels 301 is omitted in FIG.
  • the power supply voltage VDD is supplied from a pad 415 outside the solid-state imaging device 200 .
  • the regulator 420 generates a constant generation voltage V gen based on the input potential Vi from the dummy pixel 430 and supplies it to the switching section 440 .
  • the switching unit 440 selects either the power supply voltage VDD from the pad 415 or the generated voltage V gen from the regulator 420 and supplies it as the source voltage Vs to each column of the effective pixels 301 .
  • FIG. 42 is a circuit diagram showing one configuration example of the dummy pixel 430, the regulator 420, and the switching section 440 according to the eighth embodiment of the present technology.
  • a is a circuit diagram of the dummy pixel 430 and the regulator 420
  • b is a circuit diagram of the switching section 440 .
  • the dummy pixel 430 includes a reset transistor 431, an FD 432, an amplification transistor 433 and a current source transistor 434.
  • the reset transistor 431 initializes the FD 432 according to the reset signal RST from the vertical scanning circuit 211 .
  • the FD 432 accumulates charges and generates a voltage corresponding to the amount of charges.
  • the amplification transistor 433 amplifies the voltage level of the FD 432 and supplies it to the regulator 420 as an input voltage Vi.
  • the sources of the reset transistor 431 and the amplification transistor 433 are connected to the power supply voltage VDD.
  • Current source transistor 434 is connected to the drain of amplification transistor 433 . This current source transistor 434 supplies the current id1 under the control of the vertical scanning circuit 211 .
  • the regulator 420 includes a low-pass filter 421, a buffer amplifier 422 and a capacitive element 423.
  • the low-pass filter 421 passes, as an output voltage Vj, components of a low frequency band below a predetermined frequency in the signal of the input voltage Vi.
  • the output voltage Vj is input to the non-inverting input terminal (+) of the buffer amplifier 422 .
  • the inverting input terminal (-) of buffer amplifier 422 is connected to its output terminal.
  • the capacitive element 423 holds the voltage of the output terminal of the buffer amplifier 422 as Vgen .
  • This V gen is supplied to the switching section 440 .
  • the switching section 440 includes an inverter 441 and a plurality of switching circuits 442 .
  • a switching circuit 442 is arranged for each column of the effective pixels 301 .
  • the inverter 441 inverts the switching signal SW from the timing control circuit 212 . This inverter 441 supplies an inverted signal to each of the switching circuits 442 .
  • the switching circuit 442 selects either the power supply voltage VDD or the generated voltage V gen and supplies it to the corresponding column in the pixel array section 220 as the source voltage Vs.
  • the switching circuit 442 includes switches 443 and 444 .
  • the switch 443 opens and closes the path between the node of the power supply voltage VDD and the corresponding column according to the switching signal SW.
  • the switch 444 opens and closes the path between the node of the generated voltage V gen and the corresponding column according to the inverted signal of the switching signal SW.
  • FIG. 43 is a timing chart showing an example of operations of the dummy pixel 430 and the regulator 420 according to the eighth embodiment of the present technology.
  • the vertical scanning circuit 211 supplies a reset signal RST of high level (here, power supply voltage VDD) to each dummy pixel 430 .
  • the potential Vfd of the FD 432 within the dummy pixel 430 is initialized to the power supply voltage VDD. Then, when the reset signal RST becomes low level, it changes to VDD-Vft due to the reset feedthrough.
  • the input voltage Vi drops to VDD-Vgs-Vsig after reset.
  • Vj and Vgen become substantially constant voltages.
  • FIG. 44 is a circuit diagram showing one configuration example of the effective pixel 301 according to the eighth embodiment of the present technology.
  • the circuit configuration of the effective pixel 301 is the same as that of the pixel 300 of the second embodiment, except that the source of the preamplifying transistor 315 is supplied with the source voltage Vs from the switching unit 440 .
  • FIG. 45 is a timing chart showing an example of global shutter operation in the eighth embodiment of the present technology.
  • the switching unit 440 selects the power supply voltage VDD and supplies it as the source voltage Vs. Also, the voltage of the preceding node drops from VDD-Vgs-Vth to VDD-Vgs-Vsig at timing T4.
  • Vth is the threshold voltage of the transfer transistor 312 .
  • FIG. 46 is a timing chart showing an example of read operation in the eighth embodiment of the present technology.
  • the switching unit 440 selects the generated voltage V gen during reading and supplies it as the source voltage Vs. This generated voltage V gen is adjusted to VDD-Vgs-Vft. Further, in the eighth embodiment, the vertical scanning circuit 211 controls the current source transistors 316 of all rows (all pixels) to stop supplying the current id1.
  • FIG. 47 is a diagram for explaining the effects of the eighth embodiment of the present technology.
  • the source follower the front-stage amplification transistor 315 and the current source transistor 316
  • the circuit noise of the source follower in the preceding stage may propagate to the subsequent stage (the capacitive element, the source follower in the subsequent stage, and the ADC), increasing the readout noise.
  • kTC noise generated in pixels during global shutter operation is 450 ( ⁇ Vrms) as illustrated in the figure.
  • the noise generated in the source follower in the preceding stage (the amplifying transistor 315 in the preceding stage and the current source transistor 316) in reading for each row is 380 ( ⁇ Vrms).
  • the noise generated after the source follower in the latter stage is 160 ( ⁇ Vrms). Therefore, the total noise is 610 ( ⁇ Vrms).
  • the noise contribution of the preceding source follower in the total noise value is relatively large.
  • the source of the source follower in the preceding stage is supplied with an adjustable voltage (Vs) as described above.
  • Vs adjustable voltage
  • the switching unit 440 selects the power supply voltage VDD and supplies it as the source voltage Vs. After the exposure ends, the switching unit 440 switches the source voltage Vs to VDD-Vgs-Vft.
  • the timing control circuit 212 turns on the current source transistor 316 in the previous stage during the global shutter (exposure) operation, and turns it off after the end of the exposure.
  • the potentials of the front-stage nodes during global shutter operation and during readout for each row are uniform, and PRNU can be improved.
  • the source follower in the previous stage is turned off when reading out each row, the circuit noise of the source follower does not occur and becomes 0 ( ⁇ Vrms) as shown in FIG. Note that the front-stage amplifying transistor 315 of the front-stage source follower is in the ON state.
  • the technology (the present technology) according to the present disclosure can be applied to various products.
  • the technology according to the present disclosure can be realized as a device mounted on any type of moving body such as automobiles, electric vehicles, hybrid electric vehicles, motorcycles, bicycles, personal mobility, airplanes, drones, ships, and robots. may
  • FIG. 48 is a block diagram showing a schematic configuration example of a vehicle control system, which is an example of a mobile control system to which the technology according to the present disclosure can be applied.
  • a vehicle control system 12000 includes a plurality of electronic control units connected via a communication network 12001.
  • vehicle control system 12000 includes drive system control unit 12010 , body system control unit 12020 , vehicle exterior information detection unit 12030 , vehicle interior information detection unit 12040 , and integrated control unit 12050 .
  • integrated control unit 12050 As the functional configuration of the integrated control unit 12050, a microcomputer 12051, an audio/image output unit 12052, and an in-vehicle network I/F (interface) 12053 are illustrated.
  • the drive system control unit 12010 controls the operation of devices related to the drive system of the vehicle according to various programs.
  • the driving system control unit 12010 includes a driving force generator for generating driving force of the vehicle such as an internal combustion engine or a driving motor, a driving force transmission mechanism for transmitting the driving force to the wheels, and a steering angle of the vehicle. It functions as a control device such as a steering mechanism to adjust and a brake device to generate braking force of the vehicle.
  • the body system control unit 12020 controls the operation of various devices equipped on the vehicle body according to various programs.
  • the body system control unit 12020 functions as a keyless entry system, a smart key system, a power window device, or a control device for various lamps such as headlamps, back lamps, brake lamps, winkers or fog lamps.
  • body system control unit 12020 can receive radio waves transmitted from a portable device that substitutes for a key or signals from various switches.
  • the body system control unit 12020 receives the input of these radio waves or signals and controls the door lock device, power window device, lamps, etc. of the vehicle.
  • the vehicle exterior information detection unit 12030 detects information outside the vehicle in which the vehicle control system 12000 is installed.
  • the vehicle exterior information detection unit 12030 is connected with an imaging section 12031 .
  • the vehicle exterior information detection unit 12030 causes the imaging unit 12031 to capture an image of the exterior of the vehicle, and receives the captured image.
  • the vehicle exterior information detection unit 12030 may perform object detection processing or distance detection processing such as people, vehicles, obstacles, signs, or characters on the road surface based on the received image.
  • the imaging unit 12031 is an optical sensor that receives light and outputs an electrical signal according to the amount of received light.
  • the imaging unit 12031 can output the electric signal as an image, and can also output it as distance measurement information.
  • the light received by the imaging unit 12031 may be visible light or non-visible light such as infrared rays.
  • the in-vehicle information detection unit 12040 detects in-vehicle information.
  • the in-vehicle information detection unit 12040 is connected to, for example, a driver state detection section 12041 that detects the state of the driver.
  • the driver state detection unit 12041 includes, for example, a camera that captures an image of the driver, and the in-vehicle information detection unit 12040 detects the degree of fatigue or concentration of the driver based on the detection information input from the driver state detection unit 12041. It may be calculated, or it may be determined whether the driver is dozing off.
  • the microcomputer 12051 calculates control target values for the driving force generator, the steering mechanism, or the braking device based on the information inside and outside the vehicle acquired by the vehicle exterior information detection unit 12030 or the vehicle interior information detection unit 12040, and controls the drive system control unit.
  • a control command can be output to 12010 .
  • the microcomputer 12051 realizes the functions of ADAS (Advanced Driver Assistance System) including collision avoidance or shock mitigation, follow-up driving based on inter-vehicle distance, vehicle speed maintenance driving, vehicle collision warning, or vehicle lane deviation warning. Cooperative control can be performed for the purpose of ADAS (Advanced Driver Assistance System) including collision avoidance or shock mitigation, follow-up driving based on inter-vehicle distance, vehicle speed maintenance driving, vehicle collision warning, or vehicle lane deviation warning. Cooperative control can be performed for the purpose of ADAS (Advanced Driver Assistance System) including collision avoidance or shock mitigation, follow-up driving based on inter-vehicle distance, vehicle speed maintenance driving, vehicle collision warning, or vehicle
  • the microcomputer 12051 controls the driving force generator, the steering mechanism, the braking device, etc. based on the information about the vehicle surroundings acquired by the vehicle exterior information detection unit 12030 or the vehicle interior information detection unit 12040, so that the driver's Cooperative control can be performed for the purpose of autonomous driving, etc., in which vehicles autonomously travel without depending on operation.
  • the microcomputer 12051 can output a control command to the body system control unit 12020 based on the information outside the vehicle acquired by the information detection unit 12030 outside the vehicle.
  • the microcomputer 12051 controls the headlamps according to the position of the preceding vehicle or the oncoming vehicle detected by the vehicle exterior information detection unit 12030, and performs cooperative control aimed at anti-glare such as switching from high beam to low beam. It can be carried out.
  • the audio/image output unit 12052 transmits at least one of audio and/or image output signals to an output device capable of visually or audibly notifying the passengers of the vehicle or the outside of the vehicle.
  • an audio speaker 12061, a display section 12062 and an instrument panel 12063 are illustrated as output devices.
  • the display unit 12062 may include at least one of an on-board display and a head-up display, for example.
  • FIG. 49 is a diagram showing an example of the installation position of the imaging unit 12031.
  • the imaging unit 12031 has imaging units 12101, 12102, 12103, 12104, and 12105.
  • the imaging units 12101, 12102, 12103, 12104, and 12105 are provided at positions such as the front nose of the vehicle 12100, the side mirrors, the rear bumper, the back door, and the upper part of the windshield in the vehicle interior, for example.
  • An image pickup unit 12101 provided in the front nose and an image pickup unit 12105 provided above the windshield in the passenger compartment mainly acquire images in front of the vehicle 12100 .
  • Imaging units 12102 and 12103 provided in the side mirrors mainly acquire side images of the vehicle 12100 .
  • An imaging unit 12104 provided in the rear bumper or back door mainly acquires an image behind the vehicle 12100 .
  • the imaging unit 12105 provided above the windshield in the passenger compartment is mainly used for detecting preceding vehicles, pedestrians, obstacles, traffic lights, traffic signs, lanes, and the like.
  • FIG. 49 shows an example of the imaging range of the imaging units 12101 to 12104.
  • the imaging range 12111 indicates the imaging range of the imaging unit 12101 provided in the front nose
  • the imaging ranges 12112 and 12113 indicate the imaging ranges of the imaging units 12102 and 12103 provided in the side mirrors, respectively
  • the imaging range 12114 The imaging range of an imaging unit 12104 provided in the rear bumper or back door is shown. For example, by superimposing the image data captured by the imaging units 12101 to 12104, a bird's-eye view image of the vehicle 12100 viewed from above can be obtained.
  • At least one of the imaging units 12101 to 12104 may have a function of acquiring distance information.
  • at least one of the imaging units 12101 to 12104 may be a stereo camera composed of a plurality of imaging elements, or may be an imaging element having pixels for phase difference detection.
  • the microcomputer 12051 determines the distance to each three-dimensional object within the imaging ranges 12111 to 12114 and changes in this distance over time (relative velocity with respect to the vehicle 12100). , it is possible to extract, as the preceding vehicle, the closest three-dimensional object on the course of the vehicle 12100, which runs at a predetermined speed (for example, 0 km/h or more) in substantially the same direction as the vehicle 12100. can. Furthermore, the microcomputer 12051 can set the inter-vehicle distance to be secured in advance in front of the preceding vehicle, and perform automatic brake control (including following stop control) and automatic acceleration control (including following start control). In this way, cooperative control can be performed for the purpose of automatic driving in which the vehicle runs autonomously without relying on the operation of the driver.
  • automatic brake control including following stop control
  • automatic acceleration control including following start control
  • the microcomputer 12051 converts three-dimensional object data related to three-dimensional objects to other three-dimensional objects such as motorcycles, ordinary vehicles, large vehicles, pedestrians, and utility poles. It can be classified and extracted and used for automatic avoidance of obstacles. For example, the microcomputer 12051 distinguishes obstacles around the vehicle 12100 into those that are visible to the driver of the vehicle 12100 and those that are difficult to see. Then, the microcomputer 12051 judges the collision risk indicating the degree of danger of collision with each obstacle, and when the collision risk is equal to or higher than the set value and there is a possibility of collision, an audio speaker 12061 and a display unit 12062 are displayed. By outputting an alarm to the driver via the drive system control unit 12010 and performing forced deceleration and avoidance steering via the drive system control unit 12010, driving support for collision avoidance can be performed.
  • At least one of the imaging units 12101 to 12104 may be an infrared camera that detects infrared rays.
  • the microcomputer 12051 can recognize a pedestrian by determining whether or not the pedestrian exists in the captured images of the imaging units 12101 to 12104 .
  • recognition of a pedestrian is performed by, for example, a procedure for extracting feature points in images captured by the imaging units 12101 to 12104 as infrared cameras, and performing pattern matching processing on a series of feature points indicating the outline of an object to determine whether or not the pedestrian is a pedestrian.
  • the audio image output unit 12052 outputs a rectangular outline for emphasis to the recognized pedestrian. is superimposed on the display unit 12062 . Also, the audio/image output unit 12052 may control the display unit 12062 to display an icon or the like indicating a pedestrian at a desired position.
  • the technology according to the present disclosure can be applied to the imaging unit 12031 among the configurations described above.
  • the imaging device 100 in FIG. 1 can be applied to the imaging unit 12031 .
  • the technology according to the present disclosure it is possible to obtain a captured image that is easier to see, thereby reducing driver fatigue.
  • the present technology can also have the following configuration.
  • the metadata extracting unit performs recognition processing for recognizing a predetermined object on the frame in which the first digital signal is arranged, and generates data indicating a result of the recognition processing as the metadata.
  • the metadata indicates a predetermined area;
  • the metadata indicates a predetermined area;
  • the metadata indicates a predetermined area;
  • the solid-state imaging device according to (1) or (2), wherein the image processing section extracts the region as a region of interest from a frame in which the second digital signals are arranged.
  • each of the plurality of pixels a pre-stage circuit that generates a pixel signal; a sample and hold circuit that holds the pixel signal;
  • the solid-state imaging device according to any one of (1) to (5), further comprising a post-stage circuit that reads the pixel signal from the sample-and-hold circuit and outputs the pixel signal.
  • the sample and hold circuit first and second capacitive elements; a selection circuit that sequentially performs control for connecting one of the first and second capacitive elements to a predetermined post-stage node and control for connecting the other of the first and second capacitive elements to the post-stage node.
  • the selection circuit controls to connect one of the first and second capacitive elements to a predetermined post-stage node, to disconnect both the first and second capacitive elements from the post-stage node, and to control the first and second capacitive elements to be disconnected from the post-stage node.
  • Each of the plurality of pixels further includes a post-stage reset transistor that initializes the level of the post-stage node when both the first and second capacitive elements are disconnected from the post-stage node (8 ) solid-state imaging device described.
  • (10) a plurality of pixels each provided with a sample-and-hold circuit for holding a pixel signal; a signal processing unit that generates a first digital signal by performing signal processing on each of the held pixel signals and generates a second digital signal by performing the signal processing on each of the held pixel signals; a metadata extraction unit for extracting predetermined metadata from the first digital signal; an image processing unit that performs predetermined image processing on the second digital signal using the metadata; and a recording unit that records frames in which the processed second digital signals are arranged.
  • the analog-to-digital converter generates a first digital signal by performing signal processing on a pixel signal held in each of a plurality of pixels each provided with a sample-and-hold circuit for holding the pixel signal, and a signal processing procedure for generating a second digital signal by said signal processing on each of said pixel signals; a metadata extraction procedure in which a metadata extraction unit extracts predetermined metadata from the first digital signal; and an image signal processing procedure in which an image processing unit performs predetermined image processing on the second digital signal using the metadata.
  • Imaging device 110 imaging lens 120 recording unit 130 imaging control unit 200 solid-state imaging device 201 upper pixel chip 202 lower pixel chip 203 circuit chip 211 vertical scanning circuit 212 timing control circuit 213 DAC 220 pixel array section 221 upper pixel array section 222 lower pixel array section 250 load MOS circuit block 251 load MOS transistor 260 column signal processing circuit 261 signal processing section 262, 270 ADC 271 counter 280 comparator 281, 292 selector 282, 283, 321, 322 capacitive element 284, 286 auto-zero switch 285 comparator 291 CDS processing unit 300 pixel 301 effective pixel 310 pre-stage circuit 311 photoelectric conversion element 312 transfer transistor 313 FD reset transistor 314 FD 315 Pre-stage amplification transistor 316 Current source transistor 317 Discharge transistor 320 Sample hold circuit 323 Pre-stage reset transistor 324 Pre-stage selection transistor 330 Selection circuit 331, 331-1, 331-2, 332, 332-1, 332-2 Selection transistor 333 Sampling transistor 341 post-stage

Abstract

メタデータを用いてフレームを処理する固体撮像素子において、フレームの画質を向上させる。 複数の画素のそれぞれに、画素信号を保持するサンプルホールド回路が設けられる。信号処理部は、保持された画素信号のそれぞれに対する信号処理により第1のデジタル信号を生成し、その保持された画素信号のそれぞれに対する信号処理により第2のデジタル信号を生成する。メタデータ抽出部は、第1のデジタル信号から所定のメタデータを抽出する。画像処理部は、メタデータを用いて第2のデジタル信号に対して所定の画像処理を行う。

Description

固体撮像素子、撮像装置、および、固体撮像素子の制御方法
 本技術は、固体撮像素子に関する。詳しくは、グローバルシャッター方式で露光を行う固体撮像素子、撮像装置、および、固体撮像素子の制御方法に関する。
 従来より、撮像装置などにおいては、ローリングシャッター歪みを回避するために、全
画素を同時に露光するグローバルシャッター方式が広く用いられている。例えば、グローバルシャッター方式を用いて撮像した画像データ(言い換えれば、フレーム)に対して物体認識を行い、その結果を示すメタデータを生成する固体撮像素子が提案されている(例えば、特許文献1参照。)。
特開2020-054007号公報
 上述の従来技術を用いることにより、固体撮像素子は、あるフレームF1から生成したメタデータを用いて次のフレームF2を処理することができる。しかしながら、認識対象の被写体が動体の場合、フレームF1とフレームF2とで被写体の位置が変わることがあり、フレームF1のメタデータを用いると、認識結果に基づいた適切な画像処理を行うことができないおそれがある。
 本技術はこのような状況に鑑みて生み出されたものであり、メタデータを用いてフレームを処理する固体撮像素子において、適切な画像処理を行うことを目的とする。
 本技術は、上述の問題点を解消するためになされたものであり、その第1の側面は、画素信号を保持するサンプルホールド回路がそれぞれに設けられた複数の画素と、上記保持された画素信号のそれぞれに対するアナログデジタル変換処理により第1のデジタル信号を生成し、上記保持された画素信号のそれぞれに対するアナログデジタル変換処理により第2のデジタル信号を生成するアナログデジタル変換部と、上記第1のデジタル信号から所定のメタデータを抽出するメタデータ抽出部と、上記メタデータを用いて上記第2のデジタル信号に対して所定の処理を行う画像処理部とを具備する固体撮像素子、および、その制御方法である。これにより、適切な画像処理が実行されるという作用をもたらす。
 また、この第1の側面において、上記メタデータ抽出部は、上記第1のデジタル信号を配列したフレームに対して所定の物体を認識する認識処理を行い、当該認識処理の結果を示すデータを上記メタデータとして生成してもよい。これにより、認識悔過に基づいた適切な画像処理が実行されるという作用をもたらす。
 また、この第1の側面において、上記メタデータは、所定の領域を示し、上記画像処理部は、上記領域内の色を特定の色に置き換える処理を行ってもよい。これにより、所定の物体が隠されるという作用をもたらす。
 また、この第1の側面において、上記メタデータは、所定の領域を示し、上記画像処理部は、上記領域に対してモザイク処理を行ってもよい。これにより、所定の物体が隠されるという作用をもたらす。
 また、この第1の側面において、上記メタデータは、所定の領域を示し、上記画像処理部は、上記第2のデジタル信号を配列したフレームから上記領域を関心領域として抽出してもよい。これにより、関心領域に対して所定の処理が行われるという作用をもたらす。
 また、この第1の側面において、上記複数の画素のそれぞれは、画素信号を生成する前段回路と、上記画素信号を保持するサンプルホールド回路と、上記画素信号を上記サンプルホールド回路から読み出して出力する後段回路とを備えてもよい。これにより、画素ごとに画素信号が保持されるという作用をもたらす。
 また、この第1の側面において、上記サンプルホールド回路は、第1および第2の容量素子と、上記第1および第2の容量素子の一方を所定の後段ノードに接続する制御と上記第1および第2の容量素子の他方を上記後段ノードに接続する制御とを順に行う選択回路とを備えてもよい。これにより、リセットレベルおよび信号レベルが保持されるという作用をもたらす。
 また、この第1の側面において、上記選択回路は、上記第1および第2の容量素子の一方を所定の後段ノードに接続する制御と上記第1および第2の容量素子の両方を上記後段ノードから切り離す制御と上記第1および第2の容量素子の他方を上記後段ノードに接続する制御とを順に行ってもよい。これにより、ノイズが低減するという作用をもたらす。
 また、この第1の側面において、上記複数の画素のそれぞれは、上記第1および第2の容量素子の両方が上記後段ノードから切り離されたときに上記後段ノードのレベルを初期化する後段リセットトランジスタをさらに備えてもよい。これにより、ノイズが低減するという作用をもたらす。
 また、本技術の第2の側面は、画素信号を保持するサンプルホールド回路がそれぞれに設けられた複数の画素と、上記保持された画素信号のそれぞれに対する信号処理により第1のデジタル信号を生成し、上記保持された画素信号のそれぞれに対する上記信号処理により第2のデジタル信号を生成する信号処理部と、上記第1のデジタル信号から所定のメタデータを抽出するメタデータ抽出部と、上記メタデータを用いて上記第2のデジタル信号に対して所定の画像処理を行う画像処理部と、上記処理が行われた上記第2のデジタル信号を配列したフレームを記録する記録部とを具備する撮像装置である。これにより、撮像装置が撮像したフレームに対して適切な画像処理が実行されるという作用をもたらす。
本技術の第1の実施の形態における撮像装置の一構成例を示すブロック図である。 本技術の第1の実施の形態における固体撮像素子の一構成例を示すブロック図である。 本技術の第1の実施の形態における画素の一構成例を示す回路図である。 本技術の第1の実施の形態における負荷MOS(Metal Oxide Semiconductor)回路ブロックおよびカラム信号処理回路の一構成例を示すブロック図である。 本技術の第1の実施の形態における、2系統の後段回路を設けた画素の一構成例を示す回路図である。 本技術の第1の実施の形態における画素の別の例を示す回路図である。 本技術の第1の実施の形態における、サンプルホールド回路内のトランジスタを削減した画素の一構成例を示す回路図である。 本技術の第1の実施の形態における、チャージドメイン方式の画素の一構成例を示す回路図である。 本技術の第1の実施の形態におけるロジック回路の一構成例を示すブロック図である。 本技術の第1の実施の形態における固体撮像素子の動作の一例を示すタイミングチャートである。 比較例における固体撮像素子の動作の一例を示すタイミングチャートである。 本技術の第1の実施の形態における1回目のフレームと認識結果の一例を示す図である。 本技術の第1の実施の形態における2回目のフレームと処理後のフレームとの一例を示す図である。 本技術の第1の実施の形態における固体撮像素子の動作の一例を示すフローチャートである。 本技術の第1の実施の形態の第1の変形例における2回目のフレームと処理後のフレームとの一例を示す図である。 本技術の第1の実施の形態の第2の変形例における2回目のフレームと関心領域との一例を示す図である。 本技術の第2の実施の形態における画素の一構成例を示す回路図である。 本技術の第2の実施の形態におけるグローバルシャッター動作の一例を示すタイミングチャートである。 本技術の第2の実施の形態における読出し動作の一例を示すタイミングチャートである。 本技術の第2の実施の形態における読出し動作の別の例を示すタイミングチャートである。 本技術の第2の実施の形態の第1の変形例における画素の一構成例を示す回路図である。 本技術の第2の実施の形態の第1の変形例におけるグローバルシャッター動作の一例を示すタイミングチャートである。 本技術の第2の実施の形態の第1の変形例における読出し動作の一例を示すタイミングチャートである。 本技術の第2の実施の形態の第2の変形例における固体撮像素子の積層構造の一例を示す図である。 本技術の第2の実施の形態の第2の変形例における画素の一構成例を示す回路図である。 本技術の第2の実施の形態の第3の変形例における固体撮像素子の積層構造の一例を示す図である。 本技術の第3の実施の形態における画素の一構成例を示す回路図である。 本技術の第4の実施の形態におけるグローバルシャッター動作の一例を示すタイミングチャートである。 本技術の第4の実施の形態における画素の一構成例を示す回路図である。 本技術の第4の実施の形態におけるリセットフィードスルーについて説明するための図である。 本技術の第4の実施の形態におけるリセットフィードスルーによるレベルのばらつきについて説明するための図である。 本技術の第4の実施の形態における電圧制御の一例を示すタイミングチャートである。 本技術の第5の実施の形態における奇数フレームのグローバルシャッター動作の一例を示すタイミングチャートである。 本技術の第5の実施の形態における奇数フレームの読出し動作の一例を示すタイミングチャートである。 本技術の第5の実施の形態における偶数フレームのグローバルシャッター動作の一例を示すタイミングチャートである。 本技術の第5の実施の形態における偶数フレームの読出し動作の一例を示すタイミングチャートである。 本技術の第6の実施の形態におけるカラム信号処理回路の一構成例を示す回路図である。 本技術の第6の実施の形態におけるグローバルシャッター動作の一例を示すタイミングチャートである。 本技術の第6の実施の形態における読出し動作の一例を示すタイミングチャートである。 本技術の第7の実施の形態におけるローリングシャッター動作の一例を示すタイミングチャートである。 本技術の第8の実施の形態における固体撮像素子の一構成例を示すブロック図である。 本技術の第8の実施の形態におけるダミー画素、レギュレータ、および、切り替え部の一構成例を示す回路図である。 本技術の第8の実施の形態におけるダミー画素およびレギュレータの動作の一例を示すタイミングチャートである。 本技術の第8の実施の形態における有効画素の一構成例を示す回路図である。 本技術の第8の実施の形態におけるグローバルシャッター動作の一例を示すタイミングチャートである。 本技術の第8の実施の形態における読出し動作の一例を示すタイミングチャートである。 本技術の第8の実施の形態における効果を説明するための図である。 車両制御システムの概略的な構成例を示すブロック図である。 撮像部の設置位置の一例を示す説明図である。
 以下、本技術を実施するための形態(以下、実施の形態と称する)について説明する。説明は以下の順序により行う。
 1.第1の実施の形態(画素信号を保持して信号処理を2回行う例)
 2.第2の実施の形態(後段リセットトランジスタを追加し、画素信号を保持して信号処理を2回行う例)
 3.第3の実施の形態(排出トランジスタを追加し、画素信号を保持して信号処理を2回行う例)
 4.第4の実施の形態(画素信号を保持して信号処理を2回行い、リセット電源電圧を制御する例)
 5.第5の実施の形態(画素信号を保持して信号処理を2回行い、フレームごとに保持させるレベルを入れ替える例)
 6.第6の実施の形態(画素信号を保持して信号処理を2回行い、黒点現象を抑制する例)
 7.第7の実施の形態(画素信号を保持して信号処理を2回行い、ローリングシャッター動作を行う例)
 8.第8の実施の形態(読出しの際に前段のソースフォロワをオフ状態にし、画素信号を保持して信号処理を2回行う例)
 9.移動体への応用例
 <1.第1の実施の形態>
 [撮像装置の構成例]
 図1は、本技術の第1の実施の形態における撮像装置100の一構成例を示すブロック図である。この撮像装置100は、画像データを撮像する装置であり、撮像レンズ110、固体撮像素子200、記録部120および撮像制御部130を備える。撮像装置100としては、デジタルカメラや、撮像機能を持つ電子装置(スマートフォンやパーソナルコンピュータなど)が想定される。
 固体撮像素子200は、撮像制御部130の制御に従って、画像データ(フレーム)を撮像するものである。この固体撮像素子200は、フレームを信号線209を介して記録部120に供給する。
 撮像レンズ110は、光を集光して固体撮像素子200に導くものである。撮像制御部130は、固体撮像素子200を制御してフレームを撮像させるものである。この撮像制御部130は、例えば、垂直同期信号XVSを含む撮像制御信号を固体撮像素子200に信号線139を介して供給する。記録部120は、フレームを記録するものである。
 ここで、垂直同期信号XVSは、撮像のタイミングを示す信号であり、一定の周波数(60ヘルツなど)の周期信号が垂直同期信号XVSとして用いられる。
 なお、撮像装置100は、フレームを記録しているが、そのフレームを撮像装置100の外部に送信してもよい。この場合には、フレームを送信するための外部インターフェースがさらに設けられる。もしくは、撮像装置100は、さらにフレームを表示してもよい。この場合には表示部がさらに設けられる。
 [固体撮像素子の構成例]
 図2は、本技術の第1の実施の形態における固体撮像素子200の一構成例を示すブロック図である。この固体撮像素子200は、垂直走査回路211、画素アレイ部220、タイミング制御回路212、DAC(Digital to Analog Converter)213、負荷MOS回路ブロック250、カラム信号処理回路260を備える。画素アレイ部220には、二次元格子状に複数の画素300が配列される。また、固体撮像素子200内の各回路は、例えば、単一の半導体チップに設けられる。
 以下、水平方向に配列された画素300の集合を「行」と称し、行に垂直な方向に配列された画素300の集合を「列」と称する。
 タイミング制御回路212は、撮像制御部130からの垂直同期信号XVSに同期して垂直走査回路211、DAC213、カラム信号処理回路260のそれぞれの動作タイミングを制御するものである。
 DAC213は、DA(Digital to Analog)変換により、のこぎり波状のランプ信号を生成するものである。DAC213は、生成したランプ信号をカラム信号処理回路260に供給する。
 垂直走査回路211は、行を順に選択して駆動し、アナログの画素信号を出力させるものである。画素300は、入射光を光電変換してアナログの画素信号を生成するものである。この画素300は、負荷MOS回路ブロック250を介して、カラム信号処理回路260に画素信号を供給する。
 負荷MOS回路ブロック250には、定電流を供給するMOSトランジスタが列ごとに設けられる。
 カラム信号処理回路260は、列ごとに、画素信号に対してAD変換処理やCDS処理などの信号処理を実行するものである。このカラム信号処理回路260は、処理後の信号からなる画像データ(フレーム)を記録部120に供給する。
 [画素の構成例]
 図3は、本技術の第1の実施の形態における画素300の一構成例を示す回路図である。この画素300は、前段回路310と、サンプルホールド回路320と、後段回路350とを備える。画素アレイ部220には、列ごとに垂直信号線309が配線される。
 前段回路310は、光電変換素子311、転送トランジスタ312、FD(Floating Diffusion)リセットトランジスタ313、FD314、前段増幅トランジスタ315および電流源トランジスタ316を備える。
 光電変換素子311は、光電変換により電荷を生成するものである。転送トランジスタ312は、垂直走査回路211からの転送信号trgに従って、光電変換素子311からFD314へ電荷を転送するものである。
 FDリセットトランジスタ313は、垂直走査回路211からのFDリセット信号rstに従って、FD314から電荷を引き抜いて初期化するものである。FD314は、電荷を蓄積し、電荷量に応じた電圧を生成するものである。前段増幅トランジスタ315は、FD314の電圧のレベルを増幅して前段ノード319に出力するものである。
 また、FDリセットトランジスタ313および前段増幅トランジスタ315のソースは、電源電圧VDDに接続される。電流源トランジスタ316は、前段増幅トランジスタ315のドレインに接続される。この電流源トランジスタ316のゲートには、所定のバイアス電圧BIASが供給される。
 サンプルホールド回路320は、容量素子321および322と、選択回路330とを備える。容量素子321および322のそれぞれの一端は、前段ノード319に共通に接続され、それぞれの他端は、選択回路330に接続される。なお、容量素子321おおび322は、特許請求の範囲に記載の第1および第2の容量素子の一例である。
 選択回路330は、選択トランジスタ331および選択トランジスタ332を備える。選択トランジスタ331は、垂直走査回路211からの選択信号Φrに従って、容量素子321と後段ノード340との間の経路を開閉するものである。選択トランジスタ332は、垂直走査回路211からの選択信号Φsに従って、容量素子322と後段ノード340との間の経路を開閉するものである。
 後段回路350は、後段増幅トランジスタ351および後段選択トランジスタ352を備える。後段増幅トランジスタ351は、後段ノード340のレベルを増幅するものである。後段選択トランジスタ352は、垂直走査回路211からの後段選択信号selbに従って、後段増幅トランジスタ351により増幅されたレベルの信号を画素信号として垂直信号線309に出力するものである。
 なお、画素300内の各種のトランジスタ(転送トランジスタ312など)として、例えば、nMOS(n-channel Metal Oxide Semiconductor)トランジスタが用いられる。
 垂直走査回路211は、露光開始時に全画素へハイレベルのFDリセット信号rstおよび転送信号trgを供給する。これにより、光電変換素子311が初期化される。以下、この制御を「PDリセット」と称する。
 そして、垂直走査回路211は、露光終了の直前に、全画素について選択信号Φrをハイレベルにしつつ、パルス期間に亘ってハイレベルのFDリセット信号rstを供給する。これにより、FD314が初期化され、そのときのFD314のレベルに応じたレベルが容量素子321に保持される。この制御を以下、「FDリセット」と称する。
 FDリセットの際のFD314のレベルと、そのレベルに対応するレベル(容量素子321の保持レベルや、垂直信号線309のレベル)とをまとめて、以下、「P相」または「リセットレベル」と称する。
 垂直走査回路211は、露光終了時に、全画素について選択信号Φsをハイレベルにしつつ、パルス期間に亘ってハイレベルの転送信号trgを供給する。これにより、露光量に応じた信号電荷がFD314へ転送され、そのときのFD314のレベルに応じたレベルが容量素子322に保持される。
 信号電荷の転送の際のFD314のレベルと、そのレベルに対応するレベル(容量素子322の保持レベルや、垂直信号線309のレベル)とをまとめて、以下、「D相」または「信号レベル」と称する。
 このように全画素について同時に露光を開始し、終了する露光制御は、グローバルシャッター方式と呼ばれる。この露光制御により、全画素の前段回路310は、画素信号(リセットレベルおよび信号レベル)を生成する。画素信号のリセットレベルは、容量素子321に保持され、信号レベルは、容量素子322に保持される。
 露光終了後に垂直走査回路211は、行を順に選択して、その行のリセットレベルおよび信号レベルを順に出力させる。リセットレベルを出力させる際に、垂直走査回路211は、選択した行のFDリセット信号rstおよび後段選択信号selbをハイレベルにしつつ、ハイレベルの選択信号Φrを所定期間に亘って供給する。これにより、容量素子321が後段ノード340に接続され、リセットレベルが読み出される。
 リセットレベルの読出し後に、垂直走査回路211は、選択した行のFDリセット信号rstおよび後段選択信号selbをハイレベルにしたままで、ハイレベルの選択信号Φsを所定期間に亘って供給する。これにより、容量素子322が後段ノード340に接続され、信号レベルが読み出される。
 上述の読出し制御により、選択された行の選択回路330は、容量素子321を後段ノード340に接続する制御と、容量素子322を後段ノード340に接続する制御とを順に行う。また、選択された行の後段回路350は、後段ノード340を介して画素信号(リセットレベルおよび信号レベル)をサンプルホールド回路320から読み出して垂直信号線309へ出力する。
 [カラム信号処理回路の構成例]
 図4は、本技術の第1の実施の形態における負荷MOS回路ブロック250およびカラム信号処理回路260の一構成例を示すブロック図である。
 負荷MOS回路ブロック250には、列ごとに垂直信号線309が配線される。列数をI(Iは、整数)とすると、I本の垂直信号線309が配線される。また、垂直信号線309のそれぞれには、一定の電流id2を供給する負荷MOSトランジスタ251が接続される。
 カラム信号処理回路260には、信号処理部261と、ロジック回路400と、高速インターフェース410とが配置される。信号処理部261は、複数のADC262を備える。ADC262は、列ごとに配置される。列数をIとすると、I個のADC262が配置される。
 ADC262は、DAC213からのランプ信号Rmpを用いて、対応する列からのアナログの画素信号をデジタル信号に変換するものである。このADC262は、デジタル信号をロジック回路400に供給する。例えば、ADC262として、コンパレータおよびカウンタを備えるシングルスロープ型のADCが配置される。ADC262内のカウンタは、例えば、リセットレベルをAD変換する際にダウンカウントを行い、信号レベルをAD変換する際にアップカウントを行う。これにより、リセットレベルと信号レベルとの差分を求めるCDS(Correlated Double Sampling)処理が行われる。なお、信号処理部261内にCDS回路を追加し、ADC262がAD変換処理のみを行い、CDS回路がCDS処理を行う構成とすることもできる。このように、信号処理部261は、AD変換処理およびCDS処理を含む信号処理を行う。
 ロジック回路400は、列ごとのデジタル信号のそれぞれに対して、CDS処理以外の各種の信号処理を行うものである。ロジック回路400は、処理後のデジタル信号からなるフレームを高速インターフェース410に供給する。高速インターフェース410は、フレームを記録部120に出力するものである。
 なお、画素300の回路構成は、画素信号を生成し、サンプルホールドすることができるものであれば、図3に例示したものに限定されない。
 例えば、図5に例示するように、画素ごとに2系統の後段回路を設けることもできる。この場合、選択トランジスタ331は、容量素子321と後段回路350-1との間の経路を開閉し、選択トランジスタ332は、容量素子322と後段回路350-2との間の経路を開閉すればよい。後段回路350-1は、後段増幅トランジスタ351-1および後段選択トランジスタ352-1を備え、後段回路350-2は、後段増幅トランジスタ351-2および後段選択トランジスタ352-2を備える。また、垂直信号線が列ごとに2本配線され、後段回路350-1は、垂直信号線309-1に画素信号を出力し、後段回路350-2は、垂直信号線309-2に画素信号を出力する。
 また、図6に例示するように、前段回路310と後段回路350との間において、選択トランジスタ331および332を直列に接続することもできる。この場合、選択トランジスタ331および332の接続ノードに容量素子322が接続され、選択トランジスタ331および後段回路350の接続ノードに容量素子321が接続される。このサンプルホールド回路320の制御方法は、例えば、「Chen Xu et al., A Stacked Global-Shutter CMOS Imager with SC-Type Hybrid-GS Pixel and Self-Knee Point Calibration Single-Frame HDR and On-Chip Binarization Algorithm for Smart Vision Applications ISSCC2019.」に記載されている。
 また、図7に例示するように、前段回路310と後段回路350との間にサンプリングトランジスタ333および容量素子321を直列に挿入し、それらの接続ノードに容量素子322を接続することもできる。この場合、後段ノード340を初期化する後段リセットトランジスタ341がさらに設けられる。この回路の制御方法は、例えば、「Jae-kyu Lee, et al., A 2.1e-Temporal Noise and -105dB Parasitic Light Sensitivity Backside-Illuminated 2.3 μm-Pixel Voltage-Domain Global Shutter CMOS Image Sensor Using High-Capacity DRAM Capacitor Technology, ISSCC 2020.」に記載されている。
 上述の図3、図5、図6および図7のそれぞれのサンプルホールド回路320は、電圧を保持するボルテージドメイン方式の回路であるが、図8に例示するように電荷を保持するチャージドメイン方式の回路を用いることもできる。
 図8のチャージドメイン方式では、例えば、前段回路310と後段回路350との間に選択トランジスタ331-1および331-2が直列に挿入される。また、選択トランジスタ331-1および331-2からなる回路と並列に、直列に接続した選択トランジスタ332-1および332-2が挿入される。容量素子321は、選択トランジスタ331-1および331-2の接続ノードに接続され、容量素子322は、選択トランジスタ332-1および332-2の接続ノードに接続される。
 [ロジック回路の構成例]
 図9は、本技術の第1の実施の形態におけるロジック回路400の一構成例を示すブロック図である。このロジック回路400は、カラムインターフェース401、画像処理部402、ISP(Image Signal Processor)回路403、メタデータ抽出部404およびワークメモリ405を備える。
 ここで、前述の画素300のそれぞれは、垂直同期信号XVSに同期して、画素信号を保持する。信号処理部261は、垂直同期信号XVSに同期して、画素ごとに画素信号を、CDS処理後のデジタル信号に変換する信号処理(AD変換処理およびCDS処理)を2回に亘って行う。信号処理のそれぞれは、リセットレベルに対するAD変換処理と、信号レベルに対するAD変換処理とCDS処理とを含むため、2回の信号処理において4回のAD変換処理と2回のCDS処理とが実行される。
 カラムインターフェース401は、信号処理部261からデジタル信号を受信し、それらを配列した画像データ(フレーム)を画像処理部402に供給する。垂直同期信号XVSに同期して画素ごとに信号処理が2回行われるため、垂直同期信号XVSの周期ごとに2枚のフレームが生成される。これらのフレームは同一のデータであるが、区別するため、以下、1枚目のフレームを「F1」とし、2枚目のフレームを「F2」とする。
 画像処理部402は、カラムインターフェース401からのフレームに対し、欠陥画素の補正やダーク補正などの各種の処理を行うものである。この画像処理部402は、1枚目のフレームF1を処理してISP回路403に供給する。
 ISP回路403は、必要に応じて、フレームF1に対して、そのデータ量を削減するための処理を行うものである。メタデータ抽出部404の処理負荷が大きい場合には、ISP回路403によりデータ量の削減が行われる。例えば、ダウンスケーリングや、諧調の削減が行われる。また、信号処理部261からの画像がベイヤー配列画像で、メタデータ抽出部404の入力画像のフォーマットが、画素ごとにR、G、Bの3色のカラー画像の場合、ISP回路403は、ベイヤー配列画像をカラー画像に変換するデモザイク処理を実行する。ISP回路403は、処理後のフレームF1をメタデータ抽出部404に供給する。
 メタデータ抽出部404は、フレームF1から所定のメタデータを抽出するものである。このメタデータ抽出部404は、例えば、フレームF1に対して、所定の物体を認識する認識処理を行い、その処理結果を示すデータをメタデータとして生成する。メタデータは、例えば、認識対象を認識したか否かの情報、認識した物体の種類、名称や属性の情報、その物体の領域を示す情報などを含む。属性は、例えば、性別や年齢などを含む。メタデータ抽出部404は、抽出したメタデータを画像処理部402に供給する。
 ワークメモリ405は、認識処理において用いられるデータを保持するものである。例えば、ニューラルネットワークにより認識処理が実行され、そのニューラルネットワークにおけるレイヤー間でやり取りされる中間データがワークメモリ405に一時的に保持される。また、ニューラルネットワークで用いられる重みがワークメモリ405に予め保持される。
 画像処理部402は、1枚目のフレームF1から抽出されたメタデータを用いて、2枚目のフレームF2に対して所定の処理を行う。例えば、フレームF2に対して、メタデータの示す物体の領域の色を特定の色(黒色など)で置き換える処理が行われる。画像処理部402は、処理後のフレームをF2'として高速インターフェース410に供給する。
 上述したように、画素300のそれぞれには、画素信号を保持するサンプルホールド回路が設けられている。信号処理部261は、垂直同期信号XVSに同期して、画素300に保持された画素信号のそれぞれに対する信号処理(AD変換処理およびCDS処理)により、CDS処理後のデジタル信号を生成する処理を2回行う。1回目のデジタル信号を配列したフレームがF1であり、2回目のデジタル信号を配列したフレームがF2である。なお、1回目のデジタル信号は、特許請求の範囲に記載の第1のデジタル信号の一例であり、2回目のデジタル信号は、特許請求の範囲に記載の第2のデジタル信号の一例である。
 メタデータ抽出部404は、フレームF1からメタデータを抽出し、画像処理部402に供給する。画像処理部402は、フレームF1のメタデータを用いて、フレームF2に対して所定の処理を行う。
 [固体撮像素子の動作例]
 図10は、本技術の第1の実施の形態における固体撮像素子200の動作の一例を示すタイミングチャートである。
 タイミングT0からT1までの露光期間に亘って、垂直走査回路211は、画素アレイ部220内の全画素を露光させる。また、タイミングT1において、垂直同期信号XVSが立ち下がる。
 タイミングT1からT2までの期間に亘って信号処理部261は、保持された画素信号を行単位で順に読み出して信号処理(AD変換処理およびCDS処理)を行い、フレームF1を生成する。また、画像処理部402は、フレームF1に対して、欠陥画素補正などの画像処理を行い、ISP回路403(不図示)を介してメタデータ抽出部404に供給する。
 タイミングT2からT3までの期間内に、メタデータ抽出部404は、フレームF1からメタデータを抽出し、画像処理部402に供給する。
 タイミングT3からタイミングT4の直前までの期間に亘って信号処理部261は、保持された画素信号を行単位で順に読み出して信号処理を行い、フレームF2を生成する。1回目と同一の画素信号に対して信号処理が実行されたため、フレームF2は、フレームF1と同一のデータとなる。画像処理部402は、メタデータを用いてフレームF2に対して所定の処理を行い、処理後のフレームF2'を高速インターフェース410に供給する。高速インターフェース410は、フレームF2'を外部に出力する。また、タイミングT4において、垂直同期信号XVSが立ち下がる。なお、垂直同期信号XVSに同期して複数のフレームを撮像する場合は、所定タイミングからタイミングT4までの露光期間内に全画素が露光され、次の画素信号が生成される。
 ここで、画素内にサンプルホールド回路320が配置されない構成を比較例として想定する。
 図11は、比較例における固体撮像素子200の動作の一例を示すタイミングチャートである。タイミングT0からT1までの露光期間に亘って、垂直走査回路211は、画素アレイ部220内の全画素を露光させる。
 タイミングT1からT2までの期間に亘って信号処理部261は、画素信号を行単位で順に読み出して信号処理(AD変換処理およびCDS処理)を行い、フレームF1を生成する。また、画像処理部402は、フレームF1に対して、欠陥画素補正などの画像処理を行い、ISP回路403(不図示)を介してメタデータ抽出部404に供給する。
 タイミングT2からT3までの露光期間に亘って、垂直走査回路211は、画素アレイ部220内の全画素を露光させる。タイミングT3において、垂直同期信号XVSが立ち下がる。また、その露光期間内にメタデータ抽出部404は、フレームF1からメタデータを抽出し、画像処理部402に供給する。
 タイミングT3から所定期間に亘って信号処理部261は、画素信号を行単位で順に読み出して信号処理を行い、フレームF2を生成する。タイミングT2乃至T3の露光により、タイミングT0乃至T1の露光により生成された画素信号は破壊されている。このため、動体が撮像された場合、フレームF2は、フレームF1と異なるデータとなる。
 タイミングT3から所定期間に亘って、画像処理部402は、メタデータを用いてフレームF2に対して所定の処理を行い、処理後のフレームF2'を高速インターフェース410に供給する。高速インターフェース410は、フレームF2'を外部に出力する。
 同図に例示するように、画素ごとにサンプルホールド回路320が配置されない比較例では、画素信号が保持されず、同じ画素信号に対して信号処理を2回行うことができない。このため、フレームF1のメタデータを用いて、フレームF2を処理した場合、フレームF1で認識した物体が移動し、フレーム2において位置が変わることがある。この結果、メタデータを用いた処理が適切な領域に対して行われず、フレームF2'に対して、位置ずれの無い適切な画像処理を行うことができないおそれがある。
 これに対して、画素ごとにサンプルホールド回路320を配置した場合、図10に例示したように、同じ画素信号に対して信号処理を2回行うことができる。このため、フレームF1およびフレームF2のそれぞれにおいて物体の位置が同一となる。したがって、画像処理部402は、メタデータを用いた処理を適切な領域に対して実行することができ、フレームF2'に対して適切な画像処理を行うことができる。
 図12は、本技術の第1の実施の形態における1回目のフレームと認識結果の一例を示す図である。同図におけるaは、1回目のフレーム500の一例であり、同図におけるbは、認識結果の一例を示す図である。
 同図におけるaに例示するように、フレーム500には、人間501や建物502などの被写体が含まれる。認識処理において、認識対象が人間であるものとする。この場合、同図におけるbに例示するように、人間501が認識され、その物体を含む矩形領域510を示す情報がメタデータとして生成される。同図において太い点線の矩形領域510は、メタデータの示す領域に該当する。
 図13は、本技術の第1の実施の形態における2回目のフレームと処理後のフレームとの一例を示す図である。同図におけるaは、2回目のフレーム510の一例であり、同図におけるbは、メタデータを用いて処理されたフレーム520の一例である。
 同図におけるaに例示するように、2回目の信号処理により、1回目のフレーム500と同一のフレーム510が生成される。そして、同図におけるbに例示するように、メタデータの示す領域521が特定の色(黒色など)により塗りつぶされる。
 図14は、本技術の第1の実施の形態における固体撮像素子200の動作の一例を示すフローチャートである。この動作は、例えば、フレームを撮像するための所定のアプリケーションが実行されたときに開始される。固体撮像素子200内の垂直走査回路211は、全画素を同時に露光させる(ステップS901)。画素ごとに、その画素内のサンプルホールド回路320は、画素信号をサンプルホールドする(ステップS902)。
 信号処理部261は、保持された画素信号のそれぞれに対して信号処理(AD変換処理およびCDS処理)を行い、1枚目のフレームを生成する(ステップS903)。画像処理部402は、そのフレームに対して画像処理を行い(ステップS904)、メタデータ抽出部404は、処理後のフレームからメタデータを抽出する(ステップS905)。
 また、信号処理部261は、保持された画素信号のそれぞれに対して信号処理を行い、2枚目のフレームを生成する(ステップS906)。画像処理部402は、メタデータを参照し、対象物が認識されたか否かを判断する(ステップS907)。対象物が認識された場合に(ステップS907:Yes)、画像処理部402は、そのメタデータを用いて、塗りつぶしなどの画像処理を行う(ステップS908)。一方、対象物が認識されなかった場合(ステップS907:No)、画像処理部402は、メタデータを用いずに、欠陥画素補正などの通常の画像処理を行う(ステップS909)。ステップS908またはS909の後に固体撮像素子200は、フレームを撮像するための動作を終了する。
 なお、垂直同期信号XVSに同期して複数のフレームを撮像する場合には、ステップS901乃至S909の処理が、垂直同期信号XVSに同期して繰り返し実行される。
 このように、本技術の第1の実施の形態によれば、画素ごとに画素信号を保持し、1枚目のフレームから抽出したメタデータを用いて、1枚目と同一の2枚目のフレームを処理するため、画素信号を保持しない比較例よりも適切な画像処理を行うことができる。
 [第1の変形例]
 上述の第1の実施の形態では、画像処理部402は、フレームF2に対して、メタデータの示す領域を特定の色(黒色など)に塗りつぶす処理を行っていた。しかし、メタデータを用いて行う処理は、黒色などに塗りつぶす処理に限定されない。この第1の実施の形態の第1の変形例における固体撮像素子200は、メタデータの示す領域にモザイク処理を行う点において第1の実施の形態と異なる。
 図15は、本技術の第1の実施の形態の第1の変形例における2回目のフレームと処理後のフレームとの一例を示す図である。同図におけるaは、2回目のフレーム510の一例であり、同図におけるbは、メタデータを用いて処理されたフレーム520の一例である。
 同図におけるbに例示するように、画像処理部402は、メタデータの示す領域522に対してモザイク処理を実行する。
 このように、本技術の第1の実施の形態の第1の変形例によれば、メタデータの示す領域522に対してモザイク処理を行うため、認識した物体をモザイクにより隠すことができる。
 [第2の変形例]
 上述の第1の実施の形態では、画像処理部402は、フレームF2に対して、メタデータの示す領域を特定の色(黒色など)に塗りつぶす処理を行っていた。しかし、メタデータを用いて行う処理は、黒色などに塗りつぶす処理に限定されない。この第1の実施の形態の第2の変形例における固体撮像素子200は、メタデータの示す領域を関心領域(ROI:Region of Interest)として抽出する点において第1の実施の形態と異なる。
 図16は、本技術の第1の実施の形態の第2の変形例における2回目のフレームと関心領域との一例を示す図である。同図におけるaは、2回目のフレーム510の一例であり、同図におけるbは、関心領域530の一例である。
 同図におけるbに例示するように、画像処理部402は、フレーム510から、メタデータの示す領域を関心領域530として抽出する。メタデータとして、例えば、不審行動、危険物所持や不審物の有無の検出結果が用いられる。そして、画像処理部402は、その関心領域530に対して、欠陥画素補正などの各種の画像処理を行う。
 なお、図13、図15および図16では、人間全体を認識対象としているが、顔のみを認識対象とすることもできる。また、車両のナンバープレートなど、人間以外の物体を認識対象とすることもできる。
 このように、本技術の第1の実施の形態の第2の変形例によれば、メタデータの示す領域を関心領域(ROI)として抽出するため、不審行動などの有無の検出結果(メタデータ)に基づいてROIを設定することができる。
 <2.第2の実施の形態>
 上述の第1の実施の形態では、選択回路330は、容量素子321および322を順に後段ノード340に接続していたが、この構成では、ノイズを十分に抑制することができないおそれがある。この第2の実施の形態の画素300は、選択回路330が容量素子321および322を後段ノード340から切り離したときに後段ノード340を初期化する点において第1の実施の形態と異なる。
 図17は、本技術の第2の実施の形態における画素300の一構成例を示す回路図である。この第2の実施の形態の画素300は、後段リセットトランジスタ341をさらに備える点において第1の実施の形態と異なる。
 後段リセットトランジスタ341は、垂直走査回路211からの後段リセット信号rstbに従って、後段ノード340のレベルを所定の電位Vregに初期化するものである。電位Vregには、電源電位VDDと異なる電位(例えば、VDDより低い電位)が設定される。
 リセットレベルの読出し後に垂直走査回路211は、選択した行のFDリセット信号rstおよび後段選択信号selbをハイレベルにしたままで、ハイレベルの後段リセット信号rstbをパルス期間に亘って供給する。これにより、後段ノード340のレベルが初期化される。このとき、選択トランジスタ331および選択トランジスタ332は両方とも開状態であり、容量素子321および322は、後段ノード340から切り離される。
 後段ノード340の初期化後に、垂直走査回路211は、選択した行のFDリセット信号rstおよび後段選択信号selbをハイレベルにしたままで、ハイレベルの選択信号Φsを所定期間に亘って供給する。これにより、容量素子322が後段ノード340に接続され、信号レベルが読み出される。
 上述の読出し制御により、選択された行の選択回路330は、容量素子321を後段ノード340に接続する制御と、容量素子321および322を後段ノード340から切り離す制御と、容量素子322を後段ノード340に接続する制御とを順に行う。また、容量素子321および322が後段ノード340から切り離されたときに、選択された行の後段リセットトランジスタ341は後段ノード340のレベルを初期化する。また、選択された行の後段回路350は、後段ノード340を介してリセットレベルおよび信号レベルを容量素子321および322から順に読み出して垂直信号線309へ出力する。
 図18は、本技術の第2の実施の形態におけるグローバルシャッター動作の一例を示すタイミングチャートである。垂直走査回路211は、露光開始の直前のタイミングT0から、パルス期間経過後のタイミングT1に亘って、全ての行(言い換えれば、全画素)にハイレベルのFDリセット信号rstおよび転送信号trgを供給する。これにより、全画素がPDリセットされ、全行で同時に露光が開始される。
 ここで、同図のrst_[n]およびtrg_[n]は、N行のうちn行目の画素への信号を示す。Nは全行数を示す整数であり、nは、1乃至Nの整数である。
 そして、露光期間の終了直前のタイミングT2において、垂直走査回路211は、全画素において後段リセット信号rstbおよび選択信号Φrをハイレベルにしつつ、パルス期間に亘ってハイレベルのFDリセット信号rstを供給する。これにより、全画素がFDリセットされ、リセットレベルがサンプルホールドされる。ここで、同図のrstb_[n]およびΦr_[n]は、n行目の画素への信号を示す。
 タイミングT2の後のタイミングT3において、垂直走査回路211は、選択信号Φrをローレベルに戻す。
 露光終了のタイミングT4において、垂直走査回路211は、全画素において後段リセット信号rstbおよび選択信号Φsをハイレベルにしつつ、パルス期間に亘ってハイレベルの転送信号trgを供給する。これにより、信号レベルがサンプルホールドされる。また、前段ノード319のレベルは、リセットレベル(VDD-Vgs)から、信号レベル(VDD-Vgs-Vsig)に低下する。ここで、VDDは、電源電圧であり、Vsigは、CDS処理により得られる正味の信号レベルである。Vgsは、前段増幅トランジスタ315のゲート-ソース間電圧である。また、同図のΦs_[n]は、n行目の画素への信号を示す。
 タイミングT4の後のタイミングT5において、垂直走査回路211は、選択信号Φsをローレベルに戻す。
 また、垂直走査回路211は、全行(全画素)の電流源トランジスタ316を制御して電流id1を供給させる。ここで、同図のid1_[n]は、n行目の画素の電流を示す。電流idが大電流となるとIRドロップが大きくなるため、電流id1は数ナノアンペア(nA)乃至数十ナノアンペア(nA)のオーダーにする必要がある。一方、全列の負荷MOSトランジスタ251は、オフ状態であり、垂直信号線309に電流id2は供給されない。
 図19は、本技術の第2の実施の形態における読出し動作の一例を示すタイミングチャートである。タイミングT10からタイミングT17までの第n行の読出し期間において、垂直走査回路211は、第n行のFDリセット信号rstおよび後段選択信号selbをハイレベルにする。また、読出し期間において、全行の後段リセット信号rstbは、ローレベルに制御される。ここで、同図のselb_[n]は、n行目の画素への信号を示す。
 タイミングT10の直後のタイミングT11からタイミングT13までの期間に亘って垂直走査回路211は、第n行にハイレベルの選択信号Φrを供給する。後段ノード340の電位は、リセットレベルVrstとなる。
 タイミングT11の後のタイミングT12からタイミングT13の期間に亘って、DAC213は、ランプ信号Rmpを徐々に上昇させる。ADC262は、ランプ信号Rmpと垂直信号線309のレベルVrst'とを比較し、比較結果が反転するまでに亘って計数値を計数する。これにより、P相レベル(リセットレベル)が読み出される。
 タイミングT13の直後のタイミングT14からパルス期間に亘って、垂直走査回路211は、第n行にハイレベルの後段リセット信号rstbを供給する。これにより、後段ノード340に寄生容量が存在する際に、その寄生容量に保持される前回の信号の履歴を消去することができる。
 後段ノード340の初期化直後のタイミングT15からタイミングT17までの期間に亘って垂直走査回路211は、第n行にハイレベルの選択信号Φsを供給する。後段ノード340の電位は、信号レベルVsigとなる。露光時においては、リセットレベルより信号レベルの方が低かったが、読出しの際においては、後段ノード340を基準とするため、リセットレベルより信号レベルの方が高くなる。リセットレベルVrstと信号レベルVsigとの差分が、FDのリセットノイズやオフセットノイズを除去した正味の信号レベルに該当する。
 タイミングT15の後のタイミングT16からタイミングT17の期間に亘って、DAC213は、ランプ信号Rmpを徐々に上昇させる。ADC262は、ランプ信号Rmpと垂直信号線309のレベルVrst'とを比較し、比較結果が反転するまでに亘って計数値を計数する。これにより、D相レベル(信号レベル)が読み出される。
 また、垂直走査回路211は、タイミングT10からタイミングT17の期間に亘って読み出す対象の第n行の電流源トランジスタ316を制御して電流id1を供給させる。また、タイミング制御回路212は、全行の読出し期間内において、全列の負荷MOSトランジスタ251を制御して電流id2を供給させる。
 なお、固体撮像素子200は、リセットレベルの後に、信号レベルを読み出しているが、この順番に限定されない。図20に例示するように、固体撮像素子200は、信号レベルの後に、リセットレベルを読み出すこともできる。この場合には、同図に例示するように、垂直走査回路211は、ハイレベルの選択信号Φsの後に、ハイレベルの選択信号Φrを供給する。また、この場合、ランプ信号のスロープの傾きを逆にする必要がある。
 また、第2の実施の形態に第1の実施の形態の第1、第2の変形例のそれぞれを適用することができる。
 このように、本技術の第2の実施の形態によれば、選択回路330が容量素子321および322を後段ノード340から切り離したときに後段リセットトランジスタ341が後段ノード340を初期化する。容量素子321および322が切り離されているため、その駆動によるリセットノイズのレベルは、それらの容量より小さな寄生容量に応じたレベルとなる。このノイズの低減により、画像データの画質を向上させることができる。
 [第1の変形例]
 上述の第2の実施の形態では、前段回路310が前段ノード319に接続されたままで信号を読み出していたが、この構成では、読出しの際に前段ノード319からのノイズを遮断することができない。この第2の実施の形態の第1の変形例の画素300は、前段回路310と前段ノード319との間にトランジスタを挿入した点において第2の実施の形態と異なる。
 図21は、本技術の第2の実施の形態の第1の変形例における画素300の一構成例を示す回路図である。この第2の実施の形態の第1の変形例の画素300は、前段リセットトランジスタ323および前段選択トランジスタ324をさらに備える点において第2の実施の形態と異なる。また、第2の実施の形態の第1の変形例の前段回路310および後段回路350の電源電圧をVDD1とする。
 前段リセットトランジスタ323は、前段ノード319のレベルを電源電圧VDD2により初期化するものである。この電源電圧VDD2は、次の式を満たす値に設定することが望ましい。
  VDD2=VDD1-Vgs             ・・・式1
上式において、Vgsは、前段増幅トランジスタ315のゲート-ソース間電圧である。
 式1を満たす値に設定することにより、暗いときの前段ノード319と後段ノード340との間の電位変動を少なくすることができる。これにより、感度不均一性 (PRNU: Photo Response Non-Uniformity)を改善することができる。
 前段選択トランジスタ324は、垂直走査回路211からの前段選択信号selに従って、前段回路310と前段ノード319との間の経路を開閉するものである。
 図22は、本技術の第2の実施の形態の第1の変形例におけるグローバルシャッター動作の一例を示すタイミングチャートである。第2の実施の形態の第1の変形例のタイミングチャートは、垂直走査回路211が前段リセット信号rstaおよび前段選択信号selをさらに供給する点において第1の実施の形態と異なる。同図において、rsta_[n]およびsel_[n]は、第n行の画素への信号を示す。
 垂直走査回路211は、露光終了の直前のタイミングT2からタイミングT5に亘って全画素へハイレベルの前段選択信号selを供給する。前段リセット信号rstaは、ローレベルに制御される。
 図23は、本技術の第2の実施の形態の第1の変形例における読出し動作の一例を示すタイミングチャートである。各行の読出しの際に前段選択信号selはローレベルに制御される。この制御により、前段選択トランジスタ324が開状態に移行して、前段ノード319が前段回路310から切り離される。これにより、読出しの際に前段ノード319からのノイズを遮断することができる。
 また、タイミングT10からタイミングT17までの第n行の読出し期間において、垂直走査回路211は、第n行にハイレベルの前段リセット信号rstaを供給する。
 また、読出しの際に、垂直走査回路211は、全画素の電流源トランジスタ316を制御して電流id1の供給を停止させる。電流id2は、第2の実施の形態と同様に供給される。このように、第2の実施の形態と比較して、電流id1の制御がシンプルとなる。
 このように、本技術の第2の実施の形態の第1の変形例によれば、読出しの際に前段選択トランジスタ324が開状態に移行し、前段回路310を前段ノード319から切り離すため、前段回路310からのノイズを遮断することができる。
 [第2の変形例]
 上述の第2の実施の形態では、固体撮像素子200内の回路を単一の半導体チップに設けていたが、この構成では、画素300を微細化した際に半導体チップ内に素子が収まらなくなるおそれがある。この第2の実施の形態の第2の変形例の固体撮像素子200は、固体撮像素子200内の回路を2つの半導体チップに分散して配置した点において第2の実施の形態と異なる。
 図24は、本技術の第2の実施の形態の第2の変形例における固体撮像素子200の積層構造の一例を示す図である。第2の実施の形態の第2の変形例の固体撮像素子200は、下側画素チップ202と、その下側画素チップ202に積層された上側画素チップ201とを備える。これらのチップは、例えば、Cu-Cu接合により電気的に接続される。なお、Cu-Cu接合の他、ビアやバンプにより接続することもできる。
 上側画素チップ201には、上側画素アレイ部221が配置される。下側画素チップ202には、下側画素アレイ部222とカラム信号処理回路260とが配置される。画素アレイ部220内の画素ごとに、その一部が、上側画素アレイ部221に配置され、残りが下側画素アレイ部222に配置される。
 また、下側画素チップ202には、垂直走査回路211、タイミング制御回路212、DAC213および負荷MOS回路ブロック250も配置される。これらの回路は、同図において省略されている。
 また、上側画素チップ201は、例えば、画素専用のプロセスで製造され、下側画素チップ202は、例えば、CMOS(Complementary MOS)プロセスで製造される。
 図25は、本技術の第2の実施の形態の第2の変形例における画素300の一構成例を示す回路図である。画素300のうち、前段回路310は、上側画素チップ201に配置され、それ以外の回路や素子(容量素子321および322など)は、下側画素チップ202に配置される。なお、電流源トランジスタ316をさらに下側画素チップ202に配置することもできる。同図に例示するように、画素300内の素子を、積層した上側画素チップ201および下側画素チップ202に分散して配置することにより、画素の面積を小さくすることができ、画素の微細化が容易になる。
 このように、本技術の第2の実施の形態の第2の変形例によれば、画素300内の回路や素子を2つの半導体チップに分散して配置するため、画素の微細化が容易になる。
 [第3の変形例]
 上述の第2の実施の形態の第2の変形例では、画素300の一部と周辺回路(カラム信号処理回路260など)とを下側の下側画素チップ202に設けていた。しかし、この構成では、周辺回路の分、下側画素チップ202側の回路や素子の配置面積が上側画素チップ201より大きくなり、上側画素チップ201に、回路や素子の無い無駄なスペースが生じるおそれがある。この第2の実施の形態の第3の変形例の固体撮像素子200は、固体撮像素子200内の回路を3つの半導体チップに分散して配置した点において第2の実施の形態の第2の変形例と異なる。
 図26は、本技術の第2の実施の形態の第3の変形例における固体撮像素子200の積層構造の一例を示す図である。第2の実施の形態の第3の変形例の固体撮像素子200は、上側画素チップ201、下側画素チップ202および回路チップ203を備える。これらのチップは積層され、例えば、Cu-Cu接合により電気的に接続される。なお、Cu-Cu接合の他、ビアやバンプにより接続することもできる。
 上側画素チップ201には、上側画素アレイ部221が配置される。下側画素チップ202には、下側画素アレイ部222が配置される。画素アレイ部220内の画素ごとに、その一部が、上側画素アレイ部221に配置され、残りが下側画素アレイ部222に配置される。
 また、回路チップ203には、カラム信号処理回路260、垂直走査回路211、タイミング制御回路212、DAC213および負荷MOS回路ブロック250が配置される。カラム信号処理回路260以外の回路は、同図において省略されている。
 同図に例示したように3層構成にすることにより、2層構成と比較して無駄なスペースを削減し、さらに画素を微細化することができる。また、2層目の下側画素チップ202を、容量やスイッチのための専用のプロセスで製造することができる。
 このように、本技術の第2の実施の形態の第3の変形例では、固体撮像素子200内の回路を3つの半導体チップに分散して配置するため、2つの半導体チップに分散して配置する場合と比較してさらに画素を微細化することができる。
 <3.第3の実施の形態>
 上述の第2の実施の形態では、露光期間内にリセットレベルをサンプルホールドしていたが、この構成では、リセットレベルのサンプルホールド期間よりも露光期間を短くすることができない。この第3の実施の形態の固体撮像素子200は、光電変換素子から電荷を排出するトランジスタを追加することにより、露光期間をより短くした点において第2の実施の形態と異なる。
 図27は、本技術の第3の実施の形態における画素300の一構成例を示す回路図である。この第3の実施の形態の画素300は、前段回路310内に排出トランジスタ317をさらに備える点において第2の実施の形態と異なる。
 排出トランジスタ317は、垂直走査回路211からの排出信号оfgに従って光電変換素子311から電荷を排出するオーバーフロードレインとして機能するものである。排出トランジスタ317として、例えば、nMOSトランジスタが用いられる。
 第2の実施の形態のように、排出トランジスタ317を設けない構成では、全画素について光電変換素子311からFD314へ電荷を転送した際に、ブルーミングが生じることがある。そして、FDリセットの際にFD314と前段ノード319の電位が降下する。この電位降下に追従して、容量素子321および322の充放電の電流が発生し続け、電源やグランドのIRドロップが、ブルーミングの無い定常状態から変化してしまう。
 その一方で、全画素の信号レベルのサンプルホールドの際には、信号電荷の転送後、光電変換素子311内の電荷が空の状態になるため、ブルーミングが発生しなくなり、電源やグランドのIRドロップが、ブルーミングの無い定常状態となる。これらのリセットレベル、信号レベルをサンプルホールドの際のIRドロップの違いに起因して、ストリーキングノイズが生じる。
 これに対して、排出トランジスタ317を設けた第3の実施の形態では、光電変換素子311の電荷がオーバーフロードレイン側に排出される。このため、リセットレベル、信号レベルをサンプルホールドの際のIRドロップが同程度となり、ストリーキングノイズを抑制することができる。
 図28は、本技術の第3の実施の形態におけるグローバルシャッター動作の一例を示すタイミングチャートである。露光開始のタイミング前のタイミングT0において、垂直走査回路211は、全画素の排出信号оfgをハイレベルにしつつ、全画素にハイレベルのFDリセット信号rstをパルス期間に亘って供給する。これにより、全画素についてPDリセットおよびFDリセットが行われる。また、リセットレベルがサンプルホールドされる。ここで、同図のоfg_[n]は、N行のうちn行目の画素への信号を示す。
 そして、露光開始のタイミングT1において、垂直走査回路211は、全画素の排出信号оfgをローレベルに戻す。そして、露光終了の直前のタイミングT2から露光終了のT3までの期間に亘って、垂直走査回路211は、全画素にハイレベルの転送信号trgを供給する。これにより、信号レベルがサンプルホールドされる。
 第2の実施の形態のように、排出トランジスタ317を設けない構成では、露光開始時(すなわち、PDリセット時)に転送トランジスタ312およびFDリセットトランジスタ313の両方をオン状態にしなければならない。この制御では、PDリセットの際に、同時にFD314もリセットしなければならない。このため、露光期間内に再度FDリセットを行い、リセットレベルをサンプルホールドする必要があり、リセットレベルのサンプルホールド期間よりも露光期間を短くすることができない。全画素のリセットレベルをサンプルホールドする際には、電圧や電流が静定するまでにある程度の待ち時間が必要になり、例えば、数マイクロ秒(μs)から数十マイクロ秒(μs)のサンプルホールド期間が必要となる。
 これに対して、排出トランジスタ317を設ける第3の実施の形態では、PDリセットとFDリセットとを個別に行うことができる。このため、同図に例示するように、PDリセットの解除(露光開始)前にFDリセットを行って、リセットレベルをサンプルホールドすることができる。これにより、リセットレベルのサンプルホールド期間よりも露光期間を短くすることができる。
 なお、第3の実施の形態に、第2の実施の形態の第1乃至第3の変形例を適応することもできる。
 このように、本技術の第3の実施の形態によれば、光電変換素子311から電荷を排出する排出トランジスタ317を設けたため、露光開始前にFDリセットを行ってリセットレベルをサンプルホールドすることができる。これにより、リセットレベルのサンプルホールド期間よりも露光期間を短くすることができる。
 <4.第4の実施の形態>
 上述の第2の実施の形態では、電源電圧VDDによりFD314を初期化していたが、この構成では容量素子321および322のばらつきや、寄生容量により、感度不均一性(PRNU)が悪化するおそれがある。この第4の実施の形態の固体撮像素子200は、FDリセットトランジスタ313の電源を読出しの際に低下させることにより、PRNUを改善する点において第2の実施の形態と異なる。
 図29は、本技術の第4の実施の形態における画素300の一構成例を示す回路図である。この第4の実施の形態の画素300は、FDリセットトランジスタ313の電源が、画素300の電源電圧VDDと分離されている点において第2の実施の形態と異なる。
 第4の実施の形態のFDリセットトランジスタ313のドレインは、リセット電源電圧VRSTに接続される。このリセット電源電圧VRSTは、例えば、タイミング制御回路212により制御される。
 ここで、図30および図31を参照して、第2の実施の形態の画素300におけるPRNUの悪化について考える。第2の実施の形態では、図30に例示するように露光開始時直前のタイミングT0において、FD314の電位は、FDリセットトランジスタ313のリセットフィードスルーにより低下する。この変動量をVftとする。
 第2の実施の形態では、FDリセットトランジスタ313の電源電圧はVDDであるため、タイミングT0において、FD314の電位は、VDDから、VDD-Vftに変動する。また、露光時の前段ノード319の電位は、VDD-Vft-Vsigとなる。
 また、第2の実施の形態では、図31に例示するように読出しの際にFDリセットトランジスタ313がオン状態に移行し、FD314が、電源電圧VDDに固定される。そのFD314の変動量Vftにより、読出しの際の前段ノード319および後段ノード340の電位を、Vft程度高くシフトする。ただし、容量素子321および322の容量値のばらつきや、寄生容量により、シフトする電圧量が画素ごとにばらつき、PRNU悪化の元になる。
 前段ノード319がVftだけ遷移した場合の後段ノード340の遷移量は、例えば、次の式により表される。
  {(Cs+δCs)/(Cs+δCs+Cp)}*Vft ・・・式2
上式において、Csは、信号レベル側の容量素子322の容量値であり、δCsは、Csのばらつきである。Cpは、後段ノード340の寄生容量の容量値である。
 式2は、次の式に近似することができる。
  {1-(δCs/Cs)*(Cp/Cs)}*Vft  ・・・式3
 式3より、後段ノード340のばらつきは、次の式により表すことができる。
  {(δCs/Cs)*(Cp/Cs)}*Vft     ・・・式4
 (δCs/Cs)を10-2とし、(Cp/Cs)を10-1とし、Vftを400ミリボルト(mV)とすると、式4よりPRNUは、400μVrmsとなり、比較的大きな値となる。
 特に、入力換算の容量のサンプリングホールド時のkTCノイズを小さくする際には、FD314の電荷電圧変換効率を大きくする必要がある。電荷電圧変換効率を大きくするにはFD314の容量を小さくしなければならないが、FD314の容量が小さいほど変動量Vftが大きくなり、数百ミリボルト(mV)になりうる。この場合、式6よりPRNUの影響が無視できないレベルになりうる。
 図32は、本技術の第4の実施の形態における電圧制御の一例を示すタイミングチャートである。
 タイミング制御回路212は、タイミングT9以降の行単位の読出し期間において、リセット電源電圧VRSTを露光期間と異なる値に制御する。
 例えば、露光期間において、タイミング制御回路212は、リセット電源電圧VRSTを電源電圧VDDと同じ値にする。一方、読出し期間においてタイミング制御回路212は、リセット電源電圧VRSTを、VDD-Vftに低下させる。すなわち、読出し期間において、タイミング制御回路212は、リセットフィードスルーによる変動量Vftに略一致する分だけ、リセット電源電圧VRSTを低下させる。この制御により、露光時と、読出しの際とにおいて、FD314のリセットレベルを揃えることができる。
 リセット電源電圧VRSTの制御により、同図に例示するように、FD314と、前段ノード319との電圧変動量を低減することができる。これにより、容量素子321および322のばらつきや、寄生容量に起因するPRNUの悪化を抑制することができる。
 なお、第4の実施の形態に、第2の実施の形態の第1乃至第3の変形例や、第3の実施の形態を適用することもできる。
 このように、本技術の第4の実施の形態によれば、読出しの際にタイミング制御回路212が、リセットフィードスルーによる変動量Vftだけリセット電源電圧VRSTを低下させるため、露光と読出しとでリセットレベルを揃えることができる。これにより、感度不均一性(PRNU)の悪化を抑制することができる。
 <5.第5の実施の形態>
 上述の第2の実施の形態では、フレーム毎にリセットレベルの次に信号レベルを読み出していたが、この構成では容量素子321および322のばらつきや、寄生容量により、感度不均一性(PRNU)が悪化するおそれがある。この第5の実施の形態の固体撮像素子200は、フレームごとに、容量素子321に保持するレベルと容量素子322に保持するレベルとを入れ替えることにより、PRNUを改善する点において第2の実施の形態と異なる。
 第5の実施の形態の固体撮像素子200は、複数のフレームを垂直同期信号に同期して連続して撮像する。奇数番目のフレームを「奇数フレーム」と称し、偶数番目のフレームを「偶数フレーム」と称する。
 図33は、第5の実施の形態における奇数フレームのグローバルシャッター動作の一例を示すタイミングチャートである。奇数フレームの露光期間内に固体撮像素子200内の前段回路310は、選択信号Φrの次に選択信号Φsをハイレベルにすることにより、リセットレベルを容量素子321に保持させ、次に信号レベルを容量素子322に保持させる。
 図34は、本技術の第5の実施の形態における奇数フレームの読出し動作の一例を示すタイミングチャートである。奇数フレームの読出し期間内に固体撮像素子200内の後段回路350は、選択信号Φrの次に選択信号Φsをハイレベルにしてリセットレベルの次に信号レベルを読み出す。
 図35は、第5の実施の形態における偶数フレームのグローバルシャッター動作の一例を示すタイミングチャートである。偶数フレームの露光期間内に固体撮像素子200内の前段回路310は、選択信号Φsの次に選択信号Φrをハイレベルにすることにより、リセットレベルを容量素子322に保持させ、次に信号レベルを容量素子321に保持させる。
 図36は、本技術の第5の実施の形態における偶数フレームの読出し動作の一例を示すタイミングチャートである。偶数フレームの読出し期間内に固体撮像素子200内の後段回路350は、選択信号Φsの次に選択信号Φrをハイレベルにしてリセットレベルの次に信号レベルを読み出す。
 図33および図35に例示したように、偶数フレームと奇数フレームとで、容量素子321および322のそれぞれに保持されるレベルが逆になる。これにより、偶数フレームと奇数フレームとで、PRNUの極性も逆になる。後段のカラム信号処理回路260は、奇数フレームと偶数フレームとの加算平均を求める。これにより、極性が逆のPRNU同士を相殺することができる。
 この制御は、動画の撮像や、フレーム同士の加算において有効な制御である。また、画素300に素子を追加する必要はなく、駆動方式の変更のみにより実現することができる。
 なお、第5の実施の形態に、第2の実施の形態の第1乃至第3の変形例や、第3、第4の実施の形態を適用することもできる。
 このように、本技術の第5の実施の形態では、奇数フレームと偶数フレームとで容量素子321に保持されるレベルと容量素子322に保持されるレベルとが逆になるため、奇数フレームと偶数フレームとでPRNUの極性を逆にすることができる。これらの奇数フレームおよび偶数フレームをカラム信号処理回路260が加算することにより、PRNUの悪化を抑制することができる。
 <6.第6の実施の形態>
 上述の第2の実施の形態では、カラム信号処理回路260は、カラム毎にリセットレベルと信号レベルとの差分を求めていた。しかし、この構成では、非常に高照度の光が画素に入射した際に、光電変換素子311から電荷が溢れることにより輝度が低下し、黒く沈んでしまう黒点現象が生じるおそれがある。この第6の実施の形態の固体撮像素子200は、黒点現象が生じたか否かを画素ごとに判定する点において第2の実施の形態と異なる。
 図37は、本技術の第6の実施の形態におけるカラム信号処理回路260の一構成例を示す回路図である。この第6の実施の形態のカラム信号処理回路260には、複数のADC270とロジック回路400とが配置される。また、ロジック回路400には、複数のCDS処理部291と複数のセレクタ292とが配置される。ADC270、CDS処理部291およびセレクタ292は、列ごとに設けられる。なお、ロジック回路400内の他の回路(メタデータ抽出部404など)は、同図において省略されている。
 また、ADC270は、コンパレータ280およびカウンタ271を備える。コンパレータ280は、垂直信号線309のレベルと、DAC213からのランプ信号Rmpとを比較し、比較結果VCOを出力するものである。比較結果VCOは、カウンタ271とタイミング制御回路212とに供給される。コンパレータ280は、セレクタ281と、容量素子282および283と、オートゼロスイッチ284および286と、比較器285とを備える。
 セレクタ281は、入力側選択信号selinに従って、対応する列の垂直信号線309と、所定の参照電圧VREFのノードとのいずれかを比較器285の非反転入力端子(+)に、容量素子282を介して接続するものである。入力側選択信号selinは、タイミング制御回路212から供給される。なお、セレクタ281は、特許請求の範囲に記載の入力側セレクタの一例である。
 比較器285は、非反転入力端子(+)と反転入力端子(-)とのそれぞれのレベルを比較して、比較結果VCOをカウンタ271へ出力するものである。反転入力端子(-)には、容量素子283を介してランプ信号Rmpが入力される。
 オートゼロスイッチ284は、タイミング制御回路212からのオートゼロ信号Azに従って、比較結果VCOの非反転入力端子(+)と出力端子とを短絡するものである。オートゼロスイッチ286は、オートゼロ信号Azに従って、比較結果VCOの反転入力端子(-)と出力端子とを短絡するものである。
 カウンタ271は、比較結果VCOが反転するまでに亘って計数値を計数し、その計数値を示すデジタル信号CNT_outをCDS処理部291へ出力するものである。
 CDS処理部291は、デジタル信号CNT_outに対してCDS処理を行うものである。このCDS処理部291は、リセットレベルに対応するデジタル信号CNT_outと、信号レベルに対応するデジタル信号CNT_outとの差分を演算し、CDS_outとしてセレクタ292に出力する。
 セレクタ292は、タイミング制御回路212からの出力側選択信号selоutに従って、CDS処理後のデジタル信号CDS_outと、フルコードのデジタル信号FULLとのいずれかを対応する列の画素データとして出力するものである。なお、セレクタ292は、特許請求の範囲に記載の出力側セレクタの一例である。
 図38は、本技術の第6の実施の形態におけるグローバルシャッター動作の一例を示すタイミングチャートである。第6の実施の形態のグローバルシャッター時のトランジスタの制御方法は、第2の実施の形態と同様である。
 ここで、画素300に非常に高照度の光が入射したものとする。この場合、光電変換素子311の電荷が満杯になり、光電変換素子311からFD314へと電荷があふれ出し、FDリセット後のFD314の電位が低下する。同図における一点鎖線は、溢れた電荷量が比較的少なくなる程度の弱い太陽光が入射した際のFD314の電位変動を示す。同図における点線は、溢れた電荷量が比較的多くなるような強い太陽光が入射した際のFD314の電位変動を示す。
 弱い太陽光が入射した際は、FDリセットの完了したタイミングT3においてリセットレベルが低下しているが、この時点ではレベルが下がりきってない。
 一方、強い太陽光が入射した際は、タイミングT3の時点でリセットレベルが下がりきってしまう。この場合、信号レベルがリセットレベルと同じになり、それらの電位差が「0」であるため、CDS処理後のデジタル信号が、暗状態の場合と同じになって黒く沈んでしまう。このように、太陽光などの非常に高照度の光が入射したにも関わらず、その画素が黒くなる現象は、黒点現象あるいはブルーミングと呼ばれる。
 また、黒点現象の生じた画素のFD314のレベルが下がりすぎると、前段回路310の動作点が確保できなくなって、電流源トランジスタ316の電流id1が変動する。各画素の電流源トランジスタ316は、共通の電源やグランドに接続されているため、ある画素で電流が変動した際に、その画素のIRドロップの変動が、他の画素のサンプルレベルに影響を及ぼしてしまう。黒点現象の生じた画素がアグレッサーとなり、その画素によりサンプルレベルが変動した画素がビクティムとなる。この結果、ストリーキングノイズが生じる。
 なお、第3の実施の形態のように排出トランジスタ317を設けた場合、黒点(ブルーミング)のある画素では、溢れた電荷が排出トランジスタ317側に捨てられるため、黒点現象が生じにくい。ただし、排出トランジスタ317を設けても、一部の電荷がFD314に流れる可能性があり、黒点現象の根治にはならない可能性がある。さらに、排出トランジスタ317の追加により、画素毎の有効面積/電荷量の比率が低下してしまうというデメリットもある。このため、排出トランジスタ317を用いずに、黒点現象を抑制することが望ましい。
 排出トランジスタ317を用いずに黒点現象を抑制する方法として2つの方法が考えられる。1つ目は、FD314のクリップレベルの調整である。2つ目は、読出しの際に黒点現象が生じたか否かを判断して、黒点現象の生じた際に、出力をフルコードに置き換える方法である。
 1つ目の方法に関して、同図のFDリセット信号rst(言い換えれば、FDリセットトランジスタ313のゲート)のハイレベルは電源電圧VDDであり、ローレベルが、FD314のクリップレベルに該当する。第1の実施の形態では、これらのハイレベルとローレベルとの差(すなわち、振幅)は、ダイナミックレンジに対応する値に設定される。これに対して、第6の実施の形態では、その値にさらにマージンを加えた値に調整される。ここで、ダイナミックレンジに対応する値は、電源電圧VDDと、デジタル信号がフルコードになるときのFD314の電位との差分に該当する。
 FDリセットトランジスタ313のオフ時のゲート電圧(FDリセット信号rstのローレベル)を下げることにより、ブルーミングによりFD314が低下しすぎて、前段増幅トランジスタ315の動作点をつぶすことを防止することができる。
 なお、ダイナミックレンジは、ADCのアナログゲインによって変わる。アナログゲインが低いときは、大きなダイナミックレンジが必要となり、逆にアナログゲインが高い時は、ダイナミックレンジは少なくて済む。このため、FDリセットトランジスタ313のオフ時のゲート電圧を、アナログゲインに応じて変更することもできる。
 図39は、本技術の第6の実施の形態における読出し動作の一例を示すタイミングチャートである。読出しの開始のタイミングT10の直後のタイミングT11において選択信号Φrがハイレベルになると、太陽光が入射した画素では、垂直信号線309の電位が変動する。同図における一点鎖線は、弱い太陽光が入射した際の垂直信号線309の電位変動を示す。同図における点線は、強い太陽光が入射した際の垂直信号線309の電位変動を示す。
 タイミングT10からタイミングT12までのオートゼロ期間において、タイミング制御回路212は、例えば、「0」の入力側選択信号selinを供給し、比較器285を垂直信号線309に接続させる。このオートゼロ期間内にタイミング制御回路212は、オートゼロ信号Azによりオートゼロを行う。
 2つ目の方法に関して、タイミングT12からタイミングT13までの判定期間内にタイミング制御回路212は、例えば、「1」の入力側選択信号selinを供給する。この入力側選択信号selinにより、比較器285が垂直信号線309から切り離され、参照電圧VREFのノードと接続される。この参照電圧VREFは、ブルーミングが生じなかったときの、垂直信号線309のレベルの期待値に設定される。Vrstは、例えば、後段増幅トランジスタ351のゲート-ソース間電圧をVgs2とすると、Vreg-Vgs2に該当する。また、DAC213は、判定期間内にランプ信号RmpのレベルをVrmp_azからVrmp_sunに低下させる。
 また、判定期間内において、ブルーミングが発生しなかった場合、垂直信号線309のリセットレベルのVrstは、参照電圧VREFとほぼ同じであり、比較器285の反転入力端子(+)の電位がオートゼロのときとあまり変わらない。一方、非反転入力端子(-)は、Vrmp_azからVrmp_sunに下がったため、比較結果VCOはハイレベルとなる。
 逆に、ブルーミングが発生した場合、リセットレベルVrstは、参照電圧VREFよりも十分に高くなり、次の式が成立した際に、比較結果VCOがローレベルになる。
  Vrst-VREF>Vrmp_az-Vrmp_sun・・・式5
 つまり、タイミング制御回路212は、判定期間内に比較結果VCOがローレベルとなるか否かにより、ブルーミングが発生したか否かを判断することができる。
 なお、後段増幅トランジスタ351の閾値電圧のバラツキや、面内のVregのIRドロップ差等による誤判定が発生しないように、太陽判定のためのマージン(式5の右辺)をある程度大きく確保する必要がある。
 判定期間経過後のタイミングT13以降において、タイミング制御回路212は、比較器285を垂直信号線309に接続させる。また、タイミングT13乃至T14のP相セトリング期間が経過すると、タイミングT14乃至T15の期間内にP相が読み出される。タイミングT15乃至T19のD相セトリング期間が経過すると、タイミングT19乃至T20の期間内にD相が読み出される。
 判定期間においてブルーミングが発生していないと判断した場合、タイミング制御回路212は、出力側選択信号selоutによりセレクタ292を制御してCDS処理後のデジタル信号CDS_outをそのまま出力させる。
 一方、判定期間においてブルーミングが発生したと判断した場合、タイミング制御回路212は、出力側選択信号selоutによりセレクタ292を制御してCDS処理後のデジタル信号CDS_outの代わりにフルコードFULLを出力させる。これにより、黒点現象を抑制することができる。
 なお、第6の実施の形態に、第2の実施の形態の第1乃至第3の変形例や、第3乃至第5の実施の形態を適用することもできる。
 このように、本技術の第6の実施の形態によれば、タイミング制御回路212は、比較結果VCOに基づいて黒点現象が生じたか否かを判断し、黒点現象が生じた際にフルコードを出力させるため、黒点現象を抑制することができる。
 <7.第7の実施の形態>
 上述の第2の実施の形態では、垂直走査回路211は、全行(全画素)を同時に露光させる制御(すなわち、グローバルシャッター動作)を行っていた。しかし、テストのときや、解析を行うときなど、露光の同時性が不要で低ノイズが要求される場合には、ローリングシャッター動作を行うことが望ましい。この第7の実施の形態の固体撮像素子200は、テスト時などにおいて、ローリングシャッター動作を行う点において第2の実施の形態と異なる。
 図40は、本技術の第7の実施の形態におけるローリングシャッター動作の一例を示すタイミングチャートである。垂直走査回路211は、複数の行を順に選択して露光を開始させる制御を行う。同図は、第n行の露光制御を示す。
 タイミングT0乃至T2の期間において、垂直走査回路211は、第n行にハイレベルの後段選択信号selb、選択信号Φrおよび選択信号Φsを供給する。また、露光開始のタイミングT0において、垂直走査回路211は、第n行にハイレベルのFDリセット信号rstおよび後段リセット信号rstbをパルス期間に亘って供給する。露光終了のタイミングT1において垂直走査回路211は、第n行に転送信号trgを供給する。同図のローリングシャッター動作により、固体撮像素子200は、低ノイズの画像データを生成することができる。なお、同図のローリングシャッター動作において、第1の実施の形態で説明した2回のAD変換やメタデータの抽出は実行されないものとする。
 なお、通常の撮像時において第7の実施の形態の固体撮像素子200は、第2の実施の形態と同様にグローバルシャッター動作を行う。
 また、第7の実施の形態に、第2の実施の形態の第1乃至第3の変形例や、第3乃至第6の実施の形態を適用することもできる。
 このように本技術の第7の実施の形態によれば、垂直走査回路211は、複数の行を順に選択して露光を開始させる制御(すなわち、ローリングシャッター動作)を行うため、低ノイズの画像データを生成することができる。
 <8.第8の実施の形態>
 上述の第2の実施の形態では、前段のソースフォロワ(前段増幅トランジスタ315および電流源トランジスタ316)のソースを電源電圧VDDに接続し、そのソースフォロワがオンの状態で行単位で読出しを行っていた。しかし、この駆動方法では、行単位の読出しの際の前段のソースフォロワの回路ノイズが後段に伝搬し、ランダムノイズが増大するおそれがある。この第8の実施の形態の固体撮像素子200は、読出しの際に前段のソースフォロワをオフ状態にすることにより、ノイズを低減する点において第1の実施の形態と異なる。
 図41は、本技術の第8の実施の形態における固体撮像素子200の一構成例を示すブロック図である。この第8の実施の形態の固体撮像素子200は、レギュレータ420および切り替え部440をさらに備える点において第2の実施の形態と異なる。また、第8の実施の形態の画素アレイ部220には、複数の有効画素301と、所定数のダミー画素430とが配列される。ダミー画素430は、有効画素301が配列された領域の周囲に配列される。
 また、ダミー画素430のそれぞれには、電源電圧VDDが供給され、有効画素301のそれぞれには、電源電圧VDDと、ソース電圧Vsとが供給される。有効画素301へ電源電圧VDDを供給する信号線は、同図において省略されている。また、電源電圧VDDは、固体撮像素子200の外部のパッド415から供給される。
 レギュレータ420は、ダミー画素430からの入力電位Viに基づいて、一定の生成電圧Vgenを生成し、切り替え部440に供給するものである。切り替え部440は、パッド415からの電源電圧VDDと、レギュレータ420からの生成電圧Vgenとのいずれかを選択し、ソース電圧Vsとして有効画素301のカラムのそれぞれに供給するものである。
 図42は、本技術の第8の実施の形態におけるダミー画素430、レギュレータ420、および、切り替え部440の一構成例を示す回路図である。同図におけるaは、ダミー画素430およびレギュレータ420の回路図であり、同図におけるbは、切り替え部440の回路図である。
 同図におけるaに例示するように、ダミー画素430は、リセットトランジスタ431、FD432、増幅トランジスタ433および電流源トランジスタ434を備える。リセットトランジスタ431は、垂直走査回路211からのリセット信号RSTに従って、FD432を初期化するものである。FD432は、電荷を蓄積し、電荷量に応じた電圧を生成するものである。増幅トランジスタ433は、FD432の電圧のレベルを増幅し、入力電圧Viとしてレギュレータ420に供給するものである。
 また、リセットトランジスタ431および増幅トランジスタ433のソースは、電源電圧VDDに接続される。電流源トランジスタ434は、増幅トランジスタ433のドレインに接続される。この電流源トランジスタ434は、垂直走査回路211の制御に従って、電流id1を供給する。
 レギュレータ420は、ローパスフィルタ421、バッファアンプ422および容量素子423を備える。ローパスフィルタ421は、入力電圧Viの信号のうち、所定周波数未満の低周波数帯域の成分を出力電圧Vjとして通過させるものである。
 バッファアンプ422の非反転入力端子(+)には、出力電圧Vjが入力される。バッファアンプ422の反転入力端子(-)は、その出力端子と接続される。容量素子423は、バッファアンプ422の出力端子の電圧をVgenとして保持するものである。このVgenは、切り替え部440に供給される。
 同図におけるbに例示するように、切り替え部440は、インバータ441と、複数の切り替え回路442とを備える。切り替え回路442は、有効画素301の列ごとに配置される。
 インバータ441は、タイミング制御回路212からの切替信号SWを反転させるものである。このインバータ441は、反転信号を切り替え回路442のそれぞれに供給する。
 切り替え回路442は、電源電圧VDDと、生成電圧Vgenとのいずれかを選択し、ソース電圧Vsとして、画素アレイ部220内の対応する列に供給するものである。切り替え回路442は、スイッチ443および444を備える。スイッチ443は、切替信号SWに従って、電源電圧VDDのノードと、対応する列との間の経路を開閉するものである。スイッチ444は、切替信号SWの反転信号に従って、生成電圧Vgenのノードと、対応する列との間の経路を開閉するものである。
 図43は、本技術の第8の実施の形態におけるダミー画素430およびレギュレータ420の動作の一例を示すタイミングチャートである。ある行の読出しの直前のタイミングT10において、垂直走査回路211は、ダミー画素430のそれぞれに、ハイレベル(ここでは、電源電圧VDD)のリセット信号RSTを供給する。ダミー画素430内のFD432の電位Vfdは、電源電圧VDDに初期化される。そして、リセット信号RSTがローレベルとなった際に、リセットフィードスルーにより、VDD-Vftに変動する。
 また、入力電圧Viは、リセット後にVDD-Vgs-Vsigに低下する。ローパスフィルタ421の通過により、Vj、Vgenは、略一定の電圧となる。
 次の行の読出しの直前のタイミングT20以降は、行ごとに、同様の制御が行われ、一定の生成電圧Vgenが供給される。
 図44は、本技術の第8の実施の形態における有効画素301の一構成例を示す回路図である。有効画素301の回路構成は、前段増幅トランジスタ315のソースに、切り替え部440からのソース電圧Vsが供給される点以外は、第2の実施の形態の画素300と同様である。
 図45は、本技術の第8の実施の形態におけるグローバルシャッター動作の一例を示すタイミングチャートである。第8の実施の形態において、全画素で同時に露光する際に、切り替え部440は、電源電圧VDDを選択し、ソース電圧Vsとして供給する。また、前段ノードの電圧は、タイミングT4において、VDD-Vgs-VthからVDD-Vgs-Vsigに低下する。ここで、Vthは、転送トンラジスタ312の閾値電圧である。
 図46は、本技術の第8の実施の形態における読出し動作の一例を示すタイミングチャートである。この第8の実施の形態では、読出しの際に切り替え部440は、生成電圧Vgenを選択し、ソース電圧Vsとして供給する。この生成電圧Vgenは、VDD-Vgs-Vftに調整される。また、第8の実施の形態では、垂直走査回路211が、全行(全画素)の電流源トランジスタ316を制御して電流id1の供給を停止させる。
 図47は、本技術の第8の実施の形態における効果を説明するための図である。第1の実施の形態では、行ごとの読出しにおいて、読出し対象の画素300のソースフォロワ(前段増幅トランジスタ315および電流源トランジスタ316)をオンにしていた。しかし、この駆動方法では、前段のソースフォロワの回路ノイズが、後段(容量素子、後段のソースフォロワやADC)に伝搬し、読出しノイズが増大するおそれがある。
 例えば、第2の実施の形態では、同図に例示するようにグローバルシャッター動作時の画素で生じるkTCノイズは、450(μVrms)である。また、行ごとの読出しにおける、前段のソースフォロワ(前段増幅トランジスタ315および電流源トランジスタ316)で生じるノイズは、380(μVrms)となる。後段のソースフォロワ以降で生じるノイズは、160(μVrms)である。このため、合計のノイズは、610(μVrms)である。このように、第2の実施の形態では、ノイズの合計値における、前段のソースフォロワのノイズの寄与分は、比較的大きくなる。
 この前段のソースフォロワのノイズを低減するために、第8の実施の形態では、前述したように前段のソースフォロワのソースに、電圧調整の可能な電圧(Vs)を供給している。グローバルシャッター(露光)動作時に、切り替え部440は、電源電圧VDDを選択してソース電圧Vsとして供給する。そして、露光の終了後に切り替え部440は、ソース電圧VsをVDD-Vgs-Vftに切り替える。また、タイミング制御回路212は、グローバルシャッター(露光)動作時に、前段の電流源トランジスタ316をオンにし、露光の終了後にオフにする。
 上述の制御により、図45および図46に例示したように、グローバルシャッター動作時と、行ごとの読出し時とのそれぞれの前段ノードの電位が揃い、PRNUを改善することができる。また、行ごとに読み出す際に前段のソースフォロワがオフ状態になるため、図47に例示するように、ソースフォロワの回路ノイズが生じず、0(μVrms)となる。なお、前段のソースフォロワのうち前段増幅トランジスタ315はオン状態である。
 このように、本技術の第8の実施の形態によれば、読出しの際に前段のソースフォロワをオフ状態にするため、そのソースフォロワで生じるノイズを低減することができる。
 <9.移動体への応用例>
 本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
 図48は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
 車両制御システム12000は、通信ネットワーク12001を介して接続された複数の電子制御ユニットを備える。図48に示した例では、車両制御システム12000は、駆動系制御ユニット12010、ボディ系制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、及び統合制御ユニット12050を備える。また、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051、音声画像出力部12052、及び車載ネットワークI/F(interface)12053が図示されている。
 駆動系制御ユニット12010は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット12010は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
 ボディ系制御ユニット12020は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット12020は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット12020には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット12020は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
 車外情報検出ユニット12030は、車両制御システム12000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット12030には、撮像部12031が接続される。車外情報検出ユニット12030は、撮像部12031に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
 撮像部12031は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部12031は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部12031が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
 車内情報検出ユニット12040は、車内の情報を検出する。車内情報検出ユニット12040には、例えば、運転者の状態を検出する運転者状態検出部12041が接続される。運転者状態検出部12041は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出部12041から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
 マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット12010に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行うことができる。
 また、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
 また、マイクロコンピュータ12051は、車外情報検出ユニット12030で取得される車外の情報に基づいて、ボディ系制御ユニット12020に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
 音声画像出力部12052は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図48の例では、出力装置として、オーディオスピーカ12061、表示部12062及びインストルメントパネル12063が例示されている。表示部12062は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
 図49は、撮像部12031の設置位置の例を示す図である。
 図49では、撮像部12031として、撮像部12101,12102,12103,12104,12105を有する。
 撮像部12101,12102,12103,12104,12105は、例えば、車両12100のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部12101及び車室内のフロントガラスの上部に備えられる撮像部12105は、主として車両12100の前方の画像を取得する。サイドミラーに備えられる撮像部12102,12103は、主として車両12100の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部12104は、主として車両12100の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部12105は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
 なお、図49には、撮像部12101ないし12104の撮影範囲の一例が示されている。撮像範囲12111は、フロントノーズに設けられた撮像部12101の撮像範囲を示し、撮像範囲12112,12113は、それぞれサイドミラーに設けられた撮像部12102,12103の撮像範囲を示し、撮像範囲12114は、リアバンパ又はバックドアに設けられた撮像部12104の撮像範囲を示す。例えば、撮像部12101ないし12104で撮像された画像データが重ね合わせられることにより、車両12100を上方から見た俯瞰画像が得られる。
 撮像部12101ないし12104の少なくとも1つは、距離情報を取得する機能を有していてもよい。例えば、撮像部12101ないし12104の少なくとも1つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
 例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を基に、撮像範囲12111ないし12114内における各立体物までの距離と、この距離の時間的変化(車両12100に対する相対速度)を求めることにより、特に車両12100の進行路上にある最も近い立体物で、車両12100と略同じ方向に所定の速度(例えば、0km/h以上)で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ12051は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御(追従停止制御も含む)や自動加速制御(追従発進制御も含む)等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
 例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を元に、立体物に関する立体物データを、2輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ12051は、車両12100の周辺の障害物を、車両12100のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ12051は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ12061や表示部12062を介してドライバに警報を出力することや、駆動系制御ユニット12010を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
 撮像部12101ないし12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像部12101ないし12104の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部12101ないし12104の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ12051が、撮像部12101ないし12104の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部12052は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部12062を制御する。また、音声画像出力部12052は、歩行者を示すアイコン等を所望の位置に表示するように表示部12062を制御してもよい。
 以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、撮像部12031に適用され得る。具体的には、例えば、図1の撮像装置100は、撮像部12031に適用することができる。撮像部12031に本開示に係る技術を適用することにより、より見やすい撮影画像を得ることができるため、ドライバの疲労を軽減することが可能になる。
 なお、上述の実施の形態は本技術を具現化するための一例を示したものであり、実施の形態における事項と、特許請求の範囲における発明特定事項とはそれぞれ対応関係を有する。同様に、特許請求の範囲における発明特定事項と、これと同一名称を付した本技術の実施の形態における事項とはそれぞれ対応関係を有する。ただし、本技術は実施の形態に限定されるものではなく、その要旨を逸脱しない範囲において実施の形態に種々の変形を施すことにより具現化することができる。
 なお、本明細書に記載された効果はあくまで例示であって、限定されるものではなく、また、他の効果があってもよい。
 なお、本技術は以下のような構成もとることができる。
(1)画素信号を保持するサンプルホールド回路がそれぞれに設けられた複数の画素と、
 前記保持された画素信号のそれぞれに対する信号処理により第1のデジタル信号を生成し、前記保持された画素信号のそれぞれに対する前記信号処理により第2のデジタル信号を生成する信号処理部と、
 前記第1のデジタル信号から所定のメタデータを抽出するメタデータ抽出部と、
 前記メタデータを用いて前記第2のデジタル信号に対して所定の画像処理を行う画像処理部と
を具備する固体撮像素子。
(2)前記メタデータ抽出部は、前記第1のデジタル信号を配列したフレームに対して所定の物体を認識する認識処理を行い、当該認識処理の結果を示すデータを前記メタデータとして生成する
前記(1)記載の固体撮像素子。
(3)前記メタデータは、所定の領域を示し、
 前記画像処理部は、前記領域内の色を特定の色に置き換える処理を行う
前記(1)または(2)に記載の固体撮像素子。
(4)前記メタデータは、所定の領域を示し、
 前記画像処理部は、前記領域に対してモザイク処理を行う
前記(1)または(2)に記載の固体撮像素子。
(5)前記メタデータは、所定の領域を示し、
 前記画像処理部は、前記第2のデジタル信号を配列したフレームから前記領域を関心領域として抽出する
前記(1)または(2)に記載の固体撮像素子。
(6)前記複数の画素のそれぞれは、
 画素信号を生成する前段回路と、
 前記画素信号を保持するサンプルホールド回路と、
 前記画素信号を前記サンプルホールド回路から読み出して出力する後段回路と
を備える前記(1)から(5)のいずれかに記載の固体撮像素子。
(7)前記サンプルホールド回路は、
 第1および第2の容量素子と、
 前記第1および第2の容量素子の一方を所定の後段ノードに接続する制御と前記第1および第2の容量素子の他方を前記後段ノードに接続する制御とを順に行う選択回路と
を備える
前記(6)記載の固体撮像素子。
(8)前記選択回路は、前記第1および第2の容量素子の一方を所定の後段ノードに接続する制御と前記第1および第2の容量素子の両方を前記後段ノードから切り離す制御と前記第1および第2の容量素子の他方を前記後段ノードに接続する制御とを順に行う
前記(7)記載の固体撮像素子。
(9)前記複数の画素のそれぞれは、前記第1および第2の容量素子の両方が前記後段ノードから切り離されたときに前記後段ノードのレベルを初期化する後段リセットトランジスタをさらに備える
前記(8)記載の固体撮像素子。
(10)画素信号を保持するサンプルホールド回路がそれぞれに設けられた複数の画素と、
 前記保持された画素信号のそれぞれに対する信号処理により第1のデジタル信号を生成し、前記保持された画素信号のそれぞれに対する前記信号処理により第2のデジタル信号を生成する信号処理部と、
 前記第1のデジタル信号から所定のメタデータを抽出するメタデータ抽出部と、
 前記メタデータを用いて前記第2のデジタル信号に対して所定の画像処理を行う画像処理部と、
 前記処理が行われた前記第2のデジタル信号を配列したフレームを記録する記録部と
を具備する撮像装置。
(11)アナログデジタル変換部が、画素信号を保持するサンプルホールド回路がそれぞれに設けられた複数の画素のそれぞれに保持された画素信号に対する信号処理により第1のデジタル信号を生成し、前記保持された画素信号のそれぞれに対する前記信号処理により第2のデジタル信号を生成する信号処理手順と、
 メタデータ抽出部が、前記第1のデジタル信号から所定のメタデータを抽出するメタデータ抽出手順と、
 画像処理部が、前記メタデータを用いて前記第2のデジタル信号に対して所定の画像処理を行う画像信号処理手順と
を具備する固体撮像素子の制御方法。
 100 撮像装置
 110 撮像レンズ
 120 記録部
 130 撮像制御部
 200 固体撮像素子
 201 上側画素チップ
 202 下側画素チップ
 203 回路チップ
 211 垂直走査回路
 212 タイミング制御回路
 213 DAC
 220 画素アレイ部
 221 上側画素アレイ部
 222 下側画素アレイ部
 250 負荷MOS回路ブロック
 251 負荷MOSトランジスタ
 260 カラム信号処理回路
 261 信号処理部
 262、270 ADC
 271 カウンタ
 280 コンパレータ
 281、292 セレクタ
 282、283、321、322 容量素子
 284、286 オートゼロスイッチ
 285 比較器
 291 CDS処理部
 300 画素
 301 有効画素
 310 前段回路
 311 光電変換素子
 312 転送トランジスタ
 313 FDリセットトランジスタ
 314 FD
 315 前段増幅トランジスタ
 316 電流源トランジスタ
 317 排出トランジスタ
 320 サンプルホールド回路
 323 前段リセットトランジスタ
 324 前段選択トランジスタ
 330 選択回路
 331、331-1、331-2、332、332-1、332-2 選択トランジスタ
 333 サンプリングトランジスタ
 341 後段リセットトランジスタ
 350、350-1、350-2 後段回路
 351、351-1、351-2 後段増幅トランジスタ
 352、352-1、352-2 後段選択トランジスタ
 400 ロジック回路
 401 カラムインターフェース
 402 画像処理部
 403 ISP回路
 404 メタデータ抽出部
 405 ワークメモリ
 410 高速インターフェース
 420 レギュレータ
 421 ローパスフィルタ
 422 バッファアンプ
 423 容量素子
 430 ダミー画素
 431 リセットトランジスタ
 432 FD
 433 増幅トランジスタ
 434 電流源トランジスタ
 440 切り替え部
 441 インバータ
 442 切り替え回路
 443、444 スイッチ
 12031 撮像部

Claims (11)

  1.  画素信号を保持するサンプルホールド回路がそれぞれに設けられた複数の画素と、
     前記保持された画素信号のそれぞれに対する信号処理により第1のデジタル信号を生成し、前記保持された画素信号のそれぞれに対する前記信号処理により第2のデジタル信号を生成する信号処理部と、
     前記第1のデジタル信号から所定のメタデータを抽出するメタデータ抽出部と、
     前記メタデータを用いて前記第2のデジタル信号に対して所定の画像処理を行う画像処理部と
    を具備する固体撮像素子。
  2.  前記メタデータ抽出部は、前記第1のデジタル信号を配列したフレームに対して所定の物体を認識する認識処理を行い、当該認識処理の結果を示すデータを前記メタデータとして生成する
    請求項1記載の固体撮像素子。
  3.  前記メタデータは、所定の領域を示し、
     前記画像処理部は、前記領域内の色を特定の色に置き換える処理を行う
    請求項1記載の固体撮像素子。
  4.  前記メタデータは、所定の領域を示し、
     前記画像処理部は、前記領域に対してモザイク処理を行う
    請求項1記載の固体撮像素子。
  5.  前記メタデータは、所定の領域を示し、
     前記画像処理部は、前記第2のデジタル信号を配列したフレームから前記領域を関心領域として抽出する
    請求項1記載の固体撮像素子。
  6.  前記複数の画素のそれぞれは、
     画素信号を生成する前段回路と、
     前記画素信号を保持するサンプルホールド回路と、
     前記画素信号を前記サンプルホールド回路から読み出して出力する後段回路と
    を備える請求項1記載の固体撮像素子。
  7.  前記サンプルホールド回路は、
     第1および第2の容量素子と、
     前記第1および第2の容量素子の一方を所定の後段ノードに接続する制御と前記第1および第2の容量素子の他方を前記後段ノードに接続する制御とを順に行う選択回路と
    を備える
    請求項6記載の固体撮像素子。
  8.  前記選択回路は、前記第1および第2の容量素子の一方を所定の後段ノードに接続する制御と前記第1および第2の容量素子の両方を前記後段ノードから切り離す制御と前記第1および第2の容量素子の他方を前記後段ノードに接続する制御とを順に行う
    請求項7記載の固体撮像素子。
  9.  前記複数の画素のそれぞれは、前記第1および第2の容量素子の両方が前記後段ノードから切り離されたときに前記後段ノードのレベルを初期化する後段リセットトランジスタをさらに備える
    請求項8記載の固体撮像素子。
  10.  画素信号を保持するサンプルホールド回路がそれぞれに設けられた複数の画素と、
     前記保持された画素信号のそれぞれに対する信号処理により第1のデジタル信号を生成し、前記保持された画素信号のそれぞれに対する前記信号処理により第2のデジタル信号を生成する信号処理部と、
     前記第1のデジタル信号から所定のメタデータを抽出するメタデータ抽出部と、
     前記メタデータを用いて前記第2のデジタル信号に対して所定の画像処理を行う画像処理部と、
     前記処理が行われた前記第2のデジタル信号を配列したフレームを記録する記録部と
    を具備する撮像装置。
  11.  アナログデジタル変換部が、画素信号を保持するサンプルホールド回路がそれぞれに設けられた複数の画素のそれぞれに保持された画素信号に対する信号処理により第1のデジタル信号を生成し、前記保持された画素信号のそれぞれに対する前記信号処理により第2のデジタル信号を生成するアナログデジタル変換手順と、
     メタデータ抽出部が、前記第1のデジタル信号から所定のメタデータを抽出するメタデータ抽出手順と、
     画像処理部が、前記メタデータを用いて前記第2のデジタル信号に対して所定の画像処理を行う画像信号処理手順と
    を具備する固体撮像素子の制御方法。
PCT/JP2022/048207 2022-02-21 2022-12-27 固体撮像素子、撮像装置、および、固体撮像素子の制御方法 WO2023157489A1 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2022-024398 2022-02-21
JP2022024398 2022-02-21

Publications (1)

Publication Number Publication Date
WO2023157489A1 true WO2023157489A1 (ja) 2023-08-24

Family

ID=87577959

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2022/048207 WO2023157489A1 (ja) 2022-02-21 2022-12-27 固体撮像素子、撮像装置、および、固体撮像素子の制御方法

Country Status (1)

Country Link
WO (1) WO2023157489A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005287927A (ja) * 2004-04-02 2005-10-20 Konica Minolta Medical & Graphic Inc 画像処理装置、画像処理方法及び医用画像システム
WO2017099037A1 (ja) * 2015-12-09 2017-06-15 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
JP2018142954A (ja) * 2017-02-24 2018-09-13 三星電子株式会社Samsung Electronics Co.,Ltd. 自律走行のための映像処理方法、映像処理装置及び自律走行車両
JP2021033686A (ja) * 2019-08-26 2021-03-01 株式会社セルシス 画像領域抽出処理方法及び画像領域抽出処理プログラム
WO2021215105A1 (ja) * 2020-04-21 2021-10-28 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005287927A (ja) * 2004-04-02 2005-10-20 Konica Minolta Medical & Graphic Inc 画像処理装置、画像処理方法及び医用画像システム
WO2017099037A1 (ja) * 2015-12-09 2017-06-15 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
JP2018142954A (ja) * 2017-02-24 2018-09-13 三星電子株式会社Samsung Electronics Co.,Ltd. 自律走行のための映像処理方法、映像処理装置及び自律走行車両
JP2021033686A (ja) * 2019-08-26 2021-03-01 株式会社セルシス 画像領域抽出処理方法及び画像領域抽出処理プログラム
WO2021215105A1 (ja) * 2020-04-21 2021-10-28 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子

Similar Documents

Publication Publication Date Title
WO2021215105A1 (ja) 固体撮像素子
US20200260034A1 (en) Solid-state image pick-up device and electronic device
US11974057B2 (en) Solid-state imaging element and imaging device
WO2020105313A1 (ja) 固体撮像素子、および、撮像装置
CN115665570A (zh) 摄像装置
EP4300944A1 (en) Solid-state imaging element and imaging device
WO2023157489A1 (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
WO2023062935A1 (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
WO2023007772A1 (ja) 固体撮像素子
WO2023162471A1 (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
US11283417B2 (en) Amplification circuit, imaging device, and control method of amplification circuit
WO2023062940A1 (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
WO2023062947A1 (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
WO2023171109A1 (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
WO2023063024A1 (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
WO2024004377A1 (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
WO2023166854A1 (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
WO2023062962A1 (ja) 固体撮像素子
WO2023166848A1 (ja) 撮像装置、画像処理装置および撮像装置の制御方法
WO2024004370A1 (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
WO2022209126A1 (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
WO2024024261A1 (ja) 固体撮像素子、撮像システム、および、固体撮像素子の制御方法
WO2023067961A1 (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
WO2023042415A1 (ja) 固体撮像素子、固体撮像素子の制御方法、および、電子装置
WO2022196057A1 (ja) 固体撮像素子

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22927371

Country of ref document: EP

Kind code of ref document: A1