WO2022163768A1 - 距離画像撮像装置及び距離画像を撮像する方法 - Google Patents

距離画像撮像装置及び距離画像を撮像する方法 Download PDF

Info

Publication number
WO2022163768A1
WO2022163768A1 PCT/JP2022/003139 JP2022003139W WO2022163768A1 WO 2022163768 A1 WO2022163768 A1 WO 2022163768A1 JP 2022003139 W JP2022003139 W JP 2022003139W WO 2022163768 A1 WO2022163768 A1 WO 2022163768A1
Authority
WO
WIPO (PCT)
Prior art keywords
delay time
charge
voltage
time
value
Prior art date
Application number
PCT/JP2022/003139
Other languages
English (en)
French (fr)
Inventor
祥二 川人
ジュヨン キム
Original Assignee
国立大学法人静岡大学
株式会社ブルックマンテクノロジ
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 国立大学法人静岡大学, 株式会社ブルックマンテクノロジ filed Critical 国立大学法人静岡大学
Publication of WO2022163768A1 publication Critical patent/WO2022163768A1/ja
Priority to US18/359,581 priority Critical patent/US20230367019A1/en

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • G01S17/8943D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/486Receivers
    • G01S7/4861Circuits for detection, sampling, integration or read-out
    • G01S7/4863Detector arrays, e.g. charge-transfer gates
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/78Readout circuits for addressed sensors, e.g. output amplifiers or A/D converters

Definitions

  • the present invention relates to a distance image capturing device and a method of capturing a distance image.
  • the distance image capturing device outputs a distance image.
  • a distance image has distance information to an object to be imaged.
  • a distance image pickup device emits measurement light to an object to be picked up. After being reflected by the object to be imaged, the measurement light enters the range image imaging device again.
  • the time required for the measuring light to reach the imaging object from the range imaging device can be known. This time is also referred to as the light flight time.
  • TIME OF FLIGHT time-of-flight measurement method
  • Range image measuring devices based on time-of-flight measurements are also referred to as TOF sensors.
  • Patent Documents 1 to 5 disclose techniques related to TOF sensors.
  • TOF sensors include so-called direct TOF sensors and indirect TOF sensors.
  • a direct TOF sensor directly measures the time of flight of light.
  • Patent Documents 6 and 7 disclose techniques related to direct TOF sensors.
  • An indirect TOF sensor distributes charges generated by reflected light to a plurality of regions for each time. Indirect TOF sensors then use the ratio of charge accumulated per area to obtain the optical time-of-flight.
  • Patent Documents 8 to 10 disclose techniques related to indirect TOF sensors. Indirect TOF sensors have several advantages over direct TOF sensors, such as a smaller pixel size, simpler circuitry, and higher distance resolution.
  • Indices that indicate the performance of indirect TOF sensors include distance resolution and linearity between distance and output signal.
  • improvements in overall performance including indices such as resolution and linearity are desired.
  • the irradiation time of the measurement light should be shortened. In other words, it is sufficient to irradiate the object to be measured with short pulsed measurement light. Using shorter pulses is effective for improving range resolution.
  • the nonlinearity of the pixel source follower amplifier, the distortion of the optical pulse waveform, the finite optical carrier response time in the photodiode, the distortion of the transfer control pulse for demodulation, and the skew of the transfer control pulse, etc. can be resolved. It becomes an issue to be addressed. As a result, linearity may be compromised. In other words, an attempt to improve one characteristic may degrade another characteristic. Therefore, the inventors have investigated a technique capable of comprehensively improving the performance of the indirect TOF sensor.
  • the present invention provides a range image capturing device and a range image capturing method capable of improving overall performance.
  • a distance image pickup device which is one embodiment of the present invention, includes a light source that generates pulsed light, a pixel circuit array that includes a plurality of pixel circuit units that generate charges corresponding to the received light, and operation of the pixel circuit array. peripheral circuitry for providing transfer control pulses to the pixel circuitry array to control the .
  • the pixel circuit section includes a photoelectric conversion region that converts light into charge, a first charge readout region that accumulates charges transferred from the photoelectric conversion region as first charges, and charges transferred from the photoelectric conversion region to the first charge readout region.
  • the peripheral circuit generates a first transfer control pulse and a second transfer control pulse based on the magnitude relationship between the amount of first charge accumulated in the first charge readout region and the amount of second charge accumulated in the second charge readout region. Generate control pulses.
  • the range image pickup device controls the timing of the transfer control pulse based on the calculated value obtained from the difference in the amount of charge related to the light flight time. As a result, it is possible to reduce the bias in the amount of charge for each charge readout region. Therefore, the range image pickup device has improved overall performance.
  • the peripheral circuit includes a first calculation unit that outputs a calculated value regarding a difference between a first voltage based on the first charge and a second voltage based on the second charge, and outputs a first transfer control pulse and a second transfer control pulse. and a second calculation unit that determines the delay time for determining the timing using the calculated value.
  • the peripheral circuit may repeat the accumulation operation of accumulating the first charge and the second charge, the operation of the first calculation section, and the operation of the second calculation section. This configuration also makes it possible to reduce the bias in the amount of charge for each charge readout region. As a result, the range image pickup device has improved overall performance.
  • the second operation unit further calculates the n-th delay time used for the n-th accumulation operation when the operation value is the first information.
  • the n+1-th delay time used for the n+1-th accumulation operation may be determined by delaying by the delay time. According to this operation, it is possible to suppress the bias in the amount of electric charge.
  • the second calculation unit multiplies the control variable and the unit delay time by a counter that adds 1 to the control variable when the calculated value is the first information in the n-th operation of the second calculation unit.
  • a delay time determining unit that determines the value obtained by the above as the (n+1)-th delay time used for the (n+1)-th accumulation operation. According to this configuration, it is possible to suppress the bias in the amount of electric charge.
  • the first calculation unit After outputting the difference between the first voltage and the second voltage as a difference voltage, the first calculation unit added the m-th difference voltage to the integrated value of the difference voltages from the first time to the m-1th time. The result may be obtained as an integral value of the m-th differential voltage.
  • the second calculation unit determines the (n+1)-th delay time used for the (n+1)-th accumulation operation as the first delay time when the m-th integration value is the second information, When the integrated value is the first information, the (m+1)-th delay time may be determined as the second delay time. According to this operation, it is possible to obtain an optical time-of-flight in which an error caused by the unit delay time is suppressed.
  • the first computing unit may have an integrator that obtains the result of adding the m-th differential voltage to the integrated value of the differential voltage from the first time to the (m ⁇ 1)-th time as the m-th integrated value. good.
  • the second calculation unit determines the first delay time as the (m+1)-th delay time when the m-th integration value is the second information, and determines the first delay time as the (m+1)-th delay time when the m-th integration value is the first information.
  • a delay time determination unit may be provided for determining a second delay time as the m+1th delay time. According to this configuration, it is possible to obtain an optical time-of-flight in which an error caused by the unit delay time is suppressed.
  • the distance image capturing device converts the calculated value output by the first calculation unit into a digital signal, outputs the digital signal to the second calculation unit, and cooperates with the first calculation unit and the second calculation unit to obtain delta sigma
  • the A/D converter outputs A decimation filter may also be included that receives the digital signal and low-pass filters and down-samples the digital signal.
  • the oversampling ratio of the low-pass filtering of the decimation filter may be an integer greater than 2 B ⁇ 1 and less than 2 B .
  • B may be the minimum number of bits that can express the oversampling ratio.
  • the peripheral circuit performs an accumulating operation of accumulating the first charge and the second charge, and the n-th the n-th delay time used for the accumulation operation of is further delayed by the unit delay time, and the n+1-th delay time used for the n+1-th accumulation operation is determined.
  • the accumulation operation, and the first calculation unit After the first measurement that repeats the process, the accumulation operation, and the first calculation unit outputting the difference between the first voltage and the second voltage as the difference voltage, the difference voltage from the first time to the m ⁇ 1th time the operation of obtaining the result of adding the m-th differential voltage to the integrated value as the m-th integrated value of the differential voltage; Determining a first delay time as the m+1-th delay time, and determining a second delay time as the m+1-th delay time when the m-th integral value is the first information is repeated.
  • a second measurement may be performed. A loop through this operation allows the approximate light flight time to be measured in the first measurement. The results of the first measurement can be used to determine the precise light flight time in the second measurement.
  • the first calculation unit may include an integrator that obtains the result of adding the m-th difference voltage to the integrated value of the difference voltages from the first time to the (m-1)th time.
  • the second calculation unit multiplies the control variable and the unit delay time by a counter that adds 1 to the control variable when the calculated value is the first information in the n-th operation of the second calculation unit.
  • An operation of determining the obtained value as the n+1-th delay time used for the n+1-th accumulation operation, or as the m+1-th delay time when the m-th integral value is the second information a delay time determination unit that selectively executes an operation of determining a first delay time and determining a second delay time as the (m+1)-th delay time when the m-th integral value is the first information; may have.
  • a loop with this configuration allows the approximate light flight time to be measured in the first measurement. The results of the first measurement can be used to determine the precise light flight time in the second measurement.
  • the first computing section may include a differential amplifier that outputs a difference between the first voltage and the second voltage as a differential voltage.
  • the differential amplifier is an operational amplifier having a first input, a second input, a third input, a first output and a second output; a feedback capacitor connected to the input and the first output; a feedback capacitor receiving the second charge from the second charge readout region and connected to the second input and the second output; a third input; A signal is applied to a third input terminal connected to the first output terminal and the second output terminal such that the difference between the output value from the first output terminal and the output value from the second output terminal is equal to the common voltage. and a common mode feedback control that provides
  • a method for capturing a range image using a range image capturing apparatus in which first charge is accumulated in a first charge readout region based on a first transfer control pulse applied to a first control electrode.
  • the timing of the transfer control pulse is controlled based on the calculated value obtained from the difference in the amount of charge related to the light flight time. As a result, it is possible to reduce the bias in the amount of charge for each charge readout region. Therefore, the method of capturing the distance image using the distance image capturing device improves the overall performance.
  • the pulse generation step includes: a calculation step of outputting a calculated value regarding a difference between a first voltage based on the first charge and a second voltage based on the second charge; and timing of outputting the first transfer control pulse and the second transfer control pulse. and a delay time determination step of determining a delay time for determining using the calculated value.
  • the charge accumulation and pulse generation steps may be repeated. According to this method, it is possible to suppress the bias in the amount of electric charge.
  • the delay time determining step when the calculated value is the first information in the n-th calculation step, the n-th delay time used for the n-th charge accumulation step is added to the unit delay time. Determining the delayed as the n+1th delay time to be used for the n+1th charge accumulation step. According to this method, it is possible to suppress the bias in the amount of electric charge.
  • the delay time determining step After outputting the difference between the first voltage and the second voltage as a differential voltage, the m-th differential voltage is added to the integrated value of the differential voltages from the first to the (m-1)th times.
  • the delay time determining step delays the n-th delay time used for the n-th charge accumulation step by a unit delay time when the calculated value is the first information in the n-th calculation step. is determined as the n+1-th delay time used for the n+1-th charge accumulation step;
  • a step of obtaining the result of adding the m-th differential voltage to the integrated value of the differential voltage up to m ⁇ 1 as the integrated value of the m-th differential voltage, and the m-th integrated value is the second information
  • the m+1-th delay time used for the m+1-th charge accumulation step is the first delay time
  • the m-th integration value is the first information
  • the m+1-th delay time is the first delay time. and determining as 2 delay times.
  • a loop according to this method can be used to measure the approximate time of flight of light, and the result can be used to measure the precise time of flight of light.
  • the distance image capturing device and method for capturing a distance image of the present invention can improve overall performance.
  • FIG. 1 is a diagram showing the configuration of a distance image pickup device.
  • FIG. 2 is a flow diagram showing main steps of a method for capturing a range image.
  • FIG. 3 is a diagram showing the principle of the distance image pickup device.
  • FIGS. 4(a) and 4(b) are diagrams for explaining the problems of optical time-of-flight measurement.
  • FIG. 5 is a diagram for explaining C measurement.
  • FIGS. 6A and 6B are diagrams conceptually showing changes in the unit delay time.
  • FIG. 7 is a diagram showing the transition between the number of exposure operations and the integrated value of the charge difference.
  • FIG. 8 is an equivalent block diagram of a configuration for C measurement.
  • FIG. 9A is a diagram conceptually explaining the operation of C measurement.
  • FIG. 9(b) is a diagram conceptually showing the quantization error.
  • FIG. 10 is an equivalent block diagram of a configuration for F measurement.
  • FIG. 11 is a diagram showing the shape of the quantization error due to the noise transfer function.
  • FIG. 12 is a timing chart collectively showing C measurement and F measurement.
  • FIG. 13 is a diagram showing the configuration of the pixel circuit section.
  • FIG. 14 is a diagram showing the circuit configuration of the preamplifier.
  • FIG. 15 is a timing chart showing operations of the pixel circuit section and the demodulator.
  • FIG. 16 is a diagram showing the circuit configuration of an analog processing unit.
  • FIG. 17 is a diagram showing the circuit configuration of the DT converter and transfer control pulse generator.
  • FIG. 18 is a diagram showing a specific example of a range image pickup device.
  • the distance image capturing device 1 shown in FIG. 1 obtains a distance image.
  • a distance image is an image containing distance information from the distance image capturing device 1 to the object 100 .
  • the distance imaging device 1 emits irradiation light L ⁇ b>1 (measurement light) toward the object 100 .
  • Irradiation light L1 is reflected on the surface of the object 100 .
  • the reflected light L ⁇ b>2 is incident on the distance imaging device 1 .
  • the distance imaging device 1 obtains the time difference between the timing of emitting the irradiation light L1 and the timing of receiving the reflected light L2. This time difference is also referred to as the light flight time.
  • the light flight time is the time required for the irradiation light L ⁇ b>1 to reach the object 100 from the object 100 to the distance image pickup device 1 after reaching the object 100 .
  • the light flight time is determined according to the distance from the range imaging device 1 to the object 100 . Therefore, by obtaining the time of flight of light, the distance from the distance imaging device 1 to the object 100 can be obtained.
  • FIG. 3 is a diagram showing the principle of the distance image pickup device 1.
  • the range imaging device 1 indirectly measures the time of flight of light.
  • the range imaging device 1 has a plurality of areas for accumulating charges.
  • the distance image pickup device 1 distributes the charges generated in the photoelectric conversion regions by the incidence of light to the respective accumulation regions. This distribution is performed by a gate that controls charge transfer from the photoelectric conversion region to the storage region. Charge is transferred to the first accumulation region in the first period. No charges are transferred to the second accumulation region in the first period. Then, in a second period following the first period, the charge transfer to the first accumulation region is stopped and the charge is transferred to the second accumulation region. Using the time TW of the first period and the second period and the ratio of the first charge quantity Q1 in the first storage region and the second charge quantity Q2 in the second storage region, the light flight time can be obtained. can be done.
  • the distance image pickup device 1 is operated. As shown in FIG. 4A, when the distance to the object 100 is short, the time from the emission of the irradiation light L1 to the incidence of the reflected light L2 is short. Therefore, the first charge amount Q1 accumulated in the first accumulation region operated by the first transfer control pulse SG1 increases. On the other hand, the second charge amount Q2 accumulated in the second accumulation region operated by the second transfer control pulse SG2 decreases. As shown in FIG.
  • the performance of the distance image pickup device 1 is affected, such as a decrease in distance resolution.
  • This problem becomes larger as the measurement range of the distance image pickup device 1 approaches the upper limit or the lower limit.
  • the timing of transfer to the first accumulation area and the second accumulation area is always constant as employed in the conventional range image capturing apparatus, depending on the distance to the object 100, one accumulation area very little charge is stored in As a result, a decrease in distance resolution is caused.
  • the timing of opening the first transfer control gate G1 and the second transfer control gate G2 is not fixed with respect to the emission timing of the irradiation light L1, but is variable.
  • the inventors determined the opening timing of the first transfer control gate G1 and the second transfer control gate G2 by the first charge amount Q1 transferred by the first transfer control gate G1 and the second transfer control gate G2.
  • the conceived is to control according to the magnitude relationship of the second charge amount Q2 to be transferred.
  • the control according to the magnitude relationship of the charge amount it is possible to reduce the bias between the first charge amount Q1 and the second charge amount Q2. In other words, it becomes possible to operate such that the difference in charge amount is reduced. As a result, the influence of noise can be suppressed. Furthermore, it is possible to apply the so-called delta-sigma modulation technology by controlling according to the magnitude relationship of the charge amount. Delta-sigma modulation techniques can reduce quantization errors. In other words, it is possible to improve the distance resolution over the entire measurement range by eliminating the bias of the accumulated charge and reducing the quantization error by introducing the delta-sigma modulation technique.
  • a feedback loop is configured to control the timing of transferring the charge according to the magnitude relationship of the charge amount.
  • a difference in the amount of charge accumulated in the accumulation region is converted into a difference in analog voltage.
  • the analog voltage difference is converted to a binary digital value.
  • the digital value is used to determine the timing of charge transfer.
  • This feedback loop is technically characterized in that it uses a digital value to determine the timing of charge transfer. In other words, it converts digital values into time. The inventors named this technique "time domain feedback control".
  • the control of transferring charges according to the magnitude relationship of the amount of charges includes two modes.
  • the target of control is to reduce the difference in charge amount.
  • an approximate optical time-of-flight with known deviations can be obtained.
  • the measurement that yields the approximate light flight time according to the first aspect is termed by the inventors as the "coarse measurement”. In the following description, this is also simply referred to as "C measurement" (first measurement).
  • FIG. 5 is a diagram for explaining C measurement.
  • FIG. 5 shows an example in which four feedback operations are performed.
  • the time lag between the emission period of the irradiation light L1 and the incidence period of the reflected light L2 corresponds to the distance to the object 100 that produced the reflected light L2.
  • the end of the first transfer period is matched with the midpoint of the emission period of the irradiation light L1.
  • the end of the first transfer period coincides with the start of the second transfer period. Therefore, the start of the second transfer period also coincides with the midpoint of the emission period.
  • the reflected light L2 is received during the first transfer period and the second transfer period.
  • the operation of receiving the reflected light L2 to generate charges is also referred to as "exposure operation".
  • the incident period of the reflected light L2 does not overlap with the first transfer period.
  • the incident period of the reflected light L2 overlaps a part of the second transfer period.
  • the first charge quantity Q1 in the first accumulation region is less than the second charge quantity Q2 in the second accumulation region.
  • the first transfer period and the second transfer period are delayed from the initial timing by the unit delay time ⁇ tD .
  • the first transfer period and the second transfer period are set at timings delayed by the unit delay time ⁇ tD from the first exposure operation.
  • the incident period of the reflected light L2 does not overlap with the first transfer period.
  • the incident period of the reflected light L2 overlaps the entire period of the second transfer period. As a result, the sign of the charge amount difference is still positive.
  • the first transfer period and the second transfer period are further delayed by the unit delay time ⁇ tD from the timing of the second exposure operation. That is, the first transfer period and the second transfer period of the third exposure operation are delayed by 2 ⁇ tD from the first transfer period and the second transfer period of the first exposure operation.
  • the incident period of the reflected light L2 overlaps part of the first transfer period. Furthermore, the incident period of the reflected light L2 also overlaps a part of the second transfer period.
  • the overlapping period of the second transfer period is longer than the overlapping period of the first transfer period. Therefore, the sign of the charge amount difference is still positive.
  • the first transfer period and the second transfer period are further delayed by the unit delay time ⁇ tD from the timing of the third exposure operation. That is, the first transfer period and the second transfer period of the third exposure operation are delayed by 3 ⁇ tD from the first transfer period and the second transfer period of the first exposure operation.
  • the incident period of the reflected light L2 overlaps part of the first transfer period. Furthermore, the incident period of the reflected light L2 also overlaps a part of the second transfer period.
  • the overlapping period of the first transfer period is longer than the overlapping period of the second transfer period. Therefore, the sign of the charge amount difference is negative.
  • the end of the first transfer period is the incident period of the reflected light L2. matches the middle of .
  • the irradiation timing (start, middle, or end) of the irradiation light L1 is known, and the timing of the first transfer period and the second transfer period when the difference in the amount of electric charge becomes zero is known, the incidence of the reflected light L2 with respect to the irradiation light L1 is determined. I know the timing. That is, the time of flight of light is known.
  • the first transfer period and the second transfer period are shifted by each unit delay time ⁇ tD .
  • the difference in charge amount may become zero. It may occur that the difference in the amount of electric charge does not become zero. However, it can be seen that there is a timing when the difference becomes zero between the timing when the sign of the charge amount difference is plus and the timing when the charge amount difference is minus.
  • the approximate light flight time By searching for the delay time at which the sign of the difference switches, the approximate light flight time can be obtained.
  • This "approximately” means including an error corresponding to the unit delay time ⁇ tD as a maximum value.
  • Negative feedback used for C measurement converts a digital value based on the charge difference to time. The converted times correspond to the delay times of the transfer control pulses for the first transfer period and the second transfer period.
  • the control that reduces the difference in the amount of charge can be called negative feedback control that reduces the difference between the delay time of the transfer control pulse and the light flight time.
  • Such control makes it possible to keep the operating point of the analog readout circuit constant. As a result, linearity can be effectively improved.
  • the result of the C measurement includes the delay time and the charge amount difference obtained by the operation of the delay time.
  • the result of the C measurement is used for the processing of the F measurement described below.
  • a second aspect of control for transferring charges according to the magnitude relationship of the amount of charges will be described.
  • the charge amount difference is integrated each time the exposure operation is repeated.
  • the delay time given to the first transfer period and the second transfer period is changed for each exposure operation.
  • a change in the delay time to be applied is determined by the result of integration of the charge amount difference.
  • the integration result is converted to a binary digital value of 0 or 1.
  • Information represented by 0 or 1 is obtained by repeating the exposure operation a plurality of times. The number of times a 0 appears and the number of times a 1 appears is related to the true light flight time.
  • FIG. 6 conceptually shows the modification of the delay time.
  • the F measurement uses a first delay time (2 ⁇ t D ) and a second delay time (3 ⁇ t D ).
  • the first delay time (2 ⁇ t D ) is such that the charge amount difference becomes positive as a result of the exposure operation (see FIG. 6A).
  • the second delay time (3 ⁇ t D ) is such that the charge amount difference becomes negative as a result of the exposure operation (see FIG. 6B).
  • Which delay time to use is determined based on the multiple of the unit delay time ⁇ tD given before and after the sign of the charge amount difference in C measurement changes from positive to negative, and the integrated value of the charge amount. For example, as shown in FIG. 5, the sign of the charge amount difference changed from positive to negative when 2 ⁇ t D was changed to 3 ⁇ t D , so the first delay time was 2 ⁇ t D and the second delay time was 3 ⁇ t D. However, this is an example.
  • the first delay time and the second delay time may be a combination in which the charge amount difference is positive and negative.
  • FIG. 7 shows transitions in the number of exposure operations and transitions in the integrated value of the charge difference.
  • FIG. 7 also shows the relationship between the sign of the integral value and the delay time corresponding to the sign of the integral value.
  • the 0th time in the F measurement corresponds to one operation before the final time in the C measurement.
  • the result of the exposure operation one time before the final time (the third time) was the differential charge amount ⁇ Q indicating the difference in the charge amount.
  • the sign of the differential charge amount ⁇ Q was positive.
  • the second delay time (3 ⁇ t D ) is adopted in the next exposure operation.
  • a differential charge amount ⁇ Q (with a negative sign) is obtained.
  • This differential charge amount ⁇ Q is added to the 0th integrated value.
  • a new integral value is obtained.
  • the sign of the new integral value is still positive. Therefore, the second delay time (3 ⁇ t D ) is also used in the next second exposure operation. In this manner, the accumulation of charges by the exposure operation, the acquisition of the difference in the amount of charge, the addition of the acquired differences, and the selection of the delay time according to the sign of the addition result are sequentially repeated.
  • the sign of the integrated value is also positive in the result of the third exposure operation.
  • the absolute value of the integrated value gradually decreases.
  • FIG. 7 shows the state of the exposure operation up to the tenth time.
  • the value added to the integral value increases in proportion to the magnitude of the error between the delay time given to the first transfer period and the second transfer period and the light flight time to be obtained. . Therefore, the frequency of occurrence of delay times with small errors increases. On the other hand, the frequency of occurrence of delay times with large errors decreases. That is, the time of flight of light can be obtained by averaging the first delay time and the second delay time with their frequency of occurrence.
  • the F measurement then calculates the precise time of flight of light. For example, in FIG. 7, the first delay time (2 ⁇ t D ) appears twice as a result of the first to tenth exposure operations. The second delay time (3 ⁇ t D ) appears eight times. As a result, the light flight time is given by equation (1).
  • DSM first-order delta-sigma modulation
  • Delta-sigma modulation has self-sufficient low distortion and low noise properties using oversampling signal processing.
  • the distance image capturing device 1 can achieve high linearity and high distance resolution.
  • the range image capturing device 1 adopts the technical concept of time domain feedback control. Then, as a first aspect of time domain feedback control, a C measurement is performed to obtain an approximate optical time-of-flight. Then, as a second aspect of time domain feedback control, an F measurement is performed to obtain a precise optical time-of-flight. According to such an operation, the distance image pickup device 1 can achieve high linearity and high distance resolution, and the overall performance is improved.
  • FIG. 1 is a functional block diagram of the distance image capturing device 1.
  • a distance image pickup device 1 has a light source 2 and a distance image sensor 3 .
  • the light source 2 emits irradiation light L1.
  • Irradiation light L1 is reflected by the object 100 .
  • the reflected illumination light L1 is converted into a voltage signal by the photodiode 11 and the demodulator 12 .
  • the range image sensor 3 includes a photodiode 11, a demodulator 12, an analog processing unit 20 (first computing section), an A/D converter 30, a digital processing unit 40 (second computing section), and a DT converter. and a device 50 (second calculation unit, delay time determination unit). These elements form a time domain negative feedback loop.
  • a range image sensor 3 obtains the time of flight of light. By obtaining the time of flight of light, the distance to the object 100 can be obtained.
  • the distance image sensor 3 performs the C measurement and F measurement described above. These operations can improve the performance of the distance image sensor 3 . More specifically, the distance image sensor 3 has a high linearity that indicates the relationship between the time of flight of light and the distance.
  • the range image sensor 3 has a high optical time-of-flight resolution. That is, the distance image sensor 3 has a high distance resolution. Furthermore, the range image sensor 3 can maintain high linearity and high resolution over a wide measurement range.
  • the range image sensor 3 alternately switches between the time domain negative feedback loop for C measurement and the time domain negative feedback loop for F measurement.
  • This switching of operations includes selection of two types of operations (buffer operation, integration operation) realized by the analog processing unit 20, selection of two types of operations (counting operation, addition operation) realized by the digital processing unit 40, according to.
  • the C measurement the operation as the buffer 21 implemented by the analog processing unit 20 is selected, and the operation as the counter 41 implemented by the digital processing unit 40 is selected.
  • the operation as the integrator 22 implemented by the analog processing unit 20 is selected, and the operation as the adder 42 implemented by the digital processing unit 40 is selected.
  • the range image sensor 3 can be viewed as a first order delta-sigma modulator.
  • the light source 2 generates irradiation light L1 emitted to the object 100 in order to perform distance measurement by the optical time-of-flight (TOF: TIME OF FLIGHT) method.
  • the light source 2 has a semiconductor light emitting element and a drive circuit.
  • a semiconductor light-emitting device generates light in a wavelength range such as a near-infrared range or a visible light range.
  • a light emitting diode or a laser diode can be employed as the semiconductor light emitting element.
  • the distance image sensor 3 receives the reflected light L2 from the object 100.
  • the distance image sensor 3 uses the received reflected light L2 to output a distance image.
  • Range image sensor 3 has photodiode 11 , demodulator 12 , analog processing unit 20 , A/D converter 30 , digital processing unit 40 and DT converter 50 .
  • the range image sensor 3 has a decimation filter 60 .
  • the photodiode 11 of the pixel circuit section 10 receives the reflected light L2.
  • the range imaging device 1 has a plurality of pixel circuit units 10 arranged two-dimensionally.
  • a plurality of pixel circuit units 10 arranged two-dimensionally form a pixel circuit unit array 10S.
  • the photodiode 11 generates electric charge corresponding to the reflected light L2.
  • the pixel circuit section 10 transfers the charge generated by the photodiode 11 to the demodulator 12 .
  • the output value of the pixel circuit unit 10 is based on the first charge amount Q 1 , the second charge amount Q 2 and the differential charge amount ⁇ Q. A physical configuration of the pixel circuit section 10 will be described later.
  • Demodulator 12 controls charge transfer from photodiode 11 .
  • the demodulator 12 outputs the difference in charge amount received from the photodiode 11 as a voltage difference.
  • the output values of the demodulator 12 include the first pre-voltage signal V P1 , the second pre-voltage signal V P2 and the differential pre-voltage signal ⁇ V P . A physical configuration of the demodulator 12 will be described later.
  • the analog processing unit 20, the A/D converter 30, the digital processing unit 40 and the DT converter 50 constitute the peripheral circuit 4.
  • Peripheral circuit 4 may include a decimation filter 60 .
  • the analog processing unit 20 processes the voltage difference.
  • the processing performed by the analog processing unit 20 includes processing for multiplying the voltage difference by an integer and processing for integrating the voltage difference.
  • the analog processing unit 20 includes a buffer 21 that multiplies the voltage difference by an integer.
  • the analog processing unit 20 includes an integrator 22 that performs the process of integrating the voltage difference.
  • the output values of the analog processing unit 20 include a first rear voltage signal V O1 (first voltage), a second rear voltage signal V O2 (second voltage) and a differential rear voltage signal ⁇ V O (differential voltage). A specific circuit configuration of the analog processing unit 20 will be described later.
  • A/D converter 30 quantizes the voltage output by analog processing unit 20 . Specifically, the A/D converter 30 converts the voltage output by the analog processing unit 20 into a binary digital value of 0 or 1.
  • the output value of A/D converter 30 comprises digital signal DFB .
  • the digital processing unit 40 processes the digital signal DFB output by the A/D converter 30 .
  • the processing performed by the digital processing unit 40 includes processing for counting 0s or 1s indicated by the input digital signal D FB and processing for adding the input digital signal D FB to another pre-stored digital signal.
  • the digital processing unit 40 includes a counter 41 for counting 0's or 1's.
  • the output of counter 41 is connected to DT converter 50 and adder 42 .
  • the digital processing unit 40 includes an adder 42 that performs addition operations.
  • An input terminal of the adder 42 is connected to the A/D converter 30 and the counter 41 . That is, adder 42 can receive the output value of A/D converter 30 and the output value of counter 41 .
  • the output of adder 42 is connected to DT converter 50 .
  • the output value of the digital processing unit 40 comprises the digital signal DM .
  • the adder 42 and the DT converter 50 determine the delay time for the next accumulation operation according to the sign of the integration result when it is the F measurement.
  • the sign of the integration result depends on the value of the digital signal DM , which is the output value of the digital processing unit 40 .
  • the adder 42 and the DT converter 50 determine 3 ⁇ t D as the delay time when the sign of the integration result is zero or plus (first information). 3 ⁇ t D is the delay time at which the charge difference becomes negative.
  • the adder 42 and the DT converter 50 determine 2 ⁇ t D as the delay time when the sign of the integration result is minus (second information). 2 ⁇ t D is the delay time at which the charge difference becomes positive.
  • Decimation filter 60 is connected to the input of adder 42 of digital processing unit 40 .
  • Decimation filter 60 receives digital signal D FB along with adder 42 .
  • the decimation filter 60 performs digital filtering on the digital signal DFB .
  • Digital filtering includes low-pass filtering and downsampling.
  • decimation filter 60 may have an oversampling ratio for low-pass filtering that is an integer greater than 2 B ⁇ 1 and less than 2 B .
  • B may be the minimum number of bits that can express the oversampling ratio.
  • the method of capturing a range image using the range image capturing apparatus 1 includes charge accumulation steps S10C and S10F and pulse generation steps S20C and S20F. .
  • the charge accumulation step S10C and the pulse generation step S20C are repeatedly performed.
  • the charge accumulation step S10C and the pulse generation step S20C constitute a C measurement.
  • the charge accumulation step S10F and the pulse generation step S20F are repeatedly performed.
  • the charge accumulation step S10F and the pulse generation step S20F constitute an F measurement.
  • the charge accumulation step S ⁇ b>10 ⁇ /b>C is performed by the pixel circuit section 10 .
  • the pixel circuit section 10 accumulates a first charge in the first floating diffusion section FD1 based on the first transfer control pulse SG1 applied to the first transfer control gate G1.
  • the pixel circuit section 10 accumulates the second charge in the second floating diffusion FD2 based on the second transfer control pulse SG2 applied to the second transfer control gate G2 as the charge accumulation step S10C.
  • the pulse generation step S20C is performed by the peripheral circuit 4.
  • FIG. The peripheral circuit 4 generates a first transfer control pulse SG- 1 and a second transfer control pulse SG- 2 based on the magnitude relationship between the first charge amount Q1 and the second charge amount Q2 as the pulse generation step S20C. .
  • the pulse generation step S20C includes a calculation step S21C, a determination step S30, a delay time determination step S22C, and a pulse output step S23C.
  • the arithmetic step S21C is performed by the demodulator 12 and the analog processing unit 20.
  • FIG. An A/D converter 30 may be included as an element that performs the calculation step S21C.
  • the calculating step S21C outputs a calculated value regarding the difference between the first voltage based on the first charge and the second voltage based on the second charge.
  • the calculated value may be the differential voltage itself.
  • the calculated value may be a digital value obtained by binarizing the differential voltage.
  • step S30 it is determined whether or not the time of flight (TOF) has been obtained. If it is determined that the time-of-flight (TOF) has been obtained, the F measurement loop is entered. If it is not determined that the time of flight (TOF) has been obtained, the process proceeds to the delay time determination step S22C.
  • TOF time of flight
  • the delay time determination step S22C is performed by the digital processing unit 40.
  • FIG. The delay time determination step S22C determines the delay time for determining the timing of outputting the first transfer control pulse SG1 and the second transfer control pulse SG2 using the calculated value.
  • the delay time determination step S22C for C measurement is performed by the counter 41 of the digital processing unit 40.
  • the pulse output step S23C is performed by the DT converter 50.
  • FIG. The pulse output step S23C outputs the first transfer control pulse SG1 and the second transfer control pulse SG2 based on the determined delay time.
  • the process for F measurement has a charge accumulation process S10F and a pulse generation process S20F.
  • the pulse generation step S20F has an operation step S21F, a delay time determination step S22F, and a pulse output step S23F.
  • the calculation step S21F is performed by the integrator 22 of the analog processing unit 20.
  • FIG. According to the integrator 22, after outputting the difference between the first voltage and the second voltage as a differential voltage, the m-th differential voltage is added to the integrated value of the differential voltages from the first to the (m-1)th. It is possible to realize the operation of obtaining the result of the calculation as the integral value of the m-th differential voltage.
  • the delay time determination step S22F is performed by the adder 42 of the digital processing unit 40. FIG.
  • the adder 42 when the m-th integration value is the second information, the operation of determining the m+1-th delay time used for the m+1-th charge accumulation step as the first delay time is performed. realizable. Furthermore, according to the adder 42, when the m-th integrated value is the first information, the operation of determining the m+1-th delay time as the second delay time can be realized.
  • C measurement and F measurement can be performed in time domain feedback control.
  • the range image capturing apparatus 1 shown in FIG. 1 can realize a configuration for performing C measurement and a configuration for performing F measurement.
  • the configuration for performing the C measurement and the configuration for performing the F measurement can be switched between each other.
  • the configuration for making C measurements gives an approximate optical time-of-flight. After the approximate light flight time is obtained, the configuration for performing C measurement is switched to the configuration for performing F measurement. A more precise optical time-of-flight is obtained by F-measurement. Switching between the configuration for performing C measurement and the configuration for performing F measurement is performed by selecting the buffer 21 or the integrator 22 that constitutes the analog processing unit 20, selecting the counter 41 or the adder 42 that constitutes the digital processing unit 40, It can be realized by
  • FIG. 8 is an equivalent block diagram of a configuration for C measurement.
  • the distance image sensor 3 includes a summation point F8a, a first transmission element F8b, a second transmission element F8c, a third transmission element F8d, a fourth transmission element F8e, and a fifth transmission element F8e. and the element F8f.
  • Summing point F8a and first transfer element F8b correspond to demodulator 12 .
  • a second transfer element F8c corresponds to the buffer 21 .
  • a third transfer element F8d corresponds to the A/D converter 30 .
  • a fourth transmission element F8e corresponds to the counter 41 .
  • a fifth transfer element F8f corresponds to the DT converter 50 .
  • the post-stage voltage signal V O (calculated value), which is the output value of the second transfer element F8c (buffer 21), is expressed by equation (2).
  • V O Magnitude of the post-stage voltage signal output by the second transfer element F8c (buffer 21).
  • K BUF Gain of the second transfer element F8c (buffer 21).
  • K M the time-to-voltage conversion gain of the demodulator 12; TOF: Optical Time of Flight.
  • T M Delay time signal output by the fifth transfer element F8f (DT converter 50).
  • the third transfer element F8d quantizes the post-stage voltage signal VO output by the second transfer element F8c (buffer 21).
  • the quantization process follows equation (3).
  • the third transfer element F8d (A/D converter 30) generates a digital signal DFB as an increment code for digital domain feedback as a result of the quantization process.
  • a fourth transfer element F8e receives the digital signal DFB.
  • the fourth transfer element F8e performs a count-up operation of adding 1 to the (n-1)th internal variable (control variable) when the digital signal DFB is 1 in the nth operation.
  • the counter 41 counts the digital signal DFB whose component is one. For example, when the charge difference value is the first information (0 or plus) during C measurement, the A/D converter 30 outputs "1" as a digital value. On the other hand, when the charge difference value is the second information (negative) in C measurement, the A/D converter 30 outputs "0" as a digital value.
  • the counter 41 may perform a counting operation based on the digital value. As a result of performing the operation n times, the digital signal D M (n) output by the counter 41 is shown in Equation (4).
  • a fifth transfer element F8f receives the digital signal DM.
  • the fifth transfer element F8f obtains the delay time signal TM according to equation (5).
  • the delay time signal TM is obtained by multiplying the unit delay time ⁇ tD and the digital signal DM .
  • T M (n) delay time signal in the n-th operation.
  • ⁇ t D unit delay time. Conversion factor of DT converter 50;
  • FIG. 9(a) conceptually explains the operation of the C measurement.
  • FIG. 9(a) shows the digital signal DFB and the delay time signal TM .
  • the delay time signal TM is set to zero.
  • the delay time signal TM has a unit delay time ⁇ t D is added. Therefore, in the repeated feedback operation, as long as the digital signal DFB is 1, the delay time signal TM increases stepwise with the unit delay time ⁇ tD as one step.
  • the delay time approaches the optical time-of-flight (TOF).
  • TOF optical time-of-flight
  • the delay time signal TM becomes greater than the optical time-of-flight (TOF).
  • TOF optical time-of-flight
  • DFB the addition of the unit delay time ⁇ tD to the delay time signal TM stops.
  • the delay time signal TM which is the output value of the DT converter 50, stops incrementing.
  • the digital signal DM which is the output value of the counter 41, is given by equation (6).
  • D M (n C ) The output value of the counter 41 in the n Cth feedback operation.
  • n C Number of times the delay time signal TM stopped increasing.
  • nC defines the maximum value of the delay time signal TM in the DT converter 50;
  • the delay time signal T M (n C ), which is the output value of the DT converter 50 at the final step (n C ), is given by equation (7).
  • the DT converter 50 performs an incremental operation. Therefore, the difference between the optical time-of-flight (TOF) and the delay time signal T M (n C ) is the error. As shown in FIG. 9(b), the error is a value between - ⁇ t D /2 and + ⁇ t D /2.
  • the optical time-of-flight (TOF) measurement range (T M,Max ) is given by equation (8).
  • T M,Max measurement range of optical time-of-flight (TOF).
  • N C Maximum number of feedback operations in C measurement.
  • ⁇ t D unit delay time.
  • the final output result of the C measurement is the output Y coarse .
  • the output Y - - coarse is the final code stored in counter 41 .
  • the final code is given by equation (9).
  • Y coarse the final output result of the C measurement.
  • n C Counter value when unit delay time ⁇ t D stops increasing.
  • FIG. 10 is an equivalent block diagram of a configuration for F measurement.
  • FIG. 10 is an equivalent block diagram of F-measurement employing first-order delta-sigma modulation (DSM) with time-domain negative feedback.
  • DSM first-order delta-sigma modulation
  • the distance image sensor 3 has a first summation point F10a, a second summation point F10b, a sixth transmission element F10c, a seventh transmission element F10d, a third summation point F10e, and an eighth transmission element F10f. , a ninth transmission element F10g and a tenth transmission element F10h.
  • a sixth transfer element F10c and a second summing point F10b correspond to the demodulator 12 .
  • a seventh transfer element F10d corresponds to the integrator 22 .
  • a summing point F10e corresponds to the A/D converter 30.
  • the eighth transfer element F10f corresponds to a differentiation circuit arranged in the feedback system of the delta-sigma modulator F10.
  • a ninth transfer element F10g and a tenth transfer element F10h correspond to the DT converter 50.
  • the output value DFB of the delta-sigma modulator F10 is expressed by equation (11).
  • K INT the gain of the integrator 22;
  • K M the time-to-voltage conversion gain of the demodulator 12;
  • E q (z) is the quantization noise of A/D converter 30 .
  • D(z) is the difference to ⁇ TOF for the time domain feedback.
  • D(z) is given by equation (12).
  • ⁇ TOF(z) difference in optical time-of-flight.
  • ⁇ t D unit delay time.
  • Equation (14) the overall system response in the z-domain for the delta-sigma modulation portion of FIG. 10 is given by equation (13).
  • K INT the gain of the integrator 22
  • K M the time-to-voltage conversion gain of the demodulator 12
  • ⁇ TOF(z) difference in optical time-of-flight.
  • ⁇ t D unit delay time.
  • E q (z) quantization noise of A/D converter 30 .
  • the loop gain is 1 when the first-order delta-sigma modulator F10 including the A/D converter 30 operates stably.
  • Equation (14) is obtained from Equation (13).
  • Equation (14) gives the signal-to-quantization noise transfer function.
  • the signal transfer function that is, the relationship between the digital signal D FB and the differential optical time-of-flight ⁇ TOF is the same as the reciprocal of the unit delay time ⁇ t D of the DT converter 50 .
  • Equation (15) To estimate the quantization noise of the delta-sigma transform, we use equation (15) to compute the square of the noise transfer function in the frequency domain. As a result, equation (16) is obtained.
  • f frequency.
  • T SO oversampling period.
  • f SO Oversampling frequency.
  • FIG. 11 shows the power spectral density form of the quantization error due to the noise transfer function given by equation (16).
  • a quantization error of the form shown in FIG. 11 can be effectively reduced by using a digital low-pass filter ( LPF ) with a cutoff frequency fLPF.
  • LPF digital low-pass filter
  • fLPF cutoff frequency
  • the increment ⁇ ENOB 1 in the number of valid bits in this case is given by equation (18).
  • N F 64 (or 66 for error reduction) and a counter-based low-pass filter is used.
  • the ENOB increment in the F measurement circuit is 6 bits. From equation (18), doubling the oversampling ratio N F doubles the processing time for the C measurement. On the other hand, ENOB can be increased by one bit.
  • FIG. 12 is a timing chart collectively showing C measurement and F measurement.
  • FIG. 12 shows conceptual drive waveforms for a technology for measuring the time of flight (TOF) by C measurement and F measurement.
  • the distance image pickup device 1 first performs C measurement.
  • the DT converter 50 of the range imaging device 1 produces ⁇ t D ⁇ n C as an estimate of the light time-of-flight.
  • the range image pickup device 1 then performs F measurement.
  • the distance image pickup device 1 operates as a delta-sigma modulator.
  • the DT converter 50 of the distance image pickup device 1 outputs a signal that is a bitstream waveform.
  • the bitstream waveform contains two states, ⁇ t D ⁇ n C and ⁇ t D ⁇ (n C ⁇ 1).
  • the output value of delta-sigma modulator F10 is output to a low pass filter.
  • Y fine is obtained as the output value of the F measurement.
  • FIG. 12 shows the filter output when a digital counter (primary integrator) is used in the decimation filter.
  • Y fine which is the output value of the F measurement, is given by equation (19).
  • Y fine takes a value between 0 and 1.
  • Y fine Output value of F measurement.
  • n F number output from delta-sigma modulator F10.
  • N F Total sampling number in F measurement.
  • the output value Y TOF representing the optical time-of-flight is given by equation (20) or equation (21).
  • NC and NF are 2M C and 2M F
  • the technique of optical time-of-flight measurement including C and F measurements, converts the optical time-of-flight (TOF) into a (m C +m F )-bit digital code. Convert.
  • FIG. 13 and 14 show circuit configurations of the pixel circuit section 10, the pixel 121 and the pre-amplifier 122.
  • FIG. The pixel circuit section 10 has a photodiode 11 (photoelectric conversion section) and a demodulator 12 .
  • Photodiode 11 receives reflected light L2 from object 100 .
  • the pixel 121 outputs a first charge quantity Q1 and a second charge quantity Q2 to the preamplifier 122 .
  • the photodiode 11 outputs the generated charges to the demodulator 12 .
  • Photodiode 11 is connected to a reference potential Vref.
  • the demodulator 12 includes a first floating diffusion portion FD 1 (first charge readout region), a first transfer control gate G 1 (first control electrode), and a second floating diffusion portion FD 2 (second charge readout region). , a second transfer control gate G2 ( second control electrode), a voltage source VD , and a third transfer control gate GD .
  • Demodulator 12 receives charge from photodiode 11 .
  • Demodulator 12 outputs to analog processing unit 20 a first pre-voltage signal VP1 and a second pre-voltage signal VP2 .
  • the output of the photodiode 11 is connected to the first transfer control gate G1 , the second transfer control gate G2, and the third transfer control gate GD.
  • the first transfer control gate G1 and the second transfer control gate G2 are gates based on the principle of lateral electric field controlled charge modulator (LEFM).
  • LFM lateral electric field controlled charge modulator
  • the first transfer control gate G1 is connected to the first floating diffusion FD1. Therefore, the first transfer control gate G1 is arranged between the photodiode 11 and the first floating diffusion FD1.
  • a first transfer control gate G1 permits charge transfer from the photodiode 11 to the first floating diffusion FD1.
  • the first transfer control gate G1 inhibits charge transfer from the photodiode 11 to the first floating diffusion FD1. Permission and prohibition of transfer are switched according to the voltage of the control signal applied to the first transfer control gate G1.
  • the voltage of the control signal applied to the first transfer control gate G1 is a so-called "HIGH"
  • the first transfer control gate G1 enables charge transfer from the photodiode 11 to the first floating diffusion FD1.
  • the first transfer control gate G1 enables charge transfer from the photodiode 11 to the first floating diffusion FD1. prohibited.
  • the first floating diffusion FD 1 is connected to the first input terminal of the preamplifier 122 .
  • the first floating diffusion FD1 accumulates charges transferred from the photodiode 11 as first charges.
  • connection configuration of the second transfer control gate G2 and the second floating diffusion FD2 is the same as that of the first transfer control gate G1 and the first floating diffusion FD1. Therefore, detailed description is omitted.
  • the third transfer control gate GD is a MOS transistor gate.
  • the drain of the MOS transistor is connected to the voltage source VD . Therefore, the third transfer control gate GD is arranged between the photodiode 11 and the voltage source VD .
  • the third transfer control gate GD permits charge transfer from the photodiode 11 to the drain when a control signal corresponding to HIGH is given. The charge is discharged to the drain.
  • the third transfer control gate GD inhibits charge transfer from the photodiode 11 to the drain when a control signal corresponding to LOW is applied.
  • the preamplifier 122 is a fully differential charge sensitive amplifier (CSA).
  • the preamplifier 122 receives the first charge quantity Q 1 and the second charge quantity Q 2 from the pixel 121 .
  • the preamplifier 122 outputs a first prestage voltage signal VP1 and a second prestage voltage signal VP2 to the analog processing unit 20 .
  • the pre-amplifier 122 has an operational amplifier 122S, feedback capacitors C S1 and C S2 , and reset switches P R11 and P R12 .
  • the preamplifier 122 has a first common mode feedback controller 122A.
  • the operational amplifier 122S has a first input terminal, a second input terminal, and a third input terminal.
  • the operational amplifier 122S has a first output and a second output.
  • the first input terminal is connected to the first floating diffusion FD1.
  • a first input terminal receives a first amount of charge Q1 stored in the first floating diffusion FD1.
  • the first output is connected to the input of analog processing unit 20 .
  • the first output terminal outputs the first pre-voltage signal VP1 to the input terminal of the analog processing unit 20 .
  • the first output is connected to a first common mode feedback controller 122A.
  • the first output outputs the first pre-voltage signal VP1 to the first common mode feedback controller 122A.
  • connection configuration of the second input terminal and the second output terminal is the same as the connection configuration of the first input terminal and the first output terminal. Therefore, detailed description is omitted.
  • the third input is connected to the first common mode feedback controller 122A.
  • a third input receives a control signal from the first common mode feedback controller 122A.
  • the first common mode feedback controller 122A controls the operational amplifier 122S such that the average level of the fully differential output is equal to the common voltage VCOM .
  • a feedback capacitor CS1 is connected between the first input and the first output.
  • a reset switch PR11 is connected between the first input and the first output. The reset switch PR11 is electrically connected in parallel with the feedback capacitor CS1 .
  • the first preamplifier 122 first preamplifier voltage signal VP1 is given by equation (22).
  • the second pre-stage voltage signal VP2 of pre-amplifier 122 is given by equation (23).
  • V P1 First pre-stage voltage signal.
  • V P2 Second pre-stage voltage signal.
  • Q 1 the first charge amount accumulated in the first floating diffusion portion FD1 .
  • Q 2 the second charge amount accumulated in the second floating diffusion portion FD2 .
  • C S Capacitance value of feedback capacitor C S1 and feedback capacitor C S2 .
  • V COM reference voltage.
  • the first charge amount Q1 is given by equation (24).
  • the second charge quantity Q2 is given by equation (25).
  • Q S1 Signal charge amount due to reflected light in the first charge amount Q 1 .
  • Q S2 Signal charge amount due to reflected light in the second charge amount Q 2 .
  • Q B Noise charge amount due to background light in the first charge amount Q 1 and the second charge amount Q 2 .
  • the differential pre-voltage signal ⁇ VP is given by equation (26).
  • the differential preamplifier voltage signal ⁇ V P which is the output value of the preamplifier 122, cancels the background light component (Q B ).
  • the differential pre-stage voltage signal ⁇ VP is proportional to the difference between the signal charge amount QS1 and the signal charge amount QS2 .
  • ⁇ V P differential pre-voltage signal.
  • V P1 First pre-stage voltage signal.
  • V P2 Second pre-stage voltage signal.
  • Q S1 Signal charge amount due to reflected light in the first charge amount Q 1 .
  • Q S2 Signal charge amount due to reflected light in the second charge amount Q 2 .
  • C S Capacitance value of feedback capacitor C S1 and feedback capacitor C S2 .
  • the charge-to-voltage conversion gain G C is given by equation (27).
  • G C charge-to-voltage conversion gain.
  • ⁇ V P differential pre-voltage signal.
  • Q S1 Signal charge amount due to reflected light in the first charge amount Q 1 .
  • Q S2 Signal charge amount due to reflected light in the second charge amount Q 2 .
  • C S Capacitance value of feedback capacitor C S1 and feedback capacitor C S2 .
  • the number of photons contained in one short pulse light is small. Therefore, the signal is enhanced by periodically receiving many cycles of the reflected light.
  • FIG. 15 is a timing chart showing the operation of the circuit section of the pixel 10 and the demodulator 12.
  • FIG. 15 the behavior of the differential pre-voltage signal ⁇ VP is shown for three different relative delay time signals tD .
  • the relative delay time signal TD is 0 and the signal charge amount QS1 and the signal charge amount QS2 are equal
  • the differential pre-stage voltage signal ⁇ VP is 0.
  • the relative delay time signal t D is greater than 0 (t D >0)
  • the absolute value of the differential pre-voltage signal ⁇ V P gradually increases. The sign in this case is positive.
  • it is less than the relative delay time signal T D (t D ⁇ 0) the absolute value of the differential pre-voltage signal ⁇ V P gradually increases.
  • the sign in this case is negative. Therefore, it is possible to measure the relative optical pulse delay by optical time-of-flight.
  • the demodulator 12 including the charge-sensitive preamplifier 122 can be employed to measure optical pulse delay.
  • FIG. 16 shows the circuit configuration of the analog processing unit 20.
  • Analog processing unit 20 receives first pre-voltage signal VP1 and second pre-voltage signal VP2 from pre-amplifier 122 .
  • the analog processing unit 20 outputs the first rear voltage signal VO1 and the second rear voltage signal VO2 to the A/D converter 30 .
  • the analog processing unit 20 has a pre-processing section 23 and a post-amplification section 24 .
  • the preprocessing unit 23 has input capacitors C I1 and C I2 , input switches P S1 and P S2 , and drain switches P R1D1 and P R1D2 .
  • Input capacitors C I1 and C I2 are connected to the output of preamplifier 122 .
  • Input capacitors C I1 , C I2 are connected to input switches P S1 , P S2 and drain switches P R1D1 , P R1D2 .
  • the input switches P S1 and P S2 are connected to the input capacitors C I1 and C I2 and the input terminal of the operational amplifier 20S of the post-amplifying section 24 .
  • Drain switches P R1D1 , P R1D2 are connected to input capacitors C I1 , C I2 and a reference potential V ref .
  • the post-amplifier section 24 includes an operational amplifier 20S, a feedback capacitor C F1 , a feedback capacitor C F2 , reset switches P R21 and P R22 , and a second common mode feedback controller 20 A (common mode feedback control section). have.
  • the circuit configuration of the post-amplifier section 24 is the same as that of the pre-amplifier 122 . Therefore, a detailed description of the connection of the elements constituting the post-amplifying section 24 will be omitted.
  • the analog processing unit 20 functions as a buffer 21 when it is a C measurement.
  • the analog processing unit 20 functions as an integrator 22 when it is an F measurement.
  • the analog processing unit 20 realizes respective operations by controlling input switches P S1 and P S2 , drain switches P R1D1 and P R1D2 and reset switches P R21 and P R22 .
  • analog processing unit 20 for functioning as the buffer 21 will be described. According to this operation, analog processing unit 20 can be viewed as a fixed gain amplifier. When functioning as buffer 21, analog processing unit 20 takes two modes of operation.
  • the drain switches P R1D1 and P R1D2 are turned on.
  • the differential pre-voltage signal ⁇ V P is sampled across the input capacitors C I1 and C I2 .
  • the reset switches P R21 and P R22 are turned on.
  • feedback capacitor CF1 and feedback capacitor CF2 are reset.
  • the drain switches P R1D1 and P R1D2 are turned off. Furthermore, the input switches P S1 and P S2 are turned on. As a result, the charges sampled in the input capacitors C I1 and C I2 are transferred to the feedback capacitors C F1 and C F2 such that the input signal is amplified by the capacitance ratio (C I /C F ).
  • the reset switches P R21 and P R22 are turned off. Input switches P S1 and P S2 are turned on. As a result, the charges sampled in the input capacitors C I1 and C I2 are transferred to the feedback capacitors C F1 and C F2 such that the input signal is amplified by the capacitance ratio (C I /C F ).
  • the gain AI of buffer 21 is given by equation (28).
  • the gain of the buffer 21 is the gain of the differential output with respect to the differential input.
  • a I the gain of the buffer 21;
  • ⁇ V O differential pre-voltage signal.
  • ⁇ V P differential post-stage voltage signal.
  • C I Capacitance value of input capacitor C I1 and input capacitor C I2 .
  • C F Capacitance values of the feedback capacitor C F1 and the feedback capacitor C F2 .
  • analog processing unit 20 can be viewed as a fully differential switched capacitor integrator.
  • the reset switches P R21 and P R22 are turned ON to reset the charge on the feedback capacitors C F1 and C F2 .
  • FIG. 17 shows the circuit configuration of the DT converter 50 and the transfer control pulse generator 70.
  • DT converter 50 receives digital signal DM from digital processing unit 40 .
  • DT converter 50 receives signal TS from optical trigger controller 84a. The DT converter 50 starts operating with the signal TS as a trigger.
  • the DT converter 50 has a first delay line 51a, a second delay line 51b, a third delay line 51c, a first digital comparator 52a, a second digital comparator 52b, and a third digital comparator 52c. .
  • the first delay line 51a, the second delay line 51b, and the third delay line 51c are delay circuits capable of digital control.
  • the first delay line 51a is connected to an optical trigger controller 84a (see FIG. 18).
  • the first delay line 51a receives the signal TS from the optical trigger controller 84a.
  • the first delay line 51a is connected to the input end of the second delay line 51b.
  • the second delay line 51b is connected to the input end of the third delay line 51c.
  • the first delay line 51a, the second delay line 51b and the third delay line 51c are electrically connected in series.
  • Each of the first delay line 51a, the second delay line 51b and the third delay line 51c has a 5-bit counter.
  • the first delay line 51a outputs the first binary counting code to the first digital comparator 52a.
  • a first digital comparator 52 a compares the first binary counting code with the digital signal DM of the digital processing unit 40 .
  • the first digital comparator 52a outputs the comparison result to the transfer control pulse generator 70 as a signal DCO0.
  • Signal DCO0 is for the first transfer control pulse SG1 applied to the first transfer control gate G1.
  • connection configuration and operation of the second delay line 51b and the second digital comparator 52b are the same as the connection configuration and operation of the first delay line 51a and the first digital comparator 52a. Therefore, detailed description is omitted.
  • connection configuration and operation of the third delay line 51c and the third digital comparator 52c are also the same as the connection configuration and operation of the first delay line 51a and the first digital comparator 52a. Therefore, detailed description is omitted.
  • Transfer control pulse generator 70 receives signals DCO 0 , DCO 1 and DCO 2 from DT converter 50 .
  • the transfer control pulse generator 70 outputs a first transfer control pulse SG 1 , a second transfer control pulse SG 2 and a third transfer control pulse SG D to the demodulator 12 .
  • the transfer control pulse generator 70 has a first logic element 71a, a second logic element 71b, a third logic element 71c, a first element 72a, a second element 72b, and a third element 72c.
  • the first logic element 71a is an AND circuit.
  • a first digital comparator 52a is connected to the non-inverting input terminal of the first logic element 71a.
  • a second digital comparator 52b is connected to the inverting input terminal of the first logic element 71a.
  • a first element 72a is connected to the output terminal of the first logic element 71a.
  • the first element 72 a outputs a first transfer control pulse SG 1 to the demodulator 12 .
  • the second logic element 71b is also an AND circuit.
  • a second digital comparator 52b is connected to the non-inverting input terminal of the second logic element 71b.
  • a third digital comparator 52c is connected to the inverting input terminal of the second logic element 71b.
  • a second element 72b is connected to the output terminal of the second logic element 71b. The second element 72 b outputs a second transfer control pulse SG 2 to the demodulator 12 .
  • the third logic element 71c is an OR circuit.
  • a third digital comparator 52c is connected to the non-inverting input terminal of the third logic element 71c.
  • the first digital comparator 52a is connected to the inverting input terminal of the third logic element 71c.
  • a third element 72c is connected to the output terminal of the third logic element 71c.
  • the third element 72 c outputs the third transfer control pulse SGD to the demodulator 12 .
  • the range imaging device 1 has a light source 2, a chip component 83, and an FPGA84.
  • the chip component 83 and FPGA 84 are arranged on the printed circuit board 81 .
  • a comparator 85 is also arranged on the printed circuit board 81 .
  • the printed circuit board 81 has a JTAG interface for outputting the signal output by the chip component 83 to the outside.
  • the printed circuit board 81 outputs signals output by the chip component 83 to the computer 200 via the JTAG interface.
  • Chip component 83 includes digital delay line 51, digital comparator 52, transfer control pulse generator 70, photodiode 11, demodulator 12, preamplifier 122, analog processing unit 20, and multiplexer 83a. include.
  • the chip component 83 receives various control signals from the FPGA 84 .
  • Chip component 83 receives reflected light L2 from object 100 .
  • the analog processing unit 20 of chip component 83 is connected to comparator 85 via multiplexed channels.
  • the chip component 83 outputs the first post-stage voltage signal VO1 and the second post-stage voltage signal VO2 to the comparator 85 .
  • a comparator 85 generates a bitstream signal based on the first post-voltage signal VO1 and the second post-voltage signal VO2 . Comparator 85 outputs a bitstream signal to FPGA 84 .
  • FPGA 84 has an optical trigger controller 84a, a digital processing unit 40, and a readout controller 84b.
  • FPGA 84 receives from comparator 85 digital signal DFB, which is a bit stream signal.
  • FPGA 84 outputs a signal to chip component 83 .
  • the optical trigger controller 84 a outputs a signal TL to the digital delay controller 82 .
  • the optical trigger controller 84 a outputs the signal TS to the digital delay line 51 of the chip component 83 .
  • the digital processing unit 40 has a counter 41 , an adder 42 and a decimation filter 60 .
  • Digital processing unit 40 outputs a digital signal DM to digital delay line 51 .
  • the readout controller 84b outputs a clock signal PC[n] to the preamplifier 122, the analog processing unit 20 and the multiplexer 83a.
  • a direct-type device directly measures the time from the emission of irradiation light to the reception of reflected light.
  • an indirect type device distributes charges generated by reflected light to two or more regions (tap) for each time. Distribution of electric charges is also called demodulation.
  • Indirect devices derive the light flight time based on the ratio of the amount of charge distributed to each region.
  • the range imaging device 1 is required to have high accuracy, accuracy, linearity, and resistance to ambient light.
  • a direct-type device usually employs a SPAD (SINGLE PHOTON AVALANCHE DIODE) as an element for measuring an optical signal.
  • SPAD SINGLE PHOTON AVALANCHE DIODE
  • Direct-type devices using SPAD and all-digital-domain processing are suitable for high-accuracy optical time-of-flight measurements.
  • the optical time-of-flight is digitized by a TIME-TO-DIGITAL (TD) converter.
  • TD TIME-TO-DIGITAL
  • a direct type device with a TD converter has high resolution and good linearity.
  • the direct type device has a large circuit scale.
  • the resolution of the TD transducer limits range resolution. Therefore, direct-type devices are difficult to measure over short distances. If the direct type device is required to have extremely high resolution and resistance to ambient light, the hardware configuration of the direct type device becomes complicated.
  • indirect devices employ pixels with two or more charge storage regions. Pixels with more than one charge storage region are also referred to as lock-in pixels. Indirect devices demodulate by locking in the photocharge signal to the light emission trigger pulse signal. The indirect device then converts the demodulated photocharge signal to a digital signal by an A/D converter. The indirect device then obtains the ratio of the amount of charge in the first charge storage region and the amount of charge in the second charge storage region. The indirect device then calculates the distance based on the ratio of the charge amounts.
  • the resolution and linearity of indirect devices depend on the system response of the photocharge demodulator and A/D converter.
  • the resolution and linearity of indirect instruments are lower than those of direct instruments.
  • the indirect type device has advantages over the direct type device in that the pixel size is smaller and the circuit is less complex.
  • indirect devices have the advantage over direct devices in that they provide relatively reliable range resolution for range measurements of several meters.
  • Indirect devices are further classified into two types according to the waveform of the modulated light.
  • the waveform of light is primarily continuous wave (CW).
  • the second is a short pulse wave.
  • An indirect device that uses a short pulse wave concentrates the power of the irradiation light into a short pulse wave. As a result, the charge draining feature of the pixel reduces the effects of ambient light. Therefore, indirect devices that use short pulse waves are highly resistant to ambient light.
  • indirect devices using short pulse waves have problems of nonlinearity of the pixel source follower amplifier and distortion of the optical pulse waveform due to processing in the analog domain when measuring the time of flight of light.
  • Indirect devices using short pulse waves also have the problem of finite optical carrier response time inside the photodiode and the problem of distortion of the transmission control pulse for demodulation. Indirect devices that use short pulse waves suffer from analog imperfections.
  • the full well capacity of pixels limits range resolution in indirect devices. Also, the full-well capacity of pixels limits depth noise in indirect devices.
  • the system response of an indirect device is limited in resolution and linearity by the transfer function of the demodulator and the transfer function of the A/D converter.
  • the system response of indirect devices has offsets and nonlinear coefficients. Offsets can be easily corrected. However, it is not easy to remove nonlinear coefficients from the system response. Extensive processing circuitry is required to correct the nonlinear coefficients. Complicated signal processing is required to correct the nonlinear coefficients.
  • the distance image measuring device 1 of the embodiment converts the calculated value obtained from the difference in the amount of charge related to the light flight time into a digital signal based on a predetermined condition. Then, the digital signal is used to control the timing of the transfer control pulse. As a result, it is possible to reduce the bias in the amount of charge in each charge readout region, thereby improving the overall performance.
  • the distance image pickup device 1 of the present embodiment performs measurement in a state where both the charge amounts of the two charge storage units are large, it is possible to minimize the influence of noise associated with charge storage and charge readout. Furthermore, in the fine measurement, the quantization error in the low frequency region is reduced by applying the delta-sigma modulation technique. On the other hand, the quantization error increases in the high frequency region. Therefore, a low-pass filter is provided in the subsequent stage. As a result, quantization error can be effectively reduced.
  • the distance image capturing device has been described in detail based on the embodiment.
  • the range imaging device is not limited to the above embodiments.
  • the range image pickup device can be modified in various ways without departing from the spirit of the device.
  • the above range image capturing device operated while switching between C measurement and F measurement.
  • the range imaging device may perform either C measurement or F measurement. That is, the distance image capturing device may perform only C measurement for obtaining approximate distance information.
  • the range image pickup device may omit the circuit configuration for F measurement.
  • a range image pickup device that performs only C measurement may operate using two unit delay times that are different from each other. That is, the range image capturing apparatus performs an operation based on the first unit delay time and an operation based on the second unit delay time shorter than the first delay time. According to such operation, the operation based on the second unit delay time can also be regarded as a pseudo F measurement.
  • the distance image capturing device may only perform F measurement. In this case, the distance image capturing device may omit the circuit configuration for C measurement.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Electromagnetism (AREA)
  • Optical Radar Systems And Details Thereof (AREA)

Abstract

距離画像撮像装置は、光源と、受けた光に対応する電荷を生成するフォトダイオードと、画素回路部の動作を制御する周辺回路4、を備える。周辺回路は、第1浮遊拡散部に蓄積される第1電荷量と第2浮遊拡散部に蓄積される第2電荷量との大小関係に基づいて、第1転送制御パルス及び第2転送制御パルスを生成する。

Description

距離画像撮像装置及び距離画像を撮像する方法
 本発明は、距離画像撮像装置及び距離画像を撮像する方法に関する。
 距離画像撮像装置は、距離画像を出力する。距離画像は、撮像対象物までの距離情報を有する。距離画像撮像装置は、測定光を撮像対象物に出射する。測定光は、撮像対象物において反射された後に、再び距離画像撮像装置に入射する。測定光を出射したタイミングと撮像対象物からの反射光が入射したタイミングとを利用すると、距離画像撮像装置から撮像対象物へ測定光が到達するために要した時間がわかる。この時間は、光飛行時間とも称する。光飛行時間と光の速度とを利用すると、距離画像撮像装置から撮像対象物までの距離がわかる。このような距離測定の手法は、タイムオブフライト測定法(TIME OF FLIGHT)と呼ばれている。タイムオブフライト測定法に基づく距離画像測定装置は、TOFセンサとも称される。特許文献1~5は、TOFセンサに関する技術を開示する。
 TOFセンサには、いわゆる直接型TOFセンサと間接型TOFセンサがある。直接型TOFセンサは、光飛行時間を直接に測定する。例えば、特許文献6、7は、直接型TOFセンサに関する技術を開示する。間接型TOFセンサは、反射光により生成される電荷を複数の領域に時間ごとに振り分ける。そして、間接型TOFセンサは、領域ごとに蓄積された電荷の比率を利用して、光飛行時間を得る。例えば、特許文献8~10は、間接型TOFセンサに関する技術を開示する。間接型TOFセンサは、直接型TOFセンサと比べると、画素サイズが小さくできること、回路を単純にできること、距離の分解能が高いといったいくつかの有利な点を有する。
特開2019-082331号公報 特開2016-090436号公報 再表2016/075885号公報 特開2008-076390号公報 特開平06-066940号公報 特開平07-191144号公報 特開平08-313631号公報 国際公開第2019/078366号 国際公開第2019/031510号 国際公開第2016/133053号
 間接型TOFセンサの性能を示す指標には、距離の分解能、及び距離と出力信号との線形性などが挙げられる。間接型TOFセンサの技術分野では、分解能及び線形性といった指標を含む総合的な性能の向上が望まれている。例えば、距離の分解能を高めるためには、測定光の照射時間を短くすればよい。つまり、短いパルス状の測定光を測定対象物に照射すればよい。より短いパルスを用いることは、距離分解能を改善するために有効である。しかし、画素のソースフォロワ増幅器の非線形性、光パルスの波形の歪、フォトダイオード内の有限な光キャリア応答時間、復調のための転送制御パルスの歪、及び、転送制御パルスのスキューなどが、解決すべき課題となってくる。その結果、線形性が損なわれる可能性がある。つまり、ある特性を向上させようとすると、別の特性を低下させてしまうことがある。そこで、発明者らは、間接型TOFセンサについて総合的に性能を向上することが可能な技術の検討を行った。
 本発明は、総合的な性能の向上が可能な距離画像撮像装置及び距離画像を撮像する方法を提供する。
 本発明の一形態である距離画像撮像装置は、パルス光を発生させる光源と、受けた光に対応する電荷を生成する複数の画素回路部を含む画素回路部アレイと、画素回路部アレイの動作を制御する転送制御パルスを画素回路部アレイに提供する周辺回路と、を備える。画素回路部は、光を電荷に変換する光電変換領域と、光電変換領域から転送された電荷を第1電荷として蓄積する第1電荷読出領域と、光電変換領域から第1電荷読出領域への電荷の転送を制御する第1転送制御パルスを受ける第1制御電極と、光電変換領域から転送された電荷を第2電荷として蓄積する第2電荷読出領域と、光電変換領域から第2電荷読出領域への電荷の転送を制御する第2転送制御パルスを受ける第2制御電極と、を有する。周辺回路は、第1電荷読出領域に蓄積される第1電荷の量と第2電荷読出領域に蓄積される第2電荷の量との大小関係に基づいて、第1転送制御パルス及び第2転送制御パルスを生成する。
 距離画像撮像装置は、光飛行時間に関する電荷量の差分から得た演算値に基づいて、転送制御パルスのタイミングを制御する。その結果、電荷読出領域ごとの電荷量の偏りを小さくすることが可能になる。従って、距離画像撮像装置は、総合的な性能が向上する。
 周辺回路は、第1電荷に基づく第1電圧と第2電荷に基づく第2電圧との差分に関する演算値を出力する第1演算部と、第1転送制御パルスおよび第2転送制御パルスを出力するタイミングを決定するための遅延時間を、演算値を用いて決定する第2演算部と、を有してもよい。周辺回路は、第1電荷及び第2電荷を蓄積する蓄積動作と、第1演算部の動作と、第2演算部の動作と、を繰り返してもよい。この構成によっても、電荷読出領域ごとの電荷量の偏りを小さくすることが可能になる。その結果、距離画像撮像装置は、総合的な性能が向上する。
 第2演算部は、第n回目の第2演算部の動作において、演算値が第1情報であるときに、第n回目の蓄積動作のために用いた第n回目の遅延時間を、さらに単位遅延時間だけ遅らせたものを、第n+1回目の蓄積動作のために用いる第n+1回目の遅延時間として決定してもよい。この動作によれば、電荷量の偏りを抑制できる。
 第2演算部は、第n回目の第2演算部の動作において、演算値が第1情報であるときに制御変数に1を加える動作を行うカウンタと、制御変数と単位遅延時間とを乗算して得た値を、第n+1回目の蓄積動作のために用いる第n+1回目の遅延時間として決定する遅延時間決定部と、を有してもよい。この構成によれば、電荷量の偏りを抑制できる。
 第1演算部は、第1電圧と第2電圧との差分を差分電圧として出力した後に、第1回目から第m-1回目までの差分電圧の積分値に第m回目の差分電圧を加算した結果を、第m回目の差分電圧の積分値として求めてもよい。第2演算部は、第m回目の積分値が第2情報であるときに、第n+1回目の蓄積動作のために用いる第n+1回目の遅延時間を第1遅延時間として決定し、第m回目の積分値が第1情報であるときに、第m+1回目の遅延時間を第2遅延時間として決定してもよい。この動作によれば、単位遅延時間に起因する誤差が抑制された光飛行時間を得ることができる。
 第1演算部は、第1回目から第m-1回目までの差分電圧の積分値に第m回目の差分電圧を加算した結果を、第m回目の積分値として求める積分器を有してもよい。第2演算部は、第m回目の積分値が第2情報であるときに第m+1回目の遅延時間として第1遅延時間を決定し、第m回目の積分値が第1情報であるときに第m+1回目の遅延時間として第2遅延時間を決定する遅延時間決定部を有してもよい。この構成によれば、単位遅延時間に起因する誤差が抑制された光飛行時間を得ることができる。
 距離画像撮像装置は、第1演算部が出力する演算値をデジタル信号に変換し、デジタル信号を第2演算部に出力すると共に、第1演算部及び第2演算部と協働してデルタシグマ変調器を構成するA/D変換器と、蓄積動作、第1演算部の動作、A/D変換器の動作及び第2演算部の動作が繰り返されるごとに、A/D変換器が出力するデジタル信号を受け、デジタル信号に対してローパスフィルタ処理とダウンサンプリングとを行うデシメーションフィルタをさらに備えてもよい。
 デシメーションフィルタのローパスフィルタ処理のオーバーサンプリング比は、2B―1より大きく2より小さい整数であってもよい。Bはオーバーサンプリング比を表現可能な最小ビット数であってもよい。
 周辺回路は、第1電荷及び第2電荷を蓄積する蓄積動作と、第2演算部が、第n回目の第2演算部の動作において、演算値が第1情報であるときに、第n回目の蓄積動作のために用いた第n回目の遅延時間を、さらに単位遅延時間だけ遅らせたものを、第n+1回目の蓄積動作のために用いる第n+1回目の遅延時間として決定する動作と、を含む処理を繰り返す第1測定と、蓄積動作と、第1演算部が、第1電圧と第2電圧との差分を差分電圧として出力した後に、第1回目から第m-1回目までの差分電圧の積分値に第m回目の差分電圧を加算した結果を、第m回目の差分電圧の積分値として求める動作と、第2演算部が、第m回目の積分値が第2情報であるときに第m+1回目の遅延時間として第1遅延時間を決定し、第m回目の積分値が第1情報であるときに第m+1回目の遅延時間として第2遅延時間を決定する動作と、を含む処理を繰り返す第2測定と、を行ってもよい。この動作によるループによれば、第1測定でおおよその光飛行時間を測定できる。第1測定の結果を利用して、第2測定で精密な光飛行時間を測定することができる。
 第1演算部は、第1回目から第m-1回目までの差分電圧の積分値に第m回目の差分電圧を加算した結果を求める積分器を含んでもよい。第2演算部は、第n回目の第2演算部の動作において、演算値が第1情報であるときに制御変数に1を加える動作を行うカウンタと、制御変数と単位遅延時間とを乗算して得た値を、第n+1回目の蓄積動作のために用いる第n+1回目の遅延時間として決定する動作、又は、第m回目の積分値が第2情報であるときに第m+1回目の遅延時間として第1遅延時間を決定し、第m回目の積分値が第1情報であるときに第m+1回目の遅延時間として第2遅延時間を決定する動作を選択的に実行する遅延時間決定部と、を有してもよい。この構成によるループによれば、第1測定でおおよその光飛行時間を測定できる。第1測定の結果を利用して、第2測定で精密な光飛行時間を測定することができる。
 第1演算部は、第1電圧と第2電圧との差分を差分電圧として出力する差動増幅器を含んでもよい。差動増幅器は、第1入力端、第2入力端、第3入力端、第1出力端及び第2出力端を有する演算増幅器と、第1電荷読出領域から第1電荷を受けると共に、第1入力端及び第1出力端に接続された帰還キャパシタと、第2電荷読出領域から第2電荷を受けると共に、第2入力端及び第2出力端に接続された帰還キャパシタと、第3入力端、第1出力端及び第2出力端に接続され、第1出力端からの出力値と、第2出力端からの出力値と、の差分がコモン電圧と等しくなるように、第3入力端に信号を提供するコモンモード帰還制御部と、を含んでもよい。
 本発明の別の形態である距離画像撮像装置を用いて距離画像を撮像する方法は、第1制御電極に与えられる第1転送制御パルスに基づいて第1電荷読出領域に第1電荷を蓄積すると共に、第2制御電極に与えられる第2転送制御パルスに基づいて第2電荷読出領域に第2電荷を蓄積する電荷蓄積工程と、第1電荷の量と第2電荷の量との大小関係に基づいて、第1転送制御パルス及び第2転送制御パルスを生成するパルス生成工程と、を有する。
 距離画像を撮像する方法によれば光飛行時間に関する電荷量の差分から得た演算値に基づいて、転送制御パルスのタイミングを制御する。その結果、電荷読出領域ごとの電荷量の偏りを小さくすることが可能になる。従って、距離画像撮像装置を用いて距離画像を撮像する方法は、総合的な性能が向上する。
 パルス生成工程は、第1電荷に基づく第1電圧と第2電荷に基づく第2電圧との差分に関する演算値を出力する演算工程と、第1転送制御パルスおよび第2転送制御パルスを出力するタイミングを決定するための遅延時間を、演算値を用いて決定する遅延時間決定工程と、を含んでもよい。電荷蓄積工程及びパルス生成工程を繰り返してもよい。この方法によれば、電荷量の偏りを抑制できる。
 遅延時間決定工程は、第n回目の演算工程において、演算値が第1情報であるときに、第n回目の電荷蓄積工程のために用いた第n回目の遅延時間を、さらに単位遅延時間だけ遅らせたものを、第n+1回目の電荷蓄積工程のために用いる第n+1回目の遅延時間として決定する工程を含んでもよい。この方法によれば、電荷量の偏りを抑制できる。
 遅延時間決定工程は、第1電圧と第2電圧との差分を差分電圧として出力した後に、第1回目から第m-1回目までの差分電圧の積分値に第m回目の差分電圧を加算した結果を、第m回目の差分電圧の積分値として求める工程と、第m回目の積分値が第2情報であるときに、第m+1回目の電荷蓄積工程のために用いる第m+1回目の遅延時間を第1遅延時間として決定し、第m回目の積分値が第1情報であるときに、第m+1回目の遅延時間を第2遅延時間として決定する工程と、を含んでもよい。この方法によれば、単位遅延時間に起因する誤差が抑制された光飛行時間を得ることができる。
 遅延時間決定工程は第n回目の演算工程において、演算値が第1情報であるときに、第n回目の電荷蓄積工程のために用いた第n回目の遅延時間を、さらに単位遅延時間だけ遅らせたものを、第n+1回目の電荷蓄積工程のために用いる第n+1回目の遅延時間として決定する工程と、第1電圧と第2電圧との差分を差分電圧として出力した後に、第1回目から第m-1回目までの差分電圧の積分値に第m回目の差分電圧を加算した結果を、第m回目の差分電圧の積分値として求める工程と、第m回目の積分値が第2情報であるときに、第m+1回目の電荷蓄積工程のために用いる第m+1回目の遅延時間を第1遅延時間とし、第m回目の積分値が第1情報であるときに、第m+1回目の遅延時間を第2遅延時間として決定する工程と、を含んでもよい。この方法によるループによれば、おおよその光飛行時間を測定でき、その結果をもって精密な光飛行時間を測定することができる。
 本発明の距離画像撮像装置及び距離画像を撮像する方法は、総合的な性能の向上を図ることができる。
図1は、距離画像撮像装置の構成を示す図である。 図2は、距離画像を撮像する方法の主要な工程を示すフロー図である。 図3は、距離画像撮像装置の原理を示す図である。 図4(a)及び図4(b)は、光飛行時間の測定が有する問題点を説明する図である。 図5は、C測定を説明するための図である。 図6(a)及び図6(b)は、単位遅延時間の変更を概念的に示す図である。 図7は、露光動作の回数と電荷の差分の積分値との推移を示す図である。 図8は、C測定を行う構成の等価ブロック線図である。 図9(a)は、C測定の動作を概念的に説明する図である。図9(b)は量子化誤差を概念的に示す図である。 図10は、F測定を行う構成の等価ブロック線図である。 図11は、ノイズ伝達関数による量子化誤差の形を示す図である。 図12は、C測定とF測定とをまとめて示すタイミングチャートである。 図13は、画素回路部の構成を示す図である。 図14は、前段増幅器の回路構成を示す図である。 図15は、画素回路部及び復調器の動作を示すタイミングチャートである。 図16は、アナログ処理ユニットの回路構成を示す図である。 図17は、DT変換器と転送制御パルス発生器の回路構成を示す図である。 図18は、距離画像撮像装置の具体例を示す図である。
 以下、添付図面を参照しながら本発明を実施するための形態を詳細に説明する。図面の説明において同一の要素には同一の符号を付し、重複する説明を省略する。
 図1に示す距離画像撮像装置1は、距離画像を得る。距離画像とは、距離画像撮像装置1から対象物100までの距離情報を含む画像である。距離画像撮像装置1は、対象物100に向けて照射光L1(測定光)を出射する。照射光L1は、対象物100の表面において反射する。反射した反射光L2は、距離画像撮像装置1に入射する。距離画像撮像装置1は、照射光L1を出射したタイミングと反射光L2を受けたタイミングとの時間差を得る。この時間差は、光飛行時間とも称される。光飛行時間は、照射光L1が対象物100に到達した後に、さらに対象物100から距離画像撮像装置1に到達するまでに要した時間である。つまり、光飛行時間は、距離画像撮像装置1から対象物100までの距離に応じて決まる。従って、光飛行時間を得ることにより、距離画像撮像装置1から対象物100までの距離を得ることができる。
 距離を測定する原理を説明する。図3は、距離画像撮像装置1の原理を示す図である。距離画像撮像装置1は、光飛行時間を間接的に測定する。距離画像撮像装置1は、電荷を蓄積する複数個の領域を有する。距離画像撮像装置1は、光の入射によって光電変換領域に生じた電荷を、それぞれの蓄積領域に振り分ける。この振り分けは、光電変換領域から蓄積領域への電荷の転送を制御するゲートによって行われる。第1期間において第1蓄積領域に電荷を転送する。第1期間において、第2蓄積領域には電荷を転送しない。そして、第1期間に続く第2期間において第1蓄積領域への電荷の転送を停止すると共に、第2蓄積領域へ電荷を転送する。第1期間及び第2期間の時間Tと、第1蓄積領域の第1電荷量Qと第2蓄積領域の第2電荷量Qの比率と、を利用すると、光飛行時間を得ることができる。
 照射光L1を出射するタイミングと、第1蓄積領域への電荷転送期間との時間的な関係は、変化しないと仮定する。第2蓄積領域への電荷転送期間についても同様に、時間的な関係は変化しないと仮定する。この仮定のもとに、距離画像撮像装置1を動作させる。図4(a)に示すように、対象物100までの距離が近い場合には、照射光L1を出射してから反射光L2が入射するまでの時間が短い。従って、第1転送制御パルスSGによって動作する第1蓄積領域に蓄積される第1電荷量Qは多くなる。一方、第2転送制御パルスSGによって動作する第2蓄積領域に蓄積される第2電荷量Qは少なくなる。図4(b)に示すように、対象物100までの距離が遠い場合には、照射光L1を出射してから反射光L2が入射するまでの時間が長い。従って、第1蓄積領域に蓄積される第1電荷量Qは少なくなる。一方、第2蓄積領域に蓄積される第2電荷量Qは多くなる。つまり、対象物100までの距離が長くなるほど、第1電荷量Qが減少すると共に第2電荷量Qが増加する。
 第1蓄積領域及び第2蓄積領域へ電荷を蓄積する蓄積動作を実施するときには、反射光L2に起因しない電荷も蓄積されてしまう。つまり、蓄積領域には、反射光L2に起因する電荷と反射光L2に起因しない電荷とが蓄積される。反射光L2に起因しない電荷は、ノイズ成分となる。ノイズ成分は、電荷を蓄積するときだけでなく、電荷を読み出すときにも発生することがある。
 反射光L2に起因する電荷量が少ない場合には、反射光L2に起因しない電荷量の割合が相対的に大きくなる。その結果、距離の分解能の低下といった距離画像撮像装置1の性能に影響を及ぼす。この問題は、距離画像撮像装置1の測定範囲の上限又は下限に近付くに従って大きくなる。つまり、従来の距離画像撮像装置で採用されていたように、第1蓄積領域及び第2蓄積領域への転送のタイミングが常に一定であると、対象物100までの距離によっては、一方の蓄積領域に蓄積される電荷量が非常に少なくなる。その結果、距離分解能の低下を招いていた。
 発明者らが鋭意検討した結果、照射光L1を出射するタイミングと第1蓄積領域への電荷の転送期間との時間的な関係を変化させることによって上記の問題を解決できることに想到した。第1転送制御ゲートG及び第2転送制御ゲートGを開くタイミングは、照射光L1の出射のタイミングに対して固定することなく、可変とする。発明者らは、第1転送制御ゲートG及び第2転送制御ゲートGを開くタイミングを第1転送制御ゲートGによって転送される第1電荷量Qと第2転送制御ゲートGによって転送される第2電荷量Qの大小関係に応じて制御することに想到した。
 電荷量の大小関係に応じた制御によれば、第1電荷量Qと第2電荷量Qとの偏りを小さくするような動作が可能になる。つまり、電荷量の差分を小さくするような動作が可能になる。その結果、ノイズの影響を抑制することができる。さらに、電荷量の大小関係に応じた制御によれば、いわゆるデルタシグマ変調技術を適用することも可能である。デルタシグマ変調技術によれば、量子化誤差を低減することができる。つまり、蓄積される電荷の偏りの解消と、デルタシグマ変調技術の導入による量子化誤差の低減と、により、測定範囲の全域にわたって距離分解能を向上させることが可能となる。
 電荷量の大小関係を用いた制御では、電荷量の大小関係に応じて電荷を転送するタイミングを制御するというフィードバックループを構成する。蓄積領域に蓄積された電荷量の差分をアナログ電圧の差分に変換する。次に、アナログ電圧の差分を二値のデジタル値に変換する。次に、デジタル値を用いて電荷を転送するタイミングを決める。決定されたタイミングに基づき画素を動作させると、再び蓄積領域に電荷が蓄積される。このフィードバックループでは、デジタル値を用いて電荷を転送するタイミングを決める点に技術的な特徴がある。つまり、デジタル値を時間に変換している。発明者らは、この技術を「時間領域フィードバック制御」と名付けた。
 電荷量の大小関係に応じて電荷を転送する制御は、2つの態様を含む。
 第1の態様では、電荷量の差分を減少させることを制御の目標とする。第1の態様によれば、既知のずれを含むおおよその光飛行時間を得ることができる。第1の態様によりおおよその光飛行時間を得る測定を、発明者らは、「Coarse測定」と名付けた。以下の説明では、単に「C測定」(第1測定)とも称する。
 図5は、C測定を説明するための図である。図5は、4回のフィードバック動作が行われる例を示している。照射光L1の出射期間と反射光L2の入射期間との時間的なずれは、反射光L2を生じた対象物100までの距離に対応する。
 1回目の動作(n=1)では、第1転送期間の終了を照射光L1の出射期間の中点に一致させる。第1転送期間の終了は、第2転送期間の開始と一致する。従って、第2転送期間の開始も出射期間の中点に一致する。このような第1転送期間及び第2転送期間の間に、反射光L2を受け入れる。なお、以下の説明において、反射光L2を受け入れて電荷を発生させる動作を、「露光動作」とも称する。1回目の露光動作では、反射光L2の入射期間は、第1転送期間には重複しない。反射光L2の入射期間は、第2転送期間の一部に重複する。1回目の露光動作の結果、第1蓄積領域の第1電荷量Qは、第2蓄積領域の第2電荷量Qより少ないという結果が得られる。電荷量の差分(=第2電荷量Q-第1電荷量Q)で評価した場合には、符号がプラス(正)であるといえる。
 この結果に基づき、2回目(n=2)の露光動作における第1転送期間及び第2転送期間を設定する。電荷量の差分がプラスであるとき、第1転送期間及び第2転送期間を当初のタイミングから、単位遅延時間Δtだけ遅らせる。2回目の露光動作では、1回目の露光動作から単位遅延時間Δtだけ遅れたタイミングで第1転送期間及び第2転送期間が設定される。2回目の露光動作では、反射光L2の入射期間は、第1転送期間には重複しない。反射光L2の入射期間は、第2転送期間の全期間に重複する。その結果、電荷量の差分の符号は、未だプラスである。
 3回目(n=3)の露光動作では、2回目の露光動作のタイミングからさらに単位遅延時間Δtだけ第1転送期間及び第2転送期間を遅らせる。つまり、3回目の露光動作の第1転送期間及び第2転送期間は、1回目の露光動作の第1転送期間及び第2転送期間から2Δtだけ遅れている。3回目の露光動作では、反射光L2の入射期間は、第1転送期間の一部に重複する。さらに、反射光L2の入射期間は、第2転送期間の一部にも重複する。第2転送期間の重複期間は、第1転送期間の重複期間より長い。従って、電荷量の差分の符号は、未だプラスである。
 4回目(n=4)の露光動作では、3回目の露光動作のタイミングからさらに単位遅延時間Δtだけ第1転送期間及び第2転送期間を遅らせる。つまり、3回目の露光動作の第1転送期間及び第2転送期間は、1回目の露光動作の第1転送期間及び第2転送期間から3Δtだけ遅れている。4回目の露光動作では、反射光L2の入射期間は、第1転送期間の一部に重複する。さらに、反射光L2の入射期間は、第2転送期間の一部にも重複する。第1転送期間の重複期間は、第2転送期間の重複期間より長い。従って、電荷量の差分の符号は、マイナスである。
 ここで、第1転送期間に蓄積される第1電荷量Qと第2転送期間に蓄積される第2電荷量Qとが等しいとき、第1転送期間の終了は反射光L2の入射期間の中央に一致する。照射光L1の照射タイミング(開始、中央又は終了)が既知であり、電荷量の差分がゼロとなる第1転送期間及び第2転送期間のタイミングがわかると、照射光L1に対する反射光L2の入射タイミングがわかる。つまり、光飛行時間がわかる。
 上述の1回目から4回目までの動作では、単位遅延時間Δt毎に第1転送期間及び第2転送期間をずらした。そうすると、電荷量の差分がゼロとなる場合も生じる。電荷量の差分がゼロとならないことも生じる。しかし、電荷量の差分の符号がプラスであったタイミングと、電荷量の差分の符号がマイナスであったタイミングと、の間に差分がゼロになるタイミングが存在することはわかる。
 差分の符号が切り替わる遅延時間を探索することにより、おおよその光飛行時間を得ることができる。この「おおよそ」とは、最大値として単位遅延時間Δtに相当する誤差を含むことを意味する。C測定に用いられる負帰還は、電荷量の差分に基づくデジタル値を時間へ変換する。変換された時間は、第1転送期間及び第2転送期間のための転送制御パルスの遅延時間に対応する。電荷量の差分を減少させる制御は、換言すると、転送制御パルスの遅延時間と光飛行時間との差分を減少させる負帰還制御ということもできる。このような制御によれば、アナログ読出回路の動作点を一定に維持することが可能になる。その結果、直線性を効果的に改善できる。
 C測定の結果は、遅延時間と、遅延時間の動作によって得た電荷量の差分と、を含む。C測定の結果は、次に説明するF測定の処理に用いる。
 電荷量の大小関係に応じて電荷を転送する制御における第2の態様について説明する。第2の態様では、露光動作を繰り返すごとに電荷量の差分を積分する。第2の態様では、各回の露光動作ごとに第1転送期間及び第2転送期間に対して付与する遅延時間を変更する。付与する遅延時間の変更は、電荷量の差分を積分した結果によって決める。積分の結果は、0又は1の二値のデジタル値に変換される。複数回の露光動作を繰り返すと、0又は1によって表現された情報が得られる。0が現れる回数及び1が現れる回数は、真の光飛行時間に関係する。従って、0が現れる回数及び1が現れる回数を利用することにより、C測定により得られるおおよその光飛行時間からさらに精密な光飛行時間を得ることができる。第2の態様により精密な光飛行時間を得る測定を、発明者らは、「Fine測定」と名付けた。以下の説明では、単に「F測定」(第2測定)とも称する。
 F測定の基本的な動作について説明する。F測定では、各回の露光動作ごとに第1転送期間及び第2転送期間に対して付与する遅延時間を変更する。図6は、遅延時間の変更を概念的に示す。F測定では、第1遅延時間(2Δt)と第2遅延時間(3Δt)とを用いる。第1遅延時間(2Δt)は、露光動作の結果として電荷量の差分がプラスとなるものである(図6(a)参照)。第2遅延時間(3Δt)は、露光動作の結果として電荷量の差分がマイナスとなるものである(図6(b)参照)。いずれの遅延時間を採用するかは、C測定の電荷量の差分の符号がプラスからマイナスに変わる前後に与えた単位遅延時間Δtの倍数と、電荷量の積分値と、に基づいて決める。例えば、図5に示すように、2Δtから3Δtとしたときに電荷量の差分の符号がプラスからマイナスに変わったため、第1遅延時間を2Δt、第2遅延時間を3Δtとした。しかし、これは例示である。第1遅延時間及び第2遅延時間は、電荷量の差分がプラスとマイナスになる組み合わせであれば良い。
 図7は、露光動作の回数の推移と電荷の差分の積分値の推移とを示す。図7には、積分値の符号と積分値の符号に対応する遅延時間との関係も併せて示す。F測定における0回目とは、C測定における最終回の1回前の動作に対応する。上述したC測定において、最終回の1回前(3回目)の露光動作の結果は、電荷量の差分を示す差分電荷量ΔQであった。差分電荷量ΔQの符号はプラスであった。差分電荷量ΔQの符号がプラスであるとき、次の露光動作では、第2遅延時間(3Δt)を採用する。F測定における1回目の露光動作の結果、差分電荷量ΔQ(符号はマイナス)が得られる。この差分電荷量ΔQを、0回目の積分値に加算する。その結果、あらたな積分値が得られる。あらたな積分値の符号は、未だプラスである。従って、次の2回目の露光動作でも、第2遅延時間(3Δt)を採用する。このように、露光動作による電荷の蓄積と、電荷量の差分の取得と、取得した差分の足し合わせと、足し合わせた結果の符号に応じた遅延時間の選択と、を順次繰り返す。図7の例では、3回目の露光動作の結果も、積分値の符号はプラスである。その一方、積分値の絶対値は次第に小さくなっていく。
 4回目の露光動作の結果、積分値の符号がプラスからマイナスに切り替わる。積分値の符号がマイナスであるとき、次の6回目の露光動作では、第1遅延時間(2Δt)を採用する。6回目の露光動作の結果、電荷量の差分は符号がプラスである(図6(a)参照)。6回目の電荷量の差分を、5回目の積分値に加算すると、積分値の符号は再びプラスに転じる。図7には、10回目までの露光動作の様子を示した。
 F測定の積分動作では、第1転送期間及び第2転送期間に付与される遅延時間と、求めたい光飛行時間との誤差の大きさと、に比例して、積分値への加算値が大きくなる。従って、誤差の小さな遅延時間の出現頻度は大きくなる。一方、誤差の大きな遅延時間の出現頻度は小さくなる。つまり、第1遅延時間及び第2遅延時間をその出現頻度で重み付け平均することで、光飛行時間を得ることができる。
 次に、F測定では、精密な光飛行時間を算出する。例えば、図7には、1回目から10回目の露光動作の結果として、第1遅延時間(2Δt)が2回現れている。第2遅延時間(3Δt)は8回現れている。その結果、光飛行時間は、式(1)によって得られる。
Figure JPOXMLDOC01-appb-M000001
 上述した、時間領域での負帰還技術である時間領域フィードバック制御を適用するF測定の動作は、いわゆる1次のデルタシグマ変調(DSM)動作であるともいえる。デルタシグマ変調によれば、オーバーサンプリング信号処理を用いた自己充足的な低歪と低ノイズ性を持つ。その結果、距離画像撮像装置1は、高い直線性と高い距離分解能とを達成することができる。
 ここまでの議論をまとめると、距離画像撮像装置1は、時間領域フィードバック制御という技術思想を採用する。そして、時間領域フィードバック制御の第1の態様としておおよその光飛行時間を得るC測定を行う。その後、時間領域フィードバック制御の第2の態様として、精密な光飛行時間を得るF測定を行う。このような動作によれば、距離画像撮像装置1は、高い直線性と高い距離分解などを達成可能であり総合的な性能が向上する。
 次に、時間領域フィードバック制御を用いた短パルスベース間接型TOFイメージセンサについて詳細に説明する。
 図1は、距離画像撮像装置1の機能ブロック図である。距離画像撮像装置1は、光源2と、距離画像センサ3と、を有する。光源2は、照射光L1を出射する。照射光L1は、対象物100で反射する。反射した照射光L1は、フォトダイオード11と復調器12とによって電圧信号に変換される。距離画像センサ3は、フォトダイオード11と、復調器12と、アナログ処理ユニット20(第1演算部)と、A/D変換器30と、デジタル処理ユニット40(第2演算部)と、DT変換器50(第2演算部、遅延時間決定部)と、を有する。これらの要素は、時間領域負帰還ループを構成する。距離画像センサ3は、光飛行時間を得る。光飛行時間を得ることにより、対象物100までの距離を得ることができる。
 距離画像センサ3は、上述したC測定とF測定とを行う。これらの動作によれば、距離画像センサ3の性能を高めることができる。より詳細には、距離画像センサ3は、光飛行時間と距離との関係を示す直線性が高い。距離画像センサ3は、光飛行時間の分解能が高い。つまり、距離画像センサ3は、距離の分解能が高い。さらに、距離画像センサ3は、高い直線性と高い分解能とを、広い測定範囲にわたって維持することができる。
 距離画像センサ3は、C測定のための時間領域負帰還ループと、F測定のための時間領域負帰還ループと、を相互に切り替える。この動作の切り替えは、アナログ処理ユニット20が実現する2種類の動作(バッファ動作、積分動作)の選択と、デジタル処理ユニット40が実現する2種類の動作(計数動作、加算動作)の選択と、による。C測定では、アナログ処理ユニット20が実現するバッファ21としての動作が選択されると共に、デジタル処理ユニット40が実現するカウンタ41としての動作が選択される。F測定では、アナログ処理ユニット20が実現する積分器22としての動作が選択されると共に、デジタル処理ユニット40が実現する加算器42としての動作が選択される。F測定が行われるとき、距離画像センサ3は、1次のデルタシグマ変調器であるとみなせる。
 光源2は、光飛行時間(TOF:TIME OF FLIGHT)方式による距離計測を行うために、対象物100に出射する照射光L1を発生させる。光源2は、半導体発光素子と駆動回路とを有する。半導体発光素子は、近赤外領域又は可視光領域等の波長領域の光を発生させる。半導体発光素子として、発光ダイオード又はレーザダイオードを採用できる。
 距離画像センサ3は、対象物100からの反射光L2を受ける。距離画像センサ3は、受けた反射光L2を利用して距離画像を出力する。距離画像センサ3は、フォトダイオード11と、復調器12と、アナログ処理ユニット20と、A/D変換器30と、デジタル処理ユニット40と、DT変換器50と、を有する。距離画像センサ3は、デシメーションフィルタ60を有する。
 画素回路部10のフォトダイオード11は、反射光L2を受ける。距離画像撮像装置1は、二次元状に配置された複数の画素回路部10を有する。二次元状に配置された複数の画素回路部10は、画素回路部アレイ10Sを構成する。フォトダイオード11は、反射光L2に応じた電荷を発生する。画素回路部10は、フォトダイオード11で発生した電荷を復調器12に転送する。画素回路部10の出力値は、第1電荷量Q、第2電荷量Q及び差分電荷量ΔQに基づく。画素回路部10の物理的な構成は、後述する。
 復調器12は、フォトダイオード11からの電荷の転送を制御する。復調器12は、フォトダイオード11から受けた電荷量の差分を電圧の差分として出力する。復調器12の出力値は、第1前段電圧信号VP1、第2前段電圧信号VP2及び差分前段電圧信号ΔVを含む。復調器12の物理的な構成は、後述する。
 アナログ処理ユニット20、A/D変換器30、デジタル処理ユニット40及びDT変換器50は、周辺回路4を構成する。周辺回路4は、デシメーションフィルタ60を含んでもよい。
 アナログ処理ユニット20は、電圧の差分を処理する。アナログ処理ユニット20が行う処理は、電圧の差分を整数倍する処理と、電圧の差分を積分する処理と、を含む。アナログ処理ユニット20は、電圧の差分を整数倍する処理を行うバッファ21を含む。アナログ処理ユニット20は、電圧の差分を積分する処理を行う積分器22を含む。アナログ処理ユニット20の出力値は、第1後段電圧信号VO1(第1電圧)、第2後段電圧信号VO2(第2電圧)及び差分後段電圧信号ΔV(差分電圧)を含む。アナログ処理ユニット20の具体的な回路構成は、後述する。
 A/D変換器30は、アナログ処理ユニット20が出力する電圧を量子化する。具体的には、A/D変換器30は、アナログ処理ユニット20が出力する電圧を、0又は1の二値のデジタル値に変換する。A/D変換器30の出力値は、デジタル信号DFBを含む。
 デジタル処理ユニット40は、A/D変換器30が出力するデジタル信号DFBを処理する。デジタル処理ユニット40が行う処理には、入力されたデジタル信号DFBが示す0又は1を数える処理と、入力されたデジタル信号DFBを予め記憶された別のデジタル信号に加算する処理と、を含む。デジタル処理ユニット40は、0又は1を数える処理を行うカウンタ41を含む。カウンタ41の出力端は、DT変換器50及び加算器42に接続されている。デジタル処理ユニット40は、加算する処理を行う加算器42を含む。加算器42の入力端には、A/D変換器30及びカウンタ41が接続されている。つまり、加算器42は、A/D変換器30の出力値とカウンタ41の出力値とを受けることができる。加算器42の出力端はDT変換器50に接続されている。デジタル処理ユニット40の出力値は、デジタル信号Dを含む。
 F測定であるとき加算器42及びDT変換器50は、積分結果の符号に応じて次の蓄積動作のための遅延時間を決定する。積分結果の符号は、デジタル処理ユニット40の出力値であるデジタル信号Dの値に応じる。加算器42及びDT変換器50は、積分結果の符号がゼロ又はプラス(第1情報)であるとき遅延時間として3Δtを決定する。3Δtは、電荷の差分がマイナスとなる遅延時間である。加算器42及びDT変換器50は、積分結果の符号がマイナス(第2情報)であるとき遅延時間として2Δtを決定する。2Δtは、電荷の差分がプラスとなる遅延時間である。
 デシメーションフィルタ60は、デジタル処理ユニット40の加算器42の入力端に接続される。デシメーションフィルタ60は、加算器42と共にデジタル信号DFBを受ける。デシメーションフィルタ60は、デジタル信号DFBに対してデジタルフィルタ処理を行う。デジタルフィルタ処理は、ローパスフィルタ処理とダウンサンプリング処理とを含む。例えば、デシメーションフィルタ60は、ローパスフィルタ処理のオーバーサンプリング比が、2B―1より大きく2より小さい整数であってもよい。Bはオーバーサンプリング比を表現可能な最小ビット数であってもよい。
 図1の機能ブロック図及び図2のフロー図によれば、距離画像撮像装置1を用いた距離画像を撮像する方法は、電荷蓄積工程S10C、S10Fと、パルス生成工程S20C、S20Fと、を含む。距離画像を撮像する方法では、電荷蓄積工程S10Cと、パルス生成工程S20Cと、を繰り返し実行する。電荷蓄積工程S10C及びパルス生成工程S20Cは、C測定を構成する。その後、距離画像を撮像する方法では、電荷蓄積工程S10Fと、パルス生成工程S20Fと、を繰り返し実行する。電荷蓄積工程S10F及びパルス生成工程S20Fは、F測定を構成する。
 電荷蓄積工程S10Cは、画素回路部10によって実行される。画素回路部10は、電荷蓄積工程S10Cとして、第1転送制御ゲートGに与えられる第1転送制御パルスSGに基づいて第1浮遊拡散部FDに第1電荷を蓄積する。さらに、画素回路部10は、電荷蓄積工程S10Cとして、第2転送制御ゲートGに与えられる第2転送制御パルスSGに基づいて第2浮遊拡散部FDに第2電荷を蓄積する。パルス生成工程S20Cは、周辺回路4によって実行される。周辺回路4は、パルス生成工程S20Cとして、第1電荷量Qと第2電荷量Qとの大小関係に基づいて、第1転送制御パルスSG及び第2転送制御パルスSGを生成する。
 パルス生成工程S20Cは、演算工程S21Cと、判定工程S30と、遅延時間決定工程S22Cと、パルス出力工程S23Cと、を含む。演算工程S21Cは、復調器12及びアナログ処理ユニット20により実行される。演算工程S21Cを行う要素として、A/D変換器30を含めてもよい。演算工程S21Cは、第1電荷に基づく第1電圧と第2電荷に基づく第2電圧との差分に関する演算値を出力する。演算値は、差分電圧そのものであってもよい。演算値は、差分電圧を二値化したデジタル値であってもよい。
 演算工程S21Cの後に、光飛行時間(TOF)が得られたか否かの判定を行う(工程S30)。光飛行時間(TOF)が得られたと判定された場合には、F測定のループに移行する。光飛行時間(TOF)が得られたと判定されない場合には、遅延時間決定工程S22Cに移行する。
 遅延時間決定工程S22Cは、デジタル処理ユニット40により実行される。遅延時間決定工程S22Cは、第1転送制御パルスSGおよび第2転送制御パルスSGを出力するタイミングを決定するための遅延時間を、演算値を用いて決定する。C測定のための遅延時間決定工程S22Cは、デジタル処理ユニット40のカウンタ41によって実行される。カウンタ41によれば、第n回目の演算工程S21Cにおいて、演算値が第1情報であるとき(判定工程S30)に、第n回目の電荷蓄積工程S10Cのために用いた第n回目の遅延時間を、さらに単位遅延時間だけ遅らせたものを、第n+1回目の電荷蓄積工程のために用いる第n+1回目の遅延時間として決定するという動作が実現できる。
 パルス出力工程S23Cは、DT変換器50によって実行される。パルス出力工程S23Cは、決定された遅延時間に基づいて第1転送制御パルスSGおよび第2転送制御パルスSGを出力する。
 F測定のための工程は、電荷蓄積工程S10Fと、パルス生成工程S20Fと、を有する。パルス生成工程S20Fは、演算工程S21Fと、遅延時間決定工程S22Fと、パルス出力工程S23Fと、を有する。演算工程S21Fは、アナログ処理ユニット20の積分器22によって実行される。積分器22によれば、第1電圧と第2電圧との差分を差分電圧として出力した後に、第1回目から第m-1回目までの差分電圧の積分値に第m回目の差分電圧を加算した結果を、第m回目の差分電圧の積分値として求めるという動作が実現できる。遅延時間決定工程S22Fは、デジタル処理ユニット40の加算器42によって実行される。加算器42によれば、第m回目の積分値が第2情報であるときに、第m+1回目の電荷蓄積工程のために用いる第m+1回目の遅延時間を第1遅延時間として決定するという動作が実現できる。さらに、加算器42によれば、第m回目の積分値が第1情報であるときに、第m+1回目の遅延時間を第2遅延時間として決定するという動作が実現できる。
 上述したように、時間領域フィードバック制御では、C測定と、F測定とを、行うことができる。図1に示す距離画像撮像装置1は、C測定を行う構成と、F測定を行う構成と、を実現できる。C測定を行う構成とF測定を行う構成は、相互に切り替え可能である。C測定を行う構成により、おおよその光飛行時間を得る。おおよその光飛行時間が求まったのちに、C測定を行う構成からF測定を行う構成に切り替える。F測定により、さらに精密な光飛行時間を得る。C測定を行う構成とF測定を行う構成との切り替えは、アナログ処理ユニット20を構成するバッファ21又は積分器22の選択と、デジタル処理ユニット40を構成するカウンタ41又は加算器42の選択と、により実現できる。
 C測定を行うとき、アナログ処理ユニット20は、バッファ21として機能する。デジタル処理ユニット40は、カウンタ41として機能する。図8は、C測定を行う構成の等価ブロック線図である。
 C測定を行う構成において、距離画像センサ3は、加え合わせ点F8aと、第1伝達要素F8bと、第2伝達要素F8cと、第3伝達要素F8dと、第4伝達要素F8eと、第5伝達要素F8fと、を有する。加え合わせ点F8a及び第1伝達要素F8bは、復調器12に対応する。第2伝達要素F8cは、バッファ21に対応する。第3伝達要素F8dは、A/D変換器30に対応する。第4伝達要素F8eは、カウンタ41に対応する。第5伝達要素F8fは、DT変換器50に対応する。
 図8の等価ブロック線図を参照しながら、C測定について説明する。等価ブロック線図において、第2伝達要素F8c(バッファ21)の出力値である後段電圧信号V(演算値)は、式(2)により示される。
Figure JPOXMLDOC01-appb-M000002
 V:第2伝達要素F8c(バッファ21)が出力する後段電圧信号の大きさ。
 KBUF:第2伝達要素F8c(バッファ21)のゲイン。
 K:復調器12の時間-電圧変換ゲイン。
 TOF:光飛行時間。
 T:第5伝達要素F8f(DT変換器50)が出力する遅延時間信号。
 第3伝達要素F8d(A/D変換器30)は、第2伝達要素F8c(バッファ21)が出力する後段電圧信号Vを量子化する。量子化の処理は、式(3)に従う。第3伝達要素F8d(A/D変換器30)は、量子化処理の結果、デジタル領域帰還のためのインクリメントコードとしてデジタル信号DFBを生成する。
Figure JPOXMLDOC01-appb-M000003
 第4伝達要素F8e(カウンタ41)は、デジタル信号DFBを受ける。第4伝達要素F8eは、第n回目の動作であるときのデジタル信号DFBが1である場合、第n-1回目の内部変数(制御変数)に1を加えるカウントアップ動作を行う。カウンタ41は、成分が1であるデジタル信号DFBを数える。例えば、C測定であるときに電荷の差分値が第1情報(0又はプラス)である場合には、A/D変換器30はデジタル値として「1」を出力する。一方、C測定であるときに電荷の差分値が第2情報(マイナス)である場合には、A/D変換器30は、デジタル値として「0」を出力する。カウンタ41は、デジタル値に基づいて計数動作を行ってもよい。n回の動作を行った結果、カウンタ41が出力するデジタル信号D(n)は式(4)に示される。
Figure JPOXMLDOC01-appb-M000004
 第5伝達要素F8f(DT変換器50)は、デジタル信号Dを受ける。第5伝達要素F8f(DT変換器50)は、式(5)に従い、遅延時間信号Tを得る。遅延時間信号Tは、単位遅延時間Δtとデジタル信号Dとの乗算によって得られる。
Figure JPOXMLDOC01-appb-M000005
 T(n):n回目の動作における遅延時間信号。
 Δt:単位遅延時間。DT変換器50の変換ファクタ。
 図9(a)は、C測定の動作を概念的に説明する。図9(a)は、デジタル信号DFBと遅延時間信号Tとを示す。第1回目のフィードバック動作では、遅延時間信号Tは、ゼロに設定される。第n回目のフィードバック動作の結果、A/D変換器30の出力値であるデジタル信号DFBが1であるとき、第n+1回目のフィードバック動作では、遅延時間信号Tには、単位遅延時間Δtが加算される。従って、繰り返されるフィードバック動作において、デジタル信号DFBが1である限り、遅延時間信号Tは単位遅延時間Δtを一つのステップとして階段状に増加する。遅延時間は、光飛行時間(TOF)に近づく。
 複数回のフィードバック動作の結果、遅延時間信号Tが光飛行時間(TOF)よりも大きくなる。遅延時間信号Tが光飛行時間(TOF)よりも大きくなったとき、A/D変換器30は、出力値としてデジタル信号DFB=0を出力する。デジタル信号DFBがゼロであるとき、遅延時間信号Tに対する単位遅延時間Δtの加算は停止する。換言すると、DT変換器50の出力値である遅延時間信号Tのインクリメントは止まる。遅延時間信号Tの増加の停止が、n回目のフィードバック動作で発生したと仮定すれば、カウンタ41の出力値であるデジタル信号Dは、式(6)によって示される。
Figure JPOXMLDOC01-appb-M000006
 D(n):n回目のフィードバック動作におけるカウンタ41の出力値。
 n:遅延時間信号Tの増加の停止が発生した回数。
 nは、DT変換器50における遅延時間信号Tの最大値を規定する。最終ステップ(n)のDT変換器50の出力値である遅延時間信号T(n)は、式(7)によって示される。
Figure JPOXMLDOC01-appb-M000007
 ところで、C測定において、DT変換器50は、インクリメンタルな動作を行う。従って、光飛行時間(TOF)と遅延時間信号T(n)の差分は、誤差である。図9(b)に示すように、誤差は、-Δt/2と+Δt/2の間の値である。光飛行時間(TOF)の測定範囲(TM,Max)は、式(8)によって示される。
Figure JPOXMLDOC01-appb-M000008
 TM,Max:光飛行時間(TOF)の測定範囲。
 N:C測定におけるフィードバック動作の最大回数。
 Δt:単位遅延時間。
 C測定の最終出力結果は、出力Ycoarseである。出力Ycoarseは、カウンタ41に保存された最終コードである。最終コードは、式(9)によって示される。
Figure JPOXMLDOC01-appb-M000009
 Ycoarse:C測定の最終出力結果。
 n:単位遅延時間Δtの増加の停止が発生した時のカウンタ値。
 1回のフィードバック動作に要する時間を時間(TCM0)とする。C測定の実行に必要な時間TCMは、式(10)によって示される。
Figure JPOXMLDOC01-appb-M000010
 F測定を行うとき、アナログ処理ユニット20は、積分器22として機能する。デジタル処理ユニット40は、加算器42として機能する。図10は、F測定を行う構成の等価ブロック線図である。図10は、時間領域負帰還を備えた1次のデルタシグマ変調(DSM)を採用したF測定の等価的ブロック図である。
 距離画像センサ3は、第1加え合わせ点F10aと、第2加え合わせ点F10bと、第6伝達要素F10cと、第7伝達要素F10dと、第3加え合わせ点F10eと、第8伝達要素F10fと、第9伝達要素F10gと、第10伝達要素F10hと、を有する。第6伝達要素F10c及び第2加え合わせ点F10bは、復調器12に対応する。第7伝達要素F10dは、積分器22に対応する。加え合わせ点F10eは、A/D変換器30に対応する。第8伝達要素F10fは、デルタシグマ変調器F10の帰還系に配置される微分回路に対応する。第9伝達要素F10g及び第10伝達要素F10hは、DT変換器50に対応する。
 図10の等価ブロック線図を参照しながら、F測定について説明する。図10に示される等価ブロック線図によれば、デルタシグマ変調器F10の出力値DFBは、式(11)により示される。
Figure JPOXMLDOC01-appb-M000011
 KINT:積分器22のゲイン。
 K:復調器12の時間-電圧変換ゲイン。
(z)は、A/D変換器30の量子化ノイズである。D(z)は、時間領域帰還に対するΔTOFとの差である。D(z)は、式(12)により示される。
Figure JPOXMLDOC01-appb-M000012
 ΔTOF(z):光飛行時間の差分。
 Δt:単位遅延時間。
 式(12)を式(11)に代入することにより、図10のデルタシグマ変調部分に対するz領域での全体のシステム応答は、式(13)により示される。
Figure JPOXMLDOC01-appb-M000013
 KINT:積分器22のゲイン。
 K:復調器12の時間-電圧変換ゲイン。
 ΔTOF(z):光飛行時間の差分。
 Δt:単位遅延時間。
 E(z):A/D変換器30の量子化ノイズ。
 A/D変換器30を含む1次のデルタシグマ変調器F10が安定に動作するとき、ループゲインは、1である。その結果、「KINT×K×Δt=1」という条件が成立する。この条件によれば、式(13)から式(14)が得られる。
Figure JPOXMLDOC01-appb-M000014
 式(14)より、信号と量子化ノイズの伝達関数が得られる。信号の伝達関数、即ち、デジタル信号DFBと差分光飛行時間ΔTOFとの関係は、DT変換器50の単位遅延時間Δtの逆数と同じである。ノイズ伝達関数(NTF)、即ち、デジタル信号DFBと量子化ノイズEとの関係は、1-z-1である。
 デルタシグマ変換の量子化ノイズを見積もるため、式(15)を用いて、周波数領域でノイズ伝達関数の自乗を計算する。その結果、式(16)が得られる。
Figure JPOXMLDOC01-appb-M000015
Figure JPOXMLDOC01-appb-M000016
 f:周波数。
 TSO:オーバーサンプリング周期。
 fSO:オーバーサンプリング周波数。
 図11は、式(16)によって与えられるノイズ伝達関数による量子化誤差のパワースペクトル密度の形を示している。図11に示す形の量子化誤差は、カットオフ周波数fLPFのデジタルローパスフィルタ(LPF)を用いることにより、効果的に減らすことができる。これにより、全体のノイズパワーに対する残留ノイズパワー(ハッチングの領域)の平方根の比の分だけ、F測定における有効ビット数(ENOB)が増加する。fSO/2fLPFで与えられるオーバーサンプリング比Nを用いると、全体のノイズパワーに対する残留ノイズパワーの面積比は、おおよそ1/N である。このとき、理想的ローパスフィルタを用いると有効ビット数の増加分ΔENOBは、式(17)によって与えられる。
Figure JPOXMLDOC01-appb-M000017
 1次のデルタシグマ変換を用いた技術では、N=4に対してΔENOB=3が得られる。しかしながら、これは、非常に急峻なカットオフを持つ理想的ローパスフィルタの場合である。現実的な回路では、ビットストリーム中の1の数をカウントする非常に単純なカウンタがローパスフィルタとして用いられる。カウンタはそれほど急峻なカットオフを持たない。カウンタの周波数応答は、移動平均フィルタに似ている。ローパスフィルタの後の残留量子化ノイズパワーは、全体の量子化ノイズパワーの1/N である。
 この場合の有効ビット数の増加分ΔENOBは、式(18)で与えられる。
Figure JPOXMLDOC01-appb-M000018
 実際の回路では、N=64(或いはエラー削減のため66)及び、カウンタベースのローパスフィルタが使われる。F測定の回路におけるENOBの増加分は6ビットである。式(18)から、オーバーサンプリング比Nを2倍にすると、C測定の処理時間は2倍になる。その一方、ENOBを1ビット増やすことが出来る。
 N=64は、6ビットのF測定におけるTD変換に厳密に相当する。これは、C測定、及び、F測定の変換コードの接続境界で深度分解能を悪化させることがある。なぜならば、直線性の特性において、最大ΔTOFの境界で不連続のステップが現れるためである。不連続点で、時間変数のエラーが発生する。特異点では、距離分解能(深度ノイズ)が悪化する。特異点における距離分解能の悪化は、Nを2の階乗の64を超えた値に設定すれば回避できる。特異点における距離分解能の悪化は、例えばN=66にすることによって回避可能である。
 図12は、C測定とF測定とをまとめて示すタイミングチャートである。つまり、図12は、C測定とF測定とにより光飛行時間(TOF)を測定する技術の概念的な駆動波形を示している。距離画像撮像装置1は、まず、C測定を行う。C測定において、距離画像撮像装置1のDT変換器50は、光飛行時間の推定値としてΔt・nを生成する。距離画像撮像装置1は、次に、F測定を行う。F測定において、距離画像撮像装置1は、デルタシグマ変調器として動作する。その結果、距離画像撮像装置1のDT変換器50は、ビットストリーム波形である信号を出力する。ビットストリーム波形は、ΔtD・と、Δt・(n-1)との2つの状態を含む。デルタシグマ変調器F10の出力値は、ローパスフィルタに出力される。データのダウンサンプリングがなされた結果、F測定の出力値として、Yfineが得られる。図12では、デジタルカウンタ(1次積分器)がデシメーションフィルタに用いられているときのフィルタ出力の様子を示している。
 F測定の出力値であるYfineは、式(19)によって示される。Yfineは、0から1の間の値を取る。
Figure JPOXMLDOC01-appb-M000019
 Yfine:F測定の出力値。
 n:デルタシグマ変調器F10から出力される数。
 N:F測定におけるトータルサンプリング数。
 C測定とF測定とを含む光飛行時間測定の技術によれば、光飛行時間を示す出力値YTOFは、式(20)又は式(21)により示される。
Figure JPOXMLDOC01-appb-M000020
Figure JPOXMLDOC01-appb-M000021
 NとNを、2Mと2Mとすれば、C測定とF測定とを含む光飛行時間測定の技術は、光飛行時間(TOF)を(m+m)ビットのデジタルコードに変換する。
 以下、距離画像撮像装置1の具体的な回路構成を説明する。図13、図14は、画素回路部10、画素121及び前段増幅器122の回路構成を示す。画素回路部10は、フォトダイオード11(光電変換部)と、復調器12と、を有する。フォトダイオード11は、対象物100からの反射光L2を受ける。画素121は、前段増幅器122に第1電荷量Q及び第2電荷量Qを出力する。
 フォトダイオード11は、発生した電荷を復調器12に出力する。フォトダイオード11は、基準電位Vrefに接続されている。
 復調器12は、第1浮遊拡散部FD(第1電荷読出領域)と、第1転送制御ゲートG(第1制御電極)と、第2浮遊拡散部FD(第2電荷読出領域)と、第2転送制御ゲートG(第2制御電極)と、電圧源Vと、第3転送制御ゲートGと、を有する。復調器12は、フォトダイオード11から電荷を受ける。復調器12は、アナログ処理ユニット20に第1前段電圧信号VP1と第2前段電圧信号VP2とを出力する。
 フォトダイオード11の出力は、第1転送制御ゲートGと、第2転送制御ゲートGと、第3転送制御ゲートGと、に接続されている。第1転送制御ゲートG及び第2転送制御ゲートGは、横方向電界制御電荷変調(LEFM:Lateral Electric Field controlled charge Modulator)の原理に基づくゲートである。横方向電界制御電荷変調器ゲートを採用することにより、フォトダイオード11から第1浮遊拡散部FDへの第1電荷量Qの転送の許可と禁止とを極めて高速に切り替えることができる。例えば、切り替え時間は、サブナノ秒程度である。その結果、距離測定の分解能を高めることができる。
 第1転送制御ゲートGは、第1浮遊拡散部FDに接続されている。従って、第1転送制御ゲートGは、フォトダイオード11と第1浮遊拡散部FDとの間に配置されている。第1転送制御ゲートGは、フォトダイオード11から第1浮遊拡散部FDへの電荷の転送を許可する。第1転送制御ゲートGは、フォトダイオード11から第1浮遊拡散部FDへの電荷の転送を禁止する。転送の許可と禁止とは、第1転送制御ゲートGに与えられる制御信号の電圧に応じて切り替わる。第1転送制御ゲートGに与えられた制御信号の電圧が、いわゆる「HIGH」であるとき、第1転送制御ゲートGは、フォトダイオード11から第1浮遊拡散部FDへの電荷の転送を許可する。第1転送制御ゲートGに与えられた制御信号の電圧が、いわゆる「LOW」であるとき、第1転送制御ゲートGは、フォトダイオード11から第1浮遊拡散部FDへの電荷の転送を禁止する。第1浮遊拡散部FDは、前段増幅器122の第1入力端に接続されている。第1浮遊拡散部FDは、フォトダイオード11から転送された電荷を第1電荷として蓄積する。
 第2転送制御ゲートG及び第2浮遊拡散部FDの接続構成は、第1転送制御ゲートG及び第1浮遊拡散部FDと同様である。従って、詳細な説明は省略する。
 第3転送制御ゲートGは、MOSトランジスタゲートである。MOSトランジスタのドレインは、電圧源Vに接続されている。従って、第3転送制御ゲートGは、フォトダイオード11と電圧源Vとの間に配置されている。第3転送制御ゲートGは、HIGHに対応する制御信号が与えられたとき、フォトダイオード11からドレインへの電荷の転送を許可する。電荷は、ドレインに排出される。第3転送制御ゲートGは、LOWに対応する制御信号が与えられたとき、フォトダイオード11からドレインへの電荷の転送を禁止する。
 前段増幅器122は、完全差動電荷感応型の増幅器(CSA)である。前段増幅器122は、画素121から第1電荷量Q及び第2電荷量Qを受ける。前段増幅器122は、アナログ処理ユニット20に第1前段電圧信号VP1及び第2前段電圧信号VP2を出力する。前段増幅器122は、演算増幅器122Sと、帰還キャパシタCS1、CS2と、リセットスイッチPR11、PR12と、を有する。前段増幅器122は、第1コモンモード帰還制御器122Aを有する。
 演算増幅器122Sは、第1入力端と、第2入力端と、第3入力端と、を有する。演算増幅器122Sは、第1出力端と、第2出力端と、を有する。
 第1入力端は、第1浮遊拡散部FDに接続されている。第1入力端は、第1浮遊拡散部FDに蓄積された第1電荷量Qを受ける。第1出力端は、アナログ処理ユニット20の入力端に接続されている。第1出力端は、アナログ処理ユニット20の入力端に第1前段電圧信号VP1を出力する。第1出力端は、第1コモンモード帰還制御器122Aに接続されている。第1出力端は、第1コモンモード帰還制御器122Aに第1前段電圧信号VP1を出力する。
 第2入力端及び第2出力端の接続構成は、第1入力端及び第1出力端の接続構成と同様である。従って、詳細な説明は省略する。
 第3入力端は、第1コモンモード帰還制御器122Aに接続されている。第3入力端は、第1コモンモード帰還制御器122Aから制御信号を受ける。第1コモンモード帰還制御器122Aは、完全差動出力の平均レベルがコモン電圧VCOMと等しくなるように演算増幅器122Sを制御する。
 帰還キャパシタCS1は、第1入力端と第1出力端との間に接続されている。リセットスイッチPR11は、第1入力端と第1出力端との間に接続されている。リセットスイッチPR11は、帰還キャパシタCS1に対して電気的に並列に接続されている。
 前段増幅器122の第1前段電圧信号VP1は式(22)により示される。前段増幅器122の第2前段電圧信号VP2は式(23)により示される。
Figure JPOXMLDOC01-appb-M000022
Figure JPOXMLDOC01-appb-M000023
 VP1:第1前段電圧信号。
 VP2:第2前段電圧信号。
 Q:第1浮遊拡散部FD1に蓄積された第1電荷量。
 Q:第2浮遊拡散部FD2に蓄積された第2電荷量。
 C:帰還キャパシタCS1及び帰還キャパシタCS2の容量値。
 VCOM:基準電圧。
 第1電荷量Qは式(24)により示される。第2電荷量Qは式(25)により示される。
Figure JPOXMLDOC01-appb-M000024
Figure JPOXMLDOC01-appb-M000025
  QS1:第1電荷量Qにおいて反射光に起因する信号電荷量。
  QS2:第2電荷量Qにおいて反射光に起因する信号電荷量。
  Q:第1電荷量Q及び第2電荷量Qにおいて背景光に起因するノイズ電荷量。
 コモンモード帰還を伴う完全差動増幅器を用いることによって、差分前段電圧信号ΔVは、式(26)により示される。式(26)によれば、前段増幅器122の出力値である差分前段電圧信号ΔVは、背景光成分(Q)をキャンセルしている。差分前段電圧信号ΔVは、信号電荷量QS1と信号電荷量QS2の差分に比例する。
Figure JPOXMLDOC01-appb-M000026
 ΔV:差分前段電圧信号。
 VP1:第1前段電圧信号。
 VP2:第2前段電圧信号。
 QS1:第1電荷量Qにおいて反射光に起因する信号電荷量。
 QS2:第2電荷量Qにおいて反射光に起因する信号電荷量。
 C:帰還キャパシタCS1及び帰還キャパシタCS2の容量値。
 電荷-電圧変換ゲインGは、式(27)により示される。
Figure JPOXMLDOC01-appb-M000027
 G:電荷-電圧変換ゲイン。
 ΔV:差分前段電圧信号。
 QS1:第1電荷量Qにおいて反射光に起因する信号電荷量。
 QS2:第2電荷量Qにおいて反射光に起因する信号電荷量。
 C:帰還キャパシタCS1及び帰還キャパシタCS2の容量値。
 1つの短パルス光に含まれる光子の数は少ない。従って、信号は、反射光を周期的に多くのサイクルで受光することによって増強される。
 図15は、画素10回路部及び復調器12の動作を示すタイミングチャートである。図15では、差分前段電圧信号ΔVの動きを、3つの種類の相対的遅延時間信号tに対して示している。相対的遅延時間信号Tが0であり、且つ、信号電荷量QS1と信号電荷量QS2が等しい場合には、差分前段電圧信号ΔVは0である。相対的遅延時間信号tが0より大きければ(t>0)、差分前段電圧信号ΔVの絶対値は次第に増加する。この場合の符号は、正である。相対的遅延時間信号Tより小さければ(t<0)、差分前段電圧信号ΔVの絶対値は次第に増加する。この場合の符号は、負である。従って、光飛行時間によって相対的な光パルス遅延を測定することが可能である。つまり、電荷感受性型の前段増幅器122を含む復調器12は、光パルス遅延の測定に採用できる。
 図16は、アナログ処理ユニット20の回路構成を示す。アナログ処理ユニット20は、前段増幅器122から第1前段電圧信号VP1及び第2前段電圧信号VP2を受ける。アナログ処理ユニット20は、A/D変換器30に第1後段電圧信号VO1と第2後段電圧信号VO2とを出力する。アナログ処理ユニット20は、前処理部23と、後段増幅部24と、を有する。
 前処理部23は、入力キャパシタCI1、CI2と、入力スイッチPS1、PS2と、ドレインスイッチPR1D1、PR1D2と、を有する。入力キャパシタCI1、CI2は、前段増幅器122の出力端に接続されている。入力キャパシタCI1、CI2は、入力スイッチPS1、PS2及びドレインスイッチPR1D1、PR1D2に接続されている。入力スイッチPS1、PS2は、入力キャパシタCI1、CI2と後段増幅部24の演算増幅器20Sの入力端とに接続されている。ドレインスイッチPR1D1、PR1D2は、入力キャパシタCI1、CI2と基準電位Vrefとに接続されている。
 後段増幅部24は、演算増幅器20Sと、帰還キャパシタCF1と、帰還キャパシタCF2と、リセットスイッチPR21、PR22と、第2コモンモード帰還制御器20A(コモンモード帰還制御部)と、を有する。後段増幅部24の回路構成は、前段増幅器122の回路構成と同じである。従って、後段増幅部24を構成する要素の接続については、詳細な説明を省略する。
 前述したように、アナログ処理ユニット20は、C測定であるときにはバッファ21として機能する。アナログ処理ユニット20は、F測定であるときには積分器22として機能する。アナログ処理ユニット20は、入力スイッチPS1、PS2、ドレインスイッチPR1D1、PR1D2及びリセットスイッチPR21、PR22の制御によってそれぞれの動作を実現する。
 バッファ21として機能させるための、アナログ処理ユニット20の動作を説明する。この動作によれば、アナログ処理ユニット20は、固定ゲイン増幅器であるとみなせる。バッファ21として機能させるとき、アナログ処理ユニット20は、2つの動作態様を取る。
 第1の動作態様では、ドレインスイッチPR1D1、PR1D2をONする。その結果、入力キャパシタCI1、CI2に差分前段電圧信号ΔVがサンプルされる。この時間中、リセットスイッチPR21、PR22をONする。その結果、帰還キャパシタCF1及び帰還キャパシタCF2がリセットされる。
 第2の動作態様では、ドレインスイッチPR1D1、PR1D2をOFFする。さらに、入力スイッチPS1、PS2をONする。その結果、入力キャパシタCI1、CI2にサンプルされた電荷は、容量比(C/C)で入力信号が増幅されるように帰還キャパシタCF1、CF2に転送される。リセットスイッチPR21、PR22をOFFする。入力スイッチPS1、PS2をONする。その結果、入力キャパシタCI1、CI2にサンプルされた電荷は、容量比(C/C)で入力信号が増幅されるように帰還キャパシタCF1、CF2に転送される。
 バッファ21のゲインAは、式(28)により示される。バッファ21のゲインとは、差動入力に対する差動出力のゲインである。
Figure JPOXMLDOC01-appb-M000028
 A:バッファ21のゲイン。
 ΔV:差分前段電圧信号。
 ΔV:差分後段電圧信号。
 C:入力キャパシタCI1及び入力キャパシタCI2の容量値。
 C:帰還キャパシタCF1及び帰還キャパシタCF2の容量値。
 積分器22として機能させるための、アナログ処理ユニット20の動作を説明する。この動作によれば、アナログ処理ユニット20は、完全差動スイッチトキャパシタ積分器であるとみなせる。この動作モードでは、リセットスイッチPR21、PR22は、帰還キャパシタCF1及び帰還キャパシタCF2の電荷をリセットするためにONされる。
 入力キャパシタCI1、CI2とドレインスイッチPR1D1、PR1D2による入力信号のサンプリングと、入力スイッチPS1、PS2による帰還キャパシタCF1及び帰還キャパシタCF2への電荷の転送とが、スイッチトキャパシタ積分を行うように繰り返される。積分器22は、ループを繰り返すごとに、第m-1回目の積分結果に第m回目の差分前段電圧信号ΔVを加算する。N回のスイッチトキャパシタ積分の繰り返し後の最後の出力は、式(29)により示される。即ち、差分後段電圧信号ΔV(N)(演算値)は、式(29)により示される。
Figure JPOXMLDOC01-appb-M000029
 ΔV(N):N回目の差分後段電圧信号。
 A:バッファ21のゲイン。
 ΔV(i):i番目の差動入力。
 図17は、DT変換器50及び転送制御パルス発生器70の回路構成を示す。DT変換器50は、デジタル処理ユニット40からデジタル信号Dを受ける。DT変換器50は、光トリガ制御器84aから信号Tを受ける。DT変換器50は、信号Tをトリガとして動作を開始する。
 DT変換器50は、第1ディレイライン51aと、第2ディレイライン51bと、第3ディレイライン51cと、第1デジタルコンパレータ52aと、第2デジタルコンパレータ52bと、第3デジタルコンパレータ52cと、を有する。第1ディレイライン51a、第2ディレイライン51b及び第3ディレイライン51cは、デジタル制御が可能な遅延回路である。
 第1ディレイライン51aは、光トリガ制御器84a(図18参照)に接続されている。第1ディレイライン51aは、光トリガ制御器84aから信号Tを受ける。第1ディレイライン51aは、第2ディレイライン51bの入力端に接続されている。第2ディレイライン51bは、第3ディレイライン51cの入力端に接続されている。第1ディレイライン51a、第2ディレイライン51b及び第3ディレイライン51cは、電気的に直列に接続されている。第1ディレイライン51a、第2ディレイライン51b及び第3ディレイライン51cのそれぞれは、5ビットのカウンタを有する。
 第1ディレイライン51aは、第1デジタルコンパレータ52aに第1バイナリカウンティングコードを出力する。第1デジタルコンパレータ52aは、第1バイナリカウンティングコードとデジタル処理ユニット40のデジタル信号Dとを比較する。第1デジタルコンパレータ52aは、比較の結果を、信号DCO0として転送制御パルス発生器70に出力する。信号DCO0は、第1転送制御ゲートGに与えられる第1転送制御パルスSGのためのものである。
 第2ディレイライン51b及び第2デジタルコンパレータ52bの接続構成及び動作は、第1ディレイライン51a及び第1デジタルコンパレータ52aの接続構成及び動作と同様である。従って、詳細な説明は省略する。
 第3ディレイライン51c及び第3デジタルコンパレータ52cの接続構成及び動作も、第1ディレイライン51a及び第1デジタルコンパレータ52aの接続構成及び動作と同様である。従って、詳細な説明は省略する。
 転送制御パルス発生器70は、DT変換器50から信号DCO0、DCO1、DCO2を受ける。転送制御パルス発生器70は、復調器12に第1転送制御パルスSG、第2転送制御パルスSG及び第3転送制御パルスSGを出力する。転送制御パルス発生器70は、第1論理素子71aと、第2論理素子71bと、第3論理素子71cと、第1素子72aと、第2素子72bと、第3素子72cと、を有する。
 第1論理素子71aは、AND回路である。第1論理素子71aの非反転入力端には、第1デジタルコンパレータ52aが接続される。第1論理素子71aの反転入力端には、第2デジタルコンパレータ52bが接続される。第1論理素子71aの出力端は、第1素子72aが接続される。第1素子72aは、復調器12に第1転送制御パルスSGを出力する。
 第2論理素子71bも、AND回路である。第2論理素子71bの非反転入力端には、第2デジタルコンパレータ52bが接続される。第2論理素子71bの反転入力端には、第3デジタルコンパレータ52cが接続される。第2論理素子71bの出力端は、第2素子72bが接続される。第2素子72bは、復調器12に第2転送制御パルスSGを出力する。
 第3論理素子71cは、OR回路である。第3論理素子71cの非反転入力端には、第3デジタルコンパレータ52cが接続される。第3論理素子71cの反転入力端には、第1デジタルコンパレータ52aが接続される。第3論理素子71cの出力端は、第3素子72cが接続される。第3素子72cは、復調器12に第3転送制御パルスSGを出力する。
 図18に示すように、距離画像撮像装置1は、光源2と、チップ部品83と、FPGA84と、を有する。チップ部品83及びFPGA84は、プリント基板81に配置されている。プリント基板81には、コンパレータ85も配置されている。プリント基板81は、チップ部品83が出力する信号を外部に出力するJTAGインターフェースを有する。プリント基板81は、JTAGインターフェースを介してコンピュータ200にチップ部品83が出力する信号を出力する。
 チップ部品83は、デジタルディレイライン51と、デジタルコンパレータ52と、転送制御パルス発生器70と、フォトダイオード11と、復調器12と、前段増幅器122と、アナログ処理ユニット20と、マルチプレクサ83aと、を含む。
 チップ部品83は、FPGA84から各種の制御信号を受ける。チップ部品83は、対象物100からの反射光L2を受ける。チップ部品83のアナログ処理ユニット20は、多重化されたチャンネルを介してコンパレータ85に接続されている。チップ部品83は、コンパレータ85に第1後段電圧信号VO1及び第2後段電圧信号VO2を出力する。
 コンパレータ85は、第1後段電圧信号VO1及び第2後段電圧信号VO2に基づいて、ビットストリーム信号を発生する。コンパレータ85は、ビットストリーム信号をFPGA84に出力する。
 FPGA84は、光トリガ制御器84aと、デジタル処理ユニット40と、リードアウト制御器84bと、を有する。FPGA84は、コンパレータ85からビットストリーム信号であるデジタル信号DFBを受ける。FPGA84は、チップ部品83に信号を出力する。具体的には、光トリガ制御器84aは、信号TLをデジタル遅延制御器82に出力する。光トリガ制御器84aは、信号TSをチップ部品83のデジタルディレイライン51に出力する。デジタル処理ユニット40は、カウンタ41と、加算器42と、デシメーションフィルタ60と、を有する。デジタル処理ユニット40は、デジタルディレイライン51にデジタル信号Dを出力する。リードアウト制御器84bは、前段増幅器122、アナログ処理ユニット20及びマルチプレクサ83aにクロック信号PC[n]を出力する。
 以下、従来の距離画像測定装置が有する課題を詳細に説明する。そのあとに、実施形態の距離画像撮像装置1の作用効果について説明する。
 距離画像測定装置には、直接型と称される装置と、間接型と称される装置と、がある。直接型の装置は、照射光を出射してから反射光を受けるまでの時間を直接的に測定する。一方、間接型の装置は、反射光に起因して発生した電荷を2個以上の領域(タップ)に時間毎に振り分ける。電荷の振り分けは、復調ともいう。間接型の装置は、それぞれの領域に振り分けられた電荷の量の比率に基づいて、光飛行時間を得る。
 距離画像撮像装置1には、高い精度、確度、直線性、及び、環境光への耐性が要求される。通常、直接型の装置は、光信号を計測するための素子として、SPAD(SINGLE PHOTON AVALANCHE DIODE)を採用する。SPADと全デジタル領域の処理を用いた直接型の装置は、高確度の光飛行時間測定には適している。直接型の装置において、光飛行時間は、TIME-TO-DIGITAL(TD)変換器によってデジタル化される。TD変換器を備えた直接型の装置は、高い分解能と良好な直線性とを有する。しかし、直接型の装置は、回路規模が大きくなる。さらに、直接型の装置は、TD変換器の分解能が距離分解能を制限する。従って、直接型の装置は、短距離の測定が困難である。直接型の装置に、極めて高い分解能と環境光への耐性とが要求された場合には、直接型の装置は、ハードウェア構成が複雑化する。
 一方、間接型の装置は、2個以上の電荷蓄積領域を備えた画素を採用する。2個以上の電荷蓄積領域を備えた画素は、ロックイン画素とも称される。間接型の装置は、光電荷信号を発光トリガパルス信号に同期(ロックイン)させることによって、復調する。次に、間接型の装置は、復調された光電荷信号をA/D変換器によってデジタル信号に変換する。次に、間接型の装置は、第1電荷蓄積領域における電荷量と、第2電荷蓄積領域における電荷量と、の比率を得る。そして、間接型の装置は、電荷量の比率に基づいて、距離を計算する。
 間接型の装置における分解能と直線性は、光電荷復調器とA/D変換器のシステム応答とに依存する。間接型の装置の分解能と直線性は、直接型の装置の分解能と直線性よりも低い。しかし、間接型の装置は、画素サイズが小さい、回路が複雑でないという点において直接型の装置よりも有利である。特に、間接型の装置は、数メートルの距離測定に対する比較的信頼できる距離分解能が得られるという点において、直接型の装置よりも有利である。
 間接型の装置は、変調された光の波形に応じてさらに2つの種類に分類される。光の波形とは、第1に連続波(CW)である。第2に、短パルス波である。短パルス波を利用する間接型の装置は、照射光のパワーが短いパルス波に集中する。その結果、画素の電荷排出機能が環境光の影響を低減する。従って、短パルス波を利用する間接型の装置は、環境光に対する耐性が高い。
 しかし、短パルス波を利用する間接型の装置は、光飛行時間を測定するときに行うアナログ領域の処理に起因する、画素のソースフォロワ増幅器の非線形性の問題及び光パルスの波形の歪の問題を有する。短パルス波を利用する間接型の装置は、フォトダイオードの内部において光キャリア応答時間が有限である問題、及び、復調のための転送制御パルスの歪の問題も有する。短パルス波を利用する間接型の装置は、アナログ的な不完全性の問題を有する。
 例えば、フォトンショットノイズが距離分解能を制限する問題を考える場合には、画素のフルウェルキャパシティが、間接型の装置における距離分解能を制限する。また、画素のフルウェルキャパシティが、間接型の装置における深度ノイズを制限する。
 短パルス波を利用する間接型の装置において、極めて短いパルス光を用いることは、距離分解能を改善するために有効である。例えば、100ピコ秒以下の光パルスを用いたセンサが報告されている。報告書には、100ピコ秒以下の光パルスを用いたセンサは、サブ100μmの距離分解能を持つことが記されている。しかし、短パルス光に起因する非線形性の問題及び転送制御パルスのスキューの問題などが依然として課題となっている。短パルス波を利用する間接型の装置には、非線形性を補正するための複雑なオフライン処理が必要である。短パルス波を利用する間接型の装置には、オンチップスキュー補正回路も必要である。
 間接型の装置のシステム応答は、復調器の伝達関数とA/D変換器の伝達関数が分解能と直線性を制限する。実際には、間接型の装置のシステム応答は、オフセットと非線形な係数とを有する。オフセットは容易に補正することができる。しかし、非線形な係数をシステム応答から除去することは容易ではない。非線形な係数を補正するためには、大規模な処理回路が必要である。非線形な係数を補正するためには、複雑な信号処理が必要である。
 実施形態の距離画像測定装置1は、光飛行時間に関する電荷量の差分から得た演算値を所定条件の基にデジタル信号に変換する。そして、デジタル信号を用いて、転送制御パルスのタイミングを制御する。その結果、電荷読出領域ごとの電荷量の偏りを小さくすることが可能になるので、総合的な性能が向上する。
 本実施形態の距離画像撮像装置1は、2つの電荷蓄積部の電荷量が共に大きな状態で測定を行うため、電荷の蓄積や電荷の読出しに伴うノイズの影響を最小限にできる。さらには、Fine測定においては、デルタシグマ変調技術を適用することで、低周波領域での量子化誤差が小さくなる。一方、高周波領域での量子化誤差は大きくなる。そこで、後段にローパスフィルタを設ける。その結果、量子化誤差の低減を効果的に行うことができる。
 以上、距離画像撮像装置をその実施形態に基づいて詳細に説明した。しかし、距離画像撮像装置は上記実施形態に限定されない。距離画像撮像装置は、その要旨を逸脱しない範囲で様々な変形が可能である。
 上述の距離画像撮像装置は、C測定とF測定とを相互に切り替えながら動作した。例えば、距離画像撮像装置は、C測定又はF測定の何れか一方を行ってもよい。つまり、距離画像撮像装置は、おおよその距離情報を得るC測定のみを行ってもよい。この場合には、距離画像撮像装置は、F測定のための回路構成を省略してよい。さらに、C測定のみを行う距離画像撮像装置は、互いに異なる2つの単位遅延時間を用いた動作を行ってもよい。つまり、距離画像撮像装置は、第1の単位遅延時間に基づく動作と、第1の遅延時間よりも短い第2の単位遅延時間に基づく動作と、を行う。このような動作によれば、第2の単位遅延時間に基づく動作は、疑似的なF測定としてみなすことも可能である。
 距離画像撮像装置は、F測定のみを行ってもよい。この場合には、距離画像撮像装置は、C測定のための回路構成を省略してよい。
1…距離画像撮像装置、2…光源、4…周辺回路、10…画素回路部、10S…画素回路部アレイ、21…バッファ、22…積分器、30…A/D変換器、41…カウンタ、42…加算器、60…デシメーションフィルタ、F10…デルタシグマ変調器、FD…第1浮遊拡散部(第1電荷読出領域)、FD…第2浮遊拡散部(第2電荷読出領域)、G…第1転送制御ゲート(第1制御電極)、G…第2転送制御ゲート(第2制御電極)、SG…第1転送制御パルス、SG…第2転送制御パルス。

 

Claims (16)

  1.  パルス光を発生させる光源と、
     受けた光に対応する電荷を生成する複数の画素回路部を含む画素回路部アレイと、
     前記画素回路部アレイの動作を制御する転送制御パルスを前記画素回路部アレイに提供する周辺回路と、を備え、
     前記画素回路部は、
      光を前記電荷に変換する光電変換領域と、
      前記光電変換領域から転送された前記電荷を第1電荷として蓄積する第1電荷読出領域と、
      前記光電変換領域から前記第1電荷読出領域への前記電荷の転送を制御する第1転送制御パルスを受ける第1制御電極と、
      前記光電変換領域から転送された前記電荷を第2電荷として蓄積する第2電荷読出領域と、
      前記光電変換領域から前記第2電荷読出領域への前記電荷の転送を制御する第2転送制御パルスを受ける第2制御電極と、を有し、
     前記周辺回路は、前記第1電荷読出領域に蓄積される前記第1電荷の量と前記第2電荷読出領域に蓄積される前記第2電荷の量との大小関係に基づいて、前記第1転送制御パルス及び前記第2転送制御パルスを生成する、距離画像撮像装置。
  2.  前記周辺回路は、
      前記第1電荷に基づく第1電圧と前記第2電荷に基づく第2電圧との差分に関する演算値を出力する第1演算部と、
      前記第1転送制御パルスおよび前記第2転送制御パルスを出力するタイミングを決定するための遅延時間を、前記演算値を用いて決定する第2演算部と、を有し、
     前記周辺回路は、前記第1電荷及び前記第2電荷を蓄積する蓄積動作と、前記第1演算部の動作と、前記第2演算部の動作と、を繰り返す、請求項1に記載の距離画像撮像装置。
  3.  前記第2演算部は、第n回目(nは1以上の整数)の前記第2演算部の動作において、前記演算値が第1情報であるときに、第n回目の前記蓄積動作のために用いた第n回目の前記遅延時間を、さらに単位遅延時間だけ遅らせたものを、第n+1回目の前記蓄積動作のために用いる第n+1回目の前記遅延時間として決定する、請求項2に記載の距離画像撮像装置。
  4.  前記第2演算部は、
      第n回目の前記第2演算部の動作において、前記演算値が第1情報であるときに制御変数に1を加える動作を行うカウンタと、
      前記制御変数と単位遅延時間とを乗算して得た値を、第n+1回目の前記蓄積動作のために用いる第n+1回目の前記遅延時間として決定する遅延時間決定部と、を有する、請求項2又は3に記載の距離画像撮像装置。
  5.  前記第1演算部は、前記第1電圧と前記第2電圧との差分を差分電圧として出力した後に、第1回目から第m-1回目(mは2以上の整数)までの前記差分電圧の積分値に第m回目の前記差分電圧を加算した結果を、第m回目の前記差分電圧の積分値として求め、
     前記第2演算部は、第m回目の積分値が第2情報であるときに、第m+1回目の前記蓄積動作のために用いる第m+1回目の前記遅延時間を第1遅延時間とし、第m回目の積分値が第1情報であるときに、第m+1回目の前記遅延時間を第2遅延時間として決定する、請求項2に記載の距離画像撮像装置。
  6.  前記第1演算部は、第1回目から第m-1回目までの差分電圧の積分値に第m回目の前記差分電圧を加算した結果を、第m回目の積分値として求める積分器を有し、
     前記第2演算部は、第m回目の積分値が第2情報であるときに第m+1回目の前記遅延時間として第1遅延時間を決定し、第m回目の積分値が第1情報であるときに第m+1回目の前記遅延時間として第2遅延時間を決定する遅延時間決定部を有する、請求項2又は5に記載の距離画像撮像装置。
  7.  前記第1演算部が出力する前記演算値をデジタル信号に変換し、前記デジタル信号を前記第2演算部に出力すると共に、前記第1演算部及び前記第2演算部と協働してデルタシグマ変調器を構成するA/D変換器と、
     前記蓄積動作、前記第1演算部の動作、前記A/D変換器の動作及び前記第2演算部の動作が繰り返されるごとに、前記A/D変換器が出力する前記デジタル信号を受け、前記デジタル信号に対してローパスフィルタ処理とダウンサンプリングを行うデシメーションフィルタをさらに備える、請求項5または6に記載の距離画像撮像装置。
  8.  前記デシメーションフィルタは、前記ローパスフィルタ処理のオーバーサンプリング比が、2B―1より大きく2より小さい整数であり、
     Bはオーバーサンプリング比を表現可能な最小ビット数である、請求項7に記載の距離画像撮像装置。
  9.  前記周辺回路は、
     前記第1電荷及び前記第2電荷を蓄積する蓄積動作と、前記第2演算部が、第n回目の前記第2演算部の動作において、前記演算値が第1情報であるときに、第n回目の前記蓄積動作のために用いた第n回目の前記遅延時間を、さらに単位遅延時間だけ遅らせたものを、第n+1回目の前記蓄積動作のために用いる第n+1回目の前記遅延時間として決定する動作と、を含む処理を繰り返す第1測定と、
     前記蓄積動作と、前記第1演算部が、前記第1電圧と前記第2電圧との差分を差分電圧として出力した後に、第1回目から第m-1回目までの前記差分電圧の積分値に第m回目の前記差分電圧を加算した結果を、第m回目の前記差分電圧の積分値として求める動作と、前記第2演算部が、第m回目の積分値が第2情報であるときに第m+1回目の前記遅延時間として第1遅延時間を決定し、第m回目の積分値が第1情報であるときに第m+1回目の前記遅延時間として第2遅延時間を決定する動作と、を含む処理を繰り返す第2測定と、を行う、請求項2に記載の距離画像撮像装置。
  10.  前記第1演算部は、第1回目から第m-1回目までの差分電圧の積分値に第m回目の前記差分電圧を加算した結果を求める積分器を含み、
     前記第2演算部は、
      第n回目の前記第2演算部の動作において、前記演算値が第1情報であるときに制御変数に1を加える動作を行うカウンタと、
      前記制御変数と単位遅延時間とを乗算して得た値を、第n+1回目の前記蓄積動作のために用いる第n+1回目の前記遅延時間として決定する動作、又は、第m回目の積分値が第2情報であるときに第m+1回目の前記遅延時間として第1遅延時間を決定し、第m回目の積分値が第1情報であるときに第m+1回目の前記遅延時間として第2遅延時間を決定する動作を選択的に実行する遅延時間決定部と、を有する、請求項2又は9に記載の距離画像撮像装置。
  11.  前記第1演算部は、前記第1電圧と前記第2電圧との差分を差分電圧として出力する差動増幅器を含み、
     前記差動増幅器は、
     第1入力端、第2入力端、第3入力端、第1出力端及び第2出力端を有する演算増幅器と、
     前記第1電荷読出領域から第1電荷を受けると共に、前記第1入力端及び前記第1出力端に接続された帰還キャパシタと、
     前記第2電荷読出領域から第2電荷を受けると共に、前記第2入力端及び前記第2出力端に接続された帰還キャパシタと、
     前記第3入力端、前記第1出力端及び前記第2出力端に接続され、前記第1出力端からの出力値と、前記第2出力端からの出力値と、の差分がコモン電圧と等しくなるように、前記第3入力端に信号を提供するコモンモード帰還制御部と、を含む、請求項4、6及び10の何れか一項に記載の距離画像撮像装置。
  12.  距離画像撮像装置を用いて距離画像を撮像する方法であって、
     前記距離画像撮像装置は、
      光を電荷に変換する光電変換領域と、
      前記光電変換領域から転送された前記電荷を第1電荷として蓄積する第1電荷読出領域と、
      前記光電変換領域から前記第1電荷読出領域への前記電荷の転送を制御する第1転送制御パルスを受ける第1制御電極と、
      前記光電変換領域から転送された前記電荷を第2電荷として蓄積する第2電荷読出領域と、
      前記光電変換領域から前記第2電荷読出領域への前記電荷の転送を制御する第2転送制御パルスを受ける第2制御電極と、を有し、
     前記距離画像を撮像する方法は、
     前記第1制御電極に与えられる第1転送制御パルスに基づいて前記第1電荷読出領域に前記第1電荷を蓄積すると共に、前記第2制御電極に与えられる第2転送制御パルスに基づいて前記第2電荷読出領域に前記第2電荷を蓄積する電荷蓄積工程と、
     前記第1電荷の量と前記第2電荷の量との大小関係に基づいて、前記第1転送制御パルス及び前記第2転送制御パルスを生成するパルス生成工程と、
    を有する、距離画像を撮像する方法。
  13.  前記パルス生成工程は、
     前記第1電荷に基づく第1電圧と前記第2電荷に基づく第2電圧との差分に関する演算値を出力する演算工程と、
     前記第1転送制御パルスおよび前記第2転送制御パルスを出力するタイミングを決定するための遅延時間を、前記演算値を用いて決定する遅延時間決定工程と、を含み、
     前記電荷蓄積工程及び前記パルス生成工程を繰り返す、請求項12に記載の距離画像を撮像する方法。
  14.  前記遅延時間決定工程は、第n回目の前記演算工程において、前記演算値が第1情報であるときに、第n回目の前記電荷蓄積工程のために用いた第n回目の前記遅延時間を、さらに単位遅延時間だけ遅らせたものを、第n+1回目の前記電荷蓄積工程のために用いる第n+1回目の前記遅延時間として決定する工程を含む、請求項13に記載の距離画像を撮像する方法。
  15.  前記遅延時間決定工程は、
     前記第1電圧と前記第2電圧との差分を差分電圧として出力した後に、第1回目から第m-1回目までの前記差分電圧の積分値に第m回目の前記差分電圧を加算した結果を、第m回目の前記差分電圧の積分値として求める工程と、
     第m回目の積分値が第2情報であるときに、第m+1回目の前記電荷蓄積工程のために用いる第m+1回目の前記遅延時間を第1遅延時間とし、第m回目の積分値が第1情報であるときに、第m+1回目の前記遅延時間を第2遅延時間として決定する工程と、を含む、請求項13に記載の距離画像を撮像する方法。
  16.  前記遅延時間決定工程は、
     第n回目の前記演算工程において、前記演算値が第1情報であるときに、第n回目の前記電荷蓄積工程のために用いた第n回目の前記遅延時間を、さらに単位遅延時間だけ遅らせたものを、第n+1回目の前記電荷蓄積工程のために用いる第n+1回目の前記遅延時間として決定する工程と、
     前記第1電圧と前記第2電圧との差分を差分電圧として出力した後に、第1回目から第m-1回目までの前記差分電圧の積分値に第m回目の前記差分電圧を加算した結果を、第m回目の前記差分電圧の積分値として求める工程と、
     第m回目の積分値が第2情報であるときに、第m+1回目の前記電荷蓄積工程のために用いる第m+1回目の前記遅延時間を第1遅延時間とし、第m回目の積分値が第1情報であるときに、第m+1回目の前記遅延時間を第2遅延時間として決定する工程と、を含む、請求項13に記載の距離画像を撮像する方法。

     
PCT/JP2022/003139 2021-01-28 2022-01-27 距離画像撮像装置及び距離画像を撮像する方法 WO2022163768A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US18/359,581 US20230367019A1 (en) 2021-01-28 2023-07-26 Distance image capturing device and method for capturing distance image

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2021012227A JP2022115580A (ja) 2021-01-28 2021-01-28 距離画像撮像装置及び距離画像を撮像する方法
JP2021-012227 2021-01-28

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US18/359,581 Continuation US20230367019A1 (en) 2021-01-28 2023-07-26 Distance image capturing device and method for capturing distance image

Publications (1)

Publication Number Publication Date
WO2022163768A1 true WO2022163768A1 (ja) 2022-08-04

Family

ID=82653493

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2022/003139 WO2022163768A1 (ja) 2021-01-28 2022-01-27 距離画像撮像装置及び距離画像を撮像する方法

Country Status (3)

Country Link
US (1) US20230367019A1 (ja)
JP (1) JP2022115580A (ja)
WO (1) WO2022163768A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013178121A (ja) * 2012-02-28 2013-09-09 Hamamatsu Photonics Kk 距離センサ及び距離画像センサ
JP2014163717A (ja) * 2013-02-22 2014-09-08 Stanley Electric Co Ltd 距離画像生成装置および距離画像生成方法
JP2014178244A (ja) * 2013-03-15 2014-09-25 Stanley Electric Co Ltd 距離画像生成装置および距離画像生成方法
WO2016027656A1 (ja) * 2014-08-22 2016-02-25 浜松ホトニクス株式会社 測距方法及び測距装置
WO2020166572A1 (ja) * 2019-02-15 2020-08-20 パナソニックセミコンダクターソリューションズ株式会社 撮像装置及び距離情報算出方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013178121A (ja) * 2012-02-28 2013-09-09 Hamamatsu Photonics Kk 距離センサ及び距離画像センサ
JP2014163717A (ja) * 2013-02-22 2014-09-08 Stanley Electric Co Ltd 距離画像生成装置および距離画像生成方法
JP2014178244A (ja) * 2013-03-15 2014-09-25 Stanley Electric Co Ltd 距離画像生成装置および距離画像生成方法
WO2016027656A1 (ja) * 2014-08-22 2016-02-25 浜松ホトニクス株式会社 測距方法及び測距装置
WO2020166572A1 (ja) * 2019-02-15 2020-08-20 パナソニックセミコンダクターソリューションズ株式会社 撮像装置及び距離情報算出方法

Also Published As

Publication number Publication date
US20230367019A1 (en) 2023-11-16
JP2022115580A (ja) 2022-08-09

Similar Documents

Publication Publication Date Title
US10976257B2 (en) Pixel circuit and method for optical sensing
US10809395B2 (en) Photon measurement front-end circuit with integral module and a negative feedback module
US8253613B2 (en) Second-order delta-sigma analog-to-digital converter
US6977601B1 (en) Low power current input delta-sigma ADC using injection FET reference
US8203699B2 (en) System architecture design for time-of-flight system having reduced differential pixel size, and time-of-flight systems so designed
EP0804038B1 (en) Solid-state image sensing device
WO2016075945A1 (ja) 光飛行型測距装置
US20140078360A1 (en) Imagers with improved analog-to-digital converters
WO2010090135A1 (ja) 信号処理装置および光検出装置
US9628105B1 (en) Electronic circuit having dynamic resistance element
JPH10508167A (ja) アナログ−ディジタル変換器及びそのような変換器を含む検出装置
KR101817056B1 (ko) 복수의 전극들을 위한 샘플링 회로 및 샘플링 방법
EP2863628B1 (en) Readout circuit for image sensors
JP2001141562A (ja) 光検出装置
CN114503545A (zh) 双斜坡像素读出
US10367519B2 (en) Time domain A/D converter group and sensor device using the same
WO2022163768A1 (ja) 距離画像撮像装置及び距離画像を撮像する方法
US11977186B2 (en) ToF system
Reckleben et al. 8-bit 5-MS/s per-pixel ADC in an 8-by-8 matrix
US20190363727A1 (en) Analog-to-digital converter and electronic device comprising the same
KR20230125271A (ko) 데이터 변환기용 적응형 전하 측정 회로
US10404269B2 (en) Analog-to-digital converter and signal processing apparatus
WO2023228933A1 (ja) 距離測定装置
CN112514261A (zh) 光-数字转换器装置和用于光-数字转换的方法
CN112180422B (zh) 前置放大器、像素单元电路和像素阵列探测器

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22745987

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 22745987

Country of ref document: EP

Kind code of ref document: A1