WO2024154429A1 - 測距装置 - Google Patents

測距装置 Download PDF

Info

Publication number
WO2024154429A1
WO2024154429A1 PCT/JP2023/041827 JP2023041827W WO2024154429A1 WO 2024154429 A1 WO2024154429 A1 WO 2024154429A1 JP 2023041827 W JP2023041827 W JP 2023041827W WO 2024154429 A1 WO2024154429 A1 WO 2024154429A1
Authority
WO
WIPO (PCT)
Prior art keywords
light
interference
bank
unit
distance measuring
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/JP2023/041827
Other languages
English (en)
French (fr)
Inventor
久美子 馬原
晴子 宮地
昇 崎村
晋 松本
佑紀 岩永
敬弘 猪田
光晴 大木
宗 宮本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Semiconductor Solutions Corp
Original Assignee
Sony Semiconductor Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Semiconductor Solutions Corp filed Critical Sony Semiconductor Solutions Corp
Priority to CN202380091070.XA priority Critical patent/CN120530340A/zh
Publication of WO2024154429A1 publication Critical patent/WO2024154429A1/ja
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/486Receivers
    • G01S7/4861Circuits for detection, sampling, integration or read-out
    • G01S7/4863Detector arrays, e.g. charge-transfer gates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/495Counter-measures or counter-counter-measures using electronic or electro-optical means
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/497Means for monitoring or calibrating

Definitions

  • This technology relates to a distance measuring device. More specifically, this technology relates to a distance measuring device capable of detecting interference light.
  • Range measuring devices are used for various purposes such as in-vehicle equipment, transport equipment, and mobile equipment.
  • various types of interference light such as sudden interference light, persistent interference light, and intentional interference light
  • a distance measuring sensor has been proposed in which the light-emitting element is made to emit light during a first light-receiving period and the light-receiving element receives the returned light, and in a second light-receiving period, the light-emitting element is not made to emit light and the light-receiving element receives the light, thereby acquiring disturbance information (see, for example, Patent Document 1).
  • the first light receiving period during which the light emitting element emits light and the second light receiving period during which the light emitting element does not emit light are periodically divided. This increases the discrepancy between the timing of receiving the return light and the timing of receiving the interference light, and there is a risk that the sudden incidence of interference light cannot be handled.
  • This technology was developed in light of these circumstances, and aims to reduce the discrepancy between the timing of receiving the distance measurement light and the timing of receiving the interference light.
  • This technology has been made to solve the above-mentioned problems, and its first aspect is a distance measuring device that includes a light emitting unit that emits distance measuring light, and a light receiving unit that has multiple light receiving areas that can receive light by switching between receiving and not receiving reflected light of the distance measuring light. This enables distance measuring based on light reception in multiple light receiving areas, while simultaneously receiving light used for distance measuring and light used for interference detection.
  • the light receiving region may include a first light receiving region and a second light receiving region in which the presence or absence of reception of the reflected light can be switched exclusively between each other, and the positions of the first light receiving region and the second light receiving region may be set so that when the reflected light is received in the first light receiving region, the reflected light is not received in the second light receiving region, and the positions of the first light receiving region and the second light receiving region may be set so that when the reflected light is received in the second light receiving region, the reflected light is not received in the first light receiving region.
  • the light emitting unit may include a first laser element corresponding to the first light receiving region and a second laser element corresponding to the second light receiving region, and when the reflected light is received in the first light receiving region, the first laser element may be turned on and the second laser element may be turned off, and when the reflected light is received in the second light receiving region, the first laser element may be turned off and the second laser element may be turned on. This provides the effect of simultaneously emitting distance measurement light during distance measurement and not emitting distance measurement light during interference detection.
  • a control unit may be further provided that controls a distance measurement operation based on reception of the reflected light and an interference detection operation based on reception of interference light that interferes with the reflected light. This provides the effect of carrying out the distance measurement operation and the interference detection operation in cooperation with each other.
  • control unit may repeat the distance measurement operation and the interference detection operation on a subframe basis. This brings about the effect that in each of the first light receiving region and the second light receiving region, reception of reflected light and reception of light used for interference detection are performed for each subframe.
  • control unit may change the emission interval of the distance measuring light based on the detection result of the interference light. This brings about the effect of reducing the interference effect caused by the interference light.
  • control unit may randomly change the emission interval of the distance measuring light based on the detection result of the interference light. This brings about the effect of irregularly reducing the interference effect caused by the interference light.
  • control unit may detect the interference light based on the presence or absence of a peak in a histogram showing the relationship between the light reception frequency in the light receiving area and the distance, or based on an interference evaluation index. This provides the effect of detecting interference light based on non-reception of reflected light.
  • control unit may issue an interference flag indicating the presence or absence of interference based on the detection result of the interference light. This provides the effect of notifying the detection of interference light.
  • the first light receiving area and the second light receiving area may each be provided in a plurality of areas, and the first light receiving area and the second light receiving area may be switched for each frame and used for distance measurement and interference detection. This provides the effect that the first light receiving area and the second light receiving area are changed for each frame.
  • the first light receiving region and the second light receiving region may each be provided in a plurality of regions, and at least a portion of the first light receiving region and the second light receiving region may be selected and used for distance measurement and interference detection. This provides the effect of changing the resolution and exposure time based on the selection of the first light receiving region and the second light receiving region.
  • At least a portion of the first light receiving area and the second light receiving area used for the distance measurement and the interference detection may be selected randomly. This brings about the effect of making the selection of the first light receiving area and the second light receiving area irregular.
  • control unit may use the detection result of the interference light in the first frame to remove noise in the second frame. This provides the effect of using interference detection to remove noise.
  • the second aspect is a distance measuring device that includes a light emitting unit that emits distance measuring light, a light receiving unit that receives the reflected light of the distance measuring light, and a control unit that randomly changes the emission interval of the distance measuring light based on the detection result of the interference light. This brings about the effect of interrupting the interference action without performing interference detection.
  • the third aspect is a distance measuring device that includes a light emitting unit that emits distance measuring light based on a light emitting trigger, a light receiving unit that receives light reflected from the distance measuring light, and a control unit that controls the detection of light received by the light receiving unit based on non-light emitting timings that are provided between light emitting timings based on the light emitting trigger. This provides the effect of performing interference detection based on light reception at non-light emitting timings that are provided between light emitting timings.
  • control unit may control the setting of a light emission period including the light emission timing and a non-light emission period including the non-light emission timing. This brings about the effect that the timing of distance measurement and interference detection can be changed.
  • the light emission period may be set based on a slot unit, which is a unit of emission of one light emission pulse emitted from the light emitting unit or a unit of generation of a histogram of the number of times light is received by the light receiving unit. This provides the effect of performing distance measurement and interference detection multiple times per frame.
  • control unit may notify the detection result of interference light interfering with the distance measurement light. This brings about an effect that the detection result of the interference light can be confirmed externally.
  • control unit may calculate distance measurement data based on the received light in response to the emission at the emission timing, and correct the distance measurement data based on the detection result of the interference light detected based on the non-emission timing. This has the effect of reducing the effect of the interference light on the distance measurement light.
  • control unit may set the sampling accuracy of the signal based on the non-emission timing to be lower than the sampling accuracy of the signal based on the emission timing. This provides the effect of achieving low power consumption while suppressing deterioration in distance measurement accuracy.
  • FIG. 1 is a block diagram showing an example of the configuration of a distance measuring device according to a first embodiment
  • FIG. 2 is a block diagram showing a configuration example of a light detection unit according to the first embodiment
  • FIG. 2 is a block diagram showing a configuration example of a control unit according to the first embodiment.
  • 1 is a block diagram illustrating an example of a configuration of an imaging apparatus according to a first embodiment.
  • 1 is a block diagram illustrating an example of a configuration of a solid-state imaging device according to a first embodiment.
  • FIG. 4 illustrates an example of bank switching according to the first embodiment
  • 5 is a timing chart showing a distance measuring operation and an interference detection operation according to the first embodiment.
  • 5A to 5C are diagrams illustrating a process of generating distance measurement data and interference detection data according to the first embodiment.
  • 5 is a timing chart showing an example of data output associated with distance measurement and interference detection according to the first embodiment.
  • 6A to 6C are diagrams illustrating an example of a light emission pattern when switching between banks according to the first embodiment.
  • 11A and 11B are diagrams illustrating an example of a light receiving pattern when a bank is switched according to the first embodiment.
  • 10 is a flowchart illustrating an example of an interference detection process according to the first embodiment.
  • FIG. 13 is a timing chart showing a distance measuring operation and an interference detection operation according to the third embodiment.
  • FIG. 13 is a block diagram illustrating an example of a configuration of a histogram calculation unit according to a third embodiment.
  • 13 is a timing chart showing an example of a method for changing a laser interval according to a fourth embodiment.
  • 13 is a timing chart showing an example of a bank switching method according to a fifth embodiment.
  • FIG. 23 illustrates a first example of a bank switching method according to the fifth embodiment;
  • FIG. 23 is a block diagram illustrating a first example of a bank switching unit according to the fifth embodiment.
  • FIG. 23 is a diagram illustrating a second example of a bank transition table according to the fifth embodiment.
  • FIG. 13 is a timing chart showing a second example of a bank transition method according to the fifth embodiment.
  • FIG. 23 is a block diagram illustrating a second example of a bank switching unit according to the fifth embodiment. 13 is a flowchart showing a bank transition method according to a fifth embodiment.
  • FIG. 23 is a diagram illustrating an example of a bank selection method according to the sixth embodiment. 23 is a timing chart showing an example of transition of an interference flag referred to in bank selection according to the sixth embodiment;
  • FIG. 23 is a diagram illustrating a bank selection method based on a transition of an interference flag according to a sixth embodiment.
  • 23 is a timing chart showing a distance measuring operation according to the seventh embodiment. 23 is a flowchart showing a distance measuring operation according to the seventh embodiment.
  • 23 is a block diagram illustrating an example of the configuration of an imaging apparatus according to an eighth embodiment.
  • 13A to 13C are diagrams illustrating a method of generating a histogram based on a light emission trigger and a non-light emission trigger in the eighth embodiment.
  • 13A to 13C are diagrams illustrating an interference correction method according to an eighth embodiment.
  • 23 is a timing chart showing a sampling method based on a light emission trigger and a non-light emission trigger according to a ninth embodiment.
  • 23 is a timing chart showing a sampling method based on a light emission trigger and a non-light emission trigger according to a tenth embodiment.
  • 23 is a timing chart showing a sampling method based on a light emission trigger and a non-light emission trigger according to an eleventh embodiment.
  • FIG. 23 is a timing chart showing a sampling method based on a light emission trigger and a non-light emission trigger according to a twelfth embodiment.
  • FIG. 23 is a diagram showing an example of a sampling method of interference data according to the thirteenth embodiment;
  • FIG. 23 is a diagram illustrating an example of a sampling method of interference data according to the fourteenth embodiment.
  • FIG. 23 is a block diagram illustrating an example of the configuration of an imaging apparatus according to a fifteenth embodiment.
  • FIG. 23 is a block diagram showing an example of the configuration of an imaging apparatus according to a sixteenth embodiment.
  • FIG. 23 is a perspective view showing an example of a stack of layers in a solid-state imaging device according to a seventeenth embodiment.
  • FIG. 23 is a perspective view showing an example of a stack of layers in a solid-state imaging device according to a seventeenth embodiment.
  • FIG. 23 is a perspective view showing an example of a stack of a pixel array unit according to an eighteenth embodiment
  • FIG. 23 is a perspective view showing an example of a stack of a pixel array unit according to a nineteenth embodiment
  • 1 is a block diagram showing a schematic configuration example of a vehicle control system
  • FIG. 4 is an explanatory diagram showing an example of an installation position of an imaging unit.
  • First embodiment an example in which a bank for distance measurement and a bank for interference detection are switched for each subframe, and distance measurement based on reflected light and interference detection based on interference light are performed simultaneously
  • Second embodiment example in which a plurality of banks for performing distance measurement and a plurality of banks for performing interference detection are provided, and the bank for performing distance measurement and the bank for performing interference detection are switched between each other
  • Third embodiment example in which detected interference light is used for noise subtraction in distance measurement
  • Fourth embodiment (example of randomly changing the PRI (Pulse Repetition Interval) of distance measuring light regardless of the presence or absence of interference light) 5.
  • Fifth embodiment (an example in which a plurality of banks for performing distance measurement and a plurality of banks for performing interference detection are provided, and the bank for performing distance measurement and the bank for performing interference detection are randomly switched) 6.
  • Sixth embodiment (an example in which a plurality of banks for performing distance measurement and a plurality of banks for performing interference detection are provided, and the bank for performing distance measurement and the bank for performing interference detection are selectable) 7.
  • Seventh embodiment (example of randomly changing PRI of distance measurement light without performing interference detection) 8.
  • Eighth embodiment (example of performing interference detection based on non-light emitting triggers inserted between light emitting triggers) 9.
  • Ninth embodiment (example of generating multiple light emission triggers between non-light emission triggers) 10.
  • Tenth embodiment (example of randomly generating light emission triggers and non-light emission triggers) 11.
  • Eleventh embodiment (an example of generating a sequence of light emission triggers and non-light emission triggers based on a histogram generation unit) 12.
  • Twelfth embodiment (example of switching between light emission trigger series and non-light emission trigger series for each histogram generation unit) 13.
  • Thirteenth embodiment (example of dividing measurable distance to generate a histogram based on a light emission trigger and a histogram based on a non-light emission trigger) 14.
  • FIG. 1 is a block diagram showing an example of the configuration of a distance measuring device according to a first embodiment.
  • the distance measuring device 100 captures a distance image based on, for example, ToF (Time of Flight).
  • the distance image can be generated from a distance pixel signal based on the distance for each pixel in the depth direction from the distance measuring device 100 to the object 101.
  • the distance measuring device 100 can emit distance measuring light LML to the object 101 and perform distance measurement based on receiving reflected light LRF from which the distance measuring light LML is reflected.
  • interference light LIF emitted from the interference source 102 may be incident on the distance measuring device 100.
  • the distance measuring device 100 performs interference detection of the interference light LIF, and when the interference light LIF is detected, it can operate to reduce the influence of the interference light LIF interfering with the distance measuring light LML.
  • the distance measuring device 100 includes a drive unit 111, a light emitting unit 112, a light detecting unit 123, optical systems 113 and 121, and an optical filter 122.
  • the driving unit 111 drives the light-emitting unit 112 according to instructions from the light detection unit 123. At this time, the driving unit 111 sets the drive timing of the light-emitting unit 112 according to a light emission trigger TRG from the light detection unit 123. The driving unit 111 also sets the light-emitting area of the light-emitting unit 112 for each bank according to a bank selection signal BSL.
  • the bank selection signal BSL may switch banks for each subframe into which a frame is divided.
  • the light-emitting unit 112 emits light in a predetermined wavelength range in accordance with the driving of the driving unit 111.
  • the predetermined wavelength range may be the infrared range.
  • a light-emitting region of the light-emitting unit 112 can be provided for each bank.
  • a laser diode can be used for the light-emitting unit 112.
  • a laser diode can be provided for each bank.
  • the optical system 113 forms an image of the distance measurement light LML on the object 101.
  • the optical system 113 may also include a lens and an optical filter.
  • the optical system 121 forms an image of the reflected light LRF on the light receiving surface of the light detection unit 123.
  • the optical system 121 may also include a lens and an aperture.
  • the optical filter 122 removes light of unnecessary wavelength bands from the reflected light LRF and the interference light LIF.
  • the light detection unit 123 receives the reflected light LRF reflected from the object 101.
  • the light receiving unit may be a SPAD (Single Photon Avalanche Diode) or a photodiode.
  • the light detection unit 123 can generate a histogram for each pixel based on a count value obtained by counting the time from when the light emitting unit 112 emits the distance measuring light LML according to the light emission trigger TRG until the light receiving unit 123 receives the light.
  • the histogram can show the relationship between the number of reactions of the light receiving unit (also called the light receiving frequency) and the distance to the object 101.
  • the distance to the object 101 can be calculated based on the count value obtained by counting the time from when the light emitting unit 112 emits the distance measuring light LML until the light receiving unit 123 receives the light.
  • the light detection unit 123 can then calculate the distance from the peak of the histogram to the object 101 for each pixel.
  • the light detection unit 123 has a plurality of banks that can switch between receiving and not receiving the reflected light LRF.
  • the light detection unit 123 can have, as light receiving regions, a first bank and a second bank that can switch between receiving and not receiving the reflected light LRF exclusively with each other.
  • the light detection unit 123 can set the positions of the first bank and the second bank so that when the reflected light LRF is received by the first bank, the reflected light LRF is not received by the second bank.
  • the light detection unit 123 can also set the positions of the first bank and the second bank so that when the reflected light LRF is received by the second bank, the reflected light LRF is not received by the first bank.
  • the banks are an example of light receiving regions described in the claims.
  • the light-emitting section 112 is provided with a first light-emitting region configured so that the reflected light LRF is incident on the first bank but is not incident on the second bank.
  • the light-emitting section 112 is also provided with a second light-emitting region configured so that the reflected light LRF is incident on the second bank but is not incident on the first bank.
  • a first laser element may be provided in the first light-emitting region
  • a second laser element may be provided in the second light-emitting region.
  • the light detection unit 123 performs distance measurement based on the reflected light LRF incident on the first bank, and performs interference detection when the reflected light LRF is not incident on the second bank. Then, when the light detection unit 123 detects the interference light LIF when the reflected light LRF is not incident on the second bank, it performs an operation to suppress interference and corrects the distance measurement data based on the interference detection.
  • the light detection unit 123 also performs distance measurement based on the reflected light LRF incident on the second bank, and performs interference detection when the reflected light LRF is not incident on the first bank.
  • the light detection unit 123 detects interference light LIF when the reflected light LRF is not incident on the first bank, it performs an operation to suppress interference and corrects the distance measurement data based on the interference detection.
  • interference light LIF there are various types of interference light LIF, such as sudden interference light, persistent interference light, and intentional interference light.
  • the light detection unit 123 can switch the bank used for distance measurement between the first bank and the second bank for each subframe, thereby performing interference detection that is not affected by the distance measurement light LML, without interrupting the distance measurement. Therefore, the light detection unit 123 can reduce the effect of the interference light LIF on distance measurement while responding to the diversity of the interference light LIF.
  • the processor 103 controls and communicates with the drive unit 111 and the light detection unit 123.
  • the processor 103 may include a CPU (Central Processing Unit) and a GPU (Graphics Processing Unit).
  • the processor 103 may also include hardware circuits such as an ASIC (Application Specific Integrated Circuit) and an FPGA (Field Programmable Gate Array).
  • FIG. 2 is a block diagram showing an example of the configuration of the light detection unit according to the first embodiment.
  • the light detection unit 123 includes a pixel array unit 131, a readout circuit 132, a TDC (Time to Digital Converter) 133, a histogram generation unit 134, an internal clock generation unit 135, a control unit 136, and an external interface 137.
  • TDC Time to Digital Converter
  • the pixel array section 131 has pixels arranged in a matrix in the row and column directions.
  • the pixel array section 131 has a plurality of banks in which pixels are arranged.
  • Each bank can receive reflected light LRF by switching between receiving and not receiving it.
  • the pixel array section 131 can alternate between simultaneously receiving light for distance measurement in the first bank and receiving light for interference detection in the second bank, and simultaneously receiving light for interference detection in the first bank and receiving light for distance measurement in the second bank.
  • the readout circuit 132 reads out pixel data from each pixel in the pixel array section 131 for each bank.
  • the TDC 133 measures the time difference between light emission and light reception for each bank and converts the measured value into a digital value. At this time, the digital value can indicate the time difference between the output timing of the light emission trigger TRG and the output timing of the SPAD pulse. In the case of a multi-hit TDC, it is possible to obtain the time difference between multiple SPAD pulses that are detected in sequence after the output of the light emission trigger TRG.
  • the histogram generating unit 134 can generate a histogram for each bank that indicates the relationship between the time difference from light emission to light reception and the number of reactions of the light emitting unit 112. At this time, the histogram generating unit 134 generates a histogram for the reflected light LRF in the bank assigned for distance measurement. If there is interference light LIF, the number of reactions based on the interference light LIF is added to the histogram for the reflected light LRF. Furthermore, the histogram generating unit 134 generates a histogram for the interference light LIF in the bank assigned for interference detection. Since the reflected light LRF does not enter the bank assigned for interference detection, the number of reactions based on the reflected light LRF is not added to the histogram for the interference light LIF.
  • the internal clock generating unit 135 generates an internal clock CKI based on the external clock CKO and supplies it to the control unit 136.
  • the internal clock generating unit 135 can also change the frequency of the internal clock CKI based on control from the control unit 136.
  • the control unit 136 controls the read circuit 132, the TDC 133, and the histogram generating unit 134.
  • the control unit 136 outputs the light emission trigger TRG and the bank selection signal BSL to the driving unit 111.
  • the control unit 136 can set the light emission trigger TRG and the bank selection signal BSL so that light is emitted from the light emission area corresponding to the bank assigned for distance measurement and light is not emitted from the light emission area corresponding to the bank assigned for interference detection.
  • the control unit 136 when the control unit 136 selects the first bank for distance measurement based on the bank selection signal BSL, the control unit 136 sets the light emission trigger TRG so that light is emitted from the first light emission area corresponding to the first bank and light is not emitted from the second light emission area corresponding to the second bank. Also, when the control unit 136 selects the second bank for distance measurement based on the bank selection signal BSL, the control unit 136 sets the light emission trigger TRG so that light is emitted from the second light emission area corresponding to the second bank and light is not emitted from the first light emission area corresponding to the first bank. Also, the control unit 136 can perform interference detection based on the histogram for interference detection.
  • the control unit 136 can also change the frequency of the internal clock CKI based on the presence or absence of the interference light LIF. At this time, the control unit 136 can change the PRI of the distance measurement light LML based on the frequency of the internal clock CKI.
  • the control unit 136 can also exchange data with an external I/O via the external interface 137.
  • the control unit 136 may include a register.
  • FIG. 3 is a block diagram showing an example of the configuration of a control unit according to the first embodiment.
  • FIG. 17 it includes an interference detection unit 171, a random number generator 172, and an internal clock frequency register 173.
  • the interference detection unit 171 performs interference detection based on the light reception results at the bank assigned for interference detection.
  • a bank selection signal BSL and histogram data HIS1 and HIS2 are input to the interference detection unit 171.
  • the histogram data HIS1 shows a histogram based on the light reception at the first bank.
  • the histogram data HIS2 shows a histogram based on the light reception at the second bank.
  • the interference detection unit 171 detects a peak in HIS2 when the first bank is assigned for distance measurement and the second bank is assigned for interference detection by the bank selection signal BSL, and detects a peak in HIS1 when the second bank is assigned for distance measurement and the first bank is assigned for interference detection by the bank selection signal BSL, thereby being able to detect interference light LIF for each subframe.
  • the interference detection unit 171 detects interference light LIF, it can output an interference flag FGI.
  • the random number generator 172 When the interference detection unit 171 outputs the interference flag FGI, the random number generator 172 generates a random number and outputs it to the internal clock frequency register 173.
  • the internal clock frequency register 173 holds the internal clock frequency generated based on the random number generated by the random number generator 172, and outputs it to the internal clock generation unit 135.
  • the internal clock generation unit 135 can change the frequency of the internal clock CKI based on the internal clock frequency held in the internal clock frequency register 173.
  • the PRI of the distance measurement light LML can be changed, and the interference light LIF can be dispersed to suppress the influence of the interference light LIF.
  • FIG. 4 is a block diagram showing an example of the configuration of an imaging device according to the first embodiment.
  • the imaging device 140 can be used for the light detection unit 123 in FIG. 2.
  • the imaging device 140 includes an optical system 141, a solid-state imaging device 142, an imaging control unit 143, an image processing unit 144, a storage unit 145, a display unit 146, and an operation unit 147.
  • the imaging control unit 143, the image processing unit 144, the storage unit 145, the display unit 146, and the operation unit 147 are connected to each other via a bus 148.
  • the imaging device 140 may be used as a standalone device, or may be incorporated into a mobile terminal such as a smartphone, or may be incorporated into an authentication device or a monitoring device.
  • the optical system 141 causes light from the object 101 and the interference source 102 to enter the solid-state imaging device 142, and forms an image of the subject on the light receiving surface of the solid-state imaging device 142. At this time, the optical system 141 can cause the reflected light LRF, which is the distance measurement light LML, to enter the solid-state imaging device 142 for each bank.
  • the optical system 141 can include, for example, a focus lens, a zoom lens, an optical filter, and an aperture.
  • the optical system 141 may also include multiple lenses, such as a wide-angle lens, a standard lens, and a telephoto lens.
  • the solid-state imaging device 142 converts the light from the object 101 and the interference source 102 into an electrical signal for each pixel in each bank, and digitizes and outputs the electrical signal.
  • the solid-state imaging device 142 may be, for example, an event-based vision sensor.
  • the light received by the solid-state imaging device 142 may be visible light, near infrared light (NIR: Near InfraRed), short wave infrared light (SWIR: Short Wavelength InfraRed), ultraviolet light, X-rays, or the like.
  • the imaging control unit 143 controls imaging by the solid-state imaging device 142 based on commands from the operation unit 147. At this time, the imaging control unit 143 can control the exposure conditions and imaging timing of the solid-state imaging device 142.
  • the image processing unit 144 performs image processing based on the output from the solid-state imaging device 142.
  • the image processing unit 144 may be equipped with an application processor that executes processing based on software.
  • the storage unit 145 stores images captured by the solid-state imaging device 142, and stores imaging parameters of the solid-state imaging device 142.
  • the storage unit 145 can also store programs that operate the imaging device 140 based on software.
  • the storage unit 145 may include a ROM (Read Only Memory), a RAM (Random Access Memory), and a memory card.
  • the display unit 146 displays captured images and various information that supports the imaging operation.
  • the display unit 146 may be a liquid crystal display or an organic EL (Electro Luminescence) display.
  • the operation unit 147 provides a user interface for operating the imaging device 140.
  • the operation unit 147 may include, for example, buttons, dials, and switches provided on the imaging device 140.
  • the operation unit 147 may be configured as a touch panel together with the display unit 146.
  • FIG. 5 is a block diagram showing an example of the configuration of a solid-state imaging device according to the first embodiment.
  • the solid-state imaging device 142 includes a pixel array section 131, a horizontal control section 152, and a signal processing section 153. These circuits may be arranged on a single semiconductor substrate or on a laminated substrate.
  • pixels 160 are arranged in a matrix shape in the row and column directions. Each pixel 160 is connected to a vertical signal line 161 for each column, and to a horizontal control line 162 for each row. In the pixel array section 131, each pixel 160 is driven for each bank in accordance with a control signal output via the horizontal control line 162. In addition, pixel data generated for each bank in each pixel 160 is output to the vertical signal line 161.
  • the horizontal control unit 152 selects the rows in sequence for each bank in synchronization with the vertical synchronization signal. At this time, the horizontal control unit 152 can select the pixels 160 via the horizontal control lines 162.
  • the signal processing unit 153 performs various signal processing on the image data in which the pixel data is arranged.
  • the signal processing unit 153 may include a line scanner that scans the columns.
  • FIG. 6 shows an example of bank switching in the first embodiment.
  • “a” shows an example in which the first bank BK1 is used for distance measurement and the second bank BK2 is used for interference detection when there is no interference light LIF.
  • “b” shows an example in which the first bank BK1 is used for interference detection and the second bank BK2 is used for distance measurement when there is interference light LIF.
  • a plurality of macro pixels PIX are provided in each of the first bank BK1 and the second bank BK2.
  • the reflected light LRF is incident on each macro pixel PIX of the first bank BK1, and the reflected light LRF is not incident on each macro pixel PIX of the second bank BK2.
  • the light detection unit 123 can generate a histogram HRS1 for the first bank BK1 according to the frequency of reception of the reflected light LRF. As neither the reflected light LRF nor the interference light LIF is incident on the second bank BK2, no histogram is generated.
  • the light detection unit 123 can generate a histogram HSI for the first bank BK1 according to the frequency of receiving the interference light LIF.
  • the light detection unit 123 can also generate a histogram HRS2 for the second bank BK2 according to the frequency of receiving the reflected light LRF and the interference light LIF.
  • FIG. 7 is a timing chart showing the distance measurement operation and interference detection operation in the first embodiment.
  • each frame FM is divided into two subframes SFM1 and SFM2.
  • laser elements are provided corresponding to the first bank BK1 and the second bank BK2.
  • distance measurement is performed in the first bank BK1
  • interference detection is performed in the second bank BK2.
  • distance measurement is performed in the second bank BK2.
  • the laser element is turned on for distance measurement, and the laser element is turned off for interference detection.
  • the light detection unit 123 can set the emission interval of the laser element to PRI1.
  • the light detection unit 123 detects interference, it can change the emission interval of the laser element from PRI1 to PRI2, thereby reducing interference noise.
  • FIG. 8 is a diagram showing the process of generating distance measurement data and interference detection data in the first embodiment.
  • a shows an example in which the first bank BK1 is used for distance measurement and the second bank BK2 is used for interference detection when there is no interference light LIF.
  • b shows an example in which the first bank BK1 is used for interference detection and the second bank BK2 is used for distance measurement when there is interference light LIF.
  • the TDC 133 is provided with TDCs 133-1 and 133-2 corresponding to the first bank BK1 and the second bank BK2, respectively.
  • the histogram generator 134 is provided with histogram generators 134-1 and 134-2 corresponding to the first bank BK1 and the second bank BK2, respectively.
  • Each macro pixel PIX is provided with a plurality of pixels 160. In each macro pixel PIX, the pixels 160 may be arranged in a 2x2 array.
  • the TDC 133-1 calculates the time difference between the emission timing of the distance measurement light LML corresponding to that reflected light LRF and the reception timing of that reflected light LRF. Then, the histogram generation unit 134-1 generates a histogram HRS1 according to the reception frequency of the reflected light LRF based on the calculation result in the TDC 133-1.
  • the TDC 133-1 calculates the time difference between the emission timing of the distance measurement light LML corresponding to the second bank BK2 and the reception timing of the interference light LIF. Then, the histogram generation unit 134-1 generates a histogram HRI according to the reception frequency of the interference light LIF based on the calculation result in the TDC 133-1.
  • the TDC 133-2 calculates the time difference between the emission timing of the distance measurement light LML corresponding to the reflected light LRF and the reception timing of each of the reflected light LRF and the interference light LIF. Then, the histogram generation unit 134-2 generates a histogram HRS2 according to the reception frequency of each of the reflected light LRF and the interference light LIF based on the calculation results in the TDC 133-2.
  • FIG. 9 is a timing chart showing an example of data output associated with distance measurement and interference detection in the first embodiment.
  • the bank selection signal BSL specifies the bank to be used for distance measurement. For example, when the first bank BK1 is used for distance measurement, the first bank BK1 is specified by the bank selection signal BSL, and when the second bank BK2 is used for distance measurement, the second bank BK2 is specified by the bank selection signal BSL.
  • the bank not specified by the bank selection signal BSL is used for interference detection.
  • a light emission trigger TRG is output from the light detection unit 123 to the light emission unit 112 at the time interval specified by PRI.
  • the distance measurement data and interference detection data detected exclusively in the first bank BK1 and the second bank BK2, respectively, are output alternately for each subframe SFM1 and SFM2.
  • FIG. 10 shows an example of an illumination pattern when switching banks in the first embodiment.
  • “a” shows an example of an illumination pattern when the first bank BK1 is used for distance measurement.
  • “b” shows an example of an illumination pattern when the second bank BK2 is used for distance measurement.
  • an emission pattern of the distance measurement light LML is formed on the object 101 corresponding to the light receiving position of the first bank BK1.
  • a non-emission pattern NML is formed on the object 101 corresponding to the light receiving position of the second bank BK2.
  • This non-emission pattern NML may include interference light LIF.
  • an emission pattern of the distance measurement light LML is formed on the object 101 corresponding to the light receiving position of the second bank BK2.
  • a non-emission pattern NML is formed on the object 101 corresponding to the light receiving position of the first bank BK1.
  • This non-emission pattern NML may include interference light LIF.
  • FIG. 11 shows an example of a light receiving pattern when switching banks in the first embodiment.
  • “a” shows an example of a light receiving pattern when the first bank BK1 is used for distance measurement.
  • “b” shows an example of a light receiving pattern when the second bank BK2 is used for distance measurement.
  • the pixel array section 131 is provided with a first bank BK1 and a second bank BK2.
  • the first bank BK1 and the second bank BK2 are each provided with a plurality of macropixels PIX.
  • the reflected light LRF is incident on each macropixel PIX of the first bank BK1, and the reflected light LRF is not incident on each macropixel PIX of the second bank BK2.
  • the second bank BK2 when the second bank BK2 is used for distance measurement, the reflected light LRF is incident on each macropixel PIX of the second bank BK2, and the reflected light LRF is not incident on each macropixel PIX of the first bank BK1.
  • FIG. 12 is a flowchart showing the interference detection process according to the first embodiment.
  • control unit 136 detects the peak of the histogram acquired during the interference detection period (S101).
  • the interference detection period can be set, for example, alternately for each of the subframes SFM1 and SFM2 for the first bank BK1 and the second bank BK2.
  • control unit 136 determines whether or not there is a peak in the histogram acquired during the interference detection period (S102). If there is a peak in the histogram acquired during the interference detection period, the control unit 136 issues an interference flag (S103).
  • the control unit 136 determines whether the interference evaluation index is equal to or greater than the threshold (S104). If the interference evaluation index is equal to or greater than the threshold, the control unit 136 issues an interference flag (S103). On the other hand, if the interference evaluation index is smaller than the threshold, the control unit 136 determines that there is no interference (S105).
  • the interference evaluation index may be the signal-to-noise ratio, the ratio of the standard deviation of the interference noise to the average value, or the maximum count value of each bin of the histogram.
  • the bank performing ranging and the bank performing interference detection are switched for each subframe SFM1, SFM2, and ranging based on the reflected light LRF and interference detection based on the interference light LIF are performed simultaneously.
  • This makes it possible to perform interference detection even during ranging, preventing missed interference detection periods.
  • This makes it possible to perform ranging while reducing the effects of various types of interference light, such as sudden interference light, persistent interference light, and intentional interference light, and thus improves ranging accuracy.
  • the timing of light emission can be separated between the bank used for distance measurement and the bank used for interference detection, making it possible to suppress the peak current required for laser emission.
  • Second embodiment In the first embodiment described above, the bank performing distance measurement and the bank performing interference detection were switched for each subframe SFM1, SFM2, and distance measurement based on the reflected light LRF and interference detection based on the interference light LIF were performed simultaneously. In this second embodiment, multiple banks performing distance measurement and multiple banks performing interference detection are provided, and the bank performing distance measurement and the bank performing interference detection are switched individually.
  • FIG. 13 is a diagram showing an example of bank switching in the second embodiment. The figure shows an example in which six banks are provided in the pixel array section 131.
  • the pixel array section 131 is provided with banks BK1 to BK6.
  • the banks BK1 to BK6 may be arranged in a matrix in the row and column directions, with a 2x3 array as the unit UNT.
  • Banks BK1 to BK6 can be paired with one bank performing ranging and the other performing interference detection, and these pairs can perform interleaved operations.
  • banks BK1 and BK2 may be paired
  • banks BK3 and BK4 may be paired
  • banks BK5 and BK6 may be paired.
  • banks BK3 and BK4 when bank BK3 is used for ranging, bank BK4 may be used for interference detection, and when bank BK3 is used for interference detection, bank BK4 may be used for ranging.
  • the ranging banks MBK and the interference detection banks IBK are selected every other bank in the row direction and every third bank in the column direction.
  • adjacent banks may be paired, or, to reduce the risk of crosstalk, banks far from each other may be paired.
  • FIG. 14 is a timing chart showing the distance measurement operation and interference detection operation in the second embodiment.
  • the frame FM can be divided into six subframes SFM1 to SFM6.
  • one bank of distance measurement bank MBK and one bank of interference detection bank IBK can be assigned to each of the subframes SFM1 to SFM6.
  • bank BK1 can be used for distance measurement
  • bank BK2 can be used for interference detection
  • banks BK3 to BK6 can be paused.
  • bank BK1 can be used for interference detection
  • bank BK2 can be used for distance measurement
  • banks BK3 to BK6 can be paused.
  • bank BK3 can be used for distance measurement
  • bank BK4 can be used for interference detection
  • banks BK1, BK2, BK5, and BK6 can be paused.
  • bank BK3 can be used for interference detection
  • bank BK4 can be used for distance measurement
  • banks BK1, BK2, BK5, and BK6 can be paused.
  • bank BK5 can be used for distance measurement
  • bank BK6 can be used for interference detection
  • banks BK1 to BK4 can be paused.
  • bank BK5 can be used for interference detection
  • bank BK6 can be used for distance measurement
  • banks BK1 to BK4 can be paused.
  • multiple banks for performing distance measurement and multiple banks for performing interference detection are provided, and the distance measurement bank MBK and the interference detection bank IBK are switched between. This makes it possible to simultaneously perform distance measurement and interference detection while operating some of the banks for each of the subframes SFM1 to SFM6, thereby achieving low power consumption.
  • the load on generating histograms for each of the subframes SFM1 to SFM6 can be reduced, making it possible to reduce the circuit area and reducing crosstalk.
  • the probability of interference times overlapping can be reduced, making it possible to suppress interference.
  • the bank for performing distance measurement and the bank for performing interference detection are switched for each subframe SFM1, SFM2, and distance measurement based on the reflected light LRF and interference detection based on the interference light LIF are performed simultaneously.
  • this third embodiment based on a histogram obtained by interference detection of a certain subframe, noise is removed from a histogram for distance measurement of another subframe.
  • FIG. 15 is a timing chart showing the distance measurement operation and interference detection operation in the third embodiment.
  • bank BK1 is used for distance measurement in subframe SFM1 and for interference detection in subframe SFM2.
  • histogram HSR is generated based on distance measurement in bank BK1
  • histogram HSI is generated based on interference detection in bank BK1.
  • histogram HSI is added to histogram HSR.
  • control unit 136 subtracts histogram HSI added to histogram HSR in subframe SFM1 based on histogram HSI in subframe SFM2.
  • FIG. 16 is a block diagram showing an example of the configuration of a histogram calculation unit according to the third embodiment.
  • the control unit 136 includes a histogram calculation unit 180.
  • the histogram calculation unit 180 includes a first bank noise removal unit 181 and a second bank noise removal unit 182.
  • Histogram data HIS11 based on the light reception of bank BK1 used for distance measurement in subframe SFM1 is input to the first bank noise removal unit 181.
  • Histogram data HIS12 based on the light reception of bank BK1 used for interference detection in subframe SFM2 is input to the first bank noise removal unit 181.
  • the first bank noise removal unit 181 generates and outputs histogram data HIS1 by subtracting histogram data HIS12 from the histogram data HIS11.
  • the second bank noise removal unit 182 receives histogram data HIS21 based on the light reception of bank BK2 used for interference detection in subframe SFM1.
  • the second bank noise removal unit 182 also receives histogram data HIS22 based on the light reception of bank BK2 used for distance measurement in subframe SFM2.
  • the second bank noise removal unit 182 generates and outputs histogram data HIS2 by subtracting histogram data HIS21 from histogram data HIS22.
  • the histogram calculation unit 180 can enable noise removal in each bank BK1, BK2 based on the noise removal enable signal ENB.
  • noise is removed from a histogram for ranging in one subframe based on a histogram acquired by interference detection in another subframe.
  • This makes it possible to remove noise including interference data from the ranging data measured for each of the subframes SFM1 and SFM2, making it possible to improve ranging accuracy while suppressing an increase in the time interval for ranging.
  • noise is removed from a histogram for distance measurement of a certain subframe based on a histogram acquired by interference detection of another subframe.
  • the PRI of the distance measurement light LML is randomly changed regardless of the presence or absence of the interference light LIF, thereby reducing the influence of the interference light LIF.
  • FIG. 17 is a timing chart showing an example of a method for changing the laser interval in the fourth embodiment.
  • each bank is used alternately for ranging and interference detection for each subframe SFM1, SFM2.
  • the interference flag is turned on.
  • the control unit 136 randomly changes the PRI of the ranging light LML for each frame FM, regardless of whether the interference flag is on or off.
  • the control unit 136 detects interference in a certain frame FM, it may notify that the reliability of the ranging data for that frame FM is low.
  • the PRI of the distance measurement light LML is changed randomly for each frame FM, regardless of whether the interference flag is on or off. This makes it possible to reduce the influence of the interference light LIF without performing a process of subtracting interference data from distance measurement data.
  • a plurality of banks for performing distance measurement and a plurality of banks for performing interference detection are provided, and the banks for performing distance measurement and the banks for performing interference detection are switched between each other.
  • a plurality of banks for performing distance measurement and a plurality of banks for performing interference detection are provided, and the banks for performing distance measurement and the banks for performing interference detection are switched between each other randomly.
  • FIG. 18 is a timing chart showing an example of a bank switching method according to the fifth embodiment. In this figure, an example is shown in which six banks are provided in the pixel array section 131.
  • the pixel array unit 131 is provided with banks BK1 to BK6.
  • Banks BK1 to BK6 can be paired with one bank performing distance measurement and the other bank performing interference detection, and interleaved operation can be performed between these pairs.
  • banks BK1 and BK2 can be pair PA1
  • banks BK3 and BK4 can be pair PA2
  • banks BK5 and BK6 can be pair PA3.
  • the control unit 136 can randomly change the transition order of pairs PA1 to PA3 for each frame FM1 to FM3.
  • control unit 136 can transition each pair from PA1 to PA3 in the transition order PA1 ⁇ PA3 ⁇ PA2. Also, in frame FM2, the control unit 136 can transition each pair from PA1 to PA3 in the transition order PA2 ⁇ PA1 ⁇ PA3. Also, in frame FM3, the control unit 136 can transition each pair from PA1 to PA3 in the transition order PA2 ⁇ PA3 ⁇ PA1.
  • FIG. 19 is a diagram showing a first example of a bank switching method according to the fifth embodiment. Note that in the figure, a shows an example without random transitions, and b shows an example with random transitions.
  • a bank transition table 191 is provided to randomly transition each pair PA1 to PA3.
  • the bank transition table 191 is set to no random transition.
  • the bank transition table 191 assigns a bank index BIX to the pair of subframes for each frame FM1 to FM3.
  • bank indexes BIX are randomly assigned to pairs of subframes SFM1 to SFM6.
  • bank indexes BIX can be set so that they do not overlap between pairs of subframes SFM1 to SFM6.
  • the bank assign table 192 is set based on the bank index BIX specified in the bank transition table 191.
  • the bank numbers of the odd-numbered subframes and the bank numbers of the even-numbered subframes are set for each bank index BIX. Then, according to the bank index BIX specified in the bank transition table 191, a transition is made to the bank with the bank number specified in the bank assign table 192.
  • FIG. 20 is a block diagram showing a first example of a bank switching unit according to the fifth embodiment.
  • control unit 136 includes a random number generator 190, a bank transition table 191, and a bank assignment table 192.
  • the bank transition table 191 and the bank assignment table 192 may include registers.
  • the random number generator 190 generates random numbers and outputs them to the bank transition table 191.
  • the bank transition table 191 outputs the bank index BIX to the bank assignment table 192 based on the random number generated by the random number generator 190. At this time, the bank transition table 191 can randomly assign the bank index BIX to pairs of subframes SFM1 to SFM6 based on the random transition enable signal EBT. The bank transition table 191 can also reset the bank index BIX to the default based on the reset signal RST.
  • the bank assignment table 192 selects the bank specified by the subframe number NSF according to the bank index BIX, and outputs the selection signal BSL of that bank.
  • FIG. 21 shows a second example of a bank transition table for the fifth embodiment.
  • a bank transition table 196 may be provided to randomly transition between pairs PA1 to PA3.
  • the transition order of pairs PA1 to PA3 is set in the bank transition table 196, and a bank transition table index TIX is assigned to each transition order of pairs PA1 to PA3.
  • FIG. 22 is a timing chart showing a second example of a bank transition method according to the fifth embodiment.
  • FIG. 23 is a block diagram showing a second example of a bank switching unit according to the fifth embodiment.
  • control unit 136 includes a random number generator 194, a selector 195, and a bank transition table 196.
  • the random number generator 194 generates a random number and outputs it to the selector 195.
  • the selector 195 selects either the bank transition table index TIX1 of the previous frame or the random number output from the random number generator 194, and outputs the selection result to the bank transition table 196 as the bank transition table index TIX2 of the next frame. At this time, the selector 195 can select the random number output from the random number generator 194 based on the random transition enable signal EBT.
  • the bank transition table 196 selects the transition order of pairs PA1 to PA3 based on the bank transition table index TIX2 for the next frame output from the selector 195, and outputs the selection result as a bank selection signal BSL.
  • FIG. 24 is a flowchart showing the bank transition method according to the fifth embodiment.
  • control unit 136 obtains the current bank transition table index TIX (S201).
  • control unit 136 determines whether bank random transition is enabled based on the random transition enable signal EBT (S202). If bank random transition is enabled, the control unit 136 randomly generates a bank transition table index TIX (S203).
  • control unit 136 operates the banks in the transition order indicated by the bank transition table index TIX (S204). On the other hand, if bank random transition is not enabled, the control unit 136 proceeds to S204 without changing the bank transition table index TIX (S205).
  • multiple banks for performing ranging and multiple banks for performing interference detection are provided, and the bank for performing ranging and the bank for performing interference detection are switched randomly. This makes it possible to perform ranging and interference detection simultaneously while operating some of the banks for each of the subframes SFM1 to SFM6, thereby achieving low power consumption.
  • a plurality of banks are provided for performing distance measurement and a plurality of banks are provided for performing interference detection, and the bank for performing distance measurement and the bank for performing interference detection are switched randomly.
  • a plurality of banks are provided for performing distance measurement and a plurality of banks are provided for performing interference detection, and the bank for performing distance measurement and the bank for performing interference detection can be selected.
  • FIG. 25 is a diagram showing an example of a bank selection method according to the sixth embodiment. Note that in the figure, a shows an example of full-surface ranging or full-surface sparse ranging, and b shows an example of ROI (Region Of Interest) ranging.
  • ROI Region Of Interest
  • the pixel array unit 131 is provided with banks BK1 to BK16. Each bank BK1 to BK16 may be arranged discretely over the entire surface of the pixel array unit 131.
  • the control unit 136 can perform full surface ranging simultaneously with interference detection by transitioning banks BK1 to BK16. Also, the control unit 136 can perform full surface sparse ranging simultaneously with interference detection by transitioning banks BK1 to BK4, for example.
  • the control unit 136 may switch between full surface ranging and full surface sparse ranging depending on interference detection. At this time, the control unit 136 may speed up interference detection based on full surface sparse ranging to detect the presence or absence of interference, or may improve the resolution based on full surface ranging if there is no interference.
  • the pixel array section 131 is provided with banks BK1 to BK32.
  • the pixel array section 131 can be divided into a plurality of blocks.
  • the pixel array section 131 may be divided into four blocks.
  • the first block 300 may have banks BK1 to BK8, the second block may have banks BK9 to BK16, the third block may have banks BK17 to BK24, and the fourth block may have banks BK25 to BK32.
  • the control section 136 may specify, for example, the first block 300 as the ROI. In this case, by transitioning banks BK1 to BK8 of the first block 300 specified as the ROI, interference detection and ROI distance measurement can be performed at the same time.
  • FIG. 26 is a timing chart showing an example of the transition of the interference flag referenced in bank selection in the sixth embodiment
  • FIG. 27 is a diagram showing a bank selection method based on the transition of the interference flag in the sixth embodiment.
  • the control unit 136 can change the number of banks used alternately for ranging and interference detection for each of frames FM1 to FM3.
  • the control unit 136 can set the number of subframes into which each of frames FM1 to FM3 is divided according to the number of banks used alternately for ranging and interference detection.
  • the control unit 136 may change the number of banks used alternately for ranging and interference detection according to the presence or absence of interference.
  • the pixel array section 131 can be divided into two banks, BK1 and BK2, and distance measurement and interference detection for the entire surface can be completed in two subframes SFM1 and SFM2. If it is determined that there is no interference in frame FM1, then in the next frame FM2, banks BK1 to BK6 can be used to operate some of the banks while distance measurement and interference detection are performed simultaneously, thereby achieving low power consumption. At this time, subframes SFM1 to SFM6 are provided in frame FM2.
  • the pixel array section 131 is divided into two banks, BK1 and BK2, and distance measurement and interference detection are performed simultaneously, allowing for rapid confirmation across the entire surface as to whether the interference reduction operation has worked effectively.
  • multiple banks for performing distance measurement and multiple banks for performing interference detection are provided, and the bank for performing distance measurement and the bank for performing interference detection can be selected. This makes it possible to speed up interference detection and reduce power consumption depending on whether interference is present.
  • the PRI of the distance measurement light LML is randomly changed regardless of the presence or absence of the interference light LIF to reduce the influence of the interference light LIF.
  • the PRI of the distance measurement light LML is randomly changed without performing interference detection to reduce the influence of the interference light LIF.
  • FIG. 28 is a timing chart showing the distance measurement operation according to the seventh embodiment.
  • a bank for distance measurement is provided in pixel array section 131.
  • Pixel array section 131 may or may not have a bank for interference detection. If pixel array section 131 has a bank for interference detection, the interference detection function is turned off.
  • Each bank is used for distance measurement for each frame FM.
  • the laser is turned on. At this time, even if interference light LIF is incident, interference detection is not performed.
  • the control unit 136 randomly changes the PRI of the distance measurement light LML for each frame FM without performing interference detection.
  • the PRI of the distance measurement light LML may be changed randomly according to a random pattern or a fixed pattern. In the all-bank transition, the interference detection function may be turned off, and a high frame rate may be selected.
  • FIG. 29 is an example of a flowchart showing the distance measurement operation according to the seventh embodiment.
  • the pixel array unit 131 is provided with a bank for distance measurement and a bank for interference detection, and an example is shown in which the interference detection function is turned on/off based on the bank transition mode.
  • the number of banks to be transitioned is full bank transition mode>first partial bank transition mode>second partial bank transition mode.
  • control unit 136 determines whether to select the all-bank transition mode (S301). If the control unit 136 selects the all-bank transition mode, it turns off the interference detection function (S302).
  • control unit 136 determines whether to select the high frame rate (S303). If the control unit 136 selects the high frame rate, it selects the first frame rate (S304).
  • control unit 136 determines not to select the all-bank transition mode (S301), it determines whether to select the first partial transition mode (S305). If the control unit 136 selects the first partial transition mode, it determines whether to turn on the interference detection function (S306). If the control unit 136 determines to turn on the interference detection function, it turns on the interference detection function (S307), and if it determines not to turn on the interference detection function, it turns off the interference detection function (S308).
  • control unit 136 determines whether to select the high frame rate (S309). If the control unit 136 selects the high frame rate, it selects the second frame rate (S310).
  • control unit 136 determines not to select the first partial transition mode (S305), it determines whether to select the second partial transition mode (S311). If the control unit 136 selects the second partial transition mode, it determines whether to turn on the interference detection function (S312). If the control unit 136 determines to turn on the interference detection function, it turns on the interference detection function (S313), and if it determines not to turn on the interference detection function, it turns off the interference detection function (S314). Next, the control unit 136 selects a third frame rate (S315).
  • the PRI of the distance measurement light LML is changed randomly without performing interference detection. This makes it possible to interrupt the influence of the interference light LIF while eliminating the load on the interference detection, and to speed up full-surface distance measurement while suppressing a decrease in distance measurement accuracy.
  • the bank for distance measurement and the bank for interference detection are switched for each subframe SFM1, SFM2, and distance measurement based on the reflected light LRF and interference detection based on the interference light LIF are performed simultaneously.
  • interference detection is performed based on light reception at non-emission timing provided between light emission timings based on light emission triggers.
  • FIG. 30 is a block diagram showing an example of the configuration of an imaging device according to the eighth embodiment.
  • the imaging device 500 captures a distance image based on ToF.
  • the imaging device 500 provides non-light emission timing between light emission timings based on the light emission trigger TRG in order to perform interference detection.
  • the light emission timings and non-light emission timings may be set alternately. There may be one or more light emission timings between the non-light emission timings.
  • the imaging device 500 can control the setting of the light emission period including the light emission timings and the non-light emission period including the non-light emission timings.
  • the light emission trigger TRG specifies the light emission timing of the light emitting unit that emits distance measurement light. Then, the imaging device 500 performs interference detection based on the detection result of the light received at the non-light emission timings.
  • the imaging device 500 may notify the outside of the detection result of the interference light that interferes with the distance measurement light.
  • the imaging device 500 may also calculate distance measurement data based on the light reception in response to the light emission at the light emission timings, and correct the distance measurement data based on the detection result of the interference light detected based on the non-light emission timings.
  • the imaging device 500 includes a pixel array section 551, a sampling circuit 552, a light receiving control section 553, an overall control section 554, a light emission control section 555, a timing control section 556, and a distance measurement processing section 560.
  • the imaging device 500 also includes an output interface 570, a PLL (Phase Locked Loop) circuit 581, and a clock generation section 582. These circuits may be arranged on a single semiconductor substrate or on a laminated substrate.
  • PLL Phase Locked Loop
  • pixels 557 are arranged in a matrix shape in the row and column directions.
  • a light receiving section is provided in the pixel 557.
  • the light receiving section receives reflected light that is the distance measurement light emitted from the light emitting section.
  • the light receiving section may be a SPAD.
  • a circuit section such as a quench resistor and a recharge circuit may be provided for each pixel 557.
  • the sampling circuit 552 samples the light receiving signal at each pixel 557 based on the light emission timing, and samples the light receiving signal at each pixel 557 based on the non-light emission timing. Sampling may be performed multiple times for each light emission timing and non-light emission timing. Multiple light emission timings and non-light emission timings may be set within one frame. The sampling circuit 552 may select the rows to sample in sequence.
  • the light receiving control unit 553 controls the operation of the light receiving unit in each pixel 557. At this time, the light receiving control unit 553 may also control the quenching and recharging of the SPAD.
  • the overall control unit 554 controls the light receiving control unit 553, the light emission control unit 555, the timing control unit 556, and the distance measurement processing unit 560. At this time, the overall control unit 554 can cause the light receiving control unit 553, the light emission control unit 555, the timing control unit 556, and the distance measurement processing unit 560 to operate in coordination. The overall control unit 554 can notify the timing control unit 556 of the light emission timing.
  • the overall control unit 554 may perform communication control with an externally connected host. Communication with the outside may be by a method using I2C (Inter-Integrated Circuit) or a method using SPI (Serial Peripheral Interface).
  • the light emission control unit 555 controls the light emission of the light emitting unit that emits distance measurement light. At this time, the light emission control unit 555 can instruct the selection of a trigger for generating only a histogram and a light emission trigger TRG.
  • the timing control unit 556 under the control of the light emission control unit 555, outputs a light emission trigger TRG to the light emission histogram generation unit 561 and outputs a non-light emission trigger NRG to the non-light emission histogram generation unit 562.
  • the timing control unit 556 also outputs a light emission trigger TRG to the light emission unit that emits distance measurement light.
  • the non-light emission trigger NRG can specify the timing for generating a histogram when no light is emitted.
  • the distance measurement processing unit 560 can also generate a histogram by adding up the number of responses of the SPAD during non-light emission timing between light emission timings based on the light emission trigger TRG, and detect interference light from the histogram. The distance measurement processing unit 560 can then correct the distance measurement data based on the detection result of the interference light detected based on the non-light emission timing.
  • the distance measurement processing unit 560 includes an emission histogram generating unit 561, a non-emission histogram generating unit 562, an interference correction unit 563, and a distance calculation unit 564.
  • the light emission histogram generating unit 561 generates a histogram by adding up the number of SPAD responses at each sampling time of light reception in response to light emission based on the light emission trigger TRG.
  • the light emission histogram generating unit 561 generates a histogram in slot units.
  • a slot unit is the unit for generating a histogram. Multiple slots can be provided within one frame.
  • the non-light emitting histogram generator 562 generates a histogram by adding up the number of SPAD responses for each sampling time of light reception based on the non-light emitting trigger NRG.
  • the light emitting histogram generator 561 generates a histogram on a slot-by-slot basis.
  • the interference correction unit 563 corrects the histogram generated by the emission histogram generation unit 561 based on the histogram generated by the non-emission histogram generation unit 562. At this time, the interference correction unit 563 may subtract the histogram generated by the non-emission histogram generation unit 562 from the histogram generated by the emission histogram generation unit 561 to generate a histogram for the reflected light from which the interference light has been removed.
  • the distance calculation unit 564 calculates the distance to the subject based on the histogram corrected by the interference correction unit 563.
  • the distance calculation unit 564 may output ranging data indicating the distance to the subject to the output interface 570.
  • the distance calculation unit 564 may include an FIR (Finite Impulse Response) filter.
  • the distance calculation unit 564 may perform echo determination and histogram peaks to calculate the distance to the subject.
  • the clock generation unit 582 generates an internal clock CKI based on the external clock CKO input via the PLL circuit 581.
  • FIG. 31 shows a method for generating a histogram based on an emission trigger and a non-emission trigger in the eighth embodiment.
  • the sampling start timing based on the light emission trigger TRG and the sampling start timing based on the non-light emission trigger NRG are set alternately.
  • the sampling start interval TIV can be set between several hundred nsec and several ⁇ sec.
  • the light emission histogram generating unit 561 generates histograms 601-1 and 601-2 by adding up the number of SPAD responses for each sampling time based on each light emission trigger TRG.
  • the light emission histogram generating unit 561 then generates histogram 601 by adding up histograms 601-1 and 601-2 based on multiple light emission triggers TRG.
  • the non-light emitting histogram generating unit 562 generates histograms 602-1 and 602-2 by adding up the number of SPAD responses for each sampling time based on each non-light emitting trigger NRG.
  • the non-light emitting histogram generating unit 562 then generates histogram 602 by adding up histograms 602-1 and 602-2 based on multiple non-light emitting triggers NRG.
  • FIG. 32 shows an interference correction method according to the eighth embodiment.
  • the light emission histogram generation unit 561 generates a histogram 600 based on the light emission trigger TRG.
  • the histogram 600 is generated by adding a histogram 602 of the interference light to a histogram 601 of the reflected light when there is no interference light.
  • the non-light emission histogram generation unit 562 generates a histogram 602 based on the non-light emission trigger NRG.
  • the histogram 602 is generated by adding up the number of reactions of the SPAD at each sampling time of receiving the interference light.
  • the interference correction unit 563 subtracts the histogram 601 generated by the non-emission histogram generation unit 562 from the histogram 600 generated by the emission histogram generation unit 561. This allows the interference correction unit 563 to extract the histogram 601 for the reflected light from which the interference light has been removed, from the histogram 600 generated by the emission histogram generation unit 561.
  • interference detection is performed based on the non-emission timing provided between the emission timings based on the emission trigger TRG. This makes it possible to shorten the sampling interval of the received light signal used for interference detection while avoiding overlap with the emission timing. This makes it possible to perform distance measurement while reducing the effects of various types of interference light, such as sudden interference light, persistent interference light, and intentional interference light, thereby improving distance measurement accuracy.
  • interference detection is performed based on the non-light emission timing provided between the light emission timings based on the light emission trigger TRG.
  • a plurality of light emission timings based on the light emission trigger TRG are provided between the non-light emission timings.
  • FIG. 33 is a timing chart showing a sampling method based on a light emission trigger and a non-light emission trigger in the ninth embodiment.
  • multiple light emitting triggers TRGs are provided between non-light emitting triggers NRGs.
  • the number of light emitting triggers TRGs provided between non-light emitting triggers NRGs may be two or more.
  • the number of light emitting triggers TRGs provided between non-light emitting triggers NRGs may vary. Multiple non-light emitting triggers NRGs may be provided between light emitting triggers TRGs.
  • the interference correction unit 563 may use a histogram based on a non-light emission trigger NRG that is two or more triggers before or after the current light emission trigger TRG in order to remove the effects of interference light from the distance measurement data.
  • multiple light emission timings based on the light emission trigger TRG are provided between non-light emission timings. This makes it possible to increase the number of samplings of the light reception signal based on the light emission trigger TRG, and to reduce the effects of various types of interference light, such as sudden interference light, persistent interference light, and intentional interference light, while suppressing a decrease in distance measurement accuracy.
  • Tenth embodiment> In the above-described ninth embodiment, a plurality of light emission timings based on the light emission trigger TRG are provided between non-light emission timings. In the tenth embodiment, non-light emission timings are provided randomly between light emission timings based on the light emission trigger TRG.
  • FIG. 34 is a timing chart showing a sampling method based on a light emission trigger and a non-light emission trigger in the tenth embodiment.
  • non-light emitting triggers NRG are placed randomly between light emitting triggers TRG. Multiple non-light emitting triggers may also be placed randomly between light emitting triggers TRG.
  • the interference correction unit 563 may use a histogram based on the closest non-emission trigger NRG to the current emission trigger TRG in order to remove the effects of interference light from the distance measurement data.
  • non-emission timings are set randomly between emission timings based on the emission trigger TRG. This makes it difficult to predict the current emission timing from past emission timings, and strengthens security against attacks that use intentional interference light, etc.
  • interference detection is performed based on the non-light emission timing provided between the light emission timings based on the light emission trigger TRG.
  • a series of light emission triggers and a series of non-light emission triggers are generated based on a histogram generation unit.
  • FIG. 35 is a timing chart showing a sampling method based on a light emission trigger and a non-light emission trigger in the eleventh embodiment.
  • each histogram generation unit light emission triggers TRG and non-light emission triggers NRG are provided alternately.
  • non-light emission triggers NRG may be provided randomly between light emission triggers TRG.
  • a histogram 600 for distance measurement that includes interference and a histogram 602 for interference detection are generated for each histogram generation unit.
  • the sampling accuracy of the signal used for interference detection may be lower than the sampling accuracy of the signal used for distance measurement.
  • the resolution of the interference detection image may be lower than the resolution of the distance measurement image.
  • the light emitting trigger TRG and the non-light emitting trigger NRG will not be set strictly at 4:1, and the non-light emitting trigger NRG may increase or decrease several times more than the probability of 20%.
  • the imaging device 500 may record the number of accumulations of the histogram and reflect that number of accumulations in the histogram subtraction process for removing the interfering light.
  • the imaging device 500 may notify the number of accumulations to the outside together with the histogram data.
  • the imaging device 500 may add the number of accumulations of the histogram to the EBD (Embedded Data) of the histogram data.
  • a series of light emission triggers and non-light emission triggers is generated based on the histogram generation unit. This allows the number of histogram accumulations to be reflected in the histogram subtraction process for removing interference light while also dealing with randomization of the non-light emission triggers NRG. This makes it possible to improve distance measurement accuracy while strengthening security against attacks that intentionally use interference light.
  • Twelfth embodiment In the eleventh embodiment described above, the light emission triggers TRG and the non-light emission triggers NRG are alternately provided in each histogram generation unit. In the twelfth embodiment, a series of light emission triggers TRG and a series of non-light emission triggers NRG are alternately provided for each histogram generation unit.
  • FIG. 36 is a timing chart showing a sampling method based on a light emission trigger and a non-light emission trigger in the 12th embodiment.
  • a series of light emission triggers TRG and a series of non-light emission triggers NRG are provided alternately for each histogram generation unit.
  • a histogram 600 for distance measurement mixed with interference and a histogram 602 for interference detection are generated alternately for each histogram generation unit. Therefore, the imaging device 500 only needs to alternately store the histogram 600 for distance measurement mixed with interference and the histogram 602 for interference detection, and the two types of histograms 600 and 602 can be stored in the same memory in a time-division manner. This makes it possible to reduce the storage capacity required to store the two types of histograms 600 and 602, and to miniaturize the imaging device 500.
  • the distance measurement data and the interference detection data may be stored as histogram data, or may be compressed and stored as information that can reproduce waveforms such as the peak position and half-width of the histogram or information around the peak.
  • a series of light emission triggers TRG and a series of non-light emission triggers NRG are provided for each histogram generation unit. This makes it possible to generate a distance measurement histogram 600 containing interference and a histogram for interference detection 602 for each histogram generation unit, and the two types of histograms 600, 602 can be stored in the same memory in a time-division manner.
  • interference detection is performed based on the non-light emission timing provided between the light emission timings based on the light emission trigger TRG.
  • the measurable distance is divided to generate a histogram based on the light emission trigger TRG and a histogram based on the non-light emission trigger NRG.
  • FIG. 37 shows an example of a method for sampling interference data according to the thirteenth embodiment.
  • the imaging device 500 is assumed to be capable of measuring distances up to 100 m without interference detection. In this case, when performing distance measurement with interference detection, the imaging device 500 switches to measuring distances up to 50 m.
  • histogram 701 is created for distance measurement up to 100 m without interference
  • histogram 702 is created for interference detection up to 100 m with interference.
  • it is sufficient to have memory capacity to store histogram 701.
  • memory capacity is required to store histograms 701 and 702, and it is necessary to increase the memory capacity to store histogram 702.
  • the imaging device 500 switches to distance measurement up to 50 m.
  • a histogram is generated in which histograms 701 and 702 up to 50 m are added together.
  • a histogram 702 is generated in which histogram 701 up to 50 m is not added. For this reason, by subtracting histogram 702 up to 50 m in c in the same figure from the histogram in b in the same figure in which histograms 701 and 702 up to 50 m are added together, it is possible to generate histogram 701 up to 50 m from which interference has been removed.
  • the presence or absence of interference may be determined based on a peak at a position farther than 50 m.
  • the reflected light of the distance measurement light is attenuated more as the distance increases, so no peak occurs at a position far away.
  • a peak may occur with interference light even at a long distance.
  • the histogram 702 of the interference light a peak 703 may occur even at a position farther than 50 m.
  • the presence or absence of interference can be determined by determining whether the peak 703 of the histogram 702 is added to the histogram 701 up to 100 m at a position farther than 50 m.
  • interference detection may be performed between multiple frames at a position far from the subject.
  • the measurable distance is divided, and a histogram based on the light emission trigger TRG and a histogram based on the non-light emission trigger NRG are generated. This makes it possible to switch between distance measurement with interference detection and distance measurement without interference detection depending on the distance to the subject, and makes it possible to perform distance measurement with interference detection based on the memory capacity corresponding to distance measurement without interference detection.
  • interference detection is performed based on the non-light emission timing provided between the light emission timings based on the light emission trigger TRG.
  • the sampling accuracy based on the non-light emission trigger NRG is set lower than the sampling accuracy based on the light emission trigger TRG.
  • FIG. 38 shows an example of a method for sampling interference data according to the fourteenth embodiment.
  • the imaging device 500 is capable of measuring distances up to 100 m, for example.
  • the imaging device 500 generates histogram 801 by adding sampling data based on 100 m and 100 light emission triggers TRG with a sampling accuracy of 5 cm, for example.
  • the imaging device 500 generates histogram 802 by adding sampling data based on 100 m and 25 non-light emission triggers NRG with a sampling accuracy of 10 cm, for example.
  • the sampling accuracy of interference detection can be made lower than the sampling accuracy of distance measurement, and the storage capacity of histogram 802 can be reduced.
  • the imaging device 500 may allocate, for example, 70 m of the 100 m of the storage capacity of histogram 801 to the storage capacity of histogram 802. In this case, the imaging device 500 can allocate 30 m of the 100 m of the storage capacity of histogram 801 to the storage capacity of histogram 802.
  • the imaging device 500 reduces the sampling accuracy and number of additions of the histogram 802, and stores 70 m of the histogram 802 in the storage capacity of 30 m of the histogram 801. This makes it possible to perform interference detection based on timing that does not overlap with distance measurement, without increasing the storage capacity of the histogram 802.
  • the sampling accuracy based on the non-light emission trigger NRG is set lower than the sampling accuracy based on the light emission trigger TRG. This makes it possible to compress the data of the interference detection histogram 602, thereby reducing the storage capacity of the interference detection histogram 602.
  • interference correction is performed within the imaging device 500 based on interference detection by the imaging device 500.
  • interference correction is performed outside the imaging device based on interference detection by the imaging device.
  • FIG. 39 is a block diagram showing an example of the configuration of an imaging device according to the fifteenth embodiment.
  • the imaging device 800 includes a distance measurement processing unit 860 instead of the distance measurement processing unit 560 of the imaging device 500 of the eighth embodiment described above.
  • the rest of the configuration of the imaging device 800 is the same as the configuration of the imaging device 500 of the eighth embodiment described above.
  • the distance measurement processing unit 860 includes a selector 861 and a preprocessing unit 862 instead of the interference correction unit 563 and the distance calculation unit 564 of the distance measurement processing unit 560 of the eighth embodiment described above.
  • the rest of the configuration of the distance measurement processing unit 860 is the same as the configuration of the distance measurement processing unit 560 of the eighth embodiment described above.
  • the selector 861 selectively outputs the output of the emission histogram generation unit 561 and the output of the non-emission histogram generation unit 562 to the pre-processing unit 862.
  • the pre-processing unit 862 performs pre-processing of interference correction on the output of the emission histogram generating unit 561 and the output of the non-emission histogram generating unit 562.
  • the pre-processing unit 862 may include an FIR filter.
  • the pre-processing unit 862 may perform echo determination.
  • the host 811 is connected to the imaging device 800.
  • the host 811 processes the output of the imaging device 800.
  • the host 811 includes an input interface 812 and an interference correction unit 813.
  • the output of the imaging device 800 is input to the interference correction unit 813 via the input interface 812.
  • the interference correction unit 813 corrects the histogram generated by the emission histogram generation unit 561 based on the histogram generated by the non-emission histogram generation unit 562.
  • the interference correction unit 813 may subtract the histogram generated by the non-emission histogram generation unit 562 from the histogram generated by the emission histogram generation unit 561 to generate a histogram for the reflected light from which the interference light has been removed.
  • interference correction is performed outside the imaging device 800 based on interference detection by the imaging device 800. This makes it possible to reduce the load on the imaging device 800 for interference correction.
  • interference correction is performed outside the imaging device 800 based on interference detection by the imaging device 800.
  • the imaging device notifies the outside of the detection result of the interference light.
  • FIG. 40 is a block diagram showing an example of the configuration of an imaging device according to the 16th embodiment.
  • the imaging device 850 is obtained by adding a peak detection unit 851 to the imaging device 500 of the eighth embodiment described above.
  • the rest of the configuration of the imaging device 850 is the same as the configuration of the imaging device 500 of the eighth embodiment described above.
  • the peak detection unit 851 detects peaks in the histogram generated by the non-luminescence histogram generation unit 562, and notifies the outside of the imaging device 850 as warning information.
  • the warning information may be notified to the outside via a terminal, or may be notified to the outside via the output interface 570.
  • the warning information may be inserted into an EBD or the like and notified to the outside.
  • the imaging device 850 notifies the outside of the detection result of the interference light. This makes it possible to externally confirm the interference during distance measurement by the imaging device 850.
  • ⁇ 17. Seventeenth embodiment> In the first embodiment described above, the bank performing distance measurement and the bank performing interference detection were switched for each subframe SFM1, SFM2, and distance measurement based on the reflected light LRF and interference detection based on the interference light LIF were performed simultaneously.
  • a pixel array unit in which pixels each having a light receiving element are arranged is provided on an upper chip, and a circuit unit is provided on a lower chip.
  • FIG. 41 is a perspective view showing an example of a stack of a solid-state imaging device according to the seventeenth embodiment.
  • the solid-state imaging device includes a pixel array section 910 and a circuit section 920.
  • the pixel array section 910 can be stacked on the circuit section 920.
  • the pixel array section 910 includes pixels 911.
  • the pixels 911 are arranged in a matrix shape in the row and column directions.
  • the pixels 911 can be provided with a light receiving section such as a SPAD, a quench resistor, a recharge circuit, a counter, a latch, and the like.
  • the circuit section 920 is connected to the pixel array section 910.
  • the circuit section 920 can be provided with a readout circuit 921 and a control circuit 922.
  • the readout circuit 921 reads out pixel data from each pixel 911 of the pixel array section 910.
  • the control circuit 922 can control the emission timing of the light emitting section and the sampling timing of the light receiving signal generated by the light receiving section. In addition, based on the sampling of the light receiving signal, a histogram showing the frequency of light receiving for each distance can be generated, and the distance to the subject can be calculated based on the histogram. At this time, the control circuit 922 can perform interference detection and correct the distance measurement data based on the interference detection data.
  • the pixel array section 910 can be formed in the upper chip, and the circuit section 920 can be formed in the lower chip.
  • the upper chip and the lower chip can be directly bonded.
  • Hybrid bonding can be used for directly bonding the upper chip and the lower chip.
  • the upper chip and the lower chip can be electrically connected based on a Cu-Cu connection.
  • the material of the semiconductor substrate used for the upper chip and the lower chip can be Si, InGaAs, or InP.
  • the pixel array section 910 in which the pixels 911 each having a light receiving element are arranged is provided on the upper chip, and the circuit section 920 is provided on the lower chip. This makes it possible to increase the area of the light receiving element while suppressing an increase in chip size, thereby improving sensitivity while miniaturizing the solid-state imaging device.
  • the pixel array section 910 in which the pixels 911 are arranged is laminated on the circuit section 920.
  • the light receiving array section in which the light receiving sections are arranged is provided on an upper chip, and the circuit array section is provided on a lower chip.
  • FIG. 42 is a perspective view showing an example of a pixel array section stacked in the 18th embodiment.
  • the pixel array section includes a light receiving array section 930 and a circuit array section 940.
  • the light receiving array section 930 can be stacked on the circuit array section 940.
  • the light receiving array section 930 includes light receiving sections 931.
  • the light receiving sections 931 are arranged in a matrix shape in the row and column directions. Each light receiving section 931 can be provided with a SPAD.
  • the circuit array section 940 includes circuit sections 941.
  • the circuit sections 941 are arranged in a matrix shape in the row and column directions.
  • a circuit section 941 can be provided for each light receiving section 931.
  • Each circuit section 941 can be provided with a quench resistor, a recharge circuit, a counter, a latch, etc.
  • the light receiving array section 930 in which the light receiving sections 931 are arranged is stacked on the circuit array section 940 in which the circuit sections 941 are arranged. This makes it possible to increase the area of the light receiving sections 931 while suppressing an increase in chip size, thereby improving sensitivity while miniaturizing the solid-state imaging device.
  • the light receiving array section 930 in which the light receiving sections 931 are arranged is stacked on the circuit array section 940 in which the circuit sections 941 are arranged.
  • the light receiving array section in which the light receiving sections, each having a plurality of light receiving elements, are arranged is provided on an upper chip, and the circuit array section is provided on a lower chip.
  • FIG. 43 is a perspective view showing an example of a pixel array section stacked in the 19th embodiment.
  • the pixel array section includes a light receiving array section 950 and a circuit array section 960.
  • the light receiving array section 950 can be stacked on the circuit array section 960.
  • the light receiving array section 950 includes a light receiving section 951.
  • the light receiving sections 951 are arranged in a matrix shape in the row and column directions. Each light receiving section 951 is provided with a plurality of light receiving elements 952.
  • the light receiving elements 952 may be SPADs. In each light receiving section 951, the light receiving elements 952 may be arranged in a 2x2 array or a 3x3 array.
  • the circuit array section 960 includes circuit sections 961.
  • the circuit sections 961 are arranged in a matrix shape in the row and column directions.
  • a circuit section 961 can be provided for each light receiving section 951.
  • Each circuit section 961 can be provided with a quench resistor, a recharge circuit, a counter, a latch, etc.
  • a light receiving array section 950 in which light receiving sections 951 each having a plurality of light receiving elements 952 are arranged is stacked on a circuit array section 960 in which circuit sections 961 are arranged.
  • the technology according to the present disclosure can be applied to various products.
  • the technology according to the present disclosure may be realized as a device mounted on any type of moving body such as an automobile, an electric vehicle, a hybrid electric vehicle, a motorcycle, a bicycle, a personal mobility device, an airplane, a drone, a ship, or a robot.
  • FIG. 44 is a block diagram showing a schematic configuration example of a vehicle control system, which is an example of a mobile object control system to which the technology disclosed herein can be applied.
  • the vehicle control system 12000 includes a plurality of electronic control units connected via a communication network 12001.
  • the vehicle control system 12000 includes a drive system control unit 12010, a body system control unit 12020, an outside vehicle information detection unit 12030, an inside vehicle information detection unit 12040, and an integrated control unit 12050.
  • Also shown as functional components of the integrated control unit 12050 are a microcomputer 12051, an audio/video output unit 12052, and an in-vehicle network I/F (interface) 12053.
  • the drive system control unit 12010 controls the operation of devices related to the drive system of the vehicle according to various programs.
  • the drive system control unit 12010 functions as a control device for a drive force generating device for generating the drive force of the vehicle, such as an internal combustion engine or a drive motor, a drive force transmission mechanism for transmitting the drive force to the wheels, a steering mechanism for adjusting the steering angle of the vehicle, and a braking device for generating a braking force for the vehicle.
  • the body system control unit 12020 controls the operation of various devices installed in the vehicle body according to various programs.
  • the body system control unit 12020 functions as a control device for a keyless entry system, a smart key system, a power window device, or various lamps such as headlamps, tail lamps, brake lamps, turn signals, and fog lamps.
  • radio waves or signals from various switches transmitted from a portable device that replaces a key can be input to the body system control unit 12020.
  • the body system control unit 12020 accepts the input of these radio waves or signals and controls the vehicle's door lock device, power window device, lamps, etc.
  • the outside-vehicle information detection unit 12030 detects information outside the vehicle equipped with the vehicle control system 12000.
  • the image capturing unit 12031 is connected to the outside-vehicle information detection unit 12030.
  • the outside-vehicle information detection unit 12030 causes the image capturing unit 12031 to capture images outside the vehicle and receives the captured images.
  • the outside-vehicle information detection unit 12030 may perform object detection processing or distance detection processing for people, cars, obstacles, signs, or characters on the road surface based on the received images.
  • the imaging unit 12031 is an optical sensor that receives light and outputs an electrical signal according to the amount of light received.
  • the imaging unit 12031 can output the electrical signal as an image, or as distance measurement information.
  • the light received by the imaging unit 12031 may be visible light, or may be invisible light such as infrared light.
  • the in-vehicle information detection unit 12040 detects information inside the vehicle.
  • a driver state detection unit 12041 that detects the state of the driver is connected.
  • the driver state detection unit 12041 includes, for example, a camera that captures an image of the driver, and the in-vehicle information detection unit 12040 may calculate the driver's degree of fatigue or concentration based on the detection information input from the driver state detection unit 12041, or may determine whether the driver is dozing off.
  • the microcomputer 12051 can calculate control target values for the driving force generating device, steering mechanism, or braking device based on information inside and outside the vehicle acquired by the outside vehicle information detection unit 12030 or the inside vehicle information detection unit 12040, and output control commands to the drive system control unit 12010.
  • the microcomputer 12051 can perform cooperative control aimed at realizing the functions of an Advanced Driver Assistance System (ADAS), including vehicle collision avoidance or impact mitigation, following driving based on the distance between vehicles, maintaining vehicle speed, vehicle collision warning, or vehicle lane departure warning.
  • ADAS Advanced Driver Assistance System
  • the microcomputer 12051 can also control the driving force generating device, steering mechanism, braking device, etc. based on information about the surroundings of the vehicle acquired by the outside vehicle information detection unit 12030 or the inside vehicle information detection unit 12040, thereby performing cooperative control aimed at automatic driving, which allows the vehicle to travel autonomously without relying on the driver's operation.
  • the microcomputer 12051 can also output control commands to the body system control unit 12020 based on information outside the vehicle acquired by the outside-vehicle information detection unit 12030. For example, the microcomputer 12051 can control the headlamps according to the position of a preceding vehicle or an oncoming vehicle detected by the outside-vehicle information detection unit 12030, and perform cooperative control aimed at preventing glare, such as switching high beams to low beams.
  • the audio/image output unit 12052 transmits at least one output signal of audio and image to an output device capable of visually or audibly notifying the occupants of the vehicle or the outside of the vehicle of information.
  • an audio speaker 12061, a display unit 12062, and an instrument panel 12063 are exemplified as output devices.
  • the display unit 12062 may include, for example, at least one of an on-board display and a head-up display.
  • FIG. 45 shows an example of the installation position of the imaging unit 12031.
  • the imaging unit 12031 includes imaging units 12101, 12102, 12103, 12104, and 12105.
  • the imaging units 12101, 12102, 12103, 12104, and 12105 are provided, for example, at the front nose, side mirrors, rear bumper, back door, and upper part of the windshield inside the vehicle cabin of the vehicle 12100.
  • the imaging unit 12101 provided at the front nose and the imaging unit 12105 provided at the upper part of the windshield inside the vehicle cabin mainly acquire images of the front of the vehicle 12100.
  • the imaging units 12102 and 12103 provided at the side mirrors mainly acquire images of the sides of the vehicle 12100.
  • the imaging unit 12104 provided at the rear bumper or back door mainly acquires images of the rear of the vehicle 12100.
  • the imaging unit 12105 provided at the upper part of the windshield inside the vehicle cabin is mainly used to detect leading vehicles, pedestrians, obstacles, traffic lights, traffic signs, lanes, etc.
  • FIG. 45 shows an example of the imaging ranges of the imaging units 12101 to 12104.
  • Imaging range 12111 indicates the imaging range of the imaging unit 12101 provided on the front nose
  • imaging ranges 12112 and 12113 indicate the imaging ranges of the imaging units 12102 and 12103 provided on the side mirrors, respectively
  • imaging range 12114 indicates the imaging range of the imaging unit 12104 provided on the rear bumper or back door.
  • an overhead image of the vehicle 12100 viewed from above is obtained by superimposing the image data captured by the imaging units 12101 to 12104.
  • At least one of the imaging units 12101 to 12104 may have a function of acquiring distance information.
  • at least one of the imaging units 12101 to 12104 may be a stereo camera consisting of multiple imaging elements, or an imaging element having pixels for detecting phase differences.
  • the microcomputer 12051 can obtain the distance to each solid object within the imaging ranges 12111 to 12114 and the change in this distance over time (relative speed with respect to the vehicle 12100) based on the distance information obtained from the imaging units 12101 to 12104, and can extract as a preceding vehicle, in particular, the closest solid object on the path of the vehicle 12100 that is traveling in approximately the same direction as the vehicle 12100 at a predetermined speed (e.g., 0 km/h or faster). Furthermore, the microcomputer 12051 can set the inter-vehicle distance that should be maintained in advance in front of the preceding vehicle, and perform automatic braking control (including follow-up stop control) and automatic acceleration control (including follow-up start control). In this way, cooperative control can be performed for the purpose of automatic driving, which runs autonomously without relying on the driver's operation.
  • automatic braking control including follow-up stop control
  • automatic acceleration control including follow-up start control
  • the microcomputer 12051 classifies and extracts three-dimensional object data on three-dimensional objects, such as two-wheeled vehicles, ordinary vehicles, large vehicles, pedestrians, utility poles, and other three-dimensional objects, based on the distance information obtained from the imaging units 12101 to 12104, and can use the data to automatically avoid obstacles.
  • the microcomputer 12051 distinguishes obstacles around the vehicle 12100 into obstacles that are visible to the driver of the vehicle 12100 and obstacles that are difficult to see.
  • the microcomputer 12051 determines the collision risk, which indicates the risk of collision with each obstacle, and when the collision risk is equal to or exceeds a set value and there is a possibility of a collision, it can provide driving assistance for collision avoidance by outputting an alarm to the driver via the audio speaker 12061 or the display unit 12062, or by forcibly decelerating or steering the vehicle to avoid a collision via the drive system control unit 12010.
  • At least one of the imaging units 12101 to 12104 may be an infrared camera that detects infrared rays.
  • the microcomputer 12051 can recognize a pedestrian by determining whether or not a pedestrian is present in the captured image of the imaging units 12101 to 12104. The recognition of such a pedestrian is performed, for example, by a procedure of extracting feature points in the captured image of the imaging units 12101 to 12104 as infrared cameras, and a procedure of performing pattern matching processing on a series of feature points that indicate the contour of an object to determine whether or not it is a pedestrian.
  • the audio/image output unit 12052 controls the display unit 12062 to superimpose a rectangular contour line for emphasis on the recognized pedestrian.
  • the audio/image output unit 12052 may also control the display unit 12062 to display an icon or the like indicating a pedestrian at a desired position.
  • the technology disclosed herein can be applied to the imaging unit 12031 of the configuration described above.
  • the distance measuring device described above can be applied to the imaging unit 12031.
  • the above-described embodiment shows an example for realizing the present technology, and there is a corresponding relationship between the matters in the embodiment and the matters specifying the invention in the claims. Similarly, there is a corresponding relationship between the matters specifying the invention in the claims and the matters in the embodiment of the present technology that have the same name.
  • the present technology is not limited to the embodiment, and can be realized by making various modifications to the embodiment without departing from the gist of the technology.
  • the effects described in this specification are merely examples and are not limiting, and other effects may also be present.
  • the present technology can also be configured as follows. (1) a light emitting unit that emits distance measuring light; a light receiving section having a plurality of light receiving regions capable of receiving light by switching between receiving and not receiving the reflected light of the distance measuring light. (2)
  • the light receiving region includes a first light receiving region and a second light receiving region that are mutually exclusively switched between receiving and not receiving the reflected light, the positions of the first light receiving region and the second light receiving region are set so that, when the reflected light is received by the first light receiving region, the reflected light is not received by the second light receiving region;
  • the distance measuring device described in (1) wherein the positions of the first light receiving area and the second light receiving area are set so that when the reflected light is received by the second light receiving area, the reflected light is not received by the first light receiving area.
  • the light emitting unit is a first laser element corresponding to the first light receiving region; a second laser element corresponding to the second light receiving region, When the reflected light is received by the first light receiving region, the first laser element is turned on and the second laser element is turned off;
  • the distance measuring device according to (2) wherein when the reflected light is received by the second light receiving region, the first laser element is turned off and the second laser element is turned on.
  • the distance measuring device according to any one of (4) to (8), wherein the control unit issues an interference flag indicating the presence or absence of interference based on a detection result of the interference light.
  • the first light receiving region and the second light receiving region are each provided in a plurality of regions, The distance measuring device according to any one of (2) to (9), wherein the first light receiving region and the second light receiving region are switched for each frame and used for distance measurement and interference detection.
  • the first light receiving region and the second light receiving region are each provided in a plurality of regions, The distance measuring device according to any one of (2) to (10), wherein at least a part of the first light receiving region and the second light receiving region is selected and used for distance measurement and interference detection.
  • the distance measuring device (12) The distance measuring device according to (11), wherein at least a portion of the first light receiving area and the second light receiving area used for the distance measuring and the interference detection are selected randomly. (13) The distance measuring device according to (4), wherein the control unit uses a detection result of the interference light in the first frame to remove noise in the second frame. (14) a light emitting unit that emits distance measuring light; a light receiving unit that receives reflected light of the distance measuring light; a control unit that randomly changes the emission interval of the distance measuring light based on a detection result of the interference light.
  • a light emitting unit that emits distance measuring light based on a light emission trigger; a light receiving unit that receives reflected light of the distance measuring light; a control unit that controls detection of light received by the light receiving unit based on non-light emission timing provided between light emission timings based on the light emission trigger.
  • the control unit controls the setting of a light emission period including the light emission timing and a non-light emission period including the non-light emission timing.
  • the control unit notifies a detection result of interference light interfering with the distance measuring light.
  • the control unit calculates ranging data based on received light in response to the emission at the emission timing, and corrects the ranging data based on the detection result of interference light detected based on the non-emission timing.
  • REFERENCE SIGNS LIST 100 Distance measuring device 101 Object 102 Interference source 103 Processor 111 Driving section 112 Light emitting section 113, 121, 141 Optical system 122 Optical filter 123 Light detecting section 131 Pixel array section 132 Readout circuit 133 TDC 134 Histogram generation unit 135 Internal clock generation unit 136 Control unit 137 External interface 171 Interference detection unit 172 Random number generator 173 Internal clock frequency register 140 Imaging device 142 Solid-state imaging device 143 Imaging control unit 144 Image processing unit 145 Storage unit 146 Display unit 147 Operation unit 148 Bus 160 Pixel 152 Horizontal control unit 153 Signal processing unit 161 Vertical signal line 162 Horizontal control line

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • Optical Radar Systems And Details Thereof (AREA)

Abstract

測距光の受光タイミングと干渉光の受光タイミングの乖離を減少させる。 測距装置は、測距光を出射する発光部と、測距光が反射された反射光の受光の有無を切り替えて受光可能な複数の受光領域を有する受光部とを備える。受光領域は、反射光の受光の有無が互いに排他的に切り替えられる第1受光領域および第2受光領域を備え、反射光が第1受光領域で受光されるときに、反射光が第2受光領域で受光されないように、第1受光領域と第2受光領域との位置が設定され、反射光が第2受光領域で受光されるときに、反射光が第1受光領域で受光されないように、第1受光領域と第2受光領域との位置が設定されてもよい。

Description

測距装置
 本技術は、測距装置に関する。詳しくは、本技術は、干渉光を検知可能な測距装置に関する。
 測距装置は、車載機器、搬送機器およびモバイル機器などの様々な用途に用いられる。このとき、測距装置には、突発的な干渉光、永続的な干渉光および意図的な干渉光などの多様な干渉光が入射することがあり、干渉対策がとられることがある。例えば、第1受光期間に発光素子を発光させて受光素子に戻り光を受光させ、第2受光期間に発光素子を発光させずに受光素子に光を受光させて外乱情報を取得する測距センサが提案されている(例えば、特許文献1参照)。
特開2022-24252号公報
 しかしながら、上述の従来技術では、発光素子が発光される第1受光期間と発光素子が発光されない第2受光期間が周期的に分割される。このため、戻り光の受光タイミングと干渉光の受光タイミングの乖離が増大し、突発的な干渉光の入射に対応できないおそれがあった。
 本技術はこのような状況に鑑みて生み出されたものであり、測距光の受光タイミングと干渉光の受光タイミングの乖離を減少させることを目的とする。
 本技術は、上述の問題点を解消するためになされたものであり、その第1の側面は、測距光を出射する発光部と、前記測距光が反射された反射光の受光の有無を切り替えて受光可能な複数の受光領域を有する受光部とを備える測距装置である。これにより、複数の受光領域での受光に基づく測距を可能としつつ、測距に用いられる受光と干渉検知に用いられる受光とが同時に実施されるという作用をもたらす。
 また、第1の側面において、前記受光領域は、前記反射光の受光の有無が互いに排他的に切り替えられる第1受光領域および第2受光領域を備え、前記反射光が前記第1受光領域で受光されるときに、前記反射光が前記第2受光領域で受光されないように、前記第1受光領域と第2受光領域との位置が設定され、前記反射光が前記第2受光領域で受光されるときに、前記反射光が前記第1受光領域で受光されないように、前記第1受光領域と第2受光領域との位置が設定されてもよい。これにより、反射光の受光と、干渉検知に用いられる受光とが同時に実施されるという作用をもたらす。
 また、第1の側面において、前記発光部は、前記第1受光領域に対応した第1レーザ素子と、前記第2受光領域に対応した第2レーザ素子とを備え、前記反射光が前記第1受光領域で受光されるときは、前記第1レーザ素子はオンされるとともに、前記第2レーザ素子はオフされ、前記反射光が前記第2受光領域で受光されるときは、前記第1レーザ素子はオフされるとともに、前記第2レーザ素子はオンされてもよい。これにより、測距時の測距光の出射と、干渉検知時の測距光の非出射とが同時に実施されるという作用をもたらす。
 また、第1の側面において、前記反射光の受光に基づく測距動作と、前記反射光に干渉する干渉光の受光に基づく干渉検知動作を制御する制御部をさらに備えてもよい。これにより、測距動作と干渉検知動作とが協働して実施されるという作用をもたらす。
 また、第1の側面において、前記制御部は、前記測距動作と前記干渉検知動作とをサブフレーム単位で繰り返してもよい。これにより、第1受光領域および第2受光領域のそれぞれにおいて、反射光の受光と干渉検知に用いられる受光とがサブフレームごとに実施されるという作用をもたらす。
 また、第1の側面において、前記制御部は、前記干渉光の検知結果に基づいて、前記測距光の出射間隔を変更してもよい。これにより、干渉光による干渉作用が低減されるという作用をもたらす。
 また、第1の側面において、前記制御部は、前記干渉光の検知結果に基づいて、前記測距光の出射間隔をランダムに変更してもよい。これにより、干渉光による干渉作用が不規則的に低減されるという作用をもたらす。
 また、第1の側面において、前記制御部は、前記受光領域での受光頻度と距離との関係を示すヒストグラムのピークの有無または干渉評価指標に基づいて前記干渉光を検知してもよい。これにより、反射光の非受光に基づいて、干渉光が検知されるという作用をもたらす。
 また、第1の側面において、前記制御部は、前記干渉光の検知結果に基づいて、干渉の有無を示す干渉フラグを発行してもよい。これにより、干渉光の検知が通知されるという作用をもたらす。
 また、第1の側面において、前記第1受光領域および前記第2受光領域はそれぞれ複数設けられ、前記第1受光領域および前記第2受光領域は、フレームごとに切り替えられて測距および干渉検知に用いられてもよい。これにより、第1受光領域および第2受光領域がフレームごとに変更されるという作用をもたらす。
 また、第1の側面において、前記第1受光領域および前記第2受光領域はそれぞれ複数設けられ、前記第1受光領域および前記第2受光領域のうちの少なくとも一部が選択されて測距および干渉検知に用いられてもよい。これにより、第1受光領域および第2受光領域の選択に基づいて、解像度および露光時間が変更されるという作用をもたらす。
 また、第1の側面において、前記測距および前記干渉検知に用いられる前記第1受光領域および前記第2受光領域のうちの少なくとも一部はランダムに選択されてもよい。これにより、第1受光領域および第2受光領域の選択が不規則化されるという作用をもたらす。
 また、第1の側面において、前記制御部は、第1フレームでの前記干渉光の検知結果を第2フレームのノイズの除去に用いてもよい。これにより、干渉検知がノイズの除去に流用されるという作用をもたらす。
 また、第2の側面は、測距光を出射する発光部と、前記測距光が反射された反射光を受光する受光部と、前記干渉光の検知結果に基づいて、前記測距光の出射間隔をランダムに変更する制御部とを備える測距装置である。これにより、干渉検知を実施することなく、干渉作用が中断されるという作用をもたらす。
 また、第3の側面は、発光トリガに基づいて測距光を出射する発光部と、前記測距光が反射された反射光を受光する受光部と、前記発光トリガに基づく発光タイミングの間に設けられた非発光タイミングに基づいて、前記受光部で受光される光の検知を制御する制御部とを備える測距装置である。これにより、発光タイミングの間に設けられた非発光タイミングにおける受光に基づいて、干渉検知が実施されるという作用をもたらす。
 また、第3の側面において、前記制御部は、前記発光タイミングを含む発光期間および前記非発光タイミングを含む非発光期間の設定を制御してもよい。これにより、測距および干渉検知のタイミングが変更可能となるという作用をもたらす。
 また、第3の側面において、前記発光期間は、前記発光部から出射される1つの発光パルスの出射単位または前記受光部での受光回数のヒストグラムで生成単位であるスロット単位に基づいて設定されてもよい。これにより、測距および干渉検知がフレームごとに複数回実施されるという作用をもたらす。
 また、第3の側面において、前記制御部は、前記測距光に干渉する干渉光の検知結果を通知してもよい。これにより、干渉光の検知結果が外部で確認可能となるという作用をもたらす。
 また、第3の側面において、前記制御部は、前記発光タイミングでの発光に対する受光に基づいて測距データを算出し、前記非発光タイミングに基づいて検知された干渉光の検知結果に基づいて前記測距データを補正してもよい。これにより、測距光に対する干渉光の影響が低減されるという作用をもたらす。
 また、第3の側面において、前記制御部は、前記非発光タイミングに基づく信号のサンプリング精度を前記発光タイミングに基づく信号のサンプリング精度より低くしてもよい。これにより、測距精度の低下を抑制しつつ、低消費電力化が達成されるという作用をもたらす。
第1の実施の形態に係る測距装置の構成例を示すブロック図である。 第1の実施の形態に係る光検出部の構成例を示すブロック図である。 第1の実施の形態に係る制御部の構成例を示すブロック図である。 第1の実施の形態に係る撮像装置の構成例を示すブロック図である。 第1の実施の形態に係る固体撮像装置の構成例を示すブロック図である。 第1の実施の形態に係るバンクの切替例を示す図である。 第1の実施の形態に係る測距動作と干渉検知動作を示すタイミングチャートである。 第1の実施の形態に係る測距データと干渉検知データの生成処理を示す図である。 第1の実施の形態に係る測距および干渉検知に伴うデータ出力例を示すタイミングチャートである。 第1の実施の形態に係るバンクの切替時の発光パターンの一例を示す図である。 第1の実施の形態に係るバンクの切替時の受光パターンの一例を示す図である。 第1の実施の形態に係る干渉検知処理の一例を示すフローチャートである。 第2の実施の形態に係るバンクの切替例を示す図である。 第2の実施の形態に係る測距動作と干渉検知動作を示すタイミングチャートである。 第3の実施の形態に係る測距動作と干渉検知動作を示すタイミングチャートである。 第3の実施の形態に係るヒストグラム演算部の構成例を示すブロック図である。 第4の実施の形態に係るレーザ間隔の変更方法の一例を示すタイミングチャートである。 第5の実施の形態に係るバンクの切替方法の一例を示すタイミングチャートである。 第5の実施の形態に係るバンクの切替方法の第1の例を示す図である。 第5の実施の形態に係るバンク切替部の第1の例を示すブロック図である。 第5の実施の形態に係るバンク遷移テーブルの第2の例を示す図である。 第5の実施の形態に係るバンク遷移方法の第2の例を示すタイミングチャートである。 第5の実施の形態に係るバンク切替部の第2の例を示すブロック図である。 第5の実施の形態に係るバンク遷移方法を示すフローチャートである。 第6の実施の形態に係るバンク選択方法の一例を示す図である。 第6の実施の形態に係るバンク選択に参照される干渉フラグの遷移例を示すタイミングチャートである。 第6の実施の形態に係る干渉フラグの遷移に基づくバンク選択方法を示す図である。 第7の実施の形態に係る測距動作を示すタイミングチャートである。 第7の実施の形態に係る測距動作を示すフローチャートである。 第8の実施の形態に係る撮像装置の構成例を示すブロック図である。 第8の実施の形態に係る発光トリガおよび非発光トリガに基づくヒストグラム生成方法を示す図である。 第8の実施の形態に係る干渉補正方法を示す図である。 第9の実施の形態に係る発光トリガおよび非発光トリガに基づくサンプリング方法を示すタイミングチャートである。 第10の実施の形態に係る発光トリガおよび非発光トリガに基づくサンプリング方法を示すタイミングチャートである。 第11の実施の形態に係る発光トリガおよび非発光トリガに基づくサンプリング方法を示すタイミングチャートである。 第12の実施の形態に係る発光トリガおよび非発光トリガに基づくサンプリング方法を示すタイミングチャートである。 第13の実施の形態に係る干渉データのサンプリング方法の一例を示す図である。 第14の実施の形態に係る干渉データのサンプリング方法の一例を示す図である。 第15の実施の形態に係る撮像装置の構成例を示すブロック図である。 第16の実施の形態に係る撮像装置の構成例を示すブロック図である。 第17の実施の形態に係る固体撮像装置の積層例を示す斜視図である。 第18の実施の形態に係る画素アレイ部の積層例を示す斜視図である。 第19の実施の形態に係る画素アレイ部の積層例を示す斜視図である。 車両制御システムの概略的な構成例を示すブロック図である。 撮像部の設置位置の一例を示す説明図である。
 以下、本技術を実施するための形態(以下、実施の形態と称する)について説明する。説明は以下の順序により行う。
 1.第1の実施の形態(測距を行うバンクと干渉検知を行うバンクとをサブフレームごとに切り替え、反射光に基づく測距と、干渉光に基づく干渉検知を同時に実施する例)
 2.第2の実施の形態(測距を行うバンクと干渉検知を行うバンクとをそれぞれ複数設け、測距を行うバンクと干渉検知を行うバンクとをそれぞれ切り替える例)
 3.第3の実施の形態(干渉検知された干渉光を測距におけるノイズ減算に用いる例)
 4.第4の実施の形態(干渉光の有無とは無関係に測距光のPRI(Pulse Repetition Interval)をランダムに変更する例)
 5.第5の実施の形態(測距を行うバンクと干渉検知を行うバンクとをそれぞれ複数設け、測距を行うバンクと干渉検知を行うバンクとをランダムに切り替える例)
 6.第6の実施の形態(測距を行うバンクと干渉検知を行うバンクとをそれぞれ複数設け、測距を行うバンクと干渉検知を行うバンクとを選択可能とした例)
 7.第7の実施の形態(干渉検知を実施せずに、測距光のPRIをランダムに変更する例)
 8.第8の実施の形態(発光トリガの間に挿入された非発光トリガに基づいて、干渉検知を実施する例)
 9.第9の実施の形態(非発光トリガの間に複数の発光トリガを生成する例)
 10.第10の実施の形態(発光トリガおよび非発光トリガをランダムに生成する例)
 11.第11の実施の形態(ヒストグラム生成単位に基づいて、発光トリガおよび非発光トリガの系列を生成する例)
 12.第12の実施の形態(ヒストグラム生成単位ごとに発光トリガの系列および非発光トリガの系列を切り替える例)
 13.第13の実施の形態(測距可能な距離を分割して、発光トリガに基づくヒストグラムと、非発光トリガに基づくヒストグラムを生成する例)
 14.第14の実施の形態(発光トリガに基づくサンプリング精度よりも非発光トリガに基づくサンプリング精度を低くした例)
 15.第15の実施の形態(干渉補正を外部で実施する例)
 16.第16の実施の形態(干渉光の検知結果を通知する例)
 17.第17の実施の形態(画素アレイ部を上層チップに設け、回路部を下層チップに設けた例)
 18.第18の実施の形態(受光アレイ部を上層チップに設け、回路アレイ部を下層チップに設けた例)
 19.第19の実施の形態(複数の受光部が設けられた画素が配列された受光アレイ部を上層チップに設け、回路アレイ部を下層チップに設けた例)
 20.移動体への応用例
 <1.第1の実施の形態>
 図1は、第1の実施の形態に係る測距装置の構成例を示すブロック図である。
 同図において、測距装置100は、例えば、ToF(Time of Flight)に基づいて距離画像を撮像する。距離画像は、測距装置100から対象物101までの奥行き方向について、画素ごとの距離に基づく距離画素信号から生成することができる。ここで、測距装置100は、測距光LMLを対象物101に出射し、測距光LMLが反射された反射光LRFの受光に基づいて、測距を実施することができる。このとき、測距装置100には、反射光LRFの受光時に、干渉源102から出射された干渉光LIFが入射することがある。このため、測距装置100は、干渉光LIFの干渉検知を実施し、干渉光LIFが検知された場合は、測距光LMLに干渉する干渉光LIFの影響を低減するように動作することができる。
 測距装置100は、駆動部111、発光部112、光検出部123、光学系113、121および光学フィルタ122を備える。
 駆動部111は、光検出部123からの指示に従って、発光部112を駆動する。このとき、駆動部111は、光検出部123からの発光トリガTRGに従って、発光部112の駆動タイミングを設定する。また、駆動部111は、バンク選択信号BSLに従って、発光部112の発光領域をバンクごとに設定する。バンク選択信号BSLは、フレームが分割されたサブフレームごとにバンクを切り替えてもよい。
 発光部112は、駆動部111の駆動に従って、所定の波長域の光を出射する。所定の波長域は、赤外域でもよい。発光部112の発光領域は、バンクごとに設けることができる。発光部112には、レーザダイオードを用いることができる。レーザダイオードは、バンクごとに設けることができる。
 光学系113は、測距光LMLを対象物101に結像させる。なお、光学系113は、レンズおよび光学フィルタなどを備えてもよい。
 光学系121は、反射光LRFを光検出部123の受光面に結像させる。なお、光学系121は、レンズおよび絞りなどを備えてもよい。
 光学フィルタ122は、反射光LRFおよび干渉光LIFから不要な波長帯の光を除去する。
 光検出部123は、対象物101から反射された反射光LRFを受光する。受光部は、SPAD(Single Photon Avalanche Diode)でもよいし、フォトダイオードでもよい。光検出部123は、発光トリガTRGに従って発光部112が測距光LMLを出射してから、受光部123が受光するまでの時間をカウントしたカウント値に基づいて、ヒストグラムを画素ごとに生成することができる。ヒストグラムは、受光部の反応数(受光頻度とも言う)と対象物101までの距離の関係を示すことができる。対象物101までの距離は、発光部112が測距光LMLを出射してから、受光部123が受光するまでの時間をカウントしたカウント値に基づいて換算することができる。そして、光検出部123は、そのヒストグラムのピークから対象物101までの距離を画素ごとに求めることができる。
 光検出部123は、反射光LRFの受光の有無を切り替えて受光可能な複数のバンクを備える。このとき、光検出部123は、受光領域として、反射光LRFの受光の有無が互いに排他的に切り替えられる第1バンクおよび第2バンクを備えることができる。そして、光検出部123は、反射光LRFが第1バンクで受光されるときに、反射光LRFが第2バンクで受光されないように、第1バンクと第2バンクとの位置を設定することができる。また、光検出部123は、反射光LRFが第2バンクで受光されるときに、反射光LRFが第1バンクで受光されないように、第1バンクと第2バンクとの位置を設定することができる。なお、バンクは、特許請求の範囲に記載の受光領域の一例である。
 このとき、発光部112には、第1バンクに反射光LRFが入射し、第2バンクに反射光LRFが入射しないように構成された第1発光領域が設けられる。また、発光部112には、第2バンクに反射光LRFが入射し、第1バンクに反射光LRFが入射しないように構成された第2発光領域とが設けられる。このとき、第1発光領域に第1レーザ素子を設け、第2発光領域に第2レーザ素子を設けてもよい。
 光検出部123は、第1バンクに入射する反射光LRFに基づいて測距を実施するとともに、第2バンクに反射光LRFが入射しない時に干渉検知を実施する。そして、光検出部123は、第2バンクに反射光LRFが入射しない時に干渉光LIFを検知すると、その干渉検知に基づいて干渉を抑制する動作および測距データ補正を行う。
 また、光検出部123は、第2バンクに入射する反射光LRFに基づいて測距を実施するとともに、第1バンクに反射光LRFが入射しない時に干渉検知を実施する。そして、光検出部123は、第1バンクに反射光LRFが入射しない時に干渉光LIFを検知すると、その干渉検知に基づいて干渉を抑制する動作および測距データ補正を行う。ここで、干渉光LIFには、突発的な干渉光、永続的な干渉光および意図的な干渉光などの多様な干渉光がある。
 このとき、光検出部123は、測距に用いられるバンクを第1バンク第2バンクとサブフレームごとに切り替えることにより、測距を中断することなく、測距光LMLの影響がない干渉検知を実施することができる。このため、光検出部123は、干渉光LIFの多様性に対応しつつ、干渉光LIFが測距に及ぼす影響を軽減することができる。
 プロセッサ103は、駆動部111および光検出部123を制御したり、通信したりする。プロセッサ103は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)を備えてもよい。また、プロセッサ103は、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)などのハードウェア回路を備えてもよい。
 図2は、第1の実施の形態に係る光検出部の構成例を示すブロック図である。
 同図において、光検出部123は、画素アレイ部131、読出し回路132、TDC(Time to Digital Converter)133、ヒストグラム生成部134、内部クロック生成部135、制御部136および外部インタフェース137を備える。
 画素アレイ部131には、ロウ方向およびカラム方向に画素がマトリックス状に配置される。画素アレイ部131には、画素が配列された複数のバンクが設けられる。各バンクは、反射光LRFの受光の有無を切り替えて受光可能である。このとき、画素アレイ部131は、第1バンクでの測距用受光および第2バンクでの干渉検知用受光の同時実施と、第1バンクでの干渉検知用受光および第2バンクでの測距用受光の同時実施とを交互に切り替えることができる。
 読出し回路132は、画素アレイ部131の各画素からバンクごとに画素データを読出す。
 TDC133は、発光から受光までの時間差をバンクごとに測定し、その値をデジタル値に変換する。このとき、デジタル値は、発光トリガTRGの出力タイミングとSPADパルスの出力タイミングの時間差を示すことができる。マルチヒットTDCの場合、発光トリガTRGの出力後に順次検出される複数のSPADパルスについて、それぞれの時間差を求めることができる。
 ヒストグラム生成部134は、発光から受光までの時間差と発光部112の反応数との関係を示すヒストグラムをバンクごとに生成することができる。このとき、ヒストグラム生成部134は、測距用に割り当てられたバンクでは、反射光LRFについてのヒストグラムを生成する。干渉光LIFがある場合には、干渉光LIFに基づく反応数が反射光LRFについてのヒストグラムに加算される。また、ヒストグラム生成部134は、干渉検知用に割り当てられたバンクでは、干渉光LIFについてのヒストグラムを生成する。干渉検知用に割り当てられたバンクには、反射光LRFは入射しないので、反射光LRFに基づく反応数は干渉光LIFについてのヒストグラムに加算されない。
 内部クロック生成部135は、外部クロックCKOに基づいて内部クロックCKIを生成し、制御部136に供給する。また、内部クロック生成部135は、制御部136からの制御に基づいて、内部クロックCKIの周波数を変更することができる。
 制御部136は、読出し回路132、TDC133およびヒストグラム生成部134を制御する。制御部136は、発光トリガTRGおよびバンク選択信号BSLを駆動部111に出力する。このとき、制御部136は、測距用に割り当てられたバンクに対応した発光領域から発光され、干渉検知用に割り当てられたバンクに対応した発光領域からは発光されないように、発光トリガTRGおよびバンク選択信号BSLを設定することができる。例えば、制御部136は、バンク選択信号BSLに基づいて測距用として第1バンクを選択するときは、第1バンクに対応した第1発光領域から発光され、第2バンクに対応した第2発光領域から発光されないように発光トリガTRGを設定する。また、制御部136は、バンク選択信号BSLに基づいて測距用として第2バンクを選択するときは、第2バンクに対応した第2発光領域から発光され、第1バンクに対応した第1発光領域から発光されないように発光トリガTRGを設定する。また、制御部136は、干渉検知用のヒストグラムに基づいて、干渉検知を実施することができる。また、制御部136は、干渉光LIFの有無に基づいて、内部クロックCKIの周波数を変更することができる。このとき、制御部136は、内部クロックCKIの周波数に基づいて、測距光LMLのPRIを変更することができる。また、制御部136は、外部インタフェース137を介して外部I/Oとデータをやり取りすることができる。制御部136は、レジスタを含んでもよい。
 図3は、第1の実施の形態に係る制御部の構成例を示すブロック図である。
 同図において、干渉検知部171、乱数発生器172および内部クロック周波数レジスタ173を備える。
 干渉検知部171は、干渉検知用に割り当てられたバンクでの受光結果に基づいて干渉検知を実施する。干渉検知部171には、バンク選択信号BSLおよびヒストグラムデータHIS1、HIS2が入力される。ヒストグラムデータHIS1は、第1バンクでの受光に基づくヒストグラムを示す。ヒストグラムデータHIS2は、第2バンクでの受光に基づくヒストグラムを示す。干渉検知部171は、バンク選択信号BSLにて第1バンクが測距用に割り当てられ、第2バンクが干渉検知用に割り当てられた際にはHIS2のピークを検出し、バンク選択信号BSLにて第2バンクが測距用に割り当てられ、第1バンクが干渉検知用に割り当てられた際にはHIS1のピークを検出することにより、サブフレームごとに干渉光LIFを検知することができる。干渉検知部171は、干渉光LIFを検知すると、干渉フラグFGIを出力することができる。
 乱数発生器172は、干渉検知部171から干渉フラグFGIが出力されると、乱数を発生させ、内部クロック周波数レジスタ173に出力する。
 内部クロック周波数レジスタ173は、乱数発生器172で発生された乱数に基づいて生成された内部クロック周波数を保持し、内部クロック生成部135に出力する。このとき、内部クロック生成部135は、内部クロック周波数レジスタ173に保持された内部クロック周波数に基づいて、内部クロックCKIの周波数を変更することができる。内部クロックCKIの周波数を変更することにより、測距光LMLのPRIを変更することができ、干渉光LIFを分散化させて干渉光LIFの影響を抑制することができる。
 図4は、第1の実施の形態に係る撮像装置の構成例を示すブロック図である。
 同図において、撮像装置140は、図2の光検出部123に用いることができる。撮像装置140は、光学系141、固体撮像装置142、撮像制御部143、画像処理部144、記憶部145、表示部146および操作部147を備える。撮像制御部143、画像処理部144、記憶部145、表示部146および操作部147は、バス148を介して互いに接続されている。なお、撮像装置140は、単体として用いられてもよいし、スマートフォンなどの携帯端末に組み込まれてもよいし、認証装置や監視装置に組み込まれてもよい。
 光学系141は、対象物101および干渉源102からの光を固体撮像装置142に入射させ、被写体像を固体撮像装置142の受光面に結像させる。このとき、光学系141は、測距光LMLが反射された反射光LRFをバンクごとに固体撮像装置142に入射させることができる。光学系141は、例えば、フォーカスレンズ、ズームレンズ、光学フィルタおよび絞りなどを備えることができる。光学系141は、広角レンズ、標準レンズおよび望遠レンズなどの複数のレンズを備えてもよい。
 固体撮像装置142は、対象物101および干渉源102からの光を各バンクについて画素ごとに電気信号に変換し、その電気信号をデジタル化して出力する。固体撮像装置142は、例えば、イベントベースビジョンセンサでもよい。固体撮像装置142で受光される光は、可視光であってもよいし、近赤外光(NIR:Near InfraRed)、短波赤外光(SWIR:Short Wavelength InfraRed)、紫外光またはX線などでもよい。
 撮像制御部143は、操作部147からの指令に基づいて固体撮像装置142による撮像を制御する。このとき、撮像制御部143は、固体撮像装置142の露光条件および撮像タイミングなどを制御することができる。
 画像処理部144は、固体撮像装置142からの出力に基づいて画像処理を実施する。画像処理部144は、ソフトウェアに基づいて処理を実行するアプリケーションプロセッサを備えてもよい。
 記憶部145は、固体撮像装置142で撮像された撮像画像を記憶したり、固体撮像装置142の撮像パラメータなどを記憶したりする。また、記憶部145は、ソフトウェアに基づいて撮像装置140を動作させるプログラムを記憶することができる。記憶部145は、ROM(Read Only Memory)、RAM(Random Access Memory)およびメモリカードを含んでもよい。
 表示部146は、撮像画像を表示したり、撮像操作をサポートする各種情報を表示したりする。表示部146は、液晶ディスプレイでもよいし、有機EL(Electro Luminescence)ディスプレイでもよい。
 操作部147は、撮像装置140を操作するユーザインターフェースを提供する。操作部147は、例えば、撮像装置140に設けられたボタン、ダイヤルおよびスイッチを含んでもよい。操作部147は、表示部146とともにタッチパネルで構成してもよい。
 図5は、第1の実施の形態に係る固体撮像装置の構成例を示すブロック図である。
 同図において、固体撮像装置142は、画素アレイ部131、水平制御部152および信号処理部153を備える。これらの回路は、単一の半導体基板に配置してもよいし、積層基板に配置してもよい。
 画素アレイ部131には、画素160がロウ方向およびカラム方向にマリトックス状に配置される。各画素160は、カラムごとに垂直信号線161に接続され、ロウごとに水平制御線162に接続される。画素アレイ部131では、水平制御線162を介して出力される制御信号に従って、各画素160がバンクごとに駆動される。また、各画素160でバンクごとに生成された画素データが垂直信号線161に出力される。
 水平制御部152は、垂直同期信号に同期してロウをバンクごとに順に選択する。このとき、水平制御部152は、水平制御線162を介して画素160を選択することができる。信号処理部153は、画素データを配列した画像データに対して、各種の信号処理を実行する。信号処理部153は、カラムをスキャンするラインスキャナを含んでもよい。
 図6は、第1の実施の形態に係るバンクの切替例を示す図である。同図におけるaは、干渉光LIFがないときに、第1バンクBK1が測距に用いられ、第2バンクBK2が干渉検知に用いられる例を示す。同図におけるbは、干渉光LIFがあるときに、第1バンクBK1が干渉検知に用いられ、第2バンクBK2が測距に用いられる例を示す。
 同図におけるaにおいて、第1バンクBK1および第2バンクBK2には、複数のマクロピクセルPIXがそれぞれ設けられる。そして、第1バンクBK1が測距に用いられ、第2バンクBK2が干渉検知に用いられる場合、第1バンクBK1の各マクロピクセルPIXには、反射光LRFが入射し、第2バンクBK2の各マクロピクセルPIXには、反射光LRFが入射しない。このとき、光検出部123は、第1バンクBK1について、反射光LRFの受光頻度に応じたヒストグラムHRS1を生成することができる。第2バンクBK2については、反射光LRFも干渉光LIFも入射しないので、ヒストグラムは生成されない。
 同図におけるbにおいて、第1バンクBK1が干渉検知に用いられ、第2バンクBK2が測距に用いられる場合、第2バンクBK2の各マクロピクセルPIXには、反射光LRFが入射し、第1バンクBK1の各マクロピクセルPIXには、反射光LRFが入射しない。このとき、光検出部123は、第1バンクBK1について、干渉光LIFの受光頻度に応じたヒストグラムHSIを生成することができる。また、光検出部123は、第2バンクBK2について、反射光LRFおよび干渉光LIFの受光頻度に応じたヒストグラムHRS2を生成することができる。
 図7は、第1の実施の形態に係る測距動作と干渉検知動作を示すタイミングチャートである。
 同図において、各フレームFMは、2つのサブフレームSFM1、SFM2に分割される。また、発光部112として、第1バンクBK1および第2バンクBK2のそれぞれに対応してレーザ素子が設けられる。このとき、サブフレームSFM1では、第1バンクBK1で測距が実施され、第2バンクBK2で干渉検知が実施される。サブフレームSFM2では、第1バンクBK1で干渉検知が実施され、第2バンクBK2で測距が実施される。第1バンクBK1および第2バンクBK2のそれぞれにおいて、測距ではレーザ素子がオンされ、干渉検知ではレーザ素子がオフされる。このとき、光検出部123は、干渉がないときは、レーザ素子の出射間隔をPRI1に設定することができる。そして、光検出部123は、干渉を検知すると、レーザ素子の出射間隔をPRI1からPRI2に変更し、干渉ノイズを低減することができる。
 図8は、第1の実施の形態に係る測距データと干渉検知データの生成処理を示す図である。同図におけるaは、干渉光LIFがないときに、第1バンクBK1が測距に用いられ、第2バンクBK2が干渉検知に用いられる例を示す。同図におけるbは、干渉光LIFがあるときに、第1バンクBK1が干渉検知に用いられ、第2バンクBK2が測距に用いられる例を示す。
 同図におけるaにおいて、TDC133には、第1バンクBK1および第2バンクBK2のそれぞれに対応してTDC133-1、133-2が設けられる。ヒストグラム生成部134には、第1バンクBK1および第2バンクBK2のそれぞれに対応してヒストグラム生成部134-1、134-2が設けられる。各マクロピクセルPIXには、複数の画素160が設けられる。各マクロピクセルPIXにおいて、画素160は2×2の配列でもよい。
 第1バンクBK1の各マクロピクセルPIXで反射光LRFが検出されたものとする。このとき、TDC133-1において、その反射光LRFに対応した測距光LMLの発光タイミングと、その反射光LRFの受光タイミングとの時間差が算出される。そして、ヒストグラム生成部134-1において、TDC133-1での算出結果に基づいて、反射光LRFの受光頻度に応じたヒストグラムHRS1が生成される。
 第2バンクBK2の各マクロピクセルPIXでは、反射光LRFも干渉光LIFも検出されないので、反射光LRFおよび干渉光LIFの受光頻度に応じたヒストグラムは生成されない。
 同図におけるbにおいて、第1バンクBK1の各マクロピクセルPIXで干渉光LIFが検出されたものとする。このとき、TDC133-1において、第2バンクBK2に対応した測距光LMLの発光タイミングと、その干渉光LIFの受光タイミングとの時間差が算出される。そして、ヒストグラム生成部134-1において、TDC133-1での算出結果に基づいて、干渉光LIFの受光頻度に応じたヒストグラムHRIが生成される。
 第2バンクBK2の各マクロピクセルPIXで反射光LRFおよび干渉光LIFが検出されたものとする。このとき、TDC133-2において、その反射光LRFに対応した測距光LMLの発光タイミングと、その反射光LRFおよび干渉光LIFのそれぞれの受光タイミングとの時間差が算出される。そして、ヒストグラム生成部134-2において、TDC133-2での算出結果に基づいて、反射光LRFおよび干渉光LIFのそれぞれの受光頻度に応じたヒストグラムHRS2が生成される。
 図9は、第1の実施の形態に係る測距および干渉検知に伴うデータ出力例を示すタイミングチャートである。
 同図において、バンク選択信号BSLは、測距に用いられるバンクを指定する。例えば、第1バンクBK1が測距に用いられる場合、バンク選択信号BSLにて第1バンクBK1が指定され、第2バンクBK2が測距に用いられる場合、バンク選択信号BSLにて第2バンクBK2が指定される。バンク選択信号BSLにて指定されないバンクは、干渉検出に用いられる。
 また、測距に用いられるバンクでは、PRIで指定される時間間隔で発光トリガTRGが光検出部123から発光部112に出力される。第1バンクBK1および第2バンクBK2でそれぞれ排他的に検出された測距データおよび干渉検知データは、サブフレームSFM1、SFM2ごとに交互に出力される。
 図10は、第1の実施の形態に係るバンクの切替時の発光パターンの一例を示す図である。同図におけるaは、第1バンクBK1が測距に用いられるときの発光パターンの一例を示す。同図におけるbは、第2バンクBK2が測距に用いられるときの発光パターンの一例を示す。
 同図におけるaにおいて、第1バンクBK1が測距に用いられる場合、第1バンクBK1の受光位置に対応する対象物101上には、測距光LMLの発光パターンが形成される。このとき、第2バンクBK2の受光位置に対応する対象物101上には、非発光パターンNMLが形成される。この非発光パターンNMLには、干渉光LIFが含まれてもよい。
 同図におけるbにおいて、第2バンクBK2が測距に用いられる場合、第2バンクBK2の受光位置に対応する対象物101上には、測距光LMLの発光パターンが形成される。このとき、第1バンクBK1の受光位置に対応する対象物101上には、非発光パターンNMLが形成される。この非発光パターンNMLには、干渉光LIFが含まれてもよい。
 図11は、第1の実施の形態に係るバンクの切替時の受光パターンの一例を示す図である。同図におけるaは、第1バンクBK1が測距に用いられるときの受光パターンの一例を示す。同図におけるbは、第2バンクBK2が測距に用いられるときの受光パターンの一例を示す。
 同図におけるaにおいて、画素アレイ部131には、第1バンクBK1および第2バンクBK2が設けられる。第1バンクBK1および第2バンクBK2には、複数のマクロピクセルPIXがそれぞれ設けられる。そして、第1バンクBK1が測距に用いられる場合、第1バンクBK1の各マクロピクセルPIXには、反射光LRFが入射し、第2バンクBK2の各マクロピクセルPIXには、反射光LRFが入射しない。同図におけるbにおいて、第2バンクBK2が測距に用いられる場合、第2バンクBK2の各マクロピクセルPIXには、反射光LRFが入射し、第1バンクBK1の各マクロピクセルPIXには、反射光LRFが入射しない。
 図12は、第1の実施の形態に係る干渉検知処理を示すフローチャートである。
 同図において、制御部136は、干渉検知期間に取得したヒストグラムのピークを検出する(S101)。干渉検知期間は、例えば、第1バンクBK1および第2バンクBK2について、サブフレームSFM1、SFM2ごとに交互に設定することができる。
 次に、制御部136は、干渉検知期間に取得したヒストグラムにピークがあるかどうかを判断する(S102)。制御部136は、干渉検知期間に取得したヒストグラムにピークがある場合、干渉フラグを発行する(S103)。
 一方、制御部136は、干渉検知期間に取得したヒストグラムにピークがない場合、干渉評価指標が閾値以上かどうかを判断する(S104)。制御部136は、干渉評価指標が閾値以上の場合、干渉フラグを発行する(S103)。一方、制御部136は、干渉評価指標が閾値より小さい場合、干渉なしと判断する(S105)。
 なお、干渉評価指標は、信号雑音比(signal-noise ratio)でもよいし、干渉ノイズの標準偏差と平均値との比でもよいし、ヒストグラムの各ビンのカウント値の最大値でもよい。
 このように、上述の第1の実施の形態では、測距を行うバンクと干渉検知を行うバンクとをサブフレームSFM1、SFM2ごとに切り替え、反射光LRFに基づく測距と、干渉光LIFに基づく干渉検知を同時に実施する。これにより、測距時においても干渉検知を実施することができ、干渉検知期間の欠落を防止することができる。このため、突発的な干渉光、永続的な干渉光および意図的な干渉光などの多様な干渉光の影響を軽減しつつ、測距を実施することが可能となり、測距精度を向上させることができる。
 また、測距に用いられるバンクと、干渉検知に用いられるバンクとで発光タイミングを分けることができ、レーザ出射に必要なビークカレントを抑制することができる。
 <2.第2の実施の形態>
 上述の第1の実施の形態では、測距を行うバンクと干渉検知を行うバンクとをサブフレームSFM1、SFM2ごとに切り替え、反射光LRFに基づく測距と、干渉光LIFに基づく干渉検知を同時に実施した。この第2の実施の形態では、測距を行うバンクと干渉検知を行うバンクとをそれぞれ複数設け、測距を行うバンクと干渉検知を行うバンクとをそれぞれ切り替える。
 図13は、第2の実施の形態に係るバンクの切替例を示す図である。同図では、画素アレイ部131に6個のバンクが設けられた例を示す。
 同図において、画素アレイ部131には、バンクBK1からBK6が設けられている。バンクBK1からBK6は、2×3の配列を単位UNTとして、ロウ方向およびカラム方向にマトリックス状に配置してもよい。
 バンクBK1からBK6は、測距を行うバンクと干渉検知を行うバンクとでペアを構成することができ、これらのペア間でインターリーブ動作することができる。例えば、バンクBK1、BK2がペアとなり、バンクBK3、BK4がペアとなり、バンクBK5、BK6がペアとなってもよい。そして、例えば、バンクBK3、BK4では、バンクBK3が測距に用いられるときは、バンクBK4が干渉検知に用いるようにし、バンクBK3が干渉検知に用いられるときは、バンクBK4が測距に用いられようにしてもよい。このとき、バンクBK3が測距に用いられる場合、測距用バンクMBKと干渉検知用バンクIBKとはそれぞれロウ方向に1つおきに選択され、カラム方向に2つおきに選択される。
 ペアの作成方法としては、互いに隣接するバンク同士をペアとしてもよいし、クロストークが起きにくくするため、互いに離れたバンク同士をペアとしてもよい。
 図14は、第2の実施の形態に係る測距動作と干渉検知動作を示すタイミングチャートである。
 同図において、画素アレイ部131に6個のバンクBK1からBK6を設けた場合、フレームFMを6個のサブフレームSFM1からSFM6に分割することができる。このとき、測距用バンクMBKと干渉検知用バンクIBKとをサブフレームSFM1からSFM6ごとに1バンクずつ割り当てることができる。
 例えば、サブフレームSFM1では、バンクBK1を測距に使用し、バンクBK2を干渉検知に使用し、バンクBK3からBK6を休止させることができる。サブフレームSFM2では、バンクBK1を干渉検知に使用し、バンクBK2を測距に使用し、バンクBK3からBK6を休止させることができる。
 サブフレームSFM3では、バンクBK3を測距に使用し、バンクBK4を干渉検知に使用し、バンクBK1、BK2、BK5、BK6を休止させることができる。サブフレームSFM4では、バンクBK3を干渉検知に使用し、バンクBK4を測距に使用し、バンクK1、BK2、BK5、BK6を休止させることができる。
 サブフレームSFM5では、バンクBK5を測距に使用し、バンクBK6を干渉検知に使用し、バンクBK1からBK4を休止させることができる。サブフレームSFM6では、バンクBK5を干渉検知に使用し、バンクBK6を測距に使用し、バンクBK1からBK4を休止させることができる。
 このように、上述の第2の実施の形態では、測距を行うバンクと干渉検知を行うバンクとをそれぞれ複数設け、測距用バンクMBKと干渉検知用バンクIBKとをそれぞれ切り替える。これにより、サブフレームSFM1からSFM6ごとに一部のバンクを動作させつつ、測距および干渉検知を同時に実施することが可能となり、低消費電力化を図ることができる。
 また、バンク数の増大に従って、サブフレームSFM1からSFM6ごとのヒストグラムの生成にかかる負荷を低減することができ、回路面積を低減することが可能となるとともに、クロストークを低減することができる。さらに、バンク数の増大に従って、干渉時間が重なる確率を低下させることができ、干渉を抑制することができる。
 <3.第3の実施の形態>
 上述の第1の実施の形態では、測距を行うバンクと干渉検知を行うバンクとをサブフレームSFM1、SFM2ごとに切り替え、反射光LRFに基づく測距と、干渉光LIFに基づく干渉検知を同時に実施した。この第3の実施の形態では、あるサブフレームの干渉検知で取得したヒストグラムに基づいて、別のサブフレームの測距用のヒストグラムからノイズを除去する。
 図15は、第3の実施の形態に係る測距動作と干渉検知動作を示すタイミングチャートである。
 同図において、例えば、バンクBK1は、サブフレームSFM1では測距に使用され、サブフレームSFM2では干渉検知に使用される。このとき、サブフレームSFM1では、バンクBK1での測距に基づいてヒストグラムHSRが生成され、サブフレームSFM2では、バンクBK1での干渉検知に基づいてヒストグラムHSIが生成される。サブフレームSFM1において、ヒストグラムHSRにはヒストグラムHSIが加算される。このとき、制御部136は、サブフレームSFM2におけるヒストグラムHSIに基づいて、サブフレームSFM1におけるヒストグラムHSRに加算されたヒストグラムHSIを減算する。
 図16は、第3の実施の形態に係るヒストグラム演算部の構成例を示すブロック図である。
 同図において、制御部136は、ヒストグラム演算部180を備える。ヒストグラム演算部180は、第1バンクノイズ除去部181および第2バンクノイズ除去部182を備える。第1バンクノイズ除去部181には、サブフレームSFM1で測距に使用されたバンクBK1の受光に基づくヒストグラムデータHIS11が入力される。また、第1バンクノイズ除去部181には、サブフレームSFM2で干渉検知に使用されたバンクBK1の受光に基づくヒストグラムデータHIS12が入力される。第1バンクノイズ除去部181は、ヒストグラムデータHIS11からヒストグラムデータHIS12を減算したヒストグラムデータHIS1を生成して出力する。
 第2バンクノイズ除去部182には、サブフレームSFM1で干渉検知に使用されたバンクBK2の受光に基づくヒストグラムデータHIS21が入力される。また、第2バンクノイズ除去部182には、サブフレームSFM2で測距に使用されたバンクBK2の受光に基づくヒストグラムデータHIS22が入力される。第2バンクノイズ除去部182は、ヒストグラムデータHIS22からヒストグラムデータHIS21を減算したヒストグラムデータHIS2を生成して出力する。
 このとき、ヒストグラム演算部180は、ノイズ除去イネーブル信号ENBに基づいて、各バンクBK1、BK2におけるノイズの除去を有効化することができる。
 このように、上述の第3の実施の形態では、あるサブフレームの干渉検知で取得したヒストグラムに基づいて、別のサブフレームの測距用のヒストグラムからノイズを除去する。これにより、サブフレームSFM1、SFM2ごとに計測された測距データから干渉データを含むノイズを除去することができ、測距の時間間隔の増大を抑制しつつ、測距精度を向上させることが可能となる。
 <4.第4の実施の形態>
 上述の第3の実施の形態では、あるサブフレームの干渉検知で取得したヒストグラムに基づいて、別のサブフレームの測距用のヒストグラムからノイズを除去した。この第4の実施の形態では、干渉光LIFの有無とは無関係に測距光LMLのPRIをランダムに変更し、干渉光LIFの影響を低減する。
 図17は、第4の実施の形態に係るレーザ間隔の変更方法の一例を示すタイミングチャートである。
 同図において、各バンクは、サブフレームSFM1、SFM2ごとに測距と干渉検知に交互に用いられる。このとき、干渉光LIFの入射に基づいて、干渉が検知されると、干渉フラグがオンにされる。制御部136は、干渉フラグのオン/オフとは無関係に測距光LMLのPRIをフレームFMごとにランダムに変更する。このとき、制御部136は、あるフレームFMで干渉を検知した場合、そのフレームFMの測距データの信頼性は低いということを通知してもよい。
 このように、上述の第4の実施の形態では、干渉フラグのオン/オフとは無関係に測距光LMLのPRIをフレームFMごとにランダムに変更する。これにより、測距データから干渉データを減算する処理を実施することなく、干渉光LIFの影響を低減することができる。
 <5.第5の実施の形態>
 上述の第2の実施の形態では、測距を行うバンクと干渉検知を行うバンクとをそれぞれ複数設け、測距を行うバンクと干渉検知を行うバンクとをそれぞれ切り替えた。この第5の実施の形態では、測距を行うバンクと干渉検知を行うバンクとをそれぞれ複数設け、測距を行うバンクと干渉検知を行うバンクとをランダムに切り替える。
 図18は、第5の実施の形態に係るバンクの切替方法の一例を示すタイミングチャートである。同図では、画素アレイ部131に6個のバンクが設けられた例を示す。
 同図において、画素アレイ部131には、バンクBK1からBK6が設けられている。バンクBK1からBK6は、測距を行うバンクと干渉検知を行うバンクとでペアを構成することができ、これらのペア間でインターリーブ動作することができる。例えば、バンクBK1、BK2がペアPA1となり、バンクBK3、BK4がペアPA2となり、バンクBK5、BK6がペアPA3となってもよい。このとき、制御部136は、各フレームFM1からFM3ごとにペアPA1からPA3の遷移順をランダムに変更することができる。
 例えば、制御部136は、フレームFM1では、PA1→PA3→PA2という遷移順で各ペアPA1からPA3を遷移させることができる。また、制御部136は、フレームFM2では、PA2→PA1→PA3という遷移順で各ペアPA1からPA3を遷移させることができる。また、制御部136は、フレームFM3では、PA2→PA3→PA1という遷移順で各ペアPA1からPA3を遷移させることができる。
 図19は、第5の実施の形態に係るバンクの切替方法の第1の例を示す図である。なお、同図におけるaは、ランダム遷移なしの例、同図におけるbは、ランダム遷移ありの例を示す。
 同図におけるaにおいて、各ペアPA1からPA3をランダムに遷移させるために、バンク遷移テーブル191が設けられる。デフォルトでは、バンク遷移テーブル191は、ランダム遷移なしに設定される。バンク遷移テーブル191は、各フレームFM1からFM3ごとのサブフレームのペアにバンクインデックスBIXを付与する。バンクインデックスBIXは、バンクBK1からBK6のペアPA1からPA3の指定に用いることができる。ランダム遷移なしでは、サブフレームSFM1、SFM2にBIX=1が割り当てられ、サブフレームSFM3、SFM4にBIX=2が割り当てられ、サブフレームSFM5、SFM6にBIX=3が割り当てられる。
 同図におけるbにおいて、ランダム遷移ありでは、サブフレームSFM1からSFM6のペアにバンクインデックスBIXがランダムに割り当てられる。例えば、サブフレームSFM1、SFM2にBIX=3が割り当てられ、サブフレームSFM3、SFM4にBIX=1が割り当てられ、サブフレームSFM5、SFM6にBIX=2が割り当てられる。このとき、サブフレームSFM1からSFM6のペアの間では、バンクインデックスBIXは重複されないように設定することができる。
 ランダム遷移ありでは、バンク遷移テーブル191で指定されるバンクインデックスBIXに基づいて、バンクアサインテーブル192が設定される。バンクアサインテーブル192には、奇数番目のサブフレームのバンク番号と偶数番目のサブフレームのバンク番号とが、バンクインデックスBIXごとに設定される。そして、バンク遷移テーブル191で指定されるバンクインデックスBIXに従って、バンクアサインテーブル192で指定されるバンク番号のバンクに遷移される。
 図20は、第5の実施の形態に係るバンク切替部の第1の例を示すブロック図である。
 同図において、制御部136は、乱数発生器190、バンク遷移テーブル191およびバンクアサインテーブル192を備える。バンク遷移テーブル191およびバンクアサインテーブル192は、レジスタを備えてもよい。
 乱数発生器190は、乱数を発生させ、バンク遷移テーブル191に出力する。
 バンク遷移テーブル191は、乱数発生器190で発生された乱数に基づいて、バンクインデックスBIXをバンクアサインテーブル192に出力する。このとき、バンク遷移テーブル191は、ランダム遷移イネーブル信号EBTに基づいて、サブフレームSFM1からSFM6のペアにバンクインデックスBIXをランダムに割り当てることができる。また、バンク遷移テーブル191は、リセット信号RSTに基づいて、バンクインデックスBIXをデフォルトに戻すことができる。
 バンクアサインテーブル192は、バンクインデックスBIXに従ってサブフレーム番号NSFで指定されるバンクを選択し、そのバンクの選択信号BSLを出力する。
 図21は、第5の実施の形態に係るバンク遷移テーブルの第2の例を示す図である。
 同図において、各ペアPA1からPA3をランダムに遷移させるために、バンク遷移テーブル196を設けてもよい。バンク遷移テーブル196には、ペアPA1からPA3の遷移順が設定され、ペアPA1からPA3の遷移順ごとにバンク遷移テーブルインデックスTIXが付与される。例えば、TIX=1には、PA1→PA2→PA3という遷移順が割り当てられる。TIX=2には、PA1→PA3→PA2という遷移順が割り当てられる。
 図22は、第5の実施の形態に係るバンク遷移方法の第2の例を示すタイミングチャートである。
 同図において、バンク遷移テーブルインデックスTIXとして1が指定された場合、PA1→PA2→PA3という遷移順で各サブフレームSFM1からSFM6にバンクBK1からBK6が割り当てられる。このとき、バンク遷移テーブルインデックスTIXをフレームFMごとにランダムに指定することにより、ペアPA1からPA3の遷移順をフレームFMごとにランダムに変更することができる。
 図23は、第5の実施の形態に係るバンク切替部の第2の例を示すブロック図である。
 同図において、制御部136は、乱数発生器194、セレクタ195およびバンク遷移テーブル196を備える。
 乱数発生器194は、乱数を発生させ、セレクタ195に出力する。
 セレクタ195は、前フレームのバンク遷移テーブルインデックスTIX1および乱数発生器194から出力された乱数のいずれかを選択し、その選択結果を次フレームのバンク遷移テーブルインデックスTIX2としてバンク遷移テーブル196に出力する。このとき、セレクタ195は、ランダム遷移イネーブル信号EBTに基づいて、乱数発生器194から出力された乱数を選択することができる。
 バンク遷移テーブル196は、セレクタ195から出力された次フレームのバンク遷移テーブルインデックスTIX2に基づいて、ペアPA1からPA3の遷移順を選択し、その選択結果をバンクの選択信号BSLとして出力する。
 図24は、第5の実施の形態に係るバンク遷移方法を示すフローチャートである。
 同図において、制御部136は、現在のバンク遷移テーブルインデックスTIXを取得する(S201)。
 次に、制御部136は、バンクランダム遷移は有効かどうかをランダム遷移イネーブル信号EBTに基づいて判断する(S202)。制御部136は、バンクランダム遷移が有効の場合、バンク遷移テーブルインデックスTIXをランダムに生成する(S203)。
 次に、制御部136は、バンク遷移テーブルインデックスTIXで示される遷移順でバンクを動作させる(S204)。一方、制御部136は、バンクランダム遷移が有効でない場合、バンク遷移テーブルインデックスTIXを変更することなく、S204に進む(S205)。
 このように、上述の第5の実施の形態では、測距を行うバンクと干渉検知を行うバンクとをそれぞれ複数設け、測距を行うバンクと干渉検知を行うバンクとをランダムに切り替える。これにより、サブフレームSFM1からSFM6ごとに一部のバンクを動作させつつ、測距および干渉検知を同時に実施することが可能となり、低消費電力化を図ることができる。
 <6.第6の実施の形態>
 上述の第5の実施の形態では、測距を行うバンクと干渉検知を行うバンクとをそれぞれ複数設け、測距を行うバンクと干渉検知を行うバンクとをランダムに切り替えた。この第6の実施の形態では、測距を行うバンクと干渉検知を行うバンクとをそれぞれ複数設け、測距を行うバンクと干渉検知を行うバンクとを選択可能とする。
 図25は、第6の実施の形態に係るバンク選択方法の一例を示す図である。なお、同図におけるaは、全面測距または全面スパース測距の例、同図におけるbは、ROI(Region Of Interest)測距の例を示す。
 同図におけるaにおいて、画素アレイ部131には、バンクBK1からBK16が設けられている。各バンクBK1からBK16は、画素アレイ部131の全面に渡って離散的に配置してもよい。このとき、制御部136は、バンクBK1からBK16を遷移させることにより、干渉検知と同時に全面測距を実施することができる。また、制御部136は、例えば、バンクBK1からBK4を遷移させることにより、干渉検知と同時に全面スパース測距を実施することができる。ここで、制御部136は、干渉検知に応じて全面測距と全面スパース測距とを切り替えてもよい。このとき、制御部136は、干渉の有無を検出するために、全面スパース測距に基づいて干渉検知の高速化を図ってもよいし、干渉がない場合は、全面測距に基づいて解像度を向上させてもよい。
 同図におけるbにおいて、画素アレイ部131には、バンクBK1からBK32が設けられている。画素アレイ部131は、複数のブロックに分割することができる。例えば、画素アレイ部131は、4個のブロックに分割してもよい。このとき、第1ブロック300には、バンクBK1からBK8を配置し、第2ブロックには、バンクBK9からBK16を配置し、第3ブロックには、バンクBK17からBK24を配置し、第4ブロックには、バンクBK25からBK32を配置してもよい。ここで、制御部136は、例えば、第1ブロック300をROIとして指定することができる。このとき、ROIとして指定された第1ブロック300のバンクBK1からBK8を遷移させることにより、干渉検知と同時にROI測距を実施することができる。
 図26は、第6の実施の形態に係るバンク選択に参照される干渉フラグの遷移例を示すタイミングチャート、図27は、第6の実施の形態に係る干渉フラグの遷移に基づくバンク選択方法を示す図である。
 図26および図27において、制御部136は、測距と干渉検知に交互に用いられるバンクの個数をフレームFM1からFM3ごとに変更可能である。ここで、制御部136は、測距と干渉検知に交互に用いられるバンクの個数に応じて各フレームFM1からFM3を分割するサブフレームの個数を設定することができる。このとき、制御部136は、干渉の有無に応じて測距と干渉検知に交互に用いられるバンクの個数を変更してもよい。
 例えば、フレームFM1において、干渉の有無の検出を高速化したい場合には、画素アレイ部131をバンクBK1、BK2の2つのバンクに振り分けることで全面の測距と干渉検知とを2個のサブフレームSFM1、SFM2で完了することができる。フレームFM1で干渉がないことが分かった場合、次のフレームFM2では、バンクBK1からBK6を用いて一部のバンクを動作させつつ、測距と干渉検知とを同時に実施し、低消費電力化を図ることができる。このとき、フレームFM2には、サブフレームSFM1からSFM6が設けられる。
 ここで、フレームFM2において、干渉があるものとすると、次のフレームFM3では、画素アレイ部131をバンクBK1、BK2の2つのバンクに振り分け測距と干渉検知とを同時に実施することで干渉の低減動作が効果的に働いたかどうかを全面で高速に確認することができる。 
 このように、上述の第6の実施の形態では、測距を行うバンクと干渉検知を行うバンクとをそれぞれ複数設け、測距を行うバンクと干渉検知を行うバンクとを選択可能とする。これにより、干渉の有無に応じて、干渉検知を高速化したり、低消費電力化したりすることができる。
 <7.第7の実施の形態>
 上述の第4の実施の形態では、干渉光LIFの有無とは無関係に測距光LMLのPRIをランダムに変更し、干渉光LIFの影響を低減した。この第7の実施の形態では、干渉検知を実施することなく、測距光LMLのPRIをランダムに変更し、干渉光LIFの影響を低減する。
 図28は、第7の実施の形態に係る測距動作を示すタイミングチャートである。
 同図において、画素アレイ部131には、測距用のバンクが設けられる。画素アレイ部131には、干渉検知のバンクはあってもなくてもよい。画素アレイ部131に干渉検知のバンクがある場合、干渉検知機能はオフされる。
 各バンクは、フレームFMごとに測距に用いられる。各フレームFMでは、レーザはオンされる。このとき、干渉光LIFが入射しても、干渉検知は実施されない。制御部136は、干渉検知を実施することなく、測距光LMLのPRIをフレームFMごとにランダムに変更する。測距光LMLのPRIは、ランダムパターンまたは固定パターンに応じてランダムに変更されてもよい。全バンク遷移では、干渉検知機能をオフし、高フレームレートが選択可能でもよい。
 図29は、第7の実施の形態に係る測距動作を示すフローチャートの一例である。なお、同図では、画素アレイ部131には、測距用のバンクおよび干渉検知のバンクが設けられ、バンク遷移モードに基づいて干渉検知機能がオン/オフされる例を示した。また、同図において、第1フレームレート>第2フレームレート>第3フレームレートである。また、同図において、遷移対象となるバンク数は、全バンク遷移モード>第1部分バンク遷移モード>第2部分バンク遷移モードである。
 同図において、制御部136は、全バンク遷移モードを選択するかどうか判断する(S301)。制御部136は、全バンク遷移モードを選択した場合、干渉検知機能をオフする(S302)。
 次に、制御部136は、高フレームレートを選択するかどうか判断する(S303)。制御部136は、高フレームレートを選択した場合、第1フレームレート選択する(S304)。
 一方、制御部136は、全バンク遷移モードを選択しないと判断した場合(S301)、第1部分遷移モードを選択するかどうか判断する(S305)。制御部136は、第1部分遷移モードを選択した場合、干渉検知機能をオンするかどうか判断する(S306)。制御部136は、干渉検知機能をオンすると判断した場合、干渉検知機能をオンし(S307)、干渉検知機能をオンしないと判断した場合、干渉検知機能をオフする(S308)。
 次に、制御部136は、高フレームレートを選択するかどうか判断する(S309)。制御部136は、高フレームレートを選択した場合、第2フレームレート選択する(S310)。
 一方、制御部136は、第1部分遷移モードを選択しないと判断した場合(S305)、第2部分遷移モードを選択するかどうか判断する(S311)。制御部136は、第2部分遷移モードを選択した場合、干渉検知機能をオンするかどうか判断する(S312)。制御部136は、干渉検知機能をオンすると判断した場合、干渉検知機能をオンし(S313)、干渉検知機能をオンしないと判断した場合、干渉検知機能をオフする(S314)。次に、制御部136は、第3フレームレート選択する(S315)。
 このように、上述の第7の実施の形態では、干渉検知を実施することなく、測距光LMLのPRIをランダムに変更する。これにより、干渉検知にかかる負荷をなくしつつ、干渉光LIFの影響を中断させることができ、測距精度の低下を抑制しつつ、全面測距を高速化することができる。
 <8.第8の実施の形態>
 上述の第1の実施の形態では、測距を行うバンクと干渉検知を行うバンクとをサブフレームSFM1、SFM2ごとに切り替え、反射光LRFに基づく測距と、干渉光LIFに基づく干渉検知を同時に実施した。この第8の実施の形態では、発光トリガに基づく発光タイミングの間に設けられた非発光タイミングにおける受光に基づいて、干渉検知を実施する。
 図30は、第8の実施の形態に係る撮像装置の構成例を示すブロック図である。
 同図において、撮像装置500は、ToFに基づいて距離画像を撮像する。このとき、撮像装置500は、干渉検知を実施するため、発光トリガTRGに基づく発光タイミングの間に非発光タイミングを設ける。発光タイミングと非発光タイミングとは交互に設定されてもよい。非発光タイミングの間の発光タイミングは、1つでもよいし複数でもよい。このとき、撮像装置500は、発光タイミングを含む発光期間および非発光タイミングを含む非発光期間の設定を制御することができる。発光トリガTRGは、測距光を出射する発光部の発光タイミングを指定する。そして、撮像装置500は、非発光タイミングで受光された光の検知結果に基づいて干渉検知を実施する。このとき、撮像装置500は、測距光に干渉する干渉光の検知結果を外部に通知してもよい。また、撮像装置500は、発光タイミングでの発光に対する受光に基づいて測距データを算出し、非発光タイミングに基づいて検知された干渉光の検知結果に基づいて測距データを補正してもよい。
 撮像装置500は、画素アレイ部551、サンプリング回路552、受光制御部553、全体制御部554、発光制御部555、タイミング制御部556および測距処理部560を備える。また、撮像装置500は、出力インタフェース570、PLL(Phase Locked Loop)回路581およびクロック生成部582を備える。これらの回路は、単一の半導体基板に配置してもよいし、積層基板に配置してもよい。
 画素アレイ部551には、画素557がロウ方向およびカラム方向にマリトックス状に配置される。画素557には、受光部が設けられる。受光部は、発光部から出射された測距光が反射された反射光を受光する。受光部は、SPADでもよい。このとき、画素557には、クエンチ抵抗およびリチャージ回路などの回路部を画素557ごとに設けてもよい。
 サンプリング回路552は、発光タイミングに基づいて各画素557での受光信号をサンプリングし、非発光タイミングに基づいて各画素557での受光信号をサンプリングする。サンプリングは、発光タイミングおよび非発光タイミングごとに複数回実施されてもよい。発光タイミングおよび非発光タイミングは、1フレーム内に複数設定されてもよい。サンプリング回路552は、サンプリングするロウを順に選択してもよい。
 受光制御部553は、各画素557での受光部の動作を制御する。このとき、受光制御部553は、SPADのクエンチやリチャージを制御してもよい。
 全体制御部554は、受光制御部553、発光制御部555、タイミング制御部556および測距処理部560を制御する。このとき、全体制御部554は、受光制御部553、発光制御部555、タイミング制御部556および測距処理部560を協調動作させることができる。全体制御部554は、タイミング制御部556に発光タイミングを通知することができる。全体制御部554は、外部に接続されるホストとの間で通信制御を実施してもよい。外部との通信は、I2C(Inter-Integrated Circuit)を用いた方式でもよいし、SPI(Serial Peripheral Interface)を用いた方式でもよい。
 発光制御部555は、測距光を出射する発光部の発光を制御する。このとき、発光制御部555は、ヒストグラムの生成のみのトリガと発光トリガTRGの選択を指示することができる。
 タイミング制御部556は、発光制御部555からの制御に従って、発光トリガTRGを発光ヒストグラム生成部561に出力し、非発光トリガNRGを非発光ヒストグラム生成部562に出力する。また、タイミング制御部556は、測距光を出射する発光部に発光トリガTRGを出力する。非発光トリガNRGは、非発光時のヒストグラムの生成タイミングを指定することができる。
 測距処理部560は、発光トリガTRGで規定される発光タイミングでの発光に対する受光に基づいて測距データを算出する。例えば、測距処理部560は、発光トリガTRGに基づいてレーザが複数回発光されたとき、各発光に対してサンプリング時刻ごとのSPADの反応数を加算してヒストグラムを生成し、そのヒストグラムから測距データを算出してもよい。このとき、サンプリングを高速化するために、例えば、3×3の9個のSPADを1画素に設け、同じタイミングで反応したSPADの個数を加算してヒストグラムを生成してもよい。測距処理部560は、出力インタフェース570を介して測距データを外部に出力してもよい。
 また、測距処理部560は、発光トリガTRGに基づく発光タイミングの間に設けた非発光タイミングにおけるSPADの反応数を加算してヒストグラムを生成し、そのヒストグラムから干渉光を検知することができる。そして、測距処理部560は、非発光タイミングに基づいて検知された干渉光の検知結果に基づいて測距データを補正してもよい。
 測距処理部560は、発光ヒストグラム生成部561、非発光ヒストグラム生成部562、干渉補正部563および距離算出部564を備える。
 発光ヒストグラム生成部561は、発光トリガTRGに基づく発光に対する受光のサンプリング時刻ごとのSPADの反応数を加算してヒストグラムを生成する。発光ヒストグラム生成部561は、スロット単位でヒストグラムを生成する。スロット単位は、ヒストグラム生成単位である。スロットは、1フレーム内に複数設けることができる。
 非発光ヒストグラム生成部562は、非発光トリガNRGに基づく受光のサンプリング時刻ごとのSPADの反応数を加算してヒストグラムを生成する。発光ヒストグラム生成部561は、スロット単位でヒストグラムを生成する。
 干渉補正部563は、非発光ヒストグラム生成部562で生成されたヒストグラムに基づいて、発光ヒストグラム生成部561で生成されたヒストグラムを補正する。このとき、干渉補正部563は、発光ヒストグラム生成部561で生成されたヒストグラムから非発光ヒストグラム生成部562で生成されたヒストグラムを減算し、干渉光が除去された反射光についてのヒストグラムを生成してもよい。
 距離算出部564は、干渉補正部563で補正されたヒストグラムに基づいて、被写体までの距離を算出する。距離算出部564は、被写体までの距離を示す測距データを出力インタフェース570に出力してもよい。距離算出部564は、FIR(Finite Impulse Response)フィルタを備えてもよい。距離算出部564は、被写体までの距離を算出するために、エコー判定およびヒストグラムのピークを実施してもよい。
 クロック生成部582は、PLL回路581を介して入力された外部クロックCKOに基づいて内部クロックCKIを生成する。
 図31は、第8の実施の形態に係る発光トリガおよび非発光トリガに基づくヒストグラム生成方法を示す図である。
 同図において、発光トリガTRGに基づくサンプリング開始タイミングおよび非発光トリガNRGに基づくサンプリング開始タイミングは交互に設定される。このとき、サンプリング開始間隔TIVは、数百nsecから数μsecの間に設定することができる。
 発光ヒストグラム生成部561は、各発光トリガTRGに基づくサンプリング時刻ごとのSPADの反応数を加算してヒストグラム601-1、601-2を生成する。そして、発光ヒストグラム生成部561は、複数の発光トリガTRGに基づくヒストグラム601-1、601-2を加算したヒストグラム601を生成する。
 非発光ヒストグラム生成部562は、各非発光トリガNRGに基づくサンプリング時刻ごとのSPADの反応数を加算してヒストグラム602-1、602-2を生成する。そして、非発光ヒストグラム生成部562は、複数の非発光トリガNRGに基づくヒストグラム602-1、602-2を加算したヒストグラム602を生成する。
 図32は、第8の実施の形態に係る干渉補正方法を示す図である。
 同図において、発光ヒストグラム生成部561は、発光トリガTRGに基づいてヒストグラム600を生成する。ヒストグラム600は、干渉光がないときの反射光のヒストグラム601に干渉光のヒストグラム602が加算されて生成される。非発光ヒストグラム生成部562は、非発光トリガNRGに基づいてヒストグラム602を生成する。ヒストグラム602は、干渉光の受光のサンプリング時刻ごとのSPADの反応数が加算されて生成される。
 このとき、干渉補正部563は、発光ヒストグラム生成部561で生成されたヒストグラム600から非発光ヒストグラム生成部562で生成されたヒストグラム601を減算する。これにより、干渉補正部563は、発光ヒストグラム生成部561で生成されたヒストグラム600から干渉光が除去された反射光についてのヒストグラム601を抽出することができる。
 このように、上述の第8の実施の形態では、発光トリガTRGに基づく発光タイミングの間に設けられた非発光タイミングに基づいて干渉検知を実施する。これにより、発光タイミングと重複しないようにしつつ、干渉検知に使用される受光信号のサンプリング間隔を短くすることができる。このため、突発的な干渉光、永続的な干渉光および意図的な干渉光などの多様な干渉光の影響を軽減しつつ、測距を実施することが可能となり、測距精度を向上させることができる。
 <9.第9の実施の形態>
 上述の第8の実施の形態では、発光トリガTRGに基づく発光タイミングの間に設けられた非発光タイミングに基づいて干渉検知を実施した。この第9の実施の形態では、発光トリガTRGに基づく発光タイミングを非発光タイミングの間に複数設ける。
 図33は、第9の実施の形態に係る発光トリガおよび非発光トリガに基づくサンプリング方法を示すタイミングチャートである。
 同図において、非発光トリガNRGの間に複数の発光トリガTRGが設けられる。非発光トリガNRGの間に設けられる発光トリガTRGは、2以上であればよい。非発光トリガNRGの間に設けられる発光トリガTRGの個数は変化してもよい。発光トリガTRGの間に複数の非発光トリガNRGが設けられてもよい。
 このとき、干渉補正部563は、測距データから干渉光の影響を除去するために、今回の発光トリガTRGに対して2つ以上前または後にある非発光トリガNRGに基づくヒストグラムを用いてもよい。
 このように、上述の第9の実施の形態では、発光トリガTRGに基づく発光タイミングを非発光タイミングの間に複数設ける。これにより、発光トリガTRGに基づく受光信号のサンプリング数を増大させることができ、測距精度の低下を抑制しつつ、突発的な干渉光、永続的な干渉光および意図的な干渉光などの多様な干渉光の影響を軽減することができる。
 <10.第10の実施の形態>
 上述の第9の実施の形態では、発光トリガTRGに基づく発光タイミングを非発光タイミングの間に複数設けた。この第10の実施の形態では、発光トリガTRGに基づく発光タイミングの間に非発光タイミングをランダムに設ける。
 図34は、第10の実施の形態に係る発光トリガおよび非発光トリガに基づくサンプリング方法を示すタイミングチャートである。
 同図において、発光トリガTRGの間に非発光トリガNRGがランダムに設けられる。発光トリガTRGの間に複数の非発光トリガをランダムに設けてもよい。
 このとき、干渉補正部563は、測距データから干渉光の影響を除去するために、今回の発光トリガTRGに対して最も近い非発光トリガNRGに基づくヒストグラムを用いてもよい。
 このように、上述の第10の実施の形態では、発光トリガTRGに基づく発光タイミングの間に非発光タイミングをランダムに設ける。これにより、過去の発光タイミングから今回の発光タイミングを予測しにくくすることができ、意図的な干渉光を用いた攻撃などに対するセキュリティを強化することができる。
 <11.第11の実施の形態>
 上述の第8の実施の形態では、発光トリガTRGに基づく発光タイミングの間に設けられた非発光タイミングに基づいて干渉検知を実施した。この第11の実施の形態では、ヒストグラム生成単位に基づいて、発光トリガの系列および非発光トリガの系列を生成する。
 図35は、第11の実施の形態に係る発光トリガおよび非発光トリガに基づくサンプリング方法を示すタイミングチャートである。
 同図において、各ヒストグラム生成単位では、発光トリガTRGおよび非発光トリガNRGが交互に設けられる。各ヒストグラム生成単位において、非発光トリガNRGは、発光トリガTRGの間にランダムに設けられてもよい。このとき、干渉が混在した測距用のヒストグラム600と干渉検知用のヒストグラム602は、ヒストグラム生成単位ごとに生成される。
 干渉検知に用いられる信号のサンプリング精度は、測距に用いられる信号のサンプリング精度より低くてもよい。このとき、干渉検知画像の解像度は、測距画像の解像度より低くてもよい。干渉検知に用いられる信号のサンプリング精度を測距に用いられる信号のサンプリング精度より低くすることにより、発光トリガTRGと非発光トリガNRGとを1:1に設定する必要がなくなり、非発光トリガNRGのランダム化を容易化することができる。例えば、発光トリガTRGに対して20%の確率で非発光トリガNRGをランダムに挿入すると、発光トリガTRGと非発光トリガNRGとが厳密に4:1に設定されることはなく、非発光トリガNRGが20%の確率よりも数回増減することがある。
 このとき、撮像装置500は、ヒストグラムの蓄積回数を記録し、干渉光を除去するためのヒストグラムの減算処理にその蓄積回数を反映させてもよい。撮像装置500の外部で干渉光を除去する処理を実施する場合、撮像装置500は、ヒストグラムデータとともに、その蓄積回数を外部に通知してもよい。このとき、撮像装置500は、ヒストグラムデータのEBD(Embedded Data)にヒストグラムの蓄積回数を付加してもよい。
 このように、上述の第11の実施の形態では、ヒストグラム生成単位に基づいて、発光トリガおよび非発光トリガの系列を生成する。これにより、非発光トリガNRGのランダム化に対応しつつ、干渉光を除去するためのヒストグラムの減算処理にヒストグラムの蓄積回数を反映させることができる。このため、意図的な干渉光を用いた攻撃などに対するセキュリティを強化しつつ、測距制度を向上させることが可能となる。
 <12.第12の実施の形態>
 上述の第11の実施の形態では、各ヒストグラム生成単位において発光トリガTRGおよび非発光トリガNRGが交互に設けた。この第12の実施の形態では、発光トリガTRGの系列および非発光トリガNRGの系列をヒストグラム生成単位ごとに交互に設ける。
 図36は、第12の実施の形態に係る発光トリガおよび非発光トリガに基づくサンプリング方法を示すタイミングチャートである。
 同図において、発光トリガTRGの系列および非発光トリガNRGの系列がヒストグラム生成単位ごとに交互に設けられる。干渉が混在した測距用のヒストグラム600と干渉検知用のヒストグラム602は、ヒストグラム生成単位ごとに交互に生成される。このため、撮像装置500は、干渉が混在した測距用のヒストグラム600と干渉検知用のヒストグラム602とを交互に記憶すればよく、2種類のヒストグラム600、602を同一のメモリに時分割で記憶することができる。このため、2種類のヒストグラム600、602を記憶するための記憶容量を削減することができ、撮像装置500を小型化することができる。なお、測距データおよび干渉検知データは、ヒストグラムデータとして保持してもよいし、ヒストグラムのピーク位置や半値幅などの波形を再現可能な情報またはピーク周辺情報などに圧縮して保持してもよい。
 このように、上述の第12の実施の形態では、発光トリガTRGの系列および非発光トリガNRGの系列をヒストグラム生成単位ごとに設ける。これにより、干渉が混在した測距用のヒストグラム600と干渉検知用のヒストグラム602とをヒストグラム生成単位ごとに生成することができ、2種類のヒストグラム600、602を同一のメモリに時分割で記憶することができる。
 <13.第13の実施の形態>
 上述の第8の実施の形態では、発光トリガTRGに基づく発光タイミングの間に設けられた非発光タイミングに基づいて干渉検知を実施した。この第13の実施の形態では、測距可能な距離を分割して、発光トリガTRGに基づくヒストグラムと、非発光トリガNRGに基づくヒストグラムを生成する。
 図37は、第13の実施の形態に係る干渉データのサンプリング方法の一例を示す図である。
 同図において、撮像装置500は、例えば、干渉検知を伴わない100mまでの測距が可能であるものとする。このとき、撮像装置500は、干渉検知を伴う測距を実施する場合、50mまでの測距に切り替える。
 例えば、同図におけるaにおいて、干渉がない100mまでの測距では、ヒストグラム701が作成され、干渉がある100mまでの干渉検知では、ヒストグラム702が作成されるものとする。このとき、干渉検知を伴わない100mまでの測距では、ヒストグラム701を記憶する記憶容量があればよい。一方、干渉検知を伴う100mまでの測距では、ヒストグラム701、702を記憶する記憶容量が必要となり、ヒストグラム702を記憶する記憶容量を増設する必要がある。
 このとき、同図におけるbに示すように、撮像装置500は、干渉検知を伴う測距を実施する場合、50mまでの測距に切り替える。これにより、撮像装置500は、50mから100mまでのヒストグラム701の記憶容量を50mまでのヒストグラム702の記憶容量に割り当てることができる。このため、撮像装置500は、ヒストグラム702の記憶容量を増設することなく、被写体までの距離が近い干渉検知を伴う測距を実施することが可能となる。被写体までの距離が近い干渉検知を伴う測距を実施することにより、緊急性の高い測距の測距精度を向上させることが可能となる。
 ここで、干渉検知を伴う測距では、50mまでのヒストグラム701、702が加算されたヒストグラムが生成される。一方、干渉検知では、同図におけるcに示すように、50mまでのヒストグラム701が加算されていないヒストグラム702が生成される。このため、同図におけるbの50mまでのヒストグラム701、702が加算されたヒストグラムから同図におけるcの50mまでのヒストグラム702を減算することにより、干渉が除去された50mまでのヒストグラム701を生成することができる。
 なお、100mまでの測距において、50mより遠い位置での干渉検知を実施する場合、50mより遠い位置でのピークに基づいて、干渉の有無を判断してもよい。例えば、測距光が反射された反射光は、距離が遠くなると減衰が増大するので、距離が遠い位置でのピークは発生しない。これに対して、干渉光では、距離が遠くても、ピークが発生することがある。このため、干渉光のヒストグラム702では、50mより遠い位置においても、ピーク703が発生することがある。このため、50mより遠い位置において、ヒストグラム702のピーク703が100mまでのヒストグラム701に加算されているかどうかを判断することにより、干渉の有無を判断することができる。また、被写体までの距離が遠い位置においては、複数のフレーム間で干渉検知を実施してもよい。
 このように、上述の第13の実施の形態では、測距可能な距離を分割して、発光トリガTRGに基づくヒストグラムと、非発光トリガNRGに基づくヒストグラムを生成する。これにより、被写体までの距離に応じて干渉検知を伴う測距と、干渉検知を伴わない測距とを切り替えることができ、干渉検知を伴わない測距に対応したメモリ容量に基づいて、干渉検知を伴う測距を実施することが可能となる。
 <14.第14の実施の形態>
 上述の第8の実施の形態では、発光トリガTRGに基づく発光タイミングの間に設けられた非発光タイミングに基づいて干渉検知を実施した。この第14の実施の形態では、発光トリガTRGに基づくサンプリング精度よりも非発光トリガNRGに基づくサンプリング精度を低くする。
 図38は、第14の実施の形態に係る干渉データのサンプリング方法の一例を示す図である。
 同図におけるaにおいて、撮像装置500は、例えば、100mまでの測距が可能であるものとする。このとき、撮像装置500は、例えば、5cmのサンプリング精度で100mかつ100回の発光トリガTRGに基づくサンプリングデータを加算してヒストグラム801を生成する。これに対し、撮像装置500は、例えば、10cmのサンプリング精度で100mかつ25回の非発光トリガNRGに基づくサンプリングデータを加算してヒストグラム802を生成する。このとき、干渉検知のサンプリング精度を測距のサンプリング精度より低くすることができ、ヒストグラム802の記憶容量を削減することができる。
 また、同図におけるbに示すように、撮像装置500は、例えば、100m分のヒストグラム801の記憶容量のうち70m分をヒストグラム801の記憶容量に割り当ててもよい。このとき、撮像装置500は、100m分のヒストグラム801の記憶容量のうち30m分をヒストグラム802の記憶容量に割り当てることができる。
 ここで、撮像装置500は、同図におけるcに示すように、ヒストグラム802のサンプリング精度や加算数を削減し、70m分のヒストグラム802を30m分のヒストグラム801の記憶容量に記憶する。これにより、ヒストグラム802の記憶容量を増設することなく、測距と重複しないタイミングに基づいて干渉検知を実施することが可能となる。
 このように、上述の第14の実施の形態では、発光トリガTRGに基づくサンプリング精度よりも非発光トリガNRGに基づくサンプリング精度を低くする。これにより、干渉検知用のヒストグラム602をデータ圧縮することが可能となり、干渉検知用のヒストグラム602の記憶容量を削減することができる。
 <15.第15の実施の形態>
 上述の第8の実施の形態では、撮像装置500の干渉検知に基づいて、撮像装置500内で干渉補正を実施した。この第15の実施の形態では、撮像装置の干渉検知に基づいて、撮像装置外で干渉補正を実施する。
 図39は、第15の実施の形態に係る撮像装置の構成例を示すブロック図である。
 同図において、撮像装置800は、上述の第8の実施の形態の撮像装置500の測距処理部560に代えて、測距処理部860を備える。撮像装置800のそれ以外の構成は、上述の第8の実施の形態の撮像装置500の構成と同様である。
 測距処理部860は、上述の第8の実施の形態の測距処理部560の干渉補正部563および距離算出部564に代えて、セレクタ861および前処理部862を備える。測距処理部860のそれ以外の構成は、上述の第8の実施の形態の測距処理部560の構成と同様である。
 セレクタ861は、発光ヒストグラム生成部561の出力と非発光ヒストグラム生成部562の出力とを選択的に前処理部862に出力する。
 前処理部862は、発光ヒストグラム生成部561の出力および非発光ヒストグラム生成部562の出力について、干渉補正の前処理を実施する。前処理部862は、FIRフィルタを備えてもよい。前処理部862は、エコー判定を実施してもよい。
 ホスト811は、撮像装置800に接続される。ホスト811は、撮像装置800の出力を処理する。ホスト811は、入力インタフェース812および干渉補正部813を備える。
 干渉補正部813には、入力インタフェース812を介し、撮像装置800の出力が入力される。干渉補正部813は、非発光ヒストグラム生成部562で生成されたヒストグラムに基づいて、発光ヒストグラム生成部561で生成されたヒストグラムを補正する。このとき、干渉補正部813は、発光ヒストグラム生成部561で生成されたヒストグラムから非発光ヒストグラム生成部562で生成されたヒストグラムを減算し、干渉光が除去された反射光についてのヒストグラムを生成してもよい。
 このように、上述の第15の実施の形態では、撮像装置800の干渉検知に基づいて、撮像装置800外で干渉補正を実施する。これにより、撮像装置800の干渉補正にかかる負荷を低減することができる。
 <16.第16の実施の形態>
 上述の第15の実施の形態では、撮像装置800の干渉検知に基づいて、撮像装置800外で干渉補正を実施した。この第16の実施の形態では、撮像装置は、干渉光の検知結果を外部に通知する。
 図40は、第16の実施の形態に係る撮像装置の構成例を示すブロック図である。
 同図において、撮像装置850は、上述の第8の実施の形態の撮像装置500にピーク検出部851が追加されている。撮像装置850のそれ以外の構成は、上述の第8の実施の形態の撮像装置500の構成と同様である。
 ピーク検出部851は、非発光ヒストグラム生成部562で生成されたヒストグラムのピークを検出し、ワーニング情報として撮像装置850の外部に通知する。ワーニング情報は、端子を介して外部に通知してもよいし、出力インタフェース570を介して外部に通知してもよい。ワーニング情報は、EBDなどに挿入されて外部に通知されてもよい。
 このように、上述の第16の実施の形態では、撮像装置850は、干渉光の検知結果を外部に通知する。これにより、撮像装置850での測距時の干渉を外部で確認することができる。
 <17.第17の実施の形態>
 上述の第1の実施の形態では、測距を行うバンクと干渉検知を行うバンクとをサブフレームSFM1、SFM2ごとに切り替え、反射光LRFに基づく測距と、干渉光LIFに基づく干渉検知を同時に実施した。この第17の実施の形態では、受光素子が設けられた画素が配列された画素アレイ部を上層チップに設け、回路部を下層チップに設ける。
 図41は、第17の実施の形態に係る固体撮像装置の積層例を示す斜視図である。
 同図において、この固体撮像装置は、画素アレイ部910および回路部920を備える。画素アレイ部910は、回路部920上に積層することができる。画素アレイ部910は、画素911を備える。画素911は、ロウ方向およびカラム方向にマリトックス状に配置される。画素911には、SPADなどの受光部、クエンチ抵抗、リチャージ回路、カウンタおよびラッチなどを設けることができる。
 回路部920は、画素アレイ部910に接続される。回路部920には、読出し回路921および制御回路922を設けることができる。読出し回路921は、画素アレイ部910の各画素911から画素データを読出す。制御回路922は、発光部の発光タイミングを制御したり、受光部で生成された受光信号のサンプリングタイミングを制御したりすることができる。また、受光信号のサンプリングに基づいて、距離ごとの受光頻度を示すヒストグラムを生成し、そのヒストグラムに基づいて被写体までの距離を算出することができる。このとき、制御回路922は、干渉検知を実施し、干渉検知データに基づいて測距データを補正することができる。
 画素アレイ部910は上層チップに形成し、回路部920は下層チップに形成することができる。このとき、上層チップおよび下層チップは、直接接合してもよい。上層チップおよび下層チップの直接接合では、ハイブリッドボンディングを用いることができる。このとき、上層チップおよび下層チップは、Cu-Cu接続に基づいて電気的に接続してもよい。上層チップおよび下層チップに用いられる半導体基板の材料は、Siでもよいし、InGaAsでもよいし、InPでもよい。
 このように、上述の第17の実施の形態では、受光素子が設けられた画素911が配列された画素アレイ部910を上層チップに設け、回路部920を下層チップに設ける。これにより、チップサイズの増大を抑制しつつ、受光素子の面積を増大させることができ、固体撮像装置の小型化を図りつつ、感度を向上させることができる。
 <18.第18の実施の形態>
 上述の第17の実施の形態では、画素911が配列された画素アレイ部910を回路部920上に積層した。この第18の実施の形態では、受光部が配列された受光アレイ部を上層チップに設け、回路アレイ部を下層チップに設ける。
 図42は、第18の実施の形態に係る画素アレイ部の積層例を示す斜視図である。
 同図において、この画素アレイ部は、受光アレイ部930および回路アレイ部940を備える。受光アレイ部930は、回路アレイ部940上に積層することができる。受光アレイ部930は、受光部931を備える。受光部931は、ロウ方向およびカラム方向にマリトックス状に配置される。各受光部931には、SPADを設けることができる。
 回路アレイ部940は、回路部941を備える。回路部941は、ロウ方向およびカラム方向にマリトックス状に配置される。回路部941は、受光部931ごとに設けることができる。各回路部941には、クエンチ抵抗、リチャージ回路、カウンタおよびラッチなどを設けることができる。
 このように、上述の第18の実施の形態では、受光部931が配列された受光アレイ部930を回路部941が配列された回路アレイ部940上に積層する。これにより、チップサイズの増大を抑制しつつ、受光部931の面積を増大させることができ、固体撮像装置の小型化を図りつつ、感度を向上させることができる。
 <19.第19の実施の形態>
 上述の第18の実施の形態では、受光部931が配列された受光アレイ部930を回路部941が配列された回路アレイ部940上に積層した。この第19の実施の形態では、複数の受光素子が設けられた受光部が配列された受光アレイ部を上層チップに設け、回路アレイ部を下層チップに設ける。
 図43は、第19の実施の形態に係る画素アレイ部の積層例を示す斜視図である。
 同図において、画素アレイ部は、受光アレイ部950および回路アレイ部960を備える。受光アレイ部950は、回路アレイ部960上に積層することができる。受光アレイ部950は、受光部951を備える。受光部951は、ロウ方向およびカラム方向にマリトックス状に配置される。各受光部951には、複数の受光素子952が設けられる。受光素子952は、SPADでもよい。各受光部951において、受光素子952は、2×2の配列でもよいし、3×3の配列でもよい。
 回路アレイ部960は、回路部961を備える。回路部961は、ロウ方向およびカラム方向にマリトックス状に配置される。回路部961は、受光部951ごとに設けることができる。各回路部961には、クエンチ抵抗、リチャージ回路、カウンタおよびラッチなどを設けることができる。
 このように、上述の第18の実施の形態では、複数の受光素子952が設けられた受光部951が配列された受光アレイ部950を、回路部961が配列された回路アレイ部960上に積層する。これにより、チップサイズの増大を抑制しつつ、各受光素子952の面積を増大させることが可能となるとともに、受光頻度を増大させることができる。このため、固体撮像装置の小型化を図りつつ、感度を向上させることが可能となるとともに、測距の高速化を図ることができる。
 <20.移動体への応用例>
 本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
 図44は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
 車両制御システム12000は、通信ネットワーク12001を介して接続された複数の電子制御ユニットを備える。図44に示した例では、車両制御システム12000は、駆動系制御ユニット12010、ボディ系制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、及び統合制御ユニット12050を備える。また、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051、音声画像出力部12052、及び車載ネットワークI/F(interface)12053が図示されている。
 駆動系制御ユニット12010は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット12010は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
 ボディ系制御ユニット12020は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット12020は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット12020には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット12020は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
 車外情報検出ユニット12030は、車両制御システム12000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット12030には、撮像部12031が接続される。車外情報検出ユニット12030は、撮像部12031に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
 撮像部12031は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部12031は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部12031が受光する光は、可視光であってもよいし、赤外線等の非可視光であってもよい。
 車内情報検出ユニット12040は、車内の情報を検出する。車内情報検出ユニット12040には、例えば、運転者の状態を検出する運転者状態検出部12041が接続される。運転者状態検出部12041は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出部12041から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
 マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット12010に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行うことができる。
 また、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
 また、マイクロコンピュータ12051は、車外情報検出ユニット12030で取得される車外の情報に基づいて、ボディ系制御ユニット12020に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
 音声画像出力部12052は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図44の例では、出力装置として、オーディオスピーカ12061、表示部12062及びインストルメントパネル12063が例示されている。表示部12062は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
 図45は、撮像部12031の設置位置の例を示す図である。
 図45では、撮像部12031として、撮像部12101,12102,12103,12104,12105を有する。
 撮像部12101,12102,12103,12104,12105は、例えば、車両12100のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部12101及び車室内のフロントガラスの上部に備えられる撮像部12105は、主として車両12100の前方の画像を取得する。サイドミラーに備えられる撮像部12102,12103は、主として車両12100の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部12104は、主として車両12100の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部12105は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
 なお、図45には、撮像部12101ないし12104の撮影範囲の一例が示されている。撮像範囲12111は、フロントノーズに設けられた撮像部12101の撮像範囲を示し、撮像範囲12112,12113は、それぞれサイドミラーに設けられた撮像部12102,12103の撮像範囲を示し、撮像範囲12114は、リアバンパ又はバックドアに設けられた撮像部12104の撮像範囲を示す。例えば、撮像部12101ないし12104で撮像された画像データが重ね合わせられることにより、車両12100を上方から見た俯瞰画像が得られる。
 撮像部12101ないし12104の少なくとも1つは、距離情報を取得する機能を有していてもよい。例えば、撮像部12101ないし12104の少なくとも1つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
 例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を基に、撮像範囲12111ないし12114内における各立体物までの距離と、この距離の時間的変化(車両12100に対する相対速度)を求めることにより、特に車両12100の進行路上にある最も近い立体物で、車両12100と略同じ方向に所定の速度(例えば、0km/h以上)で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ12051は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御(追従停止制御も含む)や自動加速制御(追従発進制御も含む)等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
 例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を元に、立体物に関する立体物データを、2輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ12051は、車両12100の周辺の障害物を、車両12100のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ12051は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ12061や表示部12062を介してドライバに警報を出力することや、駆動系制御ユニット12010を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
 撮像部12101ないし12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像部12101ないし12104の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部12101ないし12104の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ12051が、撮像部12101ないし12104の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部12052は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部12062を制御する。また、音声画像出力部12052は、歩行者を示すアイコン等を所望の位置に表示するように表示部12062を制御してもよい。
 以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、撮像部12031に適用され得る。具体的には、例えば、上述の測距装置は、撮像部12031に適用することができる。車両制御システム12000に本開示に係る技術を適用することにより、干渉光が入射する場合においても。測距精度の低下を抑制することが可能となる。
 なお、上述の実施の形態は本技術を具現化するための一例を示したものであり、実施の形態における事項と、特許請求の範囲における発明特定事項とはそれぞれ対応関係を有する。同様に、特許請求の範囲における発明特定事項と、これと同一名称を付した本技術の実施の形態における事項とはそれぞれ対応関係を有する。ただし、本技術は実施の形態に限定されるものではなく、その要旨を逸脱しない範囲において実施の形態に種々の変形を施すことにより具現化することができる。また、本明細書に記載された効果はあくまで例示であって、限定されるものではなく、また、他の効果があってもよい。
 なお、本技術は以下のような構成もとることができる。
(1)測距光を出射する発光部と、
 前記測距光が反射された反射光の受光の有無を切り替えて受光可能な複数の受光領域を有する受光部と
を備える測距装置。
(2)前記受光領域は、前記反射光の受光の有無が互いに排他的に切り替えられる第1受光領域および第2受光領域を備え、
 前記反射光が前記第1受光領域で受光されるときに、前記反射光が前記第2受光領域で受光されないように、前記第1受光領域と第2受光領域との位置が設定され、
 前記反射光が前記第2受光領域で受光されるときに、前記反射光が前記第1受光領域で受光されないように、前記第1受光領域と第2受光領域との位置が設定される
前記(1)に記載の測距装置。
(3)前記発光部は、
 前記第1受光領域に対応した第1レーザ素子と、
 前記第2受光領域に対応した第2レーザ素子とを備え、
 前記反射光が前記第1受光領域で受光されるときは、前記第1レーザ素子はオンされるとともに、前記第2レーザ素子はオフされ、
 前記反射光が前記第2受光領域で受光されるときは、前記第1レーザ素子はオフされるとともに、前記第2レーザ素子はオンされる
前記(2)に記載の測距装置。
(4)前記反射光の受光に基づく測距動作と、前記反射光に干渉する干渉光の受光に基づく干渉検知動作を制御する制御部を
さらに備える前記(2)または(3)に記載の測距装置。
(5)前記制御部は、前記測距動作と前記干渉検知動作とをサブフレーム単位で繰り返す
前記(4)に記載の測距装置。
(6)前記制御部は、前記干渉光の検知結果に基づいて、前記測距光の出射間隔を変更する
前記(4)または(5)に記載の測距装置。
(7)前記制御部は、前記干渉光の検知結果に基づいて、前記測距光の出射間隔をランダムに変更する
前記(6)に記載の測距装置。
(8)前記制御部は、前記受光領域での受光頻度と距離との関係を示すヒストグラムのピークの有無または干渉評価指標に基づいて前記干渉光を検知する
前記(4)から(7)のいずれかに記載の測距装置。
(9)前記制御部は、前記干渉光の検知結果に基づいて、干渉の有無を示す干渉フラグを発行する
前記(4)から(8)のいずれかに記載の測距装置。
(10)前記第1受光領域および前記第2受光領域はそれぞれ複数設けられ、
 前記第1受光領域および前記第2受光領域は、フレームごとに切り替えられて測距および干渉検知に用いられる
前記(2)から(9)のいずれかに記載の測距装置。
(11)前記第1受光領域および前記第2受光領域はそれぞれ複数設けられ、
 前記第1受光領域および前記第2受光領域のうちの少なくとも一部が選択されて測距および干渉検知に用いられる
前記(2)から(10)のいずれかに記載の測距装置。
(12)前記測距および前記干渉検知に用いられる前記第1受光領域および前記第2受光領域のうちの少なくとも一部はランダムに選択される
前記(11)に記載の測距装置。
(13)前記制御部は、第1フレームでの前記干渉光の検知結果を第2フレームのノイズの除去に用いる
前記(4)に記載の測距装置。
(14)測距光を出射する発光部と、
 前記測距光が反射された反射光を受光する受光部と、
 前記干渉光の検知結果に基づいて、前記測距光の出射間隔をランダムに変更する制御部と
を備える測距装置。
(15)発光トリガに基づいて測距光を出射する発光部と、
 前記測距光が反射された反射光を受光する受光部と、
 前記発光トリガに基づく発光タイミングの間に設けられた非発光タイミングに基づいて、前記受光部で受光される光の検知を制御する制御部と
を備える測距装置。
(16)前記制御部は、前記発光タイミングを含む発光期間および前記非発光タイミングを含む非発光期間の設定を制御する
前記(15)に記載の測距装置。
(17)前記発光期間は、前記発光部から出射される1つの発光パルスの出射単位または前記受光部での受光回数のヒストグラムで生成単位であるスロット単位に基づいて設定される
前記(16)に記載の測距装置。
(18)前記制御部は、前記測距光に干渉する干渉光の検知結果を通知する
前記(15)から(17)のいずれかに記載の測距装置。
(19)前記制御部は、前記発光タイミングでの発光に対する受光に基づいて測距データを算出し、前記非発光タイミングに基づいて検知された干渉光の検知結果に基づいて前記測距データを補正する
前記(15)から(18)のいずれかに記載の測距装置。
(20)前記制御部は、前記非発光タイミングに基づく信号のサンプリング精度を前記発光タイミングに基づく信号のサンプリング精度より低くする
前記(15)から(19)のいずれかに記載の測距装置。
 100 測距装置
 101 対象物
 102 干渉源
 103 プロセッサ
 111 駆動部
 112 発光部
 113、121、141 光学系
 122 光学フィルタ
 123 光検出部
 131 画素アレイ部
 132 読出し回路
 133 TDC
 134 ヒストグラム生成部
 135 内部クロック生成部
 136 制御部
 137 外部インタフェース
 171 干渉検知部
 172 乱数発生器
 173 内部クロック周波数レジスタ
 140 撮像装置
 142 固体撮像装置
 143 撮像制御部
 144 画像処理部
 145 記憶部
 146 表示部
 147 操作部
 148 バス
 160 画素
 152 水平制御部
 153 信号処理部
 161 垂直信号線
 162 水平制御線

Claims (20)

  1.  測距光を出射する発光部と、
     前記測距光が反射された反射光の受光の有無を切り替えて受光可能な複数の受光領域を有する受光部と
    を備える測距装置。
  2.  前記受光領域は、前記反射光の受光の有無が互いに排他的に切り替えられる第1受光領域および第2受光領域を備え、
     前記反射光が前記第1受光領域で受光されるときに、前記反射光が前記第2受光領域で受光されないように、前記第1受光領域と第2受光領域との位置が設定され、
     前記反射光が前記第2受光領域で受光されるときに、前記反射光が前記第1受光領域で受光されないように、前記第1受光領域と第2受光領域との位置が設定される
    請求項1に記載の測距装置。
  3.  前記発光部は、
     前記第1受光領域に対応した第1レーザ素子と、
     前記第2受光領域に対応した第2レーザ素子とを備え、
     前記反射光が前記第1受光領域で受光されるときは、前記第1レーザ素子はオンされるとともに、前記第2レーザ素子はオフされ、
     前記反射光が前記第2受光領域で受光されるときは、前記第1レーザ素子はオフされるとともに、前記第2レーザ素子はオンされる
    請求項2に記載の測距装置。
  4.  前記反射光の受光に基づく測距動作と、前記反射光に干渉する干渉光の受光に基づく干渉検知動作を制御する制御部を
    さらに備える請求項1に記載の測距装置。
  5.  前記制御部は、前記測距動作と前記干渉検知動作とをサブフレーム単位で繰り返す
    請求項4に記載の測距装置。
  6.  前記制御部は、前記干渉光の検知結果に基づいて、前記測距光の出射間隔を変更する
    請求項4に記載の測距装置。
  7.  前記制御部は、前記干渉光の検知結果に基づいて、前記測距光の出射間隔をランダムに変更する
    請求項6に記載の測距装置。
  8.  前記制御部は、前記受光領域での受光頻度と距離との関係を示すヒストグラムのピークの有無または干渉評価指標に基づいて前記干渉光を検知する
    請求項4に記載の測距装置。
  9.  前記制御部は、前記干渉光の検知結果に基づいて、干渉の有無を示す干渉フラグを発行する
    請求項4に記載の測距装置。
  10.  前記第1受光領域および前記第2受光領域はそれぞれ複数設けられ、
     前記第1受光領域および前記第2受光領域は、フレームごとに切り替えられて測距および干渉検知に用いられる
    請求項2に記載の測距装置。
  11.  前記第1受光領域および前記第2受光領域はそれぞれ複数設けられ、
     前記第1受光領域および前記第2受光領域のうちの少なくとも一部が選択されて測距および干渉検知に用いられる
    請求項2に記載の測距装置。
  12.  前記測距および前記干渉検知に用いられる前記第1受光領域および前記第2受光領域のうちの少なくとも一部はランダムに選択される
    請求項11に記載の測距装置。
  13.  前記制御部は、第1フレームでの前記干渉光の検知結果を第2フレームのノイズの除去に用いる
    請求項4に記載の測距装置。
  14.  測距光を出射する発光部と、
     前記測距光が反射された反射光を受光する受光部と、
     前記干渉光の検知結果に基づいて、前記測距光の出射間隔をランダムに変更する制御部と
    を備える測距装置。
  15.  発光トリガに基づいて測距光を出射する発光部と、
     前記測距光が反射された反射光を受光する受光部と、
     前記発光トリガに基づく発光タイミングの間に設けられた非発光タイミングに基づいて、前記受光部で受光される光の検知を制御する制御部と
    を備える測距装置。
  16.  前記制御部は、前記発光タイミングを含む発光期間および前記非発光タイミングを含む非発光期間の設定を制御する
    請求項15に記載の測距装置。
  17.  前記発光期間は、前記発光部から出射される1つの発光パルスの出射単位または前記受光部での受光回数のヒストグラムで生成単位であるスロット単位に基づいて設定される
    を備える
    請求項16に記載の測距装置。
  18.  前記制御部は、前記測距光に干渉する干渉光の検知結果を通知する
    請求項15に記載の測距装置。
  19.  前記制御部は、前記発光タイミングでの発光に対する受光に基づいて測距データを算出し、前記非発光タイミングに基づいて検知された干渉光の検知結果に基づいて前記測距データを補正する
    請求項15に記載の測距装置。
  20.  前記制御部は、前記非発光タイミングに基づく信号のサンプリング精度を前記発光タイミングに基づく信号のサンプリング精度より低くする
    請求項15に記載の測距装置。
PCT/JP2023/041827 2023-01-16 2023-11-21 測距装置 Ceased WO2024154429A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202380091070.XA CN120530340A (zh) 2023-01-16 2023-11-21 测距装置

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2023-004620 2023-01-16
JP2023004620 2023-01-16

Publications (1)

Publication Number Publication Date
WO2024154429A1 true WO2024154429A1 (ja) 2024-07-25

Family

ID=91955552

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2023/041827 Ceased WO2024154429A1 (ja) 2023-01-16 2023-11-21 測距装置

Country Status (2)

Country Link
CN (1) CN120530340A (ja)
WO (1) WO2024154429A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2026042648A1 (ja) * 2024-08-19 2026-02-26 ソニーセミコンダクタソリューションズ株式会社 測距装置、測距システム、及び処理装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010175487A (ja) * 2009-01-31 2010-08-12 Keyence Corp 安全光電スイッチ
US20170261371A1 (en) * 2016-03-08 2017-09-14 Electronics And Telecommunications Research Instit Ute Optical receiver and laser radar including the same
JP2018072078A (ja) * 2016-10-26 2018-05-10 株式会社デンソー 距離測定装置
JP2020153751A (ja) * 2019-03-19 2020-09-24 株式会社デンソー 測距装置および測距装置における異常判定方法
WO2020188782A1 (ja) * 2019-03-20 2020-09-24 株式会社ブルックマンテクノロジ 距離画像撮像装置、距離画像撮像システム、および距離画像撮像方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010175487A (ja) * 2009-01-31 2010-08-12 Keyence Corp 安全光電スイッチ
US20170261371A1 (en) * 2016-03-08 2017-09-14 Electronics And Telecommunications Research Instit Ute Optical receiver and laser radar including the same
JP2018072078A (ja) * 2016-10-26 2018-05-10 株式会社デンソー 距離測定装置
JP2020153751A (ja) * 2019-03-19 2020-09-24 株式会社デンソー 測距装置および測距装置における異常判定方法
WO2020188782A1 (ja) * 2019-03-20 2020-09-24 株式会社ブルックマンテクノロジ 距離画像撮像装置、距離画像撮像システム、および距離画像撮像方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2026042648A1 (ja) * 2024-08-19 2026-02-26 ソニーセミコンダクタソリューションズ株式会社 測距装置、測距システム、及び処理装置

Also Published As

Publication number Publication date
CN120530340A (zh) 2025-08-22

Similar Documents

Publication Publication Date Title
US10746874B2 (en) Ranging module, ranging system, and method of controlling ranging module
US20200057149A1 (en) Optical sensor and electronic device
US11076148B2 (en) Solid-state image sensor, imaging apparatus, and method for controlling solid-state image sensor
US10996320B2 (en) Electronic device and control method of electronic device
KR20220006520A (ko) 화상 인식 장치 및 화상 인식 방법
JP7802782B2 (ja) 固体撮像素子、固体撮像素子の製造方法および電子機器
JP7566761B2 (ja) 撮像装置
US20250324177A1 (en) Photodetection device
US11469518B2 (en) Array antenna, solid-state imaging device, and electronic apparatus
JP7609162B2 (ja) センシングシステム
WO2024154429A1 (ja) 測距装置
US12452551B2 (en) Information processing apparatus, information processing system, information processing method, and information processing program
JP7490653B2 (ja) 測定装置および測定方法、並びにプログラム
JP7645226B2 (ja) センシングシステム、および、測距システム
JP2026509449A (ja) 深度センサデバイス及び深度センサデバイスを動作させる方法
JP7703546B2 (ja) 光検出装置
WO2024084792A1 (ja) 光検出装置、測距装置、および、光検出装置の制御方法
JP2022185168A (ja) 受光素子およびその駆動方法、並びに、測距システム
WO2024185288A1 (ja) 光検出装置および測距システム
WO2026022922A1 (ja) 光検出素子、及び光検出装置
EP4642045A1 (en) Photodetector device and photodetector device control method
US20250370105A1 (en) Transmission Method, Control Method, and Corresponding Apparatus
WO2025187521A1 (ja) 光検出装置および測距装置
WO2024042668A1 (ja) 光検出素子
WO2025120830A1 (ja) 光検出素子

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 23917641

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 202380091070.X

Country of ref document: CN

NENP Non-entry into the national phase

Ref country code: DE

WWP Wipo information: published in national office

Ref document number: 202380091070.X

Country of ref document: CN

122 Ep: pct application non-entry in european phase

Ref document number: 23917641

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: JP