WO2025147802A1 - 深度值确定方法、设备、芯片系统及存储介质 - Google Patents

深度值确定方法、设备、芯片系统及存储介质

Info

Publication number
WO2025147802A1
WO2025147802A1 PCT/CN2024/071092 CN2024071092W WO2025147802A1 WO 2025147802 A1 WO2025147802 A1 WO 2025147802A1 CN 2024071092 W CN2024071092 W CN 2024071092W WO 2025147802 A1 WO2025147802 A1 WO 2025147802A1
Authority
WO
WIPO (PCT)
Prior art keywords
signal
electronic device
preset
crosstalk
histogram
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
PCT/CN2024/071092
Other languages
English (en)
French (fr)
Inventor
昌钟璨
邬润豪
王若秋
冯晓刚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honor Device Co Ltd
Original Assignee
Honor Device Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honor Device Co Ltd filed Critical Honor Device Co Ltd
Priority to PCT/CN2024/071092 priority Critical patent/WO2025147802A1/zh
Publication of WO2025147802A1 publication Critical patent/WO2025147802A1/zh
Anticipated expiration legal-status Critical
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/08Systems determining position data of a target for measuring distance only
    • G01S17/10Systems determining position data of a target for measuring distance only using transmission of interrupted, pulse-modulated waves

Definitions

  • the usage rate of depth detection modules based on algorithms such as time of flight (ToF) is increasing in mobile phones and other electronic devices.
  • electronic devices can use the depth information provided by the depth detection module to assist in focusing and achieve a large aperture blur effect.
  • the depth information provided by the depth detection module may not be accurate, thus affecting the auxiliary focusing effect.
  • the present application provides a depth value determination method, device, chip system and storage medium, which solve the technical problem of inaccurate depth values measured by a depth detection module.
  • an embodiment of the present application provides a method for determining a depth value.
  • the method can be applied to an electronic device.
  • a depth detection module is provided under the cover plate of the electronic device, and the depth detection module includes a transmitting end and a receiving end.
  • the method may include: the electronic device receives a pulse signal through the receiving end, and the pulse signal includes a first crosstalk signal and a target signal, the first crosstalk signal is a signal emitted by the transmitting end and reflected back through the cover plate, and the target signal is a signal emitted by the transmitting end and reflected back through the object to be measured.
  • the electronic device determines the depth value of the object to be measured based on the reception time of the second crosstalk signal and the reception time of the target signal.
  • the second crosstalk signal is the first crosstalk signal, or the second crosstalk signal is a preset crosstalk signal.
  • the depth value of the object to be measured represents the distance from the electronic device to the object to be measured.
  • the distance between the depth detection module and the cover plate is smaller than the distance between the depth detection module and the object to be measured, so that the time when the depth detection module receives the crosstalk signal reflected by the cover plate is earlier than the time when the target signal reflected by the object to be measured is received. If the crosstalk signal is superimposed on the target signal, the crosstalk signal will interfere with the target signal. Based on the characteristic that the crosstalk signal is received earlier, the electronic device can separate the target signal from the pulse signal, use the reception time of the crosstalk signal as the 0 distance point, and correct the flight time of the target signal, so that the depth value calculated based on the corrected flight time is more accurate.
  • the depth detection module may be a ToF module.
  • the cover plate may be a glass cover plate.
  • the method may further include: the electronic device separates the target signal from the pulse signal based on the second crosstalk signal.
  • the electronic device can generate a first histogram based on a pulse signal, wherein the horizontal axis of the first histogram represents the receiving time of the pulse signal, and the vertical axis of the first histogram represents the signal strength of the pulse signal; if a peak that meets the preset conditions is found within the preset peak-seeking range of the first histogram, the electronic device separates the target signal from the first histogram based on the preset crosstalk signal; or, if a peak that meets the preset conditions is not found within the preset peak-seeking range of the first histogram, the electronic device separately determines the first crosstalk signal and the target signal in the first histogram, and the receiving time of the first crosstalk signal is earlier than the receiving time of the target signal.
  • the electronic device can generate a first histogram based on a pulse signal, the horizontal axis of the first histogram represents the receiving time of the pulse signal, and the vertical axis of the first histogram represents the signal strength of the pulse signal; based on the ambient temperature of the electronic device and the voltage of the depth detection module, the electronic device adjusts the receiving time of the pulse signal in the first histogram (for example, the signal envelope of the pulse signal is offset by the target adjustment amount along the first direction of the horizontal axis) to obtain a second histogram; if a peak that meets the preset conditions is found within the preset peak-seeking range of the second histogram, the electronic device separates the target signal from the second histogram based on the preset crosstalk signal; or, if a peak that meets the preset conditions is not found within the preset peak-seeking range of the second histogram, the electronic device determines the first crosstalk signal and the target signal in the first histogram, respectively, and the receiving time of the first cross
  • the preset peak-seeking range is determined according to the peak position of the preset crosstalk signal. It can be understood that, while keeping the preset reference signal unchanged, the crosstalk signal and the target signal in the original histogram are offset along the horizontal axis, thereby improving the accuracy of the target signal restored from the histogram based on the preset reference signal in the close-range ranging scenario, thereby improving the accuracy of the depth value finally calculated.
  • the electronic device can generate a first histogram based on a pulse signal, the horizontal axis of the first histogram represents the receiving time of the pulse signal, and the vertical axis of the first histogram represents the signal strength of the pulse signal; based on the ambient temperature of the electronic device and the voltage of the depth detection module, the electronic device adjusts the receiving time of the preset crosstalk signal (for example, the signal envelope of the preset crosstalk signal is offset by the target adjustment amount along the second direction of the horizontal axis, and the first direction is opposite to the second direction); if a peak that meets the preset conditions is found within the preset peak-seeking range of the first histogram, the electronic device separates the target signal from the first histogram based on the adjusted preset crosstalk signal; or, if a peak that meets the preset conditions is not found within the preset peak-seeking range of the first histogram, the electronic device determines the first crosstalk signal and the target signal in the first histogram respectively, and the receiving time of the preset cross
  • the preset peak-seeking range is determined according to the peak position of the adjusted preset crosstalk signal. It can be understood that, while keeping the horizontal axis position of the signal envelope in the original histogram unchanged, the preset reference signal is offset along the horizontal axis, thereby improving the accuracy of the target signal restored from the histogram based on the preset reference signal in the close-range ranging scenario, thereby improving the accuracy of the depth value finally calculated.
  • voltage of the depth detection module refers to the power supply voltage of the power module of the electronic device to the depth detection module.
  • the above-mentioned preset condition may include a first condition and a second condition:
  • the first condition is that the signal intensity of the peak to be found is greater than the intensity of the background noise.
  • the background noise may include ambient light noise, device dark noise caused by the circuit, noise caused by stains on the glass cover, etc.
  • the electronic device may misjudge the background noise signal as the target signal based on the confidence algorithm.
  • the electronic device can eliminate interference by judging whether the signal intensity of the peak found is greater than the intensity of the background noise. For example, the electronic device can detect the intensity of the background noise in real time, and then judge whether the signal intensity of the peak found is greater than the intensity of the background noise.
  • FIG1 is a schematic diagram of a distance measurement using a ToF module provided in an embodiment of the present application.
  • FIG3 is a schematic diagram of an array diagram of depth information obtained using a ToF module provided in an embodiment of the present application
  • FIG7 is a schematic diagram of the hardware structure of another mobile phone provided in an embodiment of the present application.
  • FIG8 is a schematic diagram of the hardware structure of a ToF module provided in an embodiment of the present application.
  • FIG9 is a schematic diagram of the hardware structure of another ToF module provided in an embodiment of the present application.
  • FIG10 is a schematic diagram of the structure of a receiving end array device provided in an embodiment of the present application.
  • FIG13 is a schematic diagram of a transmitting end transmitting a pulse wave and a receiving end receiving a pulse wave provided in an embodiment of the present application;
  • FIG14 is a schematic diagram of the working principle of a single SPAD sensor provided in an embodiment of the present application.
  • FIG15 is a schematic diagram of the principle of a TCSPC provided in an embodiment of the present application.
  • FIG16 is a schematic diagram of a histogram obtained using a ToF module according to an embodiment of the present application.
  • FIG17 is a schematic diagram of a histogram during long-distance ranging and short-distance ranging provided by an embodiment of the present application;
  • FIG18 is a schematic diagram of a flow chart of a method for determining a depth value provided in an embodiment of the present application.
  • FIG19 is a schematic diagram of finding a peak in a histogram provided by an embodiment of the present application.
  • FIG20 is a schematic diagram of background noise intensity provided in an embodiment of the present application.
  • FIG21 is a schematic diagram of a histogram at different temperatures provided in an embodiment of the present application.
  • FIG22 is a schematic diagram of ranging based on crosstalk signals and target signals in a long-distance ranging scenario provided by an embodiment of the present application;
  • FIG23 is a schematic diagram of a three-point method provided in an embodiment of the present application.
  • FIG24 is a schematic diagram of a short-distance ranging scenario provided by an embodiment of the present application.
  • FIG25 is a schematic diagram of another short-distance ranging scenario provided by an embodiment of the present application.
  • FIG26 is a schematic diagram of another short-distance ranging scenario provided by an embodiment of the present application.
  • FIG27 is a schematic diagram of a temperature drift curve provided in an embodiment of the present application.
  • FIG28 is a schematic diagram of a voltage curve provided in an embodiment of the present application.
  • FIG29 is a flow chart of a method for optimizing a temperature compensation model and a voltage compensation model provided in an embodiment of the present application
  • FIG30 is a schematic diagram of two depth values at different voltages provided in an embodiment of the present application.
  • FIG31 is a schematic diagram of the structure of an electronic device provided in an embodiment of the present application.
  • the time of flight (ToF) method is a two-way ranging technology that mainly uses the time it takes for a pulse signal to travel back and forth between the transmitter and the receiver to measure the distance between nodes.
  • FIG1 shows a schematic diagram of using a ToF module for ranging.
  • the ToF module includes a transmitter and a receiver.
  • the transmitter of the ToF module transmits a pulse signal.
  • the pulse signal is an electromagnetic wave of a certain wavelength.
  • the pulse signal reaches the object to be measured, and after being reflected by the object to be measured, it returns along the medium.
  • the receiver of the ToF module receives the pulse signal.
  • the ToF module can estimate the distance from the ToF module to the object to be measured based on the time from the emission of the pulse signal to the reception of the pulse signal using the relationship (1).
  • the distance from the ToF module to the object to be measured is also called the depth value.
  • D c * ⁇ t/2 (1).
  • D represents the distance from the ToF module to the object being measured
  • c represents the speed of light
  • ⁇ t represents the time from when the pulse signal is emitted by the transmitter to when the pulse signal is received by the receiver.
  • the pixels in the depth map collected by the ToF module are relatively low, and the distance between two nodes can be calculated with less computing power and power consumption. Therefore, the usage rate of ToF modules in electronic devices such as mobile phones is increasing.
  • electronic devices can use the depth value provided by the ToF module to assist focusing and achieve a large aperture blur effect.
  • electronic devices can apply the depth value provided by the ToF module in virtual reality (VR) scenes and augmented reality (AR) scenes.
  • VR virtual reality
  • AR augmented reality
  • n1*sin( ⁇ 1) n1*sin( ⁇ 2).
  • n2 represents the refractive index of glass
  • ⁇ 1 represents the angle of incidence
  • ⁇ 2 represents the angle of refraction.
  • the refractive index of glass is greater than the refractive index of air.
  • FIG2 shows another schematic diagram of using a ToF module for ranging.
  • a glass cover is provided between the ToF module and the object to be measured.
  • the light emitted by the ToF module will be divided into two paths: in the first path, a portion of the light emitted by the transmitting end of the ToF module will pass through the glass cover to reach the object to be measured, and then be reflected by the object to be measured and pass through the glass.
  • the light is reflected back from the cover plate, so that the receiving end of the ToF module receives the target signal.
  • another part of the light emitted by the transmitting end of the ToF module is directly reflected back after reaching the glass cover plate, so that the receiving end of the ToF module receives the crosstalk signal.
  • the depth information actually measured by the ToF module based on the target signal may be biased. For example, in a close-range ranging scenario, since the distance between the measured object and the ToF module is close, the time when the ToF module receives the crosstalk signal is very close to the time when the target signal is received. The ToF module cannot distinguish between the target signal and the crosstalk signal, and the depth value calculated based on the flight time is inaccurate.
  • FIG3 shows two depth information array diagrams obtained using a ToF module.
  • Each depth information array diagram consists of m*n pixels. The larger the depth value of a pixel, the farther the distance between the object under test and the ToF module.
  • the ToF module is not affected by the crosstalk signal, and the depth value of each pixel is relatively accurate.
  • the glass cover when a glass cover is set between the ToF module and the object under test, the glass cover will reflect light, and the intensity of the crosstalk signal in some areas of the depth information array diagram is strong due to factors such as the angle of the reflected light and the position of the ToF module. After the electronic device superimposes the target signal in the interference area with the crosstalk signal, the calculated depth value is smaller than the true value.
  • the wrong depth value will affect the focus on the moving object.
  • the user points the camera of mobile phone 1 toward person 1 who is serving the ball.
  • mobile phone 1 starts to focus on the ball based on the depth value collected by the ToF module.
  • the ball flies quickly along the motion trajectory shown in (a) in Figure 4.
  • time t1 if the ball has not entered the interference area as shown in (b) in Figure 3, the depth value collected based on the ToF module is relatively accurate, and mobile phone 1 successfully focuses on the ball, and a clear image as shown in (b) in Figure 4 is captured.
  • the present application provides a method for determining the depth value.
  • the method can be applied to electronic devices, and a ToF module is arranged under the glass cover plate of the electronic device.
  • the electronic device can use the crosstalk signal returned by the glass cover plate as a reference signal for 0 distance point correction, thereby reducing the interference of the crosstalk signal on the target signal returned from the measured object, and improving the accuracy of the depth information measured by the ToF module.
  • the 0 distance point refers to the time when the ToF module transmits a pulse signal
  • the 0 distance point refers to the time when the crosstalk signal returned through the glass cover is received.
  • the specific implementation method of using the crosstalk signal returned by the glass cover as a reference signal for 0 distance point correction please refer to the description of the following embodiment.
  • the embodiment of the present application is described by setting the ToF module under the glass cover plate, and the light emitted by the ToF module penetrates the glass cover plate, which does not limit the present application.
  • the glass cover plate can also be replaced with other cover plates with light transmission and protection functions, and the ToF module can be replaced with other depth detection modules.
  • the above-mentioned electronic device can be a mobile phone, a personal computer (PC), a smart screen, a smart TV, a tablet computer (Pad), a wearable device, a computer with wireless transceiver function, a virtual reality (VR) device, an augmented reality (AR) device, a wireless terminal in industrial control, a wireless terminal in self-driving, a wireless terminal in remote medical surgery, a wireless terminal in a smart grid, a wireless terminal in transportation safety, a wireless terminal in a smart city or a wireless terminal in a smart home, etc., or it can be other equipment or devices equipped with a ToF module.
  • the ToF module can be set on the back of the electronic device for scenes such as taking images of people, shooting videos, AR modeling, and somatosensory games.
  • the ToF module can measure the depth value between the electronic device and the object to be measured.
  • the ToF module can be set on the front of the electronic device for scenes such as face recognition and financial payment.
  • the light signal emitted by the ToF module can be projected onto the user's face to obtain the depth information of the face.
  • FIG5 shows a schematic diagram of a scene in which a set of images are captured based on corrected depth values.
  • the mobile phone when shooting a fast-moving object such as a small ball, the user slides his finger upward in the lower area of the shooting preview interface.
  • the mobile phone displays the "Focus Priority” option.
  • the mobile phone In response to the user's click operation on the "Focus Priority” option, the mobile phone displays the "Subject Priority Focus” control and the “Motion Priority Focus” control as shown in (c) of Figure 5.
  • the "Subject Priority Focus” control is used to trigger the mobile phone to focus on subjects such as people
  • the “Motion Priority Focus” control is used to trigger the mobile phone to focus on fast-moving objects such as small balls and vehicles. For example, if it is set to normal photo mode, the subject priority focus is used by default; if it is set to snapshot mode, the motion priority focus is used by default.
  • the mobile phone starts to focus on the ball frame by frame.
  • the specific process of focusing on the ball frame by frame can be as follows: the mobile phone takes the ball as the focus object and notifies the ToF module to measure the distance.
  • the ToF module measures the distance, the mobile phone can use the crosstalk signal returned by the glass cover as a reference signal to perform a 0-distance point correction, thereby reducing the interference of the crosstalk signal on the target signal returned from the measured object, thereby obtaining a more accurate depth information array map.
  • the mobile phone can focus on the ball frame by frame according to the depth value of the area corresponding to the ball in the depth information array map.
  • the mobile phone can pre-set a mapping relationship table between the depth value and the motor movement distance (code), and the mapping relationship table may include multiple sets of depth values and motor movement displacements. As shown in Table 1, if the depth value measured by the ToF module is x3, the camera application controls the motor to push the lens to move according to the displacement y3; if the depth value measured by the ToF module is x4, the camera application controls the motor to push the lens to move according to the displacement y4.
  • FIG6 shows a schematic diagram of the hardware structure of a candy-bar mobile phone.
  • the rear camera module 02 includes at least one rear camera 021, a flash 022 and a ToF module 023.
  • a whole transparent substrate such as a glass cover
  • the glass cover can protect the rear camera 021, the flash 022 and the ToF module 023, so that the rear camera 021, the flash 022 and the ToF module 023 do not need to be exposed to the outside, preventing dust from entering the rear camera module 02.
  • a transparent substrate is respectively provided on the outer surface of the rear camera 021, the flash 022 and the ToF module 023.
  • the transparent substrate can be provided according to the shape and size of the hollowed-out area, for example, when the hollowed-out area is circular, the transparent substrate is circular.
  • the front camera module 04 includes a front camera 041 and a ToF module 042.
  • the hollowed-out area is surrounded by a display screen 03.
  • the display screen 03 has a pixel arrangement for displaying images.
  • a whole transparent substrate such as a glass cover plate, is covered on the outer surface of the display module.
  • the glass cover plate can protect the display screen 03, the front camera 041 and the ToF module 042, so that the display screen 03, the front camera 041 and the ToF module 042 do not need to be exposed to the outside.
  • FIG6 is an example of a mobile phone with a ToF module respectively arranged in the rear camera module 02 and the front camera module 04, which does not limit the present application.
  • the mobile phone can only be provided with a ToF module in the rear camera module 02, and not be provided with a ToF module in the front camera module 04.
  • FIG7 shows a schematic diagram of the hardware structure of a foldable screen mobile phone.
  • the rear camera module 06 includes at least one rear camera 061, a flash 062 and a ToF module 063.
  • a whole transparent substrate such as a glass cover, is provided on the outer surface of the rear camera module 06.
  • ToF module 023 and the ToF module 042 shown in FIG. 6 and the ToF module 063 shown in FIG. 7 can all be used to implement the depth value determination method provided in the present application.
  • FIG8 shows a schematic diagram of the hardware structure of a ToF module.
  • the ToF module may include: a substrate 16, a transmitter and a receiver arranged on the substrate 16.
  • the transmitter and the receiver may be devices provided by different suppliers, or may be devices of different models provided by the same supplier.
  • the transmitter may include: a pulsed laser 11 and a light scattering element (diffuser) 12.
  • the receiver may include: a light detection element 13, a pulse response filter 14 and a light receiver 15.
  • the ToF module may be arranged under the glass cover.
  • the glass cover is a light-transmitting area with a certain light-transmitting ability.
  • the glass cover includes a first surface 171 and a second surface 172.
  • the first surface 171 is a side away from the ToF module, and the second surface 172 is a side close to the ToF module.
  • the pulse laser 11 is used to emit a pulse signal in the direction of the light scattering element 12.
  • the waveform of the pulse signal can be distinguished by an oscilloscope as a sawtooth wave, a sine wave or a triangle wave, etc.
  • the pulse laser 11 can be an initial emission source based on a vertical-cavity surface-emitting laser (VCSEL), but the divergence angle of the initial emission source is small, about 20°.
  • VCSEL vertical-cavity surface-emitting laser
  • the present application also provides a light scattering element 12.
  • the light scattering element 12 also called a beam scatterer, can be rectangular or square and is arranged above the pulse laser 11 to scatter the pulse signal emitted by the pulse laser 11 to increase the divergence angle of the light beam. It can be understood that the pulse laser 11 relies on the light scattering element 12 to scatter the light beam, which can make the light beam cover more field of view and cover all positions of the object to be measured without gaps, which is equivalent to projecting a beam of light onto a plane. Therefore, the pulse laser 11 and the light scattering element 12 are also collectively referred to as a surface light source. Compared with the point light source composed of a traditional VCSEL and a diffractive optical element (DOE), the surface light source used in this application is simpler in hardware design, relatively low in cost, and can cover all positions of the object to be measured.
  • DOE diffractive optical element
  • the light detection element 13 is an optical lens, which can be used to converge the received light.
  • the pulse response filter 14 can be used to filter the converged light, remove interference signals such as ambient light noise in non-target frequency bands, and obtain a signal in the target frequency band, which is the frequency band of the pulse signal.
  • the light receiver 15 can be composed of a sensor array, such as a plurality of single photon avalanche diodes (SPAD), for receiving pulse signals.
  • SPAD single photon avalanche diodes
  • a housing 18 is provided outside these devices to cover these devices.
  • the upper surface of the light scattering element 12 and the upper surface of the light detection element 13 are flush with the upper surface of the housing 18.
  • the distance between the upper surface of the housing 18 and the second surface 172 of the glass cover plate is smaller than the distance between the upper surface of the light scattering element 12 and the second surface 172 of the glass cover plate, and the distance between the upper surface of the housing 18 and the second surface 172 of the glass cover plate is smaller than the distance between the upper surface of the housing 18 and the second surface 172 of the glass cover plate.
  • the distance is 172.
  • the distance from the geometric center of the light scattering element 12 to the geometric center (or optical center) of the light detection element 13 is set to 8 mm (millimeter).
  • the main path of the crosstalk signal is reflected multiple times inside the glass cover. It can be understood that the more times the crosstalk signal is reflected inside the glass cover, the more dispersed the beam of the crosstalk signal is, causing the crosstalk signal to shift and expand on the histogram, thereby affecting the accuracy of using the crosstalk signal as a reference signal for 0 distance point correction.
  • the distance from the geometric center of the light scattering element 12 to the geometric center of the light detection element 13 should be minimized.
  • the light scattering element 12 and the light detection element 13 have a certain volume, so that the distance from the geometric center of the light scattering element 12 to the geometric center of the light detection element 13 cannot be infinitely small.
  • the present application reduces the distance from the geometric center of the light scattering element 12 to the geometric center of the light detection element 13 from 8mm to 4mm, sets the distance from the upper surface of the housing 18 of the ToF module to the second surface 172 of the glass cover to 0.8mm, and sets the thickness of the ToF module in the optical axis direction to 2.48mm.
  • the optical receiver 15 can be a SPAD chip.
  • a SPAD chip is a planar array device composed of multiple SPAD sensors.
  • a SPAD chip is also called a receiving end planar array device.
  • the receiving end planar array device is composed of m*n SPAD sensors.
  • the distance detected by a SPAD sensor is the distance from a point of the object to be measured to the ToF module.
  • the larger the distance detected by a SPAD sensor the larger the depth value of the pixel, and the farther the distance from the object to be measured to the ToF module.
  • the smaller the distance detected by a SPAD sensor the smaller the depth value of the pixel, and the closer the distance from the object to be measured to the ToF module.
  • the surface light source emits a light beam with a rectangular cross-section.
  • This light beam is divided into two paths: in the first path, a portion of the light beam passes through the glass cover plate 204 to reach the object to be measured, and after being reflected by the object to be measured, passes through the glass cover plate 204 and returns to the receiving end surface array device; in the second path, another portion of the light beam returns to the receiving end surface array device after reaching the glass cover plate 204.
  • the subtending angle of the light beam emitted by the surface light source is ⁇
  • the subtending angle of the light beam received by the receiving end surface array device is ⁇ .
  • the subtending angle refers to the opening angle of the light beam in the diagonal direction of the rectangle.
  • this application sets the subtending angle ⁇ and the subtending angle ⁇ to 70°.
  • the distance from the geometric center of the light scattering element 12 to the geometric center of the light detection element 13 is 4 mm (as shown in FIG. 9)
  • the distance from the upper surface of the housing 18 of the ToF module to the second surface 172 of the glass cover plate is 0.8 mm (as shown in FIG. 9)
  • the thickness of the ToF module in the optical axis direction is 2.48 mm (as shown in FIG. 9)
  • the ranging range of the hardware structure of the ToF module shown in FIG. 9 is [5 cm, 5 m], which can basically meet the ranging requirements of electronic equipment. It should be understood that with the improvement of the process level, the distance from the geometric center of the light scattering element 12 to the geometric center of the light detection element 13 can be further reduced.
  • the ToF module as shown in Figures 9 to 11 can measure the flight time based on the ToF method to obtain a depth value to complete the depth value determination method provided in the present application.
  • the ToF method is divided into a direct time of flight (dToF) method and an indirect time of flight (iToF) method.
  • dToF direct time of flight
  • iToF indirect time of flight
  • the dToF method uses a pulsed light radar to directly measure the flight time.
  • the iToF method indirectly estimates the flight time through phase resolution measurement.
  • the present application can measure the flight time based on the dToF method, or it can use the iToF method to measure the flight time.
  • the following takes the measurement of flight time by the ToF module based on the dToF method as an example to explain the principle of the depth value determination method provided by this application. An example is given for illustration.
  • FIG12 shows a principle flow chart of the depth value determination method provided in the present application.
  • the ToF module may include a pulse laser 11, a light scattering element 12, a light detection element 13, a pulse response filter 14, and a light receiver 15 as shown in FIG9 .
  • the structures of the pulse laser 11, the light scattering element 12, the light detection element 13, the pulse response filter 14, and the light receiver 15 may refer to the description of the above embodiment, and will not be repeated here.
  • the ToF module may further include a controller 10.
  • the controller 10 may include a synchronous driving module 10-1, a time to digital converter (TDC) 10-2, a histogram statistics module 10-3, and a digital signal processor (DSP) 10-4.
  • the synchronous driving module 10-1 may be used to control the clock synchronization between the transmitter and the receiver.
  • the TDC 10-2 is a circuit for measuring time, which can convert a continuous time signal into a digital signal, measure or record the time interval of the signal, and realize the digitization of time measurement.
  • the histogram statistics module 10-3 may be used to record the number output by the TDC 10-2 each time, and to obtain a frequency distribution histogram of photons changing with time by counting the number of photons in each time period.
  • the DSP 10-4 may be used to analyze the histogram and find depth information.
  • the depth value determination method may include the following S101 to S105.
  • the synchronous drive module 10-1 can control the pulse laser 11 to perform a detection every 16ms (milliseconds).
  • the duration of each detection is 10ms, that is, the detection duration is 10ms.
  • the synchronous drive module 10-1 can control the transmitter to emit a pulse wave every 100ns, and the pulse width of a pulse wave is about 1ns.
  • the optical receiver 15 receives a pulse signal.
  • the pulse signal emitted by the pulse laser 11 passes through the light scattering element 12 and the glass cover plate in sequence to reach the object to be measured, and then passes through the light detection element 13 and the pulse response filter 14 in sequence to reach the light receiver 15 after being reflected by the object to be measured.
  • the optical receiver may be an area array device composed of multiple SPAD sensors.
  • FIG14 shows a schematic diagram of the working principle of a single SPAD sensor.
  • SPAD sensors sense light based on the particle state of light and probabilistic statistical models.
  • the working principle of the SPAD sensor is divided into the following stages:
  • the first stage corresponding state 1.
  • the bias voltage at both ends of the SPAD sensor briefly exceeds the breakdown voltage V BD , and there is no current on the vertical axis, which is in a metastable state (geiger mode), also known as Geiger mode.
  • the third stage corresponds to the transition from state 2 to state 3.
  • a large amount of current generated after the avalanche flows through the quench resistor, making the bias voltage at both ends of the SPAD sensor lower than the breakdown voltage V BD , so that the avalanche current of the SPAD sensor is turned off and stops working.
  • the fourth stage corresponds to the transition from state 3 to state 1.
  • the SPAD sensor is charged by the VSPAD power supply, so that the operating voltage of the SPAD sensor is greater than the breakdown voltage V BD , and returns to the initial state.
  • dead time the time required from avalanche to return to the initial state is called dead time, which can usually be adjusted by quenching current.
  • the SPAD sensor captures a photon, the above steps are performed and an electrical pulse is generated, which is then amplified and shaped by the front-end circuit and sent to the TDC 10-2.
  • the time from when a pulse wave is emitted by the transmitter to when it is received is called the flight time.
  • the pulse width of the pulse wave reaches 1ns, it reaches the photon level. Based on the wave-particle duality of light, a single photon has wave properties, so the time when the receiver receives the photon may change.
  • the CPU can be the main processor of the system on chip (SOC).
  • SOC system on chip
  • the CPU calculates a depth value based on the reception time of the crosstalk signal and the reception time of the target signal.
  • the reception time of the crosstalk signal and the reception time of the target signal may be determined by any of the following methods:
  • Method 1 The CPU can determine the peak time of the target signal and the peak time of the crosstalk signal based on the signal parameters of the receiving time of the crosstalk signal and the signal parameters of the target signal, and then subtract the peak time of the crosstalk signal from the peak time of the target signal to obtain the flight time ⁇ t, and then calculate the depth value based on the flight time ⁇ t.
  • the CPU can separate the crosstalk signal and the target signal from the original histogram obtained by the histogram statistics module, and respectively determine the peak time of the crosstalk signal and the peak time of the target signal, and then calculate the depth value based on the following relationship (3).
  • Method 2 The CPU can search for the first centroid in the target signal and the second centroid in the crosstalk signal based on the centroid method; subtract the time of the second centroid from the time of the first centroid to obtain the flight time ⁇ t; and then calculate the depth value based on the flight time ⁇ t.
  • CentroidTof represents the time of the centroid.
  • Index represents the position of the bin on the horizontal axis.
  • Count represents the number of photons in the bin.
  • M represents the full width of the pulse.
  • n represents the position of the rising edge of the pulse.
  • the CPU can determine the centroid time of the crosstalk signal by using equation (4) based on the histogram corresponding to the crosstalk signal shown in FIG22.
  • the CPU can also determine the centroid time of the target signal by using equation (4) based on the histogram corresponding to the target signal shown in FIG22.
  • the CPU can calculate the depth value based on the following relationship (5).
  • centroidTof1 represents the centroid time of the target signal.
  • CentroidTof2 represents the centroid time of the crosstalk signal.
  • c represents the speed of light.
  • the CPU can find the first peak in the fitting curve of the target signal and the second peak in the fitting curve of the crosstalk signal based on the three-point method; subtract the time of the second peak from the time of the first peak to obtain the flight time ⁇ t; and calculate the depth value based on the flight time ⁇ t.
  • represents the time difference between the peak time K of the histogram and the peak Kpeak of the fitting curve.
  • Xk-1, Xk, and Xk+1 represent the light intensities corresponding to K-1, K, and K+1 on the horizontal axis in the fitting curve, respectively.
  • the CPU can perform fitting based on the histogram corresponding to the crosstalk signal shown in FIG22 to obtain a second fitting curve, and then find the second peak in the second fitting curve based on the relationship (6).
  • the CPU can also perform fitting based on the histogram corresponding to the target signal shown in FIG22 to obtain a first fitting curve, and then find the first peak in the first fitting curve based on the relationship (6).
  • the CPU can calculate the depth value based on the following relationship (7).
  • depth represents the depth value.
  • Kpeak1 represents the peak of the first fitting curve.
  • Kpeak2 represents the peak of the second fitting curve.
  • Ka represents the peak of the histogram of the target signal.
  • Kb represents the peak of the histogram of the crosstalk signal.
  • ⁇ 1 represents the time difference between Ka and Kpeak1.
  • ⁇ 2 represents the time difference between Kb and Kpeak2.
  • c represents the speed of light.
  • the idea of calculating the depth value in the above methods 1 to 3 is basically the same: determine the feature point that best represents the signal reception time in the target signal and the crosstalk signal respectively, subtract the time of the two feature points to obtain the flight time ⁇ t, and then calculate the depth value based on the flight time ⁇ t. It should be understood that when the distance between the electronic device and the object under test is relatively far, the envelope position of the crosstalk signal and the envelope position of the target signal are far apart on the horizontal axis, and the peaks of the two signals can be distinguished, so the flight time ⁇ t can be obtained by subtracting the two peaks.
  • the CPU separates a target signal from the histogram based on a preset reference signal corresponding to the first pixel.
  • Separating the target signal from the histogram means separating the array of the target signal from the array of the histogram based on the signal data of the preset reference signal corresponding to the first pixel.
  • the array of the target signal includes signal parameters such as the envelope shape of the target signal, the envelope position of the target signal, and the intensity distribution of the target signal.
  • the electronic device can regard the preset reference signal corresponding to the first pixel as the crosstalk signal actually measured during the detection time, that is, the signal envelope of the histogram can be regarded as the envelope formed by the superposition of the preset reference signal and the target signal.
  • the electronic device can restore the target signal from the histogram based on the calibration data of the preset reference signal.
  • S205 can be specifically implemented in the following manner: the CPU separates the target signal from the corrected histogram based on the signal data of the preset reference signal corresponding to the first pixel. It can be understood that, while keeping the preset reference signal unchanged, the crosstalk signal and the target signal in the original histogram are offset along the horizontal axis, thereby improving the accuracy of the target signal restored from the histogram based on the preset reference signal in the close-range ranging scenario, thereby improving the accuracy of the depth value finally calculated.
  • the CPU calculates a depth value based on a reception time of a preset reference signal corresponding to the first pixel and a reception time of a target signal.
  • the reception time of the preset reference signal and the reception time of the target signal corresponding to the first pixel can be determined by referring to any one of the methods 1 to 3 of the above 204. That is, the reception time of the preset reference signal and the reception time of the target signal corresponding to the first pixel can be the peak time of the histogram, the centroid time obtained based on the centroid method, or the peak time of the fitting curve obtained based on the three-point method.
  • the specific description of the above 204 can be referred to and will not be repeated here.
  • FIG. 24 shows a schematic diagram of calculating a depth value without correcting the horizontal axis position of the preset reference signal and the original histogram.
  • the envelope position of the crosstalk signal and the envelope position of the target signal are relatively close on the horizontal axis, so that the envelopes of the two signals overlap, and the peaks of the crosstalk signal and the target signal cannot be distinguished.
  • the position of the peak on the horizontal axis is the 7th bin.
  • the CPU can remove the preset reference signal shown in (b) of FIG.
  • the CPU uses the 7th bin as the 0 distance point and calculates the depth value according to the following relationship (8).
  • depth represents the depth value
  • c represents the speed of light.
  • FIG25 shows a schematic diagram of calculating a depth value while correcting the horizontal axis position of a histogram.
  • the CPU shifts the original histogram obtained by the histogram statistics module to the left by 2 bins along the horizontal axis to obtain a corrected histogram.
  • the position of the peak on the horizontal axis is the 7th bin.
  • the CPU can remove the preset reference signal shown in (b) of FIG. 25 from the corrected histogram shown in (a) of FIG. 25 to obtain the target signal shown in (c) of FIG.
  • the CPU uses the 7th bin as the 0 distance point, calculates the flight time from the 7th bin to the 11th bin, and then calculates the depth value based on the flight time.
  • FIG26 shows a schematic diagram of calculating a depth value when the horizontal axis position of a preset reference signal is corrected.
  • the horizontal axis position of the signal envelope in the original histogram obtained by the histogram statistics module is kept unchanged.
  • the CPU shifts the preset reference signal to the right along the horizontal axis by 2 bins based on the current ambient temperature and the voltage of the ToF module to obtain a corrected reference signal, wherein the position of the peak of the second reference signal on the horizontal axis is the 9th bin.
  • the CPU can remove the second reference signal as shown in (b) in FIG26 on the basis of the original histogram as shown in (a) in FIG26, and obtain a target signal as shown in (c) in FIG26, wherein the position of the peak of the target signal on the horizontal axis is the 13th bin.
  • the CPU takes the 9th bin as the 0 distance point, calculates the flight time from the 9th bin to the 13th bin, and then calculates the depth value based on the flight time.
  • the electronic device when the ambient temperature of the electronic device when calibrating the data is different from the ambient temperature of the electronic device during this detection, the envelope position of the crosstalk signal and the envelope position of the target signal will be offset as a whole on the horizontal axis.
  • the electronic device can substitute the ambient temperature of the electronic device when calibrating the data and the ambient temperature of the electronic device during this detection into the temperature compensation model to calculate the time adjustment amount, and then correct the flight time based on the time adjustment amount to obtain a more accurate depth value.
  • the electronic device can pre-set multiple voltage gears, and the voltage of the ToF module increases or decreases by 10mv for each voltage gear change.
  • the voltage of the ToF module is between gears 16 and 18.
  • the voltage of the ToF module increases or decreases by 110mv to 130mv for each gear switch. For example, when switching from gear 16 to gear 18, the voltage of the ToF module increases by 220mv to 260mv, and the measured depth value decreases by 8mm.
  • the reference temperature init temp 25°C
  • the electronic device can obtain the total time adjustment: t thermal +t vspad .
  • the CPU can shift the original histogram obtained by the histogram statistics module to the left along the horizontal axis by 2bin to obtain a corrected histogram.
  • the CPU can shift the preset reference signal to the right along the horizontal axis by 2bin to obtain a corrected reference signal.
  • the electronic device can correct the flight time based on the time adjustment amount, thereby correcting the depth value.
  • the above-mentioned temperature compensation model and voltage compensation model are only exemplary descriptions and do not limit the present application. In actual implementation, other methods can be used to establish the temperature compensation model and the voltage compensation model.
  • the electronic device can only set the temperature compensation model, or only set the voltage compensation model, or can also set the temperature compensation model and the voltage compensation model. It should be understood that when the electronic device is set with the temperature compensation model and the voltage compensation model, the electronic device can correct the flight time based on the temperature compensation model and the voltage compensation model respectively.
  • the temperature compensation model and the voltage compensation model are pre-configured before the electronic device leaves the factory. Since the temperature compensation model and the voltage compensation model are generated based on a small number of ToF modules, the temperature compensation model and the voltage compensation model can only reflect some common characteristics between ToF modules. Based on the individual differences between ToF modules, the depth compensation value calculated according to the temperature compensation model and the voltage compensation model may have a certain error. To this end, as shown in Figure 29, the present application also provides a method for optimizing the temperature compensation model and the voltage compensation model.
  • the CPU may further execute the following S301 - S306 .
  • the CPU records a set of data at intervals of a first number of frames (eg, 100 frames).
  • the CPU can be set to a preset temperature range (-20°C, 70°C) at a preset temperature interval (such as 2°C). Assume that a plurality of environmental parameter groups are set within a voltage variation range (-130mv, 130mv) according to a preset voltage interval (such as 10mv), and each environmental parameter group corresponds to a temperature value and a voltage variation value. After recording a set of data each time, the CPU can add a tag to the corresponding environmental parameter group based on the temperature value and voltage variation value in each set of data, and then execute the following S303 and S304.
  • the CPU determines whether the number of tags of this environmental parameter group is greater than the preset number of tags (such as 5). If it is greater than the preset number of tags, the CPU deletes the earliest added tag in this environmental parameter group and its corresponding set of data.
  • the preset number of tags such as 5
  • the CPU determines whether the environmental parameter groups corresponding to a temperature satisfy the following conditions 1 and 2 at any temperature within the preset temperature range (-20° C., 70° C.).
  • the voltage difference between the first environmental parameter group and the second environmental parameter group is greater than or equal to the maximum voltage span value (eg, 70 mv).
  • the first environmental parameter group and the second environmental parameter group are any two environmental parameter groups that have been tagged at one temperature.
  • the CPU sets the weight of the discrete points in each environmental parameter group at the temperature to a first weight value (such as 2), sets the weight of the discrete points of the voltage compensation model to a second weight value (such as 0.5), and obtains a new voltage compensation model by fitting the curve according to the least squares method.
  • a first weight value such as 2
  • a second weight value such as 0.5
  • the second weight value is smaller than the first weight value.
  • the discrete points of the voltage compensation model include voltage values and depth values determined according to the horizontal axis coordinate position of the crosstalk signal.
  • Condition 3 The temperature difference between the fifth environmental parameter group and the sixth environmental parameter group is greater than or equal to the maximum temperature span value (eg, 40° C.)
  • the fifth environmental parameter group and the sixth environmental parameter group are any two environmental parameter groups that have been labeled at one voltage change value.
  • the temperature difference between the seventh environmental parameter group and the eighth environmental parameter group is less than or equal to the minimum temperature span value (eg, 4° C.)
  • the seventh environmental parameter group and the eighth environmental parameter group are any two environmental parameter groups that have been labeled at one voltage change value.
  • the internal memory 420 can be used to store computer executable program codes, and the executable program codes include instructions.
  • the processor 410 executes various functional applications and data processing of the electronic device 400 by running the instructions stored in the internal memory 420.
  • the internal memory 420 may include a program storage area and a data storage area.
  • the program storage area may store an operating system, an application (application, APP) required for at least one function, such as a camera application and a gallery application.
  • the data storage area may store configuration files of various APPs.
  • the camera 440 can be used to move forward or backward a distance corresponding to the depth value based on the depth value obtained by the ToF module 430 to achieve shooting effects such as focusing on the near view and blurring the far view.
  • the electronic device 400 can include one or more cameras 440.
  • the display screen 450 includes a display panel for displaying photos or videos taken by the camera 440 .
  • the electronic device 400 can implement audio functions through the audio module 460, the speaker 460A, the receiver 460B, the microphone 460C, the headphone interface 460D, etc. For example, audio and the like.
  • the embodiment of the present application also provides a computer-readable storage medium, in which computer instructions are stored.
  • the computer-readable storage medium When the computer-readable storage medium is run on an electronic device, the electronic device executes the method shown in the above embodiment.
  • the computer instructions can be stored in a computer-readable storage medium, or transmitted from one computer-readable storage medium to another computer-readable storage medium.
  • the computer-readable storage medium can be any available medium that can be accessed by a computer or a data storage device such as a server or data center that contains one or more media that can be integrated.
  • the available medium can be a magnetic medium, an optical medium, or a semiconductor medium, etc.
  • the electronic device, computer-readable storage medium, computer program product, and chip system provided in the embodiments of the present application are all used to execute the methods provided in the above embodiments. Therefore, the beneficial effects that can be achieved can refer to the methods provided above. The corresponding beneficial effects will not be described in detail here.
  • A/B means A or B.
  • and/or is just a way to describe the association relationship of associated objects, indicating that there can be three relationships.
  • a and/or B can mean: A exists alone, A and B exist at the same time, and B exists alone.
  • first and second in the specification and claims of this application are used to distinguish different objects, or to distinguish different processing of the same object, rather than to describe a specific order of objects.
  • a first operation and a second operation are used to distinguish different operations, rather than to describe a specific order of operations.
  • plural refers to two or more.

Landscapes

  • Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Optical Radar Systems And Details Thereof (AREA)

Abstract

本申请提供一种深度值确定方法、设备、芯片系统及存储介质,涉及终端技术领域。在测量深度信息的场景中,先基于深度检测模组获得的直方图判断被测对象是否处于较近的距离;当处于较远的距离时,直方图中串扰信号的包络位置和目标信号的包络位置在横轴上相隔较远,采用双峰相减的方式得到深度值;当较近的距离时,两个信号的波峰无法明显区分开,将预设参考信号视为在本次探测时长内实际测得的串扰信号,并基于预设参考信号从直方图中还原出目标信号,之后基于预设参考信号和目标信号的接收时间得到深度值。将玻璃盖板返回的串扰信号作为参考信号进行0距离点校正,减小串扰信号对从被测对象返回的目标信号的干扰,提高了深度信息的准确性。

Description

深度值确定方法、设备、芯片系统及存储介质 技术领域
本申请涉及终端技术领域,尤其涉及一种深度值确定方法、设备、芯片系统及存储介质。
背景技术
目前,基于飞行时间(time of flight,ToF)等算法的深度检测模组在手机等电子设备中的使用率越来越高。比如,在拍摄照片或视频的场景中,电子设备可以利用深度检测模组提供的深度信息进行辅助对焦,实现大光圈虚化效果。在某些情况下,深度检测模组提供的深度信息可能并不准确,从而影响到辅助对焦效果。
发明内容
本申请提供一种深度值确定方法、设备、芯片系统及存储介质,解决了深度检测模组测得的深度值不准确的技术问题。
为达到上述目的,本申请采用如下技术方案:
第一方面,本申请实施例提供一种深度值确定方法。该方法可以应用于电子设备。该电子设备的盖板下方设置有深度检测模组,深度检测模组包括发射端和接收端。该方法可以包括:电子设备通过接收端接收脉冲信号,该脉冲信号包括第一串扰信号和目标信号,第一串扰信号为发射端发射并经过盖板反射回来的信号,目标信号为发射端发射并经过被测对象反射回来的信号。然后,电子设备基于第二串扰信号的接收时间和目标信号的接收时间,确定被测对象的深度值。其中,第二串扰信号为第一串扰信号,或者,第二串扰信号为预设串扰信号。被测对象的深度值表示从电子设备到被测对象的距离。
在上述方案中,深度检测模组与盖板之间的距离,小于深度检测模组与被测对象之间的距离,使得深度检测模组接收到通过盖板反射的串扰信号的时间,早于接收到通过被测对象反射的目标信号的时间。若是串扰信号与目标信号叠加,则串扰信号会对目标信号造成干扰。基于串扰信号的接收时间较早这一特性,电子设备可以从脉冲信号中分离出目标信号,将串扰信号的接收时间作为0距离点,校正目标信号的飞行时间,从而使得根据校正后的飞行时间计算得到的深度值更为准确。
在一种可能的实现方式中,上述深度检测模组可以为ToF模组。
在一种可能的实现方式中,上述盖板可以为玻璃盖板。
在一种可能的实现方式中,在电子设备基于第二串扰信号的接收时间和目标信号的接收时间,确定被测对象的深度值之前,该方法还可以包括:电子设备基于第二串扰信号,从脉冲信号中分离出目标信号。
比如,电子设备可以基于脉冲信号生成第一直方图,第一直方图的横轴表示脉冲信号的接收时间,第一直方图的纵轴表示脉冲信号的信号强度;若在第一直方图的预设寻峰范围内寻找到满足预设条件的波峰,则电子设备基于预设串扰信号,从第一直方图中分离出目标信号;或者,若在第一直方图的预设寻峰范围内未寻找到满足预设条件的波峰,则电子设备在第一直方图中分别确定第一串扰信号和目标信号,第一串扰信号的接收时间早于目标信号的接收时间。其中,预设寻峰范围根据预设串扰信号的波峰位置确定。可以理解,当电子设备 的环境参量保持不变时,电子设备可以直接基于预设串扰信号,确定第一像素的寻峰范围,然后在通过直方图统计模块统计得到的直方图内寻找满足预设条件的波峰。
再比如,电子设备可以基于脉冲信号生成第一直方图,第一直方图的横轴表示脉冲信号的接收时间,第一直方图的纵轴表示脉冲信号的信号强度;基于电子设备的环境温度和深度检测模组的电压,电子设备对第一直方图中脉冲信号的接收时间进行调整(比如将脉冲信号的信号包络沿着横轴的第一方向偏移目标调整量),得到第二直方图;若在第二直方图的预设寻峰范围内寻找到满足预设条件的波峰,则电子设备基于预设串扰信号,从第二直方图中分离出目标信号;或者,若在第二直方图的预设寻峰范围内未寻找到满足预设条件的波峰,则电子设备在第一直方图中分别确定第一串扰信号和目标信号,第一串扰信号的接收时间早于目标信号的接收时间。其中,预设寻峰范围根据预设串扰信号的波峰位置确定。可以理解,在保持预设参考信号不变的情况下,通过对原始直方图中的串扰信号和目标信号沿着横轴进行了偏移,从而提升了在近距离测距场景中基于预设参考信号从直方图中还原出的目标信号的准确性,进而提高了最终计算得到的深度值的准确性。
再比如,电子设备可以基于脉冲信号生成第一直方图,第一直方图的横轴表示脉冲信号的接收时间,第一直方图的纵轴表示脉冲信号的信号强度;基于电子设备的环境温度和深度检测模组的电压,电子设备对预设串扰信号的接收时间进行调整(比如,将预设串扰信号的信号包络沿着横轴的第二方向偏移目标调整量,第一方向与第二方向相反);若在第一直方图的预设寻峰范围内寻找到满足预设条件的波峰,则电子设备基于调整后的预设串扰信号,从第一直方图中分离出目标信号;或者,若在第一直方图的预设寻峰范围内未寻找到满足预设条件的波峰,则电子设备在第一直方图中分别确定第一串扰信号和目标信号,第一串扰信号的接收时间早于目标信号的接收时间。其中,预设寻峰范围根据调整后的预设串扰信号的波峰位置确定。可以理解,在保持原始直方图中信号包络的横轴位置不变的情况下,通过对预设参考信号沿着横轴进行了偏移,从而提升了在近距离测距场景中基于预设参考信号从直方图中还原出的目标信号的准确性,进而提高了最终计算得到的深度值的准确性。
需要说明的是,上述“深度检测模组的电压”是指电子设备的电源模块对深度检测模组的供电电压。
在一种可能的实现方式中,上述预设条件可以包括第一条件和第二条件:
(1)第一条件是寻找的波峰的信号强度大于背景噪声的强度。
其中,背景噪声可以包括环境光噪音、电路引起的器件暗噪声,玻璃盖板上的污渍引起的噪声等。以背景噪声是粘在玻璃盖板上的污渍为例,如果在玻璃盖板上的污渍引起的背景噪声信号的强度较高,目标信号衰减较严重,那么电子设备可能会基于置信度算法把背景噪声信号误判目标信号,为了避免出现这种情况,电子设备可以通过判断寻找到的波峰的信号强度是否大于背景噪声的强度来排除干扰。比如,电子设备可以实时检测背景噪声强度,然后判断寻找到的波峰的信号强度是否大于背景噪声的强度。如果该波峰的信号强度大于背景噪声的强度,那么说明该波峰不是背景噪声的波峰。如果该波峰的信号强度小于或等于背景噪声的强度,那么说明该波峰可能是背景噪声的波峰。
(2)第二条件是寻找的波峰的信号强度大于预设参考信号的信号强度的N倍。
其中,N大于或等于2。比如,N=3。
上述信号强度可以是指光强度,也可以是在探测时长内统计得到的光子数目。
在电子设备的环境温度和深度检测模组的电压保持不变的情况下,深度检测模组发射的脉冲信号的强度是固定的,玻璃盖板和深度检测模组的相对位置也是固定的,因此电子设备 实际测量得到的串扰信号的强度分布、串扰信号的波峰位置也是不变的。但是,当改变电子设备与被测对象之间的距离时,被测对象反射回来的目标信号的强度会发生变化。比如,当电子设备与被测对象之间的距离较近时,深度检测模组发射的大部分光线会穿透玻璃并照射到被测对象,从被测对象反射回来的目标信号的强度是从玻璃盖板反射回来的串扰信号的N倍。随着电子设备与被测对象之间的距离的逐渐增加,目标信号的强度逐渐衰减。基于目标信号的强度会随着传播距离衰减的特性,在寻找到一个波峰后,电子设备可以判断这个波峰的信号强度是否大于N倍的预设参考信号。如果这个波峰的信号强度大于预设参考信号的强度的N倍,那么说明目标信号的衰减程度较低,当前场景可能是近距离测距。如果该波峰的信号强度小于或等于预设参考信号的强度的N倍,那么说明目标信号的衰减程度较高,当前场景可能是远距离测距。
在一种可能的实现方式中,在电子设备对第一直方图中脉冲信号的接收时间进行调整之前,或者,在电子设备对预设串扰信号的接收时间进行调整之前,该方法还可以包括:电子设备获取电子设备的环境温度和深度检测模组的电压;基于电子设备的环境温度和温度补偿模型,获取第一时间调整量;基于深度检测模组的电压和电压补偿模型,获取第二时间调整量;将第一时间调整量与第二时间调整量之和,作为目标调整量。其中,温度补偿模型是根据多个第一深度值生成的,多个第一深度值为在预设电压下通过改变环境温度得到的深度值;电压补偿模型是根据多个第二深度值生成的,多个第二深度值为在预设温度下通过改变深度检测模组的电压得到的深度值。
比如,温度补偿模型的关系式如下:
thermaloffset=a*(temperature-inittemp)2+b*(temperature-inittemp)。
其中,thermaloffset代表深度值调整量。a代表第一拟合线的斜率。b代表第二拟合线的斜率。temperature代表本次探测时电子设备的环境温度。inittemp代表基准温度,基准温度是指在标定数据时电子设备的环境温度,比如inittemp=25℃。
再比如,电压补偿模型的关系式如下:
Vspadoffset=Vspaddelta*ratiotof*1000
=(|Vspadmeas|-Vcalc)*ratiotof*1000。
=(|Vspadmeas|-(|Vspad1|+(bvdcurrent-bvd1)*bvdlsb))*ratiotof*1000
其中,Vspadoffset代表深度值调整量。Vspaddelta代表本次探测时深度检测模组的电压值与在标定数据时记录的电压值的差值。Vspadmeas代表本次探测时深度检测模组的电压,单位为mv。Vspad1代表在标定数据时记录的电压值,单位为mv。bvdcurrent代表本次探测时的档位。bvd1代表在标定数据时记录的档位。bvdlsb代表切换单个档位时改变的电压值,单位为mv。ratiotof代表电压拟合线的斜率。
在一种可能的实现方式中,该方法还可以包括:在寻找到的波峰的信号强度不满足预设条件的情况下,电子设备存储一组数据,一组数据可以包括:电子设备的环境温度、深度检测模组的电压和第一串扰信号的信号参数;在电子设备存储的多组数据满足更新条件的情况下,电子设备更新温度补偿模型或电压补偿模型。
在上述方案中,由于温度补偿模型和电压补偿模型是在电子设备出厂前预先配置的。由于温度补偿模型和电压补偿模型是基于少量的深度检测模组生成的,因此温度补偿模型和电压补偿模型只能反映深度检测模组之间的一些共性特征。基于深度检测模组之间的个性差异, 根据温度补偿模型和电压补偿模型计算得到的深度补偿值可能存在一定误差。基于在远距离测距场景中,串扰信号的包络位置和目标信号的包络位置在横轴上相隔较远,两个信号的波峰可以区分开的特性,电子设备可以在整机使用过程中从远距离测距场景的直方图中分离出串扰信号,并基于串扰信号、与串扰信号对应的环境温度和电压,持续优化温度补偿模型和电压补偿模型,从而使得根据温度补偿模型和电压补偿模型得到的深度调整值更为准确。
在一种可能的实现方式中,若第二串扰信号为第一串扰信号,则电子设备基于第二串扰信号的接收时间和目标信号的接收时间,确定被测对象的深度值,可以包括:电子设备将目标信号的接收时间减去第一串扰信号的接收时间,得到第一飞行时间;基于第一飞行时间,确定被测对象的深度值。可以理解,当被测对象处于远距离测距范围时,串扰信号的包络位置和目标信号的包络位置在横轴上相隔较远,两个信号的波峰可以区分开,因此可以采用双峰相减的方式得到深度值
在一种可能的实现方式中,若第二串扰信号为预设串扰信号,则电子设备基于第二串扰信号的接收时间和目标信号的接收时间,确定被测对象的深度值,可以包括:电子设备将目标信号的接收时间减去预设串扰信号的接收时间,得到第二飞行时间;基于第二飞行时间,确定被测对象的深度值。可以理解,当被测对象处于近距离测距范围时,两个信号的波峰无法明显区分开,CPU可以将预设参考信号视为在本次探测时长内实际测得的串扰信号,并基于预设参考信号从直方图中还原出目标信号,然后基于预设参考信号和目标信号的接收时间得到深度值。
在一种可能的实现方式中,接收端可以包括多个像素。相应地,电子设备基于第二串扰信号的接收时间和目标信号的接收时间,确定被测对象的深度值,可以包括:电子设备确定与第一像素对应的预设参考信号的接收时间,以及与第一像素对应的目标信号的接收时间,第一像素为多个像素中的任意一个像素;电子设备基于与第一像素对应的预设参考信号的接收时间,以及与第一像素对应的目标信号的接收时间,确定与第一像素对应的深度值。
在一种可能的实现方式中,电子设备确定与第一像素对应的预设参考信号的接收时间,可以包括:电子设备基于一个像素的串扰信号的包络形状、与第一像素对应的预设串扰信号的强度分布、与第一像素对应的预设串扰信号的包络位置,确定与第一像素对应的预设参考信号的接收时间。其中,一个像素的串扰信号的包络形状、与第一像素对应的预设串扰信号的强度分布、与第一像素对应的预设串扰信号的包络位置为预先在电子设备中存储的数据。可以理解,由于标定数据中各个像素的串扰信号的包络位置不同,因此,与深度图中每个像素对应的预设参考信号的波峰位置不同,与深度图中每个像素对应的寻峰范围也不同。
第二方面,本申请提供一种电子设备。该电子设备包括盖板,以及设置在盖板下方的深度检测模组。深度检测模组包括发射端和接收端。其中,发射端用于发射脉冲信号;接收端用于接收通过被测物体和盖板反射回来的脉冲信号;处理器用于调用指令,使得电子设备执行如第一方面及其任一种可能的实现方式提供的深度值确定方法。处理器为电子设备中与深度检测模组连接的主处理器,或者处理器为深度检测模组中的数字信号处理器。
在一种可能的实现方式中,发射端可以包括脉冲激光器和光散射元件,脉冲激光器用于发射脉冲信号,光散射元件用于对脉冲信号进行散射处理。
在一种可能的实现方式中,接收端可以包括光探测元件、脉冲响应滤波器和光接收器,光探测元件用于对接收到的光线进行汇聚,脉冲响应滤波器用于对汇聚后的光线进行滤波,光接收器用于将滤波后的光线转换为脉冲信号。
在一种可能的实现方式中,光接收器为由多个单光子雪崩二极管传感器组成的面阵器件。
在一种可能的实现方式中,发射端发射光束的对向角为70°,接收端接收光束的对向角为70°。深度检测模组在光轴方向的厚度为2.48mm,从深度检测模组的上表面到玻璃盖板的下表面之间的距离为0.8mm,从发射端的几何中心到接收端的几何中心之间的距离为4mm。
在上述方案中,上述发射端和接收端采用了面阵器件,在硬件设计上更为简单,成本相对较低,且能覆盖到被测对象的各个位置。另外,基于上述参数可以实现串扰信号的主路径在玻璃盖板内发生一次反射。可以理解,通过尽量减小从发射端的几何中心到接收端的几何中心之间的距离,可以降低串扰信号的多路径反射效应。
第三方面,本申请提供一种计算机可读存储介质。该计算机可读存储介质包括计算机指令。当计算机指令在电子设备上运行时,使得该电子设备执行如第一方面及其任一种可能的实现方式提供的深度值确定方法。
第四方面,本申请提供一种计算机程序产品。当计算机程序产品在计算机上运行时,使得计算机执行如第一方面及其任一种可能的实现方式提供的深度值确定方法。
第五方面,本申请提供一种芯片系统。该芯片系统应用于电子设备。该芯片系统包括一个或多个处理器,一个或多个处理器用于调用计算机指令以使得电子设备执行如第一方面及其任一种可能的实现方式提供的方法。
可以理解,上述提供的第二方面的电子设备,第三方面的计算机可读存储介质,第四方面的计算机程序产品及第五方面的芯片系统所能达到的有益效果,可参考如第一方面及其任一种可能的实现方式中的有益效果,此处不再赘述。
附图说明
图1为本申请实施例提供的一种使用ToF模组测距的示意图;
图2为本申请实施例提供的另一种使用ToF模组测距的示意图;
图3为本申请实施例提供的使用ToF模组获得的深度信息阵列图的示意图;
图4为本申请实施例提供的基于未校正的深度值拍摄图像的场景示意图;
图5为本申请实施例提供的基于校正后的深度值拍摄图像的场景示意图;
图6为本申请实施例提供的一种手机的硬件结构示意图;
图7为本申请实施例提供的另一种手机的硬件结构示意图;
图8为本申请实施例提供的一种ToF模组的硬件结构示意图;
图9为本申请实施例提供的另一种ToF模组的硬件结构示意图;
图10为本申请实施例提供的接收端面阵器件的结构示意图;
图11为本申请实施例提供的基于面光源和接收端面阵器件测距的示意图;
图12为本申请实施例提供的基于dToF法的ToF模组的工作原理示意图;
图13为本申请实施例提供的发射端发射脉冲波和接收端接收脉冲波的示意图;
图14为本申请实施例提供的单个SPAD传感器的工作原理示意图;
图15为本申请实施例提供的TCSPC的原理示意图;
图16为本申请实施例提供的使用ToF模组获得的直方图的示意图;
图17为本申请实施例提供的在远距离测距和近距离测距时的直方图的示意图;
图18为本申请实施例提供的一种深度值确定方法的流程示意图;
图19为本申请实施例提供的在直方图中寻找波峰的示意图;
图20为本申请实施例提供的背景噪声强度的示意图;
图21为本申请实施例提供的在不同温度下直方图的示意图;
图22为本申请实施例提供的远距离测距场景中基于串扰信号和目标信号测距的示意图;
图23为本申请实施例提供的三点法的示意图;
图24为本申请实施例提供的一种近距离测距场景测距的示意图;
图25为本申请实施例提供的另一种近距离测距场景测距的示意图;
图26为本申请实施例提供的另一种近距离测距场景测距的示意图;
图27为本申请实施例提供的温漂曲线的示意图;
图28为本申请实施例提供的电压曲线的示意图;
图29为本申请实施例提供的温度补偿模型和电压补偿模型的优化方法的流程图;
图30为本申请实施例提供的在不同电压下的两种深度值的示意图;
图31为本申请实施例提供的一种电子设备的结构示意图。
具体实施方式
为了使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述。显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。
首先对本申请涉及的飞行时间法进行解释说明。
飞行时间(time of flight,ToF)法属于一种双向测距技术,主要利用脉冲信号在发射端和接收端之间往返的时间来测量节点间的距离。
示例性地,图1示出了一种使用ToF模组测距的示意图。如图1所示,ToF模组包括发射端和接收端。ToF模组的发射端发射脉冲信号。该脉冲信号为一定波长的电磁波。脉冲信号到达被测对象,经被测对象反射后沿着介质返回。ToF模组的接收端接收到脉冲信号。然后,ToF模组可以基于从发射出脉冲信号到接收到脉冲信号的时间,利用关系式(1)估算出从ToF模组到被测对象之间的距离。从ToF模组到被测对象之间的距离也称为深度值。
D=c*Δt/2         (1)。
其中,D表示从ToF模组到被测对象之间的距离,c表示光速,Δt表示从发射端发射出脉冲信号到接收端接收到脉冲信号的时间。
与双目相机拍摄的深度图相比,ToF模组采集的深度图中的像素相对较低,能够以较小的算力和功耗计算两个节点间的距离,因此ToF模组在手机等电子设备中的使用率越来越高。在一种场景示例中,在拍摄照片或视频的场景中,电子设备可以利用ToF模组提供的深度值进行辅助对焦,实现大光圈虚化效果。在另一种场景中,电子设备可以将ToF模组提供的深度值应用在虚拟现实(virtual reality,VR)场景和增强现实(augmented reality,AR)场景中。
通常,在ToF模组的上方设置有玻璃盖板,ToF模组发射的光线以及从测对象反射的光线可以穿透玻璃盖板。根据折射定律,入射角和折射角之间的关系为:n1*sin(θ1)=n1*sin(θ2)。其中,n1表示空气的折射率,n2表示玻璃的折射率,θ1表示入射角,θ2表示折射角。玻璃的折射率大于空气的折射率。当光线从空气介质进入玻璃介质时,光线会被折射。当光线从玻璃介质进入空气介质时,光线会被反射,反射的光线与入射的光线的入射角相等。
示例性地,图2示出了另一种使用ToF模组测距的示意图。如图2所示,在ToF模组和被测对象之间设置有玻璃盖板。在测量深度信息时,ToF模组发射的大部分光线穿过玻璃盖板到达被测对象后反射回来。结合上段描述内容,在测量深度信息的场景中,由于空气和玻璃的折射率不同,因此ToF模组发射的光线会分成两个通路:在第一个通路中,ToF模组的发射端发射的一部分光线会穿过玻璃盖板到达被测对象,之后经过被测对象反射并穿过玻璃 盖板后反射回来,从而ToF模组的接收端接收到目标信号。在第二个通路中,ToF模组的发射端发射的另一部分光线到达玻璃盖板后会直接反射回来,从而ToF模组的接收端接收到串扰(crosstalk)信号。受到串扰信号的影响,ToF模组基于目标信号实际测得的深度信息可能会存在偏差。比如,在近距离测距场景中,由于被测对象与ToF模组距离较近,使得ToF模组接收到串扰信号的时间与接收到目标信号的时间非常接近,ToF模组无法区分目标信号和串扰信号,从而根据飞行时间计算得到的深度值不准确。
示例性地,图3示出了使用ToF模组获得的两幅深度信息阵列图。每幅深度信息阵列图由m*n个像素组成。一个像素的深度值越大,代表被测对象到ToF模组的距离越远。如图3中的(a)所示,当ToF模组与被测对象之间未设置玻璃盖板时,ToF模组没有受到串扰信号的影响,各个像素的深度值比较准确。如图3中的(b)所示,当ToF模组与被测对象之间设置玻璃盖板时,玻璃盖板会反射光线,受到反射光线的角度和ToF模组的位置等因素影响,在深度信息阵列图中部分区域的串扰信号的强度较强。电子设备将干扰区域的目标信号与串扰信号叠加后,计算得到的深度值比真实值小。
作为一种场景示例,当深度信息阵列图中干扰区域的深度值不准确时,错误的深度值会影响对运动物体的追焦。如图4中的(a)所示,用户将手机1的摄像头朝向正在发球的人物1。响应于用户操作,手机1开始基于ToF模组采集的深度值对小球追焦。小球沿着如图4中的(a)所示的运动轨迹快速飞行。在时刻t1,若小球没有进入如图3中的(b)所示的干扰区域,则基于ToF模组采集的深度值较为准确,手机1对小球追焦成功,拍摄得到如图4中的(b)所示的清晰图像。在时刻t2,若小球已经进入如图3中的(b)所示的干扰区域,则基于ToF模组采集的深度值出现偏差,手机1对小球追焦失败,拍摄得到如图4中的(c)所示的模糊图像。在时刻t3,若小球仍然处于如图3中的(b)所示的干扰区域,则基于ToF模组采集的深度值仍不准确,手机1对小球追焦失败,拍摄得到如图4中的(d)所示的模糊图像。
鉴于ToF模组受到玻璃盖板反射光线的影响测得的深度值不准确的问题,本申请提供了一种深度值确定方法。该方法可以应用于电子设备,在电子设备的玻璃盖板下方设置有ToF模组。在使用ToF模组测量深度信息的场景中,电子设备可以将玻璃盖板返回的串扰信号作为参考信号进行0距离点校正,从而减小串扰信号对从被测对象返回的目标信号的干扰,提高了通过ToF模组测得的深度信息的准确性。
需要说明的是,在常规意义上,0距离点是指ToF模组发射脉冲信号的时间,而在本申请中,0距离点是指接收到通过玻璃盖板返回的串扰信号的时间。对于将玻璃盖板返回的串扰信号作为参考信号进行0距离点校正的具体实现方式,可以参照下述实施例的描述。
另外,本申请实施例是以将ToF模组设置在玻璃盖板下方,ToF模组发射的光线穿透玻璃盖板为例进行说明的,其并不对本申请形成限定。在实际实现时,也可以将玻璃盖板替换为采用其他具备透光和保护功能的盖板,将ToF模组替换为其他深度检测模组。
上述电子设备可以是手机(mobile phone)、个人计算机(personal computer,PC)、智慧屏、智能电视、平板电脑(Pad)、穿戴式设备、带无线收发功能的电脑、虚拟现实(virtual reality,VR)设备、增强现实(augmented reality,AR)设备、工业控制(industrial control)中的无线终端、无人驾驶(self-driving)中的无线终端、远程手术(remote medical surgery)中的无线终端、智能电网(smart grid)中的无线终端、运输安全(transportation safety)中的无线终端、智慧城市(smart city)中的无线终端或智慧家庭(smart home)中的无线终端等等,或者可以为其他设置有ToF模组的设备或装置。
在一些实施例中,ToF模组可以设置在电子设备的背面,用于拍摄人物图像、拍摄视频、AR建模与体感游戏等场景。当用户将电子设备的背面对准被测对象时,ToF模组可以测量得电子设备到被测对象之间的深度值。在另一些实施例中,ToF模组可以设置在电子设备的正面,用于人脸识别和金融支付等场景。当用户面向显示屏时,ToF模组发射的光信号可以投射到用户的面部,从而获取面部的深度信息。
示例性地,图5示出了一组基于校正后的深度值拍摄图像的场景示意图。
如图5中的(a)所示,在拍摄小球等快速移动的物体时,用户在拍摄预览界面的下方区域上滑手指。如图5中的(b)所示,手机显示“对焦优先”选项。响应于用户对“对焦优先”选项的点击操作,手机显示如图5中的(c)所示的“主体优先对焦”控件和“运动优先对焦”控件,“主体优先对焦”控件用于触发手机对人物等主体进行对焦,“运动优先对焦”控件用于触发手机对小球、车辆等快速移动物体等进行对焦。比如,如果设置为普通拍照模式,默认采用主体优先对焦;如果设置为抓拍模式,默认采用运动优先对焦。
以用户点击了“主体优先对焦”控件为例。如图5中的(d)、图5中的(e)和图5中的(f)所示,手机开始对小球逐帧追焦。对小球逐帧追焦的具体过程可以如下:手机将小球作为对焦对象,并通知ToF模组进行测距。当ToF模组进行测距时,手机可以将玻璃盖板返回的串扰信号作为参考信号进行0距离点校正,从而减小串扰信号对从被测对象返回的目标信号的干扰,从而获取准确性更高的深度信息阵列图。然后,手机可以根据深度信息阵列图中与小球对应区域的深度值,对小球逐帧追焦。作为一种示例,手机可以预先设置深度值与马达运动距离(code)的映射关系表,该映射关系表可以包括多组深度值与马达的运动位移。如表1所示,如果ToF模组测量的深度值为x3,则相机应用控制马达推动镜头按照位移y3移动;如果ToF模组测量的深度值为x4,则相机应用控制马达推动镜头按照位移y4移动。
表1
示例性地,图6示出了一种直板手机的硬件结构示意图。
如图6所示,在手机的后盖01有一个挖空区域,用于设置后置摄像模组02。后置摄像模组02包括至少一个后置摄像头021、闪光灯022和ToF模组023。作为一种示例,摄像模组02的外表面设置有一整块透明基板,比如玻璃盖板。玻璃盖板可以对后置摄像头021、闪光灯022和ToF模组023起到保护作用,使得后置摄像头021、闪光灯022和ToF模组023不用裸露在外部,防止灰尘进入后置摄像模组02内部。作为另一种示例,在后置摄像头021、闪光灯022和ToF模组023的外表面分别设置一块透明基板。作为又一种示例,当摄像模组02的外表面设置有一整块透明基板时,透明基板可以根据挖空区域的形状和尺寸设置,比如,当挖空区域为圆形时,透明基板为圆形。
如图6所示,在显示模组的顶部区域有一个挖空区域,用于设置前置摄像模组04。前置摄像模组04包括一个前置摄像头041和ToF模组042。挖空区域被显示屏03包围。显示屏03具有像素排布,用于显示图像。作为一种示例,在显示模组的外表面覆盖一整块透明基板,比如玻璃盖板。玻璃盖板可以对显示屏03、前置摄像头041和ToF模组042起到保护作用,使得显示屏03、前置摄像头041和ToF模组042不用裸露在外部。
需要说明的是,图6是以手机在后置摄像模组02和前置摄像模组04分别设置一个ToF模组为例进行示例说明的,其并不对本申请形成限定。作为另一种示例,手机可以仅在后置摄像模组02设置ToF模组,而在前置摄像模组04不设置ToF模组。
示例性地,图7示出了一种折叠屏手机的硬件结构示意图。
在折叠屏手机的后盖05有一个挖空区域,用于设置后置摄像模组06。后置摄像模组06包括至少一个后置摄像头061、闪光灯062和ToF模组063。作为一种示例,后置摄像模组06的外表面设置有一整块透明基板,比如玻璃盖板。在外屏的显示模组的顶部区域有一个挖空区域,用于设置前置摄像头07。
需要说明的是,图6所示的ToF模组023、ToF模组042,图7所示的ToF模组063,都可以用于实现本申请提供的深度值确定方法。
下面结合图8至图11,对本申请提供的ToF模组的硬件原理进行示例说明。
示例性地,图8示出了一种ToF模组的硬件结构示意图。
如图8示,ToF模组可以包括:基板16,设置在基板16上的发射端和接收端。发射端和接收端可以为不同供应商提供的器件,也可以为同一供应商提供的不同型号的器件。发射端可以包括:脉冲激光器(pulsed laser)11和光散射元件(diffuser)12。接收端可以包括:光探测元件13、脉冲响应滤波器14和光接收器15。ToF模组可以设置在玻璃盖板的下方。玻璃盖板为透光区域,具有一定的透光能力。玻璃盖板包括第一表面171和第二表面172。第一表面171为远离ToF模组的一面,第二表面172为靠近ToF模组的一面。
其中,脉冲激光器11用于向光散射元件12的方向发射脉冲信号。在时域上,通过示波器可以分辨出脉冲信号的波形为锯齿波、正弦波或三角波等。作为一种示例,脉冲激光器11可以是基于垂直腔面发射激光器(vertical-cavity surface-emitting laser,VCSEL)的初始发射源,但该初始发射源的发散角较小,大约为20°。为了实现发射端覆盖更大的视场角,本申请还设置了光散射元件12。光散射元件12,也称为光束散射器,可以为矩形或正方形,设置在脉冲激光器11的上方,用于对脉冲激光器11发射的脉冲信号进行散射处理,以增加光束的发散角。可以理解,脉冲激光器11依赖光散射元件12对光束进行散射,能使光束覆盖更多的视野区域(field of view),且能覆盖到被测对象的各个位置,不存在间隙,相当于把一束光投影到平面上,因此脉冲激光器11和光散射元件12也合称为面光源。与传统的VCSEL和衍射光学元件(diffractive optical element,DOE)组合成的点光源相比,本申请使用的面光源在硬件设计上更为简单,成本相对较低,且能覆盖到被测对象的各个位置。
光探测元件13为一个的光学透镜,可以用于对接收到的光线进行汇聚。脉冲响应滤波器14,可以用于对汇聚后的光线进行滤波,去除非目标频段的环境光噪音等干扰信号,得到目标频段的信号,该目标频段为脉冲信号的频段。光接收器15可以由传感器阵列组成,比如由多个单光子雪崩二极管(single photon avalanche diodes,SPAD)组成,用于接收脉冲信号。
为了更好的保护脉冲激光器11、光散射元件12、光探测元件13、脉冲响应滤波器14和光接收器15等器件,如图8所示,在这些器件外面还设置有一个外壳18,外壳18将这些器件罩住。另外,在外壳18上靠近玻璃盖板的一面还有挖孔区域,使得光散射元件12的光线可以穿过挖孔区域、玻璃盖板到达被测对象,以及使得被测对象反射的光线可以穿过玻璃盖板、挖孔区域到达光探测元件13。作为一种示例,光散射元件12的上表面、光探测元件13的上表面与外壳18的上表面齐平。作为另一种示例,外壳18的上表面与玻璃盖板的第二表面172的距离小于光散射元件12的上表面与玻璃盖板的第二表面172的距离,外壳18的上表面与玻璃盖板的第二表面172的距离小于光探测元件13的上表面与玻璃盖板的第二表面 172的距离。
作为一种示例,如图8所示,从光散射元件12的几何中心到光探测元件13的几何中心(也可以是光学中心)之间的距离设置为8mm(毫米)。在这种情况下,串扰信号的主路径在玻璃盖板内部发生多次反射。可以理解,串扰信号在玻璃盖板内部发生反射的次数越多,串扰信号的光束越分散,导致串扰信号在直方图上偏移和扩展,从而影响将串扰信号作为参考信号进行0距离点校正的准确度。
理论上,为了避免串扰信号在玻璃盖板内部发生多次反射,应该尽量减小从光散射元件12的几何中心到光探测元件13的几何中心之间的距离。但是,光散射元件12和光探测元件13具有一定的体积,使得从光散射元件12的几何中心到光探测元件13的几何中心之间的距离不能无限小。基于当前工艺水平,在如图8所示的硬件结构基础上,如图9所示,本申请将从光散射元件12的几何中心到光探测元件13的几何中心之间的距离从8mm缩小至4mm,将从ToF模组的外壳18的上表面到玻璃盖板的第二表面172之间的距离设置为0.8mm,将ToF模组在光轴方向的厚度设置为2.48mm。
作为一种示例,基于如图9所示的ToF模组的硬件结构,如图10所示,光接收器15可以是一个SPAD芯片。SPAD芯片是一个由多个SPAD传感器组成的面阵器件。SPAD芯片也称为接收端面阵器件。接收端面阵器件由m*n个SPAD传感器组成。一个SPAD传感器代表一个像素。比如,m=240,n=180。在辅助对焦场景中,一个SPAD传感器检测到的距离,为被测对象的一个点到ToF模组的距离。一个SPAD传感器检测到的距离越大,代表这个像素的深度值越大,被测对象到ToF模组的距离越远。一个SPAD传感器检测到的距离越小,代表这个像素的深度值越小,被测对象到ToF模组的距离越近。
作为一种示例,基于如图9所示的ToF模组的硬件结构,如图11所示,面光源发射出一个横截面为矩形的光束。这个光束分成两个通路:在第一个通路中,光束的一部分光线会穿过玻璃盖板204到达被测对象,经过被测对象反射,穿过玻璃盖板204后返回到接收端面阵器件;在第二个通路中,光束的另一部分光线在到达玻璃盖板204后返回到接收端面阵器件。其中,面光源发射光束的对向角为α,接收端面阵器件接收光束的对向角为β。比如,α=β=70°。需要说明的是,对向角是指光束在矩形对角线方向的张角。比如,根据测距需求,本申请将对向角为α和对向角为β设置为70°。
可选地,当发射端发射光束的对向角为α=70°(如图11所示),接收端接收光束的对向角为β=70°(如图11所示),从光散射元件12的几何中心到光探测元件13的几何中心之间的距离为4mm(如图9所示),从ToF模组的外壳18的上表面到玻璃盖板的第二表面172之间的距离为0.8mm(如图9所示),ToF模组在光轴方向的厚度为2.48mm(如图9所示)时,可以实现如图9所示的串扰信号的主路径在玻璃盖板的第一表面171发生一次反射。另外,如图9所示的ToF模组的硬件结构的测距范围为[5cm,5m],基本可以满足电子设备的测距需求。应理解,随着工艺水平的改进,还可以继续减小从光散射元件12的几何中心到光探测元件13的几何中心之间的距离。
在本申请实施例中,如图9至如图11所示的ToF模组可以基于ToF法测量飞行时间得到深度值,以完成本申请提供的深度值确定方法。ToF法分为直接时间飞行(direct time of flight,dToF)法和非直接时间飞行(indirect time of flight,iToF)法。其中,dToF法使用脉冲光线雷达直接测量飞行时间。iToF法通过相位分辨测量间接估计飞行时间。本申请可以基于dToF法测量飞行时间,也可以采用iToF法测量飞行时间。
下面以ToF模组基于dToF法测量飞行时间为例,对本申请提供的深度值确定方法的原 理进行示例说明。
示例性地,图12示出了本申请提供的深度值确定方法的原理流程图。
其中,ToF模组可以包括如图9所示的脉冲激光器11、光散射元件12、光探测元件13、脉冲响应滤波器14、光接收器15。对于脉冲激光器11、光散射元件12、光探测元件13、脉冲响应滤波器14和光接收器15的结构可以参照上述实施例的描述,此处不再赘述。
如图12所示,ToF模组还可以包括控制器10。控制器10可以包括同步驱动模块10-1、时间数字转换器(time to digital converter,TDC)10-2、直方图(histogram)统计模块10-3、数字信号处理器(digital signal process,DSP)10-4。其中,同步驱动模块10-1可以用于控制发射端与接收端的时钟同步。TDC 10-2是一种用于测量时间的电路,可以将连续的时间信号转换为数字信号,测量或记录信号的时间间隔,实现时间测量的数字化。直方图统计模块10-3可以用于记录TDC 10-2每次输出的数字,对各个时间段的光子数目进行统计得到光子随时间变化的频率分布直方图。DSP 10-4可以用于分析直方图,寻找深度信息。
具体地,该深度值确定方法可以包括下述S101至S105。
S101,脉冲激光器11响应于同步驱动模块10-1的控制信号,发射多个脉冲信号。
以按照60Hz的深度图刷新频率进行深度值探测为例。如图13所示,同步驱动模块10-1可以每隔16ms(毫秒)控制脉冲激光器11进行一次探测。每次探测的持续时间为10ms,即,探测时长为10ms。在每次探测时长时,同步驱动模块10-1可以控制发射端每间隔100ns发射一个脉冲波,一个脉冲波的脉宽为1ns左右。
S102,光接收器15接收脉冲信号。
脉冲激光器11发射的脉冲信号依次经过光散射元件12和玻璃盖板到达被测对象,由被测对象反射后再依次经过光探测元件13、脉冲响应滤波器14到达光接收器15。
在一些实施例中,光接收器可以由多个SPAD传感器组成的面阵器件。
示例性地,图14示出了单个SPAD传感器的工作原理示意图。
SPAD传感器基于光的粒子态和概率统计模型进行感光。
如图14所示,SPAD传感器工作原理分成下述几个阶段:
第一个阶段:对应状态①。SPAD传感器尚未被光子触发前,SPAD传感器两端的偏向电压短暂的超过击穿电压VBD,纵轴不会有电流,处在亚稳定状态(geiger mode),也称为盖革模式。
第二个阶段:对应从状态①到状态②。当光子来临时,SPAD传感器吸收单光子。由于SPAD传感器内部的高反偏电场,由光子转换产生的少数电子会触发SPAD传感器产生雪崩(avalanche)状态。比如,在SPAD传感器两端的偏向电压超过如图14所示的参考线对应的电压时,产生一个可以被TDC 10-2捕捉的数字信号,被TDC 10-2记为一个光子的到来。
第三个阶段:对应从状态②到状态③。由雪崩后产生大量电流流过淬灭(quench)电阻,使得SPAD传感器两端的偏向电压低于击穿电压VBD,从而SPAD传感器雪崩电流关闭,停止工作。
第四个阶段:对应从状态③到状态①。通过VSPAD电源对SPAD传感器充电,使得SPAD传感器的工作电压大于击穿电压VBD,回到初始状态。
通常,从雪崩到回到初始状态所需的时间,被称为死区时间(dead time),死区时间通常可以通过淬灭电流来调整。在SPAD传感器每次捕捉到光子时都会进行上述步骤,并产生一次电脉冲,该电脉冲再透过前端电路进行放大与整形后送到TDC 10-2。
需要说明的是,单个光子不一定能触发雪崩,这取决于SPAD传感器的光子探测效率 (photon detection efficiencies,PDE)。即便如此,SPAD传感对于光子的灵敏度远高于雪崩光电二极管(avalanche photodiodes,APD)。
从上述工作原理可以看出,单个SPAD传感器在同一时刻只能触发一次,所以SPAD传感器往往是阵列形式的。在同一时刻或者一个TDC的采样时间里可以有多个光子计数。
在本申请实施例中,dToF方法是基于时间相关单光子计数(time correlated single photon counting,TCSPC)技术实现的。
S103,TDC 10-2将脉冲信号转换为数字信号。
S104,直方图统计模块10-3记录TDC 10-2每次输出的数字,对各个时间段的光子数目进行统计得到光子随时间变化的直方图。
从发射端发射一个脉冲波到接收到这个脉冲波的时间为飞行时间。但是,当脉冲波的脉宽为1ns时达到光子级别,基于光的波粒二象性,单个光子具有波动性,因此接收端接收到光子的时间可能会发生变化。
示例性地,图15示出了TCSPC的原理示意图。在光信号非常弱且探测频率很高时,有的探测周期可能探测到光子,有的探测周期可能探测不到光子。如图15所示,将光子看作一个随机的信号事件,将信号事件对应到某个时间段,在对光子重复进行多个探测周期的测量后,直方图统计模块10-3对各个时间段的光子数目进行统计,得到光子随时间变化的频率分布直方图,对直方图拟合即可获得光信号的强度变化。其中,TDC的最低有效位(least significant bit)表示为LSB,一个TDC LSB为一个bin。直方图的横坐标为时间信息,表示bin的数量。比如,单个SPAD传感器对应的横轴坐标范围为有1024个bin,ToF时间为100ns,每个bin的时间为500ps(皮秒),500ps就是TDC的分辨率,N位TDC的bin数量为2^N,1024个bin对应的TDC位数是10位。可以理解,在一个探测时长(如10ms)内,将每个探测周期(如100ns)内SPAD触发的光子计数都叠加起来,就得到这个探测时长内的光子计数。TCSPC把时间和光强度的关系转换为时间和光子数的关系。
作为一种示例,上述直方图的数据形式为1200*64的数组。其中,1200代表深度图中有1200个像素,64代表横轴上有64个bin。
S105,DSP 10-4基于直方图统计模块10-3统计得到的直方图,计算校正后的深度值。或者,DSP可以将直方图传递到电子设备的CPU,CPU基于该直方图算校正后的深度值。
其中,CPU可以是片上系统(system on chip,SOC)的主处理器。
需要说明的是,本申请对计算深度值的执行主体不作具体限定。比如,执行主体也可以为DSP或CPU,还可以是电子设备的其他软硬件模块,可以根据实际使用需求调整。
理论上,基于直方图统计模块10-3统计得到的直方图,DSP 10-4或CPU可以将与波形峰值点对应的时间作为飞行时间。以在一个探测时长(如10ms)中每间隔100ns发射一个脉冲波为例。若将每次发射脉冲波的时间点对齐作为0距离点,则根据横轴上从0距离点到波峰之间的bin数量,可以计算得到脉冲信号的飞行时间Δt。然而,参照上述实施例的描述,受到玻璃盖板返回的串扰信号的影响,若将每次发射脉冲波的时间点对齐作为0距离点,则根据横轴上从0距离点到波峰之间的bin数量计算得到的飞行时间Δt存在偏差,导致实际测得的深度信息也会存在偏差。
为了解决串扰信号导致深度信息的偏差问题,在基于dToF法获得的直方图的基础上,如图16所示,可以将玻璃盖板返回串扰信号的时间点作为0距离点,以减小串扰信号对从被测对象返回的目标信号的干扰。
如图16所示,将脉冲激光器11发射脉冲信号的时间对齐作为校正前的0距离点。发射 端发射的脉冲信号会分成两个通路:在第一个通路中,一部分光线会穿过玻璃盖板到达被测对象,之后经过被测对象反射并穿过玻璃盖板后返回到ToF模组的接收端。在第二个通路中,另一部分光线达到玻璃盖板的外表面171后会反射回来。由于ToF模组与玻璃盖板之间的距离,小于ToF模组与被测对象之间的距离,因此ToF模组接收到通过第二个通路返回的串扰信号的时间,早于接收到通过第一个通路返回的目标信号的时间。在直方图的横轴上,串扰信号的接收时间早于目标信号的接收时间,即,串扰信号的接收时间更接近校正前的0距离点。
以用户使用如图6所示的后置摄像模组02进行拍照的场景为例,设置在后置摄像模组02的外表面的玻璃盖板为与被测对象最近的点,可以将从玻璃盖板的外表面171到被测对象之间的距离D视为从电子设备到被测对象之间的距离。例如,从玻璃盖板的第一表面171到被测对象200之间的距离D,可以通过下述关系式(2)获取:
D=D1-D2=c*t1/2-c*t2/2=c*Δt/2      (2)。
其中,Δt=t1-t2。Δt表示从校正后的0距离点到接收到目标信号的时间。t1表示目标信号的飞行时间。t2表示串扰信号的飞行时间。D表示从电子设备到被测对象200之间的距离。D1表示从发射端到被测对象200之间的距离。D2表示从发射端到玻璃盖板204的第一表面171之间的距离。
在上述方案中,校正后的0距离点是指接收端接收到通过玻璃盖板返回的串扰信号的时间。将接收端接收到被测对象返回的目标信号的时间,减去接收端接收到通过玻璃盖板返回的串扰信号的时间,等于校正后飞行时间Δt。在本申请实施例中,将玻璃盖板返回的串扰信号的时间点作为0距离点,可以忽略串扰信号对目标信号的干扰,校正目标信号的飞行时间Δt,从而使得根据校正后的飞行时间Δt计算得到的深度值更为准确。
根据上述实施例对图16的分析,在理论上,将接收到被测对象返回的目标信号的时间,减去接收到通过玻璃盖板返回的串扰信号的时间,就能得到校正后飞行时间Δt。然而,在实际实现时,电子设备与被测对象之间的距离可能比较远,也可能比较近,这就导致在通过S104得到的直方图中的串扰信号和目标信号的相对位置可能会发生变化。
示例性地,图17示出了在远距离测距和近距离测距时的直方图的示意图。
如图17中的(a)所示,当电子设备与被测对象之间的距离比较远时,比如电子设备与被测对象之间的距离为100cm(厘米),串扰信号的包络位置和目标信号的包络位置在横轴上相隔较远,两个信号的波峰可以区分开。在这种情况下,DSP可以采用将串扰信号和目标信号的双峰时间相减的方式得到校正后飞行时间Δt。
如图17中的(b)所示,当电子设备与被测对象之间的距离比较近时,比如电子设备与被测对象之间的距离为40cm,串扰信号的包络位置和目标信号的包络位置在横轴上比较接近,使得两个信号的包络重叠,两个信号的波峰无法明显区分开,如果串扰信号的置信度较高,可能会误把串扰信号误判为目标信号。在这种情况下,DSP不能直接采用将串扰信号和目标信号的双峰时间相减的方式得到校正后飞行时间Δt。
针对在远距离测距和近距离测距的场景中,直方图中串扰信号和目标信号的包络位置的不同分布规律,本申请提供了两种深度值确定方法:当被测对象处于远距离测距范围时采用远距离深度值确定方法;当被测对象处于近距离测距范围时采用近距离深度值确定方法。
具体地,上述S105具体可以通过如图18所示的S201-S206实现。下面以CPU为执行主体为例进行说明。当然,执行主体也可以是DSP或其他软硬件模块。
S201、CPU从存储器读取预设参考信号(也称为预设串扰信号)的标定数据。
上述预设参考信号的标定数据为在电子设备出厂前预先存储的、由电子设备的玻璃盖板反射的串扰信号的标定数据。该标定数据可以包括:串扰信号的包络形状、串扰信号的包络位置(即横轴数值或横轴比例)、串扰信号的强度分布(即纵轴数值或纵轴比例)等。其中,串扰信号的包络位置包含串扰信号的波峰位置。
在电子制造服务(electronic manufacturing services,EMS)的整机产线阶段,测试设备可以控制电子设备的ToF模组向电子设备的玻璃盖板发射脉冲信号,以标定电子设备的串扰信号。由于ToF模组之间的差异、电子设备对ToF模组的供电值与ToF模组制造厂使用的供电值之间的差异、电子设备的环境温度的差异等多种因素,每台电子设备的玻璃盖板返回的串扰信号的特征可能各不相同。这些不同特征可以包络:串扰信号的包络形状、串扰信号的包络位置、串扰信号的强度分布等。可以理解,通过分别标定每台电子设备的串扰信号的相关数据,使得在出厂后基于每台电子设备各自的标定数据,对目标信号进行准确还原。
在CPU得到直方图之后,CPU可以从存储器读取预设参考信号的标定数据,以基于预设参考信号对直方图的0距离点进行校正。对于直方图的获取方式可以参照上述S104,此处不再赘述。
比如,存储器可以为原始设备制造商(original equipment manufacturer,OEM)存储器。
以深度图包括1200个像素为例。预设参考信号的标定数据可以包括:一个像素的串扰信号的包络形状,1200个像素的串扰信号的强度分布,1200个像素的串扰信号的包络位置。一个像素的串扰信号的包络形状决定了1200个像素的包络形状。1200个像素的串扰信号的强度分布决定了1200个像素的纵轴位置是固定的。1200个像素的串扰信号的包络位置决定了1200个像素的横轴位置是固定的。参照上述实施例的描述,电子设备与被测对象之间的距离可能比较远,也可能比较近,导致在直方图中串扰信号和目标信号的相对位置可能会发生变化。比如,当电子设备与被测对象之间的距离比较远时,串扰信号的包络位置和目标信号的包络位置在横轴上相隔较远,两个信号的波峰可以区分开;当电子设备与被测对象之间的距离比较近时,串扰信号的包络位置和目标信号的包络位置在横轴上比较接近,使得两个信号的包络重叠,两个信号的波峰无法明显区分开。由于在远距离测距和近距离测距时,直方图中串扰信号和目标信号的包络位置具备不同的分布规律,因此,在CPU一次性读取全部标定数据之后,CPU可以针对深度图包含的多个像素中每个像素执行下述S202-S206,从而得到每个像素的深度值。
S202、CPU基于第一像素的寻峰范围,在直方图内寻找是否存在满足预设条件的波峰。
其中,第一像素为待生成的深度图中的任意一个像素。
以深度图包括1200个像素为例。标定数据可以包括:一个像素的串扰信号的包络形状,1200个像素的串扰信号的强度分布,1200个像素的串扰信号的包络位置。在CPU读取到标定数据之后,CPU可以基于一个像素的串扰信号的包络形状、与第一像素对应的串扰信号的强度分布、与第一像素对应的串扰信号的包络位置,确定与第一像素对应的预设参考信号的波峰位置i,从而得到第一像素的寻峰范围为(i-m,i+n)。其中,i表示在横轴上的第i个bin,寻峰范围可以是从第i-m个bin到i+n个bin。m和n均为预设的正整数。bin为时间转换单位。比如,一个bin等于300ps或500ps。
可以理解,由于标定数据中1200个像素的串扰信号的包络位置不同,因此,与深度图中每个像素对应的预设参考信号的波峰位置i不同,与深度图中每个像素对应的寻峰范围也不同。以m=4,n=9为例。若像素1的i=9,则像素1的寻峰范围为从第5个bin到第18个bin。若像素2的i=10,则像素2的寻峰范围为从第6个bin到第19个bin。若像素3的i=8,则像 素3的寻峰范围为从第4个bin到第17个bin。
在一些实施例中,CPU可以基于光强度比较法、倒数法、高斯拟合法或对称零面积法等,在直方图的寻峰范围内寻找波峰。
以光强度比较法为例。如图19中的(a)所示,与第一像素对应的预设参考信号的波峰的横轴坐标为i=10bin,表示在第10个bin光强度值最高。CPU可以j基于i=10bin,在如图19中的(b)所示的直方图中确定第一像素的寻峰范围。如图19中的(c)所示,在直方图中第一像素的寻峰范围为(6bin,19bin),即,寻峰范围为从第4个bin到第19个bin。然后,CPU可以从第6个bin开始,按照bin的数值依次加1的方式开始遍历,比较寻峰范围内相邻bin的光强度。如果一个bin的光强度大于上一个bin的光强度,且大于下一个bin的光强度,则CPU确定找到一个波峰。如图19中的(d)所示,第11个bin的光强度等于960,第12个bin的光强度等于1100,第13个bin的光强度等于750,第12个bin的光强度大于第11个bin的光强度和第13个bin的光强度,因此,CPU确定在第12个bin寻找到一个波峰。需要说明的是,在第一像素的寻峰范围内CPU可能寻找到一个波峰,也可能寻找到多个波峰。当每次寻找到一个波峰时,CPU判断该波峰是否满足预设条件。
在一些实施例中,上述预设条件可以包括第一条件和第二条件中的至少一项。
(1)第一条件是寻找的波峰的信号强度大于背景噪声的强度。
其中,背景噪声可以包括环境光噪音、电路引起的器件暗噪声,玻璃盖板上的污渍引起的噪声等。以背景噪声是粘在玻璃盖板上的污渍为例,如果在玻璃盖板上的污渍引起的背景噪声信号的强度较高,目标信号衰减较严重,那么CPU可能会基于置信度算法把背景噪声信号误判目标信号,为了避免出现这种情况,CPU可以通过判断寻找到的波峰的信号强度是否大于背景噪声的强度来排除干扰。
CPU可以实时检测背景噪声强度,比如,背景噪声强度如图20的虚线所示。然后,CPU可以判断寻找到的波峰的信号强度是否大于背景噪声的强度。如果该波峰的信号强度大于背景噪声的强度,比如位于如图20所示的虚线上方,那么说明该波峰不是背景噪声的波峰。如果该波峰的信号强度小于或等于背景噪声的强度,比如位于如图20所示的虚线下方,那么说明该波峰可能是背景噪声的波峰。
需要说明的是,如果CPU在寻峰范围内只找到一个波峰且这个波峰的信号强度小于或等于背景噪声的强度,或者,在寻峰范围内找到多个波峰且每个波峰的信号强度都小于或等于背景噪声的强度,那么说明寻找到的波峰不满足第一条件。
(2)第二条件是寻找的波峰的信号强度大于预设参考信号的信号强度的N倍。
其中,N大于或等于2。比如,N=3。
上述信号强度可以是指光强度,也可以是在探测时长内统计得到的光子数目。
在电子设备的环境温度和ToF模组的电压保持不变的情况下,ToF模组发射的脉冲信号的强度是固定的,玻璃盖板和ToF模组的相对位置也是固定的,因此电子设备实际测量得到的串扰信号的强度分布、串扰信号的波峰位置也是不变的。但是,当改变电子设备与被测对象之间的距离时,被测对象反射回来的目标信号的强度会发生变化。比如,当电子设备与被测对象之间的距离较近时,ToF模组发射的大部分光线会穿透玻璃并照射到被测对象,从被测对象反射回来的目标信号的强度是从玻璃盖板反射回来的串扰信号的N倍。随着电子设备与被测对象之间的距离的逐渐增加,目标信号的强度逐渐衰减。
基于目标信号的强度会随着传播距离衰减的特性,在寻找到一个波峰后,电子设备可以判断这个波峰的信号强度是否大于N倍的预设参考信号。如果这个波峰的信号强度大于预设 参考信号的强度的N倍,那么说明目标信号的衰减程度较低,当前场景可能是近距离测距。如果该波峰的信号强度小于或等于预设参考信号的强度的N倍,那么说明目标信号的衰减程度较高,当前场景可能是远距离测距。以N=3为例,CPU在第12个bin寻找到的波峰的光强度为1100,预设参考信号的光强度为350。该波峰的信号强度大于3倍的预设参考信号,当前场景可能为近距离测距。
当电子设备的环境参量保持不变时,CPU可以直接基于标定数据,确定第一像素的寻峰范围,然后在通过直方图统计模块统计得到的直方图内寻找满足预设条件的波峰。然而,在实际实现时,标定数据时电子设备的环境温度与本次探测时电子设备的环境温度可能并不相同,在标定数据时ToF模组的电压与本次探测时ToF模组的电压也可能有所不同,这些环境参量的变化可能会影响到深度值的准确性。
以环境温度为例,图21示出了在不同温度下电子设备获取的直方图的示意图。
如图21所示,当环境温度为27℃时的直方图和当环境温度为43℃时的直方图的信号包络的形状一致。两个直方图的不同之处在于:当电子设备的环境温度为27℃时,串扰信号和目标信号的时间范围为(7bin,33bin);当电子设备的环境温度为43℃时,串扰信号和目标信号的时间范围为(8bin,34bin)。也就是说,随着电子设备的环境温度增加,信号包络整体沿着横轴向右偏移了一个bin。
针对远距离测距场景:当受到环境温度影响,串扰信号的包络和目标信号的包络沿着横轴向右同步偏移时,串扰信号的接收时间和目标信号的接收时间之间的差值保持不变,因此,电子设备基于串扰信号的接收时间和目标信号的接收时间之间的差值计算得到的深度值也保持不变。即,在远距离测距场景中,深度值的计算与环境温度抖动解耦。
针对近距离测距场景:在电子设备的环境参量基本保持不变的情况下,玻璃盖板返回的串扰信号的包络形状、串扰信号的包络位置、串扰信号的强度分布、串扰信号的波峰位置等参数也基本保持不变。因此,电子设备可以将预设参考信号视为在本次探测时长内实际的串扰信号。然而,当串扰信号的包络位置和目标信号的包络位置重叠,且电子设备的环境温度发生变化时,串扰信号的包络位置和目标信号的包络将整体沿着横轴偏移,这样在本次探测时长内实际的串扰信号的包络位置与预设参考信号的包络在横轴上的位置存在偏差,从而导致基于预设参考信号从直方图中还原出目标信号并不准确,进而导致最终计算得到的深度值也不准确。
需要说明的是,当ToF模组的电压发生变化时,直方图中的串扰信号的包络位置和目标信号的包络位置也会发生整体偏移,可以参照图21针对当环境温度变化时串扰信号的包络位置和目标信号的包络位置会发生整体偏移的相关描述,此处不再赘述。
鉴于电子设备的环境温度和ToF模组的电压的变化可能会影响到深度值的准确性,本申请提出了下述两种校正方案:
在第一种校正方案中,上述S202具体可以包括:在读取到标定数据之后,CPU可以确定与第一像素对应的预设参考信号的波峰位置i,然后基于电子设备的环境温度和ToF模组的电压,对波峰位置i进行校正,得到波峰位置i’。再然后,CPU在通过直方图统计模块统计得到的直方图的寻峰范围(i’-m,i’+n)内寻找满足预设条件的波峰。i’表示在横轴上的第i’个bin,寻峰范围可以是从第i’-m个bin到i’+n个bin。m和n均为预设的正整数。
在第二种校正方案中,上述S202具体可以包括:在读取到标定数据之后,CPU可以确定与第一像素对应的预设参考信号的波峰位置i,然后基于电子设备的环境温度和ToF模组的电压,对通过直方图统计模块统计得到的直方图的横轴位置进行校正,得到校正后的直方图。 再然后,CPU在校正后的直方图的寻峰范围(i-m,i+n)内寻找满足预设条件的波峰。其中,i表示在横轴上的第i个bin,寻峰范围可以是从第i-m个bin到i+n个bin。m和n均为预设的正整数。
无论采用何种校正方案,还是没有采用任何校正方案,当在直方图内寻找的波峰满足预设条件时,说明当前场景可能是近距离测距,CPU可以执行下述S205-S206;当在直方图内寻找的波峰不满足预设条件时,说明当前场景可能是远距离测距,CPU可以执行下述S203-S204。
S203、CPU在直方图中分别确定串扰信号(也称为第一串扰信号)的信号参数和目标信号的信号参数。
需要说明的是,上述S203的直方图为在本次探测时长内通过直方图统计模块统计得到的原始直方图。串扰信号和目标信号为在本次探测时长内实际测得的信号,而不是预先存储的。
串扰信号的接收时间的信号参数可以包括:在本次探测时长内实际测得的串扰信号的包络形状、在本次探测时长内实际测得的串扰信号的包络位置、在本次探测时长内实际测得的串扰信号的强度分布等。
目标信号的信号参数可以包括:在本次探测时长内实际测得的目标信号的包络形状、在本次探测时长内实际测得的目标信号的包络位置、在本次探测时长内实际测得的目标信号的强度分布等。
如图22所示,在远距离测距场景中,通过直方图统计模块统计得到的原始直方图包括两个信号,第一个信号的时间范围是(5bin,13bin),第二个信号的时间范围是(52bin,60bin)。由于ToF模组与玻璃盖板之间的距离,小于ToF模组与被测对象之间的距离,因此ToF模组接收到串扰信号的时间,早于接收到目标信号的时间。基于此,CPU可以确定第一个信号是串扰信号,第二个信号是目标信号,并分别得到串扰信号的信号参数和目标信号的信号参数,即,从直方图中分离出串扰信号和目标信号。
S204、CPU基于串扰信号的接收时间和目标信号的接收时间,计算深度值。
在一些实施例中,串扰信号的接收时间和目标信号的接收时间可以通过下述任意一种方式确定:
方式1,CPU可以基于串扰信号的接收时间的信号参数和目标信号的信号参数,确定目标信号的波峰时间和串扰信号的波峰时间,然后将目标信号的波峰时间减去串扰信号的波峰时间,得到飞行时间Δt,之后基于飞行时间Δt计算深度值。
示例性地,如图22所示,CPU可以从通过直方图统计模块统计得到的原始直方图中分离出串扰信号和目标信号,并分别确定串扰信号的波峰时间和目标信号的波峰时间,然后,基于下述关系式(3)计算深度值。
其中,depth表示深度值。Kpeak1表示目标信号的波峰时间,即目标信号的波峰在横轴上的第几个bin。Kpeak2表示串扰信号(即第一参考信号)的波峰时间,即串扰信号的波峰在横轴上的第几个bin。q表示每个bin的时间长度,比如q=500ps/bin。c表示光速。
方式2,CPU可以基于质心法分别在目标信号中寻找第一质心,在串扰信号中寻找第二质心;将第一质心的时间减去第二质心的时间,得到飞行时间Δt;然后,基于飞行时间Δt计算深度值。
示例性地,质心法的关系式如下:
其中,CentroidTof表示质心的时间。Index表示bin在横轴的位置。Count表示bin的光子数量。M表示脉冲全宽度。n代表脉冲上升沿位置。
CPU可以在图22所示的与串扰信号对应的直方图的基础上,通过关系式(4)确定串扰信号的质心时间。CPU还可以在图22所示的与目标信号对应的直方图的基础上,通过关系式(4)确定目标信号的质心时间。
然后,CPU可以基于下述关系式(5)计算深度值。
其中,depth表示深度值。CentroidTof1表示目标信号的质心时间。CentroidTof2表示串扰信号的质心时间。q表示每个bin的时间长度,比如q=500ps/bin。c表示光速。
方式3,CPU可以基于三点法,在目标信号的拟合曲线中寻找第一波峰,在串扰信号的拟合曲线中寻找第二波峰;将第一波峰的时间减去第二波峰的时间,得到飞行时间Δt;基于飞行时间Δt计算深度值。
如图23所示,三点法的关系式可以如下:
其中,δ表示直方图的波峰时间K与拟合曲线的波峰Kpeak的时间差。Xk-1、Xk、Xk+1分别表示在拟合曲线中与横轴上的K-1、K、K+1对应的光强度。
CPU可以在图22所示的与串扰信号对应的直方图的基础上进行拟合,得到第二拟合曲线,然后基于关系式(6)在第二拟合曲线中寻找第二波峰。CPU还可以在图22所示的与目标信号对应的直方图的基础上进行拟合,得到第一拟合曲线,然后基于关系式(6)在第一拟合曲线中寻找第一波峰。
然后,CPU可以基于下述关系式(7)计算深度值。
其中,depth表示深度值。Kpeak1表示第一拟合曲线的波峰。Kpeak2表示第二拟合曲线的波峰。Ka表示目标信号的直方图的波峰。Kb表示串扰信号的直方图的波峰。δ1表示Ka与Kpeak1的时间差。δ2表示Kb与Kpeak2的时间差。q表示每个bin的时间长度,比如q=500ps/bin。c表示光速。
上述方式1至方式3计算深度值的思想基本一致:在目标信号和串扰信号中分别确定最能表征信号接收时间的特征点,将两个特征点的时间相减得到飞行时间Δt,之后基于飞行时间Δt计算深度值。应理解,当电子设备与被测对象之间的距离比较远时,串扰信号的包络位置和目标信号的包络位置在横轴上相隔较远,两个信号的波峰可以区分开,因此可以采用双峰相减的方式得到飞行时间Δt。
S205、CPU基于与第一像素对应的预设参考信号,从直方图中分离出目标信号。
上述从直方图中分离出目标信号是指:基于与第一像素对应的预设参考信号的信号数据,从直方图的数组中分离出目标信号的数组。目标信号的数组包含了目标信号的包络形状、目标信号的包络位置、目标信号的强度分布等信号参数。
在电子设备的环境参量基本保持不变的情况下,玻璃盖板返回的串扰信号的包络形状、串扰信号的包络位置、串扰信号的强度分布、串扰信号的波峰位置等参数也基本保持不变。当电子设备与被测对象之间的距离比较近时,串扰信号的包络位置和目标信号的包络位置在横轴上比较接近,使得两个信号的包络重叠,两个信号的波峰无法明显区分开。在这种情况下,电子设备可以将与第一像素对应的预设参考信号视为在本次探测时长内实际测得的串扰信号,即,直方图的信号包络可被视为预设参考信号和目标信号的叠加后形成的包络。电子设备可以基于预设参考信号的标定数据,从直方图中还原出目标信号。
参照上述实施例的描述,如果S202通过第一种校正方案实现,即,对与第一像素对应的预设参考信号的横轴位置进行了校正,那么S205具体可以通过下述方式实现:CPU基于校正后的预设参考信号的信号数据,从通过直方图统计模块统计得到的原始直方图中分离出目标信号。可以理解,在保持原始直方图中信号包络的横轴位置不变的情况下,通过对预设参考信号沿着横轴进行了偏移,从而提升了在近距离测距场景中基于预设参考信号从直方图中还原出的目标信号的准确性,进而提高了最终计算得到的深度值的准确性。
参照上述实施例的描述,如果S202通过第二种校正方案实现,即,对通过直方图统计模块统计得到的直方图的横轴位置进行校正,那么S205具体可以通过下述方式实现:CPU基于与第一像素对应的预设参考信号的信号数据,从校正后的直方图中分离出目标信号。可以理解,在保持预设参考信号不变的情况下,通过对原始直方图中的串扰信号和目标信号沿着横轴进行了偏移,从而提升了在近距离测距场景中基于预设参考信号从直方图中还原出的目标信号的准确性,进而提高了最终计算得到的深度值的准确性。
S206、CPU基于与第一像素对应的预设参考信号的接收时间和目标信号的接收时间,计算深度值。
需要说明的是,与第一像素对应的预设参考信号的接收时间、目标信号的接收时间,可以参照上述204的方式1至方式3中的任意一种方式确定。即,与第一像素对应的预设参考信号的接收时间、目标信号的接收时间可以是直方图的波峰时间,也可以是基于质心法得到的质心时间,还可以是基于三点法得到的拟合曲线的波峰时间。可以参照上述204的具体描述,此处不再赘述。
示例性地,图24示出了一种在未对预设参考信号和原始直方图的横轴位置进行校正的情况下计算深度值的示意图。如图24中的(a)所示,在通过直方图统计模块统计得到的原始直方图中,串扰信号的包络位置和目标信号的包络位置在横轴上比较接近,使得两个信号的包络重叠,无法区分出串扰信号的波峰和目标信号的波峰。如图24中的(b)所示,在与第一像素对应的预设参考信号的直方图中,波峰在横轴上的位置为第7个bin。CPU可以在如图24中的(a)所示的直方图上,去除如图24中的(b)所示的预设参考信号,得到如图24中的(c)所示的目标信号,其中,目标信号的波峰在横轴上的位置为第10个bin。如图24中的(d)所示,CPU将第7个bin作为0距离点,按照下述关系式(8)计算深度值。
其中,depth表示深度值。q表示每个bin的时间长度,比如q=500ps/bin。c表示光速。
示例性地,图25示出了一种在对直方图的横轴位置进行校正的情况下计算深度值的示意图。如图25中的(a)所示,CPU基于当前的环境温度和ToF模组的电压,将通过直方图统计模块统计得到的原始直方图沿着横轴向左偏移2bin,得到校正后的直方图。如图25中的(b)所示,在EMS的整机产线阶段标定的预设参考信号中,波峰在横轴上的位置为第7个bin。 CPU可以在如图25中的(a)所示的校正后的直方图上,去除如图25中的(b)所示的预设参考信号,得到如图25中的(c)所示的目标信号,其中,目标信号的波峰在横轴上的位置为第11个bin。如图25中的(d)所示,CPU将第7个bin作为0距离点,计算从第7个bin到第11个bin的飞行时间,然后基于该飞行时间计算深度值。
示例性地,图26示出了一种在对预设参考信号的横轴位置进行校正的情况下计算深度值的示意图。示例性地,如图26中的(a)所示,保持通过直方图统计模块统计得到的原始直方图中信号包络的横轴位置不变。如图26中的(b)所示CPU基于当前的环境温度和ToF模组的电压,将预设参考信号沿着横轴向右偏移2bin,得到校正后的参考信号,其中,第二参考信号的波峰在横轴上的位置为第9个bin。CPU可以在如图26中的(a)所示的原始直方图的基础上,去除如图26中的(b)所示的第二参考信号,得到如图26中的(c)所示的目标信号,其中,目标信号的波峰在横轴上的位置为第13个bin。如图26中的(d)所示,CPU将第9个bin作为0距离点,计算从第9个bin到第13个bin的飞行时间,然后基于该飞行时间计算深度值。
针对在远距离测距和近距离测距时,直方图中串扰信号和目标信号的包络位置的不同分布规律,上述实施例提供了一种深度值确定方法:先判断反射回目标信号的被测对象是否处于较近的距离;当被测对象处于远距离测距范围时,串扰信号的包络位置和目标信号的包络位置在横轴上相隔较远,两个信号的波峰可以区分开,因此可以采用双峰相减的方式得到深度值;当被测对象处于近距离测距范围时,两个信号的波峰无法明显区分开,CPU可以将预设参考信号视为在本次探测时长内实际测得的串扰信号,并基于预设参考信号从直方图中还原出目标信号,然后基于预设参考信号和目标信号的接收时间得到深度值。
参照上述实施例的描述,标定数据时电子设备的环境温度与本次探测时电子设备的环境温度可能并不相同,在标定数据时ToF模组的电压与本次探测时ToF模组的电压也可能有所不同,这些环境参量的变化可能会影响到深度值的准确性。鉴于电子设备的环境温度和ToF模组的电压的变化可能会影响到深度值的准确性,本申请提供了温度补偿模型和电压补偿模型。其中,温度补偿模型用于在电子设备的环境温度发生变化时对深度值进行校正,电压补偿模型用于在ToF模组的电压发生变化时对深度值进行校正。
下面以某个ToF模组中接收端面阵器件的中心像素举例,控制环境温度或电压单一变量,获得变量与应变量(即深度值)的偏移关系,从而基于该偏移关系确定温度补偿模型和电压补偿模型的方式进行示例说明。
示例性地,温度补偿模型的获取方式如下:
①如图27所示,建立以温度为横轴,深度值为纵轴的坐标系。
②在预设温度范围内,测量最低温度的深度值,然后从最低温度开始逐渐升温,每间隔预设温度(如1℃或2℃)测量一次深度值,直至获得最高温度的深度值。在这个过程中,记录与每个温度对应的深度值。其中,预设温度范围可以为-20℃至70℃,也可以为图27所示的0℃至90℃,可以根据实际使用需要调整,本申请不作限定。
③基于②记录的与每个温度对应的深度值,在通过①建立的坐标系中标记出各个离散点。
④对各个离散点进行拟合,得到第一拟合线。
其中,第一拟合线为一条直线,对应纵坐标为左侧的深度值,单位为mm。
⑤获取每个离散点与第一拟合曲线在纵轴方向的偏移量。
⑥在通过①建立的坐标系中标记与每个离散点对应的偏移量,得到第二拟合线。
其中,第二拟合线对应的纵坐标为左侧的偏移量,单位为mm。
⑦基于第一拟合线和第二拟合线的斜率,得到温度补偿模型的关系式(9):
thermaloffset=a*(temperature-inittemp)2+b*(temperature-inittemp)。
其中,thermaloffset代表深度值调整量。a代表第一拟合线的斜率。b代表第二拟合线的斜率。temperature代表本次探测时电子设备的环境温度。inittemp代表基准温度,基准温度是指在标定数据时电子设备的环境温度,比如inittemp=25℃。
在本次探测时,参数a、b和inittemp为预设的,参数temperature可以实时获取,这样基于温度补偿模型的表达式,电子设备可以计算得到深度值调整量,然后基于深度值调整量可以得到时间调整量。
参照上述实施例的描述,当在标定数据时电子设备的环境温度与本次探测时电子设备的环境温度不同时,串扰信号的包络位置和目标信号的包络位置会在横轴上发生整体偏移。通过上述方式得到温度补偿模型后,电子设备可以将在标定数据时电子设备的环境温度与本次探测时电子设备的环境温度代入温度补偿模型,从而计算得到时间调整量,然后基于时间调整量校正飞行时间,从而得到更为准确的深度值。
示例性地,电压补偿模型的获取方式如下:
①如图28所示,建立以档位为横轴,深度值为纵轴的坐标系。
②在预设电压档位内,测量最小档位的深度值,然后从最小档位开始逐渐增加档位,测量每个档位的深度值,直至获得最大电压的深度值。在这个过程中,记录与每个档位对应的深度值。
作为一种示例,电子设备可以预先设置多个电压档位,每变化一个电压档位,ToF模组的电压增加或减小10mv。通常,ToF模组的电压在16档位至18档位之间。通常每切换一个档位,则ToF模组的电压增加或减小110mv~130mv。比如,当从16档位切换18档位时,ToF模组的电压增加220mv~260mv,测量得到的深度值减小8mm。
③基于②记录的与每个档位对应的深度值,在通过①建立的坐标系中标记出多个离散点。
④对多个离散点进行拟合,得到电压拟合线。
基于电压拟合线的斜率,得到电压补偿模型的关系式(10):
Vspadoffset=Vspaddelta*ratiotof*1000
=(|Vspadmeas|-Vcalc)*ratiotof*1000。
=(|Vspadmeas|-(|Vspad1|+(bvdcurrent-bvd1)*bvdlsb))*ratiotof*1000
其中,Vspadoffset代表深度值调整量。Vspaddelta代表本次探测时ToF模组的电压值与在标定数据时记录的电压值的差值。Vspadmeas代表本次探测时ToF模组的电压,单位为mv。Vspad1代表在标定数据时记录的电压值,单位为mv。bvdcurrent代表本次探测时的档位。bvd1代表在标定数据时记录的档位。bvdlsb代表切换单个档位时改变的电压值,单位为mv。ratiotof代表电压拟合线的斜率。
在本次探测时,参数Vspad1、bvd1、bvdlsb和ratiotof为预设的,参数Vspadmeas和bvdcurrent可以实时获取,这样基于电压补偿模型的表达式,电子设备可以计算得到深度值调整量,然后基于深度值调整量D=c*Δt/2可以得到时间调整量。
下面结合上述温度补偿模型和电压补偿模型,提供一种计算时间调整量的具体示例。
示例性地,在本次探测时,电子设备可以基于温度传感器采集当前所处环境的温度值,作为电子设备的环境温度。电子设备还可以通过模数转换器(analog-to-digital converter,ADC)采集ToF模组的接收端的电压值,作为ToF模组的电压。
本次探测时电子设备的环境温度temperature=40℃,基准温度inittemp=25℃,第一拟合线的斜率a=0.5,第二拟合线的斜率b=0.01。电子设备可以将这些数值代入关系式(9),得到与电子设备的环境温度对应的深度值调整量:
thermaloffset=0.5*(40-25)2-0.01*(40-25)=112.35mm。
然后,电子设备可以将thermaloffset=112.35mm,代入得到与电子设备的环境温度对应的时间调整量:tthermal
在电子设备的环境温度为40℃时,本次探测时ToF模组的电压Vspadmeas=18300mv,在标定数据时记录的电压值Vspad1=18000mv,本次探测时的档位bvdcurrent=18,在标定数据时记录的档位bvd1=16,切换单个档位时改变的电压值bvdlsb=110mv,电压拟合线的斜率ratiotof=-0.08mm/mv。电子设备可以将这些数值代入关系式(10),得到与本次探测时ToF模组的电压对应的深度值调整量:Vspadoffset=6.4mm。
然后,电子设备可以将Vspadoffset=6.4mm,代入得到与电子设备的环境温度对应的时间调整量:tvspad
最终,电子设备可以得到总时间调整量:tthermal+tvspad
以总时间调整量为2bin为例,CPU可以将通过直方图统计模块统计得到的原始直方图沿着横轴向左偏移2bin,得到校正后的直方图。或者,CPU可以将预设参考信号沿着横轴向右偏移2bin,得到校正后的参考信号。
参照上述实施例的描述,当在标定数据时ToF模组的电压与本次探测时ToF模组的电压不同时,串扰信号的包络位置和目标信号的包络位置会在横轴上发生整体偏移。在通过上述方式得到时间调整量后,电子设备可以基于时间调整量校正飞行时间,从而校正深度值。
需要说明的是,上述温度补偿模型和电压补偿模型仅是示例性说明,其并不对本申请形成限定。在实际实现时,可以采用其他方式建立温度补偿模型和电压补偿模型。另外,电子设备可以仅设置温度补偿模型,也可以仅设置电压补偿模型,还可以设置温度补偿模型和电压补偿模型。应理解,当电子设备设置了温度补偿模型和电压补偿模型时,电子设备可以基于温度补偿模型和电压补偿模型分别校正飞行时间。
在本申请实施例中,温度补偿模型和电压补偿模型是在电子设备出厂前预先配置的。由于温度补偿模型和电压补偿模型是基于少量的ToF模组生成的,因此温度补偿模型和电压补偿模型只能反映ToF模组之间的一些共性特征。基于ToF模组之间的个性差异,根据温度补偿模型和电压补偿模型计算得到的深度补偿值可能存在一定误差。为此,如图29所示,本申请还提供了一种优化温度补偿模型和电压补偿模型的方法。
示例性地,如图29所示,在通过S202在直方图内未寻找到满足预设条件的波峰(远距离测距场景)的情况下,CPU还可以执行下述S301-S306。
S301、CPU每间隔第一帧数(如100帧),记录一组数据。
每组数据包括:在当前时刻串扰信号的信号参数、在当前时刻ToF模组的电压的变化值(简称为电压变化值)、在当前时刻电子设备的环境温度。当前时刻串扰信号的信号参数可以包括:当前时刻串扰信号的包络形状、当前时刻串扰信号的包络位置、当前时刻串扰信号的强度分布等信号参数。
S302、CPU可以在预设温度范围(-20℃,70℃)内按照预设温度间隔(如2℃),在预 设电压变化范围(-130mv,130mv)内按照预设电压间隔(如10mv),设置多个环境参量分组,每个环境参量分组对应一个温度值和一个电压变化值。在每次记录一组数据之后,CPU可以基于每组数据中的温度值和电压变化值,在与之对应的环境参量分组中添加标签(tag),之后执行下述S303和S304。另外,在一个环境参量分组添加标签时,CPU判断这个环境参量分组的标签数量是否大于预设标签数量(如5个),如果大于预设标签数量,那么CPU将这个环境参量分组中最早添加的标签及其对应的一组数据删除。
表2示出了在预设电压变化范围(-130mv,130mv)内,温度在(20℃,32℃)内统计的各个环境参量分组的标签。比如,在温度28°和电压变化值-50mv对应的环境参量分组中的标签数量为5,代表这个环境参量分组记录了5组数据。
表2
S303、CPU判断在预设温度范围(-20℃,70℃)内的任意一个温度下,与一个温度对应的各个环境参量分组是否满足下述条件1和条件2。
条件1:第一环境参量分组和第二环境参量分组的电压差值大于或等于最大电压跨度值(如70mv)。其中,第一环境参量分组和第二环境参量分组为在一个温度下已添加标签的任意两个环境参量分组。
条件2:第三环境参量分组和第四环境参量分组的电压差值小于或等于最小电压跨度值(如20mv)。其中,第三环境参量分组和第四环境参量分组为在一个温度下已添加标签的任意两个环境参量分组。
参照上述表2,在温度22℃下有4个环境参量分组已添加标签:与-120mv对应的环境参量分组,与-10mv对应的环境参量分组,与0mv对应的环境参量分组,与80mv对应的环境参量分组。由于从与-120mv对应的环境参量分组到与80mv对应的环境参量分组的电压跨度值为200mv,大于最大电压跨度值70mv,因此确定满足条件1。由于从与-10mv对应的环境参量分组到与0mv对应的环境参量分组的电压跨度值为10mv,小于最小电压跨度值20mv,因此确定满足条件2。
如果满足条件1和条件2,那么CPU执行S304。
S304、CPU将在该温度下各个环境参量分组内的离散点的权重设置为第一权重值(如2),将电压补偿模型的离散点权重设置为第二权重值(如0.5),根据最小二乘法拟合曲线,得到新电压补偿模型。
其中,第二权重值小于第一权重值。电压补偿模型的离散点包括电压值,根据串扰信号的横轴坐标位置确定的深度值。
S305、CPU判断在预设电压变化范围(-130mv,130mv)内的任意一个电压变化值下,与一个电压变化值对应的各个环境参量分组是否满足下述条件3和条件4。
条件3:第五环境参量分组和第六环境参量分组的温度差值大于或等于最大温度跨度值(如40℃)。其中,第五环境参量分组和第六环境参量分组为在一个电压变化值下已添加标签的任意两个环境参量分组。
条件4:第七环境参量分组和第八环境参量分组的温度差值小于或等于最小温度跨度值(如4℃)。其中,第七环境参量分组和第八环境参量分组为在一个电压变化值下已添加标签的任意两个环境参量分组。
如果满足条件3和条件4,那么CPU执行下述S306。
S306、CPU将在该电压变化值下各个环境参量分组内的离散点的权重设置为第三权重值(如2),将温度补偿模型的离散点权重设置为第四权重值(如0.5),根据最小二乘法拟合曲线,得到新温度补偿模型。
其中,第二权重值小于第一权重值。温度补偿模型的离散点包括温度值,根据串扰信号的横轴坐标位置确定的深度值。
在上述实施例中,在远距离测距场景中,串扰信号的包络位置和目标信号的包络位置在横轴上相隔较远,两个信号的波峰可以区分开,因此CPU可以在整机使用过程中从远距离测距场景的直方图中分离出串扰信号,并基于串扰信号、与串扰信号对应的环境温度和电压,持续优化温度补偿模型和电压补偿模型,从而使得根据温度补偿模型和电压补偿模型得到的深度补偿值更为准确。
示例性地,图30为在不同电压下的两种深度值的示意图。
假设电子设备与被测对象之间的真实距离是700mm。如图30中的(a)所示,在将ToF 模组组装到电子设备之后,若基于ToF模组厂提供的深度值确定方法,最终得到的深度值是670mm,与真实距离相差30mm。如图30中的(b)所示,在将ToF模组组装到电子设备之后,若基于本申请提供的深度值确定方法,最终得到的深度值是690mm,与真实距离相差10mm。可以理解,由于ToF模组厂使用的电压与ToF模组的实际电压有一定差异,因此基于ToF模组厂提供的深度值确定方法获得的深度值不够准确。而当采用本申请提供的深度值确定方法时,由于设置了温度补偿模型和电压补偿模型,且持续优化温度补偿模型和电压补偿模型,因此可以基于温度补偿模型和电压补偿模型获得更为准确的深度值。
示例性地,图31为本申请实施例提供的一种电子设备的结构示意图。
如图31所示,电子设备400可以包括处理器410,内部存储器420,ToF模组430,摄像头440,显示屏450,音频模块460,扬声器460A,受话器460B,麦克风460C,耳机接口460D等。
处理器410可以用于执行上述实施例中的深度值确定方法。处理器410可以包括一个或多个处理单元,例如,处理器410可以包括中央处理器(central processing unit,CPU)、图形处理器(graphics processing unit,GPU)、应用处理器(application processor,AP)、图像信号处理器(image signal processor,ISP)等。
内部存储器420可以用于存储计算机可执行程序代码,可执行程序代码包括指令。处理器410通过运行存储在内部存储器420的指令,从而执行电子设备400的各种功能应用以及数据处理。内部存储器420可以包括存储程序区和存储数据区。其中,存储程序区可以存储操作系统,至少一个功能所需的应用程序(application,APP),比如,相机应用和图库应用等。存储数据区可以存储各个APP的配置文件。
ToF模组430可以用于测量电子设备与被测对象之间的距离,即深度值。在一些实施例中,电子设备400可以包括1个或多个ToF模组430。
摄像头440可以用于基于ToF模组430获得的深度值,向前或向后移动与深度值对应的距离,实现对焦近景和虚化远景等拍摄效果。在一些实施例中,电子设备400可以包括1个或多个摄像头440。
显示屏450包括显示面板,用于显示摄像头440拍摄的照片或视频等。
另外,电子设备400可以通过音频模块460,扬声器460A,受话器460B,麦克风460C,耳机接口460D等实现音频功能。例如音频等。
本申请实施例还提供了一种计算机可读存储介质,该计算机可读存储介质中存储有计算机指令。当该计算机可读存储介质在电子设备上运行时,使得电子设备执行如上述实施例所示的方法。该计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输。该计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可以用介质集成的服务器、数据中心等数据存储设备。可用介质可以是磁性介质,光介质或者半导体介质等。
本申请实施例还提供了一种计算机程序产品,该计算机程序产品包括计算机程序代码,当计算机程序代码在电子设备上运行时,使得电子设备执行上述各实施例中的方法。
本申请实施例还提供了一种芯片系统。该芯片系统应用于电子设备。该芯片系统包括一个或多个处理器,一个或多个处理器用于调用计算机指令以使得电子设备执行上述各实施例中的方法。
本申请实施例提供的电子设备、计算机可读存储介质、计算机程序产品以及芯片系统均用于执行上述实施例所提供的方法,因此,其所能达到的有益效果可参考上文所提供的方法 对应的有益效果,此处不再赘述。
在本申请的描述中,“/”表示或的意思,例如,A/B可以表示A或B。在本申请的描述中,“和/或”仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。
在本申请的说明书和权利要求书中的术语“第一”和“第二”等是用于区别不同的对象,或者用于区别对同一对象的不同处理,而不是用于描述对象的特定顺序。例如,第一操作和第二操作等是用于区别不同的操作,而不是用于描述操作的特定顺序。在本申请实施例中,“多个”是指两个或两个以上。
通过以上的实施方式的描述,所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将装置的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
以上内容,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何在本申请揭露的技术范围内的变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以权利要求的保护范围为准。

Claims (21)

  1. 一种深度值确定方法,其特征在于,所述方法应用于电子设备,所述电子设备的盖板下方设置有深度检测模组,所述深度检测模组包括发射端和接收端;所述方法包括:
    所述电子设备通过所述接收端接收脉冲信号,所述脉冲信号包括第一串扰信号和目标信号,所述第一串扰信号为所述发射端发射并经过所述盖板反射回来的信号,所述目标信号为所述发射端发射并经过被测对象反射回来的信号;
    所述电子设备基于第二串扰信号的接收时间和所述目标信号的接收时间,确定所述被测对象的深度值,所述第二串扰信号为所述第一串扰信号,或者,所述第二串扰信号为预设串扰信号。
  2. 根据权利要求1所述的方法,其特征在于,在所述电子设备基于第二串扰信号的接收时间和所述目标信号的接收时间,确定所述被测对象的深度值之前,所述方法还包括:
    所述电子设备基于所述第二串扰信号,从所述脉冲信号中分离出所述目标信号。
  3. 根据权利要求2所述的方法,其特征在于,所述电子设备基于所述第二串扰信号,从所述脉冲信号中分离出所述目标信号,包括:
    所述电子设备基于所述脉冲信号生成第一直方图,所述第一直方图的横轴表示所述脉冲信号的接收时间,所述第一直方图的纵轴表示所述脉冲信号的信号强度;
    若在所述第一直方图的预设寻峰范围内寻找到满足预设条件的波峰,则所述电子设备基于所述预设串扰信号,从所述第一直方图中分离出所述目标信号;
    若在所述第一直方图的预设寻峰范围内未寻找到满足所述预设条件的波峰,则所述电子设备在所述第一直方图中分别确定所述第一串扰信号和所述目标信号,所述第一串扰信号的接收时间早于所述目标信号的接收时间;
    其中,所述预设寻峰范围根据所述预设串扰信号的波峰位置确定。
  4. 根据权利要求2所述的方法,其特征在于,所述电子设备基于所述第二串扰信号,从所述脉冲信号中分离出所述目标信号,包括:
    所述电子设备基于所述脉冲信号生成第一直方图,所述第一直方图的横轴表示所述脉冲信号的接收时间,所述第一直方图的纵轴表示所述脉冲信号的信号强度;
    基于所述电子设备的环境温度和所述深度检测模组的电压,所述电子设备对所述第一直方图中所述脉冲信号的接收时间进行调整,得到第二直方图;
    若在所述第二直方图的预设寻峰范围内寻找到满足预设条件的波峰,则所述电子设备基于所述预设串扰信号,从所述第二直方图中分离出所述目标信号;
    若在所述第二直方图的预设寻峰范围内未寻找到满足所述预设条件的波峰,则所述电子设备在所述第一直方图中分别确定所述第一串扰信号和所述目标信号,所述第一串扰信号的接收时间早于所述目标信号的接收时间;
    其中,所述预设寻峰范围根据所述预设串扰信号的波峰位置确定。
  5. 根据权利要求2所述的方法,其特征在于,所述电子设备基于所述第二串扰信号,从所述脉冲信号中分离出所述目标信号,包括:
    所述电子设备基于所述脉冲信号生成第一直方图,所述第一直方图的横轴表示所述脉冲信号的接收时间,所述第一直方图的纵轴表示所述脉冲信号的信号强度;
    基于所述电子设备的环境温度和所述深度检测模组的电压,所述电子设备对所述预设串扰信号的接收时间进行调整;
    若在所述第一直方图的预设寻峰范围内寻找到满足预设条件的波峰,则所述电子设备基于调整后的所述预设串扰信号,从所述第一直方图中分离出所述目标信号;
    若在所述第一直方图的预设寻峰范围内未寻找到满足所述预设条件的波峰,则所述电子设备在所述第一直方图中分别确定所述第一串扰信号和所述目标信号,所述第一串扰信号的接收时间早于所述目标信号的接收时间;
    其中,所述预设寻峰范围根据调整后的所述预设串扰信号的波峰位置确定。
  6. 根据权利要求3至5中任一项所述的方法,其特征在于,所述预设条件包括:
    寻找的波峰的信号强度大于背景噪声的强度;
    寻找的波峰的信号强度大于所述预设串扰信号的信号强度的N倍。
  7. 根据权利要求4所述的方法,其特征在于,所述电子设备对所述第一直方图中所述脉冲信号的接收时间进行调整,包括:
    所述电子设备将所述脉冲信号的信号包络沿着横轴的第一方向偏移目标调整量。
  8. 根据权利要求5所述的方法,其特征在于,所述电子设备对所述预设串扰信号的接收时间进行调整,包括:
    所述电子设备将所述预设串扰信号的信号包络沿着横轴的第二方向偏移目标调整量。
  9. 根据权利要求7或8所述的方法,其特征在于,所述方法还包括:
    所述电子设备获取所述电子设备的环境温度和所述深度检测模组的电压;
    所述电子设备基于所述电子设备的环境温度和温度补偿模型,获取第一时间调整量;
    所述电子设备基于所述深度检测模组的电压和电压补偿模型,获取第二时间调整量;
    所述电子设备将所述第一时间调整量与所述第二时间调整量之和,作为所述目标调整量;
    其中,所述温度补偿模型是根据多个第一深度值生成的,所述多个第一深度值为在预设电压下通过改变环境温度得到的深度值;所述电压补偿模型是根据多个第二深度值生成的,所述多个第二深度值为在预设温度下通过改变深度检测模组的电压得到的深度值。
  10. 根据权利要求9所述的方法,其特征在于,所述方法还包括:
    在寻找到的波峰的信号强度不满足所述预设条件的情况下,所述电子设备存储一组数据,所述一组数据包括:所述电子设备的环境温度、所述深度检测模组的电压和所述第一串扰信号的信号参数;
    在所述电子设备存储的多组数据满足更新条件的情况下,所述电子设备更新所述温度补偿模型或所述电压补偿模型。
  11. 根据权利要求1至10中任一项所述的方法,其特征在于,所述第二串扰信号为所述第一串扰信号;所述电子设备基于第二串扰信号的接收时间和所述目标信号的接收时间,确定所述被测对象的深度值,包括:
    所述电子设备将所述目标信号的接收时间减去所述第一串扰信号的接收时间,得到第一飞行时间;基于所述第一飞行时间,确定所述被测对象的深度值。
  12. 根据权利要求1至10中任一项所述的方法,其特征在于,所述第二串扰信号为预设串扰信号;所述电子设备基于第二串扰信号的接收时间和所述目标信号的接收时间,确定所述被测对象的深度值,包括:
    所述电子设备将所述目标信号的接收时间减去所述预设串扰信号的接收时间,得到第二飞行时间;基于所述第二飞行时间,确定所述被测对象的深度值。
  13. 根据权利要求1至12中任一项所述的方法,其特征在于,所述接收端包括多个像素;
    所述电子设备基于第二串扰信号的接收时间和所述目标信号的接收时间,确定所述被测对象的深度值,包括:
    所述电子设备确定与第一像素对应的所述预设串扰信号的接收时间,以及与所述第一像素对应的所述目标信号的接收时间,所述第一像素为所述多个像素中的任意一个像素;
    所述电子设备基于与第一像素对应的所述预设串扰信号的接收时间,以及与第一像素对应的所述目标信号的接收时间,确定与所述第一像素对应的深度值。
  14. 根据权利要求13所述的方法,其特征在于,所述电子设备确定与第一像素对应的所述预设串扰信号的接收时间,包括:
    所述电子设备基于一个像素的串扰信号的包络形状、与所述第一像素对应的所述预设串扰信号的强度分布、与所述第一像素对应的所述预设串扰信号的包络位置,确定与所述第一像素对应的所述预设串扰信号的接收时间;
    其中,一个像素的串扰信号的包络形状、与所述第一像素对应的所述预设串扰信号的强度分布、与所述第一像素对应的所述预设串扰信号的包络位置为预先在所述电子设备中存储的数据。
  15. 一种电子设备,其特征在于,所述电子设备包括盖板,以及设置在所述盖板下方的深度检测模组;所述深度检测模组包括发射端和接收端;
    其中,所述发射端用于发射脉冲信号;所述接收端用于接收通过被测物体和所述盖板反射回来的所述脉冲信号;处理器用于调用指令,使得所述电子设备执行如权利要求1至12中任一项所述的深度值确定方法;所述处理器为所述电子设备中与所述深度检测模组连接的主处理器,或者所述处理器为所述深度检测模组中的数字信号处理器。
  16. 根据权利要求15所述的电子设备,其特征在于,所述发射端包括脉冲激光器和光散射元件,所述脉冲激光器用于发射所述脉冲信号,所述光散射元件用于对所述脉冲信号进行散射处理。
  17. 根据权利要求15所述的电子设备,其特征在于,所述接收端包括光探测元件、脉冲响应滤波器和光接收器,所述光探测元件用于对接收到的光线进行汇聚,所述脉冲响应滤波器用于对汇聚后的光线进行滤波,所述光接收器用于将滤波后的光线转换为所述脉冲信号。
  18. 根据权利要求17所述的电子设备,其特征在于,所述光接收器为由多个单光子雪崩二极管传感器组成的面阵器件。
  19. 根据权利要求15至18中任一项所述的电子设备,其特征在于,所述发射端发射光束的对向角为70°,所述接收端接收光束的对向角为70°,所述深度检测模组在光轴方向的厚度为2.48mm,从所述深度检测模组的上表面到所述盖板的下表面之间的距离为0.8mm,从所述发射端的几何中心到所述接收端的几何中心之间的距离为4mm。
  20. 一种芯片系统,其特征在于,所述芯片系统应用于电子设备,所述芯片系统包括一个或多个处理器,所述一个或多个处理器用于调用计算机指令以使得所述电子设备执行如权利要求1至14中任一项所述的方法。
  21. 一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,当所述计算机程序在电子设备上运行时,使得所述电子设备执行如权利要求1至14中任一项所述的深度值确定方法。
PCT/CN2024/071092 2024-01-08 2024-01-08 深度值确定方法、设备、芯片系统及存储介质 Pending WO2025147802A1 (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
PCT/CN2024/071092 WO2025147802A1 (zh) 2024-01-08 2024-01-08 深度值确定方法、设备、芯片系统及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2024/071092 WO2025147802A1 (zh) 2024-01-08 2024-01-08 深度值确定方法、设备、芯片系统及存储介质

Publications (1)

Publication Number Publication Date
WO2025147802A1 true WO2025147802A1 (zh) 2025-07-17

Family

ID=96386028

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/CN2024/071092 Pending WO2025147802A1 (zh) 2024-01-08 2024-01-08 深度值确定方法、设备、芯片系统及存储介质

Country Status (1)

Country Link
WO (1) WO2025147802A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN121028107A (zh) * 2025-10-28 2025-11-28 武汉北极芯微电子有限公司 光学测距方法及装置

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190235049A1 (en) * 2018-01-30 2019-08-01 Motorola Mobility Llc Crosstalk detection and compensation
US20200088875A1 (en) * 2017-05-19 2020-03-19 Sharp Kabushiki Kaisha Optical sensor and electronic device
CN111133329A (zh) * 2017-09-22 2020-05-08 ams有限公司 校准飞行时间系统的方法和飞行时间系统
CN112255636A (zh) * 2020-09-04 2021-01-22 奥诚信息科技(上海)有限公司 一种距离测量方法、系统及设备
US20210033711A1 (en) * 2019-07-29 2021-02-04 Infineon Technologies Ag Optical crosstalk mitigation in lidar using digital signal processing
US20220187431A1 (en) * 2020-12-11 2022-06-16 Stmicroelectronics (Research & Development) Limited Methods and devices for crosstalk compensation
CN114745481A (zh) * 2022-03-25 2022-07-12 江西欧迈斯微电子有限公司 屏下摄像模组的深度图像校正方法、装置和电子设备

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20200088875A1 (en) * 2017-05-19 2020-03-19 Sharp Kabushiki Kaisha Optical sensor and electronic device
CN111133329A (zh) * 2017-09-22 2020-05-08 ams有限公司 校准飞行时间系统的方法和飞行时间系统
US20190235049A1 (en) * 2018-01-30 2019-08-01 Motorola Mobility Llc Crosstalk detection and compensation
US20210033711A1 (en) * 2019-07-29 2021-02-04 Infineon Technologies Ag Optical crosstalk mitigation in lidar using digital signal processing
CN112255636A (zh) * 2020-09-04 2021-01-22 奥诚信息科技(上海)有限公司 一种距离测量方法、系统及设备
US20220187431A1 (en) * 2020-12-11 2022-06-16 Stmicroelectronics (Research & Development) Limited Methods and devices for crosstalk compensation
CN114745481A (zh) * 2022-03-25 2022-07-12 江西欧迈斯微电子有限公司 屏下摄像模组的深度图像校正方法、装置和电子设备

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN121028107A (zh) * 2025-10-28 2025-11-28 武汉北极芯微电子有限公司 光学测距方法及装置

Similar Documents

Publication Publication Date Title
JP6709335B2 (ja) 光センサ、電子機器、演算装置、及び光センサと検知対象物との距離を測定する方法
CN112731425B (zh) 一种处理直方图的方法、距离测量系统及距离测量设备
US20210181317A1 (en) Time-of-flight-based distance measurement system and method
US8610043B2 (en) Proximity sensor having an array of single photon avalanche diodes and circuitry for switching off illumination source and associated method, computer readable medium and firmware
WO2021051478A1 (zh) 一种双重共享tdc电路的飞行时间距离测量系统及测量方法
CN112596069B (zh) 距离测量方法及系统、计算机可读介质和电子设备
US9417326B2 (en) Pulsed light optical rangefinder
US9195347B2 (en) Input device and associated method
WO2021051479A1 (zh) 一种基于插值的飞行时间测量方法及测量系统
WO2021051481A1 (zh) 一种动态直方图绘制飞行时间距离测量方法及测量系统
WO2021051480A1 (zh) 一种动态直方图绘制飞行时间距离测量方法及测量系统
US20170184704A1 (en) Apparatus for making a distance determination
EP3721261B1 (en) Distance time-of-flight modules
CN110651199A (zh) 光检测器以及便携式电子设备
JP2019215260A (ja) 精度情報を出力する測距装置
KR20210153563A (ko) 깊이 검출을 위한 히스토그램 비닝 시스템 및 방법
WO2022241942A1 (zh) 一种深度相机及深度计算方法
CN108072879A (zh) 一种光学测距的方法及装置
TWI873160B (zh) 飛行時間感測系統和其中使用的圖像感測器
US20220003864A1 (en) Distance measuring method, distance measuring device, and recording medium
GB2486164A (en) Using a single photon avalanche diode (SPAD) as a proximity detector
US20120133617A1 (en) Application using a single photon avalanche diode (spad)
CN116095499B (zh) 一种曝光时间的自调方法及曝光时间自调型深度相机
JP2021025810A (ja) 距離画像センサ、および距離画像測定装置
WO2024193131A1 (zh) Tof和结构光的融合型深度相机及其深度探测方法、扫地机

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 24915885

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 2024915885

Country of ref document: EP