DE102021117139A1 - Time-of-flight camera system and method of operating same - Google Patents
Time-of-flight camera system and method of operating same Download PDFInfo
- Publication number
- DE102021117139A1 DE102021117139A1 DE102021117139.3A DE102021117139A DE102021117139A1 DE 102021117139 A1 DE102021117139 A1 DE 102021117139A1 DE 102021117139 A DE102021117139 A DE 102021117139A DE 102021117139 A1 DE102021117139 A1 DE 102021117139A1
- Authority
- DE
- Germany
- Prior art keywords
- distance
- time
- measurement
- flight
- integration
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/06—Systems determining position data of a target
- G01S17/08—Systems determining position data of a target for measuring distance only
- G01S17/32—Systems determining position data of a target for measuring distance only using transmission of continuous waves, whether amplitude-, frequency-, or phase-modulated, or unmodulated
- G01S17/36—Systems determining position data of a target for measuring distance only using transmission of continuous waves, whether amplitude-, frequency-, or phase-modulated, or unmodulated with phase comparison between the received signal and the contemporaneously transmitted signal
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
- G01S17/894—3D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/491—Details of non-pulse systems
- G01S7/4912—Receivers
- G01S7/4913—Circuits for detection, sampling, integration or read-out
- G01S7/4914—Circuits for detection, sampling, integration or read-out of detector arrays, e.g. charge-transfer gates
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/491—Details of non-pulse systems
- G01S7/4912—Receivers
- G01S7/4915—Time delay measurement, e.g. operational details for pixel components; Phase measurement
Abstract
Verfahren zum Betreiben eines Lichtlaufzeitkamerasystems aufweisend eine Beleuchtung und einen Lichtlaufzeitsensor mit Lichtlaufzeitpixel, die Integrationsknoten (A, B, Ga, Gb) zur Akkumulation photogenerierter Ladungen aufweisen,
- wobei zur Entfernungsbestimmung die Beleuchtung und der Lichtlaufzeitsensor bzw. die Lichtlaufzeitpixel in Integrationsintervallen mit einem Modulationssignal beaufschlagt werden
und eine Entfernung anhand der Ladungsdifferenzen an den Integrationsknoten (A, B, Ga, Gb) ermittelt wird,
- wobei eine CM-Messung mit wenigstens zwei CM-Integrationsintervallen vorgesehen ist und in diesen CM-Integrationsintervallen das Lichtlaufzeitkamerasystem mit jeweils unterschiedlich kodierten Modulationssignalen betrieben wird,
- und eine CW-Messung mit wenigstens zwei CW-Integrationsintervallen vorgesehen ist und in diesen CW-Integrationsintervallen das Lichtlaufzeitkamerasystem mit jeweils unterschiedlichen Phasenlagen eines periodischen CW-Modulationssignals betrieben wird,
- wobei aus den Ladungsdifferenzen der CM- und CW-Messung ein Entfernungswert bestimmt wird.
Method for operating a time-of-flight camera system having lighting and a time-of-flight sensor with time-of-flight pixels that have integration nodes (A, B, Ga, Gb) for the accumulation of photogenerated charges,
- A modulation signal being applied to the lighting and the time-of-flight sensor or the light-time-of-flight pixels at integration intervals to determine the distance
and a distance is determined based on the charge differences at the integration nodes (A, B, Ga, Gb),
- wherein a CM measurement is provided with at least two CM integration intervals and the time-of-flight camera system is operated with differently encoded modulation signals in these CM integration intervals,
- and a CW measurement is provided with at least two CW integration intervals and the time-of-flight camera system is operated in these CW integration intervals with different phase angles of a periodic CW modulation signal,
- whereby a distance value is determined from the charge differences of the CM and CW measurement.
Description
Die Erfindung betrifft ein Lichtlaufzeitkamerasystem und ein Verfahren zum Betreiben eines solchen nach Gattung der unabhängigen Ansprüche.The invention relates to a time-of-flight camera system and a method for operating such a system according to the species of the independent claims.
Mit Lichtlaufzeitkamera bzw. Lichtlaufzeitkamerasystem sollen hier Systeme umfasst sein, die Entfernungen aus einer Phasenverschiebung einer emittierten und empfangenen Strahlung gewinnen. Als Lichtlaufzeit bzw. 3D-Kameras sind insbesondere PMD-Kameras mit Photomischdetektoren (PMD) geeignet, wie sie beispielsweise in der
Ein Verfahren zur Entfernungsmessung mittels eines eine Beleuchtung und einen Lichtlaufzeitdetektor aufweisenden Lichtlaufzeit-Entfernungsmesssystems ist beispielsweise aus der Patentschrift
Aufgabe der Erfindung ist es, die Entfernungsmessung eines Lichtlaufzeitkamerasystems zu verbessern.The object of the invention is to improve the distance measurement of a time-of-flight camera system.
Die Aufgabe wird in vorteilhafter Weise durch das erfindungsgemäße Lichtlaufzeitkamerasystem und Verfahren nach Gattung der unabhängigen Ansprüche gelöst.The object is advantageously achieved by the time-of-flight camera system according to the invention and the method according to the species of the independent claims.
Vorteilhaft ist ein Verfahren zum Betreiben eines Lichtlaufzeitkamerasystems vorgesehen, aufweisend eine Beleuchtung und einen Lichtlaufzeitsensor mit Lichtlaufzeitpixel, die Integrationsknoten zur Akkumulation photogenerierter Ladungen aufweisen,
- - wobei zur Entfernungsbestimmung die Beleuchtung und der Lichtlaufzeitsensor bzw. die Lichtlaufzeitpixel in Integrationsintervallen mit einem Modulationssignal beaufschlagt werden und eine Entfernung anhand der Ladungsdifferenzen an den Integrationsknoten ermittelt wird,
- - wobei eine CM-Messung mit wenigstens zwei CM-Integrationsintervallen vorgesehen ist und in diesen CM-Integrationsintervallen das Lichtlaufzeitkamerasystem mit jeweils unterschiedlich kodierten Modulationssignalen betrieben wird,
- - und eine CW-Messung mit wenigstens zwei CW-Integrationsintervallen vorgesehen ist und in diesen CW-Integrationsintervallen das Lichtlaufzeitkamerasystem mit jeweils unterschiedlichen Phasenlagen eines unkodierten, periodischen CW-Modulationssignals betrieben wird,
- - wobei aus den Ladungsdifferenzen der CM- und CW-Messung ein Entfernungswert bestimmt wird.
- - Wherein to determine the distance, the lighting and the time-of-flight sensor or the light-time-of-flight pixels are acted upon by a modulation signal at integration intervals and a distance is determined on the basis of the charge differences at the integration nodes,
- - wherein a CM measurement is provided with at least two CM integration intervals and the time-of-flight camera system is operated with differently encoded modulation signals in these CM integration intervals,
- - and a CW measurement with at least two CW integration intervals is provided and in these CW integration intervals the time-of-flight camera system is operated with different phase angles of an uncoded, periodic CW modulation signal,
- - whereby a distance value is determined from the charge differences of the CM and CW measurement.
Dieses Vorgehen hat den Vorteil, dass beispielsweise in der CM-Messung ein Entfernungsbereich grob ermittelt und in der CW-Messung die Entfernungsauflösung erhöht werden kann. Gegenüber einer typischen Grob- / Feinmessung hat das erfindungsgemäße Vorgehen den Vorteil, dass die CM-Messung deutlich schneller durchgeführt werden kann als übliche grobe Entfernungsmessungen.This procedure has the advantage that, for example, a distance range can be roughly determined in the CM measurement and the distance resolution can be increased in the CW measurement. Compared to a typical rough/fine measurement, the procedure according to the invention has the advantage that the CM measurement can be carried out significantly more quickly than usual rough distance measurements.
Ferner ist es vorgesehen für die CM-Messung ein vorgegebenen Entfernungsbereich in Entfernungssektoren aufzuteilen, wobei ein Entfernungssektor anhand der in der CM-Messung erfassten Ladungsdifferenzen bestimmbar ist, wobei zudem der Entfernungssektor anhand der Vorzeichen der erfassten Ladungsdifferenzen oder deren binären Repräsentation bestimmbar ist.It is also provided for the CM measurement to divide a specified distance range into distance sectors, with a distance sector being able to be determined on the basis of the charge differences detected in the CM measurement, with the distance sector also being able to be determined on the basis of the signs of the detected charge differences or their binary representation.
Dieses Vorgehen hat den Vorteil, dass für eine grobe Bestimmung der Entfernung nicht übliche zeitaufwändige Messungen mit mehreren Phasenlagen des Modulationssignals und eine typische arctan-Berechnung durchgeführt werden muss, sondern bereits aus einer Folge der Vorzechen der Ladungsdifferenzen der CM-Messung eine zumindest grobe Entfernung bestimmbar ist.This procedure has the advantage that for a rough determination of the distance, the usual time-consuming measurements with several phase angles of the modulation signal and a typical arctan calculation do not have to be carried out, but rather an at least rough distance can be determined from a sequence of the signs of the charge differences of the CM measurement is.
Nachfolgend wird die Erfindung anhand von Ausführungsbeispielen unter Bezugnahme auf die Zeichnungen näher erläutert.The invention is explained in more detail below using exemplary embodiments with reference to the drawings.
Es zeigen schematisch:
-
1 ein Lichtlaufzeitkamerasystem, -
2 eine modulierte Integration erzeugter Ladungsträger, -
3 einen Querschnitt durch einen PMD-Lichtlaufzeitsensor mit Potentialverteilung, -
4 einen zeitlichen Verlauf der Integrationsspannungen an einem Lichtlaufzeitpixel, -
5 Verläufe der Ladungsintegration abhängig von der Phasenverschiebung und -lage, -
6 eine Relation der Phasenverschiebung in einem IQ-Diagramm, -
7 einen Modulationsverlauf über vier Phasenlagen, -
8 einen Verlauf von erfindungsgemäßen kodierten Modulationen (CM), -
9 ein Modulationsschema und eine Einteilung eines Eindeutigkeitsbereiches in Sektoren A-P, die sich eindeutig über die CM Messung zuordnen lassen, -
10 eine Modulation eines Pixel (links) sowie einer Beleuchtung (rechts) um das Modulationsschema aus9 zu erhalten. -
11 ein alternatives Modulationsschema mit erhöhtem Signalpegel und eine Einteilung eines Eindeutigkeitsbereiches in Sektoren A-P, die sich eindeutig über die CM Messung zuordnen lassen, -
12 eine Modulation eines Pixel (links) sowie einer Beleuchtung (rechts) mit mehreren Pulsen um das Modulationsschema aus11 zu erhalten.
-
1 a time-of-flight camera system, -
2 a modulated integration of generated charge carriers, -
3 a cross-section through a PMD time-of-flight sensor with potential distribution, -
4 a time course of the integration voltages at a light transit time pixel, -
5 Courses of the charge integration depending on the phase shift and position, -
6 a relation of the phase shift in an IQ diagram, -
7 a modulation course over four phase angles, -
8th a course of coded modulations (CM) according to the invention, -
9 a modulation scheme and a division of a unique area into sectors AP, which can be clearly assigned via the CM measurement, -
10 a modulation of a pixel (left) and a lighting (right) around the modulation scheme9 to obtain. -
11 an alternative modulation scheme with an increased signal level and a division of a unique area into sectors AP, which can be clearly assigned via the CM measurement, -
12 a modulation of a pixel (left) and an illumination (right) with several pulses around the modulation scheme11 to obtain.
Bei der nachfolgenden Beschreibung der bevorzugten Ausführungsformen bezeichnen gleiche Bezugszeichen gleiche oder vergleichbare Komponenten.In the following description of the preferred embodiments, the same reference symbols designate the same or comparable components.
Das Lichtlaufzeitkamerasystem 1 umfasst eine Sendeeinheit bzw. ein Beleuchtungsmodul 10 mit einer Beleuchtung 12 und einer dazugehörigen Strahlformungsoptik 15 sowie eine Empfangseinheit bzw. Lichtlaufzeitkamera 20 mit einer Empfangsoptik 25 und einem Lichtlaufzeitsensor 22.The time-of-
Der Lichtlaufzeitsensor 22 weist mindestens ein Laufzeitpixel, vorzugsweise auch ein Pixel-Array auf und ist insbesondere als PMD-Sensor ausgebildet. Die Empfangsoptik 25 besteht typischerweise zur Verbesserung der Abbildungseigenschaften aus mehreren optischen Elementen. Die Strahlformungsoptik 15 der Sendeeinheit 10 kann beispielsweise als Reflektor oder Linsenoptik ausgebildet sein. In einer sehr einfachen Ausgestaltung kann ggf. auch auf optische Elemente sowohl empfangs- als auch sendeseitig verzichtet werden.The time-of-
Das Messprinzip dieser Anordnung basiert im Wesentlichen darauf, dass ausgehend von der Phasenverschiebung des emittierten und empfangenen Lichts die Laufzeit und somit die zurückgelegte Wegstrecke des empfangenen Lichts ermittelt werden kann. Zu diesem Zwecke werden die Lichtquelle 12 und der Lichtlaufzeitsensor 22 über einen Modulator 30 gemeinsam mit einem bestimmten Modulationssignal Mo mit einer Basisphasenlage φ0 beaufschlagt. Im dargestellten Beispiel ist ferner zwischen dem Modulator 30 und der Lichtquelle 12 ein Phasenschieber 35 vorgesehen, mit dem die Basisphase φ0 des Modulationssignals M0 der Lichtquelle 12 um definierte Phasenlagen φvar verschoben werden kann. Für typische Phasenmessungen werden vorzugsweise Phasenlagen von φvar = 0°, 90°, 180°, 270° verwendet.The measuring principle of this arrangement is essentially based on the fact that the propagation time and thus the distance covered by the received light can be determined based on the phase shift of the emitted and received light. For this purpose, the
Entsprechend des eingestellten Modulationssignals sendet die Lichtquelle 12 ein intensitätsmoduliertes Signal Sp1 mit der ersten Phasenlage p1 bzw. p1 = φ0 + φvar aus. Dieses Signal Sp1 bzw. die elektromagnetische Strahlung wird im dargestellten Fall von einem Objekt 40 reflektiert und trifft aufgrund der zurückgelegten Wegstrecke entsprechend phasenverschoben Δφ(tL) mit einer zweiten Phasenlage p2 = φ0 + φvar + Δφ(tL) als Empfangssignal Sp2 auf den Lichtlaufzeitsensor 22. Im Lichtlaufzeitsensor 22 wird das Modulationssignal Mo mit dem empfangenen Signal Sp2 gemischt, wobei aus dem resultierenden Signal die Phasenverschiebung bzw. die Objektentfernung d ermittelt wird.According to the set modulation signal, the
Ferner weist das System ein Modulationssteuergerät 27 auf, das in Abhängigkeit der vorliegenden Messaufgabe die Phasenlage φvar das Modulationssignal M0 verändert und/oder über einen Frequenzoszillator 38 die Modulationsfrequenz einstellt.The system also has a
Als Beleuchtungsquelle bzw. Lichtquelle 12 eignen sich vorzugsweise Infrarot-Leuchtdioden. Selbstverständlich sind auch andere Strahlungsquellen in anderen Frequenzbereichen denkbar, insbesondere kommen auch Lichtquellen im sichtbaren Frequenzbereich in Betracht.Infrared light-emitting diodes are preferably suitable as the illumination source or
Das Grundprinzip der Phasenmessung ist schematisch in
In
In
Bei einem Auftreffen des Signals Sp2 ohne Phasenverschiebung also Δφ(tL) = 0°, beispielsweise, wenn das Sendesignal Sp1 direkt auf den Sensor gelenkt wird, sind die Phasen der Modulation Mo und vom empfangenen Signal Sp2 identisch, so dass alle erzeugten Ladungsträger phasensynchron am ersten Integrationsknoten Ga erfasst werden und somit ein maximales Differenzsignal mit Δq = 1 anliegt.If the signal Sp 2 arrives without a phase shift, i.e. Δφ(t L ) = 0°, for example if the transmission signal S p1 is sent directly to the sensor, the phases of the modulation M o and of the received signal Sp 2 are identical, so that all generated charge carriers are detected phase-synchronously at the first integration node Ga and thus a maximum difference signal with Δq=1 is present.
Mit zunehmender Phasenverschiebung nimmt die am ersten Integrationsknoten Ga akkumulierte Ladung ab und am zweiten Integrationsknoten Gb zu. Bei einer Phasenverschiebung von Δφ(tL) = 90° sind die Ladungsträger qa, qb an beiden Integrationsknoten Ga, Gb gleich verteilt und die Ladungsdifferenz somit Null und nach 180° Phasenverschiebung „-1“. Mit weiter zunehmender Phasenverschiebung nimmt die Ladung am ersten Gate Ga wieder zu, so dass im Ergebnis die Ladungsdifferenz wieder ansteigt, um dann bei 360° bzw. 0° wieder ein Maximum zu erreichen.As the phase shift increases, the charge accumulated at the first integration node Ga decreases and increases at the second integration node Gb. With a phase shift of Δφ(t L ) = 90°, the charge carriers qa, qb are equally distributed at both integration nodes Ga, Gb and the charge difference is therefore zero and “-1” after a 180° phase shift. As the phase shift continues to increase, the charge at the first gate Ga increases again, so that the result is that the charge difference increases again, in order then to reach a maximum again at 360° or 0°.
Mathematisch handelt es sich hierbei um eine Korrelationsfunktion des empfangenen Signals Sp2 mit dem modulierenden Signal M0.
Bei einer Modulation mit einem Rechtecksignal ergibt sich wie bereits dargestellt als Korrelationsfunktion eine Dreiecksfunktion. Bei einer Modulation mit beispielsweise einem Sinussignal wäre das Ergebnis eine Kosinusfunktion.In the case of modulation with a square-wave signal, a triangular function results as a correlation function, as already shown. If modulated with a sine signal, for example, the result would be a cosine function.
Wie
Zur maximalen Erfassung der Phasenverschiebung ist beispielsweise das IQ(Inphase-Quadratur) Verfahren bekannt, bei dem zwei Messungen mit um 90° verschobenen Phasenlagen durchgeführt werden, also beispielsweise mit der Phasenlage φvar = 0° und φvar = 90°. Das Ergebnis einer Messung mit der Phasenlage φvar = 90° ist in
Die Beziehung dieser beiden Kurven lässt sich in bekannter Weise beispielsweise für sinusförmige Kurvenverläufe in einem IQ-Diagramm gem.
Der Phasenwinkel lässt sich dann in bekannter Weise über eine arctan-Funktion bzw. arctan2-Funktion bestimmen:
Aufgrund des linearen Zusammenhangs zwischen Ladung und Spannung, lässt sich der Phasenwinkel ebenso über die Spannungsdifferenzen bestimmen:
Um beispielsweise Asymmetrien des Sensors zu kompensieren, können zusätzliche um 180° verschobene Phasenmessungen durchgeführt werden, so dass sich im Ergebnis der Phasenwinkel wie folgt bestimmen lässt.
Oder verkürzt formuliert:
Wobei die Indizes die jeweilige Phasenlage der Differenzen ai andeuten, mit
Aus der Phasenverschiebung φbzw. Δφ(tL) lassen sich für Objektabstände d, die kleiner sind als die halbe Wellenlänge λ der Modulationsfrequenz d ≤ λ/2, in bekannter Weise ein Abstand bestimmen.
In
In bisherigen ToF Systemen wird der 4 Phasen Algorithmus verwendet, um innerhalb eines Eindeutigkeitsbereichs die Phasenlage zu bestimmen. Bei diesem Algorithmus werden vier Stützstellen, die äquidistant im Eindeutigkeitsbereich von 0 bis 2π mit gleicher Modulationsfrequenz ermittelt und anschließend die Phasenlage der Grundwelle, die durch diese Stützstellen verläuft, berechnet. Der Eindeutigkeitsbereich wird durch einen Transformationsfaktor vom Bogenmaß in eine Distanz überführt.In previous ToF systems, the 4-phase algorithm is used to determine the phase position within an unambiguous range. With this algorithm, four interpolation points are determined equidistantly in the unambiguity range from 0 to 2π with the same modulation frequency and then the phase position of the fundamental wave that runs through these interpolation points is calculated. The uniqueness range is converted from radians to a distance by a transformation factor.
Objekte in Abständen, die in Vielfachen dieses Eindeutigkeitsbereichs liegen (0 bis 2π), führen zu Mehrdeutigkeiten der Phasenlage. Diese Mehrdeutigkeiten können durch eine weitere Phasenmessung bzw. durch eine erneute Anwendung des 4 Phasenalgorithmus mit anderen, typischerweise einer niedrigeren Modulationsfrequenz in eine eindeutige Phasenlage überführt werden. Dieses Vorgehen impliziert demnach mindestens 8 Messungen bis ein eindeutiger Distanzwert berechnet werden kann.Objects at distances that are multiples of this unambiguous range (0 to 2π) lead to ambiguities in the phase position. These ambiguities can be converted into an unambiguous phase position by a further phase measurement or by a renewed application of the 4-phase algorithm with a different, typically lower, modulation frequency. This procedure therefore implies at least 8 measurements before a clear distance value can be calculated.
Erfindungsgemäß ist es nun vorgesehen, die zuvor beschriebene continuous wave CW-Messungen mit einer speziellen coded modulation CM-Messung zu kombinieren.According to the invention, it is now provided to combine the continuous wave CW measurements described above with a special coded modulation CM measurement.
Die Verwendung von derartigen pseudo-zufällige Binärfolgen (PN-Folgen) bei Lichtlaufzeit-Messsystemen ist durchaus verbreitet und auch die Substitution einer zugrundeliegenden Basis-PN-Folge mittels Sub-Bitfolgen ist im Zusammenhang mit derartigen Messsystemen hinlänglich bekannt. Die Verwendung von solchen pseudozufälligen Binärfolgen, die auch als „Pseudo-Noise Sequences“ bekannt sind, wie beispielsweise „Maximum Length Sequences“ (MLS) so genannte Maximalfolgen und „Barker-Codes“ zur Modulation eines Lichtlaufzeitsensors (Tiefenbildsensors) bieten aufgrund ihrer vorteilhaften Autokorrelationseigenschaften entscheidende Vorteile gegenüber herkömmlichen Modulationssequenzen in Form von einfach periodischen rechteck- bzw. sinusförmigen Signalfolgen.The use of such pseudo-random binary sequences (PN sequences) in time-of-flight measurement systems is quite widespread, and the substitution of an underlying basic PN sequence by means of sub-bit sequences is also well known in connection with such measurement systems. The use of such pseudo-random binary sequences, which are also known as "pseudo-noise sequences", such as "Maximum Length Sequences" (MLS) so-called maximum sequences and "Barker codes" for the modulation of a time-of-flight sensor (depth image sensor) offer due to their advantageous auto-correlation properties decisive advantages over conventional modulation sequences in the form of simply periodic square-wave or sinusoidal signal sequences.
Bei indirektem ToF sind das Distanzrauschen und Eindeutigkeitsbereich inhärent miteinander verknüpft. Niedriges Rauschen bedingt immer die Verwendung von hohen Frequenzen und reduziert damit auch immer den Eindeutigkeitsbereich.In indirect ToF, the distance noise and unambiguity range are inherently linked. Low noise always requires the use of high frequencies and thus always reduces the uniqueness range.
Mehrfrequenz Verfahren versuchen das Problem zu lösen, haben aber dabei auch Nachteile:
- - Je höher der gewünschte Eindeutigkeitsbereich-Gewinn ist, umso höher sind auch die Anforderungen an den benötigten Signalpegel, um Falschzuordnungen zu vermeiden.
- - Bei der Verwendung von zwei hohen Frequenzen ist der Grenz-Rauschpegel besonders ungünstig klein.
- - Bei der Verwendung von großen und kleinen Frequenzen ist das Rauschen wiederum nicht optimal.
- - Systematische Distanzfehler Fehler wie Streulicht oder Mehrwege-Reflexionen können ebenfalls Falschzuordnungen verursachen.
- - Der erreichbare Eindeutigkeitsbereich-Gewinn ist limitiert und skaliert schlecht!
- - The higher the desired unambiguous range gain, the higher the requirements for the required signal level in order to avoid incorrect assignments.
- - When using two high frequencies, the limit noise level is particularly unfavorably small.
- - When using large and small frequencies, the noise is again not optimal.
- - Systematic distance errors Errors such as scattered light or multipath reflections can also cause incorrect assignments.
- - The achievable uniqueness range gain is limited and scales poorly!
Die Verwendung von Coded Modulation für die Distanzbestimmung, hat sich in der Vergangenheit auf mögliche Ausblendeigenschaften bzw. versucht auch direkt die genaue Distanz zu bestimmen. Alle CM Ansätzen leiden aber bislang unter folgenden Problemen:
- - Die Pulsform / Flankensteilheit muss gut angepasst werden, damit ein einigermaßen homogenes Rauschverhalten über den Messbereich sichergestellt wird. Wenn zum Beispiel die Flanke zu steil sind, dann wird das Korrelationssignal in bestimmten Phasenlagen sich nur wenig (bzw. gar nicht ändern) was das Rauschen hochtreibt.
- - Insbesondere treten periodische Distanz/Phasen abhängige Fehler verstärkt auf und bedürfen besonderer Aufmerksamkeit
- - Die Pixel- / Beleuchtungs- Modulations-Schema sind je nach Messung unterschiedlich (unterschiedliche Frequenzen, unterschiedliche Puls-Muster). Das bedingt weitere Asymmetrien, die sich nur schwer korrigieren lassen und bei klassischen CW Messungen nicht auftauchen.
- - The pulse shape / edge steepness must be well adjusted to ensure a reasonably homogeneous noise behavior over the measuring range. For example, if the flanks are too steep, the correlation signal will change only slightly (or not at all) in certain phase positions, which increases the noise.
- - In particular, periodic distance/phase-dependent errors occur more frequently and require special attention
- - The pixel / illumination modulation schemes are different depending on the measurement (different frequencies, different pulse patterns). This causes further asymmetries, which are difficult to correct and do not appear in classic CW measurements.
Die hier skizierte Kombination von CM und CW vereinigt Vorteile aus beiden Welten.The combination of CM and CW outlined here combines advantages from both worlds.
Eine normale (z.B. 4Phasen) CW Messung wird mit einer (möglichst) hohen Frequenz durchgeführt. Das ergibt ein niedriges und optimales Distanzrauschen. Die Verwendung einer vier Phasen Messung garantiert niedrige Asymmetrien.A normal (e.g. 4-phase) CW measurement is carried out with a (possibly) high frequency. This results in a low and optimal distance noise. Using a four-phase measurement guarantees low asymmetries.
Das Problem der Bereichszuordnung übernimmt eine zusätzliche CM-Messung. Diese adressiert nur die Zuordnung in verschiedene Bereichssektoren, leistet aber keinen weiteren Beitrag zur Messgenauigkeit. Insofern gelten hier schwächere Ansprüche was die Genauigkeit, Stabilität usw. betrifft. Dies ist ein zentraler Punkt.An additional CM measurement takes care of the problem of range mapping. This only addresses the allocation to different area sectors, but makes no further contribution to the measurement accuracy. In this respect, weaker claims apply here in terms of accuracy, stability, etc. This is a key point.
Zur erfindungsgemäßen Auswertung genügt es, das Vorzeichen sgn(x) der Ladungsdifferenz Δq(CM) an den Integrationsknoten A, B, Ga, Gb zu bestimmen. Statt des Vorzeichens kann ein ,+' auch mit einer ,1' und ein ,-, auch mit einer ,0' oder natürlich auch umgekehrt substituiert werden. Im dargestellten Beispiel läge bei einer Entfernung von dmax für CM4 ein ,+' für CM3 ein „-“ an, so dass diese Position bzw. Entfernung auch mit der Binärzahl ,10' gekennzeichnet werden könnte.For the evaluation according to the invention, it is sufficient to determine the sign sgn(x) of the charge difference Δq(CM) at the integration nodes A, B, Ga, Gb. Instead of the sign, a '+' can also be substituted with a '1' and a '-' with a '0' or, of course, vice versa. In the example shown, at a distance of d max for CM4 there would be a '+' for CM3 a '-', so that this position or distance could also be marked with the binary number '10'.
Erfindungsgemäß ist es vorgesehen, wie in
Bevorzugt ist es vorteilhaft Gray-Codes zu verwenden, weil damit sichergestellt wird, dass an den Bereichsgrenzen immer nur eine Messung das Vorzeichen wechselt und in diesem Bereich rauschinduzierte Vorzeichenwechsel maximal eine Falschzuordnung in den Nachbarbereich zulassen.It is advantageous to use Gray codes because this ensures that only one measurement ever changes sign at the area boundaries and noise-induced sign changes in this area allow at most incorrect allocation to the neighboring area.
Die Bestimmung der Sektoren wird nun kombiniert mit einer klassischen CW-Messung (siehe
Die Kombination mit der CW Messung ermöglicht es dann sogar die Falschzuordnungen an den Sektorengrenzen zu erkennen und damit immer hochgenaue stabile Distanzdaten zur Verfügung zu stellen.The combination with the CW measurement then even makes it possible to recognize the wrong assignments at the sector boundaries and thus to always provide highly accurate stable distance data.
Beispielsweise ist es von Vorteil, die Frequenz der CW-Messung derart zu wählen, dass der Eindeutigkeitsbereich der CW-Messung größer ist als ein CM-Entfernungssektor A - P. Vorzugsweise überstreicht der CW-Eindeutigkeitsbereich wenigstens zwei CM-Entfernungssektoren. Ist aber sinnvollerweise kleiner als die Summe aller CM-Entfernungssektoren. Durch diese Wahl des CW-Eindeutigkeitsbereich können insbesondere Entfernungen, die an einer Grenze zwischen zwei CM-Entfernungssektoren A-P liegen eindeutig einem Entfernungssektor zugeordnet werden.For example, it is advantageous to select the frequency of the CW measurement in such a way that the unambiguous range of the CW measurement is greater than one CM distance sector AP. The CW unambiguous range preferably covers at least two CM distance sectors. But it is sensibly smaller than the sum of all CM distance sectors. Through this choice of the CW unambiguous range, in particular, distances that lie on a border between two CM distance sectors AP can be unambiguously assigned to a distance sector.
So zeigt
Insbesondere kann es vorteilhaft sein auch andere fehlerkorrigierende Codes zu verwenden, die die Stabilität der Messung weiter erhöhen.In particular, it can be advantageous to use other error-correcting codes that further increase the stability of the measurement.
Über Erhöhung der Zahl der CM-Messungen lässt sich der maximale Messbereich/Eindeutigkeitsbereich dmax beliebig vergrößern, ohne die Genauigkeit der CW-Messung dabei zu beeinflussen. So kann bei geeigneter Implementierung der Eindeutigkeitsbereich mit jeder weiteren CM-Messung verdoppelt werden, ohne dabei an Genauigkeit zu verlieren.By increasing the number of CM measurements, the maximum measurement range/unambiguity range d max can be increased as desired without affecting the accuracy of the CW measurement. With a suitable implementation, the uniqueness range can be doubled with each additional CM measurement without losing accuracy.
Bei der kodierten CM-Modulation hingegen ist es vorgesehen, dass in den CM-Integrationsintervallen die Modulationssignale der Beleuchtung in Dauer und Frequenz von der Modulation des Lichtlaufzeitsensors abweichen. Wobei im Vergleich zur CW-Messung die Beleuchtung typischerweise mit einer geringeren Anzahl von Pulsen betrieben wird.With the coded CM modulation, on the other hand, it is provided that the modulation signals of the lighting deviate in duration and frequency from the modulation of the time-of-flight sensor in the CM integration intervals. In comparison to CW measurement, the lighting is typically operated with a lower number of pulses.
Es kann vorteilhaft sein durch geeignete Kombination von Beleuchtung und PMD Modulation (z.B.
Grundsätzlich ist folgendes Vorgehen vorteilhaft:
- - Unterteilung des gewünschten Eindeutigkeitsbereiches in verschiedenen disjunkte Sektoren (siehe
9 ). Verwendung von CM Messungen, um eindeutig den Sektor festzustellen in dem sich das Testobjekt befindet. Da die Auswertung der Messungen rein binär erfolgt (Messwert positiv oder negativ) ergibt sich eine hohe Robustheit.- ◯ Insbesondere die Verwendung von Gray-Codes, da es in diesem Fall an den Bereichswechseln nicht zu großen Distanzsprüngen kommen kann.
- ◯ Es können dabei auch Korrelations-Signale verwendet werden, die keinen einfachen Binär-codes entsprechen, dafür aber einen vorteilhaft höheren Signalpegel besitzen.
- ◯ Die Verwendung von weiteren fehlerkorrigierenden und/oder fehlererkennenden Codes, um die Robustheit bei Bedarf weiter zu erhöhen.
- - Kombination der groben CM-Sektoren-Messung mit einer hochgenauen klassischen CW Messung. Diese ist für die genaue Lokalisierung des Objektes innerhalb des vorher bestimmten Sektors zuständig. Die Messfrequenz ist an die Länge der Sektoren angepasst, so dass auch für Objekte nahe der Sektorengrenze keine Mehrdeutigkeiten entstehen können. Die Verwendung von möglichst hohen Frequenzen ist vorteilhaft, um das Rauschen zu minimieren. Die Kombination der bestimmten Phasenlage der CW-Messung mit dem CM Binärsignal ermöglicht es auch an den Sektorengrenzen stabil eine hochgenaue Distanz zu bestimmen.
- - Eine Pixelausleseschaltung, die so ausgelegt ist, dass sie wahlweise eine klassische hochaufgelöste Analog-Digital Umwandlung durchführen kann oder auch eine einfache, schnelle und stromsparende Vorzeichen Erkennung (z.B. mittels Komparator)
- - Verwendung von kurzen Pulsen für die Beleuchtung bei den CM-Messungen, trotz eventueller langsamerer Modulationsfrequenz für das Pixel. Insbesondere kann es sinnvoll sein, gleichkurze optische Pulse wie bei der CW Messung zu verwenden. Dadurch ist sichergestellt, dass die Übergangsbereiche zwischen den Sektoren möglichst kurz sind, schnell der maximale Signalpegel aufgebaut wird und sich insbesondere die einzelnen Übergangsbereiche maximalen Abstand zu einander haben.
- - Optimierung der Integrationszeit von CW und CM Messungen, um sicherzustellen, dass zu einem der CM-Signalpegel stets ausreicht, um eine eindeutige Sektorenzuordnung zu treffen, zum anderen aber nicht zu groß ist, um nicht unnötig Energie zu verschwenden.
- - Subdivision of the desired uniqueness area into different disjoint sectors (see
9 ). Use of CM measurements to unequivocally determine the sector in which the test object is located. Since the evaluation of the measurements is purely binary (measured value positive or negative), there is a high level of robustness.- ◯ In particular, the use of Gray codes, as in this case large jumps in distance cannot occur at the area changes.
- ◯ Correlation signals can also be used that do not correspond to simple binary codes but have an advantageously higher signal level.
- ◯ The use of additional error-correcting and/or error-detecting codes to further increase robustness if necessary.
- - Combination of the rough CM sector measurement with a high-precision classic CW measurement. This is responsible for the exact localization of the object within the previously determined sector. The measuring frequency is adapted to the length of the sectors so that no ambiguities can arise, even for objects close to the sector boundary. The use of frequencies that are as high as possible is advantageous in order to minimize noise. The combination of the determined phase position of the CW measurement with the CM binary signal makes it possible to determine a highly accurate distance even at the sector boundaries.
- - A pixel readout circuit that is designed in such a way that it can either perform a classic high-resolution analog-digital conversion or a simple, fast and power-saving sign recognition (e.g. using a comparator)
- - Use of short pulses for illumination in CM measurements, despite possible slower modulation frequency for the pixel. In particular, it can be useful to use optical pulses of the same short length as in the CW measurement. This ensures that the transition areas between the sectors are as short as possible, the maximum signal level is built up quickly and, in particular, the individual transition areas are at maximum distance from one another.
- - Optimization of the integration time of CW and CM measurements to ensure that one of the CM signal levels is always sufficient to make a clear sector assignment, but is not too high on the other hand to avoid wasting energy unnecessarily.
BezugszeichenlisteReference List
- 11
- Lichtlaufzeitkamerasystemtime-of-flight camera system
- 1010
- Beleuchtungsmodullighting module
- 1212
- Beleuchtunglighting
- 2020
- Empfänger, LichtlaufzeitkameraReceiver, time-of-flight camera
- 2222
- Lichtlaufzeitsensortime-of-flight sensor
- 2727
- Auswerteeinheitevaluation unit
- 3030
- Modulatormodulator
- 3535
- Phasenschieber, BeleuchtungsphasenschieberPhase shifter, lighting phase shifter
- 3838
- Modulationssteuergerätmodulation controller
- 4040
- Objektobject
- 400400
- Auswerteeinheitevaluation unit
- φ, Δφ(tL)φ, Δφ(tL)
- laufzeitbedingte Phasenverschiebungruntime-related phase shift
- φvarφvar
- Phasenlagephasing
- φ0φ0
- Basisphasebase phase
- M0M0
- Modulationssignalmodulation signal
- p1p1
- erste Phasefirst phase
- p2p2
- zweite Phasesecond phase
- Sp1Sp1
- Sendesignal mit erster PhaseTransmission signal with first phase
- Sp2Sp2
- Empfangssignal mit zweiter PhaseReceive signal with second phase
- Ga, Gbga, gb
- Integrationsknotenintegration node
- Ua, UbUa, Ub
- Spannungen an den IntegrationsknotenStresses at the integration nodes
- ΔUΔU
- Spannungsdifferenzvoltage difference
- ΔqΔq
- Ladungsdifferenzcharge difference
- di.e
- Objektdistanzobject distance
ZITATE ENTHALTEN IN DER BESCHREIBUNGQUOTES INCLUDED IN DESCRIPTION
Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.This list of documents cited by the applicant was generated automatically and is included solely for the better information of the reader. The list is not part of the German patent or utility model application. The DPMA assumes no liability for any errors or omissions.
Zitierte PatentliteraturPatent Literature Cited
- DE 19704496 A1 [0002, 0013]DE 19704496 A1 [0002, 0013]
- DE 102014210750 B3 [0003]DE 102014210750 B3 [0003]
- DE 19704496 C2 [0021]DE 19704496 C2 [0021]
- DE 102004016626 A1 [0024]DE 102004016626 A1 [0024]
- DE 102005056774 A1 [0024]DE 102005056774 A1 [0024]
Claims (8)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102021117139.3A DE102021117139A1 (en) | 2021-07-02 | 2021-07-02 | Time-of-flight camera system and method of operating same |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102021117139.3A DE102021117139A1 (en) | 2021-07-02 | 2021-07-02 | Time-of-flight camera system and method of operating same |
Publications (1)
Publication Number | Publication Date |
---|---|
DE102021117139A1 true DE102021117139A1 (en) | 2023-01-05 |
Family
ID=84492972
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE102021117139.3A Pending DE102021117139A1 (en) | 2021-07-02 | 2021-07-02 | Time-of-flight camera system and method of operating same |
Country Status (1)
Country | Link |
---|---|
DE (1) | DE102021117139A1 (en) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE19704496A1 (en) | 1996-09-05 | 1998-03-12 | Rudolf Prof Dr Ing Schwarte | Method and device for determining the phase and / or amplitude information of an electromagnetic wave |
DE102004016626A1 (en) | 2004-04-05 | 2005-10-20 | Pmd Technologies Gmbh | Signal processing electronics |
DE102005056774A1 (en) | 2005-11-28 | 2007-05-31 | Pmdtechnologies Gmbh | Time of flight-pixel, has monitoring circuit provided for monitoring charge amount in voltage at storage area and comprising devices for detecting charge amount in storage area and/or equivalent voltage or corresponding current |
DE102014210750B3 (en) | 2014-06-05 | 2015-06-11 | Pmd Technologies Gmbh | Time of flight camera system |
-
2021
- 2021-07-02 DE DE102021117139.3A patent/DE102021117139A1/en active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE19704496A1 (en) | 1996-09-05 | 1998-03-12 | Rudolf Prof Dr Ing Schwarte | Method and device for determining the phase and / or amplitude information of an electromagnetic wave |
DE19704496C2 (en) | 1996-09-05 | 2001-02-15 | Rudolf Schwarte | Method and device for determining the phase and / or amplitude information of an electromagnetic wave |
DE102004016626A1 (en) | 2004-04-05 | 2005-10-20 | Pmd Technologies Gmbh | Signal processing electronics |
DE102005056774A1 (en) | 2005-11-28 | 2007-05-31 | Pmdtechnologies Gmbh | Time of flight-pixel, has monitoring circuit provided for monitoring charge amount in voltage at storage area and comprising devices for detecting charge amount in storage area and/or equivalent voltage or corresponding current |
DE102014210750B3 (en) | 2014-06-05 | 2015-06-11 | Pmd Technologies Gmbh | Time of flight camera system |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
DE102014210750B3 (en) | Time of flight camera system | |
WO2007134730A1 (en) | Distance measuring method and distance measuring element for detecting the spatial dimension of a target | |
DE102013207649A1 (en) | Time of flight camera system | |
DE102018131580B4 (en) | Time-of-flight distance measuring system and method for operating such a system | |
DE102012204512A1 (en) | Time-of-flight sensor for use in three-dimensional time-of-flight camera system for multi-phase measurement of modulated light, has two time-of-flight pixel regions operating sensor with different phase measuring modes | |
DE102013207651A1 (en) | Time of flight camera system | |
DE102013207653B4 (en) | Time of flight camera system | |
DE102014207163A1 (en) | Time of flight camera system | |
DE102016213217A1 (en) | Time of flight camera system | |
DE102013207654B4 (en) | Time-of-flight camera system | |
DE102015225192A1 (en) | Light transit time measuring system with overreach detection | |
DE102021117139A1 (en) | Time-of-flight camera system and method of operating same | |
DE102013207648B4 (en) | Time-of-flight camera system | |
DE102013207647A1 (en) | Method for operating light-time camera system, involves detecting phase shift of emitted or received signal for modulation frequency in phase measuring cycle, and performing multiple phase measurement cycles | |
DE102013203088A1 (en) | Light running time camera system has lighting elements which are operated with different phases, and integration time varies in length for various phase positions, while integration time lasts longer than modulation time of illumination | |
DE102019104566B4 (en) | Method for distance measurement using a time-of-flight distance measurement system and a corresponding time-of-flight distance measurement system | |
DE102016219170A1 (en) | Time of flight camera system | |
DE102014205585B4 (en) | Method for operating a time of flight camera and time of flight camera system | |
DE102020123537B4 (en) | Time of flight camera system | |
DE102017203091A1 (en) | Time of flight camera system | |
DE102013207650B4 (en) | Time-of-flight camera system | |
DE102013207652B4 (en) | Time of flight camera system | |
DE102013216434B3 (en) | Time of flight camera system | |
DE102018131581B4 (en) | Method for distance measurement by means of a time-of-flight distance measurement system and a corresponding time-of-flight distance measurement system | |
DE102022102992A1 (en) | Time of flight distance measuring system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
R163 | Identified publications notified |